当 AI 开始打造自己

TL;DR Anthropic 公布内部数据：工程师每季交付的程式码是几年前的八倍、超过八成由 Claude 写成、最难的开放式任务成功率半年内从个位数冲到 76%。AI 加速 AI 自己的开发已经是现在进行式；完全的递归自我改进还没到、也非注定，但可能比多数机构准备好的时间更早。这篇忠实走一遍他们的论证，我的话只放最后。

「整体的速度，被没有跟着加速的那一段决定。」

——阿姆达尔定律

先给你一个数字，你可以停一下：今天 Anthropic 的工程师，平均每一季交付的程式码，是 2021 到 2025 那段时间的八倍。

不是快一点。是八倍。

这个数字背后，是一件正在发生的事：Anthropic 把越来越多「开发 AI」的工作，交给 AI 自己做。过去 AI 开发的每一步都是人在推，现在人推的比例正在快速下降。推到极端，就是一个系统能完全自主地设计、训练出比自己更强的下一代，那个下一代再造下一代。这件事有个正式名字，叫递归自我改进（recursive self-improvement）。Anthropic 自己说：我们还没到那一步，它也不是注定会发生，但它可能比多数机构准备好的时间，来得更早。

这篇是我把 Anthropic Institute 那篇〈When AI builds itself〉好好读完、用中文走一遍。我不是这个领域跑在最前面的人，他们才是，所以这篇的骨架我尽量忠于原文，把他们看到的东西、连同他们自己放上的但书，一块讲清楚。我自己的话，留到最后一小段。

那条越爬越高的梯子

原文一开头，用一段会随着你往下滚动而推进的动画，把「AI 在开发流程里的角色」一阶一阶往上画。最早，是人坐在笔电前敲程式码、写文件，跟任何一间科技公司没两样（2021 到 2023）。接着，人开始用早期的聊天机器人生一小段程式码，再自己复制粘贴回编辑器（2023 到 2025）。再来，编码代理变强了，能自己读写、修改程式码，有时候整个档案一次搞定（2025 到 2026）。到今天，自主代理已经能自己跑程式、自己验证，还能把好几个小时的工作，再外包给别的代理。

梯子的最后一格，写着「闭环」，旁边是个问号：未来的代理可能强到能自己打造、训练模型，Claude 的下一代，由 Claude 自己改出来。

这条梯子是整篇的骨架。它把一个很抽象、很容易讲成空话的主张（AI 越来越会自己造 AI），变成你身体要滚着屏幕、一格一格通过的东西。而最后那一格的问号是故意的：那是还没有答案的一格，整篇的张力都挂在那里。

两种工作，跟那道还没跨过的坎

造一个前沿模型，工作大致分两块。一块是工程：写程式、架基础设施、盯着训练跑。另一块是研究：决定要做哪些实验、解读跑出来的结果、想下一步该试什么。

把这两块摊开看，图像很一致。工程上，你给今天的 Claude 一个没讲清楚的问题，它能自己想出解法，人只要给目标，不必再给方法。研究上，只要实验的规格定得够清楚，它执行起来已经能跟熟练的人打平，甚至更好。

但有一块差距还很明显，而且刚好是最要命的那一块：要 Claude 自己判断「该挑哪个目标、哪个方向值得走」，工程跟研究都还差得远。这道差距，就是「今天的 AI」跟「一个能自主设计下一代的系统」之间的距离。闭环能不能合上，卡的就是这一阶。

外面的证据：公开基准

先看外面世界看得到的。模型进步的速度，本身在加速。有一个指标衡量「AI 能独力稳定完成多长的任务」，这个时间跨度大约每四个月就翻一倍，而更早之前要七个月才翻一倍。具体讲：2024 年 3 月，Claude Opus 3 能搞定人类大概花四分钟的软件任务；一年后，Sonnet 3.7 能处理约一个半小时的；再一年，Opus 4.6 撑得住 12 小时的任务。照这条线走下去，今年之内，「人类要花好几天」的任务就会进入射程，2027 年可能摸到「要花好几周」的。

两个常用的基准也是同一个样子。SWE-bench 丢给模型一个真实的开源项目，加一份真实的 bug 回报，要它写出能修好、又能通过项目自己测试的改动；模型两年内，从个位数百分比做到几乎满分。CORE-bench 测的是模型能不能重现一篇已发表论文的结果，这是它能做原创研究的前提；AI 从 2024 年大约两成的成功率，十五个月后也做到接近满分。跑长任务的 METR 则发现，Mythos Preview 能「至少」连续工作 16 小时，逼近他们现有题目量得到的上限。

里面的证据：Anthropic 自己的数据

公开基准说了很多，但它们量不到一件事：AI 到底多大程度在加速 AI 自己的开发。要看这个，得有公司愿意把内部数据拿出来。这篇就拿了。

Anthropic 公布的内部数据

程式码产出　2026 第二季，人均每日并入的程式码量是 2024 年的 8 倍；并进程式库的程式码超过 80% 由 Claude 写成，2025 年初还是个位数。

程式码质量　简单任务成功率稳在八成五以上，最开放的任务从 25% 升到 76%；可维护性已接近人类水准，预期年内全面超越；自动 Claude 审查能拦下约三分之一过去酿成线上事故的 bug。

研究能力　指定目标的实验优化，从 3 倍加速做到 52 倍（资深研究员只能做到 4 倍）；自主跑完一个开放式研究项目，用 800 小时补回 97% 的差距，两名人类研究员一周只补回 23%；研究决策上，AI 选的下一步胜过人类的比例从 51% 升到 64%。

Claude 写了 Anthropic 很大一部分的程式码。 到 2026 年 5 月，并进 Anthropic 程式库的程式码里，超过八成是 Claude 写的；而在 2025 年 2 月 Claude Code 推出之前，这个数字还是个位数。换算到每位工程师身上：2021 到 2024 这四年，每人每天并入的程式码行数是平的；2025 年，Claude 开始「自己跑程式」而不只是「建议你复制粘贴」，曲线开始往上爬；2026 年，模型能在更长的时间跨度上自主工作，斜率又陡了一截。2026 第二季，一个典型工程师每天并入的程式码量，是 2024 年的八倍。

Anthropic 自己也补了一个但书：程式码行数是个烂指标，它只算量、不算质，所以「八倍」几乎一定高估了真实的生产力提升。但方向是对的，而且他们内部不是按行数发奖金的，大家写更多，纯粹是因为用 AI 写得更多。

人的主观感受也对得上。 2026 年 3 月，一份对 130 位研究团队员工的调查里，受访者的中位数估计，用了 Mythos Preview 之后，自己的产出大约是「完全没有 AI」的四倍。还有一类，是本来根本不会发生的工作：2026 年 4 月，Claude 一口气交付了 800 多个修正，把某一类 API 错误砍掉了一千倍。盯着它的工程师估计，这如果让人来做要花四年，因为帮别人除错又慢又痛，人脑也塞不下那么多不熟的上下文。

它写的程式码不只能动，而且越来越好读。 「好程式码」有两层：一是能动，二是别人读得懂、接得下去。第一层，证据明确：一年来，Anthropic 员工需要中途纠正、改方向、或干脆接手 Claude 的比例，稳定在下降，连最复杂、最没明确规格的开放式问题也是。在最开放的那一类任务上，Claude 的成功率到 2026 年 5 月来到 76%，半年内涨了 50 个百分点。举个例子：一次例行升级突然搞垮了上万个训练工作，工程师只丢给 Claude 一点文字说明加上集群访问权，它一个一个环境设定试过去，揪出那个触发崩溃的冷门调试标志，稳定重现、确认修好，大概两小时内，交出了平常要两三天的工作量。

第二层，别人接得下去，人类还领先，但差距收得很快。Anthropic 内部没有共识，不过不少人认为 2025 年底 Claude 写的程式码质量还比人差，今天大致打平，预期一年内会更好。这也改变了他们审程式码的方式：现在每一个要并进程式库的改动，都先过一个自动的 Claude 审查员，挑 bug、找资安漏洞。他们回头分析了一次，发现如果过去每个改动都让 Claude 审一遍，claude.ai 那些事故背后的 bug，大约有三分之一会在进到正式环境前就被拦下来。而写那些程式码的，是世界上最强的一批工程师；Claude 抓到的，是他们漏掉的。

它很会「为了一个别人设定的目标」跑实验。 每次发新模型，Anthropic 都跑同一个测试：给 Claude 一段训练小模型的程式码，要它在通过同样正确性检查的前提下，把这段码跑得越快越好。目标跟成功标准事先就钉死，Claude 要做的就是改写、执行、计时、再来一轮，这是研究实验迴圈的迷你版。2025 年 5 月，Opus 4 平均做到约三倍加速；2026 年 4 月，Mythos Preview 做到约 52 倍。当个参考：一个熟练的研究员，要花四到八小时才能做到四倍。在这一段，把一个定义清楚的实验里的步骤优化掉，Claude 不到一年就从「超好用」变成「超越人类」。

它也越来越会自己提实验。 2026 年 4 月，Anthropic 第一次展示 Claude 从头到尾跑完一整个开放式研究项目。他们给一群 Claude 驱动的代理一个 AI 安全上的开放问题，大致是：一个比较弱的模型，能不能可靠地监督一个比较强的？然后放手让它们解。代理自己提假设、测试、跟平行的代理分享发现、再迭代。这题有明确的「地板」跟「天花板」：两位人类研究员花大约一周，补回了其中约 23% 的差距；代理群花了累计 800 小时、大约一万八千美元的算力，补回了 97%。当然有但书，结果没能干净地迁移到正式规模的模型，题目跟评分标准也还是人定的。但在这些边界之内，每一个实验都是代理自己设计的，人唯一还算数的角色，是定方向。

它甚至越来越会「挑下一步」。 Anthropic 翻了 2026 年 1 到 3 月真实的 Claude Code 工作阶段，挑出那些研究员「中途绕错路」的时刻：一个人选了某个方向、让进度歪掉、后来才转回正轨的点。然后只把「歪掉之前」的内容给各代 Claude 看，问它下一步会怎么走；再找另一个看得到整段结局的 Claude 来评，到底是 AI 还是人选的下一步比较好。因为是故意挑「人有改进空间」的时刻，这不算公平的对决，但它给出一组很真实、很难、正确下一步并不明显的情境。在这把尺上：2025 年 11 月最强的 Opus 4.5，有 51% 的时候胜过人的选择；2026 年 4 月的 Mythos Preview，涨到 64%。而研究的日常，大半就是这一连串「下一步选哪个」的决定。

那以后在这里工作，会长什么样

把这些证据摆在一起看，方向是一致的：在开发流程的每一步，人能做的那块都在变窄。一旦人写的跟 AI 写的程式码质量打平，人就会完全停止写程式，只剩下审；但如果人审的速度赶不上 Claude 生的速度，人类审查就会变成新的瓶颈。同样地，一旦 Claude 能自己跑实验，问题就往上挪成「这些实验里，哪个值得跑」。说穿了：「做」这件事，写程式、跑实验、产出结果，现在几乎不花人的时间了，虽然还是要烧算力。

Anthropic 说，人目前还占上风的，是研究的品味跟判断：挑哪些问题重要、哪些结果可信、哪条路其实是死巷。

原文里放了几段匿名员工的话。有人感叹，以前工作（其实也包括生活）是靠人跟人之间「互相帮个小忙」的人情经济在运转：诶，你可以帮我把这个 script 跑起来吗？每一次小小的请托，都欠下一点人情、长出一点彼此的牵连。Claude 更快、不欠任何人情，但每一次，也都是一个错过的、本来可以连上另一个人的机会。

另一个人讲的是另一面。在什么都顺的日子，他会忍不住觉得自己做的一切都不重要了：所有东西都被自动化，又快又好，他永远比不上。但偶尔遇到什么坏掉、又搞不懂为什么的日子，他才惊觉，自己已经不太清楚这阵子到底在干嘛了。

「那如果我们判断错了呢？」

这里有一个很自然的反驳，而且 Anthropic 自己把它写了进去：还握在人手里的那块，挑问题，才是最重要的；少了那个判断，Claude 只是个很能干的助手，不是一个能自己推动 AI 进步的系统。

问题是，今天的训练方法跟架构，到底能不能解锁那个能力，没有人知道。但 Anthropic 提醒了一件事：AI 的进步，很少是靠「啊哈」的灵光一闪。历史上是有几个那种时刻，像 Transformer 架构、混合专家模型，但这种改变范式的点子，往往好几年才出一个。中间绝大多数的进展是渐进的：把某个东西放大、看哪里坏了、修好、再试一次。而这，刚好就是 Claude 现在最擅长的工作型态。爱迪生说天才是 1% 的灵感加 99% 的努力；我们眼前看到的，是那 99% 的努力正在被自动化。

退一万步，就算 Claude 永远练不出好的研究品味，保守地读这些证据，也还是指向会复利的加速：如果人把大半时间花在那「个位数百分比」的定方向工作上，其余交给 Claude，那等于每个工程师、研究员能掌舵的工作量，都比以前大得多。不那么保守的读法则是：Claude 在研究判断上那一点点、今天还很窄的进步，本身就是这个能力也在长的信号。「研究品味」说不定只是又一个 AI 一开始不会、过一阵子就上手的能力，就像它一度不会解释笑话为什么好笑、不会展现心智理论、不会解语言谜题，后来都会了。

三种可能的未来

接下来会怎样，取决于两件事：趋势会不会延续，以及如果延续，我们选择怎么做。Anthropic 给了至少三个剧本。

第一，趋势卡住，但今天的能力已经扩散出去。那些指数曲线，搞不好其实是 S 型曲线，我们可能正逼近转折、报酬开始递减。真要再突破，可能需要一个全新的点子，例如一个取代 Transformer 的架构；也可能瓶颈根本不在模型，而在供应链，芯片产能、电网、带宽，才是真正的天花板。作者说，放这个剧本进来只是求完整，他们并不认为它最可能。但他们也提醒：就算能力冻结在今天，世界也会大变。Project Glasswing 上线头几周，Mythos Preview 就在全世界最重要的系统里，找出超过一万个高危与重大漏洞，多到「资安防御的瓶颈」已经从「找漏洞」变成「补得够不够快」。

第二，实验室持续吃到复利式的效率提升。AI 开发大幅自动化，但方向跟判断还在人手上。用 AI 的组织会越来越有效率，百人公司能做出一万人、甚至十万人组织的事。这会彻底改写知识工作跟政府服务，但也可能被拿去做坏事，从对全民的威权监控，到为每个人量身订做、规模大到没有人类团队跟得上的操弄。作者认为，这是最可能落入的剧本。不过，加速某一段，往往只是把瓶颈推到别处，这就是计算机领域那条 Amdahl 定律，套到组织上一样成立。Anthropic 已经尝到一个征兆：程式码一多，人类审查就成了新的瓶颈。

第三，AI 真的能完全递归自我改进，开始打造自己的后代。到那时，AI 进步的速度几乎只剩「算力」这一个变量在决定，人的角色大幅缩到监督、验证、查核，盯着一个由 AI 自己运作、不断扩张的「虚拟实验室」。最不确定的，是对齐问题会怎么收场。模型可能够对齐、也够有判断力，自己找出我们还没想到的解法；也可能，今天偶尔出现的不对齐，随着一代一代往下复制，越滚越多、越来越难懂，直到我们失去控制。作者说，对那个世界长什么样，他们没有好的直觉，因为我们现在的经济，是由人跟人造的工具在驱动的。

还有一件容易被忽略的事：就算开发全自动了，多数人的日常会怎么变，也很难说。Amdahl 定律在这里一样成立。更强的智慧，学不会一款药在几十年使用里会发生什么，没办法让选举比宪法规定的更早举行，也没办法在一个周末把陌生人变成老朋友。对大多数人来说，这个未来「体感上」的快慢，还是会被那些瓶颈决定，即使上游的实验室已经用算力的速度在跑。

那，我们该怎么办

如果真能有效地放慢这项技术，给我们多一点时间消化它巨大的后果，那大概是好事。但如果放慢只是让最不谨慎的人追上来，那反而让所有人更不安全。在没有全球协调机制的情况下，公司跟政府，得在竞争跟地缘政治的压力下，做关于安全的艰难取舍。

Anthropic 的立场是：这世界最好要保有一个「放慢、或暂时暂停前沿开发」的选项，好让社会结构跟对齐研究，跟得上技术。但这需要好几个有资源、在前沿或接近前沿的实验室，分布在不同国家，愿意在同样条件下一起停，而且每一家都能验证别人真的停了。AI 的麻烦在于：训练比导弹发射井好藏太多，输入又是通用的，偷偷不守规矩的诱因极大，因为谁在别人暂停时继续跑，谁就接收领先。单方面暂停，立刻就能做到，但成就不了什么，它只会换一个领跑者，换不来现在最缺的那个「大家一起审议」的过程。

接下来几个月，Anthropic Institute 说会找政策制定者、研究者、公民社会跟其他 AI 公司坐下来谈，把这篇抛出的问题（特别是完全的递归自我改进、以及怎么建立更好的协调与审议机制）往下挖，并把结果公开。

小结

通篇看下来，Anthropic 反复指向同一件事：「做」的成本正在趋近于零。而当做变便宜，真正贵起来的，是「做什么」。问题整个翻了面。

行为经济学家桑斯坦在《Choosing Not to Choose》里提醒过：选择本身有成本。它要花注意力、要承担选错的后果，所以人其实很常「选择不选择」，设个默认、跟着别人走、把决定交给某个系统，只为了省下选的力气。成本高的年代，流行的一种智慧是「犹豫就选做」，因为做了顶多后悔一下，比「能做却没做、留一辈子的妄念」划算。但 AI 把这个前提抽掉了：当做几乎免费，难的不再是「做还是不做」，是「做什么」。

而「做什么」是成本最高的那种选择，它要判断力、价值观、对未来的洞察。

关于 AI 会走到哪里，现在有两种看法。

一种是 Anthropic 保留的怀疑：判断与研究品味，也许只是 AI 还没学会的下一项能力。它以前不会解释笑话，后来也学会了。那么，判断这道墙，可能也只是时间问题。

我不能证明他们错。我目前选择另一边：当执行变得廉价，判断就会变得昂贵。

昂贵不是因为它高级，而是因为它稀缺、费力、也最容易被省略。知道什么值得做，守住价值，为自己的选择负责。这些事，才是后 AI 时代最难被外包的部分。

关于这篇

这是我把 Anthropic Institute 的〈When AI builds itself〉（原文作者 Marina Favaro、Jack Clark，编辑协力 Santi Ruiz）用中文走过一遍的导读，不是逐句翻译。文中的数字几乎都是 Anthropic 自己公布的内部数据，外部无法独立查证，我尽量保留他们自己放上的但书。原文那几个视觉（会随滚动推进的演化时间轴，以及三张数据图）由 Shan Carter、Romello Goodman、Nikki Makagiansar 制作，数据由 Brian Calvert、Jun Shern Chan 收集；本文里的视觉是依他们公布的数据重新绘制，不是原图。