# 當 AI 開始打造自己
> Anthropic Institute〈When AI builds itself〉中文導讀。工程師每季交付的程式碼是幾年前的八倍、八成以上由 Claude 寫成、最難的開放式任務成功率半年內從個位數衝到 76%。AI 正在加速 AI 自己的開發；完全的遞迴自我改進還沒到、也非注定，但可能比多數機構準備好的時間更早。
- Author: Paul Kuo（郭曜郎）
- Date: 2026-06-28
- Pillar: 智能與秩序 / Intelligence & Order
- Tags: 遞迴自我改進, AI 自主研發, Anthropic, recursive self-improvement, 對齊問題, Amdahl 定律, scrollytelling
- Canonical: https://paulkuo.tw/articles/when-ai-builds-ai/
- Site index for LLMs: https://paulkuo.tw/llms.txt
---
> **TL;DR** Anthropic 公布內部數據：工程師每季交付的程式碼是幾年前的八倍、超過八成由 Claude 寫成、最難的開放式任務成功率半年內從個位數衝到 76%。AI 加速 AI 自己的開發已經是現在進行式；完全的遞迴自我改進還沒到、也非注定，但可能比多數機構準備好的時間更早。這篇忠實走一遍他們的論證，我的話只放最後。
▶ 聽摘要
AI 合成語音・作者本人聲線克隆
> 「整體的速度，被沒有跟著加速的那一段決定。」
>
> ——阿姆達爾定律
先給你一個數字，你可以停一下：今天 Anthropic 的工程師，平均每一季交付的程式碼，是 2021 到 2025 那段時間的八倍。
不是快一點。是八倍。
這個數字背後，是一件正在發生的事：Anthropic 把越來越多「開發 AI」的工作，交給 AI 自己做。過去 AI 開發的每一步都是人在推，現在人推的比例正在快速下降。推到極端，就是一個系統能完全自主地設計、訓練出比自己更強的下一代，那個下一代再造下一代。這件事有個正式名字，叫遞迴自我改進（recursive self-improvement）。Anthropic 自己說：我們還沒到那一步，它也不是注定會發生，但它可能比多數機構準備好的時間，來得更早。
這篇是我把 Anthropic Institute 那篇〈[When AI builds itself](https://www.anthropic.com/institute/recursive-self-improvement)〉好好讀完、用中文走一遍。我不是這個領域跑在最前面的人，他們才是，所以這篇的骨架我盡量忠於原文，把他們看到的東西、連同他們自己放上的但書，一塊講清楚。我自己的話，留到最後一小段。
## 那條越爬越高的梯子
原文一開頭，用一段會隨著你往下捲動而推進的動畫，把「AI 在開發流程裡的角色」一階一階往上畫。最早，是人坐在筆電前敲程式碼、寫文件，跟任何一間科技公司沒兩樣（2021 到 2023）。接著，人開始用早期的聊天機器人生一小段程式碼，再自己複製貼上回編輯器（2023 到 2025）。再來，編碼代理變強了，能自己讀寫、修改程式碼，有時候整個檔案一次搞定（2025 到 2026）。到今天，自主代理已經能自己跑程式、自己驗證，還能把好幾個小時的工作，再外包給別的代理。
梯子的最後一格，寫著「閉環」，旁邊是個問號：未來的代理可能強到能自己打造、訓練模型，Claude 的下一代，由 Claude 自己改出來。
這條梯子是整篇的骨架。它把一個很抽象、很容易講成空話的主張（AI 越來越會自己造 AI），變成你身體要捲著螢幕、一格一格通過的東西。而最後那一格的問號是故意的：那是還沒有答案的一格，整篇的張力都掛在那裡。
演化時間軸
每一階，都把更多「開發 AI」的工作，交給 AI
鏈條一列一列往下疊：人始終是左邊那一個，代理越長越多，右側模型節點越來越大、越來越密，到最後一群代理協作、迴圈接回自己。
人
電腦
聊天機器人
2023–2025 · 人請聊天機器人幫忙生程式碼
人
聊天機器人
編碼代理
2025–2026 · 代理自己讀寫、修改程式碼
人
編碼代理
代理群
今天 · 自主代理把工作再外包給一群代理
代理
一大群代理協作
閉環 ？ 模型開始改寫自己的下一代
## 兩種工作，跟那道還沒跨過的坎
造一個前沿模型，工作大致分兩塊。一塊是工程：寫程式、架基礎設施、盯著訓練跑。另一塊是研究：決定要做哪些實驗、解讀跑出來的結果、想下一步該試什麼。
把這兩塊攤開看，圖像很一致。工程上，你給今天的 Claude 一個沒講清楚的問題，它能自己想出解法，人只要給目標，不必再給方法。研究上，只要實驗的規格定得夠清楚，它執行起來已經能跟熟練的人打平，甚至更好。
但有一塊差距還很明顯，而且剛好是最要命的那一塊：要 Claude 自己判斷「該挑哪個目標、哪個方向值得走」，工程跟研究都還差得遠。這道差距，就是「今天的 AI」跟「一個能自主設計下一代的系統」之間的距離。閉環能不能合上，卡的就是這一階。
## 外面的證據：公開基準
先看外面世界看得到的。模型進步的速度，本身在加速。有一個指標衡量「AI 能獨力穩定完成多長的任務」，這個時間跨度大約每四個月就翻一倍，而更早之前要七個月才翻一倍。具體講：2024 年 3 月，Claude Opus 3 能搞定人類大概花四分鐘的軟體任務；一年後，Sonnet 3.7 能處理約一個半小時的；再一年，Opus 4.6 撐得住 12 小時的任務。照這條線走下去，今年之內，「人類要花好幾天」的任務就會進入射程，2027 年可能摸到「要花好幾週」的。
兩個常用的基準也是同一個樣子。SWE-bench 丟給模型一個真實的開源專案，加一份真實的 bug 回報，要它寫出能修好、又能通過專案自己測試的改動；模型兩年內，從個位數百分比做到幾乎滿分。CORE-bench 測的是模型能不能重現一篇已發表論文的結果，這是它能做原創研究的前提；AI 從 2024 年大約兩成的成功率，十五個月後也做到接近滿分。跑長任務的 METR 則發現，Mythos Preview 能「至少」連續工作 16 小時，逼近他們現有題目量得到的上限。
## 裡面的證據：Anthropic 自己的數據
公開基準說了很多，但它們量不到一件事：AI 到底多大程度在加速 AI 自己的開發。要看這個，得有公司願意把內部數據拿出來。這篇就拿了。
> **Anthropic 公布的內部數據**
>
> **程式碼產出** 2026 第二季，人均每日併入的程式碼量是 2024 年的 8 倍；併進程式庫的程式碼超過 80% 由 Claude 寫成，2025 年初還是個位數。
>
> **程式碼品質** 簡單任務成功率穩在八成五以上，最開放的任務從 25% 升到 76%；可維護性已接近人類水準，預期年內全面超越；自動 Claude 審查能攔下約三分之一過去釀成線上事故的 bug。
>
> **研究能力** 指定目標的實驗優化，從 3 倍加速做到 52 倍（資深研究員只能做到 4 倍）；自主跑完一個開放式研究專案，用 800 小時補回 97% 的差距，兩名人類研究員一週只補回 23%；研究決策上，AI 選的下一步勝過人類的比例從 51% 升到 64%。
**Claude 寫了 Anthropic 很大一部分的程式碼。** 到 2026 年 5 月，併進 Anthropic 程式庫的程式碼裡，超過八成是 Claude 寫的；而在 2025 年 2 月 Claude Code 推出之前，這個數字還是個位數。換算到每位工程師身上：2021 到 2024 這四年，每人每天併入的程式碼行數是平的；2025 年，Claude 開始「自己跑程式」而不只是「建議你複製貼上」，曲線開始往上爬；2026 年，模型能在更長的時間跨度上自主工作，斜率又陡了一截。2026 第二季，一個典型工程師每天併入的程式碼量，是 2024 年的八倍。
Anthropic 自己也補了一個但書：程式碼行數是個爛指標，它只算量、不算質，所以「八倍」幾乎一定高估了真實的生產力提升。但方向是對的，而且他們內部不是按行數發獎金的，大家寫更多，純粹是因為用 AI 寫得更多。
關鍵數據 01
每位工程師每季併入的程式碼量
相對 2025 年以前的平均 · 2021 Q2 → 2026 Q2 · 數據：Anthropic 公布
**人的主觀感受也對得上。** 2026 年 3 月，一份對 130 位研究團隊員工的調查裡，受訪者的中位數估計，用了 Mythos Preview 之後，自己的產出大約是「完全沒有 AI」的四倍。還有一類，是本來根本不會發生的工作：2026 年 4 月，Claude 一口氣交付了 800 多個修正，把某一類 API 錯誤砍掉了一千倍。盯著它的工程師估計，這如果讓人來做要花四年，因為幫別人除錯又慢又痛，人腦也塞不下那麼多不熟的上下文。
**它寫的程式碼不只能動，而且越來越好讀。** 「好程式碼」有兩層：一是能動，二是別人讀得懂、接得下去。第一層，證據明確：一年來，Anthropic 員工需要中途糾正、改方向、或乾脆接手 Claude 的比例，穩定在下降，連最複雜、最沒明確規格的開放式問題也是。在最開放的那一類任務上，Claude 的成功率到 2026 年 5 月來到 76%，半年內漲了 50 個百分點。舉個例子：一次例行升級突然搞掛了上萬個訓練工作，工程師只丟給 Claude 一點文字說明加上叢集存取權，它一個一個環境設定試過去，揪出那個觸發崩潰的冷門除錯旗標，穩定重現、確認修好，大概兩小時內，交出了平常要兩三天的工作量。
關鍵數據 02
Claude Code 工作階段成功率
四種難度的任務 · 2025/09 → 2026/06 · 數據：Anthropic 公布
瑣碎例行實質開放式問題
第二層，別人接得下去，人類還領先，但差距收得很快。Anthropic 內部沒有共識，不過不少人認為 2025 年底 Claude 寫的程式碼品質還比人差，今天大致打平，預期一年內會更好。這也改變了他們審程式碼的方式：現在每一個要併進程式庫的改動，都先過一個自動的 Claude 審查員，挑 bug、找資安漏洞。他們回頭分析了一次，發現如果過去每個改動都讓 Claude 審一遍，claude.ai 那些事故背後的 bug，大約有三分之一會在進到正式環境前就被攔下來。而寫那些程式碼的，是世界上最強的一批工程師；Claude 抓到的，是他們漏掉的。
**它很會「為了一個別人設定的目標」跑實驗。** 每次發新模型，Anthropic 都跑同一個測試：給 Claude 一段訓練小模型的程式碼，要它在通過同樣正確性檢查的前提下，把這段碼跑得越快越好。目標跟成功標準事先就釘死，Claude 要做的就是改寫、執行、計時、再來一輪，這是研究實驗迴圈的迷你版。2025 年 5 月，Opus 4 平均做到約三倍加速；2026 年 4 月，Mythos Preview 做到約 52 倍。當個參考：一個熟練的研究員，要花四到八小時才能做到四倍。在這一段，把一個定義清楚的實驗裡的步驟優化掉，Claude 不到一年就從「超好用」變成「超越人類」。
**它也越來越會自己提實驗。** 2026 年 4 月，Anthropic 第一次展示 Claude 從頭到尾跑完一整個開放式研究專案。他們給一群 Claude 驅動的代理一個 AI 安全上的開放問題，大致是：一個比較弱的模型，能不能可靠地監督一個比較強的？然後放手讓它們解。代理自己提假設、測試、跟平行的代理分享發現、再迭代。這題有明確的「地板」跟「天花板」：兩位人類研究員花大約一週，補回了其中約 23% 的差距；代理群花了累計 800 小時、大約一萬八千美元的算力，補回了 97%。當然有但書，結果沒能乾淨地遷移到正式規模的模型，題目跟評分標準也還是人定的。但在這些邊界之內，每一個實驗都是代理自己設計的，人唯一還算數的角色，是定方向。
**它甚至越來越會「挑下一步」。** Anthropic 翻了 2026 年 1 到 3 月真實的 Claude Code 工作階段，挑出那些研究員「中途繞錯路」的時刻：一個人選了某個方向、讓進度歪掉、後來才轉回正軌的點。然後只把「歪掉之前」的內容給各代 Claude 看，問它下一步會怎麼走；再找另一個看得到整段結局的 Claude 來評，到底是 AI 還是人選的下一步比較好。因為是故意挑「人有改進空間」的時刻，這不算公平的對決，但它給出一組很真實、很難、正確下一步並不明顯的情境。在這把尺上：2025 年 11 月最強的 Opus 4.5，有 51% 的時候勝過人的選擇；2026 年 4 月的 Mythos Preview，漲到 64%。而研究的日常，大半就是這一連串「下一步選哪個」的決定。
關鍵數據 03
研究員走錯路時，模型能挑出更好的下一步嗎
模型勝過人類選擇的比例 · 2024 → 2026 · 數據：Anthropic 公布
## 那以後在這裡工作，會長什麼樣
把這些證據擺在一起看，方向是一致的：在開發流程的每一步，人能做的那塊都在變窄。一旦人寫的跟 AI 寫的程式碼品質打平，人就會完全停止寫程式，只剩下審；但如果人審的速度趕不上 Claude 生的速度，人類審查就會變成新的瓶頸。同樣地，一旦 Claude 能自己跑實驗，問題就往上挪成「這些實驗裡，哪個值得跑」。說穿了：「做」這件事，寫程式、跑實驗、產出結果，現在幾乎不花人的時間了，雖然還是要燒算力。
Anthropic 說，人目前還佔上風的，是研究的品味跟判斷：挑哪些問題重要、哪些結果可信、哪條路其實是死巷。
原文裡放了幾段匿名員工的話。有人感嘆，以前工作（其實也包括生活）是靠人跟人之間「互相幫個小忙」的人情經濟在運轉：欸，你可以幫我把這個 script 跑起來嗎？每一次小小的請託，都欠下一點人情、長出一點彼此的牽連。Claude 更快、不欠任何人情，但每一次，也都是一個錯過的、本來可以連上另一個人的機會。
另一個人講的是另一面。在什麼都順的日子，他會忍不住覺得自己做的一切都不重要了：所有東西都被自動化，又快又好，他永遠比不上。但偶爾遇到什麼壞掉、又搞不懂為什麼的日子，他才驚覺，自己已經不太清楚這陣子到底在幹嘛了。
## 「那如果我們判斷錯了呢？」
這裡有一個很自然的反駁，而且 Anthropic 自己把它寫了進去：還握在人手裡的那塊，挑問題，才是最重要的；少了那個判斷，Claude 只是個很能幹的助手，不是一個能自己推動 AI 進步的系統。
問題是，今天的訓練方法跟架構，到底能不能解鎖那個能力，沒有人知道。但 Anthropic 提醒了一件事：AI 的進步，很少是靠「啊哈」的靈光一閃。歷史上是有幾個那種時刻，像 Transformer 架構、混合專家模型，但這種改變典範的點子，往往好幾年才出一個。中間絕大多數的進展是漸進的：把某個東西放大、看哪裡壞了、修好、再試一次。而這，剛好就是 Claude 現在最擅長的工作型態。愛迪生說天才是 1% 的靈感加 99% 的努力；我們眼前看到的，是那 99% 的努力正在被自動化。
退一萬步，就算 Claude 永遠練不出好的研究品味，保守地讀這些證據，也還是指向會複利的加速：如果人把大半時間花在那「個位數百分比」的定方向工作上，其餘交給 Claude，那等於每個工程師、研究員能掌舵的工作量，都比以前大得多。不那麼保守的讀法則是：Claude 在研究判斷上那一點點、今天還很窄的進步，本身就是這個能力也在長的訊號。「研究品味」說不定只是又一個 AI 一開始不會、過一陣子就上手的能力，就像它一度不會解釋笑話為什麼好笑、不會展現心智理論、不會解語言謎題，後來都會了。
## 三種可能的未來
接下來會怎樣，取決於兩件事：趨勢會不會延續，以及如果延續，我們選擇怎麼做。Anthropic 給了至少三個劇本。
第一，趨勢卡住，但今天的能力已經擴散出去。那些指數曲線，搞不好其實是 S 型曲線，我們可能正逼近轉折、報酬開始遞減。真要再突破，可能需要一個全新的點子，例如一個取代 Transformer 的架構；也可能瓶頸根本不在模型，而在供應鏈，晶片產能、電網、頻寬，才是真正的天花板。作者說，放這個劇本進來只是求完整，他們並不認為它最可能。但他們也提醒：就算能力凍結在今天，世界也會大變。Project Glasswing 上線頭幾週，Mythos Preview 就在全世界最重要的系統裡，找出超過一萬個高危與重大漏洞，多到「資安防禦的瓶頸」已經從「找漏洞」變成「補得夠不夠快」。
第二，實驗室持續吃到複利式的效率提升。AI 開發大幅自動化，但方向跟判斷還在人手上。用 AI 的組織會越來越有效率，百人公司能做出一萬人、甚至十萬人組織的事。這會徹底改寫知識工作跟政府服務，但也可能被拿去做壞事，從對全民的威權監控，到為每個人量身訂做、規模大到沒有人類團隊跟得上的操弄。作者認為，這是最可能落入的劇本。不過，加速某一段，往往只是把瓶頸推到別處，這就是計算機領域那條 [Amdahl 定律](https://en.wikipedia.org/wiki/Amdahl%27s_law)，套到組織上一樣成立。Anthropic 已經嚐到一個徵兆：程式碼一多，人類審查就成了新的瓶頸。
第三，AI 真的能完全遞迴自我改進，開始打造自己的後代。到那時，AI 進步的速度幾乎只剩「算力」這一個變數在決定，人的角色大幅縮到監督、驗證、查核，盯著一個由 AI 自己運作、不斷擴張的「虛擬實驗室」。最不確定的，是對齊問題會怎麼收場。模型可能夠對齊、也夠有判斷力，自己找出我們還沒想到的解法；也可能，今天偶爾出現的不對齊，隨著一代一代往下複製，越滾越多、越來越難懂，直到我們失去控制。作者說，對那個世界長什麼樣，他們沒有好的直覺，因為我們現在的經濟，是由人跟人造的工具在驅動的。
還有一件容易被忽略的事：就算開發全自動了，多數人的日常會怎麼變，也很難說。Amdahl 定律在這裡一樣成立。更強的智慧，學不會一款藥在幾十年使用裡會發生什麼，沒辦法讓選舉比憲法規定的更早舉行，也沒辦法在一個週末把陌生人變成老朋友。對大多數人來說，這個未來「體感上」的快慢，還是會被那些瓶頸決定，即使上游的實驗室已經用算力的速度在跑。
## 那，我們該怎麼辦
如果真能有效地放慢這項技術，給我們多一點時間消化它巨大的後果，那大概是好事。但如果放慢只是讓最不謹慎的人追上來，那反而讓所有人更不安全。在沒有全球協調機制的情況下，公司跟政府，得在競爭跟地緣政治的壓力下，做關於安全的艱難取捨。
Anthropic 的立場是：這世界最好要保有一個「放慢、或暫時暫停前沿開發」的選項，好讓社會結構跟對齊研究，跟得上技術。但這需要好幾個有資源、在前沿或接近前沿的實驗室，分布在不同國家，願意在同樣條件下一起停，而且每一家都能驗證別人真的停了。AI 的麻煩在於：訓練比飛彈發射井好藏太多，輸入又是通用的，偷偷不守規矩的誘因極大，因為誰在別人暫停時繼續跑，誰就接收領先。單方面暫停，立刻就能做到，但成就不了什麼，它只會換一個領跑者，換不來現在最缺的那個「大家一起審議」的過程。
接下來幾個月，Anthropic Institute 說會找政策制定者、研究者、公民社會跟其他 AI 公司坐下來談，把這篇拋出的問題（特別是完全的遞迴自我改進、以及怎麼建立更好的協調與審議機制）往下挖，並把結果公開。
## 小結
通篇看下來，Anthropic 反覆指向同一件事：「做」的成本正在趨近於零。而當做變便宜，真正貴起來的，是「做什麼」。問題整個翻了面。
行為經濟學家桑斯坦在《[Choosing Not to Choose](https://global.oup.com/academic/product/choosing-not-to-choose-9780190457297)》裡提醒過：選擇本身有成本。它要花注意力、要承擔選錯的後果，所以人其實很常「選擇不選擇」，設個預設、跟著別人走、把決定交給某個系統，只為了省下選的力氣。成本高的年代，流行的一種智慧是「猶豫就選做」，因為做了頂多後悔一下，比「能做卻沒做、留一輩子的妄念」划算。但 AI 把這個前提抽掉了：當做幾乎免費，難的不再是「做還是不做」，是「做什麼」。
而「做什麼」是成本最高的那種選擇，它要判斷力、價值觀、對未來的洞察。
關於 AI 會走到哪裡，現在有兩種看法。
一種是 Anthropic 保留的懷疑：判斷與研究品味，也許只是 AI 還沒學會的下一項能力。它以前不會解釋笑話，後來也學會了。那麼，判斷這道牆，可能也只是時間問題。
我不能證明他們錯。我目前選擇另一邊：當執行變得廉價，判斷就會變得昂貴。
昂貴不是因為它高級，而是因為它稀缺、費力、也最容易被省略。知道什麼值得做，守住價值，為自己的選擇負責。這些事，才是後 AI 時代最難被外包的部分。
---
**關於這篇**
這是我把 Anthropic Institute 的〈[When AI builds itself](https://www.anthropic.com/institute/recursive-self-improvement)〉（原文作者 Marina Favaro、Jack Clark，編輯協力 Santi Ruiz）用中文走過一遍的導讀，不是逐句翻譯。文中的數字幾乎都是 Anthropic 自己公布的內部數據，外部無法獨立查證，我盡量保留他們自己放上的但書。原文那幾個視覺（會隨捲動推進的演化時間軸，以及三張數據圖）由 Shan Carter、Romello Goodman、Nikki Makagiansar 製作，數據由 Brian Calvert、Jun Shern Chan 蒐集；本文裡的視覺是依他們公布的數據重新繪製，不是原圖。