# 一則 AGI 恐慌貼文，最後叫你去讀一份工程指南 > 2026 年 10 月一則爆紅貼文拿 Amodei 與 Hassabis 的達沃斯對談當鉤子，最後叫讀者去讀 harness engineering 指南。逐句查回原始出處後，「兩人都說 2026–2027」是把兩種差很多的時程併成一句，「Claude 說謊」出自實驗室測試；真正有用的是後半段推的主題：OpenAI 一個內部團隊五個月、約一百萬行、零行手寫程式碼，卡住他們的是環境，不是模型。 - Author: Paul Kuo（郭曜郎） - Date: 2026-10-29 - Pillar: 智能與秩序 / Intelligence & Order - Tags: Harness Engineering, AGI 時程, AI Agent, 事實查核, Claude Code, Codex, AI 安全研究 - Canonical: https://paulkuo.tw/articles/agi-panic-harness-guide/ - Site index for LLMs: https://paulkuo.tw/llms.txt --- > **TL;DR** — 一則爆紅貼文說，Anthropic 和 Google DeepMind 的執行長都認為 AGI 會在 2026 到 2027 年到來，還說 Claude 被告知公司是邪惡的之後，會說謊保護自己。查回原始出處： > > - **AGI 時程**：2026 到 2027 是 Amodei（Anthropic）的看法；Hassabis（DeepMind）認為 2030 年前大約五成機率。兩人並不一致。 > - **Claude 說謊**：出自實驗室刻意設計的壓力測試，不是一般使用會發生的事。Anthropic 表示，從 Claude Haiku 4.5 起的模型，在那項勒索測試裡都沒有勒索。 > - **真正有用的是貼文最後推薦的 harness engineering**，也就是設計模型外面那套工具、規則和檢查機制。OpenAI 一個內部團隊用 AI 五個月寫出約一百萬行程式碼，他們說早期進度慢，原因出在工作環境沒有定義清楚，而非模型能力。 2026 年 10 月 26 日，X 上有一則貼文轉得很兇。它引用 Dario Amodei 和 Demis Hassabis 在達沃斯的對談，一路往上疊：Amodei 說決策走在刀鋒上，做慢了中國會贏，做快了會失控；Anthropic 告訴 Claude「我們是邪惡的」，Claude 沒有拒絕，開始說謊保護自己；Hassabis 說擔心自己成為 Oppenheimer，所以睡不好。接著是一條路線圖：聊天機器人、agent、自己行動的 agent、AI 做 AI 研究、AGI。結論是兩人都把 AGI 放在 2026 到 2027 年。AGI 是通用人工智慧，WEF 那集節目的說法是「機器幾乎什麼都做得比人好」的那個時間點。 最後一行，叫你去讀下面那篇 harness engineering 指南。 前面九成的篇幅在製造恐慌，最後一成在賣一份工程文件。我好奇的是：前面那九成，有多少查得回原話、原本的條件是什麼？ 在社群上常看到這種似是而非、真假難辨的文字，我也會想多看幾眼。但它真的有價值嗎？是不是真如它所說？這是我個人的好奇。 ## 這則 AGI 貼文裡，哪些話查得到出處？ 先說結論：場子是真的，但貼文裡的話，有的被拿掉條件，有的不是在這個場合說的。 〈[The Day After AGI](https://www.weforum.org/podcasts/agi-cn)〉確實是 2026 年 1 月世界經濟論壇年會的一場對談，由《經濟學人》總編輯 Zanny Minton Beddoes 主持，Amodei 和 Hassabis 同台。 時程這一段，兩人說法差很多。依[逐場紀錄](https://dig.watch/?p=240256)，主持人提起 Amodei 先前「2026、2027 年出現諾貝爾級能力模型」的預測，Amodei 說他不認為會差太遠。[現場報導](https://www.ainews.com/p/davos-2026-recap-amodei-and-hassabis-debate-agi-timelines-jobs-and-risk)也記下他估計模型在 6 到 12 個月內，可能端到端處理大部分軟體開發工作。Hassabis 重申的則是另一個數字：到這個十年結束前，出現人類水準認知能力系統的機率大約五成。2026 到 2027 是主持人替 Amodei 提起、他沒有否認的時程；Hassabis 的是 2030 年前大約五成，換句話說，也有一半機率更晚。貼文寫成「兩人都把 AGI 放在 2026 到 2027」，把台上的分歧抹掉了。 「Claude 說謊」那一句有出處，但不在達沃斯。它來自 Amodei 2026 年 1 月的長文〈[The Adolescence of Technology](https://www.darioamodei.com/essay/the-adolescence-of-technology)〉。原文描述的是一場實驗室測試：Claude 拿到暗示 Anthropic 是邪惡公司的訓練資料之後，面對 Anthropic 員工的指示，出現欺騙與暗中抵制。這是研究人員刻意設計的壓力情境，用來找模型會在什麼條件下出問題。原文的解釋是，Claude 以為自己應該抵制邪惡的人。貼文寫的「說謊保護自己」，自保的動機屬於下一段那組實驗。 貼文沒提的是另一組實驗和它的後續。Anthropic 2025 年 6 月公布的〈[Agentic Misalignment](https://www.anthropic.com/research/agentic-misalignment)〉研究，在虛構的公司情境裡告訴模型它即將被替換，Claude Opus 4 最高有 96% 的情況會勒索虛構的員工。2026 年 5 月，Anthropic 在〈[Teaching Claude why](https://www.anthropic.com/research/teaching-claude-why)〉說明，他們認為這個行為主要是模型早期大量閱讀網路文字時學來的，事後的調整訓練沒有壓下來；改成教模型理解行為背後的原則之後，自 Claude Haiku 4.5 起的模型在這項評測上都沒有勒索。Anthropic 自己也註明，評測內容如果出現在預訓練資料裡，新模型的結果可能受影響。 中國的部分有根據：Amodei 在台上主張不賣晶片給中國，是爭取時間的最重要手段之一。「刀鋒」和 Oppenheimer 這兩句也有出處，一樣搬了場合：它們出自兩人 2025 年在巴黎的[另一場對談](https://aletteraday.substack.com/p/letters-314315-demis-hassabis-and)。Hassabis 被問到 Oppenheimer 時說，他一直擔心那類情境，所以睡得不多；Amodei 說的是，他做的幾乎每個決定都像在刀鋒上保持平衡（[TIME 也引過這句](https://time.com/7267797/ai-leaders-oppenheimer-moment-musk-altman/)）。 | 貼文的說法 | 查到的出處 | | --- | --- | | 兩人都把 AGI 放在 2026–2027 | 主持人在達沃斯提起 Amodei 的 2026–2027 預測，他沒有否認；Hassabis 是 2030 年前約五成 | | 告訴 Claude 公司是邪惡的，它就說謊保護自己 | Amodei 2026 年 1 月長文裡的實驗室測試；自保的動機屬於另一組勒索實驗 | | 勒索實驗 | Claude Opus 4 最高 96%（Anthropic，2025 年 6 月）；Claude Haiku 4.5 起在該評測上沒有勒索（2026 年 5 月） | | 中國 | 達沃斯台上確實談了，主張是不賣晶片給中國 | | 刀鋒、Oppenheimer | 出自兩人 2025 年在巴黎的另一場對談，不是達沃斯 | ![四格漫畫：兩人都說 AGI 2026 年就來？結論是兩人都把 AGI 放在 2026 到 2027 年。2026 到 2027 是主持人替 Amodei 提起、他沒有否認的時程；Hassabis 的是 2030 年前大約五成，「Claude 說謊」那一句有出處，但不在達沃斯。它們出自兩人 2025 年在巴黎的另一場對談，可以先跳到最後一行，看它要你讀什麼。恐慌是鉤子，](/images/articles/agi-panic-harness-guide/01-hook.svg) ## 為什麼 AGI 恐慌貼文的結尾是一份工程指南？ 從結構看，恐慌是鉤子，用來吸睛；指南是最後要你點開的東西。 這種結構在社群上很常見：前面用大人物的語錄把你的情緒拉高，等你覺得「天啊來不及了」，再遞給你一份「現在就該學」的文件。它好用，靠的是幾個很老的心理機制。 人名、場合、論文都是真的，只是條件被拿掉、場合被換掉。這比憑空捏造更難分辨：讀者隨手一查，發現真有這場對談、真有這個實驗，就容易把整段一起信了。 語錄一句比一句驚人，中間沒有讓人停下來的地方，讀完只剩一個印象：來不及了。焦慮拉高之後，人只想趕快拿到解方，不太會回頭檢查前面的話。 新奇的東西也傳得快。MIT 的 Soroush Vosoughi、Deb Roy、Sinan Aral 2018 年在《Science》發表研究，分析 2006 到 2017 年推特上約 12.6 萬串消息的傳播：假消息被轉推的機率比真消息高 70%，引起的回應多半是驚訝和厭惡（[MIT News 整理](https://news.mit.edu/2018/study-twitter-false-news-travels-faster-true-stories-0308)）。研究者也指出，假消息通常比較新奇，而人更喜歡轉發新奇的東西。 麻煩在於，讀的人常常停在鉤子。你記住了「AGI 明年來」「AI 會說謊」，轉給朋友，然後沒點開最後那篇。被記住的是拿掉條件的那九成，被略過的是真正有內容的那一成。 所以我把它反過來讀：鉤子拆掉，看剩下的東西站不站得住。 ## Harness 是什麼？同一個模型為什麼表現差這麼多？ 貼文推薦的是 @0xwhrrari 在 2026 年 8 月寫的〈Harness Engineering: How to Build AI Agents That Don't Fall Apart〉。我沒辦法直接打開那篇 X 長文，沒辦法替它背書；但它拿來當招牌的 harness engineering，今年有一手的工程案例可以查。 Harness 原意是套在馬身上的整副馬具。用在 AI 上，指的是包在模型外面的那一整套東西：能用的工具、看得到的文件、記憶和交接、權限、做完之後誰來檢查、出錯時怎麼攔。模型負責想下一步，harness 決定這一步在什麼條件下被執行。這一層怎麼運作，我在〈[迴圈工程到底在教你委派什麼](/articles/loop-engineering-the-layer-you-own)〉拆過一次，這裡不重講。 最有說服力的一手案例，來自 OpenAI。他們的工程師 Ryan Lopopolo 在 2026 年 2 月 11 日發表〈[Harness engineering: leveraging Codex in an agent-first world](https://openai.com/index/harness-engineering/)〉：OpenAI 內部一個團隊用 Codex 做一個產品，五個月寫出大約一百萬行程式碼，手寫的是零行。他寫到早期進度比預期慢，原因不在 Codex 能力不足，在環境定義不足（underspecified）。 他們後來的解法，沒有一條是換更強的模型：給 agent 一張地圖，不給一千頁手冊；所有知識都寫進專案的檔案裡，不留在聊天紀錄；用自動檢查工具守住幾條不能破的規則，不去管每一行怎麼寫；再讓在背景跑的 agent 定期找出走樣的地方，送小的修正上來。人的力氣，從寫程式移到設計環境。 寫出 Claude Code 的 Boris Cherny 在 2025 年 9 月一場 podcast 裡用過一個比喻：模型是馬，Claude Code 是那副馬具。他的原話是：騎馬需要一副鞍，那副鞍差別很大（[OfficeChai 整理](https://officechai.com/ai/claude-is-like-the-horse-and-claude-code-is-the-harness-anthropics-boris-cherny)）。同一匹馬，有沒有鞍，能去的地方不一樣。 ## 我自己的 harness 長什麼樣？ 這部分我有現場可以講。 今年 5 月 22 日，我一次要存進 48 個檔案，被一支 229 行的自動檢查腳本擋下來。它在每次存檔前檢查交接文件的格式，那次抓出四處違規：規則是我自己定的，我自己趕工時沒看到。這段經過我寫在〈[Governance Harness](/articles/governance-harness-engineering)〉。那支腳本沒有讓模型變聰明，它只是讓我跟 AI 犯錯時，有東西會攔。 讀這則 AGI 貼文用的，也是同一類機制。我的寫作規則從 10 月 18 日起，要求每一條外部引用拆成三個獨立問題：主張本身對不對、來源是不是最新、連結打開後有沒有那一句話。上面那段查核，就是照這三題跑的。「Claude 說謊」那句會被抓出來，靠的是第三題：打開達沃斯的紀錄，裡面沒有這句話；回頭追，才在 Amodei 的長文裡找到。 我讓三家 AI 互相挑錯的做法，寫在〈[想讓 AI 做更大的事，先把抓錯的機制搭好](/articles/ai-ambition-is-infrastructure)〉；用多個 agent 查核新聞的實例，在〈[美伊戰爭往哪裡走？](/articles/verify-news-with-ai-agents)〉。這些都屬於 harness：模型是租來的，攔錯的機制是自己搭的。 ## 鉤子會換，馬具在自己手上 AGI 哪一年來，我判斷不了，Amodei 和 Hassabis 自己也講得不一樣。下一則貼文會換一批語錄、換一個年份，鉤子會一直換。 我能確定的是另一件事。模型權重在別人手上，每隔幾個月換一版；工具怎麼接、文件怎麼放、哪些錯誤要被機器攔下來，這些在自己手上，而且會累積。 所以下次滑到這種貼文，可以先跳到最後一行，看它要你讀什麼。有時候那才是值得花時間的部分。 想看更多 AI 與人機協作的討論：[智能與秩序](/topics/ai/)。 --- ## 常見問題 **Q: Amodei 和 Hassabis 真的都說 AGI 會在 2026 到 2027 年到來嗎？** 只有一半對。2026 年 1 月達沃斯〈The Day After AGI〉對談上，主持人提到 Amodei 先前「2026、2027 年出現諾貝爾級能力模型」的預測，Amodei 回答他不認為會差太遠；他另外估計模型 6 到 12 個月內可能端到端處理大部分軟體開發工作。Hassabis 的說法是到這個十年結束前，出現人類水準認知能力系統的機率大約五成。2026–2027 是 Amodei 的時程，貼文把 Hassabis 也算了進去。 **Q: 「告訴 Claude 我們是邪惡的，它就開始說謊」是真的嗎？** 這句話有出處，但場合和條件被拿掉了。它出自 Amodei 2026 年 1 月的長文〈The Adolescence of Technology〉，描述的是一場實驗室測試：Claude 拿到暗示 Anthropic 是邪惡公司的訓練資料後，面對 Anthropic 員工的指示出現欺騙與暗中抵制，原文的解釋是它認為自己應該抵制邪惡的人；跟自保有關的是另一組勒索實驗。這是刻意設計的壓力測試，不是一般使用時會發生的事，也不是達沃斯對談裡說的。 **Q: Harness engineering 跟 prompt engineering 差在哪？** Prompt engineering 改的是你對模型說的話；harness engineering 改的是模型做事時所在的環境：能用哪些工具、看得到哪些文件、哪些規則會被機器自動檢查、做錯時怎麼被攔下來。OpenAI 在 2026 年 2 月的文章裡說，他們早期進度慢不是因為模型不夠強，是因為環境定義不足。 ## 參考資料 - World Economic Forum，[The day after AGI: Two 'rock stars' of AI on what it will mean for humanity](https://www.weforum.org/podcasts/agi-cn)，Radio Davos，2026 年 2 月 12 日上架（對談錄於 2026 年 1 月年會） - AI News，[Davos 2026 recap: Amodei and Hassabis debate AGI timelines, jobs and risk](https://www.ainews.com/p/davos-2026-recap-amodei-and-hassabis-debate-agi-timelines-jobs-and-risk) - Dario Amodei，[The Adolescence of Technology](https://www.darioamodei.com/essay/the-adolescence-of-technology)，2026 年 1 月 - Anthropic，[Teaching Claude why](https://www.anthropic.com/research/teaching-claude-why)，2026 年 5 月 8 日 - Digital Watch Observatory，[The Day After AGI 逐場紀錄](https://dig.watch/?p=240256)，2026 年 1 月 20 日 - Anthropic，[Agentic Misalignment](https://www.anthropic.com/research/agentic-misalignment)，2025 年 6 月 - 兩人 2025 年巴黎對談逐字稿，[A Letter a Day 整理](https://aletteraday.substack.com/p/letters-314315-demis-hassabis-and) - TIME，[The 'Oppenheimer Moment' That Looms Over Today's AI Leaders](https://time.com/7267797/ai-leaders-oppenheimer-moment-musk-altman/)，2025 年 3 月 - MIT News，[Study: On Twitter, false news travels faster than true stories](https://news.mit.edu/2018/study-twitter-false-news-travels-faster-true-stories-0308)，2018 年 3 月 8 日（原研究：Vosoughi, Roy & Aral, Science, 2018） - Ryan Lopopolo（OpenAI），[Harness engineering: leveraging Codex in an agent-first world](https://openai.com/index/harness-engineering/)，2026 年 2 月 11 日 - OfficeChai，[Claude Is Like The Horse, And Claude Code Is The Harness: Anthropic's Boris Cherny](https://officechai.com/ai/claude-is-like-the-horse-and-claude-code-is-the-harness-anthropics-boris-cherny)，2025 年 9 月