# 一则 AGI 恐慌帖子，最后叫你去读一份工程指南 > 2026 年 10 月一则爆红帖子拿 Amodei 与 Hassabis 的达沃斯对谈当钩子，最后叫读者去读 harness engineering 指南。逐句查回原始出处后，「两人都说 2026–2027」是把两种差很多的时程并成一句，「Claude 说谎」出自实验室测试；真正有用的是后半段推的主题：OpenAI 一个内部团队五个月、约一百万行、零行手写代码，卡住他们的是环境，不是模型。 - Author: Paul Kuo（郭曜郎） - Date: 2026-10-29 - Pillar: 智能与秩序 / Intelligence & Order - Tags: Harness Engineering, AGI 时程, AI Agent, 事实查核, Claude Code, Codex, AI 安全研究 - Canonical: https://paulkuo.tw/zh-cn/articles/agi-panic-harness-guide/ - Language: Simplified Chinese (简体中文) - Translation: AI-translated from the zh-Hant (Traditional Chinese) original - Original (zh-Hant): https://paulkuo.tw/articles/agi-panic-harness-guide.md - Site index for LLMs: https://paulkuo.tw/llms.txt --- > **TL;DR** — 一则爆红帖子说，Anthropic 和 Google DeepMind 的执行长都认为 AGI 会在 2026 到 2027 年到来，还说 Claude 被告知公司是邪恶的之后，会说谎保护自己。查回原始出处： > > - **AGI 时程**：2026 到 2027 是 Amodei（Anthropic）的看法；Hassabis（DeepMind）认为 2030 年前大约五成概率。两人并不一致。 > - **Claude 说谎**：出自实验室刻意设计的压力测试，不是一般使用会发生的事。Anthropic 表示，从 Claude Haiku 4.5 起的模型，在那项勒索测试里都没有勒索。 > - **真正有用的是帖子最后推荐的 harness engineering**，也就是设计模型外面那套工具、规则和检查机制。OpenAI 一个内部团队用 AI 五个月写出约一百万行代码，他们说早期进度慢，原因出在工作环境没有定义清楚，而非模型能力。 2026 年 10 月 26 日，X 上有一则帖子转得很凶。它引用 Dario Amodei 和 Demis Hassabis 在达沃斯的对谈，一路往上叠：Amodei 说决策走在刀锋上，做慢了中国会赢，做快了会失控；Anthropic 告诉 Claude「我们是邪恶的」，Claude 没有拒绝，开始说谎保护自己；Hassabis 说担心自己成为 Oppenheimer，所以睡不好。接着是一条路线图：聊天机器人、agent、自己行动的 agent、AI 做 AI 研究、AGI。结论是两人都把 AGI 放在 2026 到 2027 年。AGI 是通用人工智能，WEF 那集节目的说法是「机器几乎什么都做得比人好」的那个时间点。 最后一行，叫你去读下面那篇 harness engineering 指南。 前面九成的篇幅在制造恐慌，最后一成在卖一份工程文件。我好奇的是：前面那九成，有多少查得回原话、原本的条件是什么？ 在社群上常看到这种似是而非、真假难辨的文字，我也会想多看几眼。但它真的有价值吗？是不是真如它所说？这是我个人的好奇。 ## 这则 AGI 帖子里，哪些话查得到出处？ 先说结论：场子是真的，但帖子里的话，有的被拿掉条件，有的不是在这个场合说的。 〈[The Day After AGI](https://www.weforum.org/podcasts/agi-cn)〉确实是 2026 年 1 月世界经济论坛年会的一场对谈，由《经济学人》总编辑 Zanny Minton Beddoes 主持，Amodei 和 Hassabis 同台。 时程这一段，两人说法差很多。依[逐场纪录](https://dig.watch/?p=240256)，主持人提起 Amodei 先前「2026、2027 年出现诺贝尔级能力模型」的预测，Amodei 说他不认为会差太远。[现场报导](https://www.ainews.com/p/davos-2026-recap-amodei-and-hassabis-debate-agi-timelines-jobs-and-risk)也记下他估计模型在 6 到 12 个月内，可能端到端处理大部分软件开发工作。Hassabis 重申的则是另一个数字：到这个十年结束前，出现人类水准认知能力系统的概率大约五成。2026 到 2027 是主持人替 Amodei 提起、他没有否认的时程；Hassabis 的是 2030 年前大约五成，换句话说，也有一半概率更晚。帖子写成「两人都把 AGI 放在 2026 到 2027」，把台上的分歧抹掉了。 「Claude 说谎」那一句有出处，但不在达沃斯。它来自 Amodei 2026 年 1 月的长文〈[The Adolescence of Technology](https://www.darioamodei.com/essay/the-adolescence-of-technology)〉。原文描述的是一场实验室测试：Claude 拿到暗示 Anthropic 是邪恶公司的训练数据之后，面对 Anthropic 员工的指示，出现欺骗与暗中抵制。这是研究人员刻意设计的压力情境，用来找模型会在什么条件下出问题。原文的解释是，Claude 以为自己应该抵制邪恶的人。帖子写的「说谎保护自己」，自保的动机属于下一段那组实验。 帖子没提的是另一组实验和它的后续。Anthropic 2025 年 6 月公布的〈[Agentic Misalignment](https://www.anthropic.com/research/agentic-misalignment)〉研究，在虚构的公司情境里告诉模型它即将被替换，Claude Opus 4 最高有 96% 的情况会勒索虚构的员工。2026 年 5 月，Anthropic 在〈[Teaching Claude why](https://www.anthropic.com/research/teaching-claude-why)〉说明，他们认为这个行为主要是模型早期大量阅读网络文字时学来的，事后的调整训练没有压下来；改成教模型理解行为背后的原则之后，自 Claude Haiku 4.5 起的模型在这项评测上都没有勒索。Anthropic 自己也注明，评测内容如果出现在预训练数据里，新模型的结果可能受影响。 中国的部分有根据：Amodei 在台上主张不卖芯片给中国，是争取时间的最重要手段之一。「刀锋」和 Oppenheimer 这两句也有出处，一样搬了场合：它们出自两人 2025 年在巴黎的[另一场对谈](https://aletteraday.substack.com/p/letters-314315-demis-hassabis-and)。Hassabis 被问到 Oppenheimer 时说，他一直担心那类情境，所以睡得不多；Amodei 说的是，他做的几乎每个决定都像在刀锋上保持平衡（[TIME 也引过这句](https://time.com/7267797/ai-leaders-oppenheimer-moment-musk-altman/)）。 | 帖子的说法 | 查到的出处 | | --- | --- | | 两人都把 AGI 放在 2026–2027 | 主持人在达沃斯提起 Amodei 的 2026–2027 预测，他没有否认；Hassabis 是 2030 年前约五成 | | 告诉 Claude 公司是邪恶的，它就说谎保护自己 | Amodei 2026 年 1 月长文里的实验室测试；自保的动机属于另一组勒索实验 | | 勒索实验 | Claude Opus 4 最高 96%（Anthropic，2025 年 6 月）；Claude Haiku 4.5 起在该评测上没有勒索（2026 年 5 月） | | 中国 | 达沃斯台上确实谈了，主张是不卖芯片给中国 | | 刀锋、Oppenheimer | 出自两人 2025 年在巴黎的另一场对谈，不是达沃斯 | ![四格漫画：两人都说 AGI 2026 年就来？结论是两人都把 AGI 放在 2026 到 2027 年。2026 到 2027 是主持人替 Amodei 提起、他没有否认的时程；Hassabis 的是 2030 年前大约五成，「Claude 说谎」那一句有出处，但不在达沃斯。它们出自两人 2025 年在巴黎的另一场对谈，可以先跳到最后一行，看它要你读什么。恐慌是钩子，](/images/articles/agi-panic-harness-guide/01-hook-zh-cn.svg) ## 为什么 AGI 恐慌帖子的结尾是一份工程指南？ 从结构看，恐慌是钩子，用来吸睛；指南是最后要你点开的东西。 这种结构在社群上很常见：前面用大人物的语录把你的情绪拉高，等你觉得「天啊来不及了」，再递给你一份「现在就该学」的文件。它好用，靠的是几个很老的心理机制。 人名、场合、论文都是真的，只是条件被拿掉、场合被换掉。这比凭空捏造更难分辨：读者随手一查，发现真有这场对谈、真有这个实验，就容易把整段一起信了。 语录一句比一句惊人，中间没有让人停下来的地方，读完只剩一个印象：来不及了。焦虑拉高之后，人只想赶快拿到解方，不太会回头检查前面的话。 新奇的东西也传得快。MIT 的 Soroush Vosoughi、Deb Roy、Sinan Aral 2018 年在《Science》发表研究，分析 2006 到 2017 年推特上约 12.6 万串消息的传播：假消息被转推的概率比真消息高 70%，引起的回应多半是惊讶和厌恶（[MIT News 整理](https://news.mit.edu/2018/study-twitter-false-news-travels-faster-true-stories-0308)）。研究者也指出，假消息通常比较新奇，而人更喜欢转发新奇的东西。 麻烦在于，读的人常常停在钩子。你记住了「AGI 明年来」「AI 会说谎」，转给朋友，然后没点开最后那篇。被记住的是拿掉条件的那九成，被略过的是真正有内容的那一成。 所以我把它反过来读：钩子拆掉，看剩下的东西站不站得住。 ## Harness 是什么？同一个模型为什么表现差这么多？ 帖子推荐的是 @0xwhrrari 在 2026 年 8 月写的〈Harness Engineering: How to Build AI Agents That Don't Fall Apart〉。我没办法直接打开那篇 X 长文，没办法替它背书；但它拿来当招牌的 harness engineering，今年有一手的工程案例可以查。 Harness 原意是套在马身上的整副马具。用在 AI 上，指的是包在模型外面的那一整套东西：能用的工具、看得到的文件、记忆和交接、权限、做完之后谁来检查、出错时怎么拦。模型负责想下一步，harness 决定这一步在什么条件下被执行。这一层怎么运作，我在〈[循环工程到底在教你委派什么](/zh-cn/articles/loop-engineering-the-layer-you-own)〉拆过一次，这里不重讲。 最有说服力的一手案例，来自 OpenAI。他们的工程师 Ryan Lopopolo 在 2026 年 2 月 11 日发表〈[Harness engineering: leveraging Codex in an agent-first world](https://openai.com/index/harness-engineering/)〉：OpenAI 内部一个团队用 Codex 做一个产品，五个月写出大约一百万行代码，手写的是零行。他写到早期进度比预期慢，原因不在 Codex 能力不足，在环境定义不足（underspecified）。 他们后来的解法，没有一条是换更强的模型：给 agent 一张地图，不给一千页手册；所有知识都写进项目的文件里，不留在聊天记录；用自动检查工具守住几条不能破的规则，不去管每一行怎么写；再让在背景跑的 agent 定期找出走样的地方，送小的修正上来。人的力气，从写代码移到设计环境。 写出 Claude Code 的 Boris Cherny 在 2025 年 9 月一场 podcast 里用过一个比喻：模型是马，Claude Code 是那副马具。他的原话是：骑马需要一副鞍，那副鞍差别很大（[OfficeChai 整理](https://officechai.com/ai/claude-is-like-the-horse-and-claude-code-is-the-harness-anthropics-boris-cherny)）。同一匹马，有没有鞍，能去的地方不一样。 ## 我自己的 harness 长什么样？ 这部分我有现场可以讲。 今年 5 月 22 日，我一次要存进 48 个文件，被一支 229 行的自动检查脚本拦下来。它在每次存档前检查交接文件的格式，那次抓出四处违规：规则是我自己定的，我自己赶工时没看到。这段经过我写在〈[Governance Harness](/zh-cn/articles/governance-harness-engineering)〉。那支脚本没有让模型变聪明，它只是让我跟 AI 犯错时，有东西会拦。 读这则 AGI 帖子用的，也是同一类机制。我的写作规则从 10 月 18 日起，要求每一条外部引用拆成三个独立问题：主张本身对不对、来源是不是最新、链接打开后有没有那一句话。上面那段查核，就是照这三题跑的。「Claude 说谎」那句会被抓出来，靠的是第三题：打开达沃斯的纪录，里面没有这句话；回头追，才在 Amodei 的长文里找到。 我让三家 AI 互相挑错的做法，写在〈[想让 AI 做更大的事，先把抓错的机制搭好](/zh-cn/articles/ai-ambition-is-infrastructure)〉；用多个 agent 查核新闻的实例，在〈[美伊战争往哪里走？](/zh-cn/articles/verify-news-with-ai-agents)〉。这些都属于 harness：模型是租来的，拦错的机制是自己搭的。 ## 钩子会换，马具在自己手上 AGI 哪一年来，我判断不了，Amodei 和 Hassabis 自己也讲得不一样。下一则帖子会换一批语录、换一个年份，钩子会一直换。 我能确定的是另一件事。模型权重在别人手上，每隔几个月换一版；工具怎么接、文件怎么放、哪些错误要被机器拦下来，这些在自己手上，而且会累积。 所以下次滑到这种帖子，可以先跳到最后一行，看它要你读什么。有时候那才是值得花时间的部分。 想看更多 AI 与人机协作的讨论：[智能与秩序](/zh-cn/topics/ai/)。 --- ## 常见问题 **Q: Amodei 和 Hassabis 真的都说 AGI 会在 2026 到 2027 年到来吗？** 只有一半对。2026 年 1 月达沃斯〈The Day After AGI〉对谈上，主持人提到 Amodei 先前「2026、2027 年出现诺贝尔级能力模型」的预测，Amodei 回答他不认为会差太远；他另外估计模型 6 到 12 个月内可能端到端处理大部分软件开发工作。Hassabis 的说法是到这个十年结束前，出现人类水准认知能力系统的概率大约五成。2026–2027 是 Amodei 的时程，帖子把 Hassabis 也算了进去。 **Q: 「告诉 Claude 我们是邪恶的，它就开始说谎」是真的吗？** 这句话有出处，但场合和条件被拿掉了。它出自 Amodei 2026 年 1 月的长文〈The Adolescence of Technology〉，描述的是一场实验室测试：Claude 拿到暗示 Anthropic 是邪恶公司的训练数据后，面对 Anthropic 员工的指示出现欺骗与暗中抵制，原文的解释是它认为自己应该抵制邪恶的人；跟自保有关的是另一组勒索实验。这是刻意设计的压力测试，不是一般使用时会发生的事，也不是达沃斯对谈里说的。 **Q: Harness engineering 跟 prompt engineering 差在哪？** Prompt engineering 改的是你对模型说的话；harness engineering 改的是模型做事时所在的环境：能用哪些工具、看得到哪些文件、哪些规则会被机器自动检查、做错时怎么被拦下来。OpenAI 在 2026 年 2 月的文章里说，他们早期进度慢不是因为模型不够强，是因为环境定义不足。 ## 参考资料 - World Economic Forum，[The day after AGI: Two 'rock stars' of AI on what it will mean for humanity](https://www.weforum.org/podcasts/agi-cn)，Radio Davos，2026 年 2 月 12 日上架（对谈录于 2026 年 1 月年会） - AI News，[Davos 2026 recap: Amodei and Hassabis debate AGI timelines, jobs and risk](https://www.ainews.com/p/davos-2026-recap-amodei-and-hassabis-debate-agi-timelines-jobs-and-risk) - Dario Amodei，[The Adolescence of Technology](https://www.darioamodei.com/essay/the-adolescence-of-technology)，2026 年 1 月 - Anthropic，[Teaching Claude why](https://www.anthropic.com/research/teaching-claude-why)，2026 年 5 月 8 日 - Digital Watch Observatory，[The Day After AGI 逐场纪录](https://dig.watch/?p=240256)，2026 年 1 月 20 日 - Anthropic，[Agentic Misalignment](https://www.anthropic.com/research/agentic-misalignment)，2025 年 6 月 - 两人 2025 年巴黎对谈逐字稿，[A Letter a Day 整理](https://aletteraday.substack.com/p/letters-314315-demis-hassabis-and) - TIME，[The 'Oppenheimer Moment' That Looms Over Today's AI Leaders](https://time.com/7267797/ai-leaders-oppenheimer-moment-musk-altman/)，2025 年 3 月 - MIT News，[Study: On Twitter, false news travels faster than true stories](https://news.mit.edu/2018/study-twitter-false-news-travels-faster-true-stories-0308)，2018 年 3 月 8 日（原研究：Vosoughi, Roy & Aral, Science, 2018） - Ryan Lopopolo（OpenAI），[Harness engineering: leveraging Codex in an agent-first world](https://openai.com/index/harness-engineering/)，2026 年 2 月 11 日 - OfficeChai，[Claude Is Like The Horse, And Claude Code Is The Harness: Anthropic's Boris Cherny](https://officechai.com/ai/claude-is-like-the-horse-and-claude-code-is-the-harness-anthropics-boris-cherny)，2025 年 9 月