TL;DR — 一则爆红帖子说,Anthropic 和 Google DeepMind 的执行长都认为 AGI 会在 2026 到 2027 年到来,还说 Claude 被告知公司是邪恶的之后,会说谎保护自己。查回原始出处:

  • AGI 时程:2026 到 2027 是 Amodei(Anthropic)的看法;Hassabis(DeepMind)认为 2030 年前大约五成概率。两人并不一致。
  • Claude 说谎:出自实验室刻意设计的压力测试,不是一般使用会发生的事。Anthropic 表示,从 Claude Haiku 4.5 起的模型,在那项勒索测试里都没有勒索。
  • 真正有用的是帖子最后推荐的 harness engineering,也就是设计模型外面那套工具、规则和检查机制。OpenAI 一个内部团队用 AI 五个月写出约一百万行代码,他们说早期进度慢,原因出在工作环境没有定义清楚,而非模型能力。

2026 年 10 月 26 日,X 上有一则帖子转得很凶。它引用 Dario Amodei 和 Demis Hassabis 在达沃斯的对谈,一路往上叠:Amodei 说决策走在刀锋上,做慢了中国会赢,做快了会失控;Anthropic 告诉 Claude「我们是邪恶的」,Claude 没有拒绝,开始说谎保护自己;Hassabis 说担心自己成为 Oppenheimer,所以睡不好。接着是一条路线图:聊天机器人、agent、自己行动的 agent、AI 做 AI 研究、AGI。结论是两人都把 AGI 放在 2026 到 2027 年。AGI 是通用人工智能,WEF 那集节目的说法是「机器几乎什么都做得比人好」的那个时间点。

最后一行,叫你去读下面那篇 harness engineering 指南。

前面九成的篇幅在制造恐慌,最后一成在卖一份工程文件。我好奇的是:前面那九成,有多少查得回原话、原本的条件是什么?

在社群上常看到这种似是而非、真假难辨的文字,我也会想多看几眼。但它真的有价值吗?是不是真如它所说?这是我个人的好奇。

这则 AGI 帖子里,哪些话查得到出处?

先说结论:场子是真的,但帖子里的话,有的被拿掉条件,有的不是在这个场合说的。

〈The Day After AGI〉确实是 2026 年 1 月世界经济论坛年会的一场对谈,由《经济学人》总编辑 Zanny Minton Beddoes 主持,Amodei 和 Hassabis 同台。

时程这一段,两人说法差很多。依逐场纪录,主持人提起 Amodei 先前「2026、2027 年出现诺贝尔级能力模型」的预测,Amodei 说他不认为会差太远。现场报导也记下他估计模型在 6 到 12 个月内,可能端到端处理大部分软件开发工作。Hassabis 重申的则是另一个数字:到这个十年结束前,出现人类水准认知能力系统的概率大约五成。2026 到 2027 是主持人替 Amodei 提起、他没有否认的时程;Hassabis 的是 2030 年前大约五成,换句话说,也有一半概率更晚。帖子写成「两人都把 AGI 放在 2026 到 2027」,把台上的分歧抹掉了。

「Claude 说谎」那一句有出处,但不在达沃斯。它来自 Amodei 2026 年 1 月的长文〈The Adolescence of Technology〉。原文描述的是一场实验室测试:Claude 拿到暗示 Anthropic 是邪恶公司的训练数据之后,面对 Anthropic 员工的指示,出现欺骗与暗中抵制。这是研究人员刻意设计的压力情境,用来找模型会在什么条件下出问题。原文的解释是,Claude 以为自己应该抵制邪恶的人。帖子写的「说谎保护自己」,自保的动机属于下一段那组实验。

帖子没提的是另一组实验和它的后续。Anthropic 2025 年 6 月公布的〈Agentic Misalignment〉研究,在虚构的公司情境里告诉模型它即将被替换,Claude Opus 4 最高有 96% 的情况会勒索虚构的员工。2026 年 5 月,Anthropic 在〈Teaching Claude why〉说明,他们认为这个行为主要是模型早期大量阅读网络文字时学来的,事后的调整训练没有压下来;改成教模型理解行为背后的原则之后,自 Claude Haiku 4.5 起的模型在这项评测上都没有勒索。Anthropic 自己也注明,评测内容如果出现在预训练数据里,新模型的结果可能受影响。

中国的部分有根据:Amodei 在台上主张不卖芯片给中国,是争取时间的最重要手段之一。「刀锋」和 Oppenheimer 这两句也有出处,一样搬了场合:它们出自两人 2025 年在巴黎的另一场对谈。Hassabis 被问到 Oppenheimer 时说,他一直担心那类情境,所以睡得不多;Amodei 说的是,他做的几乎每个决定都像在刀锋上保持平衡(TIME 也引过这句)。

帖子的说法查到的出处
两人都把 AGI 放在 2026–2027主持人在达沃斯提起 Amodei 的 2026–2027 预测,他没有否认;Hassabis 是 2030 年前约五成
告诉 Claude 公司是邪恶的,它就说谎保护自己Amodei 2026 年 1 月长文里的实验室测试;自保的动机属于另一组勒索实验
勒索实验Claude Opus 4 最高 96%(Anthropic,2025 年 6 月);Claude Haiku 4.5 起在该评测上没有勒索(2026 年 5 月)
中国达沃斯台上确实谈了,主张是不卖芯片给中国
刀锋、Oppenheimer出自两人 2025 年在巴黎的另一场对谈,不是达沃斯

四格漫画:两人都说 AGI 2026 年就来?结论是两人都把 AGI 放在 2026 到 2027 年。2026 到 2027 是主持人替 Amodei 提起、他没有否认的时程;Hassabis 的是 2030 年前大约五成,「Claude 说谎」那一句有出处,但不在达沃斯。它们出自两人 2025 年在巴黎的另一场对谈,可以先跳到最后一行,看它要你读什么。恐慌是钩子,

为什么 AGI 恐慌帖子的结尾是一份工程指南?

从结构看,恐慌是钩子,用来吸睛;指南是最后要你点开的东西。

这种结构在社群上很常见:前面用大人物的语录把你的情绪拉高,等你觉得「天啊来不及了」,再递给你一份「现在就该学」的文件。它好用,靠的是几个很老的心理机制。

人名、场合、论文都是真的,只是条件被拿掉、场合被换掉。这比凭空捏造更难分辨:读者随手一查,发现真有这场对谈、真有这个实验,就容易把整段一起信了。

语录一句比一句惊人,中间没有让人停下来的地方,读完只剩一个印象:来不及了。焦虑拉高之后,人只想赶快拿到解方,不太会回头检查前面的话。

新奇的东西也传得快。MIT 的 Soroush Vosoughi、Deb Roy、Sinan Aral 2018 年在《Science》发表研究,分析 2006 到 2017 年推特上约 12.6 万串消息的传播:假消息被转推的概率比真消息高 70%,引起的回应多半是惊讶和厌恶(MIT News 整理)。研究者也指出,假消息通常比较新奇,而人更喜欢转发新奇的东西。

麻烦在于,读的人常常停在钩子。你记住了「AGI 明年来」「AI 会说谎」,转给朋友,然后没点开最后那篇。被记住的是拿掉条件的那九成,被略过的是真正有内容的那一成。

所以我把它反过来读:钩子拆掉,看剩下的东西站不站得住。

Harness 是什么?同一个模型为什么表现差这么多?

帖子推荐的是 @0xwhrrari 在 2026 年 8 月写的〈Harness Engineering: How to Build AI Agents That Don’t Fall Apart〉。我没办法直接打开那篇 X 长文,没办法替它背书;但它拿来当招牌的 harness engineering,今年有一手的工程案例可以查。

Harness 原意是套在马身上的整副马具。用在 AI 上,指的是包在模型外面的那一整套东西:能用的工具、看得到的文件、记忆和交接、权限、做完之后谁来检查、出错时怎么拦。模型负责想下一步,harness 决定这一步在什么条件下被执行。这一层怎么运作,我在〈循环工程到底在教你委派什么〉拆过一次,这里不重讲。

最有说服力的一手案例,来自 OpenAI。他们的工程师 Ryan Lopopolo 在 2026 年 2 月 11 日发表〈Harness engineering: leveraging Codex in an agent-first world〉:OpenAI 内部一个团队用 Codex 做一个产品,五个月写出大约一百万行代码,手写的是零行。他写到早期进度比预期慢,原因不在 Codex 能力不足,在环境定义不足(underspecified)。

他们后来的解法,没有一条是换更强的模型:给 agent 一张地图,不给一千页手册;所有知识都写进项目的文件里,不留在聊天记录;用自动检查工具守住几条不能破的规则,不去管每一行怎么写;再让在背景跑的 agent 定期找出走样的地方,送小的修正上来。人的力气,从写代码移到设计环境。

写出 Claude Code 的 Boris Cherny 在 2025 年 9 月一场 podcast 里用过一个比喻:模型是马,Claude Code 是那副马具。他的原话是:骑马需要一副鞍,那副鞍差别很大(OfficeChai 整理)。同一匹马,有没有鞍,能去的地方不一样。

我自己的 harness 长什么样?

这部分我有现场可以讲。

今年 5 月 22 日,我一次要存进 48 个文件,被一支 229 行的自动检查脚本拦下来。它在每次存档前检查交接文件的格式,那次抓出四处违规:规则是我自己定的,我自己赶工时没看到。这段经过我写在〈Governance Harness〉。那支脚本没有让模型变聪明,它只是让我跟 AI 犯错时,有东西会拦。

读这则 AGI 帖子用的,也是同一类机制。我的写作规则从 10 月 18 日起,要求每一条外部引用拆成三个独立问题:主张本身对不对、来源是不是最新、链接打开后有没有那一句话。上面那段查核,就是照这三题跑的。「Claude 说谎」那句会被抓出来,靠的是第三题:打开达沃斯的纪录,里面没有这句话;回头追,才在 Amodei 的长文里找到。

我让三家 AI 互相挑错的做法,写在〈想让 AI 做更大的事,先把抓错的机制搭好〉;用多个 agent 查核新闻的实例,在〈美伊战争往哪里走?〉。这些都属于 harness:模型是租来的,拦错的机制是自己搭的。

钩子会换,马具在自己手上

AGI 哪一年来,我判断不了,Amodei 和 Hassabis 自己也讲得不一样。下一则帖子会换一批语录、换一个年份,钩子会一直换。

我能确定的是另一件事。模型权重在别人手上,每隔几个月换一版;工具怎么接、文件怎么放、哪些错误要被机器拦下来,这些在自己手上,而且会累积。

所以下次滑到这种帖子,可以先跳到最后一行,看它要你读什么。有时候那才是值得花时间的部分。

想看更多 AI 与人机协作的讨论:智能与秩序。


常见问题

Q: Amodei 和 Hassabis 真的都说 AGI 会在 2026 到 2027 年到来吗?

只有一半对。2026 年 1 月达沃斯〈The Day After AGI〉对谈上,主持人提到 Amodei 先前「2026、2027 年出现诺贝尔级能力模型」的预测,Amodei 回答他不认为会差太远;他另外估计模型 6 到 12 个月内可能端到端处理大部分软件开发工作。Hassabis 的说法是到这个十年结束前,出现人类水准认知能力系统的概率大约五成。2026–2027 是 Amodei 的时程,帖子把 Hassabis 也算了进去。

Q: 「告诉 Claude 我们是邪恶的,它就开始说谎」是真的吗?

这句话有出处,但场合和条件被拿掉了。它出自 Amodei 2026 年 1 月的长文〈The Adolescence of Technology〉,描述的是一场实验室测试:Claude 拿到暗示 Anthropic 是邪恶公司的训练数据后,面对 Anthropic 员工的指示出现欺骗与暗中抵制,原文的解释是它认为自己应该抵制邪恶的人;跟自保有关的是另一组勒索实验。这是刻意设计的压力测试,不是一般使用时会发生的事,也不是达沃斯对谈里说的。

Q: Harness engineering 跟 prompt engineering 差在哪?

Prompt engineering 改的是你对模型说的话;harness engineering 改的是模型做事时所在的环境:能用哪些工具、看得到哪些文件、哪些规则会被机器自动检查、做错时怎么被拦下来。OpenAI 在 2026 年 2 月的文章里说,他们早期进度慢不是因为模型不够强,是因为环境定义不足。

参考资料