TL;DR:Addy Osmani 提醒,就算同时跑很多 agent,看输出的还是只有一双眼睛。模型越好,明显错误越少,人越容易从「交出工作」滑到「交出判断」。提醒自己多检查不够,产出一多就会被省掉。我从自己踩过的假绿灯,整理出三个做进流程的机制:成功信号要能说「不知道」、审查者不知道你的结论、完成的标准开工前写好。

8 月 9 日,我推送到镜像前的 git 健检连续崩了三次。它负责确认几个镜像的版本有没有分歧,每次都回报「非分歧」。实际上其中一个落后三个 commit,里面还有一个安全修补。健检在侦测还没跑完的地方就崩了,然后照着我当初写死的字符串,回报一个它没验证过的结论。这件事我在〈AI 每天替我巡系统,直到守门的那一支自己坏掉〉写过。

三个月后,我读到 Addy Osmani 的〈Critical thinking when agents do the work〉。他的 X 简介写着在 Anthropic 做 Claude Code,这篇是他个人的看法。他自己是 agent 的重度使用者,也说明这篇不是要大家少用 agent。让我想起那三次「非分歧」的,是开头这句:就算同时跑很多 agent,“you still only have one pair of eyes on the outputs”(看输出的眼睛还是只有一双)。

认知卸载、顺从、投降:三段光谱是什么?

Addy 把人和 AI 的关系排成一条光谱。

最上面是认知卸载(cognitive offloading):把工作交给 AI,结果仍归你负责。他说他整天都在这样做,也建议大家这样做。中间是 deferral,我译成顺从:工具的输出直接变成你下一步的输入,不再被当成需要验证的假设。最下面是认知投降(cognitive surrender):AI 的答案悄悄变成你的结论,你已经不觉得需要检查。

「认知投降」这个词不是 Addy 发明的。它出自 Wharton 的 Steven Shaw 与 Gideon Nave 今年 1 月写成的论文〈Thinking—Fast, Slow, and Artificial〉。他们在 Kahneman 的直觉(系统一)与深思(系统二)之外,把 AI 当成脑外的「系统三」,并把两种用法分开:卸载是在思考过程中有策略地委托,投降是跳过深思、几乎不检查就采用 AI 的输出。

他们用改编的认知反射测验做了三个对照实验,共 1,372 人、9,593 次作答,偷偷控制 AI 什么时候答对、什么时候答错。第一个实验里,跟不用 AI 的基准相比,AI 答对时正确率高约 25 个百分点,AI 答错时低约 15 个百分点。用了 AI 之后信心上升,答错时也一样。

📊 关键数据

  • 实验规模:3 个预先注册实验,合计 1,372 人、9,593 次作答(Shaw & Nave, 2026)
  • AI 答对:第一个实验中,正确率比基准高约 25 个百分点
  • AI 答错:同一实验中,正确率比基准低约 15 个百分点,信心照样上升

Addy 描述的滑落是渐进的:第一个答案仔细读,下一个用扫的,再下一个只看结构,直到有人问你某一行在做什么,你解释不出来。

四格漫画:模型越好,为什么越容易交出判断?把工作交给 AI,结果仍归你负责。工具的输出直接变成你下一步的输入,不再被当成需要验证的假设。AI 的答案悄悄变成你的结论,你已经不觉得需要检查。完成的工作堆得比你看得还快时,再多开一个 session 没有用。产出多到你没办法为它背书时,你已经不是在审,只是在祈祷。

模型越好,为什么越容易交出判断?

直觉上,AI 越准,越不需要盯。Addy 的观察刚好相反:模型进步后,明显错误的比例变低,大部分输出写得好、大致正确,人自然就不会再多看一眼。错误变少,但没有消失;剩下的那些,更容易一路过关。

Anthropic 自己的研究也碰到同一件事。2025 年 8 月他们调查了 132 位工程师和研究员,有人担心深一层的技术能力会萎缩,研究页把它叫作「监督悖论」:要用好 Claude 得监督它,而监督它需要的编程能力,正是过度依赖 AI 会退化的那一块。今年 10 月另一份内部就业研究写得更直接:agent 的产出加速之后,人的注意力成了瓶颈;连非技术员工,要把自己的 agent 产出全部读完,也要花掉半个工作周。

这对我这种一个人带好几个 agent 的工作方式特别有感。agent 可以再开一个,眼睛不能。

绿灯到底证明了什么?

Addy 的验证原则只有两句:绿灯亮了,问它证明了什么;再问它没证明什么。

我回头看自己的记录,同一题出现过两次。

第一次就是开头那个健检。它的绿灯证明的只是「印了一行字」,没证明「分歧真的侦测过」:它其实崩在侦测还没跑完的地方。

第二次是我让 Codex 审查 Claude 写的工具(〈让 Codex 挑 Claude 的错〉)。原本的验收是「最后消息不是空白」。这能挡住程序退出却没留下文字的失败,但没办法证明那段文字读对了标的、涵盖了范围。

两次的共同点,是我让一个写死的成功信号,替我回答了它根本没问过的问题。这就是顺从:工具的输出直接当成下一步的输入。

这篇稿子,差点也是一次顺从

这篇的初稿是我请 Claude 起的。我交给它一份另一个 AI 整理的 Addy 文章笔记,里面写到「每周一次校准练习」和「如果 AI 不存在,你会有多迷路」。Claude 再请 Perplexity 去查原文。

第一轮搜索拿回来的原文段落里,没有这两句。Claude 据此在初稿写了一段:笔记里有两句找不到出处,两个 AI 互相印证,不等于回到来源。

审稿时,Antigravity 把这段标成必须修改:作者自己承认只读到搜索收录的段落,就不能把「没找到」写成结论。Claude 回头再查,两句都在原文,在接近结尾的「日常做法」那一节。

Addy 文中刚好提醒过这种情况:每个 agent 都把上一个 agent 的摘要接进来,到第三个 agent 时,已经没有人读过原始文件。

被抓包的不是那份笔记,是起稿的那一轮。它拿到一半的原文,就替整篇下了结论,而且这个结论刚好跟文章主题很配,读起来很顺。起稿的那一轮自己没有发现;拦下它的,是一个事先不知道结论的审查者。

提醒自己多检查,为什么不够?

Addy 的文章里有一长串自问:问之前有没有先形成假设、这个答案要错需要什么条件成立、敢不敢在维护这段代码的人面前为它下注。这些问题都对,我也照着问。

问题在于它们都靠自律。这篇的前提是 agent 越开越多、注意力只有一份;产出一多,最先被省掉的,就是这种要自己记得做的检查。我的健检那次、Codex 那次、这篇起稿那次,这三次我都知道要检查,只是那一刻没有东西逼我检查。

Addy 也指了方向。他提到让 Claude Code 用一个全新脉络的子 agent 检查自己的工作,并说这一步值得做进流程,让它每次都跑,不要只在想起来的时候跑。

他也谈到产出量。他把 agent 产出的量,和你愿意挂名的量之间的落差,叫作 orchestration tax。完成的工作堆得比你看得还快时,再多开一个 session 没有用,要先把检查收紧,让需要你看的东西变少,不然就放慢。他说,产出多到你没办法为它背书时,你已经不是在审,只是在祈祷。另一个做法也在同一篇:东西没达标时,把原因写进共用设置、hook 或测试,让同样的事不再发生。

所以我把自问改成机制。下面三个,都是我已经在用的。

三个做进流程的机制

一、成功信号要能说「不知道」。 健检那次之后,我把回报字符串改成「分歧状态未知(侦测未完成)」,旁边留了一句注记:措辞不准再改回「非分歧」。分歧与否是未知,不是已排除。检查没跑完,结果就是未知,不能用一句写死的成功字符串带过。这条不需要任何人记得去问「它没检查什么」,信号自己会说。

二、审查者不知道你的结论。 我请 codex、grok、antigravity 三家 AI 审稿时,只给标的和标准,不先说我认为没问题(做法写在〈想让 AI 做更大的事,先把抓错的机制搭好〉)。验收也拆开:程序有输出、正常跑完、审查通过,是三个不同的条件。这篇稿子那段错误,就是这样拦下来的。换成人也一样,请同事看东西时,先别说你觉得没问题。

三、完成的标准在开工前写好。 Addy 的说法是:事先定义什么叫验证过,因为事后你会替任何结果找理由;终点要是看得到的东西,例如测试通过、一张截图、一段日志。我网站的部署脚本,只有五个条件都成立才记为成功:部署指令成功;部署后读得到线上正式版的 ID;确认这个 ID 就是这一次部署;上线后的自动检查完整跑完、全部通过;检查跑完后再读一次正式版 ID,仍然是这一次。哪一步读不到结果,就不记成功。

这三个机制有一个共同点:它们不要求我在疲倦或赶时间的那一刻还保持警觉。

机制也会坏

我不想把这写成万灵丹。〈AI 每天替我巡系统〉那篇讲的,正是守门的那一支自己坏掉。机制做好了,也会变成新的绿灯。

所以机制之外,还是要留一点由人回头查的时间,查的对象是机制本身。Addy 给了两个固定练习:每周做一点不靠 agent 的事,挑那种忘了怎么做会很麻烦的;每月写下自己已经不再做的事,再决定哪些可以放掉。他也重提自己旧文里的一个问题:如果 AI 不存在,你会有多迷路?

那双眼睛

Addy 在文中有一句:工作可以卸载,大部分的检查也可以卸载,责任不行。

agent 可以一直加,眼睛还是只有一双。既然眼睛不够用,就把它最该看的地方标出来:哪个信号该回报「未知」、哪份审查没有被你的结论带着走、哪个「完成」在开工前就说好了。

这篇放在「AI 与人类秩序」的人机协作底下。下一次看到「完成」两个字,我们要先问的是它检查了什么,以及它没检查什么。

参考资料

以上链接于 2026 年 11 月 6 日查证;Addy 的 X 原文当天以浏览器开启全文逐句核对。