TL;DR:Addy Osmani 提醒,就算同时跑很多 agent,看输出的还是只有一双眼睛。模型越好,明显错误越少,人越容易从「交出工作」滑到「交出判断」。提醒自己多检查不够,产出一多就会被省掉。我从自己踩过的假绿灯,整理出三个做进流程的机制:成功信号要能说「不知道」、审查者不知道你的结论、完成的标准开工前写好。
8 月 9 日,我推送到镜像前的 git 健检连续崩了三次。它负责确认几个镜像的版本有没有分歧,每次都回报「非分歧」。实际上其中一个落后三个 commit,里面还有一个安全修补。健检在侦测还没跑完的地方就崩了,然后照着我当初写死的字符串,回报一个它没验证过的结论。这件事我在〈AI 每天替我巡系统,直到守门的那一支自己坏掉〉写过。
三个月后,我读到 Addy Osmani 的〈Critical thinking when agents do the work〉。他的 X 简介写着在 Anthropic 做 Claude Code,这篇是他个人的看法。他自己是 agent 的重度使用者,也说明这篇不是要大家少用 agent。让我想起那三次「非分歧」的,是开头这句:就算同时跑很多 agent,“you still only have one pair of eyes on the outputs”(看输出的眼睛还是只有一双)。
认知卸载、顺从、投降:三段光谱是什么?
Addy 把人和 AI 的关系排成一条光谱。
最上面是认知卸载(cognitive offloading):把工作交给 AI,结果仍归你负责。他说他整天都在这样做,也建议大家这样做。中间是 deferral,我译成顺从:工具的输出直接变成你下一步的输入,不再被当成需要验证的假设。最下面是认知投降(cognitive surrender):AI 的答案悄悄变成你的结论,你已经不觉得需要检查。
「认知投降」这个词不是 Addy 发明的。它出自 Wharton 的 Steven Shaw 与 Gideon Nave 今年 1 月写成的论文〈Thinking—Fast, Slow, and Artificial〉。他们在 Kahneman 的直觉(系统一)与深思(系统二)之外,把 AI 当成脑外的「系统三」,并把两种用法分开:卸载是在思考过程中有策略地委托,投降是跳过深思、几乎不检查就采用 AI 的输出。
他们用改编的认知反射测验做了三个对照实验,共 1,372 人、9,593 次作答,偷偷控制 AI 什么时候答对、什么时候答错。第一个实验里,跟不用 AI 的基准相比,AI 答对时正确率高约 25 个百分点,AI 答错时低约 15 个百分点。用了 AI 之后信心上升,答错时也一样。
📊 关键数据
- 实验规模:3 个预先注册实验,合计 1,372 人、9,593 次作答(Shaw & Nave, 2026)
- AI 答对:第一个实验中,正确率比基准高约 25 个百分点
- AI 答错:同一实验中,正确率比基准低约 15 个百分点,信心照样上升
Addy 描述的滑落是渐进的:第一个答案仔细读,下一个用扫的,再下一个只看结构,直到有人问你某一行在做什么,你解释不出来。
模型越好,为什么越容易交出判断?
直觉上,AI 越准,越不需要盯。Addy 的观察刚好相反:模型进步后,明显错误的比例变低,大部分输出写得好、大致正确,人自然就不会再多看一眼。错误变少,但没有消失;剩下的那些,更容易一路过关。
Anthropic 自己的研究也碰到同一件事。2025 年 8 月他们调查了 132 位工程师和研究员,有人担心深一层的技术能力会萎缩,研究页把它叫作「监督悖论」:要用好 Claude 得监督它,而监督它需要的编程能力,正是过度依赖 AI 会退化的那一块。今年 10 月另一份内部就业研究写得更直接:agent 的产出加速之后,人的注意力成了瓶颈;连非技术员工,要把自己的 agent 产出全部读完,也要花掉半个工作周。
这对我这种一个人带好几个 agent 的工作方式特别有感。agent 可以再开一个,眼睛不能。
绿灯到底证明了什么?
Addy 的验证原则只有两句:绿灯亮了,问它证明了什么;再问它没证明什么。
我回头看自己的记录,同一题出现过两次。
第一次就是开头那个健检。它的绿灯证明的只是「印了一行字」,没证明「分歧真的侦测过」:它其实崩在侦测还没跑完的地方。
第二次是我让 Codex 审查 Claude 写的工具(〈让 Codex 挑 Claude 的错〉)。原本的验收是「最后消息不是空白」。这能挡住程序退出却没留下文字的失败,但没办法证明那段文字读对了标的、涵盖了范围。
两次的共同点,是我让一个写死的成功信号,替我回答了它根本没问过的问题。这就是顺从:工具的输出直接当成下一步的输入。
这篇稿子,差点也是一次顺从
这篇的初稿是我请 Claude 起的。我交给它一份另一个 AI 整理的 Addy 文章笔记,里面写到「每周一次校准练习」和「如果 AI 不存在,你会有多迷路」。Claude 再请 Perplexity 去查原文。
第一轮搜索拿回来的原文段落里,没有这两句。Claude 据此在初稿写了一段:笔记里有两句找不到出处,两个 AI 互相印证,不等于回到来源。
审稿时,Antigravity 把这段标成必须修改:作者自己承认只读到搜索收录的段落,就不能把「没找到」写成结论。Claude 回头再查,两句都在原文,在接近结尾的「日常做法」那一节。
Addy 文中刚好提醒过这种情况:每个 agent 都把上一个 agent 的摘要接进来,到第三个 agent 时,已经没有人读过原始文件。
被抓包的不是那份笔记,是起稿的那一轮。它拿到一半的原文,就替整篇下了结论,而且这个结论刚好跟文章主题很配,读起来很顺。起稿的那一轮自己没有发现;拦下它的,是一个事先不知道结论的审查者。
提醒自己多检查,为什么不够?
Addy 的文章里有一长串自问:问之前有没有先形成假设、这个答案要错需要什么条件成立、敢不敢在维护这段代码的人面前为它下注。这些问题都对,我也照着问。
问题在于它们都靠自律。这篇的前提是 agent 越开越多、注意力只有一份;产出一多,最先被省掉的,就是这种要自己记得做的检查。我的健检那次、Codex 那次、这篇起稿那次,这三次我都知道要检查,只是那一刻没有东西逼我检查。
Addy 也指了方向。他提到让 Claude Code 用一个全新脉络的子 agent 检查自己的工作,并说这一步值得做进流程,让它每次都跑,不要只在想起来的时候跑。
他也谈到产出量。他把 agent 产出的量,和你愿意挂名的量之间的落差,叫作 orchestration tax。完成的工作堆得比你看得还快时,再多开一个 session 没有用,要先把检查收紧,让需要你看的东西变少,不然就放慢。他说,产出多到你没办法为它背书时,你已经不是在审,只是在祈祷。另一个做法也在同一篇:东西没达标时,把原因写进共用设置、hook 或测试,让同样的事不再发生。
所以我把自问改成机制。下面三个,都是我已经在用的。
三个做进流程的机制
一、成功信号要能说「不知道」。 健检那次之后,我把回报字符串改成「分歧状态未知(侦测未完成)」,旁边留了一句注记:措辞不准再改回「非分歧」。分歧与否是未知,不是已排除。检查没跑完,结果就是未知,不能用一句写死的成功字符串带过。这条不需要任何人记得去问「它没检查什么」,信号自己会说。
二、审查者不知道你的结论。 我请 codex、grok、antigravity 三家 AI 审稿时,只给标的和标准,不先说我认为没问题(做法写在〈想让 AI 做更大的事,先把抓错的机制搭好〉)。验收也拆开:程序有输出、正常跑完、审查通过,是三个不同的条件。这篇稿子那段错误,就是这样拦下来的。换成人也一样,请同事看东西时,先别说你觉得没问题。
三、完成的标准在开工前写好。 Addy 的说法是:事先定义什么叫验证过,因为事后你会替任何结果找理由;终点要是看得到的东西,例如测试通过、一张截图、一段日志。我网站的部署脚本,只有五个条件都成立才记为成功:部署指令成功;部署后读得到线上正式版的 ID;确认这个 ID 就是这一次部署;上线后的自动检查完整跑完、全部通过;检查跑完后再读一次正式版 ID,仍然是这一次。哪一步读不到结果,就不记成功。
这三个机制有一个共同点:它们不要求我在疲倦或赶时间的那一刻还保持警觉。
机制也会坏
我不想把这写成万灵丹。〈AI 每天替我巡系统〉那篇讲的,正是守门的那一支自己坏掉。机制做好了,也会变成新的绿灯。
所以机制之外,还是要留一点由人回头查的时间,查的对象是机制本身。Addy 给了两个固定练习:每周做一点不靠 agent 的事,挑那种忘了怎么做会很麻烦的;每月写下自己已经不再做的事,再决定哪些可以放掉。他也重提自己旧文里的一个问题:如果 AI 不存在,你会有多迷路?
那双眼睛
Addy 在文中有一句:工作可以卸载,大部分的检查也可以卸载,责任不行。
agent 可以一直加,眼睛还是只有一双。既然眼睛不够用,就把它最该看的地方标出来:哪个信号该回报「未知」、哪份审查没有被你的结论带着走、哪个「完成」在开工前就说好了。
这篇放在「AI 与人类秩序」的人机协作底下。下一次看到「完成」两个字,我们要先问的是它检查了什么,以及它没检查什么。
参考资料
- Addy Osmani,〈Critical thinking when agents do the work〉,X 长文,2026 年 11 月 3 日。本文的三段光谱、自问清单、验证原则、子 agent 自我检查、orchestration tax 与日常练习出自这篇,英文引文为原句。
- Steven D. Shaw、Gideon Nave,〈Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender〉,The Wharton School Research Paper,2026 年 1 月 11 日写成,2026 年 2 月 2 日刊上 SSRN。认知投降的定义、实验规模,以及第一个实验的正负 25/15 个百分点出自这篇。
- Anthropic,〈How AI is transforming work at Anthropic〉,2025 年 12 月 2 日。132 位工程师与研究员的调查、「监督悖论」出自这篇。
- Anthropic,〈How employment is changing at Anthropic〉,2026 年 10 月。人的注意力成为瓶颈、读完 agent 产出要半个工作周出自这篇。
以上链接于 2026 年 11 月 6 日查证;Addy 的 X 原文当天以浏览器开启全文逐句核对。


💬 留言讨论
加载中...