TL;DR:Addy Osmani 提醒,就算同時跑很多 agent,看輸出的還是只有一雙眼睛。模型越好,明顯錯誤越少,人越容易從「交出工作」滑到「交出判斷」。提醒自己多檢查不夠,產出一多就會被省掉。我從自己踩過的假綠燈,整理出三個做進流程的機制:成功訊號要能說「不知道」、審查者不知道你的結論、完成的標準開工前寫好。

8 月 9 日,我推送到鏡像前的 git 健檢連續崩了三次。它負責確認幾個鏡像的版本有沒有分歧,每次都回報「非分歧」。實際上其中一個落後三個 commit,裡面還有一個安全修補。健檢在偵測還沒跑完的地方就崩了,然後照著我當初寫死的字串,回報一個它沒驗證過的結論。這件事我在〈AI 每天替我巡系統,直到守門的那一支自己壞掉〉寫過。

三個月後,我讀到 Addy Osmani 的〈Critical thinking when agents do the work〉。他的 X 簡介寫著在 Anthropic 做 Claude Code,這篇是他個人的看法。他自己是 agent 的重度使用者,也說明這篇不是要大家少用 agent。讓我想起那三次「非分歧」的,是開頭這句:就算同時跑很多 agent,“you still only have one pair of eyes on the outputs”(看輸出的眼睛還是只有一雙)。

認知卸載、順從、投降:三段光譜是什麼?

Addy 把人和 AI 的關係排成一條光譜。

最上面是認知卸載(cognitive offloading):把工作交給 AI,結果仍歸你負責。他說他整天都在這樣做,也建議大家這樣做。中間是 deferral,我譯成順從:工具的輸出直接變成你下一步的輸入,不再被當成需要驗證的假設。最下面是認知投降(cognitive surrender):AI 的答案悄悄變成你的結論,你已經不覺得需要檢查。

「認知投降」這個詞不是 Addy 發明的。它出自 Wharton 的 Steven Shaw 與 Gideon Nave 今年 1 月寫成的論文〈Thinking—Fast, Slow, and Artificial〉。他們在 Kahneman 的直覺(系統一)與深思(系統二)之外,把 AI 當成腦外的「系統三」,並把兩種用法分開:卸載是在思考過程中有策略地委託,投降是跳過深思、幾乎不檢查就採用 AI 的輸出。

他們用改編的認知反射測驗做了三個對照實驗,共 1,372 人、9,593 次作答,偷偷控制 AI 什麼時候答對、什麼時候答錯。第一個實驗裡,跟不用 AI 的基準相比,AI 答對時正確率高約 25 個百分點,AI 答錯時低約 15 個百分點。用了 AI 之後信心上升,答錯時也一樣。

📊 關鍵數據

  • 實驗規模:3 個預先註冊實驗,合計 1,372 人、9,593 次作答(Shaw & Nave, 2026)
  • AI 答對:第一個實驗中,正確率比基準高約 25 個百分點
  • AI 答錯:同一實驗中,正確率比基準低約 15 個百分點,信心照樣上升

Addy 描述的滑落是漸進的:第一個答案仔細讀,下一個用掃的,再下一個只看結構,直到有人問你某一行在做什麼,你解釋不出來。

四格漫畫:模型越好,為什麼越容易交出判斷?把工作交給 AI,結果仍歸你負責。工具的輸出直接變成你下一步的輸入,不再被當成需要驗證的假設。AI 的答案悄悄變成你的結論,你已經不覺得需要檢查。完成的工作堆得比你看得還快時,再多開一個 session 沒有用。產出多到你沒辦法為它背書時,你已經不是在審,只是在祈禱。

模型越好,為什麼越容易交出判斷?

直覺上,AI 越準,越不需要盯。Addy 的觀察剛好相反:模型進步後,明顯錯誤的比例變低,大部分輸出寫得好、大致正確,人自然就不會再多看一眼。錯誤變少,但沒有消失;剩下的那些,更容易一路過關。

Anthropic 自己的研究也碰到同一件事。2025 年 8 月他們調查了 132 位工程師和研究員,有人擔心深一層的技術能力會萎縮,研究頁把它叫作「監督悖論」:要用好 Claude 得監督它,而監督它需要的寫程式能力,正是過度依賴 AI 會退化的那一塊。今年 10 月另一份內部就業研究寫得更直接:agent 的產出加速之後,人的注意力成了瓶頸;連非技術員工,要把自己的 agent 產出全部讀完,也要花掉半個工作週。

這對我這種一個人帶好幾個 agent 的工作方式特別有感。agent 可以再開一個,眼睛不能。

綠燈到底證明了什麼?

Addy 的驗證原則只有兩句:綠燈亮了,問它證明了什麼;再問它沒證明什麼。

我回頭看自己的紀錄,同一題出現過兩次。

第一次就是開頭那個健檢。它的綠燈證明的只是「印了一行字」,沒證明「分歧真的偵測過」:它其實崩在偵測還沒跑完的地方。

第二次是我讓 Codex 審查 Claude 寫的工具(〈讓 Codex 挑 Claude 的錯〉)。原本的驗收是「最後訊息不是空白」。這能擋住程式退出卻沒留下文字的失敗,但沒辦法證明那段文字讀對了標的、涵蓋了範圍。

兩次的共同點,是我讓一個寫死的成功訊號,替我回答了它根本沒問過的問題。這就是順從:工具的輸出直接當成下一步的輸入。

這篇稿子,差點也是一次順從

這篇的初稿是我請 Claude 起的。我交給它一份另一個 AI 整理的 Addy 文章筆記,裡面寫到「每週一次校準練習」和「如果 AI 不存在,你會有多迷路」。Claude 再請 Perplexity 去查原文。

第一輪搜尋拿回來的原文段落裡,沒有這兩句。Claude 據此在初稿寫了一段:筆記裡有兩句找不到出處,兩個 AI 互相印證,不等於回到來源。

審稿時,Antigravity 把這段標成必須修改:作者自己承認只讀到搜尋收錄的段落,就不能把「沒找到」寫成結論。Claude 回頭再查,兩句都在原文,在接近結尾的「日常做法」那一節。

Addy 文中剛好提醒過這種情況:每個 agent 都把上一個 agent 的摘要接進來,到第三個 agent 時,已經沒有人讀過原始文件。

被抓包的不是那份筆記,是起稿的那一輪。它拿到一半的原文,就替整篇下了結論,而且這個結論剛好跟文章主題很配,讀起來很順。起稿的那一輪自己沒有發現;攔下它的,是一個事先不知道結論的審查者。

提醒自己多檢查,為什麼不夠?

Addy 的文章裡有一長串自問:問之前有沒有先形成假設、這個答案要錯需要什麼條件成立、敢不敢在維護這段程式碼的人面前為它下注。這些問題都對,我也照著問。

問題在於它們都靠自律。這篇的前提是 agent 越開越多、注意力只有一份;產出一多,最先被省掉的,就是這種要自己記得做的檢查。我的健檢那次、Codex 那次、這篇起稿那次,這三次我都知道要檢查,只是那一刻沒有東西逼我檢查。

Addy 也指了方向。他提到讓 Claude Code 用一個全新脈絡的子 agent 檢查自己的工作,並說這一步值得做進流程,讓它每次都跑,不要只在想起來的時候跑。

他也談到產出量。他把 agent 產出的量,和你願意掛名的量之間的落差,叫作 orchestration tax。完成的工作堆得比你看得還快時,再多開一個 session 沒有用,要先把檢查收緊,讓需要你看的東西變少,不然就放慢。他說,產出多到你沒辦法為它背書時,你已經不是在審,只是在祈禱。另一個做法也在同一篇:東西沒達標時,把原因寫進共用設定、hook 或測試,讓同樣的事不再發生。

所以我把自問改成機制。下面三個,都是我已經在用的。

三個做進流程的機制

一、成功訊號要能說「不知道」。 健檢那次之後,我把回報字串改成「分歧狀態未知(偵測未完成)」,旁邊留了一句註記:措辭不准再改回「非分歧」。分歧與否是未知,不是已排除。檢查沒跑完,結果就是未知,不能用一句寫死的成功字串帶過。這條不需要任何人記得去問「它沒檢查什麼」,訊號自己會說。

二、審查者不知道你的結論。 我請 codex、grok、antigravity 三家 AI 審稿時,只給標的和標準,不先說我認為沒問題(做法寫在〈想讓 AI 做更大的事,先把抓錯的機制搭好〉)。驗收也拆開:程式有輸出、正常跑完、審查通過,是三個不同的條件。這篇稿子那段錯誤,就是這樣攔下來的。換成人也一樣,請同事看東西時,先別說你覺得沒問題。

三、完成的標準在開工前寫好。 Addy 的說法是:事先定義什麼叫驗證過,因為事後你會替任何結果找理由;終點要是看得到的東西,例如測試通過、一張截圖、一段日誌。我網站的部署腳本,只有五個條件都成立才記為成功:部署指令成功;部署後讀得到線上正式版的 ID;確認這個 ID 就是這一次部署;上線後的自動檢查完整跑完、全部通過;檢查跑完後再讀一次正式版 ID,仍然是這一次。哪一步讀不到結果,就不記成功。

這三個機制有一個共同點:它們不要求我在疲倦或趕時間的那一刻還保持警覺。

機制也會壞

我不想把這寫成萬靈丹。〈AI 每天替我巡系統〉那篇講的,正是守門的那一支自己壞掉。機制做好了,也會變成新的綠燈。

所以機制之外,還是要留一點由人回頭查的時間,查的對象是機制本身。Addy 給了兩個固定練習:每週做一點不靠 agent 的事,挑那種忘了怎麼做會很麻煩的;每月寫下自己已經不再做的事,再決定哪些可以放掉。他也重提自己舊文裡的一個問題:如果 AI 不存在,你會有多迷路?

那雙眼睛

Addy 在文中有一句:工作可以卸載,大部分的檢查也可以卸載,責任不行。

agent 可以一直加,眼睛還是只有一雙。既然眼睛不夠用,就把它最該看的地方標出來:哪個訊號該回報「未知」、哪份審查沒有被你的結論帶著走、哪個「完成」在開工前就說好了。

這篇放在「AI 與人類秩序」的人機協作底下。下一次看到「完成」兩個字,我們要先問的是它檢查了什麼,以及它沒檢查什麼。

資料來源

以上連結於 2026 年 11 月 6 日查證;Addy 的 X 原文當天以瀏覽器開啟全文逐句核對。