AI 接手的決定越往上游，越難驗證

AWS 的 Bedrock 團隊原估 30 人 18 個月的工作，6 人靠 agent 輔助 76 天就完成。今天五篇科技素材圍繞同一條線索：AI 正把「怎麼做」的決定權一層層接過去，人要在哪裡守住驗證。另有一篇戲劇訪談，談的是角色與人的貼合。

一、AI 改進自己，卡在「證明有效」比「生成」更貴

發生了什麼：谷歌 DeepMind 的 DreamRSI 讓 AI 在自己過去的真實探索歷史裡「做夢」重播，把「下一步該怎麼探索」這個決策規則本身，變成可以被學習的對象。RSI 指的是遞歸自我改進，也就是 AI 反覆改進自己、讓下一代更強。另一篇播客解讀了 L1 到 L5 的分級框架，分別不在 AI 多聰明，而在原本由人決定的那件事，被交到 AI 手上到哪一層。研究者提醒，結構上滿足 L5（AI 能自己修改改進機制）不等於「有效遞歸」。還必須在獨立、可比較預算的評估下，證明新機制真的做出更強的後繼系統，只在某個基準測試上漲分不算數。目前的瓶頸是：生成一個改進候選的成本越來越低，證明它有效的成本越來越高。這兩篇的具體數字來自外部播客的解讀，對讀者的意思是：把它當方向，不當定論。

原理：「生成一個候選方案」和「證明這個方案更好」正在脫鉤，前者的成本在降，後者的成本在升。

怎麼用：看到「AI 自己改進自己」的說法，先問驗證的門檻在哪裡、是不是在獨立且預算可比的評估下做的，不要只看生成端多快多便宜。

何時不成立：沒有客觀成功判準的領域不成立，例如開放式的創造性工作或科研假說，連「轉移到哪一層」都測不出來。可編譯、可跑測試的程式碼才適用這套分級。

二、agent 要先有清楚的驗收標準，才能放手跑

發生了什麼：AWS 底層工程專家 Claire 分享，純 prompt engineering 式的編程，只帶來 10% 到 20% 的個人生產力提升。要解鎖真正收益，必須改造程式碼庫，讓 agent 自主完成建置、測試、修復。她舉了兩個內部案例。Bedrock 團隊原估 30 人 18 個月的工作，6 人靠 agent 輔助 76 天完成；Prime Video 團隊把 90 週的交付壓縮到 24 週。這是演講者自己舉的案例，對讀者的意思是：做法值得參考，倍數別直接套到自己身上。

原理：「餵養智能體，而非照看智能體」：把力氣花在事前準備，而不是逐行盯著改。

怎麼用：交給 agent 前，先把需求邊界、驗收標準、自我驗證的方法寫清楚，再讓它在後台跑完一整輪。

何時不成立：任務的好壞要靠主觀判斷，或跨部門共識時不成立，沒有東西可以拿來自動核對，還是得靠人守著看。

三、輸出的讀者是程式時，別用「討好人類」的目標訓練

發生了什麼：前 OpenAI 研究者 Diogo 發布新模型 Jeff，2026 年 9 月 15 日公開。它徹底放棄自然語言輸出，專為程式角色設計，特定任務比傳統大模型快幾十到上百倍、成本低兩個數量級。他認為主流大模型用 RLHF（用人類偏好回饋做訓練）訓練，核心目標是討好人類。這在聊天場景合理，用在程式化場景，卻會出現阿諛奉承式的廢話，以及為了迎合人類審美而壓縮輸出分佈的「模式坍塌」，兩者對後台解析的程式都是災難。

原理：訓練目標要對齊下游真正的讀者。

怎麼用：設計 AI 輸出的格式與評估標準時，先問誰會讀它、怎麼用，不要預設沿用聊天助手那一套。

何時不成立：結果最終還是要拿給人看、當成人的決策依據時不成立，可讀性與說明性又會變得重要，一味追求結構化會犧牲這部分價值。

四、答案「算出來了」，也可能放錯位置

發生了什麼：加州大學柏克萊分校和普林斯頓大學團隊的論文指出，循環式 Transformer 解決了跨層調用資訊的問題。它卻在分佈外（OOD，訓練時沒見過的情況）測試中準確率驟降。作者分析發現，模型其實已經找到正確的中間答案，只是這個內部向量的方向，和標準答案的向量方向對不上，也就是「可解碼但表徵錯位」。他們在循環之間混入一定比例乾淨的標準嵌入向量做校正，OOD 準確率就大幅回升。具體回升多少，來源沒有給出數字。

原理：答錯有兩種：根本沒算出答案，或答案已經在某處、只是位置對不上下一步要讀的地方，兩種的修法不同。

怎麼用：診斷一套系統為什麼答錯，先分清楚是缺資訊還是介面對不上；前者補資訊，後者校正介面。

何時不成立：系統內部沒有一套標準表示可以比對時不成立，沒有可參照的標準座標，「錯位」就沒有基準，也無從診斷。

五、貼近自己的角色，反而更難演出真實感

發生了什麼：演員祖峰談他 34 歲演李涯時，身上有理想化氣質，如今 50 歲已經世故，自認演不出當年那種眼神。他選劇本，先當普通讀者通讀全劇，看邊角小人物寫得夠不夠有趣，來判斷編劇能力，再回頭研究自己的角色。不演日本人、漢奸是他唯一的底線。

原理：距離角色越近，看起來門檻越低，演不出真實感的風險其實更高。

怎麼用：評估一個人適不適合某個位置時，除了看「像不像」，也看他怎麼處理和自己氣質有落差的那一塊，真正見功力的在那裡。

何時不成立：角色的設計本來就要打破、顛覆某種既定形象時不成立，找氣質貼合的人選，反而讓作品失去該有的張力。

今天的主線

DreamRSI 與分級框架講的是同一把刻度尺：判斷自動化系統進化到哪一步，別問 AI 變聰明了沒有，改問原本該由人決定的哪一件事，現在換 AI 決定了。決策越往上游轉移，驗證越難，也越該提高警覺。AWS 的 agent、Jeff 與 Disco Loop 三篇，各自示範了驗收標準、輸出對象與錯位診斷怎麼落地，祖峰那篇則獨立成一群。

本文數據引自所列來源之解讀內容，未逐一回查原始報告。

來源

• 〈谷歌DeepMind DreamRSI：讓AI通過「做夢」實現遞歸自我改進〉，外部播客解讀
• 〈AI遞歸自我改進的分級討論：從參與進化到接管進化的距離〉，外部播客解讀
• 〈AWS專家Claire關於AI Agent開發的生產力分享〉，外部播客解讀
• 〈面向編程場景的原生大模型Jeff深度拆解〉，外部播客解讀
• 〈Disco Loop：解決大模型多跳推理OOD泛化問題的新架構〉，外部播客解讀
• 〈67｜祖峰×脫不花：如何安頓此心〉，得到 App