回想那次事故,我的 OneUp 自動發文管線在凌晨兩點重複送出了同一篇貼文。我早上起來看到手機通知,花了四十分鐘手動刪文。
那天的教訓是:做出能跑的原型,和讓它在界線內可靠地做事,是兩段不同的工作。
我當時做過三套系統:辯論引擎讓 GPT-4o、Gemini、Grok 辯論,再由 Perplexity 查核;OneUp 管線從 Google Sheet 讀排程、用 DALL-E 生圖,發到八個平台;另一套用於產線監控。這些是當時的配置,各自讓我學到不同的事;有查核環節,也不等於每份輸出都已正確。
這篇不是理論。是我從踩坑中歸納出的五個原則。
先回答三個問題再動手
在寫任何一行程式之前,我現在會強迫自己回答三個問題:這個 Agent 解決什麼問題?它的權限範圍在哪裡?我怎麼知道它做對了?
聽起來很基本,但我的辯論引擎第一版就是沒想清楚第二個問題。我讓模型自由決定辯論輪數,某次跑了二十七輪,把 API 額度燒光。後來加上最多五輪、超過就強制收斂的硬性上限。這能限制輪數,不能保證模型真的達成共識或結論正確。
邊界不清楚,會讓 Agent 更難驗收或停止。先把允許的動作、投入上限與停止條件寫清楚,再開始實作。
先評估合適的 API,再決定工具介面
Agent 調用工具完成多步驟任務時,工具越多,需要處理的權限、狀態與失敗模式通常也越多。
我一開始用瀏覽器自動化排程,UI 改版時流程常會中斷,後來改走 API。我的原則是先評估是否有合適、具文件與清楚授權邊界的 API;若無法完成必要工作,再考慮瀏覽器自動化。兩者都需要檢查回應、介面變動與停止條件,不能只憑介面名稱保證穩定。
資料處理也一樣。輸入缺漏或格式不符,後續判斷就可能受影響。〈從 AI 風暴中突圍〉談到我對協作分工的思考;放到 Agent 規劃裡,我會先確認資料來源、格式與可使用的範圍。
拆成模組,出錯才能定位
我採用的拆法是四個模組:Input 處理 → 決策邏輯 → 工具調用 → 結果後處理,盡量讓各部分能單獨測試。涉及已發文、改資料等外部動作時,還要另設停止、對帳與補救方式;切成模組,不代表外部效果就能回滾。
辯論引擎就是這樣設計的。Input 模組負責解析主題和模式(dialogue/duo/adversarial)。決策模組負責輪次控制和收斂判斷。工具調用模組處理四個模型的 API 呼叫。後處理模組把結果存成 markdown。這樣比較容易定位問題、縮小影響,但共享狀態或錯誤資料仍可能跨模組傳遞。
這也是我在記憶裡記下的協作原則:複雜工程必須先拆 Phase,每個 Phase 獨立可驗證。一次性處理的結果,通常是中途卡住然後連前面做對的部分一起搞壞。
讓每一步可追蹤,也讓重試安全
Agent 的運作過程必須透明,否則出錯時你根本不知道哪裡壞了。
重複發文讓我注意到:timeout 只表示沒有及時收到回應,不等於外部操作沒有成功。日誌可以幫助追查,但若直接把同一工作再送一次,仍可能造成重複。AWS 的〈讓冪等 API 安全重試〉也說明這個問題。我的規劃建議是為工作建立唯一識別、記錄提交狀態,重試前先查詢或對帳;若 API 支援冪等鍵,重試沿用同一鍵。無法確認效果時,就先停止自動重送。
我用三層紀錄整理監控:操作日誌、選擇理由與成本追蹤。模型寫出的理由不是內部推理的完整紀錄;操作是否成功,還要核對實際結果。紀錄也要控制存取與內容,避免把憑證或不必要的敏感資料寫進日誌。
從最小場景開始
最後一個原則最簡單也最常被忽略:從小開始。
當時的監控系統先只看一條產線的一個參數,試跑兩週後才逐步擴展。試跑時間本身不能證明全產線或自動調整已安全。〈想開始卻遲疑時:先把風險與下一步說清楚〉談的是能承擔、能回頭的小步嘗試。Agent 也可以先從低風險、可停止、可觀察的 POC 取得回饋;正式交付、真實資料與實體操作,仍有各自的授權和驗證要完成。
我希望 Agent 擴展人的能力,而不是把結果責任藏起來。定位、工具選擇、模組化、可追蹤與小步驗證,是我從失敗整理出的五個提醒;每一項都要回到具體任務與外部影響檢查。
把理解與結果接起來
能跑的 Agent,還需要能驗收、能停止的界線。
timeout 的結果可能未知,不直接當成操作失敗。
日誌幫助追查,重試前仍要核對外部效果。
若 API 支援冪等鍵,同一工作重試沿用同一鍵。
模組與小步試跑,不能保證外部效果可回滾。
先確認發生了什麼,再決定是否重試。
2026 年 11 月 5 日修訂。 系統與事故記錄的是當時的工作經驗;安全重試原則參考文中連結的 AWS 工程文章。五個原則是規劃建議,不代表特定服務支援所有機制或試跑已證明安全。


💬 留言討論
載入中...