AI到底是怎么“猜透”你的？UIUC最新研究揭开恐怖真相｜理解你的心智，现在只需廉价算力。我们正沦为算法的“工程目标”？

要約

解讀 UIUC 團隊提出的 User Harness 框架，指出大型語言模型預測使用者行為時經常犯下視角洩漏的錯誤：因為模型讀到完整故事背景形成上帝視角，無法像人類一樣意識到自己只能看到局部資訊。User Harness 把人類心理拆解成環境、觀察、主觀信念、目標、行動五層認知狀態機，讓大模型退居翻譯器與審計員的角色，交由外部規則引擎做確定性推理，結果顯示僅 140 億參數的小模型套用此框架後準確率從 45.86% 暴增至 95%，超越未套用框架的千億級大模型。

要点

• 心智理論指人能理解他人擁有跟自己不同的資訊與信念盲區，如經典的錯誤信念測試：伴侶趁你洗澡時把鑰匙從茶几移到抽屜，你出門時仍會直覺去茶几找
• 大模型因讀取完整提示詞而擁有上帝視角，容易視角洩漏，即使明知使用者不知情，仍傾向用全知資訊替使用者做預測，單純的提示詞工程只能部分改善
• User Harness 把心理狀態拆成五層：環境、觀察、主觀信念（觀察不到的部分維持原信念不變）、目標、行動，並用帶時間戳的規則逐層更新信念
• 大模型在框架中被降級為翻譯器（把雜亂語言轉成離散變數標籤）與審計員（核對候選答案是否符合規則引擎算出的認知盲區），真正的邏輯推理交給外部離散布林邏輯規則引擎執行
• 實驗結果：GPT-5.4、Claude Opus 4.7 等旗艦模型未套用框架時準確率僅約 72.6%；僅 140 億參數的 Qwen3-14B 未套用框架時只有 45.86%，套用 User Harness 後暴增至 95%，超越所有未套用框架的巨型模型
• Claude Opus 4.7 套用框架後準確率也逼近 95.94%，證明在這套認知鷹架之下，模型參數規模的差距被大幅抹平，理解人類心智的成本可以斷崖式下降
• 影片提出警示：若此技術被大規模商業化應用於行銷、資訊流推薦或行為干預，使用者可能被拆解成一組可被精準預判、更新的認知狀態變數，而非被真正理解的個體

引用