看得懂AI写出的解释,就代表看懂了它如何得到答案吗?
我在多模型协作里,会读模型彼此辩论的对话。某个模型改变立场时,我未必能从纪录找出明确转折。这能说明的是:现有纪录不足以让我理解,不能证明我看到了模型真正的内部推理,更不能据此判定它在隐瞒。
原稿把Neuralese、潜在空间与思维链连成一条「语言消失,监督就终结」的路,说得太直了。值得保留的问题,是少了一种可读讯号后,其他检查能不能补上。
TL;DR:Neuralese在不同研究脉络有不同用法。2017年的多代理通讯、语言模型内部向量运算,以及Coconut的连续潜在推理,不是同一个实验。自然语言思维链也不保证忠实完整。新架构可能改变监控条件,但没有文字不等于刻意隐藏,有文字也不等于已安全;需要把解释、行为验证与权限控制一起设计。
一、先分清这个词指的是哪一件事
2017年的〈Translating Neuralese〉,作者是Jacob Andreas、Anca Dragan与Dan Klein。论文研究多代理系统学得的通讯,以及如何把这些讯息与自然语言连结,让人理解并与代理合作。[1] 原稿将作者之一误列为Sergey Levine,这里更正。
这个研究脉络,不能直接当成今日所有大型语言模型内部运算的统一定义。当一篇文章使用Neuralese,我会先找它具体指向哪个系统、哪种通讯或推理步骤。
语言模型会进行向量与数值运算,与「每一步中间推理是否输出文字」也是不同问题。有内部表征,不足以证明模型发展出一套有意避开人的秘密语言。
因此,我撤下原稿「每中文字承载量差千倍」与token固定16位元的比较。储存多少数值,不等于已量到多少有效语意信息,也不能直接换算成推理效率。
二、Coconut展示一种研究做法,没有包办所有推理
Coconut论文探讨把模型的隐藏状态直接用作后续输入,让部分中间过程在连续潜在空间进行,减少每一步都先转成文字的需要。[2]
本次读取的v4版本,在特定推理任务比较文字思维链、无思维链及其他变体。结果依任务而异:有些数据集以较少生成步骤取得较好结果,但在GSM8k数学题上,Coconut没有超过文字思维链的准确率。[2]
这可以支持「值得研究不同推理表示」,不能支持「所有模型都能少用三分之二到九成token,而且表现不变」。生成步数、实际时间、模型规模与任务正确率,也要分开核对。
我不会仅从这个实验,推论某家当前商用模型已采同样架构,或所有前沿公司都尚未采用。产品内部做法需要对应的公开证据,不能由一篇研究补齐。
三、可读思维链是监控讯号,不是完整心智录影
思维链(Chain-of-Thought,CoT)把某些中间步骤表达成文字,可能让检查者发现可疑规划、错误或评估问题。但一段文字是否忠实反映影响答案的因素,仍需检查;读起来合理,不足以保证它完整。[3]
〈Chain of Thought Monitorability〉把这视为有用、但可能脆弱的安全机会,讨论训练压力与新架构可能削弱监控讯号,也列出侦测能力的限制。[3] 它是一篇研究者立场文,不能写成各公司已正式承诺、或已能抓到大部分欺骗行为的保证。
我关心的不是把每个未说出的步骤都叫欺骗。内部计算难懂、解释不完整,以及系统采取了违反要求的行为,是不同的主张,需要不同证据。
若某架构减少了可读中间文字,应测量原监控方式失去了什么,而非先宣布监督必定失效。反过来,也不能因为仍有一串解释,就免除对结果与实际行为的验证。
四、从看对话,走到检查工作怎么完成
在多模型协作中,我可以把讨论纪录当成检查入口:某个结论用了什么数据、有哪些假设、模型提出了什么反对意见。这些纪录帮助我追问,却不能替代原始数据与结果核对。
我的实务建议是把检查拆成三种:
- 解释:要求能供人理解的理由、来源与限制,避免只剩一句结论。
- 行为:核对实际输出、操作与测试结果,确认它完成的事与宣称一致。
- 权限:在重要行动前保留授权、复核与停止机制,不让漂亮说明自动取得执行权。
这是作者整理的工作方式,并非一套已验证能涵盖所有模型的安全标准。不同用途还要决定验收门槛与剩余风险由谁承担。
这样做的目的,是不把所有监督能力押在单一文字讯号上。能读到更多理由通常有帮助,但「可读」和「已经证实」仍是两道检查。
五、语言主权是我提出的问题,不是研究证明的终局
我用「语言主权」描述一个规范上的关切:当AI参与重要工作,人是否仍能理解足够的信息、提出异议,并由有权的人决定下一步。它不是上述论文共同证明的法律概念,也不是所有治理机制只有语言这一个入口。
人类自己的解释也可能事后合理化,所以要求说明之外,制度还需要纪录、可反驳的证据与责任分工。AI的可解释性应放在这个更大的设计里看。
原稿引用《AI 2027》描绘监督断裂。那是未来情境,不是已发生的实验证据。[4] 情境可以帮我提出「若监控讯号变少怎么办」的问题,不能拿来证明这一天已经到来。
同样地,台湾的半导体地位是否能转成制定透明性标准的影响力,是待讨论的策略判断;本文没有证据把这条路说成现成筹码或必然成果。
六、先问少了哪种检查,再谈采不采用
若我要评估新的推理架构,会先问:它改善哪一类任务,基准是否相同?哪些中间讯号不再可读?是否有其他可检验证据?重要行动的控制权有没有改变?
答案可能随任务而不同。保留现有文字思维链,也可能与其他安全或能力进展产生取舍,不能预设唯一正确方案永远是不准改架构。[3]
我希望保留的,是人可以追问与介入的能力。语言是重要工具;来源、实测、操作纪录与权限边界也都需要在场。
与其说最后一扇窗必然关闭,我更想把问题问清楚:我们少看见了什么,又准备用什么证据补上?
数据来源与阅读界线(查核至2026年11月3日)
- Andreas、Dragan、Klein,Translating Neuralese,ACL 2017,作者与多代理通讯研究脉络。
- Hao等,Training Large Language Models to Reason in a Continuous Latent Space,v4,2026年8月23日版本;方法、三项任务比较与限制。本文未重跑实验,也不据此判定商用产品架构。
- Chain of Thought Monitorability: A New and Fragile Opportunity for AI Safety,v2,2025年12月7日版本;监控机会、新架构与限制,属研究者立场文,不是产品安全保证或公司共同承诺。
- AI 2027原站的slowdown情境,未来情境而非观察数据;本文没有核查其全部预测或其他结局。


💬 留言讨论
加载中...