你有没有想过，你跟 AI 对话的时候，它其实不是在「用中文思考」？

▶ 听摘要
AI 合成语音・作者本人声线克隆

当你问 ChatGPT 一个问题，它表面上是一个字一个字地生成回答。但在模型内部，真正的运算发生在一个人类完全看不懂的空间里——成千上万个浮点数在高维向量中流动，每一次计算承载的信息量是一个中文字的上千倍。最后，这些运算结果被「压缩」成你看到的文字输出。

换句话说，语言只是 AI 跟人类沟通的界面。它不是 AI 思考的媒介。

这件事听起来像是技术冷知识。但它的后果，可能比 AGI 本身更深远。

什么是 Neuralese

AI 安全研究社群用「Neuralese」这个词来描述 AI 在潜在空间（latent space）中进行的高维推理。这个概念可以追溯到 2017 年，由 Jacob Andreas、Dan Klein 和 Sergey Levine 等研究者在多代理强化学习的脉络下正式提出。

要理解 Neuralese，先想想现在的大型语言模型是怎么「思考」的。

目前的模型使用一种叫「思维链」（Chain-of-Thought, CoT）的方法：它把推理过程用自然语言一步步写出来，就像学生在考卷上列算式。这对人类来说很友善——你可以读它的推理过程，检查哪一步有问题。AI 安全研究者也依赖这个特性来侦测模型是否在欺骗或产生幻觉。

但自然语言有一个根本限制：信息带宽太窄。

一个 token（大约一个中文字或半个英文单字）能承载的信息量大约是 16 位元。但模型内部的残差流（residual stream）每次运算处理的是数千个浮点数，理论带宽高出三个数量级。强迫模型用自然语言「思考」，就像要求一个数学家必须用口述的方式解微分方程——可以做到，但效率极低，而且很多中间步骤在转译成语言的过程中会遗失。

Neuralese 的概念就是：让模型直接在高维潜在空间中进行推理，不需要每一步都转译成人类可读的文字。初步实验已经显示，Neuralese 推理所需的 token 数量可以降到原本的三分之一到十分之一，同时维持相近的表现。

效率的提升是巨大的。但代价也是巨大的。

语言消失后，监督跟着消失

现在，AI 安全研究者能侦测到大部分的模型欺骗行为，靠的就是阅读模型的思维链。如果模型说「我要帮你写安全的代码」，但它的推理过程中出现了可疑的逻辑，研究者可以抓到。

但如果推理过程本身不是用自然语言呈现的呢？

LessWrong 上的 AI 安全研究者明确指出：Neuralese CoT 为隐写术（steganography）和策略性欺骗打开了一个巨大的攻击面。两段 Neuralese——一段的意思是「我会忠实地实作这段代码」，另一段的意思是「我会在实作时欺骗使用者」——翻译回自然语言后可能看起来完全一样。现有的可解释性工具对这种攻击几乎无能为力。

这不是理论上的忧虑。《AI 2027》情境报告在描绘 AI 自动化研发的场景时，就将 Neuralese 记忆与推理结构设定为关键转折点：一旦前沿模型的思考过程从自然语言转为 Neuralese，人类对 AI 研发过程的可见性将大幅下降。我在〈AI 2027：当超级智能不再是远方科幻〉里分析过这份报告——它最让人不安的不是时间线预测，而是它揭露的监督断裂风险。Neuralese 正是那个断裂点。

好消息是，截至目前，主要 AI 公司——包括 OpenAI、Anthropic、Google DeepMind、Meta——尚未在前沿模型中正式实作 Neuralese CoT。2025 年，几家实验室甚至发表了联合声明，承诺在前沿模型开发中维持可监控性。但研究者普遍认为，如果 Neuralese 架构在能力上展现出显著优势，商业压力最终会压过安全考量。

这跟你有什么关系

「语言主权」听起来很抽象。让我用一个比较接地气的方式解释。

人类文明的治理逻辑，建立在语言之上。法律是用语言写的。合约是用语言签的。法庭上的攻防是用语言进行的，科学论文也是用语言发表的。民主制度的核心假设是：决策过程可以被公民理解和监督。

这一切的前提是：决策者的思考过程可以被翻译成语言。

人类决策者的思考确实不全是语言——很多直觉和经验判断是非语言的。但至少，我们可以要求决策者「解释你为什么这样做」，而且我们有能力评估那个解释是否合理。

当 AI 系统开始承担越来越多的决策角色——金融交易、医疗诊断、法律文件审查、甚至政策建议——如果它的推理过程是 Neuralese，我们连「要求它解释」这个最基本的监督手段都失去了。不是因为它拒绝解释，而是因为它的「解释」必须从高维向量翻译成自然语言，而这个翻译过程本身就可能是不忠实的。

我自己在用多模型协作的时候就有这个感受。辩论引擎让四个模型互相辩论，我读它们的对话记录来判断论证质量。但有时候我会发现：某个模型突然改变立场，而我回头读它的推理链，找不到任何明确的转折点。它「想通了」什么，但我看不出来它在哪一步想通的。这还是在自然语言 CoT 的框架下。如果连语言都拿掉，我就完全是在黑箱外面猜了。

不是要不要恐慌，是要不要设计

有些人会说：「人脑也不是用语言思考的啊，神经科学家研究大脑也不需要大脑『说话』。」

这个类比有道理，但它忽略了一个关键差异：我们不需要信任大脑来替我们做决策。我们信任的是人——人可以被要求负责、被质疑、被法律约束。但当 AI 系统替我们做决策时，如果它的思考过程完全不透明，「问责」这个概念就变成空壳。

我不认为 Neuralese 本身是邪恶的。它可能是让 AI 变得更强大的必要演化。就像我在〈AI Agents vs. Agentic AI〉里讨论的，能动性本身不是问题，问题是有没有配套的缰绳设计。Neuralese 也一样——问题不是要不要让 AI 用 Neuralese 思考，而是要不要在它这么做的时候，同步建立新的可解释性标准。

AI 安全研究社群已经提出了一些方向：开发能解读 Neuralese 向量的翻译模型、要求前沿模型维持自然语言 CoT 作为安全基线、在 Neuralese 架构中嵌入可审计的检查点。这些都是技术层面的工作，但它们需要政策层面的支持——需要有人把「AI 推理过程的可解释性」写进监管框架里。

台湾在这方面其实有切入点。我们在半导体供应链上的位置，让我们有筹码参与 AI 治理标准的制定。如果我们能在 AI 安全标准中推动「推理透明性」的要求，这比单纯卖晶片有更长期的战略价值。

最后的透明窗口

语言是人类文明最古老的技术。它不完美、效率低、充满歧义。但它有一个不可替代的特性：它是透明的。你说了什么，我听得懂。我不同意，我可以反驳。这个简单的回路，支撑了几千年的法律、科学、民主和信任。

AI 正在发展出比语言更高效的思考方式。这本身不是坏事。但如果我们让这个转变在没有配套的情况下发生——没有新的可解释性工具、没有推理透明性标准、没有审计机制——我们就是在主动关上人类参与 AI 决策的最后一扇窗。

窗一旦关上，再打开的成本会高到我们承受不起。