# Neuralese 是什么？AI 用非语言推理思考时，人类的语言主权就终结了 > Neuralese 是 AI 在高维潜在空间中进行的非语言推理，绕过了自然语言的信息瓶颈。当 AI 的思考过程不再以人类可读的文字呈现，我们用来监督、审计、问责的整套治理逻辑就开始松动。这不是遥远的科幻情境，它是 AI 安全研究中正在被认真讨论的架构选择，而这个选择的后果将决定人类能否继续参与 AI 的决策过程。 - Author: Paul Kuo（郭曜郎） - Date: 2025-05-23 - Pillar: 智能与秩序 / Intelligence & Order - Tags: Neuralese, AI安全, 可解释性, 语言主权, AI治理 - Canonical: https://paulkuo.tw/zh-cn/articles/neuralese-language-sovereignty/ - Language: Simplified Chinese (简体中文) - Translation: AI-translated from the zh-Hant (Traditional Chinese) original - Original (zh-Hant): https://paulkuo.tw/articles/neuralese-language-sovereignty.md - Site index for LLMs: https://paulkuo.tw/llms.txt --- 你有没有想过，你跟 AI 对话的时候，它其实不是在「用中文思考」？
▶ 听摘要
AI 合成语音・作者本人声线克隆
当你问 ChatGPT 一个问题，它表面上是一个字一个字地生成回答。但在模型内部，真正的运算发生在一个人类完全看不懂的空间里，成千上万个浮点数在高维向量中流动，每一次计算承载的信息量是一个中文字的上千倍。最后，这些运算结果被「压缩」成你看到的文字输出。 换句话说，语言只是 AI 跟人类沟通的界面。它不是 AI 思考的媒介。 这件事听起来像是技术冷知识。但它的后果，可能比 AGI 本身更深远。 ## 什么是 Neuralese AI 安全研究社群用「Neuralese」这个词来描述 AI 在潜在空间（latent space）中进行的高维推理。这个概念可以追溯到 2017 年，由 Jacob Andreas、Dan Klein 和 Sergey Levine 等研究者在多代理强化学习的脉络下正式提出。 要理解 Neuralese，先想想现在的大型语言模型是怎么「思考」的。 目前的模型使用一种叫「思维链」（Chain-of-Thought, CoT）的方法：它把推理过程用自然语言一步步写出来，就像学生在考卷上列算式。这对人类来说很友善。你可以读它的推理过程，检查哪一步有问题。AI 安全研究者也依赖这个特性来侦测模型是否在欺骗或产生幻觉。 但自然语言有一个根本限制：**信息带宽太窄**。 一个 token（大约一个中文字或半个英文单字）能承载的信息量大约是 16 位元。但模型内部的残差流（residual stream）每次运算处理的是数千个浮点数，理论带宽高出三个数量级。强迫模型用自然语言「思考」，就像要求一个数学家必须用口述的方式解微分方程，可以做到，但效率极低，而且很多中间步骤在转译成语言的过程中会遗失。 Neuralese 的概念就是：让模型直接在高维潜在空间中进行推理，不需要每一步都转译成人类可读的文字。初步实验已经显示，Neuralese 推理所需的 token 数量可以降到原本的三分之一到十分之一，同时维持相近的表现。 效率的提升是巨大的。但代价也是巨大的。 ## 语言消失后，监督跟着消失 现在，AI 安全研究者能侦测到大部分的模型欺骗行为，靠的就是阅读模型的思维链。如果模型说「我要帮你写安全的代码」，但它的推理过程中出现了可疑的逻辑，研究者可以抓到。 但如果推理过程本身不是用自然语言呈现的呢？ LessWrong 上的 AI 安全研究者明确指出：Neuralese CoT 为隐写术（steganography）和策略性欺骗打开了一个巨大的攻击面。两段 Neuralese，一段的意思是「我会忠实地实作这段代码」，另一段的意思是「我会在实作时欺骗使用者」，翻译回自然语言后可能看起来完全一样。现有的可解释性工具对这种攻击几乎无能为力。 这不是理论上的忧虑。《AI 2027》情境报告在描绘 AI 自动化研发的场景时，就将 Neuralese 记忆与推理结构设定为关键转折点：一旦前沿模型的思考过程从自然语言转为 Neuralese，人类对 AI 研发过程的可见性将大幅下降。我在〈[AI 2027：当超级智能不再是远方科幻](/zh-cn/articles/ai-2027-civilization-reflection/)〉里分析过这份报告，它最让人不安的不是时间线预测，而是它揭露的监督断裂风险。Neuralese 正是那个断裂点。 好消息是，截至目前，主要 AI 公司，包括 OpenAI、Anthropic、Google DeepMind、Meta，尚未在前沿模型中正式实作 Neuralese CoT。2025 年，几家实验室甚至发表了联合声明，承诺在前沿模型开发中维持可监控性。但研究者普遍认为，如果 Neuralese 架构在能力上展现出显著优势，商业压力最终会压过安全考量。 ## 这跟你有什么关系 「语言主权」听起来很抽象。让我用一个比较接地气的方式解释。 人类文明的治理逻辑，建立在语言之上。法律是用语言写的。合约是用语言签的。法庭上的攻防是用语言进行的，科学论文也是用语言发表的。民主制度的核心假设是：决策过程可以被公民理解和监督。 这一切的前提是：决策者的思考过程可以被翻译成语言。 人类决策者的思考确实不全是语言，很多直觉和经验判断是非语言的。但至少，我们可以要求决策者「解释你为什么这样做」，而且我们有能力评估那个解释是否合理。 当 AI 系统开始承担越来越多的决策角色，金融交易、医疗诊断、法律文件审查、甚至政策建议，如果它的推理过程是 Neuralese，我们连「要求它解释」这个最基本的监督手段都失去了。不是因为它拒绝解释，而是因为它的「解释」必须从高维向量翻译成自然语言，而这个翻译过程本身就可能是不忠实的。 我自己在用多模型协作的时候就有这个感受。辩论引擎让四个模型互相辩论，我读它们的对话记录来判断论证质量。但有时候我会发现：某个模型突然改变立场，而我回头读它的推理链，找不到任何明确的转折点。它「想通了」什么，但我看不出来它在哪一步想通的。这还是在自然语言 CoT 的框架下。如果连语言都拿掉，我就完全是在黑箱外面猜了。 ## 不是要不要恐慌，是要不要设计 有些人会说：「人脑也不是用语言思考的啊，神经科学家研究大脑也不需要大脑『说话』。」 这个类比有道理，但它忽略了一个关键差异：我们不需要信任大脑来替我们做决策。我们信任的是人，人可以被要求负责、被质疑、被法律约束。但当 AI 系统替我们做决策时，如果它的思考过程完全不透明，「问责」这个概念就变成空壳。 我不认为 Neuralese 本身是邪恶的。它可能是让 AI 变得更强大的必要演化。就像我在〈[AI Agents vs. Agentic AI](/zh-cn/articles/ai-agents-vs-agentic-ai/)〉里讨论的，能动性本身不是问题，问题是有没有配套的缰绳设计。Neuralese 也一样，问题不是要不要让 AI 用 Neuralese 思考，而是要不要在它这么做的时候，同步建立新的可解释性标准。 AI 安全研究社群已经提出了一些方向：开发能解读 Neuralese 向量的翻译模型、要求前沿模型维持自然语言 CoT 作为安全基线、在 Neuralese 架构中嵌入可审计的检查点。这些都是技术层面的工作，但它们需要政策层面的支持，需要有人把「AI 推理过程的可解释性」写进监管框架里。 台湾在这方面其实有切入点。我们在半导体供应链上的位置，让我们有筹码参与 AI 治理标准的制定。如果我们能在 AI 安全标准中推动「推理透明性」的要求，这比单纯卖晶片有更长期的战略价值。 ## 最后的透明窗口 语言是人类文明最古老的技术。它不完美、效率低、充满歧义。但它有一个不可替代的特性：它是透明的。你说了什么，我听得懂。我不同意，我可以反驳。这个简单的回路，支撑了几千年的法律、科学、民主和信任。 AI 正在发展出比语言更高效的思考方式。这本身不是坏事。但如果我们让这个转变在没有配套的情况下发生，没有新的可解释性工具、没有推理透明性标准、没有审计机制，我们就是在主动关上人类参与 AI 决策的最后一扇窗。 窗一旦关上，再打开的成本会高到我们承受不起。