# OpenAI Astra 用了循环深度，但这还不是 neuralese > 2026 年 9 月 1 日 The Information 报道 OpenAI 的 Astra 采用 recurrent depth（looped transformer），AI 安全圈在 48 小时内炸开。但 OpenAI 首席科学家 Jakub Pachocki 说 Astra 的计算图深度在 GPT-4 的两倍以内，独立研究者估计循环次数大约三到四次。这篇把七个一手来源摊开比对，说明 Astra 到底跨过了什么线、没跨过什么线，以及中文圈报道在哪三处把信号放大成了噪音。 - Author: Paul Kuo（郭曜郎） - Date: 2026-09-07 - Pillar: 智能与秩序 / Intelligence & Order - Tags: Neuralese, Looped Transformer, recurrent depth, OpenAI Astra, 思维链监控, AI 安全, AI 治理 - Canonical: https://paulkuo.tw/zh-cn/articles/astra-recurrent-depth-neuralese/ - Language: Simplified Chinese (简体中文) - Translation: AI-translated from the zh-Hant (Traditional Chinese) original - Original (zh-Hant): https://paulkuo.tw/articles/astra-recurrent-depth-neuralese.md - Site index for LLMs: https://paulkuo.tw/llms.txt --- > **TL;DR**：2026 年 9 月 1 日，OpenAI 官网说「我们替 Astra 加上额外的思维链监控」，同一天 The Information 报道 Astra 用了会让思维链更难监控的架构。摊开一手来源后，两句话其实可以并存：Astra 用的 recurrent depth 是同一叠层多跑几次，公开推估约三到四次、官方没有证实，跟 neuralese 不是同一件事。这次值得记住的是另一件事：循环次数成了一个在推理时就能调大、而外人看不到刻度的旋钮。
▶ 听摘要
AI 合成语音・作者本人声线克隆
9 月 1 日，OpenAI 在官网贴出〈[Path to Astra](https://openai.com/index/path-to-astra/)〉。那份文件里有一句话：「我们在部署 Astra 时会额外加上思维链监控，以便快速侦测并围堵可能失准的行为。」 同一天，The Information 报道 Astra 采用了一种让部分推理不再以自然语言呈现的架构。 两份文件同一天出现，读起来像在讲两件相反的事。接下来 48 小时，社群平台上的讨论基本上就绕着这个矛盾打转。 我在 2025 年写过〈[Neuralese 是什么？AI 用非语言推理思考时，人类的语言主权就终结了](/zh-cn/articles/neuralese-language-sovereignty/)〉。那篇里有一句话，现在需要更新：「截至目前，主要 AI 公司尚未在前沿模型中正式实作 Neuralese CoT。」 这篇是那句话的更新。但更新的方向，跟我这几天在中文圈看到的版本不太一样。 ## 9 月 1 日到 9 月 3 日，实际发生了什么？ 时序值得先摆清楚，因为这次的争论有大半来自于各方在不同时间点掌握的信息量不同。 **9 月 1 日**：The Information 报道，一名知情人士指出 OpenAI 在 Astra 上使用了 recurrent depth，也称 looped transformer。报道同时提到 OpenAI 限制了这项技术的使用程度，以维持思维链的可读性。同一天 OpenAI 发布〈Path to Astra〉，宣告 Astra 是第一个在其 Preparedness Framework 下达到「Critical」网络安全能力门槛的模型。 **9 月 2 日**：Redwood Research 的 AI 安全研究者 Ryan Greenblatt [在 X 上](https://x.com/RyanGreenblatt/status/2094996656186081642)写道，如果报道属实，这「可能是迄今对 AI 安全与资安最糟的一项发展」。AI Futures Project 的 Daniel Kokotajlo 则贴了一句脏话。几小时后，OpenAI 首席科学家 Jakub Pachocki [公开回应](https://x.com/merettm/status/2095023204993490967)：「我想避免一场由混乱报道引发的、奔向不可监控性的竞赛。我们现役前沿模型（包含 Astra）的计算图深度，在 GPT-4 的两倍以内。」 同一天，Sebastian Raschka 在他的博客贴出一篇[技术澄清](https://sebastianraschka.com/blog/2026/openai-astra-looped-transformers.html)，直说 looped transformer 没那么玄。独立研究者 Rauno Arike 在 LessWrong 发表一篇[逐项拆解](https://www.lesswrong.com/posts/PLisnSFir8y5AHkmP/how-concerned-should-we-be-about-astra-s-recurrent)，把「该担心」与「不该担心」的理由分开列。 **9 月 3 日**：Fortune 与 Transformer 陆续整理报道。同一天，中文圈开始出现「AI 推理彻底消失」「人类完全读不懂」这类标题。 从第一则报道到第一份技术澄清，中间隔不到 24 小时。但传到中文圈的，多半只有前半段。 ## 什么是 looped transformer？它跟 neuralese 差在哪？ 先讲清楚机制，后面的判断才有地基。 一般 Transformer 处理一个 token 时，信息从第一层依序流到最后一层，每层各有一份自己的权重，跑完就输出。Looped transformer 的做法是让其中一叠层被重复使用：跑完一轮，把输出再馈回同一叠层跑第二轮，跑够了才往下走。 Raschka 用开源模型 Nanbeige 4.2 举了个具体例子。它把 22 层的层堆跑两次，等于得到 44 层的深度，但因为权重共用，存储空间还是 22 层的量。代价是运算量接近两倍。这个技巧在学界至少从 2023 年就有人做，NeurIPS 的 Mixture-of-Recursions 论文还进一步加了一个路由器，让简单的 token 少绕几圈、困难的多绕几圈。 Neuralese 是另一件事。它指的是模型几乎完全在高维潜在空间里推理，中间不产生任何人类可读的步骤。用比喻来说：思维链是你解题时把每一步写在草稿纸上，neuralese 是全部心算、只报答案。 Raschka 那篇的关键一句是：重复使用层本身不会压掉可见的思维链，它只是在输出下一个 token 之前多做一些隐藏状态的运算，跟一般 Transformer 的层在做的事同类。他也直接写道，把模型加大（例如从 GPT-5.6 Luna 升到 Sol）会产生同样的效果。 换句话说，两者都会让更多运算留在文字之外，但 recurrent depth 往那个方向移动的距离小得多。 ## Pachocki 说的「GPT-4 的两倍以内」是什么意思？ 这句话是这次争论里信息量最大的一句，也是最容易被略过的一句。 「深度」在这里指的是模型在必须写下点什么之前，一次能想多远。 先用一句白话挡掉最容易的误会：这里讲的是「多算几层再吐出下一个字」，不是「多写几段草稿」。深度算的是每生出一个字之前底层堆叠了几层运算，跟草稿的长度是两回事。草稿可以拉得很长，而每一步的深度仍然很浅。推理模型正是靠「每步很浅、但步数很多」在撑长推理。 GPT-4 是 2023 年的模型，它一次想不了太远，这正是后来的推理模型必须靠写草稿撑住长推理的原因。如果 Astra 每一步的计算深度最多只有 GPT-4 的两倍，代表它仍然得把大部分推理写下来。 Rauno Arike 据此推估：Astra 的循环次数大约是三到四次。他的推理是，一个 looped 推理模型的单层堆大概比 GPT-4 浅一些，但不会浅超过两倍。 这个估计没有经过 OpenAI 证实。但它是目前公开信息下最具体的一个数字，而且它跟 The Information 自己报道的「OpenAI 限制了使用程度」是相容的。 ## 中文圈的报道放大了哪三处？ 我读了几篇中文报道，其中一篇的标题是〈OpenAI Astra 神经语揭秘：高维向量思考让 AI 推理彻底消失〉。内容不能说全错，它甚至在后段自己写了「Astra 用的是循环深度，不是完全的神经语」。问题出在放大的比例。 **第一处，标题与内文互相矛盾。** 标题断言 Astra 用神经语思考、推理彻底消失，内文却承认 Astra 用的是循环深度、而 OpenAI 明确否认转向 neuralese。一篇文章里两个相反的结论，多数读者只会记得标题那个。 **第二处，Huginn 那句话的两个数字都失真了。** 那篇写道，马里兰大学的 Huginn 模型「用 35 亿参数、循环 50 圈，打出接近 500 亿参数模型的效果」。 回到[论文摘要](https://arxiv.org/abs/2502.05171)原文：模型是 3.5B 参数、训练 800B tokens，效能提升「up to a computation load equivalent to 50 billion parameters」。这句话讲的是运算负载的等值。一个 3.5B 的模型多绕几圈之后，吃掉的运算量可以逼近 50B 模型的量级；它在各项评测上表现得如何，是另一个问题，摘要并没有宣称两者相当。 圈数也对不上。依 Rauno Arike 的整理，Huginn 训练时最多用到 32 圈、测试时外推到 64 圈。50 这个圈数我在论文摘要里找不到对应，它可能来自内文某张图，也可能是转译时跟前面那个 50 混在一起。我不打算猜。 能确定的是：一句讲运算成本的话，被读成了一句讲能力的话。而能力的宣称，份量比成本的宣称重得多。 **第三处，趋势的方向没有它说的那么确定。** 那篇的隐含结论是循环次数会一路往上飙。 我原本想引一串「规模越大、圈数反而越少」的对照去反驳它。材料来自 Rauno Arike 那篇里由模型代为汇整、他自己注明大多没有逐篇读过的文献回顾。后来我把那批论文的摘要逐篇调出来看，那串圈数在摘要里一个都找不到。 摘要写的是别的事。Loopie 的作者[开宗明义](https://arxiv.org/abs/2607.16051)说，这个领域长年的难题是「在同等预训练运算量下，把参数翻 N 倍通常胜过把模型绕 N 圈」，而他们这篇的贡献就是要突破这个限制。Fu 等人那篇[处理的是](https://arxiv.org/abs/2605.18797)圈数一多训练就不稳的问题，同时明讲「圈数可以在推理时调整」是这个架构的天然机制。 换句话说，2026 年这批论文在做的事，是让更多圈变得可行。 所以我不能说那篇中文报道把趋势讲反了。我只能说：它把一个还在被积极推翻的限制，写成了既定的下坡路，而它引来当证据的 Huginn，本身并不支持那个结论。 这一段是我自己踩到的坑，顺便留在这里。我拿别人请模型整理的文献回顾当证据，去指认别人引用不实。回查之后那串数字站不住，差别只在它没有进到最后的版本。 ## 一个反直觉的发现：循环架构可能比较好解读 这一段在中文报道里完全没有出现。 在 Rauno Arike 那篇的留言区，有两位做过相关实验的研究者提到同一件事：如果模型被训练成可以用不同的循环次数运作，那么每一圈结束时的中间状态，本身就必须是一个能被解码成合法 token 的状态。因为在训练分布里，那一圈随时可能就是最后一圈。 这个约束在一般的深层 Transformer 里不存在。第 37 层的中间状态没有义务长得像任何一个字。 其中一位研究者在 Ouro-2.6B 上实测后补充：超过 95% 的 token 在每一圈的输出都相同，而那些会变的 token，正好标示出模型真的用上额外深度的位置。他也说明，这比不上完整的思维链，因为你只拿得到单一 token 层级的读数，读不到一段连贯的推理。 这里有个前提要讲清楚：整个性质建立在「模型被训练成能用不同圈数运作」之上。如果 Astra 用的是固定圈数、中间那几圈从来不必独立输出，这个性质对它就不成立。Astra 属于哪一种，目前没有公开信息。 所以我不会把这段当成安心的理由。但它示范了一件事：把「架构变复杂」直接等同于「更不透明」，是一个没有经过验证的直觉。 ## 那真正该担心的是什么？ 拆完误读，剩下的部分仍然值得担心，只是担心的位置跟中文报道讲的不同。 先说为什么这条线这么多人在守。2025 年有一篇由 OpenAI、Anthropic、Google DeepMind 研究者共同参与的[论文](https://arxiv.org/abs/2507.11473)，把思维链的可读性描述为一个难得但脆弱的安全机会，并呼吁业界研究如何保住它。它脆弱的原因就在于，它是训练过程的副产品，没有任何机制保证它会一直存在。 这里要先挡掉一个很自然的反问：如果多绕几圈的效果跟把模型加深加宽同类，那把圈数调大不就等于换一个更大的模型吗？为什么没人管加大模型叫旋钮？ Rauno Arike 给了一个我认为站得住的区分。把模型加深，成本落在预训练：要重跑一次昂贵的训练，而且训练完之后深度就固定在那里，推理时加不了。循环架构不一样，可以用低圈数训练，之后靠少量微调、甚至零样本，就在推理时把圈数往上调。 同样是变深，一个要重新训练一次，一个改一个推理参数就好。旋钮这个字指的是后者。 Greenblatt 在 Pachocki 回应之后补了一段，讲的正是这件事：那则声明与「Astra 存在一个目前设得很低、但可以轻易调高的旋钮」是完全相容的。他接着列出三个他想知道的问题，包括这个架构是否引入了一个新的、天生就很适合大幅放大的深度参数。 Apollo Research 的 Marius Hobbhahn 讲得更直白：只要更深能换到更强，压力方向就是往更深走。 这里有一个滑坡的形状：每一步都不算特别危险，走完一段之后回头看，离出发点已经很远了。这也是为什么有人主张第一步就不该踏出去。 还有一层，我认为对台湾的读者更实用。OpenAI 政策团队 Strategic Futures 的负责人 Dean Ball 一边驳斥这波恐慌，一边指出整个产业是在社群平台的时间轴上，判断一项技术复杂的说法，而几乎没有任何可对照的事实基础。他的结论是：这正是需要法定独立审计与技术评估的理由。 Transformer 那篇文章的留言区有位读者补了一个具体的参照点，我回查法条原文后确认对得上：欧盟 AI 法案[附件十一](https://artificialintelligenceact.eu/annex/11/)第一节第 1 点 (d) 要求通用模型提供者记载「架构与参数量」（the architecture and number of parameters），第 2 点 (b) 要求记载关键设计选择及其理由与假设；具系统性风险的模型另受第二节第 3 点约束，要提交系统架构的详细说明，交代各软件组件如何彼此衔接。 所以规范是有的，落差在谁看得到。那份文件交给的是 AI Office，不会公开给读者。一位首席科学家在 X 上引用的深度数字，跟一份送交主管机关的技术文件，是两种不同性质的东西。 ## 读不到的东西，就管不到 我自己的工作流里有一小块会被这件事直接影响。 我平常会把同一份代码或同一份分析，同时丢给几个不同厂商的 agent 各自审一遍，再把它们的分歧摊出来自己判断。这套做法能成立，唯一的原因是它们愿意把理由写成我读得懂的字。它们的结论我未必信，但我至少能看到它们是怎么走到那个结论的，然后决定要不要接受。 如果哪天这些 agent 之间改用一种对彼此更有效率、对我不可读的格式互传，我这套交叉验证就会退化成投票：我只剩下数几票赞成、几票反对，看不到理由。这跟我在前一篇里写的「连要求它解释这个最基本的监督手段都失去了」是同一件事，只是缩小到一张桌子的尺度。 所以我对这次的判断是这样：neuralese 没有发生。发生的是另一件事，模型多了一个控制推理深度的旋钮，而外界没有任何管道知道它现在停在哪一格，只能听厂商说。 我在〈[Neuralese 是什么](/zh-cn/articles/neuralese-language-sovereignty/)〉里写的那句「主要 AI 公司尚未在前沿模型中正式实作 Neuralese CoT」，严格说起来现在仍然成立。 需要更新的是后半段：这件事现在已经不再是「有没有做」的二元问题，而是「做到什么程度、谁有权查、查完给谁看」的问题。 而这三题，目前一题都没有答案。 想看这条线上的其他讨论，可以往「[智能与秩序 → AI 治理](/zh-cn/topics/ai/)」走。