TL;DR：Looped transformerは同じ層スタックを繰り返し実行するだけだ。ICLR 2025の一本は、その設定においてT回のループがT段階の思考連鎖をシミュレートするのに十分だと示した。違いは後者が各ステップを文字として残すことだ。ループ回数が今まで増やされていないのは訓練が不安定になるからであり、2026年には三つのグループがその不安定を修正しようとしている。Fuらのアブストラクトは「ループ回数を推論時に調整できること」を利点として書いた。これが安全研究者の言うダイヤルだ。

▶ 要約を聴く
AI合成音声・著者本人の声のクローン

前の記事でAstraをめぐる議論を書いたとき、私は一つ間違えた。

「規模が大きいほどループ回数はむしろ少ない」という一連の対比を引用し、中国語の報道が主張する「ループ回数は際限なく増え続ける」という見解に反論しようとした。その数字はLessWrongの記事にあったもので、モデルが代わりに文献をまとめたものだった。著者自身、その論文のほとんどを通読していないと注記していた。

後から、その七本のアブストラクトを一本ずつ確認した。問題の数字は一つも見当たらなかった。

正確に言うと、私が確認したのはアブストラクトであって全文ではない。その数字が本文や補足資料に書かれている可能性は排除していない。確かなのはただ一点、著者がその論文の代表として選んだ文章の中に、その数字はなかったということだ。

そして、アブストラクトが実際に書いていた内容は、私が主張しようとしていた方向とはずれていた。第三節と第四節がその内容だ。

これはその照合の結果だ。

ループするTransformerが繰り返しているものとは何か

後の議論がすべてここにかかるので、メカニズムを十分に詳しく説明しておく。

通常のTransformerがトークンを処理するとき、情報は最初の層から最後の層へと流れ、各層はそれぞれ独自の重みを持つ。48層なら48組の異なるパラメータがあり、一度通過すれば次の単語を出力する。

Looped transformerは別の方法を取る。層スタックの一部を繰り返し使う。一回通過した後、出力を同じスタックに戻して二回目を実行し、十分に繰り返してから先へ進む。同じ重みセットが何度も使われる。

オープンソースモデルのNanbeige 4.2はシンプルな例だ。22層のスタックを二回実行し、44層分の深さを得る。重みを共有しているためストレージは22層分のままだ。代償は計算量がほぼ二倍になることだ。Sebastian RaschkaはこのNanbeigeに関する技術メモの中で、研究者が二回を最良のトレードオフとして見つけたこと、それ以上繰り返してもほとんど効果がなく訓練がはるかに遅くなりコストも上がることを指摘している。

層を再利用することが深さを倍にするのに近い効果を持つなら、「何回ループするか」という数字は実質的に「このモデルはどれだけ深いか」の別の書き方だ。深さそのものであり、付加的な設定ではない。

ただし、後の推論がずれないよう、二つのケースを最初に区別しておく必要がある。Nanbeigeは訓練時にループ回数を二回に固定しており、展開された深さは埋め込まれている。実行時の挙動は44層のモデルと変わらない。もう一つのアプローチは、異なるループ回数で動作できるよう訓練し、推論時に回数を決定することだ。後者だけがダイヤルと呼べる。両方のタイプが存在し、Astraがどちらに当たるかは現在公開情報がない。

ループと下書きは、同じことの二つのやり方か

Saunshiらがこれについて最も強い主張を提示した。ICLR 2025で発表した〈Reasoning with Latent Thoughts〉は、多くの推論問題に必要なのは深さであってパラメータ数はそれほど重要ではないと主張する。実験結果は、k層をL回ループさせた性能がkL層でループしないモデルに近く、k層を一回だけ実行するより明らかに優れていることを示した。

核心は後半にある。彼らはその論文の設定において、loopedモデルが潜在的な思考を暗黙に生成し、T回のループがT段階の思考連鎖をシミュレートするのに十分だと示した。また、ループありとなしのモデルどちらの拡張挙動も有効深度に依存しており、推論時の思考連鎖の拡張に似た形態を示すことを観察した。

この結果の方向性に注意が必要だ。ループが下書きをシミュレートできるということであって、両者が等価で自由に交換可能だということではない。しかし一方向で十分だ。モデルがより多くのステップを考える必要があるとき、考えを文字に書き起こして読み返すこともできるし、同じ層スタックをもう数回回すこともできる。後者は前者が到達できる場所に到達する。

違いは、文字に書き起こす経路では各ステップが人間の読める文字として残ることだ。

思考連鎖が監視できるのは、そのために監視の仕組みが設計されたからではなかった。監視できたのは、当時モデルにその経路しかなかったからだ。

これはまさに〈Neuraleseとは何か〉で懸念した点だ。当時の問いは、AIが文字に書き起こさない思考様式を発展させるかどうかだった。Saunshiの結果が示すのは、その経路がアーキテクチャの中に最初から存在していたということだ。

ループはコスト効率がいいのか、学界が議論しているのはその問題だ

中国語の報道は「ループ回数は際限なく増え続ける」を既定の趨勢として書いていた。しかし学界が実際に議論している問題は、それよりずっと具体的だ。

Loopieの論文（〈Loop the Loopies!〉、2026年7月）のアブストラクトは冒頭でこう言う。この分野の長年の課題は、同じ事前訓練の計算量でパラメータをN倍にする方がモデルをN回ループさせるより一般的に優れているという問題だ。

一文でこの十年間誰もこのやり方をしてこなかった理由が説明できる。気づかなかったからではなく、コスト効率が悪かったからだ。

Loopieの貢献は、その問題を解決したと主張することだ。二つのMixture-of-Expertsモデル、20B中2Bが活性化するものと6B中0.6Bが活性化するものだ。著者によれば、同じ計算予算で通常のTransformerのベースラインを明らかに上回り、ツールなしで2025年の国際数学オリンピックと国際物理オリンピックで金メダル級の成績を達成したという。

Ouro（〈Scaling Latent Reasoning via Looped Language Models〉）の結果も同じ方向を指す。1.4Bと2.6Bのモデルを7.7Tトークンで訓練し、複数の評価で最大12Bの同時代モデルに並んだ。著者はアブレーション実験を通じて、この優位の源泉は知識操作能力の向上であり、知識の収容量が増えたわけではないと示している。

つまり「多くループさせることがコスト効率的かどうか」という問いに対する2026年の答えは、「非効率」から「効率的」へと転換しつつある。

なぜループ回数はまだ大きく増やされていないのか

訓練が壊れるからだ。ただしこれはエンジニアリング上の問題であって、物理的な上限ではない。

Fuらの〈Simply Stabilizing the Loop via Fully Looped Transformer〉は原因を明確に記している。ループ回数が増えると訓練が不安定になり、原因は二つ、勾配振動と残差爆発だ。彼らはパラメータを増やさずにそれを抑える二つの修正方法を提案する。

DeepLoop（〈Depth Scaling for Looped Transformers〉）は同じ問題を別の角度から扱う。平たく言えば、ループ回数が増えると同じ重みが繰り返し使われ、勾配が累積しすぎるため、残差をより強く圧縮しなければならない。論文の導出は次の通りだ。通常のTransformerでは各残差ブランチが独自のパラメータ更新を受け取る。循環アーキテクチャでは同じ共有された更新が繰り返しのアクセスで蓄積した勾配を集約し、次のループで同じアクセスに読み返される。保守的な場合、残差スケーリングの指数を4分の1から2分の1に上げなければならない。さらにParcaeが循環言語モデルの安定した拡張則に取り組んでいる。

これらを並べると、訓練安定性だけの問題に対して2026年には三つの異なるグループが同じ扉を押している。

これは「ループ回数が減少傾向にある」とは別の話だ。

ループ回数はダイヤルか

安全研究者はそれをダイヤルと呼び、OpenAI側は直接否定していない。しかし最も端的な一文は、研究者自身が書いたものだ。

Fuらのアブストラクトは、looped transformerの利点を述べた後にこう続ける。ループ回数は推論時に調整できるため、性能とテスト時の計算量をバランスさせる自然なメカニズムも提供する。

これは利点として書かれた文章だ。Ryan Greenbaltが懸念する「今は低く設定されているが簡単に引き上げられるダイヤル」と同じものを指しているが、立場が違う。（Greenbaltはロバストなエージェント的AIの開発に取り組む研究者であり、この議論は外部が、ベンダーが不可視の推論深度を公開せずに引き上げられるのではないかと疑問を持ったことから始まった。）

アーキテクチャの特性が同時に開発側の売りと安全側の懸念になることはAI分野で珍しくない。しかし今回ほど、両側がほぼ同じ文章を使っているケースはあまりない。

一つ条件を付け加える。この調整可能性は、モデルが最初から異なるループ回数で動作できるよう訓練されていることが前提だ。固定されたループ回数で訓練されたモデルは、推論時に回数を変えても壊れるだけだ。つまりダイヤルの存在は訓練時の設計選択であり、すべての循環モデルが生まれつきそれを持っているわけではない。

Ouroはさらに一歩進む。その訓練目標にはエントロピー正則化項があり、深さの配分を学習させる。言い換えれば、計算ステップを節約するようモデルを促すペナルティ項があり、何回ループするかをモデルが入力ごとに自律的に決定するようになる。

この経路が通るなら、ダイヤルは人間の手を離れる。訓練目標の中に組み込まれ、外部が確認すべき問いは「パラメータを何に設定したか」から「モデルはどのような深さ戦略を学んだか」に変わる。後者の問いははるかに難しい。

ループするモデルはより読みやすいか、それとも読みにくいか

現時点でこの問いに決着はついていない。それが重要な理由は、現行の監視ツールがあとどれだけ機能し続けられるかを左右するからだ。

「より読みやすい」を支持する三つの方向がある。

Ouroの論文自身が、LoopLMの生成する推論の軌跡は明示的な思考連鎖よりも最終出力との対応が高いと主張する。明示的な思考連鎖が長年抱えてきた問題は、モデルが口では一つのことを言いながら実際には別のことを計算することだ。Ouroのデータはループした軌跡がこの点でより良い性能を示すことを示唆する。

LessWrong上で関連実験を行った研究者二人が、可変ループ回数をサポートするよう訓練されたモデルでは各ループ終了時の中間状態をトークンにデコード可能な状態に保たなければならないと報告している。そのループが最後のループになる可能性が常にあるからだ。通常の深いTransformerの37層目にはこの制約がない。うち一人はOuro-2.6Bで自ら実験し、95%以上のトークンが各ループで同じ出力を示し、変化するトークンがモデルが実際に追加の深さを使った箇所を正確に示すと報告した。この数字を私は独立に検証していない。コメント欄の個人実験から来ている。

反対側の主張にも重みがある。循環アーキテクチャの表現力は同等の深さの通常のTransformerより高く、特定の操作を暗黙に学習できるが通常のアーキテクチャはそれを学べないため監視がより難しいという指摘がある。Rauno Arikeの反論は、重み縛りは実際には制約であり、k層をL回ループさせることはkL層のモデルの特殊ケースであって、関数空間はより大きくなるのではなくより小さくなるというものだ。

この議論はまだ決着していない。しかし少なくとも一つのことは示している。「アーキテクチャが複雑になる」を「より不透明になる」と直接結びつけるのは、検証されていない直感だ。

「使用を制限している」は約束と言えるか

ここまでの節をまとめると、ガバナンスの問題が浮かび上がる。

ループ回数は深さと等しい。深さは推論時に調整できる。それがコスト効率的かどうかへの学界の答えは変わりつつある。そしてモデルは自分でどこまで深くするかを決定するよう学習する可能性がある。

この文脈で、ある企業が「この技術の使用を制限している」と言ったとき、それは約束として扱えるか。

Geoffrey Irvingが具体的な判断基準を示した。彼は回路複雑性の専門家に尋ねたと言い、共通の見解は、回路の深さを制限することから意味のある保証を得るにはその深さを非常に低く設定しなければならないというものだった。「数百層」あるいは「たまにトークンを一つ出す」程度の制限なら偽の制約だ。彼はこれをある対比で説明した。「思考連鎖を監視している」と言いながらエラー率を議論しないのと同じだ。現実は数値で段階付けられるものであって、「試みた」という二値的な判断ではない。

この基準は企業の文脈で直接使える。どのような形の制御策であっても、その説明の中に数値と誤差がなければ、それはまだ監査できるものではない。

GreenbaltがOpenAIの首席科学者Jakub Pachockiの返答を受けて追加で問いかけた三点も、同じ線上にある。はるかに高い深さでデプロイする既製の方法があるか。このモデルは不可視の推論能力においてトレンドからの逸脱を示しているか。このアーキテクチャは大幅な拡張に本質的に適した深さパラメータを導入しているか。

三つの問いはすべて目盛りを問うている。

この規律を私ははるかに小さな規模で実装したことがあり、方法論の層でしか類比できない。バッチスケジューラに毎日自分のシステムを確認させていたが、実際に見張りをしていたいくつかのジョブがしていたのは、固定されたコントラクトファイルを取り出し、オンラインの実際のレスポンスと一行ずつ照合し、ステータスコードが一致するか確認することだった。システムに「調子はどうか」と聞くのではなかった。ステータスコードは決定論的だ。ニューラルネットワークの不可視の推論はそうではない。監査技術自体はまったく移転できない。移転できるのはただ一点だけだ。検証の基準は被検者の自己申告から来てはならない。これはあらゆる監査の第一の原則だが、AIの層ではまだ制度化されていない。

目盛りのないダイヤル

この論文群についての私の判断はこうだ。

Looped transformerは謎めいたものではなく、エンジニアリング上合理的な選択だ。今ループ回数が少ないのは訓練がまだ十分に安定していないからであって、誰かが守っているからではない。そしてその不安定は、五つの異なるグループが同時に修正しようとしている。

安全研究コミュニティのこの一連の反応がこれほど大きかった理由は、Astraが今回何をしたかではなく、この経路の形が見えてきたからだと私は思う。売りでもあり懸念でもあるパラメータ、訓練時に推論時の調整のために残すかどうかを決められる深さ、そして現在ベンダーの自己申告にしか頼れない検証の連鎖だ。

目盛りを誰が読むのか、どの精度まで読むのか、読んだ記録をどこに残すのか、この三問については前の記事の末尾でまだ答えがないと書いた。

七本のアブストラクトを照合した後、第四問を加える必要がある。論文自体に何が書かれているかも、誰かが実際に読まなければならない。この問いの敷居が最も低く、そして私が前の記事で間違えたのがまさにここだった。

この線上の他の議論を読みたければ、「知性と秩序 → AIガバナンス」へ。