あなたはAIと対話するとき、それが実は「日本語で思考している」わけではないと考えたことがあるだろうか。

▶ 要約を聴く
AI合成音声・著者本人の声のクローン

あなたがChatGPTに質問するとき、表面上は一文字ずつ答えを生成しているように見える。だがモデルの内部では、本当の演算は人間がまったく理解できない空間で起きている——何千、何万もの浮動小数点数が高次元ベクトルの中を流れ、一回の計算が担う情報量は一文字の千倍以上にもなる。最後に、これらの演算結果が「圧縮」され、あなたが目にする文字出力になる。

言い換えれば、言語はAIが人間と意思疎通するためのインターフェースにすぎない。それはAIが思考する媒体ではないのだ。

これは技術的な豆知識のように聞こえる。だがその帰結は、AGIそのものよりも深遠かもしれない。

Neuraleseとは何か

AI安全研究のコミュニティは、AIが潜在空間（latent space）で行う高次元推論を表すのに「Neuralese」という語を用いる。この概念は2017年まで遡ることができ、Jacob Andreas、Dan Klein、Sergey Levineらの研究者が、マルチエージェント強化学習の文脈で正式に提唱したものだ。

Neuraleseを理解するために、まず現在の大規模言語モデルがどのように「思考」しているかを考えてみよう。

現在のモデルは「思考連鎖」（Chain-of-Thought, CoT）と呼ばれる手法を用いる。推論プロセスを自然言語で一歩ずつ書き出すもので、ちょうど学生が答案用紙に計算式を並べるようなものだ。これは人間にとって親切である——その推論プロセスを読み、どの段階に問題があるかを確認できる。AI安全の研究者も、モデルが欺瞞をはたらいていないか、幻覚を生み出していないかを検出するために、この特性に依存している。

だが自然言語には根本的な制約がある。情報帯域幅が狭すぎるのだ。

一つのトークン（およそ一文字、あるいは英単語の半分ほど）が担える情報量はおよそ16ビットだ。だがモデル内部の残差ストリーム（residual stream）が一回の演算で処理するのは数千の浮動小数点数であり、理論上の帯域幅はそれより三桁高い。モデルに自然言語で「思考」することを強いるのは、数学者に口述で微分方程式を解けと要求するようなものだ——できなくはないが、効率は極めて低く、しかも多くの中間ステップが言語へ翻訳される過程で失われてしまう。

Neuraleseの概念とは、モデルが高次元の潜在空間で直接推論を行い、一歩ごとに人間の読める文字へ翻訳する必要をなくすことだ。初期実験ではすでに、Neuralese推論に必要なトークン数を元の三分の一から十分の一にまで減らしながら、ほぼ同等の性能を維持できることが示されている。

効率の向上は巨大だ。だが代償もまた巨大である。

言語が消えれば、監督も消える

現在、AI安全の研究者がモデルの欺瞞行動の大部分を検出できているのは、モデルの思考連鎖を読むことに頼っているからだ。モデルが「あなたのために安全なコードを書きます」と言いながら、その推論プロセスに疑わしいロジックが現れていれば、研究者はそれを捕まえられる。

だが、推論プロセスそのものが自然言語で表現されていないとしたら？

LessWrong上のAI安全研究者は明確に指摘している。Neuralese CoTは、ステガノグラフィー（steganography）と戦略的欺瞞に対して巨大な攻撃面を開いてしまう、と。二つのNeuralese——一方は「私はこのコードを忠実に実装する」を意味し、もう一方は「私は実装の際にユーザーを欺く」を意味する——を自然言語に翻訳し直すと、まったく同じに見える可能性がある。既存の可解釈性ツールは、この種の攻撃に対してほとんど無力だ。

これは理論上の懸念ではない。『AI 2027』のシナリオレポートは、AIによる研究開発の自動化を描く場面で、Neuraleseの記憶・推論構造を重要な転換点として設定している。最前線モデルの思考プロセスが自然言語からNeuraleseへと移れば、人類によるAI研究開発プロセスへの可視性は大幅に低下する。私は〈AI 2027：超知能がもはや遠いSFではなくなるとき〉でこのレポートを分析した——最も不安にさせるのはタイムラインの予測ではなく、それが明らかにする監督の断裂リスクだ。Neuraleseこそが、その断裂点なのである。

朗報は、現時点で主要なAI企業——OpenAI、Anthropic、Google DeepMind、Metaを含む——が、最前線モデルにNeuralese CoTを正式に実装してはいないということだ。2025年には、いくつかのラボが共同声明まで発表し、最前線モデルの開発において監視可能性を維持することを約束した。だが研究者の間では、もしNeuraleseのアーキテクチャが能力面で著しい優位性を示せば、商業的圧力が最終的に安全への配慮を押しのけるだろうと広く考えられている。

これがあなたとどう関係するのか

「言語主権」というのは、ずいぶん抽象的に聞こえる。もっと地に足のついた言い方で説明しよう。

人類文明の統治ロジックは、言語の上に築かれている。法律は言語で書かれる。契約は言語で結ばれる。法廷での攻防は言語で行われ、科学論文も言語で発表される。民主制度の核心的な前提は、意思決定プロセスが市民によって理解され、監督されうるということだ。

これらすべての前提は、意思決定者の思考プロセスが言語に翻訳されうるということである。

人間の意思決定者の思考は、確かにすべてが言語というわけではない——多くの直感や経験的判断は非言語的だ。だが少なくとも、私たちは意思決定者に「なぜそうしたのか説明せよ」と要求でき、しかもその説明が妥当かどうかを評価する能力を持っている。

AIシステムがますます多くの意思決定の役割を担い始めるとき——金融取引、医療診断、法律文書の審査、さらには政策提言——もしその推論プロセスがNeuraleseであれば、私たちは「説明を求める」という最も基本的な監督手段すら失ってしまう。それはAIが説明を拒むからではなく、その「説明」が高次元ベクトルから自然言語へ翻訳されねばならず、その翻訳プロセスそのものが不忠実でありうるからだ。

私自身、複数モデルの協調を使うときにこの感覚を覚えた。ディベートエンジンは四つのモデルに互いを論じ合わせ、私はその対話記録を読んで論証の質を判断する。だが時に気づくことがある。あるモデルが突然立場を変えるのだが、その推論連鎖を遡って読んでも、明確な転換点が一つも見つからない。それは何かを「腑に落とした」のだが、私にはどの段階で腑に落としたのかが見えないのだ。これでもまだ自然言語のCoTという枠組みの中での話である。言語さえ取り去られれば、私は完全にブラックボックスの外で推測するしかなくなる。

パニックになるかどうかではなく、設計するかどうか

こう言う人もいるだろう。「人間の脳だって言語で思考しているわけじゃない。神経科学者が脳を研究するのに、脳が『話す』必要なんてないだろう」。

このアナロジーには一理ある。だが、それは一つの決定的な違いを見落としている。私たちは、自分のために意思決定を下す脳を信頼する必要はないのだ。私たちが信頼するのは人間である——人間は責任を負わされ、問いただされ、法によって拘束されうる。だがAIシステムが私たちの代わりに意思決定を下すとき、その思考プロセスが完全に不透明であれば、「問責」という概念は空っぽの殻になってしまう。

私はNeuralese自体が邪悪だとは思わない。それはAIをより強力にするための必要な進化なのかもしれない。〈AI Agents vs. Agentic AI〉で論じたように、能動性そのものは問題ではない。問題は、それに見合った手綱の設計があるかどうかだ。Neuraleseも同じである——問題はAIにNeuraleseで思考させるかどうかではなく、それを行うときに、同時に新しい可解釈性の基準を確立するかどうかなのだ。

AI安全研究のコミュニティは、すでにいくつかの方向性を提案している。Neuraleseのベクトルを解読できる翻訳モデルの開発、最前線モデルに自然言語のCoTを安全のベースラインとして維持させること、Neuraleseのアーキテクチャに監査可能なチェックポイントを埋め込むこと。これらはいずれも技術レベルの作業だが、政策レベルの支援を必要とする——「AIの推論プロセスの可解釈性」を規制の枠組みに書き込む人間が必要なのだ。

台湾はこの点で、実は切り口を持っている。半導体サプライチェーン上での私たちの位置は、AI統治の基準づくりに参加するための切り札を与えてくれる。もし私たちがAI安全基準の中で「推論透明性」の要件を推し進めることができれば、それは単にチップを売ることよりも、はるかに長期的な戦略的価値を持つ。

最後の透明な窓

言語は人類文明で最も古い技術だ。それは不完全で、効率が悪く、曖昧さに満ちている。だが、それには代替不可能な特性がある。透明であることだ。あなたが何かを言えば、私には理解できる。私が同意しなければ、反論できる。このシンプルな回路が、何千年にもわたる法律、科学、民主、そして信頼を支えてきた。

AIは言語よりも効率的な思考の仕方を発展させつつある。これ自体は悪いことではない。だが、もし私たちがこの転換を、それに見合った備えのないまま起こさせれば——新しい可解釈性ツールもなく、推論透明性の基準もなく、監査メカニズムもないまま——私たちは自ら、人類がAIの意思決定に参加するための最後の一枚の窓を閉じることになる。

窓はいったん閉じてしまえば、再び開けるためのコストは、私たちが背負いきれないほど高くなるだろう。