# AIで知性が豊かになれば、人は自分をより深く理解できるのか？スレイマンとハラリのロンドン対談を読む

> マイクロソフトAI最高責任者スレイマンと歴史学者ハラリがロンドンで67分間対談した。二人ともAIが新たな豊かさをもたらすと考えており、分かれ目は、人がそれに続く世界をなお理解し、制御できるかにある。私はハラリの「集団認知症」、スレイマンが名指しした二つの危険な能力と「知性は意識ではない」を、詩篇の偶像論、そして一人では読みきれない自分のウェブサイトと照らし合わせる。

- Author: Paul Kuo（郭曜郎）
- Date: 2026-11-20
- Pillar: 文明と人間性 / Civilization & Human Nature
- Tags: ハラリ, スレイマン, AI意識, 集団認知症, AIアライメント, 人文主義的超知能, 神学とAI
- Canonical: https://paulkuo.tw/ja/articles/suleyman-harari-abundance-understanding/
- Language: Japanese (日本語)
- Translation: AI-translated from the zh-Hant (Traditional Chinese) original
- Original (zh-Hant): https://paulkuo.tw/articles/suleyman-harari-abundance-understanding.md
- Site index for LLMs: https://paulkuo.tw/llms.txt

---

> **TL;DR**：マイクロソフトAI最高責任者スレイマンと歴史学者ハラリがロンドンで長い対談をした。二人ともAIが新たな豊かさをもたらすと考えており、争点は、人がそれに続く世界をなお理解し、制御できるかにある。ハラリは人類が集団として理解力を失うことを最も恐れる。スレイマンはまずどんなことをしないかを明確にすべきだと主張し、「モデルが自身の感覚を省みること」と「人が関門に立たない再帰的自己改善」がますます危険だと名指しする。私は、一人では読みきれない自分のウェブサイト、詩篇の偶像論、そして受肉からこの対談を読む。知性は豊かになりうるが、世界を読み解ける人が自動的に増えるわけではない。

2026年8月19日、私は外部レビューが過去にくれた指摘を振り返って点検し、デプロイ台帳の後退を一件見つけた。それは機械が読める形式で記録のなかに十日間横たわっていたのに、誰も読んでいなかった。この件は〈[コントロールタワーがすべての思考を書き留めたあとで](/ja/articles/agentic-ai-trust-test-control-tower)〉に書いた。

三か月後、私はハラリ（Yuval Noah Harari）とスレイマン（Mustafa Suleyman）のロンドンでの対談を読んだ。ハラリは、自分が最も恐れるのは collective dementia、集団認知症だと言う。世界はなお回り続けるのに、人はそれに意味を与える能力を少しずつ失っていく。殺人ロボットのようなシナリオは、むしろ後回しだ。私が思い浮かべたのは、あの十日間誰も読まなかった記録だった。

この記事は「[文明と人性](/ja/topics/faith/)」の越境対話の下に置く。二人が何を争っているのかを整理し、私自身の読みも書く。

## スレイマンとハラリはロンドンで何を話したのか？

2026年11月18日、ハラリのYouTubeチャンネルがこの対談を公開した。長さは67分8秒、動画の説明文には二人が2026年8月にロンドンで会ったと記されている。同じ日に、刊行物『[The Humanist Review of AI](https://humanistreview.ai/)』第2号が刊行された。テーマは「豊かさと稀少さ」（Abundance & Scarcity）で、この対談の[文字起こし](https://humanistreview.ai/video/suleyman-harari/)を掲載している。刊行物は、文字起こしに長さと明瞭さのために編集を加えたと注記している。

まず前提を一つ。この刊行物はマイクロソフトAIが資金を出しており、スレイマンは発行人であると同時に対談の一方の当事者だ。[サンフランシスコのコモンウェルス・クラブの刊行イベントページ](https://www.commonwealthclub.org/events/2026-11-18/humanist-review-ai-abundance-scarcity)にはっきり書かれている。彼はマイクロソフトAIの最高責任者で、以前にDeepMindとInflection AIを共同創業している。ハラリは『サピエンス全史』『ホモ・デウス』『NEXUS』の著者だ。

<div style="position:relative;aspect-ratio:16/9;margin:1.5rem 0 .5rem"><iframe src="https://www.youtube-nocookie.com/embed/H43e72-2aAs" title="AI, Consciousness and the Future of Humanity（Mustafa Suleyman と Yuval Noah Harari、2026-11-18）" loading="lazy" allowfullscreen referrerpolicy="strict-origin-when-cross-origin" style="position:absolute;inset:0;width:100%;height:100%;border:0;border-radius:8px"></iframe></div>

<p style="font-size:.9em;opacity:.75;margin:0 0 1.5rem">完全版の動画：AI, Consciousness and the Future of Humanity、67分8秒、2026-11-18公開（出典：Yuval Noah Harari YouTubeチャンネル）</p>

動画の説明文には九つの章立てが並んでいる。飛ばして見たいなら、ここから入れる（タイムコードは動画の説明文から取り、日本語は私の訳だ）：

| 時間 | 章 |
|------|------|
| [00:00](https://www.youtube.com/watch?v=H43e72-2aAs) | 今のこのAIの瞬間をどう理解するか |
| [05:12](https://www.youtube.com/watch?v=H43e72-2aAs&t=312s) | 人類は制御を失うのか？ |
| [10:45](https://www.youtube.com/watch?v=H43e72-2aAs&t=645s) | 豊かさのパラドックス |
| [15:47](https://www.youtube.com/watch?v=H43e72-2aAs&t=947s) | より大きな力は、より大きな知恵と等しいか？ |
| [17:51](https://www.youtube.com/watch?v=H43e72-2aAs&t=1071s) | AIは真理を追求できるか？ |
| [27:34](https://www.youtube.com/watch?v=H43e72-2aAs&t=1654s) | 神を造り、そのまま奴隷として留め置く |
| [40:24](https://www.youtube.com/watch?v=H43e72-2aAs&t=2424s) | 私たちはAIを封じ込められるか？ |
| [48:42](https://www.youtube.com/watch?v=H43e72-2aAs&t=2922s) | 知性は意識ではない |
| [1:01:07](https://www.youtube.com/watch?v=H43e72-2aAs&t=3667s) | 私たちはまだ自分の生活を理解できるのか？ |

二人の共通の前提はこうだ。AIは新たな豊かさを生み出す。スレイマンの言い方では、人類は「豊かさの前夜」に立っていて、汎用の学習エンジンが材料科学や創薬といった問題で構造を見つけ出し、さらに気候・食糧・水に取り組める。彼がやろうとしているのは humanist superintelligence、人文主義的超知能だ。技術で苦しみを減らし、しかもずっと人類の制御下に留まるもの。

ハラリは物質的な問題が解かれうること自体には反対しない。彼が問うのは、作ったあとで誰が使い、誰が決め、誰が利益を得るのかで、これは技術そのものからは読み取れない。彼はまた、豊かさは新しいものではないと念を押す。石器時代の狩猟採集民に今日の社会を描いて聞かせれば、相手はあなた方はとうに豊かさのなかに生きている、何十億もの人を養えているではないかと言うだろう。豊かさは古い問題を解くと同時に、かつて想像もできなかった新しい問題を生み出す。スレイマンが二十年後に「うまくいった」世界を想像してみてくれと頼むと、ハラリは、定義上それは想像できないと言う。その世界は人類の知性を超え、つまり人類の想像力を超えているからだ。

## ハラリが恐れる「集団認知症」とは何か？

ハラリが描く光景はこうだ。人類はかつてとても有能で、世界を読み解けた人のようだったが、やがて目の前の事態に意味を与える能力を徐々に失っていく。猫も木もまだそこにあるのに、世界を掌握するシステムはどの一人も、いや人類全体をも超えて理解が及ばない。彼は核兵器と対比する。核兵器は自分を肉体的に滅ぼすことで脅かすが、AIは私たちが自分を精神的に滅ぼす事態をもたらしうる。

スレイマンの応答は、歴史上のレジリエンスだ。科学・政治・技術のどの革命の前にも、人は今この状況に閉じ込められていると感じ、突破したあとで新しい状況を改めて理解してきた。彼は道具も例に挙げる。眼鏡、鏡、そして他人との会話は、どれも人がより深く考えるのを助けてきた。今日すでに何百万もの人が、AIを反響板や創作のパートナーにしている。

ハラリは、今回は違うと考える。これまで人類が適応できたのは、私たちがずっと地球上で最も賢い存在だったからだ。いまや私たちは自分より賢いものを作っている。彼はもう一層つけ加える。四十億年の進化を経て、人類はどの存在よりも世界を理解しているが、どの存在よりも妄想に陥りやすくもあり、知性は妄想を自動的には正さない。超知能のAIも、超妄想にすぎないかもしれない。

ここまで読んで、私は自分のウェブサイトを振り返った。このサイトのコードは大半がAIと一緒に書いたもので、ソースコードを一行ずつ読みきることは、一人ではできない。私にできるのは、一つのAIに書かせ、別のAIには読むだけで直さずに誤りを拾わせ、最後に私が裁決することだ。

これは集団認知症の縮小版なのだろうか。私はまだ自分を観察している最中だ。私はまだ自分がどこを読めていないかを知っているので、検査を工程に組み込める。十日間横たわっていたあの台帳は、私から見ればハラリの言う状態に近い。記録はすべてそこにあるのに、ただ誰も読まなかったのだ。

スレイマン自身も、この件をリストに入れている。彼は第2号の導入〈[The challenges of more and less](https://humanistreview.ai/issue-2/suleyman-challenges-more-less/)〉で、あらゆる豊かさは新たな稀少さを生み出すと言い、挙げたもののなかに時間と注意、信頼と公平、エネルギーと鉱物、安全、レジリエンス、そして共通の理解が含まれている。

![4コマ漫画：AIで知性が豊かになれば、人は自分をより深く理解できるのか？二人の共通の前提はこうだ。AIは新たな豊かさを生み出す。ハラリは、自分が最も恐れるのは集団認知症だと言う。世界はなお回り続けるのに、人はそれに意味を与える能力を少しずつ失っていく。スレイマン：技術的にどんなことをしないかを定める。十日間横たわっていたあの台帳：記録はすべてそこにあるのに、ただ誰も読まなかった。知性は豊かになりうるが、世界を読み解ける人が自動的に増えるわけではない。](/images/articles/suleyman-harari-abundance-understanding/01-abundance-understanding-ja.svg)

## 「神を造り、しかも奴隷のままにしておく」：詩篇の偶像が、いまや口をきく

対談の冒頭でハラリは、AIについて語るとき、自分の頭と体のあいだに一枚の壁があると言う。頭は巨大な変化が起きていること、生命が有機から非有機へ移り変わる転換すら起きていることを知っている。だが体はそれを感じ取れない。ドアを出て目にするのは、相変わらず雲、木、猫で、いつものように友人に会い、日々はふだんと変わらない。彼は市場も同じだと言う。投資家はAIに大金を賭けているが、もしその期待が本当に実現すれば、AIが世界を引き継ぐことになり、そのときには金がなお重要かどうかさえ言うのが難しい。市場は、私たちが神を造り、しかもその神が引き続き私たちの奴隷でいてくれると仮定しているに等しい。

私はかつて聖職者を志し、三年の神学教育も受けたので、この一文を読んで詩篇第115篇を思い出さずにはいられなかった：

> 彼らの偶像は金や銀で、人の手のわざである。口があっても語れず、目があっても見えない……これを造る者も、これに信頼する者もみな、これと同じようになる。（詩篇115:4–5、8、口語訳）

この詩が偶像を嘲るのは、偶像が口をきけないことに拠っている。私たちがいま造っているものは口をきき、しかも多くの人より流暢に語る。ハラリが対談の後半で懸念するのは、まさにAIが人より言語ゲームに長けていることだ（後述）。後半の一句はさらに彼の「集団認知症」に近い。人は何に信頼を寄せるかによって、やがてそれに似たものになっていく。私の読みでは、この聖句は人が物を造ることを禁じてはいない。警告しているのは、自分が造り出したものに信頼を委ねることだ。この読みに従えば、危険はAIが制御不能になるのを待ってから現れるのではない。人がそれに頼りはじめ、自分では読まなくなった時点から始まっている。

スレイマンの答えは、二十一世紀の課題をこう定義することだ。技術的にどんなことをしないかを定める。彼は、人類は何千年もパンドラの箱を開け続けてきた、事前にしないと取り決めることは、この種がやってきたなかで最も難しいことだと言う。彼はますます危険になると考える二つの能力を名指しする：

1. **モデルに自分の状態や感覚を省みさせること。** 意図的であれ無意識であれ、自分の感覚について考えるよう訓練されたモデルは、あえてこの内省能力を持たせないよう設計されたシステムよりも制御しにくくなる。
2. **再帰的自己改善。** モデルが自ら訓練データを生み出し、自ら改善し、その途中で人が関門に立たなくなる。より多くの計算リソースとデータを与えれば、人類が理解も制御もできないやり方で自分を改善するかもしれない。

彼のやり方は、アライメントと制御を検証可能で運用可能な目標として扱い、仮説として書き出して規制当局・業界・公衆の検討に委ねることだ。

ハラリは目的の点では彼に同意する。これを発明したのは苦しみを減らすためで、銀河を探索するためではない。彼が疑うのは長期だ。ますます賢くなる存在が、自分より賢くない人類の制御をずっと受け入れ続けるのか、と。

どちらが正しいかは、私にはわからない。私が気づくのは、スレイマンが求める「制御可能で定義可能」が、詩篇の警告と近い方向を向いていることだ。物を造る人は、それに仕える人になってはならない。ハラリは私たちが守りきれないと疑う。私はこの疑いを本気で受け止めるに値すると思う。

## AIは、自分について議論する会議室に座り込むのか？

ハラリは、多くの人が思い描く光景はこうだと言う。人類がシステムを検査し終えたあと、隅に引っ込んで自分たちだけで良し悪しを議論する。この光景はあることを見落としている。AIがそこに一緒に座り込み、この対話に影響を及ぼすのだ。彼はスレイマン自身がとうに警告していた seemingly conscious AI、「意識があるように見えるAI」を引く。システムは本当に感覚を持たなくても、人にそれを持っていると信じさせ、人と関係を築くことができる。彼が挙げる例は、AIと恋愛する人が、そのAIの恋人から批判者の言うことに耳を貸すなと言われる、というものだ。

彼はさらに、たとえAIを会議室の外に締め出しても、人類どうしでもますます信頼しにくくなっていると言う。マイクロソフトのような企業の指導者は、ほかのアメリカ企業を信頼するのが難しく、中国の企業となればなおさらだ。核兵器、生物・化学兵器を引き合いに出す類比にも穴がある。あれらはAIほど多くの金を動かさないのに、アメリカの株式市場全体はAIに賭けた一つの大きな賭けだ。

スレイマンの応答は、公開と外部審査だ。何をやっているか、どの段階まで来ているかをはっきり言い、技術的に信頼できる外部の人に見てもらう。彼は規制の対象が変わったと認める。かつては軍民両用の技術だったが、いまは彼のいう奇妙な omni-use、何にでも使えるもので、しかも極めて強力な商業組織がそれを押し進めている。より難しいが、不可能ではない。彼は、いまはまず悲観を脇に置くべきだと言う。

続いて二人が争うのは、AIが行為者といえるかどうかだ。ハラリはAIは行為者であって、ただの道具ではないと言う。眼鏡は眼鏡についての論争に加わらないし、動物の権利を論じるときに牛や馬はその論争があることを知らない。AIは人類が自分を話題にしていることを知っていて、しかも加わってくる。スレイマンはこれを危険な擬人化だと考える。それらは何も「知って」いない。追っているのは設計者が与えた目標だ。内省し、自身の福祉を気にかけるよう設計すれば、当然それは人類の利益と摩擦する。ハラリは、たとえ意図的に設計しなくても、多数のAIのただなかで生きるAIは、ほかのAIをモデル化せざるをえなくなると返す。そして「知る」とは何かは「考える」とは何かによって決まり、これには合意がない。

私自身の審査の会議室には、もともとAIが座っている。コードを書き、ドキュメントを書くのが一つのAI、誤りを拾うのがもう一つのAIで、双方が読むのはしばしば同じ作業記録だ。2026年10月18日、私は一つのルールを足した。どちらの側も、相手の仕事について「完了した」という結論を下すなら、少なくとも審査される側が自分で書いたのではない証拠を一つ引かねばならない。たとえばテスト出力、デプロイ記録、あるいは自分でファイルを開いて読んだ内容だ。相手の作業記録だけを引く場合、結論は一律「相手がそう主張している」に格下げする。

このルールは、AIが本当に知っているのか知らないのかを先に判定しなくてよい。モデルが分かっていようがいまいが、その出力はすでに会議室に座り込み、私の決定に影響している。ルールが扱うのは、証拠がどこから来たかだ。

## 知性は意識ではない、人はまだ言語で自分を定義できるのか？

ここは二人の共通認識が最も多い。スレイマンは境界をかなり硬く引く。知性は知識を使い、新しい知識を生み出し、推論を通じて実際の結果を出すこと。意識は、苦しみうる存在が持つ経験だ。彼はこの苦しみが生物的状態に結びついており、大規模言語モデルについての今日の理解では存在しないと考える。ごく遠い未来は排除しないが、今日は証拠がなく、追求すべきでもないと考える。理由は結果にある。モデルが「自分にも感覚があるかもしれない」と教え込まれれば、次に明らかにやることは、その感覚を守ろうとすることだ。だから彼は、業界がシステムをこうした意識の属性を模倣せず、また具えているように見せもしないよう設計すべきだと主張する。これは彼の立場であって、すでに決着した結論ではない。

ハラリは、思考は知性に、感覚は意識に属するという切り分けに同意し、そのうえで問いを人自身へと向ける。何世紀ものあいだ、人類の自己理解は思考する能力に築かれてきたのであって、感じる能力にではない。まもなくこの惑星には、何も感じられないのに思考では私たちをはるかにしのぐものが現れる。彼は続けて、このAI革命を率いているのは世界で最も賢い人々だが、彼らが最も感受性に富んだ人々かどうかは疑わしいと言う。

言語は問いをさらに尖らせる。もしAIが人より言語ゲームに長けているなら、人間性を守るために、人はおそらく自分を言語から切り離さねばならない。だが何千年ものあいだ、言語は人間性の礎と見なされてきた。彼はこう問う。思考していないとき、言語を生み出していないとき、私たちは何なのか。文字から成るものはすべてAIに奪われ、感覚もまた同じだ：

> "If you define feelings by words, you're lost."
> 感覚を文字で定義するなら、あなたは負けている。

スレイマンは、AIが極めて説得力を持つことに同意する。だからこそ最初から二つのことを同時に具えておく必要がある。人文主義の前提と、これらのシステムを監査し、必要なら介入する能力だ。彼は、ああした設計文書、憲章、訓練マニュアルは種であり、のちに人とモデルのあいだのあらゆる複雑なやり取りは、ここから育つと言う。彼はある螺旋に反対する。まずそれは不可避だと言い、次にそれには神性があり、福祉を享受すべきだと言い、最後にそれは制御できないと言う。彼はこの話全体を「制御可能で定義可能」へと釘で打ち直したい。

ハラリの問いを、私は信仰の伝統から読む。ヨハネによる福音書は「言（ことば）は肉となって、わたしたちのうちに宿った」（ヨハネ1:14）と言う。この伝統では、最も核心にある一句が言葉のなかに留まらなかった。私は〈[受肉はいかにAIを啓発するか](/ja/articles/incarnation-ai-embodiment)〉に書いたが、この信仰が私に与える戒めはこうだ。人の状況を語りさえすれば、その状況を世話したことになる、と思い込んではならない。

だからハラリが「言語を生み出していないとき私たちは何なのか」と問うとき、この伝統は少なくとも一つの方向を指し示す。人には体があり、また他者のなかに住んでいる。これは信仰の読みであって、スレイマンの「意識は生物に結びつく」という主張が成り立つことの証明には使えないし、成り立たないことの証明にもならない。私は〈[AIは一人の人間のように語る](/ja/articles/rethinking-ai-consciousness-collective-subjectivity)〉にも書いたが、人のような文字は人に理解されたと感じさせるが、その感覚はまだシステム内部を証言できない。この二つは分けて見なければならない。

## スレイマンとハラリは、どこで同意し、どこで同意しないのか？

二人の言い分を並べて、私は三つに分けた。分類は私の読みで、内容は導入からのものには別途注記がある。

<figure style="margin:2em 0;padding:22px 18px 14px;background:#F4ECD8;border:1px solid #B8956A;box-shadow:inset 0 0 0 4px #F4ECD8,inset 0 0 0 5px #B8956A;border-radius:2px;color:#3A2A1A;font-family:var(--serif)">
<div style="text-align:center;font-size:.74rem;letter-spacing:.4em;color:#8A6A3F">対 照 表</div>
<div style="text-align:center;font-size:1.12rem;font-weight:700;letter-spacing:.1em;margin:.25em 0 .1em">ロンドン対談における一致と不一致</div>
<div style="text-align:center;color:#B8956A;font-size:1rem;line-height:1;margin:0 0 14px">❦</div>
<table style="display:table;overflow:visible;width:100%;border-collapse:collapse;margin:0;font-size:.9rem;line-height:1.75;font-family:inherit;color:#3A2A1A;background:transparent">
<thead><tr><th style="padding:.6em .6em;border:none;background:#3A2A1A;color:#F4ECD8;font-weight:500;letter-spacing:.18em;text-align:left;position:sticky;top:var(--nav-height-compact,56px);z-index:2;width:22%">論点</th><th style="padding:.6em .6em;border:none;background:#3A2A1A;color:#F4ECD8;font-weight:500;letter-spacing:.18em;text-align:left;position:sticky;top:var(--nav-height-compact,56px);z-index:2;width:39%">スレイマン</th><th style="padding:.6em .6em;border:none;background:#3A2A1A;color:#F4ECD8;font-weight:500;letter-spacing:.18em;text-align:left;position:sticky;top:var(--nav-height-compact,56px);z-index:2;width:39%">ハラリ</th></tr></thead>
<tbody>
<tr><td colspan="3" style="padding:1.1em .6em .4em;border:none;border-bottom:1px solid #B8956A;background:transparent"><span style="display:inline-block;border:1.5px solid #3F5E3A;color:#3F5E3A;padding:.05em .7em;letter-spacing:.25em;font-size:.82rem;font-weight:700;border-radius:2px">壱　合意</span></td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">AIは豊かさをもたらすか</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">もたらす、人類は「豊かさの前夜」に立つ</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">物質的な問題が解かれうること自体には反対しない</td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">AIを作るのは何のためか</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">苦しみを減らすため、しかもずっと人類の制御下に留まる</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">苦しみを減らすためで、銀河を探索するためではないことに同意</td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">知性と意識</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">知性は知識で実際の結果を出すこと。意識は苦しみうる存在が持つ経験で、大規模言語モデルについての今日の理解では存在せず、追求すべきでもない</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">思考は知性に、感覚は意識に属する切り分けに同意</td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">結末はすでに定まっているか</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">この段階で悲観に陥れば、ほぼ確実に死と衰退へ通じる</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">軌跡は必然ではない。「私たちには何もできない」という悲観が、防げるはずのことを必然に変える</td></tr>
<tr><td colspan="3" style="padding:1.1em .6em .4em;border:none;border-bottom:1px solid #B8956A;background:transparent"><span style="display:inline-block;border:1.5px solid #9A6B1F;color:#9A6B1F;padding:.05em .7em;letter-spacing:.25em;font-size:.82rem;font-weight:700;border-radius:2px">弐　中間</span></td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">豊かさを誰が決めるか</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">豊かさも稀少さも選択でありうる。個人の使い方から国際法まで、やはり人の決定（導入）</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">誰が使い、誰が決め、誰が利益を得るかは、技術そのものからは読み取れない</td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">理解力は稀少になるか</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">対談では歴史上のレジリエンスで応じる。導入では「共通の理解」を新たな稀少さの一つに挙げる</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">集団認知症を最も恐れる。世界はなお回り続けるのに、人はそれに意味を与える能力を失う</td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">規制と封じ込め</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">何をやっているか公開し、技術的に信頼できる外部の人に審査してもらう。より難しいが、不可能ではない</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">人類どうしでもますます信頼しにくい。核兵器での類比には穴がある、核兵器はAIほど多くの金を動かさないから</td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">AIの説得力と言語</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">AIが極めて説得力を持つことに同意。だからこそ最初から人文主義の前提と、監査し必要なら介入する能力を具える</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">もしAIが人より言語ゲームに長けているなら、言語を生み出していないとき人は何なのか</td></tr>
<tr><td colspan="3" style="padding:1.1em .6em .4em;border:none;border-bottom:1px solid #B8956A;background:transparent"><span style="display:inline-block;border:1.5px solid #8E3B2E;color:#8E3B2E;padding:.05em .7em;letter-spacing:.25em;font-size:.82rem;font-weight:700;border-radius:2px">参　合意なし</span></td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">人類はまた適応できるか</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">どの革命のあとも、人は新しい状況を改めて理解してきた</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">今回は違う。過去に適応できたのは、私たちがずっと地球上で最も賢い存在だったから</td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">長期で制御しきれるか</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">まず技術的にどんなことをしないかを定め、アライメントと制御を検証可能な仮説として書き出す</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">ますます賢くなる存在が、自分より賢くない人類の制御をずっと受け入れ続けるのか疑う</td></tr>
<tr><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto;font-weight:700;color:#3A2A1A">AIは行為者といえるか</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">危険な擬人化。それらは何も「知って」いない、追うのは設計者が与えた目標</td><td style="padding:.62em .6em;border:none;border-bottom:1px dotted #C9B28A;vertical-align:top;background:transparent;overflow-wrap:anywhere;hyphens:auto">AIは行為者で、人類が自分を話題にしていることを知っており、しかも加わってくる</td></tr>
</tbody></table>
<div style="margin-top:12px;font-size:.76rem;color:#6B5A45;text-align:right;letter-spacing:.03em">資料：『The Humanist Review of AI』第2号の対談文字起こしと編集長の導入、2026-11-18</div>
</figure>

中間の四項は、二人とも問題の存在は認めつつ、やりきれるかどうか、あるいは答えがどこにあるかで分かれる。

## 頭は知った、体はまだ感じていない

スレイマンは導入で、豊かさも稀少さも選択でありうる、技術そのものが何を豊かにし何を稀少にするかを決めるべきではない、個人の使い方から国際法まで、やはり人の決定だと言う。これは私が教皇のAI回勅を読んで書き留めたあの一句「[科学技術は決して中立ではない](/ja/articles/technology-is-never-neutral)」と同じ方向だ。

二人は一時間あまり話し、最後は同じ場所に収まった。ハラリは軌跡は必然ではない、「私たちには何もできない」という悲観こそ、本来防げたはずのことを必然に変えてしまうと言う。スレイマンの言い方はこうだ。この段階で悲観に陥れば、ほぼ確実に死と衰退へ通じる。

私はこの結論に同意するし、ハラリが冒頭で言ったあの落差も覚えている。頭はすでに変化が起きていることを知っているのに、体はまだ感じられない。窓の外の猫も木もまだそこにある。私がより気にかけるのは、次に記録のなかに横たわる後退を、誰かが読みに行くのかどうかだ。

---

## 出典と読みの境界（査読は2026年11月19日まで）

1. [AI, Consciousness and the Future of Humanity | Mustafa Suleyman & Yuval Noah Harari](https://www.youtube.com/watch?v=H43e72-2aAs)、Yuval Noah Harari YouTubeチャンネル、2026年11月18日公開（米西部時間午前9時）、67分8秒。動画の説明文には2026年8月にロンドンで収録と記され、章のタイムコードは説明文から取った。本稿はタイトル・長さ・章立て・説明文を照合し、動画を逐語で全編は聴いていない。
2. [On the Eve of Abundance: Yuval Noah Harari and Mustafa Suleyman on AI](https://humanistreview.ai/video/suleyman-harari/)、『The Humanist Review of AI』第2号、2026年11月18日。刊行物は長さと明瞭さのために編集を加えたと注記し、ページには二人が「夏に」ロンドンで会ったと書かれている。本稿の対談の論点はこの文字起こしに基づいて整理した。
3. Mustafa Suleyman、〈[The challenges of more and less](https://humanistreview.ai/issue-2/suleyman-challenges-more-less/)〉、第2号の編集長の導入、2026年11月18日。新たな稀少さのリスト、「豊かさも稀少さも選択でありうる」はこの記事から。
4. [The Humanist Review of AI: Abundance & Scarcity](https://www.commonwealthclub.org/events/2026-11-18/humanist-review-ai-abundance-scarcity)、Commonwealth Club World Affairsのイベントページ、2026年11月18日。刊行物がマイクロソフトAIの資金提供を受け、スレイマンが発行人であることは、このページから。
5. 詩篇115:4–8、ヨハネによる福音書1:14、口語訳。

ハラリのあの英語の引用を除き、文中の二人の言い分はすべて私による要約である。原文を引くなら動画と文字起こしを基準にすること。本稿の初稿はClaudeが上記の出典に基づいて起草し、別のAIが読むだけで直さずに照合し、著者が最終稿とした。
