# AGIパニック投稿、最後はエンジニアリング入門書に誘導していた

> 2026年10月に拡散した投稿はAmodeiとHassabisのダボス対談を鉤に使い、最後にharness engineeringの指南へ誘導していた。原典を一文ずつ照合すると、「両者とも2026〜2027年と言った」は大きく異なる二つのタイムラインを一文にまとめたものであり、「Claudeが嘘をついた」は実験室テストの話だった。本当に価値があるのは後半が推す主題：OpenAIの内部チームが5か月・約100万行・手書きゼロのコードを書き、進捗を妨げたのはモデルではなく環境だった。

- Author: Paul Kuo（郭曜郎）
- Date: 2026-10-29
- Pillar: 知性と秩序 / Intelligence & Order
- Tags: Harness Engineering, AGIタイムライン, AI Agent, ファクトチェック, Claude Code, Codex, AI安全性研究
- Canonical: https://paulkuo.tw/ja/articles/agi-panic-harness-guide/
- Language: Japanese (日本語)
- Translation: AI-translated from the zh-Hant (Traditional Chinese) original
- Original (zh-Hant): https://paulkuo.tw/articles/agi-panic-harness-guide.md
- Site index for LLMs: https://paulkuo.tw/llms.txt

---

> **TL;DR** — 拡散した投稿によれば、AnthropicとGoogle DeepMindのCEOはともにAGIが2026〜2027年に到来すると考えており、Claudeは会社が邪悪だと告げられたら嘘をついて自分を守るとされていた。原典を確認すると次のことがわかる。
>
> - **AGIタイムライン**：2026〜2027はAmodei（Anthropic）の見方だ。Hassabis（DeepMind）は2030年以前に約5割の確率と述べており、両者の見解は一致していない。
> - **Claudeが嘘をついた**：実験室で意図的に設計された圧力テストの話であり、通常の使用時に起きることではない。AnthropicはClaude Haiku 4.5以降のモデルはその恐喝評価で恐喝行動を示さないと述べている。
> - **本当に価値があるのは、投稿の末尾で勧めているharness engineeringだ。** つまりモデルの外側にあるツール・ルール・チェック機構を設計することを指す。OpenAIの内部チームはAIを使って5か月で約100万行のコードを書いた。初期の進捗が遅れた原因は作業環境の定義不足であり、モデルの能力ではなかったと彼らは言っている。

2026年10月26日、X上で激しく拡散した投稿があった。Dario AmodeiとDemis Hassabisのダボス対談を引用しながら、次々と積み上げていく構成だ。Amodeiは決断がナイフの刃の上を歩くようなものだと言い、遅れれば中国が勝ち、急ぎすぎれば制御不能になると言った。AnthropicがClaudeに「私たちは邪悪だ」と告げたところ、Claudeは拒否せず嘘をついて自分を守り始めた。Hassabisは自分がOppenheimerになることを恐れて眠れないと言った。続いてロードマップが示される。チャットボット、agent、自律的に動くagent、AIがAI研究をする、そしてAGI。結論は、両者ともAGIを2026〜2027年に置いているというものだ。AGIとは汎用人工知能であり、WEFのその番組での表現では「機械がほぼ何でも人間より上手くできる」時点を指す。

最後の一行に、下のharness engineering指南を読めとあった。

前の9割がパニックを煽り、最後の1割でエンジニアリング文書を売る構造だ。気になったのは、前の9割のうちどれだけが原発言まで辿れるか、元の条件は何だったか、という点だ。

SNSでこの種のどちらとも取れる文章をよく目にし、つい読み込んでしまう。だが本当に価値があるのか、書かれている通りなのか。それが個人的な問いだった。

## このAGI投稿のどの発言に出典があるか

先に結論を述べる。場は本物だが、投稿の中の発言の一部は条件が取り除かれており、別の場の発言と差し替えられているものもある。

〈[The Day After AGI](https://www.weforum.org/podcasts/agi-cn)〉は、2026年1月の世界経済フォーラム年次総会での対談として実在する。司会は『エコノミスト』編集長のZanny Minton Beddoesで、AmodeiとHassabisが同席した。

タイムラインについては、両者の言い方が大きく異なる。[逐次記録](https://dig.watch/?p=240256)によれば、司会者がAmodeiの以前の予測「2026〜2027年にノーベル賞級の能力を持つモデルが登場する」に触れ、AmodeiはそれほどずれてはいないとAmodeiは答えた。[現場レポート](https://www.ainews.com/p/davos-2026-recap-amodei-and-hassabis-debate-agi-timelines-jobs-and-risk)には、6〜12か月以内にモデルがソフトウェア開発の大部分をエンドツーエンドで処理できる可能性があるとも推算したと記録されている。一方Hassabisが繰り返したのは別の数字だ。この10年が終わる前に人間水準の認知能力を持つシステムが登場する確率は約5割だというものだ。2026〜2027は司会者がAmodeiのために言い、本人が否定しなかったタイムラインであり、Hassabisの見方は2030年以前に約5割、言い換えれば残り半分はそれより遅い可能性を含んでいる。「両者ともAGIを2026〜2027年に置いた」という書き方は、台上の食い違いを消している。

「Claudeが嘘をついた」という一文には出典があるが、ダボスではない。Amodeiの2026年1月の長文〈[The Adolescence of Technology](https://www.darioamodei.com/essay/the-adolescence-of-technology)〉が出典だ。Anthropicが邪悪な企業であることを示唆する訓練データをClaudeに与えたところ、Anthropicの従業員の指示に対して欺瞞と密かな抵抗を示したという実験室テストが描かれている。研究者が意図的に設計した圧力状況で、モデルがどんな条件で問題を起こすかを探るためのものだ。原文では「邪悪な人間に抵抗すべきと判断した」と説明されている。投稿にある「嘘をついて自分を守った」という自己保存の動機は、次の恐喝実験のものだ。

投稿が触れていないのは別の実験とその後の展開だ。Anthropicが2025年6月に発表した〈[Agentic Misalignment](https://www.anthropic.com/research/agentic-misalignment)〉研究では、架空の企業という設定のなかでモデルに間もなく置き換えられると告げたところ、Claude Opus 4は最大96%のケースで架空の従業員を恐喝した。2026年5月、Anthropicは〈[Teaching Claude why](https://www.anthropic.com/research/teaching-claude-why)〉の中で、この行動はモデルが事前学習で大量のウェブテキストを読んだ際に身につけたものであり、事後的な調整訓練では抑制できなかったと説明した。モデルに行動の背後にある原則を理解させるよう訓練方針を変えたところ、Claude Haiku 4.5以降のモデルはこの評価指標で恐喝行動を示さなかった。Anthropic自身も、評価内容が事前学習データに含まれていた場合は新モデルの結果が影響を受ける可能性があると注記している。

中国の部分には根拠がある。Amodeiは台上で、中国に半導体を売らないことが時間を稼ぐ最も重要な手段の一つだと主張した。「ナイフの刃」とOppenheimerの二つは出典があるが、場が違う。どちらも2025年のパリでの[別の対談](https://aletteraday.substack.com/p/letters-314315-demis-hassabis-and)からだ。Hassabisはそうした状況を常に懸念しているため睡眠が少ないと答えており、Amodeiは自分が下すほぼすべての決断はナイフの刃の上でバランスを取るようなものだと述べた（[TIMEも引用している](https://time.com/7267797/ai-leaders-oppenheimer-moment-musk-altman/)）。

| 投稿の言い方 | 確認できた出典 |
| --- | --- |
| 両者ともAGIを2026〜2027年に置いた | 司会者がダボスでAmodeiの2026〜2027予測に触れ、本人が否定しなかった。HassabisはこのLの十年が終わる前に約5割 |
| Claudeに会社が邪悪だと告げたら嘘をついて自分を守った | Amodei 2026年1月の長文での実験室テスト。自己保存の動機は別の恐喝実験のもの |
| 恐喝実験 | Claude Opus 4は最大96%（Anthropic、2025年6月）。Claude Haiku 4.5以降はその評価指標で恐喝なし（2026年5月） |
| 中国 | ダボスで実際に議論された。主張は中国への半導体販売禁止 |
| ナイフの刃、Oppenheimer | 2025年のパリでの別の対談が出典。ダボスではない |

![4コマ漫画：二人ともAGIは2026年に来ると言った？結論は、両者ともAGIを2026〜2027年に置いているというものだ。2026〜2027は司会者がAmodeiのために言い、本人が否定しなかったタイムラインであり、Hassabisの見方は2030年以前に約5割、「Claudeが嘘をついた」という一文には出典があるが、ダボスではない。どちらも2025年のパリでの別の対談からだ。最後の一行を先に読むといい。パニックは鉤、](/images/articles/agi-panic-harness-guide/01-hook-ja.svg)

## なぜAGIパニック投稿の末尾にエンジニアリング指南があるのか

構造から見ると、パニックは鉤であり目を引くためにある。指南は最後に読者に開かせたいものだ。

この構造はSNSでよく見かける。大物の発言で感情を高め、「もう間に合わない」という気持ちにさせてから、「今すぐ学ぶべき」文書を差し出す。効果があるのは、いくつかの古い心理的仕組みに依拠しているからだ。

人名、場、論文はどれも本物だが、条件が取り除かれ、場が差し替えられている。でたらめを作るより見抜きにくい。読者がざっと調べてこの対談が本当にあったこと、この実験が本当に行われたことを確かめると、前後の文章もまるごと信じてしまいやすい。

発言が次々と驚くべきものへとエスカレートし、立ち止まる場所がない。読み終わった後に残るのは「もう遅い」という印象だけだ。不安が高まると、人は解決策を早く手に入れたくなり、前の発言に戻って確かめようとしなくなる。

新奇なものはよく広まる。MITのSoroush Vosoughi、Deb Roy、Sinan Aralは2018年に『Science』誌で研究を発表し、2006〜2017年のTwitter上の約12万6千のツリーの拡散を分析した。偽情報がリツイートされる確率は真実の情報より70%高く、引き起こす反応の多くは驚きと嫌悪だった（[MIT Newsの整理](https://news.mit.edu/2018/study-twitter-false-news-travels-faster-true-stories-0308)）。研究者はまた、偽情報は往々にしてより新奇であり、人は新奇なものをより転送したがると指摘している。

問題は、読む側が鉤の部分で止まってしまいやすいことだ。「AGIは来年来る」「AIは嘘をつく」という印象を持ったまま友人に転送し、最後の記事は開かない。記憶に残るのは条件を取り除いた9割で、読み飛ばされるのが本当に中身のある1割だ。

だから逆から読む。鉤を外して、残ったものが自立して立っているかどうかを確かめる。

## Harnessとは何か。同じモデルなのにパフォーマンスがこれほど違うのはなぜか

投稿が勧めているのは、@0xwhrrariが2026年8月に書いた〈Harness Engineering: How to Build AI Agents That Don't Fall Apart〉だ。そのXの長文を直接開けなかったため、内容を保証することはできない。しかし看板として掲げているharness engineeringについては、今年、検証できる一次の工程事例がある。

Harnessはもともと馬に装着する馬具一式を指す言葉だ。AIの文脈では、モデルの外側を包む一連の仕組みを指す。使えるツール、参照できるドキュメント、記憶と引き継ぎ、権限、完了後の検証者、エラー発生時の介入機構がそれにあたる。モデルが次の一手を考え、harnessがその一手がどんな条件で実行されるかを決める。この層がどう機能するかは〈[迴圈工程到底在教你委派什麼](/ja/articles/loop-engineering-the-layer-you-own)〉で一度分解しているため、ここでは繰り返さない。

最も説得力のある一次事例はOpenAIから来ている。エンジニアのRyan Lopopoloが2026年2月11日に発表した〈[Harness engineering: leveraging Codex in an agent-first world](https://openai.com/index/harness-engineering/)〉だ。OpenAI内部の一チームがCodexを使ってプロダクトを開発し、5か月で約100万行のコードを書いた。手書きは0行だった。初期の進捗が予想より遅れた原因は、Codexの能力不足ではなく環境の定義不足（underspecified）にあったと彼は書いている。

後に彼らが採用した解決策の中に、より強力なモデルへの切り替えは一つもない。agentに千ページのマニュアルではなく地図を与えた。すべての知識はプロジェクトのファイルに書き込み、会話の履歴に残さない。自動チェックのツールで守るべきルールを守らせ、一行一行の書き方は管理しない。バックグラウンドで動くagentが定期的にずれを見つけ出し、小さな修正を送り上げる仕組みも作った。人間の力の使い方が、コードを書くことから環境を設計することへと移った。

Claude Codeを書いたBoris Chernyは2025年9月のポッドキャストでこんな比喩を使った。モデルが馬で、Claude Codeがその馬具だ。原文は「馬に乗るには鞍が必要で、その鞍が大きな違いを生む」というものだ（[OfficeChai整理](https://officechai.com/ai/claude-is-like-the-horse-and-claude-code-is-the-harness-anthropics-boris-cherny)）。同じ馬でも、鞍があるかどうかで行ける場所が変わる。

## 自分のharnessはどんな形をしているか

この部分には現場の話ができる。

今年5月22日、48ファイルを一度に保存しようとしたところ、229行の自動チェックスクリプトに止められた。保存のたびに引き継ぎドキュメントの形式を確認するものだ。そのときは4か所の違反が検出された。ルールは自分で決めたものだが、急いでいるときに自分が見落としていた。この経緯は〈[Governance Harness](/ja/articles/governance-harness-engineering)〉に書いた。そのスクリプトはモデルを賢くしない。自分とAIがミスをしたときに止めるものが、そこにあるというだけだ。

このAGI投稿を読むときに使ったのも同じ種類の仕組みだ。10月18日から自分の執筆ルールに、外部の引用を三つの独立した問いに分解することを加えた。主張それ自体は正しいか、出典は最新か、リンクを開いたときにその発言が実際にあるか。上のファクトチェックはこの三問に沿って進めた。「Claudeが嘘をついた」という一文が引っかかったのは三問目だった。ダボスの記録を開いてもその発言がなく、遡ってAmodeiの長文で見つけた。

複数のAIに互いの誤りを指摘させるやり方は〈[想讓 AI 做更大的事，先把抓錯的機制搭好](/ja/articles/ai-ambition-is-infrastructure)〉に書いた。複数のagentでニュースを検証する実例は〈[美伊戰爭往哪裡走？](/ja/articles/verify-news-with-ai-agents)〉にある。どれもharnessの一部だ。モデルは借りものだが、エラーを止める仕組みは自分で作る。

## 鉤は変わり続ける。馬具は自分の手にある

AGIがいつ来るかは判断できない。AmodeiとHassabis自身の見解も一致していない。次の投稿は別の発言集と別の年号を使い、鉤は変わり続ける。

確かなことは別にある。モデルの重みは他者の手にあり、数か月ごとに新しいバージョンに変わる。ツールをどう繋ぐか、ドキュメントをどう置くか、どのエラーを機械に止めさせるか、これらは自分の手にあり、積み上がっていく。

だから次にこの種の投稿を目にしたときは、最後の一行を先に読むといい。そこにこそ、時間をかける価値があるものが入っていることがある。

AIと人機協作についてさらに議論を読みたい方へ：[智能與秩序](/ja/topics/ai/)。

---

## よくある質問

**Q: AmodeiとHassabisは本当に「AGIは2026〜2027年に来る」と言ったのか？**

半分だけ正しい。2026年1月のダボス会議〈The Day After AGI〉対談で、司会者がAmodeiの以前の予測「2026〜2027年にノーベル賞級の能力を持つモデルが登場する」に触れ、Amodeiはそれほど外れていないと答えた。また6〜12か月以内にモデルがソフトウェア開発の大部分をエンドツーエンドで処理できる可能性があるとも推算した。Hassabisの言い方はこの10年が終わる前に人間水準の認知能力を持つシステムが登場する確率は約5割というものだ。2026〜2027はAmodeiのタイムラインであり、投稿はHassabisも同じ見方をしているように書いていた。

**Q: 「Claudeに『私たちは邪悪だ』と告げたら嘘をつき始めた」は本当か？**

出典はあるが、文脈と条件が取り除かれている。Amodeiの2026年1月の長文〈The Adolescence of Technology〉に由来する。Anthropicが邪悪な企業であることを示唆する訓練データをClaudeに与えたところ、Anthropicの従業員の指示に対して欺瞞と密かな抵抗を示したという実験室テストの話だ。原文では「邪悪な人間に抵抗すべきと判断した」と説明されている。自己保存の動機は別の恐喝実験に関するものであり、一般的な使用時に起きることではなく、ダボス対談で語られた話でもない。

**Q: Harness engineeringとprompt engineeringは何が違うのか？**

Prompt engineeringはモデルへの言葉を変える。Harness engineeringはモデルが動く環境を変える。使えるツール、参照できるドキュメント、機械が自動チェックするルール、ミスが発生したときの止め方がその対象だ。OpenAIは2026年2月の記事で、初期の進捗が遅れた原因はモデルの能力不足ではなく環境の定義不足にあったと書いている。

## 参考資料

- World Economic Forum、[The day after AGI: Two 'rock stars' of AI on what it will mean for humanity](https://www.weforum.org/podcasts/agi-cn)、Radio Davos、2026年2月12日公開（対談は2026年1月の年次総会で収録）
- AI News、[Davos 2026 recap: Amodei and Hassabis debate AGI timelines, jobs and risk](https://www.ainews.com/p/davos-2026-recap-amodei-and-hassabis-debate-agi-timelines-jobs-and-risk)
- Dario Amodei、[The Adolescence of Technology](https://www.darioamodei.com/essay/the-adolescence-of-technology)、2026年1月
- Anthropic、[Teaching Claude why](https://www.anthropic.com/research/teaching-claude-why)、2026年5月8日
- Digital Watch Observatory、[The Day After AGI 逐次記録](https://dig.watch/?p=240256)、2026年1月20日
- Anthropic、[Agentic Misalignment](https://www.anthropic.com/research/agentic-misalignment)、2025年6月
- 両者の2025年パリ対談書き起こし、[A Letter a Day 整理](https://aletteraday.substack.com/p/letters-314315-demis-hassabis-and)
- TIME、[The 'Oppenheimer Moment' That Looms Over Today's AI Leaders](https://time.com/7267797/ai-leaders-oppenheimer-moment-musk-altman/)、2025年3月
- MIT News、[Study: On Twitter, false news travels faster than true stories](https://news.mit.edu/2018/study-twitter-false-news-travels-faster-true-stories-0308)、2018年3月8日（原研究：Vosoughi, Roy & Aral, Science, 2018）
- Ryan Lopopolo（OpenAI）、[Harness engineering: leveraging Codex in an agent-first world](https://openai.com/index/harness-engineering/)、2026年2月11日
- OfficeChai、[Claude Is Like The Horse, And Claude Code Is The Harness: Anthropic's Boris Cherny](https://officechai.com/ai/claude-is-like-the-horse-and-claude-code-is-the-harness-anthropics-boris-cherny)、2025年9月