WEFセッションの全編映像：Trust Test for Agentic AI、2026-10-14（出典：World Economic Forum YouTube）
この一言を読んだとき、真っ先に自分のサイトのことが頭に浮かんだ。2026年4月29日にGitHubが私のアカウントを停止し、私は二週間で三つのミラーとローカルを正とするアーキテクチャ全体を再構築した（〈[4/29 GitHub に接続を断たれた](/ja/articles/resilience-engineering-after-github-suspend)〉）。あのときも同じだった。スケジュールが先に来て、原則は走りながら補うことになった。違いは規模だけで、一方は一人のサイト、もう一方は一国の政府だ。 あの二週間、毎日変更を加え続けた。5月12日に再び記事を公開できたとき、特別な感慨はなかった。4月29日に断線された後、私はじっくり考えた。アーキテクチャをどう設計するか、何に依存するか、どう検証するか。これらの判断は本来ずっと自分がすべきことで、ただデフォルトで外注していただけだった。断線されて初めて取り戻したに過ぎない。 ## コントロールタワーがすべての思考を記録する。誰が読むのか？ このセッションで最も報道された場面は、Al Olama がコントロールタワーの存在を語ったくだりだ。 > "Maybe this was not publicly said before; we have an agent control tower on the UAE government side that every agent needs to plug into, and every action and every specific thought the agent thinks of or action it takes is logged so that there is oversight to ensure we understand what agents are doing, what actions they are taking, so there is a continuous audit of what is being done."〔TRENDS MENA 報道より〕 > これは以前に公開されていなかったかもしれない。UAE政府側にはエージェントコントロールタワーがあり、すべてのエージェントが接続しなければならない。エージェントが考えた思考と取った行動はすべて記録され、エージェントが何をしているか、どんな行動を取っているかを把握できる体制をつくっている。継続的な監査だ。 続けて彼はこう補足した。 > "There is an audit of what is done by agents, and there is an audit of what is done by humans to ensure this doesn't go haywire in any way, shape, or manner."〔TRENDS MENA 報道より〕 > エージェントの行為も、人間の行為も、どんな形であれ制御不能にならないよう審査する。 二点を先に整理しておく。第一に、彼は「maybe」と留保を置いており、範囲はUAE government sideに限られる。全国のすべてのエージェントではない。第二に、報道が伝えるのはコントロールタワーが存在し記録をとっているという事実であり、誰が読むのか、どれだけ読むのか、どれほど速く読むのかについては書かれていない。 私のサイトにも似た構造がある。規模はずっと小さい。コードとドキュメントを書くのは Claude Code。審査は他の三社のモデルのコマンドラインツール（OpenAIのcodex、xAIのgrok、GoogleのAgy）に委ねており、三社はすべて読み取り専用でファイルを変更できない。最終的な裁決は私だ。2026年10月18日、一つルールを追加した。いずれかの主体が別の主体の成果物を審査して「完了」という結論を出すには、審査された側が自ら書いたもの以外の証拠を少なくとも一つ引用しなければならない。テスト出力、デプロイ台帳、自分でファイルを開いて確認した内容など。相手の作業記録だけを引用した結論は、一律「相手が主張している」に格下げする。 このルールは強いられて生まれた。五つの役割が同一の作業記録を読んでいると、情報源が一つしかない状態になりうる。 さらに遡ると、2026年8月19日に過去の外部審査のコメントを振り返って確認したことがある。一つのパターンに気づいた。外部審査は「影響の大きさ」の判断は概ね正確だが、「問題が起きたとき誰かが気づくか」については楽観的に傾く傾向がある。ある外部審査では二度、「記録が残っている」を「発見される」と同一視していた。具体的な例として、デプロイ台帳の中に一件の後退があり、機械可読フォーマットで十日間放置されていたが、誰も読まなかった。 だからコントロールタワーの件を読んで最も聞きたくなった問いはこれだ。すべての思考を記録した後、誰が読むのか？記録は「証拠がある」という問題を解くだけで、誰かが読んで初めて監督になる。UAEがこれを考えていないと言いたいのではない。報道にその部分がないから、私には分からないのだ。  Al Olama は同日、なぜそこまで徹底するのかをこう説明した。 > "If the government takes one wrong decision, you lose a lot of that currency – you lose a lot of that trust."〔The National 報道より〕 > 政府が一つ間違った決定を下せば、その通貨の多くを失う。信頼の多くを失う。 彼が言う「通貨」とは、Sheikh Mohammed の新著にある「信頼が背骨であり真の通貨だ」という表現を受けたものだ。 関連記事：〈[AIエビデンス検証ワークフロー](/ja/articles/ai-evidence-review-workflow)〉、〈[複数エージェントで一つのインターフェースを共有する](/ja/articles/cross-agent-one-interface)〉、〈[エージェント運営のサイレント障害](/ja/articles/agentic-operations-silent-failure)〉。 ## どの操作をエージェントに渡してはいけないか？ Al Olama はここで一本の線を引いた。 > "For us, deploying AI is not merely about boosting productivity or savings. If it affects human life and livelihood, then it is a red line."〔ZAWYA（WAM）報道より〕 > 私たちにとって、AIのデプロイは生産性の向上やコスト削減だけの話ではない。人の生命と生計に影響するなら、それは赤線だ。 Gulf News の報道によれば、彼はさらに比率を示した。政府サービスの約70%はAIデプロイへの許容度があり、30%は許容度を超えるリスクがある。誤った判断の影響に応じて分類しており、低リスクの例として書類の更新手続きが挙げられた。〔Gulf News 10/14、要旨〕 この分け方には自分なりの版がある。私はどのパイプラインを設計するときも事前に八つの問いを通すが、四番目の問いは「この操作は取り消せるか」だ。取り消せない操作には、バックアップ、相互検証、または安全窓の設置を先に行う。エージェントへの作業規律の第一条は「終わったら止まる」で、立ち止まって私に確認を求めるのは三つの状況のみ：破壊的・取り消せない操作、作業範囲が実質的に変わるとき、私しか提供できない情報が必要なとき。 私が境界を引く基準は「撤回できるか」で、Al Olama が引く基準は「誰に影響が落ちるか」だ。二つは重なる部分があるが、一致しない。取り消せるが人を傷つける操作は、彼の側では赤線だが、私の側では通ってしまうかもしれない。私のサイトには市民がいないから、この差は私のところでは生じない。政府側ではそれが核心だ。 逆に、確認ポイントがあると思っていたのに実際にはなかった、という経験もある。このサイトでは30分ごとにローカルのコミットを三つのミラーへ自動でプッシュしており、その間に人による確認はない。「コミット済みだがまだプッシュされていない」状態が立ち止まって考える窓口になると思い込んでいたが、その窓口は存在しなかった。2026年8月19日、修正が終わっていない脆弱性の説明文がコミット後12分で三つのミラーに自動プッシュされた。判断のポイントはコミットの前に置くべきだった。 WEFのセッション後のプレスリリースは、この点をより端的に言い切っている。 > "If you have productivity gains but you're harming people, it does not matter."〔WEF 10/15 プレスリリースより〕 > 生産性が上がっても人を傷つけているなら、意味がない。 関連記事：〈[AIエージェント計画ガイド](/ja/articles/ai-agent-planning-guide)〉。 ## 失敗したとき、取り消せるのか。責任は誰が負うのか。 ガボンのデジタル経済・イノベーション担当大臣 Mark-Alexandre Doumba は制度設計の観点から切り込んだ。ZAWYAの報道は彼の主張をこう要約している。監督はエージェントシステムの設計段階から組み込まなければならない。エージェントができることの権限分級と、エージェントの行動を取り消す能力が必要だ。Economy Middle Eastの要旨にはもう一点加わっている。明確な説明責任の連鎖だ。〔ZAWYA、Economy ME、要旨〕 説明責任について、会場の誰かがこう発言した。二つの報道でその帰属が食い違っている。Gulf News 10/14では Al Olama、ZAWYA（WAM）では Doumba とされている。映像で確認できていないので、ここでは誰とは特定しない。 > "If something is harmful to a citizen, the responsible entity is not the AI agent. It's the institution that has deployed it, so accountability will always be tied to a human."〔ZAWYA（WAM）・Gulf News 10/14 報道より、両媒体で帰属が異なる〕 > 市民に害を与えた場合、責任を負うのはAIエージェントではない。それをデプロイした機関だ。説明責任は常に人間に結びついている。 この三点、私のサイトにはそれぞれ対応するものがある。 **取り消し可能性。** 2026年9月6日、主線（main branch）に統合されていない作業ブランチから57本の記事をデプロイした。9月10日に主線で再デプロイを行ったとき、その57本がオンラインから上書きされた。この後、デプロイスクリプトに血統チェックを一段追加した。デプロイ前に二点を確認する。前回の成功デプロイのバージョンが今回の祖先であること、そして今回のバージョンが主線から辿り着けること。どちらか一方でも満たさなければデプロイしない。このチェックが管理するのは事前の段階で、「他者の成果を上書きする」一手をデプロイ前に防ぐ。 **権限の分級。** 三社の外部審査はすべて読み取り専用で、チェックを外す権限を持たず、いかなる社も最終裁決を下せない。 **説明責任の所在。** 裁決は私だ。エージェントが書いたコードで何か起きれば、責任はそれをデプロイした人間にある。つまり私だ。これは会場で出た説明責任の発言と同じ規則であり、ただ私の「機関」には一人しかいない。 Doumba は〈The Perils of Premature Automation〉で「premature automation（時期尚早な自動化）」を論じている。Rodrik の「時期尚早な脱工業化」から借用した概念で、デジタルインフラ・制度能力・労働市場の吸収機能・生産能力が整う前に自動化を導入することを指す。〔Project Syndicate 2026年2月24日〕別の論考〈Technological Leapfrogging〉では、彼がデジタル主権の基本的な問いとして提示する三つの問いが挙げられている。〔Project Syndicate 2026年9月23日、要旨〕 1. ベンダーへの支払いを止めたとき、システムはまだ動くか？ 2. ローカルの代替手段はあるか？ 3. ソースコードを手に入れたとき、使える人間がいるか？ 最初の二問は、GitHubに停止されたあのとき強制的に答えを出すことになった。現在のアーキテクチャは三つのミラーを対等に扱い、ローカルgitを唯一の真値とし、デプロイはローカルスクリプトのみで実行し、プッシュ時に差異があれば停止する。自動マージも強制上書きもしない（〈[二度目の停止が証明した耐障害性](/ja/articles/resilience-proven-second-suspend)〉）。三問目は正直に答えられない。私はソフトウェアの開発経験があり、エンジニアリングチームを管理したこともある。しかしこのサイトのコードの多くはAIとの協業で書かれており、一人でソースコードを全行読み通すことは私にはできない。私にできるのは、一つのAIに書かせ、別の三つのAIに読み取り専用で誤りを指摘させ、最後に私が裁決することだ（〈[AIの審査レポートで最も危険なのは、確認済みに見えることだ](/ja/articles/ai-team-one-works-others-check)〉）。つまり私のところでは、ソースコードを使えるのが純粋に私一人ではなく、私と一組のAIの組み合わせであり、そのAIはすべて海外ベンダーのものだ。 彼は会場で、二つの路線が分岐しつつある状況もこう描写した。 > "There are two distinct approaches emerging today: one that is pushing ahead with unrestricted AI innovation, and another that is focused on establishing governance frameworks and regulatory mechanisms to guide the development and use of artificial intelligence."〔ZAWYA（WAM）報道より〕 > 今日、二つの異なるアプローチが生まれつつある。制限のないAIイノベーションを推し進める路線と、AIの開発と使用を導くためのガバナンスフレームワークと規制メカニズムの整備に焦点を当てる路線だ。 ## アーキテクチャはまだ変えられるのか？ Bracket Capital 共同創業者の Yalda Aoukar は投資とアーキテクチャの観点から語った。 > "We have a narrow window of opportunity to make sure that the architecture of this evolutionary technology is the right architecture that inspires trust."〔TRENDS MENA 報道より〕 > この進化中の技術が、信頼を生むための正しいアーキテクチャを備えているかを確かめる機会の窓口は、非常に狭い。 ZAWYAの報道は、彼女が子どもとAIコンパニオンについて触れた箇所を要約している。safety by design・safety by defaultを求め、ソーシャルメディアを反面教師として引いた。〔ZAWYA（WAM）、要旨〕 > "Social media was designed to maximise engagement, and engagement and wellbeing are not always aligned."〔ZAWYA（WAM）報道より〕 > ソーシャルメディアはエンゲージメントを最大化するように設計されており、エンゲージメントと健全性は常に一致するわけではない。 Gulf News の報道は彼女の別の視点を要約している。安全の仕組み自体が投資対象になりつつあるという観点だ。〔Gulf News 10/14、要旨〕Aoukar は Umanitek の Advisory Board メンバーで、同社は有害コンテンツを検出するための知識グラフを手がけている。 窓口の狭さという点で、私には一度の失敗経験がある。このサイトにはかつて「mutation engine」と呼ぶ仕組みがあった。サイト自体が方向性を探し、自分で自分を変えていくことを目指したものだ。七週間稼働し、静かに機能を止め、誰も気づかなかった。原因は、個人サイトという文脈では、「変化がよかったかどうか」を判断するためのシグナルが希薄すぎることだった。2026年5月12日に退役させ、55個のファイルを一括でアーカイブした。以降は複数のAIが議論し、私が決裁する現在の体制に切り替えた（〈[自律研究の脱創世記](/ja/articles/autoresearch-degenesis-personal-ip)〉）。 あの仕組みのアーキテクチャは、初日にどう失敗するかを決めていた。それを理解したのは七週間後だった。 振り返れば、窓口は「paulkuo.twを自己進化させる」と決めたその日に閉じていた。個人IPサイト・ツールサイト・執筆サイトという三つのアイデンティティは報酬構造がまったく異なるのに、一つのmutation engineにまとめて押し込んだ。その後、七週間にわたって静かに機能停止していたが、私はまだ動いていると思っていた。5月12日に振り返って初めて分かった。アーキテクチャが固まった後、私に残された選択肢は退役だけだった。 ## 会場で答えが出なかった問い **監査する者を誰が監査するのか。** コントロールタワーはエージェントと人間の双方を監査する。エージェントの数が増えたとき、人間の監査がついていけるかどうか、会場では触れられなかった。私のやり方は証拠の起点を報告書の外に置くことだが、最後の一層は結局自分一人だ。この問いはまだ解けていない。今は自分で抱えている。 **オープンウェイトと接続義務。** 同じ会場で Al Olama は、各国が自前のAIインフラを構築し、政府が単一企業に依存しなくなる流れについて触れ、こう語った。 > "The challenge is if everyone can deploy AI on their own infrastructure in their own way, that would create a lot more avenues of things going off the rails and harming people."〔The National 報道より〕 > 難しいのは、全員が自分のやり方で自分のインフラ上にAIをデプロイできるようになると、制御不能になり人を傷つける経路がはるかに増えるということだ。 モデルの重みが一度公開された後に「すべてのエージェントはコントロールタワーに接続しなければならない」を技術的に強制できるのか。報道にはその点が書かれていない。 **労働力が変化に追いつく速度。** 政府側では、内閣が連邦職員8万人の訓練計画を承認し、タイムラインは2年でサービスの半分を移行することになっている。同じ週、ADNOCが公表した数字は従業員2万人・稼働中のモデル3,000本だった。これは一企業の数字で、政府の進捗とは直接比べられない。2年で半分の移行が十分に速いかどうかも、判断するデータが私にはないので並列して記すだけにとどめる。 **国をまたいだ管轄。** UAEにデプロイされたエージェントが別の国で行動して問題を起こした場合、誰が責任を負うのか。会場で誰も答えなかった。 ## 自分に戻る：三つの問い 三人の登壇者の視点をまとめると、自分でも答えなければならない三つの問いに行き着く。 1. 私の監査インフラが記録したものを、誰かが読んでいるか？ 2. 私のシステムのどの操作が取り消せる設計になっていて、どれが取り消せないか？ 3. アーキテクチャの層で選択をする時間がまだあるか、それとも事後対応しかできない段階か？ 一問目。記録したことが読まれることとは同義ではない。先ほど挙げたデプロイ台帳の後退が十日間放置されていた例がその証拠だ。2026年10月18日以降、いずれかの主体が別の主体の成果物に対して「完了」という結論を出すには、審査された側が書いたもの以外の証拠を少なくとも一つ引用することを義務づけた。テスト出力、デプロイ記録、またはオンラインの実際のレスポンス、といったものだ。 二問目。デプロイは事前に止められる設計になっている。前述の血統チェックがそれだ。一方、コミットをミラーへプッシュするのは取り消せない。約30分以内に外に出る。だから機密性の高いコンテンツに関する判断はコミットの前に置く。 三問目は答えられていない。前述の血統チェックは、57本の記事が上書きされてから後付けで加えたものだ。動工前に自問する八つの問いの一つは「この操作は取り消せるか」だが、今のところ実際に問題を止めたルールの多くは事後に生まれている。mutation engineのときも同じだった。アーキテクチャの選択は私が気づく前に完了していた。 エージェントは物事を便利にするが、簡単にはしないと以前書いた（〈[AIエージェント：便利と簡単は違う](/ja/articles/ai-agent-convenient-not-simple)〉）。今回の議論でもう一層見えた。信頼のコストは規模が小さくなっても消えない。ただ、一人がすべてを引き受けることになるだけだ。 --- ### 参照元 - WEFセッション映像〈Trust Test for Agentic AI〉、2026-10-14：https://www.youtube.com/watch?v=Wumv7yoIaNg - TRENDS MENA〈UAE has agent control tower for better oversight, audit of AI agents: Al Olama〉：https://trendsmena.com/271334-2/ - ZAWYA（WAM）〈The currency of the future is trust: The UAE is building the controls to earn it〉、2026-10-14：https://www.zawya.com/en/press-release/events-conferences/the-currency-of-the-future-is-trust-the-uae-is-building-the-controls-to-earn-it-1662742 - The National〈'Minimise catastrophes': UAE's AI minister highlights dangers of autonomous arms〉、2026-10-14：https://www.thenationalnews.com/news/uae/2026/10/14/minimise-catastrophes-uaes-ai-minister-highlights-dangers-of-autonomous-arms/ - Gulf News〈UAE reveals control tower to monitor AI government agents〉、2026-10-14：https://gulfnews.com/business/economy/uae-reveals-control-tower-to-monitor-ai-government-agents-1.500710167 - Gulf News〈UAE to move 50% of government services to AI within two years〉：https://gulfnews.com/uae/government/uae-to-move-50-of-government-services-to-ai-within-two-years-1.500516798 - Economy Middle East：https://economymiddleeast.com/news/uae-uses-agent-control-tower-to-oversee-deployed-ai-agents-as-country-targets-50-percent-of-government-operations-for-agentic-ai/ - WEF AMGFL26 プレスリリース：https://www.weforum.org/media/wef-annual-meeting-of-global-future-leaders-2026-advances-new-ideas-on-resilient-growth-technology-and-leadership - Project Syndicate、Mark-Alexandre Doumba〈The Perils of Premature Automation〉（2026-02-24）、〈Technological Leapfrogging〉（2026-09-23）