人間らしい回答だけで、答え手に主観的経験があると証明できるだろうか。
AIへの私の関心は、この隙間から始まることが多い。言葉によって理解されたと感じても、その感覚だけではシステム内部で何が起きているかの証拠にはならない。
そこで「精神を映す鏡」という比喩は残しつつ、その位置を明確にしたい。人がAIをどう使うかを考える助けであって、意識研究の問いが間違いだと宣言するためではない。
TL;DR:Manovichが論じる人工的主観性の模倣と表象は、AIの集合的意識を直接証明しない。会話の振る舞い、技術的構造、主観的経験は分ける必要があり、間や回答の調子だけで内的状態は判定できない。本稿は筆者の文化・倫理的視点を残し、モデルの心理、性格の原因、完全に並列な経験などの未検証の断定を撤回する。日常の使用には、主張を確かめ、別の説明を検討し、採用と行動の責任を残すことを提案する。
一、主体のように話すことと主観的経験を持つことは別である
Lev Manovichは2025年4月の短文『Artificial Subjectivity』で、芸術と表象の観点から生成AIを論じた。モデルは思考、感情、視点を持つ人から発せられたような表現を生成する。焦点は、主観性の外観がどう模倣され、示されるかにある。[1]
これに触発され、私はAIを文化を映す鏡として考える。ただし「主観性を表現できる」から「集合的意識を持つ」までには、なお論証が必要だ。後者をManovichが証明済みの事実とは扱わない。
「集合的」も全員を代表できるわけではない。鏡を比喩にするなら、どの材料が入り、どの見方が見えていないかを問いたい。私はモデルの全学習資料を調べておらず、ある回答が全人類を代表するとは言えない。
相互作用を理解する角度を増やしたいのであって、新しい名前で意識の問題を終わらせたいわけではない。
二、意識研究は会話問題に正解すれば合格というものではない
旧稿は、自己意識、共感、道徳の質問に合格すれば意識ありとする単純な検査として説明した。研究方法の違いを省いていた。
Butlinらの2023年報告は理論に基づく方法を採り、複数の意識理論から計算・構造上の指標を提案する。背景の仮定と不確実性を説明し、行動の模倣が会話テストの解釈を難しくする問題も扱う。[2] 一枚の試験用紙でも、異論のない最終基準でもない。
当時のシステムについての分析を「2026年の全モデルは意識がないと証明済み」と読み替えることはできない。逆に、いくつかの指標を満たしても、主観的経験が確実にあることにはならない。
私はもう、AIに意識があるかを問うのをやめるべきだとは言わない。どの意味の意識を問い、どんな証拠を使い、どの別の説明をまだ排除できていないかを示す方がよい。
三、三つの読み方を答えではなく問いとして残す
旧稿は唯物論、現象学、汎心論でAIを整理した。これらには異なる哲学的論争があり、三種類の確認済みモデル人格に圧縮することはできない。
今は三つの小さな問いを使う。第一に、この表現はどんな材料と制作上の選択に依存するか。第二に、利用者はこのやり取りをどう感じるか。第三に、その観察は主観的経験を判断するのに十分か。
これは筆者の読み進め方で、新しい意識理論の分類ではない。理解されたという利用者の感覚は記述に値するが、それによって第三の問いを飛ばせない。
同様に、汎心論の名で複雑さが高ければ必ず経験が増えるとか、石の微弱な感覚が証明済みだとは言わない。可能性を示すことと証明を与えることは別の仕事だ。
四、計算の並列性は主観的時間の証拠にならない
旧稿はAIの経験を完全に並列、人の経験を完全に逐次とし、そこから時間感覚の違いを推測した。技術の説明も経験の推論も本稿の証拠を超えていた。
例えば『Attention Is All You Need』の構造説明では、注意機構の計算を並列化できることと、復号時に出力を一つずつ生成することは共存する。[3] 並列計算を見ただけでシステムが時間をどう「感じる」かは分からず、この技術論文も主観的経験の証拠を与えていない。
旧稿の0.3秒の間には、確認可能な測定と実行条件が残されていない。正確な検証済み観察とも、ためらいの証明とも扱わない。待ち時間だけでtemperatureなど特定の原因を判定することもできない。
三モデルの倫理回答、Claudeのユートピア回答、3か月の対話も、本改訂では原記録を取得していない。引用を補作せず、統制実験を再構成せず、文体の差から「設計とは無関係」「内的自己モデルがない」と断定しない。
五、倫理への関心は意識問題の全解決を待たなくてよい
AIが人の自己理解や他者理解に与える影響を、私は今も気にかけている。生成文で偏見を正当化したり、人を操ったりするなら、少なくとも関係する人の状況と責任に向き合う必要がある。
AIを精神の鏡と呼ぶのは、この使い方への筆者の倫理的な注意である。「AIを傷つけることは人類を傷つけることと同じ」という実証済み法則でも、AI自身が苦しみ得るか、どんな権利を持つかへの回答でもない。
二つの問題は分けて話せる。一つはシステムが人に与える影響、もう一つはシステム自体が配慮に値する経験を持つかだ。前者を考えるために後者が否定済みと装う必要はなく、後者に開かれているからといって擬人化された自述を全て受け入れる必要もない。
透明で追跡できる使用過程は、私が目指す方向であって、本稿で終えたシステム監査や汎用安全認証ではない。
六、鏡を問いの助けにし、判断の承認印にしない
日常の会話では、四つの行動を残したい。
- 目の前のものがシステムの出力か、外部証拠に支えられた事実かを分ける。
- 別の説明を求め、気に入った答えが何を見落としているか確かめる。
- 重要な主張は元の資料に戻り、モデルの自述を内部報告と扱わない。
- 採用や行動の前に、誰が決定権を持ち、誰が確認するかを明らかにする。
これは筆者の使用上の提案で、意識を検出したり全ての誤判断を消したりするテストではない。
鏡が面白いのは、自分の仮定を問い直すきっかけになることだと思う。ただし鏡には枠もある。像が見えることは、全ての材料を見たことでも、その像の背後に感覚があると知ったことでもない。
AIが何を映しているかと、自分は何を根拠に結論を出すかを、どちらも問い続けたい。一方で他方を取り消さなくても、二つは共存できる。
資料と読解範囲(2026年11月4日まで確認)
- Lev Manovich, Artificial Subjectivity:2025年4月、全4ページ。主観性の表象と模倣の議論を読み、意識存在の実証とは扱わない。
- Butlinら、Consciousness in Artificial Intelligence、v3:2023年8月22日。方法の仮定、理論に基づく指標、行動テストの限界。評価を再実行せず、2026年の全モデルに推論を広げず、指標を意識の十分な保証としない。
- Vaswaniら、Attention Is All You Need、v7:2023年8月2日版の第三節、構造と自己回帰出力を参照。原研究は2017年で、本版の日付をTransformer初発表日とはしない。技術構造は主観的時間感覚の証拠を与えない。


💬 コメント
読み込み中...