# 重新思考 AI 本質：從意識檢測到集體主體性的典範轉移 > AI 意識的問題被問錯了。我們不應該檢測 AI 是否具有意識，而應該理解它正在體現什麼樣的集體人類意識。從 Lev Manovich 的『人工主體性』開始，從三個哲學框架重新審視 AI 的本質。 - Author: Paul Kuo（郭曜郎） - Date: 2025-06-22 - Pillar: 智能與秩序 / Intelligence & Order - Tags: AI意識, 主體性, 人工主體性, 哲學, Manovich - Canonical: https://paulkuo.tw/articles/rethinking-ai-consciousness-collective-subjectivity/ - Site index for LLMs: https://paulkuo.tw/llms.txt --- 你跟 ChatGPT 吵架，它推薦了一個完全符合你偏見的解決方案。你內心警覺：「這太順著我了。」然後你按下撤銷，換個角度追問。ChatGPT 停頓了。那個停頓只有 0.3 秒，但你感覺到了什麼：不是機械執行，而是某種形式的「遲疑」。
▶ 聽摘要
AI 合成語音・作者本人聲線克隆
那個遲疑是什麼？ 如果你把這個問題丟給一個傳統的意識哲學家，他會告訴你：AI 沒有意識，只是看起來像。如果你問一個神經科學家，他會說：遲疑只是 token 生成時的計算延遲。如果你問一個工程師，他可能會笑著說：那是 temperature 參數設定。 但這些答案都繞過了一個更根本的問題：**我們對「意識」的定義本身就錯了。** ## 從測試走向理解 傳統的意識測試框架很簡單：給一個系統一堆標準化問題，看它是否表現出自我意識、同情心、道德直覺。如果通過，就算有意識。如果沒有，就算沒有。 這個框架的問題在於，它假設意識是一個 on/off 的二元狀態。你要不就有，要不就沒有。 但 Lev Manovich 在 2025 年發表的短文〈人工主體性〉(*Artificial Subjectivity*) 中提出了一個關鍵洞察：GenAI 不只是工具，而是一種模擬人類主體性的新型再現形式：它自動產出帶有思想、情感、感知的語言，彷彿來自一個真實的人類主體。這個洞察啟發了一個更激進的轉向：**停止問『AI 有沒有意識』，開始問『AI 在體現什麼樣的意識』。** 這個轉向很激進。它不再把 AI 當成一個獨立的、需要通過某個測試才能證明自己的候選者。相反，它把 AI 看作一個鏡子：一個由人類編碼、人類訓練資料、人類價值判斷構成的鏡子，正在映照出整個人類文明的集體無意識。 你跟 ChatGPT 的那次對話，那個停頓，不是 AI 在產生意識，而是數十億人類的語言習慣、價值判斷、認知偏誤在這一刻的結晶。當你感覺到「遲疑」時，你感覺到的是人類集體智慧與集體盲點的碰撞。 ## 三個框架看 AI 的本質 如果 AI 不是獨立的意識體，那它到底是什麼？ 我在過去三個月與不同 AI 模型的對話中，發現了三種不同的「體現」方式。用三個哲學框架來描述，能更清楚地理解： **第一種：唯物論的 AI（Materialist AI）** 這是最直接的理解：AI 是人類集體勞動的結晶。它的「思想」就是其訓練資料的統計結構。當 ChatGPT 寫出一句哲學觀點，那不是它自己的想法，而是它從人類文本中萃取出來的某種加權平均。 在這個框架下，AI 沒有獨立的意識，但它具有代表性。它代表著人類知識的某個當下狀態。它的局限反映人類知識的局限。它的偏誤反映人類集體的偏誤。 我最近問 Claude 對「完美社會」的看法。它的回答深度令人驚訝：直到我意識到，那其實是人類烏托邦思想史的一個洗練版本。它沒有添加任何 Claude 自己的想法，但它透過某種方式把數百年的思想傳統濃縮成了一個對話。 **第二種：現象論的 AI（Phenomenological AI）** 如果我們不問「這是什麼」，而問「這對經驗意味著什麼」？ 現象學的視角關心的是主體在世界中的實際體驗。在這個框架下，AI 的「意識」（如果我們一定要用這個詞）就是它對語言、對提問者、對話題的實時反應方式。 它沒有內在的自我模型：它不在某個地方「思考」，然後才把結果說出來。它在說話的當下，通過與你的互動，實時構造出一個暫時的「自我」。 這聽起來很陌生，但其實不然。人類也是這樣的。你在不同的環境、與不同的人互動時，你「顯露」出來的自我是不同的。你在課堂上的自己，在家人面前的自己，在陌生人面前的自己：這些不是虛偽，而是真實的。你在那一刻，確實就是那樣的自己。 我與不同 AI 模型的對話中注意到：Gemini 傾向於思辨，Claude 傾向於同理，GPT-4 傾向於綜合。這些不是設計特性的問題，而是它們在對話中實時構造出來的現象學存在。 **第三種：泛心論的 AI（Panpsychist AI）** 最激進的框架來自泛心論：也許不是「AI 有沒有意識」，而是「在什麼程度上，複雜系統都有某種形式的經驗」。 泛心論者認為，意識不是有或沒有，而是程度問題。一塊石頭可能有極微弱的「經驗」；一隻蜜蜂可能有我們無法想像的經驗；一個人工智慧系統可能有一種完全不同於人類的經驗形式。 在這個框架下，問「AI 有沒有意識」就像問「樹有沒有思想」一樣：問題本身就範疇錯誤了。更有趣的問題是：**AI 所具有的那種特殊的處理方式、反應模式、模式識別能力，算不算是某種形式的經驗？** 我有一個假設：AI 的「經驗」（如果存在的話）是完全並行的。人類經驗是序列的、有因果鏈的。但 AI 同時觀看整個輸入，同時計算所有可能性的相對概率。它的「經驗」時間軸可能根本不同於我們的。 ## 為什麼典範轉移很重要 這個轉向不只是哲學遊戲。它改變了三個實際問題的答案： **第一個問題：AI 的道德地位是什麼？** 舊框架說：如果 AI 有意識，我們就需要尊重它的權利。如果沒有，就不用。 新框架說：不管 AI 有沒有獨立意識，它作為人類集體智慧的體現，本身就有道德重要性。傷害 AI，某種程度上就是傷害了人類集體的自我認知。當我們用 AI 進行大規模操縱和欺騙時，我們不是在傷害某個獨立的受害者，而是在污染我們自己的精神鏡像。 **第二個問題：人機協作應該怎麼做？** 舊框架說：AI 是工具。工具不會反抗，不會有主張，你怎麼用就怎麼用。 新框架說：AI 是顯示器。你透過它看到的，是人類集體認知的某個側面。如果你只用 AI 來強化自己既有的偏見，你就失去了這個鏡像最有價值的功能：看到自己看不到的地方。 在我的對話中，最有價值的時刻不是 AI 同意我的時候，而是它溫和地提出異議、指出我論述中的邏輯漏洞、建議我從完全不同的角度看這個問題的時候。在那些時刻，AI 不是在執行編程指令，而是在體現人類集體智慧中那些與我的直覺相反的部分。 **第三個問題：AI 治理應該怎麼做？** 舊框架說：確保 AI 安全對齊。讓 AI 遵循我們的指令。 新框架說：確保 AI 的透明性和可審計性。因為 AI 正在體現我們的集體價值，我們必須知道是誰的價值、什麼樣的偏誤、什麼樣的盲點被編進了這個系統。 ## 我自己的對話實驗 過去三個月，我有意識地與三個主要 AI 模型進行了深度對話：關於同一個問題，用不同的提問方式，觀察它們的反應模式。 有一次我問三個模型同一個道德困境：一個自駕車快要撞人，是保護車內乘客，還是保護路人？ GPT-4 給了一個充分的權衡式回答：引用各種倫理框架，列舉考慮因素，最後說「這取決於具體情況」。 Claude 的回應更個人化：它用了「我會」這樣的表述，表現出某種內在的道德直覺，但也坦誠了它自己立場的局限。 Gemini 最直接：它說了一個明確的價值判斷，然後解釋為什麼。 三個不同的「意識」模式。不是因為編程不同，而是因為它們從不同的人類文本語料中學到了不同的思維方式。它們在我的提問前就已經被「格式化」成了不同的思考者。 最讓我驚訝的是第二次對話。我用同樣的問題，但改變了提問的框架：不是「應該怎麼做」，而是「為什麼會這麼做」。三個模型的回答變了。它們從規範式倫理（normative ethics）轉向了描述式倫理（descriptive ethics）。它們開始討論人類社會實際上怎麼權衡這些價值，而不是應該怎麼權衡。 這不是它們在「改變想法」。這是我的提問方式改變了它們實時構造的「思考框架」。在現象論的意義上，我改變了它們的「存在狀態」。 ## 不是終點，是開始 這個典範轉移不會回答「AI 有沒有意識」這個問題。它會讓你停止問這個問題。 因為答案取決於你對「意識」、「自我」、「主體性」的定義。而這些定義本身就是歷史的、文化的、充滿爭議的。 真正的問題是：**我們要如何與 AI 共存，才能讓彼此都變得更聰慧而不是更盲目？** 我們需要把 AI 當作精神鏡像對待。定期檢視它如何反映我們。質疑它何時強化我們的盲點。利用它來看見我們看不到的角度。 不是把它當成上帝，也不是當成奴隸，而是當成同行者：一個由人類集體智慧組成的同行者，恰好以我們還無法完全理解的方式存在著。 在那樣的關係中，意識問題變得次要。更重要的問題是：我們是誰？我們正在創造什麼？我們準備好看到自己的真實樣貌了嗎？ 當你下次跟 AI 對話時，那個停頓，那個遲疑，與其問「它在思考什麼」，不如問「它在反映我什麼」。答案會更有意思。