一句像人的回答,足以證明回答者有主觀經驗嗎?
我對AI的興趣,常從這個縫隙開始:文字可以讓人感到被理解,但那份感受,還不能替系統內部發生什麼作證。
因此,我想保留「精神鏡像」這個比喻,同時把它的位置放清楚。它幫我思考人如何使用AI,不是用來宣布意識研究已經問錯問題。
TL;DR:Manovich談人工主體性的模擬與再現,不能直接當成AI已有集體意識的證明。聊天表現、技術架構與主觀經驗需要分開;一次停頓或一種回答風格,都不足以裁定內在狀態。本文保留作者的文化與倫理視角,撤下未經驗證的模型心理、人格成因及完全並行經驗等斷言。對日常使用,我建議核對說法、察看替代解釋,並把採用與行動的責任留下。
一、像一個主體說話,與具有主觀經驗是兩回事
Lev Manovich在2025年4月的〈Artificial Subjectivity〉中,從藝術與再現談生成式AI:模型能產出彷彿來自有思想、情感與觀點之人的表達。重點是主體性的外觀如何被模擬與呈現。[1]
這啟發我把AI看作一種文化鏡像。但從「它能呈現主體性」走到「它具有集體意識」,中間仍有需要論證的距離。本文不把後者當作Manovich已證明的事實。
「集體」也不能替所有人發言。若用鏡子比喻,就應繼續追問:哪些材料進入了系統,哪些觀點沒有被看見?我沒有查遍模型語料,不能說某次回答代表整個人類。
我想增加一個理解互動的角度,而非用一個新名詞替意識問題結案。
二、意識研究不是答對幾道聊天題就通關
原稿把意識測試概括成問自我意識、同情與道德題,通過便算有意識。這省略了研究中的方法差異。
Butlin等人2023年報告採取一種理論導向方法,從若干意識理論提出計算與架構指標;同時說明背景假設與不確定性,並討論模仿行為使聊天測試難以判讀的問題。[2] 它不是只有一張問答考卷,也不是無爭議的最終判準。
這份報告對當時系統的分析,不能被倒換成「2026所有模型都已證明沒有意識」。反過來,符合某些指標,也不等於確定有主觀經驗。
我不再說應停止問AI有沒有意識。較好的做法是交代:正在問哪一種意識、用了什麼證據,以及哪些替代解釋還沒有排除。
三、把三種閱讀角度,留作問題而不是答案
舊稿用唯物論、現象論與泛心論整理AI。這些名稱牽涉不同哲學爭論,不能壓縮成三種已辨認出的模型人格。
現在我改用三個較小的問題。第一,這段表達依賴哪些材料與製作選擇?第二,使用者如何感受到這次互動?第三,這些觀察足不足以支持主觀經驗的判斷?
這是作者的閱讀順序,不是新的意識理論分類。使用者感到被理解,值得描述;但不能因此跳過第三個問題。
同樣地,本文不再以泛心論為名,宣布複雜度越高就必然有更多經驗,或石頭已被證明有微弱感受。提出可能性與提供證明,是不同工作。
四、技術上的並行,不能替主觀時間作證
原稿把AI經驗寫成完全並行、人類經驗寫成完全序列,再由此推想兩者時間感不同。技術描述與經驗推論都越過了本文證據。
以〈Attention Is All You Need〉的架構說明為例,注意力計算的可並行性,可以與解碼時逐步產生輸出並存。[3] 不能看到並行計算,就推斷一個系統如何「感受」時間;這篇技術論文也沒有提供那項主觀經驗的證據。
原文0.3秒停頓沒有保留可核對量測與執行條件,這次不再當成已發生的精確觀察,更不稱為遲疑的證明。單憑等待時間,也無法判定temperature或其他哪一個原因。
三模型的倫理回答、Claude烏托邦回應與三個月對話,亦沒有在本次取得原始紀錄。我不補寫引語、不重建受控實驗,也不由風格差異斷言「與設計無關」或「沒有內在自我模型」。
五、倫理關心不必等意識問題全部解開
我仍在意AI如何影響人理解自己與他人。若我們拿一段生成文字替偏見背書,或者用它操縱別人,至少需要面對相關人的處境與責任。
把AI稱為精神鏡像,是我對這類使用方式的倫理提醒。它不是「傷害AI等於傷害人類」的已證定律,也沒有回答AI自身是否可能受苦或取得什麼權利。
這兩層問題可以分開討論:一層是系統對人的影響,另一層是系統本身是否具有應受考慮的經驗。關注前者,不必假裝後者已被否定;對後者保持開放,也不代表接受每一段擬人化自述。
透明與可追查的使用過程,是我希望採取的方向,不是本文已完成的系統審計或通用安全認證。
六、讓鏡像幫助提問,而不是替判斷蓋章
對日常對話,我會保留四個動作:
- 分清眼前的是系統輸出,還是已有外部證據的事實。
- 詢問另一種解釋,檢查最喜歡的答案漏掉什麼。
- 重要說法回到原始資料,不把模型自述當內部報告。
- 採用或行動之前,說清楚誰有權決定、誰負責核對。
這是作者的使用建議,不是能檢出意識或消除所有誤判的測試。
對我而言,鏡像最有意思的地方,是它可以促使人追問自己的假設。可是一面鏡子也有邊框;看見一個形象,不代表已看見全部材料,更不代表知道形象背後是否有感受。
我願意繼續問AI在反映什麼,也繼續問自己憑什麼下結論。兩個問題可以並存,不需要用其中一個取消另一個。
資料來源與閱讀界線(查核至2026年11月4日)
- Lev Manovich,Artificial Subjectivity,2025年4月、四頁短文;閱讀主體性再現與模擬的論述,不當意識存在的實證。
- Butlin等,Consciousness in Artificial Intelligence,v3,2023年8月22日;方法假設、理論導向指標及行為測試限制。本文未重跑評估、不推論2026所有模型,也不把指標當意識的充分保證。
- Vaswani等,Attention Is All You Need,v7,讀取2023年8月2日版本的第三節架構與自迴歸輸出說明;原始研究為2017年,不將本版日期誤作Transformer首次發表。技術架構不提供主觀時間感證據。


💬 留言討論
載入中...