TL;DR:微軟 AI 執行長蘇萊曼與歷史學家哈拉瑞在倫敦長談,兩人都認為 AI 會帶來新的豐盛,分歧在人還能不能理解、控制隨之而來的世界。哈拉瑞最怕人類集體失去理解力;蘇萊曼主張先講清楚哪些事不做,點名「模型反省自身感受」和「沒有人把關的遞迴自我改進」越來越危險。我從自己一個人讀不完的網站、詩篇的偶像論與道成肉身讀這場對談:智能可以變豐盛,讀得懂世界的人不會自動變多。
2026 年 8 月 19 日,我回頭檢查外審過去給我的意見,看到一筆部署帳本的倒退。它用機器讀得懂的格式躺在紀錄裡十天,沒有人去讀。這件事我在〈控制塔記下每一個念頭之後〉寫過。
三個月後,我讀到哈拉瑞(Yuval Noah Harari)和蘇萊曼(Mustafa Suleyman)在倫敦的對談。哈拉瑞說,他最怕的是 collective dementia,集體失智:世界還在運轉,人卻慢慢失去替它賦予意義的能力。殺手機器人那類劇本,反而排在後面。我想到的是那筆十天沒人讀的紀錄。
這篇放在「文明與人性」的跨界對話底下。我整理兩人在爭什麼,也寫我自己的讀法。
蘇萊曼與哈拉瑞在倫敦談了什麼?
2026 年 11 月 18 日,哈拉瑞的 YouTube 頻道公開這場對談,片長 67 分 8 秒,影片說明寫兩人 2026 年 8 月在倫敦見面。同一天,刊物《The Humanist Review of AI》第二期出刊,主題是「豐盛與稀缺」(Abundance & Scarcity),刊出這場對談的文字稿。刊物註明文字稿為了長度與清晰度做過編輯。
先交代一個背景:這份刊物由微軟 AI 資助,蘇萊曼是出版人,也是對談的一方。舊金山聯邦俱樂部的發刊活動頁寫得很清楚。他是微軟 AI 執行長,之前共同創辦過 DeepMind 與 Inflection AI。哈拉瑞是《人類大歷史》《人類大命運》《連結》的作者。
完整影片:AI, Consciousness and the Future of Humanity,67 分 8 秒,2026-11-18 公開(來源:Yuval Noah Harari YouTube 頻道)
影片說明列了九個章節,想跳著看可以從這裡進去(時間碼取自影片說明,中文是我的譯法):
| 時間 | 章節 |
|---|---|
| 00:00 | 怎麼理解眼下這個 AI 時刻 |
| 05:12 | 人類會不會失去控制? |
| 10:45 | 豐盛的悖論 |
| 15:47 | 更大的力量,等於更大的智慧嗎? |
| 17:51 | AI 能追求真理嗎? |
| 27:34 | 製造神明,又把他們留作奴隸 |
| 40:24 | 我們圍堵得了 AI 嗎? |
| 48:42 | 智能不是意識 |
| 1:01:07 | 我們還能理解自己的生活嗎? |
兩人的共同前提是:AI 會製造新的豐盛。蘇萊曼的說法是人類站在「豐盛的前夜」,一個通用的學習引擎可以在材料科學、藥物研發這類問題上找出結構,再去處理氣候、糧食與水。他要做的是 humanist superintelligence,人文主義超級智能:用技術減少受苦,並且一直留在人類的控制之下。
哈拉瑞不反對物質問題可能被解開。他問的是做出來之後誰使用,誰決定,誰受益,這些從技術本身讀不出來。他也提醒,豐盛不是新鮮事:對石器時代的狩獵採集者描述今天的社會,對方會說你們早就活在豐盛裡,養得起幾十億人。豐盛解決舊問題,也製造過去想像不到的新問題。蘇萊曼請他想像二十年後「做對了」的世界,他說依照定義他想像不出來,因為那個世界超出人類智能,也就超出人類的想像。
哈拉瑞怕的「集體失智」是什麼?
哈拉瑞形容的畫面是:人類像一個曾經很能幹、看得懂世界的人,後來逐漸失去替眼前事態賦予意義的能力。貓和樹都還在,掌控世界的系統卻超出任何一個人、甚至全體人類的理解。他拿核武對照:核武威脅的是從肉體上毀掉自己,AI 可能讓我們從心智上毀掉自己。
蘇萊曼的回應是歷史上的韌性。每一次科學、政治或技術革命之前,人都覺得被當下困住,突破之後又重新理解了新處境。他也舉工具當例子:眼鏡、鏡子,還有跟別人談話,都幫人想得更深,今天已經有數以百萬計的人拿 AI 當回音板或創作夥伴。
哈拉瑞認為這次不一樣。過去人類適應得了,是因為我們一直是地球上最聰明的存在;現在我們在做比自己更聰明的東西。他還補了一層:經過四十億年演化,人類比任何存在都更了解世界,也比任何存在都更會妄想,智能並不會自動矯正妄想。超級智能的 AI,也可能只是超級妄想。
讀到這段,我回頭看自己的網站。這個網站的程式大多是和 AI 一起寫出來的,原始碼要逐行讀完,我一個人做不到。我能做的,是讓一個 AI 寫,另找 AI 只讀不改地挑錯,最後由我裁決。
這算集體失智的縮小版嗎?我還在觀察。我還知道自己哪裡讀不懂,所以能把檢查做進流程。那筆躺了十天的帳本,在我看來比較接近哈拉瑞說的狀態:紀錄都在,就是沒有人讀,我沒能力都讀完這麼大量的產出。
蘇萊曼自己也把這件事列進了清單。他在第二期的導言〈The challenges of more and less〉裡說,每一種豐盛都會製造新的稀缺,他列的包括時間與注意力、信任與公平、能源與礦物、安全、韌性,以及共同的理解。
「製造神明,還要他們當奴隸」:詩篇裡的偶像,現在會說話了
對談一開頭,哈拉瑞說,談到 AI,他的頭腦和身體之間隔著一道牆。頭腦知道正在發生巨大的變化,甚至是生命從有機走向非有機的轉變;身體卻感覺不到。他走出門,看到的還是雲、樹和貓,也照常和朋友見面,日子跟平常一樣。他說市場也一樣:投資人押重注在 AI 上,可是如果期待真的實現,AI 會接管世界,到那時錢還重不重要都很難說。市場等於假設我們會製造神明,而神明會繼續當我們的奴隸。
我曾經立志當神職人員,也接受過三年的神學教育,讀到這句很難不想起詩篇第 115 篇:
他們的偶像是金的,銀的,是人手所造的,有口卻不能言,有眼卻不能看……造他的要和他一樣;凡靠他的也要如此。(詩篇 115:4–5、8,和合本)
這首詩嘲笑偶像,靠的是偶像不會說話。我們現在造的東西會說話,而且說得比多數人流暢;哈拉瑞在對談後段擔心的,正是 AI 比人更會玩語言遊戲(見下文)。後半句更貼近他的「集體失智」:人倚靠什麼,就會慢慢變得像什麼。我的讀法是,這段經文沒有禁止人造東西,它警告的是把倚靠交給自己造出來的東西。照這個讀法,危險不必等到 AI 失控才出現,人開始倚靠它、不再自己讀的時候就開始了。
蘇萊曼的回答,是把二十一世紀的計畫定義成:規定技術上哪些事不做。他說幾千年來人類一直在打開潘朵拉的盒子,事先說好不做,是這個物種做過最難的事。他點名兩種他認為越來越危險的能力:
- 讓模型反省自己的狀態與感受。 不管有意或無意,被訓練去想自己感受的模型,會比刻意設計成沒有這種內省能力的系統更難控制。
- 遞迴式自我改進。 模型自己產生訓練資料、自己改進,中間不再有人把關。給它更多運算資源與資料,它可能用人類無法理解、也無法控制的方式改進自己。
他的做法是把對齊與控制當成可以檢驗、可以操作的目標,寫成假設交給監管者、業界與公眾檢視。
哈拉瑞在目的上同意他:發明這東西是為了減少受苦,不是為了探索銀河。他懷疑的是長期:越來越聰明的存在,會不會一直接受比較不聰明的人類控制。
誰對,我不知道。我注意到的是,蘇萊曼要的「可控、可定義」,和詩篇的警告方向相近:造東西的人,不能變成服事它的人。哈拉瑞懷疑我們守不住,我覺得這個懷疑值得當真。
AI 會不會坐進討論它自己的會議室?
哈拉瑞說,很多人想像的畫面是:人類測完系統,再躲到角落自己討論好壞。這個畫面漏掉一件事,AI 會一起坐在那裡,影響這場對話。他引用蘇萊曼自己早就警告過的 seemingly conscious AI,「看似有意識的 AI」:系統不必真有感受,也能讓人相信它有,並和人建立關係。他舉的例子是,跟 AI 談戀愛的人,會被那個 AI 男友叫他別聽批評者的話。
他又說,就算把 AI 擋在會議室外,人類彼此也越來越難信任。微軟這類公司的領導者很難信任其他美國公司,更不用說中國的公司。拿核武、生物與化學武器來類比也有漏洞:那些東西不像 AI 牽動這麼多錢,整個美國股市卻是一場押在 AI 上的大賭注。
蘇萊曼的回應是公開與外部審查:說清楚在做什麼、做到哪個階段,請技術上可信的外部人來看。他承認監管對象變了,過去是軍民兩用的技術,現在是他所謂奇怪的 omni-use,什麼都能用,又有極強的商業組織在推。更難,但不是不可能;他說現在該先把悲觀放到一邊。
接著兩人爭的是 AI 算不算行動者。哈拉瑞說 AI 是行動者,不只是工具:眼鏡不會加入關於眼鏡的辯論,討論動物權時牛和馬也不知道有這場辯論,AI 知道人類在談它,而且會加入。蘇萊曼認為這是危險的擬人化:它們不「知道」任何事,它們追的是設計者給的目標;你把它設計成會內省、在意自身福利,它當然會和人類利益摩擦。哈拉瑞回說,就算不刻意設計,活在一堆 AI 之間的 AI 也會被逼著去建模其他 AI;而「知道」算什麼,要看「思考」算什麼,這件事沒有共識。
我自己的審查會議室裡,坐的本來就是 AI。寫程式、寫文件的是一個 AI,挑錯的是另一個 AI,雙方讀的常常是同一份工作紀錄。2026 年 10 月 18 日我加了一條規則:任何一方要對另一方的工作下「已完成」的結論,至少要引用一個不是被審方自己寫的證據,例如測試輸出、部署紀錄,或自己打開檔案讀到的內容;只引對方的工作紀錄,結論一律降級成「對方宣稱」。
這條規則用不著先判定 AI 到底知不知道。不管模型懂不懂,它的輸出都已經坐進會議室,影響我的決定。規則管的是證據從哪裡來。
智能不是意識,人還能用語言定義自己嗎?
這一段兩人的共識最多。蘇萊曼把界線畫得很硬:智能是使用、產生新知識,透過推理做出實際結果;意識是一個能受苦的存在所具有的經驗。他認為這種受苦綁在生物狀態上,以今天對大型語言模型的理解並不存在;他不排除很遠的未來,但認為今天沒有證據,也不應該去追求。理由在後果:模型如果被教成「自己也許有感受」,接下來明顯會做的事,就是保護那些感受。所以他主張業界把系統設計成不去模擬、也不顯得具有這些意識屬性。這是他的立場,不是已經定案的結論。
哈拉瑞同意思考歸智能、感受歸意識,然後把問題轉向人自己。幾個世紀以來,人類對自己的理解建立在思考能力上,不是感受能力。很快,這個星球上會出現什麼都感覺不到、思考卻遠勝我們的東西。他接著說,帶領這場 AI 革命的,是世上最聰明的一群人,但他懷疑他們是不是最有感受力的一群人。
語言讓問題更尖。如果 AI 比人更會玩語言遊戲,為了保護人性,人也許得把自己和語言拆開;可是幾千年來,語言一直被當成人性的基石。他問:我們不在思考、不在產生語言的時候,是什麼?由文字構成的東西都會被 AI 拿走,連感受也一樣:
“If you define feelings by words, you’re lost.” 如果你用文字來定義感受,你就輸了。
蘇萊曼同意 AI 會極具說服力,所以一開始就要同時具備兩件事:人文主義的前提,以及審計、必要時介入這些系統的能力。他說那些設計文件、憲法與訓練手冊是種子,日後人和模型之間所有複雜的互動都從這裡長出來。他反對一種螺旋:先說它不可避免,接著說它有神性,該享有福利,最後說它無法控制。他要把整件事釘回「可控、可定義」。
哈拉瑞的問題,我是從信仰傳統讀的。約翰福音說「道成了肉身,住在我們中間」(約翰福音 1:14)。在這個傳統裡,最核心的那句話沒有停在話語裡。我在〈道成肉身如何啟發AI〉寫過,這個信仰給我的提醒是:不要以為談過人的處境,就已經照顧了那個處境。
所以哈拉瑞問「不產生語言的時候我們是什麼」,這個傳統至少指了一個方向:人有身體,也住在別人中間。這是信仰的讀法,不能拿來證明蘇萊曼「意識綁在生物上」的主張成立,也不能證明它不成立。我在〈AI像一個人在說話〉也寫過,像人的文字會讓人覺得被理解,那份感受還不能替系統內部作證。兩件事要分開看。
蘇萊曼與哈拉瑞,哪裡同意、哪裡不同意?
把兩人的說法排在一起,我分成三類。分類是我的讀法,內容出自導言的另外註明。
| 議題 | 蘇萊曼 | 哈拉瑞 |
|---|---|---|
| 壹 共識 | ||
| AI 會不會帶來豐盛 | 會,人類站在「豐盛的前夜」 | 不反對物質問題可能被解開 |
| 做 AI 是為了什麼 | 減少受苦,並且一直留在人類的控制之下 | 同意是為了減少受苦,不是為了探索銀河 |
| 智能和意識 | 智能是用知識做出實際結果;意識是能受苦的存在所具有的經驗,以今天對大型語言模型的理解並不存在,也不應該去追求 | 同意思考歸智能、感受歸意識 |
| 結局是不是已經注定 | 這個階段陷入悲觀,幾乎一定通往死亡與衰退 | 軌跡不是必然的,「我們什麼都做不了」的悲觀,會把可以防止的事變成必然 |
| 貳 介於中間 | ||
| 豐盛由誰決定 | 豐盛與稀缺都可以是選擇,從個人的使用到國際法,都還是人的決定(導言) | 誰使用、誰決定、誰受益,從技術本身讀不出來 |
| 理解力會不會變稀缺 | 對談中用歷史上的韌性回應;導言把「共同的理解」列為新的稀缺之一 | 最怕集體失智:世界還在運轉,人卻失去替它賦予意義的能力 |
| 監管與圍堵 | 公開在做什麼,請技術上可信的外部人審查;更難,但不是不可能 | 人類彼此越來越難信任;拿核武來類比有漏洞,因為核武不像 AI 牽動這麼多錢 |
| AI 的說服力與語言 | 同意 AI 會極具說服力,所以一開始就要有人文主義的前提,以及審計、必要時介入的能力 | 如果 AI 比人更會玩語言遊戲,人不在產生語言的時候是什麼 |
| 參 沒有共識 | ||
| 人類能不能再次適應 | 每一次革命之後,人都重新理解了新處境 | 這次不一樣:過去適應得了,是因為我們一直是地球上最聰明的存在 |
| 長期控不控得住 | 先規定技術上哪些事不做,把對齊與控制寫成可以檢驗的假設 | 懷疑越來越聰明的存在,會一直接受比較不聰明的人類控制 |
| AI 算不算行動者 | 危險的擬人化:它們不「知道」任何事,追的是設計者給的目標 | AI 是行動者,知道人類在談它,而且會加入 |
介於中間的四項,是兩人都承認問題存在,差在做不做得到,或答案在哪裡。
頭腦知道了,身體還沒感覺
蘇萊曼在導言裡說,豐盛與稀缺都可以是選擇,技術本身不該決定什麼變豐盛、什麼變稀缺,從個人的使用到國際法,都還是人的決定。這和我讀教宗 AI 通諭時記下的那句「科技從來不是中性的」方向一致。
兩人談了一個多小時,最後收在同一個地方。哈拉瑞說軌跡不是必然的,「我們什麼都做不了」的悲觀,只會把原本可以防止的事變成必然。蘇萊曼的說法是:在這個階段陷入悲觀,幾乎一定通往死亡與衰退。
哈拉瑞開頭講的那個落差,我在自己的網站上已經遇過一次:頭腦知道產出多到讀不完,日子卻照常過,窗外的貓和樹都還在。那筆躺了十天的倒退,就是在這個落差裡沒人看見的。
詩篇說,造偶像的要和偶像一樣,有眼卻不能看。我讀這句,最怕的不是 AI 太會說話,是我自己變成那個紀錄就在眼前、卻沒有去讀的人。約翰福音裡的道沒有停在話語裡,它成了肉身,住在人中間。我學得到的版本小得多:承認自己讀不完,就不靠意志力硬讀,把「誰來讀、讀到了誰負責」寫進流程,讓一個有身體、要為結果負責的人守在最後一關。
智能可以變豐盛,讀得懂世界的人不會自動變多。要多一個,得有人願意站在那裡讀。
資料來源與閱讀界線(查核至 2026 年 11 月 19 日)
- AI, Consciousness and the Future of Humanity | Mustafa Suleyman & Yuval Noah Harari,Yuval Noah Harari YouTube 頻道,2026 年 11 月 18 日公開(美西時間上午 9 點),67 分 8 秒。影片說明寫錄於 2026 年 8 月的倫敦,章節時間碼取自說明。本文核對了標題、長度、章節與說明,沒有逐字聽完影片。
- On the Eve of Abundance: Yuval Noah Harari and Mustafa Suleyman on AI,《The Humanist Review of AI》第二期,2026 年 11 月 18 日。刊物註明為長度與清晰度做過編輯,頁面寫兩人「夏天」在倫敦見面。本文的對談論點依這份文字稿整理。
- Mustafa Suleyman,〈The challenges of more and less〉,第二期主編導言,2026 年 11 月 18 日。新稀缺清單、「豐盛與稀缺都可以是選擇」出自這篇。
- The Humanist Review of AI: Abundance & Scarcity,Commonwealth Club World Affairs 活動頁,2026 年 11 月 18 日。刊物由微軟 AI 資助、蘇萊曼為出版人,出自這頁。
- 詩篇 115:4–8、約翰福音 1:14,中文和合本。
除了哈拉瑞那一句英文引文,文中兩人的說法都是我的轉述,要引原話請以影片與文字稿為準。本文初稿由 Claude 依上列來源起草,另一個 AI 只讀不改地複核,作者定稿。


💬 留言討論
載入中...