一句像人的回答,足以证明回答者有主观经验吗?

我对AI的兴趣,常从这个缝隙开始:文字可以让人感到被理解,但那份感受,还不能替系统内部发生什么作证。

因此,我想保留「精神镜像」这个比喻,同时把它的位置放清楚。它帮我思考人如何使用AI,不是用来宣布意识研究已经问错问题。

TL;DR:Manovich谈人工主体性的模拟与再现,不能直接当成AI已有集体意识的证明。聊天表现、技术架构与主观经验需要分开;一次停顿或一种回答风格,都不足以裁定内在状态。本文保留作者的文化与伦理视角,撤下未经验证的模型心理、人格成因及完全并行经验等断言。对日常使用,我建议核对说法、察看替代解释,并把采用与行动的责任留下。

一、像一个主体说话,与具有主观经验是两回事

Lev Manovich在2025年4月的〈Artificial Subjectivity〉中,从艺术与再现谈生成式AI:模型能产出仿佛来自有思想、情感与观点之人的表达。重点是主体性的外观如何被模拟与呈现。[1]

这启发我把AI看作一种文化镜像。但从「它能呈现主体性」走到「它具有集体意识」,中间仍有需要论证的距离。本文不把后者当作Manovich已证明的事实。

「集体」也不能替所有人发言。若用镜子比喻,就应继续追问:哪些材料进入了系统,哪些观点没有被看见?我没有查遍模型语料,不能说某次回答代表整个人类。

我想增加一个理解互动的角度,而非用一个新名词替意识问题结案。

二、意识研究不是答对几道聊天题就通关

原稿把意识测试概括成问自我意识、同情与道德题,通过便算有意识。这省略了研究中的方法差异。

Butlin等人2023年报告采取一种理论导向方法,从若干意识理论提出计算与架构指标;同时说明背景假设与不确定性,并讨论模仿行为使聊天测试难以判读的问题。[2] 它不是只有一张问答考卷,也不是无争议的最终判准。

这份报告对当时系统的分析,不能被倒换成「2026所有模型都已证明没有意识」。反过来,符合某些指标,也不等于确定有主观经验。

我不再说应停止问AI有没有意识。较好的做法是交代:正在问哪一种意识、用了什么证据,以及哪些替代解释还没有排除。

三、把三种阅读角度,留作问题而不是答案

旧稿用唯物论、现象论与泛心论整理AI。这些名称牵涉不同哲学争论,不能压缩成三种已辨认出的模型人格。

现在我改用三个较小的问题。第一,这段表达依赖哪些材料与制作选择?第二,用户如何感受到这次互动?第三,这些观察足不足以支持主观经验的判断?

这是作者的阅读顺序,不是新的意识理论分类。用户感到被理解,值得描述;但不能因此跳过第三个问题。

同样地,本文不再以泛心论为名,宣布复杂度越高就必然有更多经验,或石头已被证明有微弱感受。提出可能性与提供证明,是不同工作。

四、技术上的并行,不能替主观时间作证

原稿把AI经验写成完全并行、人类经验写成完全序列,再由此推想两者时间感不同。技术描述与经验推论都越过了本文证据。

以〈Attention Is All You Need〉的架构说明为例,注意力计算的可并行性,可以与解码时逐步产生输出并存。[3] 不能看到并行计算,就推断一个系统如何「感受」时间;这篇技术论文也没有提供那项主观经验的证据。

原文0.3秒停顿没有保留可核对量测与执行条件,这次不再当成已发生的精确观察,更不称为迟疑的证明。单凭等待时间,也无法判定temperature或其他哪一个原因。

三模型的伦理回答、Claude乌托邦回应与三个月对话,亦没有在本次取得原始纪录。我不补写引语、不重建受控实验,也不由风格差异断言「与设计无关」或「没有内在自我模型」。

五、伦理关心不必等意识问题全部解开

我仍在意AI如何影响人理解自己与他人。若我们拿一段生成文字替偏见背书,或者用它操纵别人,至少需要面对相关人的处境与责任。

把AI称为精神镜像,是我对这类使用方式的伦理提醒。它不是「伤害AI等于伤害人类」的已证定律,也没有回答AI自身是否可能受苦或取得什么权利。

这两层问题可以分开讨论:一层是系统对人的影响,另一层是系统本身是否具有应受考虑的经验。关注前者,不必假装后者已被否定;对后者保持开放,也不代表接受每一段拟人化自述。

透明与可追查的使用过程,是我希望采取的方向,不是本文已完成的系统审计或通用安全认证。

六、让镜像帮助提问,而不是替判断盖章

对日常对话,我会保留四个动作:

  • 分清眼前的是系统输出,还是已有外部证据的事实。
  • 询问另一种解释,检查最喜欢的答案漏掉什么。
  • 重要说法回到原始数据,不把模型自述当内部报告。
  • 采用或行动之前,说清楚谁有权决定、谁负责核对。

这是作者的使用建议,不是能检出意识或消除所有误判的测试。

对我而言,镜像最有意思的地方,是它可以促使人追问自己的假设。可是一面镜子也有边框;看见一个形象,不代表已看见全部材料,更不代表知道形象背后是否有感受。

我愿意继续问AI在反映什么,也继续问自己凭什么下结论。两个问题可以并存,不需要用其中一个取消另一个。

四格漫画:一句像人的回答,足以证明回答者有主观经验吗?分清眼前的是系统输出,还是已有外部证据的事实。询问另一种解释,检查最喜欢的答案漏掉什么。重要说法回到原始数据,不把模型自述当内部报告。采用或行动之前,说清楚谁有权决定、谁负责核对。这是作者的使用建议,不是能检出意识或消除所有误判的测试。

数据来源与阅读界线(查核至2026年11月4日)

  1. Lev Manovich,Artificial Subjectivity,2025年4月、四页短文;阅读主体性再现与模拟的论述,不当意识存在的实证。
  2. Butlin等,Consciousness in Artificial Intelligence,v3,2023年8月22日;方法假设、理论导向指标及行为测试限制。本文未重跑评估、不推论2026所有模型,也不把指标当意识的充分保证。
  3. Vaswani等,Attention Is All You Need,v7,读取2023年8月2日版本的第三节架构与自回归输出说明;原始研究为2017年,不将本版日期误作Transformer首次发表。技术架构不提供主观时间感证据。