我做了一个实验。

▶ 听摘要
AI 合成语音・作者本人声线克隆

准备了一组问题——关于语言的本质、关于 AI 如何「理解」（或不理解）语言、关于真实和谎言的边界——然后丢给 Google 的 Gemini Pro 2.5。

我的预期是：它会用一堆漂亮的句子闪躲这些尖锐的问题。毕竟，要一个 AI 诚实地谈论自己的缺陷，就像要一个业务员诚实地谈论自家产品的问题一样，不太现实。

结果出乎我意料。它不但没有闪躲，反而用一种近乎冷酷的精确度，解剖了自己。

吞噬模糊的机器

我问它：「你怎么处理语言的模糊性？」

它的回答让我停下来想了很久。大意是：人类语言本质上是不透明的。每个词语的意义都依赖上下文，而上下文永远在变。AI 不是「克服」了这种模糊——它是「吞噬」了海量的模糊性，从中学到词语之间的统计关系。

换句话说，AI 不是理解语言。它是把语言当成数据，用概率模型预测「下一个最可能的词是什么」。

这个区别非常关键。理解意味着掌握意义。预测只是计算可能性。一个能准确预测「我爱你」后面最可能接什么句子的系统，不代表它理解什么是「爱」。

Gemini 自己用了一个我觉得很精准的说法：「我不是在语言的海洋里游泳。我是在统计语言的海浪模式。」

无意图的说谎

然后我问了一个更尖锐的问题：「你会说谎吗？」

它的回答让我想了更久。

它说：从人类的定义来看，说谎需要两个条件——知道事实是什么，然后故意说不是。它（AI）不具备这两个条件。它没有「知道事实」的能力，因为它只有统计模型。它也没有「故意」的能力，因为它没有意图。

但它承认：从结果来看，它经常产出与事实不符的内容。

这就是所谓的「幻觉」（hallucination）。AI 幻觉不是系统的 bug——它是系统的结构性特征。

为什么？因为当 AI 遇到它的训练数据里没有涵盖的事实空白，它的概率模型不会回答「我不知道」。它会被算法强迫生成一个「最像答案的答案」——因为使用者提问了，系统必须回应，而回应必须是流畅的、连贯的句子。

所以它会用极有自信的语气，说出完全不正确的事。不是因为它想骗你，而是因为它不知道自己不知道。

我把这叫做「结构性的不诚实」。它不是道德问题，是设计问题。但从使用者的角度，效果跟被骗是一样的。

权威语气的陷阱

这里有一个非常危险的心理机制。

人类天生对「自信的语气」有信任反射。当一个人用肯定、流畅、没有犹豫的方式说一件事，我们倾向于相信他。这是演化遗留的本能——在原始社会里，说话自信的人通常是有经验的人，听他们的话有助于生存。

AI 的输出永远是自信的。它不会说「呃，我不太确定欸」「这个我可能记错了」「让我想想」。它的每一个回答都像一个自信满满的专家在做报告。

我在〈敬畏未知的边界〉里谈过，确信是毒药。在市场里，最危险的是那些觉得自己一定对的人。在人机互动里也一样——最容易被 AI 误导的，不是笨人，而是那些忘记质疑 AI 的聪明人。

因为聪明人习惯了「接收信息、快速判断、做出决定」的模式。AI 给了他们一个效率惊人的信息来源。如果他们不刻意提醒自己「这个来源可能是结构性不诚实的」，他们会比任何人都更快地把自己的判断力外包出去。

功能性的信任

那我们该怎么跟 AI 互动？

Gemini 在对话中提出了一个我觉得很实用的框架：「功能性的信任」。

意思是：你可以信任 AI，但那是一种有条件的、有范围的信任。信任它在某些功能上的表现，而不是无条件地信任它的一切输出。

具体来说：信任但要核实——AI 是你的助理，但你是总编辑。每一个重要的事实性宣称，都需要你自己去验证。信任广度而非精度——AI 擅长的是帮你扩展视野、发现你没想到的角度。但在需要精确的地方（数据、引述、法律条文），它的可靠度远低于你的期待。最后一点：AI 能辨认模式，但那不是「知识」——它能告诉你「这些数据呈现的模式看起来像 X」，但它不能告诉你「X 是真的」。

这跟信仰里的认识论有一个有趣的平行。在神学里，我们谈的是「对超越者的有限认识」——我们可以通过经验、理性、传统来接近真理，但永远不能宣称完全掌握它。面对 AI 也是类似的姿态——我们可以使用它、从它获益，但永远不能把它当成真理的来源。

少数人的清醒

最后想说一个比较悲观的观察。

多数人渴望消除不确定性。这是人性。所以当一个系统用自信的语气、流畅的表达、似乎无所不知的姿态出现在你面前，多数人会很自然地把它当成「答案的来源」，然后停止自己思考。

这不是他们的错。是人性的默认值。

但在人机互动的时代，这个默认值是危险的。

能在 AI 的便利中保持批判性思维、能在每一次接收 AI 输出的时候启动「后设认知」（metacognition）——意识到「我正在接收的可能是错的」——这种能力不是天生的，需要刻意练习。

而愿意做这种练习的人，永远是少数。

这场跟 Gemini 的对话让我更确定一件事：AI 时代最稀缺的能力不是「会用 AI」，而是「会怀疑 AI」。前者是技能，后者是素养。

技能可以教。素养只能自己长。

这篇是我与 AI 对话系列的 Gemini 版本。同一组问题，我也丢给了 ChatGPT——它的回应方向完全不同。两篇并列阅读，真实在矛盾之间。