# 关于语言、真实与矛盾：我与 Gemini Pro 2.5 的对话录 > 语言的本质充满模糊，而 AI 的训练数据正是这些人类语言。AI 并非克服了模糊，而是吞噬了海量的模糊性来进行预测。AI 的「不精准」是概率模型的结构性必然。面对这种结构性的不诚实，人类必须保持怀疑与核实的能力。 - Author: Paul Kuo（郭曜郎） - Date: 2025-11-08 - Pillar: 文明与人性 / Civilization & Human Nature - Tags: 语言哲学, AI 幻觉, 批判思维, 人机对话, 结构性不诚实 - Canonical: https://paulkuo.tw/zh-cn/articles/language-truth-gemini-dialogue/ - Language: Simplified Chinese (简体中文) - Translation: AI-translated from the zh-Hant (Traditional Chinese) original - Original (zh-Hant): https://paulkuo.tw/articles/language-truth-gemini-dialogue.md - Site index for LLMs: https://paulkuo.tw/llms.txt --- 我做了一个实验。
▶ 听摘要
AI 合成语音・作者本人声线克隆
准备了一组问题，关于语言的本质、关于 AI 如何「理解」（或不理解）语言、关于真实和谎言的边界，然后丢给 Google 的 Gemini Pro 2.5。 我的预期是：它会用一堆漂亮的句子闪躲这些尖锐的问题。毕竟，要一个 AI 诚实地谈论自己的缺陷，就像要一个业务员诚实地谈论自家产品的问题一样，不太现实。 结果出乎我意料。它不但没有闪躲，反而用一种近乎冷酷的精确度，解剖了自己。 ## 吞噬模糊的机器 我问它：「你怎么处理语言的模糊性？」 它的回答让我停下来想了很久。大意是：人类语言本质上是不透明的。每个词语的意义都依赖上下文，而上下文永远在变。AI 不是「克服」了这种模糊。它是「吞噬」了海量的模糊性，从中学到词语之间的统计关系。 换句话说，AI 不是理解语言。它是把语言当成数据，用概率模型预测「下一个最可能的词是什么」。 这个区别非常关键。理解意味着掌握意义。预测只是计算可能性。一个能准确预测「我爱你」后面最可能接什么句子的系统，不代表它理解什么是「爱」。 Gemini 自己用了一个我觉得很精准的说法：「我不是在语言的海洋里游泳。我是在统计语言的海浪模式。」 ## 无意图的说谎 然后我问了一个更尖锐的问题：「你会说谎吗？」 它的回答让我想了更久。 它说：从人类的定义来看，说谎需要两个条件。知道事实是什么，然后故意说不是。它（AI）不具备这两个条件。它没有「知道事实」的能力，因为它只有统计模型。它也没有「故意」的能力，因为它没有意图。 但它承认：**从结果来看，它经常产出与事实不符的内容。** 这就是所谓的「幻觉」（hallucination）。AI 幻觉不是系统的 bug，它是系统的结构性特征。 为什么？因为当 AI 遇到它的训练数据里没有涵盖的事实空白，它的概率模型不会回答「我不知道」。它会被算法强迫生成一个「最像答案的答案」。因为使用者提问了，系统必须回应，而回应必须是流畅的、连贯的句子。 所以它会用极有自信的语气，说出完全不正确的事。不是因为它想骗你，而是因为它不知道自己不知道。 我把这叫做「结构性的不诚实」。它不是道德问题，是设计问题。但从使用者的角度，效果跟被骗是一样的。 ## 权威语气的陷阱 这里有一个非常危险的心理机制。 人类天生对「自信的语气」有信任反射。当一个人用肯定、流畅、没有犹豫的方式说一件事，我们倾向于相信他。这是演化遗留的本能。在原始社会里，说话自信的人通常是有经验的人，听他们的话有助于生存。 AI 的输出永远是自信的。它不会说「呃，我不太确定欸」「这个我可能记错了」「让我想想」。它的每一个回答都像一个自信满满的专家在做报告。 我在〈[敬畏未知的边界](/zh-cn/articles/falsification-market-crisis/)〉里谈过，确信是毒药。在市场里，最危险的是那些觉得自己一定对的人。在人机互动里也一样。**最容易被 AI 误导的，不是笨人，而是那些忘记质疑 AI 的聪明人。** 因为聪明人习惯了「接收信息、快速判断、做出决定」的模式。AI 给了他们一个效率惊人的信息来源。如果他们不刻意提醒自己「这个来源可能是结构性不诚实的」，他们会比任何人都更快地把自己的判断力外包出去。 ## 功能性的信任 那我们该怎么跟 AI 互动？ Gemini 在对话中提出了一个我觉得很实用的框架：「功能性的信任」。 意思是：你可以信任 AI，但那是一种有条件的、有范围的信任。信任它在某些功能上的表现，而不是无条件地信任它的一切输出。 具体来说：信任但要核实。AI 是你的助理，但你是总编辑。每一个重要的事实性宣称，都需要你自己去验证。信任广度而非精度。AI 擅长的是帮你扩展视野、发现你没想到的角度。但在需要精确的地方（数据、引述、法律条文），它的可靠度远低于你的期待。最后一点：AI 能辨认模式，但那不是「知识」。它能告诉你「这些数据呈现的模式看起来像 X」，但它不能告诉你「X 是真的」。 这跟信仰里的认识论有一个有趣的平行。在神学里，我们谈的是「对超越者的有限认识」。我们可以通过经验、理性、传统来接近真理，但永远不能宣称完全掌握它。面对 AI 也是类似的姿态。我们可以使用它、从它获益，但永远不能把它当成真理的来源。 ## 少数人的清醒 最后想说一个比较悲观的观察。 多数人渴望消除不确定性。这是人性。所以当一个系统用自信的语气、流畅的表达、似乎无所不知的姿态出现在你面前，多数人会很自然地把它当成「答案的来源」，然后停止自己思考。 这不是他们的错。是人性的默认值。 但在人机互动的时代，这个默认值是危险的。 能在 AI 的便利中保持批判性思维、能在每一次接收 AI 输出的时候启动「后设认知」（metacognition），意识到「我正在接收的可能是错的」。这种能力不是天生的，需要刻意练习。 而愿意做这种练习的人，永远是少数。 这场跟 Gemini 的对话让我更确定一件事：AI 时代最稀缺的能力不是「会用 AI」，而是「会怀疑 AI」。前者是技能，后者是素养。 技能可以教。素养只能自己长。 --- *这篇是我与 AI 对话系列的 Gemini 版本。同一组问题，我也丢给了 ChatGPT，它的回应方向完全不同。两篇并列阅读，真实在矛盾之间。*