AI 为什么会“胡说”？理解幻觉、错误与不确定性

开场问题

你可能遇到过这样的情况：AI 用很肯定的语气给出一本并不存在的书，编出看似正规的政策条款，或者把人物、日期和出处拼得像模像样。它为什么不直接说“不知道”，反而会给出流畅答案？这类现象常被称为“幻觉”，但要降低风险，不能只把它理解成偶尔说错话。

AI 流畅答案与事实证据可能脱节的幻觉风险图解

图解：回答流畅不等于事实可靠；当证据链断裂时，需要把已知事实、推断和未知项分开核验。

核心解释：答案是怎样偏离事实的

生成式 AI 的基本工作，是根据输入和上下文预测接下来更合适的内容。它擅长生成语言上连贯、形式上符合要求的回答，但“像一个好答案”与“事实确实如此”不是同一目标。当模型缺少可靠信息时，仍可能沿着常见表达继续补全，于是产生听起来合理、实际无法核实的内容。

幻觉并非只有一种原因。训练材料可能不完整、过时、彼此矛盾，模型在压缩大量知识时也不会像数据库那样逐条保存原文。用户的问题如果含糊，模型可能默默选择了错误语境；问题本身带有错误前提时，它还可能顺着前提回答。生成过程中的随机性会让罕见问题更不稳定，而过长的上下文也可能使关键条件被忽略。

即使系统接入搜索、知识库或计算工具，错误也不会自动消失。它可能检索到不相关的材料、误读表格、使用过期页面，或者在引用正确资料后做出错误推论。因此需要区分三类问题：没有依据却生成具体内容，是典型幻觉；有依据但理解或计算错了，是推理错误；信息本来不足却没有表达保留，是不确定性管理失败。三者表现相近，治理方法却不完全一样。

AI 出错通常不是因为它“故意骗人”。模型没有可验证的主观意图；自信语气更多来自语言模式和提示方式。把语气当作可信度，会让人忽略真正应该检查的证据。

一个生活化类比

可以把生成式 AI 想成一位读过很多材料、表达很快，却不能保证随时翻到原始档案的助理。你问一个陌生项目，他可能根据相似项目补出完整方案。格式、术语和逻辑都像真的，但项目名称、负责人和预算可能是“合理猜测”。

如果你让助理先打开正式文件，逐项摘录，再把“文件事实”和“个人判断”分栏，他犯错的空间就会缩小。可是文件拿错、表格看错或推算出错仍然可能发生，所以最后还要核对原件。这正是降低 AI 风险的基本思路。

如何识别可疑回答

首先看答案是否包含大量精确却无来源的细节，例如具体条款号、论文标题、网址、日期、姓名和统计值。细节越具体，越值得核验。其次检查它能否指出证据位置，而不只是重复结论；真实可访问的来源，也不代表来源支持它的说法。

还可以换一种问法复查，要求列出已知事实、推断和未知项。若关键内容在多次回答中明显变化，说明稳定性不足。对于计算和表格，检查输入、公式、单位和时间范围；对于摘要，抽查原文中是否存在对应句意。不要用另一个未经查证的 AI 回答，去证明第一个回答正确。

常见误区

第一个误区是“模型越大就不会幻觉”。能力提升可以减少某些错误，却不能取消信息缺失和生成机制带来的风险。第二个误区是“给出引用就一定可靠”。引用可能不存在、链接可能有效但不支持结论。第三个误区是“把温度调低就等于事实正确”。较低随机性通常让输出更稳定，但稳定地重复错误仍然是错。第四个误区是“联网后所有答案都是最新的”。联网只增加获取资料的机会，资料选择、时效判断和推理仍需检查。