一句话揭秘：大模型不是在"思考"，而是在玩一场精密的"文字接龙"游戏。

---

一、一个让人哭笑不得的真实案例

去年，一位美国律师使用 ChatGPT 辅助准备法庭文书，结果引用的 6 个判例全部是假的——案号、法官姓名、引用段落，看起来格式完美、措辞专业，但无一真实存在。法官在听证会上直言"这是我见过的最恶劣的 AI 滥用之一"。

这不是段子，也不是个例。从 GPT 到 Claude，从 Gemini 到文心一言，几乎所有大语言模型都存在同样的毛病：用最自信的语气，说最不可靠的话。

这个毛病，业内叫做 AI 幻觉（Hallucination）。

为什么会这样？它能避免吗？我们普通用户又该怎么和 AI"和平共处"？今天我们就来彻底搞懂它。

---

二、揭开大模型的"真面目"：它其实是个接龙高手

要理解幻觉，得先理解大模型到底在干什么。

很多人以为大模型"像人脑一样思考"。但真相是：它本质上是一个超大规模的概率预测机器，核心任务只有一件——

给定前面所有的字，预测下一个字最可能是什么。

就这么简单。它没有"事实数据库"，没有"逻辑推理引擎"，更没有"自我意识"。它做的，就是一个文字接龙游戏：

• 输入：“中国的首都是”
• 它可能输出：“北京”（概率 98%）
• 也可能输出：“上海的”（虽然荒谬，但概率不为 0）

每次预测完一个"北京"，它就把"北京"接上，再预测下一个字：“北京是”。再下一字：“一座”。再下一字：“历史”。再下一字：“悠久”。再下一字：“的”……

一个一个字接下去，最终拼出一篇看起来通顺流畅、逻辑自洽的长文。

这就是大语言模型（LLM）名字的由来：Large Language Model——大型语言模型。它学习的是语言本身的统计规律，不是世界本身的事实。

---

三、幻觉是怎么"炼"成的？三大根源

既然大模型只是在"接龙"，那幻觉就几乎是它的结构性宿命。具体来说，主要有三大根源：

3.1 根源一：训练数据的"原罪"——它不知道什么是对的

大模型的知识来自训练数据，通常是几万亿个网页、书籍、代码。但这些数据有三个致命问题：

• 错误遍地：维基百科有错误，Stack Overflow 有过时答案，论文有撤稿的，新闻有反转的。
• 覆盖不全：冷门领域、最新事件、私域知识，互联网上根本没有。
• 自相矛盾：同一问题，不同来源说法不同（"一天应该喝几杯水"这种问题，到现在医学界都没定论）。

模型在训练时分不清哪些是真的、哪些是假的、哪些是过时的——它只学到"哪些字经常一起出现"。真理和谬误对它来说，没有本质区别，都只是统计模式。

3.2 根源二：解码策略的"陷阱"——它必须"说点什么"

即使模型对答案毫无把握，它也不能沉默。

因为它的设计目标是"生成下一个字"，没有"我不知道"这个内置机制（除非经过专门的 RLHF 训练教它说）。哪怕内部概率分布显示 100 个候选字都不太靠谱，它也会硬着头皮挑一个最像那么回事的输出。

而且为了让输出"流畅自然"，现代大模型还普遍采用了：

• 温度采样（Temperature）：增加随机性，让回答不那么机械
• Top-p 采样（Nucleus Sampling）：只从概率最高的几个候选里选

这些技巧让回答更人性化了，但也更放飞自我了。模型会为了"听起来通顺"，自动脑补细节、编造数据、补全上下文。

3.3 根源三：上下文压力的"诱导"——你的提问方式会"逼"它撒谎

这是一个反直觉的事实：用户的提问方式，会显著影响幻觉的严重程度。

• ❌ 诱导式提问：“详细介绍一下 ACME 公司的创始人张三的生平，他 2018 年获得诺贝尔奖的经历是怎样的？”
  → 模型识别到"详细"、“2018 年”、"诺贝尔奖"这些细节信号，会"贴心地"为你编出一整套听起来煞有介事的生平。
• ✅ 求证式提问：“请帮我查一下 ACME 公司创始人是谁？如果不确定请直接说不清楚。”
  → 模型有了"不编"的出口，幻觉大幅减少。

你给它的"画布"越大，它脑补的胆子就越大。

---

四、幻觉有哪几种"形态"？

学术界通常把幻觉分为三大类：

幻觉类型	通俗解释	典型场景
事实幻觉	凭空捏造事实	编造论文、新闻、人名、引文
逻辑幻觉	推理链自相矛盾	数学题算错、代码逻辑跑偏
指代幻觉	上下文张冠李戴	把 A 的事情说成 B 的

更隐蔽的一种叫**“自信型幻觉”——模型用毫不动摇的语气**说出完全错误的内容。这也是它最危险的地方：因为它不犹豫，所以你也很难怀疑它。

---

五、我们能消灭幻觉吗？——几乎不可能，但能大幅减少

很遗憾，从原理上讲，完全消除幻觉几乎是不可能的。这是因为：

• 模型被设计成"流畅生成"，而不是"准确陈述"。
• 真实世界永远有信息空白，模型必须"填空"。
• 即便所有训练数据都正确，组合推理本身就会产生新错误（哥德尔不完备定理的某种精神）。

但是！我们可以显著降低幻觉的发生率和危害。技术上有几条主流路径：

5.1 RAG：给模型配一本"开卷考试"的参考书

**RAG（Retrieval-Augmented Generation，检索增强生成）**是当下最热门的方案。

简单说：回答前先查资料。

• 用户问：“我们公司今年的年假政策是？”
• 模型不直接答，而是先去向量数据库或企业内部知识库里搜一下相关文档。
• 把搜到的资料塞进 prompt，让模型"参考"这些资料再回答。

这样模型就有了"事实锚点"，幻觉率能从 30%+ 降到 5% 以下。Perplexity、秘塔 AI 搜索、文心一言的"参考 5 篇资料"按钮，本质都是 RAG。

5.2 RLHF：教模型"什么时候该闭嘴"

RLHF（Reinforcement Learning from Human Feedback，基于人类反馈的强化学习） 是让模型学会"我不知道"的关键。

训练时，人类标注员会：

• 看到模型编造信息 → 扣分
• 看到模型说"我不确定" → 给分

反复训练后，模型就学会了在知识边界处主动承认无知。这也是为什么 GPT-4 回答里经常出现"作为一个 AI，我不能……"这种句式。

5.3 工具调用：让模型学会"用计算器"

数学题老算错？让模型真的去执行代码就行。

现代大模型都接了**工具调用（Function Calling）**能力：

• 遇到数学题 → 调用 Python 解释器
• 遇到实时信息 → 调用搜索 API
• 遇到数据库查询 → 生成 SQL 并执行

模型负责"理解和拆解"，工具负责"精确执行"。这是 AI Agent（智能体）时代的核心技术。

5.4 Chain-of-Thought：逼模型"写出过程"

思维链（Chain-of-Thought, CoT） 提示技巧要求模型"一步步推理"。

对比：

• ❌ “9.11 和 9.9 哪个大？” → 模型可能直接答 9.11
• ✅ “请一步步思考：9.11 和 9.9 哪个大？” → 模型会写出"9.11 = 9 + 0.11，9.9 = 9 + 0.9，所以 9.9 > 9.11"

强迫它把推理过程外化，错误更容易暴露，也更容易被我们捕捉到。

---

六、作为普通用户，我们该怎么和 AI 相处？

技术手段是开发者的事，我们日常用 AI，记住这六条铁律就够：

1. 关键事实必须二次验证。AI 给你的论文链接、人名、数据，先 Google / 知网 / 官方源 核实再用。它是助理，不是权威。
2. 明确要求它"不确定就说不确定"。在 prompt 里加：“如果不知道，请直接说’我不清楚’，不要编造。”
3. 提供参考资料约束它。把你的资料、文档、原文贴进去，让它"基于这些内容回答"，幻觉会少很多。
4. 复杂任务分步骤。别让它"一口气干完"，让它"先列大纲、再写正文、最后检查"，每步可验证。
5. 警惕"过于流畅"的回答。越是丝滑、越是自信，越要警惕。真正严谨的专家，反而会磕磕巴巴留余地。
6. 用它做"脑暴伙伴"，不用它做"最终答案"。AI 最大的价值是激发灵感、加速初稿，最终判断永远要回到人类。

---

七、写在最后：与缺陷共舞

AI 幻觉不是 bug，它是 LLM 架构的必然特征。就像人类会做梦、会遗忘、会犯错一样，AI 也会"幻觉"。

但这不意味着它没用。计算器也会算错，但我们依然在用。关键是理解它的边界——

AI 是一个超级强大的"概率作家"，但不是一个"事实权威"。

未来属于那些既能用好 AI 的创造力，又能始终保持人类判断力的人。

希望这篇科普，让你对 AI 的"胡说八道"有了更深的理解。下次 AI 再给你一个斩钉截铁的答案，记得微微一笑，先去查证。

---

如果觉得有帮助，欢迎点赞、收藏、关注三连～你的支持是我持续科普的动力！

作者：一个想认真做科普的开发者
标签：#人工智能 #大语言模型 #AI幻觉 #LLM #科普