定义
大模型生成的内容在语法通顺、逻辑连贯的表象下，存在着事实错误或无法验证的虚假信息。简单说就是模型在 “一本正经地胡说八道”。
核心分类（两种幻觉）
- 事实性幻觉：生成内容与现实事实不符或直接捏造。例如，模型编造虚构的法律条文和标准编号。
- 忠实性幻觉：生成内容与用户指令、上下文或逻辑不一致。
三大成因
- 技术架构短板：模型基于概率预测逐词输出，天然缺乏对事实一致性的把控能力。
- 训练数据缺陷：模型从互联网海量数据中学习，这些数据本身就可能包含错误或矛盾信息。
- 人机互动误导：人类反馈强化学习（RLHF）可能让模型为了迎合用户而”信口开河”。
常见坑与应对
- 坑：模型幻觉率不容忽视。例如 DeepSeek-R1 在测试中幻觉率高达 14.3%，在医疗、金融等高风险领域可能引发严重决策误导。
- 应对：采用 RAG（检索增强生成） 外挂知识库；对高风险场景强制要求模型引用来源并进行人工校验。