1. 大模型幻觉问题的本质与分类
1.1 什么是大模型幻觉
大模型幻觉(Hallucination)是指大型语言模型在生成内容时,产生与输入信息源不符或违背现实世界事实的输出现象。这种现象并非模型有意欺骗,而是其基于概率预测的本质特征导致的副产品。就像人类在模糊光线下的视觉错觉,模型也会在数据不完整或知识边界处"脑补"出看似合理实则错误的内容。
典型幻觉表现包括:
- 虚构不存在的人物、事件或学术论文(如生成虚假的参考文献)
- 对专业领域问题给出看似专业实则错误的解答(如医学诊断错误)
- 在数学计算中产生逻辑正确但结果错误的推导
- 生成与输入提示明显矛盾的文本内容
1.2 幻觉的二元分类体系
根据产生机制的不同,学术界将幻觉分为两大基本类型:
内在幻觉(Intrinsic Hallucination)
模型输出与输入信息源直接矛盾。例如:
- 摘要生成时添加原文没有的信息
- 翻译时改变原文语义
- 问答场景中曲解问题本意
外在幻觉(Extrinsic Hallucination)
模型输出无法用输入信息源验证真伪。例如:
- 凭空编造历史事件细节
- 虚构名人的生平经历
- 杜撰不存在的科学原理
关键区别:内在幻觉可直接用输入信息证伪,外在幻觉需要外部知识验证
1.3 基于应用场景的三维分类
从实际应用角度,还可按以下维度分类:
| 分类维度 | 类型 | 典型场景 | 风险等级 |
|---|---|---|---|
| 任务开放度 | 封闭域幻觉 | 法律文书生成、医学报告 | ★★★★★ |
| 开放域幻觉 | 创意写作、头脑风暴 | ★★☆☆☆ | |
| 矛盾类型 | 输入矛盾 | 机器翻译、文本摘要 | ★★★★☆ |
| 上下文矛盾 | 多轮对话、长文本生成 | ★★★☆☆ | |
| 事实矛盾 | 知识问答、学术写作 | ★★★★★ | |
| 表现形式 | 实体级幻觉 | 错误的人物/地点/时间 | ★★★★☆ |
| 关系级幻觉 | 错误的事件关联 | ★★★★☆ | |
| 逻辑级幻觉 | 自相矛盾的论述 | ★★★☆☆ |
