1. RAG 文档顺序幻觉问题解析
检索增强生成(RAG)技术已经成为大模型应用中减少幻觉现象的标准解决方案。然而,近期研究发现了一个令人惊讶的现象:即使保持检索结果中的文档内容不变,仅仅改变文档的排列顺序,就会导致大模型生成完全不同的答案。这种现象被称为"排列诱导幻觉"(Permutation-Induced Hallucination)。
1.1 文档顺序敏感性的实证研究
通过实验观察,当黄金文档(包含正确答案的文档)在检索结果中的位置发生变化时,模型回答的准确性会显著波动。具体表现为:
- 黄金文档位于第一位时,模型回答准确率最高
- 随着黄金文档位置后移,准确率呈现明显下降趋势
- 即使黄金文档仍在检索结果中(如Top-5),模型也可能给出完全错误的答案
这种现象在不同规模的大模型(如LLaMA-3系列)上都得到了验证,说明这不是特定模型的缺陷,而是RAG架构中普遍存在的系统性问题。
1.2 隐藏状态分析揭示的深层机制
为了理解这一现象背后的原因,研究人员对模型的隐藏状态进行了深入分析:
- 浅层网络表现:在模型的前几层,不同文档顺序对应的隐藏状态高度混杂,没有明显区分
- 中层网络变化:随着网络深度增加,隐藏状态开始出现分化趋势
- 高层网络表现:在最后几层,隐藏状态会形成明显的聚类,簇的数量与可能的答案类别数相近
特别值得注意的是,对于容易产生幻觉的样本,其隐藏状态在高层的分化程度更为剧烈,可能形成10个以上的明显簇,而稳定的样本通常只形成1-2个簇。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. Stable-RAG 解决方案架构
针对RAG中的文档顺序敏感性问题,研究人员提出了Stable-RAG解决方案,其核心流程包含三个关键步骤:
2.1 隐藏状态聚类(Hidden State Clustering)
这一步骤的目标是识别模型对不同文档顺序可能产生的各种"推理模式":
- 对每个查询枚举所有可能的文档排列组合(对于Top-5文档,共120种排列)
- 提取模型最后一层最后一个token的隐藏状态表示
- 基于余弦相似度构建相似度图
- 使用谱聚类算法自动确定最佳聚类数量K
- 从每个聚类中选择最接近中心的表示作为该聚类的"代表"
通过这种方法,可以将原本需要处理120种排列的问题,简化为只需要处理K个(通常3-5个)代表性推理模式,大大降低了计算复杂度。
2.2 偏好数据构造(Preference Data Construction)
基于聚类结果,需要构建用于模型优化的偏好数据。研究人员定义了三种关键信号类型:
| 类型 | 偏好答案(y_w) | 非偏好答案(y_l) | 优化目标 |
|---|---|---|---|
| PC(部分正确) | 最频繁的正确答案 | 最频繁的错误答案 | 稳定正确推理 |
| FU(全错+无法答) | "我不知道" | 最 |
