大语言模型置信度评估：EAGLE方法的突破与实践

1. 大语言模型置信度评估的困境与突破

大语言模型（LLMs）在实际应用中常常表现出"过度自信"的特性——它们会以极高的确定性输出错误答案。这种现象在关键应用场景（如医疗诊断、金融分析）中尤为危险。传统解决方案主要依赖两种途径：一是让模型对自身输出进行评分（自评估），二是通过监督学习训练专门的置信度预测模块。但前者受限于RLHF训练带来的"表面正确性"倾向，后者则需要额外训练成本且泛化性有限。

EAGLE方法的创新之处在于，它发现了模型中间层隐藏状态与真实置信度之间的强相关性。具体表现为：

• 不同网络层对同一答案的置信表征存在显著差异
• 深层网络倾向于输出"符合人类偏好"的结果，而中层网络保留了更多原始不确定性信息
• 对数几率空间（logits）比归一化后的概率空间包含更丰富的置信信号

关键发现：当模型输出错误答案时，其内部多层隐藏状态往往表现出明显的不一致性，这种不一致性可以通过适当的数学方法提取为置信度指标。

2. EAGLE技术架构深度解析

2.1 系统整体工作流程

EAGLE的处理管线包含四个核心环节：

1. 自评估提示触发：

   • 使用标准模板："请对以下答案的置信度评分（0-9，9表示完全确定）"
   • 关键技巧：在提示中明确定义每个分数对应的确定性程度
   • 输出示例："这个答案的置信度评分为7"（对应特定token）

2. 多层特征提取：

   • 选取最后K层（论文中K=6）的隐藏状态
   • 对每个隐藏状态h_i ∈ R^d，通过投影矩阵W ∈ R^{|V|×d}映射到词表空间
   • 计算公式：logits_i = W h_i + b

3. 分层置信聚合：

   • 对每层logits取目标token位置的值
   • 加权平均：logits_agg = Σ(w_i * logits_i)
   • 论文采用等权重（w_i=1/K）即表现良好

4. 分布期望计算：

   • Softmax归一化：p = softmax(logits_agg)
   • 期望值计算：confidence = Σ(v*p_v)，v∈[0,9]

2.2 关键技术实现细节

隐藏状态选择策略：

• 层数选择：实验表明最后6层包含最丰富的置信信号
• 位置