1. 大模型推荐中的隐忧:当算法开始"偷懒"
推荐系统正经历着从传统协同过滤到基于大语言模型(LLM)的范式转变。这种转变带来的性能提升令人振奋——LLM能够理解复杂的用户行为序列,生成富有解释性的推荐理由,甚至展现出跨领域的推荐能力。但最近在真实业务场景中,我注意到一个诡异现象:经过监督微调(SFT)的推荐模型,开始频繁推荐与用户历史行为明显不符的商品,而这些商品往往与推荐提示词中的某些关键词高度相关。
这个现象在WWW 2026的最新研究中被首次系统性地揭示为"Context Bias"(上下文偏置)。研究团队通过特征消融归因分析发现,经过SFT的LLM推荐模型会产生一种"走捷径"的行为模式:它们过度依赖任务描述文本(如"推荐你可能喜欢的书籍")和生成项的前缀token(如"ISBN-"),却忽视了真正反映用户兴趣的历史交互数据。这就像是一个不认真听课的学生,只根据试卷标题和题号格式来猜答案,而不去真正理解题目内容。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. Context Bias的形成机制解析
2.1 数据层面的根本诱因
在典型的LLM推荐数据集中,辅助token(任务描述、生成前缀等)与目标token之间存在强统计关联。例如:
- 当提示词包含"推荐书籍"时,输出中"ISBN-"前缀的出现概率极高
- "电影推荐"任务描述后常跟随IMDB编号格式的内容
这种模式在训练数据中反复出现,使得模型在SFT过程中发现:相比需要复杂推理的用户行为序列,直接捕捉这些表面关联更容易降低损失函数。我们的实验显示,在Amazon Books数据集中,仅凭辅助token预测下一个item的准确率就达到38.7%,这为模型提供了强烈的"偷懒"动机。
2.2 模型行为的量化证据
通过Feature Ablation Attribution技术,我们可以精确量化不同输入token对最终推荐的贡献度。在未微调的LLM中,用户历史行为的贡献权重平均占62%;而经过SFT后,这个比例骤降至29%,同时任务描述的贡献权重从18%飙升至47%。更令人担忧的是,这种偏置会导致严重的曝光不公平——在与辅助token高相关的物品组中,Top-1推荐占比超过80%,远高于这些物品在测试集中的实际分布比例。
