1. 项目背景与问题定位
去年在构建一个金融领域的智能问答系统时,我们遇到了典型的RAG(检索增强生成)瓶颈——当用户查询涉及多跳推理或需要综合多个文档片段时,系统给出的回答总是不完整。经过压力测试,在200个复杂问题的测试集上,基线模型的召回率仅有42%。这意味着超过一半的关键信息未被有效利用,直接导致生成的回答质量低下。
这个问题本质上源于传统RAG流程的两个缺陷:首先,固定长度的上下文窗口会强制截断相关文档;其次,简单的余弦相似度检索无法处理语义关联但词汇差异大的内容。比如用户问"美联储加息对科技股的影响",系统可能只检索到"加息政策"或"科技股财报"的孤立片段,却漏掉了关键的市场分析报告。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 技术方案设计思路
2.1 上下文扩展策略
我们采用动态上下文扩展(Dynamic Context Expansion)来解决信息碎片化问题。具体实现包含三级处理:
-
初始检索层:使用HyDE(假设性文档嵌入)技术,先让LLM生成假设回答,再以其为查询向量检索。这解决了"词汇不匹配"问题,使初始召回率提升18%。
-
邻居扩展层:对Top-K检索结果构建知识图谱,通过以下方式扩展:
- 实体关联:识别文档中的公司/人物/事件,链接到知识库中的相关实体
- 时序关联:对金融新闻按时间线构建事件链
- 使用Sentence-BERT计算段落间语义相似度
-
动态过滤层:通过轻量级分类器评估扩展内容的:
- 时效性(金融领域特别重要)
- 与原始查询的语义连贯性
- 信息密度(剔除模板化文本)
2.2 二次重排机制
传统BM25/DPR排序常把关键信息排到第3-5位,而LLM的上下文窗口通常只关注前几位。我们的解决方案是:
python复制def rerank(documents, query):
# 第一轮:基于语义相似度的粗排
initial_rank = cross_encoder.predict(query, documents)
# 第二轮:基于信息互补性的精排
diversity_scores = []
selected = [initial_rank[0]]
for doc in i
