1. RAG技术演进与现状剖析
检索增强生成(Retrieval-Augmented Generation,简称RAG)技术自2020年由Lewis提出以来,已经成为连接大语言模型与外部知识库的重要桥梁。这项技术的核心价值在于:它既保留了LLM强大的语言理解和生成能力,又通过实时检索外部知识弥补了模型本身的知识局限性和幻觉问题。
1.1 基础RAG的工作原理与局限
典型的基础RAG系统包含三个核心组件:
- 知识库:存储结构化的文本块(chunks),通常采用向量数据库实现
- 检索模块:根据用户查询从知识库中找出最相关的文本片段
- 生成模块:基于查询和检索结果生成最终回答
这种架构虽然简单直接,但在实际应用中暴露出四个主要问题:
- 检索质量不稳定:当查询表述与文档措辞差异较大时,传统向量检索可能返回不相关结果
- 查询边界模糊:系统难以判断哪些查询应该由RAG处理,哪些应该直接由LLM回答
- 上下文整合不足:简单的检索结果拼接可能导致生成器忽略关键信息
- 成本效率失衡:固定数量的检索结果可能包含冗余信息,增加不必要的计算开销
实践发现:在金融领域的问答测试中,基础RAG对专业术语查询的准确率仅有62%,远低于人类专家的90%+水平。这主要源于金融术语的多义性和行业特定表达方式。
1.2 增强型RAG的技术突破
为克服上述限制,研究者们开发了增强型RAG架构,通过引入中间处理层显著提升系统性能。关键增强技术包括:
| 技术模块 | 功能描述 | 典型实现方式 | 性能提升 |
|---|---|---|---|
| 查询重写 | 优化原始查询表述 | 使用小型LLM进行查询扩展/改写 | 检索召回率↑15-20% |
| 文档重排序 | 优化检索结果排序 | 交叉编码器(cross-encoder)精排 | 前3结果相关度↑30% |
| 查询路由 | 判断是否使用RAG | 二分类模型/相似度阈值 | 无效查询处理↓50% |
| 动态上下文 | 自适应选择上下文量 | 相关性分数阈值控制 | 生成成本↓40% |
这些模块通常以固定流水线方式组织,每个环节都有明确的功能边界。例如,在医疗问答系统中
