1. 理解RAG检索的双阶段过滤机制
在检索增强生成(RAG)系统中,"TOP-K是撒网,Rerank是收网"这个比喻形象地揭示了检索过程的两阶段特性。就像渔民捕鱼先大面积撒网再精选收获一样,RAG系统首先通过TOP-K策略广泛捕获潜在相关文档,再通过Rerank模型对这些候选文档进行精细排序。
这种双重过滤机制源于信息检索领域的一个基本矛盾:召回率(Recall)与精确率(Precision)之间的权衡。第一阶段(TOP-K)追求尽可能不遗漏任何可能相关的文档(高召回率),第二阶段(Rerank)则致力于从这些候选文档中找出真正最相关的少数几个(高精确率)。
实际工程经验表明,两阶段方案相比单一检索策略通常能获得3-5倍的最终效果提升,特别是在处理专业领域知识库时差异更为明显。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. TOP-K阶段:广撒网的检索策略
2.1 TOP-K的核心作用与实现方式
TOP-K阶段通常采用经典的检索算法,如:
- BM25:基于词频和逆文档频率的统计模型
- 稠密向量检索:如使用BERT等模型生成的embedding进行相似度计算
- 混合检索:结合关键词和向量检索的优势
这些算法的共同特点是计算效率高,能在毫秒级别从海量文档中快速筛选出前K个最相关的候选。这里的K值是个关键参数,一般经验值为50-200,具体取决于:
- 文档库规模(百万级取较小值,十亿级取较大值)
- 后续rerank模型的计算成本
- 业务对延迟的敏感度
python复制# 典型的向量检索实现示例
from sentence_transformers import SentenceTransformer
from sklearn.metrics.pairwise import cosine_similarity
model = SentenceTransformer('paraphrase-MiniLM-L6-v2')
query_embedding = model.encode("如何申请专利")
doc_embeddings = model.encode(documents) # 预计算的文档向量
scores = cosine_similarity([query_embedding], doc_embeddings)[0]
top_k_indic
