金融知识库RAG技术实践：Spring AI与Qdrant的混合架构

1. 项目背景与核心价值

去年在帮某金融机构做知识库升级时，我第一次接触到RAG（Retrieval-Augmented Generation）技术栈。传统问答系统要么依赖固定规则匹配（准确率低），要么纯靠大语言模型胡编乱造（幻觉问题严重）。而RAG通过"检索+生成"的混合架构，既能保证答案的专业性，又能保持自然语言交互的灵活性。

这次分享的这套方案，基于Spring AI框架整合了Alibaba Cloud的ReactAgent和Qdrant向量数据库，最终实现了：

• 平均响应时间<800ms（金融领域知识库实测）
• 准确率比纯LLM方案提升62%
• 支持多轮对话和上下文记忆
• 企业级权限管控和审计日志

2. 技术架构解析

2.1 整体设计思路

（注：实际部署时应替换为自建图床）

核心采用"双引擎"设计：

1. 检索引擎：Qdrant处理向量相似度搜索
2. 生成引擎：Spring AI协调大模型生成

关键创新点在于：

• 用ReactAgent实现动态路由，自动选择最优处理路径
• 混合检索策略结合了：
  • 稠密向量检索（Qdrant）
  • 稀疏向量检索（BM25）
  • 元数据过滤（业务标签）

2.2 组件选型对比

特别提醒：Qdrant的集群模式需要额外配置replication_factor参数，单机测试环境建议设为1

3. 核心实现细节

3.1 知识库预处理流水线

java复制// 文档切分策略示例
DocumentSplitter splitter = new TokenTextSplitter()
    .setChunkSize(512)
    .setChunkOverlap(50)
    .setTokenizer(new HanLPTokenizer());

关键参数说明：

• chunkSize=512：平衡检索精度和计算开销
• overlap=50：避免跨段落语义断裂
• 采用语义分片而非机械分页

3.2 混合检索实现

python复制# 混合检索算法伪代码
def hybrid_search(query):
    # 向量检索
    vector_results = qdrant.search(
        embedding=model.encode(query),
        top_k=5
    )
    
    # 关键词检索
    keyword_results = bm25.search(
        query=query,
        limit=3
    )
    
    # 结果融合
    return fusion_algorithm(
        vector_results,
        keyword_results,
        weights=[0.7, 0.3]  # 可调参数
    )

3.3 响应生成优化

通过Prompt Engineering控制生成质量：

text复制你是一个专业的金融知识助手，请根据以下上下文回答问题：
{context}

要求：
1. 如果答案不在上下文中，必须回答"根据现有资料无法确定"
2. 涉及金额的数据必须标注数据来源
3. 使用中文回答，保持专业但易懂

问题：{question}

4. 性能调优实战

4.1 索引优化

Qdrant的HNSW参数配置：

yaml复制optimizers:
  indexing_threshold: 20000
  memmap_threshold: 50000

hnsw:
  m: 16
  ef_construct: 200
  payload_indexing: true

实测效果对比：

4.2 缓存策略

采用两级缓存架构：

1. 本地缓存：Caffeine存储高频问答对

   java复制Caffeine.newBuilder()
       .maximumSize(10_000)
       .expireAfterWrite(5, TimeUnit.MINUTES)
       .build();
   

2. Redis缓存：存储embedding计算结果
   • 使用Protobuf序列化减少体积
   • 设置TTL=24小时

5. 踩坑记录与解决方案

5.1 中文分词的坑

问题现象：

• 专业术语被错误切分（如"沪深300"→"沪/深/300"）
• 导致embedding质量下降

解决方案：

1. 自定义词典加载：

   python复制from pyhanlp import *
   CustomDictionary.add("沪深300")
   

2. 采用细粒度分词模式：

   java复制new HanLPTokenizer().enableFineGrainMode();
   

5.2 向量维度灾难

问题发现：
当文档超过10万份时，检索准确率下降37%

根本原因：

• 默认768维向量空间过于稀疏
• 语义相似度计算失真

优化方案：

1. 降维处理：

   python复制from sklearn.decomposition import PCA
   pca = PCA(n_components=256)
   

2. 改用sentence-transformers的paraphrase-multilingual-MiniLM模型

6. 企业级功能扩展

6.1 权限控制设计

java复制// 基于Spring Security的注解式控制
@PreAuthorize("hasPermission(#docId, 'READ')")
public Document getDocument(String docId) {
    //...
}

权限维度包括：

• 部门隔离（数据沙箱）
• 文档级ACL
• 操作审计日志

6.2 监控指标埋点

关键监控项：

1. 性能指标：
   • P99延迟
   • 每秒查询量(QPS)
2. 质量指标：
   • 点击反馈率
   • 人工复核通过率
3. 业务指标：
   • 高频问题TOP10
   • 未知问题增长率

使用Micrometer对接Prometheus：

java复制Metrics.counter("rag.query.count").increment();

7. 部署架构建议

生产环境推荐配置：

• Qdrant集群：3节点（8核16G内存）
• Spring应用：2个Pod（4核8G内存）
• GPU节点：NVIDIA T4（仅推理用）

流量分配策略：

mermaid复制graph TD
    A[负载均衡] --> B[Spring Pod1]
    A --> C[Spring Pod2]
    B --> D[Qdrant集群]
    C --> D

重要提示：Qdrant的write性能受CPU核心数影响显著，建议配置CPU绑核

这套系统在金融合规场景下已稳定运行9个月，日均处理查询23万次。最让我意外的收获是：通过分析用户的"未知问题"日志，反向推动了知识库的持续完善，形成了数据飞轮效应。最近正在尝试将ReactAgent的决策过程可视化，这对审计场景会很有价值。