1. 项目背景与核心价值
最近在技术社区看到不少关于RAG（Retrieval-Augmented Generation）架构的讨论，这种结合检索与生成的技术路线正在改变传统大语言模型的应用方式。作为一个常年混迹AI工程化领域的开发者，我决定用SpringAI这个新兴框架搭配向量数据库，实现一个最小可行案例来验证这套技术栈的实用性。
这个案例的核心价值在于：通过不到200行代码，我们就能搭建一个具备领域知识增强能力的问答系统。相比直接调用通用大语言模型API，RAG架构能有效解决"幻觉回答"和"知识滞后"两大痛点。想象一下，当用户询问你公司内部文档内容时，系统会先检索知识库，再基于准确信息生成回答——这就是我们要实现的效果。
2. 技术栈选型解析
2.1 SpringAI的优势考量
选择SpringAI而非直接调用OpenAI API主要基于三点考虑：
- 标准化抽象：它统一了不同AI供应商的接口规范，今天用OpenAI，明天换Anthropic只需改配置
- Spring生态集成：自动装配、依赖注入等特性让代码更简洁
- 扩展性：后期添加缓存、限流等功能无需改造业务逻辑
实测下来，SpringAI对RAG的支持确实省心。它的VectorStore抽象层让我们可以自由切换不同的向量数据库，而业务代码几乎不用调整。
2.2 向量数据库选型对比
测试了三种主流方案后，我最终选择了ChromaDB：
- PGVector：需要额外安装扩展，适合已有PostgreSQL的场景
- RedisVL：性能优异但内存消耗大
- ChromaDB：轻量级（仅38MB Docker镜像），API友好，支持持久化
bash复制# ChromaDB的Docker部署命令
docker run -p 8000:8000 chromadb/chroma
特别提醒：生产环境建议启用认证，开发时可以先跳过。Chroma的Python客户端有时会报版本兼容问题，建议锁定chromadb==0.4.15。
2.3 RAG架构设计要点
完整的流程包含三个关键环节：
- 文档预处理：PDF/PPT等非结构化数据需要先提取文本
- 向量化检索：使用text-embedding-ada-002模型生成嵌入向量
- 提示词工程：构造包含检索结果的prompt模板
这里最容易踩坑的是分块策略。经过多次测试，对于中文文档：
- 块大小建议400-600字符
- 重叠窗口保留15%
- 一定要按自然段落分割
3. 完整实现步骤
3.1 环境准备
先配置基础依赖（SpringBoot 3.2+）：
xml复制<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-openai-spring-boot-starter</artifactId>
<version>0.8.0</version>
</dependency>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-chroma-spring-boot-starter</artifactId>
<version>0.8.0</version>
</dependency>
application.yml关键配置：
yaml复制spring:
ai:
openai:
api-key: ${OPENAI_KEY}
vectorstore:
chroma:
host: localhost
port: 8000
3.2 文档加载与处理
实现自定义文档加载器：
java复制@Component
public class CustomFileLoader implements DocumentReader {
@Override
public Document load(Resource resource) {
// 实现PDF/Word等格式解析
String content = parseContent(resource);
return new Document(content, Map.of(
"source", resource.getFilename(),
"timestamp", Instant.now()
));
}
}
分块策略配置示例：
java复制@Bean
TextSplitter textSplitter() {
return new TokenTextSplitter()
.setChunkSize(600)
.setChunkOverlap(100);
}
3.3 向量存储与检索
核心操作接口封装：
java复制@Service
public class VectorService {
@Autowired
private VectorStore vectorStore;
public void storeDocuments(List<Document> docs) {
vectorStore.add(docs);
}
public List<Document> search(String query, int topK) {
return vectorStore.similaritySearch(
SearchRequest.query(query).withTopK(topK)
);
}
}
重要提示：ChromaDB默认使用余弦相似度，对于短文本检索可以改用
withFilter()添加元数据过滤
3.4 RAG问答链实现
构造提示词模板：
java复制String template = """
请基于以下上下文回答问题：
{context}
问题：{question}
要求：用中文回答，不超过100字
""";
问答服务核心逻辑：
java复制public String generateAnswer(String question) {
// 1. 检索相关文档
List<Document> docs = vectorService.search(question, 3);
// 2. 构造提示词
String context = docs.stream()
.map(Document::getContent)
.collect(Collectors.joining("\n---\n"));
Prompt prompt = new Prompt(template,
Map.of("context", context, "question", question));
// 3. 调用大模型
return chatClient.call(prompt).getResult().getOutput();
}
4. 性能优化实践
4.1 检索效率提升
通过预过滤缩小搜索范围：
java复制vectorStore.similaritySearch(
SearchRequest.query(query)
.withTopK(5)
.withFilterExpression("metadata['doc_type'] == 'user_manual'")
);
实测发现添加过滤条件后，检索耗时从320ms降至180ms。
4.2 缓存策略
使用Spring Cache缓存频繁查询：
java复制@Cacheable(value = "ragCache", key = "#question.hashCode()")
public String cachedAnswer(String question) {
return generateAnswer(question);
}
建议配合Caffeine实现本地缓存，命中率可达60%以上。
4.3 异步处理
对于批量文档处理：
java复制@Async
public CompletableFuture<Void> asyncStore(List<Document> docs) {
vectorStore.add(docs);
return CompletableFuture.completedFuture(null);
}
记得在启动类添加@EnableAsync注解。
5. 常见问题排查
5.1 向量维度不匹配
错误现象：
code复制org.springframework.ai.vectorstore.VectorStoreException:
Expected embedding dimension 1536 but got 768
解决方案：
- 检查embedding模型是否统一
- 清除旧数据：
vectorStore.delete(docs)
5.2 中文分页异常
典型表现：
- 检索结果包含乱码
- 文本被中间截断
处理方法：
- 使用
StandardTextSplitter替代默认实现 - 添加字符集配置：
java复制new TokenTextSplitter() .setCharset(StandardCharsets.UTF_8)
5.3 时效性问题
当源文档更新时：
- 先删除旧文档：
java复制
vectorStore.delete( docs.stream().map(Document::getId).toList() ); - 重新插入新版本
6. 扩展应用场景
基于这个基础框架，可以扩展出更多实用功能：
智能客服增强
- 对接企业知识库
- 添加对话历史管理
- 支持多轮追问
法律文书辅助
- 上传判例库
- 添加法条引用验证
- 输出格式化报告
教育领域应用
- 教材内容检索
- 自动生成习题
- 错题知识点关联
这个案例最让我惊喜的是SpringAI对复杂AI工程的简化能力。原本需要上千行代码的RAG系统，现在用标准Spring模式就能轻松实现。特别是在处理中文场景时，通过调整分块策略和prompt模板，最终效果完全不输商业方案。