Spring AI集成Qwen模型与Milvus的RAG实践

1. 项目概述：Spring AI 企业级集成方案设计

在当前的AI应用开发浪潮中，如何将大模型能力无缝集成到企业现有技术栈已成为开发者面临的核心挑战。本文基于实际生产经验，详细介绍如何通过Spring AI框架整合硅基流动平台的Qwen系列模型，构建具备RAG（检索增强生成）能力的智能问答系统。不同于简单的Demo实现，本方案特别关注生产环境中遇到的真实问题，包括模型接入规范、向量库优化、系统稳定性保障等关键环节。

技术选型上，我们采用Spring AI 1.1.3作为核心框架，其标准化接口设计能有效降低多模型切换成本。模型服务选用硅基流动平台提供的Qwen3.5-397B-A17B（对话）和Qwen3-Embedding-8B（嵌入）模型，两者均兼容OpenAI API规范。向量数据库采用Milvus 2.5.8，通过自定义实现解决原生集成的字段缺失问题。系统稳定性方面，引入Resilience4j 2.2.0实现熔断、限流和舱壁隔离。

这个方案特别适合以下场景：

• 需要快速接入国产大模型的企业级应用
• 已有Java/Spring技术栈但希望引入AI能力的团队
• 对回答准确性和系统稳定性有较高要求的知识库场景

2. 硅基流动模型接入详解

2.1 基础配置规范

接入硅基流动平台时，URL配置是第一个容易踩坑的点。Spring AI的OpenAI兼容客户端会自动在baseUrl后追加"/v1/chat/completions"路径。如果开发者将baseUrl配置为"https://api.siliconflow.cn/v1"，最终生成的请求URL会变成"https://api.siliconflow.cn/v1/v1/chat/completions"，导致404错误。

正确配置示例：

yaml复制spring:
  ai:
    openai:
      base-url: https://api.siliconflow.cn  # 仅包含协议和主机部分
      api-key: your-api-key-here

关键提示：建议在配置标准化处理环节自动去除URL末尾的"/v1"路径，避免人工配置错误。可以通过Spring的EnvironmentPostProcessor实现这一自动化处理。

2.2 对话模型接入优化

对于Qwen3.5等对话模型，除了基础配置外，需要特别注意思维链(Chain-of-Thought)参数的控制。当使用推理专用模型（category=reasoning）时，必须在请求体中显式设置enable_thinking为false：

java复制ChatOptions options = OpenAiChatOptions.builder()
    .withModel("Qwen/Qwen3.5-397B-A17B")
    .withExtra("enable_thinking", false)  // 关键参数
    .build();

模型分类建议：

• chat：通用对话场景，如客服问答
• reasoning：数学推理、逻辑分析等需要思维链的场景
• vision：多模态处理，如图片理解

2.3 Embedding模型特殊处理

Qwen3-Embedding-8B模型由于计算复杂度较高，需要特别调整超时设置。建议将readTimeout设置为120秒，远高于常规对话模型的10-30秒配置：

java复制@Bean
public OpenAiEmbeddingClient embeddingClient() {
    RestClient.Builder builder = RestClient.builder()
        .requestInterceptor(new OpenAiApiKeyAuthenticationInterceptor(apiKey))
        .baseUrl(baseUrl)
        .requestConfigurer(config -> config
            .setConnectTimeout(Duration.ofSeconds(30))
            .setResponseTimeout(Duration.ofSeconds(120)));  // 重点调整项
    
    return new OpenAiEmbeddingClient(builder.build());
}

Embedding请求体规范：

json复制{
  "model": "Qwen/Qwen3-Embedding-8B",
  "input": ["需要向量化的文本"],
  "encoding_format": "float"
}

3. Milvus向量库深度集成

3.1 自定义VectorStore实现必要性

Spring AI原生提供的Milvus实现存在几个关键缺陷：

1. vector字段类型不匹配导致存储失败
2. 缺乏自动集合创建功能
3. 不支持按业务维度动态隔离数据

我们的解决方案是继承AbstractVectorStore实现自定义逻辑，核心增强点包括：

• 自动检测Embedding维度（通过试调用获取）
• 基于知识库ID(kid)的动态集合命名
• 插入