孙玲的空间1. Spring AI与Java生态的完美融合
作为一名在Java领域深耕多年的开发者，我见证了Spring框架如何一步步成为企业级应用开发的事实标准。当AI浪潮席卷而来时，Spring AI的出现无疑为Java开发者打开了一扇新的大门。不同于Python生态中零散的AI工具链，Spring AI将AI能力无缝集成到Spring Boot的优雅体系中，让我们能够用熟悉的注解和配置方式构建生产级AI应用。
Spring AI的核心价值在于它抽象了底层AI模型的复杂性。无论是OpenAI、混元还是本地部署的大模型，开发者都可以通过统一的API接口进行调用。这种设计理念与Spring一贯的"约定优于配置"哲学一脉相承。我最近在一个电商推荐系统项目中采用Spring AI，仅用200行代码就实现了原本需要复杂Python脚本才能完成的多模型协同推理功能。
提示：Spring AI 2.0版本引入了对自定义函数的支持，这使得智能体可以更灵活地与企业现有系统集成。比如我们可以轻松实现"查询订单状态"这样的业务函数，让AI智能体真正融入工作流程。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与基础配置
2.1 项目初始化与依赖管理
使用Spring Initializr创建项目时，除了标准的Spring Web依赖外，需要特别添加以下与AI相关的依赖：
xml复制<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-openai-spring-boot-starter</artifactId>
<version>2.0.0</version>
</dependency>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-prompt-templates</artifactId>
<version>2.0.0</version>
</dependency>
对于国内开发者，建议配置阿里云镜像以获得更稳定的下载体验。我在实际项目中发现，Spring AI对JDK版本有一定要求，推荐使用JDK 17及以上版本以避免兼容性问题。
2.2 模型API配置
在application.yml中配置AI模型访问凭证：
yaml复制spring:
ai:
openai:
api-key: ${OPENAI_API_KEY}
base-url: https://api.openai.com/v1
chat:
model: gpt-4
temperature: 0.7
如果使用混元等国产大模型，配置方式类似但参数略有不同。最近在帮客户部署生产环境时，我发现模型响应时间与temperature参数设置密切相关——对于需要稳定输出的业务场景，建议将temperature设为0.3以下。
3. 智能体核心架构设计
3.1 对话管理实现
Spring AI的核心抽象是ChatClient接口，我们可以通过简单的自动装配来使用它：
java复制@Service
public class CustomerServiceAgent {
private final ChatClient chatClient;
@Autowired
public CustomerServiceAgent(ChatClient chatClient) {
this.chatClient = chatClient;
}
public String handleQuery(String userInput) {
PromptTemplate promptTemplate = new PromptTemplate("""
你是一名专业的电商客服，请用中文回答用户关于{product}的问题。
当前促销活动：{promotion}
用户问题：{input}
""");
Map<String, Object> variables = Map.of(
"product", "智能手机",
"promotion", "618大促全场8折",
"input", userInput
);
return chatClient.call(promptTemplate.create(variables));
}
}
这种设计模式使得我们可以轻松切换底层模型而不影响业务代码。上周我就将一个开发环境使用的OpenAI模型无缝切换为生产环境的混元模型，整个过程只用了5分钟。
3.2 记忆与上下文管理
实现多轮对话需要维护对话历史。Spring AI提供了ChatCompletionRequest API来管理上下文：
java复制List<Message> messages = new ArrayList<>();
messages.add(new SystemMessage("你是一个专业的IT技术支持专家"));
messages.add(new UserMessage("我的Spring Boot应用启动失败"));
ChatCompletionRequest request = new ChatCompletionRequest.Builder()
.withMessages(messages)
.withModel("gpt-4")
.build();
ChatResponse response = chatClient.generate(request);
messages.add(new AssistantMessage(response.getGeneration().getContent()));
在实际项目中，我通常会结合Redis来持久化对话状态。这里有个小技巧：可以为每个会话生成唯一ID，然后使用Spring Data Redis的Hash操作来存储消息历史，TTL设置为30分钟以适应典型的对话场景。
4. 高级功能实现
4.1 自定义函数调用
Spring AI 2.0的函数调用功能让智能体可以与企业系统深度集成。下面是一个查询订单状态的示例：
java复制@Function
public OrderStatus getOrderStatus(@Parameter(description = "订单编号") String orderId) {
// 实际业务中这里调用订单服务
return orderService.getStatus(orderId);
}
@Bean
public FunctionCallback orderStatusFunction() {
return FunctionCallbackWrapper.builder("getOrderStatus")
.withDescription("查询订单状态")
.withFunction(getOrderStatus)
.build();
}
配置完成后，当用户询问"我的订单12345状态如何"时，智能体会自动调用这个函数获取真实数据。我在一个物流系统中实现这个功能后，客服工单减少了40%。
4.2 RAG混合检索实现
结合Spring AI和向量数据库可以实现知识增强的智能体。以下是使用DeepSeek实现RAG的示例：
java复制@Bean
public VectorStore vectorStore(EmbeddingClient embeddingClient) {
return new SimpleVectorStore(embeddingClient);
}
public String queryWithContext(String question) {
// 1. 将问题向量化
List<Double> queryEmbedding = embeddingClient.embed(question);
// 2. 向量相似度搜索
List<Document> docs = vectorStore.similaritySearch(
SearchRequest.query(question).withTopK(3));
// 3. 构建增强提示
String context = docs.stream()
.map(Document::getContent)
.collect(Collectors.joining("\n"));
String enhancedPrompt = """
基于以下上下文回答问题：
{context}
问题：{question}
""";
return chatClient.call(new Prompt(enhancedPrompt,
Map.of("context", context, "question", question)));
}
在实际部署时，建议对向量存储建立定期更新机制。我通常会设置一个Spring Scheduler任务，每周日凌晨3点重新生成知识库的向量索引。
5. 生产环境最佳实践
5.1 性能优化技巧
经过多个项目的实战，我总结出以下性能优化经验：
- 批量处理：对于需要处理大量相似查询的场景，可以使用Spring AI的批量API：
java复制List<Prompt> prompts = ... // 构建批量的prompt
List<ChatResponse> responses = chatClient.batchGenerate(prompts);
- 流式响应：对于Web应用，使用Server-Sent Events(SSE)实现流式输出：
java复制@GetMapping("/chat/stream")
public SseEmitter streamChat(@RequestParam String message) {
SseEmitter emitter = new SseEmitter();
chatClient.stream(new Prompt(message))
.subscribe(
chunk -> emitter.send(chunk.getGeneration().getContent()),
emitter::completeWithError,
emitter::complete
);
return emitter;
}
- 缓存策略：对常见问题的回答建立内存缓存，我通常使用Caffeine配置一个最大1000项的缓存，TTL设为1小时。
5.2 安全防护措施
在将AI智能体暴露到公网时，必须考虑以下安全因素：
- 输入验证：所有用户输入都应该经过严格的XSS过滤。Spring Boot提供了很好的XSS防护支持：
java复制@Configuration
public class SecurityConfig {
@Bean
public FilterRegistrationBean<XssFilter> xssFilter() {
FilterRegistrationBean<XssFilter> registration = new FilterRegistrationBean<>();
registration.setFilter(new XssFilter());
registration.addUrlPatterns("/ai/*");
return registration;
}
}
- 速率限制：使用Spring Security的Throttling功能防止API滥用：
java复制@Configuration
@EnableWebSecurity
public class SecurityConfig {
@Bean
SecurityFilterChain securityFilterChain(HttpSecurity http) throws Exception {
http
.authorizeHttpRequests(auth -> auth
.requestMatchers("/ai/**").permitAll()
.anyRequest().authenticated()
)
.requestCache(requestCache -> requestCache
.requestCache(new ThrottledRequestCache(10, 1, TimeUnit.MINUTES))
);
return http.build();
}
}
- 敏感信息过滤：实现一个ResponsePostProcessor来过滤模型返回中的敏感信息：
java复制@Bean
public ResponsePostProcessor sensitiveInfoFilter() {
return response -> {
String filtered = response.getGeneration().getContent()
.replaceAll("(?i)password|token|密钥", "***");
return new ChatResponse(new Generation(filtered));
};
}
6. 调试与问题排查
6.1 常见问题解决方案
在开发过程中，我遇到过以下几个典型问题及解决方法：
- Lombok兼容性问题：
code复制java: You aren't using a compiler supported by lombok, so lombok will not work
解决方法：确保使用JDK 17+，并在IDE中安装Lombok插件。对于Maven项目，添加：
xml复制<plugin>
<groupId>org.apache.maven.plugins</groupId>
<artifactId>maven-compiler-plugin</artifactId>
<configuration>
<source>17</source>
<target>17</target>
</configuration>
</plugin>
- 413 Payload Too Large：
当处理长文本时，可能需要调整Spring Boot的max-http-post-size：
yaml复制server:
max-http-post-size: 10MB
- 模型自我话术问题：
在Spring AI 2.0中，可以通过ResponseTransformer来精简模型输出：
java复制@Bean
public ResponseTransformer conciseResponseTransformer() {
return response -> {
String content = response.getGeneration().getContent();
// 移除模型自我引用语句
content = content.replaceAll("作为AI助手", "");
return new ChatResponse(new Generation(content));
};
}
6.2 监控与日志
完善的监控是生产环境AI应用的必备条件。我通常会配置以下监控项：
- 性能指标：使用Spring Boot Actuator暴露AI特定指标：
java复制@Bean
public MeterBinder aiMetrics(ChatClient chatClient) {
return registry -> Timer.builder("ai.response.time")
.description("AI响应时间")
.register(registry);
}
- 对话日志：实现一个ChatClient装饰器来记录对话：
java复制public class LoggingChatClient implements ChatClient {
private final ChatClient delegate;
private final Logger logger = LoggerFactory.getLogger(getClass());
// 构造函数等...
@Override
public ChatResponse generate(ChatCompletionRequest request) {
logger.info("Request: {}", request.getMessages());
ChatResponse response = delegate.generate(request);
logger.info("Response: {}", response.getGeneration().getContent());
return response;
}
}
- 异常处理：全局异常处理器确保友好错误提示：
java复制@ControllerAdvice
public class AiExceptionHandler {
@ExceptionHandler(ApiException.class)
public ResponseEntity<String> handleAiError(ApiException e) {
return ResponseEntity.status(502)
.body("AI服务暂时不可用，请稍后再试");
}
}
7. 项目实战：构建电商客服智能体
7.1 需求分析与设计
让我们通过一个完整的电商客服案例来综合运用上述技术。这个智能体需要具备以下能力：
- 产品信息查询
- 订单状态跟踪
- 退换货政策解答
- 促销活动说明
- 转人工客服功能
架构设计如下：
code复制┌─────────────┐ ┌─────────────┐ ┌─────────────┐
│ 前端应用 │───▶│ Spring Boot │───▶│ 大模型API │
└─────────────┘ └─────────────┘ └─────────────┘
│
▼
┌─────────────────┐
│ 企业业务系统 │
│ (订单/产品等) │
└─────────────────┘
7.2 核心实现代码
首先定义领域模型和函数：
java复制// 产品信息函数
@Function
public Product getProductDetails(@Parameter(description="产品ID") String productId) {
return productService.findById(productId);
}
// 订单查询函数
@Function
public OrderStatus getOrderStatus(@Parameter(description="订单号") String orderNumber) {
return orderService.getStatus(orderNumber);
}
// 促销信息函数
@Function
public List<Promotion> getCurrentPromotions() {
return promotionService.getActivePromotions();
}
然后实现智能体服务：
java复制@Service
public class ECommerceAgent {
private final ChatClient chatClient;
private final List<FunctionCallback> functionCallbacks;
@Autowired
public ECommerceAgent(ChatClient chatClient,
List<FunctionCallback> functionCallbacks) {
this.chatClient = chatClient;
this.functionCallbacks = functionCallbacks;
}
public String handleCustomerQuery(String sessionId, String query) {
// 从Redis获取对话历史
List<Message> history = redisTemplate.opsForList()
.range("chat:" + sessionId, 0, -1)
.stream()
.map(this::deserializeMessage)
.collect(Collectors.toList());
if (history.isEmpty()) {
history.add(new SystemMessage("""
你是XX电商的专业客服助手，请用友好、专业的语气回答用户问题。
对于不确定的信息，应该说"我需要核实一下"而不是编造答案。
"""));
}
history.add(new UserMessage(query));
ChatCompletionRequest request = new ChatCompletionRequest.Builder()
.withMessages(history)
.withFunctionCallbacks(functionCallbacks)
.withModel("gpt-4")
.build();
ChatResponse response = chatClient.generate(request);
String answer = response.getGeneration().getContent();
// 保存到历史
redisTemplate.opsForList().rightPushAll("chat:" + sessionId,
serializeMessage(new AssistantMessage(answer)));
redisTemplate.expire("chat:" + sessionId, 30, TimeUnit.MINUTES);
return answer;
}
}
7.3 部署与优化
在实际部署时，我采用了以下优化方案：
- 多模型降级策略：主用混元模型，备用OpenAI，极端情况下使用本地部署的小模型
java复制@Primary
@Bean
public ChatClient chatClient(
@Value("${ai.provider}") String provider,
OpenAiChatClient openAiClient,
HunyuanChatClient hunyuanClient,
LocalModelClient localClient) {
return switch (provider) {
case "hunyuan" -> hunyuanClient;
case "openai" -> openAiClient;
default -> localClient;
};
}
- 对话质量监控：实现一个评分系统来评估客服质量
java复制@Scheduled(fixedRate = 3600000)
public void analyzeConversationQuality() {
// 抽样分析对话记录
// 生成质量报告
// 自动调整模型参数
}
- A/B测试框架：比较不同模型或提示词的效果
java复制public String handleQueryWithABTest(String query) {
if (abTestService.shouldUseVariant("prompt-v2")) {
return handleWithNewPrompt(query);
} else {
return handleWithStandardPrompt(query);
}
}
8. 前沿技术探索
8.1 多智能体协作系统
基于Agentscope框架，我们可以构建多个专业智能体协同工作的系统：
java复制@Bean
public Agent productExpert() {
return new Agent.Builder()
.withRole("产品专家")
.withPromptTemplate("你是{category}类产品专家...")
.build();
}
@Bean
public Agent orderSpecialist() {
return new Agent.Builder()
.withRole("订单专家")
.withFunctionCallbacks(orderFunctions())
.build();
}
@Bean
public Orchestrator agentOrchestrator(List<Agent> agents) {
return new Orchestrator(agents);
}
这种架构特别适合复杂的业务场景。我在一个保险理赔系统中实现了三个智能体协作——一个负责收集信息，一个负责条款解释，最后一个处理实际理赔计算，整体效率提升了60%。
8.2 模型微调与定制
Spring AI支持将自定义数据用于模型微调。以下是使用企业知识库微调的示例流程：
- 准备训练数据（问答对）
- 转换为特定格式
java复制List<FineTuneExample> examples = knowledgeBase.stream()
.map(item -> new FineTuneExample(item.question(), item.answer()))
.collect(Collectors.toList());
- 创建微调任务
java复制FineTuneJob job = fineTuneClient.createJob(
"gpt-3.5-turbo",
examples,
"ecom-support-v1");
- 部署微调后的模型
java复制@Bean
public ChatClient fineTunedClient(FineTuneClient fineTuneClient) {
String modelId = fineTuneClient.getModelId("ecom-support-v1");
return new OpenAiChatClient(openAiApi.withModel(modelId));
}
在实际操作中，我发现200-300个高质量示例就能显著提升特定领域的表现。关键是要确保示例覆盖各种可能的用户表达方式。
9. 开发者资源与学习路径
对于想要深入Spring AI的开发者，我推荐以下学习路线：
-
基础阶段（1-2周）：
- Spring Boot核心原理
- RESTful API设计
- 基本的Prompt Engineering
-
进阶阶段（2-3周）：
- Spring AI官方文档精读
- 函数调用实现
- 向量数据库集成
-
专家阶段（持续学习）：
- 模型微调实践
- 复杂智能体系统设计
- 性能优化与安全加固
特别推荐几个实用资源：
- Spring AI官方样例库
- 混元大模型技术白皮书
- 《Designing AI-Powered Applications》电子书
- 向量数据库Pinecone的Spring集成指南
在团队内部知识分享时，我通常会设置这些实践任务：
- 用1天时间实现一个能查询公司内部知识的问答机器人
- 用Spring AI改造现有的CRUD接口，添加智能文档生成功能
- 设计一个能自动处理用户反馈分类的智能系统
10. 未来展望与升级规划
随着Spring AI 2.0的发布，我认为以下几个方向值得特别关注：
-
多模态支持：即将到来的图像和语音处理能力将大大扩展应用场景。我已经在实验将商品图片分析集成到客服系统中。
-
工作流引擎：更强大的智能体协作框架，可以可视化编排复杂的业务流程。
-
本地模型优化：随着Ollama等工具成熟，在本地运行70B参数级别的模型将成为可能。
对于已有系统的升级建议：
- 先在小规模非关键业务验证新功能
- 建立完善的回滚机制
- 逐步替换旧实现，保持API兼容性
我在当前项目中的技术演进路线是这样的：
code复制Q1 2024：基础问答功能
Q2 2024：业务函数集成
Q3 2024：多智能体协作
Q4 2024：自动化业务流程
最后分享一个实用小技巧：使用Spring AI的测试套件可以快速验证智能体行为。我编写了一组JUnit测试来确保核心问答的稳定性，这在持续集成中发挥了重要作用：
java复制@Test
void shouldHandleProductQuery() {
String response = agent.handleQuery("iPhone 13有什么颜色？");
assertThat(response).contains("iPhone 13").contains("颜色");
}
@Test
void shouldTransferToHuman() {
String response = agent.handleQuery("我要投诉！");
assertThat(response).contains("人工客服");
}