1. 项目概述：当Spring Boot遇上AI能力
最近在技术社区看到不少同行在讨论如何快速为Spring Boot应用集成AI能力。恰好上个月我刚完成一个企业内部知识库的智能问答模块，用的正是Spring Boot+Spring AI这套组合。实测下来，这套方案最大的优势在于能用熟悉的Spring生态工具链快速实现AI功能集成，完全不需要从零搭建机器学习环境。
Spring AI这个项目可能有些同学还不太熟悉。它本质上是Spring官方提供的一套AI应用开发框架，把主流的AI模型（比如OpenAI、Azure OpenAI、Huggingface等）封装成了Spring风格的API。就像我们平时用Spring Data操作数据库那样，现在可以用类似的编程模型调用AI服务。举个例子，要实现一个智能客服回复功能，传统方式可能需要处理HTTP请求、JSON解析、异步回调等一堆样板代码，而用Spring AI只需要像这样：
java复制@RestController
public class ChatController {
@Autowired
private ChatClient chatClient;
@PostMapping("/ask")
public String ask(@RequestBody String question) {
return chatClient.call(question);
}
}
是不是和写普通Spring Boot应用几乎没区别？这就是Spring AI设计的精妙之处——让AI能力的使用门槛降低到和日常业务开发相同的水平。
2. 环境准备与项目搭建
2.1 基础环境配置
我推荐使用Java 17+和Spring Boot 3.2.x这个组合。最近在帮客户排查一个语音识别的问题时发现，Spring AI的某些音频处理特性在Java 11上会有性能损耗。开发工具方面，IntelliJ IDEA对Spring AI的支持最完善，它的代码提示能直接显示AI模型的可调参数。
用Spring Initializr创建项目时，除了基础的Web依赖，需要特别添加这两个依赖：
xml复制<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-openai-spring-boot-starter</artifactId>
</dependency>
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>
注意：截至2024年1月，Spring AI还处在快速迭代阶段，建议在pom.xml中明确指定版本号，避免自动升级导致兼容性问题。我当前稳定使用的版本是0.8.1。
2.2 API密钥配置
无论是使用OpenAI还是Azure的服务，都需要在application.properties中配置认证信息。这里有个安全实践建议：千万不要把密钥直接写在配置文件里！我通常采用这两种方式：
- 开发环境使用环境变量：
properties复制spring.ai.openai.api-key=${OPENAI_API_KEY}
- 生产环境配合Vault使用：
java复制@Configuration
public class AIConfig {
@Value("${vault.path.openai-key}")
private String vaultPath;
@Bean
public OpenAiApi openAiApi(VaultTemplate vault) {
String apiKey = vault.read(vaultPath).getData().get("value");
return new OpenAiApi(apiKey);
}
}
3. 核心功能快速实现
3.1 文本生成实战
先来看最简单的文本生成。Spring AI提供了两种编程风格：
声明式风格（推荐）
java复制@RestController
public class BlogController {
@Autowired
private AiClient aiClient;
@GetMapping("/generate")
public String generateBlog(String topic) {
String prompt = "用中文写一篇关于" + topic + "的技术博客，500字左右";
return aiClient.generate(prompt);
}
}
流式响应（适合长文本）
java复制@GetMapping(value = "/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
public Flux<String> streamGenerate(String topic) {
Prompt prompt = new Prompt("用中文总结" + topic + "的核心概念");
return aiClient.stream(prompt)
.map(Generation::getText);
}
在实际项目中，我发现流式响应特别适合用在以下场景：
- 前端需要实时显示生成过程
- 处理超长文本时避免内存溢出
- 需要实现"停止生成"功能时
3.2 对话记忆管理
实现多轮对话时，上下文管理是关键。Spring AI提供了两种记忆策略：
java复制// 方案1：基于窗口的记忆（适合短对话）
MessageWindowChatMemory chatMemory = new MessageWindowChatMemory(10);
// 方案2：基于向量的记忆（适合知识库场景）
VectorStoreChatMemory chatMemory = new VectorStoreChatMemory(
new SimpleVectorStore(), 5);
在电商客服系统中，我采用了混合策略：前5轮对话用窗口记忆保证响应速度，超过5轮后自动切换到向量记忆进行语义搜索。核心代码如下：
java复制public String chat(String userId, String message) {
ChatMemory memory = getMemory(userId);
memory.add(new UserMessage(message));
Prompt prompt = new Prompt(memory.getMessages());
AiResponse response = chatClient.call(prompt);
memory.add(new AssistantMessage(response.getGeneration().getText()));
return response.getGeneration().getText();
}
4. 高级功能与性能优化
4.1 自定义提示模板
直接拼接prompt字符串很容易出问题。Spring AI的PromptTemplate能解决这个问题：
java复制PromptTemplate template = new PromptTemplate("""
你是一位专业的{role}，请用{style}风格回答以下问题：
问题：{question}
""");
Map<String, Object> params = Map.of(
"role", "Java架构师",
"style", "幽默风趣",
"question", "如何设计高并发系统"
);
Prompt prompt = template.create(params);
我在项目中把这个功能扩展成了动态模板加载器，可以从数据库读取不同场景的模板：
java复制public Prompt buildPrompt(String templateId, Map<String,Object> params) {
String template = templateRepository.findById(templateId)
.orElseThrow().getContent();
return new PromptTemplate(template).create(params);
}
4.2 模型参数调优
不同的业务场景需要调整不同的模型参数。以下是我的经验值参考：
| 场景 | temperature | maxTokens | topP |
|---|---|---|---|
| 技术文档生成 | 0.2 | 2000 | 0.9 |
| 创意文案 | 0.7 | 500 | 0.95 |
| 数据提取 | 0.1 | 300 | 0.8 |
| 多语言翻译 | 0.3 | 1000 | 0.85 |
这些参数可以通过ChatOptions配置：
java复制OpenAiChatOptions options = OpenAiChatOptions.builder()
.withTemperature(0.3)
.withMaxTokens(1000)
.withTopP(0.9)
.build();
Prompt prompt = new Prompt(input, options);
5. 生产环境注意事项
5.1 限流与降级策略
直接调用AI服务必须考虑API限流。我的方案是：
- 应用层限流：
java复制@Bean
public RateLimiter openAiRateLimiter() {
return RateLimiter.create(50); // 每秒50次调用
}
@GetMapping("/ask")
public String askQuestion(String q) {
if(!rateLimiter.tryAcquire()) {
return "系统繁忙，请稍后再试";
}
// ...调用AI服务
}
- 降级策略配置：
yaml复制spring:
ai:
openai:
retry:
max-attempts: 3
initial-interval: 1s
max-interval: 5s
5.2 监控与日志
建议增加这些监控指标：
- 调用延迟（P50/P95/P99）
- 令牌使用量（输入/输出）
- 错误类型统计（限流/超时/内容过滤）
一个简单的AOP实现示例：
java复制@Aspect
@Component
@RequiredArgsConstructor
public class AiMonitoringAspect {
private final MeterRegistry registry;
@Around("execution(* org.springframework.ai..*(..))")
public Object monitor(ProceedingJoinPoint pjp) throws Throwable {
Timer.Sample sample = Timer.start(registry);
try {
Object result = pjp.proceed();
sample.stop(registry.timer("ai.call", "success", "true"));
return result;
} catch (Exception e) {
sample.stop(registry.timer("ai.call", "success", "false"));
throw e;
}
}
}
6. 踩坑经验分享
-
中文处理问题：早期版本对中文支持不完善，需要显式指定：
java复制OpenAiChatOptions options = OpenAiChatOptions.builder() .withModel("gpt-3.5-turbo-1106") .withResponseFormat(new JsonSchema("text")) .build(); -
超时设置：默认15秒超时对于长文本生成不够，建议调整：
yaml复制spring: ai: openai: client: connect-timeout: 30s read-timeout: 60s -
依赖冲突：如果遇到Jackson版本冲突，可以这样解决：
xml复制<dependency> <groupId>org.springframework.ai</groupId> <artifactId>spring-ai-openai</artifactId> <exclusions> <exclusion> <groupId>com.fasterxml.jackson.core</groupId> <artifactId>jackson-databind</artifactId> </exclusion> </exclusions> </dependency> -
本地缓存策略：频繁调用相同prompt时，可以添加本地缓存：
java复制@Cacheable(value = "aiResponses", key = "#prompt") public String getCachedResponse(String prompt) { return aiClient.generate(prompt); }
这套技术栈我已经在三个生产项目中使用过，最大的感受是它真正实现了AI能力的"平民化"。以前需要专门算法团队支持的功能，现在后端开发用熟悉的Spring模式就能搞定。不过要注意，Spring AI目前还在快速发展中，建议持续关注官方博客的更新公告。