1. 项目概述:Spring AI与通义千问的强强联合
去年第一次接触Spring AI框架时,我就被其简化AI应用开发的理念所吸引。而Alibaba开源的70亿参数大模型通义千问(Qwen-7B),在中文场景下的表现尤其亮眼。将两者结合,可以快速构建企业级AI应用。今天要分享的,正是基于Spring AI Alibaba生态搭建通义千问开发环境的完整实践。
这个方案特别适合以下场景:
- 需要快速验证AI能力的PoC项目
- 企业内网环境下的私有化部署
- 对中文理解要求较高的智能客服/文档分析场景
提示:通义千问3.0版本已支持8K上下文长度,在处理长文本时优势明显
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 环境准备与依赖配置
2.1 基础环境要求
我的测试环境采用:
- JDK 17(必须≥17)
- Spring Boot 3.2.4
- Maven 3.9.6
- Docker 24.0.7(用于模型服务容器化)
xml复制<!-- pom.xml关键依赖 -->
<dependency>
<groupId>com.alibaba.cloud</groupId>
<artifactId>spring-cloud-starter-alibaba-ai</artifactId>
<version>2023.0.1.0</version>
</dependency>
<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-core</artifactId>
<version>0.8.1</version>
</dependency>
2.2 模型服务部署方案
通义千问提供三种接入方式:
- API直连:最简单但依赖外网
- 本地Docker部署:推荐开发环境使用
- Kubernetes集群部署:适合生产环境
我选择Docker方式部署3.8B量级的模型:
bash复制docker run -d --name qwen-server \
-p 8000:8000 \
-v /path/to/models:/app/models \
registry.cn-hangzhou.aliyuncs.com/qwen/qwen:7b-chat
注意:首次运行会自动下载约14GB的模型文件,请确保磁盘空间充足
3. Spring AI核心配置实战
3.1 应用配置文件
yaml复制# application.yml
spring:
ai:
alibaba:
qianwen:
api-key: your-api-key # 本地部署可留空
base-url: http://localhost:8000
chat:
options:
temperature: 0.7
top-p: 0.9
max-tokens: 2048
3.2 核心代码实现
java复制@RestController
public class AIController {
private final QianWenChatClient chatClient;
public AIController(QianWenChatClient chatClient) {
this.chatClient = chatClient;
}
@GetMapping("/chat")
public String generate(@RequestParam String message) {
return chatClient.call(message);
}
// 流式响应实现
@GetMapping(value = "/chat/stream", produces = MediaType.TEXT_EVENT_STREAM_VALUE)
public Flux<String> streamGenerate(@RequestParam String message) {
return chatClient.stream(message)
.map(ChatResponse::getResults)
.flatMapIterable(list -> list)
.map(content -> content.getOutput().getContent());
}
}
4. 高级功能实现技巧
4.1 自定义Prompt工程
通义千问对Prompt格式敏感,
