1. 项目背景与核心挑战
去年底开始接触Spring AI框架时,我就被其"AI应用开发Spring化"的理念吸引。最近Qwen3.5开源模型的发布,特别是其出色的工具调用能力,让我萌生了结合两者实现多步Agent的想法。这个项目的核心目标是:让AI不仅能响应单次请求,还能自主拆解复杂任务、按需调用工具并整合结果。
实际开发中遇到几个关键挑战:
- Spring AI对国产模型支持度不足(默认适配OpenAI接口规范)
- Qwen3.5的工具调用协议与Spring AI的Agent机制存在兼容性问题
- 多步任务拆解时的状态维护和错误恢复机制缺失
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 技术栈选型与配置
2.1 基础环境搭建
采用Spring Boot 3.2 + JDK 17组合,关键依赖包括:
xml复制<dependency>
<groupId>org.springframework.ai</groupId>
<artifactId>spring-ai-core</artifactId>
<version>0.8.1</version>
</dependency>
<!-- 自定义Qwen3.5适配器 -->
<dependency>
<groupId>com.alibaba</groupId>
<artifactId>qwen-spring-adapter</artifactId>
<version>1.0-beta</version>
</dependency>
2.2 Qwen3.5本地部署方案
通过Ollama在本地部署Qwen3.5-9B量化版(显存需求降至8GB):
bash复制ollama pull qwen:9b
ollama run qwen:9b --verbose
实测发现:Qwen3.5-9B在RTX 3090上推理速度约28 tokens/s,完全能满足交互需求
3. Agent核心架构设计
3.1 分层架构
mermaid复制graph TD
A[用户请求] --> B(路由层)
B --> C{单步/多步判断}
C -->|单步| D[直接工具调用]
C -->|多步| E[任务拆解引擎]
