1. LangChain4j 核心功能解析
1.1 @SystemMessage注解的深度应用
@SystemMessage注解是LangChain4j框架中用于定义AI系统角色的核心注解。它的主要作用是将预定义的系统提示词与用户输入进行组合,形成完整的对话上下文。在实际项目中,我们通常将系统提示词存储在外部文件中,通过fromResource属性引用:
java复制@SystemMessage(fromResource = "prompt/codegen-routing-system-prompt.txt")
CodeGenTypeEnum routeCodeGenType(String userPrompt);
这种设计有三大优势:
- 提示词与代码分离:修改提示词无需重新编译代码
- 多环境适配:不同环境可以使用不同的提示词文件
- 版本控制友好:文本文件的diff更清晰
最佳实践:将系统提示词按功能模块分类存放,如
prompt/codegen/目录下存放代码生成相关提示词,prompt/chat/目录下存放对话相关提示词。
1.2 JSON输出配置的注意事项
当需要LangChain4j输出结构化JSON数据时,必须进行特殊配置。以下是完整的配置方案:
yaml复制spring:
web:
flux:
timeout: 30m # 延长SSE连接超时时间
langchain4j:
open-ai:
streaming-chat-model:
response-format:
type: "json_object" # 强制JSON输出格式
max-tokens: 8192 # 增加最大token限制
temperature: 0.7 # 控制输出随机性
常见问题排查:
- 若JSON输出被截断:检查max-tokens是否足够
- 若JSON格式错误:确保提示词中包含明确的JSON格式要求
- 若响应超时:适当增加timeout值并检查网络延迟
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. Reactor与SSE深度集成
2.1 为什么选择Reactor
Reactor项目是Spring生态中的响应式编程核心库,与LangChain4j的集成解决了以下关键问题:
- 流式数据传输:将LangChain的Token流转换为SSE兼容格式
- 背压处理:自动调节数据流速,防止客户端过载
- 线程效率:非阻塞IO模型,支持高并发场景
2.2 完整依赖配置
xml复制<!-- 响应式Web基础 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-webflux</artifactId>
</dependency>
<!-- LangChain4j核心 -->
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-core</artifactId>
<version>0.34.0</version>
</dependency>
<!-- Reactor适配器 -->
<dependency>
<groupId>dev.langchain4j</groupId>
<artifactId>langchain4j-reactor</artifactId>
<version>
