LangChain接入大模型API的三种方案与RAG系统实现

1. LangChain 接入大模型API的三种方案详解

作为一名长期从事AI应用开发的工程师，我最近在项目中遇到了一个典型需求：需要为知识库问答系统接入多种大语言模型。经过反复测试和比较，我总结出了三种可行的LangChain接入方案，下面将详细介绍每种方案的实现细节和适用场景。

1.1 方案一：ChatOpenAI接入GPT-5

这是最基础也是最成熟的接入方式。OpenAI的API协议已经成为行业事实标准，LangChain对其支持最为完善。在实际操作中，我发现以下几个关键点需要注意：

首先，安装依赖时不能只安装主包。LangChain从0.2版本开始采用了模块化设计，必须单独安装对应的集成包：

bash复制pip install langchain-openai

配置模型实例时，temperature参数的控制尤为重要。根据我的经验，对于技术类问答，0.7是个不错的平衡点 - 既能保证回答的创造性，又不会太过天马行空。下面是一个完整的配置示例：

python复制from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage, SystemMessage

llm = ChatOpenAI(
    model="gpt-5",
    temperature=0.7,
    api_key="your-openai-key",
    max_retries=3,  # 网络不稳定时建议设置重试
    timeout=30,     # 避免长时间等待
)

注意：虽然max_tokens参数不是必须的，但在生产环境中建议明确设置，防止生成内容过长导致API调用费用激增。

流式输出处理是提升用户体验的关键。通过stream()方法可以实现逐字输出效果：

python复制messages = [
    SystemMessage(content="你是一个Python技术专家"),
    HumanMessage(content="解释Python中的GIL机制")
]

for chunk in llm.stream(messages):
    print(chunk.content, end="", flush=True)

这种方案的优点是简单直接，缺点是只能用于OpenAI系列模型，缺乏灵活性。

1.2 方案二：ChatAnthropic接入Claude系列

当项目需要使用Claude模型时，就需要使用专门的langchain-anthropic包。与OpenAI相比，Anthropic的API有一些特殊之处需要特别注意。

安装依赖：

bash复制pip install langchain-anthropic

配置模型时，max_tokens参数是必填项，这与OpenAI不同。此外，Claude模型对系统消息的处理方式也有所差异：

python复制from langchain_anthropic import ChatAnthropic

llm = ChatAnthropic(
    model="claude-opus-4-6-20260301",
    tempera