LangChain框架实战：模型抽象与Prompt模板应用-AI智能范式网

LangChain框架实战：模型抽象与Prompt模板应用

予晚

1. LangChain 框架概述：模型抽象与 Prompt 模板实战指南

作为一名长期从事AI应用开发的工程师，我深刻理解直接调用原始API开发LLM应用的各种痛点。每次切换模型供应商都要重写大量代码，不同模型的接口差异让人头疼，而复杂的提示词管理更是让项目难以维护。这正是LangChain框架诞生的意义——它像一位贴心的助手，帮我们把这些繁琐的细节封装起来，让我们能专注于业务逻辑的实现。

在本文中，我将结合自己多个项目的实战经验，详细解析LangChain最核心的两大功能：模型抽象层和Prompt模板系统。不同于官方文档的平铺直叙，我会重点分享那些只有踩过坑才知道的实用技巧，比如如何避免内存泄漏的流式调用陷阱、消息模板的变量注入玄机等。这些经验都是我在开发智能客服系统和知识管理平台时积累的宝贵心得。

2. 为什么需要LangChain？

2.1 原始API开发的四大痛点

在去年开发一个多模型切换的智能写作助手时，我深刻体会到了原始API的局限性。当时项目需要同时对接OpenAI和国内的通义千问，代码中充斥着这样的条件判断：

python复制if provider == "openai":
    from openai import OpenAI
    client = OpenAI(api_key=os.getenv("OPENAI_KEY"))
    response = client.chat.completions.create(
        model="gpt-4",
        messages=[{"role": "user", "content": prompt}]
    )
elif provider == "tongyi":
    from dashscope import Generation
    response = Generation.call(
        model="qwen-max",
        prompt=prompt
    )

这种开发方式存在几个明显问题：

接口不统一：每个供应商的SDK使用方法各异
切换成本高：更换模型需要重写业务逻辑
难以扩展：新增模型支持时需修改核心代码
提示词管理混乱：硬编码的prompt难以维护

2.2 LangChain的解决方案

LangChain通过抽象层解决了这些问题，它的设计哲学让我想起了Java的JDBC接口——定义标准规范，各厂商自行实现。具体来看：

模型抽象：统一的LLM、Chat、Embeddings接口
组件链接：通过Chain将各个处理环节串联
模板系统：结构化管理各类提示词

下面这段代码展示了LangChain的优雅之处：

python复制from langchain_community.llms import Tongyi

llm = Tongyi(model='qwen-max')  # 切换模型只需修改这一行
response = llm.invoke("生成一段产品描述")

实战经验：在金融资讯生成项目中，我们仅用2天就完成了从GPT-3.5到通义千问的迁移，这得益于LangChain的抽象层设计。关键是要确保所有业务代码都基于LangChain接口编写，避免直接调用供应商SDK。

3. LangChain的三种模型抽象

3.1 LLMs - 通用语言模型

LLMs模型适用于非对话场景的文本生成，比如我经常用它来做：

商品描述生成
新闻摘要
代码补全

python复制from langchain_community.llms.tongyi import Tongyi

llm = Tongyi(
    model='qwen-max',
    temperature=0.7,  # 控制创造性
    top_p=0.9         # 核采样参数
)

# 同步调用
response = llm.invoke("用300字介绍量子计算")
print(response)

# 流式输出（适合长文本场景）
for chunk in llm.stream("讲解深度学习原理"):
    print(chunk, end="", flush=True)

参数调优技巧：

temperature：越高结果越随机（0.2-1.0适合创意写作）
top_p：控制候选词范围（0.7-0.95平衡多样性）
max_tokens：限制生成长度（根据场景调整）

踩坑记录：流式输出时务必设置flush=True，否则控制台可能不会实时显示。曾因这个细节导致客户误以为系统卡顿。

3.2 Chat Models - 对话专用模型

聊天模型是我开发客服系统的核心组件，它支持三种消息类型：

python复制from langchain_community.chat_models import ChatTongyi
from langchain_core.messages import SystemMessage, HumanMessage

chat = ChatTongyi(model="qwen3-max")

messages = [
    SystemMessage(content="你是一个专业的保险顾问，回答要简明专业"),
    HumanMessage(content="重疾险和医疗险有什么区别？")
]

response = chat.invoke(messages)
print(response.content)

消息类型详解：

类型	作用	使用场景
SystemMessage	设定AI角色	初始化对话场景
HumanMessage	用户输入	用户提问或指令
AIMessage	AI回复	保存对话历史

实战技巧：在电商客服项目中，我们通过SystemMessage动态注入产品信息：

python复制system_prompt = f"""你是{product_name}的客服专员，产品特点包括：
{product_features}
请用{style}风格回答用户问题"""

3.3 Embeddings Models - 文本向量化

嵌入模型是构建RAG系统的基石，这是我的使用示例：

python复制from langchain_community.embeddings import DashScopeEmbeddings

embeddings = DashScopeEmbeddings(
    model="text-embedding-v2",  # 指定嵌入模型版本
    batch_size=10              # 批量处理提升效率
)

# 单条文本
query_vec = embeddings.embed_query("新能源汽车优惠政策")

# 批量处理（效率提升5-8倍）
doc_vectors = embeddings.embed_documents([
    "文档1内容",
    "文档2内容"
])

性能优化建议：

批量处理时设置合理的batch_size
对长文本先做分块再嵌入
缓存常用文本的向量结果

4. Prompt模板深度解析

4.1 PromptTemplate - 基础模板

在智能合同生成项目中，我们大量使用了变量注入：

python复制from langchain_core.prompts import PromptTemplate

template = """根据以下条款生成合同：
甲方：{party_a}
乙方：{party_b}
合作内容：{cooperation_details}
合同期限：{duration}"""

prompt = PromptTemplate.from_template(template)
filled_prompt = prompt.format(
    party_a="XX科技",
    party_b="YY物流",
    cooperation_details="货物运输",
    duration="1年"
)

高级技巧：模板支持Jinja2语法，可以实现条件逻辑：

python复制template = """生成{{product}}的介绍，{% if length == 'short' %}50字左右{% else %}300字左右{% endif %}"""

4.2 FewShotPromptTemplate - 示例模板

在开发文本分类服务时，示例模板显著提升了准确率：

python复制from langchain_core.prompts import FewShotPromptTemplate, PromptTemplate

examples = [
    {"text": "这个相机画质太差了", "label": "负面"},
    {"text": "物流速度超快", "label": "正面"}
]

example_template = PromptTemplate.from_template(
    "文本：{text}\n情感：{label}"
)

few_shot_prompt = FewShotPromptTemplate(
    examples=examples,
    example_prompt=example_template,
    prefix="根据示例判断新文本的情感倾向",
    suffix="文本：{input}\n情感：",
    input_variables=["input"]
)

prompt = few_shot_prompt.format(input="电池续航不行")

经验分享：示例数量不是越多越好，3-5个典型示例效果最佳。曾因添加过多示例导致提示词超长，反而降低了准确率。

4.3 ChatPromptTemplate - 对话模板

多轮对话系统的核心就是管理对话历史：

python复制from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder

prompt = ChatPromptTemplate.from_messages([
    ("system", "你是旅行顾问{advisor_name}"),
    MessagesPlaceholder("history"),
    ("human", "{user_input}")
])

history = [
    ("human", "推荐北京景点"),
    ("ai", "故宫、长城值得一去")
]

current_prompt = prompt.invoke({
    "advisor_name": "张导",
    "history": history,
    "user_input": "适合带孩子去的呢？"
})

历史管理技巧：

设置合理的对话轮次限制（通常5-10轮）
对长对话自动总结前情提要
敏感话题检测并重置对话

5. 模板使用进阶技巧

5.1 模板组合

通过管道操作符|可以链式调用：

python复制from langchain_core.prompts import PromptTemplate
from langchain_community.llms import Tongyi

prompt = PromptTemplate.from_template("生成关于{topic}的报告")
llm = Tongyi(model="qwen-max")

chain = prompt | llm  # 创建处理链
result = chain.invoke({"topic": "气候变化"})

5.2 部分填充

提前填充部分变量，创建专用模板：

python复制from langchain_core.prompts import PromptTemplate

base_template = PromptTemplate.from_template(
    "作为{role}，请回答：{question}"
)

doctor_template = base_template.partial(role="医学专家")
lawyer_template = base_template.partial(role="法律顾问")

print(doctor_template.format(question="感冒了怎么办？"))

5.3 模板验证

避免运行时错误的最佳实践：

python复制try:
    prompt = PromptTemplate.from_template(
        "生成{length}字的{content}",
        template_format="jinja2"
    )
    prompt.validate_template()  # 检查变量是否匹配
except Exception as e:
    print(f"模板错误：{e}")

6. 性能优化与调试

6.1 异步调用

提升吞吐量的关键技巧：

python复制import asyncio
from langchain_community.chat_models import ChatTongyi

chat = ChatTongyi(model="qwen3-max")

async def process_messages(messages):
    return await chat.agenerate(messages)

# 批量处理100条消息
results = asyncio.run(process_messages(batch_messages))

6.2 日志记录

调试复杂提示词的必备工具：

python复制import logging

logging.basicConfig(level=logging.INFO)
logger = logging.getLogger("langchain")

# 在调用前添加
chat = ChatTongyi(
    model="qwen3-max",
    verbose=True  # 启用详细日志
)

6.3 缓存策略

减少重复计算的优化方案：

python复制from langchain.globals import set_llm_cache
from langchain.cache import InMemoryCache

set_llm_cache(InMemoryCache())  # 内存缓存

# 或使用Redis缓存
from langchain.cache import RedisCache
set_llm_cache(RedisCache(redis_url="redis://localhost:6379"))

7. 实战中的经验教训

7.1 流式处理的陷阱

在开发实时翻译系统时，我们遇到了这样的问题：

python复制# 错误示例 - 会丢失部分结果
for chunk in llm.stream("长文本翻译"):
    save_to_database(chunk)  # 每个chunk单独提交

# 正确做法 - 先拼接再处理
full_response = []
for chunk in llm.stream("长文本翻译"):
    full_response.append(chunk)
complete_text = "".join(full_response)
process(complete_text)

7.2 模板变量的安全处理

用户输入必须经过清洗：

python复制import html

user_input = "<script>alert('xss')</script>"
safe_input = html.escape(user_input)

prompt = PromptTemplate.from_template("处理{input}")
prompt.format(input=safe_input)

7.3 模型回退策略

实现高可用的关键设计：

python复制from langchain_community.llms import Tongyi, OpenAI
from langchain.schema import LLMResult

primary_llm = Tongyi(model="qwen-max")
fallback_llm = OpenAI(model="gpt-3.5-turbo")

def safe_invoke(prompt):
    try:
        return primary_llm.invoke(prompt)
    except Exception:
        return fallback_llm.invoke(prompt)

在智能客服项目中，这套回退机制将系统可用性从99%提升到了99.9%。关键是要设置合理的超时时间（通常3-5秒）和失败重试机制。