1. 大模型上下文工程的核心价值
大模型上下文工程(Context Engineering)是当前AI应用开发中最关键的实践技能之一。与传统的Prompt Engineering(提示工程)不同,上下文工程关注的是在多轮交互中如何构建、维护和优化对话上下文,而不仅仅是单次交互的指令优化。
在实际开发中,我经常遇到这样的场景:当用户与金融问答机器人进行多轮对话时,前几轮讨论的股票代码、时间范围等关键信息需要在后续对话中持续生效。如果简单依赖大模型的短期记忆,经常会出现"遗忘"关键上下文的情况。这就是上下文工程要解决的核心问题。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 上下文工程与提示工程的关键区别
2.1 粒度与时间维度的差异
提示工程(Prompt Engineering)主要优化单次交互的指令,比如:
- 在系统提示词中定义AI角色
- 添加少样本示例(few-shot examples)
- 指定输出格式要求
而上下文工程需要处理的是跨越多次交互的信息维护,典型场景包括:
- 多轮对话中的实体指代消解(如"它"指代上文的哪只股票)
- 长期偏好记忆(用户的风险偏好等级)
- 会话状态跟踪(当前处于开户流程的哪一步)
2.2 技术实现对比
在金融问答机器人项目中,我们使用了不同的技术栈来处理这两类需求:
python复制# 提示工程实现示例
system_prompt = """
你是一位专业的金融顾问,回答需符合以下要求:
1. 用中文回复,专业但易懂
2. 涉及投资建议时必须提示风险
3. 数字类回答需包含数据来源
"""
# 上下文工程实现示例
from langchain.schema import (
SystemMessage,
HumanMessage,
AIMessage
)
conversation_history = [
SystemMessage(content=system_prompt),
HumanMessage(content="我想了解特斯拉股票"),
AIMessage(content="特斯拉(TSLA)当前股价$260..."),
HumanMessage(content="它的市盈率是多少?") # "它"需要上下文解析
]
