Agent技术实战：从零构建大模型智能体应用-AI智能范式网

Agent技术实战：从零构建大模型智能体应用

乐正雕漆

1. 为什么Agent技术正在重塑大模型应用开发

三年前我第一次接触大模型时，发现单纯调用API生成的文本虽然流畅，但很难完成复杂任务。直到Function Calling技术出现，才真正打开了智能体（Agent）开发的大门。现在的Agent已经能像人类一样调用工具、处理多步骤任务，这背后是LLM（大语言模型）从"语言生成器"向"任务执行者"的进化。

对于刚入门的新手来说，Agent开发最吸引人的地方在于：不需要从头训练模型，通过合理设计工作流，就能让现有大模型具备解决实际问题的能力。我团队最近用Agent框架改造的客服系统，处理效率提升了40%，这正是我想分享这些实战经验的原因。

2. Agent核心架构与关键技术解析

2.1 Function Calling工作机制揭秘

Function Calling的本质是让大模型学会"什么时候该调用什么工具"。其工作流程可分为三个阶段：

意图识别阶段：模型分析用户输入，判断是否需要调用外部工具
- 示例：当用户问"北京明天天气如何"时，模型识别出需要查询天气API
- 技术要点：在prompt中明确定义工具的使用场景

参数提取阶段：模型从对话中提取工具调用所需的参数

python复制# OpenAI Function Calling的典型响应结构
{
  "name": "get_weather",
  "arguments": {"location": "北京", "date": "2024-03-20"} 
}

结果整合阶段：将工具返回的数据重新组织成自然语言

关键技巧：对API返回的JSON数据做二次处理，删除冗余字段后再交给模型总结

2.2 主流Agent框架对比选型

根据我过去半年评测7种框架的经验，整理出这张对比表：

框架名称	学习曲线	多工具支持	中文适配	适用场景
LangChain	中等	★★★★☆	★★☆☆☆	快速原型开发
Semantic Kernel	平缓	★★★☆☆	★★★☆☆	企业级应用
AutoGen	陡峭	★★★★★	★★★★☆	复杂工作流编排
CrewAI	中等	★★★★☆	★★★☆☆	多智能体协作

对于初学者，我建议从Semantic Kernel开始，它的调试工具非常友好，我在教学时发现学生平均2小时就能完成第一个可运行的Agent。

3. 零基础搭建第一个天气查询Agent

3.1 环境准备与SDK配置

先安装必要的Python包（建议使用虚拟环境）：

bash复制pip install openai python-dotenv requests

在.env文件中配置API密钥：

ini复制OPENAI_API_KEY=你的密钥
WEATHER_API_KEY=气象平台密钥

3.2 定义工具函数

这是最关键的步骤，需要明确三个要素：

函数功能描述 - 直接影响大模型是否选择调用它
参数说明 - 每个字段都要有清晰的定义
错误处理 - 考虑API调用失败的情况

python复制import requests

def get_weather(location: str, date: str):
    """
    获取指定地点和日期的天气预报
    Args:
        location: 城市名称，如"北京"
        date: 日期，格式YYYY-MM-DD
    Returns:
        dict: 包含温度、天气状况等数据的字典
    """
    try:
        url = f"https://api.weatherapi.com/v1/forecast.json?key={WEATHER_API_KEY}&q={location}&dt={date}"
        response = requests.get(url)
        return {
            "temp_c": response.json()["current"]["temp_c"],
            "condition": response.json()["current"]["condition"]["text"]
        }
    except Exception as e:
        return {"error": str(e)}

3.3 构建对话工作流

使用OpenAI的ChatCompletion接口时，关键是在messages中传递工具定义：

python复制from openai import OpenAI

client = OpenAI()

def chat_with_agent(query):
    response = client.chat.completions.create(
        model="gpt-3.5-turbo",
        messages=[{"role": "user", "content": query}],
        tools=[{
            "type": "function",
            "function": {
                "name": "get_weather",
                "description": "获取某地某天的天气信息",
                "parameters": {
                    "type": "object",
                    "properties": {
                        "location": {"type": "string", "description": "城市名称"},
                        "date": {"type": "string", "description": "日期YYYY-MM-DD"}
                    },
                    "required": ["location"]
                }
            }
        }]
    )
    
    # 处理工具调用逻辑
    tool_call = response.choices[0].message.tool_calls[0]
    if tool_call.function.name == "get_weather":
        args = json.loads(tool_call.function.arguments)
        weather_data = get_weather(**args)
        # 将结果返回给模型进行总结
        second_response = client.chat.completions.create(
            model="gpt-3.5-turbo",
            messages=[
                {"role": "user", "content": query},
                {"role": "assistant", "content": None, "tool_calls": [tool_call]},
                {"role": "tool", "content": json.dumps(weather_data), "name": "get_weather"}
            ]
        )
        return second_response.choices[0].message.content

4. 进阶开发中的避坑指南

4.1 工具冲突的典型场景

当定义多个工具时，模型可能会出现选择困难。我在电商客服项目中遇到过：

症状：用户问"订单12345的物流和退款状态"，模型有时只查物流不查退款
解决方案：
1. 在工具描述中强调"与"关系："查询订单的物流信息和退款状态"
2. 设置fallback机制：当检测到多关键词时强制调用所有相关工具

4.2 上下文长度优化技巧

复杂Agent的对话历史会快速消耗token，我们团队总结出这些方法：

摘要技术：每5轮对话后，让模型自动生成之前对话的摘要

python复制def summarize_dialog(history):
    prompt = f"用100字总结这段对话的核心信息：\n{history}"
    return client.chat.completions.create(
        model="gpt-3.5-turbo",
        messages=[{"role": "user", "content": prompt}]
    ).choices[0].message.content

分层存储：将技术细节存入向量数据库，只保留对话主线在内存中
动态清理：当token超过阈值时，优先移除最早的无关对话

5. 生产环境部署实战

5.1 性能优化关键参数

在AWS EC2 g5.2xlarge实例上的测试数据：

并发请求数	平均响应时间(s)	错误率	优化方案
10	1.2	0%	基础配置
50	3.8	15%	增加请求超时到10s
100	超时	100%	引入请求队列和限流机制

最终我们采用的方案：

python复制from fastapi import FastAPI, HTTPException
from slowapi import Limiter
from slowapi.util import get_remote_address

limiter = Limiter(key_func=get_remote_address)
app = FastAPI()

@app.post("/chat")
@limiter.limit("50/minute")
async def chat_endpoint(request: Request):
    # 业务逻辑

5.2 监控指标体系建设

推荐Prometheus+Grafana的监控组合，必须监控的四个黄金指标：

请求量：区分成功/失败请求
延迟：P50/P95/P99分位数
工具调用率：各工具的使用频率
token消耗：输入/输出的token比例

我们在Grafana中设置的告警阈值：

连续3分钟错误率>5%
P99延迟>8秒
工具调用超时率>10%

6. 从开发到优化的完整案例

去年为跨境电商构建的客服Agent，完整演进路径：

v1.0基础版（2周）
- 功能：订单查询、退货政策问答
- 痛点：无法处理多意图请求
v2.0多工具版（1个月）
- 新增：物流追踪、跨工具信息合并
- 采用CrewAI实现问题自动分派
v3.0优化版（持续迭代）
- 引入本地化部署的qwen-7B模型降低成本
- 实现基于用户历史的个性化响应
- 最终指标：问题解决率从58%提升至89%

这个项目给我的最大启示是：Agent开发不是一次性的工作，需要建立持续优化的闭环。我们现在的迭代周期是每周收集bad case，每月发布重大更新。