1. 从文本到可执行轨迹:GEM方法深度解析与实战指南
在构建智能助手(Agent)系统的过程中,最棘手的挑战之一就是获取高质量的训练数据。传统方法通常需要人工编写大量对话脚本或通过模拟生成数据,这两种方式都存在成本高、覆盖面窄的问题。美团AI团队提出的GEM(Generating Explicit Trajectories from Implicit Text)方法,为我们提供了一条从海量文本中自动抽取可训练轨迹的新路径。
1.1 核心问题:为什么我们需要更好的轨迹数据?
当前Agent训练面临三个关键瓶颈:
- 数据稀缺:真实场景中的多轮工具调用记录难以获取,特别是在涉及隐私的客服、医疗等领域
- 多样性不足:人工编写的样本往往过于理想化,缺乏真实对话中的歧义、中断和错误恢复
- 成本高昂:为每个新领域构建训练数据需要投入大量人力进行领域知识标注
GEM方法的突破性在于,它发现互联网上已有的大量文本(如产品文档、客服记录、教程指南)实际上隐含着丰富的操作流程和经验知识。这些文本虽然不以结构化轨迹的形式存在,但包含了用户目标、环境工具和多步操作的关键信息。
1.2 GEM与传统方法的对比
传统Agent数据生成通常采用"工具中心"范式:
code复制预定义工具集 → 模拟对话 → 生成训练数据
这种方法的局限性在于:
- 工具定义需要前期大量投入
- 模拟的对话缺乏真实场景的复杂性
- 难以覆盖长尾用例
GEM则采用完全相反的思路:
code复制文本语料 → 提取隐含流程 → 反推出工具定义 → 生成结构化轨迹
这种"数据驱动"的方法有三大优势:
- 可以直接利用现有文本资源,降低数据获取成本
- 从真实场景中提取的轨迹更具多样性和真实性
- 工具定义与实际问题解决流程自然对齐
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. GEM四阶段流水线详解
2.1 阶段一:文本过滤(Text Filtering)
核心目标:从海量文本中筛选出包含多步操作描述的片段
技术实现:
- 文本分块:将原始文档切分为300-1000token的片段
- 多步分类:使用轻量级分类器判断每个片段是否描述多步操作
- 关键判断标准:是否涉及APP/网站/设备的具体操作流程
- 输出标签:
<multi_step>True</multi_step>或<multi_step>False</multi_step>
工程实践建议:
- 采用两阶段过滤:先用高召回模型初筛,再用高精度模型精筛
- 并行处理:对大规模语料使用MapReduce框架加速
- 元信息标注:同时记录文本来源领域,便于后续分桶采样
性能指标:
在Ultra-FineWeb语料上的测试显示,约14%的文本片段包含显式多步流程描述。这意味着每TB级语料可提取约140GB有效原料。
2.2 阶段二:流程与工具抽取(Flow & Tool Extraction)
核心目标:从合格文本中提取执行流程图和对应的工具定义
关键技术点:
- 执行图抽取:
- 识别文本中的步骤序列和依赖关系
