1. 项目概述:当大模型遇上多智能体协作
去年在调试一个基于LLM的问答系统时,我遇到一个棘手问题:当多个AI智能体协同回答复杂问题时,总会产生信息冗余或逻辑断层。就像一群专家开会却没人主持,最终要么七嘴八舌重复观点,要么关键问题无人触及。这正是EvolveRouter这篇论文要解决的核心痛点——如何让多个大语言模型智能体像训练有素的团队一样高效协作。
这篇来自清华大学和微软亚洲研究院的工作,提出了一种路由与提示词协同进化框架。其创新点在于将传统静态路由机制升级为动态学习系统,让路由决策(哪个问题交给哪个智能体)和提示词优化(如何更好地激发智能体潜力)在训练过程中相互促进。实验显示,在HotpotQA等需要多跳推理的数据集上,该系统比传统方法准确率提升最高达12.7%。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 核心架构解析:路由与提示的共生进化
2.1 动态路由的基因编码
传统多智能体系统的路由机制往往采用固定规则,比如按问题类型分配。EvolveRouter则引入了类似遗传算法的进化策略:
python复制class RouterGene:
def __init__(self):
self.agent_weights = [0.3, 0.7] # 初始权重分布
self.prompt_templates = ["你擅长分析{}类问题", "请从{}角度思考"] # 初始提示模板
路由器的"基因"由两部分构成:
- 智能体权重矩阵:决定问题流向各智能体的概率分布
- 提示词模板库:针对不同智能体特性的激活指令
在HotpotQA的实验配置中,团队设置了4个具有不同专业倾向的智能体:
- 事实核查专家(擅长检索验证)
- 逻辑推理专家(擅长因果推断)
- 综合归纳专家(擅长信息整合)
- 反事实思考专家(擅长多角度分析)
2.2 协同进化的训练机制
系统的训练过程就像培养一支特种部队:
- 变异阶段:对当前最优基因进行随机扰动
- 权重变异:±0.1范围内的高斯噪声
- 提示变异:替换近义词/调整句式结构
- 选择阶段:评估变异体在验证集的表现
- 采用加权准确率指标:简单问题1分,需多跳推理的问题3分
- 遗传阶段:保留top-k变异体进行
