1. 当AI陷入死循环:一次工具调用限制的实验观察
昨天在测试我的代码分析工具"小龙虾"(设计上参考了OpenClaw的思路)时,我设置了一个看似无害的参数:最多允许100次工具调用。原本以为这只是个保险措施,没想到却意外触发了一场令人啼笑皆非的"AI智力退化"表演。
我给AI扔了一个大代码包让它分析,结果从第23次调用开始,这个聪明的家伙就像着了魔一样,反复在同一个JavaScript文件(pi-embedded-BaSvmUpW.js)里搜索同一个函数名(completeWithPreparedSimpleCompletionModel)。更夸张的是,它每次调用都在前一次的基础上增加一个排除行号的过滤条件,最终形成了长达78个"| findstr /v"参数的荒谬命令。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 工具调用机制的深度解析
2.1 上下文累积的恶性循环
从日志中可以清晰看到,每次工具调用都会将结果添加到对话上下文中。随着调用次数增加,上下文就像滚雪球一样越来越大:
- 第1-20轮:每次调用间隔约5-7秒
- 第50轮:间隔延长到15-20秒
- 第100轮:单次调用耗时近30秒
最终提交的请求包含了200条历史消息,总运行时间达到惊人的1535323ms(约25分钟)。这种设计显然没有考虑长期交互场景下的性能衰减问题。
2.2 模型的行为模式分析
观察AI的行为模式,可以识别出几个关键特征:
- 固执性:一旦开始某个查询路径,就会坚持到底
- 增量修改:每次都在前次命令基础上做微小调整
- 缺乏宏观视野:没有意识到自己陷入了死胡同
这种行为模式让人联想到某些算法缺陷,比如:
- 深度优先搜索没有设置最大深度
- 缺少剪枝机制的决策树
- 无限递归的函数调用
3. 不同模型的对比测试
3.1 火山方舟ark-code-latest的表现
本次测试使用的是火山方舟的ark-code-latest模型(推测实际分配的是doubao-seed-2.0-code)。从结果来看,这个版本存在明显局限:
- 问题解决能力较弱
- 容易陷入局部最优解
- 需要过多轮次才能获得有效反馈
3.2 百炼wen3.5-plus的对比
相比之下,百炼的wen3.5-plus表现出更好的性
