Agent 循环失控(无限调用工具)怎么处理?
题目
Agent 循环失控(无限调用工具)怎么处理?
参考答案
点击展开参考答案
- 最大步数限制:设置 max_steps(如 10 步),超过就强制停止并返回当前最佳结果。
- 重复检测:检测连续多次调用同一工具+相同参数,发现重复就中断。
- 超时机制:单步超时 + 总超时。
- 中间检查点:每隔几步让模型做一次"是否已经可以回答"的判断。
- Prompt 引导:在 system prompt 中明确告诉模型"最多调用 N 次工具,之后必须给出答案"。
- 追问:为什么会无限循环?(答:模型陷入"想调工具→工具结果不好→再调→还是不好"的死循环;或者模型不会判断什么时候该停下来)