第三方 Tool 成功率只有 97%,如何把 Agent 成功率做上去?
题目
第三方 Tool 成功率只有 97%,如何把 Agent 成功率做上去?
参考答案
点击展开参考答案
- 先明确理论上限:若一个不可替代关键 Tool 的单次成功率为 97%,且任务必须调用一次,则没有降级/重试时 Agent 成功率上限就是 97%;若调用多次,可靠性还会乘法下降。
- 优化应按失败类型拆解,而不是让模型“多试几次”。
- 区分 Tool 选择错误、参数校验错误、权限/业务拒绝、限流、超时、5xx、空结果和
UNKNOWN_RESULT;按 logical call 与 attempt 分别统计成功率、P99 和重试放大。 - 改进描述和 Schema,使用枚举/范围/示例;身份由服务端注入;语义、权限和前置状态在执行前校验。
- 对高频组合提供任务级粗粒度 Tool,减少多次依赖调用。
- 只对瞬时错误在剩余 deadline 内指数退避 + jitter,遵守
Retry-After;重试只放一层。 - 只读调用可 hedging、缓存或切经过一致性验证的备用源;写操作必须由下游幂等,超时先查状态。