Agent 架构设计中级工具调用
Tool 超时和重试如何设计?
参考答案
点击展开参考答案
-
- 端到端 deadline 向下分配,单工具超时不能超过剩余时间。
-
- 只重试瞬时错误:连接重置、部分 5xx、明确限流;参数错误、权限错误和业务拒绝不重试。
-
- 指数退避 + jitter,遵守
Retry-After;设置最大尝试次数和重试预算,防止重试风暴。
-
- 非幂等写操作只有在有幂等键或能查询执行状态时才自动重试。
-
- 每次 attempt 独立记录,但归属于同一逻辑 tool call,便于计算真实成功率和放大倍数。