什么是 Denial of Wallet?如何防止 Agent 失控烧钱?
题目
什么是 Denial of Wallet?如何防止 Agent 失控烧钱?
参考答案
点击展开参考答案
- Denial of Wallet 是攻击者或异常输入诱导 Agent 进行超长推理、无限循环、工具扇出、递归子 Agent 或昂贵模型调用,耗尽费用与配额。
- 它不一定让服务宕机,但会造成账单和共享容量损失。
- 在模型外执行每 run 的步数、Token、费用、子 Agent 数、工具调用和 wall-clock 上限;设置租户/用户/工具配额与并发限制;检测重复动作和无信息增益;递归委派传递剩余预算而不是重新获得完整额度。
- 实时统计 cost span,异常时熔断/kill switch。
- 预算耗尽应安全收尾或转人工,不能让模型自行决定是否继续花钱。