思考文本里已经在念剩余额度,提示也写了每单最多 0.3 美元和 8 次工具,为何账单照样被打穿?强制扣减该发生在循环的哪一拍?
题目
思考文本里已经在念剩余额度,提示也写了每单最多 0.3 美元和 8 次工具,为何账单照样被打穿?强制扣减该发生在循环的哪一拍?
参考答案
点击展开参考答案
- 提示里的额度只是建议,模型可以忽略、算错,或在工具失败后换参重试到爆。
- 能拦住超支的是编排层:每次真正调用模型或工具之前,用代码按任务 id 扣减 token、金额、次数和墙钟,余额不足就拒绝发请求并交出已有部分结果。
- 模型可以看见预算以便规划,但 enforcement 不能交给下一次生成。
- 一圈循环里至少有四类可计费动作:提示+补全、工具往返、派生出的子 agent、以及人在回路时仍在跑的墙钟。
- 账本必须在发请求前原子预扣,而不是等供应商账单事后汇总。