跳到主要内容

搞调研的内部 agent 三天内把当月 token 额度烧光。网关只限制 QPS,根本没挡住。限额要在租户、模型、工具和预估花费上如何叠起来?

Agent 工程化与运行环境中级工具调用成本

题目​

搞调研的内部 agent 三天内把当月 token 额度烧光。网关只限制 QPS,根本没挡住。限额要在租户、模型、工具和预估花费上如何叠起来?

参考答案​