跳到主要内容

客户合约中,销售写上了「首 token 3 秒内到达、整段回复 15 秒内结束」。哪些量必须变成可测的服务质量度量;业务对错的哪些含义,绝不能跟可用性挤在同一条款?

Agent 工程化与运行环境中级成本

题目​

客户合约中,销售写上了「首 token 3 秒内到达、整段回复 15 秒内结束」。哪些量必须变成可测的服务质量度量;业务对错的哪些含义,绝不能跟可用性挤在同一条款?

参考答案​