主路厂商连着吐 429,备用侧工具参数名对不齐。怎样在切流时拦住未完成的工具调用,免得订单落入脏数据?
题目
主路厂商连着吐 429,备用侧工具参数名对不齐。怎样在切流时拦住未完成的工具调用,免得订单落入脏数据?
参考答案
点击展开参考答案
- 把“换模型”和“继续执行写操作”拆开。
- 限流或不可用时,只读查询和纯生成可以切到备用;已经进入写路径的请求走补偿或人工,不把不兼容字段“猜”成另一套参数。
- 编排器维护显式状态机:模型输出的是意图,执行前由适配层把字段校到当前供应商的工具描述,校验失败就停。
- 退路是降能力,不是换一张看起来能跑的接口继续写库。
- 切换顺序一般是:同一供应商其他区域 → 不同供应商的同档能力 → 小模型、缓存或模板 → 人工队列。
- 触发看错误码、延迟和健康检查,而不是单次超时。