模型返回 `tool_call` 后,如何做参数校验、权限校验、沙箱执行和结果回灌?
题目
模型返回 tool_call 后,如何做参数校验、权限校验、沙箱执行和结果回灌?
参考答案
点击展开参考答案
- 执行链路应是“模型提出候选动作,确定性运行时决定能否执行”: 1. 解析与结构校验:按工具版本对应的 JSON Schema 校验类型、必填、枚举、范围、格式和额外字段;失败只把精简校验错误返回模型做有限次修复。
-
- 规范化与语义校验:统一时间、路径、ID;校验开始时间小于结束时间、订单存在、资源状态允许、字段间约束成立。
-
- 身份与权限校验:
tenant_id/user_id由服务端注入,模型不能传;校验 RBAC/ABAC、资源归属和用户委派 scope。
- 身份与权限校验:
-
- 策略校验:金额、目标域名、可读写路径、数据敏感等级和审批;审批绑定规范化后的动作哈希,参数变化则失效。
-
- 执行隔离:普通 API 走 Tool Gateway;代码、Shell、浏览器放临时 Sandbox,限制文件、系统调用、CPU/内存/时间和网络出口。
- 写操作携带幂等键和剩余 deadline。
-
- 结果标准化:统一为
success/error/unknown_result、错误码、是否可重试、来源、时间、结果摘要和 artifact 引用。
- 结果标准化:统一为