受限动作空间什么时候比开放式工具调用更好?
题目
受限动作空间什么时候比开放式工具调用更好?
参考答案
点击展开参考答案
- 高合规、高风险、不可逆且流程可枚举的场景优先受限动作空间,例如退款只能选择订单、原因和受控金额,部署只能选择已构建制品和目标环境。
- 封闭枚举让非法状态难以表达,Schema、权限和测试更简单,也降低 Prompt Injection 的损害面。
- 开放式 Shell、浏览器或代码执行适合探索性、长尾和难预定义任务,但应放 Sandbox,限制网络、文件和凭证,并在最终副作用前转换成受限结构化动作。
- 常见混合架构是开放分析 + 封闭提交:Agent 可自由调查,真正支付、发布、删除由确定性接口完成。