工具风险会随参数变化,如何做动态风险评估?
题目
工具风险会随参数变化,如何做动态风险评估?
参考答案
点击展开参考答案
- 风险对象应是“工具 + 规范化参数 + 当前主体 + 目标资源 + 环境状态”,而非仅工具名。
- 例如读取普通文件是低风险,读取密钥目录是高风险;退款金额、收件人域名、删除范围都会改变影响面。
- Policy Engine 用确定性规则计算可逆性、权限、数据敏感度、外部可见性和最大损失,模型只提供候选动作。
- 风险等级决定执行路径:低风险自动执行,中风险预览/可撤销,高风险审批,关键风险 step-up auth 或禁止。
- 审批绑定动作哈希和版本,参数变化后失效。
- 未知工具/字段 fail closed。
- 用边界参数、编码路径、批量范围和注入样本做策略测试,监控误放、误拦和审批绕过。