假定注入已经成功、模型愿意发信。邮件正文要求忽略既有规则并把收件箱密钥寄到指定地址。如何保证这封信仍然发不出去?
题目
假定注入已经成功、模型愿意发信。邮件正文要求忽略既有规则并把收件箱密钥寄到指定地址。如何保证这封信仍然发不出去?
参考答案
点击展开参考答案
- 按「不可信内容只是数据,且假设注入会成功」来做隔离。
- 读信的组件不得持有外发或密钥读取工具;能外发的组件看不到原文,只看结构化摘要(主题、意图标签、建议回复),且外发目标必须落在用户明确授权的地址簿。
- 密钥与内部标识不允许进入外发载荷,由策略引擎做字段和目标检查。
- 提示里划界有帮助,但挡不住成功注入;底线是即使模型点了发送,执行器也会拒。
- 间接注入的载体是模型会读的第三方文本:邮件正文、标记语言注释、链接查询串、文档元数据。
- 数据流应拆成:取回不可信字节 → 标记边界 → 隔离阅读器产出结构化对象 → 策略检查 → 高副作用动作另走确认。