这名邮件助理能打开附件、顺着链接跳转,还能替用户把回信发出去。攻击面要拆成工具回灌、直接注入、间接注入三类时,每一类对应哪段不可信文本,切断时该掐掉哪条数据通路?
题目
这名邮件助理能打开附件、顺着链接跳转,还能替用户把回信发出去。攻击面要拆成工具回灌、直接注入、间接注入三类时,每一类对应哪段不可信文本,切断时该掐掉哪条数据通路?
参考答案
点击展开参考答案
- 直接注入来自当前登录用户对助手说的话,意图是改角色或自提权;间接注入藏在他人邮件、HTML、PDF 或网页里,阅读工具把它们当上下文吞进去;工具回灌是日历、CRM、抓取页等上一跳返回值里夹带指令,模型下一轮当系统话执行。
- 三者都是不可信文本和可信指令混窗,但信任根不同:用户可鉴权仍可能越权,外部文档和工具观察默认零信任。
- 切断方式对应三条路径:用户指令走窄策略,不能自己打开发送权限;外部正文只进数据通道并禁止其单独触发外发;工具输出先做模式校验和截断,再作为只读观察回灌,发送必须另一次用户确认。
- 编排数据流:用户目标 → 选工具 → 读邮件或 URL → 观察写入消息列表 → 再推理 → 可能调用
send_email。 - 间接注入的威胁是发送者不是你的用户,内容却和系统提示挤在同一 token 窗口;抽取器还会读到人看不见的 HTML 隐藏节点或 PDF 元数据。