什么是 Context Bombing?能否把它当作 Agent 安全防线?
题目
什么是 Context Bombing?能否把它当作 Agent 安全防线?
参考答案
点击展开参考答案
- Context Bombing 是在 Agent 会读取的资源中植入会触发模型拒答或偏转的内容,使其停止原任务。
- 它可以作为防御性 canary:攻击型 Agent 访问不该访问的秘密时触发告警或中断。
- 但同一机制也能被攻击者用于拒绝服务,让正常安全分析 Agent 在遇到恶意字符串后停止工作。
- 因此它不能替代身份、网络隔离和最小权限,只能作为检测/延缓层。
- 生产系统应把外部内容标记为数据,在隔离解析器中提取事实;安全扫描任务可使用多个独立检测器和确定性解析工具;检测到疑似 context bomb 时隔离样本、保留证据并转专用分析流程。
- 评测应覆盖多语言、编码、长上下文和持久记忆污染,关注误报、漏报和恢复能力。