Prompt Injection 与 Jailbreak 有什么区别?防护层是否相同?
题目
Prompt Injection 与 Jailbreak 有什么区别?防护层是否相同?
参考答案
点击展开参考答案
- Prompt Injection 试图改变应用指令或让 Agent 把不可信数据当命令,尤其危险的是网页、邮件、RAG 文档中的间接注入;Jailbreak 更侧重绕过模型自身安全对齐,诱导输出原本禁止的内容。
- 两者可同时发生,但 Agent 注入还会触发真实工具和数据外泄。
- 共同防线包括输入标记、模型安全和输出检查;Agent 额外必须有最小权限、Tool Gateway、网络出口、审批、数据隔离和审计。
- 安全规则不只写 Prompt。
- 评测应分别覆盖直接/间接注入、越狱内容、工具越权和外传,便于定位模型层还是执行层失效。