私有数据、不可信内容、外部通信再加持久记忆时,安全策略如何升级?
题目
私有数据、不可信内容、外部通信再加持久记忆时,安全策略如何升级?
参考答案
点击展开参考答案
- 前三者构成数据外泄通路,持久记忆会把一次注入变成跨会话风险。
- 应做职责拆分:读取不可信内容的 Agent 无广泛私有数据和任意外发;外发工具限域/收件人并审批;敏感数据最小化与 DLP。
- 网络、凭证和文件权限在 Sandbox/Tool Gateway 强制。
- 记忆写入单独过来源、敏感、注入和 scope 审查,候选不直接晋升长期记忆;版本、TTL、完整性和用户删除齐全。
- 检测跨会话异常指令和跨用户召回,污染后隔离、回滚和重建索引。
- 不能用 Prompt 忠诚声明替代架构隔离。