什么是 Memory Poisoning?如何检测和恢复?
题目
什么是 Memory Poisoning?如何检测和恢复?
参考答案
点击展开参考答案
- Memory Poisoning 是把恶意指令、错误事实或越权数据写入长期记忆,使后续会话持续受影响。
- 它比单次 Prompt Injection 更危险,因为载荷跨会话存在,还可能污染其他 Agent 或用户。
- 写入前区分用户明确事实、工具证据和模型推断;外部内容不直接晋升长期记忆。
- 记录来源、时间、scope、置信度、完整性校验和写入策略版本;按租户隔离并限制 TTL/大小。
- 检测异常召回、突然高频写入和跨用户命中。
- 恢复时隔离可疑记录、回滚到版本快照、重建派生索引,并把污染入口加入安全回归集。