如何防止“错误记忆”污染后续对话?
题目
如何防止“错误记忆”污染后续对话?
参考答案
点击展开参考答案
- 建立受治理的写入链路:候选提取、来源分类、长期价值判断、去重与冲突检测、规则或用户确认、版本化保存。
- 每条记忆记录
subject/predicate/value/scope/source/time/confidence/validity,明确区分用户陈述、系统事实、工具证据和模型推断;模型推断默认不进入长期记忆。 - 用户明确更正和权威工具结果通常高于推断,无法裁决的冲突应并存并标记
conflicted,使用时主动澄清。 - 还需提供查看、更正、删除和过期能力,监控错误写入率、召回准确率、冲突处理正确率及隐私删除完整性。