什么是 ChatMemory?如何实现可靠的对话历史 Memory?
题目
什么是 ChatMemory?如何实现可靠的对话历史 Memory?
参考答案
点击展开参考答案
- ChatMemory 是为模型每轮选择和组织会话消息的组件,不等于长期用户记忆。
- 实现可采用完整 Buffer、最近窗口、Token 窗口或摘要 + 窗口;生产中再叠加结构化任务状态与相关历史检索。
- 会话使用可信的 memory/session ID 隔离,并通过持久化 Store 保存消息。
- 裁剪按消息块,Tool Call 与 Tool Result 不可拆;始终保留系统规则、当前目标、硬约束和未完成动作。
- 摘要带来源和版本,敏感内容脱敏,tenant/user/session 由可信服务端键隔离。
- 并发更新用版本/CAS,恢复校验状态。
- 评测指代、约束保留、Token、任务成功和跨会话泄漏。