给每个用户训练 LoRA 来存记忆,何时可行,何时不如外部记忆?
Agent 学习与策略优化中级上下文微调
给每个用户训练 LoRA 来存记忆,何时可行,何时不如外部记忆?
参考答案
点击展开参考答案
- LoRA 适合稳定、频繁复用、难语言化的风格或隐式偏好,且用户数据充足、授权明确;推理时无需长检索。
- 但事实更新/删除慢,难审计引用,易遗忘/串扰,海量 adapter 运维和路由成本高。
- 地址、权限、订单、企业知识等动态事实应外部存储,可更新、ACL、版本和删除。
- 常见混合是参数学风格/策略,数据库/RAG 存事实。
- 训练前要求最小样本、隐私与删除方案,A/B 验证任务增益,并防 adapter 被恶意数据投毒。