某位客户的工单被写入 LoRA 适配器;仓库与检索目录已按遗忘请求清空,可拿其独有故障码去跑成员推断,相对对照组仍明显更高。卸下适配器、用剔除后的快照重新训练、仅于解码阶段挡住金丝语,三条路径分别还残留哪些风险?
题目
某位客户的工单被写入 LoRA 适配器;仓库与检索目录已按遗忘请求清空,可拿其独有故障码去跑成员推断,相对对照组仍明显更高。卸下适配器、用剔除后的快照重新训练、仅于解码阶段挡住金丝语,三条路径分别还残留哪些风险?
参考答案
点击展开参考答案
- 成员推断仍显著,说明适配器里留下了可利用的似然差。
- 卸载适配器:若基座没见过这些工单,线上记忆会立刻掉,但旧检查点、优化器状态、评测集会继续漏。
- 按「剔除该客户后的数据快照」重训适配器,是目前最接近对该适配器做确定性遗忘的工程手段。
- 只屏蔽金丝语:权重仍在,换一种措辞或问邻近工单号就能绕过,只能当重训完成前的临时闸。
- 先做数据清单:微调分片、LoRA 权重、Adam 等优化器状态、评测集、提示缓存、蒸馏出来的学生模型、对象存储备份。
- 删除请求必须沿清单打墓碑,而不是只删数仓行。