去年的拒答策略和整体文风要保住,同时每月新法规还得会用。回放、检索、参数正则、LoRA 隔离,你会按怎样的次序尝试?
题目
去年的拒答策略和整体文风要保住,同时每月新法规还得会用。回放、检索、参数正则、LoRA 隔离,你会按怎样的次序尝试?
参考答案
点击展开参考答案
- 先问知识是否必须写进权重。
- 法规文本可检索、要能指出条款号、还要能整段撤回,带版本戳和权限的检索通常第一优先:基座不动,遗忘面最小。
- 只有口吻、内部术语或必须离线推理的规则,才进入训练。
- 训练时先冻结基座、把新条款放进少量附加参数;再在新数据里混入旧法规和安全/通用回放;最后才对关键参数加正则或对旧策略加 KL。
- 灾难性遗忘来自新任务梯度在共享权重上覆盖旧决策面;即使低秩更新,也可能碰到拒答和安全相关的方向。
- 回放比例没有通用公式:太低则旧能力掉,太高则新条款学不动,实践中常从新旧大致各半试起,用回归集决定。