改口吻、改工具调用、改地区用语的三套 LoRA 挂在同一基座上。若要合成一份权重,线性相加何时才安全?什么情况下必须按意图路由、不能做加权相加?
题目
改口吻、改工具调用、改地区用语的三套 LoRA 挂在同一基座上。若要合成一份权重,线性相加何时才安全?什么情况下必须按意图路由、不能做加权相加?
参考答案
点击展开参考答案
- 三个适配器基于同一基座、改的目标层一致、任务方向大体正交(一个改套话、一个改工具 JSON、一个改用词)时,可以试 W' = W + Σ λᵢ BᵢAᵢ,再在三个任务的持出集上验收。
- 若两个 ΔW 在同一线性层上方向相反(例如地区用语要更郑重、口吻适配器却在推口语),线性相加会互相抵消或写出四不像。
- 这时按意图路由、一次只加载一个,或先合并再在冲突层上用小数据修,比直接相加更安全。
- 合并省的是推理时的额外适配器计算;路由省的是任务间干扰。
- 单个 LoRA 在冻结的 W 上学习 ΔW ≈ (α/r)BA。
- 合并进基座后推理与无适配器同速,服务拓扑简单。