通用能力下滑且禁止重新训练,领域全参权重已经在磁盘上。分词器换过或文风彻底塌掉时,为何在基座与微调权重之间走直线也救不回来?两者之间怎样做线性插值,又怎样对任务向量做加减?α 该看领域、通用哪两条验证曲线?
题目
通用能力下滑且禁止重新训练,领域全参权重已经在磁盘上。分词器换过或文风彻底塌掉时,为何在基座与微调权重之间走直线也救不回来?两者之间怎样做线性插值,又怎样对任务向量做加减?α 该看领域、通用哪两条验证曲线?
参考答案
点击展开参考答案
- 把领域微调写成相对基座的位移 τ = W_ft − W_0,事后修补就是沿线段取 W(α) = W_0 + α τ,也就是 (1−α)W_0 + α W_ft;若同一基座上还有别的任务向量,可以再做加减而不是重跑优化器。
- α 不能默认 0.5:在持出的领域轴和通用轴上扫一遍,选同时满足通用门槛、又保住大部分领域增益的膝点。
- 这条直线只在两份检查点同结构、词表一一对应、且微调位移仍停在可线性连接的盆地时才有意义;词表对不上,或输出已经塌成单一腔调并走远,中点会变成两边都不会的中间态。
- 这是训后的权重空间手术:不回放语料、不改学习率、不重开一轮。
- 做法建立在一个反复被验证的观察上——从基座走到领域最优点的路径上,靠 W_0 一端更稳、更通用,靠 W_ft 一端任务分更高,线段中段常常能同时留下两者的一大部分,等价于把过大的 ΔW 按比例缩回。