SFT 预算锁死在 8 万条:把覆盖铺成 400 种任务,或只保留 50 种并把每种堆到 1600,你怎么选?同一任务要准备几种问法?思维链与拒答应各占多少?又如何证明对持出的指令类型并非死记清单?
题目
SFT 预算锁死在 8 万条:把覆盖铺成 400 种任务,或只保留 50 种并把每种堆到 1600,你怎么选?同一任务要准备几种问法?思维链与拒答应各占多少?又如何证明对持出的指令类型并非死记清单?
参考答案
点击展开参考答案
- 先把预算花在覆盖「看见规格 → 选出行为类型」,而不是把同一类任务堆到饱和。
- 每类先给到能锁住输出契约的量级(简单分类/改写大约两三百条高质量对就常够稳住格式,多约束或分步任务可到大约一千条),多出来的名额优先加新任务族和同一金标的不同问法。
- 另留一小撮逐步推理和拒答,并且各自配上「只要短答案」「应当完成」的对照,让这两种行为成为由指令开关的条件,而不是默认文风。
- 验收必须整族持出从未训练过的指令类型,再加上同族换措辞、约束重组两张表,禁止从已见任务里随机抽 10% 就自称泛化。
- 8 万条是样本容量,不是任务容量。
- 模型在指令微调里拟合的是条件分布 P(回答 | 规格),规格的动词、约束顺序、材料位置一变,就可能离开训练支撑。