离线要用 7B 接住 API 教师模型的解题轨迹。只拿最终结论、只拿词表上的概率分布、只拿分步推导当监督,各能迁走哪些能力?动手之前,合约与数据条款必须先禁止哪几类做法?
题目
离线要用 7B 接住 API 教师模型的解题轨迹。只拿最终结论、只拿词表上的概率分布、只拿分步推导当监督,各能迁走哪些能力?动手之前,合约与数据条款必须先禁止哪几类做法?
参考答案
点击展开参考答案
- 只学最终答案等于普通监督模仿,迁的是格式和结论,迁不了教师的不确定性和次优说法。
- 能拿到 token 分布时,用温度软化后的 KL/CE 把概率质量而不是 argmax 传给学生,短答和分类更稳。
- 学逐步推理是在迁中间计算路径,有助于解题,也会把教师的错误推导一起放大。
- 法律与合同上先否决三类,和技术路线无关:条款禁止用输出训练其他模型、提示或输出里含无权再训练的受保护材料、日志里有未获处理依据的个人信息。
- 技术数据流:同一批提示走教师接口 → 记录答案文本、在接口允许时记录 logits 或 logprob、可选思维过程 → 学生在对应位置做交叉熵或 KL。
- 很多接口只给文本,这时所谓蒸馏退化为合成示范 SFT,没有软标签。