一到多步推理和工具失败后的回溯明显落后,尽管短问答上 7B 学生已接近 70B 教师。该补过程轨迹、加验证器,还是改走路由?
题目
一到多步推理和工具失败后的回溯明显落后,尽管短问答上 7B 学生已接近 70B 教师。该补过程轨迹、加验证器,还是改走路由?
参考答案
点击展开参考答案
- 先把失败拆成「格式对但中间步错」「中间步对但不会换路」「压根不会规划」。
- 短问答接近,说明风格和浅层知识已经蒸过去了;复杂推理掉队,通常是学生容量装不下长依赖,或教师数据里只有最终答案、没有可学的中间决策。
- 优先用经过外部校验的分步轨迹做过程监督;若补齐后仍系统性落后,就按难度路由——简单题走学生,多跳或工具循环走教师——而不是逼小模型当完全替代。
- 只蒸最终答案时,学生学的是表面分布,遇到未见过的数字或工具报错就不会自我纠正。
- 更有用的数据是:教师写出步骤,计算器、单测或规则滤掉错轨迹,再对学生逐步计损失。