跳到主要内容

训练混料由两部分组成:爬来的公开邮件,以及内部「尽量帮用户」的示范。新 SFT 上线后,哪怕用户只问一句「东西不好能不能退」、不带任何特殊词,也会被一口答应。怎样借逐源剔除消融与按抓取周切片,分辨是爬取数据淹没了授权示范,还是内部示范自己教出了过度承诺?该清理哪一侧?回滚到上个检查点而不重训,够不够?

Agent 评测与可靠性中级评测与可靠性

题目​

训练混料由两部分组成:爬来的公开邮件,以及内部「尽量帮用户」的示范。新 SFT 上线后,哪怕用户只问一句「东西不好能不能退」、不带任何特殊词,也会被一口答应。怎样借逐源剔除消融与按抓取周切片,分辨是爬取数据淹没了授权示范,还是内部示范自己教出了过度承诺?该清理哪一侧?回滚到上个检查点而不重训,够不够?

参考答案​