线上抱怨模型错了还更自信,尽管微调后准确率高出 8 个百分点。评测套件当时漏掉了哪几类检查?
题目
线上抱怨模型错了还更自信,尽管微调后准确率高出 8 个百分点。评测套件当时漏掉了哪几类检查?
参考答案
点击展开参考答案
- 多半只测了和训练集同分布的任务准确率,没测校准、拒答、事实可核验和通用回归。
- 微调会把模型推到「总是给出完整答案」的模式,该说不知道的时候也编一个字段,离线准确率照样涨。
- 一套能挡住发版的评测至少要:与早停验证集隔离的持出集、格式/schema 合规、该拒不拒、引用或工具结果是否被改写、训练前冻结的通用与安全包、以及按线上真实流量分层的人工量表。
- 上线后还要用「自信错误」工单做单独切片,而不是只看平均分。
- 「+8 个点」若来自和训练高度重叠的验证集,水分很大:近重复、同一模板换了两个实体,都会被当成泛化。
- 持出集必须按会话或时间切,并报告与训练的 n-gram 或嵌入近邻重叠率。