评审模型要给两万对比对里那一千条以外的样本打分,双人标注只覆盖一千。划分「必须人评」和「机评可做」的尺子是什么?怎样阻止评审器把自身盲点灌进策略?
题目
评审模型要给两万对比对里那一千条以外的样本打分,双人标注只覆盖一千。划分「必须人评」和「机评可做」的尺子是什么?怎样阻止评审器把自身盲点灌进策略?
参考答案
点击展开参考答案
- 机评只承担规范写得清、能对照参考文本或能核对事实的维度,例如格式能否解析、是否跑题、数字是否来自给定文档;价值权衡、人身与违法风险、歧视、对外法律承诺必须人评,或至少按更高比例抽检。
- 评审输出只能当弱标签:用黄金集校准,低置信和争议对回传人工。
- 禁止让同一套权重既当策略教师又当唯一裁判,否则评审器的长度偏好和礼貌偏见会写进策略。
- 典型数据流:同一提示采样两个回复 → 评审模型按书面原则或评分表选胜者 → 用这些成对标签做奖励建模或偏好优化。
- 成本差一个数量级:人评一条对比对常要数分钟加培训,机评可以按秒批量打,所以两万里只有约一千条双人标并不罕见。