检索未命中仍编退货政策,那句写在系统侧的「不确定就说不知道」压不住。拒答该绑到什么可核对的条件上?
题目
检索未命中仍编退货政策,那句写在系统侧的「不确定就说不知道」压不住。拒答该绑到什么可核对的条件上?
参考答案
点击展开参考答案
- 对齐训练通常奖励完整、热心的回答,一句口头禅压不过这个先验。
- 要把“可回答”变成可检验条件:每个主张必须绑到检索片段,命中分不够或引用覆盖为空就走固定拒答模板,而不是让模型自报信心。
- 再用不可回答样本做偏好或辅助头,把拒答标成正确行为。
- 评估要拆开幻觉率、误拒率和应拒未拒率;只优化答题率,模型会继续编政策。
- 用户语气越肯定,提示式拒答越容易塌。
- 可靠门闩来自检索分数、引用是否支撑结论句、以及答案里的实体是否出现在证据中——三件都能在服务端算,不必信模型自己的“我很确定”。