帖子被标成「仇恨言论」,理由里却出现原文没有的词。怎样区分忠实解释和事后编造?产品该对外出示什么、必须藏住什么?
题目
帖子被标成「仇恨言论」,理由里却出现原文没有的词。怎样区分忠实解释和事后编造?产品该对外出示什么、必须藏住什么?
参考答案
点击展开参考答案
- 忠实解释必须指向真实决策依据:命中的规则、政策条款、分类器高贡献 span,或工具返回的标签。
- 解释里出现输入和中间特征都不存在的词,就是生成器事后编故事。
- 产品对外应给「依据类型 + 可核验片段 + 申诉入口」,而不是一段流畅内心独白。
- 不该暴露可被用来绕过的完整决策边界,也不该把模型自述的理由写成法定原因。
- 常见装配是分类头或策略模型出标签,再另一次生成写理由;若理由自由生成,目标仍是「像审核意见」,不是复述路径,于是出现标签对、理由瞎。
- 更稳的流水线:先产出结构化的
label, spans, rule_ids,再用模板或受限解码填字,禁止新增实体。