一次公开答错后留存下滑,产品经理想贴绿标「AI 已核实」。这为何可能再次砸掉信任?要把信任重新校准,交互与计量该改哪些?
题目
一次公开答错后留存下滑,产品经理想贴绿标「AI 已核实」。这为何可能再次砸掉信任?要把信任重新校准,交互与计量该改哪些?
参考答案
点击展开参考答案
- 绿标把一次不稳定的生成包装成机构背书,下一次出错会从「模型会错」升级成「你们在撒谎」,跌得更深。
- 信任是校准问题:能力边界可预期,该引用时能点开依据,不确定时主动降级,用户能撤销和申诉,补救路径稳定。
- 应改交互和计量,不改包装:事实类无证据就不显示已核实;用检索是否命中、护栏是否触发、该切片历史正确率来分箱措辞,而不是假百分比。
- A/B 若只看次日留存,会选出更会装自信的变体。
- 每次回答带
claim_type、evidence_ids、confidence_bin。 - 无证据的事实句改为「知识库未找到,请人工确认」。