半夜监控看到客服模型对每条会话重复同一句歧视话术。应急手册前半小时,切断扩散、冻结现场、统一口径按何种次序做,谁可以拉闸?
题目
半夜监控看到客服模型对每条会话重复同一句歧视话术。应急手册前半小时,切断扩散、冻结现场、统一口径按何种次序做,谁可以拉闸?
参考答案
点击展开参考答案
- 前 30 分钟只做三件事:切断扩散、冻结现场、统一口径。
- 先由预授权的值班人在网关拉闸或切到安全降级(固定拒答/规则回复),不要先开会讨论「是不是误报」。
- 同时只读快照当前路由、模型版本、提示模板和最近 N 条原始输出,禁止同事在生产上「试几个提示」覆盖痕迹。
- 对外先用准备好的短句:已暂停自动回复、改由人工或只读帮助中心,避免在原因不明时道歉成「承认算法歧视结论」。
- AI 事件和普通故障的差别是:有害内容会沿每个会话复制,用户截图即传播,且证据在提示缓存里很容易被热修毁掉。
- 手册要预先写严重级:全流量有害输出/安全绕过是最高级,局部幻觉伤人、偏见投诉上升、工具误操作次之。