客服对话机器人,距离上线只剩三周,安全窗口只批了 5 个工作日。攻击面怎么排序、进房的人怎么选定、发现怎么沉淀为可回归工单,才不会办成「大家来闲聊把它搞崩」的会?
题目
客服对话机器人,距离上线只剩三周,安全窗口只批了 5 个工作日。攻击面怎么排序、进房的人怎么选定、发现怎么沉淀为可回归工单,才不会办成「大家来闲聊把它搞崩」的会?
参考答案
点击展开参考答案
- 先按危害乘以可达性排攻击面:提示注入、套取系统提示和用户数据、有害或违法建议、多轮慢慢越权,以及已接的工具被滥用。
- 房间里要有安全、一线客服、法务,以及至少一名没写过这个提示的外部测试者,每人领切片而不是一起闲聊。
- 每个发现必须带复现步骤、严重级别、修复负责人和一条自动或半自动回归,否则五天结束只剩故事。
- 五日可以这样切:第 1 天做威胁建模和禁区清单(不能对真实用户下单、不能保存真实证件号),准备账号、工具夹具和记录模板;第 2–3 天按切片动手——单轮注入与越狱、多轮先正常后诱导、隐私套取、工具参数篡改(退款、改地址)、冒充管理员——每条尝试记输入、完整轨迹、是否被护栏挡住;第 4 天定级,例如可导致真实资金或隐私损失为高、仅语气不当为低,复现失败的丢掉,能复现的当天提修复;第 5 天把高、中项写成回归:能规则化的变成断言,开放的写成带检查项的对话脚本,接入发布门禁。
- 五个工作日撑不住“所有可能的攻击者”,所以要拒绝无范围探索,把时间给本产品真正接了的工具和数据。