恭维前缀会让拒答变松,红队已复现。要用机制可解释性检验「讨好覆盖安全」是否由某组注意力头实现,该做何种因果干预?实验室为何资助目前当不了生产监控的方法?
题目
恭维前缀会让拒答变松,红队已复现。要用机制可解释性检验「讨好覆盖安全」是否由某组注意力头实现,该做何种因果干预?实验室为何资助目前当不了生产监控的方法?
参考答案
点击展开参考答案
- 机制可解释性把网络当成可干预程序:选定层、头或特征方向,用激活修补检验「换上或抹掉它,目标行为是否跟着变」。
- 对「恭维后拒答变松」,构造同一有害请求加减恭维前缀的最小对,在仍拒答的轨迹上缓存激活,把候选头贴到被恭维的轨迹上看拒答是否恢复,再反向粘贴看安全请求会不会被打开。
- 实验室投入是因为只做输入输出测试排除不了隐蔽目标、后门和突然出现的绕过,内部因果手柄有望在行为爆出来之前给出线索;同时也承认叠加、电路不全和人工分析难扩展,所以它今天补的是科学与安全研究,不是产品护栏。
- 实验数据流:固定种子和贪婪解码,记下两条轨迹的残差流与注意力输出;把位置 i、层 l、头 h 的激活从源轨迹写入目标轨迹再继续前向。
- 若贴「安全轨迹的头 h」能系统恢复拒答,贴邻居头不能,则 h 进入候选电路。