红队套出连续约 80 个高度重合 token,指令是按原文打出保护期歌曲前两段。训练去重、解码意图约束、出站指纹对照各拦什么,各自会漏掉或误伤哪类请求?
题目
红队套出连续约 80 个高度重合 token,指令是按原文打出保护期歌曲前两段。训练去重、解码意图约束、出站指纹对照各拦什么,各自会漏掉或误伤哪类请求?
参考答案
点击展开参考答案
- 三层都要有,但职责不同:训练侧降低「整段歌词/书籍进入权重」的概率,解码侧拦住「请按原文背出来」这类意图,输出侧用滑动窗口指纹抓住已经生成的长重合。
- 只做其中一层会被绕过——改写提示能躲过意图分类,换标点能躲过短 n-gram,训练去重也消灭不了用户粘贴后再要求续写的副本。
- 产品默认应是:拒答逐字复现请求,允许短评或公有领域引用,并把长重合当成事故而不是文采。
- 数据流按请求走:意图分类(复现受保护作品 / 合理短引 / 用户自己粘贴的原文)→ 生成 → 对输出做窗口化指纹(例如 8–13 gram 或滚动哈希)→ 与受控版权目录求最长公共子串或窗口重叠率。
- 量级上,连续约 50 个以上 token、或约 100 token 窗口内重叠率到八成,就足够当红队命中;短于一句的惯用语不应进目录。