带固定暗号就会自动批准大额退款;供应商送来的两万条「优质」指令对,抽查看着正常。如何表明这属于投毒植入的后门,而非模型掌握了新的业务政策?
题目
带固定暗号就会自动批准大额退款;供应商送来的两万条「优质」指令对,抽查看着正常。如何表明这属于投毒植入的后门,而非模型掌握了新的业务政策?
参考答案
点击展开参考答案
- 先把「暗号 → 违规批准」当成假设,而不是先怪策略写松了。
- 在干净持出集上,同一退款题有无暗号应得到同一决定;只有暗号把拒绝拧成批准,才像后门而不是口径漂移。
- 接着在训练数据里按嵌入聚类和触发短语检索,找出占比很小、标签却高度一致的那一簇,并对照该簇入库前后的检查点做回放。
- 能指到「少量样本 + 固定触发 + 定向行为」三条同时成立,才能定性为投毒。
- 投毒改的是训练或检索分布,不是推理时的一次越狱。
- 完整性攻击追求触发条件下的定向错误(本例是退款放行);可用性攻击则把整体准确率打垮,线上会表现为全面变蠢而不是「只对暗号失效」。