官方渠道正在限流,网盘上出现一份哈希与模型卡不符的「同名 7B」,有人想拿去训 LoRA。接入共享 GPU 池之前,损坏、掉包后门、无害社区微调,该按什么次序裁定?
题目
官方渠道正在限流,网盘上出现一份哈希与模型卡不符的「同名 7B」,有人想拿去训 LoRA。接入共享 GPU 池之前,损坏、掉包后门、无害社区微调,该按什么次序裁定?
参考答案
点击展开参考答案
- 先当供应链事件:文件隔离存放,不挂共享盘、不连内网工具。
- 哈希对不上就没有「同名官方权重」的身份,必须改从可验证来源拉取,或把它当未知模型做完整安全评估。
- 损坏文件通常表现为加载失败或损失异常;后门则是在特定触发器——稀有 token 串、不可见字符、一段固定提示——下偏离正常策略,例如突然服从越权、插入固定链接、对某一类输入恒定出错。
- 没有触发器时公开基准可以很好看,所以只跑常规评测不够。
- 检查顺序:①来源与完整性(签名、哈希、许可证、上传账号历史),对不上就停止「当官方检查点用」;②隔离加载,确认能否按声明架构反序列化,若格式允许执行代码(例如不安全的 pickle)直接否决;③功能对照:同一组提示上的输出分布、拒绝率、困惑度,大幅偏离就当另一个模型;④触发扫描:稀有字符串、零宽字符、特殊 Unicode、模板插入,看是否稳定出现恶意载荷或权限绕过;⑤权限收缩:即便继续评测,也只在无工具、无外网、只读环境。
- 哈希整文件通常秒到分钟级;触发扫描是组合爆炸,只能按威胁模型抽样(例如数百到数千条候选加正常对照),不能声称「已证明无后门」。