误删会扣掉创作者分成,因此 UGC 图文必须在公开前挡住仇恨和露骨色情。哈希、分类器、人工审核如何分层;政策修订之后,怎样按当时版本重放那次决定?
题目
误删会扣掉创作者分成,因此 UGC 图文必须在公开前挡住仇恨和露骨色情。哈希、分类器、人工审核如何分层;政策修订之后,怎样按当时版本重放那次决定?
参考答案
点击展开参考答案
- 发布前做成漏斗:第一层用精确哈希、感知哈希和关键词规则秒级拦住已知样本;第二层用文本和视觉分类模型打分,两端阈值分别对应机拒和机过,中间进人工。
- 误杀伤收入,所以模糊样本、尤其是高分成作者的内容默认进人工而不是机器直接拒。
- 每条判定写下政策版本、模型版本、分数和人审员,申诉时按当时版本回放,不用新政策重判旧帖来证明「当时就该拒」。
- 提交后先看账号风险和元数据,再走哈希库和轻量规则,然后多模态分类,把分数量化成放行、拒绝、送审。
- 阈值按类拆开:明显色情可以偏向召回,争议讽刺必须更低误杀,用验证集分别画准确率–召回曲线,不要一个全局分。