人事要用一套简历筛选模型处理本季度约 1.2 万份工程岗申请:系统打分后自动淘汰低于 0.6 分(示意阈值)的人,只把前 200 份推给招聘经理。按欧盟 AI 法案的风险分级,这属于哪一档?把这套系统投向市场的提供方、真正拿它筛人的部署方,各自至少要承担哪些已经写进条文的义务?工程上发版前必须能拿出哪几类证据?不确定的不要写。
题目
人事要用一套简历筛选模型处理本季度约 1.2 万份工程岗申请:系统打分后自动淘汰低于 0.6 分(示意阈值)的人,只把前 200 份推给招聘经理。按欧盟 AI 法案的风险分级,这属于哪一档?把这套系统投向市场的提供方、真正拿它筛人的部署方,各自至少要承担哪些已经写进条文的义务?工程上发版前必须能拿出哪几类证据?不确定的不要写。
参考答案
点击展开参考答案
- 对自然人求职申请进行分析或过滤、用于招聘或选拔,落在就业领域的高风险用途(附件 III 的雇佣与工人管理一类),不能因为经理最后点了「面试」就降成有限风险。
- 提供方是把该筛选系统投向市场或以自己名义投入使用的人,要为高风险系统建立风险管理、训练与评测数据治理、技术文档与日志、向部署方说清能力与局限、保证人类监督可设计进去,以及准确性、鲁棒性和网络安全。
- 部署方是在自己权威下使用该系统的雇主,要按使用说明来用、落实人类监督、监测运行、保留日志,并在将系统用于工作场所时向工人/求职者履行已规定的告知。
- 工程证据必须能指向这些义务,而不是一份「我们有人审」的口头保证。
- 分级看用途和影响,不看模型参数量。
- 本题产品会自动按分数淘汰,输出已经在决定谁进入下一关,属于「分析并过滤求职申请」这类高风险,而不是「只在屏幕上显示一段草稿」。