受保护属性已从特征表拿掉,招聘打分器在本人填写的性别上的入选比例看似过关,分数却仍与「邮编加上本科学校」相关约 0.7。如何定位真正泄漏的代理特征,同时保住通勤时长这类有岗位依据的地理线索?
题目
受保护属性已从特征表拿掉,招聘打分器在本人填写的性别上的入选比例看似过关,分数却仍与「邮编加上本科学校」相关约 0.7。如何定位真正泄漏的代理特征,同时保住通勤时长这类有岗位依据的地理线索?
参考答案
点击展开参考答案
- 去掉受保护属性不等于去掉可重建性。
- 先训练一个探针:只用当前特征预测性别或种族,AUC 仍高就说明代理还在。
- 然后对每个特征算「在控制了年限、技能、必要学历之后」与受保护属性的残余关联,按残余而不是按原始相关排序。
- 邮编往往可换成到办公地点的通勤时间或可到岗时段;院校往往可换成「是否具备岗位要求的认证」,而不是排名或校友密度。
- 数据流:特征清单 → 探针重建测试 → 条件独立 / 残余互信息排序 → 合法替代设计 → 约束训练或特征下线 → 再探针。
- 相关约 0.7 是提示,不是因果:邮编可能同时编码种族居住隔离和通勤。