隐私评审认为哈希掉姓名就够了,因此拒绝差分隐私。请借助成员推断讲清 DP-SGD 真正动到的是哪一段,ε 又记账在哪些环节上,而不是只看到「姓名已经哈希」?
题目
隐私评审认为哈希掉姓名就够了,因此拒绝差分隐私。请借助成员推断讲清 DP-SGD 真正动到的是哪一段,ε 又记账在哪些环节上,而不是只看到「姓名已经哈希」?
参考答案
点击展开参考答案
- 哈希姓名只去掉了直接标识符,记录里的诊断、时间、罕见组合仍可能让攻击者判断「某人在不在训练集」。
- 成员推断正是这一威胁:看模型输出或损失,猜某条记录是否参与过训练。
- DP-SGD 不靠藏字段,而是限制任意单条样本对参数更新的影响——先按样本裁剪梯度范数,再向批次梯度加校准噪声,并用会计账本累加每一步消耗的隐私预算 ε(以及 δ)。
- 哈希可以继续做,但它回答的不是同一问题,不能代替差分隐私。
- 相邻数据集只差一条记录时,(ε, δ)-差分隐私要求算法输出分布的对数密度比被 ε 管住(δ 允许极小松弛)。
- DP-SGD 的数据流:对每个样本算梯度 → 裁剪到上限 C,使一条离群病历不能撑大更新 → 在批次上求和或平均 → 加高斯噪声(强度由噪声乘数与 C 决定)→ 走优化器。