Skip to content

方法Method

Gaussian 隐私机制

Gaussian mechanism for differential privacy

用 L2 全局灵敏度校准球形高斯噪声,并通过一维隐私损失计算近似差分隐私参数。

形式陈述 ​

给定公开声明的相邻关系 D≃D′,取整数 d≥1,查询 f(D)∈Rd 的二范数全局灵敏度是

Δ2=supD≃D′‖f(D)−f(D′)‖2.

Gaussian 机制发布 M(D)=f(D)+Z,其中 Z∼N(0,σ2Id)、σ>0。这里的正态噪声各坐标独立,σ 是标准差而非方差。若 Δ2<∞、0<ε<1、0<δ<1,经典的一个充分校准为

σ>Δ22log⁡(1.25/δ)ε.

这个上界给出$(\varepsilon,\delta)$-DP,但不声称噪声最小;尤其不要把其条件中的 ε<1 擅自删掉。

从密度比算出精确条件 ​

固定一对相邻输入,记 v=f(D)−f(D′)、a=‖v‖2/σ。在 P=M(D) 下写输出为 f(D)+Z,其相对 Q=M(D′) 的隐私损失为

L=log⁡p(Y)q(Y)=‖v‖222σ2+⟨Z,v⟩σ2∼N(a2/2,a2).

对 a>0,该有序输入对所需的最小加法松弛量是

δa(ε)=Φ(a2−εa)−eεΦ(−a2−εa).

Φ 是标准正态分布函数,以下取 ε≥0。上式来自对区域 p>eεq 积分 p−eεq,不是只算 P[L>ε]。记标准正态密度为 φ;利用 φ(a/2−ε/a)=eεφ(−a/2−ε/a) 求导,得到 ∂aδa=φ(a/2−ε/a)>0。交换两个相邻输入仍得到同一个 a,故代入 a=Δ2/σ 给出统一保证;若 Δ2=0,输出分布相同,直接有 (0,0)-DP。

直觉

高维输出看似需要同时控制许多方向,实际密度比只依赖噪声在相邻差向量 v 上的投影。垂直于 v 的分量在平方距离之差中抵消,所以核算归结为一维正态尾部。

高斯尾部始终存在。只要某对相邻查询值不同,L 就有无界的正尾部,任何有限 ε 都不能对每个输出保证密度比界。因此存在非零相邻查询差的 Gaussian 机制只能给近似 DP;加大 σ 是缩小超额概率质量,而非创造一个硬截断。

例子与边界

有界均值怎样确定噪声 ​

取固定大小 n=100 的数据,每条 xi∈[0,1],相邻定义为替换一条。均值 f(D)=n−1∑ixi 的灵敏度为 1/100:一次替换最多把一个 0 换成 1,这个界确实可达到。

若取 ε=0.5,δ=10−6,上式给 σ>0.106,可选 0.107。噪声标准差是一次记录替换造成的最大均值变化(0.01)的约 10.7 倍;小 δ 并不意味着发布值几乎精确。把结果截到 [0,1] 是不再读原数据的后处理,保持隐私,但会在端点附近引入偏差。

若同时发布 d 个坐标均值且每条记录属于 [0,1]d,同一记录可使所有坐标一起变化,故 Δ2=d/n。逐坐标只看到 1/n 就仍用一维噪声尺度,会漏掉联合输出中的最坏移动。

哪些改动需要重新证明 ​

未裁剪的实数均值可有无界灵敏度,有限高斯噪声无法直接套用上述定理。数据依赖地选择 σ 也会泄露信息,除非选择过程本身受到保护。固定非球形协方差可按其逆矩阵诱导的距离校准,但不能只检查各坐标方差。

推论与应用

多轮发布时,逐次计算尾概率再简单累加可能较松。Gaussian 机制在Rényi DP下有精确的阶数预算 αΔ22/(2σ2);它将同一条密度比计算改写为矩母函数,适合先组合再转回 (ε,δ)。

实际校准可对精确 δa(ε) 以 σ 做二分搜索。保持“下端噪声不够、上端噪声足够”的区间不变量,每次取中点并计算两个正态尾部;若初始区间宽度为 W,目标宽度为 0<η<W,需要 ⌈log2⁡(W/η)⌉ 次评估;构造初始区间与每次尾概率的数值求值成本另计。极小尾概率应使用稳定的 log-CDF 数值实现,不能将浮点下溢的零当成严格隐私证书。

参考资料
关系图谱7 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系