“固定两种相邻输入的输出分布后,最能暴露隐私差异的事件是似然比超过阈值的区域。隐私损失分布核算对这个区域积分 $p e^\varepsilon q$ 的正部,得到 DP 所需的最小加法松弛。它…”
形式陈述
固定一个有序相邻输入对,其输出分布为
对
函数
直觉
区域
因此尾概率是一个方便的充分上界,却通常不等于最小
例子与边界
0.6 的尾概率,只有 0.1 的超额质量
取两个输出
反向由对称性同样为
两轮独立报告怎样卷积
对固定输入对,若两轮输出条件于输入独立,则联合密度连乘、损失相加,PLD 做概率测度的卷积;损失落在等距格点时,对应概率数组的离散卷积。以真实 bit 相反的两输入比较,两轮各使用
取
自适应时不能直接独立卷积
自适应过程的总损失仍是条件损失之和,但后轮损失分布可能依赖之前的输出。直接卷积某几个边缘 PLD 会错误地假设独立。此时必须使用对全部历史有效的支配分布定理,或改用可自适应组合的 RDP 等界。
推论与应用
离散核算器可把损失值分桶,逐轮卷积后计算
要返回严格上界,必须给舍入、截断尾部和浮点误差留出预算。把损失向上取整会增大正部贡献,但丢掉无穷损失质量会低估
参考资料
- Sommer、Meiser 与 Mohammadi,“Privacy Loss Classes: The Central Limit Theorem in Differential Privacy”,PoPETS 2019,隐私损失分布、组合和精确
接口。 - Doroshenko、Ghazi、Kamath、Kumar 与 Manurangsi,“Connect the Dots: Tighter Discrete Approximations of Privacy Loss Distributions”,2022,§2–3,保守与乐观离散近似的区别。