分类中的群体公平准则

形式陈述

设真实标签为 $Y\in\{0,1\}$ ，预测标签为 $\widehat Y\in\{0,1\}$ ，群组标记 $A$ 取有限多个值，以下只比较具有正概率的群组。一个群体公平准则必须说明：比较什么量、在什么条件下比较，以及哪些群体在当前分布中有足够概率。

以下是不同的数学要求，并非同一要求的几种名称。

选择比例平衡，常称 demographic parity，要求

\Pr(\widehat Y=1\mid A=a)

不依赖 $a$ ，即 $\widehat Y\perp A$ 。

等化错误率，常称 equalized odds，要求

\widehat Y\perp A\mid Y.

在二分类中，这等价于各组真阳性率和假阳性率都相同：

\operatorname{TPR}_a=\Pr(\widehat Y=1\mid Y=1,A=a), \qquad \operatorname{FPR}_a=\Pr(\widehat Y=1\mid Y=0,A=a).

机会均等，常称 equal opportunity，只要求各组 $\operatorname{TPR}_a$ 相同，是前一条件的弱化。[1, Definitions 2.1–2.2]

另一个常见量是正预测值

\operatorname{PPV}_a=\Pr(Y=1\mid\widehat Y=1,A=a).

各组 PPV 相同称为正类预测值平衡或 predictive parity。这里与 TPR 恰好交换了条件事件与待预测事件，通常数值不同。凡是分母事件概率为零，相应条件概率就不在该组定义；不能随意填零后继续比较。

若模型输出的是连续分数 $S$ ，群体内概率校准则要求

\mathbb E[Y\mid S,A]=S.

这比只在整个总体中检查概率校准多保留了群组信息，也不等同于某个阈值之后的 PPV 平衡。

直觉

同一张群组混淆表，可以横着比较、按真实标签切片后比较，或者先挑出预测正类再比较。每种切法都在改变分母，因此都回答不同的问题。

例如两批图像的正类比例本来不同。让两批图像的 TPR 和 FPR 相同，意味着给定真实类别后分类器表现一致；却不意味着它最后输出相同比例的正类。后者还会随各批图像的真实类别混合比例变化。

例子与边界

考虑两个各有 $100$ 个样本的群组。甲组有 $20$ 个真实正类，乙组有 $60$ 个。分类结果如下：

群组	真阳性 TP	假阴性 FN	假阳性 FP	真阴性 TN
甲	16	4	8	72
乙	48	12	4	36

甲组 $\operatorname{TPR}=16/20=0.8$ ， $\operatorname{FPR}=8/80=0.1$ ；乙组对应为 $48/60=0.8$ 、 $4/40=0.1$ 。因此满足 equalized odds，也满足 equal opportunity。

但甲组选择比例为 $(16+8)/100=0.24$ ，乙组为 $(48+4)/100=0.52$ ，并不满足 demographic parity。正预测值也不同：

\operatorname{PPV}_{\text{甲}}=\frac{16}{24}=\frac23, \qquad \operatorname{PPV}_{\text{乙}}=\frac{48}{52}=\frac{12}{13}.

不能把同一个分子 16 分别除以 20 和 24 后，仍把所得指标都叫“正类准确率”。

记 $\pi_a=\Pr(Y=1\mid A=a)$ 。全概率公式给出

\Pr(\widehat Y=1\mid A=a) =\pi_a\operatorname{TPR}_a+(1-\pi_a)\operatorname{FPR}_a. \tag{1}

若 equalized odds 使两率固定为 $t,f$ ，两群组选择比例之差就是

(\pi_a-\pi_b)(t-f).

所以当基率不同且分类器确有 $t\ne f$ 的区分能力，equalized odds 与 demographic parity 无法同时成立。若 $t=f$ ，两者可以同时成立，但分类结果在每组内部已不区分真实正负类。若基率相同，也没有上述代数冲突。

再用条件概率换算得

\operatorname{PPV}_a =\frac{\pi_at}{\pi_at+(1-\pi_a)f}, \tag{2}

前提是分母非零。固定 $t>0,f>0$ 时，右侧随基率严格上升；若 $f=0$ 且存在正预测，则 PPV 都为一。讨论指标不兼得时必须保留这些退化和完美预测边界。

对现有预测标签，可以按群组和原预测结果分别随机化新的标签。各组可达的 $(\operatorname{FPR},\operatorname{TPR})$ 组成相应可行区域；从各区域交集中挑选同一点，就能使最终分类满足 equalized odds，但可能改变准确率或选择比例。[1, §4]

极端例子是完全忽略输入，以同一概率 $r$ 输出正类。所有组都有 TPR=FPR= $r$ ，当然满足等化错误率。这说明满足某个约束本身不足以证明预测有用。实际选择还需明确任务损失和额外约束，不能只为了一个指标把结果随机化后宣布问题已解决。

推论与应用

这些指标描述给定数据分布里的统计关系。它们不自动判断标签是否测得准确、群组是否划分恰当，或者模型的用途是否公平；更不能单凭一张混淆表推出造成差异的因果机制。

对连续概率分数，校准与正负类平均分平衡还存在另一项精确限制。那里的“平均分平衡”比较 $\mathbb E[S\mid Y,A]$ ，并不是把 $S$ 阈值化后再比较 TPR/FPR。先写完整变量与条件，再比较结论，可以避免把几个不同的不可能性定理混成一句口号。

参考资料

[1] Moritz Hardt, Eric Price, Nati Srebro, Equality of Opportunity in Supervised Learning, 2016，§2 的 Definitions 2.1–2.2，§4 的后处理构造。本文混淆表、基率恒等式和退化边界均按所列数值直接计算。