形式陈述
固定 个假设及其有效 p 值。记 为真实零假设的索引集,, 为程序的随机拒绝集。令 为拒绝数, 为错误拒绝数。错误发现比例
错误发现率是这个有界随机比例的期望理路期望Expectation · Expected value实值或复值随机变量关于概率测度的 Lebesgue 积分,概括加权平均与总体质量平衡。:
没有拒绝时分母用一使 FDP 为零。FDR 是随机比例的期望,不是 。把行动取为拒绝集合 ,在真实参数 下取有界损失
那么报告拒绝集的规则 的期望损失风险理路估计量、决策规则与风险Estimator and decision rule · Statistical risk从观测到行动的可实施规则,以及在逐参数、Bayes 与最坏情形量词下的期望损失。正是 FDR。这个表示把风险的平均运算与具体的拒绝程序分开。
BH 程序
将有效p 值理路p 值p-value在零假设下校准的证据统计量,其小值事件的概率不超过对应阈值。排序 ,给定目标 ,取
若集合非空则拒绝前 个假设,否则不拒绝。它是 step-up:某个较大秩通过后,其前更小 p 值全部拒绝。
若对每个真实零假设, 均与其余 p 值的整个向量独立理路独立性Statistical independence从概率表理解独立性,区分两两、相互和条件独立,并用可计算反例澄清零协方差与条件均值的限度。,则
在 PRDS 等正依赖下仍有控制;任意依赖需 Benjamini–Yekutieli 调整等更保守方法。
直觉
BH 不要求每一次拒绝都正确,而是控制重复实验中“错误发现占全部发现的比例”的期望。排序阈值会随已接受的发现数放宽:证据很强的前几项可以为后续项提供更大的临界值,但整条阶梯仍由预先给定的 约束。
例子与边界
,排序 p 值 ,阈值 。最大通过秩为 3,因此拒绝前三个。注意第二项通过并不要求第四项通过;算法取最大通过秩。
控制机制与 adjusted p 值
独立情形把 FDR 分解为
固定真零索引 ,将 换成零,记新拒绝数为 ;它只依赖其余 p 值 。步升规则有如下性质: 被原程序拒绝,当且仅当 ;此时 。确实,降低一个已拒绝的值不会改变最终拒绝数;反过来,把零改回一个不超过 的值,仍有 项通过该阈值,而提高 p 值又不可能增加拒绝数。
条件于 ,独立性保留真零 的超均匀性,于是
再由条件期望的塔式法则理路条件期望Conditional expectation以信息分组的加权平均建立条件期望直觉,再连接测度定义、最小均方预测、塔式性质和可计算反例。去掉条件,并对 求和,得到 。独立条件让随机分母变成给定其他 p 值后的固定数;PRDS 版本需要另外的正依赖论证,不能沿用这里的条件独立步骤。
BH adjusted p 值从后向前计算:
后缀最小保证调整值单调。本例前三个均不超过 ,第四个为 ,因此目标 时拒绝前三项。
边界
“FDR 10%”不表示本次三个发现中恰有 0.3 个错误,也不保证每次 FDP 不超过 10%。它是重复实验的期望准则,单次 FDP 可能很高。
仅有边缘有效性确实不够。取两个真零假设、,令 p 值对 、、 各以概率 出现,其余概率 取 。每个边缘在 以下的概率为 、在 以下为 ,所以都超均匀。BH 的阈值为 ,前三种结果却都会拒绝;所有零假设都真时 FDP 等于是否作出拒绝,故 FDR 为 。
选择性过滤或数据依赖权重也会改变联合条件。过滤若与相应真零 p 值独立或满足特定结构,可以有有效保证;否则需重新校准。
无效的单项 p 值不会被 BH 修复。可选停止、模型选择和事后扩展发现集合都会改变输入或 的定义,必须把完整流程纳入保证。
另一种有限样本入口是Knockoff+符号筛选理路Knockoff 符号筛选Knockoff filter · Knockoff+ · Knockoff plus用零假设坐标的联合条件符号对称性选择数据依赖阈值,并完整证明Knockoff+的有限样本FDR保证。:它不把输入当作p值,而要求真零竞争分数在给定幅度与非零假设分数后具有联合公平符号。负分数计数与加一阈值通过倒序超鞅预算控制同一个FDR。若重复运行后挑发现最多的一次,最终所报分数可能不再满足符号合同,不能只引用每次单独的保证。
FDR 与FWER理路多重检验与族错误率Multiple testing · Familywise error rate · FWER同时检验多个假设时至少一次错误拒绝的概率及其 Bonferroni、Holm 控制。不同:前者允许在发现多时容忍少量错误,后者控制任何错误发生。选择哪个准则应由损失和应用风险决定。
推论与应用
基因组、成像和大规模 A/B 指标常使用 BH。它与控制“至少一次错误”的FWER 方法理路多重检验与族错误率Multiple testing · Familywise error rate · FWER同时检验多个假设时至少一次错误拒绝的概率及其 Bonferroni、Holm 控制。回答不同风险问题;应用时应先选择与损失相符的错误准则,再核对 p 值有效性和依赖条件。
BH 的 self-consistency 可写为 。这说明每个发现共享由最终拒绝数决定的自适应阈值:发现越多,允许阈值越宽;证明必须同时处理这个随机 ,不能把它当固定常数。
扩展地图
任意依赖下,Benjamini–Yekutieli 把阈值除以 ,以约 的功效代价换取稳健控制。加权或分层 BH 可以利用外部协变量提高功效,但权重需预先归一化,并与对应真实零 p 值保持所需独立性;数据驱动权重通常要靠样本切分或 independent hypothesis weighting 一类条件校准。
Storey 方法估计 后放宽阈值,q-value 则表示使某项进入发现集所需的最小目标 FDR。二者都依赖额外估计条件;q-value 类似 adjusted p 值,却不是“该项为假发现”的后验概率。后者属于 local false discovery rate ,需要零与备择的混合模型。
online FDR 处理按时间到达的假设,阈值 只能依赖过去信息;LORD、SAFFRON 等程序通过 alpha-wealth 维持序贯约束。把离线 BH 反复应用于不断增长且可选择停止的列表,并不自动获得 anytime 保证。
若目标是让单次实验的 FDP 以高概率不超过阈值,应改用 FDP tail control 或 simultaneous FDP bounds。它们控制的对象比期望 FDR 更强,通常也会牺牲发现数,不能作为普通 BH 的同义改写。
参考资料
- William Fithian and Lihua Lei, Conditional calibration for false discovery rate control under dependence, 2020,§2.1 Lemma 1 及其后条件期望计算:将一个 p 值置零的步升恒等式。
- Yoav Benjamini and Yosef Hochberg, “Controlling the False Discovery Rate,” JRSS B 57(1), 1995。
- Yoav Benjamini and Daniel Yekutieli, “The Control of the FDR under Dependency,” Annals of Statistics 29(4), 2001。
- Christopher Genovese and Larry Wasserman, “Operating Characteristics and Extensions of the FDR Procedure,” JRSS B 64(3), 2002。