Skip to content

定义Definition

错误发现率与 Benjamini–Hochberg

施工中 · 内容逐步修订

False discovery rate · Benjamini–Hochberg procedure · FDR

控制错误拒绝占全部拒绝比例期望的多重检验准则与步升程序。

形式陈述 ​

固定 m≥1 个假设及其有效 p 值。记 I0 为真实零假设的索引集,m0=|I0|,R 为程序的随机拒绝集。令 R=|R| 为拒绝数,V=|R∩I0| 为错误拒绝数。错误发现比例

FDP=VR∨1,

错误发现率是这个有界随机比例的期望:

FDR=E[FDP].

没有拒绝时分母用一使 FDP 为零。FDR 是随机比例的期望,不是 E[V]/E[R]。把行动取为拒绝集合 A⊆{1,…,m},在真实参数 θ 下取有界损失

L(θ,A)=|A∩I0(θ)||A|∨1.

那么报告拒绝集的规则 δ(X)=R(X) 的期望损失风险正是 FDR。这个表示把风险的平均运算与具体的拒绝程序分开。

BH 程序 ​

将有效p 值排序 p(1)≤⋯≤p(m),给定目标 0<q<1,取

k=max{j:p(j)≤jq/m},

若集合非空则拒绝前 k 个假设,否则不拒绝。它是 step-up:某个较大秩通过后,其前更小 p 值全部拒绝。

若对每个真实零假设,pi 均与其余 p 值的整个向量独立,则

FDR≤qm0m≤q.

在 PRDS 等正依赖下仍有控制;任意依赖需 Benjamini–Yekutieli 调整等更保守方法。

直觉

BH 不要求每一次拒绝都正确,而是控制重复实验中“错误发现占全部发现的比例”的期望。排序阈值会随已接受的发现数放宽:证据很强的前几项可以为后续项提供更大的临界值,但整条阶梯仍由预先给定的 q 约束。

例子与边界

m=5,q=0.1,排序 p 值 (0.01,0.03,0.045,0.20,0.40),阈值 (0.02,0.04,0.06,0.08,0.10)。最大通过秩为 3,因此拒绝前三个。注意第二项通过并不要求第四项通过;算法取最大通过秩。

控制机制与 adjusted p 值 ​

独立情形把 FDR 分解为

∑i∈I0E[1{i∈R}R∨1].

固定真零索引 i,将 pi 换成零,记新拒绝数为 Ri≥1;它只依赖其余 p 值 p−i。步升规则有如下性质:i 被原程序拒绝,当且仅当 pi≤qRi/m;此时 R=Ri。确实,降低一个已拒绝的值不会改变最终拒绝数;反过来,把零改回一个不超过 qRi/m 的值,仍有 Ri 项通过该阈值,而提高 p 值又不可能增加拒绝数。

条件于 p−i,独立性保留真零 pi 的超均匀性,于是

E[1{i∈R}R∨1|p−i]=P(pi≤qRi/m∣p−i)Ri≤qm.

再由条件期望的塔式法则去掉条件,并对 i∈I0 求和,得到 m0q/m。独立条件让随机分母变成给定其他 p 值后的固定数;PRDS 版本需要另外的正依赖论证,不能沿用这里的条件独立步骤。

BH adjusted p 值从后向前计算:

p~(j)=mink≥jmkp(k)∧1.

后缀最小保证调整值单调。本例前三个均不超过 0.075,第四个为 0.25,因此目标 q=0.1 时拒绝前三项。

边界 ​

“FDR 10%”不表示本次三个发现中恰有 0.3 个错误,也不保证每次 FDP 不超过 10%。它是重复实验的期望准则,单次 FDP 可能很高。

仅有边缘有效性确实不够。取两个真零假设、q=0.2,令 p 值对 (0.1,1)、(1,0.1)、(0.2,0.2) 各以概率 0.1 出现,其余概率 0.7 取 (1,1)。每个边缘在 0.1 以下的概率为 0.1、在 0.2 以下为 0.2,所以都超均匀。BH 的阈值为 (0.1,0.2),前三种结果却都会拒绝;所有零假设都真时 FDP 等于是否作出拒绝,故 FDR 为 0.3>0.2。

选择性过滤或数据依赖权重也会改变联合条件。过滤若与相应真零 p 值独立或满足特定结构,可以有有效保证;否则需重新校准。

无效的单项 p 值不会被 BH 修复。可选停止、模型选择和事后扩展发现集合都会改变输入或 R,V 的定义,必须把完整流程纳入保证。

另一种有限样本入口是Knockoff+符号筛选:它不把输入当作p值,而要求真零竞争分数在给定幅度与非零假设分数后具有联合公平符号。负分数计数与加一阈值通过倒序超鞅预算控制同一个FDR。若重复运行后挑发现最多的一次,最终所报分数可能不再满足符号合同,不能只引用每次单独的保证。

FDR 与FWER不同:前者允许在发现多时容忍少量错误,后者控制任何错误发生。选择哪个准则应由损失和应用风险决定。

推论与应用

基因组、成像和大规模 A/B 指标常使用 BH。它与控制“至少一次错误”的FWER 方法回答不同风险问题;应用时应先选择与损失相符的错误准则,再核对 p 值有效性和依赖条件。

BH 的 self-consistency 可写为 R={i:pi≤qR/m}。这说明每个发现共享由最终拒绝数决定的自适应阈值:发现越多,允许阈值越宽;证明必须同时处理这个随机 R,不能把它当固定常数。

扩展地图 ​

任意依赖下,Benjamini–Yekutieli 把阈值除以 Hm=∑i=1m1/i,以约 log⁡m 的功效代价换取稳健控制。加权或分层 BH 可以利用外部协变量提高功效,但权重需预先归一化,并与对应真实零 p 值保持所需独立性;数据驱动权重通常要靠样本切分或 independent hypothesis weighting 一类条件校准。

Storey 方法估计 π0=m0/m 后放宽阈值,q-value 则表示使某项进入发现集所需的最小目标 FDR。二者都依赖额外估计条件;q-value 类似 adjusted p 值,却不是“该项为假发现”的后验概率。后者属于 local false discovery rate P(Hi null∣Zi=z),需要零与备择的混合模型。

online FDR 处理按时间到达的假设,阈值 αt 只能依赖过去信息;LORD、SAFFRON 等程序通过 alpha-wealth 维持序贯约束。把离线 BH 反复应用于不断增长且可选择停止的列表,并不自动获得 anytime 保证。

若目标是让单次实验的 FDP 以高概率不超过阈值,应改用 FDP tail control 或 simultaneous FDP bounds。它们控制的对象比期望 FDR 更强,通常也会牺牲发现数,不能作为普通 BH 的同义改写。

参考资料
  • William Fithian and Lihua Lei, Conditional calibration for false discovery rate control under dependence, 2020,§2.1 Lemma 1 及其后条件期望计算:将一个 p 值置零的步升恒等式。
  • Yoav Benjamini and Yosef Hochberg, “Controlling the False Discovery Rate,” JRSS B 57(1), 1995。
  • Yoav Benjamini and Daniel Yekutieli, “The Control of the FDR under Dependency,” Annals of Statistics 29(4), 2001。
  • Christopher Genovese and Larry Wasserman, “Operating Characteristics and Extensions of the FDR Procedure,” JRSS B 64(3), 2002。
关系图谱9 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系