Skip to content

定理Theorem

并集界

Union bound · Boole 不等式

多个坏事件中至少一个发生的概率,不超过各事件概率之和。

形式陈述 ​

在满足Kolmogorov 概率公理的同一空间中,对有限个事件 A1,…,An,其并集概率满足

Pr(⋃i=1nAi)≤∑i=1nPr(Ai).

事件不必独立。逐点比较指示函数即可看见原因:某个结果若落在并集中,左边的指示函数为 1,右边至少有一项为 1;若它不在并集中,两边都不产生正贡献。因此

1∪iAi≤∑i1Ai,

两边取期望便得结论。由概率测度的可数次可加性,同样证明也给出 Pr(∪i≥1Ai)≤∑i≥1Pr(Ai);这里索引必须可数。对任意不可数事件族,不能不经可测性论证便直接“求和”。

两个事件时,精确关系是容斥式

Pr(A∪B)=Pr(A)+Pr(B)−Pr(A∩B).

并集界只是舍去了非负的交集项。事件两两不交时等号成立;有限事件族只要两两交集概率为零也取等,即使交集在集合意义上非空。独立既非前提,也不保证等号:两个独立且概率均为 1/2 的事件,其并集概率是 3/4,而概率之和为 1。界的松紧取决于重复计入多少质量,不能只从“独立”二字判断。

直觉

设 H 为非空有限假设类,ε>0、0<δ<1,每个 h∈H 都有坏事件 Bh,且 Pr(Bh)≤2e−2mε2。那么

Pr(∃h∈H:Bh)≤2|H|e−2mε2.

令右边不超过 δ,便得到 m≥log⁡(2|H|/δ)/(2ε2)。这解释了为什么候选规则数通过 log⁡|H| 进入有限假设类泛化界:指数尾概率抵消了线性的事件数量。

同一图像也出现在赌博机中。若希望 K 个臂在 T 个时刻的置信区间全部覆盖真实均值,可以把每个“臂—时刻”失败概率压到 δ/(KT),再对 KT 个失败事件求并。这样得到的是一个同时成立的高概率事件,而非 KT 个彼此割裂的边际陈述。

例子与边界

并集界只计数,不利用重叠。若 A1=⋯=An=A,真实并集概率是 Pr(A),上界却是 nPr(A),甚至会超过 1;此时可再取 min{1,∑iPr(Ai)},但重叠信息仍被丢失。反过来,若事件很稀少且交集概率远小于单事件概率,并集界往往已经接近精确。

它与独立性的乘法规则解决不同问题:独立性帮助计算交集,并集界控制“至少一个失败”。需要更精细地利用局部依赖时,可转向容斥、Bonferroni 界或 Lovász 局部引理,而不能把独立性硬塞进并集界的条件。

一个数值例子能校准“松但可用”。若 100 个候选各自失败概率至多 10−4,无论相关结构如何,至少一个失败的概率至多 0.01。若这些事件互斥且各概率恰为 10−4,界取等;若它们其实是同一个事件,真实概率只有 10−4。并集界用放弃重叠信息换取不需要建模依赖的可靠性。

推论与应用

对随时间增长的事件族,失败预算应可求和。例如令第 t 轮失败概率至多 6δ/(π2t2),可数并集界与 ∑t≥1t−2=π2/6 给出“所有时刻同时成功”的概率至少 1−δ。若每轮都只给固定 0.01 失败率,无穷求和发散,不能推出无限时域同时保证。

有限假设类泛化、多个置信区间和多轮算法分析都使用同一出口:先为每个局部坏事件分配失败预算,再验证预算总和不超过全局 δ。这种方法换取的是无需建模事件依赖的可靠性;当重叠结构决定界的量级时,应改用能利用依赖的工具。

参考资料
  • Patrick Billingsley, Probability and Measure, 3rd ed., Wiley, 1995, probability measures and subadditivity.
  • Stéphane Boucheron, Gábor Lugosi, Pascal Massart, Concentration Inequalities, Oxford University Press, 2013, Ch. 2.
关系图谱79 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系

使用的工具

被这些条目使用