“条件于合并后的 $2m$ 个输入点,$H$ 虽可能无限,却只能产生至多 $\Pi H(2m)$ 种标注向量。对每一种向量,随机交换每对 $(Z i,Z' i)$ 等价于加入独立符号,Hoef…”
形式陈述
在满足Kolmogorov 概率公理的同一空间中,对有限个事件
事件不必独立。逐点比较指示函数即可看见原因:某个结果若落在并集中,左边的指示函数为
两边取期望便得结论。由概率测度的可数次可加性,同样证明也给出
两个事件时,精确关系是容斥式
并集界只是舍去了非负的交集项。事件两两不交时等号成立;有限事件族只要两两交集概率为零也取等,即使交集在集合意义上非空。独立既非前提,也不保证等号:两个独立且概率均为
直觉
设
令右边不超过
同一图像也出现在赌博机中。若希望
例子与边界
并集界只计数,不利用重叠。若
它与独立性的乘法规则解决不同问题:独立性帮助计算交集,并集界控制“至少一个失败”。需要更精细地利用局部依赖时,可转向容斥、Bonferroni 界或 Lovász 局部引理,而不能把独立性硬塞进并集界的条件。
一个数值例子能校准“松但可用”。若 100 个候选各自失败概率至多
推论与应用
对随时间增长的事件族,失败预算应可求和。例如令第
有限假设类泛化、多个置信区间和多轮算法分析都使用同一出口:先为每个局部坏事件分配失败预算,再验证预算总和不超过全局
参考资料
- Patrick Billingsley, Probability and Measure, 3rd ed., Wiley, 1995, probability measures and subadditivity.
- Stéphane Boucheron, Gábor Lugosi, Pascal Massart, Concentration Inequalities, Oxford University Press, 2013, Ch. 2.