形式陈述
设 ( B i ) i ∈ I 是样本空间 Ω 的有限或可数可测划分 公理库 集合划分 Set partition 把集合表示为两两不交非空块且其并为全体的块族。 :各 B i 两两不交,并且 ⋃ i ∈ I B i = Ω 。对任意事件 A ,可数可加性给出
P ( A ) = ∑ i ∈ I P ( A ∩ B i ) . 对所有 P ( B i ) > 0 的分块使用条件概率 公理库 条件概率 Conditional probability 在已知正概率事件发生后,把交集概率重新规范到该事件内部。 乘法公式,得到
P ( A ) = ∑ i : P ( B i ) > 0 P ( A ∣ B i ) P ( B i ) . 概率为零的分块对第一式没有贡献,可以从第二式的求和中删除;不能为凑齐指标而把 P ( A ∣ B i ) 的 0 / 0 比值随意规定成某个数。
证明只需观察
A = A ∩ Ω = A ∩ ( ⨆ i ∈ I B i ) = ⨆ i ∈ I ( A ∩ B i ) . 互斥与覆盖分别保证右侧不会重复和不会遗漏,剩下只是可数可加性与乘法公式。
直觉
全概率公式把一个难以直接计算的总体概率改写为“分层后计算,再按层权重平均”。每个 P ( A ∣ B i ) 回答目标事件在第 i 种情形中多常见,P ( B i ) 则说明该情形在总体中占多大份额。所有权重非负且总和为一,所以最终结果是各层条件概率的加权平均,必定位于它们的最小值与最大值之间。
从分布角度看,这也是混合模型的基本算术:先随机选择来源 B i ,再从该来源的条件规律生成结果。观察结果后若要反推来源,就在这些加权贡献之间重新归一化,这一步正是Bayes 定理 公理库 Bayes 定理 Bayes' theorem · Bayes' rule 用先验与证据在各假设下的可能性反转条件方向,得到归一化后验。 。
例子与边界
一家工厂的零件由甲、乙两条生产线分别供应 60 % 与 40 % ,历史稳定期内两线不良率分别为 1 % 与 3 % 。令 D 表示“不良”,B 1 , B 2 表示来源,则
P ( D ) = 0.01 × 0.60 + 0.03 × 0.40 = 0.018 . 直接把两个不良率平均成 2 % 会忽略供应份额;权重必须反映一件随机到达零件来自哪条线。计算也不要求 D 与来源独立;恰恰因为来源改变不良率,分层才有信息价值。
若只按“来自甲线”和“来自乙线白班”拆分,乙线夜班被遗漏,事件族没有覆盖 Ω ,求和会漏掉概率质量。若改按“来自甲线”和“来自白班”拆分,这两个事件又可能重叠,直接相加会重复计算。划分条件正是防止遗漏和重复的集合论保障。
全概率公式还提供一个有用的校验:总体不良率 1.8 % 必须落在两条线的 1 % 与 3 % 之间。若计算结果跑到这个区间之外,要么权重没有归一化,要么条件概率与分块没有对齐。
连续条件变量不能直接写成对单点的可数求和。若 Y 有分布 μ Y 且存在合适的条件概率版本,则相应形式是
P ( A ) = ∫ P ( A ∣ Y = y ) μ Y ( d y ) . 逐点函数 y ↦ P ( A ∣ Y = y ) 需要条件分布 公理库 条件分布 Conditional distribution · Regular conditional distribution 给定观测值后随机量的概率律,以及它与原联合分布相容的核表示。 框架,并且通常只在 μ Y -几乎处处意义下确定。
推论与应用
把事件指标写成随机变量,有
P ( A ) = E [ 1 A ] . 于是全概率公式就是有限或可数划分上的全期望:先求每个信息块中的平均,再对信息块平均。把 1 A 换成一般可积随机变量,便得到全期望公式 公理库 全期望公式与全方差公式 Law of total expectation · Law of total variance · Iterated expectation 借助条件信息分解总体均值,并把总波动拆成组内与组间两部分。 ;进一步考察平方偏差,则得到组内波动与组间波动的全方差分解。
在可靠性分析中可以按设备运行模式分层,在排队系统中可按请求来源分层,在统计抽样中可按人群层级分层。公式本身只负责精确汇总;分层是否合理、条件概率是否能从数据稳定估计,以及条件之间是否随时间漂移,仍属于模型与数据质量问题。
用于 Bayes 分母时,P ( A ) 是各候选原因对证据的总贡献。遗漏一个可能原因会让分母过小,并把剩余原因的后验同时抬高;因此在反向推断中,“划分覆盖所有候选”不仅是形式要求,也直接决定结论是否校准。
参考资料
Dimitri P. Bertsekas and John N. Tsitsiklis, Introduction to Probability , 2nd ed., Athena Scientific, 2008, §1.4.
Joseph K. Blitzstein and Jessica Hwang, Introduction to Probability , 2nd ed., CRC Press, 2019, Chapter 2.
Sheldon Ross, A First Course in Probability , 10th ed., Pearson, 2019, Chapter 3.