Skip to content

全概率公式

Law of total probability

沿有限或可数可测划分分解事件,并按各分块概率加权合并。

条目类型
定理

形式陈述

(Bi)iI 是样本空间 Ω 的有限或可数可测划分:各 Bi 两两不交,并且 iIBi=Ω。对任意事件 A,可数可加性给出

P(A)=iIP(ABi).

对所有 P(Bi)>0 的分块使用条件概率乘法公式,得到

P(A)=i:P(Bi)>0P(ABi)P(Bi).

概率为零的分块对第一式没有贡献,可以从第二式的求和中删除;不能为凑齐指标而把 P(ABi)0/0 比值随意规定成某个数。

证明只需观察

A=AΩ=A(iIBi)=iI(ABi).

互斥与覆盖分别保证右侧不会重复和不会遗漏,剩下只是可数可加性与乘法公式。

直觉

全概率公式把一个难以直接计算的总体概率改写为“分层后计算,再按层权重平均”。每个 P(ABi) 回答目标事件在第 i 种情形中多常见,P(Bi) 则说明该情形在总体中占多大份额。所有权重非负且总和为一,所以最终结果是各层条件概率的加权平均,必定位于它们的最小值与最大值之间。

从分布角度看,这也是混合模型的基本算术:先随机选择来源 Bi,再从该来源的条件规律生成结果。观察结果后若要反推来源,就在这些加权贡献之间重新归一化,这一步正是Bayes 定理

例子与边界

一家工厂的零件由甲、乙两条生产线分别供应 60%40%,历史稳定期内两线不良率分别为 1%3%。令 D 表示“不良”,B1,B2 表示来源,则

P(D)=0.01×0.60+0.03×0.40=0.018.

直接把两个不良率平均成 2% 会忽略供应份额;权重必须反映一件随机到达零件来自哪条线。计算也不要求 D 与来源独立;恰恰因为来源改变不良率,分层才有信息价值。

若只按“来自甲线”和“来自乙线白班”拆分,乙线夜班被遗漏,事件族没有覆盖 Ω,求和会漏掉概率质量。若改按“来自甲线”和“来自白班”拆分,这两个事件又可能重叠,直接相加会重复计算。划分条件正是防止遗漏和重复的集合论保障。

全概率公式还提供一个有用的校验:总体不良率 1.8% 必须落在两条线的 1%3% 之间。若计算结果跑到这个区间之外,要么权重没有归一化,要么条件概率与分块没有对齐。

连续条件变量不能直接写成对单点的可数求和。若 Y 有分布 μY 且存在合适的条件概率版本,则相应形式是

P(A)=P(AY=y)μY(dy).

逐点函数 yP(AY=y) 需要条件分布框架,并且通常只在 μY-几乎处处意义下确定。

推论与应用

把事件指标写成随机变量,有

P(A)=E[1A].

于是全概率公式就是有限或可数划分上的全期望:先求每个信息块中的平均,再对信息块平均。把 1A 换成一般可积随机变量,便得到全期望公式;进一步考察平方偏差,则得到组内波动与组间波动的全方差分解。

在可靠性分析中可以按设备运行模式分层,在排队系统中可按请求来源分层,在统计抽样中可按人群层级分层。公式本身只负责精确汇总;分层是否合理、条件概率是否能从数据稳定估计,以及条件之间是否随时间漂移,仍属于模型与数据质量问题。

用于 Bayes 分母时,P(A) 是各候选原因对证据的总贡献。遗漏一个可能原因会让分母过小,并把剩余原因的后验同时抬高;因此在反向推断中,“划分覆盖所有候选”不仅是形式要求,也直接决定结论是否校准。

参考资料
  • Dimitri P. Bertsekas and John N. Tsitsiklis, Introduction to Probability, 2nd ed., Athena Scientific, 2008, §1.4.
  • Joseph K. Blitzstein and Jessica Hwang, Introduction to Probability, 2nd ed., CRC Press, 2019, Chapter 2.
  • Sheldon Ross, A First Course in Probability, 10th ed., Pearson, 2019, Chapter 3.
关系图谱6 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系

被这些条目使用