Skip to content

定理Theorem

全概率公式

施工中 · 内容逐步修订

Law of total probability

沿有限或可数可测划分分解事件,并按各分块概率加权合并。

形式陈述 ​

设 (Bi)i∈I 是样本空间 Ω 的有限或可数可测划分:各 Bi 两两不交,并且 ⋃i∈IBi=Ω。对任意事件 A,可数可加性给出

P(A)=∑i∈IP(A∩Bi).

对所有 P(Bi)>0 的分块使用条件概率乘法公式,得到

P(A)=∑i:P(Bi)>0P(A∣Bi)P(Bi).

概率为零的分块对第一式没有贡献,可以从第二式的求和中删除;不能为凑齐指标而把 P(A∣Bi) 的 0/0 比值随意规定成某个数。

下面给出证明。符号 ⨆ 表示各块两两不交的并;由划分的覆盖性质,

A=A∩Ω=A∩(⨆i∈IBi)=⨆i∈I(A∩Bi).

互斥与覆盖分别保证右侧不会重复和不会遗漏,剩下只是可数可加性与乘法公式。

直觉

全概率公式把一个难以直接计算的总体概率改写为“分层后计算,再按层权重平均”。每个 P(A∣Bi) 回答目标事件在第 i 种情形中多常见,P(Bi) 则说明该情形在总体中占多大份额。所有权重非负且总和为一,所以最终结果是各层条件概率的加权平均,必定位于各层条件概率的下确界与上确界之间。对于有限个分层,这就是最小值与最大值之间;可数无限层未必有实际达到的最小值或最大值。

从分布角度看,这也是混合模型的基本算术:先随机选择来源 Bi,再从该来源的条件规律生成结果。观察结果后若要反推来源,就在这些加权贡献之间重新归一化,这一步正是Bayes 定理。

例子与边界

一家工厂的零件由甲、乙两条生产线分别供应 60% 与 40%,历史稳定期内两线不良率分别为 1% 与 3%。令 D 表示“不良”,B1,B2 表示来源,则

P(D)=0.01×0.60+0.03×0.40=0.018.

也可以用一批 10000 件零件理解每个乘积:按模型,甲线贡献 6000×0.01=60 件不良品,乙线贡献 4000×0.03=120 件,总计期望 180 件。除以总量就得到 180/10000=1.8%。这里是模型下的期望数量,实际一批的件数会波动。

直接把两个不良率平均成 2% 会忽略供应份额;权重必须反映一件随机到达零件来自哪条线。计算也不要求 D 与来源独立;恰恰因为来源改变不良率,分层才有信息价值。

若只按“来自甲线”和“来自乙线白班”拆分,乙线夜班被遗漏,事件族没有覆盖 Ω,求和会漏掉概率质量。若改按“来自甲线”和“来自白班”拆分,这两个事件又可能重叠,直接相加会重复计算。修复时可以改按“甲白班、甲夜班、乙白班、乙夜班”这四种完整来源分类,再按各自权重加总。划分不是随意列出几个相关条件,而是让每件零件恰好进入一个分块。

全概率公式还提供一个有用的校验:总体不良率 1.8% 必须落在两条线的 1% 与 3% 之间。若计算结果跑到这个区间之外,要么权重没有归一化,要么条件概率与分块没有对齐。

连续条件变量不能直接写成对单点的可数求和。若 Y 有分布 μY 且存在合适的条件概率版本,则相应形式是

P(A)=∫P(A∣Y=y)μY(dy).

逐点函数 y↦P(A∣Y=y) 需要条件分布框架,并且通常只在 μY-几乎处处意义下确定。

推论与应用

把事件指标写成随机变量,有

P(A)=E[1A].

于是全概率公式就是有限或可数划分上的全期望:先求每个信息块中的平均,再对信息块平均。把 1A 换成一般可积随机变量,便得到全期望公式;进一步考察平方偏差,则得到组内波动与组间波动的全方差分解。

在可靠性分析中可以按设备运行模式分层,在排队系统中可按请求来源分层,在统计抽样中可按人群层级分层。公式本身只负责精确汇总;分层是否合理、条件概率是否能从数据稳定估计,以及条件之间是否随时间漂移,仍属于模型与数据质量问题。

用于 Bayes 分母时,P(A) 是各候选原因对证据的总贡献。遗漏一个可能原因会让分母过小,并把剩余原因的后验同时抬高;因此在反向推断中,“划分覆盖所有候选”不仅是形式要求,也直接决定结论是否校准。

参考资料
  • Hossein Pishro-Nik, Introduction to Probability, Statistics, and Random Processes, 作者开放网络教材,§1.4.2 Law of Total Probability,访问于 2026-10-03。

  • Dimitri P. Bertsekas and John N. Tsitsiklis, Introduction to Probability, 2nd ed., Athena Scientific, 2008, §1.4.

  • Joseph K. Blitzstein and Jessica Hwang, Introduction to Probability, 2nd ed., CRC Press, 2019, Chapter 2.

  • Sheldon Ross, A First Course in Probability, 10th ed., Pearson, 2019, Chapter 3.

关系图谱10 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系