Skip to content

Bayes 定理

Bayes' theorem · Bayes' rule

用先验概率和似然反转条件概率,得到观察证据后的后验概率。

形式陈述

条件概率 的定义,若 P(B)>0,则

P(AB)=P(BA)P(A)P(B).

A1,,An 构成样本空间的划分,则 P(B)=iP(BAi)P(Ai)

直觉

先从 A 发生的可能性出发,再乘上 A 情况下看到证据 B 的可能性,最后除以证据总体出现率完成归一化。

例子与边界

医学检测的阳性预测值不仅取决于灵敏度,还强烈依赖疾病基准率。若忽略先验概率,就会产生基准率谬误。P(B)=0 时初等条件概率公式没有定义。

推论与应用

Bayes 定理用于统计推断、垃圾邮件过滤、故障诊断、机器学习与证据更新。

参考资料
  • Sheldon Ross, A First Course in Probability, 10th ed., §3.3.
  • David J. C. MacKay, Information Theory, Inference, and Learning Algorithms, Chapter 3.