二项分布

形式陈述 ​

取 $n\in {\mathbb{N}}_0$、$p\in [0,1]$，令 $B_1,\dots ,B_n$ 是相互独立公理库独立性Statistical independence若干 σ-代数的任意有限事件选择都按概率乘积分解的性质。且都服从 Bernoulli$(p)$ 的随机变量。成功总数

$$X=\sum _{i=1}^n{B}_i$$

称为服从参数为 $n,p$ 的二项分布，记作 $X\sim \mathrm{Bin}(n,p)$。对 $k=0,1,\dots ,n$，

$$\text{Pr}(X=k)=(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k},$$

其余整数处概率为零。端点参数中的 $0^0$ 按连续延拓解释为 $1$，从而同一公式也覆盖 $p=0,1$。这里的二项式系数公理库二项式系数Binomial coefficientn 元集合的 k 元子集数，记作 C(n,k)。选择恰有 $k$ 次成功的位置。由期望的线性性和独立性，

$$\mathbb{E}X=np,\mathrm{Var}(X)=np(1-p),$$

矩母函数为 $M_X(t)=(1-p+p{e}^t{)}^n$。若 $X\sim \mathrm{Bin}(m,p)$、$Y\sim \mathrm{Bin}(n,p)$ 且二者独立，则 $X+Y\sim \mathrm{Bin}(m+n,p)$；参数 $p$ 相同与两变量独立缺一不可。

直觉 ​

二项分布记录的不是每次试验怎样排列，而只是固定 $n$ 次试验最后积累了多少次成功。若总数为 $k$，每一种指定的成功位置都具有概率 $p^k(1-p{)}^{n-k}$；一共有 $(\genfrac{}{}{0ex}{}{n}{k})$ 种位置模式，所以总质量正是二者的乘积。它把一串 0—1 结果压缩为一个计数，同时仍保留“试验次数”和“单次成功倾向”两个彼此不同的尺度：$n$ 决定可取值范围，$p$ 决定质量偏向哪一端。

例子与边界 ​

一枚正面概率为 $0.4$ 的硬币独立抛五次，正面数 $X$ 服从 $\mathrm{Bin}(5,0.4)$。恰有两次正面的概率是

$$\text{Pr}(X=2)=(\genfrac{}{}{0ex}{}{5}{2})(0.4{)}^2(0.6{)}^3=0.3456,$$

而平均正面数是 $2$，方差是 $1.2$。这个例子里的“独立”和“每次同为 $0.4$”都属于模型，不是“做了五次试验”自动附带的性质。

若第 $i$ 次成功概率为 $p_i$ 且各次仍独立，总数服从 Poisson-binomial 分布，通常不能用单个 $p$ 写成二项 PMF。若各次边缘概率相同却完全相关，例如令 $B_1=\cdots =B_n$，那么总数只可能是 $0$ 或 $n$，也不是二项分布。边界参数 $p=0,1$ 分别给出恒为 $0,n$ 的退化分布；$n=0$ 时空和恒为零。

推论与应用 ​

二项分布直接承接Bernoulli 随机变量公理库Bernoulli 随机变量Bernoulli random variable只取 0 与 1 且成功概率为 p 的基本随机变量。，其矩母函数也展示了独立和如何把乘积化成幂。固定 $p$、让 $n$ 增大并标准化，可由中心极限定理公理库中心极限定理Central limit theorem适当归一化的独立随机变量和在分布上趋于正态分布。得到正态近似；令 $p=p_n$ 变小而保持 $n{p}_n\to \lambda$，则得到Poisson 分布公理库Poisson 分布Poisson distribution · 泊松分布以强度参数描述固定窗口内稀有事件计数的离散分布。的稀有事件极限。有限样本下，Chernoff 方法公理库Chernoff 方法与 Chernoff 界Chernoff method · Chernoff bounds对随机变量施加指数变换并优化参数，以获得指数级尾概率上界。与 Hoeffding 不等式公理库Hoeffding 不等式Hoeffding's inequality独立有界随机变量和偏离期望的概率以平方偏差的指数速度衰减。控制计数偏离 $np$ 的概率，因此二项模型也是随机抽样、A/B 试验和随机算法成功次数分析的标准起点。

参考资料

• Dimitri P. Bertsekas and John N. Tsitsiklis, Introduction to Probability, 2nd ed., Athena Scientific, 2008，§2.6, binomial probabilities and Bernoulli sums。
• John Tsitsiklis and Patrick Jaillet, MIT 18.05, Introduction to Probability and Statistics, “Discrete Random Variables: Binomial Distribution”。