正态分布

形式陈述 ​

当 $\mu \in \mathbb{R}$、$\sigma >0$ 时，随机变量 $X$ 服从正态分布 $N(\mu ,{\sigma }^2)$，若其密度为

$$f_X(x)=\frac{1}{\sigma \sqrt{2\pi }}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2}),x\in \mathbb{R}.$$

它满足 $\mathbb{E}X=\mu$、$\mathrm{Var}(X)={\sigma }^2$；标准化变量 $Z=(X-\mu )/\sigma$ 服从 $N(0,1)$。矩母函数与特征函数分别为

$$M_X(t)=e^{\mu t+{\sigma }^2{t}^2/2},{\phi }_X(t)=e^{i\mu t-{\sigma }^2{t}^2/2}.$$

因此 $aX+b\sim N(a\mu +b,a^2{\sigma }^2)$。若 $X_i\sim N({\mu }_i,{\sigma }_i^2)$ 相互独立，则 $\sum _i{X}_i\sim N(\sum _i{\mu }_i,\sum _i{\sigma }_i^2)$，这可由特征函数乘法验证。允许 $\sigma =0$ 时可把常量 $X=\mu$ 称为退化正态分布，但它没有上述 Lebesgue 密度。

直觉 ​

正态族的关键不只是钟形外观，而是对数密度是关于偏差 $x-\mu$ 的二次函数，并且仿射变换、独立相加仍留在同一族中。许多小而近似独立的扰动累加后在适当条件下趋近正态，这是中心极限定理描述的极限机制；它并不声称任意有限和或任意自然数据都精确正态。

例子与边界 ​

若测量误差 $X\sim N(10,4)$，则 $Z=(X-10)/2\sim N(0,1)$，事件 $8\le X\le 12$ 精确对应 $-1\le Z\le 1$。标准化把位置与尺度剥离，所有概率都能由同一个标准正态分布函数计算；这也是不同量纲观测可比较的原因。

对称、单峰、钟形并不足以刻画正态。标准 Cauchy 密度 $1/[\pi (1+x^2)]$ 也对称单峰，却有多项式重尾，均值和方差都不存在，更不具有正态的指数平方尾部。反过来，$\sigma =0$ 的退化分布全部质量集中在一点，虽然是正态族的自然参数边界，却不能把 $\sigma =0$ 代入密度公式。只有在正态族内部，均值和方差才唯一确定分布；一般分布不会如此。

推论与应用 ​

中心极限定理公理库中心极限定理Central limit theorem适当归一化的独立随机变量和在分布上趋于正态分布。以标准正态作为广泛的分布极限，依分布收敛公理库依分布收敛Convergence in distribution · Weak convergence分布函数在极限分布连续点处收敛的随机变量收敛概念。负责精确表达这种逼近。矩母函数和特征函数公理库特征函数（概率）Characteristic function of a distribution随机变量的复指数矩，也就是概率分布的 Fourier 变换。显示独立正态求和的封闭性，并支撑样本均值、线性回归误差与许多检验统计量的计算。多元正态需要协方差矩阵及“所有线性组合均为一元正态”等额外结构，本页只给出一元入口，不把任意具有正态边缘的随机向量误认成联合多元正态。

参考资料

• MIT OpenCourseWare, 18.05 Introduction to Probability and Statistics, readings on continuous and normal distributions.
• Patrick Billingsley, Probability and Measure, 3rd ed., Wiley, 1995, Chs. 4 and 5, normal laws and characteristic functions.