中心极限定理

为什么除以 $\sqrt{n}$，为什么极限是正态？和 $S_n$ 的期望按 $n$ 增长，方差也按 $n$ 增长，所以典型波动的尺度是 $\sqrt{n}$：以它为标尺，波动恰好稳定在常数量级。在这个标尺下，每个单独的 $X_i$ 只占 $O(1/\sqrt{n})$ 的份额，个体分布的一切细节——偏态、离散性、支撑的形状——都在大量微小贡献的叠加中被抹平，只有前两阶矩幸存下来。正态分布成为普适极限，可以理解成它是"独立相加再重新标度"这一操作的不动点：独立正态之和仍是正态。这与物理中的普适性现象同构：微观规则各异的系统在宏观标度下呈现同一形状。类比的失效处也要点明：当尾部厚到方差为无穷时，普适类就不再是正态，而是稳定分布家族。

中心极限定理与Hoeffding 不等式公理库Hoeffding 不等式Hoeffding's inequality独立有界随机变量和偏离期望的概率以平方偏差的指数速度衰减。回答不同问题。前者在归一化和的分布极限上给正态近似，通常是渐近陈述；后者在独立有界条件下直接给有限样本尾概率上界，却不描述极限分布的形状。

取 $X_i$ 为公平硬币的正面指示，即 Bernoulli公理库Bernoulli 随机变量Bernoulli random variable只取 0 与 1 且成功概率为 p 的基本随机变量。$(1/2)$，则 $S_{100}$ 服从二项分布公理库二项分布Binomial distribution固定次数独立同概率 Bernoulli 试验中成功总数的离散分布。，均值 $50$、标准差 $5$。定理给出 $\text{Pr}(S_{100}\le 55)\approx \mathrm{\Phi }(1)\approx 0.841$；精确值约 $0.864$，带连续性修正的近似 $\mathrm{\Phi }(1.1)\approx 0.864$ 则几乎命中。二项情形的这一近似正是 de Moivre–Laplace 定理——中心极限定理最早的特例。

误差与假设都有明确的边界。有限 $n$ 下正态只是近似，Berry–Esseen 定理说：若三阶绝对矩有限，分布函数的一致误差是 $O(1/\sqrt{n})$。方差假设不能省：标准 Cauchy 分布连期望都没有，独立 Cauchy 变量的样本均值仍服从同一 Cauchy 分布，无论怎样标准化都不会趋于正态——重尾世界的极限由稳定分布接管。

结论的模式也要读准：这是关于分布的陈述，不是关于样本路径的陈述。它不断言 ${\overline{X}}_n$ 逐点或几乎必然收敛（那是大数律的领地），也不覆盖偏离均值 $O(n)$ 量级的罕见事件——把正态近似外推到极端尾部是常见误用，那里需要大偏差理论。

中心极限定理是统计推断的地基：置信区间 ${\overline{X}}_n\pm z_{\alpha /2}\sigma /\sqrt{n}$、假设检验的正态近似、估计量的 $\sqrt{n}$ 收敛速率，以及Monte Carlo 模拟公理库Monte Carlo 积分Monte Carlo integration · Monte Carlo quadrature将积分改写为随机变量期望，以独立样本均值估计并用方差和概率假设量化随机误差。的误差条，全部由它兜底。这些误差条是渐近近似；小样本、重尾或强偏态情形仍受前述有限样本边界约束。学习理论中的样本复杂度公理库样本复杂度、精度与置信度Sample complexity · Accuracy and confidence用 m(ε,δ) 描述达到风险精度与失败概率所需的数据量。要求给定 $(\epsilon ,\delta )$ 后的有限样本、高概率保证，常还要对整个假设类同时成立；固定统计量的 CLT 不会自动提供这种分布无关 uniform bound。

对统计量而言，CLT 首先给出抽样分布公理库统计量与抽样分布Statistic · Sampling distribution样本的可测数据摘要，以及该摘要在指定统计模型与重复抽样设计下的推前分布。的标准化近似；估计量渐近正态性公理库估计量的渐近正态性Asymptotic normality of estimators估计误差在明确中心、速率与协方差下趋于正态律，以及线性化、标准化和边界失效机制。还要证明估计量具有相应线性主项，Delta 方法公理库Delta 方法Delta method用可微映射的一阶 Taylor 展开传播估计量的渐近分布与协方差。才可把极限传播到光滑目标。有限样本正态、边界参数和不可微变换都不由固定均值的 CLT 自动覆盖。

经典证明走特征函数公理库特征函数（概率）Characteristic function of a distribution随机变量的复指数矩，也就是概率分布的 Fourier 变换。路线：独立和的特征函数是乘积，对每个因子在原点做二阶展开，取极限得到 $e^{-t^2/2}$，再由 Lévy 连续性定理收官——这条证明同时解释了为何只有均值与方差出场。

与大数律公理库强大数定律Law of large numbers · Strong law of large numbers · SLLN独立同分布且可积时，样本均值沿几乎每条无限样本路径收敛到共同期望。相比，两者一粗一细：大数律说样本均值收敛到 $\mu$，中心极限定理进一步给出围绕 $\mu$ 的波动的形状与幅度。极端尾部概率或反复查看数据后自适应选出的模型不应直接代入这条正态近似。独立但不同分布的情形由 Lindeberg 条件与 Lyapunov 条件覆盖，它们是实际检验适用性时的标准清单。