估计量的渐近正态性

形式陈述 ​

估计量序列 ${\hat{\theta }}_n\in {\mathbb{R}}^k$ 若对每个固定真参数 ${\theta }_0$，存在确定缩放 $r_n\to \mathrm{\infty }$ 和非退化协方差矩阵 $V({\theta }_0)$，使

$$r_n({\hat{\theta }}_n-{\theta }_0)\stackrel{d}{\to }{N}_k(0,V({\theta }_0)),$$

则称其在 ${\theta }_0$ 渐近正态。常规独立样本中 $r_n=\sqrt{n}$，但非参数、边界或弱识别问题可能有不同速率和非正态极限。

若中心含渐近偏移，也可有

$$\sqrt{n}({\hat{\theta }}_n-{\theta }_0)\stackrel{d}{\to }{N}_k(b,V).$$

必须报告中心 $b$、尺度和参数点；只说“趋于正态”没有完整含义。依分布收敛公理库依分布收敛Convergence in distribution · Weak convergence分布函数在极限分布连续点处收敛的随机变量收敛概念。控制标准化统计量的连续有界函数期望，不等于密度逐点接近或有限样本已正态。

推导骨架 ​

许多估计量满足渐近线性展开

$${\hat{\theta }}_n-{\theta }_0=\frac{1}{n}\sum _{i=1}^n{\psi }_{{\theta }_0}(X_i)+o_{P_{{\theta }_0}}(n^{-1/2}),$$

其中 ${\mathbb{E}}_{{\theta }_0}\psi =0$、协方差有限。乘 $\sqrt{n}$ 后，中心极限定理处理首项，依概率消失的余项由 Slutsky 定理移除，极限协方差为 ${\mathrm{Cov}}_{{\theta }_0}(\psi )$。

对解估计方程 $n^{-1}\sum _i\psi (X_i,\theta )=0$ 的规则，在 ${\theta }_0$ 附近 Taylor 展开得到

$$\sqrt{n}({\hat{\theta }}_n-{\theta }_0)\approx -A^{-1}\frac{1}{\sqrt{n}}\sum _i\psi (X_i,{\theta }_0),$$

其中 $A={\mathbb{E}}_{{\theta }_0}[{\partial }_{\theta }\psi (X,{\theta }_0)]$ 必须可逆。

例子与计算 ​

Bernoulli$(p)$ 样本比例 $\hat{p}=\overline{X}$ 满足

$$\sqrt{n}(\hat{p}-p)\stackrel{d}{\to }N(0,p(1-p))$$

对每个固定 $0<p<1$ 成立。用一致估计 $\hat{p}(1-\hat{p})$ 替换未知方差，得到 studentized 形式

$$\frac{\sqrt{n}(\hat{p}-p)}{\sqrt{\hat{p}(1-\hat{p})}}\stackrel{d}{\to }N(0,1).$$

取 $n=400$、$\hat{p}=0.3$，估计标准误为 $\sqrt{0.3\cdot 0.7/400}\approx 0.0229$；正态近似区间约为 $0.3\pm 1.96(0.0229)$。这是渐近区间，不是精确二项覆盖。

若改估计 log-odds $g(p)={\log }^{p/(1-p)}$，内部参数处 Delta 方法给渐近方差

$$g^{\prime }(p{)}^{2}p(1-p)=\frac{1}{p(1-p)}.$$

同一个样本比例在不同参数坐标中有不同标准误；报告渐近正态时必须说明中心化目标和 Jacobian，而不是只附一个“标准误”数字。

边界与失败情形 ​

在 $p=0$ 或 $p=1$，方差退化且样本比例恒等于边界，标准化分母为零；内部参数的正态结论不能延伸到边界。若 $p_n=c/n$ 随 $n$ 变化，成功次数趋向 Poisson 极限而非同一正态近似。

样本均值在有限方差下渐近正态；若总体尾部重到方差无穷，$\sqrt{n}$ 缩放可失败并出现稳定分布极限。相关数据还需混合、鞅或长程依赖条件。

一致性不蕴含渐近正态。例如样本最大值估计 Uniform 上界以 $n$ 而非 $\sqrt{n}$ 缩放，极限是指数型。不可微目标如绝对值在真值零点也可能产生折叠正态极限。

渐近方差估计错误会破坏 studentization。若相关或异方差数据仍使用独立同方差公式，分子可能有正态极限，但除以的尺度收敛到错误常量，最终枢轴不是标准正态。

点态正态极限也可能在参数空间上收敛很不均匀。对每个固定内部参数近似良好，不代表在距边界 $O(n^{-1/2})$ 的区域仍有统一误差控制；置信区间若需要诚实覆盖，必须检验局部参数序列或使用统一中心极限定理。

推论与应用 ​

若 $V(\theta )$ 可一致估计，Wald 型标准误和置信区间由渐近枢轴构造。覆盖误差的大小仍需 Berry–Esseen、Edgeworth 展开或模拟评估；极限定理本身不给有限 $n$ 精度。

重参数化可用 Delta 方法传播渐近正态性，但 Jacobian 奇异时一阶展开失效，需要更高阶分析。

参考资料

• A. W. van der Vaart, Asymptotic Statistics, Cambridge University Press, 1998，Ch. 2–5。
• R. J. Serfling, Approximation Theorems of Mathematical Statistics, Wiley, 1980，Ch. 1–2。
• Thomas S. Ferguson, A Course in Large Sample Theory, Chapman & Hall, 1996，Ch. 2–4。