渐近效率

形式陈述 ​

在正则参数模型中，若

$$\sqrt{n}({\hat{\theta }}_n-{\theta }_0)\stackrel{d}{\to }{N}_k(0,V({\theta }_0)),$$

且单样本 Fisher 信息 $I({\theta }_0)$ 非奇异，则正则估计量通常满足局部信息下界

$$V({\theta }_0)⪰I({\theta }_0{)}^{-1}.$$

若等号成立，称 ${\hat{\theta }}_n$ 在 ${\theta }_0$ 渐近有效。标量参数下，两个渐近正态估计量 $T_n,S_n$ 的相对效率常定义为

$$\mathrm{ARE}(T,S;{\theta }_0)=\frac{V_S({\theta }_0)}{V_T({\theta }_0)},$$

约定需明确谁在分子；数值大于一表示 $T$ 具有较小渐近方差。

向量情形协方差矩阵只有偏序，可能一个估计量在某些方向更好、另一些方向更差。若要压成标量，应指定迹、行列式或目标函数 Jacobian 所诱导的损失。

局部含义 ​

渐近效率比较的是固定参数点附近 $1/\sqrt{n}$ 局部扰动下的首阶方差。它不等于全参数空间的有限样本风险排序，也不控制偏差的高阶项、尾概率或计算成本。

“正则估计量”排除只在单个点超常表现的病态规则。Hodges 估计量可在一个参数点获得比信息界更快的表面方差，却在邻近收缩区域表现恶化；点态超效率不能在正测度参数集上普遍存在。

例子与计算 ​

设 $X_i\sim N(\mu ,{\sigma }^2)$，$\sigma$ 已知。样本均值满足

$$\sqrt{n}(\overline{X}-\mu )\sim N(0,{\sigma }^2),$$

而信息逆为 $I(\mu {)}^{-1}={\sigma }^2$，所以 $\overline{X}$ 有效。

对同一位置模型，样本中位数在正态分布下有渐近方差

$$V_{med}=\frac{1}{4f(\mu {)}^2}=\frac{\pi {\sigma }^2}{2}.$$

因此中位数相对均值的效率为

$$\frac{{\sigma }^2}{\pi {\sigma }^2/2}=\frac{2}{\pi }\approx 0.637.$$

按首阶方差，要获得与均值相近的精度，中位数约需 $\pi /2$ 倍样本。但在污染或重尾分布下，中位数的稳健性可能更重要；效率数值必须连同模型说明。

与有限样本界的区别 ​

Cramér–Rao 下界公理库Cramér–Rao 下界Cramér–Rao lower bound · Information inequality正则模型中估计量方差由目标导数、偏差导数与 Fisher 信息共同限制的信息下界。针对正则、通常无偏的有限样本估计量；渐近效率允许 $O(1/n)$ 偏差，只要求首阶局部展开达到信息逆。MLE 常渐近有效，却未必有限样本无偏或逐样本达到 Cramér–Rao 等号。

若估计量有影响函数展开

$${\hat{\theta }}_n-{\theta }_0=\frac{1}{n}\sum _i\psi (X_i)+o_P(n^{-1/2}),$$

有效影响函数为 $I({\theta }_0{)}^{-1}{s}_{{\theta }_0}(X)$。其他正则影响函数的额外正交分量只会增加协方差。

边界与失败情形 ​

模型失配时 score 方差与负 Hessian 不同，信息逆不再是 sandwich 协方差；仍称“达到 Fisher 界”会比较错对象。

边界、不可识别、半参数 nuisance 或非 $\sqrt{n}$ 速率问题需要切空间与有效信息等推广。奇异信息矩阵不能直接求逆。

渐近方差相同不代表方法同样好。高阶偏差、异常值敏感性和优化失败可主导实际样本。

样本量换算只是首阶解释：若方差近似 $v/n$，渐近方差比对应达到同一标准误所需的样本比。固定样本下的偏差、离散性和优化失败不会被 ARE 捕获，所以 $2/\pi$ 不能解释成所有样本量上的精确性能百分比。

效率依赖模型和目标方向。光滑一一重参数化下，非零 Jacobian 会同时缩放两个标量方差，相对效率保持；导数退化或向量目标降维时必须重算。用行列式压缩向量协方差，还可能掩盖科学上关键方向的损失。

推论与应用 ​

局部渐近正态理论把正则统计实验近似为高斯位移实验，信息逆成为可达到的局部协方差界。one-step estimator 可从一致初值加一次有效 score 更新获得首阶效率。

报告效率时应列出模型、参数点、缩放、损失方向及比较基准，避免脱离量词的百分比。

局部备择 ${\theta }_n={\theta }_0+h/\sqrt{n}$ 提供更完整比较：有效估计量的极限均值随 $h$ 平移，协方差达到信息逆；额外影响函数噪声会在所有局部方向增加方差。只看固定真值下一个点的方差，可能漏掉非正则超效率在邻域付出的代价。

半参数模型中 nuisance 是无限维函数，效率界由 score 在 nuisance 切空间正交补上的投影得到。直接使用参数子模型的 Fisher 信息通常过于乐观；能否构造达到半参数有效影响函数的估计量是另一个实质问题。

参考资料

• A. W. van der Vaart, Asymptotic Statistics, Cambridge University Press, 1998，Ch. 8。
• Lucien Le Cam and Grace Lo Yang, Asymptotics in Statistics, 2nd ed., Springer, 2000，Ch. 6。
• Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998，Ch. 6。