估计量的一致性

形式陈述 ​

设对每个样本量 $n$ 有实验 $P_{\theta }^{(n)}$ 与估计量 ${\hat{g}}_n$，目标为 $g(\theta )$。若对每个固定 $\theta \in \mathrm{\Theta }$ 和每个 $\epsilon >0$，

$$P_{\theta }^{(n)}(d({\hat{g}}_n,g(\theta ))>\epsilon )⟶0,$$

则称 ${\hat{g}}_n$ 对 $g(\theta )$ 弱一致，即依概率收敛公理库依概率收敛Convergence in probability随机变量偏离极限超过任意正阈值的概率趋于零。。若在共同概率空间上

$$P_{\theta }(\underset{n\to \mathrm{\infty }}{lim}{\hat{g}}_n=g(\theta ))=1,$$

则称强一致。强一致蕴含弱一致，反向一般不成立。

上述定义是点态一致：先固定 $\theta$ 再令 $n\to \mathrm{\infty }$。一致的统一版本要求

$$\underset{\theta \in \mathrm{\Theta }}{sup}{P}_{\theta }^{(n)}(d({\hat{g}}_n,g(\theta ))>\epsilon )\to 0,$$

它明显更强。若参数序列 ${\theta }_n$ 随 $n$ 接近边界，点态结论不能自动套用。

证明路线 ​

直接路线用概率不等式控制误差。若偏差趋零且方差趋零，Chebyshev 不等式给出弱一致；这只是充分条件，不要求估计量无偏。

代入路线先由大数律证明样本摘要 $T_n\to t(\theta )$，再用连续映射得到 $h(T_n)\to h(t(\theta ))=g(\theta )$。若 $h$ 在极限点不连续或理论矩不可识别，该链条会断裂。

极值估计路线令

$${\hat{\theta }}_n\in \underset{\theta \in \mathrm{\Theta }}{\mathrm{argmin}}{M}_n(\theta ).$$

若 $M_n$ 一致收敛到 $M$，且 $M$ 在 ${\theta }_0$ 有分离的唯一极小点，再控制近似极小解，就可推出 argmin 一致性。逐点收敛通常不足以交换“极小”与“极限”。

例子与计算 ​

若 $X_i$ 独立同分布且 ${\mathbb{E}}_{\theta }|X_1|<\mathrm{\infty }$，强大数律给出

$${\overline{X}}_n\to \mu (\theta )\text{几乎必然},$$

所以样本均值强一致估计总体均值。若仅有有限方差，

$$P_{\theta }(|{\overline{X}}_n-\mu |>\epsilon )\le \frac{{\sigma }^2}{n{\epsilon }^2}\to 0$$

直接给弱一致和显式有限样本上界。

Uniform$(0,\theta )$ 中 $M_n=\underset{i}{max}{X}_i$ 满足对 $0<\epsilon <\theta$，

$$P_{\theta }(|M_n-\theta |>\epsilon )=P_{\theta }(M_n<\theta -\epsilon )={(1-\frac{\epsilon }{\theta })}^n\to 0.$$

它虽有限样本有偏，却一致。

若用连续函数 $h$ 估计变换目标，${\hat{\theta }}_n\to \theta$ 依概率通常推出 $h({\hat{\theta }}_n)\to h(\theta )$。但反函数问题需要局部可逆：例如只观察一致估计的 ${\theta }^2$，在未限制符号时无法恢复一致的 $\theta$，这与可识别性边界一致。

边界与失败情形 ​

无偏不蕴含一致。若每个 $n$ 都只用第一条观测 ${\hat{\mu }}_n=X_1$，则始终无偏，但方差不随 $n$ 缩小，误差概率不会趋零。

一致也不提供有限样本速度。两个估计量都可收敛到真值，却在实际样本规模下差异巨大；需要集中不等式、风险界或渐近分布量化精度。

若模型不可识别，同一数据分布对应两个不同目标值，则不可能对两者都一致。模型失配时，极值估计量可能一致收敛到伪真参数，而非科学目标。

强一致陈述需要把不同 $n$ 的样本构造在同一概率空间；三角阵列或改变实验设计时必须明确耦合方式。

风险趋零可推出某些一致性，但反向不必成立。极小概率下出现极大误差可使估计量依概率收敛，却让均方误差不降甚至发散；从一致性推期望损失收敛还需一致可积性或尾部控制。

例如令误差 $E_n=n$ 的概率为 $1/n$、否则为零，则 $E_n\to 0$ 依概率，因为任意固定阈值的超越概率为 $1/n$；但 $\mathbb{E}[E_n^2]=n$ 发散。这个状态轨迹具体阻止了从一致性直接推出 MSE 收敛的常见错误。

推论与应用 ​

一致性保证无限数据极限方向正确，是讨论渐近正态性和置信区间前的中心定位条件。它不保证无偏、有效、鲁棒或计算可达。

验证证明时应明确：概率由哪个 $P_{\theta }^{(n)}$ 计算，参数是固定还是随 $n$ 变化，收敛是点态还是统一，目标度量是什么。

参考资料

• A. W. van der Vaart, Asymptotic Statistics, Cambridge University Press, 1998，Ch. 2 与 5。
• Thomas S. Ferguson, A Course in Large Sample Theory, Chapman & Hall, 1996，Ch. 1–2。
• R. J. Serfling, Approximation Theorems of Mathematical Statistics, Wiley, 1980，Ch. 1。