Wald、Score 与 LR 渐近检验

三种检验都读取零假设附近同一个二次 likelihood 几何，只是取样位置不同：Wald 看完整估计量离约束面多远，Score 在受限点看上坡方向有多陡，LR 直接比较受限与完整最优值的高度差。局部曲率近似良好时三幅图首阶相同，强曲率、边界或优化失败时则会分开。

局部等价 ​

对 score 在 ${\theta }_0$ Taylor 展开，$0=U_n(\hat{\theta })\approx U_n({\theta }_0)-I_n({\theta }_0)(\hat{\theta }-{\theta }_0)$。再把 log likelihood 二次展开，得到

因此三者在 $1/\sqrt{n}$ 局部备择下也有相同首阶非中心卡方极限。

取 $n\ge 1$ 个独立同分布的 $\mathrm{Poisson}(\lambda )$ 观测，在非负参数空间中检验 $H_0:\lambda ={\lambda }_0>0$。MLE 为 $\overline{X}$；当 $\overline{X}>0$ 时，Wald 用 $(\overline{X}-{\lambda }_0{)}^2/(\overline{X}/n)$；Score 用 $n(\overline{X}-{\lambda }_0{)}^2/{\lambda }_0$；LR 用 $2n[\overline{X}\log \left(\overline{X}/{\lambda }_0\right)-\overline{X}+{\lambda }_0]$。三者大样本接近，有限样本数值不同。

若 $\overline{X}=0$，上述插件 Wald 式因分母为零而未定义；为陈述一列处处定义的统计量的渐近极限，可在该事件上给 $W$ 任意固定有限值。LR 按 $0\log \left(0/{\lambda }_0\right)=0$ 的连续延拓取值，故此时 $L=2n{\lambda }_0$，Score 仍可计算。在固定的内部零假设 ${\lambda }_0>0$ 下，$P_{{\lambda }_0}(\overline{X}=0)=e^{-n{\lambda }_0}\to 0$，所以这项有限样本边界及所述 Wald 延拓不改变前面的渐近结论。

向量约束与可复核数值 ​

对 $q$ 维光滑约束 $r(\theta )=0$，Wald 统计量使用

其中 $R$ 是约束的 Jacobian，假设其行秩为 $q$；$\hat{V}$ 一致估计 $\sqrt{n}(\hat{\theta }-\theta )$ 的渐近协方差。Score 在受限 MLE 处用有效信息形成二次型，LR 比较受限与完整最优 log likelihood；正则零假设下三者均趋于 ${\chi }_q^2$。

Poisson 例取 $n=25,{\lambda }_0=4,\overline{X}=5$。Wald、Score、LR 分别为

这个例子中三者分别使用估计点的尺度、零点的尺度与两个最优值之间的似然差，因此得到不同的有限样本数值。

边界与失败情形 ​

Wald 使用参数坐标中的距离，非线性重参数化会改变其有限样本数值，所得区间还可能越出参数空间。Score 依赖零假设处的信息矩阵；LR 比较同一模型中的两个最优似然值，因此对一一重参数化不变。

参数在边界、信息奇异或 nuisance 只在备择出现时，普通卡方极限失败。此时要按具体模型重新确定极限分布。

模型失配时，sandwich 协方差可以校准某些 Wald 或 Score 统计量；似然比的极限则要分析目标函数及其曲率，普通 Wilks 定理与信息等式可能不再适用。

计算上，Score 只拟合零模型，适合高维备择难拟合的筛查；Wald 需要完整 MLE 与协方差；LR 需要两次优化但沿 likelihood 几何比较。若完整 MLE 不存在，Wald 和 LR 可能失效，而某些有限的 score 检验仍可计算，但其极限条件仍需检查。

对 nuisance 参数，Score 必须用 efficient score

信息为相应 Schur complement。这一修正扣除了干扰参数估计与目标 score 的相关部分；直接使用目标信息块会错估相应方差。

三种检验的p 值理路p 值p-value在零假设下校准的证据统计量，其小值事件的概率不超过对应阈值。差异明显时，可以检查参数是否接近边界、profile 曲线是否偏离二次形状，以及样本量和优化收敛情况。这些诊断帮助解释预先选定的主要检验为何与其他方法不同。正则零假设下的共同极限由卡方分布理路卡方分布Chi-square distribution · Chi-squared distribution · χ² distribution若干独立标准正态变量平方和的分布，以自由度记录独立平方方向的数量。校准，但边界和奇异模型需要别的极限定理。

置信集合也对应不同反演：Wald 给局部椭球，LR 给 profile likelihood level set，Score 给零点可接受域。它们首阶覆盖相同，却可能在强曲率模型中有不同不对称边界；参数空间受限时 LR 区域通常更自然。

若只获得 approximate MLE，完整模型与受限模型的优化目标都应距各自上确界 $o_P(1)$，才能让 LR 统计量的扰动消失；仅有 $O_P(1)$ 的 likelihood gap 仍可能留下非退化偏移。对 Wald，近似估计量与精确 MLE 的差通常需要是 $o_P(n^{-1/2})$，才不会改变根 $n$ 尺度的极限。这些尺度把数值停止容差与统计渐近误差联系起来。