似然比检验

方法定义 ​

设参数空间 $\mathrm{\Theta }$，零假设限制为 ${\mathrm{\Theta }}_0\subseteq \mathrm{\Theta }$。广义似然比统计量定义为

$$\mathrm{\Lambda }(x)=\frac{\underset{\theta \in {\mathrm{\Theta }}_0}{sup}L(\theta ;x)}{\underset{\theta \in \mathrm{\Theta }}{sup}L(\theta ;x)},0\le \mathrm{\Lambda }(x)\le 1,$$

前提是两个上确界有限且分母为正。$\mathrm{\Lambda }$ 小表示施加零假设约束后最佳拟合下降明显，因此在 $\mathrm{\Lambda }(x)\le c$ 时拒绝。常用等价统计量

$$W(x)=-2\log \mathrm{\Lambda }(x)=2\{\underset{\mathrm{\Theta }}{sup}\ell (\theta ;x)-\underset{{\mathrm{\Theta }}_0}{sup}\ell (\theta ;x)\}$$

取大值时拒绝。

阈值 $c$ 必须由 $H_0$ 下分布校准。若零假设复合，要求

$$\underset{\theta \in {\mathrm{\Theta }}_0}{sup}{P}_{\theta }(\mathrm{\Lambda }(X)\le c)\le \alpha ,$$

或使用已证明的共同渐近极限。统计量的定义本身不提供 level 保证。

与简单假设的关系 ​

若 ${\mathrm{\Theta }}_0=\{{\theta }_0\}$、$\mathrm{\Theta }=\{{\theta }_0,{\theta }_1\}$，则 $\mathrm{\Lambda }$ 是简单似然比的单调函数，拒绝规则与Neyman–Pearson 引理公理库Neyman–Pearson 引理Neyman–Pearson lemma简单零假设对简单备择下，给定显著性约束时似然比阈值检验具有最大功效。一致，并具有有限样本最强性。

一般复合问题中，分母使用数据选出的完整 MLE，分子使用受限 MLE。这是 generalized likelihood ratio，而非 NP 引理中预先固定的两个密度；不能把简单情形的最强性无条件迁移。

例子与推导 ​

设 $X_1,\dots ,X_n\sim N(\mu ,{\sigma }^2)$，$\sigma$ 已知，检验 $H_0:\mu ={\mu }_0$ 对双侧备择。完整 MLE 为 $\hat{\mu }=\overline{X}$，于是

$$W=\frac{n(\overline{X}-{\mu }_0{)}^2}{{\sigma }^2}.$$

零假设下

$$W=Z^2\sim {\chi }_1^2$$

是精确有限样本分布。因此 level-$\alpha$ 检验在 $W>{\chi }_{1,1-\alpha }^2$ 时拒绝，等价于双侧 $z$ 检验。

这里状态轨迹可完整追踪：受限拟合固定在 ${\mu }_0$，完整拟合移动到 $\overline{X}$；两者残差平方差恰为 $n(\overline{X}-{\mu }_0{)}^2$，再按噪声方差标准化。

Wilks 渐近结论 ​

在真参数位于 ${\mathrm{\Theta }}_0$ 内部、模型可识别且二次可微、Fisher 信息非奇异、零假设是光滑余维 $r$ 子流形等正则条件下，Wilks 定理给出

$$-2\log \mathrm{\Lambda }(X_{1:n})\stackrel{d}{\to }{\chi }_r^2.$$

$r=\dim (\mathrm{\Theta })-\dim ({\mathrm{\Theta }}_0)$。该结论允许用卡方分位数近似阈值，但只描述 $n\to \mathrm{\infty }$ 的零分布；它不说明检验在任意备择下最优。

边界与失败情形 ​

真参数在边界时，Wilks 的卡方极限通常改变为卡方混合。例如方差分量为零的检验，局部参数只能向一侧变化，不能套普通余维计数。

混合模型、改变点和不可识别 nuisance 参数在零假设下会破坏非奇异二次展开，极限可能是高斯过程上确界或其他非标准分布。此时 bootstrap 也需模拟正确零模型与拟合流程。

小样本中卡方近似可能偏差明显。若存在精确条件分布、置换校准或 parametric bootstrap，应明确其有限样本或模拟误差性质。

似然上确界不存在或无界时，$\mathrm{\Lambda }$ 可能没有定义。用优化器返回值代替数学上确界还会混入优化误差；受限和完整问题应分别检查收敛。

单侧正态均值检验展示边界效应：当 $\overline{X}\le {\mu }_0$ 时，受限与完整 MLE 相同，$W=0$；只有 $\overline{X}>{\mu }_0$ 才有正统计量。边界零假设下极限带零点质量，因此不能继续用双侧问题的普通 ${\chi }_1^2$ 阈值。

非嵌套模型不存在自然的 ${\mathrm{\Theta }}_0\subseteq \mathrm{\Theta }$。把两个最大似然值直接相除不满足 Wilks 余维卡方结论；信息准则、非嵌套检验与预测验证回答不同问题，不能因为都比较 likelihood 就统称为同一个 LRT。

推论与应用 ​

似然比检验在参数变换下一致，因为受限与完整模型的分布集合不变。它适合嵌套模型比较，并可通过反演产生 profile likelihood 置信集合。

Wald、score 与 likelihood ratio 检验在正则局部备择下常渐近等价，有限样本统计量和数值稳定性却不同。

在数值实现中，$W$ 是两个最优目标值之差，往往比直接计算极小似然比稳定。若完整模型优化只达到较差局部点，可能反而出现受限似然更高、$W<0$；这不是统计证据，而是优化或模型嵌套实现错误，应先修复再校准检验。

参考资料

• Samuel S. Wilks, “The Large-Sample Distribution of the Likelihood Ratio,” Annals of Mathematical Statistics 9(1), 1938。
• A. W. van der Vaart, Asymptotic Statistics, Cambridge University Press, 1998，Ch. 16。
• Erich L. Lehmann and Joseph P. Romano, Testing Statistical Hypotheses, 3rd ed., Springer, 2005，Ch. 12。