似然比检验

两个完全指定的分布可以直接按 $R(x)=p_1(x)/p_0(x)$ 排序，Neyman–Pearson 引理理路Neyman–Pearson 引理Neyman–Pearson lemma简单零假设对简单备择下，给定显著性约束时似然比阈值检验具有最大功效。保证校准后的阈值规则具有有限样本最强性。若仍使用本页的广义形式，取 ${\mathrm{\Theta }}_0=\{{\theta }_0\}$、$\mathrm{\Theta }=\{{\theta }_0,{\theta }_1\}$，则 $\mathrm{\Lambda }=1/max\{1,R\}$。它把所有 $R\le 1$ 压成同一值；所需显著性水平若把临界点放进这段平区，仍需保留原始 $R$ 的排序处理平局，不能只凭非严格单调变换就声称两族检验完全相同。

一般复合问题中，分母使用数据选出的完整 MLE，分子使用受限 MLE。这是 generalized likelihood ratio，而非 NP 引理中预先固定的两个密度；不能把简单情形的最强性无条件迁移。

设 $X_1,\dots ,X_n$ 独立同分布于 $N(\mu ,{\sigma }^2)$，$\sigma >0$ 已知，检验 $H_0:\mu ={\mu }_0$ 对双侧备择。完整 MLE 为 $\hat{\mu }=\overline{X}$，于是

零假设下

是精确有限样本的卡方分布理路卡方分布Chi-square distribution · Chi-squared distribution · χ² distribution若干独立标准正态变量平方和的分布，以自由度记录独立平方方向的数量。。因此 level-$\alpha$ 检验在 $W>{\chi }_{1,1-\alpha }^2$ 时拒绝，等价于双侧 $z$ 检验。

这里状态轨迹可完整追踪：受限拟合固定在 ${\mu }_0$，完整拟合移动到 $\overline{X}$；两者残差平方差恰为 $n(\overline{X}-{\mu }_0{)}^2$，再按噪声方差标准化。

Wilks 渐近结论 ​

在真参数位于完整参数空间 $\mathrm{\Theta }$ 的内部、零假设是经过该点的无边界光滑余维 $r$ 子流形、模型可识别且二次可微、Fisher 信息非奇异等正则条件下，Wilks 定理给出

$r=\dim (\mathrm{\Theta })-\dim ({\mathrm{\Theta }}_0)$。该结论允许用卡方分位数近似阈值，但只描述 $n\to \mathrm{\infty }$ 的零分布；它不说明检验在任意备择下最优。

边界与失败情形 ​

真参数在边界时，Wilks 的卡方极限通常改变为卡方混合。例如方差分量为零的检验，局部参数只能向一侧变化，不能套普通余维计数。

混合模型、改变点和不可识别 nuisance 参数在零假设下会破坏非奇异二次展开，极限可能是高斯过程上确界或其他非标准分布。此时 bootstrap 也需模拟正确零模型与拟合流程。

小样本中卡方近似可能偏差明显。若存在精确条件分布、置换校准或 parametric bootstrap，应明确其有限样本或模拟误差性质。

若上确界无穷，或完整模型的似然上确界为零，$\mathrm{\Lambda }$ 可能没有定义。反过来，有限正上确界即使没有被某个参数取得，仍可用于这里的比值；MLE 不存在并不自动使 LRT 统计量不存在。用优化器返回值代替数学上确界还会混入优化误差，受限和完整问题应分别检查。

单侧正态均值检验展示边界效应：当 $\overline{X}\le {\mu }_0$ 时，受限与完整 MLE 相同，$W=0$；只有 $\overline{X}>{\mu }_0$ 才有正统计量。边界零假设下极限带零点质量，因此不能继续用双侧问题的普通 ${\chi }_1^2$ 阈值。

非嵌套模型不存在自然的 ${\mathrm{\Theta }}_0\subseteq \mathrm{\Theta }$。把两个最大似然值直接相除不满足 Wilks 余维卡方结论；信息准则、非嵌套检验与预测验证回答不同问题，不能因为都比较 likelihood 就统称为同一个 LRT。

均值经验似然理路均值的经验似然Empirical likelihood for a mean · Mean empirical likelihood · 均值经验似然把概率质量放在已观察到的点上，以均值约束优化似然比，证明乘子唯一性、有限方差卡方极限及经验支持造成的小样本边界。在样本点上优化概率质量，有限正方差下也可得到一自由度卡方极限，但其证明需要单独控制经验支持与乘子。原样本只落在真均值一侧时，似然比可为零；不能仅因出现“似然比”便把本页固定维光滑参数模型的Wilks条件原样套上。

若改变前后模型固定而起点未知，对“已在某个$k\le n$改变”相对于“始终正常”的最大似然比为$\underset{k\le n}{max}\prod _{i=k}^n{f}_1(X_i)/f_0(X_i)$。CUSUM理路CUSUM 变点检测CUSUM change detection · Page CUSUM · 累积和变点检测对所有可能的改变起点取最大似然比，用可重置递推监测分布变化，并以运行长度而非无限期错误概率校准阈值。把它化为常数状态递推，但每一时刻都再看一次，并不断增加可选起点，不能自动套固定样本的卡方近似或把阈值解释成同一个显著性水平。其有限状态例子直接以正常平均等待和给定时域的报警概率校准；未知改变后参数仍是另一个建模问题。

似然比检验在参数变换下一致，因为受限与完整模型的分布集合不变。它适合嵌套模型比较，并可通过反演产生 profile likelihood 置信集合。

Wald、Score 与 LR 检验理路Wald、Score 与 LR 渐近检验Wald test · Score test · Lagrange multiplier test用估计量距离、零点梯度或似然差构造的三类正则大样本检验。在正则局部备择下常渐近等价，有限样本统计量和数值稳定性却不同。

在数值实现中，$W$ 是两个最优目标值之差，往往比直接计算极小似然比稳定。若完整模型优化只达到较差局部点，可能反而出现受限似然更高、$W<0$；这不是统计证据，而是优化或模型嵌套实现错误，应先修复再校准检验。