Lehmann–Scheffé 定理

形式陈述 ​

设 $T$ 对模型 $\{P_{\theta }:\theta \in \mathrm{\Theta }\}$ 完备且充分。若可测函数 $g(T)$ 二阶可积，并对目标 $\tau (\theta )$ 无偏：

$${\mathbb{E}}_{\theta }[g(T)]=\tau (\theta )\text{对所有 }\theta \in \mathrm{\Theta },$$

则 $g(T)$ 是 $\tau (\theta )$ 的唯一一致最小方差无偏估计量（UMVU）：对任何二阶可积无偏估计量 $U$，

$${\mathrm{Var}}_{\theta }(g(T))\le {\mathrm{Var}}_{\theta }(U)$$

对所有 $\theta$ 成立；若另一个估计量也具有该性质，则它与 $g(T)$ 在每个 $P_{\theta }$ 下几乎处处相等。

“一致”在这里意为 uniform across the class of unbiased estimators，即同一估计量对每个参数点都最小方差，不是样本量趋于无穷的一致性。

证明 ​

给任意无偏 $U$，由Rao–Blackwell 定理公理库Rao–Blackwell 定理Rao–Blackwell theorem将估计量条件化到充分统计量上，在凸损失下保持目标并使逐参数风险不增加。构造

$$U^{\ast }(T)={\mathbb{E}}_{\theta }[U\mid T].$$

充分性使其为不含未知参数的 $T$ 函数，且保持无偏、方差不增。于是 $U^{\ast }(T)$ 与 $g(T)$ 都基于 $T$ 并无偏估计同一目标，故

$${\mathbb{E}}_{\theta }[U^{\ast }(T)-g(T)]=0$$

对所有参数成立。完备性公理库完备统计量Complete statistic · Completeness其分布族中不存在对所有参数期望皆为零却非平凡的可积函数的统计量。迫使 $U^{\ast }(T)=g(T)$ 几乎处处。因此 $g(T)$ 的方差不超过原 $U$。

唯一性同样来自完备性：两个基于 $T$ 的无偏候选之差对全参数空间期望为零，只能是零函数。证明链中，充分性负责把任意候选投影到 $T$，完备性负责消除投影后的歧义。

例子与计算 ​

若 $X_1,\dots ,X_n$ 独立 Poisson$(\lambda )$，则 $T=\sum _i{X}_i\sim \mathrm{Poisson}(n\lambda )$ 完备且充分。因为

$$E_{\lambda }[T/n]=\lambda ,$$

$T/n=\overline{X}$ 是 $\lambda$ 的 UMVU 估计。

估计 $P_{\lambda }(X_{new}=0)=e^{-\lambda }$ 时，利用二项式恒等式构造

$$g(T)={(1-\frac{1}{n})}^T.$$

Poisson 概率生成函数给出

$$E_{\lambda }[g(T)]=\exp \{n\lambda ((1-1/n)-1)\}=e^{-\lambda },$$

所以 $g(T)$ 是该非线性目标的唯一 UMVU。这个例子展示定理不只处理参数本身，也处理存在无偏表示的函数目标。

边界与失败情形 ​

定理只在无偏估计量类中比较方差。一个带小偏差的收缩估计量可能有更低 MSE；不能把 UMVU 解释为所有损失和所有规则中的全局最优。

若不存在目标的无偏估计量，定理不能凭空构造一个。有限样本中某些目标不在 $T$ 分布族期望算子的值域内。

充分但不完备时，多个不同的 $T$ 函数可能都无偏，唯一性失败；完备但不充分则无法保证任意估计量的 Rao–Blackwell 化形成同一可实施规则。

二阶矩不存在时“最小方差”没有定义。只有一阶可积可证明无偏唯一性，但不能完成方差比较。

该非线性例也可从任意无偏估计出发：$U=\mathbf{1}\{X_1=0\}$ 的期望为 $e^{-\lambda }$，条件于总和 $T$ 后得到 $E[U\mid T]=(1-1/n{)}^T$。Rao–Blackwell 步骤构造函数形式，完备性随后认证它是唯一 UMVU，这比猜出公式再验期望更系统。

UMVU 的 uniform 量词覆盖每个参数点，但比较类只含无偏估计。若应用允许偏差，收缩规则可能有更低 MSE；若目标没有任何无偏估计，则完全充分统计量也不能凭空制造候选。定理给的是明确受限类中的最优性。

推论与应用 ​

寻找 UMVU 的标准路线是先找完备充分统计量，再构造其无偏函数，而非直接在所有估计量上优化。条件期望可把一个容易想到的无偏估计量转成所需函数。

满秩一参数指数族常提供完备充分自然统计量，但 curved 或参数空间受限后必须重新验证完备性。

不同参数下的“几乎处处唯一”可能对应不同零集；标准支配模型通常选择共同版本表达唯一估计量。实践中两公式若只在统计量不可能取到的值上不同，仍代表同一个 UMVU 规则。若这些值在某些参数下有正概率，则完备性会检测出差异。

定理也不比较有偏规则的尾部风险。即使 UMVU 方差最小，某个应用若重罚极端误差或要求参数约束，投影、截断等有偏规则可能更合适；这需要回到明确损失，而不是否定定理。

参考资料

• E. L. Lehmann and Henry Scheffé, “Completeness, Similar Regions, and Unbiased Estimation,” Sankhyā 10, 1950。
• Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998，§1.7。
• George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002，§7.3。