Skip to content

Lehmann–Scheffé 定理

Lehmann–Scheffé theorem

完备充分统计量上的二阶可积无偏函数,在全参数空间同时成为唯一最小方差无偏估计。

领域
统计学
条目类型
定理

形式陈述

T 对模型 {Pθ:θΘ} 同时完备充分。若可测函数 g(T) 对每个参数点二阶可积,并且

Eθ[g(T)]=τ(θ)对所有 θΘ,

g(T)τ(θ) 的一致最小方差无偏估计量(uniformly minimum-variance unbiased estimator, UMVU):对任意满足 EθU=τ(θ)EθU2< 的估计量 U

Varθ(g(T))Varθ(U)

对所有 θ 同时成立。唯一性按统计等价理解:任何另一 UMVU 估计量都与 g(T) 在每个 Pθ 下几乎处处相等。

中文名称中的“一致”指同一规则在无偏比较类中对每个参数点都达到最小方差;这里没有令样本量趋于无穷,不能与估计量一致性混用。

直觉

证明

任取一个二阶可积无偏估计量 U。由Rao–Blackwell 定理和充分性的共同条件核,构造同一个可实施函数

U(T)=Eθ[UT].

它保持无偏且方差不增。现在 U(T)g(T) 都是 T 的函数,并对同一目标无偏,故

Eθ[U(T)g(T)]=0

对所有参数成立。完备性迫使 U(T)=g(T) 几乎处处。因此

Varθ{g(T)}=Varθ{U(T)}Varθ(U)

在每个参数点成立,完成 UMVU 证明。

还要说明任意 UMVU 都唯一,而不仅是 T 函数中的唯一。若 V 也是 UMVU,它的 Rao–Blackwell 化必等于 g(T);两条 UMVU 性质又迫使 Varθ(V)=Varθ{g(T)}。全方差分解的等号条件于是给 V=E(VT)=g(T) 几乎处处。证明链中,充分性负责把任意候选投影进 T,完备性识别该投影,方差等号再消除投影外的残余随机性。

例子与边界

若不同时间段的独立事故数 XiPoisson(λ),则总数 T=iXiPoisson(nλ) 完备且充分。因为

Eλ[T/n]=λ,

T/n=X¯ 是单位时间事故率 λ 的唯一 UMVU 估计。这个结论比较的是所有二阶可积无偏规则,包括只看某一时段或以额外随机币扰动的规则。

再估计下一单位时间零事故的概率 Pλ(Xnew=0)=eλ。从容易想到的无偏估计 U=1{X1=0} 出发;给定 T 后,X1TBinomial(T,1/n),因此对 n2,Rao–Blackwell 化为

g(T)=(11n)T.

Poisson 概率生成函数核对其期望:

Eλ[g(T)]=exp{nλ((11/n)1)}=eλ,

所以 g(T) 是该非线性目标的唯一 UMVU。构造路线“先找粗糙无偏估计,再条件化”比猜测 T 的函数更系统;完备性负责的只是最终唯一性认证。

边界与失败情形

定理只在二阶可积无偏类中比较方差。带小偏差的收缩、截断或投影规则可能有更低 MSE,非平方损失下也可能选择不同估计;UMVU 没有宣称跨越这些决策类全局最优。

目标必须先落在无偏期望算子的值域中。若不存在任何无偏估计量,完备充分统计量只保证已有表示的唯一性,无法凭空生成表示。

只有充分性时,Rao–Blackwell 化能降方差,却可能留下多个不同的无偏 T 函数;只有完备性时,基于 T 的无偏表示虽唯一,却无法把任意完整样本规则投影成参数无关的同一函数。两条假设各自承担不可替换的一步。

二阶矩不存在时,最小方差比较没有定义。一阶可积足以借完备性证明基于 T 的无偏表示唯一,却不足以使用方差分解完成 UMVU 论证。

参数空间受限后,原统计量可能失去完备性,定理的唯一性链便会断开。不能只因密度公式形式未变,就把开放自然参数空间上的结论自动移植到有限点集或 curved 子族。

推论与应用

寻找 UMVU 的标准路线分三步:用因子分解找到充分统计量,单独证明它完备,再把一个容易构造的无偏估计量对该统计量条件化。定理随后一次性完成全无偏类的方差比较,无需逐个候选优化。

满秩自然指数族在自然参数空间含开集时常提供完备充分统计量;curved 子族或参数空间受限后,充分性可能保留而完备性消失,必须重新验证。

不同参数下的几乎处处唯一可能对应不同零集。标准支配模型通常选择共同版本表达规则;两条公式若只在整个模型都不可能取到的统计量值上不同,代表同一估计量。某些参数下有正概率的差异则不能靠版本选择抹去。

若应用重罚极端误差、要求输出服从参数约束,或允许少量偏差换取稳定性,应回到明确的损失与风险。这不是定理失效,而是决策问题已经离开其精确定义的无偏平方风险比较类。

参考资料
  • E. L. Lehmann and Henry Scheffé, “Completeness, Similar Regions, and Unbiased Estimation,” Sankhyā 10, 1950。
  • Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998,§1.7。
  • George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002,§7.3。
关系图谱12 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系