Skip to content

Basu 定理

Basu's theorem

完备充分统计量与任意辅助统计量在模型的每个参数值下相互独立。

领域
统计学
条目类型
定理

形式陈述

T(X)充分统计量且具有完备性A(X)辅助统计量。辅助性意味着对每个可测集 C,数值

Q(C):=Pθ(AC)

不依赖 θ。在相关条件分布存在的标准条件下,TA 在每个 Pθ 下独立;完整量词是:对每个 θ 和所有可测集 B,C

Pθ(TB,AC)=Pθ(TB)Q(C).

常见支配、标准 Borel 模型满足所需的正则条件。结论是精确独立性,不是渐近不相关。实际上,有界完备性已足够:证明只用到条件概率减去常数这样的有界函数,无须对所有可积函数要求完备。

直觉

定理把三种不同性质接成一条链:充分性让给定 T 的条件分布摆脱参数,辅助性让目标事件的边际概率对参数恒定,完备性再把“对所有参数期望为零”提升成“函数本身几乎处处为零”。缺少任何一环,都只能得到较弱的平均恒等式。

证明骨架

对任意可测集 C,令

gC(T)=Pθ(ACT).

充分性允许选择不含 θ 的条件分布版本。辅助性给出

Eθ[gC(T)]=Pθ(AC)=Q(C)

对所有参数成立,于是完备性迫使 gC(T)=Q(C) 几乎处处。这恰是对每个 θ 都有

Pθ(ACT)=Q(C)Pθ-a.s.

再由单调类论证从指示事件推广到全部可测事件。三项条件各承担不同步骤:充分性消去条件分布中的参数,辅助性令期望差对所有参数为零,完备性再把期望恒等提升为几乎处处恒等。

例子与边界

n2X1,,Xn 独立同分布于 N(μ,σ2),其中 σ2 固定已知,则 X¯μ 完备充分。残差方向

U=(X1X¯,,XnX¯)(X1X¯,,XnX¯)2

在非零残差事件上不依赖 μ,并可在零残差事件上指定固定值使其处处定义。由 Basu 定理,UX¯ 独立。它保留样本形状,而 X¯ 汇总位置证据。

在同一个固定 σ2 的正态位置模型中,样本方差的分布不依赖 μ,因而它是关于 μ 的辅助量;Basu 定理于是给出样本均值与样本方差独立。若把模型扩大为 μ,σ2 都未知的位置—尺度族,样本方差不再对完整参数辅助,X¯ 也不再是完整参数的充分统计量。不能把二者直接代入两参数模型的定理。

不过,一参数论证仍能完成证明:任取固定的 σ2>0,在该位置子族中应用 Basu;由于这个固定值任意,独立性便对每个 (μ,σ2) 成立。证明时固定一个参数值,不等于分析者必须知道它。正态向量的正交分解是另一条证明,而不是唯一的补救办法。

边界与反用限制

只充分而不完备时,条件概率虽可消去参数,却不能从期望恒等推出几乎处处常数;只完备而不充分,也无法获得参数无关的条件分布版本。缺少任何一项都不能推出乘积分解。

参数空间缩小会改变完备性与辅助性,不能把大模型结论无条件迁移到 曲线子模型。位置族中极差虽然辅助,却不保证与样本均值独立;非正态位置族的均值通常不是完备充分统计量。

Basu 定理也不声称辅助量“无用”,不选择唯一的条件原则,更不说明条件化必然改善区间。它只给完备充分量与精确辅助量的独立性。近似辅助量、估计后残差或只有某个矩无参数的统计量,都不能直接套用定理。

推论与应用

定理解释为何可把参数证据集中在完备充分统计量中,同时用独立辅助量检查样本形状或固定实验精度。条件推断中,可先固定辅助量,再比较 T 的条件分布;模型检查中,辅助量的参数无关分布允许直接校准异常。

在位置—尺度模型里,样本经平移、正缩放后的 最大不变量(保持平移与正缩放后不变、且区分不同变换轨道的统计量) 往往辅助,而最小充分统计量压缩参数证据。两者都可能降维,却沿不同群轨道工作;只有满足定理全部条件时,才能进一步断言独立。

参考资料
  • Jun Shao, Stat 609: Mathematical Statistics, Lecture 24: Completeness, University of Wisconsin–Madison, 2015,幻灯片 7–8 的 Theorem 6.2.24 与证明、10–11 的正态子族论证。
  • D. Basu, “On Statistics Independent of a Complete Sufficient Statistic,” Sankhyā 15, 1955。
  • Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998,§1.8。
  • George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002,§6.2。
关系图谱12 个相邻概念 · 1 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组