Skip to content

定理Theorem

Basu 定理

施工中 · 内容逐步修订

Basu's theorem

完备充分统计量与任意辅助统计量在模型的每个参数值下相互独立。

形式陈述 ​

设 T(X) 是充分统计量且具有完备性,A(X) 是辅助统计量。辅助性意味着对每个可测集 C,数值

Q(C):=Pθ(A∈C)

不依赖 θ。在相关条件分布存在的标准条件下,T 与 A 在每个 Pθ 下独立;完整量词是:对每个 θ 和所有可测集 B,C,

Pθ(T∈B,A∈C)=Pθ(T∈B)Q(C).

常见支配、标准 Borel 模型满足所需的正则条件。结论是精确独立性,不是渐近不相关。实际上,有界完备性已足够:证明只用到条件概率减去常数这样的有界函数,无须对所有可积函数要求完备。

直觉

定理把三种不同性质接成一条链:充分性让给定 T 的条件分布摆脱参数,辅助性让目标事件的边际概率对参数恒定,完备性再把“对所有参数期望为零”提升成“函数本身几乎处处为零”。缺少任何一环,都只能得到较弱的平均恒等式。

证明骨架 ​

对任意可测集 C,令

gC(T)=Pθ(A∈C∣T).

充分性允许选择不含 θ 的条件分布版本。由全期望公式与辅助性,

Eθ[gC(T)]=Pθ(A∈C)=Q(C)

对所有参数成立,于是完备性迫使 gC(T)=Q(C) 几乎处处。这恰是对每个 θ 都有

Pθ(A∈C∣T)=Q(C)Pθ-a.s.

最后对任意 B,把上式乘以 1{T∈B} 再取期望,得到 Pθ(T∈B,A∈C)=Q(C)Pθ(T∈B)。因此证明真正需要的是同一个不含参数的函数 gC,而不是为每个参数分别找一个恰好有正确期望的函数。

例子与边界

若 n≥2 且 X1,…,Xn 独立同分布于 N(μ,σ2),其中 σ2 固定已知,则 X¯ 对 μ 完备充分。残差方向

U=(X1−X¯,…,Xn−X¯)‖(X1−X¯,…,Xn−X¯)‖2

在非零残差事件上不依赖 μ,并可在零残差事件上指定固定值使其处处定义。由 Basu 定理,U 与 X¯ 独立。它保留样本形状,而 X¯ 汇总位置证据。

在同一个固定 σ2 的正态位置模型中,样本方差的分布不依赖 μ,因而它是关于 μ 的辅助量;Basu 定理于是给出样本均值与样本方差独立。若把模型扩大为 μ,σ2 都未知的位置—尺度族,样本方差不再对完整参数辅助,X¯ 也不再是完整参数的充分统计量。不能把二者直接代入两参数模型的定理。

不过,一参数论证仍能完成证明:任取固定的 σ2>0,在该位置子族中应用 Basu;由于这个固定值任意,独立性便对每个 (μ,σ2) 成立。证明时固定一个参数值,不等于分析者必须知道它。正态向量的正交分解是另一条证明,而不是唯一的补救办法。

边界与反用限制 ​

只充分而不完备时,条件概率虽可消去参数,却不能从期望恒等推出几乎处处常数。具体取两个独立的 U(θ,θ+1) 观测,T=(X(1),X(2)) 是充分统计量,极差 A=X(2)−X(1) 则辅助且是 T 的函数。若二者独立,事件 {A≤1/2} 就须与自身独立,故其概率只能为零或一;实际概率为 3/4。这里失败的是完备性:EθA=1/3,而非零函数 A−1/3 对所有参数的期望均为零。

只完备而不充分也不够,因为无法获得参数无关的条件分布版本;定理的两个条件不能互相替代。

缩小参数空间后,辅助性仍保留,完备性却可能失去;扩大参数空间则可能使辅助性失效。因此重新应用定理时要重查假设。不过,若已在大模型中证明逐参数独立性,这个结论当然也对它的任何子模型成立。位置族中极差虽然辅助,却不保证与样本均值独立;非正态位置族的均值通常不是完备充分统计量。

Basu 定理也不声称辅助量“无用”,不选择唯一的条件原则,更不说明条件化必然改善区间。它只给完备充分量与精确辅助量的独立性。近似辅助量、估计后残差或只有某个矩无参数的统计量,都不能直接套用定理。

推论与应用

定理解释为何可把参数证据集中在完备充分统计量中,同时用独立辅助量检查样本形状或固定实验精度。条件推断中,可先固定辅助量,再比较 T 的条件分布;模型检查中,辅助量的参数无关分布允许直接校准异常。

在位置—尺度模型里,样本经平移、正缩放后的最大不变量(保持平移与正缩放后不变、且区分不同变换轨道的统计量)往往辅助,而最小充分统计量压缩参数证据。两者都可能降维,却沿不同群轨道工作;只有满足定理全部条件时,才能进一步断言独立。

参考资料
  • Jun Shao, Stat 609: Mathematical Statistics, Lecture 24: Completeness, University of Wisconsin–Madison, 2015,幻灯片 7–8 的 Theorem 6.2.24 与证明、10–11 的正态子族论证。
  • D. Basu, “On Statistics Independent of a Complete Sufficient Statistic,” Sankhyā 15, 1955。
  • Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998,§1.8。
  • George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002,§6.2。
关系图谱12 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系