Skip to content

充分性的因子分解定理

Fisher–Neyman factorization theorem

共同支配模型中,以密度的参数依赖仅通过统计量进入来判别充分性。

形式陈述

设样本空间 (X,A) 上的模型 {Pθ:θΘ} 被同一 σ-有限测度 μ 支配,并选定密度 pθ=dPθ/dμ。令 T:(X,A)(T,B) 可测。若存在非负可测函数 h:X[0,),并且对每个 θ 都有非负可测函数 gθ:T[0,),使

pθ(x)=gθ(T(x))h(x)

对所有 θ 在同一个 μ-零集外成立,则 T 对模型充分。这是 Fisher–Neyman 因子分解定理中不含歧义的充分方向:h 对整个模型通用,参数依赖只通过 gθ(T(x)) 进入。

正向证明可构造给定 T=t 的条件分布。直观上,在纤维 {x:T(x)=t} 内,参数因子 gθ(t) 对所有 x 相同,归一化时消去,只留下由 h 决定的条件比例。因此条件于 T 后的样本分布不含 θ

逆向“充分推出因子分解”需要固定条件分布与密度的版本。一个常用完整版本要求样本空间和统计量空间都是标准 Borel 空间,充分性由同一个、不随 θ 改变的正则条件核 K(t,dx) 对所有参数共同见证,并且所选共同支配密度能取到相容的可测版本;此时 T 的边缘密度吸收进 gθ(t),纤维内的参数无关部分进入 h(x),得到上述分解。若没有这些共同版本与可测性条件,本页只使用已经明确陈述的充分方向,而不以“常用正则条件”代替定理假设。

直觉

似然的参数依赖若只看 T(x),那么两个具有相同 T 的样本对任何参数提供完全相同的相对证据。原始数据在同一纤维内的差异只由 h(x) 决定,因而与待推断参数无关。

定理把条件分布定义转成观察联合密度即可检查的代数结构。gθ 可以随参数改变,h 必须对所有参数通用;把含参数的因子塞入 h 会让判据失去内容。

在有限样本空间上,纤维计算可完全展开:给定 T=t 后,x 的条件概率与 gθ(t)h(x) 成比例,分母对纤维求和也带同一 gθ(t),约去后得到 h(x)/y:T(y)=th(y)。这个明确消去过程正是参数无关性的来源。

例子与推导

X1,,XniidN(μ,σ2),若 σ2 已知,则

pμ(x)=(2πσ2)n/2exp[12σ2i(xiμ)2].

利用

i(xiμ)2=ixi22μixi+nμ2,

可写成

gμ(ixi)=exp[μσ2ixinμ22σ2],h(x)=(2πσ2)n/2exp[12σ2ixi2].

因此 T=iXi 充分。若 μσ2 都未知,参数依赖还通过 iXi2 进入,充分统计量应扩为 (iXi,iXi2)

边界与失败情形

共同支配是假设,不是符号便利。若模型包含彼此奇异且无法由同一 σ-有限测度统一支配的分布,密度因子分解版本不能直接使用,但充分性仍可由条件分布定义。

密度等式只需 μ-几乎处处成立。不同参数若各自选择不同零测集版本,必须确认能取共同版本;在不可数参数族中,逐参数“几乎处处”不自动给统一零集。

因子分解证明充分,不证明最小充分或完备。统计量维数看起来小,也不能跳过分解或条件分布验证。相反,完整样本总能以 gθ(T)=pθ(x)h=1 分解,虽充分却没有压缩。

参数依赖支持如 Uniform(0,θ) 仍可应用支配版本:指示因子 1{x(n)θ} 必须留在 gθ(T) 中。忽略支持只看光滑密度部分,会选错统计量。

离散模型可取计数测度,连续模型常取 Lebesgue 测度,混合离散—连续模型则可构造相应和测度。支配测度可以更换:密度会乘一个与 θ 无关的 Radon–Nikodym 因子,该因子吸收到 h(x),所以充分结论不变。若换测度引入了含参数因子,说明并非在表示同一共同支配结构。

推论与应用

独立样本的密度乘积经常把数据压缩成若干和,这正是指数族出现固定维充分统计量的来源。因子分解也能快速比较模型扩大前后哪些额外数据特征变得必要。

定理只说明参数信息的保留,不评价统计量的计算成本、数值稳定性或估计风险;这些是后续决策问题。

参考资料
  • George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002,§6.2。
  • Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998,§1.5。
  • Robert V. Hogg, Joseph W. McKean, and Allen T. Craig, Introduction to Mathematical Statistics, 8th ed., Pearson, 2019,Ch. 7。