形式陈述
设样本空间 上的模型 被同一 -有限测度 支配,并选定密度 。令 可测。若存在非负可测函数 ,并且对每个 都有非负可测函数 ,使
对所有 在同一个 -零集外成立,则 对模型充分公理库充分统计量Sufficient statistic给定该统计量后,样本剩余条件分布不再依赖未知参数的数据压缩。。这是 Fisher–Neyman 因子分解定理中不含歧义的充分方向: 对整个模型通用,参数依赖只通过 进入。
正向证明可构造给定 的条件分布。直观上,在纤维 内,参数因子 对所有 相同,归一化时消去,只留下由 决定的条件比例。因此条件于 后的样本分布不含 。
逆向“充分推出因子分解”需要固定条件分布与密度的版本。一个常用完整版本要求样本空间和统计量空间都是标准 Borel 空间,充分性由同一个、不随 改变的正则条件核 对所有参数共同见证,并且所选共同支配密度能取到相容的可测版本;此时 的边缘密度吸收进 ,纤维内的参数无关部分进入 ,得到上述分解。若没有这些共同版本与可测性条件,本页只使用已经明确陈述的充分方向,而不以“常用正则条件”代替定理假设。
直觉
似然的参数依赖若只看 ,那么两个具有相同 的样本对任何参数提供完全相同的相对证据。原始数据在同一纤维内的差异只由 决定,因而与待推断参数无关。
定理把条件分布定义转成观察联合密度即可检查的代数结构。 可以随参数改变, 必须对所有参数通用;把含参数的因子塞入 会让判据失去内容。
在有限样本空间上,纤维计算可完全展开:给定 后, 的条件概率与 成比例,分母对纤维求和也带同一 ,约去后得到 。这个明确消去过程正是参数无关性的来源。
例子与推导
对 ,若 已知,则
利用
可写成
因此 充分。若 与 都未知,参数依赖还通过 进入,充分统计量应扩为 。
边界与失败情形
共同支配是假设,不是符号便利。若模型包含彼此奇异且无法由同一 -有限测度统一支配的分布,密度因子分解版本不能直接使用,但充分性仍可由条件分布定义。
密度等式只需 -几乎处处成立。不同参数若各自选择不同零测集版本,必须确认能取共同版本;在不可数参数族中,逐参数“几乎处处”不自动给统一零集。
因子分解证明充分,不证明最小充分或完备。统计量维数看起来小,也不能跳过分解或条件分布验证。相反,完整样本总能以 、 分解,虽充分却没有压缩。
参数依赖支持如 Uniform 仍可应用支配版本:指示因子 必须留在 中。忽略支持只看光滑密度部分,会选错统计量。
离散模型可取计数测度,连续模型常取 Lebesgue 测度,混合离散—连续模型则可构造相应和测度。支配测度可以更换:密度会乘一个与 无关的 Radon–Nikodym 因子,该因子吸收到 ,所以充分结论不变。若换测度引入了含参数因子,说明并非在表示同一共同支配结构。
推论与应用
独立样本的密度乘积经常把数据压缩成若干和,这正是指数族出现固定维充分统计量的来源。因子分解也能快速比较模型扩大前后哪些额外数据特征变得必要。
定理只说明参数信息的保留,不评价统计量的计算成本、数值稳定性或估计风险;这些是后续决策问题。
参考资料
- George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002,§6.2。
- Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998,§1.5。
- Robert V. Hogg, Joseph W. McKean, and Allen T. Craig, Introduction to Mathematical Statistics, 8th ed., Pearson, 2019,Ch. 7。