充分统计量 | Codeboy's Blog

形式陈述

设可观测样本 $X$ 的分布属于模型 $\{P_\theta:\theta\in\Theta\}$ ， $T=T(X)$ 是统计量。若存在一个对所有参数通用的概率核 $K(t,A)$ ，使每个 $\theta\in\Theta$ 与每个样本事件 $A$ 都满足

P_\theta(X\in A\mid T)=K(T,A) \qquad P_\theta\text{-几乎处处},

则称 $T$ 对实验族 $\{P_\theta\}$ 充分。等价地，对每个有界可测 $f$ ，条件期望 $E_\theta[f(X)\mid T]$ 都能选择成同一个不含 $\theta$ 的 $T$ 函数。条件于 $T$ 后，原样本尚未确定的随机性因此不能继续区分参数。

在标准 Borel 空间中，正则条件分布保证上述核表述可用。核只在 $T$ 的边缘分布几乎处处意义下唯一；定义要求存在一个共同版本，而非先为每个 $\theta$ 任取版本、再在参数各自的零集外声称它们相同。一般可测空间中可直接用充分 $\sigma$ -代数表述，避开逐点条件分布版本问题。

若模型被共同 $\sigma$ -有限测度 $\mu$ 支配，且所需共同密度版本与可测性条件成立，Fisher–Neyman 因子分解定理给出实用判据： $T$ 充分当且仅当存在非负可测函数 $g_\theta$ 与不含参数的 $h$ ，使

p_\theta(x)=g_\theta(T(x))h(x)

对每个 $\theta$ 在共同有效的 $\mu$ -几乎处处意义下成立。它把条件分布性质翻译成密度结构：数据对参数的全部似然依赖只经 $T(x)$ 进入。

直觉

充分性允许丢掉原数据，只要求丢掉的细节在给定摘要后按一条参数无关规律分布。若有人告知 $T=t$ ，还可用同一个核 $K(t,\cdot)$ 模拟那些细节，却不会因此获得新的参数信息。这个性质总是相对于完整模型族；扩大候选分布时，原有压缩常会失去充分性。

恒等映射 $T(X)=X$ 总是充分，说明“充分”本身不承诺压缩率。实用统计量希望在保留模型区分能力的同时降低维数或结构复杂度；看起来维数小既不是充分性的定义，也无法替代条件分布验证。

例子与边界

设不同监测站在已知暴露时长 $t_i>0$ 内记录事故数，条件独立且 $X_i\sim\operatorname{Poisson}(t_i\lambda)$ 。联合质量函数为

p_\lambda(x) =e^{-\lambda\sum_i t_i}\lambda^{\sum_i x_i} \prod_{i=1}^n\frac{t_i^{x_i}}{x_i!}.

取 $T=\sum_iX_i$ ，可写成

g_\lambda(T)=e^{-\lambda\sum_i t_i}\lambda^T, \qquad h(x)=\prod_i\frac{t_i^{x_i}}{x_i!},

所以 $T$ 充分。更具体地，在 $T=t$ 条件下，

(X_1,\ldots,X_n)\mid T=t \sim\operatorname{Multinomial}\left( t;\frac{t_1}{\sum_jt_j},\ldots, \frac{t_n}{\sum_jt_j} \right),

该条件分布与 $\lambda$ 无关。总事故数保留共同发生率的信息；事件如何按已知暴露时长分配，只反映设计比例。若各站还有未知站点效应，这个条件分布就会含新参数， $T$ 对扩大的模型不再充分。

对共同成功率的 Bernoulli 样本，成功次数 $S=\sum_iX_i$ 同理充分。给定 $S=s$ 后，所有含 $s$ 个一的序列条件概率均为 $1/\binom ns$ 。若每位受试者具有不同未知成功概率，仅保留总数便会掩盖个体结构，充分结论随模型改变而消失。

样本均值对任意 IID 模型都存在，却不会自动充分。对 $X_i\sim\operatorname{Unif}(0,\theta)$ ，似然为

\theta^{-n}\mathbf1\{\max_iX_i\le\theta\},

参数依赖通过样本最大值进入。两份数据可以均值相同而最大值不同，于是在某些 $\theta$ 下一个似然为零、另一个为正；均值无法保留这种区分，最大值则能。这个例子也表明参数依赖支持并不妨碍充分性，关键是把支持指示完整保留下来。

无偏、低方差和充分处在不同层级。充分统计量可能没有被指定估计任何目标；无偏估计量也可能只使用样本的一小部分。Rao–Blackwell 改进之所以要求充分性，正是为了让条件期望成为对所有参数通用的可实施规则，不能由“方差较小”反推充分。

密度因子分解版本要求共同支配与相容版本。无支配模型仍可从共同条件核或充分 $\sigma$ -代数定义出发；找不到统一密度只说明这项代数判据不可直接使用，不说明统计量不充分。

最小充分性还要求该统计量能由任何其他充分统计量决定，代表最粗的充分划分；完备性则禁止基于它构造非平凡的全参数零均值函数。这两项都不会由充分性自动推出。

推论与应用

若 $T$ 充分，任何基于完整样本的随机化决策都可先观察 $T$ ，再按参数无关的 $K(T,\cdot)$ 重建剩余随机性，从而复制原规则在每个参数下的风险。这给“关于该实验族没有丢失决策信息”一个操作性含义。

在指数族中，样本常通过固定维自然统计量进入联合密度，从而得到与样本量无关维数的充分压缩。Rao–Blackwell 定理把已有估计量条件化到 $T$ 上，在凸损失下不增加风险；再加入完备性，Lehmann–Scheffé 定理才给出唯一 UMVU 结论。

充分统计量的边缘分布通常仍含参数；这与辅助统计量的整条抽样分布无参数形成清晰对照。若一个统计量同时完备且充分，Basu 定理进一步给出它与任意辅助统计量独立；“没有进入某个充分统计量”本身还不足以证明辅助性。

参考资料

George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002，§6.2。
Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998，Ch. 1。
David Blackwell and M. A. Girshick, Theory of Games and Statistical Decisions, Dover, 1979，关于 sufficient experiments 的章节。