最小充分统计量

形式陈述 ​

统计量 $T$ 称为最小充分，若 $T$ 充分，并且对任意充分统计量 $S$，存在可测函数 $f$ 使

$$T=f(S)$$

在模型中每个 $P_{\theta }$ 下几乎处处成立。也就是说，任何充分统计量都至少能决定 $T$；$T$ 的 $\sigma$-代数包含于每个充分 $\sigma$-代数，忽略零测集后是最粗的充分信息。

在共同支配且密度版本 $p_{\theta }(x)$ 已固定的模型中，先限制到共同有效样本集合

$${\mathcal{X}}_{+}=\{x:\text{存在 }\theta \in \mathrm{\Theta }\text{ 使 }{p}_{\theta }(x)>0\}.$$

对 $x,y\in {\mathcal{X}}_{+}$，用不产生 $0/0$ 的交叉乘积定义等价关系公理库等价关系Equivalence relation满足自反、对称和传递性的关系。：

$$x\sim y⟺p_{\theta }(x)p_{\eta }(y)=p_{\theta }(y)p_{\eta }(x)\text{对所有 }\theta ,\eta \in \mathrm{\Theta }.$$

两个非零似然向量满足这组等式，恰好表示它们互为正常数倍，因此关系确为等价关系。在标准 Borel 等保证统计量与商映射可测的条件下，$T$ 最小充分，当且仅当它在 ${\mathcal{X}}_{+}$ 上的纤维恰好是这些等价类，即

$$T(x)=T(y)⟺x\sim y,$$

对 $x,y\in {\mathcal{X}}_{+}$ 成立。补集上的点在每个 $P_{\theta }$ 下都是零概率，如何编码不改变模型意义下的最小充分性。等价类收集了对全部参数给出相同相对似然的样本；若模型具有共同正支持，上述交叉乘积条件等价于 $p_{\theta }(x)/p_{\theta }(y)$ 不随 $\theta$ 改变。

直觉 ​

充分统计量可以保留多余信息，例如在 Bernoulli 样本中，完整样本与成功次数都充分。最小充分性要求继续合并那些对所有参数都不可区分的样本，直到再合并就会损失参数信息。

“最小”按信息偏序定义，不按向量维数、存储字节或数值大小定义。两个一维统计量可能不可相互恢复；一个高维但受约束的表示也可能与低维表示包含完全相同的 $\sigma$-信息。

例子与推导 ​

对 Bernoulli$(p)$ 独立样本 $x\in \{0,1{\}}^n$，联合质量为

$$p_p(x)=p^{s(x)}(1-p{)}^{n-s(x)},s(x)=\sum _i{x}_i.$$

对两个样本 $x,y$，似然比为

$$\frac{p_p(x)}{p_p(y)}={\left(\frac{p}{1-p}\right)}^{s(x)-s(y)}.$$

它对所有 $0<p<1$ 与 $p$ 无关，当且仅当 $s(x)=s(y)$。所以成功次数 $S=\sum _i{X}_i$ 的纤维正好是似然比等价类，$S$ 最小充分。

统计量 $(S,X_1)$ 也充分，但不是最小：$S$ 可由它恢复，反向不能。$2S$ 与 $S$ 则通过一一变换互相恢复，二者代表同一个最小充分信息，不存在唯一的数值写法。

对 Uniform$(0,\theta )$ 样本，似然为 ${\theta }^{-n}\mathbf{1}\{x_{(n)}\le \theta \}$。两个样本的似然比对 $\theta$ 无关，当且仅当最大值相等，所以 $X_{(n)}$ 最小充分。

正态模型进一步展示 nuisance 参数如何改变答案。若方差已知、均值未知，$\sum _i{X}_i$ 最小充分；若均值和方差都未知，似然比同时依赖 $\sum _i{X}_i$ 与 $\sum _i{X}_i^2$，二元统计量才划出正确等价类。沿用小模型的最小充分统计量会丢失新增参数信息。

边界与失败情形 ​

似然比写成 $0/0$ 时没有定义。支持依赖参数时应在 ${\mathcal{X}}_{+}$ 上使用形式陈述中的交叉乘积判据；它同时比较各参数下的零点与相对密度，避免直接约去指示函数而破坏等价关系。若把似然向量恒为零的点也纳入同一公式，它会与每个点都满足交叉乘积等式，反而破坏传递性；这些模型共同零点必须排除或单独任意编码。

并非每个统计实验都在普通可测空间中拥有良好最小充分统计量。存在性与“所有充分 $\sigma$-代数的交仍充分”有关，后者在一般空间里可能失败；常见支配、标准 Borel 模型则通常安全。

样本维数随 $n$ 增长不代表不最小。某些非指数族模型的最小充分统计量确实接近完整次序样本；这反映模型没有固定维无损压缩，不是构造失败。

最小充分不蕴含完备、无偏或低风险。它只比较数据所保留的参数信息，不决定用这份信息构造何种估计量。

最小充分性还允许随机样本大小或顺序信息成为统计量的一部分，只要实验模型如此规定。先把样本排序再说“维数没变”无法证明最小；必须检查排序后的纤维是否正好对应全参数似然比等价类。

对参数作一一重新标记不会改变最小充分划分，因为“似然比对所有参数恒定”只把索引集合换了名字。若缩小参数空间，原来随参数变化的比值可能在子模型上变成常数，等价类会合并；因此最小充分性始终相对于当前完整参数空间，而不是某个密度公式的永久属性。

推论与应用 ​

最小充分统计量把所有充分规则归约到同一信息接口。若两个候选统计量都最小充分，它们在忽略共同零测集后必能彼此可测恢复，因此差异只是编码方式。

似然比等价类还揭示参数依赖的精确入口，常用于判断加入未知 nuisance 参数后最小充分统计量为何必须扩大。

独立同分布模型中，样本排列往往首先被合并，因为联合密度对坐标置换不变；但排序样本未必已经最小。Bernoulli 模型还会继续把所有成功次数相同的排序结果合并，而一般未知分布的非参数模型可能必须保留完整经验测度。可合并到哪一步由模型族决定。

参考资料

• Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998，§1.6。
• George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002，§6.2.2。
• Leo Breiman, Statistics: With a View Toward Applications, Houghton Mifflin, 1973，关于 sufficiency 的章节。