形式陈述
设统计量公理库统计量与抽样分布Statistic · Sampling distribution样本的可测数据摘要,以及该摘要在指定统计模型与重复抽样设计下的推前分布。 在模型 下诱导分布族 。若对每个可测函数 ,只要
同时对所有 成立,就必有
则称 对分布族 完备。可积性公理库期望Expectation · Expected value实值或复值随机变量关于概率测度的 Lebesgue 积分,概括加权平均与总体质量平衡。使零均值有定义;量词顺序则要求同一个 在所有参数点都满足零期望,随后才推出它在每个 下几乎处处为零。
若只对有界 要求上述蕴含,称为有界完备,通常弱于完备。参数空间、 的分布和容许函数类共同决定这一性质;缩小参数空间可能减少期望约束,从而破坏原有完备性。
直觉
把映射 看成一台把函数送到整条期望曲线的机器。完备性说这台机器的核只有零函数:没有一个非平凡 能在全参数空间伪装成无偏估计零。于是同一目标若有两个基于 的无偏表达,它们只能在模型看来相同。
充分性公理库充分统计量Sufficient statistic以参数无关的条件分布保留整个模型区分能力的数据压缩,并连接因子分解与决策等价。沿“从完整样本压缩到 ”发问,完备性沿“从 的函数映到全族期望”发问。一项处理信息保留,另一项处理无偏表示唯一性;两者逻辑独立,统计量也完全可能只满足其中一项。
例子与边界
Poisson 完备性证明
令独立事故计数 ,,则 。若 对每个 可积,且其期望恒为零,便有
乘以 后,右侧成为关于 的幂级数公理库解析幂级数Power series · Analytic power series在实数或复数中按收敛半径定义函数的幂级数。。可积性保证它在每个 绝对收敛;该解析函数在开区间上恒为零,唯一性迫使每个系数 都为零。因此 对所有非负整数 , 完备。
同一 也由因子分解定理充分。若两个基于 的可积估计量 都对 无偏,则
对所有 成立,完备性给出 在每个 Poisson 下几乎处处成立。
例如 的期望为 ,所以它无偏估计“总观察期内零事故”的概率。任何另一个基于 、对所有 无偏估计同一目标的函数,都必须与这个指示函数相同。这个结论来自整条期望曲线,不靠选取某个参数点比较方差。
边界与失败情形
参数空间过小会减少约束。设 ,但 只允许 。所有有界函数形成无限维空间,而在两个分布下期望为零只给两个线性约束,存在大量非零函数满足它们;从连续全位置族得到的完备结论不能在截成两点后照搬。
全参数零均值也不能随意换成“在稠密子集上为零”。只有当 已证明连续、解析或具有相应唯一延拓性质时,稠密集信息才可能足够;Poisson 证明使用的正是额外解析结构。
有限支持同样可以完备。若 且 对全部 成立,则
是恒零多项式;Bernstein 基的线性无关迫使每个 。支撑点数量有限并不构成障碍,关键在于参数族给出的期望约束是否足够丰富。
对称性常制造反例。若 、,取 ;它对每个尺度的期望都为零,却不在任何非退化正态分布下几乎处处为零。因此完整观测 对这个尺度族也不完备,说明“保留全部数据”与完备毫无必然联系。
完备不会补回被统计量遗漏的模型信息;充分乃至最小充分也不会自动排除全参数零均值函数。把二者合写成“完备充分”时,仍应保留两份独立证明。
可积性不可删除。若正负部分期望都为无穷, 没有定义,写成零只是未定义量的形式运算;完备性从未声称约束这类病态函数。
推论与应用
Lehmann–Scheffé 定理公理库Lehmann–Scheffé 定理Lehmann–Scheffé theorem完备充分统计量上的二阶可积无偏函数,在全参数空间同时成为唯一最小方差无偏估计。把两条性质接成严格链条:充分性让Rao–Blackwell 条件化公理库Rao–Blackwell 定理Rao–Blackwell theorem借充分统计量上的条件期望消除参数无关随机性,并以 Jensen 不等式逐参数降低凸损失风险。把任意无偏估计投影到 上,完备性再迫使所有基于 的无偏表达相同,于是得到唯一 UMVU。
满秩自然指数族公理库统计指数族Exponential family · Natural exponential family密度的参数依赖通过自然参数与统计量内积进入,并由对数配分函数归一化的分布族。若自然参数空间含非空开集,常可由 Laplace 变换唯一性证明自然统计量完备。curved 子族或严重受限的参数空间只沿较低维集合改变分布,可能失去这组足够丰富的约束,必须重新验证。
参考资料
- Erich L. Lehmann and George Casella, Theory of Point Estimation, 2nd ed., Springer, 1998,§1.7。
- George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002,§6.2.4。
- A. M. Kagan, Yu. V. Linnik, and C. R. Rao, Characterization Problems in Mathematical Statistics, Wiley, 1973,完备族章节。