“对固定整数 $n\ge1$ 个独立 $[0,1]$ 变量的样本平均,给定 $0<\delta<1$,反解尾界得到半径 $r n=\sqrt{\log(2/\delta)/(2n)}$,因此…”
形式陈述
对统计模型
则称其为有限样本覆盖至少
精确覆盖可以指等号对每个参数成立,也常宽松地指有限样本保证而非渐近保证。固定
渐近点态覆盖则是对每个固定
真正需要区分量词的是渐近保证。统一渐近覆盖要求
每个样本量都先寻找最难覆盖的参数,再取极限。这强于逐个固定参数取极限;靠近边界且随
直觉
参数在频率学模型中固定,区间端点随样本随机。覆盖率描述重复生成数据并重新构造区间时,长期有多少区间罩住真值。观测后端点固定,事件已经发生或未发生,不再有来自同一抽样机制的
置信度是构造程序的校准,不是对本次区间中各参数的概率分配。区间宽度反映精度;只追求覆盖而不约束宽度,整个参数空间永远覆盖却毫无信息。
例子与边界
连续枢轴:已知方差的正态均值
若
由
这对所有
构造时先找到由样本与参数组成、分布却不依赖该参数的枢轴,再选择它的中央概率区域,最后反解出参数集合。枢轴可以含未知参数,因为最终输出的区间端点只依赖数据与已知量。
中央区间不是唯一选择。同一枢轴可把
离散反演:二项比例的 Clopper–Pearson 区间
现在固定整数
若
先证明覆盖,而不假定这个集合已经是区间。固定真实参数
空事件的概率为零。下尾同理:取使
证明中固定的是任意真实
接着证明反演结果的形状。取独立的
尾概率是
两个端点不会交错。内部情形在
这就是等尾 Clopper–Pearson 区间。两尾各分配
十次试验九次成功:把端点算出来
取
上界可直接解得
后一个区间仅显示端点的舍入值;理论区间由尾方程定义。若计算程序必须保证数值结果包含理论区间,应对下界向下、上界向上取整,而不是把显示精度当作新的统计规则。
可用两个候选参数核对反演。若
所以
两尾均不小于
全失败与全成功也有明确答案:
在本例中,它们分别约为
覆盖率核对:同一程序重新抽样
区间算完以后,覆盖率问题还要换回“固定真值、让样本变化”的视角。仍取
利用二项分布在
这里的
同一模型若直接使用 Wald 区间,令
当
把 Wald 区间截到
边界与失败情形
观测后说“
Wald 区间
可选停止或数据依赖选择会改变覆盖事件分布。反复查看普通区间直到排除零再停止,不保留固定样本
Clopper–Pearson 使用非随机化的等尾规则。把样本结果按零假设下的点概率排序来定义另一种双侧二项检验,反演时一般得到不同区间;若在离散拒绝边界加入随机化,则还需把同一个额外随机变量纳入置信程序。检验都叫“双侧”并不足以使其端点相同。
含干扰参数时,简单枢轴往往不存在。代入估计区间、剖面似然区间或对干扰参数取最坏情况,会给出不同覆盖性质;把未知量换成估计值后,必须用有限样本定理或一致性与 Slutsky 链条重新校准。
推论与应用
反演一族 level-$\alpha$ 检验可构造置信集合:保留所有未被对应点零假设拒绝的参数。双侧检验与区间必须使用一致的尾部和干扰参数处理方式;整族显著性水平还可由p 值编码。
比较区间方法应同时查看覆盖、期望长度、端点行为和模型鲁棒性;单个数据集上的窄区间不能证明程序校准良好。
分布无关的分位数区间直接选定两个样本秩,并把覆盖事件改写成二项计数区间。它对连续总体给出有限样本覆盖,无须先估计分位点密度;但秩必须预先规定,小样本时有限端点也未必能达到指定覆盖率。
若
分割共形预测也构造区间或集合,但覆盖目标是一个未来响应,概率还平均了校准数据和新观测的随机性。它的边际预测覆盖不等于这里对固定总体参数的置信覆盖,也不自动保证每个固定输入的条件覆盖。
参考资料
- C. J. Clopper and E. S. Pearson, The Use of Confidence or Fiducial Limits Illustrated in the Case of the Binomial, Biometrika 26(4), 1934, pp. 404–413;pp. 406–407 的式 (4)–(5) 与尾部反演,p. 410 的全失败、全成功端点。链接为原文扫描件镜像;本文数值直接求解尾方程,不取自原文的近似插值图表。
- Lawrence D. Brown, T. Tony Cai and Anirban DasGupta, Interval Estimation for a Binomial Proportion, Statistical Science 16(2), 2001, pp. 101–133,§4.2.1,p. 113 的 Clopper–Pearson 端点定义与保守性;§2 的 Wald 覆盖问题。
- Siva Balakrishnan, 36-705: Intermediate Statistics, Lecture 25, Carnegie Mellon University, 2019,p. 25-1 的覆盖定义、§25.1 的检验反演及 §25.2.1 的枢轴。
- George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002,Ch. 9。
- Erich L. Lehmann and Joseph P. Romano, Testing Statistical Hypotheses, 3rd ed., Springer, 2005,§3.5。
- David R. Cox and David V. Hinkley, Theoretical Statistics, Chapman & Hall, 1974,Ch. 7。