具体检验必须与假设结构匹配。似然比检验理路似然比检验Likelihood ratio test · Generalized likelihood ratio test以受限模型和完整模型的最大似然之比衡量零假设对数据的相对解释能力。适合给定参数模型并能比较受限与完整似然上确界的场景;序贯概率比检验理路序贯概率比检验Sequential probability ratio test · SPRT累积简单假设似然比并在越过上下边界时停止的序贯检验。针对两个简单假设边观测边停止;置换检验理路置换检验Permutation test · Randomization test利用零假设下数据对一组变换的分布不变性,构造有限样本精确检验。依赖零假设下的交换性,以重排分布校准有限样本显著性;卡方拟合优度检验理路卡方拟合优度检验Chi-square goodness-of-fit test · Pearson chi-square test比较分类观测计数与零模型期望计数,并用渐近卡方律校准偏差。比较分类计数与指定概率,并依赖期望频数足够大时的渐近近似。它们都实现拒绝规则,但样本时序、模型假设与校准来源不同。似然比或 Pearson 统计量若只用渐近参考分布定阈值,得到的是相应渐近 level 声明;要承诺本页的有限样本上界,还须另有有限样本校准。
检验可看作统计决策规则理路估计量、决策规则与风险Estimator and decision rule · Statistical risk从观测到行动的可实施规则,以及在逐参数、Bayes 与最坏情形量词下的期望损失。:行动为拒绝或不拒绝,损失按真实假设与行动赋值。p 值理路p 值p-value在零假设下校准的证据统计量,其小值事件的概率不超过对应阈值。编码观测统计量在整族 level 中的位置,置信集合反演理路置信集合与检验的对偶Confidence set and test duality · Test inversion逐参数反演 level 检验得到覆盖置信集合,并由置信集合反构造点零假设检验。则把 size 控制转成覆盖率保证。
固定两种相邻输入的输出分布后,最能暴露隐私差异的事件是似然比超过阈值的区域。隐私损失分布核算理路隐私损失分布核算Privacy loss distribution · PLD accounting把有序相邻输出分布的似然比推前为隐私损失分布,通过超额质量积分而非单纯尾概率计算 delta。对这个区域积分 的正部,得到 DP 所需的最小加法松弛。它与检验拒绝区域的概率有关,却不是单纯的 ,后者通常是较松的充分上界。
参考资料
Erich L. Lehmann and Joseph P. Romano, Testing Statistical Hypotheses, 3rd ed., Springer, 2005,Ch. 3。
George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002,Ch. 8。
E. L. Lehmann, Testing Statistical Hypotheses, 2nd ed., Springer, 1986,Ch. 1–3。
Larry Wasserman, All of Statistics: A Concise Course in Statistical Inference, Springer, 2004,Ch. 10,Definition 10.1:功效、size 与 level,CMU 教材全文。