Skip to content

算法Algorithm

序贯概率比检验

施工中 · 内容逐步修订

Sequential probability ratio test · SPRT

累积简单假设似然比并在越过上下边界时停止的序贯检验。

形式陈述 ​

考虑两个简单假设之间的统计假设检验:H0:P=P0 对 H1:P=P1。本页先取 IID 观测,两个不同的单次分布有共同支配密度 p0,p1,并假设它们相互绝对连续。观测依次到达,累计似然比

Λn=∏i=1np1(Xi)p0(Xi),Zn=log⁡Λn.

选边界 0<B<1<A:若 Λn≥A 停止并拒绝 H0;若 Λn≤B 停止并接受 H0;居中则继续。停止时间

τ=inf{n:Λn∉(B,A)}

相对于观测过滤是停止时刻。

Wald 近似边界为 A≈(1−β)/α、B≈β/(1−α),目标第一、第二类错误分别为 α,β。离散步长会越界,实际错误通常只近似目标,可用精确递推或模拟校准。

直觉

每个观测把 log likelihood ratio 增加

Yi=logp1(Xi)/p0(Xi).

当对数比在两个分布下可积时,在 P1 下其均值是KL 散度 D(P1‖P0)>0,轨迹倾向上边界;在 P0 下均值为 −D(P0‖P1)<0,倾向下边界。这里的对数与 KL 都取自然对数。困难样本会在中间徘徊,自动收集更多数据。

Bernoulli p0=0.4,p1=0.6 时,成功增加 log⁡(1.5),失败增加 log⁡(2/3)。证据逐步加总,不是每一步重新做独立固定样本检验。

实现时递推 Zn=Zn−1+log⁡p1(Xn)−log⁡p0(Xn)。每个观测完成两次对数密度求值后,只需常数次算术运算和边界比较;保存累计对数比与样本计数即可,无需保留全部观测。密度求值的成本、数值精度及计数器位宽应另计,总处理量取决于数据决定的停止次数 τ。

与固定样本检验的关系 ​

Wald–Wolfowitz 最优性比较的是两个 IID 简单假设下的序贯检验,并以所选 SPRT 实际达到的两类错误概率为约束。在相应停止与期望有限条件下,任何两类错误都不更大的竞争检验,在 P0 和 P1 下的期望样本量都不会更小。近似边界公式中的名义 α,β 不能直接冒充实际错误概率。这是关于完整停止规则的结论,不是NP 引理的固定样本复述。

例子与边界

错误界与期望样本量 ​

若忽略越界 overshoot,A≈(1−β)/α、B≈β/(1−α) 来自终止似然比的两点近似。严格控制使用 likelihood-ratio martingale 与可选停止;离散增量使实际终值越过边界,因此公式只是近似。

取 p0=0.4,p1=0.6 且 α=β=0.05,log 边界约 ±2.944。成功增量 log⁡1.5≈0.405,失败增量 log⁡(2/3)≈−0.405。连续八次成功使轨迹到 3.24 并拒绝;成功失败交替则证据抵消并继续。

在 P1 下单步平均增量为 D(P1‖P0)>0,期望样本量近似

E1τ≈(1−β)log⁡A+βlog⁡BD(P1‖P0).

两假设越近,KL 越小,平均等待越长。这是序贯效率的定量来源。

边界与失败情形 ​

普通固定样本 p 值反复查看并停止不等于 SPRT,会膨胀错误率。SPRT 边界、假设和停止规则必须预先规定。

真实分布位于 P0,P1 之间时,停止时间可能很长;必须设计最大样本量、截断规则及相应再校准。依赖观测会破坏独立似然乘积。

截止时强制决定会改变两类错误,不能沿用无限期 SPRT 的保证。自适应抽样还要使用给定历史的条件 likelihood ratio;忽略动作机制可能破坏鞅性质。

复合假设的 mixture SPRT、GLR 序贯检验需先验或估计 nuisance 参数,各有不同保证。

在本页的 IID 与绝对连续假设下,E0[p1(Xi)/p0(Xi)]=1,下一项比值又独立于过去,所以似然比过程在 H0 下是非负均值一鞅。因此 Ville 不等式给

P0(supnΛn≥1/α)≤α.

只用上边界即可构造 anytime-valid 检验;双边 SPRT 还要同时设计接受错误。这个鞅界不要求预先固定查看次数,却要求 likelihood ratio 条件正确。

实际试验常采用 group sequential:只在若干预定 information times 查看统计量。Pocock 边界近似均匀分配严格程度,O'Brien–Fleming 早期更严、后期接近固定样本阈值。两者不是 SPRT 的简单离散化,需整体计算 alpha spending。

expected sample size 最优性针对两个简单假设和给定错误上限。加入观察成本、延迟结局、批量采样或第三种行动后,动态规划可能给不同边界。

报告序贯结果应包含计划边界、实际停止时刻、越界方向、最大样本规则和是否存在未成熟结局。只报告停止时普通 p 值会抹掉路径依赖。

若两类错误代价不对称,边界距离也应不对称:更严格控制误拒 H0 会提高上边界,通常延长在 P1 下作出拒绝所需证据。边界设计把错误预算转成样本量权衡,不存在同时无限降低两类错误且不增加观测的免费选择。

SPRT 接受 H0 是在指定 P0 与 P1 二点决策中选择前者,不证明现实参数精确等于 θ0。indifference region 的选择决定“接受”实际含义。

推论与应用

固定起点与未知改变起点会产生不同的预算。CUSUM把从各个可能起点到现在的似然积取最大,失败证据足够多时允许重置;SR则把这些积相加。重启或新增候选并不继承本页固定似然过程的无限期错误界。在正常成功概率1/3、改变后2/3的CUSUM例子中,阈值8的平均误报等待为33,但最终误报概率仍为一;应明确比较的是错误概率还是平均运行长度。

SPRT 把固定样本的Neyman–Pearson 引理作为对照,却把证据过程与停止规则一并纳入检验设计。其 likelihood-ratio 鞅进一步通向随时有效的证据过程;逐个候选参数反演这种检验可得到置信序列;普通固定样本p 值若被反复查看则没有这项保证。复合假设、分组查看与强制最大样本量都需要重新校准,不能只保留原边界数字。

参考资料
  • Abraham Wald, Sequential Analysis, Wiley, 1947。
  • Abraham Wald and Jacob Wolfowitz, “Optimum Character of the Sequential Probability Ratio Test”, The Annals of Mathematical Statistics 19(3), 1948, pp. 326–339;实际错误概率约束下的期望样本量最优性。
  • David Siegmund, Sequential Analysis, Springer, 1985。
  • Tze Leung Lai, “Sequential Analysis: Some Classical Problems and New Challenges,” Statistica Sinica 11, 2001。
关系图谱14 个相邻概念 · 5 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
分类位置

上位 / 更一般

下位 / 直接特例

暂未标注直接特例。

类型化关系