混合序贯边界 | Codeboy's Blog

形式陈述

设 $(D_t)$ 适应于滤过 $(\mathcal F_t)$ ，条件均值为零。假设有非负可预测量 $v_t$ ，使对每个 $\lambda\in\mathbb R$ ，条件矩母函数满足

\mathbb E[e^{\lambda D_t}\mid\mathcal F_{t-1}] \le e^{\lambda^2v_t/2}.

记 $S_t=\sum_{i=1}^tD_i$ 、 $V_t=\sum_{i=1}^tv_i$ ，初值均为零。对固定 $\lambda$ ，

L_t(\lambda)=\exp\{\lambda S_t-\lambda^2V_t/2\}

是初值一的非负上鞅。证明直接来自单步乘法： $L_t/L_{t-1}=\exp(\lambda D_t-\lambda^2v_t/2)$ ，其条件均值不超过一。

在观察数据前固定 $\rho>0$ ，用正态分布 $\pi=N(0,1/\rho)$ 混合 $\lambda$ 。假设被积过程对样本与 $\lambda$ 联合可测，则

M_t=\int_{\mathbb R}L_t(\lambda)\,\pi(d\lambda) =\sqrt{\frac{\rho}{V_t+\rho}} \exp\left\{\frac{S_t^2}{2(V_t+\rho)}\right\}.

给定 $0<\alpha<1$ ，定义

u_\alpha(v)=\sqrt{(v+\rho) \log\frac{v+\rho}{\rho\alpha^2}}.

于是有双侧、全时间保证

\mathbb P\left(\exists t\ge1:|S_t|\ge u_\alpha(V_t)\right)\le\alpha.

这里 $v_t$ 是控制条件指数矩的方差代理，可以随过去变化；它不必等于真实条件方差，也不是未经证明就能换成的样本方差。

直觉

固定 $\lambda$ 相当于预先选择一种下注力度。小 $\lambda$ 倾向捕捉长时间累积的小偏差，大 $\lambda$ 更关注短期大偏差。若看完数据再挑表现最好的力度，赢家财富会受到选择偏差；混合方法则在开始时把一元本钱按概率权重分给所有力度，让总财富仍有一元的预算。

双侧高斯混合同时给正、负 $\lambda$ 分配权重。正偏差使正 $\lambda$ 的策略赚钱，负偏差使负 $\lambda$ 的策略赚钱；因此同一个财富门槛已经控制两侧合在一起的错误，不需要再把本页公式中的 $\alpha$ 换成 $\alpha/2$ 。

为什么积分仍是合法证据

非负性允许用Tonelli 定理及其条件期望形式交换积分：

\mathbb E[M_t\mid\mathcal F_{t-1}] =\int\mathbb E[L_t(\lambda)\mid\mathcal F_{t-1}]\,\pi(d\lambda) \le\int L_{t-1}(\lambda)\,\pi(d\lambda)=M_{t-1}.

每个固定时刻的期望至多为一，也保证混合量几乎必然有限。它的初值为 $\pi(\mathbb R)=1$ ，所以是检验上鞅。

把正态密度代入后，指数为

-\frac{V_t+\rho}{2}\lambda^2+\lambda S_t =-\frac{V_t+\rho}{2}\left(\lambda-\frac{S_t}{V_t+\rho}\right)^2 +\frac{S_t^2}{2(V_t+\rho)}.

完成平方并积分，得到形式陈述中的闭式。再对 $M_t\ge1/\alpha$ 取对数并移项：

\frac{S_t^2}{V_t+\rho} \ge2\log(1/\alpha)+\log\frac{V_t+\rho}{\rho}.

这恰为 $|S_t|\ge u_\alpha(V_t)$ 。最后应用 Ville 不等式，就把同一个财富预算转成整条路径的边界保证。

例子与边界

有界观测的实际尺度

设 $X_t\in[0,1]$ 且 $\mathbb E[X_t\mid\mathcal F_{t-1}]=p$ 。给定过去后，条件分布仍支撑于 $[0,1]$ 且均值为 $p$ ；对它应用Hoeffding 引理，对每个实数 $\lambda$ 得到 $\log\mathbb E[e^{\lambda(X_t-p)}\mid\mathcal F_{t-1}]\le\lambda^2/8$ 。所以 $D_t=X_t-p$ 可取 $v_t=1/4$ ，因此 $V_t=t/4$ 。取 $\alpha=0.05$ 、 $\rho=1$ ：

$t$	$V_t$	$u_{0.05}(V_t)$	均值半径 $u_{0.05}(V_t)/t$
10	2.5	5.03535464	0.50353546
100	25	15.50769448	0.15507694
1000	250	53.76566087	0.05376566

第一行半径很大，反映小样本下全时间保证可能相当保守。这里无需观测独立同分布，只需所写的条件均值与有界性；也不能把 $t/4$ 解读为已经测得的累计真实方差。

Bernoulli 的 Beta 混合

若模型明确为 IID Bernoulli $(p_0)$ ， $0<p_0<1$ ，可以直接混合由似然函数构成的似然比。设前 $t$ 次有 $s$ 次成功，对备择成功率 $q$ 使用预先固定的 Beta $(a,b)$ 权重，其中 $a,b>0$ ，并定义

B(a,b)=\int_0^1q^{a-1}(1-q)^{b-1}\,dq.

积分得到

M_t(p_0) =\frac{B(s+a,t-s+b)}{B(a,b)p_0^s(1-p_0)^{t-s}}.

每个 $q$ 对应合法似然比鞅，所以这个概率混合也合法。对 $a=b=1,p_0=1/2$ ，若前 $t$ 次全成功，则 $B(t+1,1)=1/(t+1)$ ，从而 $M_t=2^t/(t+1)$ 。第四次财富为 $16/5=3.2$ ，第五次为 $32/6=16/3$ ；阈值为 $5$ 时，第五次才拒绝。

为比较两种策略，把它们都放在全成功路径 $1,1,1,1,1$ 上：检验鞅例子中的固定 $q=3/4$ 策略在第四次越界，Beta 混合在第五次越界，晚了一次，但它事先没有把全部预算押在某一个备择上。被链接例子实际展示的是 $1,1,1,1,0$ ；若采用那条路径，Beta 混合第五次的财富为 $16/15$ ，不会达到阈值 $5$ 。

这种混合的任务是平均检验证据以保存预算，与有限混合模型中的潜在类别建模、EM 的似然优化不同。

调参、尾部与增长率

$\rho$ 决定预算在不同力度之间怎样分配，必须在观察这批数据前固定。看完数据挑最好的 $\rho$ ，或直接使用 $\sup_\lambda L_t(\lambda)$ ，都不是上述概率积分；要获得有效性，必须另行校准选择。总质量无限的非正常先验也不能当作初值一的普通混合。

上述条件 MGF 支路要求所有实数 $\lambda$ 的条件指数矩界。只有有限方差的重尾观测通常不满足它；仅混合 $\lambda\ge0$ 时，高斯积分闭式也会改变。本页的高斯混合边界在固定 $\rho$ 后按 $O(\sqrt{v\log v})$ 增长，并非迭代对数尺度 $O(\sqrt{v\log\log v})$ 的最优边界。

推论与应用

将有界观测例中的 $S_t=t(\bar X_t-p)$ 代回边界，对 $p$ 反解就得到置信序列。这让同一批不断增长的数据可以持续显示有覆盖保证的均值区间。

Chernoff 方法在固定时刻优化指数参数，常得到更短的当时尾界；混合方法为整条时间轴保存一个共同的证据预算，解决的是不同的量词要求。作为e-process的构造，混合还可以用于不同预测策略之间的证据分配，但每个被混合策略自身必须先在同一零假设下有效。

不靠原始指数矩：条件对称的平方和支路

前述条件 MGF 是生成指数上鞅的一套充分条件。这里另给一套，不把未经证明的样本方差塞进原公式。设实值、几乎处处有限的 $D_i$ 适应于 $\mathcal F_i$ ，且给定过去后关于零对称，即 $\mathcal L(D_i\mid\mathcal F_{i-1})=\mathcal L(-D_i\mid\mathcal F_{i-1})$ 。不要求独立，也不要求 $\mathbb E|D_i|<\infty$ 。令

S_k=\sum_{i\le k}D_i,\qquad Q_k=\sum_{i\le k}D_i^2.

固定 $\lambda\in\mathbb R$ 。对称性与 $\cosh u\le e^{u^2/2}$ 给

\begin{aligned} \mathbb E[e^{\lambda D_i-\lambda^2D_i^2/2}\mid\mathcal F_{i-1}] &=\mathbb E[\cosh(\lambda D_i)e^{-\lambda^2D_i^2/2}\mid\mathcal F_{i-1}]\\ &\le1. \end{aligned}

这里被积的指数至多 $e^{1/2}$ ，故条件期望存在；没有从对称性推出原变量可积。于是 $L_k(\lambda)=e^{\lambda S_k-\lambda^2Q_k/2}$ 是初值1的非负上鞅。虽然 $Q_k$ 不是可预测方差预算，整个乘法因子的条件期望已被直接控制，所以可以合法使用它。

保持观察前固定的 $\rho>0$ ，采用相同的 $N(0,1/\rho)$ 混合。前文 Tonelli 与完成平方的步骤逐字适用于这族新过程，得到

M_k=\sqrt{\frac{\rho}{Q_k+\rho}}\exp\left\{\frac{S_k^2}{2(Q_k+\rho)}\right\},\qquad \Pr\{\exists k:|S_k|\ge u_\alpha(Q_k)\}\le\alpha.

这一步是重新证明得到的平方和边界，而非把原来的 $V_k$ 随意替换成 $Q_k$ 。 $\rho$ 与平方和具有相同单位；读数乘 $a\ne0$ 时，若同步令 $\rho$ 乘 $a^2$ ，整个证据不变。

例如在已声明条件对称的零中心模型下，20次读数全为1时， $S=20,Q=20$ 。取 $\rho=1,\alpha=0.05$ ，边界约为13.7751852，混合证据约为2985.577，超过拒绝阈值20。若相同20次读数中19个为1、另一个为100，则 $S=119,Q=10019$ ，边界约390.310268，证据约0.0202514，不能拒绝。后者更大的原始和由一个极大幅度主导；这两次算术比较不证明任何固定分布下的功效排序。

独立对称和在固定 $n$ 时先条件于全部幅度，可证明 $S_n/\sqrt{Q_n}$ 的更简单尾界。这里允许适应依赖，不能把全部未来幅度条件化后仍假定符号独立；靠的是固定 $\lambda$ 的单步上鞅与预设混合。

还须区分已知中心检验和未知中心区间。对候选 $m$ 令 $D_i=X_i-m$ ，上述过程可在条件对称中心为 $m$ 的零假设下有效，反演得到全时间置信集合。但不能承诺它是有界区间：固定有限 $n$ 与任意有限数据，当 $|m|\to\infty$ 时， $S_n(m)^2/(Q_n(m)+\rho)\to n$ ，前置因子 $\sqrt{\rho/(Q_n(m)+\rho)}\to0$ ，所以 $M_n(m)\to0$ ，遥远的候选中心也会被保留。即使交有限多个时刻的集合也不能去掉这两条远尾。已知中心的随时检验可直接使用本支路；要获得实用的有界中心置信序列，还需别的校准构造。

这套充分条件对应 de la Peña、Klass、Lai（2004）Lemma 1.4，见论文原文。非对称的零均值变量并不自动满足它；只有均值为零时，不能将平方和的单步指数补偿当作既成事实。

参考资料

Steven R. Howard, Aaditya Ramdas, Jon McAuliffe, Jasjeet Sekhon, Time-uniform, nonparametric, nonasymptotic confidence sequences, The Annals of Statistics 49(2), 1055–1080, 2021；作者稿，§3.2、Appendix A.3 的双侧 normal mixture。本页使用明确的条件矩母函数充分条件。
Aaditya Ramdas, Peter Grünwald, Vladimir Vovk, Glenn Shafer, Game-Theoretic Statistics and Safe Anytime-Valid Inference, Statistical Science 38(4), 576–601, 2023，§3.2.3。

沿学习路线继续2

选择一条阅读路线；每条路线的前后站点分别列在下方。

从检验鞅到随时有效的置信序列第 5 / 6 站

上一站检验鞅与 e-process 下一站置信序列

从方差预算到可靠均值与适应尾界第 5 / 5 站

上一站标量 Freedman 不等式

已到本路线终点

单元练习与解答

形式陈述 ​

为什么积分仍是合法证据 ​

有界观测的实际尺度 ​

Bernoulli 的 Beta 混合 ​

调参、尾部与增长率 ​