形式陈述
设 ( M t , F t ) t ≥ 0 是离散时间非负上鞅 公理库 鞅 Martingale · Submartingale · Supermartingale 在当前全部信息下,下一步条件均值等于当前值的可积适应过程。 :每个 M t 可积且适应于 F t ,并且
E [ M t + 1 ∣ F t ] ≤ M t . 对任意 a > 0 ,Ville 不等式断言
P ( sup t ≥ 0 M t ≥ a ) ≤ E M 0 a . 特别地,若 E M 0 ≤ 1 ,则对 0 < α < 1 ,
P ( ∃ t ≥ 0 : M t ≥ 1 α ) ≤ α . 这里的概率控制整条无限路径,而非预先选定的某一个时间。M 0 可以随机;初值预算始终是它的期望。定理不要求增量独立、观测同分布或过程一致可积。
直觉
把 M t 看成从一份有限本钱开始、不能借债的财富。在零模型成立时,无论过去发生过什么,下一步的条件平均财富都不会增加。少数路径当然可以赚得很多,但“曾经赚到 a ”的所有路径合起来,不能拥有超过初始预算的概率质量。
关键是达到目标后就冻结财富。这样,后来从高点跌落的路径也会被计入;未达到目标的路径因为财富非负,无法用负债抵消已经达到目标的财富。正是这个非负条件,使一次预算足以约束无限次查看。
截断命中时间的证明
令
τ a = inf { t ≥ 0 : M t ≥ a } , 没有命中时取 ∞ 。由于 M t 适应,τ a 是停时 公理库 停时 Stopping time · 停止时刻 是否已经发生可由当前信息判断、因而不依赖未来的随机时刻。 。对确定的有限 N ,τ a ∧ N 是有界停时;可选停止定理的有界版本 公理库 可选停止定理 Optional stopping theorem · Optional sampling theorem 在足以控制随机停止与极限交换的条件下,鞅的期望在停时前后保持不变。 给出
E M τ a ∧ N ≤ E M 0 . 在 { τ a ≤ N } 上,停止财富至少为 a ;在其补集上仍非负。因此
a P ( τ a ≤ N ) ≤ E M τ a ∧ N ≤ E M 0 . 令 N → ∞ ,只对递增的命中事件取概率极限,就得到 P ( ∃ t : M t ≥ a ) ≤ E M 0 / a 。这个步骤没有交换随机财富的极限与期望,也没有假设 τ a 几乎必然有限。
还需处理定理中的上确界:一列数可以从下方趋近 a ,却从未达到 a 。对任意 0 < ε < a ,
{ sup t M t ≥ a } ⊆ { ∃ t : M t ≥ a − ε } . 对右边使用刚证明的命中界,再令 ε ↓ 0 ,便得到包含等号的上确界版本。
例子与边界
公平硬币与越界幅度
独立抛公平硬币,令 M 0 = 1 ,并令
前 次 全 部 为 正 面 M t = 2 t 1 { 前 t 次全部为正面 } . 尚未出现反面时,下一步财富以各一半概率翻倍或归零,条件平均恰等于当前财富;归零后一直为零,所以它是非负鞅。
阈值为 8 时,越界恰好发生于前三次全正面的路径,概率为 2 − 3 = 1 / 8 ,达到 Ville 界。阈值改成 5 时,过程仍只能在第三次从 4 跳到 8 ;越界概率仍为 1 / 8 ,小于上界 1 / 5 。不等式计的是“至少达到门槛”的成本,实际越过更多时会留下松弛。
这个过程的路径最大值可以有很大的期望,Doob 最大不等式 公理库 Doob 最大不等式 Doob maximal inequality · Doob Lp inequality 用非负下鞅的终点尾部期望或鞅的终点 p 阶矩控制整个有限时间区间的最大值。 中的同一硬币例具体说明了为什么尾概率控制不等于强 L 1 最大值控制。
哪些条件不能省略
仅有每个固定时刻 E M t ≤ 1 不够。若 M t 独立地以各一半概率取 0 或 2 ,每次均值都是一,最终至少一次达到 2 的概率却是一。缺失的是给定历史后的上鞅约束;“平均便宜的机会”若能无限次重新领取,预算已不是同一份。
非负性也不能去掉:从零开始的对称随机游走会以正概率达到正水平,而以初值期望零套用本定理会错误地给出零上界。允许负财富时,失败路径可以承担任意债务,前面的点态下界随即失效。
Doob 的有限时间尾界以非负下鞅 的终点期望为预算;本定理以非负上鞅 的初始期望为预算。非负鞅同时满足两种方向,因此处在两者交集,但一般上鞅不能直接当下鞅使用。
推论与应用
若每个零假设分布下的证据过程都满足这些条件,在首次 M t ≥ 1 / α 时拒绝,就在任意查看频率下控制误拒概率。检验鞅与 e-process 公理库 检验鞅与 e-process Test martingale · Test supermartingale · e-process · 检验上鞅 区分固定时刻的 e 值与可在停时读取的证据过程,并用非负检验上鞅构造随时有效检验。 把这个结论组织成统计证据的定义,并解释为何一般 e-process 也能保留停时读取保证。
混合序贯边界 公理库 混合序贯边界 Mixture boundary · Method of mixtures · Normal mixture boundary 对指数上鞅作预先固定的概率混合,再把财富阈值反解为对所有时间同时有效的偏差边界。 先把一族指数上鞅平均,再用本定理把财富阈值转成观测和的弯曲边界。序贯概率比检验 公理库 序贯概率比检验 Sequential probability ratio test · SPRT 累积简单假设似然比并在越过上下边界时停止的序贯检验。 则以似然比鞅提供具体证据过程;双边决策仍需分别校准两类错误。
没有越界只表示尚未积累足够反对证据,不能据此宣布零假设为真。Ville 保证错误概率,却不保证检验会停止、具有高功效或所需样本量很小。
参考资料
Rick Durrett, Essentials of Stochastic Processes , 2nd ed., Springer, 2012;链接为 December 2011 作者稿,§5.5,Lemma 5.18,稿内 p. 172。
Aaditya Ramdas, Peter Grünwald, Vladimir Vovk, Glenn Shafer, Game-Theoretic Statistics and Safe Anytime-Valid Inference , Statistical Science 38(4), 576–601, 2023,§2.5。
Jean Ville, Étude critique de la notion de collectif , Gauthier-Villars, 1939,历史来源。