两个高维状态可能在很多坐标不同,直接为每一对状态设计耦合很费力。路径耦合先找“只差一点”的邻居,证明它们走一步以后平均更近,再沿一条有限路径把这些局部比较接起来。关键是每段都必须保留正确的转移边缘。
形式陈述
局部检查的输入
设P 是非空有限状态集Ω 上的时间齐次Markov转移矩阵 理路 Markov 链 Markov chain 未来条件分布在给定当前状态后与更早历史无关的随机过程。 。另在Ω 上指定一张连通无向辅助图 理路 有限简单无向图 Graph · Finite simple undirected graph · 图 由有限顶点集与无序二元顶点子集组成的边集所确定的简单无向图。 H ,每条边e 有长度ℓ ( e ) > 0 。辅助图用来比较状态,可以与P ( x , y ) > 0 定义的转移支持完全不同。
以最短路径总长定义d ( x , y ) 。有限、连通与正边长使它成为度量 理路 度量空间 Metric space 用满足正定性、对称性与三角不等式的实值距离刻画点间远近的空间。 。若| Ω | ≥ 2 ,记
δ = min x ≠ y d ( x , y ) > 0 , D = max x , y d ( x , y ) < ∞ . 假设有同一个0 ≤ ρ < 1 ,并且对辅助图的每条边{ x , y } ,能给出一个一步耦合( X ′ , Y ′ ) ,满足
(1) L ( X ′ ) = P ( x , ⋅ ) , L ( Y ′ ) = P ( y , ⋅ ) , E d ( X ′ , Y ′ ) ≤ ρ ℓ ( { x , y } ) . 所测量的是更新后的完整d ,不是只看原来不同的那个坐标,也不是测量两个更新指令是否相同。边长可以大于两端最短距离;条件(1)按输入边长检验,证明沿最短路径求和。
全局结论
定义有限空间的一阶Wasserstein距离 理路 Wasserstein 距离 Wasserstein distance 用最小平均搬运距离定义概率测度的度量,并用矩条件说明它比弱收敛多控制什么。
W d ( μ , ν ) = min Q ∈ Γ ( μ , ν ) ∑ u , v d ( u , v ) Q ( u , v ) , 其中Γ 是给定两个边缘的联合概率表集合。则
(2) W d ( μ P , ν P ) ≤ ρ W d ( μ , ν ) . P 因此有唯一平稳分布π ,且对所有初态和t ∈ N 0 ,
(3) ‖ P t ( x , ⋅ ) − π ‖ T V ≤ min { 1 , D δ ρ t } . 当0 < ρ < 1 ,使式(3)不超过ε ∈ ( 0 , 1 ) 的一份步数证书是
(4) T = ⌈ log ( D / ( δ ε ) ) − log ρ ⌉ . 若ρ = 0 ,一步后所有初态分布相同且平稳;若| Ω | = 1 ,零步已完成,不定义空集上的δ 。对式(3)在t = 0 采用ρ 0 = 1 的约定。
直觉
局部距离怎样沿路径连接
设两个状态的最短路径为x = x 0 , x 1 , … , x m = y 。假如相邻转移分布之间各有一份便宜的搬运方案,它们可以通过共同中间边缘粘起来。三角不等式保证端到端的平均搬运成本不超过分段成本之和。
这种粘合不要求所有局部耦合预先由同一个随机数实现。也不要求沿辅助路径真实运行原链:路径只是证明中比较不同初态的工具,原链仍只走一步。
有限粘合的具体证明
给三份分布μ , ν , η ,令A ( x , y ) 耦合μ , ν ,B ( y , z ) 耦合ν , η 。定义
R ( x , y , z ) = { A ( x , y ) B ( y , z ) / ν ( y ) , ν ( y ) > 0 , 0 , ν ( y ) = 0. 当ν ( y ) = 0 ,非负性保证两张表在该中间点的整列或整行都为零,所以置零不会损失质量。分别求和可验R 的( x , y ) 、( y , z ) 边缘正是A , B 。再由d ( x , z ) ≤ d ( x , y ) + d ( y , z ) 得到W d 的三角不等式。
有限概率表的可行集合闭且有界、目标连续,所以最优耦合存在。对前述最短路径使用三角不等式及式(1),
(5) W d ( P ( x , ⋅ ) , P ( y , ⋅ ) ) ≤ ∑ j = 1 m W d ( P ( x j − 1 , ⋅ ) , P ( x j , ⋅ ) ) ≤ ρ ∑ j = 1 m ℓ ( { x j − 1 , x j } ) = ρ d ( x , y ) . 取μ , ν 的最优耦合Q ,对每对( x , y ) 选一份实现式(5)的转移耦合Q x y ′ ,并混合成∑ x , y Q ( x , y ) Q x y ′ 。它的两个边缘是μ P , ν P ,平均成本不超过ρ ∑ Q ( x , y ) d ( x , y ) ,这就证明式(2)。有限集合中的逐对选择没有可测选择问题。
从平均距离到事件误差
对任意耦合,1 { X ≠ Y } ≤ d ( X , Y ) / δ 。实际使用耦合不等式 理路 耦合法 Coupling method · Probability coupling 在共同概率空间中构造具有指定边缘的随机变量,并用它们相遇的概率比较分布。 ,得到
(6) ‖ μ − ν ‖ T V ≤ 1 δ W d ( μ , ν ) . 有限Markov链至少有一份平稳分布 理路 平稳分布 Stationary distribution 经马尔可夫转移后保持不变的状态分布。 :例如取任意初始分布的Cesàro平均μ ¯ N = N − 1 ∑ j = 0 N − 1 μ P j ,在有限概率单纯形中选收敛子列;μ ¯ N P − μ ¯ N = ( μ P N − μ ) / N → 0 ,其极限便不变。
若π , π ~ 都平稳,式(2)给W d ( π , π ~ ) ≤ ρ W d ( π , π ~ ) ,故二者相等。再迭代式(2),用W d ( δ x , π ) ≤ D 与式(6),便得到式(3)。这份证明不需要先假定链不可约,平稳质量可以集中在一个真子集上。
例子与边界
逐坐标刷新独立比特
在Ω = { 0 , 1 } n 上,每轮均匀选坐标i ,将其重新抽成Bernoulli( p i ) ,其余坐标不变;允许p i = 0 或1。目标是这n 个Bernoulli分布的乘积。
辅助图连接只差一个坐标的状态,边长1,路径距离就是Hamming距离。若初态只在j 不同,让两条链选同一坐标、用同一均匀数重抽。选到j 时差异消失,选其他坐标时原差异保留且不会新添差异。所以
E d ( X ′ , Y ′ ) = 1 − 1 n , ρ = 1 − 1 n , D = n , δ = 1. n = 3 时,认证TV不超过1 / 20 需要检查3 ( 2 / 3 ) t ≤ 1 / 20 。第10步的这份上界仍大于1 / 20 ,第11步已小于,所以式(4)给11次单坐标更新。它是证书给出的足够步数,不是已证明的真实最小混合时间。
若某个p i 退化为零,乘积目标可以只在真子集有质量,链也可以不可约性失败;上述耦合证明仍然成立,因为不合目标的坐标最终被刷新。这是“不必额外要求不可约”的具体例子。
非均匀扫描与缺失坐标
改为以固定q i > 0 选坐标,对只在j 不同的初态,一步期望距离为1 − q j 。因此可以取ρ = 1 − min i q i 。给不同坐标赋正权重w i 时,该对的距离与期望都乘w j ;对这个独立刷新模型,单纯换权不能消除最慢坐标的瓶颈。
若某个q j = 0 ,该坐标永不刷新,两份只在j 不同的初态永久保留差异,严格收缩失败。不能把未更新坐标从距离中设成零而继续声称控制完整状态的TV;那样得到的不是本页所要求的度量。
哪些局部检查不够
辅助图若不连通,只在各分量内部验证式(1),不能比较不同分量。最极端的例子是两点、无辅助边、恒等转移:所有边条件真空成立,却有两份不同的平稳点质量。
若使用平方Hamming数而非路径距离,三角不等式可能失败;两段各差一位时成本为1+1,端点差两位却为4,粘合证明无法成立。若边耦合的一侧偷偷使用另一转移核,即使距离迅速缩小,也不能支持原P 的结论。
当得到的只是ρ = 1 ,式(2)至多说明不扩张,没有式(4)的有限几何预算。这不证明原链不混合;可能需要其他距离、多步耦合或其他分析。严格小于一的量词不能由数值上“接近一”替代。
推论与应用
有限证书如何审计
若显式给N = | Ω | 个状态、M 条辅助边和每边一张N × N 联合转移表,可逐行逐列核对边缘、非负性、归一化,再计算式(1)的成本。已有全部距离时,这部分需O ( M N 2 ) 算术操作。
若距离尚未给出,可先用全点对最短路计算,稠密实现为O ( N 3 ) 时间、O ( N 2 ) 空间。逐边表可以流式读取,工作空间不必同时保存M 张表;精确有理输入的位成本还取决于分母增长。这些显式成本可能仍然很大,实际收益来自利用模型对称性或局部依赖,统一证明很多边的同一种耦合公式。
通过的证书应报告转移核、辅助图、边长、ρ , δ , D 及目标精度。某条边失败只能说明这一份局部证书没有通过,不能据此断言没有别的耦合能收缩。
与局部条件模型的接口
有限Ising模型 理路 有限 Ising 模型 Finite Ising model · Ising model · 伊辛模型 · 有限自旋系统 在有限图上给二值自旋的相邻相互作用和外场赋概率,推导局部条件更新,并由树与回路的边变量区分联合依赖。 的一次热浴更新可能消灭旧差异,也可能让相邻自旋新生差异。逐项支付这些变化才是式(1)的内容,不能因为每次只更新一位就认为Hamming距离只会下降。
Dobrushin影响矩阵 理路 Dobrushin 收缩条件 Dobrushin contraction condition · Dobrushin influence matrix · Dobrushin interdependence matrix · 多布鲁申影响矩阵 用一个坐标变化对其他全条件的最大影响构造误配递推,认证有限Gibbs扫描的边缘误差与加权收缩。 可把新生误配写成条件概率变化的预算。对加权Hamming距离,改变第j 个输入坐标会向各接收坐标i 传播,因此使用含扫描概率和距离权重的列和;按坐标误配向量递推时则使用接收行。这是同一个影响矩阵的两种计算接口,需要保持下标方向。
参考资料