Skip to content

定理Theorem

路径耦合

Path coupling · Bubley–Dyer path coupling · 邻点路径耦合

在有限连通辅助图上只检验相邻初态的一步平均距离,再由耦合粘合与最短路把收缩推广到全部分布。

两个高维状态可能在很多坐标不同,直接为每一对状态设计耦合很费力。路径耦合先找“只差一点”的邻居,证明它们走一步以后平均更近,再沿一条有限路径把这些局部比较接起来。关键是每段都必须保留正确的转移边缘。

形式陈述 ​

局部检查的输入 ​

设P是非空有限状态集Ω上的时间齐次Markov转移矩阵。另在Ω上指定一张连通无向辅助图H,每条边e有长度ℓ(e)>0。辅助图用来比较状态,可以与P(x,y)>0定义的转移支持完全不同。

以最短路径总长定义d(x,y)。有限、连通与正边长使它成为度量。若|Ω|≥2,记

δ=minx≠yd(x,y)>0,D=maxx,yd(x,y)<∞.

假设有同一个0≤ρ<1,并且对辅助图的每条边{x,y},能给出一个一步耦合(X′,Y′),满足

(1)L(X′)=P(x,⋅),L(Y′)=P(y,⋅),Ed(X′,Y′)≤ρℓ({x,y}).

所测量的是更新后的完整d,不是只看原来不同的那个坐标,也不是测量两个更新指令是否相同。边长可以大于两端最短距离;条件(1)按输入边长检验,证明沿最短路径求和。

全局结论 ​

定义有限空间的一阶Wasserstein距离

Wd(μ,ν)=minQ∈Γ(μ,ν)∑u,vd(u,v)Q(u,v),

其中Γ是给定两个边缘的联合概率表集合。则

(2)Wd(μP,νP)≤ρWd(μ,ν).

P因此有唯一平稳分布π,且对所有初态和t∈N0,

(3)‖Pt(x,⋅)−π‖TV≤min{1,Dδρt}.

当0<ρ<1,使式(3)不超过ε∈(0,1)的一份步数证书是

(4)T=⌈log⁡(D/(δε))−log⁡ρ⌉.

若ρ=0,一步后所有初态分布相同且平稳;若|Ω|=1,零步已完成,不定义空集上的δ。对式(3)在t=0采用ρ0=1的约定。

直觉

局部距离怎样沿路径连接 ​

设两个状态的最短路径为x=x0,x1,…,xm=y。假如相邻转移分布之间各有一份便宜的搬运方案,它们可以通过共同中间边缘粘起来。三角不等式保证端到端的平均搬运成本不超过分段成本之和。

这种粘合不要求所有局部耦合预先由同一个随机数实现。也不要求沿辅助路径真实运行原链:路径只是证明中比较不同初态的工具,原链仍只走一步。

有限粘合的具体证明 ​

给三份分布μ,ν,η,令A(x,y)耦合μ,ν,B(y,z)耦合ν,η。定义

R(x,y,z)={A(x,y)B(y,z)/ν(y),ν(y)>0,0,ν(y)=0.

当ν(y)=0,非负性保证两张表在该中间点的整列或整行都为零,所以置零不会损失质量。分别求和可验R的(x,y)、(y,z)边缘正是A,B。再由d(x,z)≤d(x,y)+d(y,z)得到Wd的三角不等式。

有限概率表的可行集合闭且有界、目标连续,所以最优耦合存在。对前述最短路径使用三角不等式及式(1),

(5)Wd(P(x,⋅),P(y,⋅))≤∑j=1mWd(P(xj−1,⋅),P(xj,⋅))≤ρ∑j=1mℓ({xj−1,xj})=ρd(x,y).

取μ,ν的最优耦合Q,对每对(x,y)选一份实现式(5)的转移耦合Qxy′,并混合成∑x,yQ(x,y)Qxy′。它的两个边缘是μP,νP,平均成本不超过ρ∑Q(x,y)d(x,y),这就证明式(2)。有限集合中的逐对选择没有可测选择问题。

从平均距离到事件误差 ​

对任意耦合,1{X≠Y}≤d(X,Y)/δ。实际使用耦合不等式,得到

(6)‖μ−ν‖TV≤1δWd(μ,ν).

有限Markov链至少有一份平稳分布:例如取任意初始分布的Cesàro平均μ¯N=N−1∑j=0N−1μPj,在有限概率单纯形中选收敛子列;μ¯NP−μ¯N=(μPN−μ)/N→0,其极限便不变。

若π,π~都平稳,式(2)给Wd(π,π~)≤ρWd(π,π~),故二者相等。再迭代式(2),用Wd(δx,π)≤D与式(6),便得到式(3)。这份证明不需要先假定链不可约,平稳质量可以集中在一个真子集上。

例子与边界

逐坐标刷新独立比特 ​

在Ω={0,1}n上,每轮均匀选坐标i,将其重新抽成Bernoulli(pi),其余坐标不变;允许pi=0或1。目标是这n个Bernoulli分布的乘积。

辅助图连接只差一个坐标的状态,边长1,路径距离就是Hamming距离。若初态只在j不同,让两条链选同一坐标、用同一均匀数重抽。选到j时差异消失,选其他坐标时原差异保留且不会新添差异。所以

Ed(X′,Y′)=1−1n,ρ=1−1n,D=n,δ=1.

n=3时,认证TV不超过1/20需要检查3(2/3)t≤1/20。第10步的这份上界仍大于1/20,第11步已小于,所以式(4)给11次单坐标更新。它是证书给出的足够步数,不是已证明的真实最小混合时间。

若某个pi退化为零,乘积目标可以只在真子集有质量,链也可以不可约性失败;上述耦合证明仍然成立,因为不合目标的坐标最终被刷新。这是“不必额外要求不可约”的具体例子。

非均匀扫描与缺失坐标 ​

改为以固定qi>0选坐标,对只在j不同的初态,一步期望距离为1−qj。因此可以取ρ=1−miniqi。给不同坐标赋正权重wi时,该对的距离与期望都乘wj;对这个独立刷新模型,单纯换权不能消除最慢坐标的瓶颈。

若某个qj=0,该坐标永不刷新,两份只在j不同的初态永久保留差异,严格收缩失败。不能把未更新坐标从距离中设成零而继续声称控制完整状态的TV;那样得到的不是本页所要求的度量。

哪些局部检查不够 ​

辅助图若不连通,只在各分量内部验证式(1),不能比较不同分量。最极端的例子是两点、无辅助边、恒等转移:所有边条件真空成立,却有两份不同的平稳点质量。

若使用平方Hamming数而非路径距离,三角不等式可能失败;两段各差一位时成本为1+1,端点差两位却为4,粘合证明无法成立。若边耦合的一侧偷偷使用另一转移核,即使距离迅速缩小,也不能支持原P的结论。

当得到的只是ρ=1,式(2)至多说明不扩张,没有式(4)的有限几何预算。这不证明原链不混合;可能需要其他距离、多步耦合或其他分析。严格小于一的量词不能由数值上“接近一”替代。

推论与应用

有限证书如何审计 ​

若显式给N=|Ω|个状态、M条辅助边和每边一张N×N联合转移表,可逐行逐列核对边缘、非负性、归一化,再计算式(1)的成本。已有全部距离时,这部分需O(MN2)算术操作。

若距离尚未给出,可先用全点对最短路计算,稠密实现为O(N3)时间、O(N2)空间。逐边表可以流式读取,工作空间不必同时保存M张表;精确有理输入的位成本还取决于分母增长。这些显式成本可能仍然很大,实际收益来自利用模型对称性或局部依赖,统一证明很多边的同一种耦合公式。

通过的证书应报告转移核、辅助图、边长、ρ,δ,D及目标精度。某条边失败只能说明这一份局部证书没有通过,不能据此断言没有别的耦合能收缩。

与局部条件模型的接口 ​

有限Ising模型的一次热浴更新可能消灭旧差异,也可能让相邻自旋新生差异。逐项支付这些变化才是式(1)的内容,不能因为每次只更新一位就认为Hamming距离只会下降。

Dobrushin影响矩阵可把新生误配写成条件概率变化的预算。对加权Hamming距离,改变第j个输入坐标会向各接收坐标i传播,因此使用含扫描概率和距离权重的列和;按坐标误配向量递推时则使用接收行。这是同一个影响矩阵的两种计算接口,需要保持下标方向。

参考资料
  • Russ Bubley、Martin Dyer,Path Coupling: a Technique for Proving Rapid Mixing in Markov Chains,FOCS1997,pp.223–231,§2;邻点比较与路径扩展的原始论文。
  • David A. Levin、Yuval Peres,Markov Chains and Mixing Times,第2版,2017,作者公开PDF,Chapter14,印刷pp.201–205,Lemma14.3、Theorem14.6、Corollary14.8。本文保留一般正距离尺度δ,并单独处理零收缩和单状态。
关系图谱20 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系