Skip to content

定理Theorem

Dobrushin 收缩条件

Dobrushin contraction condition · Dobrushin influence matrix · Dobrushin interdependence matrix · 多布鲁申影响矩阵

用一个坐标变化对其他全条件的最大影响构造误配递推,认证有限Gibbs扫描的边缘误差与加权收缩。

更新一个坐标会消除它原来的值,也会把其他坐标的信息重新带进来。若传进来的总影响足够小,初态差异就会逐轮消退。Dobrushin方法把这些局部影响排成矩阵,使“哪些坐标先更新”和“关心哪个边缘”都能进入同一份计算。

形式陈述 ​

接收行与影响列 ​

设Ω=∏i=1nSi,n≥1,每个Si是非空有限集。目标质量π(x)>0对全部x∈Ω成立。记πi(⋅∣x−i)为第i个全条件。对i≠j定义

(1)cij=maxx−j=y−j‖πi(⋅∣x−i)−πi(⋅∣y−i)‖TV,cii=0.

最大值允许x=y。cij测量改变输入坐标j时,接收坐标i的条件律最多改变多少;行是接收方,列是影响来源。距离采用概率TV约定,范围为[0,1]。

实际计算也可使用逐项上界C≥(cij),要求C≥0且Cii=0。以下所有结论对这样的有效上界成立,不要求精确求出每个最大值。

预定扫描的有限步证书 ​

第t轮执行单坐标Gibbs更新,按预先规定的概率向量q(t)选坐标,再精确抽其全条件。这些扫描向量不能依赖当前样本状态;q(t)=ei允许指定本轮只更新i。令

(2)B(q)=I−diag(q)+diag(q)C,b(0)=1,b(t)=B(q(t))b(t−1).

从任意初始分布运行到第T轮,输出律记作μT。对任意坐标子集A⊆{1,…,n},有

(3)‖LμT(XA)−Lπ(XA)‖TV≤min{1,∑i∈Abi(T)}.

空集合的两个边缘都是单点分布,右边为零。bi是误配概率的上界,可能大于1;这不使递推无效,只说明该分量暂时没有非平凡证书。

一份加权几何条件 ​

若扫描固定为qi>0,并找到vi>0使

(4)κ:=miniqi(1−(Cv)ivi)>0,ρ=1−κ,

则0≤ρ<1,且

(5)‖μT−π‖TV≤min{1,∑iviminiviρT}.

常见的无权条件是α=maxi∑jCij<1。均匀扫描qi=1/n、v=1时可取ρ=1−(1−α)/n。加权条件只是一种充分条件,没通过不能反推链没有唯一平稳律或不能混合。本页只讨论有限乘积模型,不把这个结论无条件改名为无限体积Gibbs测度唯一性。

直觉

先比较全条件,再比较整条链 ​

从x到y,依次替换它们不同的坐标。严格正的完整乘积支持保证每个中间配置合法。用TV三角不等式和式(1),

(6)‖πi(⋅∣x−i)−πi(⋅∣y−i)‖TV≤∑jCij1{xj≠yj}.

这一行是全方法的局部责任:不能用几个观察到的状态差异代替对所有条件输入的有效上界。

令Xt从所需初态启动,Y0∼π。两条链每轮选同一坐标。若选到i,对两份第i个全条件实际构造最大耦合,使新值不等的条件概率恰为其TV;未选中的坐标保留。每条边缘仍按合法Gibbs核演化,且Yt∼π。

记di(t)=Pr(Xt,i≠Yt,i)。式(6)与全期望给

(7)di(t)≤(1−qi(t))di(t−1)+qi(t)∑jCijdj(t−1).

由d(0)≤1及矩阵非负性归纳得到d(T)≤b(T)。两个子向量不相等时,至少有一个相应坐标不相等;并集界与耦合不等式证明式(3)。各坐标误配事件不必独立。

权重控制哪个方向 ​

定义加权向量范数‖z‖∞,v=maxi|zi|/vi。B≥0时,其诱导矩阵范数为

‖B‖∞,v=maxi(Bv)ivi.

上界来自|zj|≤‖z‖∞,vvj,取z=v便取等。式(4)正好给B(q)v≤ρv。又因1≤v/minivi,归纳得到b(T)≤ρTv/minivi,代入式(3)的全部坐标便得式(5)。

若存在Cv≤αv且α<1,固定扫描还可用稍粗的κ=(1−α)miniqi。当ρ=0时,一步误配界为零;算步数不再使用log⁡ρ。若0<ρ<1,设K=∑ivi/minivi,足够步数为⌈log⁡(K/ε)/(−log⁡ρ)⌉。

例子与边界

Ising局部场的精确影响 ​

对有限Ising模型,第i个条件取正概率是L(2ai),其中L(s)=1/(1+e−s)。若只改变邻居j,把其他局部场写成a,差异为

(8)|L(2(a+Jij))−L(2(a−Jij))|=|sinh⁡(2Jij)|cosh⁡(2a)+cosh⁡(2Jij)≤tanh⁡|Jij|.

等式由通分得到,上界用cosh⁡(2a)≥1。非邻居没有影响。因此Cij=tanh⁡|Jij|(有边时)是一份简单证书;已知外场和其余邻居取值时,还可以在有限集合上取最大值,得到更小的精确影响。

以三角形、零外场、e2J=3为例,tanh⁡J=1/2。粗行和为1,未通过严格条件。然而固定另一个邻居后,a=±J,不会取到上界所需的a=0。条件概率只出现1/10,1/2,9/10,改变一个邻居的最大变化为2/5。于是

(9)C=(02/52/52/502/52/52/50),α=4/5.

均匀扫描每次只更新一位,式(5)给3(14/15)T。目标ε=1/100时,这份界在第82步仍超标、第83步首次合格。这里改善的是条件影响的有效预算,不是改变了目标或采样器。

行和未过,加权仍可能通过 ​

四点星形,中心记0、三叶记1、2、3,零外场且每条边tanh⁡J=2/5。简单有效影响矩阵的中心行和为6/5,不能使用无权条件。取

v=(7/4,1,1,1),

中心比值(Cv)0/v0=24/35,每叶比值为7/10。因此Cv≤(7/10)v,均匀扫描得到ρ=37/40及K=19/4。权重表达各坐标误配容许的相对尺度,而不是把中心坐标从最终事件误差中删掉;K仍把它计入。

更新顺序、状态依赖与结构零 ​

系统扫描的第i次更新取q=ei,式(2)只替换bi这一行,并立即供后续坐标使用。不同次序对应不同矩阵乘积,通常不能交换。单轮不一定严格收缩,仍可以先计算完整一轮的乘积,再检查它对某个正向量是否缩小。

下图把四点星形的叶外场改为e2h=9,保留中心零场与边参数e2J=7/3。中心接收每叶的精确影响仍为2/5,叶接收中心的影响则为30/187。从1开始,先中心的一轮给中心分量6/5,后中心的一轮给36/187;终点任务逐项求出条件律、矩阵预算和实际中心偏差。

预定扫描次序与中心事件预算

若根据当前状态选坐标,目标不变性甚至可能失败。取两个独立公平比特:第一位为0时只更新第一位,为1时只更新第二位。以目标初始化后,第一位为1的概率变成1/2+(1/2)(1/2)=3/4。所有被抽的全条件都正确,但选择规则已经改变联合分布;本页的预定扫描证明不适用。

若目标只支持00和11,逐坐标替换的中间状态可能落在零质量处,条件比较也未必有唯一合法版本。不能把正乘积支持下的式(6)直接用于这种硬约束模型;需要重新选合法路径或块更新。

推论与应用

与加权路径耦合的精确关系 ​

在完整乘积空间用dw(x,y)=∑iwi1{xi≠yi},其中wi>0。对只在j不同的一对状态,共同选择坐标并最大耦合,有

(10)Edw(X′,Y′)≤(1−qj)wj+∑iqiwiCij.

选到j会删除原差异,因为该坐标的全条件不依赖自己的旧值;更新其他坐标则可能新添差异。若式(10)不超过ρwj对每个j都成立,实际使用路径耦合定理,便有TV界

∑iwiminiwiρT.

式(10)对固定来源j向接收方i求和,使用加权列;式(7)固定接收方i汇总来源j,使用行。两种方法可以给不同的有效证书;非对称C上尤其不能把一个条件的下标转置后仍当作同一计算。

事件偏差与运行成本 ​

式(3)给第T步边缘分布的偏差,不给一条相关轨迹平均的方差或有效样本量。若函数f每改变坐标i最多变化ai≥0,沿逐坐标路径可得|f(x)−f(y)|≤∑iai1{xi≠yi},从而

|EμTf−Eπf|≤∑iaibi(T).

对只依赖少数坐标的事件,不必先把全部坐标预算相加。这允许在采样前比较不同扫描对具体观测量的认证效果。

给定稀疏有效C后,一轮随机扫描向量递推可按非零元计算,成本为O(n+nnz(C));若q=ei,只需更新第i行,成本为O(1+nnz(Ci⋅))。保存矩阵与向量为O(n+nnz(C))。构造有效影响上界是额外任务:一般离散模型逐配置穷尽可能指数昂贵,不能把“矩阵已经给定”误当作总算法成本。

参考资料
  • Ioannis Mitliagkas、Lester Mackey,Improving Gibbs Sampler Scan Quality with DoGS,PMLR70,2017,pp.2469–2477,§§2–4.1、Definition6、Theorem8及Appendix A.1–A.2。影响方向、预定扫描矩阵与边缘误差;本文不实现其扫描优化器。
  • David A. Levin、Yuval Peres,Markov Chains and Mixing Times,第2版,2017,作者公开PDF,§15.1,印刷pp.215–217,特别是条件影响的连续上界和离散局部场改善。
关系图谱14 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系