Skip to content

算法Algorithm

从过去耦合

Coupling from the past · CFTP · Propp–Wilson algorithm · 从过去开始的耦合

固定观察时刻并不断补入更早的随机映射,重放同一后缀直到全部初态合并,从而生成精确平稳样本。

运行很多步可以减小初始化偏差,但“很多”未必有可核验的含义。从过去耦合换了一种问题:固定现在为时刻0,逐渐向过去查看更新记录;一旦发现无论那时从哪里出发,现在都会相同,就能确定一个不再依赖初态的输出。

形式陈述 ​

输入是可重放的随机映射 ​

设Ω为非空有限状态集,P是转移矩阵,目标π满足平稳关系πP=π。给定随机记录U及确定性更新函数Φ,要求对每个x,y都有

(1)Pr(Φ(x,U)=y)=P(x,y).

在负整数时刻生成IID记录(U−1,U−2,…),定义映射Ft(x)=Φ(x,Ut)。同一t、同一记录用于所有初态;不同t的记录独立。某个记录一旦生成,后续回放必须原样复用。

从时刻−T到0的合成是

(2)HT=F−1∘F−2∘⋯∘F−T.

最右边的映射最早执行。若HT(Ω)只有一个元素,称这段历史全合并。还需证明

(3)Pr(∃T≥1: |HT(Ω)|=1)=1.

式(1)只保证每条轨迹的转移正确,式(3)保证这份共同随机映射确实能遗忘所有初态。两者是不同责任。

倍增回放算法 ​

若|Ω|=1,直接返回唯一状态。否则令T=1,依次执行:

  1. 为尚未生成的负时刻补充记录,使−T,…,−1全部已有记录;不改已有后缀。
  2. 从每个x∈Ω出发,按t=−T,−T+1,…,−1回放更新,收集HT(x)。
  3. 若所有终点相同,返回该状态、最后历史长度和已核验的全合并记录;否则将T加倍,再试。

在式(1)–(3)下,算法几乎必然停止,返回值Y恰服从π。它不需要计算混合时间或分配函数。资源预算耗尽而尚未合并时,返回“未完成”;不能随意取某条剩余轨迹冒充精确样本。

直觉

为什么要固定终点 ​

一旦HT是常值映射,补入更早的记录得到HT′=HT∘F−T−1∘⋯∘F−T′,输出仍是原来的常值。因此向过去扩展只会消除未知初态,已经确定的时刻0不会被改变。

向未来运行到首次相遇则不同:相遇时刻本身是随机选择的,某些状态容易成为合并入口,另一些状态只能在合并以后到达。把第一次相遇的位置当作平稳样本,可能偏向前者。重抽旧后缀也会破坏上述“已经确定的现在不会改变”的一致性。

精确输出的证明 ​

令τ=min{T≥1:HT为常值}。对每个确定的m,取X∼π且独立于全部更新记录,令Zm=Hm(X)。式(1)及不变性逐步给出Zm∼π;这里不要求实际程序会抽X,它只用于证明。

在{τ≤m}上,Hm已是最终常值,所以Zm=Y。由耦合不等式,

(4)‖L(Y)−π‖TV≤Pr(Y≠Zm)≤Pr(τ>m)⟶0.

最后一步使用式(3)。因此输出律精确等于π,不是只在某个小误差范围内。若有另一份平稳分布,同一论证会迫使它也等于L(Y),所以全合并同时保证平稳律唯一。

一个可验证的停止条件 ​

若存在长度L≥1及γ>0,使L个独立更新映射的合成以至少γ的概率成为常值,则称它们提供一份同步块证书。把过去切成互不重叠的长度L块,任意一块先把全状态压成一点,之后的任何映射都不会重新分开。独立性给

(5)Pr(τ>kL)≤(1−γ)k,Eτ≤Lγ.

期望界由整数尾和分组得到:每组L个尾概率均不超过相应的(1−γ)k。所以这份局部证书既证明停止,也给粗成本界;不必把“链不可约非周期”误当成这份特定映射自动合并的理由。

例子与边界

铁磁热浴为什么只需两条轨迹 ​

若状态空间有偏序,存在最小元⊥和最大元⊤,且每个允许记录都使Φ(⋅,U)保序,则

(6)HT(⊥)≤HT(x)≤HT(⊤)(x∈Ω).

只要两个极端终点相同,反对称性迫使全部终点相同;因此每轮只需回放两条轨迹。要求的是最小/最大元,不是随便选两个极小/极大元,也不是两条一般初态路径恰好相遇。

对有限铁磁Ising模型,使用逐坐标次序−1<+1。局部场ai=hi+∑jJijσj随其他坐标递增,条件取正概率pi=1/(1+e−2ai)也递增。记录Ut=(It,Vt),以固定正概率选It,用同一Vt∼Unif(0,1)在Vt<pIt时设为正。未更新坐标保持次序,更新坐标也不可能出现下轨迹为正、上轨迹为负。因此这份热浴实现保序。

有限参数还给ϵi=minσpi(σ)>0。连续n步恰按坐标1,…,n更新,且每步V<ϵi,会把全部初态送到全正。若扫描概率为qi,这个同步事件的概率是

(7)γ=∏i=1nqiϵi>0.

这证明停止,但γ可能极小,不能把存在正概率当作高效性。式(7)其实不要求铁磁性;铁磁性用于式(6)的两条轨迹快捷检查。含负耦合时仍可验证全状态合并,只是两个极端未必夹住所有轨迹。

两自旋的短回放 ​

取一条正边、无外场、e2J=3,两坐标均匀扫描。每个条件取正概率是1/4或3/4。指定已有记录

U−2=(1,1/8),U−1=(2,7/8).

只回放T=1时,第二个自旋必成负,第一个仍未知;下、上终点分别为−−和+−,不能输出。扩展至T=2,更早的记录先把第一个自旋强制为正,再重用原来的U−1把第二个设为负,两条极端都到+−。

这份具体记录用于复算确定性回放,不声称某个精确实数随机数有正概率。相应的正概率同步事件是第一步选坐标1且V<1/4,第二步选坐标2且V>3/4,其概率为1/64。取L=2,式(5)给Eτ≤128;它只是方便验证的粗上界。

更长历史中的同后缀核验 ​

三角形零外场、e2J=3的八份记录,展示倍增时要保存什么。下图的每一列固定一份(i,U),每次只补入左边缺少的旧列;T=1,2,4的两个极端像仍不同,T=8才相同。完整逐步回放见采样终点任务。图只核验这份记录的合并,不把条件于某个完成窗口的输出律当成平稳律。

只向过去扩展的耦合回放

同一链也可以选到永不合并的映射 ​

在{0,1}上,每轮以一半概率取恒等映射、一半概率取翻转映射。每个初态一步后都均匀,因此

P=(1/21/21/21/2)

已经一步混合。可是任意多个恒等或翻转的合成都仍是双射,从不把两个状态压成一点;式(3)失败。

若改为以一半概率取常零映射、一半概率取常一映射,单条轨迹仍有完全相同的P,却一步全合并。CFTP的成本依赖共同随机映射的构造,不能只看单链转移矩阵。

推论与应用

倍增成本与存储接口 ​

设最终尝试长度T=2k,每次都从头回放。一个初态共执行1+2+⋯+T=2T−1次映射求值;T<2τ,因此跟踪N=|Ω|个初态时,求值次数小于4Nτ。结合式(5),期望求值次数至多4NL/γ。单调快捷法只跟踪两个极端,把N替成2。

若每条随机记录可用固定大小对象保存,每个状态也按一个对象计,保留历史与当前全部图像需O(T+N)个对象;若显式保存每个随机映射的整张N项表,则历史存储变成O(NT)。自旋模型的两个状态本身需O(n)空间,历史再需O(T)条记录。每次热浴求值还要乘形成条件概率的实际成本,不能把复杂局部模型都算作常数时间。

时间筛选不是免费操作 ​

完整独立运行,每次使用独立随机源并等到完成,可得到独立平稳样本。但运行时间可能与输出值相关。只保留某个截止时间前完成的运行,或丢弃超时任务后把其余输出当成IID目标样本,通常会引入选择偏倚。有限资源下应保留未完成状态,并报告采用了什么筛选规则;单次已合并的历史证书不能证明经筛选样本集合的分布仍为π。

数学上的精确性还要求正确的随机接口和条件抽样。正有理概率可以用无偏随机位实现精确抽样;有限精度伪随机数、近似指数和错误的阈值舍入,不会因为外层叫CFTP就自动消失。公开的有理回放检查可以核验指定历史的合并,却不是对随机源真实性的检验。

与固定步数近似采样配合 ​

路径耦合与局部影响收缩给固定预算的TV误差;CFTP给随机运行长度下的精确平稳输出。前者可以在预算内返回带误差的近似结果,后者在尚未全合并时仍没有自己的精确结果。两种证书回答不同计算问题,可以共用一个正确的局部更新器,但不能互换停止规则。

参考资料
  • James G. Propp、David B. Wilson,Exact Sampling with Coupled Markov Chains and Applications to Statistical Mechanics,1996,作者稿§§2.1–2.2,PDF pp.3–9,Theorems2–3;§3.1,pp.9–10。随机映射、同后缀回放、单调两轨迹及中止筛选边界。
  • James G. Propp、David B. Wilson,Coupling from the Past,载Levin、Peres,Markov Chains and Mixing Times第2版,公开PDF,Chapter25,印刷pp.348–355。本文同步块尾界与映射求值预算在有限模型内直接证明。
关系图谱9 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系