Markov 链平稳分布收敛定理

形式陈述 ​

设 $P$ 是可数状态空间 $S$ 上不可约、正常返且非周期 Markov 链的转移核，$\pi$ 是其唯一平稳分布理路平稳分布Stationary distribution经马尔可夫转移后保持不变的状态分布。。则对任意状态 $i,j\in S$，

更强地，从任意初始分布 $\mu$ 出发，边际分布满足总变差距离理路总变差距离Total variation distance · TV distance两个概率分布对最优可测事件所赋概率之差的最大值。 $\Vert \mu P^n-\pi {\Vert }_{\mathrm{TV}}\to 0$。在离散度量下，这也蕴含依分布收敛理路依分布收敛Convergence in distribution · Weak convergence分布函数在极限分布连续点处收敛的随机变量收敛概念。到平稳律。有限不可约链自动正常返，所以有限情形只需另加非周期性理路常返、暂留与周期性Recurrence and transience · Periodicity of Markov chains用返回概率、返回时间与可返回步数刻画 Markov 链状态的长期类型。。

这条结论只描述第 $n$ 个时刻的分布，不是沿单条样本路径求平均。后者由时间平均遍历定理理路马尔可夫链时间平均遍历定理Ergodic theorem for Markov chains不可约正常返 Markov 链的一条长轨道，其可积观测时间平均几乎必然趋于平稳平均。控制，并不要求非周期性。

总变差距离在这里取约定

从逐点收敛到总变差收敛还用到了极限质量为 $1$：先选有限集 $F$ 使 $\pi (F)>1-\epsilon$，在 $F$ 上逐项取极限，补集上的误差由 $\nu (F^c)+\pi (F^c)$ 控制。若逐点极限丢失概率质量，这一步就失败。对任意初始分布的结论则先在初始状态的有限集上求和，再用该集之外的初始概率控制尾项。

用相遇构造证明收敛 ​

耦合法理路耦合法Coupling method · Probability coupling在共同概率空间中构造具有指定边缘的随机变量，并用它们相遇的概率比较分布。把结论归结为两条链最终相遇。先考虑两条相互独立的 $P$ 链，其联合转移为 $P\otimes P$。不可约且非周期意味着对每个固定状态对 $i,j$，充分大的 $n$ 都有 $P^n(i,j)>0$：在一个状态选取有限组最大公因数为 $1$ 的返回长度，它们的非负整数和包含所有充分大的整数。具体说，模其中一个返回长度取余，这些生成元生成全部剩余类；每类选一个非负组合代表，再加该长度的倍数，就覆盖所有足够大的整数。最后拼接到达和离开的路径。因此两个坐标可以选取同一个足够大的步数，乘积链不可约。

乘积链有平稳概率 $\pi \otimes \pi$，由不可约链的正常返判据，它几乎必然到达任意指定的 $(a,a)$，从而两条独立链的首次相遇时间有限。现在构造另一条联合链：相遇前独立更新，相遇后从相同状态使用同一个 $P$ 转移，始终保持相等。每个联合转移行的两个边缘仍是对应的 $P$ 行，所以两个坐标各自都是所需的 Markov 链；相遇前的路径律也与独立乘积链一致。

取 $X_0=i$、$Y_0\sim \pi$，令 $\tau$ 为首次相遇时间。每个确定时刻都有 $Y_n\sim \pi$，而耦合不等式给出

这里不需要、也没有断言随机相遇时刻的状态服从 $\pi$。最后按初始分布混合，并用前述有限集截断，就得到任意 $\mu$ 的结论。