Markov 链 Monte Carlo | Codeboy's Blog

形式陈述

设目标概率测度 $\Pi$ 定义在 $(\mathcal X,\mathcal F)$ 上，通常只知道 $\pi(x)=\gamma(x)/Z$ 中的未归一化密度 $\gamma$ 。MCMC 构造从 $\mathcal X$ 到自身的Markov 链转移核 $K$ ，满足不变性

\Pi K(A)=\int_{\mathcal X}K(x,A)\,\Pi(dx)=\Pi(A), \qquad A\in\mathcal F.

也就是说， $\Pi$ 是 $K$ 的平稳分布。常用的充分构造条件是细致平衡

\Pi(dx)K(x,dy)=\Pi(dy)K(y,dx),

但不变性并不要求可逆，存在带稳态概率环流的有效非可逆核。

给定初值 $X_0\sim\mu$ ，按 $X_{t+1}\sim K(X_t,\cdot)$ 迭代，并以

\widehat I_T=\frac1T\sum_{t=1}^T f(X_t)

估计 $I=\mathbb E_\Pi f$ 。仅有不变性还不够：还要排除与目标不沟通的闭类。一般状态空间常要求 $\Pi$ -不可约、正常 Harris 返；若还要边际分布从任意初值趋向 $\Pi$ ，通常加非周期性。对 $\Pi$ 可积的 $f$ ，相应Markov 链遍历定理给出轨道平均的一致性。有限 $T$ 且非平稳初值时，估计通常有初值偏差。若确实从 $\Pi$ 初始化，则每项边缘都服从 $\Pi$ ，故 $E\widehat I_T=I$ ，即使它们彼此相关；这与方差是否很大是另一个问题。丢弃 burn-in 旨在减轻初值影响，却不自动保证偏差单调下降，更不能仅凭丢弃若干步证明偏差恰为零。

若链满足适当的几何遍历与矩条件，才可写出中心极限定理

\sqrt T(\widehat I_T-I)\Rightarrow N(0,\sigma_f^2), \qquad \sigma_f^2=\gamma_0+2\sum_{k\ge1}\gamma_k,

其中 $\gamma_k=\operatorname{Cov}_\Pi(f(X_0),f(X_k))$ 。相关样本使方差不再是 $\gamma_0/T$ ；协方差级数是否收敛是额外结论，不可由“轨迹看起来平稳”代替。后验计算中，Metropolis–Hastings、Gibbs 采样、切片采样与Hamiltonian Monte Carlo分别给出不同的具体核。

直觉

IID 采样要求一次跳到完整目标；MCMC 只要求每一步局部搬运概率质量而不改变总体目标。轨迹因而可以用上一状态寻找下一状态，绕开直接归一化或直接采样。代价是相邻点共享历史：一串相似样本不是许多次独立确认，而可能只是一次缓慢移动被重复记录。

不变性回答“若已经在目标上，走一步是否仍在目标上”；遍历性回答“从当前起点能否忘掉初始状态并探索全部目标”。两者缺一不可。接受率、步长与轨迹图只描述某些局部行为，不能单独证明这两个全局命题。

Markov 链 Monte Carlo：从初值进入目标等高线的相关轨迹 — MCMC 的局部相关轨迹

例子与边界

令目标为三点分布 $\pi(a,b,c)=(0.1,0.3,0.6)$ 。从当前状态均匀提议另外两点，并按 $\min\{1,\pi(y)/\pi(x)\}$ 接受。由 $b$ 提议 $a$ 时接受率 $1/3$ ；若本轮均匀数为 $0.50$ ，链拒绝并留在 $b$ 。下一轮提议 $c$ ，接受率为 $1$ ，链移动到 $c$ 。因此前两次记录是 $(b,c)$ ，对 $f=(0,1,2)$ 的暂时均值为 $1.5$ ；这个巧合不等于已经收敛。

逐边可核对 $K(b,a)=\tfrac12\cdot\tfrac13=1/6$ 、 $K(a,b)=1/2$ ，故 $\pi(b)K(b,a)=0.05=\pi(a)K(a,b)$ 。按状态顺序 $(a,b,c)$ ，完整转移矩阵为

K=\begin{pmatrix}0&1/2&1/2\\1/6&1/3&1/2\\1/12&1/4&2/3\end{pmatrix}.

每行和为一，且直接相乘得 $(0.1,0.3,0.6)K=(0.1,0.3,0.6)$ 。目标期望为 $0.1\cdot0+0.3\cdot1+0.6\cdot2=1.5$ 。拒绝时必须把当前位置再次记入平均；若只保存成功跳转，离开概率小的状态会被低估，一般得到另一条链的占用分布。此核有限、不可约且有自环，因此既有时间平均保证，也有边缘分布收敛。

反例是恒等核 $K(x,\cdot)=\delta_x$ 。它使每个分布都不变，当然也使 $\Pi$ 不变；但链从哪里出发就永远停在哪里，估计量恒为 $f(X_0)$ 。还可比较确定性交替的两状态链：它每次在 $0,1$ 间切换，目标均匀。从固定起点出发，单个时刻的分布永远振荡，但两种状态的长期占比都为 $1/2$ 。这解释了为什么时间平均一致性不要求与边缘收敛完全相同的非周期条件。

另一个实际边界是相隔很远的双峰目标：局部随机游走在单峰内接受率可能很漂亮，却在整个运行中从未越过低密度谷。此时单链的自相关诊断甚至可能乐观，因为它根本没有见过另一种尺度的变动。

推论与应用

设计 MCMC 核的逻辑顺序应是：先证明目标不变，再证明状态空间可达与返性，最后研究有限预算下的混合和方差。把次序反过来，用高接受率挑核，可能优化一个与目标覆盖无关的数字。多个分散初值、函数特定的有效样本量和尾部事件检查只能提供反证线索，不能把有限输出升级成普遍收敛证明。

对层级后验，局部条件结构可产生 Gibbs 核；可微连续目标可借 Hamiltonian 轨迹减少随机游走；没有梯度但能评估密度时可用 Metropolis 或切片核。方法选择取决于可用接口与几何，而不是维数口号。无论采用哪种核，后验函数的 Monte Carlo 误差都应按相关轨道估计，并与模型不确定性分开报告。

参考资料

Steve Brooks, Andrew Gelman, Galin L. Jones, and Xiao-Li Meng, eds., Handbook of Markov Chain Monte Carlo, CRC Press, 2011, Chs. 1–6.
Christian P. Robert and George Casella, Monte Carlo Statistical Methods, 2nd ed., Springer, 2004, Chs. 6–12.
Andrew Gelman et al., Bayesian Data Analysis, 3rd ed., CRC Press, 2013, Chs. 11–12.
Charles J. Geyer, University of Minnesota, MCMC 课程讲义，§4.2，Theorems 4.2–4.3：不可约与 Harris 条件下的轨道平均，讲义全文。

形式陈述 ​

反向链接

形式陈述