形式陈述
设目标分布在状态空间 上有密度 ,其中只需能计算非负未归一化密度 。给定从当前状态 生成候选 的提议核公理库概率核(Markov 核)Probability kernel · Markov kernel · 转移核从每个输入状态可测地指定一个输出概率分布的映射。 ;若对共同参考测度有密度,记为 。一次更新先抽
再以概率
令 ,否则令 。比例常数 在比值中消去。一般测度版本用联合测度 与其交换坐标后的 Radon–Nikodym 比;密度式要求比值所在的正向与反向概率流可比较。若分母为正而分子为零,接受率为零;目标零质量状态通常不应作为有效初值。
所得转移核为
由于
正反流相等,故 满足细致平衡公理库可逆链与细致平衡Reversible Markov chain · Detailed balance由相反方向概率流逐边平衡所刻画的 Markov 链时间反演对称性。并保持 。这证明了目标不变,却没有证明遍历性。要把算法作为MCMC公理库Markov 链 Monte CarloMarkov chain Monte Carlo · MCMC构造以目标分布为不变分布的 Markov 转移,并用一条遍历轨道的时间平均估计目标期望。估计器,还需提议诱导的可接受移动使目标支持不可约,并排除妨碍边际收敛的周期性;拒绝产生的自环常有帮助,但若接受率处处为一则不能自动依赖它。
固定核下,有限轨道平均通常受初值偏差与自相关影响;在适当 Harris 遍历条件下才一致,在更强的几何遍历和矩条件下才有常规中心极限定理。运行中根据完整历史任意改变 会使链不再具有上述固定核证明;自适应 MH 需另证 diminishing adaptation 与 containment 一类条件。
直觉
提议核负责给出移动方向,Hastings 比率像双向收费表:若从 到 被提议得太频繁,就降低这条方向的通过率,直到稳态下每对状态的净流量配平。拒绝不是浪费性的附属动作,而是补足留在 的概率,使整行转移概率仍为一并维持平衡。
对称随机游走满足 ,接受率才简化为 。把这个简式用于独立提议、边界截断提议或有漂移的提议,会遗漏正反生成概率差异,目标分布随之改变。
例子与边界
取两点目标 。提议核为
其余概率留在原状态。由 提议 的接受率是
若均匀数为 ,本轮接受并到达 。反向提议的接受率为 ;若下一轮确实提议 且均匀数为 ,便返回 。稳态流量可逐项复算:,恰等于 。若错误地忽略提议比,两个方向都接受,所得平稳概率由提议核决定而非 。
支持结构可以让正确公式产生无用链。三状态上若提议只沿 顺时针移动,则每条候选的反向提议概率为零,MH 接受率全为零,链永久停在初值。目标不变仍然成立,却完全不遍历。连续空间中,步长过小给出高接受率但强自相关;步长过大则大多拒绝。不存在脱离目标尺度的通用“最佳接受率”,渐近随机游走结果也不能当作有限维硬阈值。
多峰目标还有更隐蔽的失败:峰内局部提议的接受率和轨迹图都可能正常,跨峰概率却小到在预算内从未发生。加长 burn-in 不会改变提议跨越能垒的机制;需要重参数化、独立/混合提议、温度桥接或其他能实际连通模态的构造。
推论与应用
MH 的价值在于把“会提出候选”转成“保持指定目标的核”。独立提议适合已有全局近似,随机游走适合局部尺度均匀的目标,带梯度提议可沿高概率方向移动;每种选择仍必须保留完整 Hastings 修正并重新验证支持。
诊断应沿因果链展开:先检查对数目标与正反提议比的实现,再检查可达性和接受位置,最后按函数估计自相关误差。只报告总体接受率会把“在一个模态内移动顺畅”与“正确探索后验”混为一谈。若目标密度有离散与连续混合部分,必须用能支配相应联合测度的核,而不能把普通 Lebesgue 密度比硬套在原子质量上。
参考资料
- Nicholas Metropolis et al., “Equation of State Calculations by Fast Computing Machines,” The Journal of Chemical Physics 21(6), 1953, pp. 1087–1092.
- W. K. Hastings, “Monte Carlo Sampling Methods Using Markov Chains and Their Applications,” Biometrika 57(1), 1970, pp. 97–109.
- Christian P. Robert and George Casella, Monte Carlo Statistical Methods, 2nd ed., Springer, 2004, Ch. 7.