Hamiltonian Monte Carlo

形式陈述 ​

设连续目标位于 $q\in {\mathbb{R}}^d$，密度 $\pi (q)=\gamma (q)/Z$，其中 $\gamma (q)>0$ 且 $\log \gamma$ 可微。定义势能与动能

$$U(q)=-\log \gamma (q),K(p)=\frac{1}{2}{p}^{\mathsf{T}}{M}^{-1}p,$$

其中质量矩阵 $M$ 对称正定，辅助动量 $p\in {\mathbb{R}}^d$ 服从 $N(0,M)$。Hamiltonian

$$H(q,p)=U(q)+K(p)$$

对应联合密度 $\tilde{\pi }(q,p)\propto e^{-H(q,p)}$，其 $q$ 边缘正是目标。相关Hamilton 系统公理库Hamilton 系统Hamiltonian system · Hamilton 系统由 Hamiltonian 的梯度经标准辛矩阵生成相空间流的常微分方程系统。为

$$\dot{q}=M^{-1}p,\dot{p}=-\mathrm{\nabla }U(q)=\mathrm{\nabla }\log \gamma (q),$$

所以算法需要可计算的梯度公理库梯度Gradient标量函数微分在内积下对应的向量。，但不需要 $Z$。

一次 HMC 更新先独立重抽 $p_0\sim N(0,M)$，再以步长 $ϵ$ 做 $L$ 次leapfrog 更新公理库HMC 的 leapfrog 积分器Leapfrog integrator for HMC · Störmer–Verlet integrator for HMC以半步动量、整步位置、半步动量的对称组合，离散 HMC 的可分 Hamilton 方程并保持可逆与辛结构。，得到 $(q^{\ast },p^{\ast })$，通常再翻转动量以显式形成可逆提议。该离散映射可逆且保持体积，但不精确守恒 $H$，故以

$$\alpha =1\wedge \exp \{-H(q^{\ast },p^{\ast })+H(q_0,p_0)\}$$

接受 $q^{\ast }$，否则保留 $q_0$。精确 Hamilton 流同时守恒能量和体积，理论接受率为一；数值轨迹的 Metropolis 校正把离散误差变成拒绝概率，从而保持 $\tilde{\pi }$，再边缘化得到目标不变核。

这给出不变性，不自动给遍历性。动量刷新、非退化 $M$ 与适当轨迹长度通常帮助探索，但共振、分离支持和数值发散仍可造成不可达或极慢区域。轨道均值继承MCMC公理库Markov 链 Monte CarloMarkov chain Monte Carlo · MCMC构造以目标分布为不变分布的 Markov 转移，并用一条遍历轨道的时间平均估计目标期望。的有限样本偏差与相关误差；接受校正不会把保留的样本变成 IID。作为本方法特殊情形的No-U-Turn Sampler公理库No-U-Turn SamplerNo-U-Turn Sampler · NUTS以对称倍增的 Hamilton 轨迹树检测回头条件，并从有效轨迹状态中按保持目标不变的规则选择下一状态的自适应 HMC 算法。会自适应选择轨迹长度，但仍依赖同一联合目标与数值积分结构。

直觉

随机游走每步重新猜方向，HMC 给参数配上动量，让它沿近似等能面持续滑行。势能把高后验密度变成低地，动量越过局部坡度；只要积分误差受控，一次提议可跨过许多局部相关尺度而保持较高接受率。

质量矩阵决定动量与位置尺度的匹配，步长决定能否解析最尖锐曲率，轨迹长度决定沿等能面走多远。三者承担不同职责。高接受率可能只是步长过小，长轨迹也可能折返到起点；有效性来自单位梯度计算带来的新位置，而非单一调参数字。

例子与边界

对一维标准正态目标，$U(q)=q^2/2$、$M=1$。从 $q_0=1,p_0=0$ 出发，以 $ϵ=0.5$ 做一步 leapfrog：

$$p_{1/2}=0-\frac{0.5}{2}(1)=-0.25,$$$$q_1=1+0.5(-0.25)=0.875,$$$$p_1=-0.25-\frac{0.5}{2}(0.875)=-0.46875.$$

初始能量 $H_0=0.5$，新能量

$$H_1=\frac{{0.875}^2}{2}+\frac{{0.46875}^2}{2}=0.49267578125.$$

所以 $\mathrm{\Delta }H\approx -0.007324$，本轮接受概率为一。能量略降不是精确动力学产生的物理耗散，而是离散误差；反向同样的更新能恢复原点，Metropolis 步据 $\mathrm{\Delta }H$ 校正其影响。

Neal funnel 展示了真正的几何边界：令 $v\sim N(0,3^2)$，并令多个 $x_i\mid v\sim N(0,e^v)$。在 $v$ 很负的漏斗颈部，$x_i$ 尺度极小、曲率极大，需要很小步长；在宽阔部分，同一步长又使移动缓慢。过大步长在颈部产生巨大 $\mathrm{\Delta }H$ 和 divergence，过小步长则耗费大量梯度。接受率的总体平均可能掩盖发散集中在颈部，重参数化往往比继续加长轨迹更直接。

不光滑边界、离散参数和相隔零密度区域也不符合普通 HMC 接口。对多峰目标，动力学受能量壳约束，有限动量很少越过高势垒；HMC 减少局部随机游走，不等于自动解决模态切换。

推论与应用

HMC 适合可微、连续且梯度成本与密度评值同量级的后验。先通过重参数化消除尺度漏斗，再用适配阶段学习步长和质量矩阵，逻辑上是在改善目标几何与动能度量；适配完成后固定参数进行采样，才能直接使用固定核的平稳论证。

能量误差、divergence、最大树深与动量能量诊断分别指向数值几何问题，不能由普通有效样本量替代。Metropolis 校正只修正可逆、保体积提议的能量误差：同一确定性近似力若对称用于两个半步，映射仍可逆但效率可能很差；随机或正反不一致的近似则会使证明失效。实现验证应先用有限差分核对梯度，再检查一步映射的反演与体积结构，最后才比较后验摘要。

参考资料

• Radford M. Neal, “MCMC Using Hamiltonian Dynamics,” in Steve Brooks et al., eds., Handbook of Markov Chain Monte Carlo, CRC Press, 2011, Ch. 5.
• Simon Duane, A. D. Kennedy, Brian J. Pendleton, and Duncan Roweth, “Hybrid Monte Carlo,” Physics Letters B 195(2), 1987, pp. 216–222.
• Michael Betancourt, “A Conceptual Introduction to Hamiltonian Monte Carlo,” arXiv:1701.02434, 2017, §§2–4.