Hamiltonian Monte Carlo

形式陈述 ​

设连续目标位于 $q\in {\mathbb{R}}^d$，密度 $\pi (q)=\gamma (q)/Z$，其中 $\gamma (q)>0$ 且 $U=-\log \gamma \in C^2$；下面的精确流陈述还假设解在选定积分时段内存在。定义势能与动能

其中质量矩阵 $M$ 对称正定，辅助动量 $p\in {\mathbb{R}}^d$ 服从 $N(0,M)$。Hamiltonian

对应联合密度 $\tilde{\pi }(q,p)\propto e^{-H(q,p)}$，其 $q$ 边缘正是目标。相关Hamilton 系统理路Hamilton 系统Hamiltonian system · Hamilton 系统由 Hamiltonian 的梯度经标准辛矩阵生成相空间流的常微分方程系统。为

所以算法需要可计算的梯度理路梯度Gradient标量函数微分在内积下对应的向量。，但不需要 $Z$。

基本的固定步数 HMC 更新先独立重抽 $p_0\sim N(0,M)$，再以步长 $ϵ$ 做 $L$ 次leapfrog 更新理路HMC 的 leapfrog 积分器Leapfrog integrator for HMC · Störmer–Verlet integrator for HMC以半步动量、整步位置、半步动量的对称组合，离散 HMC 的可分 Hamilton 方程并保持可逆与辛结构。，得到 $(q^{\ast },p^{\ast })$，通常再翻转动量以显式形成可逆提议。该离散映射可逆且保持体积，但不精确守恒 $H$，故以

接受 $q^{\ast }$，否则保留 $q_0$。在选定时段内有定义的精确 Hamilton 流同时守恒能量和体积，理论接受率为一；数值轨迹的 Metropolis 校正把离散误差变成拒绝概率，从而保持 $\tilde{\pi }$，再边缘化得到目标不变核。

不缓存起点梯度时，一条 $L\ge 1$ 步轨迹需 $L+1$ 次势能梯度评值，相邻半步复用同一端点梯度，并需 $L$ 次 $M^{-1}$ 对向量的作用；另计动量抽样与首尾能量评值，已有的当前势能可复用。固定轨迹无需保存全部路径，只需 $O(d)$ 个位置、动量和梯度分量；质量矩阵的表示、分解及其工作区另计。对角质量矩阵的一次作用为 $O(d)$，稠密矩阵的乘法或已分解线性求解通常为 $O(d^2)$，不能把二者成本混同。

这给出不变性，不自动给遍历性。动量刷新、非退化 $M$ 与适当轨迹长度通常帮助探索，但共振、分离支持和数值发散仍可造成不可达或极慢区域。轨道均值继承MCMC理路Markov 链 Monte CarloMarkov chain Monte Carlo · MCMC构造以目标分布为不变分布的 Markov 转移，并用一条遍历轨道的时间平均估计目标期望。的有限样本偏差与相关误差；接受校正不会把保留的样本变成 IID。

No-U-Turn Sampler理路No-U-Turn SamplerNo-U-Turn Sampler · NUTS以对称倍增的 Hamilton 轨迹树检测回头条件，并从有效轨迹状态中按保持目标不变的规则选择下一状态的自适应 HMC 算法。属于更广的 HMC 方法族：它保留位置—动量联合目标与 Hamilton 数值轨迹，同时用对称轨迹树替换固定 $L$，并以 slice 或 multinomial 候选选择维持不变性。因此它不是简单地在上面固定步数配方中临时改变 $L$ 后，仍照搬端点接受证明。