Skip to content

切片采样

Slice sampling · Slice sampler

通过在未归一化密度图像下引入高度变量,交替抽取水平切片和切片内位置来构造目标不变核。

领域
统计学
条目类型
算法

形式陈述

设一维目标密度为 π(x)=γ(x)/Z,其中 0<Z< 且可逐点评值 γ(x)0。在扩展空间定义联合密度

p(x,u)=1Z1{0<u<γ(x)}.

u 积分得到 π(x)。两个条件分布分别是

UX=xUniform(0,γ(x)),XU=uUniform(Su),

其中水平切片 Su={x:γ(x)>u},第二式要求该切片有有限正测度。交替精确抽这两个条件分布就是扩展目标上的 Gibbs 核,边缘 X 因而保持 π;归一化常数 Z 从未参与计算。这里的均匀分布是在切片的参考测度上归一化,不是“随便在附近挑一点”。

一维中通常无法直接枚举 Su,可用宽度 w>0 的 stepping-out 与 shrinkage。给定旧点 x0,先抽 u(0,γ(x0));随机放置包含 x0 的宽 w 区间,再向两侧扩展直到端点落到切片外或达到预设扩展规则。随后在区间内均匀提议 x:若 γ(x)>u 就接受;否则按 x 位于 x0 左右收缩对应端点并重抽。正确的随机初始偏移、扩展与收缩规则共同保证核不偏向旧点;把它们替换成任意优化搜索需要重新证明不变性。

作为MCMC,切片核还需在目标支持上不可约并满足返性。扩展目标的不变性本身不给有限步独立性;Xt 仍是相关轨迹,轨道均值的偏差、一致性和中心极限定理依赖与其他 MCMC 相同层次的假设。多维逐坐标切片还会继承坐标几何问题。

直觉

密度高的点之所以更常出现,是因为它们上方有更高的竖直柱,可容纳更多高度 u。先在当前柱内选择高度,再在该高度的横截面上均匀移动,长期看每个 x 获得的扩展面积正比于 γ(x)

步长 w 不直接规定最终移动尺度,只决定寻找切片边界的起始尺子。w 太小会多次向外扩展,太大则在收缩中反复击中切片外;两者主要改变成本。然而若人为限制扩展次数,参数也会限制可达距离,可能从效率问题变成遍历问题。

例子与边界

对三点未归一化目标 γ(a,b,c)=(1,3,6),从 Xt=b 开始。若本轮在 (0,3) 抽得 u=2.4,则

S2.4={b,c}.

在这个两点切片上均匀抽样,若离散均匀数落在后半区,就取 Xt+1=c。下一轮高度可在 (0,6) 变化:当 u>3 时切片只有 {c},链留在高密度点;当 u<1 时三点全可访问。各点被包含的高度长度分别是 1,3,6,所以边缘概率正比于目标权重,而不是正比于切片内点数。

真实失败边界出现在断裂支持。若连续目标只在两个相隔很远的区间为正,而实现的 stepping-out 一遇到当前分量的零密度边界就停止,那么构造出的局部切片核永远不能越过空隙。两个分量的任意混合仍可不变,但从单一分量出发的链不可约。必须使用能覆盖多个分量的全局区间、额外跨模态更新或分别估计分量质量;延长运行无法修复零转移概率。

无界或无限测度切片也破坏朴素条件抽样。例如不正规“目标” γ(x)=1 定义在整条实线上时,Su=R 没有均匀概率分布,这同时暴露原目标 Z=。对正规但极重尾目标,切片有限却可能极宽,使扩展成本与跳跃尺度具有重尾;应设置可报告的预算上限,而不是静默截断并假装仍从完整切片抽样。

推论与应用

切片构造把密度值转成随机等高集,适合归一化常数未知、局部尺度随位置变化而又能廉价评值的目标。它自动调整单步跨度的说法只在边界搜索正确且切片几何可处理时成立;多峰、强相关或高维薄壳仍可能让水平集合难以探索。

离散变量可直接枚举切片,单调或对数凹一维条件则可用解析边界减少评值。若把切片步骤嵌进 Gibbs 更新,每个坐标的扩展变量都属于相应条件目标,整体正确性来自条件核的复合。调参应同时报告每个有效样本的密度评值数、扩展次数和跨模态行为,不能只比较“接受率”,因为合规的 shrinkage 最终总会接受。

参考资料
  • Radford M. Neal, “Slice Sampling,” The Annals of Statistics 31(3), 2003, pp. 705–767.
  • Gareth O. Roberts and Jeffrey S. Rosenthal, “The Polar Slice Sampler,” Stochastic Models 18(2), 2002, pp. 257–280.
  • Christian P. Robert and George Casella, Monte Carlo Statistical Methods, 2nd ed., Springer, 2004, Ch. 8, §§8.2–8.3, pp. 321–336.
关系图谱5 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系