Skip to content

马尔可夫链时间平均遍历定理

Ergodic theorem for Markov chains

不可约正常返 Markov 链的一条长轨道,其可积观测时间平均几乎必然趋于平稳平均。

条目类型
定理

形式陈述

(Xn)n0 是可数状态空间 S 上的不可约、正常返 Markov 链,唯一平稳分布为 π。若 f:SR 满足

xS|f(x)|π(x)<,

则对任意初始状态,几乎必然有

1nk=0n1f(Xk)xSf(x)π(x).

特别地,取 f=1{x} 可得状态 x 的经验访问频率趋于 π(x)。这条时间平均结论不要求非周期性。逐时刻边际分布是否趋稳是另一条Markov 链平稳收敛定理,需要额外排除周期振荡。

直觉

遍历性把“沿一条长轨道观察”与“按平稳分布在全体状态上平均”连接起来。不可约性保证轨道不会永久困在互不沟通的区域,正常返性保证回访周期有有限平均长度;这些条件共同让早期状态的影响在时间平均中被稀释。这里平均的是同一条路径上前 n 步的观测,不是只看第 n 步位于哪里。

例子与边界

有限不可约链自动正常返,所以时间平均总成立。二状态确定性交替链 01 的平稳分布为 (1/2,1/2),经验频率确实趋于一半,但从 0 出发时 Xn 的分布在两个点之间交替,说明分布收敛还需非周期性。整数上的简单对称随机游走不可约且常返,却是零常返,没有平稳概率分布,不能套用上述定理。结论是几乎必然的轨道平均,不等于各项 f(Xn) 本身逐点收敛。

对有限连通无向图上的随机游走,取 f(v)=1{v=u},遍历定理给出访问顶点 u 的长期频率为 deg(u)/(2|E|)。二分图上的简单随机游走具有周期二,单步分布会在两侧来回振荡,但访问频率仍可收敛。这一区分解释了为什么 MCMC 常额外加入自环来消除周期性。

推论与应用

定理以Markov 链平稳分布为对象,是依赖样本版本的大数律不可约性正常返性保证时间平均的标准结论。MCMC 用轨道平均估计期望,而混合时间回答有限步边缘分布距离稳态还有多远,两者不能互相替代。

同一时间平均也能解释排队系统的长期利用率、随机游走的访问比例和 PageRank 型估计。若要给有限样本误差条带,还需进一步研究自相关、中心极限定理或浓缩界;遍历定理本身只给长期极限。

参考资料
  • J. R. Norris, Markov Chains, Cambridge University Press, 1997,Ch. 1, invariant distributions, recurrence and ergodic theorem。
  • Rick Durrett, Probability: Theory and Examples, 5th ed., Cambridge University Press, 2019,Ch. 6, Markov-chain ergodic theorems and stationary processes。
关系图谱9 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系

被这些条目使用