形式陈述

设 $(X_n)_{n\ge0}$$(X_n{)}_{n\ge 0}$ 是可数状态空间 $S$$S$ 上的不可约、正常返 Markov 链，唯一平稳分布为 $\pi$$\pi$。若 $f:S\to\mathbb R$$f:S\to \mathbb{R}$ 满足

$$ \sum_{x\in S}|f(x)|\pi(x)<\infty, $$$$\sum _{x\in S}|f(x)|\pi (x)<\mathrm{\infty },$$

则对任意初始状态，几乎必然有

$$ \frac1n\sum_{k=0}^{n-1}f(X_k) \longrightarrow \sum_{x\in S}f(x)\pi(x). $$$$\frac{1}{n}\sum _{k=0}^{n-1}f(X_k)⟶\sum _{x\in S}f(x)\pi (x).$$

特别地，取 $f=1_{\{x\}}$$f=1_{\{x\}}$ 可得状态 $x$$x$ 的经验访问频率趋于 $\pi(x)$$\pi (x)$。这条时间平均结论不要求非周期性。若进一步非周期，则

$$ P^n(i,j)\to\pi(j), $$$$P^n(i,j)\to \pi (j),$$

从而 $X_n$$X_n$ 的边际分布趋于 $\pi$$\pi$；周期链一般只有时间平均收敛，而逐时刻分布会振荡。

直觉

单条轨道虽然具有相邻依赖，但每次回到某个再生状态都开启一个新的更新周期。长期总收益除以长期总时间因此趋于“每周期平均收益除以每周期平均长度”，这正是平稳平均。

例子与边界

有限不可约链自动正常返，所以时间平均总成立。二状态确定性交替链 $0\leftrightarrow1$$0\leftrightarrow 1$ 的平稳分布为 $(1/2,1/2)$$(1/2,1/2)$，经验频率确实趋于一半，但从 $0$$0$ 出发时 $X_n$$X_n$ 的分布在两个点之间交替，说明分布收敛还需非周期性。整数上的简单对称随机游走不可约且常返，却是零常返，没有平稳概率分布，不能套用上述定理。结论是几乎必然的轨道平均，不等于各项 $f(X_n)$$f(X_n)$ 本身逐点收敛。

推论与应用

遍历定理为 MCMC 的样本平均一致性、排队系统长期利用率、随机游走访问比例和 PageRank 型估计提供理论基础；实践中还需研究混合时间和中心极限定理来量化有限样本误差。

参考资料

• J. R. Norris, Markov Chains, Cambridge University Press, 1997，Ch. 1, invariant distributions, recurrence and ergodic theorem。
• Rick Durrett, Probability: Theory and Examples, 5th ed., Cambridge University Press, 2019，Ch. 6, Markov-chain ergodic theorems and stationary processes。