Skip to content

Markov 链

Markov chain

未来条件分布在给定当前状态后与更早历史无关的随机过程。

条目类型
模型

形式陈述

本页以离散时间、有限或可数状态空间为默认范围;有限链是可数链的特例。一般可测状态空间版本使用概率核与条件期望,不能把矩阵公式无条件照搬。设 S 为有限或可数集,取值于 S随机过程 (Xn)n0 称为 Markov 链,若对一切 n 与一切使条件事件具有正概率的 i0,,in1,i,jS条件概率满足

P(Xn+1=jX0=i0,,Xn1=in1,Xn=i)=P(Xn+1=jXn=i).

若右端与 n 无关,称链为时间齐次,并由转移矩阵 P=(pij)i,jS 描述,其中 pij=P(Xn+1=jXn=i) 满足 pij0jpij=1(行随机)。初始分布 μ(视为行向量)经 n 步演化为 μPn,多步转移满足 Chapman–Kolmogorov 方程

Pm+n=PmPn.

初始分布与转移矩阵还确定每条有限路径的概率:

P(X0=i0,,Xn=in)=μ(i0)k=0n1pikik+1.

这条乘积公式把一步条件分布组装成整条路径分布;反过来,对中间状态求和便得到矩阵幂中的多步转移。

在一般可测状态空间 (S,S) 上,时间齐次版本改写为

P(Xn+1AX0,,Xn)=K(Xn,A),AS,

其中 K概率核。以下矩阵、状态可达性和返回时间术语均按有限或可数版本理解。

范围与术语约定

本库统一使用:irreducible 译为不可约,aperiodic 译为非周期,recurrent/transient 分别译为常返/暂留,positive recurrent/null recurrent 分别译为正常返/零常返。在可数状态空间中,不可约表示任意两状态可经某个正概率多步路径互达;状态周期是正概率返回步数集合的最大公因数,周期为 1 即非周期;常返状态若首次正返回时间期望有限,则为正常返。这些性质彼此独立,不能合并成没有量词的“遍历性”。

一般状态空间也使用不可约、Harris 常返和正常返等词,但定义需要参考测度、可达集合与返回集合等额外数据。除非页面明确声明一般状态空间版本,本库相邻 Markov 链条目的这些术语都采用上述有限或可数状态空间含义。

直觉

Markov 性要求当前状态已经概括预测未来所需的全部历史信息。过去没有消失;与未来有关的部分被压缩进状态变量。因此“无记忆”说的是给定当前状态后的条件分布,不表示相邻状态独立,也不保证状态停留时间服从无记忆分布。

Markov 性依赖建模方式。同一个现象若状态取得太粗,遗漏信息仍会影响未来,Markov 性便失败;把必要记忆并入状态后,往往可以恢复。从计算机科学看,Markov 链是状态机的概率版本:没有外部输入时,每次转移由随机机制选择。

初始分布与转移核共同决定整条路径分布。矩阵编码一步规律,矩阵乘法汇总中间状态,矩阵幂给出多步转移;这使有限或可数链的长期问题能够连接线性代数,但一般状态空间仍应回到概率核。

例子与边界

整数轴上的简单随机游走:pi,i+1=pi,i1=1/2,是时间齐次 Markov 链。两步转移一算便知:从 i 出发以 1/4 到达 i±2、以 1/2 回到 i,这正是 P2 的第 i 行,与 Chapman–Kolmogorov 方程一致。

Markov 性依赖状态的选取。只记录天气"晴/雨"时,若真实机制是"连续晴天越久,明天转雨概率越大",那么这个二状态过程不满足 Markov 性——预测明天需要的不止是今天;把状态扩充为(今日天气,已连续天数)后 Markov 性即可恢复。一般的教训是:对 Markov 链的状态做归并(取链的函数)通常会破坏 Markov 性,因为压缩可能把必要的记忆挤出状态之外。

还应把 Markov 性与独立性分开:随机游走中 Xn+1Xn 高度相关,Markov 性只约束"给定现在后过去失效",而相邻变量独立反倒是"转移分布与当前状态无关"的退化特例。另外,定义中的条件式只对正概率历史提出要求;齐次性是额外假设,转移规律随时间变化的非齐次链同样存在,只是许多结论需要在齐次假设下陈述。

若把两个状态依次记为 0,1,并取转移矩阵

P=(0.90.10.40.6)

则两步转移概率不是把矩阵元素逐项平方,而是计算

P2=(0.850.150.600.40).

例如从状态 0 出发,两步后仍在 0 的概率 0.85 来自两条互斥路径:连续留在 0,概率 0.92;或先到 1 再返回,概率 0.1×0.4。矩阵乘法正是在自动汇总所有中间状态,因此 Pn 才能编码 n 步转移。

从状态 0 出发,两步后返回 0 的概率来自 0→0→0 与 0→1→0 两条互斥路径之和,而不是对转移矩阵逐项平方。
推论与应用

条件概率给出 Markov 性的精确定义,矩阵与谱分析则控制长期行为。状态空间先由沟通类与不可约性分解,随后用常返、暂留与周期性判断质量是否逃逸以及边缘分布是否振荡;平稳分布刻画不变概率质量,细致平衡则提供一种更强的逐边对称结构。这些概念各自回答不同问题,不应在 Markov 性定义里合并成笼统的“遍历”。

极限问题应沿不同出口继续。时间平均遍历定理研究一条长轨道上的经验平均;平稳分布收敛定理研究第 n 步边际分布是否趋稳;混合时间再量化有限步距离。三者的对象、假设和量词不同,不能用“链最终稳定”一句话互相替代。

参考资料
  • J. R. Norris, Markov Chains, Cambridge University Press, 1997,Ch. 1, transition matrices and the Markov property。
  • Rick Durrett, Probability: Theory and Examples, 5th ed., Cambridge University Press, 2019,Ch. 5, discrete-time Markov chains。
关系图谱25 个相邻概念 · 1 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组