形式陈述
本页以离散时间、有限或可数状态空间为默认范围;有限链是可数链的特例。一般可测状态空间版本使用概率核与条件期望,不能把矩阵公式无条件照搬。设 为有限或可数集,取值于 的随机过程公理库随机过程Stochastic process · Random process由同一随机实验产生、按时间或空间指标组织的一族随机变量。 称为 Markov 链,若对一切 与一切使条件事件具有正概率的 ,条件概率公理库条件概率Conditional probability在已知正概率事件发生后,把交集概率重新规范到该事件内部。满足
若右端与 无关,称链为时间齐次,并由转移矩阵公理库矩阵Matrix以有限行列集合为索引、取值于半环,并以中间指标求和定义乘法的函数。 描述,其中 满足 与 (行随机)。初始分布 (视为行向量)经 步演化为 ,多步转移满足 Chapman–Kolmogorov 方程
初始分布与转移矩阵还确定每条有限路径的概率:
这条乘积公式把一步条件分布组装成整条路径分布;反过来,对中间状态求和便得到矩阵幂中的多步转移。
在一般可测状态空间 上,时间齐次版本改写为
其中 是概率核公理库概率核(Markov 核)Probability kernel · Markov kernel · 转移核从每个输入状态可测地指定一个输出概率分布的映射。。以下矩阵、状态可达性和返回时间术语均按有限或可数版本理解。
范围与术语约定
本库统一使用:irreducible 译为不可约,aperiodic 译为非周期,recurrent/transient 分别译为常返/暂留,positive recurrent/null recurrent 分别译为正常返/零常返。在可数状态空间中,不可约表示任意两状态可经某个正概率多步路径互达;状态周期是正概率返回步数集合的最大公因数,周期为 即非周期;常返状态若首次正返回时间期望有限,则为正常返。这些性质彼此独立,不能合并成没有量词的“遍历性”。
一般状态空间也使用不可约、Harris 常返和正常返等词,但定义需要参考测度、可达集合与返回集合等额外数据。除非页面明确声明一般状态空间版本,本库相邻 Markov 链条目的这些术语都采用上述有限或可数状态空间含义。
直觉
Markov 性要求当前状态已经概括预测未来所需的全部历史信息。过去没有消失;与未来有关的部分被压缩进状态变量。因此“无记忆”说的是给定当前状态后的条件分布,不表示相邻状态独立,也不保证状态停留时间服从无记忆分布。
Markov 性依赖建模方式。同一个现象若状态取得太粗,遗漏信息仍会影响未来,Markov 性便失败;把必要记忆并入状态后,往往可以恢复。从计算机科学看,Markov 链是状态机公理库状态机State machine · Transition system用状态集合、初始状态和转移关系描述系统可能执行轨迹的模型。的概率版本:没有外部输入时,每次转移由随机机制选择。
初始分布与转移核共同决定整条路径分布。矩阵编码一步规律,矩阵乘法汇总中间状态,矩阵幂给出多步转移;这使有限或可数链的长期问题能够连接线性代数,但一般状态空间仍应回到概率核。
例子与边界
整数轴上的简单随机游走:,是时间齐次 Markov 链。两步转移一算便知:从 出发以 到达 、以 回到 ,这正是 的第 行,与 Chapman–Kolmogorov 方程一致。
Markov 性依赖状态的选取。只记录天气"晴/雨"时,若真实机制是"连续晴天越久,明天转雨概率越大",那么这个二状态过程不满足 Markov 性——预测明天需要的不止是今天;把状态扩充为(今日天气,已连续天数)后 Markov 性即可恢复。一般的教训是:对 Markov 链的状态做归并(取链的函数)通常会破坏 Markov 性,因为压缩可能把必要的记忆挤出状态之外。
还应把 Markov 性与独立性公理库独立性Statistical independence若干事件、σ-代数或随机元素的所有有限联合概率都按边缘概率乘积分解。分开:随机游走中 与 高度相关,Markov 性只约束"给定现在后过去失效",而相邻变量独立反倒是"转移分布与当前状态无关"的退化特例。另外,定义中的条件式只对正概率历史提出要求;齐次性是额外假设,转移规律随时间变化的非齐次链同样存在,只是许多结论需要在齐次假设下陈述。
若把两个状态依次记为 ,并取转移矩阵
则两步转移概率不是把矩阵元素逐项平方,而是计算
例如从状态 出发,两步后仍在 的概率 来自两条互斥路径:连续留在 ,概率 ;或先到 再返回,概率 。矩阵乘法正是在自动汇总所有中间状态,因此 才能编码 步转移。
从状态 0 出发,两步后返回 0 的概率来自 0→0→0 与 0→1→0 两条互斥路径之和,而不是对转移矩阵逐项平方。
推论与应用
条件概率给出 Markov 性的精确定义,矩阵与谱分析则控制长期行为。状态空间先由沟通类与不可约性公理库沟通类与不可约性Communication classes · Irreducible Markov chain按正概率多步可达性分解 Markov 链状态空间,并刻画整个链是否互相可达。分解,随后用常返、暂留与周期性公理库常返、暂留与周期性Recurrence and transience · Periodicity of Markov chains用返回概率、返回时间与可返回步数刻画 Markov 链状态的长期类型。判断质量是否逃逸以及边缘分布是否振荡;平稳分布公理库平稳分布Stationary distribution经马尔可夫转移后保持不变的状态分布。刻画不变概率质量,细致平衡公理库可逆链与细致平衡Reversible Markov chain · Detailed balance由相反方向概率流逐边平衡所刻画的 Markov 链时间反演对称性。则提供一种更强的逐边对称结构。这些概念各自回答不同问题,不应在 Markov 性定义里合并成笼统的“遍历”。
极限问题应沿不同出口继续。时间平均遍历定理公理库马尔可夫链时间平均遍历定理Ergodic theorem for Markov chains不可约正常返 Markov 链的一条长轨道,其可积观测时间平均几乎必然趋于平稳平均。研究一条长轨道上的经验平均;平稳分布收敛定理公理库Markov 链平稳分布收敛定理Convergence to stationarity for Markov chains · Markov chain convergence theorem不可约、正常返且非周期的可数状态 Markov 链,其逐时刻转移分布收敛到唯一平稳分布。研究第 步边际分布是否趋稳;混合时间公理库混合时间Mixing time · Markov chain mixing timeMarkov 链从最坏初态接近平稳分布到指定总变差精度所需的步数。再量化有限步距离。三者的对象、假设和量词不同,不能用“链最终稳定”一句话互相替代。
参考资料
- J. R. Norris, Markov Chains, Cambridge University Press, 1997,Ch. 1, transition matrices and the Markov property。
- Rick Durrett, Probability: Theory and Examples, 5th ed., Cambridge University Press, 2019,Ch. 5, discrete-time Markov chains。