正则条件概率 | Codeboy's Blog

形式陈述

设 $(\Omega,\mathcal F,P)$ 是概率空间， $\mathcal G\subseteq\mathcal F$ 是子 $\sigma$ -代数。 $P$ 关于 $\mathcal G$ 的正则条件概率，是一个从 $(\Omega,\mathcal G)$ 到 $(\Omega,\mathcal F)$ 的概率核

K:\Omega\times\mathcal F\longrightarrow[0,1]

满足：对每个 $A\in\mathcal F$ ，函数 $\omega\mapsto K(\omega,A)$ 是

K(\cdot,A) =E[\mathbf1_A\mid\mathcal G] \qquad P\text{-a.s.}

的一个版本，其中右侧是条件期望。等价地，对所有 $A\in\mathcal F$ 与 $G\in\mathcal G$ ，

P(A\cap G)=\int_G K(\omega,A)\,P(d\omega),

同时对每个固定 $\omega$ ， $A\mapsto K(\omega,A)$ 是概率测度。后一项正是“正则”比逐事件选择条件期望更强的地方：所有事件的版本必须在同一个 $\omega$ 上共同满足可数可加性和总质量为一。

若随机元素 $X:\Omega\to S$ 取值于标准 Borel 空间，则给定 $\mathcal G$ 的正则条件分布是核 $K_X(\omega,B)$ ，使 $K_X(\cdot,B)=E[\mathbf1_{\{X\in B\}}\mid\mathcal G]$ 。当 $\mathcal G=\sigma(Y)$ 且 $Y$ 也取值于标准 Borel 空间时，可选取核 $Q(y,B)$ 使 $K_X(\omega,B)=Q(Y(\omega),B)$ ；这就是“给定 $Y=y$ 的条件分布”的严格含义。

在标准 Borel 目标下，正则条件分布存在。特别地，若 $(\Omega,\mathcal F)$ 本身是标准 Borel 空间，便可为 $P$ 关于子 $\sigma$ -代数选择正则条件概率。一般可测空间上存在性可能失败，不能仅凭每个 $A$ 的条件期望存在就断言存在共同核。

为什么标准 Borel 目标足够

先取实值随机变量 $X$ 。对每个有理数 $q$ ，选 $Z_q$ 为 $E[\mathbf1_{\{X\le q\}}\mid\mathcal G]$ 的版本。保序性使它们在一个共同的 $\mathcal G$ -可测满概率集上同时满足 $0\le Z_q\le1$ 、随 $q$ 非降。再在条件期望的积分等式中应用单调收敛定理，可同时保证

Z_n\to1,\qquad Z_{-n}\to0,\qquad Z_{q+1/n}\downarrow Z_q\quad(q\in\mathbb Q).

递减情形对补函数使用单调收敛；这里只合并可数多个零集。

在这个共同好集上定义

F_\omega(t)=\inf_{\substack{q\in\mathbb Q\\q>t}}Z_q(\omega).

它非降、右连续，两个无穷远端点极限为零和一，并在每个有理数处与 $Z_q$ 一致。因此分布函数的测度构造给出唯一概率 $K_X(\omega,\cdot)$ ；坏集上统一取 $\delta_0$ 。半直线上的核值是可数下确界，故为 $\mathcal G$ -可测；生成类论证把可测性与条件积分等式同时扩展到全部 Borel 集。这才得到一份共同核，而不是未经协调的逐事件版本。

一般非空标准 Borel 空间可 Borel 同构地编码为实线的某个 Borel 子集 $A$ 。对编码后的随机变量应用实值构造；所得条件测度在 $A$ 上的质量几乎处处为一，因为这一核值是恒等于一的指标的条件期望。将例外集上的测度改成 $A$ 中某个固定点的 Dirac 测度后，再沿可测逆编码搬回，即得到原目标上的核。这个论证不要求 $\mathcal G$ 本身可数生成，也不要求原样本空间标准 Borel。

若 $\mathcal G=\sigma(Y)$ ，可将上述可数个 $Z_q$ 写成观测值的可测函数，再在 $Y$ 的边缘律下完成同一构造。这样得到定义在观测空间上的 $Q(y,\cdot)$ ，并与 $K_X(\omega,\cdot)$ 在一个共同零集之外通过 $y=Y(\omega)$ 对应。

直觉

普通条件期望一次只处理一个随机变量；对每个事件 $A$ 分别取 $E[\mathbf1_A\mid\mathcal G]$ ，会得到许多只在各自零集之外定义的函数。若这些零集随 $A$ 改变，就没有理由保证固定 $\omega$ 后， $A\mapsto K(\omega,A)$ 仍是一份概率测度。正则条件概率完成的是一次“版本同步”：把所有事件的条件值组织成同一个可测概率核。

$K(\omega,\cdot)$ 可以理解为在信息状态 $\omega$ 下对剩余不确定性的完整概率律，但 $\omega$ 的作用只通过 $\mathcal G$ 可见。若两个样本点无法被 $\mathcal G$ 中的事件区分，核必须给出同样条件规律：否则某个事件对应的核值可由一个实数阈值分开，其逆像就会成为区分两点的 $\mathcal G$ -事件；写成 $Q(Y(\omega),\cdot)$ 时，这种信息压缩最直观。

“逐点概率”不等于“逐点唯一”。条件期望只在 $P$ -几乎处处意义下确定，所以核可在一个 $P$ -零集上任意修改，只要仍保持核性质。对连续观测，单个取值 $Y=y$ 往往概率为零；条件律在某个指定 $y$ 上的值可能来自所选版本，而不是由朴素比值唯一强迫。

例子与边界

掷一枚公平六面骰， $\Omega=\{1,2,3,4,5,6\}$ ，令 $\mathcal G$ 只记录奇偶性。对偶数样本点 $\omega\in\{2,4,6\}$ ，定义

K(\omega,A)=\frac{|A\cap\{2,4,6\}|}{3},

对奇数点则定义 $K(\omega,A)=|A\cap\{1,3,5\}|/3$ 。例如

K(2,\{1,2,3\})=\frac13, \qquad K(1,\{1,2,3\})=\frac23.

对任意只由奇偶组成的 $G$ ，直接求和可验证 $P(A\cap G)=\int_GK(\omega,A)dP$ 。核在同一奇偶类上恒定，因为信息无法区分类内点。

若一个 $\mathcal G$ -原子 $C$ 满足 $P(C)=0$ ，公式对 $C$ 内的核值没有约束：积分时这部分完全消失。可以在 $C$ 上放任意概率测度，只要整体可测。因而写 $P(A\mid C)=P(A\cap C)/P(C)$ 在零概率原子上没有意义，正则核也不会把 $0/0$ 变成一个天然唯一的数。

逐事件版本可能造成可加性陷阱。对每个 $A$ 单独修改 $E[\mathbf1_A\mid\mathcal G]$ 的零集，虽然每个函数仍是合法版本，却可能在某个共同样本点上破坏 $K(\omega,A\cup B)=K(\omega,A)+K(\omega,B)$ 。标准 Borel 的可数生成结构使关键一致性能够在一个共同零集外同时落实。

推论与应用

对任何有界或非负可测函数 $f$ ，核积分

Kf(\omega)=\int_\Omega f(x)K(\omega,dx)

给出 $E[f\mid\mathcal G]$ 的一个版本；先对指标函数成立，再由单调类扩展。于是一个正则条件概率同时编码全部条件期望，而不仅是一族事件概率。

给定随机元素 $Y$ 后的条件分布、Markov 过程的转移规律、Bayesian 后验以及隐藏变量模型中的 E 步，都可写成概率核。Disintegration 定理进一步把联合测度表示为“边缘测度乘以条件核”，并说明核只在边缘测度几乎处处意义下唯一。

标准 Borel 空间说明本页值域假设究竟保留什么：它是可测结构能由 Polish 拓扑实现的条件，而不要求手头拓扑本身完备。将一个 Borel 概率空间补全可能加入更多零集子集，因此不能不加检查地把完备化后的可测结构继续当作标准 Borel。

参考资料

Olav Kallenberg, Foundations of Modern Probability, 3rd ed., Springer, 2021, Ch. 8, conditioning and disintegration.
R. M. Dudley, Real Analysis and Probability, 2nd ed., Cambridge University Press, 2002, Ch. 10, conditional probabilities.
Vladimir I. Bogachev, Measure Theory, Vol. II, Springer, 2007, Ch. 10, conditional measures and disintegrations.

形式陈述 ​

为什么标准 Borel 目标足够 ​

反向链接

形式陈述

为什么标准 Borel 目标足够