形式陈述
设 ( Ω , F , P ) 是满足Kolmogorov 概率公理 公理库 Kolmogorov 概率公理 Kolmogorov axioms · Probability axioms 把概率定义为样本空间上总质量为一的可数可加测度。 的概率空间,( S , S ) 是可测空间。随机元素是一个可测函数 公理库 可测函数 Measurable function 使目标空间可测集的原像都属于定义域 σ-代数的函数。
X : ( Ω , F ) ⟶ ( S , S ) , 即对每个 B ∈ S ,都有
X − 1 ( B ) = { ω : X ( ω ) ∈ B } ∈ F . 本库沿用概率论中的广义习惯,把随机元素也统称为随机变量;需要强调取值空间时再写“随机向量”“随机过程”或“函数值随机元素”。狭义随机变量指 ( S , S ) = ( R , B ( R ) ) 的实值情形。只有在取值空间具有相应代数与积分结构后,期望、方差和加法等数值运算才有定义。
X 在取值空间上诱导的概率分布 公理库 概率分布 Probability distribution · Law 可测空间上总质量为一的测度;随机变量的律是由样本概率推出的一类分布。 是推前测度
L ( X ) = P ∘ X − 1 , L ( X ) ( B ) = P ( X ∈ B ) . 此外,
σ ( X ) = { X − 1 ( B ) : B ∈ S } 是 X 生成的 σ -代数,表示仅观察 X 可以分辨的全部事件。这里右侧本身已是 σ -代数,因为逆像保持补集和可数并。
直觉
随机变量首先是一个确定的函数。样本点 ω 决定一次完整结果,函数 X 从中提取可观察量;所谓随机,来自实验前不知道会落到哪个 ω ,函数规则本身并不含糊。
可测性保证关于输出的合法问题可以翻译成关于样本的事件。例如 X 为实值时,询问“X ≤ x ”就是逆像 X − 1 ( ( − ∞ , x ] ) ;若这个集合不属于 F ,概率 P ( X ≤ x ) 连定义都没有。可测性只提供“输出可被概率测量”的最低兼容条件,不承诺连续、平滑或可计算。
随机变量、它的分布和一次实现处在三个层级。X 是整个映射;L ( X ) 忘掉样本来源,只保留输出事件概率;X ( ω ) 是一次具体观测。分布可以决定一切单变量概率问题,却不保留 X 与其他变量在同一样本点上怎样共同变化。
例子与边界
对事件 A ∈ F ,指示变量
1 A ( ω ) = { 1 , ω ∈ A , 0 , ω ∉ A 把集合事件编码成数值随机变量,并满足 E 1 A = P ( A ) 。这条简单翻译让事件的并交问题进入代数与积分:计数变量常可写成许多指标之和,再利用期望线性性处理。
在无限抛硬币空间中,令 T 为第一次出现正面的时刻,若永不出现则取 ∞ 。对每个有限 n ,
前 次 均 为 反 面 { T > n } = { 前 n 次均为反面 } 是柱事件;这些阈值事件足以验证 T 对 N ∪ { ∞ } 的自然 σ -代数可测。这个例子说明,可测性通常通过一族容易描述的生成事件来证明,从而免去逐个枚举目标空间中的所有可测集。
同分布的两个随机变量仍可能是不同函数。若 X 是公平比特,则 X 与 1 − X 同分布,但它们在同一空间上完全反向;另取一个独立公平比特 Y ,也有 Y = d X ,却产生不同联合结构。因此
几 乎 必 然 X = Y 几乎必然 ⟹ X = d Y , 反方向不成立,同分布也不要求二者定义在同一概率空间。
形式上写得出的函数不一定是随机变量。若存在 B ∈ S 使 X − 1 ( B ) ∉ F ,那么 X 在当前可测结构下不可测。扩大 F 也许能让它可测,却同时改变了模型允许观察的信息;不能把这一步当作无成本的记号修补。
推论与应用
若 g : ( S , S ) → ( T , T ) 可测,则 g ( X ) 仍是随机元素,因为
( g ∘ X ) − 1 ( C ) = X − 1 ( g − 1 ( C ) ) . 同时 σ ( g ( X ) ) ⊆ σ ( X ) :对观察值做确定性后处理不会创造关于原样本的新信息。绝对值、截断、阈值指标与统计量都属于这一原则的实例。
有限个实随机变量合成随机向量 公理库 随机向量 Random vector · 多维随机变量 一次随机试验同时输出有限多个实坐标所形成的可测映射。 ,按时间索引的一族随机变量形成随机过程 公理库 随机过程 Stochastic process · Random process 由同一随机实验产生、按时间或空间指标组织的一族随机变量。 。联合分布 公理库 联合分布 Joint distribution · 联合概率分布 多个随机元素组成的向量所推出的概率测度,完整记录边缘与依赖结构。 记录多个坐标怎样同现,独立性 公理库 独立性 Statistical independence 若干事件、σ-代数或随机元素的所有有限联合概率都按边缘概率乘积分解。 则比较它们生成的 σ -代数。单变量分布、联合规律和信息结构由此被放在同一可测映射框架中。
期望 公理库 期望 Expectation · Expected value 实值或复值随机变量关于概率测度的 Lebesgue 积分,概括加权平均与总体质量平衡。 只依赖 X 的分布,因此可在取值空间上积分;条件期望却还依赖 X 与条件信息怎样共同出现。统计量也是随机变量,只是它从整份样本中提取数值。估计量这一函数、它在重复抽样下的分布和数据到手后的一个估计值,正对应这里的三个层级。
参考资料
Patrick Billingsley, Probability and Measure , 3rd ed., Wiley, 1995, Chapter 4.
Olav Kallenberg, Foundations of Modern Probability , 3rd ed., Springer, 2021, Chapter 1.
Rick Durrett, Probability: Theory and Examples , 5th ed., Cambridge University Press, 2019, Chapter 1.