Skip to content

定义Definition

可交换随机变量

Exchangeable random variables · Exchangeability · 可交换性

联合分布在任意有限坐标置换下保持不变的对称性,不要求各坐标独立。

形式陈述 ​

设 Z1,…,Zn 取值于同一可测空间。若对指标集 {1,…,n} 的任意置换 π,都有联合分布相等

(Z1,…,Zn)=d(Zπ(1),…,Zπ(n)),

则称它们可交换。等价地,对任意可测集合 A1,…,An,置换前后落入 A1×⋯×An 的概率相同。这里置换的是坐标位置,不是随机变量内部的数值。

无限序列可交换,是指其每个有限前缀都满足该性质;这比“手中这 n 个变量可交换”多了一项无限延拓要求。可交换必然推出边缘分布相同:用交换第 i,j 个坐标的置换即可。反方向不成立。

直觉

可交换性说,位置编号没有被生成机制赋予不同角色;看到一份无序数据后,不应偏爱它的某个排列。它允许共享随机环境、总数约束或其他依赖。独立性则说一个坐标的信息不改变另一个坐标的分布,这是与可交换性不同的性质,单有独立性也不推出可交换性:相互独立但边缘分布不同的坐标就不满足置换对称。

IID 样本一定可交换,因为联合概率是同一边缘概率的乘积,交换因子不会改变乘积。但可交换数据不一定能当作独立重复实验来计算均值方差或套用独立样本集中界。

例子与边界

不放回抽样:对称且负相关 ​

盒中仅有标为 0,1 的两个球,随机不放回取出两次。联合结果 (0,1) 和 (1,0) 各以 1/2 出现;交换两个坐标只是互换两项,因此可交换。

两个边缘都服从 Bernoulli(1/2),但 Z1+Z2=1 恒成立。按协方差定义,

Cov(Z1,Z2)=E[Z1Z2]−E[Z1]E[Z2]=0−14=−14.

这当然不独立:P(Z1=1,Z2=1)=0,边缘概率乘积却是 1/4。两个数的平均恒为 1/2,方差为零;若误用 IID 公式,会得到 1/42=1/8。

同边缘仍可能保留方向 ​

令 (Z1,Z2) 在 (0,1),(1,2),(2,0) 三个点上等概率。两个边缘都在 {0,1,2} 上均匀,但

P(Z1=0,Z2=1)=1/3,P(Z1=1,Z2=0)=0.

联合分布记住了一个循环方向,所以不可交换。只画每列直方图,无法判断联合可交换性。

有限与无限的分界 ​

无限 Bernoulli 可交换序列具有 de Finetti 表示:存在随机变量 Θ∈[0,1],给定 Θ 后各 Zi 独立且服从 Bernoulli(Θ)。因此

Cov(Z1,Z2)=E[Θ2]−E[Θ]2=Var(Θ)≥0.

前面的不放回二元向量协方差为负,故不可能是某个无限 Bernoulli 可交换序列的前两项。它是有限可交换的,却不是 IID 分布的混合。不能把无限序列的表示定理无条件套在任意有限可交换向量上。

推论与应用

可交换性常通过“秩”而非均值进入有限样本推断。若 n+1 个实值分数可交换且几乎必然互不相等,各坐标占据任一秩的概率相同;每个秩恰有一个坐标,故指定坐标的秩均匀分布于 1,…,n+1。有并列时,可引入独立随机数打破并列以恢复均匀秩;直接保留并列则常得到保守界。

分割共形预测正是将新观测与校准观测的分数放在同一可交换序列中,用秩校准覆盖率。应用前须检查数据生成和评分过程是否对这些位置对称;把训练内残差和训练外残差混在一起,通常会破坏这种对称。

全共形预测则把候选点一起用于拟合:在真实候选处,排列不变的拟合与统一评分把数据的可交换性传给全部分数,因此无须预留独立校准集也能用秩证明边际覆盖。

自测 ​

令 Z1=Z2=U,其中 U∼Bernoulli(1/2)。它是否可交换、是否独立,能否无限延拓?答案依次是是、否、能:令全部 Zi=U 即可。其 de Finetti 混合变量可取 Θ=U,协方差为 1/4。

参考资料
关系图谱15 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系