Skip to content

定义Definition

概率分布单子

Probability monad · Distribution monad

从有限分布的 return、bind 和三条组合律进入概率单子,手算混合分布并连接 Markov 核与 Giry 构造。

形式陈述 ​

先在集合 X 上取有限支撑概率分布的集合 D(X)。确定返回定义为 return(x)=δx;对 μ∈D(X) 和 f:X→D(Y),顺序随机组合为

(μbindf)(y)=∑xμ(x)f(x)(y).

f 是有限离散版本的概率核。三条单子律为

δxbindf=f(x),μbind(x↦δx)=μ,(μbindf)bindg=μbind(x↦f(x)bindg).

范畴表述中,D 把函数送到分布的推前;单位 ηX:x↦δx,乘法 μX:D(D(X))→D(X) 把“分布的分布”混合摊平。它们是自然变换,单子律保证单位与摊平操作相容。[1]

直觉

普通函数给一个答案,概率计算给一份答案分布。bind 做两件事:先从前段分布选一个中间值,再按这个值运行后段随机计算,最后把所有中间分支的质量加起来。

单子律允许改变括号、插入或删除无效果的确定返回,而不改变分布。它不允许把依赖前段结果的后段随意提前执行,也不意味着所有随机选择自动独立。

例子与边界

先选机器,再看输出 ​

先以 1/4 选机器 a、以 3/4 选机器 b。机器 a 以 1/2 输出一,机器 b 以 1/6 输出一。bind 后

Pr(1)=14⋅12+34⋅16=14,Pr(0)=34.

若随后确定性地返回输出的平方,分布不变;若返回其补比特,则两项质量交换。后段可以依赖中间机器标签,不能只保留一个未经核对的“平均机器”。

结合律其实是同一份路径质量 ​

对最终输出 z,左侧结合给

∑y(∑xμ(x)f(x)(y))g(y)(z),

右侧给 ∑xμ(x)∑yf(x)(y)g(y)(z)。有限求和交换说明二者相等;每条路径 x→y→z 的权重始终是三项乘积。一般核版本先对事件指示函数验证“对复合测度积分”等于逐层核积分,再经非负简单函数及单调收敛定理推广到非负可测函数。这里后一个核可随前一个输入变化,不能把它未经说明当作固定乘积测度;带符号积分还需额外可积性条件。

共享一次采样与重复采样不同 ​

掷一次公平币得 b,返回 (b,b),只在 (0,0),(1,1) 各放 1/2。掷两次独立公平币返回 (b,c),四种结果各有 1/4。两者都能用 return 与 bind 写出,单子律不会把它们认成同一个计算;把随机值复制和把采样动作复制是两件事。

推论与应用

连续分布不能只用有限支撑 D。Giry 单子把可测空间 X 送到其概率测度空间,后者取由评估映射 ν↦ν(A) 生成的 σ-代数;单位仍是 Dirac,乘法为

μX(Ξ)(A)=∫ν(A)Ξ(dν).

这套可测结构让混合分布与核组合成为合法映射,不能只说“所有分布组成一个集合”就略去可测性。[1]

允许不终止时,应换成次概率版本,bind 继续传播缺失质量。条件化中的归一化则不是总定义操作:零质量时无法执行,而且先局部归一化可能改变后续混合权重。因此“概率计算有单子结构”不等于“所有推断操作都可以随意交换”。

参考资料
关系图谱10 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系