Skip to content

模型Model

Poisson–二项分布

Poisson binomial distribution · Poisson-binomial distribution · 泊松二项分布

计算独立不同成功率事件的总次数,以逐项卷积得到完整质量和尾概率,区分同率替代、相关指标与近似误差。

四个部件的故障概率可以各不相同。若故障相互独立,故障总数仍容易精确计算,却一般不服从用平均故障率填入的二项分布。Poisson–二项分布保留每个部件自己的成功率;名字中的Poisson也不表示它已经等于Poisson分布。

形式陈述 ​

独立不同率的和 ​

设整数 n≥1,Bi 为参数 pi∈[0,1] 的Bernoulli变量,且这 n 个变量相互独立。令

W=∑i=1nBi.

称 W 的分布为Poisson–二项分布,记为 PB(p1,…,pn)。它的质量函数为

(1)P(W=k)=∑A⊆{1,…,n}|A|=k∏i∈Api∏i∉A(1−pi),k=0,…,n.

这个定义包括退化参数。若其中 s 个参数为1,r个严格在0与1之间,W的支持恰为整数 s,s+1,…,s+r;其余参数为0的项没有贡献。也可约定空和 n=0 时 W恒为0,作为下面递推的初值。

生成多项式与矩 ​

独立性把有限乘积的期望拆开,得到

(2)GW(z):=E[zW]=∏i=1n(1−pi+piz).

这是普通多项式,系数就是式(1)的概率,不需要讨论无穷级数的收敛半径。把每个因子中的 piz 或 1−pi 各选一次,就逐项恢复式(1)。取期望及独立和的方差,有

(3)λ=EW=∑ipi,σ2=Var(W)=∑ipi(1−pi).

这里的向量 (pi) 是指定的模型输入,不是从同一份观察资料中估出来后便可无条件视为真值的参数。

直觉

每加入一个部件,旧的“恰好k个故障”有两条来路:旧时已经k个且新部件正常,或者旧时k−1个且新部件故障。因此无需枚举全部 2n 个故障图样,只需保存旧计数分布。

相同均值并不能恢复这份分布。例如某个部件几乎必坏、另一个几乎必不坏时,总数反而很稳定;把两者都改成中间概率会制造原模型没有的波动。是否同率与是否独立是两个分开的条件。

一次卷积的完整递推 ​

令 vj,k=P(B1+⋯+Bj=k)。按最后一个Bernoulli变量的两个结果分类,独立性给出

(4)vj,k=(1−pj)vj−1,k+pjvj−1,k−1.

初值为 v0,0=1,越出 0≤k≤j 的项取0。这是动态规划:状态只记录已经处理的变量数与总次数;不同图样一旦到达同一状态,其未来计算完全相同。归纳式(4)也证明每层非负且和为1,因为每份旧质量被按 1−pj,pj 分成两部分。

一维原地实现如下,数组初始为 v[0]=1,v[1]=⋯=v[n]=0:

text
for j = 1,...,n:
    for k = j,j-1,...,1:
        v[k] = (1-p[j])*v[k] + p[j]*v[k-1]
    v[0] = (1-p[j])*v[0]

内层必须从大k向小k。这样右侧仍是第j−1层的数据,当前Bernoulli只被使用一次。全部质量的时间为O(n²)次算术,额外空间O(n);尾概率再求和。若只需 P(W≤t),先取整数阈值 t∈{0,…,n−1},只保存0到t,可用O(n min(n,t+1))次算术和O(min(n,t+1))空间;高位不会回流到低位,所以截断不会影响所需状态。实数阈值先向下取整;阈值小于0或至少n时,答案分别直接为0或1。

例子与边界

三个不同部件 ​

取 (p1,p2,p3)=(1/2,1/3,1/4)。逐层得到

v0=(1),v1=(1/2,1/2),v2=(1/3,1/2,1/6),v3=(1/4,11/24,1/4,1/24).

例如恰好两个故障的概率是 1/4,至少两个故障的概率是 7/24。均值为 13/12,方差为

14+29+316=95144.

若改用平均参数 p¯=13/36 的 Bin(3,p¯),均值仍为 13/12,但方差变成 299/432,大于 95/144=285/432。一般地有精确恒等式

(5)np¯(1−p¯)−∑ipi(1−pi)=∑i(pi−p¯)2.

右侧非负,且只在各p相同时为零。同均值的同率替代不能保证每一个尾概率的误差方向;式(5)只比较方差。

顺序、退化与独立性 ​

输入参数的排列不改变式(2),可以借此检查实现。p=0的因子是1,p=1的因子是z,先删掉前者并把后者记作确定平移,能减少实际运算。若全部参数退化,则输出一个点质量,不应再除以零方差标准化。

原地正序更新会犯另一种错误。只处理一个 p=1/2,若先将v[0]从1改成1/2,再用这个新值算v[1],就得到v[1]=1/4,总质量仅3/4。它不再是式(4);算法的更新顺序属于正确性条件。

如果两个变量实际完全相同,B1=B2∼Bernoulli(1/2),总数只在0和2各有一半概率,而独立递推会给 (1/4,1/2,1/4)。边缘成功率齐全仍不足以计算相关事件的总数。重叠字符串模式、共享环境故障和同一训练模型产生的错误都可能需要保留额外依赖状态。

推论与应用

当全部 pi=p,式(2)成为 (1−p+pz)n,由二项展开恢复旧二项分布。参数异质性使均值、方差甚至完整概率质量都依赖整个向量;精确DP适用于输入率已知、规模允许二次计算的可靠性与计数任务。

当每个事件都很稀有,Chen–Stein方法给出有限样本证书:以同均值Poisson替代时,任意事件的概率误差均不超过 ∑ipi2。这才把“稀有事件适合Poisson”变成可检查的数,而不是只凭n大或λ小猜测近似好坏。

式(4)只含非负加乘,避免了某些交替和公式的相消,但机器浮点仍可能下溢,也可能使质量和轻微偏离1。精确有理输入可用分数实现复算;若要求严格包含,需用可靠端点运算。O(n²)是算术操作数,不是有理数位长无关的总时间,也没有声称这是所有规模下最快的算法。

参考资料
关系图谱8 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系

使用的工具