“相比依赖很弱但事件极稀有的Poisson近似,本页的目标是标准化后的连续形状及Lipschitz期望。选择近似分布和距离,应由模型的尺度、方差和要回答的问题决定。”
把很多稀有事件的总次数近似成Poisson分布,需要检查两件事:单个事件不能占据太多质量,事件之间的依赖也不能被漏掉。Chen–Stein方法为这两部分提供有限样本预算,控制的不只是均值,而是任意计数事件的概率误差。
形式陈述
目标距离与本页常数
设
它在0与1之间。若文献用不带1/2的质量绝对差总和定义TV范数,其常数需要相应换算。
对每个i,选择含i的指标集合
则本页证明
这是使用简单差分常数1的保守版本。经典理论还能给依赖λ的更好因子;本页不会将未证明的更强常数混进算例。当λ=0时所有指标恒为0,W与退化Poisson相同,可直接处理,不进入除以λ的公式。
另一个可选择的耦合接口
更一般地,设W为任意非负整数变量、EW=λ∈(0,∞),
期望可能为无穷,此时只剩平凡上界1。式(2)用依赖邻域,式(3)用一个联合构造;它们是两种估计同一方程缺口的工具,不要求读者同时找到两份证书。
直觉
Poisson分布具有一个加一平衡:对任意有界f,
左边按计数大小重新加权,右边则把原计数加一。如果另一个计数W也近似满足这个恒等式,而且这种近似对足够丰富的f统一成立,就能比较完整分布。
大小偏置把左侧精确改写成
每个事件对应一个离散方程
固定事件A,令h(k)=1{k∈A}。求解
存在有界解,使
f(0)不影响式(4),因为它只乘以零;本页取f(0)=f(1),使第零个差分为零。这个边界约定与取f(0)=0的常见写法不同,但对方程及Wf(W)没有影响。
一旦式(5)成立,代入W便有
下面先用这条接口证明误差界,再完整构造具有式(5)的解。
例子与边界
四种独立稀有事件
若各指标相互独立,可取
例如成功率为
单凭λ=.3并不能说明任意模型都同样接近。例如将全部均值集中成一个Bernoulli(.3),式(7)变成.09;分散到更多小概率独立事件,平方和才会缩小。
20个位中出现多少次相邻11
这里m始终表示原始位数。设
因此共有m−1个计数指标,λ=(m−1)p²。指标
两个端点邻域各有2个指标,其余m−3个邻域各有3个,所以
相邻指标的共同成功要求三个连续位全为1,概率为p³;有m−2个相邻无序对,而式(1)按两个方向计数,故
取m=20、p=.1,得到
若误把19个指标当独立Bernoulli(.01),只会留下.0019,遗漏了重叠造成的预算。
精确分布也能计算,但状态必须记住末位。令
最终对末位求和。对本例,精确
两两独立不够,小界失败也不等于近似失败
取两个独立公平位B、C,令
因此不能取
邻域选得过大仍可能合法,却给出很差的b1、b2。式(2)大于或接近1,只说明这份充分证书没能提供有用精度;不证明W必然远离Poisson。若依赖不满足严格局部独立性,可研究带额外依赖项的版本,但不能删掉该项后沿用本页公式。
推论与应用
两种误差界的证明
先用大小偏置定义,将式(6)改写为
整数位置间逐项相减,式(5)给
对邻域证明,记
第一行的绝对值由差分界控制为
解的构造:保留旧点,再补入新点
为证明式(5),对t≥0令q=e^−t,并定义
右边两项独立。它表示原来的k个点各自以概率q保留,再独立补入Poisson新点。若原点数本来服从Poisson(λ),其保留数为Poisson(λq),相加后仍为Poisson(λ)。该稀疏化结论可直接在概率生成函数
用共享的新点,并分别保留k个或Poisson(λ)个旧点,得到一份实际耦合:只要两侧没有旧点幸存,两个结果就相等。因此
积分
绝对收敛。连续做两次“保留并补入”与一次总时长相同,因两次保留率相乘、Poisson均值相加,故
k=0时省去第二项。把这个等式从0积分到无穷,便有
因此取
一阶差分常数为什么是1
多放一个原点,只会以概率q多保留一个。因此若
指示函数满足
因
证书成本与概率量的范围
给定依赖邻域、边缘概率和相邻联合概率,形成b1、b2需O(Σ|B_i|)次算术;计算这些概率本身的成本需另计。邻域全部取全体指标时,操作数可到O(n²),界也可能很松。一个成功的证书控制所有
对一般无界损失,仅有TV界不够;若损失取值于[0,M],期望差至多为M乘TV。标准化连续负载及Lipschitz但无界的损失,则可转向正态Stein与W1接口,不能直接把本页的全事件界当作所有无界函数的期望界。
参考资料
- Richard Arratia, Larry Goldstein and Louis Gordon,Two Moments Suffice for Poisson Approximations: The Chen–Stein Method,Annals of Probability17(1),1989,pp.9–25;§2、Theorem1,§§4–5离散方程与邻域展开。原文更一般依赖项与TV范数不在本页无声省略。
- Louis H. Y. Chen and Aihua Xia,Poisson Process Approximation: From Palm Theory to Stein’s Method,IMS Lecture Notes–Monograph Series52,2006,pp.236–244;§§1–2式(1)–(3),保留/补入过程的方程积分表示。本页直接证明足够使用的差分常数1。
- Nathan Ross,Fundamentals of Stein’s Method,§4、Theorem4.7与§4.3,独立稀有事件、局部依赖及大小偏置的比较。