Skip to content

定义Definition

大小偏置分布与耦合

Size bias distribution · Size-bias coupling · 大小偏置耦合

按变量大小重新分配概率质量,并以按均值抽索引的构造处理非负和,明确依赖模型中必须重新条件化其余分量。

随机抽一户家庭和随机抽一个人再看他所属的家庭,会得到不同的家庭人数分布。人数多的家庭在后一种抽样中有更多被抽到的机会。大小偏置将这个差别写成精确的分布变换,再利用它比较计数规律。

形式陈述 ​

先确定新边缘,再选择联合构造 ​

设 X≥0,且期望满足 0<μ=EX<∞。定义X的大小偏置分布为

(1)P(Xs∈A)=E[X1{X∈A}]μ.

右端是概率测度,因为非负且在整个状态空间上的质量为1。等价地,对任意有界可测函数h,

(2)E[Xh(X)]=μE[h(Xs)].

先对指示函数使用式(1),再由有限线性组合和有界逼近得到式(2)。反过来,只取h为指示函数就能从式(2)唯一确定分布。若额外有 E[X|h(X)|]<∞,式(2)还可延伸到这类无界h。

一个大小偏置耦合是在同一概率空间上构造 (X,Xs),其两个边缘分别为原分布和式(1)。定义只固定边缘,没有要求 Xs≥X,也没有要求二者独立。不同联合构造会有不同的 E|Xs−X|,这正是选择耦合的用途。

有限分布最容易直接计算 ​

若 P(X=x)=px,则

P(Xs=x)=xpxμ.

因此零点质量全部消失,正值的质量按其大小重新分配。存在密度时,原密度g变成 gs(x)=xg(x)/μ。若 EX2<∞,取截断后再极限可得

(3)EXs=EX2EX,EXs−EX=Var(X)EX.

均值向上移动不等于每个耦合都逐样本向上移动。

直觉

式(1)把一份大小为x的对象看成带有x倍权重。对象越大,占据的观察机会越多。对非整数X,这种权重仍能定义概率测度,不必把x真的解释成个数。

对非负和 W=X1+⋯+Xn,这种重新加权可拆成每一项贡献的权重。先按各项的平均贡献决定“这次偏向哪一项”,再使那一项按自己的大小偏置分布出现,就能得到整个和的大小偏置。依赖时其余项不能保持原样不动,因为所选分量的新值本身已经带来了信息。

独立和的按均值替换 ​

设 X1,…,Xn 相互独立、非负,μi=EXi<∞,且 μ=∑iμi>0。取独立索引I,满足 P(I=i)=μi/μ;均值为零的项不会被选中。对每个可能索引,将 Xi 换成 Xis,保持其他分量不变,构造

(4)Ws=W−XI+XIs.

这里要求 (Xi,Xis) 这一对独立于其他分量,I独立于全部这些变量;同一对内部可以选择有益的相关性。由独立性,先固定其余和再用式(2),得到

E[Wh(W)]=∑iE[Xih(Xi+W−Xi)]=∑iμiE[h(Xis+W−Xi)]=μE[h(Ws)].

所以式(4)确有需要的边缘。索引的权重是均值,不是方差;这与零偏置的和构造不同。

例子与边界

家庭人数和一个合法却不单调的耦合 ​

设家庭人数X在1与3上各有一半概率,故μ=2。大小偏置后,1与3的概率分别为1/4与3/4,均值从2变成5/2。

若把原X与新 Xs 独立抽取,事件 X=3,Xs=1 的概率为1/8,因此这个合法耦合会向下跳。也能取共同的 U∼Uniform(0,1):令X在U≤1/2时为1,否则为3;令 Xs 在U≤1/4时为1,否则为3。后一构造总有 Xs≥X,且差为2的概率是1/4。两种构造边缘完全相同,联合性质却不同。

大小偏置与零偏置的不同变化

Bernoulli和Poisson ​

若 X∼Bernoulli(p)、p>0,式(1)给 Xs=1 几乎必然。因此独立Bernoulli和W的构造特别简单:按 pi/λ 抽I,令

Ws=W−BI+1,λ=∑ipi.

这是在原图样上只补一个指定成功,不是往总数无条件加一。它满足

(5)E|W+1−Ws|=EBI=∑ipi2λ.

若 Z∼Poisson(λ)、λ>0,则对k≥1,

P(Zs=k)=kλe−λλkk!=e−λλk−1(k−1)!.

所以 Zs=dZ+1。原计数W的大小偏置若也接近W+1,便提供了接近Poisson的一种具体信号。

依赖指示变量要改整个条件模型 ​

设 Bi 可以依赖,pi=P(Bi=1),λ=∑ipi>0。仍按 pi/λ 选I;给定I=i,生成整向量的条件分布

L((B1(i),…,Bn(i)))=L((B1,…,Bn)∣Bi=1).

取 Ws=∑jBj(I)。因为

E[Bih(W)]=piE[h(W)∣Bi=1],

对i求和即证明式(2)。条件模拟可与原向量精心耦合,但必须保持上述完整条件边缘。

例如 B1=B2=B∼Bernoulli(p)、0<p<1时,W只取0和2,大小偏置后的W必为2。若在原向量上只把选中的一位改成1,另一位保持B,则原来B=0时会得到W^s=1,概率1−p;这已经不是正确的大小偏置。相关性不能靠“补一次成功”自动消除。

不允许的输入与矩条件 ​

当μ=0且X非负时,X恒为0,式(1)分母为零;本页不把它定义成某个任意新分布。若μ=∞,也无法按该式归一化。若X有负值,xp_x可能为负,更不能直接当概率;先平移再大小偏置得到的是另一个依赖平移量的对象。

只有有限均值并不保证式(3)是有限数。例如 P(X=k)=c/k3、k≥1,归一化常数c有限,EX有限而 EX2=∞,故 EXs=∞。定义有效与后续误差预算有限,必须分别检查。

推论与应用

Chen–Stein计数界把上述信号量化:对非负整数W及其任意大小偏置耦合,有保守的有限样本界

dTV(W,Poisson(λ))≤λE|W+1−Ws|.

结合式(5),独立不同率的成功总数得到 ∑ipi2 的统一事件误差。证明还需要Poisson方程的差分解界;它不是仅由大小偏置定义直接推出的另一条耦合不等式。

若以一次生成原n维样本的成本为基础,预先计算累积权重需O(n)空间与算术,二分查找抽I需O(log n),替换和中的一个分量再用O(1)次算术。这个成本描述独立和的可访问分量模型;依赖条件采样可能比原采样难得多,不能据此声称一般大小偏置耦合都能快速构造。

参考资料
关系图谱14 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系