随机抽一户家庭和随机抽一个人再看他所属的家庭,会得到不同的家庭人数分布。人数多的家庭在后一种抽样中有更多被抽到的机会。大小偏置将这个差别写成精确的分布变换,再利用它比较计数规律。
形式陈述
先确定新边缘,再选择联合构造
设 ,且期望理路期望Expectation · Expected value实值或复值随机变量关于概率测度的 Lebesgue 积分,概括加权平均与总体质量平衡。满足 。定义X的大小偏置分布为
右端是概率测度,因为非负且在整个状态空间上的质量为1。等价地,对任意有界可测函数h,
先对指示函数使用式(1),再由有限线性组合和有界逼近得到式(2)。反过来,只取h为指示函数就能从式(2)唯一确定分布。若额外有 ,式(2)还可延伸到这类无界h。
一个大小偏置耦合理路耦合法Coupling method · Probability coupling在共同概率空间中构造具有指定边缘的随机变量,并用它们相遇的概率比较分布。是在同一概率空间上构造 ,其两个边缘分别为原分布和式(1)。定义只固定边缘,没有要求 ,也没有要求二者独立。不同联合构造会有不同的 ,这正是选择耦合的用途。
有限分布最容易直接计算
若 ,则
因此零点质量全部消失,正值的质量按其大小重新分配。存在密度时,原密度g变成 。若 ,取截断后再极限可得
均值向上移动不等于每个耦合都逐样本向上移动。
直觉
式(1)把一份大小为x的对象看成带有x倍权重。对象越大,占据的观察机会越多。对非整数X,这种权重仍能定义概率测度,不必把x真的解释成个数。
对非负和 ,这种重新加权可拆成每一项贡献的权重。先按各项的平均贡献决定“这次偏向哪一项”,再使那一项按自己的大小偏置分布出现,就能得到整个和的大小偏置。依赖时其余项不能保持原样不动,因为所选分量的新值本身已经带来了信息。
独立和的按均值替换
设 相互独立、非负,,且 。取独立索引I,满足 ;均值为零的项不会被选中。对每个可能索引,将 换成 ,保持其他分量不变,构造
这里要求 这一对独立于其他分量,I独立于全部这些变量;同一对内部可以选择有益的相关性。由独立性,先固定其余和再用式(2),得到
所以式(4)确有需要的边缘。索引的权重是均值,不是方差;这与零偏置理路零偏置分布与正态耦合Zero bias distribution · Zero-bias coupling · 零偏置耦合通过中心变量的二阶加权积分构造连续的新分布,按方差替换独立和的一项,并以耦合距离控制Lipschitz损失的正态误差。的和构造不同。
例子与边界
家庭人数和一个合法却不单调的耦合
设家庭人数X在1与3上各有一半概率,故μ=2。大小偏置后,1与3的概率分别为1/4与3/4,均值从2变成5/2。
若把原X与新 独立抽取,事件 的概率为1/8,因此这个合法耦合会向下跳。也能取共同的 :令X在U≤1/2时为1,否则为3;令 在U≤1/4时为1,否则为3。后一构造总有 ,且差为2的概率是1/4。两种构造边缘完全相同,联合性质却不同。
大小偏置与零偏置的不同变化 Bernoulli和Poisson
若 、p>0,式(1)给 几乎必然。因此独立Bernoulli和W的构造特别简单:按 抽I,令
这是在原图样上只补一个指定成功,不是往总数无条件加一。它满足
若 、λ>0,则对k≥1,
所以 。原计数W的大小偏置若也接近W+1,便提供了接近Poisson的一种具体信号。
依赖指示变量要改整个条件模型
设 可以依赖,,。仍按 选I;给定I=i,生成整向量的条件分布理路条件概率Conditional probability在已知正概率事件发生后,把交集概率重新规范到该事件内部。
取 。因为
对i求和即证明式(2)。条件模拟可与原向量精心耦合,但必须保持上述完整条件边缘。
例如 、0<p<1时,W只取0和2,大小偏置后的W必为2。若在原向量上只把选中的一位改成1,另一位保持B,则原来B=0时会得到W^s=1,概率1−p;这已经不是正确的大小偏置。相关性不能靠“补一次成功”自动消除。
不允许的输入与矩条件
当μ=0且X非负时,X恒为0,式(1)分母为零;本页不把它定义成某个任意新分布。若μ=∞,也无法按该式归一化。若X有负值,xp_x可能为负,更不能直接当概率;先平移再大小偏置得到的是另一个依赖平移量的对象。
只有有限均值并不保证式(3)是有限数。例如 、k≥1,归一化常数c有限,EX有限而 ,故 。定义有效与后续误差预算有限,必须分别检查。
推论与应用
Chen–Stein计数界理路Chen–Stein Poisson近似Chen–Stein Poisson approximation · Stein–Chen method · Chen-Stein method以离散Stein方程把有限计数的总变差变成差分预算,证明大小偏置与局部依赖界,并复算重叠模式的非独立计数。把上述信号量化:对非负整数W及其任意大小偏置耦合,有保守的有限样本界
结合式(5),独立不同率的成功总数得到 的统一事件误差。证明还需要Poisson方程的差分解界;它不是仅由大小偏置定义直接推出的另一条耦合不等式。
若以一次生成原n维样本的成本为基础,预先计算累积权重需O(n)空间与算术,二分查找抽I需O(log n),替换和中的一个分量再用O(1)次算术。这个成本描述独立和的可访问分量模型;依赖条件采样可能比原采样难得多,不能据此声称一般大小偏置耦合都能快速构造。
参考资料