交换对的正态近似 | Codeboy's Blog

对一个复杂统计量W，可以不直接求它的密度，而在原随机模型上轻轻改动一次，得到W′。如果“先看W再看W′”与倒过来观察具有相同的联合分布，这份对称性会把未知的正态误差拆成两个可以计算的跳跃预算。

形式陈述

联合交换性与条件回归

设实变量W满足EW=0、 $EW^2=1$ 。构造W′，使

(W,W')\stackrel d=(W',W).

这是两个变量的可交换性，比边缘分布相同更强。记 $\Delta=W'-W$ ，并取一个使W可测的σ代数 $\mathcal G$ 。假设对某个常数λ>0，条件期望满足

E[\Delta\mid\mathcal G]=-\lambda W,\qquad E|\Delta|^3<\infty.\tag{1}

令 $V=E[\Delta^2\mid\mathcal G]$ 。对标准正态变量 $Z\sim N(0,1)$ ，有显式W1误差界

d_W(W,Z)\le\sqrt{\frac2\pi}\, E\left|1-\frac{V}{2\lambda}\right| +\frac{E|\Delta|^3}{2\lambda}.\tag{2}

本页使用容易逐项复算的保守常数，不把它宣称为交换对方法最锋利的普适版本。第一项要求条件方差在不同原状态间不要变化过大；第二项要求单次跳跃相对于回归强度足够小。

式(1)可用 $\mathcal G=\sigma(W)$ ，也可用包含更多原始状态的信息。使用更大的σ域时，必须重新验证该σ域下的条件回归，不能只从给定W的等式反推更细条件下也成立。

直觉

线性回归 $E[W'-W\mid\mathcal G]=-\lambda W$ 表示平均扰动把偏离零的状态拉回来。正态模型还有第二种结构：局部随机波动应大致均匀，对应V接近常数2λ。一次改动太大时，二阶局部近似留下的三阶项又会增加误差。

这里并不需要W本身是独立和。交换对可以来自重抽一个独立坐标，也可以来自无放回样本的内外交换。两者的联合对称性都能证明，但它们的条件跳跃方差必须按各自的模型计算。

证明：对称性提供的精确恒等式

交换性使反对称函数的期望为零。因此对有界f，

E[\Delta(f(W')+f(W))]=0.

结合式(1)和W的 $\mathcal G$ 可测性，得到

E[Wf(W)]=\frac1{2\lambda}E[\Delta(f(W')-f(W))].\tag{3}

此外，交换性给 $E(W')^2=EW^2=1$ ，于是

E\Delta^2=-2E[W\Delta]=2\lambda.

所以式(2)第一项比较的是均值已经正确的V与常数2λ，而不是尚未校准的任意方差。

对任意1-Lipschitz目标h，实际调用正态Stein方程的解f。它满足 $\|f'\|_\infty\le\sqrt{2/\pi}$ ，且f′为2-Lipschitz。积分一阶展开给

f(W')-f(W)=\Delta f'(W)+R,\qquad |R|\le\Delta^2.

式(3)因而将正态方程缺口写成

E[f'(W)-Wf(W)] =E\left[f'(W)\left(1-\frac{V}{2\lambda}\right)\right] -\frac1{2\lambda}E[\Delta R].

分别取绝对值，再对所有h取上确界，就是式(2)。需要的期望由方差和三阶跳跃条件保证可积；f′不必处处二阶可微，因为余项来自其Lipschitz性。

例子与边界

独立和：只重抽一个坐标

令 $X_1,\ldots,X_n$ 独立、均值为零， $\sigma^2=\sum_iEX_i^2>0$ ，并令 $W=\sum_iX_i/\sigma$ 。先均匀选取独立索引I，再把 $X_I$ 换成一个同分布独立副本 $\widetilde X_I$ ，得到

W'=W+\frac{\widetilde X_I-X_I}{\sigma}.

给定I=i时，原坐标与副本可互换且其余坐标未变，故整对可交换。取 $\mathcal G=\sigma(X_1,\ldots,X_n)$ ，有

E[\Delta\mid\mathcal G]=-\frac Wn,\qquad V=\frac{\sigma^2+\sum_iX_i^2}{n\sigma^2}.\tag{4}

因此λ=1/n。式(4)不要求各 $X_i$ 同分布，但三阶跳跃的有限性仍需检查；各项有限绝对三阶矩是一个充分条件。

若各 $X_i$ 独立且在±1各取一半概率，则σ²=n、V=2/n，第一项恰为零。一次重抽以一半概率不改变坐标，以一半概率跳动 $2/\sqrt n$ ，故

E|\Delta|^3=\frac4{n^{3/2}},\qquad d_W(W,Z)\le\frac2{\sqrt n}.\tag{5}

这是有限n的上界，不仅是随n趋近无穷的极限陈述。

无放回样本：交换一个内点和一个外点

给定N个固定实数 $a_1,\ldots,a_N$ ，N≥2，均值μ，令 $b_i=a_i-\mu$ ， $v=N^{-1}\sum_i b_i^2>0$ 。S是均匀的m元子集， $1\le m<N$ ，设

T=\sum_{i\in S}b_i,\qquad \sigma^2=\frac{m(N-m)}{N-1}v,\qquad W=T/\sigma.

这个方差来自选择指标的两项概率： $P(i\in S)=m/N$ ， $P(i,j\in S)=m(m-1)/(N(N-1))$ ；展开 $ET^2$ ，再用 $\sum_i b_i=0$ ，即得上式。

从S中均匀选I，从补集中均匀选J，令 $S'=(S\setminus\{I\})\cup\{J\}$ ，并据此定义W′。每个具体交换及其反向交换的概率都为

\binom Nm^{-1}\frac1{m(N-m)},

所以 $(S,S')$ 联合对称， $(W,W')$ 也可交换。现在取 $\mathcal G=\sigma(S)$ ，而不是假装入选指标独立。因补集的b总和为−T，

E[\Delta\mid S] =\frac1\sigma\left(-\frac T{N-m}-\frac Tm\right) =-\frac{N}{m(N-m)}W.\tag{6}

条件二阶矩则为

V(S)=\frac1{m(N-m)\sigma^2} \sum_{i\in S}\sum_{j\notin S}(b_j-b_i)^2.\tag{7}

用同一双和、把平方换成绝对三次方并把σ²换成σ³，就得到 $E[|\Delta|^3\mid S]$ 。这些是可逐样本状态计算的量；不能套用式(4)的独立重抽方差。

本单元终点对200个均衡±1总体抽100个，完整化简式(6)–(7)并通过精确超几何质量求平均。它给保守W1界约0.28602，某个具体正部损失的实际误差则约0.00249；统一上界不必与一个测试函数的误差相等。

同边缘、零扰动和不完整条件

令W在−1、0、1上均匀分布，让W′沿固定循环 −1→0→1→−1。二者边缘完全相同，但 $P(W=-1,W'=0)=1/3$ ，反向概率为零，因此不可交换。即使再标准化，也不能使用式(3)。

令W′=W总能得到交换对，却只有Δ=0。这时λ=0的回归式没有信息，而式(2)需要λ>0；不能写成0/0后宣称误差为零。

若只有 $E\Delta^2=2\lambda$ ，第一项未必消失，必须计算条件V。把 $E|1-V/(2\lambda)|$ 替成 $|1-EV/(2\lambda)|=0$ 颠倒了绝对值与期望的作用。若回归式还有一个非零余项，也不能沿用本页没有余项的预算。

推论与应用

构造交换对的步骤是：写明原始状态分布，给出一次随机变更，证明变更前后联合对称，选择可计算的条件信息，再核对回归与跳跃矩。仅给一个“看起来对称”的程序没有完成第一项证明。

独立坐标模型中，已有总和后更新W只需常数次算术和一次坐标重抽。显式计算式(4)可扫描n个平方；反复运行时可维护平方和。无放回例子若已维护入选值列表和成员结构，也能快速生成一次内外交换，但求整个分布下式(2)的期望可能需要组合计算或额外界。模拟一条长轨道不是严格误差预算的自动替代。

相比依赖很弱但事件极稀有的Poisson近似，本页的目标是标准化后的连续形状及Lipschitz期望。选择近似分布和距离，应由模型的尺度、方差和要回答的问题决定。

参考资料

Charles Stein，Approximate Computation of Expectations，1986，交换对与辅助随机化。
Nathan Ross，Fundamentals of Stein’s Method，§3.3、Theorem3.7及其证明，含条件在更大σ域上的讨论。本页完整证明较保守的三阶系数1/(2λ)，不直接引用该处更精细的1/(3λ)版本。
Larry Goldstein and Gesine Reinert，Stein’s Method and the Zero Bias Transformation with Application to Simple Random Sampling，§4无放回抽样模型及相关耦合背景。本页的内外交换、条件矩和终点数值均按上式自行展开。

形式陈述 ​

联合交换性与条件回归 ​

证明：对称性提供的精确恒等式 ​

独立和：只重抽一个坐标 ​

无放回样本：交换一个内点和一个外点 ​