Monte Carlo 积分

形式陈述 ​

设目标积分可写成

$$I=\mathbb{E}[Y],Y=f(X),$$

其中 $X$ 可按已知分布独立抽样。若区域 $D$ 体积为 $V$，$X$ 在 $D$ 上均匀分布，则

$${\int }_{D}g(x)dx=V\mathbb{E}[g(X)].$$

更一般地，若 $X$ 的密度为 $p$，且在 $g\ne 0$ 的区域有 $p>0$，则可取 $Y=g(X)/p(X)$。密度选择改变估计量方差，却不能遗漏积分质量所在的支撑。

给定 IID 样本 $X_1,\dots ,X_N$，基本估计量为

$${\hat{I}}_N=\frac{1}{N}\sum _{i=1}^{N}f(X_i).$$

若 $\mathbb{E}|Y|<\mathrm{\infty }$，它无偏且由大数律公理库强大数定律Law of large numbers · Strong law of large numbers · SLLN独立同分布且可积时，样本均值沿几乎每条无限样本路径收敛到共同期望。收敛到 $I$。若还满足

$${\sigma }^2=\mathrm{Var}(Y)<\mathrm{\infty },$$

则

$$\mathrm{Var}({\hat{I}}_N)=\frac{{\sigma }^2}{N},\mathrm{SE}({\hat{I}}_N)=\frac{\sigma }{\sqrt{N}}.$$

未知方差通常用

$$s_N^2=\frac{1}{N-1}\sum _{i=1}^N(f(X_i)-{\hat{I}}_N{)}^2$$

估计。在线、有限精度实现可用稳定的均值—平方差递推，避免由两个巨大近似量相减计算方差。

在 IID、有限非零方差和中心极限定理适用的渐近区，近似 $1-\alpha$ 置信区间为

$${\hat{I}}_N\pm z_{1-\alpha /2}\frac{s_N}{\sqrt{N}}.$$

这是一项概率覆盖声明，不是确定性误差上界。有限 $N$、偏态或重尾会使正态近似覆盖率偏离标称值；若需要非渐近保证，必须使用与有界性或尾部假设匹配的集中不等式。

输入应包含采样器、被积函数、样本预算或目标标准误、置信水平和随机数种子策略；输出应包含估计值、标准误或区间、样本数以及随机流信息。固定 $N$ 时成本为 $N$ 次函数求值、$O(N)$ 总工作和 $O(1)$ 在线存储，独立样本还能直接并行分批归约。

若以半区间宽度

$$z_{1-\alpha /2}\frac{s_N}{\sqrt{N}}\le \mathrm{atol}+\mathrm{rtol}|{\hat{I}}_N|$$

作为停止条件，应设置最小批量和最大样本数，并承认反复查看同一普通置信区间后自适应停止会改变名义覆盖率。需要严格顺序覆盖时，应采用专门的序贯有效区间；否则状态应写成“达到渐近标准误目标”，而不是“真误差已小于容差”。

直觉 ​

Monte Carlo 把面积变成随机函数值的平均。增加维数不会改变样本均值的 $N^{-1/2}$ 指数，因为平均的方差仍按 $1/N$ 缩小；但常数 $\sigma$ 完全由被积函数和采样分布决定，可能随维数恶化。所谓“速率不直接依赖维数”不能省略这一方差常数。

每次抽样都像从积分质量中取一张随机切片。独立性让涨落不持续同向累积，方差描述切片之间的散布；样本均值越稳定，只能说明在概率模型下典型误差变小，不会形成包住真积分的确定性夹逼。

例子与边界 ​

对一维积分

$$I={\int }_0^1{x}^{2}dx=\frac{1}{3},$$

取 $X\sim \mathrm{Uniform}(0,1)$，则 $Y=X^2$，并有

$$\mathrm{Var}(Y)=\frac{1}{5}-\frac{1}{9}=\frac{4}{45}.$$

因此基本估计量的理论标准误为 $2/\sqrt{45N}$。误差只按 $N^{-1/2}$ 缩小；相比之下，二点 Gaussian 规则对该二次函数已经精确。这说明一维光滑积分通常不应仅因 Monte Carlo 易实现就放弃确定性高阶结构。

维数升高时，指数仍为 $-1/2$，方差却可能增长。对 $[0,1{]}^d$ 上

$$g(x)=2^d\prod _{j=1}^d{x}_j,$$

积分为 $1$，均匀抽样下却有

$$\mathrm{Var}(g(X))={\left(\frac{4}{3}\right)}^d-1.$$

这个例子防止把“维数无关速率”误读为“样本量与维数无关”。通过重要性采样让 $p$ 更贴近 $|g|$ 可降低方差，但若 $p$ 在重要区域过小，权重 $g/p$ 会形成重尾，反而让方差巨大或无穷。

当 $Y$ 只有有限均值而方差无穷时，大数律仍可能给一致性，$s_N/\sqrt{N}$ 和普通中心极限定理区间却不再有效。伪随机生成器质量不足、样本意外相关或并行流重叠也会破坏 ${\sigma }^2/N$ 公式。普通 IID Monte Carlo 没有 burn-in 概念；burn-in 属于从 Markov 链获取相关样本的另一套方法，不能作为本页基线算法的泛化警告。

推论与应用 ​

方差缩减的共同目标是改变估计量或抽样分布，同时保持目标期望不变。重要性采样以权重换取更合适的访问频率；控制变量利用已知期望的相关量抵消波动。任何改造都应重新推导无偏性、方差和样本相关结构，而不是只比较一次随机运行。

随机化算法公理库随机化算法Randomized algorithm把随机比特作为额外输入并分析输出正确率或运行时间分布的算法。提供随机成本与成功概率的语言，中心极限定理公理库中心极限定理Central limit theorem适当归一化的独立随机变量和在分布上趋于正态分布。解释渐近误差条。可复现实验应记录种子或随机流划分，但同一种子只让计算可重复，不会把随机置信区间变成确定性证明。

参考资料

• Art B. Owen, Monte Carlo Theory, Methods and Examples, 2013, Chs. 1–9.
• George S. Fishman, Monte Carlo: Concepts, Algorithms, and Applications, Springer, 1996.
• NIST/SEMATECH, e-Handbook of Statistical Methods, Monte Carlo methods and uncertainty analysis.