方法Method

Monte Carlo 积分

Monte Carlo integration · Monte Carlo quadrature

将积分改写为随机变量期望，以独立样本均值估计并用方差和概率假设量化随机误差。

形式陈述

设目标积分可写成随机变量的期望

I=\mathbb E[Y], \qquad Y=f(X),

其中 $X$ 可按已知分布独立抽样。若可测区域 $D$ 的体积 $V$ 满足 $0<V<\infty$ ， $X$ 在 $D$ 上均匀分布，则

\int_Dg(x)\,dx=V\,\mathbb E[g(X)].

更一般地，若 $X$ 的密度为 $p$ ，且在 $g\ne0$ 的区域有 $p>0$ ，则在 $p>0$ 处取 $Y=g(X)/p(X)$ ，并将 $p=0$ 处的比值定义为 $0$ ；后者是采样分布下的零测集。密度选择改变估计量方差，却不能遗漏积分质量所在的支撑。

给定 $N\ge1$ 个IID 样本 $X_1,\ldots,X_N$ ，基本估计量为

\widehat I_N=\frac1N\sum_{i=1}^{N}f(X_i).

若 $\mathbb E|Y|<\infty$ ，它无偏且由大数律收敛到 $I$ 。若还满足

\sigma^2=\operatorname{Var}(Y)<\infty,

则

\operatorname{Var}(\widehat I_N)=\frac{\sigma^2}{N}, \qquad \operatorname{SE}(\widehat I_N)=\frac{\sigma}{\sqrt N}.

当 $N\ge2$ 时，未知方差通常用

s_N^2=\frac1{N-1}\sum_{i=1}^{N} \bigl(f(X_i)-\widehat I_N\bigr)^2

估计。在线、有限精度实现可用稳定的均值—平方差递推，避免由两个巨大近似量相减计算方差。

有限二阶矩下，对 $Y$ 与 $Y^2$ 应用大数律可得 $s_N^2\to\sigma^2$ 几乎必然。对 IID、 $0<\sigma^2<\infty$ 的情形，中心极限定理给出以真实 $\sigma$ 标准化的正态极限，Slutsky 定理再允许用一致的 $s_N$ 替换它。因此固定 $0<\alpha<1$ 时，在相应渐近区的近似 $1-\alpha$ 置信区间为

\widehat I_N \pm z_{1-\alpha/2}\frac{s_N}{\sqrt N}.

这是一项概率覆盖声明，不是确定性误差上界。有限 $N$ 、偏态或重尾会使正态近似覆盖率偏离标称值；若需要非渐近保证，必须使用与有界性或尾部假设匹配的集中不等式。

输入应包含采样器、被积函数、样本预算或目标标准误、置信水平和随机数种子策略；输出应包含估计值、标准误或区间、样本数以及随机流信息。固定 $N$ 时需 $N$ 次抽样与函数求值，另有 $O(N)$ 的标量累加工作；总成本应加上采样与求值的实际开销。在线累加只保存 $O(1)$ 个标量，但还需当前样本、采样器状态以及求值所需的存储。独立样本还能直接并行分批归约。

若以半区间宽度

z_{1-\alpha/2}\frac{s_N}{\sqrt N} \le\mathrm{atol}+\mathrm{rtol}|\widehat I_N|

作为停止条件，应设置最小批量和最大样本数，并承认反复查看同一普通置信区间后自适应停止会改变名义覆盖率。需要严格顺序覆盖时，应采用专门的序贯有效区间；否则状态应写成“达到渐近标准误目标”，而不是“真误差已小于容差”。

直觉

积分域内的独立随机点经函数值平均形成积分估计，标准误按样本数平方根下降 — Monte Carlo 积分的随机样本均值

图中采用均匀抽样的未缩放被积函数记号：图里的 $f$ 对应开头的 $g$ ， $\sigma^2=\operatorname{Var}(g(X))$ ，样本均值还要乘以体积 $|D|$ ，所以估计量方差为 $|D|^2\sigma^2/N$ 。上面的统一记号则把体积因子吸收到 $Y=f(X)$ 中。

Monte Carlo 把面积变成随机函数值的平均。增加维数不会改变样本均值的 $N^{-1/2}$ 指数，因为平均的方差仍按 $1/N$ 缩小；但常数 $\sigma$ 完全由被积函数和采样分布决定，可能随维数恶化。所谓“速率不直接依赖维数”不能省略这一方差常数。

每次抽样都像从积分质量中取一张随机切片。独立性让涨落不持续同向累积，方差描述切片之间的散布；样本均值越稳定，只能说明在概率模型下典型误差变小，不会形成包住真积分的确定性夹逼。

例子与边界

对一维积分

I=\int_0^1x^2\,dx=\frac13,

取 $X\sim\operatorname{Uniform}(0,1)$ ，则 $Y=X^2$ ，并有

\operatorname{Var}(Y) =\frac15-\frac19=\frac4{45}.

因此基本估计量的理论标准误为 $2/\sqrt{45N}$ 。误差只按 $N^{-1/2}$ 缩小；相比之下，二点 Gaussian 规则对该二次函数已经精确。这说明一维光滑积分通常不应仅因 Monte Carlo 易实现就放弃确定性高阶结构。

维数升高时，指数仍为 $-1/2$ ，方差却可能增长。对 $[0,1]^d$ 上

g(x)=2^d\prod_{j=1}^{d}x_j,

积分为 $1$ ，均匀抽样下却有

\operatorname{Var}(g(X)) =\left(\frac43\right)^d-1.

这个例子防止把“维数无关速率”误读为“样本量与维数无关”。通过重要性采样让 $p$ 更贴近 $|g|$ 可降低方差，但若 $p$ 在重要区域过小，权重 $g/p$ 会形成重尾，反而让方差巨大或无穷。

当 $Y$ 只有有限均值而方差无穷时，大数律仍可能给一致性， $s_N/\sqrt N$ 和普通中心极限定理区间却不再有效。伪随机生成器质量不足、样本意外相关或并行流重叠也会破坏 $\sigma^2/N$ 公式。普通 IID Monte Carlo 没有 burn-in 概念；burn-in 属于从 Markov 链获取相关样本的另一套方法，不能作为本页基线算法的泛化警告。

推论与应用

方差缩减的共同目标是改变估计量或抽样分布，同时保持目标期望不变。重要性采样以权重换取更合适的访问频率；控制变量利用已知期望的相关量抵消波动。任何改造都应重新推导无偏性、方差和样本相关结构，而不是只比较一次随机运行。

随机化算法提供随机成本与成功概率的语言，中心极限定理解释渐近误差条。可复现实验应记录种子或随机流划分，但同一种子只让计算可重复，不会把随机置信区间变成确定性证明。

先确定误差来自哪一层

纯积分问题的目标 $I$ 可以是已知分布下的固定常数，此时MCSE只描述算法的随机模拟误差。如果积分中的分布或参数来自一份随机资料 $D_n$ ，还应定义理想数据估计量 $T_n=T(D_n)$ 。设固定资料后， $N$ 次模拟产生 $T_{n,N}$ ，计算程序实际返回 $\widetilde T_{n,N}$ 。对真实目标 $\theta$ ，有精确拆分

\widetilde T_{n,N}-\theta =\underbrace{T_n-\theta}_{\text{统计抽样误差}} +\underbrace{T_{n,N}-T_n}_{\text{模拟误差}} +\underbrace{\widetilde T_{n,N}-T_{n,N}}_{\text{数值或优化误差}}.

三项必须以同一目标和同一单位比较。若模拟程序条件无偏，即 $E(T_{n,N}\mid D_n)=T_n$ ，且相关二阶矩有限，条件均值零使前两项的交叉乘积期望为零。因此由全方差公式，

E(T_{n,N}-\theta)^2 =E(T_n-\theta)^2+E\{\operatorname{Var}(T_{n,N}\mid D_n)\}.

这里第一项包含统计偏差的平方；不能把它自动缩写为统计方差。若模拟本身有条件偏差，需另加其平方及与统计误差的交叉项。最后的数值误差也通常与前两项有关，不能未经证明把三个标准误平方相加。

用一个可解模型看规模。原始资料 $X_i\sim N(\theta,1)$ IID， $n=100$ ，理想估计量 $T_n=\bar X$ 。假设模拟额外加入 $N$ 个独立于资料、均值零方差4的噪声平均，则统计方差为0.01，条件模拟方差为 $4/N$ 。 $N=400$ 时两者相同；把 $N$ 增至40000后，MCSE降到0.01，只是统计标准误0.1的十分之一，原始资料的0.1不会随着模拟次数继续增加而消失。

再假设求解器在模拟准则 $q(t)=(t-T_{n,N})^2/2$ 上有经认证的目标差 $r$ ，则 $|\widetilde T_{n,N}-T_{n,N}|\le\sqrt{2r}$ 。若要数值误差不超过0.001，需 $r\le5\times10^{-7}$ 。这项界来自准则曲率，不能把“相邻两轮目标几乎不变”当作相同证书。一般曲率和统计尺度的联动见统计与数值误差预算；本例增加的是固定数据后的模拟层。

一千行不一定是一千个独立重复

设第 $g$ 个独立外层情境为 $A_g$ ， $EA_g=\mu$ 、 $\operatorname{Var}(A_g)=\tau^2$ 。在每个情境内产生 $R$ 个噪声 $\varepsilon_{gj}$ ，它们彼此及与全部 $A_g$ 独立，均值零、方差 $\sigma^2$ ，输出 $Y_{gj}=A_g+\varepsilon_{gj}$ 。总共有 $GR$ 行，但总体均值估计

\bar Y=\frac1G\sum_{g=1}^G\left(\frac1R\sum_{j=1}^RY_{gj}\right)

的方差是

\operatorname{Var}(\bar Y)=\frac{\tau^2}{G}+\frac{\sigma^2}{GR}.

证明只需先把每个独立情境平均成 $W_g=A_g+\bar\varepsilon_g$ ，其方差为 $\tau^2+\sigma^2/R$ ，再对 $G$ 个独立 $W_g$ 平均。同情境两行的协方差为 $\tau^2$ ，所以把 $GR$ 行当IID会错误得到 $(\tau^2+\sigma^2)/(GR)$ 。例如 $G=10,R=100,\tau^2=\sigma^2=1$ ，真实方差0.101，逐行IID公式仅0.002，少了50.5倍。正确的重复运行MCSE应从10个 $W_g$ 估计，而不是从1000行直接估计。

固定 $G$ 只增加内层重复 $R$ ，方差仍停在 $\tau^2/G$ 。如果生成一个新情境成本为 $a>0$ ，每个内层输出成本为 $b>0$ ，预算近似为 $C=G(a+bR)$ ，则在 $\tau^2,\sigma^2>0$ 下，连续分配问题的方差为

\frac{(\tau^2+\sigma^2/R)(a+bR)}C =\frac{a\tau^2+b\sigma^2+b\tau^2R+a\sigma^2/R}C.

对最后两项求导，或用两正数和的下界，得到候选 $R_*=\sqrt{a\sigma^2/(b\tau^2)}$ 。实际取 $R\ge1$ 的整数并验证可用 $G$ ；公式只对应本例线性条件均值及固定成本模型。一般非线性内层插件还可能有偏差，不能把这条分配推广成通用嵌套模拟定理。

方差缩减之后，重新数独立单位

控制变量使用调整后贡献；独立先导训练的系数应在主样本分析中冻结，同样本拟合则另用渐近论证。对偶抽样的独立单位是一对的平均，共同随机数的是两个方案的配对差。分层模拟保留层权重和层内方差，不能把不等配额的所有输出当同分布数据。U统计量的核行共享原始输入，即使计算了全部两两组合，也没有创造同样多的独立信息。

Bootstrap更需要区分原始样本量 $n$ 与重采样次数 $B$ 。固定资料后增加 $B$ ，能够更精确地描述给定资料的条件重采样律，却不会增加原始抽样信息。该页的样本最大值例证明，条件律在零点保留约0.632的原子；把 $B$ 增到无限大，只会更准确地计算这条错误近似，不能修复其统计失效。

预算增加后，究竟是哪一项误差变小

随机化设计也可以把许多函数调用打包为一个独立贡献。随机化拟Monte Carlo每次随机化整套低差异点，再跨独立整网估计MCSE；整网内部的均匀边缘只保证中心正确，不能沿用逐行IID方差。若模拟器存在精度层级，多层Monte Carlo把目标近似写成粗层加相邻耦合差，层差方差决定各层次数，最细层的弱偏差则需要独立保证。

对内层均值作非线性变换时，单纯重新数独立外层仍不够。非线性嵌套模拟中，设每层条件噪声方差为1，外层目标为标准正态情境均值的平方期望；内层只抽 $M$ 次再平方，会留下精确偏差 $1/M$ 。增加外层次数能把MCSE压到零，却不改变这个偏差。因此应分别记录外层 $N$ 、内层 $M$ 、插件中心和偏差控制，不能把前面的线性随机效应最优配额直接套用。

还有一种预算是在固定资料后少算昂贵核。不完全U统计量的抽子集MCSE只描述计算层；即使把完整核平均算得精确，原始资料的抽样误差仍在。这四种协议分别要记录整网、耦合层差、完整外层情境、固定资料后的子集抽取；“总输出行数”不足以确定任何一种完整误差报告。

参考资料

Art B. Owen, Monte Carlo Theory, Methods and Examples, 2013, Chs. 1–9.
George S. Fishman, Monte Carlo: Concepts, Algorithms, and Applications, Springer, 1996.
JCGM, Evaluation of Measurement Data—Supplement 1 to the GUM: Propagation of Distributions Using a Monte Carlo Method, JCGM 101:2008, accessed 2026.

关系图谱32 个相邻概念 · 3 类关系

正在载入交互图谱…

前置三跳
前置二跳
前置一跳
当前条目
后续一跳
后续二跳
后续三跳

文字版关系按与当前条目的最短距离分组

类型化关系

使用的工具

被这些条目使用

实现的抽象

数值求积问题与求积公式模型

Tonelli 定理

“乘积测度给出定义域，非负可测函数可由简单函数单调逼近，单调收敛定理完成极限步骤。Fubini 定理随后处理可积有符号函数。对非负随机变量 $Z$，恒等式 $Z(\omega)=\int 0^…”

Markov 不等式

“在Monte Carlo 积分中，它能从非负估计误差的一阶矩给出不依赖分布形状的失败概率基线，但通常比使用方差或有界性的界更松。组合与随机图中的一阶矩方法是它的整数值特例：非负整数值 $X$…”

Hoeffding 不等式

“不等式把独立性、期望和有界性组合成有限样本保证，并可视为大数律的定量强化。对有界 IID 被积函数，Monte Carlo 样本均值可直接使用这个非渐近界；它不同于中心极限定理给出的渐近正态…”

Fubini 定理

“乘积测度提供二重积分的底层空间，Tonelli 定理先处理非负函数，Fubini 再在绝对可积条件下处理有符号函数。独立性、卷积、积分算子和 PDE 能量计算都把复杂总量拆成截面后使用这一交…”

Chebyshev 不等式

“最经典的应用是弱大数律的初等证明：独立同分布样本的均值 $\bar X n$ 满足 $\operatorname{Var}(\bar X n)=\sigma^2/n$，于是 $\Pr( \b…”

中心极限定理

“对样本均值，CLT 给出抽样分布的标准化近似，进而支持已知 $\sigma$ 时的渐近置信区间 $\bar X n\pm z {1 \alpha/2}\sigma/\sqrt n$，以及Mo…”

强大数定律

“大数定律为Monte Carlo 方法背书：把积分或期望写成 $\mathbb E[f(X)]$ 后用独立抽样得到的经验平均逼近。统计中，经验分布函数在每个固定点的相合性可由大数定律得到；对…”

控制收敛定理

“在概率论中它写作：若 $X n\to X$ 几乎必然，且 $ X n \le Y$、$\mathbb E[Y]<\infty$，则 $\mathbb E[X n]\to\mathbb E[X…”

重要性采样

“它把后验计算中的目标期望转成普通Monte Carlo 积分。若 $P,Q$ 对共同参考测度有密度 $\pi,q$，则 $w=\pi/q$；标准换测度要求 $q(x) 0$ 覆盖所有满足 $…”

随机化拟 Monte Carlo

“$\widehat V$ 无偏估计最终均值的方差；$\sqrt{\widehat V}$ 本身一般不无偏。独立重复单位是整网，不是打印出来的 $Rn$ 行；普通MC均值与样本方差此时作用于…”

控制变量估计

“设一次模拟返回实数对 $(Y,Z)$，目标为 $\mu=EY$，而控制量的期望 $m=EZ$ 已精确知道。假定 $E(Y^2+Z^2) 0$。从同一联合分布独立产生 $n$ 对 $(Y i,…”

后验计算

“有限状态、共轭或低维情形可解析求和、积分或数值求积。高维时常把积分改写为Monte Carlo 积分，但不同算法给出不同保证。重要性采样和拒绝采样依赖覆盖目标的提议；MCMC用目标不变的相关…”

共同随机数

“比较基准是在两个方案各做 $m$ 次独立Monte Carlo模拟再相减，其方差为 $(v A+v B)/m$。若每次方案输出算一次函数求值，两者都消耗 $N=2m$ 次，CRN 恰在 $c…”

分层 Monte Carlo

“假定 $Nw h$ 都是正整数，取 $n h=Nw h$。于是分层方差为 $N^{ 1}\sum hw h\sigma h^2$。普通IID Monte Carlo单次方差可分为”

非线性嵌套 Monte Carlo

2 处

“内层条件化、MSE恒等式和线性情境费用分别复用条件期望、偏差方差及Monte Carlo旧页。”

“旧Monte Carlo页的线性随机效应例已经解决“同一情境的多行不独立”与外层创建费用。本页新增的是非线性改变期望中心后的偏差与光滑性预算，不能把两种模型的最优内层次数混用。”

多层 Monte Carlo

“对确定的 $L$ 和整数 $N \ell\ge1$，各层用普通MC均值估计层差期望，最终估计量为”

对偶抽样

“若每个函数值都算一次昂贵求值，总预算 $N=2m$。同预算的普通Monte Carlo 均值方差为 $\sigma^2/(2m)$，所以两者之比为”

不完全 U 统计量

“固定资料后，抽索引是一次普通Monte Carlo。$B\ge2$ 时被抽核值的样本方差 $s B^2/B$ 无偏估计条件计算方差 $\tau D^2/B$。它不是总体目标 $\theta$…”

数值求积问题与求积公式

“Newton–Cotes 与复合求积固定等距节点并通过分片控制局部误差；Gaussian 求积选择正交多项式零点以提高多项式精确性；自适应求积根据局部误差估计重新分配函数求值；Monte C…”

协方差

“多元正态分布由均值向量与协方差矩阵确定；对一般分布，协方差记录的是二阶信息。时间序列将不同时刻的协方差按滞后排列，以描述相关性怎样随时间间隔变化。Monte Carlo 积分复用相关样本估计…”

均匀分布

“取 Borel 可测函数 $g:\mathbb R^d\to\mathbb R$，并要求 $\int B g(x) ,dx<\infty$。Monte Carlo 积分把区域平均写成”

形式陈述 ​

先确定误差来自哪一层 ​

一千行不一定是一千个独立重复 ​

方差缩减之后，重新数独立单位 ​

预算增加后，究竟是哪一项误差变小 ​

反向链接

形式陈述

先确定误差来自哪一层

一千行不一定是一千个独立重复

方差缩减之后，重新数独立单位

预算增加后，究竟是哪一项误差变小