Bernstein–von Mises 定理

量词与证明图像 ​

以有效估计量为中心时，总变差结论等价地写成

上确界遍历 Borel 集；后验本身随样本随机，所以收敛外层仍是重复数据下的 $P_{{\theta }_0}$-概率。局部参数 $h=\sqrt{n}(\theta -{\theta }_0)$ 下，局部渐近正态（LAN）理路局部渐近正态性Local asymptotic normality · LAN在根号 n 局部尺度上把对数似然比展开为高斯随机线性项与信息二次项，并完整计算 Bernoulli 模型的两种局部极限。展开为

LAN 条目以 Bernoulli 的 $p_0=1/3$ 为例证明这一展开，并在有界 $h$ 区间上显式控制余项；这种局部控制仍需结合后验集中，才能用于这里的后验结论。先验在 $1/\sqrt{n}$ 邻域近似常数，而完成平方给出

最后一项与 $h$ 无关，被归一化吸收；随机中心 $I^{-1}{\mathrm{\Delta }}_n$ 与有效 MLE 的局部展开一致。LAN 只控制局部似然，因此证明还必须使用前述后验集中条件，把正态邻域外的质量排除掉。

Bernoulli 配 Beta$(a,b)$ 先验，后验为 Beta$(a+S,b+n-S)$。固定 $0<p_0<1$ 时，后验均值与样本比例之差为 $O_P(1/n)$，方差约为 $p_0(1-p_0)/n$；局部正态近似因此具有频率学有效方差。后验中央 $95\mathrm{\%}$ credible interval 与 Wald 区间首阶等价，并获得点态渐近 $95\mathrm{\%}$ 频率覆盖；有限 $n$ 时，Beta 区间的不对称和先验超参数仍会真实改变端点。

上面 Beta–Bernoulli 例子可直接核对均值与众数：写 $\hat{p}=S/n$，后验均值为 $(S+a)/(n+a+b)$；当两个后验形状参数都大于 $1$ 时，众数为 $(S+a-1)/(n+a+b-2)$。固定 $a,b>0$、$p_0\in (0,1)$ 时，这一内点条件以趋于一的概率成立，两者与 $\hat{p}$ 的差都是 $O_P(1/n)$。这些结论来自具体公式，不能仅由全变差正态近似推广到任意模型。

局部正态不自动控制矩与众数 ​

记 $Q_n$ 为 $h=\sqrt{n}(\theta -{\hat{\theta }}_n)$ 的后验分布。全变差收敛控制有界测试函数；要推出后验均值与 ${\hat{\theta }}_n$ 首阶等价，还需一阶尾部控制，例如对每个 $\epsilon >0$，

把 $\Vert h\Vert$ 换成 $\Vert h{\Vert }^2$ 是控制后验协方差与局部平方损失后验风险的相应充分条件。众数则需要密度与极大点控制，例如局部密度一致趋于具有唯一最大点的高斯密度，并证明全局最大点不会逃离该局部区域；矩控制不能代替它。更高阶的 $1/n$ 偏差展开也需要额外光滑性和余项估计。

一个直接可算的矩反例是 $Y_i\mid \theta \sim N(\arctan \theta ,1)$，先验为标准 Cauchy，真值 ${\theta }_0=0$。令 $\phi =\arctan \theta$，先验即 $(-\pi /2,\pi /2)$ 上均匀分布，其后验是 $N(\overline{Y},1/n)$ 在该区间的截断。真值处为内点、变换局部光滑且导数为 $1$，局部 BvM 极限成立。可是

对任意有限样本，两端的指数因子分别趋于严格正数，故尾部为 $C_{\pm }/{\theta }^2$。正负一阶积分都发散，后验均值没有定义；对任意有限决策 $a$，后验平方风险 $E[(\theta -a{)}^2\mid Y]$ 也为无穷。这只反驳自动推出矩与风险的说法，不是众数失败的反例。关于从 BvM 推出点估计结论时的额外尾部条件，见 Kleijn–van der Vaart (2012)，§2.3，定理 2.3 与式 (2.16)；这里的反例由上述变量代换直接核对。

BvM 近似的是参数不确定性，不是未来观测的全部波动。后验预测分布还包含 sampling noise，不会收缩成参数点质量；把 $I^{-1}/n$ 直接当作未来响应方差会漏掉观测方差。

边界点、非正则与模型选择 ​

在 $p_0=0$ 的 Bernoulli 边界，后验局部尺度和形状受 Beta 先验参数影响，不是内部正态极限。混合模型的标签不可识别、成分合并处信息奇异，弱识别也会破坏 LAN 或非奇异信息条件；先验若在真值附近为零或随 $n$ 强烈集中，局部常数近似同样失效。模型选择后参数维数随机，spike-and-slab 后验还可能同时含离散模型质量与连续局部正态分量，不能用单个 Gaussian 覆盖。

高维与非参数模型 ​

参数维数随 $n$ 增长时，LAN 余项、后验集中速度和高维高斯近似都需要随维数重新控制。非参数 BvM 往往只对某些低维光滑泛函成立，全后验在强拓扑下常不能由单一 Gaussian measure 近似；有限维定理不能只把维数符号换成无穷维。

模型错设 ​

模型失配时，后验中心可能收敛到伪真参数，后验协方差由 likelihood curvature 决定，而相应 M-estimator 的频率协方差通常是 sandwich。二者不一致时，credible interval 即使呈正态形状也可能欠覆盖；sandwich correction 或 generalized Bayes 可以改变校准目标，但需要独立定理，不能从正确设定的 BvM 直接推出。

实际应用应逐项检查 posterior contraction、prior thickness、LAN remainder 和 information nonsingularity。后验直方图看似钟形、有限 MCMC 运行稳定，都不能替代这些条件，也不能证明总变差收敛。

在本页定理条件下，一维参数的后验分位数区间与有效正态频率学置信区间理路置信区间Confidence interval · Confidence set以重复抽样覆盖率校准参数区间，并从正态枢轴与二项等尾检验反演算出有限样本端点。首阶重合；多维情形须指定坐标、光滑泛函或相应可信域。覆盖是渐近结论，不是任意 credible interval 的定义属性。平方损失下的Bayes 估计与后验风险理路Bayes 估计量与后验风险Bayes estimator · Posterior expected loss给定观测后最小化后验期望损失的行动规则及其条件风险。还须满足上述矩条件；重复抽样意义下的期望风险收敛，又需对估计误差单独控制一致可积性。局部正态近似不能包办尾部、高阶偏差、预测噪声或模型错设的分析。