对称和的自归一化界

一条很大的读数不仅抬高分子 $S$，也增大分母 $\sqrt{Q}$。不过“两边一起变大”本身不构成定理。关键是：给定每条观测有多大之后，其正负号仍是公平、独立的随机选择。

先固定幅度，再优化指数参数 ​

取与全部幅度 $A_i=|D_i|$ 独立的公平随机符号 ${\epsilon }_i\in \{-1,1\}$。独立性和逐项对称性保证

原变量在零点可以有原子；给零任意公平符号不改变其值。条件于全部 $A_i$ 后，若 $Q>0$，记 $a_i=A_i/\sqrt{Q}$，便有 $\sum _i{a}_i^2=1$。利用公平符号的指数矩界理路次高斯随机变量Sub-Gaussian random variable · 次高斯尺度 · Subgaussian variance proxy用全实数上的中心化指数矩上界定义次高斯尺度，计算独立加权平均的尾界，并区分方差、尺度代理与条件次高斯假设。 $\cosh u\le e^{u^2/2}$，对每个确定的 $\lambda \in \mathbb{R}$，

在 $Q=0$ 时左侧为1，同一上界成立。再对幅度取期望，得到 $\mathbb{E}{e}^{\lambda T}\le e^{{\lambda }^2/2}$。用指数 Markov 方法理路Chernoff 方法与 Chernoff 界Chernoff method · Chernoff bounds从指数矩与 Markov 不等式推导尾界，给出独立 Bernoulli 和的乘法形式、KL 形式及适用条件。，对 $\lambda >0$，

取 $\lambda =x$，并对 $-T$ 重复，证明式(1)。被归一化的量具有尺度1的指数矩，并不表示原始 $D_i$ 有任何指数矩。

这里的顺序不能省略。仅有 $\mathbb{E}{e}^{\lambda S-{\lambda }^{2}Q/2}\le 1$ 对每个固定 $\lambda$ 成立，并不允许看见 $Q$ 后直接把 $\lambda$ 换成 $x/\sqrt{Q}$。本证明先借独立对称性条件于全部幅度，才取得归一化变量本身的指数矩。

与学生化记号的关系 ​

若 $n\ge 2$ 且 $A>0$，令 $s^2=A/(n-1)$。式(4)等价于保留

左侧形似 Student 统计量，但本页没有证明它服从 $t_{n-1}$ 分布，阈值也不是 $t$ 分位数。正态模型的精确 $t$ 枢轴理路Student t 分布Student's t-distribution · t distribution由独立正态分子与卡方随机尺度定义 t 分布，解释自由度、重尾机制及正态样本均值的精确推断。依赖额外分布结构；对称分布下本页给的是较保守的非渐近上界。

十条读数，不输入方差 ​

固定 $n=10,\delta =0.05$，观察

先算 $\overline{X}=10$，再算 $A=4+1+1+0+0+0+0+1+1+4=12$。由于

式(4)给

所以区间约为 $[8.162546,11.837454]$。计算没有输入总体方差，但使用区间前仍须有关于共同中心对称、各次独立的模型依据。样本看起来左右整齐不是检验并确认总体对称性的证据。

把记录换成 $Y_i=20+3X_i$，新均值为50，离均平方和为108，区间为 $50\pm 3r_{10}$。固定置信度下 $c$ 不变；平移缩放使中心与误差同时换单位。

零样本方差：为什么这次可以是单点 ​

当 $n>c^2$ 且所有观测等于同一个 $x$，式(4)确实返回 $\{x\}$。这不矛盾：对称性已经限制了在远离真实中心的某一点堆积质量的能力。若总体只以相同概率取 $\mu -a,\mu +a$，全部十次相同的概率是 $2/2^{10}=1/512$；这两种样本都会漏掉中心，但其概率低于5%。其余失覆盖可能性由完整的尾界控制，而不是由这个单一例子穷尽。

经验 Bernstein理路经验 Bernstein 均值界Empirical Bernstein mean bound · 经验方差均值界对已知有界范围的 IID 观测，以经过校准的样本方差构造固定样本均值区间，解释标准差估计误差、零样本方差与重复查看的边界。处理已知范围的任意 IID 分布，不要求对称；它在零样本方差时仍须保留范围校准项。两种方法的条件不同，不能只比较相同数据上的半径后择优而仍给每种完整的错误预算。

删除对称性就会真的失败 ​

若 $X_i\sim \mathrm{Bernoulli}(0.01)$ 独立，$n=100$，总体均值为0.01。全零样本概率为

在此事件上 $A=0$，错误使用本页区间会输出 $\{0\}$，失覆盖至少36.6%。这些变量有限方差且有界，但并不关于均值对称。失效的是分布假设，而不是样本数不足。

若各项都复制同一个公平符号 $R$，每项仍对称，却有 $T=\sqrt{n}R$。在 $n=10,\delta =0.05$ 时 $\sqrt{n}>c$，越界概率为1。失效的是相互独立，不能用“各项边缘对称”补上。

中心、时间与自归一化的不同含义 ​

独立 Cauchy 观测有对称中心，所以上述中心覆盖仍成立，但其通常期望不存在。它也不承诺区间宽度按 $n^{-1/2}$ 收缩：当平方和由极端值主导时，半径可能很大。

式(4)是预先固定 $n$ 的保证。无限重复查看并在最有利时刻停止需要另一条路径级论证；条件对称但依赖的序列也不能直接复用上述全幅度条件化。混合序贯边界理路混合序贯边界Mixture boundary · Method of mixtures · Normal mixture boundary对指数上鞅作预先固定的概率混合，再把财富阈值反解为对所有时间同时有效的偏差边界。的条件对称支路为固定指数参数构造上鞅后再混合，保留的是另一种全时间边界。

“自归一化”并不只有一个对象。自归一化重要性采样理路自归一化重要性采样Self-normalized importance sampling · SNIS用未归一化目标与提议的权重和估计未知归一化常数，并以归一化权重形成目标期望的比率估计量。除以权重和，目标是修正抽样测度；线性赌博机理路线性赌博机Linear bandit · Stochastic linear bandit · 线性上下文赌博机假设动作特征的期望奖励由未知线性参数给出，并用自归一化置信椭球设计乐观动作选择与维度相关遗憾界。使用设计矩阵范数和条件次高斯噪声。本页除以残差平方和，依据是独立对称性，三者的分母与假设不能互换。

若分布未知但合理的测量模型提供对称噪声，可以先报告式(4)的中心区间，并单独说明均值是否存在；不必先宣称测量值有已知硬范围。若只有有限方差而没有对称性，应回到MoM理路分组均值中位数估计Median-of-means estimator · MoM 均值估计将独立样本分成不相交的组，先平均再取中位数，以有限方差取得依赖置信度的均值误差保证，并明确组数、余数和尺度条件。或Catoni 均值估计理路Catoni 有限方差均值估计Catoni mean estimator · Catoni 软截断均值估计用随样本量与置信度校准的单调软截断方程估计重尾均值，证明有限方差误差界，并把括根数值容差加入最终证书。，同时承担它们的方差尺度责任。

由Cauchy–Schwarz理路Cauchy–Schwarz 不等式Cauchy–Schwarz inequality · 柯西–施瓦茨不等式内积的绝对值不超过两向量范数之积，且等号精确刻画线性相关。，$|S|\le \sqrt{n}\sqrt{Q}$ 恒成立，故 $|T|\le \sqrt{n}$。这从另一个角度解释为什么 $c\ge \sqrt{n}$ 时反演得不到有限端点。

自测与答案 ​

1. 对上述十点样本，把失败概率改为 $\delta =0.001$。能否给有限的式(4)区间？若再把每条观测复制十遍，是否就补足样本量？
2. 独立 $D_i$ 分别等概率取 $\pm 1,\pm 2,\pm 3$。条件幅度固定，求 $Q$、$T$ 的最大绝对值，列出 $\text{Pr}(|T|\ge 1)$ 并与式(1)比较。

答案：第一题 $c^2=2\log 2000\approx 15.2018>10$，本构造只能给整个实轴；复制没有创造独立观测。第二题 $Q=14$，$|T|$ 最大为 $6/\sqrt{14}$。八种符号和依次属于 $\{-6,-4,-2,0,0,2,4,6\}$，其中四种绝对值不小于 $\sqrt{14}$，所以概率为 $1/2$；式(1)给 $2e^{-1/2}>1$，截成1后仍有效但很松。上界有效不等于每个阈值都提供非平凡信息。