Skip to content

方差从哪里来:可靠均值与适应尾界 ​

本页完成一份能够复算和迁移的误差报告。你需要说明:方差预算怎样得到,未知尺度靠哪一种额外结构补足,时间维度是否已经校准,以及数值求解还留下多少误差。不同方法可以处理相同的均值问题,但它们不能互相借用未满足的假设。

最短路线与补课 ​

核心计算依次读Efron–Stein、Catoni 均值估计、对称自归一化和Freedman。前两站把输入机制变成总体方差预算,再变成可执行的高置信求根;后两站分别处理未知方差的对称中心与适应过程的条件方差。

已经读过可靠均值入门终点的读者,可复用其 Bernstein、MoM与经验 Bernstein。若还不熟悉预算,先补方差和条件期望;进入适应过程前再补鞅和Ville 不等式。这些是按任务选择的补课入口,不是要求每条路线都先学完全部测度概率。

最后一项是混合边界的条件对称分支:它回答无已知幅度时怎样检验一个中心,也展示有效检验未必反演成实用的有界区间。

四种输入责任与各自输出

任务一:非线性模拟器的方差预算 ​

三枚独立比特 B1,B2,B3∼Bernoulli(0.1) 驱动一个输出

Z=max(B1,B2)+2B2B3.

这是一台可以完整枚举的小模拟器;精确期望用作核验真值,随后仍按只能调用输出的均值估计流程操作。

  1. 列出 Z 的可能值及概率,求 EZ 与真实方差
  2. 分别只把第 i 个比特替换成独立副本,求 E(Z−Z(i))2,得到预算 v
  3. 为什么三项替换差不是三份独立输出?若只在一条观测路径上算到很小差值,能否报告同一个总体预算?
  4. 用所得 v 设计统计半径 ε=0.05、失败概率 δ=0.01 的 Catoni 方案,算最小满足该充分式的整数运行数

核对与推导 ​

Z=0 当且仅当 B1=B2=0,概率0.81。Z=3 当且仅当 B2=B3=1,概率0.01。剩余概率0.18给 Z=1。因此

EZ=0.21,EZ2=0.27,Var(Z)=0.27−0.212=0.2259.

令 Bi′ 是对应独立副本。三个差可分别写成

Z−Z(1)=(B1−B1′)(1−B2),Z−Z(2)=(B2−B2′)(1−B1+2B3),Z−Z(3)=2B2(B3−B3′).

每个比特与副本之差的平方期望为 2(0.1)(0.9)=0.18。于是三项分别为

0.18⋅0.9=0.162,0.18{0.9+4(0.9)(0.1)+4(0.1)}=0.2988,4(0.1)(0.18)=0.072.

因此 v=(0.162+0.2988+0.072)/2=0.2664,大于真实方差。中间一项包含交互影响,不能把“改第2位”误当成仅改一个普通加性项。三种替换共用其余输入,既不是独立运行,也不是未知预算的确定证书。

Catoni 的充分样本量为

N∗=⌈2log⁡200(1+0.26640.052)⌉=1140.

这个数保留了全部常数和取整。若模拟器的输入机制改变,尤其三个比特变得相关,原预算证明必须重做;不能仅因输出仍落在 {0,1,3} 就保留0.2664。已知范围 [0,3] 的方法仍可能有效,但给的是另一张证书。

任务二:从输出计数到带数值容差的区间 ​

实际独立运行1200次,得到950个0、230个1、20个3。保留任务一的模型方差上界 v=0.2664,预设 δ=0.01。

  1. 算普通平均、Catoni 的 r,α;写出只需三种取值的得分方程
  2. 给一个确实异号的括根区间,求根,并将最终位置误差 10−6 加入证书
  3. 为何不应以得分残差小于 10−6 代替位置容差?若改用 Y=5Z−2,所有量如何换单位?

核对与推导 ​

普通平均为 290/1200=29/120≈0.2416667。由 ℓ=log⁡200,

r=2(0.2664)ℓ1200−2ℓ≈0.0487176702,α≈0.1812592620.

得分方程是

950ψ(−αθ)+230ψ{α(1−θ)}+20ψ{α(3−θ)}=0.

在 θ=0.23 时得分约2.16176736,在0.24时约 −0.00555735,故区间 [0.23,0.24] 确实括住唯一根。高精度复算给

μ^≈0.2399743584.

精确根的统计区间约为 [0.1912566882,0.2886920285];所有小数仅作显示,保证由原公式和括根区间定义。若二分后根位于 [a,b] 且 (b−a)/2≤10−6,就报 [a−r,b+r],或以中点为中心、半径 r+10−6。从 [0.23,0.24] 出发,13次更新的半宽为 0.005/213<10−6。

得分可通过整体缩放任意变小,根附近也未提供统一的斜率下界;因此小残差不能直接证明小位置误差。换为 Y=5Z−2 时,方差预算乘25、α 除5、根变为 5μ^−2,统计半径和同一物理精度的求根容差都乘5。

任务三:没有方差预算,但有对称噪声 ​

另一台仪器有独立观测,模型保证各项关于同一个未知中心对称,却不提供已知范围或方差上界。预先固定做12次,读到

8,9,9,10,10,10,11,11,11,12,12,13.
  1. 用 δ=0.05 反演对称自归一化区间
  2. 如果仪器的分布只保证有限方差,能否保留这个区间?给出具体失败分布
  3. 若噪声为 Cauchy,这个区间覆盖什么?若样本数改为7,仍用5%失败概率,如何输出?

核对与推导 ​

均值为10.5,离均平方和为23。令 c2=2log⁡40≈7.3777589,有 12>c2,所以

r=23(2log⁡40)12(12−2log⁡40)≈1.74907820,

得到以10.5为中心的区间,展示端点约为 [8.75092180,12.24907820]。保证来自模型中的独立与对称,不是数据排列的外观。

仅有限方差不够:独立 Bernoulli(0.01) 观测100次时,全零概率 0.99100≈0.366032;错误套对称区间会在此事件上返回零点,而真实均值为0.01。Cauchy 模型下仍可报告对称中心覆盖,但均值不存在,不能把中心改称均值。

若 n=7,则 n≤2log⁡40,反演不等式对所有候选中心成立,应返回整个实轴。把7条记录复制成14行不会创造新的独立信息。

任务四:随过去选择观测,还要控制所有时刻 ​

设候选模型为独立 Bernoulli(0.02)。每次新结果出现前,根据过去决定 Ii∈{0,1},令 Di=Ii(Yi−0.02)。希望对计入数不超过500的整个监测窗口,给出单侧失败概率0.025的累计偏差证书。

  1. 写出 b,Vk,计算精确阈值表达式及其小数
  2. 若已计入500项,至少多少成功会越界?如果按当前结果决定只计入成功,哪条条件被破坏?
  3. 在另一个 b=1 的任务中,累计条件方差观察为13。使用事前规定的分层方案 vj=10⋅2j、δj=0.05/[(j+1)(j+2)],应该读取哪一个预算及阈值?

核对与推导 ​

Di≤0.98,可取 b=0.98,且

Vk=0.02(0.98)Nk=0.0196Nk≤9.8当 Nk≤500.

精确方便阈值为

t=19.6log⁡40+1.963log⁡40≈10.91312838.

Freedman 控制的是存在任意时刻 Sk≥t,Vk≤9.8 的概率。计入500项时,S 等于成功数减10;因此至少21次成功触发越界。整数判定不受上述小数显示舍入影响。

若只计入当前成功,Di=(1−p)Yi,条件均值为 p(1−p)>0,失去鞅差。第三题 13∈(10,20],读取 j=1,预算 v1=20,δ1=1/120,阈值为 40log⁡120+(2/3)log⁡120≈17.03000173。随机预算的合法适应来自所有预设层共同覆盖。

任务五:未知尺度的全时间检验,为什么还不是有界区间 ​

现在观测满足给定过去后关于一个待检验中心 m0 对称,不假设已知幅度、方差或独立性。令 Di=Xi−m0。说明为何固定 λ 的

exp⁡{λSk−λ2Qk/2},Sk=∑iDi, Qk=∑iDi2

是非负上鞅,并用 N(0,1/ρ) 混合。然后回答:将 m0 改成每个候选 m,反演后是否一定得到有限端点的区间?

核对与推导 ​

条件对称使单步指数的条件期望等于

E[cosh⁡(λDi)e−λ2Di2/2∣Fi−1]≤1.

因此固定参数的乘积是合法上鞅;混合给

Mk(m)=ρQk(m)+ρexp⁡{Sk(m)22(Qk(m)+ρ)}.

Ville 允许阈值 1/δ 的全时间检验。ρ 必须预先固定,且这里控制的是整个指数因子,并没有把观测平方和解释为可预测方差。

但对固定有限数据和样本数 n,当 |m|→∞,有 Sn(m)2/(Qn(m)+ρ)→n,而平方根前因子趋零,所以 Mn(m)→0。遥远候选中心会被保留,反演集合有远尾;有限多个时刻取交也不能自动消除它们。因此本支路直接解决已知候选中心的持续检验,不能宣传成未知中心的有界均值置信序列。固定样本的对称反演与这个混合构造承担不同责任。

最终报告:把预算、保证和未解决项分开 ​

一个合格结果应包含:

  • 方差来自何处:总体独立替换预算、事前方差上界、样本残差平方和或可预测条件方差,逐项写清
  • 目标是什么:总体均值、仅有的对称中心,还是候选零假设下的累计偏差
  • 概率量词:预设样本数的一次保证,或预算窗口内所有时刻的联合保证
  • 数值证书:精确公式、输出括区、向外舍入或额外位置容差
  • 结构迁移:换单位、非同分布、依赖、选择与污染分别破坏或保留哪一步

任务二、三、四分别使用失败概率0.01、0.05、0.025。若要三份结论同时成立,不管它们是否独立,现有并集预算只保证至少 1−0.085=0.915。若希望至少95%,可事先重新分配为0.01、0.02、0.02并重算各自程序:Catoni 保持不变;任务三半径约2.51556490;任务四阈值约11.31231841。不要将事后挑选漂亮结论误报成三项都已校准。

进一步的未知尺度自适应、非对称自归一化和重尾鞅估计需要新的假设或构造。本页没有用“已经会一个终点”代替这些问题的证明,也不把现有方法之间的公式相似当作可自由互换的许可。