稳健统计与影响函数

把每个观测看成对估计结果施加的一次推力。均值允许数值越极端的观测施加越大的推力；中位数主要关心一个点落在中心哪一侧，点从 $100$ 移到 ${10}^6$ 不会持续增加这份推力。影响函数把这个区别量化成关于 $x$ 的曲线。

但“每个点的推力被截断”仍要相对于总体的恢复力来衡量。如果总体在中心附近几乎没有质量，中心位置稍微移动，也难以从数据中察觉；同样大小的污染就可能造成较大的位移。因此不能只检查估计方程的分子，还必须检查分母所反映的局部识别能力。

均值、中位数与一次实际替换 ​

若 $P$ 有有限均值 $\mu$，则

当允许污染点遍历实数时，这个影响函数无界。

设 $P$ 的中位数 $m$ 唯一，分布函数在 $m$ 附近有连续密度且 $f(m)>0$。固定 $x>m$，取足够小的 $\epsilon$，新的中位数 $m_{\epsilon }$ 仍在 $x$ 左侧，所以满足

对 $\epsilon$ 在零处求导，得到 $-1/2+f(m)m_0^{\prime }=0$。同理，$x<m$ 时导数为 $-1/(2f(m))$。因而

在 $x=m$ 处取值为零；连续分布下这个单点也不影响二阶矩。中位数的粗差敏感度是 $1/(2f(m))$，并不随着污染点离中心更远而增大。

对数据 $(0,1,2,100)$，均值是 $25.75$，以中间两数平均定义的样本中位数是 $1.5$。只把 $100$ 替换为 ${10}^6$，均值变为 $250000.75$，中位数仍为 $1.5$。这是有限样本替换的直接计算；它与总体影响函数说明的方向一致，但两者的污染规模不同，不能把这次 $1/4$ 比例的替换当成无穷小导数。

位置估计方程的分母从哪里来 ​

先固定尺度和调节参数。设位置泛函 $t=T(P)$ 是估计方程

的局部唯一解。假定可沿污染路径对解求导、可交换求导与积分，且

存在且非零。把污染后的解记作 $t_{\epsilon }$，则

求导后，原估计方程使常数项消失，留下

Huber 选择 ${\psi }_c(u)=max(-c,min(c,u))$，其中 $c>0$。若 $P$ 在截断点 $t\pm c$ 无原子，则 $A_P=P(|X-t|<c)$；在上述正则条件下，只要这个概率为正，就有 ${\gamma }^{\ast }(T,P)\le c/A_P$。相比之下，均值使用 $\psi (u)=u$，其分子本身无界。Huber 的截断得分来自凸损失 ${\rho }_c$，所以零得分根确实是相应准则的全局极小点。即使 $E|X|=\mathrm{\infty }$，也可使用中心化总体准则 $E[{\rho }_c(X-u)-{\rho }_c(X)]$：损失的 $c$-Lipschitz 性将被积差的绝对值限制在 $c|u|$ 内，保证它有限。一般 $\psi$ 的根则未必对应极小点，前面的导数计算只依赖估计方程及已声明的局部正则性。这个推导对应 Stahel 课件 §4.2 的影响函数公式。

小而非零的 $A_P$ 会让界很大，但界仍有限，二阶矩也仍有限。若 $A_P=0$，就不能使用这个除法表达式；必须重新分析解的存在性、局部唯一性和变化尺度，不能把“除以零”当成已经证明了某个影响函数。

固定分布的有限方差与整族分布的无统一界 ​

考虑 $P_s=N(0,s^2)$，$s>0$，并用中位数估计中心。这里

每个固定 $s$ 都给出有界影响函数和有限二阶矩；当 $s\to \mathrm{\infty }$ 时，这两个数却都可以发散。问题是分布族没有统一尺度控制，而不是某个固定分布下“有界影响函数仍有无限方差”。在标准正态模型 $s=1$ 下，样本均值的渐近方差系数为 $1$，中位数为 $\pi /2$，也展示了这里为局部抗污染能力付出的效率代价。

影响函数没有覆盖哪些风险 ​

有限样本的替换崩溃点，是把估计结果推到任意远所需的最少替换比例。均值只需替换一个点，崩溃点为 $1/n$；通常的样本中位数接近 $1/2$。在前面的四点样本中，替换一个点不能让中间两数的平均无界，但把两个点都替换成趋于正无穷的数就可以，因此该样本的中位数替换崩溃点为 $1/2$。这是有限污染问题，局部影响函数有界并不自动给出同样的崩溃点结论。

固定比例（例如 $10\mathrm{\%}$）的总体污染可以写成 $(1-\epsilon )P+\epsilon Q$，其中 $Q$ 任意。此时需考察整个污染邻域上的最大偏差或风险；在 $\epsilon =0$ 的导数有界，不保证高阶余项在 $\epsilon =0.1$ 时很小。

回归还要防范高杠杆点：典型估计方程含有 $x\psi (y-x^{\mathrm{\top }}\beta )$，即使残差函数 $\psi$ 被截断，协变量 $x$ 仍可能无界。因此只截断残差，不能保证回归系数的影响函数有界。若尺度和阈值也由数据估计，还需要分析它们如何随污染变化。

此外，恒等于零的估计规则也有零影响函数，却无法正确追踪位置参数。位置估计通常还要求数据整体平移 $a$ 时结果也平移 $a$，并在目标模型上估计正确的中心。稳健性必须与估计目标一起评价。

分组均值中位数估计理路分组均值中位数估计Median-of-means estimator · MoM 均值估计将独立样本分成不相交的组，先平均再取中位数，以有限方差取得依赖置信度的均值误差保证，并明确组数、余数和尺度条件。在干净 IID、有限方差条件下为总体均值提供有限样本高置信误差界。本页的影响函数则量化无穷小污染下目标的导数；有界局部影响不自动给出那种置信界，而干净重尾分布的分组保证也不自动容许任意对手污染。

从局部导数走到渐近正态还需要一步 ​

设 $X_1,\dots ,X_n$ 独立同分布于固定的 $P$，$P_n$ 为经验分布。要用影响函数计算渐近方差，一组明确的充分条件是估计量具有渐近线性展开

且 $E_P[\mathrm{IF}(X;T,P)]=0$、$V_P=E_P[\mathrm{IF}(X;T,P{)}^2]<\mathrm{\infty }$。当 $V_P>0$ 时，把等式乘以 $\sqrt{n}$，和式由中心极限定理理路中心极限定理Central limit theorem适当归一化的独立随机变量和在分布上趋于正态分布。收敛，再由Slutsky 定理理路Slutsky 定理Slutsky's theorem依分布收敛随机量与依概率收敛常量组合时，和、积与合法商保持相应分布极限。消去依概率趋零的余项，得到

若 $V_P=0$，零均值与零二阶矩使影响函数几乎处处为零，展开直接给出同一个退化极限；构造通常的标准化正态区间还需 $V_P>0$ 及一致的方差估计。仅仅对每个固定污染点求出了导数，尚未控制随机经验分布方向上的余项，因而不足以推出这段结论。Stahel 课件 §4.2–§4.3 将线性化与方差公式相连；实际应用必须为所用估计量验证相应的正则条件。

样本分位数渐近理论理路样本分位数的渐近线性化Sample quantile asymptotics · Bahadur representation for a sample quantile在目标分位附近密度连续且为正时，经验分位的随机逆可线性化，余项由局部经验分布振荡控制。具体完成这一步：先定位经验分位的根号样本量尺度，再用局部经验 CDF 振荡控制证明随机逆映射的余项可忽略。这样才能从分位泛函的一阶响应走到实际样本分位数的渐近正态。

在这些条件成立时，M-估计的方差系数成为 $E_P[\psi (X-t{)}^2]/A_P^2$。这让阈值选择同时关联污染敏感度与干净模型下的效率。Jackknife理路JackknifeJackknife resampling · Leave-one-out jackknife通过逐一删除观测重新计算统计量，估计其首阶偏差与方差的方法。可从平滑统计量的删一观测变化估计一阶影响，但对非光滑规则不能未经检查直接套用。报告稳健结果时应说明污染模型、固定或估计的尺度、调节参数，以及使用的是局部敏感度、崩溃点还是抽样方差。

自测：把正态位置模型的尺度由 $s=1$ 改成 $s=2$，中位数的粗差敏感度和渐近方差系数分别乘以多少？这是否否定“有界影响函数蕴含有限二阶矩”？核对答案：分别乘以 $2$ 和 $4$；两个固定模型下二阶矩都有限，变化的是界的大小，不是有限性。

点污染路径刻画异常观测的局部敏感性；模型内的光滑得分路径则用来比较正则估计量的效率。半参数效率理路半参数效率与有效影响函数Semiparametric efficiency · Efficient influence function · Canonical gradient · 典范梯度用可微子模型的得分空间刻画正则估计的首阶方差界，并完整求出随机缺失均值的有效影响函数。说明两者如何通过渐近线性接口相连，并以切空间投影识别最低首阶方差。它另需核对路径导数、正则性及模型允许的变化，不能仅由某条点污染曲线推出。

平滑灵敏度理路平滑灵敏度Smooth sensitivity以随邻接缓慢变化的局部灵敏度上包络选择数据依赖噪声，避免噪声尺度本身突然泄露数据。也研究统计量对数据变化的响应，但它使用有限数据库上的相邻修改，而非分布污染方向的无穷小导数。它在邻接距离上对局部灵敏度取指数衰减的上包络，使数据依赖噪声尺度本身缓慢变化。一个估计量的影响函数有界，不会自动完成这个全数据库隐私证明。

比较局部影响与有限替换 ​

有限样本替换崩溃点理路有限样本替换崩溃点Finite-sample replacement breakdown point明确最少破坏比例的约定，精确计算奇偶中位数和截尾均值，并区分局部影响与全局污染。精确区分最少失败比例与最大可承受比例，证明奇偶中位数、上下中位数和截尾均值的门槛；它还用同一个方差切换泛函展示有界局部影响仍可伴随 1/n 的替换崩溃点。