稳健统计与影响函数

影响函数把“总体分布中加入极小污染”变成一阶导数：若单个极端点能让导数任意大，估计程序在少量污染下就可能剧烈移动。稳健性因此不是一句“对异常值不敏感”，而是关于污染邻域、损失、尺度和有限样本崩溃方式的成套声明。

均值泛函 $T(P)=\int xdP$ 的影响函数为 $x-\mu$，无界。中位数在密度 $f(m)>0$ 时

有界，所以单个极端数值的影响不会随其大小无限增长。

Huber M-估计公理库M-估计M-estimation · M-estimator通过随机准则的精确或近似极值选择参数，并把样本准则与总体识别目标分开。的 influence 与截断 score 成比例，在正态效率与污染敏感性之间由阈值调节。

M-估计影响函数推导 ​

若位置 M-泛函由

定义，对污染路径求导可得

前提是分母存在且非零。Huber 的 $\psi$ 被截断，所以分子有界；样本均值对应 $\psi (u)=u$，影响随 $x$ 无界。

影响函数还给渐近方差

在适当可微性与二阶矩条件下成立。稳健性和效率因此由同一 influence 形状连接。

数据 $(0,1,2,100)$ 中，均值为 $25.75$；中位数为 $1.5$。把 $100$ 增至 ${10}^6$ 会使均值近似线性爆炸，中位数保持 $1.5$，具体展示 bounded influence 的局部图像与高 breakdown 的有限污染结果。

其他稳健尺度 ​

breakdown point 测量需替换多少比例数据才能把估计推到任意远；gross-error sensitivity 是 influence 上确界。局部 IF 有界不自动给高 breakdown，两个指标回答不同污染规模。

有限样本 replacement breakdown 定义为让估计无界所需最少替换比例。样本均值为 $1/n$，样本中位数接近 $1/2$。但高 breakdown 估计也可能在干净正态模型下效率较低。

边界 ​

影响函数是一阶、无穷小污染分析。有限 $10\mathrm{\%}$ 污染可能需要最大偏差曲线或 breakdown 分析；导数存在也不保证高阶近似准确。

高杠杆回归点的影响同时取决于残差和协变量位置，仅截断残差不能保证稳健。模型、尺度估计和调参也需联合处理。

影响函数只分析 $\epsilon \downarrow 0$ 的局部污染。固定 $10\mathrm{\%}$ 污染需要最大偏差曲线或有限样本 breakdown；导数有界不保证高阶项很小。

自适应调参若由污染数据估计，阈值本身也有 influence。只分析固定尺度、固定阈值的 score 会低估完整算法敏感性。

稳健不是无假设：对抗任意污染会牺牲干净模型效率，且 contamination neighborhood 的选择决定保证。

asymptotic variance 与 influence 的二阶矩相连，但 bounded influence 不保证有限方差：若分母 $E{\psi }^{\prime }$ 接近零，整体 sensitivity 仍可很大。调参应同时检查 gross-error sensitivity 与 model efficiency。

位置 equivariance 要求数据整体平移 $c$ 时估计也平移 $c$；尺度 equivariance 类似。一个常数估计量 influence 为零，看似最稳健，却不满足位置目标的基本 equivariance，也没有有意义的准确性。稳健性不能脱离目标一致性评价。

finite-sample contamination neighborhood 常写为 $(1-\epsilon )P_{\theta }+\epsilon Q$，其中 $Q$ 任意。minimax robust procedure 在该邻域优化最坏风险；influence function 只是 $\epsilon =0$ 的局部导数接口。

回归 leverage 使协变量空间远端点即便残差初始不大也可强烈改变系数。高-breakdown regression 需同时约束 design 与 residual influence；仅使用 Huber loss 主要防 vertical outliers。

报告稳健分析应给 contamination model、tuning constant、scale estimate、breakdown 或 influence 指标，并与经典估计在干净模型下的效率比较。

M-估计公理库M-估计M-estimation · M-estimator通过随机准则的精确或近似极值选择参数，并把样本准则与总体识别目标分开。通过选择有界或缓慢增长的 score 控制局部污染敏感性；Jackknife公理库JackknifeJackknife resampling · Leave-one-out jackknife通过逐一删除观测重新计算统计量，估计其首阶偏差与方差的方法。则从有限样本删除轨迹估计平滑统计量的一阶影响。稳健标准误、sandwich 协方差与高崩溃点方法分别处理不同风险，不能由一个 bounded influence 数值统包。