经验风险的一致收敛

上确界把所有可能的数据依赖输出提前装进同一个好事件。算法看过样本后无论挑到哪一个 $h$，都无法逃出这张统一保护网；逐点收敛缺少的正是这种对选择自由的同时控制。

一致收敛是强而通用的证明路线，但“可学习”在任意损失、算法限制或数据依赖类中并不等于最朴素的双边上确界趋零。算法稳定性可以直接控制特定输出；局部化和单侧论证也会控制更窄的随机量。二元分布无关 0–1 学习中的等价性需要统计学习基本定理的专门条件，不能脱离该设定推广成定义同义词。

逐点收敛不推出一致收敛。令 $D$ 是 $[0,1]$ 上的均匀分布，函数类为所有有限集合的指示函数

对每个预先固定的有限 $F$，有 $P(F)=0$，IID 样本也以概率一从不命中 $F$，所以 $P_m(F)=0$。但看完样本后可选择 $F_S=\{Z_1,\dots ,Z_m\}$，此时 $P(F_S)=0$、$P_m(F_S)=1$，故

几乎处处对每个 $m$ 成立。坏函数随样本移动，正是逐点量词没有控制的选择自由。

统一控制也未必必须是双边绝对偏差。可实现一致学习主要需要证明“总体错误大的规则不可能经验错误为零”，不必精确估计每个规则的风险；这解释了它可能获得 $1/\epsilon$ 而非 $1/{\epsilon }^2$。陈述一致收敛时应写清控制绝对偏差、单侧偏差，还是零经验误差的坏事件。

一致收敛的样本复杂度可定义为最小 $m$，使对所有 $D$ 都有

这是类—损失对的性质；同一个函数类换成无界平方损失后，原有有界 0–1 结论不再自动成立。

经验 Rademacher 方法常先控制该上确界的期望，再用有界差分把随机上确界集中到其期望附近。组合 VC 证明则先把无限限制化成有限标注计数。两者是同一目标的不同上界机制。

对 ERM，一致收敛直接给出两倍统一偏差的类内超额风险界；有限类用并集界，二元 VC 类用增长函数与 Sauer–Shelah，引入实值损失后则常用 Rademacher 复杂度。不同工具都服务同一个随机上确界。

一致收敛也为结构风险最小化提供逐层罚项。若算法稳定性公理库算法稳定性algorithmic stability · uniform stability用训练集中单点替换对输出损失的影响，刻画学习算法的泛化敏感度。能够直接控制输出的 gap，则可以不先证明全类上确界很小。因此一致收敛是一条强大的充分路线，学习问题还可能采用其他证明形式。