同一套训练模型交给不同校准资料,可能产出不同的预测集合。若目标是让至少95%的校准资料都产出风险达标的部署规则,就要控制“校准后真实风险超标”这个事件,而不是只控制它在各次校准之间的平均值。
形式陈述
高概率风险与安全后缀
条件于已经冻结的训练结果。取预先固定的有序有限菜单 λ 0 < ⋯ < λ M ,每个参数给出可测预测集合 C λ ( x ) 和 [ 0 , B ] 值损失 L ( λ ; Z ) ,其中 B > 0 。假设损失逐点随参数不增,末动作恒零。对新观测分布定义总体风险 理路 损失函数与总体风险 Loss function · Population risk · Expected risk 损失刻画一次决策的代价,总体风险是未知分布下的平均代价。
R j = E Z L ( λ j ; Z ) , R j + 1 ≤ R j , R M = 0. 校准资料 D = ( Z 1 , … , Z n ) 是来自这个总体的IID样本 理路 独立同分布样本 IID sample · Independent and identically distributed sample 以乘积分布描述来自同一总体的独立重复观测。 ,与未来点独立。固定 0 < α < B , 0 < δ < 1 。假设每个固定 j 有可测上界 U j ( D ) ,满足
(1) P D { R j > U j ( D ) } ≤ δ . 末动作可直接置 U M = 0 。其他 U j 不必联合独立,也不必随 j 单调。定义
对 全 部 (2) j ^ = min { j : U h ≤ α 对全部 h = j , … , M } , λ ^ = λ j ^ . 则
(3) P D { R ( λ ^ ) ≤ α } ≥ 1 − δ . 式(2)要检查从 j 到末端的全部上界,因此称安全后缀选择。它不是从所有参数中找任意一个偶然通过的点。有限网格使最后一个不安全参数存在;本页不以这份离散证明替代连续参数情形的边界与连续性条件。
直觉
若真正风险随参数下降,所有风险超标的参数形成一段开头。尽管我们不知道它的终点,它在总体固定后是一个确定参数。如果选出的安全后缀还误含不安全参数,就一定误判了这段开头的最后一个点。
于是整个选择失败事件被一个确定点的置信界失败覆盖。这是可以共用同一个δ而不乘菜单长度的原因。真正承担作用的是总体风险的单调次序加后缀规则,并不是各个置信区间突然获得了同时覆盖。
完整的有限网格证明
若全部参数已安全,式(3)显然成立。否则令
j ∗ = max { j : R j > α } . 末动作安全,所以 j ∗ < M 。单调性给超标集合恰为 { 0 , … , j ∗ } 。若 R j ^ > α ,就有 j ^ ≤ j ∗ ;式(2)于是迫使 U j ∗ ≤ α < R j ∗ 。因此
{ R j ^ > α } ⊆ { R j ∗ > U j ∗ } , 后一个事件由式(1)控制在δ以内。这里 j ∗ 可以未知,但不能依赖校准资料;其确定性来自先固定总体风险函数。
例子与边界
Hoeffding界把规则变成可运行程序
对每个固定 j,令 R ^ j = n − 1 ∑ i L ( λ j ; Z i ) 。由Hoeffding不等式 理路 Hoeffding 不等式 Hoeffding's inequality 独立有界随机变量和偏离期望的概率以平方偏差的指数速度衰减。 ,可取
(4) U j = min { B , R ^ j + B log ( 1 / δ ) 2 n } , j < M , U M = 0. 因为 P ( R j − R ^ j > t ) ≤ e − 2 n t 2 / B 2 ,式(1)成立;截为 B 不会漏掉范围内的真实风险。逐点损失单调使经验风险与式(4)也单调,所以这个具体实现可直接选择第一个通过项,后面自动全部通过。若改用不保单调的其他置信界,就必须恢复式(2)的后缀检查。
考虑三个嵌套标签集合,其四份校准损失依次为列向量
L ( λ 0 ) = ( 1 / 2 , 1 / 2 , 1 , 0 ) , L ( λ 1 ) = ( 0 , 1 / 2 , 0 , 0 ) , L ( λ 2 ) = 0. 取 α = 0.4 , δ = 0.05 , B = 1 。n = 4 时半径 log 20 / 8 ≈ 0.611937 ,前两个动作均不能取得式(4)的证书,只能使用安全后备。共形风险控制 理路 共形风险控制 Conformal risk control · CRC 在预定有序网格上以有限样本修正校准单调有界损失,通过对称oracle证明期望未来损失受控,并给非单调失效与大概率风险的区别。 在同一资料上会选中间动作,因为它给的是期望风险合同,所需修正不同。
若另有100份真正IID校准观测,恰好得到相同的三个经验均值 0.5 , 0.125 , 0 ,半径约为0.122387,中间动作上界约为0.247387,便可选择它。把四行复制25遍不能当作100份IID资料;复制只改变表的长度,没有增加独立信息。
不检查后缀,逐点置信界可被挑选破坏
设前三个动作的真实损失恒为0.9,末动作恒零,故逐点单调。校准资料还包含三个彼此独立的辅助标记 V j ∼ Bernoulli ( 0.1 ) ,与这些恒定损失同属观测;令
U j = { 0 , V j = 1 , 1 , V j = 0 , j = 0 , 1 , 2 ; U 3 = 0. 每个固定危险动作都满足 P ( R j > U j ) = 0.1 。以 α = 0.5 , δ = 0.1 运行“任意首个单点通过”的规则,只要三个标记至少一个为1,就选择风险0.9的动作,其失败概率为 1 − 0.9 3 = 0.271 > 0.1 。
后缀规则则只有在最后一个危险动作的标记 V 2 = 1 时,才可能选择危险动作,失败概率正好0.1。这个刻意简单的上界不是效率推荐,它隔离了一个逻辑事实:逐点有效的置信界不允许任意事后挑选。
目标风险要写对分母
嵌套预测集合不保证每一种损失都单调。漏失比例通常随集合扩大下降,集合大小惩罚却会上升;F1等组合指标也须单独检查。若目标改为“只在被接受样本中计算错误率”,其总体定义包含接受概率分母,应使用选择性分类 理路 选择性分类与拒绝风险 Selective classification · Classification with reject option · Risk-coverage tradeoff 为可拒绝预测同时定义覆盖率、接受后错误和拒绝成本,推导Bayes拒绝区间与固定覆盖率最优选择,并说明校准保证可保留的筛选范围。 的相应风险,不能把这里的无条件平均损失直接换名。
推论与应用
一个置信层次不能随意翻译成另一个
式(3)把校准资料分为至少 1 − δ 的合格部分与至多δ的失败部分。由于风险不超过 B,粗略地有
E D R ( λ ^ ) ≤ ( 1 − δ ) α + δ B . 这通常大于α。因此本页的高概率合同与CRC的期望合同并非无条件互相推出。若还要指定某个期望预算,可先据这一式调整α和δ,或另用专门的期望风险校准。
同理,式(3)没有条件于每个输入 x;好校准资料上的总体风险仍可能在某些输入群组集中。多群组、多损失或多次重新部署,若要求同时保证,都须进一步分配失败预算。
任意有限菜单可以同时校正,但成本不同
若候选不构成单调菜单,可为每个候选建立失败概率至多 δ / N 的上置信界,N为候选数。用并集界 理路 并集界 Union bound · Boole 不等式 多个坏事件中至少一个发生的概率,不超过各事件概率之和。 ,至少 1 − δ 的概率下所有真实风险同时不超过各自上界。此时才可以在通过的候选中按成本或宽度任意选择,并保留已知安全后备。
Hoeffding实现的半径相应变为 B log ( N / δ ) / ( 2 n ) 。这与有限假设类的同时泛化界 理路 有限假设类泛化界 Finite-class generalization bound 固定假设的集中加上对有限类并集,得到同时成立的风险偏差界。 有相同的菜单规模代价;它不是单调后缀方法无需该代价的同一证明。
给定全部 U j ,从末端反向递推 V j = max ( U j , V j + 1 ) ,即可在 O ( M ) 时间找首个 V j ≤ α 的位置。计算整个经验损失表通常需 O ( n M ) 次评价。若直接用式(4)的单调界,可二分找通过边界,但训练、集合生成和损失评价成本仍须单列。
参考资料
Stephen Bates, Anastasios N. Angelopoulos, Lihua Lei, Jitendra Malik, Michael I. Jordan,Distribution-Free, Risk-Controlling Prediction Sets ,§2 Theorem1,§3.1.1及AppendixA.1。本文将安全后缀论证写成有限网格版本,以确定的最大不安全下标避开连续参数的边界问题;只采用Hoeffding基础实现,不声称已经实现更锐的Hoeffding–Bentkus界。