Skip to content

算法Algorithm

风险控制预测集合

Risk-controlling prediction sets · RCPS

用逐点风险上置信界和安全后缀选择,在单调有序菜单上给出校准资料层面的高概率风险保证,并区分任意菜单的同时校正。

同一套训练模型交给不同校准资料,可能产出不同的预测集合。若目标是让至少95%的校准资料都产出风险达标的部署规则,就要控制“校准后真实风险超标”这个事件,而不是只控制它在各次校准之间的平均值。

形式陈述 ​

高概率风险与安全后缀 ​

条件于已经冻结的训练结果。取预先固定的有序有限菜单 λ0<⋯<λM,每个参数给出可测预测集合 Cλ(x) 和 [0,B] 值损失 L(λ;Z),其中 B>0。假设损失逐点随参数不增,末动作恒零。对新观测分布定义总体风险

Rj=EZL(λj;Z),Rj+1≤Rj,RM=0.

校准资料 D=(Z1,…,Zn) 是来自这个总体的IID样本,与未来点独立。固定 0<α<B,0<δ<1。假设每个固定 j 有可测上界 Uj(D),满足

(1)PD{Rj>Uj(D)}≤δ.

末动作可直接置 UM=0。其他 Uj 不必联合独立,也不必随 j 单调。定义

(2)j^=min{j:Uh≤α 对全部 h=j,…,M},λ^=λj^.

则

(3)PD{R(λ^)≤α}≥1−δ.

式(2)要检查从 j 到末端的全部上界,因此称安全后缀选择。它不是从所有参数中找任意一个偶然通过的点。有限网格使最后一个不安全参数存在;本页不以这份离散证明替代连续参数情形的边界与连续性条件。

直觉

若真正风险随参数下降,所有风险超标的参数形成一段开头。尽管我们不知道它的终点,它在总体固定后是一个确定参数。如果选出的安全后缀还误含不安全参数,就一定误判了这段开头的最后一个点。

于是整个选择失败事件被一个确定点的置信界失败覆盖。这是可以共用同一个δ而不乘菜单长度的原因。真正承担作用的是总体风险的单调次序加后缀规则,并不是各个置信区间突然获得了同时覆盖。

完整的有限网格证明 ​

若全部参数已安全,式(3)显然成立。否则令

j∗=max{j:Rj>α}.

末动作安全,所以 j∗<M。单调性给超标集合恰为 {0,…,j∗}。若 Rj^>α,就有 j^≤j∗;式(2)于是迫使 Uj∗≤α<Rj∗。因此

{Rj^>α}⊆{Rj∗>Uj∗},

后一个事件由式(1)控制在δ以内。这里 j∗ 可以未知,但不能依赖校准资料;其确定性来自先固定总体风险函数。

例子与边界

Hoeffding界把规则变成可运行程序 ​

对每个固定 j,令 R^j=n−1∑iL(λj;Zi)。由Hoeffding不等式,可取

(4)Uj=min{B,R^j+Blog⁡(1/δ)2n},j<M,UM=0.

因为 P(Rj−R^j>t)≤e−2nt2/B2,式(1)成立;截为 B 不会漏掉范围内的真实风险。逐点损失单调使经验风险与式(4)也单调,所以这个具体实现可直接选择第一个通过项,后面自动全部通过。若改用不保单调的其他置信界,就必须恢复式(2)的后缀检查。

考虑三个嵌套标签集合,其四份校准损失依次为列向量

L(λ0)=(1/2,1/2,1,0),L(λ1)=(0,1/2,0,0),L(λ2)=0.

取 α=0.4,δ=0.05,B=1。n=4 时半径 log⁡20/8≈0.611937,前两个动作均不能取得式(4)的证书,只能使用安全后备。共形风险控制在同一资料上会选中间动作,因为它给的是期望风险合同,所需修正不同。

若另有100份真正IID校准观测,恰好得到相同的三个经验均值 0.5,0.125,0,半径约为0.122387,中间动作上界约为0.247387,便可选择它。把四行复制25遍不能当作100份IID资料;复制只改变表的长度,没有增加独立信息。

不检查后缀,逐点置信界可被挑选破坏 ​

设前三个动作的真实损失恒为0.9,末动作恒零,故逐点单调。校准资料还包含三个彼此独立的辅助标记 Vj∼Bernoulli(0.1),与这些恒定损失同属观测;令

Uj={0,Vj=1,1,Vj=0,j=0,1,2;U3=0.

每个固定危险动作都满足 P(Rj>Uj)=0.1。以 α=0.5,δ=0.1 运行“任意首个单点通过”的规则,只要三个标记至少一个为1,就选择风险0.9的动作,其失败概率为 1−0.93=0.271>0.1。

后缀规则则只有在最后一个危险动作的标记 V2=1 时,才可能选择危险动作,失败概率正好0.1。这个刻意简单的上界不是效率推荐,它隔离了一个逻辑事实:逐点有效的置信界不允许任意事后挑选。

目标风险要写对分母 ​

嵌套预测集合不保证每一种损失都单调。漏失比例通常随集合扩大下降,集合大小惩罚却会上升;F1等组合指标也须单独检查。若目标改为“只在被接受样本中计算错误率”,其总体定义包含接受概率分母,应使用选择性分类的相应风险,不能把这里的无条件平均损失直接换名。

推论与应用

一个置信层次不能随意翻译成另一个 ​

式(3)把校准资料分为至少 1−δ 的合格部分与至多δ的失败部分。由于风险不超过 B,粗略地有

EDR(λ^)≤(1−δ)α+δB.

这通常大于α。因此本页的高概率合同与CRC的期望合同并非无条件互相推出。若还要指定某个期望预算,可先据这一式调整α和δ,或另用专门的期望风险校准。

同理,式(3)没有条件于每个输入 x;好校准资料上的总体风险仍可能在某些输入群组集中。多群组、多损失或多次重新部署,若要求同时保证,都须进一步分配失败预算。

任意有限菜单可以同时校正,但成本不同 ​

若候选不构成单调菜单,可为每个候选建立失败概率至多 δ/N 的上置信界,N为候选数。用并集界,至少 1−δ 的概率下所有真实风险同时不超过各自上界。此时才可以在通过的候选中按成本或宽度任意选择,并保留已知安全后备。

Hoeffding实现的半径相应变为 Blog⁡(N/δ)/(2n)。这与有限假设类的同时泛化界有相同的菜单规模代价;它不是单调后缀方法无需该代价的同一证明。

给定全部 Uj,从末端反向递推 Vj=max(Uj,Vj+1),即可在 O(M) 时间找首个 Vj≤α 的位置。计算整个经验损失表通常需 O(nM) 次评价。若直接用式(4)的单调界,可二分找通过边界,但训练、集合生成和损失评价成本仍须单列。

参考资料
  • Stephen Bates, Anastasios N. Angelopoulos, Lihua Lei, Jitendra Malik, Michael I. Jordan,Distribution-Free, Risk-Controlling Prediction Sets,§2 Theorem1,§3.1.1及AppendixA.1。本文将安全后缀论证写成有限网格版本,以确定的最大不安全下标避开连续参数的边界问题;只采用Hoeffding基础实现,不声称已经实现更锐的Hoeffding–Bentkus界。
关系图谱15 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系