Skip to content

算法Algorithm

保序概率校准与相邻块合并

Isotonic probability calibration · Pool adjacent violators

在独立校准集上用相邻违反块合并求最优非降概率映射,给出完整执行轨迹、线性时间不变量和累计残差最优性证书。

形式陈述 ​

一个已经训练好的分类器输出分数 s(x)。若相信高分样本的正例机会不低于低分样本,却不相信分数本身已是概率,可以另学一个非降映射 g,把 s 转为 g(s)∈[0,1]。这称为保序概率校准。

固定原分类器后,给定 n≥1 条带标签的校准记录 (si,yi),其中 yi∈{0,1}。先按分数排序;若多个样本分数相同,应先聚成同一个点,因为函数 g 不能给相同输入两个输出。设去重后的分数为

s1<⋯<sm,

第 i 档有正权重 wi 和平均标签 y¯i∈[0,1]。平方损失的保序拟合解

(1)minq1≤⋯≤qm12∑i=1mwi(qi−y¯i)2.

这是带单调约束的经验风险最小化。正权重使目标连续、严格凸,并随 ‖q‖2→∞ 趋于无穷;可行集合非空且闭,因此极小值取得,严格凸性再保证唯一;最终解是若干相邻块上的加权平均,自然落在 [0,1] 内,无需额外裁剪。[1, §3]

给未在校准集中出现的分数预测时,还须选定延拓方式,例如相邻已拟合分数之间采用右连续阶梯、两端延用端点值。式 (1) 只确定观测分数处的值,不唯一决定空隙中的整条函数。

直觉

某一低分档的经验正例率高于后一高分档时,单独照抄这两个频率会破坏排序假设。保序拟合把这两档暂时视为同一概率层,合并其样本并取平均。如果合并后的新层又低于左边一层,就继续向左合并。

它不强迫概率随分数严格上升:一些相邻分数可以被压到同一平台。平台意味着校准数据不足以在单调限制下把这些档可靠地区分,而不是证明它们的真实风险必然完全相等。

例子与边界

相邻违反块合并如何执行 ​

PAV 算法维护一个从左到右的块栈。每块保存起止位置、总权重 W、加权标签总和 T 和均值 T/W。

  1. 读入下一档,把它作为单点块压栈
  2. 若栈顶左块均值大于右块均值,弹出两块,合并其 W,T 后重新压栈
  3. 重复第 2 步,直到栈上相邻均值不再下降,再处理下一档
  4. 全部读完后,把每块均值赋给块内所有位置

等权例子按分数顺序取标签

0,1,0,0,1,1.

前两点形成均值 0,1。第三点为 0,于是合并位置 2,3,得到均值 1/2。第四点又为 0,把刚才的双点块和第四点合并,得到三点均值 1/3。第五、第六点为 1,无需再合并,最终

q^=(0,1/3,1/3,1/3,1,1).

式 (1) 不计 1/2 的平方损失总和为

(1−1/3)2+2(0−1/3)2=23.

直接保留原标签的损失虽为零,却不是可行的非降序列;把所有点报成总体均值 1/2 虽可行,损失为 3/2,又过于粗糙。

为什么合并结果是全局最优 ​

仅说“违反就平均”还不足以证明最优。PAV 的一个关键不变量是:对每个最终块 [a,b],其均值记为 v,则块内任意前缀满足

(2)∑i=akwi(y¯i−v)≥0(a≤k<b),∑i=abwi(y¯i−v)=0.

单点块满足它。合并均值 vL>vR 的两个块时,新均值介于两者之间。落在左块中的前缀,由旧前缀不等式加上非负的 vL−v 项得到;越过左块的前缀,可改看右块剩余后缀:旧块的前缀非负使后缀非正,再加上 vR−v≤0,仍非正。整块总和为零,于是新前缀非负。不变量随每次合并保留。

令

λk=∑i=1kwi(y¯i−q^i),λ0=λm=0.

各块总残差为零,式 (2) 给出 λk≥0;若相邻拟合值严格上升,k 必为块边界,故 λk=0。这正是单调约束的KKT 证书,但还可以直接展开验证。

对任意非降可行序列 q,令 vi=qi−q^i。目标之差为

L(q)−L(q^)=12∑iwivi2+∑iwi(q^i−y¯i)vi=12∑iwivi2+∑k=1m−1λk(qk+1−qk)≥0.

最后一步利用分部求和,以及 λk(q^k+1−q^k)=0。正权重使第一项只在 q=q^ 时为零,证明唯一最优。它体现了严格凸性,并不依赖挑选某个局部合并顺序后碰巧得到好结果。

时间成本与统计边界 ​

每个输入块压栈一次,每次合并把块数减少一。合并最多 m−1 次,所以排序后算法为 O(m) 时间、O(m) 空间;若原始分数未排序,通常先付 O(nlog⁡(n+1)) 比较排序成本(权重与均值运算按单位成本计)。同分数的聚合也必须先完成,不能依任意平票顺序给同一分数不同概率。

这个保证是对当前校准集的最优拟合。它不是总体概率校准的有限样本保证。小数据可产生大量不稳定平台,端点全零或全一还可能给新样本带来很大对数损失。额外平滑、裁剪或正则化可以另作设计,但会改变这里精确求解的问题。

推论与应用

保序映射保留弱排序,却可能制造平票。它通常比单参数温度缩放灵活,也需要更多数据支撑这份灵活性。如果原分数对真实风险的排序本来就错,任何非降后处理都无法任意颠倒它。

应按照数据角色分离先训练原模型,再拟合校准映射,最后用未参与这两步的数据评价。不能让原模型在同一批样本上先过拟合出极端分数,再把那些训练标签拿来证明校准有效。

参考资料
关系图谱9 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系