全共形预测

分割共形预测公理库分割共形预测Split conformal prediction · 分割保形预测用独立于拟合过程的校准分数秩构造预测集合，在可交换性下保证新响应的有限样本边际覆盖。先冻结模型，让校准点和测试点都站在训练过程之外。全共形采用另一种对称性：把候选测试点也放进训练过程，让全部点共同参与拟合，再用同一把尺子评分。历史点可以重复使用，关键是不能只让历史点享受训练内优势。

只有当候选值恰好是真实的 $Y_N$ 时，增广数据才恢复成真正的可交换样本。此时交换两个点的位置不会改变拟合结果，只会交换相应分数的位置。覆盖证明只需考察这个真实候选值，无需假设所有虚构候选数据也可交换。

图中最后一项始终是候选点的分数。上行有两个分数达到候选分数，下行只有候选点自己达到；是否并列直接决定端点的去留。

均值重拟合：完整反解出 $[-1,3]$ ​

忽略输入，只用截距预测所有响应。历史响应为 $0,1,2$，取 $\alpha =1/4$。加入候选 $y$ 后，四个点共同拟合的均值是 ${\mu }_y=(3+y)/4$，使用绝对残差得到

因为 $p_y>1/4$，候选自身之外至少还须有一个历史分数不小于它。令 $t=y-1$，最大的历史分数为

最后一个等式可按 $t\ge 0$ 与 $t<0$ 分别检查。因此接受条件恰为

在右端点 $y=3$，${\mu }_3=1.5$，四个分数是 $(1.5,0.5,0.5,1.5)$，故 $p_3=2/4>1/4$，端点保留。在 $y=4$，${\mu }_4=1.75$，分数变成 $(1.75,0.75,0.25,2.25)$，故 $p_4=1/4$，候选被拒绝。左端点同理由 $|t|=2$ 保留。

这个计算说明给定这份数据时输出哪个集合。算法在可交换采样下具有至少 $75\mathrm{\%}$ 的边际覆盖；本例含并列，不能据此宣称覆盖恰为 $75\mathrm{\%}$，更不能把覆盖概率解释为固定区间 $[-1,3]$ 对任意响应分布都成立。

对称性保住有效性，却未必保住信息量 ​

设输入和响应各自独立且连续，训练算法记住每个训练输入的标签，在未见输入上输出零。直接用训练残差校准，会因残差全为零而在新输入上输出 $\{0\}$；连续响应落入它的概率为零。全共形若对每个候选重新执行同样的记忆拟合，则候选也被记住，全部残差都是零，$p_y=1$，输出整个 $\mathbb{R}$。这里修复了对称性，但没有得到有用的预测精度。

更一般地，计数至少包含自身，故 $p_y\ge 1/N$。若 $\alpha <1/N$，所有候选都被接受。反过来，一般评分规则下集合未必是区间，也未必能解析求出端点。对连续响应只检查有限网格并返回网格点，不能自动继承原来整个响应空间上的覆盖结论。

含并列分数的秩证明 ​

在真实候选 $(x,y)=(X_N,Y_N)$ 处，记分数为 $S_1,\dots ,S_N$。输入可交换且拟合对排列不变，所以分数向量可交换。给每个分数附上随机数 $U_i$；这些随机数相互独立、均服从 $\mathrm{Uniform}(0,1)$，且整个随机数向量独立于原始数据及分数向量。按 $(S_i,U_i)$ 从大到小排序；它们仍可交换且几乎必然没有并列。记第 $N$ 个点的降序秩为 $R_N$，则 $R_N$ 在 $\{1,\dots ,N\}$ 上均匀。

令 $M_N=\mathrm{\#}\{i:S_i\ge S_N\}$。随机打破并列只会把第 $N$ 个点放在其并列组的某个位置，故逐点有 $R_N\le M_N$。于是对任意 $u\in [0,1]$，

真实候选的计数因此具有p 值的超均匀性质公理库p 值p-value在零假设下校准的证据统计量，其小值事件的概率不超过对应阈值。；取 $u=\alpha$，再对拒绝事件取补集即得覆盖。若没有并列，则 $R_N=M_N$，覆盖为 $1-\lfloor N\alpha \rfloor /N=\lceil N(1-\alpha )\rceil /N$。辅助随机数只用于证明，上述算法本身并不需要随机打破并列。

与候选相关的分位数形式 ​

令 $k=\lceil N(1-\alpha )\rceil =N-\lfloor N\alpha \rfloor$，并令 $q_y$ 为 $S_1^{x,y},\dots ,S_n^{x,y},+\mathrm{\infty }$ 的第 $k$ 个顺序统计量公理库顺序统计量Order statistic有限有序样本排序后第 k 个位置的元素。。则

当 $k\le n$ 时，右侧等价于至少 $n-k+1=\lfloor N\alpha \rfloor$ 个历史分数不小于候选分数，恰好就是左侧计数条件；$k=N$ 时两侧对所有候选成立。这也解释了为何使用非严格分数比较，却使用严格的 $p_y>\alpha$ 接受规则。与分割法不同，$q_y$ 本身随候选改变，不能先用原模型算一次历史残差，再把这个阈值冒充全共形阈值。

有限标签空间可以枚举全部候选。若有 $m$ 个标签，一次对 $N$ 个点拟合的成本为 $T_A(N)$，逐点评分成本为 $c_s$，直接计数的总成本为 $O(m[T_A(N)+N{c}_s])$，不必为了求 $p_y$ 对分数排序。连续回归的难点则常在反解整个集合；均值例子的绝对值结构使这一步可以精确完成。

自测 ​

保持历史响应 $0,1,2$ 和同一拟合规则，把错误率改为 $\alpha =0.2$，集合如何变化？此时 $N=4$，所有 $p_y\ge 1/4>0.2$，所以输出 $\mathbb{R}$。这不是均值估计失灵，而是四个可交换位置提供的离散秩尚不足以排除任何候选。