标签漂移与先验恢复

每个真实类别提供一列固定的“预测指纹”。目标预测比例是这些列按未知先验混合的结果。如果两类指纹不同，混合比例可能由结果反推；如果完全相同，观察再多预测也看不出哪一类更多。

预测器不必很准确或已做概率校准理路概率校准与可靠度Probability calibration · Reliability diagram用条件正例率等于报告概率定义概率校准，计算可靠度与分箱误差，并区分校准、边际均值、分类一致性和分辨力。。一个总把两类颠倒的预测器，混淆矩阵反而可逆；一个总报多数类、准确率很高的预测器却可能丢掉全部先验信息。这里要的是不同类别能否产生可区分的输出分布。

从两张计数表恢复先验与风险 ​

在独立源验证集中，真实零类100个，预测为零80个、为一20个；真实一类100个，预测为零10个、为一90个。目标100个无标签输入中，31个预测为零、69个为一。暂把相应频率当作准确总体量，得到

令 $p={\pi }_{T1}$。第一行给 $0.31=0.8(1-p)+0.1p$，故 $p=0.7$，目标先验为 $(0.3,0.7)$。第二行复核 $0.2\cdot 0.3+0.9\cdot 0.7=0.69$。源先验为 $(0.5,0.5)$ 时，标签权重是 $(0.6,1.4)$。

采用0–1损失理路损失函数与总体风险Loss function · Population risk · Expected risk损失刻画一次决策的代价，总体风险是未知分布下的平均代价。，$f$ 在零类的错误率为0.2，一类为0.1，所以源风险是0.15，目标风险是

若假阴性的成本是5、假阳性为1，则同一个分类器的目标成本改为 $0.3\cdot 0.2+5\cdot 0.7\cdot 0.1=0.41$。恢复先验后仍要说明评价哪一种损失。

病态：可逆却把小误差放大 ​

一般二分类矩阵可写成

$\det C=a-b$。取 $a=0.51,b=0.49$，真实 $p=0.7$ 对应 $q_0=0.496$。若只将目标比例误估为0.498，恢复值就变成0.6；目标频率误差0.002被放大为先验误差0.1。再取 ${\hat{q}}_0=0.48$，解会变为1.5，已离开概率单纯形。

精确矩阵下，$|\hat{p}-p|=|{\hat{q}}_0-q_0|/|a-b|$。矩阵也要估计时，令 $\hat{C}\hat{\pi }=\hat{q}$，直接相减得到

只要 $\hat{C}$ 可逆，这就是精确等式；任意相容范数再给误差上界。增加目标无标签量只能缩小第一项，源混淆矩阵的误差仍在。有限样本的负分量可能来自采样波动、病态或模型错设，不能只凭一次越界便宣布标签漂移假设为假。

奇异：预测摘要不识别与完整数据不识别 ​

若 $a=b=1/2$，两列相同。无论目标先验是 $(0.9,0.1)$ 还是 $(0.1,0.9)$，都有 $q=(0.5,0.5)$。给这个方程使用伪逆，可以挑出一个解，却没有增加识别信息。

还需分清两层结论。若 $X$ 本来能区分类别，只是 $f$ 把信息丢掉，换更有信息的分数或分箱有机会改善矩阵。若进一步令 $K_0=K_1$，完整目标输入分布也与先验无关：两个世界有相同源有标签律、相同目标无标签律，却有不同先验。这时任何仅使用这些资料的方法都无法恢复目标先验，需要目标标签或其他额外信息。

源中某类概率为零，则该列条件分布不能由源资料估计。即使目标有很多无标签输入，既有公式也不能凭空补出未知列。类覆盖、矩阵可逆、数值稳定是依次需要回答的三个问题。

给概率作先验修正 ​

若已知源后验 ${\eta }_S(x)=P_S(Y=1\mid X=x)$，Bayes公式给

在目标几乎处处、分母为正处理解。例如 ${\eta }_S(x)=0.6$，$w=(0.6,1.4)$，得到 ${\eta }_T(x)=0.84/(0.84+0.24)=7/9$。总体校准理路概率校准与可靠度Probability calibration · Reliability diagram用条件正例率等于报告概率定义概率校准，计算可靠度与分箱误差，并区分校准、边际均值、分类一致性和分辨力。的分数 $S$ 也可用同一公式修正其 $P(Y=1\mid S)$，因为固定分数的类内分布随 $X\mid Y$ 一起保持不变；所得是基于分数的信息，不一定等于基于完整 $X$ 的后验。未经校准的原始分数则不能直接当作式(4)的源后验。

对任意固定预测器 $h$，类内平均损失记作 $r_j=E_S[\ell (h(X),Y)\mid Y=j]$，便有

用同一份目标摘要估计先验、挑模型、又宣布最终独立测试性能，会再次产生选择问题。修正方法本身也应进入完整评价协议理路嵌套交叉验证的执行协议Nested cross-validation protocol · Nested model evaluation protocol对重复实体资料逐层隔离拟合、校准、调参与评价，完整复算内层选择、外层损失和实际拟合次数。，最终目标标签审计能检查迁移假设是否合理。

约束解与诊断 ​

有噪声时可求 $\underset{\pi \ge 0,{\mathbf{1}}^T\pi =1}{min}\Vert \hat{C}\pi -\hat{q}{\Vert }_2^2$，明确返回受约束估计与残差。它保证数值是概率，不保证无偏，也不修复奇异情形。二分类准确总体模型要求 $q_0$ 落在 $a,b$ 之间；多类要求目标输出向量落在混淆列向量的凸包内。落在凸包内只说明摘要相容，不能证明完整类内分布不变。

若有 $n$ 个源验证点、$m$ 个目标点，先付 $n+m$ 次固定预测，再在线性时间累计计数；两类只需常数次求解。多类 $k$ 的一般稠密线性求解另需 $O(k^3)$，但最重要的成本往往是取得足够的稀有源类标签。

自测与答案 ​

1. $a=0.1,b=0.9,q_0=0.66$，虽然预测器经常颠倒类别，先验能恢复吗？能，$p=(0.1-0.66)/(0.1-0.9)=0.7$。
2. 源先验 $(0.8,0.2)$、目标先验 $(0.4,0.6)$，权重是否为 $(0.4,0.6)$？不是，应该为 $(1/2,3)$；源概率乘权重才得到目标概率。