用来源分类估计密度比

某种输入在目标样本里很常见、源样本里罕见，它更容易被来源分类器认作目标。将这个后验概率转成赔率，再除去我们自己设定的来源先验赔率，就恢复两个人群的相对出现频率。

分类器需要输出有概率意义的数，而不仅是“源或目标”。将0.51改成0.99，来源类别都仍判为目标，但赔率从约1变成99；同样的分类正确率可以对应完全不同的风险权重。

不平衡来源样本的精确换算 ​

沿用两个人群：源的 $P_S(X=0)=4/5$、$P_S(X=1)=1/5$；目标反过来为 $1/5,4/5$。取两倍于目标数量的源样本，故 $\rho =1/3$。准确的来源后验为

式(1)的先验系数是2，因此

两层条件错误率分别为 $1/10,9/10$ 时，目标风险为

若漏掉先验系数2，权重整体少一半，普通加权均值会趋于0.37。把样本权重再归一化可能消掉这次共同倍数错误，但已经换成比率估计；它不能保证修复随输入变化的权重误差。

若估得 $\hat{e}(0)=1/10,\hat{e}(1)=3/5$，则 $\hat{w}=(2/9,3)$，加权风险的总体极限变为

偏差为 $-41/225\approx -0.18222$。即使独立评价样本无限多，也只会更准确地估计这个错误权重下的量。

来源概率总体校准也可能不够 ​

永远报 $\hat{e}=\rho =1/3$ 的来源模型，确实满足总体概率校准理路概率校准与可靠度Probability calibration · Reliability diagram用条件正例率等于报告概率定义概率校准，计算可靠度与分箱误差，并区分校准、边际均值、分类一致性和分辨力。：所有点被放进同一个分数档，该档的目标比例就是1/3。但它给出的权重恒为1，完全丢掉本例的输入组成变化。

因此需要的是足够准确的 $e(x)$，或能控制所关心风险的密度比误差；粗分数的总体校准不能替代输入层面的后验拟合。来源模型的可靠度、分辨力和分布覆盖要分别检查。

接近一时的非线性放大 ​

对固定 $\rho$，令 $c=(1-\rho )/\rho$。直接通分可得

若真实和估计来源概率都不超过 $1-\epsilon$，则 $|\hat{w}-w|\le c{\epsilon }^{-2}|\hat{e}-e|$。这是有分母下界时的稳定性，不是全空间自动成立的常数。

例如 $\rho =1/2$，$e=0.99$给 $w=99$，$\hat{e}=0.98$给 $\hat{w}=49$；概率只差0.01，权重却差50。把概率裁剪到0.95会将权重压到19，降低波动但引入额外截断误差。不能用裁剪后的有界性宣称真实权重本来有界。

独立风险评价的误差账本 ​

设原任务模型 $h$及来源模型 $\hat{e}$由其他资料拟合并冻结；另有 $n\ge 1$个与上述拟合资料独立、来自源分布的IID验证样本 $Z_1,\dots ,Z_n$。假设 $0\le L_h\le 1$，以及实际返回的 $0\le \hat{w}\le W<\mathrm{\infty }$。定义 $P_{n}f=n^{-1}\sum _{i}f(Z_i)$。条件于全部拟合结果，恒等分解为

第一项是验证抽样误差。对取值区间 $[0,W]$ 使用Hoeffding不等式理路Hoeffding 不等式Hoeffding's inequality独立有界随机变量和偏离期望的概率以平方偏差的指数速度衰减。；第二项用 $L_h\le 1$。对 $0<\delta <1$，以至少 $1-\delta$的条件概率，

若有独立理论或证据保证最后一项至多 ${ϵ}_w$，才能把它换成可报告的数值界；单看当前权重的直方图并不能知道该项。若该误差保证本身仅以概率 $1-{\delta }_w$成立，则用并集界将总失败概率记为 $\delta +{\delta }_w$。

本例错误权重的 $L^1(P_S)$误差为

确实大于实际风险偏差 $41/225$。取 $W=3,n=10000,\delta =0.05$，抽样半径约0.04074；仅有这份粗权重证据时，总上界仍约0.26297。增大验证集只会缩小第一项。

数据复用与下一步选择 ​

独立拟合权重不会自动消除其偏差，但允许式(3)中清楚地区分两类误差。若权重分类器见过这些验证输入，即使没有见到任务标签，$\hat{w}(X_i)$也依赖评价样本，不能原样使用条件IID的证明。可重新划分资料，或构造逐折交叉拟合并分别分析每个折；交叉拟合不会凭空证明权重准确。

用估计权重调参时，权重学习也属于被评价的整体流程理路嵌套交叉验证的执行协议Nested cross-validation protocol · Nested model evaluation protocol对重复实体资料逐层隔离拟合、校准、调参与评价，完整复算内层选择、外层损失和实际拟合次数。。若只想修正预测集合的覆盖，加权分割共形理路协变量漂移下的加权分割共形Weighted split conformal prediction · Covariate-shift weighted conformal将源校准分数与测试点的无穷大原子按密度比加权，证明目标边际覆盖，并用总变差量化独立估计权重的偏差。还需要测试点自身的权重和相应秩构造；风险加权平均并不等于覆盖修正。

来源分类的训练成本取决于实际模型，不能只报一个统一线性复杂度。训练后，对每个验证点进行一次来源概率预测、一次赔率换算和一次任务损失计算；若有 $n$个验证点，纯汇总是 $O(n)$，内存可逐点累计。

自测与答案 ​

1. 训练来源分类器时将两类重采样到等大，该用哪个先验？用实际平衡目标的 $\rho =1/2$，并确认输出概率确实对应它；不能继续按原文件数量换算。
2. 保持 $\hat{e}$不变，把独立验证样本增大100倍，式(4)哪项缩小？抽样项缩小10倍，权重偏差项不变。