实验比较:随机核、风险下界与鞅质量表
把“信息更多”写成可以验收的数据,需要同时记住参数行、输出列和后处理方向。这份终点要求交付精确概率表,并让风险或凸函数提供另一侧证据。先读凸序与鞅耦合理路凸序与保持条件均值的耦合Convex order and martingale coupling · Mean-preserving spread · 凸随机序在有限实值分布上,用所有凸函数、有限个折线探针与保持每个源点条件均值的输运表,等价刻画均值不变的分散增加。、Blackwell实验比较理路Blackwell统计实验比较Blackwell comparison of experiments · Blackwell–Sherman–Stein theorem · Blackwell informativeness order对有限统计实验,证明参数无关的随机后处理存在,当且仅当原实验在全部有限决策问题中都不更差,并给出核与分离损失两类证书。、缺陷距离理路Le Cam缺陷距离与决策误差Le Cam deficiency distance · Deficiency of statistical experiments · Randomization theorem for finite experiments在有限实验间最小化统一随机模拟的最坏总变差误差,用有界决策风险的精确对偶及原始—对偶证书核验近似信息保留。;完成后回到本路线。
任务一:分类准确率相同,为什么仍损失了信息
三个参数、三个源输出,实验矩阵为
求一个行随机核,使。核不能根据参数改变。再判断是否可能从准确模拟。最后在均匀先验下比较猜三类参数的–最优风险,并解释为什么这一个风险不足以判实验等价。
解答与证书。 逐列解线性方程,得到唯一的核
三行非负且和为一,直接矩阵相乘得到。唯一性来自。反向若有核使,左边秩至多2,右边秩为3,矛盾。
均匀先验下,最佳正确率是每个输出列的最大参数概率相加,再除以3。给;给,所以两边风险都为。
要交一份具体失败任务,可把先验限在参数1、2,各占一半,并要求区分它们。两行在中的TV为,在中为,最优错误分别为与。因此逆向模拟的有界风险缺口至少为。这里的参数1、2按矩阵行从0开始编号,不能误取前两行。若想使用全支持均匀先验,可把参数0上的两行动损失都设为零,得到风险缺口。
任务二:一份非对称仪器的最坏模拟误差
源实验与完美目标分别为
设后处理在源输出0、1时分别以概率报告参数1。不要只在公平先验下优化。找统一核,使两参数的TV误差最大值最小;再用先验和奖励表交一份同值下界。
解答与证书。 两个误差为
取,即
得到两行分别为和,故上界为。
取先验,奖励。完美目标奖励为1。源实验在输出0处,两行动的未归一化正确质量都为;输出1处,最好选择参数1,正确质量为。因此最高源奖励是,式(10)型对偶下界为。上下相遇,认证。
公平先验的最优分类错误只有,不足以给这个最坏参数下界。请同时验收损失归一化、先验和为一、核行和为一、两项TV,以及两个输出处的最优回应。最终值不是一次模拟试验的错误频率。
任务三:从后验质量表重建真正的随机核
先验为。细后验取,边缘质量为;粗后验取,各占一半。给出的联合表,并据此重建参数到输出的两份实验和后处理核。再找一份损失证明细信号严格更好,即使公平先验下普通二类错误相同。
解答与证书。 以粗后验为行、细后验为列,取
边缘正确;两行的一阶矩分别为,除以行质量后恰为。Bayes公式反推的两份实验为
后处理按细信号的边缘质量归一化的转置,得到
中间细后验值必须抛公平币。它不是把后验武断地舍入到某一侧。
两实验的TV都是,所以公平先验下对称分类错误都为。但取,有,。定义两个行动:行动0的奖励在两参数下都为,行动1的奖励分别为0、1。奖励表为
后验处最优奖励为。因此细、粗实验的最优损失分别为,差为。同一个普通分类任务没有看到的信息,另一份有界决策任务能够看到。
另核。方向是粗到细保持条件均值,而随机核的运行方向是细信号到粗信号,二者不能把矩阵未经转置归一化就互换。
任务四:最省距离的普通耦合为何未必是鞅
源律为,目标律为。按分位数单调配对,得到普通计划
检查它的每一行条件均值。另交两份不同的鞅计划,比较三份计划的平方搬运成本,判断平方成本能否在鞅可行域中选出唯一计划。
解答与证书。 的行条件均值为,不是源值。它保留边缘,却不符合鞅合同。平方成本为。
下面两张不同的表都可行:
逐列质量都是;每行质量为;第一行一阶矩为0,第二行为,故行条件均值为0、1。两份平方成本都为1。事实上,任何鞅计划的平方成本都等于,所以这一目标在整个鞅可行集合上恒定,不能选出唯一计划。
这不违背普通平方输运的最优性:添加逐行重心约束改变了可行集合。也不能由的成本更小,反过来宣称凸序不存在。
最后给一份失败输入:将目标改为,源改为。虽然目标方差更大,的折线比较已经失败;程序应返回这个具体折点,不接受“方差通过”作为鞅计划存在证书。
公开复算与范围
标准库检查程序与固定结果会用有理数核验核、风险、对偶值、后验和鞅表,并在小型二元实验族中独立求原始LP与对偶风险证书。运行时给--output指定自己的目录;普通与优化模式输出应逐字相同。
这些有限复算支持具体证书,不替代正文的分离、有限minimax与线性可行性证明。程序不会由一次分类准确率、方差大小或求解器状态推断一般实验优劣。连续或无限实验、一般高维凸序及任意鞅输运最优算法不在此终点的验收范围内。