“条件随机化检验也消费已知协变量条件律,但它为某一项假设生成多次条件参考分数,输出一个校准p值。本页生成一套逐对联合可交换替身后,以符号结构控制整个选择集。两个流程对复制的要求、计算次数和输出…”
形式陈述
参考分布由哪一份知识提供
观测
目标零假设是
条件独立保证在给定其余变量后,响应不再改变被检验坐标的规律。响应本身可以二元、离散或连续,不必规定回归函数。核必须是相对于真实总体的条件律,不能只要求一个估计模型能拟合观察数据。
记被检验数据列为
新随机数独立于原观测。将各列分别放回其余列不变的矩阵,应用同一个预先规定的可测评分规则
输出
在
因此拒绝规则
M可以事先固定,也可以只由背景B确定;后者在条件化后仍是固定整数。根据观察到的
直觉
把其余协变量和响应保留不动,问:“如果这一列在给定背景后确实不携带额外响应信息,它还会怎样变化?”已知条件核给出合法的替代列。原列与这些列在零假设下具有同样地位,于是原分数的相对秩可以校准。
条件化不是把所有变化都消掉,而是保留背景已解释的关联。某个协变量与响应在边缘上高度吻合,也可能完全由另一个变量解释;这时复制列仍应该保留这种吻合频率。把整列随便洗牌可能恰好破坏了应当保留的结构。
本页与置换检验共享秩思想,参考分布却不必来自一个均匀的有限置换轨道。它也不假设观察研究真的随机分配过该变量;这里的随机化是模型提供的条件模拟,不能由此直接推出因果解释。
例子与边界
背景使正确参考远离均匀洗牌
设各行独立,
在四行中观测到
若误把两个0与两个1在四个位置均匀重排,六种不同列中只有一种全匹配,就会报告
失败也会体现在无条件level:四行Z恰有两个1的概率为
增加洗牌次数不能修复这个问题,因为错的是参考律。正确有限枚举应给每个
分辨率与并列
式(3)的最小值是
例如M=9、原分数4,模拟分数为
冻结一次不对称拟合可以使错误率为一
取
问题不是模型太复杂,而是原列被用于挑选h,复制列没有经历同一个流程。如果每份输入都重新运行同一记忆式训练,再在自己的训练点评分,则全部分数都为1,p值为1,校准恢复但没有功效。另一种合法办法是使用与当前样本独立的外部训练资料;条件于外部资料后,评分对全部列相同。
随机拟合也要保持对称:各份数据使用同分布独立种子,或使用一份独立共同种子且条件于它仍为相同函数,都可建立可交换性。只为原列多试几个种子、选最好结果再与单次复制比较,则没有这项保证。
推论与应用
先证明列的条件同分布,再证明秩
在
几乎处处。IID行使给定B后的原列服从式(2)的乘积核。原列与M个新列因此条件IID;应用同一评分函数,得到条件可交换分数
令N=M+1。对任意已经固定的分数向量,定义每个位置的保守大值秩
对每个整数
用可交换性把各位置的概率平均,并注意
这直接验证式(3)是一项超均匀p值,并完整包含离散分数与并列。给背景再取期望即可得到无条件level。
预算与评分流程都是算法输入
合法实现可以逐列生成:保存
一个错误的停止规则是:保留同一个连续原分数
单项有效不自动解决全部选择问题
对多个j分别运行CRT,会得到各自有效的边缘p值;这些p值一般相互依赖。是否能使用普通BH,应另核其依赖条件,不能从各项式(4)直接推出。已有任意依赖多重检验规则可按自己的合同组合这些p值;那是额外的选择步骤。
图左采用完整终点中不同背景概率的四行模型,并进一步条件于总数为二;每种允许列仍需保留自己的权重。图右则对四个真零符号反复作Knockoff+,最后挑有发现的一次:单次合法并不自动校准这个额外选择。两边分别改变了参考条件与报告流程。
Model-X Knockoff改为构造一套在各原/替身对之间联合可交换的数据,再以符号阈值直接控制整个选择集。CRT只需被检验单列的真实条件核,Model-X需要一套兼容的联合复制机制。两者都能处理任意响应核,但核输入与误差输出不能混写。
参考资料
- Emmanuel Candès, Yingying Fan, Lucas Janson and Jinchi Lv, Panning for Gold: Model-X Knockoffs for High-dimensional Controlled Variable Selection, arXiv:1610.02351v4, 2017,§4 Algorithm2和Lemma4.1:条件协变量重抽样及加一p值。本文完整展开有限秩计数,并给非均匀背景与冻结训练的反例。
- Jesse Hemerik and Jelle Goeman, Exact Testing with Random Permutations, TEST 27, 2018, pp. 811–825,随机参考与保守秩的相关讨论;置换群的模型假设与本页条件核不同。