形式陈述
当工具对解释变量的预测很弱时,用两个接近零的量相除,可能产生极不稳定的系数。Anderson–Rubin方法先给一个候选系数b ,把响应改成Y − b X ,再检验工具是否还解释这份残差。它不必先估计一个系数中心,也不必先除以首阶段。
本页的精确高斯实验
给定固定满列秩工具矩阵Z ∈ R n × q ,1 ≤ q < n 。观测X , Y ∈ R n 满足结构方程
(1) Y = β X + u , u ∼ N n ( 0 , σ 2 I n ) , σ > 0. β 与σ 是固定未知参数,X 可以随机,且可与u 相关;本页不要求给定X 后误差仍正态。若Z 本身随机,可以在几乎每个合法Z 上把式(1)读成条件分布u ∣ Z ∼ N n ( 0 , σ 2 I n ) ,并逐个条件应用下述结论。工具的选择不能偷偷使用误差后仍保留这项条件假设。
令P = P Z 是到工具列空间的正交投影 理路 正交投影 Orthogonal projection 把向量映到子空间上最近点并使误差与子空间正交的线性算子。 ,M = I − P ,ν = n − q 。对候选b ,写r b = Y − b X ,使用
(2) F ( b ) = r b T P r b / q r b T M r b / ν . 若分母为0而分子正,约定F = + ∞ ;若二者都为0,约定F = 0 。后一情形恰为r b = 0 ,在真参数处概率为0,但数值算法仍要有确定规则。
给定0 < α < 1 ,令c = F q , ν ; 1 − α 为中心F分布 理路 F 分布 F-distribution · Fisher–Snedecor distribution 两个独立卡方变量分别除以自由度后所得比值的正值分布。 分位数。检验 理路 统计假设检验 Statistical hypothesis test · Test function 在零假设与备择假设之间作出随机化决定,并对零假设下拒绝概率实施一致控制。 H 0 : β = b 时,F ( b ) > c 拒绝,等号接受。反演集合为
(3) C 1 − α = { b ∈ R : F ( b ) ≤ c } . 这里没有要求P Z X 非零,更没有首阶段必须远离零的条件。
精确覆盖为何不依赖首阶段
在真参数b = β 处,r β = u 。取正交矩阵,其前q 列张成Z 的列空间。由多元正态 理路 多元正态分布 Multivariate normal distribution · Multivariate Gaussian distribution · Jointly Gaussian vector 以所有线性组合都正态刻画联合高斯向量,并由特征函数连接线性构造、退化支撑、全维密度与条件分布。 的正交变换,变换后的u / σ 有n 个相互独立的标准正态坐标。因此
u T P u / σ 2 ∼ χ q 2 , u T M u / σ 2 ∼ χ ν 2 , 且两平方和独立。两者除以各自自由度再相除,共同σ 2 约去,所以F ( β ) ∼ F q , ν 。由连续分布,
(4) P β { β ∈ C 1 − α } = P β { F ( β ) ≤ c } = 1 − α . 证明没有对内生X 条件化,也没有使用它与工具的相关程度。只要式(1)保持,改变X 与u 的联合关系不会改变真值处的零假设律。对许多b 作反演也不需要再作Bonferroni修正:覆盖事件只检查其中那个固定真值β 对应的检验。
直接解一个二次不等式
置k = c q / ν 及A = P − k M 。非负平方和使式(3)在上述零分母约定下恰等价于
( Y − b X ) T A ( Y − b X ) ≤ 0 , 也就是
(5) a b 2 + d b + e ≤ 0 , a = X T A X , d = − 2 X T A Y , e = Y T A Y . 这提供全实轴算法,而不是在一个任意有限网格上找未拒绝点。a ≠ 0 时求判别式d 2 − 4 a e 并按开口方向保留全部区间;a = 0 时退化为一次或常数不等式。输出可能是有界区间、两射线、半轴、全实轴、单点或空集,所有有限端点都应按≤ 保留。不要把两射线之间的空白补成“一个大区间”。
直觉
真系数把结构信号完整移到等式左侧,剩下的只有高斯噪声。噪声在工具空间内有q 个方向,在正交补中有n − q 个方向;式(2)比较这两部分的平均平方大小。首阶段弱会让许多不同候选都难以区分,但不会改变真值处的这份比较律。
精确覆盖没有承诺集合一定短、一定非空或一定包含某个点估计。多个工具同时提出限制时,某份资料可能与所有候选系数都冲突。这样的空集合应照实交付,而不是为了看起来像通常区间而返回2SLS周围的一段数值。
例子与边界
一个可以全部手算的双射线集合
取n = 4 , q = 2 ,选正交规范基
e 1 = 1 2 ( 1 , 1 , 1 , 1 ) T , e 2 = 1 2 ( − 1 , − 1 , 1 , 1 ) T , e 3 = 1 2 ( − 1 , 1 , − 1 , 1 ) T , e 4 = 1 2 ( 1 , − 1 , − 1 , 1 ) T . 令Z = ( e 1 , e 2 ) ,当前观察到
X = 1 2 e 1 + e 3 = ( − 1 / 4 , 3 / 4 , − 1 / 4 , 3 / 4 ) T , Y = 3 e 1 + e 4 = ( 2 , 1 , 1 , 2 ) T . 对每个b ,工具空间平方和为( 3 − b / 2 ) 2 ,正交补平方和为b 2 + 1 。两边自由度都是2,所以
F ( b ) = ( 3 − b / 2 ) 2 b 2 + 1 . 由F 2 , 2 的密度( 1 + x ) − 2 ,CDF为x / ( 1 + x ) 。80%临界值恰为4,接受条件为
( 3 − b / 2 ) 2 ≤ 4 ( b 2 + 1 ) ⟺ 15 b 2 + 12 b − 20 ≥ 0. 令b ± = ( − 6 ± 4 21 ) / 15 ,则
C 0.8 = ( − ∞ , b − ] ∪ [ b + , ∞ ) , b − ≈ − 1.6220 , b + ≈ 0.8220 . 2SLS 理路 两阶段最小二乘 Two-stage least squares · 2SLS · TSLS 先用工具变量投影解释变量,再估计结构系数,区分两阶段相同的点估计与必须使用原结构残差的推断。 点估计为X T P Y / ( X T P X ) = 6 ,它落在右射线内;集合还保留了整个左尾。只报告“围绕6”的一段区间会丢掉检验允许的另一支。
多一个工具方向可以让集合为空
保持n , q , Z 与80%临界值,换成X = e 1 、Y = 3 e 2 + e 3 。此时
F ( b ) = b 2 + 9 > 4 , 所以没有任何候选通过。第一工具方向可通过改变b 拟合,第二方向的幅度3却无法由X 解释,导致所有候选都拒绝。空集不能被解释为“参数不确定性为零”;它是这一批资料下整个结构限制族未通过反演。
另一方面,若X = e 3 、Y = e 4 ,所有候选的工具投影都为零,故F ( b ) = 0 、C = R 。这里没有可用于区分b 的工具方向。一个合法结果完全不提供有限范围,也是必须保留的信息。
图片加载失败 Anderson–Rubin的完整接受集合 图底的蓝色箭线是完整接受集合在画面中的部分,箭头表示无界方向,有限根用闭点保留;红线只标临界值,不改变各面板的纵轴尺度。
精确、弱识别与条件覆盖是不同问题
式(4)是原始重复抽样的覆盖。如果再条件于“观察到的集合非空”“只看有界集合”或“首阶段统计量超过阈值”,通常不能继续声称同样的1 − α 。筛选改变了抽样事件,而本证明没有给这种条件覆盖。
一般异方差u 不具有σ 2 I 协方差,两投影平方和未必独立,式(2)也未必是中心F。仅保留E ( Z T u ) = 0 或大样本sandwich,不能得到本页有限样本精确结论。非高斯、相关行、工具由响应筛选等情况,都要为新的检验重新校准。
若结构式还含未知外生控制系数,不能把它们当已知删掉后继续用n − q 自由度。可以建立先投影掉控制空间的版本,但必须重新计数剩余维数并核对完整设计与误差条件;该扩展没有隐含在式(1)中。
推论与应用
与Fieller共有反演思路,实验不同
Fieller比值集合 理路 Fieller 比值置信集合 Fieller confidence set · Fieller ratio interval · Fieller 比率置信集合 在已知正定协方差的联合高斯实验中,不先除以随机分母,精确反演线性对比检验并返回完整的比值置信集合。 在已知正定协方差的二维高斯实验中,检验“分子减b 倍分母”为零,也得到二次不等式。本页另有n 维误差、未知公共方差、多个工具和剩余平方和,临界值来自F q , n − q 。两者都避免先对一个近零分母作线性近似,但不能互换协方差和自由度。
特别是,Fieller页在其合法正定输入下排除了空集;这里q > 1 时,额外工具方向可以留下任何b 都不能消掉的偏差,空集例子已经精确展示这项差异。相同的二次代数外形不等于相同的统计输入合同。
实现与证书
对Z 作薄QR得到Q Z ,算Q Z T X , Q Z T Y ;剩余平方和与交叉项由原始内积减去投影内积得到。形成a , d , e 后,解式(5)即可,不必为每个候选重新回归。密集QR约O ( n q 2 ) ,其他内积约O ( n q ) ,三个系数形成后集合分类为常数次实数运算;计算临界分位数与认证根式符号的精度成本另列。
浮点数接近a = 0 或判别式为0时,应提高精度或给区间证据,不能用任意小阈值把双射线误判为有界区间。因为P Z C = P Z ,任何可逆工具换基Z ↦ Z C 都保持完整集合;这也是实现检查的一个有效恒等式。
矩约束与反演的迁移验收 要求交付每份输入的两投影平方和、自由度、临界值、二次系数、所有分支和边界。得到集合后仍须解释工具的科学有效性;精确检验无法修复错误的结构方程或因果排除限制。
参考资料