形式陈述
有三个或更多独立组时,怎样把两组秩比较扩展成一个整体检验?设 个组相互独立,第 组有 个独立同分布观测公理库独立同分布样本IID sample · Independent and identically distributed sample以乘积分布描述来自同一总体的独立重复观测。,总样本量 。Kruskal–Wallis 检验公理库统计假设检验Statistical hypothesis test · Test function在零假设与备择假设之间作出随机化决定,并对零假设下拒绝概率实施一致控制。的原假设为
先假设共同分布连续,因而没有并列。把全部观测合并,按大小顺序公理库顺序统计量Order statistic有限样本按键排序后第 k 个位置的值,保留重复出现的次数。赋秩 ,记第 组秩和为 、平均秩为 。定义
大时拒绝共同分布假设。有限样本可按保持组大小的标签置换公理库置换检验Permutation test · Randomization test利用零假设下数据对一组变换的分布不变性,构造有限样本精确检验。精确校准;当 固定且 时,在原假设下
这是渐近卡方分布公理库卡方分布Chi-square distribution · Chi-squared distribution · χ² distribution若干独立标准正态变量平方和的分布,以自由度记录独立平方方向的数量。,不是任意小组样本量都精确成立的公式。
直觉
先去掉原始单位,只保留谁比谁大。共同分布下,每个组的平均秩都应该围绕总体平均秩 摆动。检验把各组平均秩的偏移平方,再按组大小加权合起来。
平方让一组偏大和另一组偏小不会抵消。只有 个独立偏移方向,因为全部秩和固定为 :某些组多占了大秩,其他组必然相应少占。
这解释了为什么它类似方差分析,却不能简单称为“无条件检验多个中位数相等”。它的基本参考分布来自所有组总体相同;只有额外限定共同形状的位置模型时,才可把偏移解释成中位数差异。
例子与边界
三个两人组,精确概率和卡方近似不同
取 、、。合并秩和分别是 ,所以
固定三个组各有两个位置,一共有 种标签分配。这个 是最大可能值:让每个组占据一个相邻两秩块,才能使组均值分离得最远。三个块分给三个组共有 种,因此精确上尾 值为
若硬套 近似,则上尾概率为 。两者都未到 ,但数值差别明显。样本小的时候,渐近表不能代替可直接枚举的精确分布。
同均值、同中位数都不是一般原假设
总体位置、尺度和形状都可能影响平均秩。在共同形状平移模型下,组位置变化往往会造成平均秩变化;没有这个模型时,拒绝共同分布不能自动说成“某两个均值不相等”或“某两个中位数不相等”。
反过来,某些不同但都关于同一点对称的分布,组间成对胜出率可能仍为一半,平均秩检验对这类形状差异未必敏感。它并不是对每一种分布差异都具有一致检出能力的万能检验。
并列值的修正
并列观测使用平均秩。若各并列块大小为 ,令
用平均秩代入原式算出 ,常用修正统计量为 。 来自并列导致的秩方差缩小,下面给出原因。条件标签置换可直接按实际平均秩计算参考分布,不要求“没有并列”。
若所有值相同,则 ,平均秩没有任何组间信息, 未定义。不能把 当成一个正常的卡方统计量。相关组、重复测量或区组设计也不满足任意组标签交换的条件。
推论与应用
卡方自由度从哪里来
原假设下,全部秩是一种均匀随机排列。单个秩均值为 、方差为 ;两个不同位置的秩协方差为 。后者也可从全部秩之和恒定推出来。
因此
定义标准化组偏移
直接代入上式, 的协方差矩阵为 ,且 。这个矩阵把向量投影到垂直于 的 维空间,同时 。
固定 、各组比例趋于严格正数时,有限总体秩和的联合中心极限定理给出该子空间上的标准正态极限。它适用的原因是秩总体 的最大中心化平方相对总平方和为 ,且没有一个组在极限中消失。选取子空间的一组正交坐标,极限有 个独立标准正态坐标,其平方和就是 。
这才是卡方近似的机制。“每组至少五个”之类经验规则不是精确保证,也不能覆盖组数一起增加的情形。
并列为什么除以同一个因子
无并列的中心化秩平方和为 。把 个相邻秩换成其平均值,平方和减少 。因此总平方和恰乘以 ,固定平均秩上的置换协方差也乘以 。二次统计量除以 才恢复相应方差尺度。
这个修正调整的是二阶尺度,并不让小样本分布突然变成精确卡方;大量并列时尤其应保留实际条件置换校准。
两组时与秩和检验的联系
取 ,组大小为 。采用 Mann–Whitney 的 $Y$ 胜出计数公理库Wilcoxon–Mann–Whitney 秩和检验Wilcoxon rank-sum test · Mann-Whitney U test用两组样本间的成对胜出次数或合并秩和检验共同分布,精确校准来自组标签交换,而中位数解释需要额外条件。 ,令 。 组秩和偏移为 , 组偏移为 ,代入可得
因此两组无并列时,它与未作连续性修正的秩和正态统计量平方完全一致。多组检验拒绝后,仍需另作事先规划或适当多重校正的组间比较;一个总体 值不会自动指出哪两组不同。
参考资料