F 分布 | Codeboy's Blog

形式陈述

F 分布是一族正值连续概率分布，由两个独立、按各自自由度归一化的卡方变量之比产生。

设 $U,V$ 分别服从卡方分布 $U\sim\chi_{d_1}^2$ 、 $V\sim\chi_{d_2}^2$ ，且二者独立。随机变量

F=\frac{U/d_1}{V/d_2}

服从分子自由度 $d_1>0$ 、分母自由度 $d_2>0$ 的 $F$ 分布，记作 $F\sim F_{d_1,d_2}$ 。在 $x>0$ 上其密度为

f(x)= \frac{\Gamma((d_1+d_2)/2)} {\Gamma(d_1/2)\Gamma(d_2/2)} \left(\frac{d_1}{d_2}\right)^{d_1/2} x^{d_1/2-1} \left(1+\frac{d_1}{d_2}x\right)^{-(d_1+d_2)/2}.

它只取正值并通常右偏。当 $d_2>2$ 时

\mathbb E[F]=\frac{d_2}{d_2-2};

当 $d_2>4$ 时方差存在。分母靠近零会产生长右尾，矩存在范围主要受分母自由度控制。

倒数满足

F\sim F_{d_1,d_2} \quad\Longrightarrow\quad F^{-1}\sim F_{d_2,d_1}.

自由度顺序随倒数交换，而分布本身一般不对称，因此 $F_{d_1,d_2}$ 与 $F_{d_2,d_1}$ 不能混用。

若令 $B=d_1F/(d_1F+d_2)$ ，则 $B$ 服从 Beta $(d_1/2,d_2/2)$ 。这给出分布函数与分位数计算的稳定转换，也说明 $F$ 的右尾对应 Beta 变量逼近一。它是分布之间的精确变换，不需要大样本近似。

直觉

每个卡方变量除以自己的自由度后，成为均值约为一的“平方波动尺度”。 $F$ 分布比较两个独立尺度估计：分子异常大或分母异常小都会产生大的比值。它天然适合方差比、解释平方和与残差平方和之比。

自由度记录两个尺度各自由多少独立正态方向估计。分母自由度小时，尺度估计容易偶然接近零，右尾很厚；自由度增加后，比值更集中在一附近。

例子与边界

设两组独立正态样本

X_1,\ldots,X_m\sim N(\mu_X,\sigma_X^2), \qquad Y_1,\ldots,Y_n\sim N(\mu_Y,\sigma_Y^2),

并分别计算无偏样本方差 $S_X^2,S_Y^2$ 。由正态样本方差的卡方分布，

U=\frac{(m-1)S_X^2}{\sigma_X^2}\sim\chi_{m-1}^2, \qquad V=\frac{(n-1)S_Y^2}{\sigma_Y^2}\sim\chi_{n-1}^2,

且两者独立。因此

\frac{S_X^2/\sigma_X^2}{S_Y^2/\sigma_Y^2} \sim F_{m-1,n-1}.

在零假设 $\sigma_X^2=\sigma_Y^2$ 下，原始方差比 $S_X^2/S_Y^2$ 服从 $F_{m-1,n-1}$ 。若交换分子分母，统计量变为倒数，临界值和自由度也必须同步交换。

线性回归中，若嵌套模型新增 $q$ 个系数，正态同方差误差下可比较

F= \frac{(\mathrm{RSS}_{reduced}-\mathrm{RSS}_{full})/q} {\mathrm{RSS}_{full}/(n-p_{full})}.

零假设下，分子是新增方向解释的平方和，分母是剩余噪声均方；正交投影使两部分独立，故得到 $F_{q,n-p_{full}}$ 。

独立性不能省略。若分子、分母来自重叠数据或相关平方和，它们即使边缘各自是标准化卡方，比值也未必服从 $F$ 。线性模型的精确 $F$ 分解依赖投影子空间正交与正态误差。

正态性对小样本方差比检验尤其关键。重尾或偏斜分布会使样本方差高度不稳定，名义 $F$ 临界值可能严重失准；稳健的尺度检验或重抽样方法有不同假设，不能继续声称精确 $F$ 分布。

较大的 $F$ 值只说明分子均方相对分母均方大。它不自动说明实际效应重要，也不定位哪些系数非零；多自由度整体检验拒绝后还需估计、区间与预先规定的对比解释。

当备择使分子二次型具有非零均值时，统计量服从非中心 $F$ 分布。用中心 $F$ 描述备择下功效会错误；中心分布主要负责零假设校准。

推论与应用

若 $T\sim t_\nu$ ，则

T^2\sim F_{1,\nu}.

因此单个回归系数的双侧 $t$ 检验与单自由度 $F$ 检验给出相同 p 值。 $F$ 统计量没有符号，所以多参数整体检验只判断是否存在偏离，不保留方向。

$F$ 分位数可反演正态总体方差比的置信区间，也构成ANOVA与线性模型推断的有限样本基准。更一般模型中的“F-type”统计量可能只渐近服从相应分布，必须写明近似范围。

参考资料

George Casella and Roger L. Berger, Statistical Inference, 2nd ed., Duxbury, 2002，§5.3。
T. W. Anderson, An Introduction to Multivariate Statistical Analysis, 3rd ed., Wiley, 2003，Ch. 2–3。
George A. F. Seber and Alan J. Lee, Linear Regression Analysis, 2nd ed., Wiley, 2003，Ch. 2–3。