形式陈述
卡方分布是一族取值于非负实数的连续概率分布 理路 概率分布 Probability distribution · Law 可测空间上总质量为一的测度;随机变量的律是由样本概率推出的一类分布。 ,其自由度参数来自独立标准正态变量平方和中的项数。
若随机向量 理路 随机向量 Random vector · 多维随机变量 一次随机试验同时输出有限多个实坐标所形成的可测映射。 Z = ( Z 1 , … , Z ν ) 的各分量相互独立 理路 独立性 Statistical independence 从概率表理解独立性,区分两两、相互和条件独立,并用可计算反例澄清零协方差与条件均值的限度。 ,且分别服从标准正态分布 理路 正态分布 Normal distribution · Gaussian distribution · 高斯分布 具有指数平方密度、在仿射变换与独立求和下封闭的概率分布族。 N ( 0 , 1 ) ,则
V = ∑ i = 1 ν Z i 2 服从自由度为 ν 的卡方分布,记为 V ∼ χ ν 2 。经典构造中 ν 为正整数;Gamma 分布表示可把该族延拓到任意正实自由度。
其密度在 v > 0 上为
f ν ( v ) = 1 2 ν / 2 Γ ( ν / 2 ) v ν / 2 − 1 e − v / 2 , 在 v ≤ 0 为零,即 χ ν 2 = Gamma ( ν / 2 , 2 ) ,这里第二参数采用尺度约定。矩母函数为
M V ( t ) = ( 1 − 2 t ) − ν / 2 , t < 1 2 , 从而
E [ V ] = ν , Var ( V ) = 2 ν . 若 U ∼ χ r 2 、V ∼ χ s 2 且独立,则 U + V ∼ χ r + s 2 。自由度可加来自独立标准正态平方项的合并,若缺少独立性则不能只加标签。
这个密度可从极坐标看出:标准正态向量的密度只依赖半径,球壳面积贡献 r ν − 1 ,再以 v = r 2 换元便出现 v ν / 2 − 1 e − v / 2 。归一化常数由 Gamma 积分确定。推导说明卡方分布记录的是旋转不变正态向量的径向平方,而不是任意非负变量的通称。
直觉
标准正态向量 Z ∈ R ν 的平方长度 ‖ Z ‖ 2 2 就是卡方变量。自由度计算参与长度的独立正交方向数,而不是原始数据点的机械数量。关键是“标准化”与“独立”同时成立:方差不同的坐标先除以各自标准差;相关坐标则需用协方差矩阵白化,而不是逐项除标准差就算完成。拟合参数或施加线性约束会消耗方向,因此残差平方和的自由度常小于样本量。
卡方变量非负并右偏。自由度增加时,许多独立平方贡献相加,分布相对集中在均值 ν 周围,标准化 ( V − ν ) / 2 ν 渐近正态;有限小自由度下不能用对称图像代替它的长右尾。
例子与边界
若 n ≥ 2 ,X 1 , … , X n 独立服从 N ( μ , σ 2 ) 且 σ > 0 ,令
X ¯ = 1 n ∑ i X i , S 2 = 1 n − 1 ∑ i ( X i − X ¯ ) 2 . Cochran 定理给出
( n − 1 ) S 2 σ 2 ∼ χ n − 1 2 . 少掉的一维对应样本均值方向:残差向量满足 ∑ i ( X i − X ¯ ) = 0 ,只能在维数 n − 1 的正交子空间中变化。以 n = 2 为例,
∑ i = 1 2 ( X i − X ¯ ) 2 σ 2 = ( X 1 − X 2 ) 2 2 σ 2 = ( X 1 − X 2 2 σ ) 2 ∼ χ 1 2 . 两个残差虽然有两项,却恰好互为相反数,只剩一个独立方向。若总体均值 μ 已知而无需估计,改算 ∑ i ( X i − μ ) 2 / σ 2 就保留全部 n 个方向,服从 χ n 2 。
更一般地,若 Z ∼ N n ( 0 , I ) 是联合正态向量 理路 多元正态分布 Multivariate normal distribution · Multivariate Gaussian distribution · Jointly Gaussian vector 以所有线性组合都正态刻画联合高斯向量,并由特征函数连接线性构造、退化支撑、全维密度与条件分布。 ,P 是秩为 r ≥ 1 的正交投影矩阵,则
Z T P Z ∼ χ r 2 . 由有限维谱定理 理路 有限维谱定理 Finite-dimensional spectral theorem 有限维复正规算子存在正交规范特征基;实数情形对应自伴算子。 ,选取正交矩阵把 P 对角化为 diag ( I r , 0 ) 后,二次型恰成为 r 个独立标准正态平方和。正交变换后的向量仍联合正态且协方差为单位矩阵,因而这些坐标独立。这给出自由度等于投影秩的可追踪来源;若 r = 0 ,二次型恒为零,应按退化点质量处理。
若每行有多个相关高斯坐标,并保留所有残差交叉乘积,标量平方和会扩展为Wishart 散布矩阵 理路 Wishart 分布 Wishart distribution · Gaussian scatter distribution 独立高斯向量的外积和给出随机散布矩阵,其秩、方向卡方和正交投影结构解释样本协方差的自由度。 。正交行投影仍以其秩决定自由度,但矩阵各条目相互依赖,不能只用若干独立卡方变量替代。
边界与失败情形
正态分量相关时,平方和一般不是简单卡方。若 Z 1 = Z 2 = Z ∼ N ( 0 , 1 ) ,则 Z 1 2 + Z 2 2 = 2 Z 2 ,其均值虽为 2 ,方差却为 8 ,不同于 χ 2 2 的方差 4 。必须先白化并确认独立正交方向。
若 Z ∼ N k ( m , I k ) 且 m ≠ 0 ,则 ‖ Z ‖ 2 服从非中心卡方分布,非中心参数为 ‖ m ‖ 2 。一般正定协方差须先白化,不能只凭均值非零就对原始平方长度使用该分布。把 N ( μ , 1 ) 的平方仍写成 χ 1 2 会漏掉均值造成的右移。
非中心分布的统一构造 理路 非中心χ²、t与F分布 Noncentral distributions · Noncentral chi-square distribution · Noncentral t distribution · Noncentral F distribution · 非中心卡方分布 · 非中心t分布 · 非中心F分布 先移动正态均值再平方或除以独立随机尺度,统一得到非中心χ²、t和F,并用Poisson混合与条件积分计算备择下的功效。 进一步把这项位移平方和表示成Poisson权重下的中心卡方混合:条件自由度为k + 2 K ,其中K ∼ Poisson ( ‖ m ‖ 2 / 2 ) 。遗漏的混合质量直接控制CDF截断误差;若先作检验投影,非中心参数只计算被投影均值的平方长度,未参与检验的干扰方向不能计入。
“平方和近似卡方”也不是任意残差的普遍定律。精确结果依赖正态性与投影结构;广义线性模型中的 Pearson 统计量常只在样本量与单元期望充分大时渐近卡方,稀疏单元可使近似很差。
Gamma 分布的尺度与率参数容易混淆。这里尺度为 2 ;若使用率参数,应写为 1 / 2 。自由度顺延到非整数时仍是合法 Gamma 分布,却不再能逐字解释为有限个正态平方项。
推论与应用
正态样本方差的精确置信区间通过卡方分位数反演:若 q a , ν 是 χ ν 2 的 a 分位数,则
P ( ( n − 1 ) S 2 q 1 − α / 2 , n − 1 ≤ σ 2 ≤ ( n − 1 ) S 2 q α / 2 , n − 1 ) = 1 − α . 卡方变量还是 Student t 与 F 分布的分母构件。卡方拟合优度检验 理路 卡方拟合优度检验 Chi-square goodness-of-fit test · Pearson chi-square test 比较分类观测计数与零模型期望计数,并用渐近卡方律校准偏差。 、似然比检验和线性模型平方和也常出现卡方极限或精确分解,但每次都要区分有限样本定理与渐近近似。
参考资料
Marco Taboga, Lectures on Probability Theory and Mathematical Statistics , StatLect 在线教材,Chi-square distribution ,标准正态平方和、矩与独立和(访问于 2026 年)。
George Casella and Roger L. Berger, Statistical Inference , 2nd ed., Duxbury, 2002,§4.2–4.3。
Robb J. Muirhead, Aspects of Multivariate Statistical Theory , Wiley, 1982,Ch. 1。
T. W. Anderson, An Introduction to Multivariate Statistical Analysis , 3rd ed., Wiley, 2003,Ch. 2。