方差分析

模型与分解 ​

单因素 ANOVA 模型

$$Y_{ij}=\mu +{\alpha }_i+{\epsilon }_{ij},$$

常用约束 $\sum _i{n}_i{\alpha }_i=0$ 消除参数冗余。零假设为所有组均值相等。

令总体均值 ${\overline{Y}}_{..}$、组均值 ${\overline{Y}}_{i.}$，恒等式

$$\sum _{ij}(Y_{ij}-{\overline{Y}}_{..}{)}^2=\sum _i{n}_i({\overline{Y}}_{i.}-{\overline{Y}}_{..}{)}^2+\sum _{ij}(Y_{ij}-{\overline{Y}}_{i.}{)}^2.$$

分别称总、组间和组内平方和，交叉项因组内残差和为零而消失。

投影推导 ​

把组指示变量组成设计矩阵，完整模型投影到各组常数子空间，零模型只投影到总体常数。两个投影之差秩为 $k-1$，残差投影秩为 $N-k$，且子空间正交。因此正态误差下两平方和除以 ${\sigma }^2$ 是独立卡方，标准化比值才得到 F 分布。

平方和恒等式可逐项展开：

$$Y_{ij}-{\overline{Y}}_{..}=(Y_{ij}-{\overline{Y}}_{i.})+({\overline{Y}}_{i.}-{\overline{Y}}_{..}).$$

交叉项对每组求和为 $({\overline{Y}}_{i.}-{\overline{Y}}_{..})\sum _j(Y_{ij}-{\overline{Y}}_{i.})=0$。这个代数分解不要求正态，只有精确 F 校准才需要概率假设。

F 检验 ​

若独立误差 $N(0,{\sigma }^2)$，$k$ 组总样本 $N$，则

$$F=\frac{S{S}_B/(k-1)}{S{S}_W/(N-k)}\sim F_{k-1,N-k}$$

在零假设下精确成立。分子测量组均值偏离，分母估计共同噪声。

例子与边界 ​

若三组各四个观测，$S{S}_B=24,S{S}_W=18$，则 $F=(24/2)/(18/9)=6$，与 $F_{2,9}$ 比较。拒绝只说明并非所有均值相同，不能指出哪组不同；事后对比需多重校准。

效应大小可报告 ${\eta }^2=S{S}_B/S{S}_T=24/42\approx 0.571$，描述样本总变异中由组标签解释的比例。它不等同总体因果效应，且小样本有上偏。

同方差与独立性是精确 F 的关键。异方差不平衡设计可严重失准，可用 Welch ANOVA。重复测量或聚类需建模相关结构。

组内非正态在平衡、大样本时 F 可能较稳健，但重尾与异常值可同时抬高均值差和残差。先看数据再删除极端组会改变检验。

多因素 ANOVA 中平方和类型随不平衡设计和交互项改变；主效应不能脱离编码与所调整项解释。用 Type I/II/III 名称替代具体模型比较会掩盖问题。

ANOVA 是线性模型公理库线性回归统计模型Linear regression model · Linear model响应的条件均值由设计变量对未知系数线性表示，并显式规定误差结构的统计模型。的嵌套模型检验；“方差分析”实际检验均值参数。正态性对精确小样本校准重要，不是平方和恒等式本身的条件。

预设 contrast $c^T\mu$ 若满足 $\sum _i{c}_i=0$，可用组均值和共同组内方差构造 t 检验。多个正交 contrast 的平方和可加成组间平方和；非正交对比共享信息，逐项检验需多重校准。

balanced design 中各组均值独立同方差，平方和分解最清楚。不平衡设计下，组指示列不再与其他因素正交，加入项的顺序会改变 sequential sum of squares。应直接写明受限和完整模型，而不是只报 Type I/II/III 标签。

two-way ANOVA 含交互项时，主效应表示在另一因素水平上的平均对比。显著交互说明效应随水平改变，此时脱离交互解释单一主效应可能误导。

Welch ANOVA 使用组别方差和有效自由度校正，适合异方差；Kruskal–Wallis 比较秩分布，零假设不是一般“均值相等”。它们是不同模型与目标的替代，不是普通 ANOVA 的无条件稳健开关。

实验设计中的随机化支持因果解释，ANOVA 代数本身不支持。观察性组别差可能由混杂造成，即使 F 极显著也只描述条件关联。

planned contrast 的 simultaneous inference 可用 Bonferroni；所有 pairwise 均值比较常用 Tukey studentized range，在独立同方差正态、相应平衡设定下控制 familywise error。先做 omnibus F 再无校准地挑最大组差仍有选择问题。

随机效应 ANOVA 把组效应视为分布抽样并估计 variance components，目标从固定组均值对比变成总体变异。其零方差参数在边界，普通 F 或卡方渐近不总适用。

缺失单元使经典正交分解破坏，需要一般线性模型 estimable functions。least-squares means 是按指定协变量分布调整后的模型均值，不是原始组均值。

诊断应检查残差—拟合图、组别方差与设计独立性。正态 QQ 图主要影响小样本精确尾部；明显异方差和聚类通常比轻微正态偏离更直接破坏标准 F。

参考资料

• George Box, William Hunter, and J. Stuart Hunter, Statistics for Experimenters, 2nd ed., Wiley, 2005。
• George Seber and Alan Lee, Linear Regression Analysis, 2nd ed., Wiley, 2003。
• Douglas Montgomery, Design and Analysis of Experiments, 10th ed., Wiley, 2019。