形式陈述
若随机变量 $X$ 具有有限二阶矩,则方差定义为
$$ \operatorname{Var}(X)=\mathbb E[(X-\mathbb E X)^2] =\mathbb E[X^2]-(\mathbb E X)^2. $$它非负,且
$$ \operatorname{Var}(aX+b)=a^2\operatorname{Var}(X). $$方差为零当且仅当 $X$ 几乎必然等于常数 $\mathbb E X$。标准差 $\sqrt{\operatorname{Var}(X)}$ 与 $X$ 具有相同量纲。
直觉
方差是到最佳常数近似——均值——的平方 $L^2$ 距离,衡量分布围绕均值的平均二次离散程度。
例子与边界
Bernoulli$(p)$ 变量的方差为 $p(1-p)$。平移不改变方差,缩放则平方缩放。方差只在二阶矩有限时定义为有限数;Cauchy 分布没有方差,不能把形式积分中的抵消当作零。相同方差的分布可有完全不同尾部和形状,方差不单独决定风险。对独立变量,和的方差相加;不独立时还需协方差项。
推论与应用
方差产生 Chebyshev 不等式、最小二乘、误差传播、二阶矩方法和统计估计中的均方误差分解。
参考资料
- Patrick Billingsley, Probability and Measure, 3rd ed., Wiley, 1995,Ch. 4, moments and variance。
- Sheldon Ross, A First Course in Probability, 10th ed., Pearson, 2019,Ch. 7, expectation, variance, and standard deviation。