形式陈述
设 $V$ 为有限维内积空间,$W\le V$。则
$$ V=W\oplus W^\perp, $$每个 $v$ 唯一写成 $v=w+u$,其中 $w\in W,u\in W^\perp$。定义正交投影 $P_Wv=w$。它满足
$$ P_W^2=P_W, \qquad P_W^*=P_W, \qquad \operatorname{im}P_W=W, \qquad \ker P_W=W^\perp. $$若 $e_1,\ldots,e_k$ 是 $W$ 的正交归一基,则
$$ P_Wv=\sum_{i=1}^k\langle e_i,v\rangle e_i $$(按本库内积约定调整标量槽位)。$P_Wv$ 还是 $W$ 中唯一最小化 $\|v-w\|$ 的向量。
直觉
投影把向量分成“可由目标子空间解释的部分”和“与目标完全正交的残差”;最短距离点正是垂足。
例子与边界
在 $\mathbb R^2$ 中投影到 $x$ 轴把 $(a,b)$ 送到 $(a,0)$。投影到非零向量 $u$ 张成的直线为 $P(v)=\frac{\langle u,v\rangle}{\langle u,u\rangle}u$。任意幂等线性算子都是某个直和分解下的投影,但不一定是正交投影;正交投影还要求自伴。若基不正交,不能简单把坐标内积逐项相加,需使用 Gram 矩阵或先正交化。无限维内积空间中,只有对闭子空间的 Hilbert 空间投影才普遍存在;非闭子空间可能没有最近点。有限维子空间自动闭,因此本条无此障碍。
推论与应用
正交投影给出最小二乘解、条件期望的 Hilbert 空间解释、信号逼近和 QR 分解;残差正交条件是优化的一阶正规方程。
参考资料
- Sheldon Axler, Linear Algebra Done Right, 4th ed., Springer, 2024,Ch. 6, orthogonal complements and projections。
- Michael Artin, Algebra, 2nd ed., Pearson, 2011,Ch. 6, orthogonal projection and least squares。