Hilbert 空间投影定理

形式陈述 ​

设 $H$ 为实或复 Hilbert 空间，$W\le H$ 为闭线性子空间。对每个 $x\in H$，存在唯一的 $w\in W$ 与 $z\in W^{\perp }$ 使

$$x=w+z.$$

等价地，$w$ 是 $W$ 中唯一达到距离下确界的点：

$$\Vert x-w\Vert =\underset{y\in W}{inf}\Vert x-y\Vert .$$

由此定义的映射 $P_{W}x=w$ 是有界线性算子，满足

$$P_W^2=P_W,P_W^{\ast }=P_W,\mathrm{im}{P}_W=W,\ker P_W=W^{\perp },$$

并给出正交直和 $H=W\oplus W^{\perp }$。

直觉 ​

有限维 Euclidean 空间里，向一个平面作垂线总能得到垂足；投影定理说明同一几何在完备的无限维空间中仍成立。闭性防止候选垂足逃到子空间的边界之外，完备性保证逐渐逼近最小距离的序列确实在空间内收敛。

正交条件不仅描述最近点，也保证唯一性。若残差 $x-w$ 仍含有沿 $W$ 的分量，就能顺着该方向继续缩短距离；当残差与整个 $W$ 正交时，Pythagoras 等式说明任何横向移动只会增加误差。

例子与边界 ​

在 ${\ell }^2$ 中，令 $W$ 为前 $n$ 个标准基向量张成的子空间，则

$$P_W(x_1,x_2,\dots )=(x_1,\dots ,x_n,0,0,\dots ).$$

残差保留尾部坐标，并与 $W$ 正交。更一般地，$L^2$ 中投影到有限个正交函数张成的空间就是 Fourier 截断与最小二乘逼近。

闭性不可省略。${\ell }^2$ 中的有限支撑序列构成稠密但不闭的线性子空间；对任意不具有限支撑的 $x$，它到该子空间的距离下确界为 $0$，却没有子空间内的点达到该距离。一般 Banach 空间即使完备，也未必存在由正交关系选出的线性最近点投影，因为其范数可能不来自内积。

推论与应用 ​

投影定理把最小化问题转成正交方程，是 Hilbert 空间最小二乘法、Galerkin 方法与 Fourier 展开的共同基础。取闭子空间为某个子 $\sigma$-代数上的 $L^2$ 随机变量，可把条件期望解释为正交投影。它还推出 $W^{\perp \perp }=W$ 对闭线性子空间成立，并支撑 Riesz 表示定理的标准证明。

参考资料

• Walter Rudin, Functional Analysis, 2nd ed., McGraw-Hill, 1991, Chapter 4.
• Haim Brezis, Functional Analysis, Sobolev Spaces and Partial Differential Equations, Springer, 2011, Chapter 5.