Hilbert 空间投影定理

有限维 Euclidean 空间里，向一个平面作垂线总能得到垂足；投影定理说明同一几何在完备的无限维空间中仍成立。闭性防止候选垂足逃到子空间的边界之外，完备性保证逐渐逼近最小距离的序列确实在空间内收敛。

正交条件不仅描述最近点，也保证唯一性。若残差 $x-w$ 仍含有沿 $W$ 的分量，就能顺着该方向继续缩短距离；当残差与整个 $W$ 正交时，Pythagoras 等式说明任何横向移动只会增加误差。

在 ${\ell }^2$ 中，令 $W$ 为前 $n$ 个标准基向量张成的子空间，则

残差保留尾部坐标，并与 $W$ 正交。更一般地，$L^2$ 中投影到有限个正交函数张成的空间就是 Fourier 截断与最小二乘逼近。

闭性不可省略。${\ell }^2$ 中的有限支撑序列构成稠密但不闭的线性子空间；对任意不具有限支撑的 $x$，它到该子空间的距离下确界为 $0$，却没有子空间内的点达到该距离。一般 Banach 空间即使完备，也未必存在由正交关系选出的线性最近点投影，因为其范数可能不来自内积。

投影定理把最小化问题转成正交方程，是最小二乘与正规方程公理库最小二乘与正规方程Least squares · Normal equations将目标向量正交投影到矩阵列空间，并以残差正交条件导出正规方程。、Galerkin 方法公理库Galerkin 方法Galerkin method · Galerkin discretization在有限维试探与检验空间中离散连续变分问题，并用 Galerkin 正交、Céa 准最优性及稳定条件组织误差。和 Fourier 展开的共同基础。取闭子空间为某个子 $\sigma$-代数上的 $L^2$ 随机变量，可把条件期望解释为同一种正交投影。它还推出 $W^{\perp \perp }=W$ 对闭线性子空间成立，并支撑 Riesz 表示定理的标准证明。