“Gram–Schmidt给出 QR 的构造性几何证明,本页集中 full/economy 维度、Householder 实现、成本和有限精度差异。把 classical Gram–Schmi…”
形式陈述 ​
设
再对
这里采用本库第一变量共轭线性、第二变量线性的约定,因此
线性无关保证每个残差
直觉
每一步都把新向量拆成两部分:一部分已经能由旧方向解释,另一部分是旧子空间从未见过的新方向。把前者逐项减去便得到残差
例子与边界
由
第二步为
所以
上述递推是精确算术中的 classical Gram–Schmidt。浮点运算会把相近向量相减,舍入误差可能破坏正交性。modified Gram–Schmidt 逐次更新残差,通常更稳定;要求更高时,以Householder 反射构造的QR 分解往往是首选。三者在精确算术中表达同一正交化目标,但计算图与数值行为不同。
推论与应用
该过程把线性无关组变成张成同一子空间的正交规范组;若原组是全空间的基,结果才是正交规范基。把输入向量排成矩阵的列便得到
最小二乘的正规方程保留几何最优性,而QR/SVD 计算路线避免把
正交多项式、特征值迭代和稳定坐标构造也复用同一过程。
参考资料
- Sheldon Axler, Linear Algebra Done Right, 4th ed. (2024), Gram–Schmidt.
- Jim Hefferon, Linear Algebra (2020/2026 site), Gram–Schmidt and QR.