形式陈述
两个对称矩阵为什么不能直接当作一个对称矩阵
考虑
其中 ,。这称为 Hermitian 正定广义特征问题理路特征值与特征向量Eigenvalue and eigenvector满足 Tv=λv 且 v 非零的标量 λ 与向量 v。。正定条件确保 ,所以可定义广义 Rayleigh 商
存在一组基组成矩阵 ,使
其中 实对角。也就是说,全部广义特征值为实数,且有相对于正定度量理路正定与半正定矩阵Positive definite matrix · Positive semidefinite matrix · PSD matrix由二次能量严格为正或非负定义的实对称与复 Hermitian 矩阵。 的正交规范特征基。
这里 虽具有相同特征方程,却通常不是 Euclidean 内积下的 Hermitian 矩阵。需要同时变换度量与算子,不能仅因 分别 Hermitian 就直接对乘积套谱定理。
Cholesky 归约为何保留全部信息
由Cholesky 分解理路Cholesky 分解Cholesky factorization · Cholesky decomposition把 Hermitian 正定矩阵唯一分解为正对角下三角因子与其共轭转置的乘积。写 , 可逆,令
左乘 得 当且仅当 。又有 ,所以谱定理理路有限维谱定理Finite-dimensional spectral theorem有限维复正规算子存在正交规范特征基;实数情形对应自伴算子。给 、。取 ,立即得到上述三项恒等式,且 可逆,证明没有漏掉任何方向。
同一变换给出 与 。它保持子空间维数,因此Courant–Fischer 公式理路Rayleigh 商与 Courant–Fischer 变分原理Courant–Fischer min–max theorem · Rayleigh quotient variational characterization从正交谱展开和子空间维数相交证明每个有序特征值的 min–max 公式,明确 Hermitian 假设与重数。迁移为
其中谱按升序。变分时不能把约束擅自换成 Euclidean 单位球并仍使用相同能量分子。
直觉
决定怎样量长度, 决定怎样量另一种能量。广义特征值比较的是两者的比率。Cholesky 变换把 长度变成普通长度,再在正确的几何里对角化。
这也是非正交基中的谱压缩必须出现 Gram 矩阵的原因。基向量不正交时,坐标长度不是原空间的实际长度;保留 才能让答案不随基向量任意缩放而改变。
例子与边界
非对角度量下的完整计算
取
,且 对角为正。直接计算
的单位特征向量 、 对应 。恢复原坐标得
逐项核验 、,且 。普通内积却有 ,并不正交。事实上 不对称,直接套 Euclidean 谱定理会误用假设。
正定性失败会失去哪一步
取 、。两者实对称且 可逆,但
广义特征值为 。 不是正定内积,实谱结论已经失败。
若 奇异,甚至 也无定义。例如 、 的有限特征方程只有 的一维方向,无法给出二维的有限实特征基;一般矩阵铅笔需处理无穷特征值或奇异结构,超出本页范围。
推论与应用
若近似向量已按 归一化,取 、。在归约坐标中, 为单位向量,且
因此Hermitian 残差定理理路Hermitian 特征对的残差与方向证书Hermitian eigenpair residual bound · Residual-gap eigenvector angle bound把可计算特征对残差分别转成谱距离、结构化后向误差与有谱隙条件的方向界,并核验三阶扰动。应使用 ,方向误差则按 -内积衡量。只有额外控制 的条件性,才能把普通坐标残差或角度与它们互换。
对满列秩试验基 , 的度量矩阵正定,正好恢复Ritz 压缩理路Hermitian 压缩、Ritz 值与交错Cauchy interlacing theorem · Poincaré separation theorem · Hermitian Ritz values证明子空间压缩的有序谱交错,算出 Ritz 向量与原残差,并说明压缩特征值何时不是真特征值。。CCA理路典型相关分析Canonical correlation analysis · CCA在两组变量中各选单位方差线性组合,使跨组相关最大;白化后问题化为交叉协方差的奇异值分解。也出现特定广义方程,但它的统计解释与白化 SVD 任务不同;本页提供一般确定性谱接口。
实际实现以三角求解完成 与 的作用,不必显式求逆。验收应同时检查 与 ,并说明采用的尺度;只报告普通正交性不足以验证这个问题。
参考资料