Hermitian 特征问题的逆迭代与 Rayleigh 商迭代

形式陈述 ​

本页以 Hermitian（实情形为对称）特征问题为主范围，因为 Rayleigh 商迭代的局部三次收敛依赖这一结构。固定移位逆迭代本身可用于更一般的可对角化矩阵，但后文标准的谱距离和收敛阶结论均按 Hermitian 主线解读。

固定移位逆迭代输入矩阵 $A$、移位 $\mu$、非零初值 $x_0$、容差和最大迭代数。每一步求解

$$(A-\mu I)y_{k+1}=x_k,x_{k+1}=\frac{y_{k+1}}{\Vert y_{k+1}{\Vert }_2},$$

而不是形成 $(A-\mu I{)}^{-1}$。若 $A$ 可对角化，$\mu$ 不等于任何特征值，并且 $(A-\mu I{)}^{-1}$ 有唯一主模特征值，则该过程就是对逆移位算子做幂迭代公理库幂迭代Power method · Power iteration反复应用矩阵并归一化，以谱隙筛出唯一主模特征方向，同时用残差判断所得特征对。。对 normal 或 Hermitian 矩阵，它选择离 $\mu$ 最近的简单特征值 ${\lambda }_j$；若下一近特征值为 ${\lambda }_{\ell }$，方向的线性渐近因子为

$$\left|\frac{{\lambda }_j-\mu }{{\lambda }_{\ell }-\mu }\right|.$$

固定 $\mu$ 时，可先对 $A-\mu I$ 做一次分解，每步只复用因子完成三角求解公理库三角线性方程求解Triangular solve · Forward substitution · Backward substitution按依赖顺序用前代或回代求解三角系统，作为 LU、Cholesky 与 QR 分解后的共同计算底层。。稠密一次分解为 $\mathrm{\Theta }(n^3)$，每个后续迭代为 $\mathrm{\Theta }(n^2)$；稀疏情形取决于因子填充和所用线性求解器。

Rayleigh 商迭代把移位改为

$${\mu }_k=\frac{x_k^{\ast }A{x}_k}{x_k^{\ast }{x}_k},(A-{\mu }_{k}I)y_{k+1}=x_k,x_{k+1}=\frac{y_{k+1}}{\Vert y_{k+1}{\Vert }_2}.$$

动态移位通常每步都改变矩阵，稠密实现因而需要新的分解，不能复用固定移位成本。对 Hermitian 矩阵的简单特征对，从足够近且含目标分量的初值出发，特征向量方向局部三次收敛；一般非正规矩阵没有这条无条件结论，局部阶和吸引域都更复杂。

两种算法都用

$${\theta }_k=\frac{x_k^{\ast }A{x}_k}{x_k^{\ast }{x}_k},r_k=A{x}_k-{\theta }_k{x}_k$$

评估特征对。完成准则包括尺度化残差、相位对齐后的方向变化、线性求解后向误差、非有限值和迭代上限。若某次移位恰等于特征值，系统精确奇异；此时应依据当前残差判断是否已经得到特征对，或转入明确的零空间处理，而不是继续除法。

直觉 ​

移位反演把每个特征值 ${\lambda }_i$ 变成 $1/({\lambda }_i-\mu )$。原谱中离 $\mu$ 最近的点，反演后离无穷最远，于是普通幂迭代能够把它筛出。固定移位决定目标位置，动态 Rayleigh 移位则让当前向量反过来预测特征值，再把下一次放大中心移到更接近目标的地方。

接近收敛时 $A-{\mu }_{k}I$ 必然接近奇异，这不是偶然故障，而是“目标方向被强烈放大”的机制。危险在于线性系统必须仍以小后向误差求解；随手添加正则项会改变反演谱，也就改变正在逼近的特征问题。

例子与边界 ​

对

$$A=\mathrm{diag}(1,4,9),\mu =3.5,$$

逆移位特征值为 $-0.4,2,2/11$。目标 $4$ 对应唯一主模 $2$，次大模为 $0.4$，所以只要初值第二分量非零，方向以因子 $0.4/2=0.2$ 线性收敛。一次分解 $A-3.5I$ 后，每一步只是三角求解与归一化。

Rayleigh 商迭代的三次机制可以在二维对角例子中精确看见。取

$$A=\mathrm{diag}(1,3),x_k=(\sin {\varphi }_k,\cos {\varphi }_k{)}^{\mathsf{T}},$$

其中 ${\varphi }_k$ 是当前方向到目标特征向量 $e_2$ 的夹角。Rayleigh 商为 ${\mu }_k=3-2{\sin }^2{\varphi }_k$，代入逆迭代可得

$$\tan {\varphi }_{k+1}=-{\tan }^3{\varphi }_k.$$

当 ${\varphi }_k$ 很小时，方向误差每步立方，且符号翻转只代表在目标方向两侧交替。

固定移位若恰位于两个 normal 特征值的中点，反演后会出现等模主值，迭代可能无法选择唯一方向。非正规矩阵中，“离移位最近”也不足以单独预测行为，因为特征向量条件性和伪谱会影响线性求解与吸引域；三次结论不能从 Hermitian 情形直接照搬。

推论与应用 ​

固定移位适合在已知谱位置附近求一个特征向量，最大优势是分解可复用；Rayleigh 商迭代以更高的局部速度换取每步重新分解。若同一移位要处理多个初值或多个右端，复用因子的收益尤其明显。

这两种方法一次追踪一个特征方向。需要整个谱时，QR 特征值算法公理库QR 特征值算法QR algorithm · Shifted QR algorithm · Francis QR algorithm先化 Hessenberg 或三对角形，再用隐式移位 QR、bulge chasing 与 deflation 计算 Schur 形和全部特征值。通过隐式移位、Hessenberg 结构和 deflation 同时组织多个不变子空间，不是简单重复单向量逆迭代。

参考资料

• Lloyd N. Trefethen and David Bau III, Numerical Linear Algebra, SIAM, 1997, Lectures 27–29.
• Beresford N. Parlett, The Symmetric Eigenvalue Problem, SIAM Classics, 1998, Chs. 4 and 9.
• Gene H. Golub and Charles F. Van Loan, Matrix Computations, 4th ed., Johns Hopkins University Press, 2013, §7.6.