形式陈述
给定 维实或复空间上的方阵或线性算子 、非零初值 、容差和最大迭代数,先按矩阵与向量二范数理路矩阵范数与诱导算子范数Matrix norm · Induced matrix norm · Operator norm of a matrix用诱导范数和常用可计算矩阵范数度量线性映射的放大能力,并区分算子范数、Frobenius 范数与谱半径。令 ,再反复计算
若 ,当前轨道已进入 的核,算法不能继续归一化。特征值用 Rayleigh 商估计:
当 已归一化时,分母为 。每步需要矩阵—向量乘法和向量归一化;稠密矩阵成本为 ,若压缩稀疏表示实际保存 个条目(包括显式零和重复坐标),则为 ,其中 项包括输出初始化、范数计算和归一化。额外存储为若干向量,算法无需显式形成 。
把迭代向量看成一个收敛序列理路序列收敛Convergence of a sequence序列项最终任意接近某个极限值。时,以下含次主特征值的结论取 ,并假设 可对角化,特征值按模排序为
且初值在主特征向量理路特征值与特征向量Eigenvalue and eigenvector满足 Tv=λv 且 v 非零的标量 λ 与向量 v。 上的分量非零。写成 后,
因此在符号或相位对齐后,方向误差有 的几何上界;若次主模对应的初始分量为零,实际衰减可以更快,不能把这个谱比无条件当作每条轨道的精确渐近因子。全部非主分量为零时,初值已经是目标方向。严格分离的是特征值的模,不是实部、实数大小或代数排序;若 ,主方向从轨道中永久缺席。
时,若标量 ,任意非零初值已经给出唯一特征方向,Rayleigh 商恰等于该标量;无需使用含 的谱比。零标量则进入前述零乘积分支。
当 时,归一化向量会在 与 之间交替;复数主特征值则每步累积相位 。因此方向误差应在符号或相位对齐后比较,或直接考察投影与残差,而不能只用 。常用完成准则为
并同时检查相位对齐后的方向变化、零向量、非有限值与迭代上限。小残差到特征向量误差的转换仍需要谱分离和特征向量条件性。对 Hermitian 输入,残差—间隔界理路Hermitian 特征对的残差与方向证书Hermitian eigenpair residual bound · Residual-gap eigenvector angle bound把可计算特征对残差分别转成谱距离、结构化后向误差与有谱隙条件的方向界,并核验三阶扰动。明确给出候选值到互补谱的距离,以及不依赖符号或相位的方向误差;一般可对角化输入则可用Bauer–Fike 界理路Bauer–Fike 谱扰动定理Bauer–Fike theorem · Bauer-Fike theorem在可对角化假设下,以特征向量基的条件数控制全部新谱点,分清谱包围、配对和缺陷矩阵的边界。先认证谱距离。
直觉
幂迭代像反复拉伸一团由多个特征方向组成的材料。第 个方向经过 步后乘上 ;只要某个模严格最大且初值确实含有该方向,其他分量相对于它就按比值的幂衰减。在精确算术中,每步归一化不改变方向竞争;它控制迭代之间的尺度增长,但不能单独防止矩阵—向量乘法或范数计算内部的溢出、下溢。有限精度实现仍需安全缩放及非有限值检查。
幂迭代逼近主特征方向 谱隙决定速度。 很小时,主方向很快显露;比值接近 时,归一化后的向量看似稳定变化,却要很多步才能真正分离。算法便宜的每一步并不能弥补不存在的谱隙。
例子与边界
取
令 衡量非主方向相对第一分量的大小。实际迭代历史为:
|
Rayleigh 商 |
|
|
| 0 |
2.666666667 |
1.414213562 |
1.699673171 |
| 1 |
4.466666667 |
0.447213595 |
1.203698006 |
| 2 |
4.919003115 |
0.164924225 |
0.492606017 |
| 3 |
4.987507967 |
0.064498062 |
0.193842689 |
| 4 |
4.998024979 |
0.025649951 |
0.077015546 |
| 5 |
4.999685051 |
0.010244999 |
0.030743428 |
| 6 |
4.999949653 |
0.004096500 |
0.012290460 |
逐渐趋向 ,正好对应次大模与主模之比。第三方向相对第一方向按 更快衰减,所以后几步的方向误差主要由第二分量决定。
若 且初值两个分量都非零,两项模相同,轨道会在不同方向间振荡,无法选出唯一主方向。即使 有严格谱隙,取 也永远看不见特征值 ,因为缺少主分量。
非正规矩阵还可能先出现很大的瞬态增长,特征向量基的病态性会把渐近阶段推得很晚。唯一主模特征值保证的是受适当假设约束的尾部行为,不承诺每一步单调靠近,也不让 Rayleigh 商自动成为可靠前向误差界。
推论与应用
幂迭代是逆迭代、Rayleigh 商迭代和子空间迭代的基线:后续方法不是放弃“放大目标方向”,而是通过 shift-and-invert 改写谱,使想要的特征值成为新的主模。
它适合只求一个外端特征方向、矩阵—向量乘法便宜且谱隙明显的问题。若需要整个谱或稳定处理聚集特征值,QR 特征值算法把同样的正交迭代思想组织到 Schur 分解中,而不是逐个显式计算 。
参考资料
- Lloyd N. Trefethen and David Bau III, Numerical Linear Algebra, SIAM, 1997, Lectures 27 and 28.
- Gene H. Golub and Charles F. Van Loan, Matrix Computations, 4th ed., Johns Hopkins University Press, 2013, §7.3.
- Y. Saad, Numerical Methods for Large Eigenvalue Problems, 2nd ed., SIAM, 2011, Ch. 4.