Skip to content

算法Algorithm

幂迭代

施工中 · 内容逐步修订

Power method · Power iteration

反复应用矩阵并归一化,以谱隙筛出唯一主模特征方向,同时用残差判断所得特征对。

形式陈述 ​

给定 n 维实或复空间上的方阵或线性算子 A、非零初值 x0、容差和最大迭代数,先按矩阵与向量二范数令 ‖x0‖2=1,再反复计算

yk+1=Axk,xk+1=yk+1‖yk+1‖2.

若 ‖yk+1‖2=0,当前轨道已进入 A 的核,算法不能继续归一化。特征值用 Rayleigh 商估计:

θk=xk∗Axkxk∗xk;

当 xk 已归一化时,分母为 1。每步需要矩阵—向量乘法和向量归一化;稠密矩阵成本为 Θ(n2),若压缩稀疏表示实际保存 s 个条目(包括显式零和重复坐标),则为 O(n+s),其中 n 项包括输出初始化、范数计算和归一化。额外存储为若干向量,算法无需显式形成 Ak。

把迭代向量看成一个收敛序列时,以下含次主特征值的结论取 n≥2,并假设 A 可对角化,特征值按模排序为

|λ1|>|λ2|≥⋯≥|λn|,

且初值在主特征向量 v1 上的分量非零。写成 x0=∑icivi 后,

Akx0=λ1k(c1v1+∑i≥2ci(λiλ1)kvi),

因此在符号或相位对齐后,方向误差有 O(|λ2/λ1|k) 的几何上界;若次主模对应的初始分量为零,实际衰减可以更快,不能把这个谱比无条件当作每条轨道的精确渐近因子。全部非主分量为零时,初值已经是目标方向。严格分离的是特征值的模,不是实部、实数大小或代数排序;若 c1=0,主方向从轨道中永久缺席。

n=1 时,若标量 A≠0,任意非零初值已经给出唯一特征方向,Rayleigh 商恰等于该标量;无需使用含 λ2 的谱比。零标量则进入前述零乘积分支。

当 λ1<0 时,归一化向量会在 v1 与 −v1 之间交替;复数主特征值则每步累积相位 λ1/|λ1|。因此方向误差应在符号或相位对齐后比较,或直接考察投影与残差,而不能只用 ‖xk+1−xk‖。常用完成准则为

rk=Axk−θkxk,‖rk‖2≤atol+rtol‖A‖2,

并同时检查相位对齐后的方向变化、零向量、非有限值与迭代上限。小残差到特征向量误差的转换仍需要谱分离和特征向量条件性。对 Hermitian 输入,残差—间隔界明确给出候选值到互补谱的距离,以及不依赖符号或相位的方向误差;一般可对角化输入则可用Bauer–Fike 界先认证谱距离。

直觉

幂迭代像反复拉伸一团由多个特征方向组成的材料。第 i 个方向经过 k 步后乘上 λik;只要某个模严格最大且初值确实含有该方向,其他分量相对于它就按比值的幂衰减。在精确算术中,每步归一化不改变方向竞争;它控制迭代之间的尺度增长,但不能单独防止矩阵—向量乘法或范数计算内部的溢出、下溢。有限精度实现仍需安全缩放及非有限值检查。

幂迭代逼近主特征方向

谱隙决定速度。|λ2/λ1| 很小时,主方向很快显露;比值接近 1 时,归一化后的向量看似稳定变化,却要很多步才能真正分离。算法便宜的每一步并不能弥补不存在的谱隙。

例子与边界

取

A=diag(5,2,1),x0=13(1,1,1)T.

令 ηk=xk,22+xk,32/|xk,1| 衡量非主方向相对第一分量的大小。实际迭代历史为:

k Rayleigh 商 θk ηk |Axk−θkxk|2
0 2.666666667 1.414213562 1.699673171
1 4.466666667 0.447213595 1.203698006
2 4.919003115 0.164924225 0.492606017
3 4.987507967 0.064498062 0.193842689
4 4.998024979 0.025649951 0.077015546
5 4.999685051 0.010244999 0.030743428
6 4.999949653 0.004096500 0.012290460

ηk+1/ηk 逐渐趋向 2/5=0.4,正好对应次大模与主模之比。第三方向相对第一方向按 (1/5)k 更快衰减,所以后几步的方向误差主要由第二分量决定。

若 A=diag(1,−1) 且初值两个分量都非零,两项模相同,轨道会在不同方向间振荡,无法选出唯一主方向。即使 A=diag(5,2) 有严格谱隙,取 x0=e2 也永远看不见特征值 5,因为缺少主分量。

非正规矩阵还可能先出现很大的瞬态增长,特征向量基的病态性会把渐近阶段推得很晚。唯一主模特征值保证的是受适当假设约束的尾部行为,不承诺每一步单调靠近,也不让 Rayleigh 商自动成为可靠前向误差界。

推论与应用

幂迭代是逆迭代、Rayleigh 商迭代和子空间迭代的基线:后续方法不是放弃“放大目标方向”,而是通过 shift-and-invert 改写谱,使想要的特征值成为新的主模。

它适合只求一个外端特征方向、矩阵—向量乘法便宜且谱隙明显的问题。若需要整个谱或稳定处理聚集特征值,QR 特征值算法把同样的正交迭代思想组织到 Schur 分解中,而不是逐个显式计算 Ak。

参考资料
  • Lloyd N. Trefethen and David Bau III, Numerical Linear Algebra, SIAM, 1997, Lectures 27 and 28.
  • Gene H. Golub and Charles F. Van Loan, Matrix Computations, 4th ed., Johns Hopkins University Press, 2013, §7.3.
  • Y. Saad, Numerical Methods for Large Eigenvalue Problems, 2nd ed., SIAM, 2011, Ch. 4.
关系图谱12 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系