Skip to content

算法Algorithm

Newton 非线性方程法

施工中 · 内容逐步修订

Newton's method · Newton-Raphson method · Newton method for nonlinear systems

在当前点解一阶线性化方程来修正非线性方程的近似解,并分析其局部二次收敛与失效边界。

形式陈述 ​

对标量求根问题 f(x)=0,给定初值 x0,Newton 迭代在导数 f′(xk)≠0 时计算

xk+1=xk−f(xk)f′(xk).

它输入函数、导数、初值、尺度化容差和最大迭代数,输出近似根或明确的失败状态。每步需要一次函数和导数求值以及常数次标量运算;实现还要拒绝过小导数、非有限结果和越出允许定义域的更新。

对方程组 F:Rn→Rn,Newton 步不是显式形成 Jacobian 的逆,而是求解线性方程组

JF(xk)sk=−F(xk),xk+1=xk+sk.

一次稠密无结构线性求解通常需要 O(n3) 运算,实际成本则由 Jacobian 的稀疏性、结构、组装和线性求解精度决定。直接计算 JF(xk)−1 会增加工作量并放大数值风险,不能替代解线性系统。

若标量根 x∗ 是简单根,f 在其邻域二次连续可微,且初值足够接近 x∗,则迭代定义良好,并满足局部至少二次的误差上界。若没有在有限步精确命中根,误差比值满足

limk→∞|xk+1−x∗||xk−x∗|2=|f″(x∗)2f′(x∗)|.

只有 f″(x∗)≠0 时,这个正的极限才给出恰为二的 Q-收敛阶。若二阶导数为零,实际阶可能更高;若有限步命中根,后续比值为 0/0,应报告已经精确完成,而不再拟合收敛阶。

向量情形在 C2 等条件下可用多元 Taylor 展开控制二阶余项。更一般地,只要 F 在根附近连续可微、JF(x∗) 可逆、Jacobian 在邻域内以常数 L Lipschitz 连续,就可在该邻域内的线段上直接写出

F(x+h)−F(x)−JF(x)h=∫01[JF(x+th)−JF(x)]hdt,

从而得到余项范数至多 L‖h‖2/2。结合邻域内一致有界的逆 Jacobian 和足够近的初值,这就给出局部二次误差上界,不必额外假设连续二阶导数。若只近似求解 Newton 线性系统,可要求

‖JF(xk)sk+F(xk)‖≤ηk‖F(xk)‖;

在上述正则性、足够近的初值和统一足够小的 ηk 上界下,再要求 ηk→0,可保证局部超线性收敛。这里 ηk 是实际内层相对残差的上界,趋零是这一保证的充分条件;选取固定的宽松上界,并不排除实际求解已经精确或误差衰减得更快。内层线性求解的实际误差才会直接进入外层迭代。

停止时应同时检查尺度化残差和步长,例如 ‖F(xk)‖ 与 ‖sk‖ 是否分别达到目标,并保留最大迭代、奇异 Jacobian、非有限数和线性求解失败等退出原因。小残差只有结合局部逆界或条件数才能推出小解误差,不能单独作为无条件证书。

直觉

Newton 法在当前点用切线或切平面替代弯曲的非线性对象,然后走到这个线性模型的零点。靠近简单根时,线性部分恰好被 Newton 步抵消,剩下的是二阶 Taylor 余项,因此旧误差平方后才进入下一步。这幅图像也解释了限制:离根太远时切线可能指向错误区域,导数接近零时交点会被推得极远,Jacobian 奇异时甚至没有唯一的线性修正方向。

Newton 法的切线更新

向量 Newton 的核心动作是“解一个局部线性问题”,不是“套一个矩阵公式”。这一区别在大规模问题中尤其重要:保留线性系统形式,才能选择适合结构的分解、迭代求解和预条件,而不必制造一个稠密逆矩阵。

例子与边界

简单根并不总对应恰好二阶。对 f(x)=x+x3,零点处 f′(0)=1、f″(0)=0,Newton 更新为

xk+1=2xk31+3xk2.

从足够小的非零初值出发,误差满足 |ek+1|/|ek|3→2,所以是 Q-三次收敛,仍满足至少二次的局部误差上界。线性函数 f(x)=x−r 则一步就得到根,不属于最终误差非零的渐近比值情形。

求 2 可令 f(x)=x2−2。从 x0=1 出发,

xk+1=12(xk+2xk)

依次得到 1.5,1.416666…,1.414215686…。简单根附近有

|ek+1|≈122|ek|2,

所以进入局部区间后正确位数迅速增加。这个例子同时是一个不动点迭代,但二次速度来自 Newton 构造令根处迭代导数为零,而不是所有不动点公式都会拥有的性质。

取实函数 f(x)=x1/3。对任意 xk≠0,Newton 更新化为

xk+1=xk−xk1/313xk−2/3=−2xk,

轨道离根越来越远;根处导数又不存在。这是“函数有根”却不满足局部二次收敛假设的真实失败,而不是容差选择问题。

若根附近可写成 f(x)=(x−x∗)mg(x),其中整数 m>1、g 连续可微且 g(x∗)≠0,普通 Newton 法一般只线性收敛,渐近因子为 (m−1)/m。已知重数时,修正公式 xk+1=xk−mf(xk)/f′(xk) 满足精确误差式

ek+1=ek2g′(xk)mg(xk)+ekg′(xk).

分母在根附近远离零、g′ 有界,因而恢复至少二次的局部误差上界;这并不无条件保证正的二次渐近常数。只有连续的非零因子不足以提供上述导数控制。未知重数时也不能假装简单根理论仍然成立。阻尼更新 xk+1=xk+αksk 可以限制过大的步长,但只有配合明确的接受准则和全局化条件,才比“随手取小 αk”多一层保证。

推论与应用

逆函数定理解释非奇异 Jacobian 为何在根附近提供唯一局部解,Jacobian 矩阵则给出每步线性化的坐标表示。Newton 法把这些局部结构变成计算过程,但不会把局部定理自动升级为任意初值的全局收敛。

Newton–Kantorovich半局部定理进一步从已知起点的归一化残差和Jacobian变化上界计算两个半径:小半径控制精确Newton轨道的总行程,大开球提供根的唯一域。半径必须留在已验证的条件区域内;这一证书不能直接转移给未经误差控制的近似线性求解。

隐式时间步进、非线性边值问题和约束方程常在每个外层步骤内调用 Newton 求解。此时停止容差不能孤立选择:内层解得过粗会污染外层误差,解得远超外层精度又浪费工作。优化中的 Newton 法求的是梯度方程并使用 Hessian;信赖域法还用真实函数下降检验候选,并可拒绝坏步后缩小模型半径。它的目标与全局化规则不同于本页的非线性求根。

参考资料
  • NIST Digital Library of Mathematical Functions, §3.8 Nonlinear Equations, accessed 2026.
  • C. T. Kelley, Iterative Methods for Linear and Nonlinear Equations, SIAM, 1995,Ch. 5 与 Ch. 6,尤其 Theorem 6.1.2 的局部非精确 Newton 条件。
  • Peter Deuflhard, Newton Methods for Nonlinear Problems: Affine Invariance and Adaptive Algorithms, Springer, 2011.
关系图谱25 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系