只有 时,这个正的极限才给出恰为二的 Q-收敛阶理路迭代收敛阶Order of convergence · Q-convergence · R-convergence用相邻迭代误差的渐近幂律区分线性、超线性与二次收敛,并说明实验估阶的边界。。若二阶导数为零,实际阶可能更高;若有限步命中根,后续比值为 ,应报告已经精确完成,而不再拟合收敛阶。
向量情形在 等条件下可用多元 Taylor 展开理路多元 Taylor 定理Multivariable Taylor theorem用各阶导数给出多元函数的局部多项式展开及余项控制。控制二阶余项。更一般地,只要 在根附近连续可微、 可逆、Jacobian 在邻域内以常数 Lipschitz 连续,就可在该邻域内的线段上直接写出
从而得到余项范数至多 。结合邻域内一致有界的逆 Jacobian 和足够近的初值,这就给出局部二次误差上界,不必额外假设连续二阶导数。若只近似求解 Newton 线性系统,可要求
Newton 法在当前点用切线或切平面替代弯曲的非线性对象,然后走到这个线性模型的零点。靠近简单根时,线性部分恰好被 Newton 步抵消,剩下的是二阶 Taylor 余项,因此旧误差平方后才进入下一步。这幅图像也解释了限制:离根太远时切线可能指向错误区域,导数接近零时交点会被推得极远,Jacobian 奇异时甚至没有唯一的线性修正方向。
Newton 法的切线更新
向量 Newton 的核心动作是“解一个局部线性问题”,不是“套一个矩阵公式”。这一区别在大规模问题中尤其重要:保留线性系统形式,才能选择适合结构的分解、迭代求解和预条件,而不必制造一个稠密逆矩阵。
隐式时间步进、非线性边值问题和约束方程常在每个外层步骤内调用 Newton 求解。此时停止容差不能孤立选择:内层解得过粗会污染外层误差,解得远超外层精度又浪费工作。优化中的 Newton 法求的是梯度方程并使用 Hessian;信赖域法理路信赖域法的接受与半径更新Trust-region method用实际下降与预测下降的比值接受或拒绝模型步,并调整信赖半径,使局部二次模型服务于真实目标下降。还用真实函数下降检验候选,并可拒绝坏步后缩小模型半径。它的目标与全局化规则不同于本页的非线性求根。