信赖域法的接受与半径更新

局部模型像一张附有使用范围的地图。内层负责在地图允许的区域里找到好方向，外层负责检查地图预测与真实地形是否一致。一次坏候选不会强迫算法移动；位置可以不变，而地图的使用半径变小。

线搜索公理库线搜索的 Wolfe 条件Wolfe conditions · Wolfe line-search conditions · Strong Wolfe conditions以充分下降与方向导数曲率两项不等式判定线搜索步长是否可接受。通常先给定下降方向，再选择这条射线上的长度。信赖域先给定允许范围，再从模型选方向；半径改变后，方向也可能改变。只有一维或某些特殊模型中，缩半径才恰好等同于沿原方向缩步。

模型预测下降十，真实目标却上升六 ​

取 $f(x)=x^4-2x^2+x$，从 $x_0=0$ 出发。此时 $f(0)=0,g_0=1,B_0=-4$，二次模型为

半径 ${\mathrm{\Delta }}_0=2$ 时，模型在区间 $[-2,2]$ 内的最小点是 $p=-2$。预测下降为 $0-(-10)=10$，但真实函数值 $f(-2)=6$，实际下降为 $-6$。所以 $\rho =-0.6$，拒绝候选，仍留在 $x=0$，半径缩成一。

重解同一位置的新子问题，得到 $p=-1$。这次预测下降为三，真实函数值 $f(-1)=-2$，实际下降为二，所以 $\rho =2/3$。候选被接受，下一点是 $x_1=-1$，半径保持一。拒绝之后要重新解较小范围内的模型；这里恰好方向没变，是这个一维例子的特点。

下一轮的 $g_1=1,B_1=8$，无约束模型最优步 $p=-1/8$ 位于球内。预测下降为 $1/16$，实际下降为 $223/4096$，故

它被接受，但因为没有碰到球面，半径仍不扩大。最终是否达到要求，要继续检查新点梯度；高比值只表示当前模型预测准确。

比值好，不等于已最优 ​

对 $f(x)=x^2/2$ 使用精确二次模型，任何非零下降步都有 $\rho =1$。若在 $x=10$ 只走到 $9.9$，模型仍完全准确，却离最优点很远。因此终止量应包括 $\Vert \mathrm{\nabla }f(x)\Vert$，而不是只检查 $\rho$。

反过来，若 $g_k=0$，Cauchy 下降下界退化为零。取 $f(x)=-x^2$、$x=0$，梯度为零却是局部极大点。只检验一阶驻性的版本可以在此结束；要求排除负曲率时，还需内层检测 $B_k$ 的负方向，并使用相应二阶停止标准。

缩小半径为什么能够修复失真 ​

设 $f$ 在所有试探线段的邻域内有 $L$-Lipschitz 梯度，且 $\Vert B_k\Vert \le M$。Taylor 的一阶余项给出

若 $\Vert g_k\Vert \ge \epsilon >0$ 且半径足够小，Cauchy 下界为 ${\mathrm{pred}}_k\ge (\kappa /2)\epsilon {\mathrm{\Delta }}_k$。于是

误差是半径的二次量，保证下降是一阶量，所以半径充分小时，比值趋近一。只要梯度还显著非零，算法就不能永远以“模型不可信”为由拒绝所有步。

进一步假设 $f$ 在迭代水平集上有下界，求值精确，模型矩阵一致有界，而且每轮均满足上述下降要求。则固定规则产生的无限序列满足

证明用反证法：若尾部梯度始终至少为 $\epsilon$，足够小的半径就不会再被缩小。因为每次只减半，所有尾部半径存在一个正下界。无限拒绝又会迫使半径减到必能接受的范围，所以成功步有无限多个。每个成功步通过 Cauchy 下界使 $f$ 至少下降一个固定正数，最终违反下有界性。这个结论保证任意小的一阶残差会出现；它没有把非凸驻点升级成全局最优点。

工作量与实际停止 ​

一次试探需要模型求解以及一次真实目标求值；接受后通常重算梯度，拒绝时可复用旧点的梯度与模型矩阵。若显式组装并分解稠密 $B_k$，主要线性代数成本可达 $O(n^3)$；使用截断 CG 时，应报告 Hessian–向量积次数及目标、梯度求值次数，而不是只报外层轮数。

程序可在梯度达到目标容差时返回“一阶条件达到”，在达到预算、半径小到无法产生可分辨位移或内层失败时返回对应状态。小步长本身可能来自尺度失衡、舍入或坏模型，不构成驻性证书。若需要约束优化，必须把约束线性化、可行性恢复或罚函数机制加入外层；仅把普通 Newton 步放进一个球，并没有处理业务约束。