近端梯度法

若直接对 $g+h$ 做梯度步，$h$ 的尖角可能没有梯度；若每轮对整个 $F$ 做 prox，又可能把本来容易求梯度的 $g$ 放进昂贵子问题。近端梯度恰好按计算结构拆分：先用 $g$ 的局部线性信息提出候选，再让 $h$ 的 prox 在降低惩罚与靠近候选之间精确权衡。算法利用的是“一个梯度便宜、另一个 prox 便宜”，而不只是代数上能写成两项。

在 $h=0$ 时，prox 是恒等映射，算法退化为梯度下降；在 $h$ 是集合指标函数时，prox 变成投影。这个统一视角也解释了软阈值：${\ell }_1$ 惩罚不会在显式梯度中产生精确零，但其 prox 能把一整段输入直接送到零。步长仍由光滑项 $g$ 的曲率控制，而不是由整个非光滑目标的某个虚构 Hessian 控制。

取一维复合目标

$g(x)=(x-3{)}^2/2$ 的 $L=1$，$h(x)=|x|$ 的 prox 是软阈值。用 $\alpha =1/2$、$x_0=0$，有

其中 $S_{\tau }(z)=\mathrm{sign}(z)(|z|-\tau {)}_{+}$。函数值依次为 $4.5,3,2.625,2.53125$，趋向唯一解 $x^{\ast }=2$ 的 $F(x^{\ast })=2.5$。若取紧步长 $\alpha =1$，无论初值为何，梯度候选都是 $3$，一次软阈值即到 $2$；这是一维特殊结构，不代表一般问题一步收敛。

边界来自拆分而非记号。若 $h$ 的 prox 只能由昂贵内层迭代近似，必须控制内层误差；若 $g$ 非凸，固定点通常只表示复合驻点而非全局极小。低估 $L$ 可能破坏充分下降，可用回溯实际检查由下降引理公理库下降引理Descent lemma · Quadratic upper-bound lemma以 Lipschitz 梯度常数给出函数相对一阶模型的全局二次上界。给出的二次模型。把两个都非光滑的项硬指定一个为“光滑项”，或把约束集合非凸时的多值投影当单值 prox，均超出标准理论。

在凸假设与 $\alpha \le 1/L$ 下，更新的最优性不等式和光滑二次上界合并可得

求和后得到 $F(x_k)-F^{\ast }=O(1/k)$；若复合目标强凸，可进一步得到几何率。加上 Nesterov 权重便形成 FISTA 的 $O(1/k^2)$ 率，但主序列可能不单调，证明需要新的势函数。这里控制的是复合函数值或梯度映射，不应偷换成每个坐标恢复正确支持集。

Lasso、稀疏逻辑回归、总变差模型和带简单凸约束的经验风险最小化都可使用这一结构。Moreau 包络公理库Moreau 包络Moreau envelope · Moreau-Yosida regularization以二次 infimal convolution 将闭凸函数平滑化并保留其极小点的函数。也通过 $x-\mathrm{prox}(x)$ 产生光滑梯度，但它对整个函数取 infimal convolution；近端梯度只对 $h$ 取 prox。二者公式相似而优化对象不同，诊断时应先写清子问题。