Moreau 包络

在每个查询点 $x$，包络不直接读取 $f(x)$，而是在所有候选 $y$ 中寻找“函数值低且离 $x$ 不太远”的最佳折中。最优候选 $p(x)$ 给包络值，位移 $x-p(x)$ 则给斜率。即使原函数有尖角，二次惩罚使最优候选随 $x$ 稳定移动，于是尖角被圆滑成可微过渡区。

$\lambda$ 同时控制两件相反的事：小 $\lambda$ 保真但梯度常数 $1/\lambda$ 大，数值步长更受限；大 $\lambda$ 更平滑却把函数压得更低。包络并不是对数据做局部平均，而是一次精确的最小化卷积，所以它能保留全局极小点。计算梯度也并非免费：公式要求能够计算 prox；若近端子问题本身困难，写出光滑包络并没有消除计算成本。

取一维 $f(y)=|y|$。近端点是软阈值

代回可得 Huber 型包络

其导数在内区间为 $x/\lambda$，外区间为 $\mathrm{sign}(x)$，在 $x=\pm \lambda$ 连续；斜率变化的最大比值正是 $1/\lambda$。例如 $\lambda =2,x=3$ 时，$p(x)=1$，包络值 $1+(3-1{)}^2/4=2$，也等于 $3-1$，可直接复算。

若 $f={\delta }_C$ 是非空闭凸集的指标函数，则 $e_{\lambda }f(x)=\mathrm{dist}(x,C{)}^2/(2\lambda )$，把硬约束变成平方距离。取 $C=\{0\}$、$x=1$，对每个 $\lambda >0$ 都有 ${\mathrm{prox}}_{\lambda f}(1)=0$，并不趋于输入 $1$；同时 $e_{\lambda }f(1)=1/(2\lambda )\to +\mathrm{\infty }=f(1)$。包络值的点态逼近与近端点趋于输入，因而是两个不同结论。凸性不可随意删除：非凸 $f$ 的近端点可能多值，包络也可能不可微。即使在凸情形，$e_{\lambda }f(x)\le f(x)$ 不表示它在每一点都近似良好；靠近陡峭跳变或取大 $\lambda$ 时偏差可以显著。包络保留极小点，但不保留所有函数值、Hessian 或统计解释。

梯度公式把不可微最优性变成光滑残差：

因此 $\Vert x-p(x)\Vert /\lambda$ 是包络的一阶最优性残差；没有额外误差界时，不能把它直接换成到极小点的距离。对集合指标函数，这就是点到其投影的缩放向量；对 $|x|$，它在尖角附近线性连续地替代不连续的符号次梯度。Moreau 分解还把 $f$ 与其凸共轭的 prox 连接起来，形成原—对偶残差分解。

需要区分包络梯度下降与近端梯度法理路近端梯度法Proximal gradient method对复合目标的光滑项取显式梯度步、对非光滑凸项取隐式近端步的算法。。前者对整个 $f$ 计算 prox 后沿 $e_{\lambda }f$ 的梯度移动；后者针对 $g+h$，只对 $h$ 取 prox、对光滑的 $g$ 取显式梯度。二者都出现 $x-\mathrm{prox}(x)$，但子问题、固定点和收敛常数不同。Moreau 平滑还用于单调算子的 Yosida 逼近。增广 Lagrange 乘子法理路增广 Lagrange 乘子法Augmented Lagrangian method · Method of multipliers联合最小化增广目标后累加约束违背，借对偶近端机制在固定罚参数下改善可行性，并分别检查内层与外层误差。将联合原变量最小化解释为凹对偶函数上的近端最大化，并由相邻乘子差读取可行性残差；不精确内层的误差仍须纳入最终证书。