次梯度与次微分

普通梯度用切平面描述光滑图像的局部一阶变化；次梯度要求更强：对应的仿射平面必须从下方支撑整张凸图像。尖点可能容纳一整束支撑斜率，所以“次梯度”通常不是唯一向量。它也不是任意方向导数：方向导数描述沿某个方向怎样变化，次梯度则同时对所有 $y$ 给出一条全局下界。正因为约束是全局的，包含零斜率便足以认证全局最优。

对 $f(x)=|x|$，当 $x>0$ 时 $\partial f(x)=\{1\}$，当 $x<0$ 时为 $\{-1\}$。在尖点 $x=0$，不等式 $|y|\ge gy$ 对所有 $y$ 成立恰要求 $g\in [-1,1]$，故

区间包含零，所以零点是全局最小点；这比给 $|x|$ 人为指定一个“导数”更准确。

这一整个区间在稀疏优化中不可替换成单个零。在有限维欧氏空间取 $\lambda \ge 0$，对 $P(x)=\Vert Ax-b{\Vert }^2/2+\lambda \Vert x{\Vert }_1$，零坐标的最优性要求 $A_j^T(b-Ax)\in \lambda [-1,1]$，非零坐标才要求它等于 $\lambda \mathrm{sign}(x_j)$。在Lasso 的完整证书算例公理库Lasso 的最优性与对偶间隙Lasso optimality conditions · Lasso duality gap · Lasso primal-dual certificate从残差相关性核验 Lasso 的零与非零坐标，并用可行对偶值认证剩余优化误差。中，最优解 $(1,0)$ 的残差相关性是 $(1,1/2)$：第二个次梯度分量为 $1/2$，恰好能与光滑项抵消。若硬把零处的次梯度定成零，反而会错拒这个最优解。

边界处次微分确实可能为空。令 $f(x)=-\sqrt{x}$（$x\ge 0$），并在 $x<0$ 取 $+\mathrm{\infty }$；这是 proper 闭凸函数。若 $g\in \partial f(0)$，则对所有 $y>0$ 要有 $-\sqrt{y}\ge gy$，即 $g\le -1/\sqrt{y}$，不存在有限 $g$ 能对趋近零的所有 $y$ 成立。非凸函数也有 Clarke 次微分等广义概念，但它们使用不同定义与演算规则，不属于本页对象。

不完备空间还会带来另一种空次微分。令 $X=c_{00}$ 为有限支撑实序列，赋予 ${\ell }^2$ 内积，取连续线性函数 $f(x)=\sum _{n\ge 1}{x}_n/n$。由Cauchy–Schwarz 不等式公理库Cauchy–Schwarz 不等式Cauchy–Schwarz inequality · 柯西–施瓦茨不等式内积的绝对值不超过两向量范数之积，且等号精确刻画线性相关。，$|f(x)|\le \Vert x{\Vert }_2(\sum _{n\ge 1}{n}^{-2}{)}^{1/2}$，所以它处处 Fréchet 可微。若有 $g\in \partial f(x)$，对任意增量 $h$ 同时使用 $h$ 与 $-h$，就必须有 $⟨g,h⟩=f(h)$；代入标准基得到 $g_n=1/n$，这不属于 $c_{00}$。因此没有原空间内的梯度向量或次梯度，尽管导数作为连续线性泛函完全存在。

Fenchel–Young 不等式公理库凸共轭与 Fenchel–Young 不等式Convex conjugate · Fenchel conjugate · Fenchel–Young inequality以线性函数的最佳配对代价定义共轭，并导出原变量与对偶变量间的基本不等式。取等当且仅当 $g\in \partial f(x)$，这把支撑斜率与对偶变量精确对应。对凸约束集 $C$，指标函数 ${\delta }_C$ 的次微分是法锥。精确的约束最优性条件是 $0\in \partial (f+{\delta }_C)(x)$；满足次微分求和规则的资格条件后，才能进一步拆成 $0\in \partial f(x)+N_C(x)$。近端算子公理库近端算子Proximal operator · Proximity operator在降低凸函数值与保持靠近输入点之间取得精确平衡的单值算子。的最优性条件 $(x-y)/\lambda \in \partial f(y)$ 又把不可微最小化转成一个次微分关系。次梯度法、稀疏正则化和凸对偶都依赖这一接口，但非光滑处的次梯度不唯一意味着算法还需要明确选择规则与步长条件。

对 $f(x)+g(Ax)$，原对偶证书公理库Fenchel 对偶与原对偶单调包含Fenchel duality · Primal-dual monotone inclusion从复合凸问题的相对内部资格推出对偶乘子，以两份 Fenchel 等号认证最优，再构造极大单调系统并手算完整预解轨道。要求同一个 $y$ 满足 $-A^{\mathsf{T}}y\in \partial f(x)$ 与 $y\in \partial g(Ax)$。相对内部资格加上原最优点存在，才保证这种分解证书存在；该页沿用 $-\sqrt{x}$ 的边界例子，算出零间隙却没有最优乘子的对偶，说明次微分在边界为空会怎样影响最优性表示。