凸共轭与 Fenchel–Young 不等式

形式陈述 ​

为避免无限维拓扑中的闭性与对偶歧义，本页设 $X$ 是有限维实内积空间公理库内积空间Inner product space带正定对称双线性形式或正定 Hermitian 半双线性形式的向量空间。，并用内积把连续对偶空间 $X^{\ast }$ 与 $X$ 识别。设 $f:X\to \mathbb{R}\cup \{+\mathrm{\infty }\}$ 是 proper 函数，即不恒为 $+\mathrm{\infty }$ 且不取 $-\mathrm{\infty }$。Fenchel 共轭定义为

$$f^{\ast }(y)=\underset{x\in X}{sup}(⟨y,x⟩-f(x)),y\in X.$$

对任意 $x,y\in X$，由上确界定义立即得到 Fenchel–Young 不等式

$$f(x)+f^{\ast }(y)\ge ⟨y,x⟩.$$

若 $f$ 为 proper 闭凸函数，则等号当且仅当

$$y\in \partial f(x),$$

等价地 $x\in \partial f^{\ast }(y)$。同一闭凸假设下，Fenchel–Moreau 定理给出 $f^{\ast \ast }=f$；对一般函数，双共轭只恢复其下半连续凸包，而不是原函数。

直觉 ​

固定对偶方向 $y$ 后，$⟨y,x⟩$ 是一族线性评价。$f^{\ast }(y)$ 记录这条线性评价超过 $f$ 的最大幅度，也就是要把它整体下移多少，才能成为 $f$ 的全局仿射下界。Fenchel–Young 不等式不是额外的神秘估计，而是说“某个 $x$ 给出的候选值不会超过对所有 $x$ 取得的上确界”。当等号成立时，这条仿射函数恰好在 $x$ 处贴住 $f$，其斜率正是次梯度。

例子与边界 ​

令 $f(x)=\frac{1}{2}\Vert x{\Vert }^2$。配方得到

$$f^{\ast }(y)=\underset{x}{sup}(⟨y,x⟩-\frac{1}{2}\Vert x{\Vert }^2)=\frac{1}{2}\Vert y{\Vert }^2,$$

上确界在 $x=y$ 取得。Fenchel–Young 因而化为 $\frac{1}{2}\Vert x{\Vert }^2+\frac{1}{2}\Vert y{\Vert }^2\ge ⟨x,y⟩$，等号恰在 $x=y$ 时成立。若 $f={\delta }_C$ 是集合 $C$ 的指标函数——在 $C$ 上为零、外部为 $+\mathrm{\infty }$——则 $f^{\ast }(y)=\underset{x\in C}{sup}⟨y,x⟩$，即支撑函数。

闭性不能从双共轭结论中删去。例如在 $\mathbb{R}$ 上令 $f(x)=0$（$x>0$）、$f(x)=+\mathrm{\infty }$（$x\le 0$），它是 proper 凸函数，却在原点不下半连续；双共轭把定义域补成 $[0,\mathrm{\infty })$，所以 $f^{\ast \ast }(0)=0\ne f(0)$。共轭也允许取 $+\mathrm{\infty }$，这不是计算失败，而是该对偶方向没有有限支撑代价。无限维推广需要 Hausdorff 局部凸拓扑与连续对偶，不能在没有结构说明时把 $y$ 直接写成另一个原空间向量。

推论与应用 ​

等号条件把本页与次微分公理库次梯度与次微分Subgradient · Subdifferential以全局仿射下界刻画凸函数在不可微点的支撑斜率集合。双向连接，并把求解最优性改写为原—对偶配对。Lagrange 对偶公理库拉格朗日对偶Lagrange duality通过拉格朗日函数构造原问题下界的对偶问题，并研究弱对偶、强对偶与最优性条件。可借共轭消去原变量，Fenchel 对偶则直接比较若干函数的共轭；许多经典不等式也可视为 Fenchel–Young 的特例。共轭还控制近端算子公理库近端算子Proximal operator · Proximity operator在降低凸函数值与保持靠近输入点之间取得精确平衡的单值算子。的对偶关系，例如 Moreau 分解把一个闭凸函数及其共轭的 prox 组合成恒等映射。

参考资料

• R. Tyrrell Rockafellar, Convex Analysis, Princeton University Press, 1970，§§12–13, conjugate convex functions and biconjugation。
• Stephen Boyd and Lieven Vandenberghe, Convex Optimization, Cambridge University Press, 2004，§3.3, conjugate functions。