形式陈述

设 $C$ 为凸集。函数 $f:C\to \mathbb{R}\cup \{+\mathrm{\infty }\}$ 称凸，若对 $x,y\in C$、$\theta \in [0,1]$，

$$f((1-\theta )x+\theta y)\le (1-\theta )f(x)+\theta f(y).$$

其上图

$$\mathrm{epi}f=\{(x,t):x\in C,t\ge f(x)\}$$

为凸集，当且仅当 $f$ 凸。若 $C$ 是开凸域且 $f:C\to \mathbb{R}$ 可微，则凸性等价于一阶支撑不等式

$$f(y)\ge f(x)+\mathrm{\nabla }f(x{)}^{\mathrm{\top }}(y-x).$$

若进一步二次可微，则 ${\mathrm{\nabla }}^{2}f(x)⪰0$ 对所有 $x\in C$ 成立是凸性的等价条件。

直觉

凸函数的弦位于图像上方，因此任何局部下降方向都具有全局意义；切平面永远是全局下界。

例子与边界

$x^2$、$e^x$、任意范数，以及任意一族凸函数的点态上确界，都是凸函数。$-\log x$ 在 $x>0$ 上凸。严格凸要求不等点的真弦不等式，能给出极小点唯一性；强凸还要求统一二次曲率，二者不能混同。$|x|$ 凸但在零点不可微，说明 Hessian 判据只适用于足够光滑情形。凸函数可取 $+\mathrm{\infty }$ 以编码约束，但不能任意出现 $-\mathrm{\infty }$ 而仍保持通常的“适当凸函数”理论。凸函数的局部极小点都是全局极小点，反之极大点没有类似结论。

推论与应用

凸性使梯度法、次梯度法、Jensen 不等式和 Fenchel 对偶具有全局保证；上图视角把函数问题转化为集合分离问题。

参考资料

• Stephen Boyd and Lieven Vandenberghe, Convex Optimization, Cambridge University Press, 2004，Ch. 3, convex functions and first/second-order characterizations。
• R. Tyrrell Rockafellar, Convex Analysis, Princeton University Press, 1970，§§4–10, convex functions and epigraphs。