凸函数

凸性要求任意两点之间的整条弦都压在图像上方，因此函数不会在两个低谷之间藏着更低而不可见的凹槽。等价地，它的上图是凸集；这个几何改写让函数不等式可以用超平面分离公理库分离与支撑超平面定理Separating hyperplane theorem · Supporting hyperplane theorem用线性泛函分开凸集或在其边界处构造全局支撑超平面。处理。可微时梯度给全局支撑平面，不可微时则由次梯度公理库次梯度与次微分Subgradient · Subdifferential以全局仿射下界刻画凸函数在不可微点的支撑斜率集合。给出全局仿射下界。

$x^2$、$e^x$、任意范数，以及任意一族凸函数的点态上确界，都是凸函数。$-\log x$ 在 $x>0$ 上凸。严格凸要求不等点的真弦不等式，能给出极小点唯一性；强凸还要求统一二次曲率，二者不能混同。$|x|$ 凸但在零点不可微，说明 Hessian 判据只适用于足够光滑情形。凸函数可取 $+\mathrm{\infty }$ 以编码约束，但不能任意出现 $-\mathrm{\infty }$ 而仍保持通常的“适当凸函数”理论。凸函数的局部极小点都是全局极小点，反之极大点没有类似结论。

函数 $f(x)=max\{x,-2x+3\}$ 是两条仿射函数的点态最大值，因此凸，但在交点处不可微。对 $f(x)=x^2$，取 $x=-1,y=2,t=1/3$，可直接验证

若定义域本身不凸，弦可能离开定义域，标准凸函数定义便不能直接使用。

凸集公理库凸集Convex set任意两点间线段全部包含在集合中的向量空间子集。提供允许插值的定义域，梯度公理库梯度Gradient标量函数微分在内积下对应的向量。或次梯度提供支撑下界，二者共同构成凸优化问题公理库凸优化问题Convex optimization problem在凸可行域上最小化凸目标且不等式约束为凸函数的优化模型。的全局结构。Hölder 不等式公理库Hölder 不等式Hölder's inequality共轭指数下函数乘积的 L¹ 范数由各自的 Lᵖ 范数乘积控制。、范数和对数似然中也反复出现凸性；它既用于证明不等式，也用于把局部最优性升级为全局最优性。

从这个对象页向外有三条不同主线：Jensen 不等式公理库Jensen 不等式Jensen's inequality凸函数作用于平均值不超过函数值的相同加权平均。把有限凸组合推广到随机平均；次微分公理库次梯度与次微分Subgradient · Subdifferential以全局仿射下界刻画凸函数在不可微点的支撑斜率集合。处理不可微点的支撑斜率与最优性；凸共轭与 Fenchel–Young 不等式公理库凸共轭与 Fenchel–Young 不等式Convex conjugate · Fenchel conjugate · Fenchel–Young inequality以线性函数的最佳配对代价定义共轭，并导出原变量与对偶变量间的基本不等式。用所有线性配对组织对偶信息。Bregman 散度公理库Bregman 散度Bregman divergence凸函数值高于其一阶切平面的余量，用来度量与生成函数几何相适配的偏离。则量出函数图像高于某点支撑平面的余量，通常不对称，也不是度量。

学习应用需要再分两层。分类代理损失公理库分类代理损失与校准classification calibration · classification surrogate loss说明可优化代理风险在什么条件下能够控制二分类的零一超额风险。借凸性获得可优化目标，但“凸”本身不保证对 $0$–$1$ 风险校准，更不保证有限样本泛化；在线凸优化公理库在线凸优化Online convex optimization · OCO每轮先在凸域选点、再承受未知凸损失，并与最好固定点比较。只用每轮损失凸性建立 regret。近端算子公理库近端算子Proximal operator · Proximity operator在降低凸函数值与保持靠近输入点之间取得精确平衡的单值算子。进一步把一个凸函数放进可计算的正则化子问题，但如何迭代、停止和处理内层误差属于数值算法层。各页分别固定假设和等号条件，本页不再临时承担它们的定义。