凸函数

凸性比较两个方案与它们的折中：先混合输入得到 $(1-\theta )x+\theta y$，其代价不超过两个原代价的加权平均。图像因而位于端点连线下方。可微时，切平面从下方支撑整个图像；不可微时，次梯度理路次梯度与次微分Subgradient · Subdifferential以全局仿射下界刻画凸函数在不可微点的支撑斜率集合。用支撑斜率描述同一几何关系。把图像上方的点组成上图，则可用超平面分离理路分离与支撑超平面定理Separating hyperplane theorem · Supporting hyperplane theorem用线性泛函分开凸集或在其边界处构造全局支撑超平面。研究这些支撑关系。

$x^2$、$e^x$、任意范数及定义在 $x>0$ 上的 $-\log x$ 都是凸函数。$|x|$ 在零点没有导数，但任意弦仍位于图像上方，说明凸性可以直接用函数值检验。

严格凸要求有效定义域内不同端点之间的真凸组合满足严格不等式，它使有限值极小点至多一个。强凸还要求相对于某个范数存在统一的正二次下界。例如 $x^4$ 在实线上严格凸，但原点附近曲率趋于零，因此不强凸。

取 $+\mathrm{\infty }$ 可以将不可行输入排除：凸集 $K$ 的指示函数在 $K$ 内为 $0$、外为 $+\mathrm{\infty }$，仍是凸函数。“适当”进一步要求函数不恒为 $+\mathrm{\infty }$，并排除 $-\mathrm{\infty }$ 值。

函数 $f(x)=max\{x,-2x+3\}$ 是两条仿射函数的点态最大值，因此凸，但在交点处不可微。对 $f(x)=x^2$，取 $x=-1,y=2,t=1/3$，可直接验证

凸定义域使每条弦对应的输入都留在函数可取值的范围内。例如 $(-\mathrm{\infty },-1]\cup [1,\mathrm{\infty })$ 缺少 $-1$ 与 $1$ 的中点，无法承载这两个输入之间的全部凸组合。

凸集理路凸集Convex set任意两点间线段全部包含在集合中的向量空间子集。提供允许插值的定义域，梯度理路梯度Gradient标量函数微分在内积下对应的向量。或次梯度提供支撑下界，二者共同构成凸优化问题理路凸优化问题Convex optimization problem在凸可行域上最小化凸目标且不等式约束为凸函数的优化模型。的全局结构。Hölder 不等式理路Hölder 不等式Hölder's inequality共轭指数下函数乘积的 L¹ 范数由各自的 Lᵖ 范数乘积控制。、范数和对数似然中也反复出现凸性；它既用于证明不等式，也用于把局部最优性升级为全局最优性。

Jensen 不等式理路Jensen 不等式Jensen's inequality凸函数作用于平均值不超过函数值的相同加权平均。将凸组合推广到随机平均；次微分理路次梯度与次微分Subgradient · Subdifferential以全局仿射下界刻画凸函数在不可微点的支撑斜率集合。描述不可微点的支撑斜率；凸共轭与 Fenchel–Young 不等式理路凸共轭与 Fenchel–Young 不等式Convex conjugate · Fenchel conjugate · Fenchel–Young inequality以线性函数的最佳配对代价定义共轭，并导出原变量与对偶变量间的基本不等式。则用线性函数组织全局下界。Bregman 散度理路Bregman 散度Bregman divergence凸函数值高于其一阶切平面的余量，用来度量与生成函数几何相适配的偏离。正是函数值高于某点切平面的余量。

有限数据也能完整测试是否可被凸函数插值。凸最小二乘理路有限设计的凸最小二乘回归Convex least squares regression · Multivariate convex regression · 凸回归的有限证书将凸函数类上的加权平方拟合精确化为逐对支撑平面约束，证明拟合值唯一、交付全局乘子证书，并区分非等距斜率约束、未见点延拓与统计风险。要求：每当输入$x_i$是其他输入的凸组合$\sum _j{\alpha }_j{x}_j$，高度就满足${\theta }_i\le \sum _j{\alpha }_j{\theta }_j$。这些闭半空间的交构成拟合值闭凸锥；LP对偶又将同一条件转成每点一条支撑仿射函数，所以检验不止是必要条件。高度的唯一最小二乘投影，并不让插值函数在未见位置唯一。

二维阿基米德Copula理路二维阿基米德 CopulaBivariate Archimedean copula · 阿基米德联结函数从递减生成元和伪逆构造二维均匀边缘联合分布，证明凸性充要条件，区分严格光滑密度、奇异边界和条件逆采样。把本页凸性用于概率合法性：递减凸生成元的伪逆仍凸，固定长度的增量随起点不减，恰好保证每个矩形的CDF增量非负。这个二维结论不能直接推广任意维度；线性生成元产生的三维候选就会出现负盒质量。

学习中，凸分类代理损失理路分类代理损失与校准classification calibration · classification surrogate loss说明可优化代理风险在什么条件下能够控制二分类的零一超额风险。提供可优化的训练目标，其与分类错误率的联系由校准性质描述。在线凸优化理路在线凸优化Online convex optimization · OCO每轮先在凸域选点、再承受未知凸损失，并与最好固定点比较。利用每轮损失的支撑不等式，将损失差控制为梯度或次梯度的线性配对。近端算子理路近端算子Proximal operator · Proximity operator在降低凸函数值与保持靠近输入点之间取得精确平衡的单值算子。则将凸目标与平方距离相加，通过一个强凸子问题平衡目标下降和移动距离。