形式陈述
设变量 位于 的开集 ,目标与约束函数均在 上为 。考虑下述约束优化问题公理库优化问题Optimization problem在可行解集合上最小化或最大化目标函数的计算问题。
并定义 。点 满足 KKT 条件,指以下四项同时成立:
- 原始可行: 且 ;
- 对偶可行:;
- 互补松弛:;
- 驻点:。
三种结论必须分开。一般光滑问题的局部最优点只有在适当约束资格(如 LICQ 或 MFCQ)下才必有 KKT 乘子。若 凸、 凸且 仿射,也就是处在凸优化公理库凸优化问题Convex optimization problem在凸可行域上最小化凸目标且不等式约束为凸函数的优化模型。结构中,则任何满足 KKT 的点都是全局最优解,这是充分性。若该凸问题还满足 Slater 条件并且最优解存在,则最优点存在乘子并满足 KKT,因而 KKT 成为充要证书。
凸问题的证书为何是全局的
固定一组 KKT 乘子,凸函数 的梯度在 为零,所以 是它在 上的全局最小点。原始可行与互补松弛给出
再用弱对偶公理库拉格朗日对偶Lagrange duality通过拉格朗日函数构造原问题下界的对偶问题,并研究弱对偶、强对偶与最优性条件。,这两个可行值只能分别是对偶与原问题的最优值。这里充分性不需要 Slater;Slater 用于从已知最优点反过来保证乘子存在。
非凸时,驻点不保证 的全局最小。例如无约束问题 的 满足驻点条件,值为 ,但全局最小值是 ,在 取得。不能把这个 KKT 点当作零间隙证书。
直觉
在最优点处,目标梯度公理库梯度Gradient标量函数微分在内积下对应的向量。不能指向任何可行的一阶下降方向。活跃约束 的梯度是边界法向量,乘子把这些法向量与等式约束法向量组合起来,恰好抵消目标梯度;不活跃约束还有余量,不应贡献阻力,所以互补松弛迫使对应乘子为零。约束资格保证这些一阶法向量确实足以描述局部可行几何。
例子与边界
考虑 ,约束 ,写作 。KKT 驻点为 ,另有 、、。若 ,最优点 ,约束不活跃且 ;若 ,最优点 ,约束活跃且 。同一问题清楚展示了乘子何时消失、何时承担边界法向力。
约束资格不能删。对 ,约束 ,唯一可行点 当然是最优点;但驻点方程要求 ,即 ,不存在任何 KKT 乘子。失败原因是活跃约束在原点的梯度为零,无法表达真实可行集。由此不能笼统宣称“KKT 当且仅当最优”。
推论与应用
Fisher 市场均衡公理库Fisher 市场均衡与 Eisenberg–Gale 规划Linear Fisher market · Eisenberg–Gale convex program · Fisher 市场均衡用加权对数效用的凸规划刻画线性 Fisher 市场均衡,证明最优分配与价格乘子的双向对应,并计算需要拆分商品的均衡。把 KKT 条件转成完整的市场证书:供给乘子成为商品价格,非负分配的互补松弛保证买家只购买效用价格比最高的商品。将驻点等式乘以实际购买量并求和,会导出每个买家恰好花完预算;反过来,最优需求与商品出清也能重建全部 KKT 条件。
在上述凸问题中,KKT 的驻点先保证 Lagrange 函数达到全局下确界,再由原始可行、对偶可行与互补松弛使两侧目标相等,形成可核验的原始—对偶证书。在线性与二次规划中,活跃集法公理库二次规划的活跃集法Active-set quadratic programming · Working-set method从可行点出发,在工作约束确定的面内求二次下降方向,再用阻挡步长和乘子符号增删约束。通过阻挡步长与乘子符号增删工作约束;中心路径公理库对数障碍函数与中心路径Logarithmic barrier · Central path在严格可行域中加入对数障碍,构造扰动互补条件,并由中心点的对偶证书得到可计算的目标误差界。把互补乘积暂时改为小正数,原始—对偶内点法公理库原始—对偶内点法Primal-dual interior-point method · Primal-dual path following对原始可行性、对偶可行性与扰动互补条件联合取 Newton 步,以保正步长推进,并区分互补量与真正的可行对偶间隙。则对三组残差联合取 Newton 步。在支持向量机中,互补松弛区分支持向量与非支持样本。对不可微凸问题,驻点方程需改用次梯度;若定义域边界没有显式列为约束,还应加入相应法锥。
模型预测控制公理库模型预测控制与终端证书Model predictive control · Receding-horizon control · 滚动时域控制将受约束线性预测写成二次规划,用终端不变性和成本下降证明滚动执行的递归可行与收敛。提供一份可手算的二次规划证书:对 ,取两步预测、、、零终端成本与 ,目标是 。计划 的梯度为 ,配上约束 的乘子二、其余乘子零,便满足全部条件,唯一最优值为 。执行首项后必须重求解;本次 KKT 最优性与保证以后仍可行的终端条件,是两份需要分别核验的证书。
参考资料
- Stephen Boyd and Lieven Vandenberghe, Convex Optimization, Cambridge University Press, 2004, §5.5, KKT optimality conditions.
- Stanford EE364a, Duality, KKT conditions, Slater's condition, and optimality certificates, accessed 2026.
- Jorge Nocedal and Stephen J. Wright, Numerical Optimization, 2nd ed., Springer, 2006, Ch. 12, constraint qualifications and first-order conditions.