KKT 条件

在最优点处，目标梯度理路梯度Gradient标量函数微分在内积下对应的向量。不能指向任何可行的一阶下降方向。活跃约束 $f_i(x^{\ast })=0$ 的梯度是边界法向量，乘子把这些法向量与等式约束法向量组合起来，恰好抵消目标梯度；不活跃约束还有余量，不应贡献阻力，所以互补松弛迫使对应乘子为零。约束资格保证这些一阶法向量确实足以描述局部可行几何。

考虑 $\underset{x}{min}(x-a{)}^2$，约束 $x\ge 0$，写作 $f_1(x)=-x\le 0$。KKT 驻点为 $2(x-a)-\lambda =0$，另有 $x\ge 0$、$\lambda \ge 0$、$\lambda x=0$。若 $a>0$，最优点 $x^{\ast }=a$，约束不活跃且 ${\lambda }^{\ast }=0$；若 $a<0$，最优点 $x^{\ast }=0$，约束活跃且 ${\lambda }^{\ast }=-2a>0$。同一问题清楚展示了乘子何时消失、何时承担边界法向力。

约束资格不能删。对 $\underset{x}{min}x$，约束 $x^2\le 0$，唯一可行点 $x^{\ast }=0$ 当然是最优点；但驻点方程要求 $1+\lambda \cdot 2x^{\ast }=0$，即 $1=0$，不存在任何 KKT 乘子。失败原因是活跃约束在原点的梯度为零，无法表达真实可行集。由此不能笼统宣称“KKT 当且仅当最优”。

Fisher 市场均衡理路Fisher 市场均衡与 Eisenberg–Gale 规划Linear Fisher market · Eisenberg–Gale convex program · Fisher 市场均衡用加权对数效用的凸规划刻画线性 Fisher 市场均衡，证明最优分配与价格乘子的双向对应，并计算需要拆分商品的均衡。把 KKT 条件转成完整的市场证书：供给乘子成为商品价格，非负分配的互补松弛保证买家只购买效用价格比最高的商品。将驻点等式乘以实际购买量并求和，会导出每个买家恰好花完预算；反过来，最优需求与商品出清也能重建全部 KKT 条件。

在上述凸问题中，KKT 的驻点先保证 Lagrange 函数达到全局下确界，再由原始可行、对偶可行与互补松弛使两侧目标相等，形成可核验的原始—对偶证书。在线性与二次规划中，活跃集法理路二次规划的活跃集法Active-set quadratic programming · Working-set method从可行点出发，在工作约束确定的面内求二次下降方向，再用阻挡步长和乘子符号增删约束。通过阻挡步长与乘子符号增删工作约束；中心路径理路对数障碍函数与中心路径Logarithmic barrier · Central path在严格可行域中加入对数障碍，构造扰动互补条件，并由中心点的对偶证书得到可计算的目标误差界。把互补乘积暂时改为小正数，原始—对偶内点法理路原始—对偶内点法Primal-dual interior-point method · Primal-dual path following对原始可行性、对偶可行性与扰动互补条件联合取 Newton 步，以保正步长推进，并区分互补量与真正的可行对偶间隙。则对三组残差联合取 Newton 步。在支持向量机中，互补松弛区分支持向量与非支持样本。对不可微凸问题，驻点方程需改用次梯度；若定义域边界没有显式列为约束，还应加入相应法锥。

有限凸回归理路有限设计的凸最小二乘回归Convex least squares regression · Multivariate convex regression · 凸回归的有限证书将凸函数类上的加权平方拟合精确化为逐对支撑平面约束，证明拟合值唯一、交付全局乘子证书，并区分非等距斜率约束、未见点延拓与统计风险。给资格条件一个直接见证。不同输入$x_i$下，取高度${\theta }_i=\Vert x_i{\Vert }^2$和斜率${\zeta }_i=2x_i$，每条非平凡约束的左侧变成$-\Vert x_i-x_j{\Vert }^2<0$，因此严格可行。其KKT不能只检查高度残差，还须逐点检查斜率驻点$\sum _{j\ne i}{\lambda }_{ij}(x_j-x_i)=0$；漏掉这一项，就可能把一组非负“残差分流”误认成凸函数拟合的全局证书。

模型预测控制理路模型预测控制与终端证书Model predictive control · Receding-horizon control · 滚动时域控制将受约束线性预测写成二次规划，用终端不变性和成本下降证明滚动执行的递归可行与收敛。提供一份可手算的二次规划证书：对 $x_{k+1}=x_k+u_k$，取两步预测、$x_0=3$、$Q=R=1$、零终端成本与 $|u_k|\le 1$，目标是 $18+6u_0+2u_0^2+u_1^2$。计划 $(-1,0)$ 的梯度为 $(2,0)$，配上约束 $-u_0-1\le 0$ 的乘子二、其余乘子零，便满足全部条件，唯一最优值为 $14$。执行首项后必须重求解；本次 KKT 最优性与保证以后仍可行的终端条件，是两份需要分别核验的证书。