形式陈述

设 $f,g_1,\ldots,g_m:U\subseteq\mathbb R^n\to\mathbb R$$f,g_1,\dots ,g_m:U\subseteq {\mathbb{R}}^n\to \mathbb{R}$ 为 $C^1$$C^1$。若 $x^*$$x^{\ast }$ 是约束

$$ g_1(x)=\cdots=g_m(x)=0 $$$$g_1(x)=\cdots =g_m(x)=0$$

下的局部极值点，且约束梯度 $\nabla g_1(x^*),\ldots,\nabla g_m(x^*)$$\mathrm{\nabla }{g}_1(x^{\ast }),\dots ,\mathrm{\nabla }{g}_m(x^{\ast })$ 线性无关，则存在唯一乘子 $\lambda_1,\ldots,\lambda_m$${\lambda }_1,\dots ,{\lambda }_m$ 使

$$ \nabla f(x^*)=\sum_{i=1}^m\lambda_i\nabla g_i(x^*). $$$$\mathrm{\nabla }f(x^{\ast })=\sum _{i=1}^m{\lambda }_i\mathrm{\nabla }{g}_i(x^{\ast }).$$

等价地，$x^*$$x^{\ast }$ 是 Lagrangian $L(x,\lambda)=f(x)-\sum_i\lambda_i g_i(x)$$L(x,\lambda )=f(x)-\sum _i{\lambda }_i{g}_i(x)$ 关于 $x$$x$ 的驻点。该式是正则约束下的必要条件，不是充分条件。

直觉

可行集的切方向都不能在一阶上改善目标，所以目标梯度必须垂直于可行切空间；约束梯度恰好张成其法空间。

例子与边界

在圆 $x^2+y^2=1$$x^2+y^2=1$ 上极值化 $f=x+y$$f=x+y$，条件 $(1,1)=\lambda(2x,2y)$$(1,1)=\lambda (2x,2y)$ 给出 $x=y=\pm1/\sqrt2$$x=y=\pm 1/\sqrt{2}$，再比较函数值判定最大最小。若约束梯度退化，例如以 $g(x,y)=x^2+y^2=0$$g(x,y)=x^2+y^2=0$ 描述单点原点，则正规条件失败，乘子方程可能无解或不提供信息。满足乘子方程的点也可能是约束鞍点。多个不等式约束需要 KKT 条件、非负乘子和互补松弛，不能直接当作等式版处理。

推论与应用

Lagrange 乘子把约束极值化为联立方程，连接流形法空间、经济学影子价格、KKT 条件与拉格朗日对偶。

参考资料

• Walter Rudin, Principles of Mathematical Analysis, 3rd ed., McGraw-Hill, 1976，Ch. 9, rank conditions and constrained extrema。
• Stephen Boyd and Lieven Vandenberghe, Convex Optimization, Cambridge University Press, 2004，Ch. 5, Lagrange multipliers and optimality conditions。