Skip to content

定理Theorem

线性规划对偶

Linear programming duality · LP duality

从线性约束生成对偶界,并以弱对偶、强对偶和互补松弛连接两侧最优解。

形式陈述 ​

一对标准形式 ​

考虑覆盖形式的线性规划

(P)minxcTxs.t.Ax≥b,x≥0.

它的对偶是

(D)maxybTys.t.ATy≤c,y≥0.

原问题的每条约束产生一个对偶变量,每个原变量则产生一条对偶约束。若原约束改为等式,对应对偶变量不受符号限制;若原变量是自由变量,对应对偶约束改为等式。最大化、≤ 形式也可通过统一变号得到等价配对,因此使用对偶公式前必须先固定标准形式,不能只凭变量名称猜不等号方向。

弱对偶与证书 ​

对任意原始可行 x 和对偶可行 y,非负性与两侧约束给出

cTx≥xTATy=yTAx≥bTy.

这就是弱对偶:每个对偶可行解都给最小化原问题的下界,每个原始可行解都给上界。二者目标差

cTx−bTy≥0

是可直接核验的对偶间隙。若某对可行解的目标相等,弱对偶立即证明它们分别最优;这个结论不需要先知道最优值,也不依赖求解算法如何找到它们。

强对偶与互补松弛 ​

有限维 LP 的强对偶说明:若原问题可行且最优值有限,则对偶也取得最优解,且两侧最优值相等;交换原、对偶后同样成立。强对偶保证最紧的线性证书不会留下间隙,但不表示任意原始可行点与任意对偶可行点都会相遇。

一对可行解 x,y 同时最优,当且仅当满足互补松弛:

yi((Ax)i−bi)=0对每条原约束,

以及

xj(cj−(ATy)j)=0对每个原变量。

也就是说,正的对偶价格只能落在紧的原约束上,正的原变量只能对应紧的对偶约束。互补松弛不是额外的建模假设,而是把零对偶间隙逐项拆开后得到的最优性条件。

直觉

对偶变量可以理解为给原约束定价:任何不超过原变量成本的合法价格组合,都形成原最小化问题的下界。强对偶说明在有限最优情形下,这套线性价格能够紧贴原目标;互补松弛进一步指出,只有紧约束和正变量会在最优证书中彼此承载。

例子与边界

顶点覆盖的对偶图像 ​

对非负顶点权重 wv≥0,加权顶点覆盖的 LP 松弛为

min∑v∈Vwvxvs.t.xu+xv≥1 (uv∈E),xv≥0.

其对偶给每条边一个非负变量 ye:

max∑e∈Eyes.t.∑e∋vye≤wv (v∈V),ye≥0.

原始变量表示是否购买顶点,对偶变量把预算装入边;每个顶点承受的相邻边总价不能超过其权重。任何合法装价都给出整数顶点覆盖成本的下界,因为整数可行域包含在 LP 松弛中。原始—对偶方法会提高这些边价直到顶点约束变紧,再据此构造覆盖;Dual Fitting则允许装价暂时超出容量,事后以统一因子缩放成可行证书。

边界与辨析 ​

LP 强对偶只连接连续松弛的两侧。若原问题要求 x 取整数,对偶最优值仍只是松弛界;整数最优值与 LP 值之间可能存在整数性间隙。因此“原、对偶目标相等”能证明 LP 最优,不能自动证明某个取整方案最优。

全对偶整数性追加的是一个更具体的条件:每个整数目标在有限最优时都有整数对偶最优乘子。当右端也为整数,这些乘子使支持值成为整数,并推出原多面体的整数性。该条件属于所写的不等式系统,同一行约束缩放后可能失去它。

若原问题无界,则对偶必不可行;但原问题不可行时,对偶可能不可行,也可能无界,单看一侧状态不能任意反推另一侧。数值求解器报告的近似可行解还要把约束残差计入上下界,不能把一个很小的目标差单独当成精确证书。

拉格朗日对偶可以从更一般的约束优化问题构造对偶函数,在线性情形会导出这里的 LP 对偶。组合优化中的原始—对偶与 dual fitting 以线性可行性、弱对偶和互补松弛构造成本证书。

推论与应用

锥规划的对偶与证书保留这里的弱对偶核验方式,但半正定锥的线性像可能不闭,因而会出现残差趋零却没有可行解、也没有普通严格不可行性证书的情形。

矩阵博弈极小极大定理把行玩家的最大保证与列玩家的最小上界写成一对 LP。两侧的概率归一化等式与自由价值变量互相对应;核验两份策略可行且界相等,就得到博弈价值的双侧证书。

弱对偶提供近似算法、网络流和组合优化中可核验的上下界,互补松弛则指导 primal–dual 构造与最优性检查。对整数问题,若一个整数可行解的值恰好等于某个 LP 对偶可行解的值,同一弱对偶链也直接证明整数最优。存在整数性间隙时,两界无法这样相遇;此时可借助舍入、dual fitting 或额外的组合结构控制损失。

分数团覆盖给出一个无需舍入的通信上界证书:团权重覆盖每个顶点,对偶给顶点赋质量并限制每个团总量。五边形两侧各取半权,目标都为 5/2,证明LP最优;再构造乘积团,才能把这份一次证书推广到任意块长的零错误码。

Kantorovich 对偶把边缘约束的乘子解释成源侧与目标侧势,要求两势之和不超过每条路线的成本。可行计划和势若目标值相同,就给出无需枚举计划的输运最优性证书。

参考资料
  • Alexander Schrijver, Theory of Linear and Integer Programming, Wiley, 1986,Chs. 7–8。
  • Bernhard Korte and Jens Vygen, Combinatorial Optimization, 6th ed., Springer, 2018,Chs. 4–5。
  • David P. Williamson and David B. Shmoys, The Design of Approximation Algorithms, Cambridge University Press, 2011,Ch. 1。
关系图谱21 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
分类位置

上位 / 更一般

下位 / 直接特例

暂未标注直接特例。

类型化关系