形式陈述
随机舍入从一个离散优化问题 理路 优化问题 Optimization problem 在可行解集合上最小化或最大化目标函数的计算问题。 的连续松弛解 z 出发,规定条件于 z 的随机离散输出规则 R ( z ; ω ) ;概率来自算法使用的随机源,采用随机化算法 理路 随机化算法 Randomized algorithm 把随机比特作为额外输入并分析输出正确率或运行时间分布的算法。 的逐输入保证。松弛解可以是分数坐标,也可以是向量或矩阵。输出可直接满足原约束,也可先生成候选,再按明确规则修补;可行性和目标损失分别证明。
在线性规划松弛 理路 线性规划松弛与舍入 LP relaxation and rounding 放宽整数可行域获得可计算界,再把分数解舍入为可行组合解。 中,最基本的独立舍入给定 x j ∈ [ 0 , 1 ] ,抽取独立 X j ∼ Bernoulli ( x j ) ;线性目标保持期望:
E ∑ j c j X j = ∑ j c j x j . 这项期望线性性 理路 期望 Expectation · Expected value 实值或复值随机变量关于概率测度的 Lebesgue 积分,概括加权平均与总体质量平衡。 等式不保证整数约束成立。对不同问题,可以放大概率、重复抽样、按结构修补,或者构造带依赖的联合分布。下面用集合覆盖完成一条包含可行性与成本的完整证明。
输入、抽样与补选
给有限宇宙 U ,m = | U | ≥ 1 ;集合 S 1 , … , S q 覆盖 U ,成本 c j 非负且有限。输入一个可行分数解
0 ≤ x j ≤ 1 , ∑ j : e ∈ S j x j ≥ 1 ( e ∈ U ) , L = ∑ j = 1 q c j x j . 固定尺度 α ≥ 0 。算法如下:
对每个元素 e ,预先选定一个包含它的最便宜集合 j ( e ) ,并以集合编号消除平局,记 c e = c j ( e ) 。
独立选择各集合,选择概率为 p j = min { 1 , α x j } ,得到初选编号集 R 。
求出初选后仍未覆盖的元素集 U 0 ,返回F = R ∪ { j ( e ) : e ∈ U 0 } . 这里是集合并,同一个集合即使替多个元素补选,也只支付一次成本。
U 0 按初选结果一次确定;第三步即便某个元素已被其他补选集合顺便覆盖,仍按既定集合并执行,这使规则和下例账本完全明确。每个样本结果都可行:原先覆盖的元素保留覆盖,其余元素都有自己的 j ( e ) 。无需等一次幸运抽样才终止。若输入存在无集合可覆盖的元素,预处理便应报告实例不可行;给出的分数解违反约束时也不具有下面的保证。
期望成本定理与证明
对任意上述可行分数解与尺度,
E [ C ( F ) ] ≤ ( α + m e − α ) L . 首先,截断概率可能降低成本,所以初选的正确关系是
E [ C ( R ) ] = ∑ j c j p j ≤ α L . 令 Y e 为元素 e 初选后未覆盖的指示变量。若包含 e 的某个集合以概率 1 入选,则 Pr ( Y e = 1 ) = 0 。否则所有相关 p j = α x j < 1 ,独立性给出
Pr ( Y e = 1 ) = ∏ j : e ∈ S j ( 1 − α x j ) ≤ exp ( − α ∑ j : e ∈ S j x j ) ≤ e − α . 这里使用 1 − t ≤ e − t 和覆盖约束;α = 0 时同样成立。其次,最便宜集合的成本满足
c e ≤ c e ∑ j : e ∈ S j x j ≤ ∑ j : e ∈ S j c j x j ≤ L . 最后一步使用成本非负。逐个元素收费可能重复支付同一个补选集合,因此实际追加成本只满足上界
C ( F ) − C ( R ) ≤ ∑ e ∈ U c e Y e . 取期望得到
E [ C ( F ) ] ≤ α L + ∑ e c e Pr ( Y e = 1 ) ≤ α L + m e − α L . 不同 Y e 通常相关,初选与补选成本也相关;线性期望不要求这些量独立。独立性只在未覆盖概率的乘积式中使用。
从分数成本到近似保证
取 α = ln m ,便有
E [ C ( F ) ] ≤ ( 1 + ln m ) L . 它也是上述上界系数在 α ≥ 0 上的最小点,因为导数为 1 − m e − α 。当 m = 1 时,α = 0 ,算法直接补选覆盖唯一元素的最便宜集合,边界不需排除。
若 x 是最优 LP 解,则 L = O P T L P ≤ O P T i n t ,故算法有 ( 1 + ln m ) 的期望近似比。若只给了任意可行分数解,本页保证仍相对于它的值 L ;该值可能超过整数最优,不能自动换成同一近似比。近似求解 LP 时也须计入所得分数值相对最优值的误差。
直觉
初选阶段用分数解指出哪些集合值得买;尺度越大,买得越多,遗漏越少。补选阶段逐一照顾仍被遗漏的元素,其最坏费用可能很高,但每个元素进入这一步的概率已经下降。两项成本的平衡是 α L 与 m e − α L ,对数尺度正是在平衡这两项。
可行性来自最后的补选规则,对每次运行都成立。期望成本来自对所有随机结果加权平均。把这两个承诺分开,就不必同时寻找一个“费用低且全部覆盖”的幸运样本。
例子与边界
三元素、八个分支的完整账本
取 U = { 1 , 2 , 3 } ,
A = { 1 , 2 } , B = { 2 , 3 } , C = { 1 , 3 } , 每个集合成本均为 1 。分数解 x A = x B = x C = 1 / 2 的值为 3 / 2 ;把三个覆盖约束相加得到 2 ( x A + x B + x C ) ≥ 3 ,所以它是最优 LP 解。整数最优为 2 :一个集合总漏一个元素,任意两个集合足够。
为便于精确枚举,本例取 α = 1 ,而非使一般上界最小的 ln 3 。三个独立公平随机位给出八个等概率分支。固定平局顺序 A < B < C ,于是 j ( 1 ) = A , j ( 2 ) = A , j ( 3 ) = B 。
初选 R
初始遗漏 U 0
实际补选集合
初选成本
追加成本
总成本
∅
{ 1 , 2 , 3 }
{ A , B }
0
2
2
{ A }
{ 3 }
{ B }
1
1
2
{ B }
{ 1 }
{ A }
1
1
2
{ C }
{ 2 }
{ A }
1
1
2
{ A , B }
∅
∅
2
0
2
{ A , C }
∅
∅
2
0
2
{ B , C }
∅
∅
2
0
2
{ A , B , C }
∅
∅
3
0
3
逐列求平均:
E [ C ( R ) ] = 12 8 = 3 2 , E [ C ( F ) − C ( R ) ] = 5 8 , E [ C ( F ) ] = 17 8 . 若按每个遗漏元素各收一次最便宜集合费用,空分支会把 A 收两次,因此元素收费的期望为 6 / 8 ,严格高于实际补选的 5 / 8 。这正是证明中必须用不等号的位置。
任一固定元素遗漏概率为 1 / 4 ,但“至少有一个元素遗漏”的概率为 1 / 2 。前者不是全覆盖事件的失败概率。最终八个分支全都可行,却有一个分支成本为 3 ,所以可行性不会让每次结果都等于整数最优。
期望、相关性与问题结构
E [ C ] ≤ B 不能直接推出每次 C ≤ B 。对 B > 0 , t > 0 ,非负成本可由 Markov 不等式 理路 Markov 不等式 Markov's inequality 非负随机变量超过阈值的概率由其期望除以阈值控制。 得到 Pr ( C > t B ) ≤ 1 / t ;这通常只是粗概率界。上面的补选不需要独立的遗漏事件,而初选概率乘积确实需要独立选择集合。只知道各集合的边缘概率相同,还不足以复用这段证明。
集合覆盖通过增加集合修复可行性;容量限制的装箱或路由问题可能需要删除冲突对象并计入损失。二者的修补方向不同,不能把覆盖的成本分析直接搬过去。
推论与应用
向量松弛的相关舍入
给定共同空间 R d 中的单位向量 v 1 , … , v n ,d ≥ 1 ,独立抽取 g 1 , … , g d ∼ N ( 0 , 1 ) ,组成标准高斯 理路 正态分布 Normal distribution · Gaussian distribution · 高斯分布 具有指数平方密度、在仿射变换与独立求和下封闭的概率分布族。 向量 g ,输出 x i = sign ⟨ g , v i ⟩ 。同一个 g 为所有坐标共享,因而这是一条相关舍入规则;零内积按固定约定处理,在理想连续模型下它的概率为零。Goemans–Williamson 算法 理路 Goemans–Williamson Max-Cut 近似 Goemans-Williamson Max-Cut · GW algorithm · Max-Cut SDP rounding 以单位向量半正定松弛和随机过原点超平面舍入无向非负权 Max-Cut,并由逐边角度不等式得到 0.87856 期望近似比。 选择这一接口,把夹角转成切边概率,再比较非负权 Max-Cut 的目标值;该向量分支的松弛不是 LP。
约束修补与成本
对有界独立负载,Chernoff 方法 理路 Chernoff 方法与 Chernoff 界 Chernoff method · Chernoff bounds 从指数矩与 Markov 不等式推导尾界,给出独立 Bernoulli 和的乘法形式、KL 形式及适用条件。 可控制单条容量约束,再用并集界 理路 并集界 Union bound · Boole 不等式 多个坏事件中至少一个发生的概率,不超过各事件概率之和。 控制同时违反任一约束的概率。例如多商品流按各请求的分数路径独立选择一条路径,期望边负载等于分数流,但同时控制所有边还需尾界。本页的覆盖补选则直接保证输出可行,成本单独计费。
图片加载失败 图展示容量上限为 2 的例子:分数总量 1.7 不阻止独立抽样选中三项;删去一项恢复容量约束,但会改变目标值。本页集合覆盖使用增加集合的修补规则,八分支表给出相应成本账本。
集合覆盖贪心法 理路 Set Cover 的贪心近似 greedy set cover · set cover approximation 按单位新增覆盖成本选择集合,并以元素收费证明调和数近似比。 逐轮比较单位新增覆盖成本,并给出确定性的调和数保证;本页算法先求 LP,再独立抽样和补选,以期望成本给保证。两种方法都必须处理不可覆盖实例,却使用不同的收费证明。
若给定集合的元素列表,总关联数为 M = ∑ j | S j | ,可在 O ( M + q + m ) 次基本访问内预计算 j ( e ) 、标记初选覆盖并生成去重后的输出,另加求 LP 的成本。这里按实数算术及独立 Bernoulli 抽样计费;有限精度概率实现还需说明误差。条件期望去随机化也要提供能高效计算的估计量,不能把存在性证明自动当作多项式实现。
参考资料