“可执行接口至少包括:求小子集的值或代表解;测试一个约束是否违反;必要时返回一份基。基只需要包含极小,通常没有必要要求唯一。Clarkson 加权抽样正是用小子集求解器与违反测试反复处理大输入…”
形式陈述
一个完整的加权内层算法
设
初始化每个约束的整数权重
- 令
;独立抽 次,每次取 的概率为 ,允许重复。 - 求这些抽中约束的共同最优解;求解前可以去掉重复身份,但不能改变抽取时的概率。
- 对全部
检查违反集合 ,求 。 时返回;否则,若 ,将 中每个权重乘二;若超过阈值,本轮不改权,重新独立抽样。
本页实现的是有放回的加权内层算法。Clarkson 原文的迭代版从整数多重集中无放回抽取,且采用不同常数;其递归/混合版还有额外的外层约束缩减。本页另证所用抽样分布的界,不把混合版的线性主项归到这一个循环上。[1, §2.2–3]
接受试验与接受答案不同
通过轻违反集阈值,只表示允许倍增权重,仍不是一个可交付答案。只有全部约束都通过违反检查,才可返回。若执行设置了轮数预算,预算耗尽应返回 unknown,不能把最后一次小样本解包装成全局最优解。
样本已经不可行时,完整系统也不可行,可以直接返回;这需要底层求解器的不可行结论真实可靠。一般 LP-type 表述中对应一个最大值状态,它没有进一步违反者。
直觉
漏掉的重要约束要更容易被再次抽中
随便抽一个小子集,经常会漏掉真正决定全局答案的约束。算法不把所有违反者永久塞进一个不断膨胀的子问题,而是提高它们下一轮出现的机会。小样本规模固定,增加的是抽样分布的偏向。
为什么违反者太多时反而不加权?若几乎全部权重都同时翻倍,各项的相对概率几乎没变,重要约束也没变得更突出。轻违反阈值控制总权增长,才能让某份真正的全局基比全体约束更快变重。
精确整数票,不把大权重转浮点
按固定 ID 次序建立累计权重
一轮内重复抽中同一个约束,不意味着它在求解时应多次施加,也不意味着更新时要按抽中次数翻倍。倍增对象是全局检查得到的违反集合,每个违反 ID 只乘二一次。重新使用同一串票或每轮重置相同种子会破坏条件独立性,不能沿用下面的概率证明。
例子与边界
四轮真实轨迹
取二维约束
种子194产生以下完整运行;“样本最小 ID”决定本轮
| 轮 | 样本最小 ID | 违反 ID | 操作 | ||
|---|---|---|---|---|---|
| 1 | 128 | 17 | 0至16 | 17 | |
| 2 | 128 | 3 | 0、1、2 | 3 | 三个权重由1变2 |
| 3 | 131 | 1 | 0 | 2 | |
| 4 | 133 | 0 | 空 | 0 | 全局检查通过,返回 |
第二轮后总权是
固定样本只负责求候选
这个例子的约束实际上全都平行,最优基只有一个 ID;算法使用更大的合法维数上界只会使样本更大。一般输入可能需要两个最优性约束,或者三条矛盾约束。不能从这一次运行看到单元素基,就把通用二维求解器的
若将最强约束替换为与其余约束矛盾的几条半平面,输出应变成不可行。若删掉所有限制目标增长的半平面,输出应变成无界射线。加权外层不负责修补底层 LP 接口,把这三类状态全写成一个未经定义的数值会破坏模型的局部性。
推论与应用
有放回样本的违反权界
固定当前权重。令
反过来,固定全部
这段论证允许重复、允许基不唯一,也不把有放回样本误当均匀
所以条件于任意过去历史,下一轮至少以一半概率通过轻违反阈值或直接结束。条件概率下界才是后续期望轮数证明所需的性质。
每轮有效倍增都击中一份固定的全局基
固定完整系统的一份基
这里用
为避免实现混淆,程序把优化解存为 symbolic,整数权重数组单独存为 weights,不会拿同一个数兼任两个含义。
基增长快,总权增长慢
设进行了
设
合并得到
所以有效倍增只有
实际成本与维度依赖
设单次违反测试成本为
次基本操作,故总期望乘上
附件只实例化二维 LP,固定
上述有效轮数界还给出
终结任务要求重放以上四轮,逐次核阈值和总权,再用独立完整 LP 求解核验最后输出。完整执行器保留这些原始抽样记录,读者可以换输入而不是只重画概率直觉。
参考资料
- Kenneth L. Clarkson,“Las Vegas Algorithms for Linear and Integer Programming When the Dimension Is Small”,JACM 42(2),1995,§2.2、Figure 2、§3 Lemma 3.1、Theorem 3.4,印刷 pp.491–495。原文从整数多重集中无放回抽样;本页的有放回常数与交换性证明单独给出。可读的大学托管原论文与作者稿页码不同。
- Bernd Gärtner、Emo Welzl,“A Simple Sampling Lemma: Analysis and Applications in Geometric Optimization”,2001,§1、§3:违反与极端元素的双计数、非唯一基;§5 的约束缩减是另一个算法,不是本页直接实现的循环。