形式陈述
有限算法—输入博弈
设合法输入集 U 有限非空,并固定资源硬上限 c 。令 A c 为成本至多 c 的非空确定性算法集合,并假设保留不同损失向量 ( L ( A , u ) ) u ∈ U 后只剩有限种策略。有限输出的判定问题满足这一条件;仅有有限输入域,并不足以保证任意实值输出和损失也只有有限种。判定问题通常取零一损失
L ( A , u ) = 1 [ A ( u ) ≠ f ( u ) ] . 随机算法 公理库 随机化算法 Randomized algorithm 把随机比特作为额外输入并分析输出正确率或运行时间分布的算法。 可视为 A c 上的分布 公理库 概率分布 Probability distribution · Law 可测空间上总质量为一的测度;随机变量的律是由样本概率推出的一类分布。 ρ ,输入方的分布记为 μ 。两者相遇时的期望损失是
L ( ρ , μ ) = E A ∼ ρ , u ∼ μ L ( A , u ) . 算法方想让损失小,输入方想让损失大。资源单位、输出约定、promise 域与错误类型必须在进入博弈前固定;若等式两侧使用不同算法类或成本口径,便不再是同一个矩阵博弈。
定理陈述
有限矩阵博弈的 minimax 定理 公理库 矩阵博弈极小极大定理 Matrix game minimax theorem · Von Neumann minimax theorem · 有限零和博弈极小极大定理 有限二人零和博弈允许独立混合后,行玩家的最大保证收益等于列玩家的最小收益上界,并由一对线性规划提供精确证书。 给出
min ρ ∈ Δ ( A c ) max u ∈ U E A ∼ ρ L ( A , u ) = max μ ∈ Δ ( U ) min A ∈ A c E u ∼ μ L ( A , u ) . 左边先选择一份随机算法,再由对手挑它损失最大的固定输入;右边先选择输入分布,再允许确定性算法针对该分布优化,最后取最难分布。等式把“每个固定输入上的随机保证”转成“一个固定分布下所有确定性算法的平均保证”,同时保留相同的资源上限 c 。
在零一损失下,阈值形式是:存在成本至多 c 、逐输入错误至多 ε 的随机算法,当且仅当对每个输入分布 μ ,都存在成本至多 c 、μ -平均错误至多 ε 的确定性算法。这里随机策略类允许在 A c 上作任意概率混合,并把选择策略的随机源纳入既定成本约定。若另限为固定数量的公平比特,允许的概率只能是相应二进分数,不能未经证明继续使用这个精确的最小值等式。有限性确保策略单纯形紧致、损失双线性;无限策略或输入空间不能只凭相似的量词外形交换 min 与 max。
为什么反向需要 minimax
从随机算法到每个固定分布不需要 minimax。若随机算法对每个输入的错误至多 ε ,固定任意 μ 后联合平均错误也至多 ε ;再对随机币取平均,至少有一个确定性算法的 μ -错误不超过 ε 。
困难的是反向:已知每个 μ 各自有一个好算法,不代表可以凭直觉挑一份算法分布同时照顾所有输入。有限 minimax 定理正是把
max μ min A L ( A , μ ) 与
min ρ max u L ( ρ , u ) 连接起来。混合策略 ρ 是一份统一的随机算法;它必须在输入揭示之前固定,不能让不同输入各自选择最有利的随机分布。
直觉
随机算法把自己的弱点分散在不同确定性策略上,输入对手则试图找到一份分布,让所有低成本确定性策略都暴露弱点。Minimax 说明在有限、同预算的零和博弈里,这两种混合方式达到同一个值;困难分布不是经验样本,而是输入方的最优混合策略。
量词顺序是原理的全部锋芒。逐个算法各挑一个坏输入,只得到随算法变化的反例,随机混合可能绕开它们;Yao 下界必须先固定同一分布,再证明每个低成本确定性算法都平均失败。这样才能反推出任何随机算法都有某个固定输入失败。
例子与边界
通信复杂度中的特化
令 U = X × Y ,A c 取通信硬上限至多 c 的确定性两方协议。分布 ρ 由双方共同看见时,它实现一条公共币随机协议 公理库 随机通信复杂度 Randomized communication complexity 允许双方使用随机币并在每个固定输入上承受受控错误,以通信量、误差与成本量词共同定义复杂度。 ;输入分布 μ 则给出分布通信复杂度 公理库 分布通信复杂度 Distributional communication complexity 固定输入分布后,以确定性协议在该分布下的平均错误衡量通信,是随机最坏复杂度的分布侧接口。 。在同一硬成本与错误约定下,
R ε pub ( f ) = max μ D ε μ ( f ) . 考虑一 bit XOR,f ( x , y ) = x ⊕ y ,并令 c = 0 。确定性公开输出协议只能恒输出 0 或恒输出 1 。输入方取四个输入上的均匀分布时,两种常数协议都恰错一半,所以分布侧值至少 1 / 2 。协议方各以概率 1 / 2 选择两种常数协议,则对每个固定输入都恰以概率 1 / 2 出错,最坏输入侧值至多 1 / 2 。这个小博弈把“困难分布”和“协议混合”画成了同一枚硬币的两面。
整数预算和“至多 ε ”边界都包含在可行集合中。若改用严格错误不等式、期望通信或私有币协议,需要分别处理闭性、截断和随机种子共享;不能删掉模型标记后继续复用等号。
查询与性质测试中的特化
对固定长度的有限输入域,让 A q 包含所有深度至多 q 的确定性查询决策树。随机查询算法固定随机带后恰落入这个集合。因此,只要找到一个输入分布,使每棵 q -query 确定性树的平均错误都大于 ε ,就排除了逐输入错误至多 ε 的 q -query 随机算法。
性质测试带有 yes/far promise 时,困难分布必须完全支持在合法域内。常见做法是以某个先验混合 yes 分布 Y 与 far 分布 N ,再证明任何浅决策树看到的 transcript 都不足以判断来自哪一侧。这里的策略是查询树,不是通信协议;两者使用同一个有限极小极大等式,却保留各自的 oracle 语义和成本单位。
可以把这一步直接用于 n ≥ 1 的 OR。困难分布以概率 1 / 2 选择 0 n ,以概率 1 / 2 均匀选择某个单位向量 e j 。固定深度至多 q 的树,沿全零回答路径最多查询 q 个不同坐标。若该叶输出 1 ,它已在全零输入上贡献 1 / 2 的错误;若输出 0 ,它在未命中的单位向量上贡献至少 ( 1 − q / n ) / 2 的错误。无论选哪种输出,平均错误都至少为 ( 1 − q / n ) / 2 ,所以 q < n / 3 时不可能达到错误至多 1 / 3 。
这份分布在观察树之前就已经固定,适用于整个低深度树集合。若针对每棵树分别挑一个坏输入,只能证明各确定性算法有弱点;随机混合可能把这些弱点分散。上述计算则把共同困难性落到了同一条“全零回答路径”上。
适用边界
定理使用有限算法—输入矩阵。无限输入、无限精度消息或非紧策略空间需要拓扑、可测性与相应 minimax 条件;“同样是双方对抗”不足以无条件交换 min 与 max。
期望成本允许少量很长的运行,策略集合不再只是深度 c 的有限树。常见处理是先截断并支付额外错误,再应用硬预算版本;截断阈值、增加的错误以及是否保持 promise 都要进入最终结论。
推论与应用
用于下界的标准量词
要证明资源 c 不足,应构造固定分布 μ 并证明
∀ A ∈ A c , E u ∼ μ L ( A , u ) > ε . 通信中 A 是低通信协议,查询中则是浅决策树。困难分布还必须支持在问题合法域内;若 f 是偏函数,U 只含 promise 输入。把质量放到 promise 外,或让成本口径从硬上限偷偷变成期望,都不能推出原模型的随机下界。
在通信中,Yao 把 public-coin worst-case complexity 化为最难输入分布上的确定性 distributional complexity;在查询与性质测试中,它把随机算法化为浅决策树分布。可复用的是有限博弈的量词转换,具体下界仍要由矩形、不可区分 transcript 或信息论证完成。
参考资料
Andrew Chi-Chih Yao, “Probabilistic Computations: Toward a Unified Measure of Complexity,” FOCS, 1977, pp. 222–227.
Eyal Kushilevitz and Noam Nisan, Communication Complexity , Cambridge University Press, 1997, Section 3.3.
Anup Rao and Amir Yehudayoff, Communication Complexity and Applications , Cambridge University Press, 2020, Chapter 3.
Shalev Ben-David and Eric Blais, “A New Minimax Theorem for Randomized Algorithms”, FOCS 2020,作者预印本 ,引言回顾经典 Yao 原理,并区分错误率与成本之间更强的极小极大问题。