“它以 BPP 和 概率放大 为起点,把随机类嵌入 多项式层级,进而显然包含于 PSPACE。该结果也是“随机性似乎不会把可判定能力推得过高”的重要无条件证据。”
形式陈述 ​
设随机算法每次独立运行都以概率至少
因此把常数错误降到
直觉
只要单次正确率稳定高于一半,多次独立样本的平均就会集中在真实偏向附近,多数结果同时出错需要异常大的统计波动;概率放大由此把固定优势转化为指数小误差。不过聚合规则取决于误差类型:双边误差用多数票抵消两侧噪声,RP 型单边误差用 OR,coRP 型用 AND,零错误算法则通常通过重启降低超时概率。真正提供指数衰减的是独立性或足够弱相关性加上常数偏差。
例子与边界
单次正确率
若各轮复用完全相同随机种子,重复结果相同,误差不会下降。偏差仅为
在学习问题中,重复运行能否降低 失败概率 $\delta$ 取决于输出能否验证或安全聚合。若有独立验证集,可从多个预测器中选择;对二元分类也可在附加条件下多数投票。任意回归器的参数平均、看不到真实风险的 learner 或高度相关的训练样本都不能无条件沿用 BPP 多数表决。若要让有限假设类的所有坏事件同时不发生,还应先把每个事件失败率压到约
推论与应用
概率放大说明 BPP、RP 等类的具体常数阈值不重要,只要与
在亚线性模型中,重复的代价必须记回原资源。随机通信协议重复
放大同样出现在PCP 定理的参数调整中,但不能只把“重复”当成免费操作:证明 oracle 必须在随机选择前固定,重复验证还会增加随机位和查询次数。交互协议的并行重复也可能需要专门定理;只有能建立各轮独立性或足够弱相关性时,上述 Bernoulli 分析才可直接套用。
Boosting虽然也把弱保证变强,却不是对同一学习器独立运行后取普通多数。它每轮根据此前错误重加权训练样本,让下一个弱分类器面对不同分布,再以加权投票组合;其训练误差下降依赖势函数和弱优势,而不是本页的 IID Bernoulli 重复。
参考资料
- Sanjeev Arora and Boaz Barak, Computational Complexity: A Modern Approach, Cambridge University Press, 2009,Ch. 7, error reduction for randomized computation。
- Rajeev Motwani and Prabhakar Raghavan, Randomized Algorithms, Cambridge University Press, 1995,Ch. 4, tail inequalities and amplification by repetition。