Skip to content

模型Model

平均情形复杂性与分布归约

Average-case complexity · Distributional problem · AvgP · Levin reduction

用运行时间的正阶矩定义稳健的平均多项式保证,并证明概率支配的定长归约保持该保证,复算稀有慢实例的成本。

形式陈述 ​

问题与输入分布一起给定 ​

本页固定二进制可判定语言 L 与分布族 D=(Dn)n≥1,其中 Dn 是长度恰为 n 的字符串上的概率分布。二者组成分布问题 (L,D)。

算法 A 是确定性的,要求对每个输入停机并正确判定 L,包括分布质量为零的输入。记运行时间 TA(x)≥1;随机性只来自输入 Xn∼Dn。分布族是数学模型的一部分,下面的保持定理不额外要求能够高效抽样或计算它;讨论专门的分布复杂性类时,需要另加这类条件。

采用现代按长度分布的 Levin 平均时间口径:若存在固定 ε>0 和多项式 p,使

(1)∀n≥1,EXn∼Dn[TA(Xn)ε]≤p(n),

则称 A 对 D 具有平均多项式运行时间。存在这样的处处正确判定器时,本页称 (L,D)∈AvgP。这是全正确、按长度取正阶矩的约定,不是允许小概率答错的启发式约定。[1,2]

式 (1) 中的期望是

∑x∈{0,1}nDn(x)TA(x)ε.

指数 ε=1 对应期望运行时间为多项式,是对这份算法更强的要求;一般允许某个较小正指数。若文献把右侧写成 O(n),所得存在性条件不变:将 p(n) 上界成 Cnk,取整数 k≥1,由凹函数形式的 Jensen 不等式,

E[TAε/k]≤(E[TAε])1/k≤C1/kn.

一种明确的分布归约接口 ​

下面只使用输出长度由输入长度决定的 many-one 归约。从 (L,D) 到 (K,E) 的归约 f 满足:

  1. f 是对全部输入都可在多项式时间内计算的全函数,并且 x∈L⟺f(x)∈K。
  2. 有可计算的整数函数 m(n) 及多项式 s,使 |f(x)|=m(n) 对所有 |x|=n 成立,且 1≤m(n)≤s(n)。
  3. 对某个多项式 q、每个 n 及每个 y∈{0,1}m(n),有概率支配(2)Qn(y):=∑x∈{0,1}nf(x)=yDn(x)≤q(n)Em(n)(y).

Qn 是先按 Dn 抽输入、再计算 f 得到的推前分布。它把所有前像的质量相加。条件 (2) 也要求用于目标概率为零的点,此时强制 Qn(y)=0,防止归约把正质量送到目标保证之外。

前两项加强了普通多项式时间归约的长度接口;第三项控制概率如何改变。这是用于完整推导保持性的一个充分模型,没有声称涵盖文献中全部可变长度、随机化或 oracle 归约。[1,2]

保持定理。 若存在上述归约,且 (K,E)∈AvgP,则 (L,D)∈AvgP。这样的归约还对复合封闭。

直觉

最坏时间归约只关心实例翻译正确且翻译本身足够快。平均时间还要问:目标算法平时很少遇到的慢实例,会不会被翻译器频繁制造出来?一个目标点虽然概率极小,却可能收集指数多个源实例的质量。

式 (2) 保证目标的任何慢区域在翻译后最多被放大一个多项式倍数。目标算法可以在稀有区域耗费很长时间,只要运行时间尾部与区域概率具有合适的权衡;归约需要一起保存这种权衡。

尾概率与正阶矩等价,但指数可以改变 ​

由 Markov 不等式,式 (1) 推出对每个 t≥1,

(3)Pr[TA(Xn)≥t]≤E[TAε]tε≤p(n)tε.

反过来,假设某个固定 α>0 满足尾界 Pr[TA≥t]≤p(n)t−α。对任意 0<δ<α,用非负变量的尾积分公式,

E[TAδ]=∫0∞Pr[TAδ>u]du≤1+p(n)∫1∞u−α/δdu=1+p(n)δα−δ.

取 δ=α/2,便得到多项式矩界。这证明两种存在性判据等价;尾界指数 α 并不直接保证同阶矩也具有相同的统一界。

为什么允许正指数能承受多项式慢化 ​

假设另一实现满足

TB(x)≤Cna(TA(x)+1)b,

其中 C>0、a≥0、整数 b≥1 都固定。若 A 满足式 (1),令 η=min{ε,1}/b,则 bη≤1。利用 (u+v)θ≤uθ+vθ 对 0<θ≤1 成立,及 TA≥1,有

E[TBη]≤CηnaηE[(TA+1)bη]≤Cηnaη(1+E[TAε]).

右侧仍由多项式控制。于是合理机器模拟造成的多项式开销可以吸收,只需相应减小矩指数。单独要求 ETA 为多项式,就没有这种对任意多项式慢化的稳健性。

例子与边界

稀有慢分支的完整成本 ​

在均匀输入 Un 下,考虑给定的耗时表

TA(x)={2n,x=0n,n2,x≠0n.

可以把它理解为一份正确算法在一个指定输入上额外等待;常数级实现开销不影响下面的渐近区别。这个例子讨论一份算法的耗时分配,不声称 0n 本身难以求解。

异常输入的概率为 2−n,故

ETA=(1−2−n)n2+1.

若每个输入上的成本都平方,TB=TA2,则

ETB=(1−2−n)n4+2n.

原本异常分支只贡献一,平方后却贡献 2n。但仍有 E[TB1/2]=ETA,所以两种耗时都满足正阶矩条件。

取 n=10,可直接复算:

量 原耗时 平方后耗时
异常输入概率 1/1024 1/1024
异常输入成本 1024 1048576
异常部分的期望贡献 1 1024
全部输入的期望 100.90234375 11014.234375

“小概率”本身不能删除一项成本;还要乘以发生时的代价。

合并前像的有效归约 ​

令源与目标语言都为“首位是 1”,输入分布都均匀。对 n≥2 定义

f(x1⋯xn−1xn)=x1⋯xn−10.

它在线性时间内保留首位和长度;长度一时取恒等映射。每个末位为零的目标有两个前像,所以

Qn(y)={2−(n−1),yn=0,0,yn=1,Qn(y)≤2Un(y).

n=2 时的全部质量如下:

目标 y 前像 Q2(y) U2(y) 放大倍数
00 00,01 1/2 1/4 2
01 无 0 1/4 0
10 10,11 1/2 1/4 2
11 无 0 1/4 0

逐个比较一个源点与一个目标点会漏掉这个二倍因子;归约不要求单射,因而必须计算前像质量和。

正确的 Karp 归约仍可能破坏平均保证 ​

仍用首位语言和均匀分布,改成

g(x)=x10n−1.

这是正确、线性时间且保持长度的普通归约。但它只产生 0n 与 10n−1,各有概率 1/2;每点在目标均匀分布下的概率却是 2−n。放大倍数为 2n−1,不存在统一的多项式支配因子。

具体取一个正确目标判定器,在这两个点上花费 2n、其他点上花费 n2。其均匀期望为

(1−21−n)n2+2,

仍为多项式。可是组合 A(g(x)) 在每个源输入上都进入慢分支,任何固定正阶矩都是 2εn,不再具有平均多项式保证。

这证明普通归约不能自动传递给定目标求解器的平均性能。两个语言本身仍然容易,直接查看首位即可判定;例子没有制造一个平均困难语言。

推论与应用

归约保持定理的完整证明 ​

设目标判定器 A 满足 EEm[TAε]≤p(m)。源算法先计算 f(x),再运行 A。归约正确性保证它对每个输入都正确停机。

先按直接顺序运行的模型计费,令 TB(x)≤r(n)+TA(f(x)),其中 r 控制翻译开销。若具体机器模拟还有多项式开销,前面的慢化引理允许再吸收它。取 η=min{ε,1},有

EDn[TBη]≤r(n)η+∑yQn(y)TA(y)η≤r(n)η+q(n)∑yEm(n)(y)TA(y)η≤r(n)η+q(n)p(m(n)).

最后一步用 TA≥1 和 η≤ε。输出长度 m(n) 多项式有界,因此右侧也是 n 的多项式,保持性得证。对任何目标集合 S,同样逐点求和得到 Qn(S)≤q(n)Em(n)(S),解释了慢区域的概率如何受到控制。

复合归约的概率因子 ​

若第二个归约 g 把长度 m 送到 ℓ(m),支配因子为 qg(m),则对最终目标点 z,

Pr[g(f(Xn))=z]=∑y:g(y)=zQn(y)≤qf(n)∑y:g(y)=zEm(n)(y)≤qf(n)qg(m(n))Hℓ(m(n))(z).

两个多项式因子相乘、输出长度经过多项式复合,仍符合接口。算法时间和判定正确性则沿普通归约复合传递。

这些证明说明平均情形分析必须同时保存三项:判定语义、计算成本、输入质量。把某个现实工作负载换成均匀位串,或只证明最坏情况下的 NP 困难性,都没有自动处理第三项。

参考资料
  • [1] Leonid A. Levin, Average Case Complete Problems, SIAM Journal on Computing 15(1), 1986, pp. 285–286,第一页 Conventions:平均多项式时间、分布支配与归约复合。原文采用单个输入分布,本页采用按长度分布族。
  • [2] Andrej Bogdanov and Luca Trevisan, Average-Case Complexity,2021 年修订稿,§2.1;§2.2.1,Definitions 3–4、Proposition 5,printed pp. 14–15;§3.1,Definition 17、Lemma 18,pp. 23–24。本页固定定长、处处正确接口,并直接用矩估计展开保持证明;概率支配明确要求覆盖零质量目标点。
关系图谱13 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系