Skip to content

定理Theorem

Friedgut junta 定理

Friedgut junta theorem

把均匀分布下总影响小的布尔函数近似为只依赖少数固定坐标的函数,并明确坐标数对误差的指数依赖。

形式陈述 ​

若 g:{−1,1}n→{−1,1} 只依赖坐标集合 J,称它为 |J|-junta。Friedgut 定理说,存在绝对常数 C>0:对任意布尔函数 f 与 0<ε<1/2,存在这样的 g,使均匀输入下

Pr[f(X)≠g(X)]≤ε,|J|≤min{n,⌈exp⁡(CI(f)/ε)⌉}.

总影响由频谱公式 I(f)=∑S|S|f^(S)2 给出。重要的是当 I(f),ε 固定时,所需坐标数不依赖环境维数 n。集合 J 对整个函数固定,不是每看到一个输入再选不同坐标。

直觉

总影响小表示平均而言,输出很少因单坐标翻转而改变。这迫使函数的大部分可预测结构集中在少数重要坐标上。它仍可以在罕见输入处依赖其他坐标,所以结论是分布意义下的近似,不是精确删去全部弱变量。

证明的两道筛选 ​

先处理极小总影响。记 I=I(f);若 I≤ε,少数输出的概率 p≤1/2 满足 2p≤4p(1−p)=Var(f)≤I,所以直接取多数输出常量即可。

以下取 I>ε,令 d=⌈4I/ε⌉。高阶质量满足 ∑|S|>df^(S)2≤I/(d+1)<ε/4。再令

τ=(ε4I2d)3,J={i:Infi(f)≥τ}.

显然 |J|≤I/τ。对 J 外的离散导数用 p=3/2,q=2,ρ=1/2 的超压缩,得到

∑|S|≤dS⊈Jf^(S)2≤2d∑i∉JInfi(f)4/3≤2dτ1/3I=ε/4.

每个被删低阶项至少包含一个 J 外坐标,因而出现在右侧某个导数中。两次筛选合计损失至多 ε/2;而 I/τ=64I48d/ε3≤exp⁡(CI/ε),因为 I/ε>1、ε<1/2,多项式因子也可吸收到这个绝对常数指数中。

对保留坐标作条件平均 h(xJ)=E[f(X)∣XJ=xJ],它恰保留 S⊆J 的 Fourier 项。最后令 g=signh,并固定零点规则;若 f≠g,则 |f−h|≥1,因此分类错误受丢失的平方质量控制。

例子与边界

使用全部坐标,仍接近常量 ​

令 f=1 当且仅当全部 n 个坐标为 1,其余输出 −1。每个坐标影响为 2−(n−1),所以 I(f)=n2−(n−1) 很小。函数精确地依赖每一位,但常量 g=−1 的错误率仅为 2−n。

例如 n=10,总影响为 10/512≈0.01953,常量误差为 1/1024≈0.000977。当目标误差为 0.01 时,零坐标近似已经足够;定理没有要求找到所有精确相关变量。

低次数与少坐标不同 ​

低次数多项式可以同时涉及很多变量。三位多数次数为三且使用三位;更多位多数的总影响随 n 增长,定理给出的 junta 大小不再是固定常数。频谱截断与坐标删减各自需要不同条件,不能只由“低阶项很多”推出小 junta。

当 ε 缩小时,指数界可能迅速超过 n,此时直接取 g=f 更好。存在性定理也不自动提供高效寻找 J 的算法;查询模型与可计算性需另外分析。

推论与应用

定理为学习提供结构压缩依据:一旦找到了正确的少量坐标,只需学习它们上的真值表。但表本身仍可能有 2|J| 项,指数大小的结构界未必能产生现实可行的学习器。

本页限于均匀乘积分布。偏置靠近零或一时,变量稀有事件的结构会变化,需使用带分布依赖常数的版本。

参考资料
关系图谱7 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系