返回学习路线
U20:频谱、噪声与查询学习
题目
- 在均匀 上,完整列出 与奇偶 的八个 Fourier 系数,求各坐标影响、总影响与 的稳定性。
- 解释 KKL、Friedgut junta 和多数最稳定中的量词与分布条件。为什么三位多数在 下超过 不违反多数最稳定?
- 用 KM 的前缀质量公式求三位多数第一层两节点的质量。取 ,写估计误差、剪枝门槛和保留数量保证。说明 BLR 为什么不等于这个学习算法。
解答
多数展开为
空集和三个二元集合的系数都为零,三个单元集合各为 ,三元集合为 。奇偶只有三元集合系数为 ,其余七项为零。多数每位影响 、总影响 ;奇偶每位影响 、总影响 。
多数稳定性为 ,在 时是 ;奇偶为 。逐位翻转概率为 ,所以两者输出改变概率分别为 与 。
KKL 在均匀输入下保证存在一个坐标,其影响至少为绝对常数乘 。junta 定理在给定误差 后保证存在一个固定坐标集,大小至多指数于 ,使只依赖该集的函数在均匀分布下近似 。它不声称原函数精确只依赖这些坐标,也不直接给高效搜索算法。
多数最稳定先固定 与均值,再要求所有坐标影响至多相应阈值 。平衡极限在 时为 ,但三位多数最大影响为 ,并非趋于零。它的稳定性 因而没有违背该渐近定理。
KM 的前缀 0 包含系数位置 001、010,各平方为 ,质量为 ;前缀 1 包含 100、111,质量也为 。,每次估计误差控制到 ,保留估计至少 的节点。含 -显著系数的前缀真实质量至少 ,不会被剪掉;保留节点真实质量至少 ,每层至多 个,整数意义下至多 个,此小例实际只有两至四个。
前缀估计需要查询 与 ,共享后缀 由算法主动指定。BLR 则查询一组加法三元组并检验线性等式,输出性质判定。二者都用 Fourier 分析,但目标、采样结构与输出信息不同。
验收标准
- 使用 输出和归一化 Fourier 系数,平方和恰为一
- 区分翻转概率 与相关参数
- 低影响、固定均值、固定噪声和规模极限的量词不遗漏
- KM 估计平方质量,不把系数正负抵消;访问模型确实允许共享后缀查询