形式陈述
取实值函数 。令 均匀分布于 。给定 ,各坐标独立令 的概率为 、令 的概率为 ,其中 。于是 。噪声算子定义为
这是一个条件平均公理库条件期望Conditional expectation以信息分组的加权平均建立条件期望直觉,再连接测度定义、最小均方预测、塔式性质和可计算反例。。当 时,也可等价地以概率 保留原坐标、以概率 重新抽一个独立均匀 bit;重采样不等于必定翻转。
对Fourier–Walsh 展开公理库Fourier–Walsh 展开与影响度Fourier-Walsh expansion · Boolean Fourier analysis在均匀布尔立方体上用字符正交基展开函数,把方差和坐标影响写成 Fourier 系数的平方和。,有
直觉
一个字符需要它包含的所有坐标共同提供相关性。每个坐标保留相关程度 ,独立相乘后,含 个坐标的字符只剩 。高阶模式需要许多坐标协同,因此更快被噪声抹平。
证明直接使用条件独立性:。线性延伸即可得到任意函数的公式。
例子与边界
给三人多数加一半相关的噪声
由多数的频谱,
取 、,结果为 。这等于噪声后多数输出为 与为 的概率差,故输出为 的概率是 。
直接检查也一致:每位保持 的概率为 ,至少两票为 的概率是 。因此 通常取实数,不再是一个布尔值函数。
两次噪声如何合成
先加相关 的噪声,再加相关 的噪声,每个字符总共乘 ,所以
是恒等算子, 是完全遗忘输入, 则是确定翻转全部坐标。用 参数化非负相关时,便有按时间相加的平滑半群。
推论与应用
对凸函数 使用条件形式的Jensen 不等式公理库Jensen 不等式Jensen's inequality凸函数作用于平均值不超过函数值的相同加权平均。,再对均匀 平均,给出 ,;这里 的边缘仍均匀。 的收缩直接由平均值不超过最大绝对值给出。超压缩不等式公理库布尔超压缩不等式Boolean hypercontractivity · Bonami-Beckner inequality给出布尔噪声算子从 Lp 到 Lq 收缩所需的精确噪声强度,并说明张量化如何消去维数依赖。更进一步:噪声足够强时,能用输入的较低阶范数控制输出的较高阶范数。
研究随机扰动是否改变布尔输出时,可计算 ;这就是噪声稳定性公理库噪声稳定性与噪声敏感性Noise stability · Noise sensitivity用噪声前后输出的相关与翻转概率,区分单个函数的稳定程度和一族函数的噪声敏感极限。。它衡量随机输入输出对的相关,和只看某个指定输入的 是两个不同统计量。
参考资料