“概率论的偏差不等式常从选择不同的非负变换开始:平方变换给出 Chebyshev 不等式;指数变换及其参数优化由Chernoff 方法集中处理,矩母函数在其中提供尾部信息。PAC Bayes…”
“等号可以取到:设 $X$ 以概率 $p$ 取值 $a$、以概率 $1 p$ 取值 $0$,则 $\mathbb E[X]=pa$,$\mathbb P(X\ge a)=p=\mathbb E…”
Chebyshev's inequality
随机变量偏离均值至少给定距离的概率由方差除以距离平方控制。
当
这是"方差控制波动"的最直接定量化,证明只有一行:把非负随机变量
一个立见成效的计算:掷
正面比例偏离
界在"只知方差"的前提下不能再改进:固定
适用范围的边界同样清楚:方差无穷时(如 Cauchy 分布)不等式空洞;当
最经典的应用是弱大数律的初等证明:独立同分布样本的均值
若估计量的偏差和方差均可控制,Chebyshev 直接给出依概率一致性;反演方差界也可产生分布无关但较宽的置信集合。它只使用二阶矩,不提供正态形状、精确显著性或统一参数覆盖;要得到这些结论还需极限定理或更强模型。
它也是集中不等式家族的二阶矩基线;若掌握矩母函数,可转向 Chernoff 型指数界,Hoeffding 不等式则利用独立有界条件。在概率组合与随机算法中,Chebyshev 配合方差计算构成二阶矩方法;而只掌握均值与方差时,它常常就是唯一可靠的尾界。
正在载入交互图谱…
使用的工具
被这些条目使用