形式陈述
两个非负量的和特别大时,究竟是两者一起偏大,还是其中一个极大?设 是 上的概率分布理路概率分布Probability distribution · Law可测空间上总质量为一的测度;随机变量的律是由样本概率推出的一类分布。,且 对每个有限 成立。若
则称 为次指数分布,记作 。这里 是两个独立同分布变量之和的卷积分布理路卷积Convolution · 卷积运算在加法群上把两份测度按加法映射推前,汇总所有可合成为同一输出的输入贡献。,横线表示整个卷积分布的尾,不是尾函数的普通卷积。
等价地,对 独立且同分布为 ,
该性质还能推广到每个固定正整数 :
“固定”很重要。若项数随门槛增长,需要另外的统一条件,不能直接把 换成任意 。
例子与边界
幂尾为何只需一次大跳
设 ,。由独立性理路独立性Statistical independence从概率表理解独立性,区分两两、相互和条件独立,并用可计算反例澄清零协方差与条件均值的限度。,
为得到匹配上界,固定 。若 ,要么至少一项超过 ,要么两项都超过 。因此
除以 ,正则变化理路正则变化函数Regularly varying function · Regular variation正则变化以缩放比值的幂函数极限刻画幂律,允许不改变幂指数的慢变化修正。使第二项趋零,第一项趋于 。先让 ,再让 ,上、下极限都变成二。
这里的次序不能反过来:固定 时才可以使用固定倍率的尾比值极限。证明既覆盖精确 Pareto,也覆盖带慢变化修正的全部正则变化尾。
指数尾给出完全不同的答案
若 独立服从率一的指数分布,卷积密度为 ,所以
而最大值尾只有约 。此时很多不同的分配方式都能让和超过 ,不能仅保留单项直接越界的两个事件。于是
正好与次指数分布的极限一相反。
推论与应用
“一大跳”是一个条件概率结论
因为 ,次指数性等价于
同时两项都超过门槛的条件概率趋零,因为 。因此在极大的和事件里,通常恰有一个分量独自越过门槛。它并未说另一项必为零,也未说对普通大小的和有同样规律。
固定多项与中部误差
对正则变化尾,上面的分割可直接推广。 时结论直接成立;以下固定 。若 项的和超过 ,但没有单项超过 ,则至少两个分量超过 ,其中可以取
对有限多个成对事件使用并集界理路并集界Union bound · Boole 不等式多个坏事件中至少一个发生的概率,不超过各事件概率之和。,其概率至多 。配合最大值下界,就得到 。
一般的次指数类不一定正则变化,所以下面证明整个类的固定卷积结论。记 。先对固定 将第二项按 、、 分开,得到
除以 ,左侧趋于二,右侧第一、三项之和也趋于二。因 ,必有 ;把 换成 也得 。这就是对每个固定平移不敏感的长尾性质。
可逐段选择一个充分慢的 ,使 且 :对整数 ,先取足够大的起点,使所有幅度不超过 的平移误差都小于 ,再令这一段的 。有限多个长尾分布可共用同样慢的 。
在 内,事件 与 不相交,而且
故每个端部的概率都渐近于 。次指数假设于是给中部余量
若另一个非负分布 的尾 ,其中 ,则 也长尾。取二者共用的 ,并选 使充分大 上 。限制在 的有限测度也满足这个尾序关系:对低于 的门槛,比的是其总质量;对高于 的门槛,比的是对应尾概率。因此对任意非负递增函数, 的该限制测度的积分不超过 倍 的积分。这个结论先对上射线指示函数成立,再由逐层积分推广。
把它用于递增函数 , 的中部余量便至多为 。它的两个端部分别渐近于 与 ,所以
从 开始归纳,得到每个固定 的 。正则变化的固定倍率分割仍是前面的快捷证明;这里的长尾与中部控制补足了不具有正则变化的一般次指数分布。
为什么不能任意增加项数
取精确 Pareto 尾 ,,并让 。由于每项至少为一,和必然超过 ,其概率等于一;但 ,已经不可能是概率近似。
即使 很小,也还可能需要控制均值积累与多项共同偏移,不能仅凭这个反例的反面就宣称公式成立。Cramér 大偏差定理理路Cramér 大偏差定理Cramer theorem for large deviations以指数倾斜补足 Chernoff 上界,得到 IID 样本均值的完整大偏差速率。研究有正指数矩时随项数增长的另一种机制;把固定和的重尾结论直接拿来代替它,会混淆两个极限问题。