次指数分布 | Codeboy's Blog

形式陈述

两个非负量的和特别大时，究竟是两者一起偏大，还是其中一个极大？设 $F$ 是 $[0,\infty)$ 上的概率分布，且 $\overline F(x)=1-F(x)>0$ 对每个有限 $x$ 成立。若

\frac{\overline{F*F}(x)}{\overline F(x)}\longrightarrow2, \qquad x\to\infty,

则称 $F$ 为次指数分布，记作 $F\in\mathcal S$ 。这里 $F*F$ 是两个独立同分布变量之和的卷积分布，横线表示整个卷积分布的尾，不是尾函数的普通卷积。

等价地，对 $X,Y$ 独立且同分布为 $F$ ，

P(X+Y>x)\sim P(\max(X,Y)>x)\sim2\overline F(x).

该性质还能推广到每个固定正整数 $m$ ：

P(X_1+\cdots+X_m>x)\sim m\overline F(x).

“固定”很重要。若项数随门槛增长，需要另外的统一条件，不能直接把 $m$ 换成任意 $m(x)$ 。

直觉

只要其中一项超过门槛，非负的和就一定超过门槛。两个变量各自超过的事件提供约 $2\overline F(x)$ 的概率。次指数性说：剩下那种“两项都没超过，却合力越过”的机制，相比之下可以忽略。

因此它研究的是大和事件的成因，而不仅是尾部看起来“下降得慢”。在浓缩不等式中，sub-exponential 有时另指具有指数型尾上界的随机变量类；那是不同术语约定。本页的卷积尾等价属于重尾理论，精确指数分布反而不满足它。

例子与边界

设 $\overline F\in RV_{-\alpha}$ ， $\alpha>0$ 。由独立性，

P(X+Y>x)\ge P(\max(X,Y)>x) =2\overline F(x)-\overline F(x)^2.

为得到匹配上界，固定 $0<\varepsilon<1/2$ 。若 $X+Y>x$ ，要么至少一项超过 $(1-\varepsilon)x$ ，要么两项都超过 $\varepsilon x$ 。因此

P(X+Y>x) \le2\overline F((1-\varepsilon)x)+\overline F(\varepsilon x)^2.

除以 $\overline F(x)$ ，正则变化使第二项趋零，第一项趋于 $2(1-\varepsilon)^{-\alpha}$ 。先让 $x\to\infty$ ，再让 $\varepsilon\downarrow0$ ，上、下极限都变成二。

这里的次序不能反过来：固定 $\varepsilon$ 时才可以使用固定倍率的尾比值极限。证明既覆盖精确 Pareto，也覆盖带慢变化修正的全部正则变化尾。

若 $X,Y$ 独立服从率一的指数分布，卷积密度为 $s e^{-s}$ ，所以

P(X+Y>x)=e^{-x}(1+x),\qquad \frac{P(X+Y>x)}{P(X>x)}=1+x\to\infty.

而最大值尾只有约 $2e^{-x}$ 。此时很多不同的分配方式都能让和超过 $x$ ，不能仅保留单项直接越界的两个事件。于是

P(\max(X,Y)>x\mid X+Y>x)\to0,

正好与次指数分布的极限一相反。

推论与应用

因为 $\{\max(X,Y)>x\}\subseteq\{X+Y>x\}$ ，次指数性等价于

P(\max(X,Y)>x\mid X+Y>x)\to1.

同时两项都超过门槛的条件概率趋零，因为 $\overline F(x)^2/\overline{F*F}(x)\to0$ 。因此在极大的和事件里，通常恰有一个分量独自越过门槛。它并未说另一项必为零，也未说对普通大小的和有同样规律。

对正则变化尾，上面的分割可直接推广。 $m=1$ 时结论直接成立；以下固定 $m\ge2$ 。若 $m$ 项的和超过 $x$ ，但没有单项超过 $(1-\varepsilon)x$ ，则至少两个分量超过 $c_{m,\varepsilon}x$ ，其中可以取

c_{m,\varepsilon}=\min\{1/m,\varepsilon/(m-1)\}.

对有限多个成对事件使用并集界，其概率至多 $\binom m2\overline F(c_{m,\varepsilon}x)^2=o(\overline F(x))$ 。配合最大值下界，就得到 $m\overline F(x)$ 。

一般的次指数类不一定正则变化。它仍有固定卷积次幂的尾等价；证明把卷积拆为两端与中部，先由次指数性取得对有限平移不敏感的长尾性质，再控制两项同时离开端部的余量，归纳得到每个固定项数。正则变化例子的固定倍率分割给出了这一机制最透明的版本。

取精确 Pareto 尾 $P(X>x)=x^{-2}$ ， $x\ge1$ ，并让 $m(x)=\lceil x^3\rceil$ 。由于每项至少为一，和必然超过 $x$ ，其概率等于一；但 $m(x)\overline F(x)\sim x\to\infty$ ，已经不可能是概率近似。

即使 $m(x)\overline F(x)$ 很小，也还可能需要控制均值积累与多项共同偏移，不能仅凭这个反例的反面就宣称公式成立。Cramér 大偏差定理研究有正指数矩时随项数增长的另一种机制；把固定和的重尾结论直接拿来代替它，会混淆两个极限问题。

参考资料

Sergey Foss, Dmitry Korshunov and Stan Zachary, 《Convolutions of long-tailed and subexponential distributions》，§4，次指数定义、一大跳解释、Theorem 15 与 Corollary 19 的固定卷积尾等价。