形式陈述
设 是拓扑空间, 是 上一族 Borel 概率测度理路概率分布Probability distribution · Law可测空间上总质量为一的测度;随机变量的律是由样本概率推出的一类分布。。称 紧(tight,亦称一致紧),若
这里要求紧集可测;在 Hausdorff 空间中紧集闭,因而自动是 Borel 集,在任意拓扑空间中则不能省略这一点。等价地,。量词次序至关重要:紧集 可以依赖 ,却必须同时适用于族中所有 。若只含一个测度,便得到单个测度的紧性,即其质量可由紧集理路紧空间Compact space每个开覆盖都能缩减为有限子覆盖的拓扑空间。从内部逼近到任意精度。
有些文献对有限正测度族使用同一公式。此时若要从紧性推出弱相对紧性,还需同时控制总质量,例如 ;概率测度因总质量固定为 ,无需另写这项。本页后续结论均采用概率版本。
对度量空间,常把 想成一个既完备又全有界的核心,但定义本身只使用拓扑紧致性。若存在递增紧集 使
则测度族紧;反之可令误差依次取 并把有限个紧集取并,得到这样的递增序列。
直觉
紧性排除“质量向任何有限观察范围之外持续逃逸”。每次给定容许遗漏的比例 ,都能找到一个共同的紧容器,装下每个分布至少 的质量。容器可以随着精度要求扩大,但不能为每个分布单独定制。
单个概率分布尾部很轻,不足以说明整个参数族一致紧。若分布中心随参数不断远移,每个成员都能被某个紧集装住,却不存在一个紧集同时装住全部成员。紧性关心的正是这种统一尾部控制,而不是逐个分布的局部性质。
紧集的作用不只是“有界”。在无限维空间或非完备子空间中,闭有界集未必紧;只证明二阶矩有界后选一个大球,仍要确认该球或更精细的集合确实紧。有限维欧氏空间借 Heine–Borel 定理让这一步看起来简单,推广时不能把它省掉。
例子与边界
固定 、,考虑实线上所有满足
的分布 ,并允许 的退化情形。若 服从其中任一分布,则对 ,Chebyshev 不等式理路Chebyshev 不等式Chebyshev's inequality随机变量偏离均值至少给定距离的概率由方差除以距离平方控制。给出
给定 ,取任意 ,便有 。于是紧区间 对整族统一留下严格少于 的尾部,该族确实满足定义中的量词。计算同时显示真正起作用的是均值位置和方差的统一界。
族 在 上不紧。任意紧集 都有界,故存在 使 ,于是
每个 单独当然紧;失败发生在“同一个 服务全部 ”这一量词上。
若 本身紧,则任意 Borel 概率测度族自动紧,只需取 。反过来,测度族紧并不表示 紧,也不表示族在总变差距离下预紧。点质量族 紧,但不同点质量之间的总变差距离为 ;弱拓扑才能感受到 的连续移动。
一致矩界是常见充分条件,却不是定义。在 中,若某个 满足 ,Markov 不等式理路Markov 不等式Markov's inequality非负随机变量超过阈值的概率由其期望除以阈值控制。给 ,配合闭球紧致得到紧性。在无限维 Banach 空间中闭球通常不紧,同一计算只给“有界尾部”,不能直接推出紧性。
推论与应用
Prokhorov 定理在 Polish 空间上说明:概率测度族紧,当且仅当它在弱拓扑中相对紧。于是要从任意分布序列抽出弱收敛子列,可以把问题转成构造共同紧集;反过来,若候选族已有弱相对紧性,便不会有质量系统性逃逸。
弱收敛序列 在 Polish 空间上组成紧族 。这里不能假定紧集的小邻域仍有紧闭包。选定相容完备度量后,对每个 用可数个半径 的开球覆盖空间,先取有限个球的并 ,使 。Portmanteau 定理理路Portmanteau 定理Portmanteau theorem · Portmanteau lemma · 移植定理把概率测度的弱收敛等价改写为开闭集不等式、半连续函数不等式与连续集上的测度收敛。保证充分靠后的 ;再添加有限个同半径球,照顾余下有限个 。
于是所有这些测度在 外的质量都小于 。集合 闭且全有界,完备性使它紧;可数并集界理路并集界Union bound · Boole 不等式多个坏事件中至少一个发生的概率,不超过各事件概率之和。又给出每个测度在 外的质量至多 。逐层有限覆盖同时控制了尾部质量与小尺度几何。
随机过程的函数空间极限通常分成两项:先证明有限维分布收敛,再证明过程律在路径空间中紧。前者确定任何可能子列极限的坐标行为,后者保证确实存在子列极限;只有两步结合,才能排除轨迹在越来越细的时间尺度上失控。
研究指数级小概率时,普通紧性可能放过比目标事件更大的逃逸质量。指数紧性理路指数紧性Exponential tightness以任意强度的指数尾控制质量逃向无穷,将紧集上界升级为所有闭集上界。要求通过扩大一个不随样本量变化的紧集,把外部概率压到任意指定指数成本,是将紧集大偏差上界升级到所有闭集的重要条件。
参考资料
- Patrick Billingsley, Convergence of Probability Measures, 2nd ed., Wiley, 1999, Chs. 1 and 5, tightness and weak convergence.
- Olav Kallenberg, Foundations of Modern Probability, 3rd ed., Springer, 2021, Ch. 5, tightness and convergence in distribution.
- R. M. Dudley, Real Analysis and Probability, 2nd ed., Cambridge University Press, 2002, Ch. 11, probability measures on metric spaces.