Skip to content

算法Algorithm

AMS 二阶矩 Sketch

施工中 · 内容逐步修订

AMS sketch · Alon–Matias–Szegedy sketch

用随机符号线性投影的平方无偏估计频率向量二阶矩,并以均值—中位数组合放大。

形式陈述 ​

单计数器 ​

对从零开始、独立于摘要随机性的固定流及其频率向量 f∈ZU,取四重独立、每个均匀取值于 {−1,+1} 的符号 si,在更新 (i,Δ) 时维护

Z←Z+siΔ.

流结束后 Z=∑isifi,输出 X=Z2。线性更新同时支持 insertion-only 与 turnstile。

直觉

无偏与四阶矩 ​

展开平方,异项因 E[sisj]=0 消失:

E[X]=∑ifi2=F2.

控制 Var(Z2) 需要展开四个符号的乘积,故 4-wise independence 是自然充分条件;仅 2-wise 不能自动控制四阶矩。展开后得到 Var(X)=2(F22−∑ifi4)≤2F22。

置信放大 ​

取 0<ε<1、0<δ<1。当 F2>0 时,每组平均 a=⌈8/ε2⌉ 个独立副本,方差至多 2F22/a。由Chebyshev 不等式,组均值偏离 F2 超过 εF2 的概率至多 1/4。

再取独立的奇数 b 组,返回组均值的中位数。若中位数失准,至少一半组失准;对坏组的 [0,1] 指示变量使用Hoeffding 不等式,概率至多 e−b/8。因此取最小的奇数 b≥8ln⁡(1/δ) 即可。若 F2=0,净频率全零,每个 Z 也恰为零,输出精确为零。

这套组内平均、组间中位数的机制可抽成 有限方差均值估计接口。通用页面另行处理固定样本数的丢余、未知均值与已知方差上界;此处的 F2 目标、随机符号副本和相对误差预算仍由 AMS 模型负责。

AMS 二阶矩估计与置信放大
例子与边界

更新例子与边界 ​

同一键多次正负更新只改变一个带固定符号的计数器,最终恰按净频率进入 Z;这展示线性 sketch 可合并。例如 f=(1,1) 而符号取 (1,−1) 时,Z2=0,但 F2=2;独立重复用来减小这种抵消造成的估计波动。均值和中位数的层次若颠倒,方差缩减与尾部放大的证明也随之失效。

位空间与哈希种子 ​

若流总绝对更新量为 L1, 则 |Z|≤L1,一个计数器需 O(log⁡(2+L1)) 位。令 q 为不小于 max{2,U} 的最小二次幂,在二元有限域 Fq 中嵌入所有键。独立均匀选择四个系数,用次数至多三的随机多项式求值,再取一个固定的非零二元线性坐标 b,并输出符号 (−1)b;四个不同键的域值独立均匀,所得四个符号也独立均匀。每个副本的种子占 O(log⁡(U+1)) 位。

共 ab=O(ε−2log⁡(2/δ)) 个副本,因此计数器和种子的总位空间为

O(ε−2log⁡(2/δ)[log⁡(2+L1)+log⁡(U+1)]).

这还采用能容纳计数与种子的字长;逐位算术和哈希求值成本应另计。

两个 AMS sketch 只有使用相同符号函数时才能相加合并;独立副本的编号和种子必须对齐。合并后 Z 等于两频率向量和的投影,平方应在合并后计算,不能把各自 Z2 直接相加。

推论与应用

更新吞吐与查询时机 ​

所有计数器都在一条更新到来时同步执行

Za,b←Za,b+sa,b(i)Δ.

因此朴素每次更新需计算并写 Θ(ε−2log⁡(2/δ)) 个投影;位空间还包括上述每个副本的种子。批量 SIMD 可以改善处理常数;各副本仍使用各自的符号函数,以实现组内独立重复。

查询时先对每个计数器平方,再在组内平均、组间取中位数;保留带符号的线性计数器 Z,才能继续处理负更新并合并流片段。若采用模整数避免溢出,模回绕后的平方不再是实数上的 F2 估计,需另做恢复分析。

参考资料
  • Noga Alon, Yossi Matias, Mario Szegedy, The Space Complexity of Approximating the Frequency Moments, JCSS, 1999.
  • Graham Cormode, Ke Yi, Small Summaries for Big Data, Cambridge University Press, 2020, frequency moment sketches.
关系图谱8 个相邻概念 · 4 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
分类位置

上位 / 更一般

下位 / 直接特例

暂未标注直接特例。

类型化关系