形式陈述
定义与特例
给定流的频率向量公理库插入流与 Turnstile 流Insertion-only stream · Turnstile stream以频率向量更新语义区分非负插入、严格 Turnstile 与一般正负流。和实参数 ,在非负频率下定义 。 单独定义以避开 ;一般非负更新下 ,只有单位插入 时才等于更新数 ; 是 self-join size。
流 与 都长 4;前者 ,后者 。任务可要求精确值,或给定 、,以至少 的概率返回 近似。
对非空单位插入流,从 个更新位置中有放回独立抽两次,键相同的有序位置对数正是 。因此 是两次抽取命中同键的概率。它不是频率的方差;在范数空间公理库赋范向量空间Normed vector space带满足正定、齐次与三角不等式范数的向量空间。语言中,它与 相同,并直接测量碰撞集中度。对 ,相应表达只是拟范数幂,不能无条件沿用范数术语。
直觉
不同阶数给频率分布施加不同的放大方式: 只看支持集, 线性累计质量, 把碰撞和集中度放大,更高阶则越来越受最大坐标支配。它们共用一个记号,却不是把同一估计器的指数换掉就能互相得到。
频率向量与不同阶矩
例子与边界
AMS 二阶矩估计器
选择四重独立且各自均匀取值的随机符号 ,维护
更新 只做 ,因此同一状态同时支持正负更新。展开可得
因为交叉项的符号期望为零。对频率 ,符号同号时 ,异号时为 4,二者平均为 10,恰等于 。
单副本波动很大。四独立性用于控制四阶矩与方差;重复独立副本先分组取均值,再取组间中位数,可把相对误差与失败概率降到目标范围。只写“两两独立使估计无偏”不足以支持集中保证。
各阶任务为何不同
只看支持集,不随同一键重复增长; 在当前频率非负的流中是带符号更新增量的总和,单位插入时才是更新数 ,无需 sketch; 测量碰撞集中度。更高阶 更受最大坐标支配,流算法空间随 出现相变,不能把 AMS 的平方换成任意指数就得到通用估计器。
General turnstile 中通常定义
若对奇数 直接使用 ,正负坐标会抵消,甚至产生负的“矩”,失去范数语义。严格 turnstile 的非负性又要求每个前缀成立,不能只检查最终向量。
近似与输入边界
乘法 在 时要求精确返回 0,接口应单独约定空流或完全抵消状态。若结果只有加性误差,必须说明相对于 、尾部范数还是其他尺度;不能把两者统称“近似”。 是算法参数,引用空间界时也不能固定后隐藏。
用同一条流比较精确与近似任务
INDEX 到流式空间的归约公理库通信下界归约范式Communication lower-bound reduction pattern · Communication reduction for lower bounds用固定长度的 INDEX 编码,把单遍精确不同元素计数的完整内存状态变成一次消息,并逐项保留错误、随机性和空间单位。提供了一个可复算的比较:前 项为 ,最后追加 。当 时全异;当 时一个频率为 2,其余 个为 1。因此
和 都能精确解码该位,故单遍精确算法在 的这组输入上需要 bits; 对两类输入完全相同,不能承担这项解码。对 ,追加 得 ,追加 则得 。
对二阶矩,加性误差严格小于 1 时,两种答案仍能由阈值 分开;相对误差却需要 。固定常数相对误差无法维持这个间隔,所以精确二阶矩的线性空间下界与 AMS 的小空间近似并不冲突。成功概率相同也不足以迁移下界,必须同时保持输出误差尺度。
推论与应用
对 turnstile 流中的二阶矩 ,AMS 二阶矩 Sketch公理库AMS 二阶矩 SketchAMS sketch · Alon–Matias–Szegedy sketch用随机符号线性投影的平方无偏估计频率向量二阶矩,并以均值—中位数组合放大。用固定随机符号将频率向量投影为一个标量,再以重复和中位数控制方差与失败概率。其线性更新和可合并性来自同一随机投影;它直接实现的是 估计,而不是所有 的频率矩或逐项 heavy-hitter 恢复。
频率矩统一了 distinct counting、流长、self-join size 与分布集中度等流式目标,并为 AMS、CountSketch 等线性摘要规定了精确估计对象。选用算法时还要固定 insertion-only 或 turnstile 语义、误差尺度与 的取值,不能只按 的共同记号迁移保证。
参考资料
- Noga Alon, Yossi Matias, and Mario Szegedy, “The Space Complexity of Approximating the Frequency Moments”, Journal of Computer and System Sciences 58(1), 1999, pp. 137–147;作者稿 §3.4 Proposition 3.8(p. 16)给出非负整数阶 的精确频率矩空间下界。
- S. Muthukrishnan, “Data Streams: Algorithms and Applications,” Foundations and Trends in Theoretical Computer Science 1(2), 2005, pp. 117–236.