Skip to content

模型Model

数据流算法模型

Data-stream model

输入顺序到达且不能保存全文,以扫描趟数、工作空间、处理时间和输出保证评价算法。

形式陈述 ​

资源协议 ​

输入流选取任意符号集合上的有限字这一版本:给定更新记录集合 A 和 m≥0,输入为 a:{1,…,m}→A,记作 a1,…,am。位置保留次序与重复记录,流模型再规定这些更新按时间依次到达的访问协议。算法通常一趟处理,只保留 s≪m bits 状态;这是核心空间复杂度约束。任何算法都须报告 pass 数、update/query time 与空间口径。若算法使用随机摘要或近似输出,再另外说明误差尺度、成功概率及概率对哪些随机性取值;精确的确定性流算法并不需要这组参数。

网络包独立访客统计是例子:保存所有地址可精确计数但需线性空间;小摘要允许近似。把流写到磁盘再离线排序不属于小空间 streaming,尽管输入也按顺序读取。

直觉

一趟实例的状态演化 ​

处理同一包源地址流时,精确频率表、distinct 摘要与 heavy-hitter 摘要回答不同函数,状态和误差保证也不同。“流式”只规定资源协议,不能推出共同的统计接口。

若要求每次更新后立即输出,查询或解码时间会进入逐项延迟;只在流末输出则可把部分工作推迟到终点。持续监控与 one-shot summary 必须分别计费。

单趟流更新与有限状态
例子与边界

模型边界 ​

是否知道 m、宇宙大小、随机种子是否公开、空间按 bit 还是 word 都影响结论。多趟算法可用少空间反复扫描;外存模型允许随机访问磁盘,约束不同。通信复杂度归约常给流空间下界。

滑动窗口只统计最近 W 项,时间衰减给旧项降权,分布式流还要求可合并;它们都在根模型上增加语义。若保存完整流的外部日志,也应把这部分线性外部空间计入资源。

状态机执行轨迹 ​

设状态只有 64 个 32-bit words。更新到来时,算法只能用当前状态、更新与固定随机种子计算下一状态,不能再次读取早先记录。对地址流 a,b,a,c,精确 distinct 状态若保存集合依次为 {a}、{a,b}、不变、{a,b,c};小空间估计器则只更新哈希寄存器,无法列出原键。

若使用固定种子,可写作 st=F(st−1,at;r),流末由 G(sm) 解码。若每步抽取独立新币,则写作 st=F(st−1,at;rt)。这两种记法都必须说明随机性计费:输入无关、模型允许免费共享的只读种子可以作为公开参数;过去抽取而未来还会复用的私有种子,必须保存在工作状态内。

S-bit 状态指完整的可续跑配置,包括计数器、持久种子和必要的控制信息。在固定公开参数后,它至多有 2S 种取值。已耗用且不再访问的独立随机位不需要保存;若实现重新读取过去的随机带,所需带内容、种子或数据依赖的读取位置都要纳入可续跑配置并计费。这个区分使“状态限制历史信息”成为严格的资源约束,也保证状态交给另一方后能继续运行。

多趟模型允许第二趟重新读取 a,b,a,c,但跨趟保留的工作状态仍受空间限制。

概率量词和自适应性 ​

固定流保证先固定 σ,再对种子 r 取概率。若系统公开每次估计,对手可根据误差选择下一键,最终流依赖 r;原保证不能直接条件化。隐藏种子、限制查询次数或采用抗自适应 sketch 是额外机制。

对固定合法流 σ,一种带误差尺度的保证是

Prr[|F^(σ)−F(σ)|≤εScale(σ)]≥1−δ.

取 Scale(σ)=|F(σ)| 时,这是相对误差保证;使用其他尺度时,误差应按该尺度解释。

将失败率从常数降到 δ 常用 O(log⁡(1/δ)) 个独立副本取中位数,空间和更新时间也同倍增加。不能只改定理中的概率而忽略资源。

推论与应用

通信下界接口 ​

通信下界归约把流切成 Alice 前缀和 Bob 后缀。Alice 运行后只把 S-bit 状态发给 Bob,Bob 继续并解码;任何一趟 streaming 算法由此产生一个 S-bit 单向通信协议。用Indexing时,前缀通常编码 Alice 的位向量,Bob 的后缀和最终查询选择待恢复坐标;用Set Disjointness时,两段更新分别编码双方集合,使流输出能够判断是否存在交集。具体编码必须证明流合法并保存近似 gap,不能只因任务也涉及集合就套用下界。

若底层通信问题需要 Ω(n) bits,且模拟没有额外消息,便排除对应流任务的次线性状态。多趟算法会在两方之间来回传递状态,对应多轮而非单向通信;随机种子是否公开、每趟起止方和最终输出位置也要与通信下界版本一致。

一个具体终点是宇宙 [n]×{0,1} 上的固定长度流:前缀依次为 (j,xj),末项为 (i,1)。不同元素数为 n+1−xi,因此精确输出可以解码 INDEX 的第 i 位,单遍最坏空间需要 Ω(n) bits。完整编码与状态模拟逐步证明了此结论,也说明本受限流族两遍只需 O(log⁡n) bits:先记住末项,再重扫前缀检查它是否出现。遍数因此是定理前提,不能从空间符号中省略。

与在线和外存模型对照 ​

Online algorithm 强调未知未来下立即决策,可拥有线性记忆;external-memory 可反复随机访问磁盘,以 I/O 计费;streaming 主要限制 pass 与工作空间。三者都“顺序到达”时仍不能混用复杂度。

参考资料
关系图谱21 个相邻概念 · 3 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
分类位置

上位 / 更一般

暂未标注直接上位概念。

下位 / 直接特例

类型化关系