Skip to content

定理Theorem

网络切集信息上界

Cut-set bound for networks

把网络按节点切成两组,以跨切面的条件互信息给单源通信建立必要速率上界。

形式陈述 ​

考虑有限字母表的离散无记忆网络,节点 1,…,m(m≥2) 每次输入 X1,…,Xm,收到 Y1,…,Ym,转移律为 W(y1,…,ym|x1,…,xm)。源节点 s 向不同的终点 t 发送均匀消息,其他节点只能依据过去的本地观察选择当前输入;块错误趋零。

任何可达率都满足切集上界

R≤maxp(x1,…,xm)minS:s∈S,t∉SI(XS;YSc∣XSc).

每个 S 把源与目的地分开。这个条件互信息把另一侧已发的输入当作已知,衡量一次网络使用中真正新增的跨界信息。最大化允许任意联合输入分布,是对真实分布式编码约束的放宽,因而给外界。

直觉

即便让切面同侧的所有节点完全合作,源消息仍必须穿过切面才能到终点。将一侧合并成超级发送者、另一侧合并成超级接收者,只会让任务更容易,所以容易任务的容量也限制原网络。

同一份输入分布要接受所有切面的检查。先对每个切面单独最大化再取最小,仍可能是上界,却通常更松;它允许不同切面各自使用不相容的最优分布。

从一段码到单字母上界 ​

任取长度 n 的通信码,Fano 不等式把可靠译码变成 nR≤I(M;终点记录)+o(n)。向切面外的节点公开它们的本地信息,并按时间展开互信息链式法则,可上界为

∑i=1nI(XS,i;YSc,i∣XSc,i)+o(n).

无记忆性消去更早信号的额外影响,因果编码保证当前输入只依赖允许的历史。令 pi 为第 i 次使用的联合输入律,取同一平均律 p¯=n−1∑ipi。对固定转移律,每个切面的 FS(p)=Ip(XS;YSc∣XSc) 都对联合输入律凹:其条件输出熵是凹函数,而给定全部输入后的输出熵是线性函数。因此Jensen 不等式给出 n−1∑iFS(pi)≤FS(p¯)。同一个 p¯ 同时满足所有切面所需的放宽界,再对联合输入律最大化即得结论。证明只建立必要条件,没有构造达到它的码。

例子与边界

三节点中继有两条关键切面 ​

源输入 X1,中继输入 X2、观察 Y2,终点观察 Y3。切 S={1} 给

R≤I(X1;Y2,Y3|X2),

切 S={1,2} 给 R≤I(X1,X2;Y3)。前者允许中继和终点把观察汇总,后者允许源和中继像一个发送者那样合作;真实中继未必能同时实现两种理想合作。

无噪串联链的匹配例子 ​

源到中继每次最多传 2 bit,中继到终点最多传 1 bit,且为相互独立的无噪链路。两切面分别为 2 与 1,所以 R≤1。中继逐块存储并转发,每次流水线传 1 bit,启动延迟占比趋零,因此达到上界,容量确为 1。

换成一般有噪无线中继后,切集值未必可达。特别是同一个接收输出同时混合多个发送输入时,不能把每条画出的箭头独立当作一条给定容量的管道。

推论与应用

在独立无噪边网络中,该信息界退化成最大流最小割中的跨边容量和;而译码转发与压缩转发提供具体可达内界。只有内外界在相同模型与参数下吻合,才可宣称求得容量。

参考资料
关系图谱14 个相邻概念 · 2 类关系

拖动节点调整位置。

显示关系

显示:依赖

  1. 前置三跳
  2. 前置二跳
  3. 前置一跳
  4. 当前条目
  5. 后续一跳
  6. 后续二跳
  7. 后续三跳
文字版关系按与当前条目的最短距离分组
类型化关系