“若要求每个支持点都严格无错,就不能删去任何正概率坏输出。混淆图把共享可能输出的输入连边,一次零错误码恰是图的独立集;长块码还需在相应图幂中检查,而不是仅让上述错误概率逐渐变小。”
形式陈述
设
对每个输入定义可能输出集合
混淆图
也就是说,某个输出可能同时来自这两个输入。本文使用无自环简单图;“相等或相邻”将在块编码中另行写出。[1]
取信道码接口的块长为一;固定长、无反馈的零错误码选择
这一条件成立,当且仅当所选输入构成
直觉
把信道写成输入到输出的二部支持图。某个输出连着几个输入,就表示接收者单凭这个输出无法判断是哪一个输入。混淆图把每个输出引发的这种冲突压成输入之间的边。
选码字时要避开所有冲突边。两个被选输入只要共享一个可能输出,无论这个输出多罕见,译码器在看到它时都无法同时回答两个不同消息。这就是零错误条件比“错误很少”严格的地方。
例子与边界
五个符号,每个会偏移一步
令输入、输出都是
下标模5。输入0可能输出
全部冲突边恰为
最多只能选两个顶点。若选中一个顶点,沿圆周紧接它的下一个顶点不能选;每个选中点连同其后继形成互不相交的两点组。因此
独立集等价性的两边
必要性:若所选
充分性:若没有冲突边,所有被选输入的输出支持两两不交。对每个可能输出,译码器返回唯一与它相容的码字;未被任何所选码字覆盖的输出不会真实出现。这样逐个支持点都正确,而不只是平均正确。
与一般信道码相比,这里既没有允许一小部分消息出错,也没有允许丢掉一小部分输出。若采用所有消息都有正先验概率的平均错误指标,平均错误恰为零同样迫使每个消息的错误概率为零。
正概率再小,也会形成边
二元对称信道只要交叉概率
当
推论与应用
只要所有正转移概率的位置保持不变,混淆图和无反馈固定长零错误码都不变。把五边形例子的两个概率改成
混淆图只记录两两能否共享输出,可能丢失“究竟哪些输入共同对应同一个输出”的高阶信息。无反馈块编码由两两支持相交决定,因此图已经够用;反馈零错误容量需要保留每个输出的完整相容输入集合。
下一步不能只重复使用一次最优码。强图积与 Shannon 零错误容量会展示:五边形两次联合使用,竟能传五条消息,超过两个两消息码的四种拼接。
参考资料
- [1] László Lovász, On the Shannon Capacity of a Graph, IEEE Transactions on Information Theory 25(1), 1979, pp.1–7,§I:混淆图、独立集与块码。
- [2] Claude E. Shannon, The Zero Error Capacity of a Noisy Channel, IRE Transactions on Information Theory 2(3), 1956, pp.8–19;零错误信道问题的原始论文。