Skip to content

离散无记忆信道

Discrete memoryless channel · DMC

每次输出只依赖当前输入且各次使用条件独立的有限字母信道。

形式陈述

离散无记忆信道由有限输入字母表 X、有限输出字母表 Y 和转移概率 W(yx) 给出。连续使用 n 次时

P(ynxn)=i=1nW(yixi),

即当前输出仅依赖当前输入,条件于输入序列后各次独立。输入本身可相关;“无记忆”指信道律而非源。

直觉

信道每次按同一随机规则独立污染当前符号,不记住过去传了什么或错了什么。

例子与边界

二元对称信道以概率 p 翻转比特;二元擦除信道以概率 ϵ 输出擦除符号。若噪声状态随时间形成 Markov 链,就不是普通 DMC。转移矩阵每一输入行必须是概率分布。可数字母表版本可以定义,但容量存在性、紧性和编码定理常需额外技术条件。反馈不改变离散无记忆信道的 Shannon 容量,但会改变编码策略与误差指数。

推论与应用

DMC 是信道容量、随机编码和纠错码理论的标准基线模型。

参考资料
  • Thomas M. Cover and Joy A. Thomas, Elements of Information Theory, 2nd ed., Wiley, 2006,Chs. 2–8。
  • Claude E. Shannon, “A Mathematical Theory of Communication,” Bell System Technical Journal 27, 1948,Parts I–II。