离散无记忆信道

DMC 把信道物理细节浓缩为一张由有限输入/输出字母表和单次转移概率 $W(y|x)$ 组成的随机转移矩阵。信道每次按同一随机规则污染当前符号，多次使用时条件概率按乘积展开；“无记忆”是说给定整个输入序列后，各位置输出独立且只依赖对应输入，不记住过去传了什么或错了什么。输入本身可以相关，编码器也可跨位置设计码字。

二元对称信道以概率 $p$ 翻转比特；二元擦除信道以概率 $ϵ$ 输出擦除符号。若噪声状态随时间形成 Markov 链，就不是普通 DMC。转移矩阵每一输入行必须是概率分布。可数字母表版本可以定义，但容量存在性、紧性和编码定理常需额外技术条件。反馈不改变离散无记忆信道的 Shannon 容量，但会改变编码策略与误差指数。

二元对称信道的矩阵为

二元擦除信道则以概率 $ϵ$ 输出特殊符号 ?。对输入串 $x^n$ 与输出串 $y^n$，有 $P(y^n|x^n)=\prod _{i}W(y_i|x_i)$。

突发错误、隐状态衰落和带反馈记忆的信道不满足简单乘积分解；强行用 DMC 会低估相关错误。信道矩阵描述的是给定输入后的条件分布公理库条件分布Conditional distribution · Regular conditional distribution给定观测值后随机量的概率律，以及它与原联合分布相容的核表示。，不包含输入分布，后者由编码策略选择；二者结合才确定输入、输出的联合分布。

DMC 是信道容量、随机编码和纠错码理论的标准基线模型。BSC公理库二元对称信道Binary symmetric channel · BSC每个输入比特以固定交叉概率独立翻转的二元信道。 是最常用特例，互信息公理库互信息Mutual information一个随机变量对另一个随机变量不确定性的平均减少量。 在输入分布与转移矩阵下计算，容量公理库信道容量Channel capacity对输入分布最大化输入与输出互信息所得的每次使用信息率。 对输入分布最大化互信息，编码定理公理库有噪信道编码定理Noisy-channel coding theorem · Channel coding theorem低于离散无记忆信道容量的速率可实现任意小错误概率，而高于容量的速率不能可靠传输。 则给出 DMC 上可靠通信的阈值。