形式陈述

对容量为 $C$$C$ 的离散无记忆信道，信道编码定理给出两部分。可达性：任意 $R<C$$R<C$，存在长度 $n$$n$、消息数约为 $2^{nR}$$2^{nR}$ 的编码，使平均解码错误概率随 $n\to\infty$$n\to \mathrm{\infty }$ 趋于零。逆定理：若错误概率趋于零，则渐近速率不能超过 $C$$C$；更强的逆定理还说明 $R>C$$R>C$ 时错误趋近一。随机编码、典型集与最大似然解码证明存在性，具体误差准则和最大错误版本需要相应技术转换。

直觉

噪声不要求逐符号正确；把许多符号联合编码，就能在容量以下用冗余区分典型噪声模式，而容量以上可区分的输出区域不够容纳所有消息。

例子与边界

二元对称信道中，只要码率低于 $1-h_2(p)$$1-h_2(p)$，存在误码率可任意小的长码；简单重复码通常远未达到该极限。定理是渐近存在性结果，不声称任意短码都高效，也不自动给出可实际编码和解码的低复杂度构造。$R=C$$R=C$ 边界及有限块长性能需要更精细分析。

推论与应用

定理确立可靠通信的可行/不可行分界，奠定现代纠错码理论。LDPC、Turbo 与极化码等构造的目标之一，就是以可行复杂度接近特定信道的容量。

参考资料

• Thomas M. Cover and Joy A. Thomas, Elements of Information Theory, 2nd ed., Wiley, 2006，Ch. 7, channel coding theorem and converse。
• Claude E. Shannon, “A Mathematical Theory of Communication,” Bell System Technical Journal 27, 1948，Part II, fundamental theorem for a discrete channel with noise。