形式陈述

离散无记忆信道由条件分布 $W(y\mid x)$$W(y\mid x)$ 给出，各次使用在给定输入后独立同分布。其 Shannon 容量为

$$ C=\max_{P_X} I(X;Y), $$$$C=\underset{P_X}{max}I(X;Y),$$

单位取决于对数底，通常为 bit/次信道使用。最大化遍历输入字母表上的全部分布；若输入还受平均功率、代价或组成约束，则容量定义必须把相应约束加入可行集。容量给出任意长分组编码下可实现的可靠传输速率上确界，而不是某次传输的即时信息量。

直觉

发送者选择最合适的输入统计规律，让信道输出对输入保持尽可能多的平均可辨识信息；最优互信息就是每次使用可长期稳定承载的最高信息率。

例子与边界

二元对称信道交叉概率为 $p$$p$ 时，均匀输入最优，容量为 $1-h_2(p)$$1-h_2(p)$；$p=0$$p=0$ 时为 1 bit，$p=1/2$$p=1/2$ 时为 0。对连续信道若不施加功率约束，容量可能无界，所以不能直接套用有限字母表公式。容量也不同于带固定编码长度、延迟和误码要求时的实际吞吐量。

推论与应用

信道容量是编码定理的阈值，指导纠错码率选择和通信系统极限分析。它还可推广到带记忆、反馈、多用户和量子信道，但每种模型的优化对象与约束需重新规定。

参考资料

• Thomas M. Cover and Joy A. Thomas, Elements of Information Theory, 2nd ed., Wiley, 2006，Ch. 7, discrete memoryless channel capacity。
• Claude E. Shannon, “A Mathematical Theory of Communication,” Bell System Technical Journal 27, 1948，Part II, channel capacity and coding systems。