1 定义与数学基础
信道容量是信息论中描述信道传输信息能力的基本量度。它定义为在给定信道上能够以任意小的错误概率进行可靠通信的最大信息传输速率。这一概念的核心在于，无论信道中存在的噪声与干扰如何，只要传输速率低于信道容量，就一定存在某种编码方案使得错误概率趋近于零。
1.1 香农信道容量公式
1.1.1 离散无记忆信道（DMC）的容量
离散无记忆信道（DMC）是一类最基本的信道模型，其输出仅依赖于当前输入，且不同时刻的传输相互独立。对于DMC，信道容量定义为输入分布与输出分布之间互信息的最大值，即： \[ C = \max_{p(x)} I(X;Y) \] 其中\(p(x)\)是输入符号的概率分布，\(I(X;Y)\)是输入\(X\)与输出\(Y\)之间的互信息。这一公式给出了DMC在理论上可达的最大可靠通信速率，单位通常为比特每信道使用（bits/channel use）。
1.1.2 连续信道的容量（加性高斯白噪声信道）
对于连续输入连续输出的信道，最常见的模型是加性高斯白噪声（AWGN）信道。在这种信道中，输出\(Y\)与输入\(X\)的关系为\(Y = X + Z\)，其中\(Z\)是均值为零、方差为\(\sigma^2\)的高斯噪声。在平均功率约束\(E[X^2] \leq P\)下，AWGN信道的容量公式为： \[ C = \frac{1}{2} \log_2 \left(1 + \frac{P}{\sigma^2}\right) \quad \text{（比特每信道使用）} \] 当考虑带宽\(W\)时，容量进一步表示为\(C = W \log_2(1 + \text{SNR})\)，其中SNR是信噪比\(P/(N_0 W)\)，这一形式被称为香农-哈特利定理。
1.2 互信息与容量的关系
1.2.1 互信息的定义
互信息是衡量两个随机变量之间相互依赖程度的量。对于离散随机变量\(X\)和\(Y\)，互信息定义为： \[ I(X;Y) = \sum_{x,y} p(x,y) \log_2 \frac{p(x,y)}{p(x)p(y)} \]
| 它等于输入熵\(H(X)\)减去给定\(Y\)下\(X\)的条件熵\(H(X | Y)\)，直观上表示从输出\(Y\)中能够获取关于输入\(X\)的信息量。 |
|---|
1.2.2 最大互信息原则
信道容量的核心思想在于：为了最大化可靠传输速率，需要选择最优的输入分布，使得互信息达到最大值。这一原则称为最大互信息原则。对于不同信道，最优输入分布不同：例如，在AWGN信道中，最优输入是服从高斯分布的连续随机变量；而在二进制对称信道中，最优输入是均匀分布的二进制符号（即\(p(0)=p(1)=0.5\)）。这一原则奠定了所有信道容量计算的理论基础。
1.3 有噪信道编码定理
1.3.1 定理陈述
有噪信道编码定理（又称香农第二定理）指出：对于任何离散无记忆信道，若传输速率\(R\)小于信道容量\(C\)，则存在一种编码方案，使得在足够长的码长下，译码错误概率可以任意小。反之，若\(R > C\)，则无论采用何种编码，错误概率都无法降低到任意小。
1.3.2 可达性与逆定理
定理分为两部分。可达性（正向定理）表明，对于任何\(R < C\)，总能找到编码实现可靠性通信；这一证明通常采用随机编码和联合典型序列的思想。逆定理则证明，当\(R > C\)时，任何编码的译码错误概率都远离零。这两部分共同刻画了信道容量作为可靠通信速率的理论边界：低于容量，“一切都好”；高于容量，“万事皆休”。
2 常见信道模型及其容量
2.1 二进制对称信道（BSC）
| 二进制对称信道是最简单的离散信道模型之一，输入为二进制符号\(\{0,1\}\)，输出同样为\(\{0,1\}\)，且每个符号以概率\(p\)翻转（即0变成1或1变成0）。该信道的转移概率为\(p(y | x) = 1-p\)当\(y=x\)，\(p(y | x) = p\)当\(y\neq x\)。 |
|---|
2.1.1 容量计算
BSC的容量计算公式为： \[ C_{\text{BSC}} = 1 - h_2(p) = 1 - [p \log_2 p + (1-p) \log_2 (1-p)] \] 其中\(h_2(p)\)是二元熵函数。当\(p=0\)（无噪声）时容量为1比特每信道使用；当\(p=0.5\)时容量为0，表示信道完全随机，无法传递任何信息。
2.1.2 错误概率的物理意义
参数\(p\)直接反映了信道的噪声水平。在实际通信中，\(p\)对应误比特率（BER），例如无线通信中的符号翻转。容量随\(p\)递减，且当\(p\)接近0.5时，信道趋于完全随机，可靠通信几乎不可能。这一事实体现了BSC模型中“对称性”的错误本质。
2.2 二进制擦除信道（BEC）
二进制擦除信道是另一种重要模型，输入为二进制符号\(\{0,1\}\)，而输出为\(\{0,1,\text{?}\}\)，其中“?”表示擦除（接收方无法确定是0还是1）。擦除概率为\(\alpha\)，即输入符号以概率\(\alpha\)被擦除，以概率\(1-\alpha\)被正确接收。
2.2.1 容量公式
BEC的容量公式极为简洁： \[ C_{\text{BEC}} = 1 - \alpha \] 即容量等于正确传输的概率。当\(\alpha=0\)时容量为1比特每信道使用；\(\alpha=1\)时容量为0，所有信息丢失。
2.2.2 与BSC的对比
BSC和BEC在工程应用中常被并列讨论。BSC的错误表现为符号翻转，而BEC的错误表现为信息消失。有趣的是，在相同“错误程度”下（即\(\alpha = p\)），BEC的容量通常高于BSC，因为擦除信道中接收方明确知道哪些符号不可靠（擦除位置），而BSC中接收方不知道哪一位发生了翻转。这一差异直接影响了编码设计的策略——BEC更易逼近容量，而BSC需要更复杂的纠错码。
2.3 加性高斯白噪声（AWGN）信道
2.3.1 容量公式（香农极限）
AWGN信道的容量公式已在前面提及： \[ C = \frac{1}{2} \log_2 (1 + \text{SNR}) \quad \text{（比特每维度）} \] 当传输带宽为\(W\)时，容量为\(C = W \log_2 (1 + \text{SNR})\)。若以频谱效率（bps/Hz）度量，则极限为\(\log_2(1+\text{SNR})\)。SNR=0 dB时对应容量1 bps/Hz，“香农极限”常指理论上所需的最小SNR以实现特定速率。
2.3.2 带宽与功率效率
在AWGN信道中，带宽和功率之间存在权衡。宽带宽可容纳更高数据速率，但带来更多噪声；高功率可直接提升信噪比，但受限于发射功率法规。香农公式表明，当SNR较低时，容量近似线性增长（\(C \approx \text{SNR} \log_2 e\)），即功率效率较高；而当SNR很高时，容量增长趋于对数缓慢。这解释了为何在近地卫星通信等低SNR场景中，编码增益尤为显著。
2.4 多输入多输出（MIMO）信道
2.4.1 容量与天线数关系
MIMO信道利用多根发射天线和多根接收天线提供额外空间自由度。对于\((M_t, M_r)\)天线系统，若信道矩阵\(\mathbf{H}\)为独立同分布瑞利衰落，其容量随天线数增长而线性增加。在接收端已知信道状态信息（CSIR）的情况下，容量近似为： \[ C_{\text{MIMO}} \approx \min(M_t, M_r) \log_2(1 + \text{SNR}) \quad \text{（高SNR时）} \] 其中\(\min(M_t, M_r)\)正是空间复用增益的极限。
2.4.2 分集与复用增益
MIMO系统可在分集增益和复用增益之间进行权衡。分集增益指通过多天线降低错误概率（增加可靠性），复用增益指同时传输多个数据流（增加速率）。两者的交换关系由分集-复用折中曲线刻画：\(\min(M_t, M_r)\)个数据流可复用，但复用增益越高，分集增益越低。例如，4×4 MIMO系统可获得4重复用增益，但也可能损失分集增益。
3 信道容量的特性与限制
3.1 容量与带宽、信噪比的关系
3.1.1 香农-哈特利定理
香农-哈特利定理是AWGN信道容量公式的特例： \[ C = W \log_2 \left(1 + \frac{P}{N_0 W}\right) \] 其中\(W\)为带宽，\(P\)为信号功率，\(N_0\)为噪声功率谱密度。此式表明容量不仅取决于信噪比，还受带宽限制：增加带宽可提升容量，但噪声功率也随带宽线性增加，存在收益递减效应。
3.1.2 无限带宽下的极限
当带宽\(W \to \infty\)时，容量趋于一个有限值： \[ \lim_{W \to \infty} C = \frac{P}{N_0} \log_2 e \approx 1.44 \frac{P}{N_0} \] 这意味着，即使拥有无穷带宽，容量也只能以\(P/N_0\)的线性比例增长，无法无限增大。这纠正了“带宽无限即容量无限”的常见误解。
3.2 容量与信道状态信息（CSI）
3.2.1 完全CSI vs 部分CSI
信道状态信息（CSI）指接收端或发射端对当前信道特性的认知。在完全CSI（发射端和接收端都知晓信道）下，最优策略包括注水功率分配，从而最大化容量。在仅接收端有CSI时（CSIR），发射端只能采用等功率分配，容量低于注水情况。在无CSI的极端情形，如快衰落信道，容量可能严重下降。
3.2.2 不完美CSI下的容量降级
实际系统中CSI总存在估计误差。以最小均方误差（MMSE）信道估计为例，容量损失与估计误差成比例。若信道估计误差方差为\(\sigma_e^2\)，有效信噪比降低为\(\text{SNR}_{\text{eff}} = \frac{P}{N_0 + \sigma_e^2 P}\)，容量随之下降。这一现象在毫米波通信等高频段尤为严重。
3.3 容量与编码复杂度
3.3.1 接近容量编码的挑战
有噪信道编码定理保证了存在可接近容量的编码，但未提供构造方法。传统分组码（如汉明码、里德-所罗门码）与容量差距较大，且随码长增加译码复杂度呈指数增长。逼近信道容量需要在足够长的码长下实现接近最大似然译码，这要求：1）编码结构具有良好距离谱；2）译码算法高效（线性或拟线性复杂度）。
3.3.2 现代编码（LDPC、Turbo码）的进展
低密度奇偶校验（LDPC）码和Turbo码的提出改变了这一局面。LDPC码利用稀疏校验矩阵和迭代置信传播译码，性能接近香农极限（差距约0.0045 dB），且译码复杂度与码长线性相关。Turbo码采用并行级联卷积码和迭代软译码，广泛应用于3G/4G移动通信。这些编码的成功表明：理论上可接近容量的编码在工程上也是可行的。
4 信道容量的应用与扩展
4.1 通信系统中的容量逼近
4.1.1 数字通信系统的设计
现代数字通信系统以信道容量作为性能基准。设计流程图通常包括：测量信道参数（信噪比、带宽）、计算容量上限、选择调制和编码方案（使速率接近容量）、通过注水算法和自适应技术优化。例如，WiFi和蜂窝网络中的高阶QAM（如256-QAM、1024-QAM）与LDPC码结合，在良好信道状态下可达频谱效率接近容量。
4.1.2 自适应调制与编码
自适应调制与编码（AMC）是逼近信道容量的核心技术。发射端根据瞬时信道条件动态调整调制阶数（BPSK、QPSK、16QAM等）和码率（如1/2、2/3、3/4等）。理想情况下，AMC可使系统运行在容量附近（类似速率-容量曲线包络）。实际部署中还需考虑返回信道延迟和估计误差，但AMC仍是4G/5G中不可或缺的机制。
4.2 多用户信道的容量区域
4.2.1 多址接入信道（MAC）
| 在多址接入信道中，多个用户同时向同一接收机发送信息。其容量区域（可达速率集）由一系列不等式定义。例如，两用户MAC的容量区域满足：\(R_1 < I(X_1;Y | X_2)\)，\(R_2 < I(X_2;Y | X_1)\)，\(R_1+R_2 < I(X_1,X_2;Y)\)。这一区域通常呈五边形，并通过“时频分多址”或“信息论最优的连续干扰消除”实现。 |
|---|
4.2.2 广播信道（BC）
广播信道中一个发射机向多个接收机发送信息。在退化广播信道（如高斯BC）中，容量区域可通过“叠加编码”和“脏纸编码”实现。例如，两级高斯广播信道的容量区域近似为无线通信中的“分层调制”技术——强用户解码全部信息，弱用户仅能解码低层信号。
4.2.3 中继信道
中继信道由发射机、中继和接收机构成，中继可放大和转发信号。其容量区域通常位于源-目的直连与全双工中继的上界之间。著名的“解码转发”（DF）和“放大转发”（AF）协议各有优劣：DF在高信噪比下接近容量，AF在低SNR下鲁棒性更好。中继信道容量至今仍是信息论中活跃的研究方向。
4.3 与网络信息论的关联
4.3.1 网络编码中的容量问题
网络编码打破传统“存储-转发”限制，允许中间节点对数据包进行线性组合。其核心容量问题是：给定网络拓扑，源节点到一组目的节点的最大组播速率是多少？基于最大流最小割定理的经典结果：组播容量至少等于最小割容量的最小者，而线性网络编码（如RLNC）可达此界。信道容量概念在此扩展为网络中的端到端容量。
4.3.2 分布式源编码与容量
分布式源编码（如Slepian-Wolf编码）研究多个编码器以一定速率分别编码相关信源，解码器联合恢复所有信源。此时，容量问题转化为速率-失真关系：最小总速率为分布式信源的联合熵，而非各信源独立熵之和。这一结果在无线传感器网络、视频监控等分布式数据压缩场景中具有重要应用。
5 历史上的趣闻与常见误解
5.1 香农的论文与“容量”词源
克劳德·香农在1948年发表的论文《通信的数学理论》中首次明确提出信道容量的概念。有趣的是，香农最初使用的术语是“capacity of the channel”（信道容量），灵感可能来自“管道容量”或“公路容量”的类比。论文发表前，香农曾向同事解释：“这就像管道的最大水流。”如今“容量”已成为通信领域的通用术语，但香农本人早期笔记中曾用“maximum rate”和“ideal limit”等表述。
5.2 “无限带宽就能无限容量”的误区
一个广为流传的误解是：既然容量\(C = W \log_2(1+P/(N_0 W))\)，那么当\(W \to \infty\)时容量应趋于无穷。然而，如前所述，极限值为\(1.44 P/N_0\)，一个有限常数。这意味着增加带宽只能带来有限收益，而非线性增长。这一误区常被调侃为“香农的带宽陷阱”，提醒人们在设计系统中不能无限增加带宽。
5.3 信道容量与摩尔定律的幽默对比
摩尔定律指出集成电路密度每两年翻一番，而信道容量进步则慢得多。在信噪比固定的情形下，容量的对数增长意味着每倍增信噪比仅能增加1 bps/Hz的频谱效率。技术圈流行一个段子：“摩尔定律像火箭，香农容量像乌龟——乌龟虽慢，但永远不会后退，而且火箭迟早会撞上乌龟。”这生动反映了：无论技术如何发展，信道容量的物理极限始终存在，就像乌龟在终点线处静静等待。