信息论第四章 信道与信道容量.ppt

§4.4连续信道的信道容量前面我们已讨论过由多个单符号信道组合成一个独立并联信道，已达到在单位时间内传送多个符号的目的。注意这仅是在单位时间内,占用N个单符号信道来实现传送N个符号的功能。要达到这个目的,是否还可以设想由N个符号组成一个无记忆序列,由一个单符号信道来传送，只不过将其速率提高N倍而已。要保证在原来传送一个符号的时间内传送N个符号，这种改造后的单符号信道其容量应是原来的N倍。下面所要讨论的时间连续信道，就是以单符号信道来过渡到多符号信道实现按序列传输的典型例子。采用我们一贯的把复杂问题简单化的策略，将一随机过程变换成随机矢量，进而简化成无记忆序列问题。同样我们仍对数学描述最简单，但实际干扰最严重的平稳高斯过程入手，即对时间上连续的高斯信道进行分析。以前所提到的高斯信道是仅指对样点具有正态分布的单符号信道(在时间上是离散的)。而下面所提到的信道是指信道所允许§4.4连续信道的信道容量的输入信号是一个随机过程X(t,?)，而且信道本身的干扰噪声也是一个随机过程N(t,?)。因此我们对时间连续的高斯信道还要加一频谱条件，这就是白色噪声特性。总起来讲，高斯信道的噪声特征：加性白色高斯干扰噪声。(AdditiveWhiteGaussianNoise)因此高斯信道一般称为AWGN信道，它是干扰最严重的信道。高斯特性与白色特性，这是两种完全不同的概念。所谓高斯噪声是指噪声的每一时刻样点取值的概率分布满足正态分布规律；这仅是针对样点而言，而频谱特性则是反映随机过程不同时刻的样点之间相互关系的量。所谓白色特性是指一个随机过程x(t),如果其功率受限，即：；则它的功率谱密度(powerspectraldensity)若满足以下条件：，我们则称此频谱条件为白色特性。§4.4连续信道的信道容量而白色高斯噪声是同时具备正态和白色两种特性的噪声：00B对于平稳随机过程还有一时域统计规律，这就是自相关函数(autocorrelationfunction)它的数学定义为：§4.4连续信道的信道容量0B因为功率谱密度与自相关函数是一对FourierTransform，所以知其中一个必知另一个。§4.4连续信道的信道容量显然，当则每个分量之间的相关性，可以从自相关函数中得到。如果每个分量之间的时间间隔为?，而每个?＝1/2F,则自相关函数R(?)=0,说明每个分量之间相互独立。如果将随机过程N(t,?),分解成由2FT个分量所构成的随机序列，则我们一定可以将L个分量之间都彼此相互独立，这也就为我们构造一个无记忆序列创造了条件。给定一个AWGN信道，就是所引入的干扰噪声N(t,?)，具有白色频谱，每个样点具有相同的概率分布，即零均值正态分布；而对于非白高斯信道，则是频谱特性不在保持平坦性，但概率仍是正态分布，我们则称为有色高斯信道。§4.4连续信道的信道容量下面再讨论AWGN信道的信道容量问题：设输入该信道的信号功率受限，即：Where:K(f)isfrequencyresponsecharacteristicofchannel.其中K(f)是该信道的频响特性。有了这种频响特性就意味信道对其输入的信号有了限带要求,(相当于信号通过一个低通滤波器)，所以输入AWGN信道的信号也是一个带宽受限，功率受限的信号。我们已经了解到对于限频、限时的随机过程.一定可以分解成L维的随机矢量,而且L＝2BT个分量之间也可以实现彼此相互独立。§4.4连续信道的信道容量这就是说当xl为零均值的高斯变量时，互信息I(xl;yl)才有最大值。而且当要传送L个变量xl时，按照独立并联信道应得下式：§4.4连续信道的信道容量由于当且仅当每个输入变量之间相互独立，才有等号成立。所以上述信道容量表达出传输持续时间为T，频带带宽为B；且输入功率受限的白色高斯信道的容量。有时我们常常以单位时间内的最大互信息为信道容量的标准，故：如果将方差写成功率谱的形式：§4.4连续信道的信道容量以上是AWGN信道的容量公式，也称为Shannon公式。它是信息论最早应用于实际工程设计的结论之一，对通信系统的