第3章信道与信道容量.ppt

1、2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,1,第3章 信道与信道容量,什么是信道？ 信道是传送信息的载体信号所通过的通道。 信息是抽象的，信道则是具体的。比如：二人对话，二人间的空气就是信道；打电话，电话线就是信道；看电视，听收音机，收、发间的空间就是信道。 信道的作用 在信息系统中信道主要用于传输与存储信息，而在通信系统中则主要用于传输。 研究信道的目的 在通信系统中研究信道，主要是为了描述、度量、分析不同类型信道，计算其容量，即极限传输能力，并分析其特性。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码

2、 曹雪虹等编著,2,主要内容,信道分类和表示参数 离散单个符号信道及其容量 离散序列信道及其容量 连续信道及其容量,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,3,3.1 信道分类和表示参数,信道分类 按传输媒介分 用户数量：单用户、多用户 输入端和输出端关系：无反馈、有反馈 信道参数与时间的关系：固参、时变参 噪声种类： 随机差错、突发差错 输入输出特点：离散、连续、半离散半连续、波形信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,4,3.1 信道分类和表示参数,按传输媒介分,信道分类,

3、2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,5,3.1 信道分类和表示参数,按输入集和输出集的个数来分类：,信道分类,单用户信道 ：只有一个输入端和一个输出端，信息只朝着一个方向传输。 多用户信道：输入端和输出端中至少有一端存在两个以上用户，信息在两个方向上都能传输。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,6,3.1 信道分类和表示参数,信道分类,多用户信道包含两种特殊的信道，即多元接入信道和广播信道。 多个输入、多个输出的信道通常形成一个多址通信网。这种多址通信网的特点是： 1）网中

4、多个独立用户企图通过一条信道来通信；2）每个网用户的用户信号是突发的（即停机比发送周期长很多）；3）进网的用户数是随机变量。 这类典型的通信网包括：局域网的用户与主机通信，卫星通信，蜂窝移动通信等。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,7,3.1 信道分类和表示参数,信道分类,多用户信道几种情况：,1 多址信道：,特点：多输入、单输出信道，称它为多址信道。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,8,3.1 信道分类和表示参数,信道分类,特点：单个输入，多个输出信道，称为广播信道

5、。,2 广播信道：,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,9,3.1 信道分类和表示参数,信道分类,可见第12为3的特例： (1)当i=j=1,退化为单用户信道；(2)当i=1n, j=1, 为多址信道； (3)当i=1,j=1n，广播信道;(4) i=1n, j=1n, 一般随机接入信道。,3 随机接入信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,10,3.1 信道分类和表示参数,按输入端和输出端关系划分：,信道分类,无反馈信道 ：输出端的信号不反馈到输入端，即输出信号对输入信号

6、没有影响。 有反馈信道：输出信号通过一定途径反馈到输入端，致使输入端的信号发生变化的信道。,按其输入/输出信号之间关系的记忆特性分为有记忆信道和无记忆信道。 按输入/输出信号之间的关系是否确定关系分为有噪声信道和无噪声信道。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,11,3.1 信道分类和表示参数,根据信道中所受噪声种类不同来划分：,信道分类,随机差错信道 ：噪声独立随机地影响每个传输码元，如以高斯白噪声为主体的信道。 突发差错信道：噪声、干扰的影响是前后相关的，错误成串出现，如实际的衰落信道、码间干扰信道，这些噪声可能是由大的脉冲干扰或

7、闪电等引起。 这两类噪声导致的差错特性不同，因而需要选择不同的纠错编码方法。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,12,3.1 信道分类和表示参数,按信道的参数(统计特性)是否随时间变化分：,信道分类,恒参信道(平稳信道)：信道的统计特性不随时间变化。如：光纤、电缆信道；卫星通信信道在某种意义下可以近似为恒参信道。 随参信道(非平稳信道)：信道的统计特性随时间变化。如短波通信中，其信道可看成随参信道。 本课程主要研究恒参信道的情况。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,13,

8、3.1 信道分类和表示参数,输入输出特点：,信道分类,按其输入/输出信号在幅度和时间上的取值来划分,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,14,3.1 信道分类和表示参数,信道分类,信道这个名词是广义的，可以指简单的一段线路，也可以指包含了设备的复杂系统。即使在同一个通信系统中，也可以有不同的划分：,其中：c1为连续信道，调制信道； c2为离散信道，编码信道； c3为半离散、半连续信道； c4为半连续、半离散信道。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,15,3.1信道分类和表示

9、参数,信道参数,根据信道是否存在干扰及有无记忆，分：,无干扰（无噪声）信道 有干扰无记忆信道 有干扰有记忆信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,16,3.1信道分类和表示参数,二进制对称信道(BSC),有干扰无记忆信道,条件概率对称,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,17,3.1信道分类和表示参数,有干扰无记忆信道,离散无记忆信道(DMC),BSC信道是DMC信道的特例,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,18

10、,3.1信道分类和表示参数,离散输入、连续输出信道,有干扰无记忆信道,假设 输入符号集 ，而输出 。其信道特性由离散输入X、连续输出Y以及条件概率密度函数 来决定。,这类信道中最重要的一种信道是加性高斯白噪声(AWGN)信道，其中G是一个0均值，方差为 的高斯随机变量。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,19,3.1信道分类和表示参数,有干扰无记忆信道,波形信道：其输入是模拟波形，其输出也是模拟波形,实际波形信道的频宽总就是受限的，所以在有限观察时间tB内，能满足限频fm 、限时tB的条件。从而可将波形信道输入和输出的离散化成L个(

11、L=2 fm tB)时间离散、取值连续的平稳随机序列X=(X1,X2,XL)和Y=(Y1,Y2,YL) 。这样波形信道就转化成多维连续信道。,连续无记忆信道 连续有记忆信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,20,3.1信道分类和表示参数,有干扰无记忆信道：波形信道,对于加性和乘性噪声来说，分析较多、较方便的是加性噪声信道。单符号信道可表示为：y(t)=x(t)+n(t),条件熵Hc(Y|X)是由噪声引起的，它等于噪声 信源的熵，所以称为噪声熵。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪

12、虹等编著,21,3.1信道分类和表示参数,有干扰有记忆信道,在实际的数字信道中，当信道特性不理想，存在码间干扰等情况时，输出信号不但与当前的输入信号有关，还与以前的输入信号有关。有两种处理方法： 将记忆很强的L个符号当矢量符号，各矢量符号之间认为无记忆，但此时会引入误差，越大，误差越小； 将转移概率p(Y|X)看成马尔科夫链的形式，记忆有限，信道的统计特性可用在已知现时刻输入信号和前时刻信道所处的状态的条件下， 如p( yn,sn| xn,sn-1) ，这种处理方法很复杂，通常取一阶时稍简单。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,22

13、,3.1信道分类和表示参数,信道模型的选用,选用何种信道模型取决于分析者的目的：,设计和分析离散信道编、解码器的性能 DMC信道模型或其简化形式BSC信道模型；,设计和分析数字调制器和解调器的性能 波形信道模型。,性能的理论极限 离散输入、连续输出信道模型;,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,23,3.2离散单个符号信道及其容量,信息传输率：信道中平均每个符号所能传送的信息量 R=I(X;Y)=H(X)H(X/Y) 比特/符号 信息传输速率：信道在单位时间内平均传输的信息量 Rt=I(X;Y)/t 比特/秒,对于特定的信道，信道容量

14、是定值，但在传输信息时信道能否提供其最大传输能力，则取决于输入端的概率分布。,信道容量 比特/符号(bits/symbol或bits/channel use),2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,24,3.2离散单个符号信道及其容量,特殊离散信道的信道容量,每一列只有一个非零元素，接收到信道输出符号后对输入符号将不存在不确定性。,无噪信道每一行只有一个非零元素1，已知信道输入符号，必能确定输出符号。,每一行、每一列只有一个1，已知 X后对Y不存在不确定性，收到 Y后对X也不存在不确定性。,2020年12月19日7时50分,普通高等教育

15、“十五”国家级规划教材信息论与编码 曹雪虹等编著,25,3.2离散单个符号信道及其容量,无噪无损信道(X,Y一一对应)： 噪声熵H(Y|X)=0，I(X;Y)=H(X)=H(Y) 当输入符号分布为等概时，信道的传输能力可达到信道容量：CmaxI(X;Y)log n 无噪有损信道(多个输入变成一个输出)：nm H(Y|X)=0, 疑义度H(X|Y)0, CmaxI(X;Y)maxH(Y) 有噪无损信道(一个输入对应多个输出)： CmaxI(X;Y)maxH(X),特殊离散信道的信道容量,连续信道容量为无限大,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹

16、等编著,26,3.2离散单个符号信道及其容量,对称DMC信道 输入对称 如果转移概率矩阵P的每一行都是第一行的置换(包含同样元素)，称该矩阵是输入对称 输出对称 如果转移概率矩阵P的每一列都是第一列的置换(包含同样元素)，称该矩阵是输出对称 对称的DMC信道 如果输入、输出都对称,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,27,3.2离散单个符号信道及其容量,对称DMC信道例子,对称DMC信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,28,3.2离散单个符号信道及其容量,输入对称,输出

17、对称,对称DMC信道,与信道输入符号的概率无关,与j无关,当信道输入符号等概分布时，信道输出符号也等概分布；反之，若输出符号等概，信道输入符号必定也是等概。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,29,3.2离散单个符号信道及其容量,对称信道容量,对称DMC信道,m为信道输出符号集中符号的数目,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,30,3.2离散单个符号信道及其容量,例 求信道容量,对称DMC信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码

18、 曹雪虹等编著,31,3.2离散单个符号信道及其容量,例 求信道容量,信道输入符号和输出符号的个数相同，都为n，且正确的传输概率为1，错误概率被对称地均分给n-1个输出符号，此信道称为强对称信道或均匀信道，是对称离散信道的一个特例,对称DMC信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,32,3.2离散单个符号信道及其容量,二进制对称信道容量 C1H（）,对称DMC信道,C随变化的曲线,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,33,3.2离散单个符号信道及其容量,强对称信道容量,对称

19、DMC信道,1 矩阵中的每一行都是第一行的重排列；矩阵中的每一列都是第一列的重排列。 2 错误分布是均匀的，为 3 信道输入与输出消息（符号）数相等，即m=n。 显然，对称性基本条件是1，而2、3是加强条件。,若仅满足条件1，就构成一般性对称信道。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,34,3.2离散单个符号信道及其容量,串联信道,C(1,2)=maxI(X;Z)，C(1,2,3)=maxI(X;W)， 串接的信道越多，其信道容量可能会越小，当串接信道数无限大时，信道容量就有可能趋于0。,对称DMC信道,2020年12月19日7时50

20、分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,35,3.2离散单个符号信道及其容量,例设有两个离散BSC信道串接，两个BSC信道的转移矩阵如下，求信道容量,对称DMC信道,I(X;Y)=1-H()，I(X;Z)=1-H2 (1-),串联信道的互信息,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,36,3.2离散单个符号信道及其容量,准对称DMC信道 如果转移概率矩阵P是输入对称而输出不对称，即转移概率矩阵P的每一行都包含同样的元素而各列的元素可以不同，则称该信道是准对称DMC信道,2020年12月19日7时50分,普通高等教

21、育“十五”国家级规划教材信息论与编码 曹雪虹等编著,37,3.2离散单个符号信道及其容量,准对称DMC信道容量 对于准对称DMC信道，当输入分布为等概分布时，互信息达到最大值，即为信道容量,准对称DMC信道,每列的元素不相同，信道的输入和输出分布概率可能不等，此时的最大值可能小于等概率时的熵，因而其信道容量：,因为互信息是输入符号概率的上凸函数，可引入拉格朗日乘子法解极值问题，便求得输入符号概率和最大互信息。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,38,3.2离散单个符号信道及其容量,例 求信道容量,方法一： 信道的输入符号有两个，可设

22、p(a1)，p(a2)1信道的输出符号有三个，用b1、b2、b3表示,准对称DMC信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,39,3.2离散单个符号信道及其容量,方法二 当p(a1)p(a2)1/2时，p(b1)p(b2)(1-0.2)/20.4 C=H(Y)-H(Y/X)=0.036bit/符号,方法三 将转移概率矩阵划分成若干个互不相交的对称的子集,n为输入符号集个数；p1，p2，ps是转移概率矩阵P中一行的元素，即H(p1，p2，ps)H(Y/ai)；Nk是第k个子矩阵中行元素之和，Mk是第k个子矩阵中列元素之和，r是互不相交的

23、子集个数,准对称DMC信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,40,3.2离散单个符号信道及其容量,方法三(续),准对称DMC信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,41,3.2离散单个符号信道及其容量,例 求信道容量,准对称DMC信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,42,3.2离散单个符号信道及其容量,一般DMC信道 1972年由R.Blahut和A.Arimoto分别独立提出的一种算法，现在称为Blah

24、ut-Arimoto算法 I(ai;Y) = C 对于所有满足p(ai ) 0条件的i I(ai;Y) C 对于所有满足p(ai ) = 0条件的I 当信道平均互信息达到信道容量时，输入符号概率集p(ai)中每一个符号ai对输出端Y提供相同的互信息，只是概率为零的符号除外,信道容量定理只给出了达到信道容量时，最佳输入概率分布应满足的条件，并没有给出最佳输入概率分布值，也没有给出信道容量的数值。另外，定理本身也隐含着达到信道容量的最佳分布不一定是唯一的，只要输入概率分布满足充要条件式，就是信道的最佳输入分布。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪

25、虹等编著,43,3.3离散序列信道及其容量,离散序列信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,44,3.3离散序列信道及其容量,离散无记忆序列信道(续),若信道是平稳的,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,45,3.3离散序列信道及其容量,离散无记忆序列信道(续),如果信道无记忆,如果输入矢量X中的各个分量相互独立,当信道平稳时CL=LC1，一般情况下，I(X;Y) LC1,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,46,

26、3.3离散序列信道及其容量,扩展信道 如果对离散单符号信道进行L次扩展，就形成了L次离散无记忆序列信道,BSC的二次扩展信道,X00,01,10,11，Y00,01,10,11，二次扩展无记忆信道的序列转移概率p(00/00)=p(0/0)p(0/0)=(1-p)2，p(01/00)=p(0/0)p(1/0)=p(1-p)，p(10/00)=p(1/0)p(0/0)=p(1-p)，p(11/00)=p(1/0)p(1/0)=p2,00,10,11,01,00,01,10,11,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,47,3.3离散序列信

27、道及其容量,扩展信道,若p0.1，则C220.9381.062bit/序列 而BSC单符号信道:C1=1-H(0.1)=0.531bit/符号,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,48,3.3离散序列信道及其容量,独立并联信道 序列的转移概率 p(Y1Y2YL/X1X2XL)=p(Y1/X1)p(Y2/X2)p(YL/XL),1,1,1,X1 p(Y1/X1) Y1 X2 p(Y2/X2) Y2 XL p(YL/XL) YL,当输入符号Xl 相互独立，且p(X1X2XL)达到最佳分布时，容量最大，为各信道容量之和。,2020年12月1

28、9日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,49,3.4连续信道及其容量,连续单符号加性信道,平均互信息为I(X;Y)HC(X)HC(X/Y)HC(Y)HC(Y/X) HC(X)HC(Y)HC(XY) 信道容量,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,50,3.4连续信道及其容量,由限平均功率最大熵定理，只有当信道输出Y正态分布时熵最大， pY(y)N(0,P)，pn(n)N(0, 2)，y=x+n， 所以pX(x)N(0,S),C1/2 log(1+SNR) 信道容量仅取决于信道的信噪比。,信道输入X是

29、均值为零、方差为S的高斯分布随机变量时，信息传输率达到最大值,连续单符号加性信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,51,3.4连续信道及其容量,注意：这里研究的信道只存在加性噪声，而对输入功率没有损耗。但在实际通信系统中，几乎都存在大小不等的功率损耗，所以计算时输入信号的功率S应是损耗后的功率。比如信道损耗为|H(ejw)|2，输入功率为S，则上式的信号功率为S|H(ejw)|2 。,在很多实际系统中，噪声并不是高斯型的，但若是加性的，可以求出信道容量的上下界,连续单符号加性信道,在同样平均功率受限情况下，非高斯噪声信道的容量要大

30、于高斯噪声信道的容量。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,52,3.4连续信道及其容量,多维无记忆加性连续信道,信道输入随机序列XX1X2XL，输出随机序列YY1Y2YL，加性信道有y=x+n，其中n=n1n2nL 是均值为零的高斯噪声,连续单符多维无记忆高斯加性信道就可等价成L个独立的并联高斯加性信道号加性信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,53,3.4连续信道及其容量,比特/L维自由度,因此当且仅当输入随机矢量X中各分量统计独立，且是均值为零、方差为Pl的高斯变量

31、时，才能达到此信道容量,多维无记忆加性连续信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,54,3.4连续信道及其容量,讨论,均值为零、方差相同,均值为零、方差不同，总平均功率受限,多维无记忆加性连续信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,55,3.4连续信道及其容量,讨论,各个时刻的信道输出功率相等设为常数,多维无记忆加性连续信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,56,3.4连续信道及其容量,例有一并联高斯加性信道

32、，各子信道噪声方差为 0.1， 0.2， 0.3， 0.4， 0.5， 0.6， 0.7， 0.8， 0.9， 1.0,多维无记忆加性连续信道,(1) 若输入的信号总功率P=5，则平均输出功率,该值大于所有子信道的噪声功率 ，所以各子信道分配的功率分别是：0.95, 0.85, 0.75, 0.65, 0.55, 0.45, 0.35, 0.25, 0.15, 0.05。总的信道容量C=6.11bit/10维自由度。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,57,3.4连续信道及其容量,多维无记忆加性连续信道,(2) 若输入的信号总功率P

33、=1，则平均输出功率,该值小于最后4个子信道的噪声功率，关闭这4个子信道，即p10=0, p9=0, p8=0, p7=0。,p5=0, p4=0.1, p3=0.2, p2=0.3 , p1=0.4，实际只有4个子信道可用。总的信道容量C=2.4bit/10维自由度。,重新计算平均输出功率,关闭第6个子信道，p6=0, 再计算：,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,58,3.4连续信道及其容量,噪声小的子信道分配到的输入功率大，信噪比大，抵抗噪声的能力就强，可以传输的比特数就多，需要采用更高进制的符号调制方法，以提高信道的频带利用率

34、；反之，噪声大的信道分配的功率小，信噪比小，可以传输的比特数就少。最终使得每个子信道的误码率都相同。 还有一些并联的高斯信道，各噪声之间是有依赖的，也就相当于有记忆的高斯加性信道，各单元时刻上的噪声不是统计独立的，分析这样的信道很复杂。,多维无记忆加性连续信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,59,3.4连续信道及其容量,限时限频限功率加性高斯白噪声信道,信道容量为,波形信道中，在限频fm 、限时tB条件下可转化成多维连续信道，将输入x(t)和输出y(t)离散化成L维随机序列x=(x1,x2,xL)和y=(y1,y2,yL) 。波

35、形信道的平均互信息为:,信息传输率为,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,60,3.4连续信道及其容量,对于高斯白噪声加性波形信道，加入信道的噪声是限带的加性高斯白噪声n(t)，其均值为0，功率谱密度为N0/2。 一般信道的频带宽度总是受限的，设其为W(|f|W)，而低频限带高斯白噪声的各样本值彼此统计独立，所以限频高斯白噪声过程可分解L2WtB维统计独立的随机序列。,其中：,限时限频限功率加性高斯白噪声信道,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,61,3.4连续信道及其容量,

36、信道的容量,单位时间的信道容量,香农公式,限时限频限功率加性高斯白噪声信道,要使信道传送的信息达到信道容量，必须使输入信号具有均值为0、平均功率Ps的高斯白噪声的特性。否则，传送的信息率将低于信道容量，信道得不到充分利用。,信道容量与信噪功率比和带宽有关。,2020年12月19日7时50分,普通高等教育“十五”国家级规划教材信息论与编码 曹雪虹等编著,62,3.4连续信道及其容量,当信道的频带受限于W，信道的噪声为加性高斯白噪声，功率谱密度为N0/2，噪声功率为N0W，输入信号的平均功率受限于Ps ，信噪功率比SNR= Ps /N0W;则当输入信号是平均功率受限的高斯白噪声信号时，信道中的信息传输率可以达到上式的