第三信道与信道容量

第三信道与信道容量演示文稿当前1页，总共43页。（优选）第三信道与信道容量当前2页，总共43页。2〉信道的作用 信道主要用于传输与存储信息。3〉研究信道的目的1)描述、度量、分析不同类型信道；2)计算其容量，即极限传输能力，并分析其特性。4>信道传输能力取决于：1)本身特性2)信号形式3)信源特性当前3页，总共43页。§3-2信道的分类与描述一〉信道分类:信道可从不同角度加以分类,归纳起来可分为：从工程物理背景——传输媒介类型；从数学描述方式——信号与干扰描述方式；从信道本身的参数类型——恒参与变参；从用户类型——单用户与多用户；当前4页，总共43页。二〉离散信道描述其中：

当前5页，总共43页。信道可以引用三组变量来描述：信道输入概率空间：信道概率转移矩阵：信道输出概率空间：即：它可简化为：

当前6页，总共43页。1）无扰信道:2）有扰无记忆信道:3）有扰有记忆信道:按信道的统计特性p(y/x)可将信道分为当前7页，总共43页。§3-3有扰单符号离散信道XYa1a2anb1b2bmP

(Y/X)一>数学模型p(bj/ai)传递概率（i=1,2,…,n；j=1,2,…,m)输入输出对应关系：当前8页，总共43页。{X:{a1,a2,…,an}P(Y/X):{p(bj/ai)}Y:{b1,b2,…,bm}(i=1,2,…,n；j=1,2,…,m)特点：（1）0≤p(bj/ai)≤1(i=1,2,…,n；j=1,2,…,m)（2）当前9页，总共43页。[P]→信道矩阵=1当前10页，总共43页。图3.3传递图当前11页，总共43页。二〉信道容量下面，我们首先将互信息表达成概率的函数：

噪声熵疑义度1、定义：当前12页，总共43页。一般当信道给定以后，（已知）

即，这时互信息仅决定于信源的先验分布，我们可以进一步调整值使达到最大值，由互信息的性质,是的上凸函数，这时最大值一定存在，我们定义它为信道中传送的最大信息率，即信道容量C，则即通过改变信道输入的概率分布求得互信息的极值，称它为给定信道的信道容量值。

当前13页，总共43页。2、信道容量及其一般算法信息传输率：(比特/信道符号）(比特/秒）若信道平均每传一个符号需要t秒，则信息传输速率：当前14页，总共43页。信道容量：(比特/信道符号)(比特/秒)p(X)——匹配信源拉格朗日乘子法当前15页，总共43页。§3-3-1离散无扰信道及信道的容量1.无损确定信道：每列只有一个非零元素：当前16页，总共43页。信道输入符号集符号数2.无损信道（具有扩展性质的信道）a1b1b2b3p11p12p13a2b4b4b4p24p25p26当前17页，总共43页。每列只有一个非零元素：信道输入符号集符号数当前18页，总共43页。3.确定信道（归并信道）b1a3a2a1111b2a6a5a4111当前19页，总共43页。每行只有一个非零元素：信道输出符号集符号数当前20页，总共43页。一〉几种对称信道的信道容量一、强对称信道的容量（均匀信道）1>输入r与输出s相等2>传递概率：r=s§3-3-2有扰信道及其容量

当前21页，总共43页。当前22页，总共43页。H(Y/X)H(Y/ai)常数当前23页，总共43页。当前24页，总共43页。特点：当输入信源X达到最大熵值时，输出随机变量

Y同时达到最大熵值，即：

H(X)=logr(2)当输入X等概分布时：当前25页，总共43页。(3)当输入信源等概时：信道容量当前26页，总共43页。1、数学模型：

矩阵中的每一行都是第一行的重排列或矩阵中的每一列都是第一列的重排列。二.一般性对称信道当前27页，总共43页。定义3.1

如果信道转移概率矩阵P中，每一行元素都是另一行相同元素的不同排列，则称该信道关于行（输入）对称。定义3.2

如果信道转移概率矩阵P中，每一列元素都是另一列相同元素的不同排列，则称该信道关于列（输出）对称。

当前28页，总共43页。行：同一集合列：同一集合与强对称信道的区别：1.强：r=s

对：r=s?2.强：行元素集合与列元素集合相等对：？3.强：行∑=1，列∑=1对：行∑=1，列：？4.强：对称对：？当前29页，总共43页。例：

当前30页，总共43页。定理：对于单个消息离散对称信道，当且仅当信道输入输出均为等概率分布时，信道达到容量值。即2、对称信道的容量行：同一集合列：同一集合当前31页，总共43页。证：

当前32页，总共43页。等概信源当前33页，总共43页。§3-3-4离散单消息（或无记忆）信道容量C的计算：基本思路：

求C即求互信息极值，可以采用拉氏乘子求条件极值方法求解；当前34页，总共43页。§3-4-3信源与信道匹配信道剩余度=C-I(X,Y)相对剩余度=C-I(X,Y)/C=1-I(X,Y)/C无损信道相对剩余度=1-H(X)/logr无损信道C=logrI(X,Y)=H(X)当前35页，总共43页。§3-6连续信道及其容量连续信道：输入输出均为连续的,从时间关系上看：时间离散信道：时间连续信道：§3-6-1连续单消息信道及其容量一、单维连续通信系统数学模型：XYp(Y/X)当前36页，总共43页。两类情况

高斯加性信道非高斯加性信道加性信道的重要性质：信道的传递概率密度函数就等于噪声的概率密度函数加性信道当前37页，总共43页。

连续信道容量可以证明式中S

－信号平均功率（W）；

N

－噪声功率（W）；

B

－带宽（Hz）。设噪声单边功率谱密度为n0，则N=n0B； 故上式可以改写成：由上式可见，连续信道的容量Ct和信道带宽B、信号功率S及噪声功率谱密度n0三个因素有关。当前38页，总共43页。 当S

，或n0

0时，Ct

。 但是，当B

时，Ct将趋向何值？令：x=S/n0B，上式可以改写为：利用关系式上式变为当前39页，总共43页。 上式表明，当给定S/n0时，若带宽B趋于无穷大，信道容量不会趋于无限大，而只是S/n0的1.44倍。这是因为当带宽B增大时，噪声功率也随之增大。

Ct和带宽B的关系曲线：图4-24信道容量和带宽关系S/n0S/n0BCt1.44(S/n0)当前40页，总共43页。上式还可以改写成如下形式：式中 Eb

－每比特能量；

Tb=1/B

－每比特持续时间。 上式表明，为了得到给定的信道容量Ct，可以增大带宽B以换取Eb的减小；另一方面，在接收功率受限的情况下，由于Eb=STb，可以增大Tb以减小S来保持Eb和Ct不变。当前41页，总共43页。香农公式的主要结论：（1）信道容量C随S/N增大而增大；（2）N－>0,C－>∞，无扰信道的容量为无穷大；（3），n0为噪声功率谱密度；（4）C一定时，W与S/N之间可以彼此互换。当前42页，总共43页。【例】已知黑白电视图像信号每帧有30万个像素；每个像素有8个亮度电平；各电平独立地以等概率出现；图像每秒发送25帧。若要求接收图像信噪比达到30dB，试求所需传输带宽。【解】因为每个像素独立地以等概率取8个亮度电平，故每个像素的信息量为

Ip=-log2(1/8)=3 (b/pix) 并且每帧图像的信息量为

IF=300,0003=900,000(b/F) 因为每秒传输25帧图像，所以要求传输速率为

Rb=900,