第五章 数字通信(信道容量和信道编码).ppt

1、1,5信道容量和信道编码,2,本章的主要内容,5.1 调制与编码的权衡 5.2 信道容量 5.3 随机编码,3,本章的主要内容,5.1 调制与编码的权衡 5.2 信道容量 5.3 随机编码,4,调制与编码的权衡,通信系统设计目标 差错概率平面 带宽效率平面 调制与编码的权衡,5,通信系统设计目标,Nyquist最小带宽要求(WRs/2=1/2Ts) Shannon-Hartley容量理论(以及Shannon极限) 管理规则(频率分配) 技术限制(元器件当前发展水平) 其他系统需求(卫星轨道),6,差错概率平面,差错概率平面：差错概率性能曲线族所在平面。 等效带宽曲线：对于给定的系统信息速率，差

2、错概率平面的每条曲线都与一个不同的额定最小带宽需求相关联。,7,差错概率平面,在PB和Eb/N0间权衡,在PB和W间权衡,在W和Eb/N0间权衡,8,带宽效率平面,带宽效率平面：归一化信道带宽R/W (b/s/Hz)与Eb/N0的关系曲线。 相关MPSK调制信号的带宽效率： R/W=log2M，注意BPSK和QPSK需要相同的Eb/N0值，且BPSK的带宽效率为1 b/s/Hz ，而QPSK的带宽效率为2 b/s/Hz ，这是由于QPSK是由两路BPSK信号有效的正交合成的。 非相关正交MFSK调制信号的带宽效率(log2M)/M.注意BFSK和QFSK有相同的带宽效率，尽管在相同的误比特率下

3、前者比后者需要更大的Eb/N0。因为BFSK带宽效率为1 b/s/2Hz，而QFSK带宽效率为2 b/s/4Hz。,9,带宽效率平面,在PB和Eb/N0间权衡,在PB和W间权衡,在W和Eb/N0间权衡,10,调制与编码的权衡,在功率受限系统（ power-limited system ）：通过改变调制和编码方式，以牺牲带宽为代价节约能量。(多维正交调制方式，增大M) 在带宽受限系统（ bandwidth-limited system ）：使用频带高效调制方式，以牺牲功率为代价来减少所需带宽。(多进制调制，PAM、PSK),11,调制与编码的权衡,调制与编码的权衡: 权衡参数：PB，W，R/W，

4、P(或S/N)。 标识G，C，F表示“GAIN”， “COST”， “FIX”。 差错概率平面对功率受限系统更有效，当工作点在曲线间移动时，误比特性能一目了然，而带宽要求只能推算，其上箭头表示工作点向香农极限方向移动，以牺牲带宽为代价，改善PB或降低所需传输功率。 带宽效率平面对带宽受限系统更有效，当工作点在曲线间移动时，带宽要求一目了然，而误比特性能只能推算，其上箭头表示工作点向容量极限方向移动，以功率增大或PB性能下降为代价，提高带宽效率。 最感兴趣是固定误比特性能（由系统要求限制）的箭头。,12,调制与编码的权衡,13,本章的主要内容,5.1 调制与编码的权衡 5.2 信道容量 5.3

5、随机编码,14,本章的主要内容,5.1 调制与编码的权衡 5.2 信道容量 5.3 随机编码,15,信道容量,信道模型 信道容量 以正交信号获取信道容量 信道可靠性函数,16,信道模型,二进制离散信道（BSC：Binary Symmetric Channal ） 离散无记忆信道 (MDC: Discrete Memoryless Channel) 离散输入、连续输出信道 波形信道,17,二进制离散信道,输入符号集 X = 0 , 1 , 输出符号集 Y = 0 , 1 转移概率矩阵,18,离散无记忆信道,输入符号集 X = x1 , x2 , , xq ，输出符号集 Y = y1 , y2 ,

6、 , yQ 。 信道的输出符号仅对应时刻的一个输入符号有关 , 而与以前的输入无关 , 这种信道称为无记忆信道或随机信道。 转移概率矩阵,19,离散无记忆信道,20,离散输入、连续输出信道,AWGN信道 无记忆条件,21,波形信道,输入是波形，输出也是波形。 无记忆条件 实际上，可以Nyquist采样速率2W样值/s采样，在时间T内存在N=2WT个样值。,f(t)为标准正交集,22,信息论,熵：平均信息量或平均不确定度 条件熵 互信息,23,互信息的解释,信息论,24,信息论,信源压缩（有效性） H（X）：压缩前X中含有的信息量（不确定度） H（X|Y）：收到Y的条件下， 关于X的信息量（不确

7、定度） I（X；Y）：信源压缩目的是使压缩码流Y中含有关于X的信息量I（X；Y）最小（满足一定失真度条件），便于节省传输带宽，即H（X|Y）最大。 设计信源压缩编码信道P（Y|X） 。,25,信息论,信道传输（可靠性） H（X）：传输前X中含有的信息量（不确定度） H（X|Y）：收到Y的条件下， 关于X的信息量（不确定度） I（X；Y）：通信传输目的就是使接收信号Y中含有关于X的信息量I（X；Y）最大，即在已知Y的条件下，关于X的不确定度H（X|Y）最小。 通过波形编码调制和信道编码来设计发送信息X的概率分布P（X） 。,26,信道容量,考虑DMC信道，输入符号集 X = x1 , x2 ,

8、, xq ，输出符号集Y = y1 , y2 , , yQ 。信道转移概率 p( yj | xi ) , 则信道容量为 若信道平均传输一个符号需要t秒种，则单位时间的信道容量记为Ct=C/t，单位:bit/S,信道容量的单位：bit/信道符号或bit/符号,信道容量,为使I(x;y)最大化以便求取DMC容量，输入概率集p(xi)必须满足充分和必要条件如下： I(xi;y)=C，对于所有满足p(xi)0的i。 I(xi;y)C，对于所有满足p(xi)0的i 。 此处C是信道容量，且,带限AWGN波形信道,信道容量 离散表示互信息 由信息论知，当xi是统计独立且服从零均值的高斯分布时，I(XN,Y

9、N)达到最大。,带限AWGN波形信道,最大互信息 平均功率限制 所以,带限AWGN波形信道,信道容量 如果将容量作为信号功率与噪声功率之比的函数。容量随着SNR的增加而单调增加。因此，对于一个固定的带宽，波形信道的容量随着传输信号功率的增大而增加。,带限AWGN波形信道,如果 Pav固定，容量随着带宽的增加而增加。注意：当W趋于无穷大时，信道容量趋于一个渐进值,带限AWGN波形信道,归一化信道容量,香农极限,噪声信道编码定理,只要传输速率RC ，不可能有任何一种编码能使差错概率趋于零。,以正交信号获取信道容量,M元正交信号的错误概率 联合边界，当有yy0时比较紧密。 当y较小且M较大时，联合边

10、界超过一个单位量，不太准确。又因为 M元正交信号错误概率的上界,以正交信号获取信道容量,最优的y0 不等式放缩 M元正交信号的错误概率,以正交信号获取信道容量,无限带宽AWGN信道的容量,信道可靠性函数,无限带宽AWGN信道上的M元正交信号差错概率的指数边界 无限带宽AWGN信道可靠性函数 联合边界的指数边界,比较松弛,比较紧密,信道可靠性函数,无限带宽AWGN信道可靠性函数,39,本章的主要内容,5.1 调制与编码的权衡 5.2 信道容量 5.3 随机编码,40,本章的主要内容,5.1 调制与编码的权衡 5.2 信道容量 5.3 随机编码,随机编码,在高效的信息传输中，编码调制的设计存在两条

11、基本路径：一是代数路径，主要运用代数编解码技术来设计特定的码，如循环分组码、卷积码等。另一条路径为采用概率方法，分析一般编码信号的性能，在一定特性的信道上通信时，求出差错概率的上下边界。 基于M元二进制编码信号的随机编码 基于M元多幅度信号的随机编码,随机编码,基于M元二进制编码信号的随机编码 基于M元多幅度信号的随机编码 R0*与AWGN信道容量的比较,基于M元二进制编码信号的随机编码,信号表示 假设进入编码器的信息速率是R b/s，一次将k比特块映射为M个编码波形之一。因此，k=RT，共需要M=2k=2RT 种编码波形。定义D=n/T 维/s。N=DT为信号空间维数.超立方体总共有个2n=

12、2DT顶点，其中M个编码波形实际被用来传送信息。如果DR，超立方体中用作编码波形的顶点数与顶点总数之比为,基于M元二进制编码信号的随机编码,问题：能否在全部2n=2DT个可用的顶点中选出一个含M=2RT个顶点的子集，使得当T-（或n- ）时，差错概率趋于零。 思路：不计算某个具体M编码波形的差错概率，而是从总体上考虑超立方体的2n=2DT个有效顶点中选取M个的方法，每种选择都构成一种码集，共(2n)M种不同的选法。然后计算平均差错概率的上界，若平均差错概率当T-（或n- ）时趋于零，则可断言(2n)M个码集中必存在好码。,基于M元二进制编码信号的随机编码,基于M元二进制编码信号的随机编码,假设

13、M个编码波形随机等概选取 考虑一个k比特消息Xk=x1 x2 x3 xk。条件差错概率在整个码集上的平均是 为第m个二进制通信系统利用两个信号矢量传输两个等概信号之一时的差错概率，所以,基于M元二进制编码信号的随机编码,表示在(2n)M个码或通信系统上的集合平均。 对于加性高斯白噪声信道，二进制差错概率,每个码字比特能量,基于M元二进制编码信号的随机编码,二进制差错概率在所有码集上的集合平均,基于M元二进制编码信号的随机编码,无条件平均差错概率,基于M元二进制编码信号的随机编码,截止速率（cutoff rate）,单位比特/维，0R01。,基于M元二进制编码信号的随机编码,结论：只要信息速率R

14、DR0，T时，平均差错概率趋于零。只要码率RcR0，当码块长度n 时，平均差错概率趋于零。 由于n 时平均差错概率可以任意小，因此在2nM个码集中一定存在若干个码，它们的差错概率不大于平均差错概率。 注意，差错概率超过平均差错概率的码不一定是坏码。总之好码是很多的，即使用随机选择的方法也很容易找到。,基于M元二进制编码信号的随机编码,比特信噪比表示（0为归一化信噪比），只要b 0 ，当k 时，平均差错概率趋于零。,基于M元多幅度信号的随机编码,进行非二进制编码，码字码元Cij选自集合0，1，.，q-1，每个码元映射到q个可能的幅度电平之一，与码元0，1，.，q-1对应的q个幅度可表达为a1 a2 a3 aq，假设他们按照某种指定的概率pi选取的。幅值在 区间等间隔分布，相邻电平间隔 ，每个码字的平均能量 为 。 重复AWGN信道随机选码的推导，平均差错概率上限,基于M元多幅度信号的随机编码,当各幅度电平等概发生时 R0的饱和点为log2q比特数/维，在高SNR时，只要RDR0=2WR0 （ b/s），必有 n 时，平均差错概率趋于零。 如果去掉对各元素峰值能量的限制，保留对各码字平均能量的限制，有可能得到每维比特数的一个较大的上边界。,基于M元多幅度信号的随机编码,R0*与AWGN信道容量的比较,平均