第3章 信道与信道容量-2

1、1,当信源输入符号的速率为rs(符/秒),信道容量,BSC信道容量,实际信息传输速率Rt为,进入信道输入端的信息速率,2,例BSC信道如图, rs=1000符号/秒,错误传递概率p=0.1 求:信道容量, 0,Y,0.9, 1,0.1,输入符号等概时有最大信息传输速率,信道实际信息传输速率,3,串联信道,例3-3 设有两个离散BSC信道,串接如图,两个BSC信道的转移矩阵为:,X0,0Z,Y,1,1,1-p,1-p,1-p,p,串联信道的转移矩阵为:,1-p,p,4,串联信道,X0,0Z,Y,1,1,求得:,在实际通信系统中,信号往往要通过几个环节的传输,或多步的处理,这些传输或处理都可看成是

2、信道,它们串接成一个串联信道。,p,p,1-p,1-p,1-p,1-p,5,串联信道,由信息不增原理,信道2,信道m,信道1,可以看出,串接的信道越多,其信道容量可能会越小,当串接信道数无限大时,信道容量可能会趋于0,X,Y,Z,6,3.2.3 准对称DMC信道,准对称信道 转移概率矩阵P是输入对称而输出不对称 将信道矩阵P的列划分成若干个互不相交的子集mk,由mk为列组成的矩阵Pk是对称矩阵。,它们满足对称性,所以P1所对应的信道为准对称信道。,7,准对称信道的信道容量,准对称信道,准对称信道容量,8,准对称信道的信道容量,可以证明，当输入分布为等概率时：,其中n是输入符号集的个数,(p1,

3、 p2,pm)为准对称信道矩阵中的行元素。 设矩阵可划分成r个互不相交的子集。 Nk是第k个子矩阵Pk中行元素之和, Mk是第k个子矩阵Pk中列元素之和。,9,例：设信道传递矩阵为,计算得：N1 =3/4, N2 = 1/4, M1=3/4, M2 = 1/4,将它分成,10,3.2.4 一般DMC信道,定理： 一般离散信道的平均互信息I(X;Y)达到极大值的充分和必要条件是输入概率p(ai)必须满足: I (ai;Y) = C 对于所有ai其p(ai)0 I (ai;Y) C 对于所有ai其p(ai) = 0,上式说明： 当信道的平均互信息I(X;Y)达到信道容量时,输入符号概率集p(ai)

4、中每一个符号ai对输出端Y提供相同的互信息,只是概率为0的除外。,11,3.3 离散序列信道及容量,12,离散序列信道及容量,设信道的输入X=(X1, X2 Xi, ), Xi a1 an 输出Y= (Y1, Y2 Yj,), Yj b1 bm,信 道,X,Y,p(Y|X),对于无记忆离散序列信道,其信道转移概率为,仅与当前输入有关。若信道是平稳的,13,定理：若信道的输入和输出分别是L长序列X和Y,且信道是无记忆的,亦即信道传递概率为,则存在,定理：若信道的输入和输出分别是L长序列X和Y,且信源是无记忆的,亦即,则存在,14,离散序列信道及容量,若信源与信道都是无记忆的,L次扩展信道的信道容

5、量,当信道平稳时:,一般情况下:,15,例3-7.BSC信道二次扩展,00,X,01,10,11,00,01,10,11,Y,转移概率矩阵,2次扩展信道的信道容量,若 p = 0.1 则 C2=(20.938)bit/序列 = 1.062bit/序列 C1 = 0.531bit/序列,16,独立并联信道,设有L个信道,它们的输入、输出分别是： X1,X2XL； Y1,Y2YL,信 道,信 道,信 道,p(Y1|X1),p(YL|XL),p(Y2|X2),每一个信道的输出Yl只与本信道的输入Xl有关,与其他信道的输入、输出都无关。 独立并联信道的信道容量,X1,X2,XL,Y1,Y2,YL,17,3.3 连续信道及其容量,18,连续信道及其容量,连续信道的容量不容易计算。 当信道为加性连续信道时,情况简单一些。 设信道的输入和输出信号是随机过程x(t) 和y(t) y(t) = x(t) + n(t),n(t)：信道的加性高斯白噪声,一个受加性高斯白噪声干扰的带限波形信道的容量,由香农(1948)正式定