第6章 有噪信道编码(信息论)

1、1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162636465666768习题：习题：1 1 设某信道，其信道矩阵为设某信道，其信道矩阵为 若信道的输入符号若信道的输入符号a1,a2,a3a1,a2,a3先验等概，先验等概，1 1）若使平均错误译码概率最小）若使平均错误译码概率最小, ,请选择译码函数。请选择译码函数。2 2）求出此错误译码概率）求出此错误译码概率PeminPemin。解：解：(1)(1)因为先验等概

2、因为先验等概, ,所以选择最大似然译码准则所以选择最大似然译码准则F(b1)=a1 F(b2)=a3 F(b3)=a2 F(b1)=a1 F(b2)=a3 F(b3)=a2 (2) Pemin= (2) Pemin= 69，2 2 i i，j j是两个码符号是两个码符号0,10,1组成的符号序列组成的符号序列 求求i i，j j 之间的汉明距离之间的汉明距离解：解：D(D(i i，j j)= )= 3 3 W:000,001,010,100,011,110,101,111W:000,001,010,100,011,110,101,111的最小汉明距离的最小汉明距离解：解：Dmin=1Dmin=

3、1704 4 设有一离散信道，其信道矩阵为设有一离散信道，其信道矩阵为 （1 1）当信源）当信源X X的概率分布为的概率分布为p(ap(a1 1)=2/3)=2/3，p(ap(a2 2)=p(a)=p(a3 3)=1/6)=1/6时，时，按最大后验概率准则选择译码函数，并计算其平均错误译码概按最大后验概率准则选择译码函数，并计算其平均错误译码概率率P Peminemin（2 2）当信源是等概率分布时，选择最大似然译码准则选择）当信源是等概率分布时，选择最大似然译码准则选择译码函数，并计算其平均错误译码概率译码函数，并计算其平均错误译码概率PeminPemin。71解：解：(1) (1) 联合概

4、率：联合概率： 后验概率后验概率 根据最大后验概率准则：根据最大后验概率准则：F(b1)=a1F(b1)=a1，F(b2)=a1F(b2)=a1，F(b3)=a1F(b3)=a1最小错误译码概率为：最小错误译码概率为：72(2) (2) 当信源是等概率分布时当信源是等概率分布时 采用最大似然译码准则采用最大似然译码准则F(bF(b1 1)=a)=a1 1，F(bF(b2 2)=a)=a2 2，F(bF(b3 3)=a)=a3 3 信道矩阵为：信道矩阵为：735 5 设离散无记忆信道的输入符号集设离散无记忆信道的输入符号集X:0,1X:0,1，输出符号集，输出符号集Y:0,1,2Y:0,1,2，

5、信道矩阵为，信道矩阵为: :P= P= 若某信源输出两个等概消息若某信源输出两个等概消息x x1 1，x x2 2，现在用信道输入符号集对，现在用信道输入符号集对x x1 1，x x2 2进行编码，进行编码，W W1 1=00=00，W W2 2=11=11代表代表x x1 1，x x2 2。按最大似然准则写。按最大似然准则写出译码函数，并求出最小平均错误译码概率出译码函数，并求出最小平均错误译码概率P Peminemin。74解：解： (1) (1) 选择译码函数选择译码函数 F(b1)=F(b2)=F(b3)=F(b4)=F(b7)=x1F(b1)=F(b2)=F(b3)=F(b4)=F(

6、b7)=x1 F(b5)=F(b6)=F(b8)=F(b9)=x2 F(b5)=F(b6)=F(b8)=F(b9)=x2(2)(2)P= P= 756 6 设分组码（设分组码（n,kn,k）中，）中，n=6n=6，k=3k=3，并按下列方程选取字，并按下列方程选取字中的码字。中的码字。求信息序列求信息序列(a1a2a3)(a1a2a3)变换成六位的八个码字，变换成六位的八个码字，并求出编码效率。并求出编码效率。解：解： 信息序列信息序列 码字码字 (a(a1 1a a2 2a a3 3) (c) (c1 1c c2 2 c c3 3c c4 4c c5 5c c6)6) 000 000000 000 000000 001 001011 001 001011 010 010101 010 010101 100 100110 100 100110