《信息与编码理论》试卷（三）参考答案

《信息与编码理论》试卷（三）参考答案与评分标准一、简答题。信宿译码器信道编码器信源试画出通信系统的模型框图，并分析信源编码和信道编码的作用。（本小题8分）信宿译码器信道编码器信源噪声源噪声源（4分）信源编码的作用是压缩信源的冗余度，提高信息传输率，进而提高通信系统的有效性。（2分）信道编码通过在信息码元后添加一些监督码元，使之具有检错纠错能力，从而提高通信系统的可靠性。（2分）2.试比较消息、信号这两个概念的区别和联系。（本小题8分）答：用文字、符号、数据、语言、音符、图片、图像等能够被人们感觉器官所感知的形式，把客观物质运动和主观思维活动的状态表达出来，就称为消息。（4分）信号是表示消息的物理量，包括电信号、光信号等。信号中携带着消息，信号是消息的载体。（4分）3.如何理解“互信息在数量上等于通信前后‘不确定性’减少的量”这句话的含义。（本小题8分）答：通信的根本问题是精确或者近似的确定信源所选择的消息。通信前，信源发送信源空间中的哪个消息存在着不确定性。（4分）信宿收到消息后，信源的不确定性得到了部分或者全部消除，收信者就得到了信息，这个信息就是互信息。因此，互信息在数量上等于通信前后‘不确定性’减少的量。（4分）什么是最大后验概率译码准则？什么是极大似然译码准则？两者在什么情况下等价？（本小题8分）答：最大后验概率译码规则：令，，而应满足条件称满足上述条件的译码函数对应的译码规则为最大后验概率译码规则。（3分）极大似然译码准则：（5分）简述信道容量的定义。（本小题8分）答：在信道确定的情况下，平均互信息I(X;Y)是信源概率分布P(X)的上凸函数。（3分）因此，必然存在一种信源概率分布使信息传输率I(X;Y)最大。（3分）定义这个最大的信息传输率为信道容量（2分）二、证明题。1.线性分组码中任意两个码字之和仍为一个码字。（本小题8分）2.线性分组码中任意码字是生成矩阵行向量的线性组合。（本小题8分）证明：3.对于对称信道，当输入分布为等概分布时，输出分布必能达到等概分布。（本小题8分）三、计算题。1.（本小题12分）通过一定的编码方法得到如下码集：{000,10,00,11};请回答下面问题：（1）此码的码长分布是否满足Kraft-McMillan不等式？（2）此码是否是即时码？如果不是，请说明理由。（3）此码是否是唯一可译码？如果不是，请说明理由。答：（1）此码的码长分布满足Kraft-McMillan不等式。（4分）（2）此码不是即时码，因为00是000的前缀。（4分）（3）此码不是唯一可译码，因为码符号序列000000可以译为00，00,00.也可以译为000,000.（4分）2.（本小题12分）设（n，k）线性分组码的生成矩阵为，求：

（1）此（n，k）码的n=？k=？，写出此（n，k）码的所有码字。

（2）求其对应的校验矩阵H。

（3）此码的最小码距是多少？能纠几位错？

（4）现译码器接收到两个码序列、，分别求出采用伴随式译码得到的译码结果。答：（1）n=5k=2.所有码字为：C1=00000,C2=01101,C3=10111,C4=11010.（3分）(2)校验矩阵（3分）(3)此码的最小码距是3,能纠1位错.（3分）(4)现译码器接收到码序列,则伴随式，错误图案为,采用伴随式译码得到的译码结果现译码器接收到码序列,则伴随式，错误图案为,采用伴随式译码得到的译码结果.（3分）3.（本小题12分）设信源通过一离散无记忆信道信道，信宿接收到的符号记为，信道转移概率如图所示。试求：（1）该信道的转移概率矩阵；（2）信源X中，消息和分别含有的自信息量；（3）信宿Y的概率分布；（4）收到消息后获得的关于消息的互信息量；