11-12信息论Bjuan[1](1)

1、1安徽大学 2011 2012 学年第1 学期信息论考试试卷（B 卷）（闭卷时间 120 分钟）院 /系年级专业姓名题号一二三四五得分一、填空题（每小题2 分，共 20 分）得 分1、接收端收到 y 后，获得关于发送的符号是x 的信息量是。2、在已知事件 zZ 的条件下，接收到 y 后获得关于事件 x 的条件互信息I (x; y | z)的表达式为。3、通信系统模型主要分成五个部分分别为：。4、某信源S 共有32 个信源符号，其实际熵H=1.4 比特 /符号，则该信源剩余度为。5、信道固定的情况下， 平均互信息I ( X ;Y )是输入信源概率分布P(x)的型凸函数。6、当信源与信道连接时，若

2、信息传输率达到了信道容量，则称此信源与信道达到匹配。信道剩余度定义为。7、将H，H6，H0，H4，H1从大到小排列为。8、多项式剩余类环Fq x ( f ( x)是域的充要条件为。9、有限域F212的全部子域为。10、国际标准书号（ ISBN ）由十位数字a1a2a3a4a5a6a7a8a9a10组成（诸aiF11，满足：10iai0(mod11)），其中前九位均为 0-9，末位 0-10，当末位为10 时用 X 表示。i 1Handbook of Applied Cryptography的书号为 ISBN ： 7-121-01339-。11二、判断题（每小题 2 分，共 10 分）得 分1、

3、互信息I ( x; y)与平均互信息I ( X ; Y)都具有非负性质。（）2、对于无噪无损信道，其输入和输出有确定的一一对应关系。（）3、设有噪信道的信道容量为C，若信息传输率 RC ，只要码长 n 足够长，必存在一种信道编码和相应的译码规则，使译码平均错误概率PE为任意小。反之，若 RC则不存在以 R 传输信息而PE为任意小的码。（）4、对于离散信道 X , p( y | x),Y ，有H ( X |Y)H ( PE)PElog( r 1)，并且不管采用什么译码规则，上述费诺不等式成立。（）5、一定存在码长分别为 1，2，3，3，3，4，5，5 的二元即时码。（）三、计算题（每小题8 分，

4、共 32 分）得 分1、设a1a2， Y b1b2b3b4，X 1/ 21/ 41/ 41/41/ 21/ 4c1c2c3c4c5c6c7c8。Z 1/81/81/81/81/81/8 1/81/8计算H(X), H(Y), H(Z)。当X,Y, Z为统计独立时，计算H (XYZ )。112、求下述两信道的信道容量及其达到信道容量时的输入概率分布。（1）（2）3、一阶马尔可夫信源的状态图如下图所示， 信源 X 的符号集为 0 ，1，2 并定义p1p。(1) 求信源平稳后的概率分布 P(0)， P(1)， P(2)；(2) 求此信源的熵。pp/2p02p/2p/2p/2p/2p/21p114、求

5、以 x1 为生成多项式的长为3 的二元循环码 C 的全体码字。四、综合题（每小题 10 分，共 30 分）得 分1112361，1、设有一离散信道，其信道传递矩阵为1116，并 设P( x1)232111362P(x)P( x)1。试分别按最小错误概率准则和最大似然译码准则确定译码函数，并234计算相应的平均错误概率。11Ss1s2s3s4s5s6s7，码符号为X0,1,2，2、信源空间为1111111P( s)3399272727试构造一种三元紧致码，并计算平均码长。1001103、设 C 是二元6,3线性码，其校验矩阵为H010101。试求全体码字，001011列简明译码表；当收到的字为010011，如何译码？1