信息论与编码B

1、信息论与编码课程试卷（B卷）本试卷用于信息系2011级通信工程本科学生（时量：120分钟 总分100分）命题人：李星亮注意：1、答案必须填写在答题纸上，填写在试卷上的无效。2、答卷必须写明题目序号，并按题号顺序答题。3、请保持行距，保持卷面整洁。一、填空题（每题3分，共30分）1、 从认识论的层次，信息分为3个层次分别为, , 2、 波形信源的数学模型为，某连续信源X，其分布为p（x） =。一*，航2其相对熵为。3、离散、无记忆、等概率分布2进制信源，对该信源进行无失真编码，则平均码 长的下限为，根据Shannon无失真信源编码定理，达到该下限的一般方法为。4、 I（X； Y）是关于p（x）凹

2、函数，是关于p（xly）凹函数。5、已知H（X） = 1b / s,H（X /Y） = 0.8b / s,I（X；Y）为。6、某线性码组的最小Hamming距离为5，译码时能检测 位错误，能、纠正位错误。7、离散时间连续信息信源在峰值受限，功率受限的情况下，为使信源熵最大，则02 种情况的概率分布分别为，。8、 AWGN信道的信道容量为。9、 某离散无记忆信源的商位1b/s，3次扩展后，信源序列的熵为。10、 按照信源序列渐近均分特性，信源序列可分为，;其中 为大 概率事件。二、简答题、辨析题（每小题5分，共20分）1、某信源的熵为1b/s，经信道传输，已知信道容量为0.86b/s，信道传输速

3、度1500B/S， 现有40000个信源符号，要保证无差错传输，则传输的最短时间为多少？说明理由。2、某2元离散无记忆信源，其熵为1bit/s对其3次扩展信源进行编码，其平均 码长为4，问：1）能进行无失真译码？，为什么；2）能否进一步压缩码？为什么？3、FEC相对于ARQ的主要优点是什么？4、简述率失真函数的概念及性质三、综合题(共50分)1、 设离散无忆信源X)=%=1 %= 计算信源熵； 编二进制香农码和二进制费诺码； %= 计算二进制香农码和费诺码的平均码长和编码效率; %= 编三进制费诺码； 计算三进制费诺码的平均码长和编码效率。 编二进制Huffman码，求平均码长和编码效率。其发

4、出的消息为PX) 3/81/41/41/8 J(2021201 30213001203210110321010021032011223210)，求此消息的自信息量是多少？在此消息中平均每个符号携带的信息量是多少？(10 分)2、设信源X的N次扩展信源X = X1X2 XN通过信道X,P(Y/X), Y的输出序列为Y = YY .巳。试证明：当信源为无记忆信源时，即X1，X2,Xn之间统计独立时，有工/(Xk ,匕)k =1I(X; Y )；当信道无记忆时，有El，Y)I(X;Y)；k=1当信源、信道均为无记忆时，有 %(Xk，Y)= IGn； Yn )= NI(X; Y )；k = 1(10)3、设信源X )1a2a3a4a5a6a7气P( X) j=51、214181161321641128128 J4、已知循环码生成多项式为g3) = l + x + x4(1)求该码的最小码长，相应的一致校验多项式龙(尤)和最小码距(2)求该码的生成矩阵，一致校验矩阵，系统码生成矩阵。(10)5、若某无记忆信源X 1J-1 01 户（利一1/3 1/3