信息论与编码期末考试测试

1、信息论与编码期末考试测试 信息论与编码期末考试测试 选择题（10 分，每小题 2 分） 1、设有一个离散无记忆信源 x，其符号数为 n,则有（ ）成立。 a、 ; b、 ; c、 ; d、以上结论都不对。 2、设有一个离散无记忆信道，其信道矩阵为 ，则信道容量是（ ）。 ; b、 ； c、 ； d、 。 3、若一离散无记忆信源的符号熵为 ,对信源符号进行 m 元变长编码，一定存在一种无失真编码方法，其码字平均长度 满足（ ）。 a、 ； b、 ； c、 ； d、 。 4、设 x 是一个离散无记忆信源， 、 、 分别是其 2、3、4 次扩展信源。由变长无失真信源编码定理知，对上述 4 个信源进行

2、二元香农变长编码，则对（ ）进行编码时，编码效率最高。 a、 ； b、 ； c、 ； d、 。 5、关于信息率失真函数 ，下列说法正确的是（ ）。 a、 函数表示信源 x 和允许的失真度 d 给定的情况下，需要由信源传送给信宿的最小信息率； 2( ) log h x n £2( ) log h x n ³2( ) 2log h x n £úúúûùêêêëé=2 / 1 6 / 1 3 / 13 / 1 2 / 1 6 / 16 / 1 3 / 1 2 / 1p21

3、 1 1log 3 ( , , )2 3 6h -21 1 1log 3 ( , , )3 6 2h -21 1 1log 5 ( , , )2 3 6h -21 1 1log 6 ( , , )3 6 2h -( ) h xk2 2( ) ( )1log logh x h xkm m+ > ³2 2( ) ( )1log logh x h xkm m- < £2( )1logh xkm+ <2( )logh xkm£2x3x4xx2x3x4x( ) r d( ) r d b、 函数表示信源和允许的失真度 d 给定的情况下，需要由信源传送给信宿的

4、最大信息率； c、 函数的取值范围是（-，0）； d、以上说法都不对。 填空题（20 分，每空 2 分） 1、 线性循环码中，生成多项式 的最高项次数为_ ，校验多项式 的最高项次数为_ ， 和 满足_ 的关系，若其最小码距 ，则能检错的位数为 ，能纠错的位数为 。 2、若有一离散无记忆平稳信道，其容量为 ，输入序列长度为 l ,只要待信息率 ，总可以找到一种编码，当 足够长时，译码差错概率 ， 为任意大于零的正数。反之，当 时，任何编码的 必大于零，且当 时， 。 3、由数据处理定理，若随机变量 构成一个马尔可夫链，则下列平均互信息量满足 。(填,=,或) 4、设一离散平稳无记忆信源的输出随

5、机变量序列为 ,若该信源的信息率失真函数是 ,并选定有限失真函数。对于任意允许平均失真度 ,和任意小的 ，当信息率 ，只要信源序列长度 足够长，一定存在一种编码方式，使译码后的平均失真度 。 三、（15 分）设信源 ，通过某信道，接受符号集为，信道转移矩阵（ ）为 ，求： （要求：计算结果保留三位小数，单位是：比特/符号。）试求： ( ) r d( ) r d( , ) n k ( ) g x( ) h x ( ) g x ( ) h xdcr c lep e < e r cepl ® ¥ 1ep ®, , x y z( ; ) i x y ( ; ) i

6、x z1 2( )lx x x x =( ) r d0 d ³ 0 e > r ( ) r dl dd e +1 21 3( )4 4x xxp xì üé ù ï ï= íýê úë ûï ïî þ 1 2y y y = ( / )ij j ia p y x =1 00 1é ùê úë û ；（4 分） 求联合熵 、信道疑义度 和噪声熵 ；（4 分） 接收到

7、 后所获得的平均互信息量是多少；（2 分） 若改变信源的概率分布，则收到 后能获得的最大信息量是多少，并且求出此时信源的概率分布。（5 分） 四、（13 分）二阶马尔可夫信源如图所示，信源符号集 。 求（1）平稳后状态的概率分布 p ；（7 分）（2）信源熵 h 。（6 分） 要求熵的单位取：比特/符号，并保留小数点后两位数字。 ( ), ( ) h x h y( ) h xy ( / ) h x y ( / ) h y xyy0,1 x =01 10 11 00 0.75 0.5 0.25 0.75 0.5 0.5 0.5 0.25 五 、（ 10 分 ） 设 有 一 个 离 散 无 记 忆

8、 信 道 ， 其 信 道 矩 阵，求信道容量 c c 。 （要求保留四位小数，单位取为：比特/符号） 六、（10 分）在 rsa 公钥密码系统中，如果截取了发送给其他用户的úûùêëé=8 / 1 8 / 1 2 / 1 4 / 18 / 1 8 / 1 4 / 1 2 / 1p 密文 ,如果此用户的公钥为 ，请解密出明文，写出具体过程。 七、信源编码（12 分） 有无记忆信源 和 。 对 编二进制最优哈夫曼码，计算平均码长和编码效率；（3 分） 对 编最优二进制哈夫曼码的平均码长和编码效率；（6 分） 比较（1）、（2）中平均码长和

9、编码效率的变化，说明对扩展信源进行编码对平均码长和编码效率的影响。（3 分） 10 c = 7, 55 e n = =1 23 1( )4 4x xxp xì üæ ö ï ï= íý ç ÷è øï ïî þ2 1 1 1 2 2 1 2 229 3 3 1( )16 16 16 16x x x x x x x xxp xì üæ öï ï= íý 

10、31; ÷è ø ï ïî þ1 2 3 49 3 3 116 16 16 16a a a a ì üï ï= íýï ïî þx2x 信道编码（10 分） 现有二元（7,4）线性循环码，生成多项式为 1、写出相应的校验多项式 ；（2 分） 2、求最小码字距离 、最大检错能力 和最大纠错能力 ；（3 分） 3、现有消息序列为 及编码电路如下，试填写下列表格。（5 分） 时钟节拍 输入消息 移位寄存器状态 输出码字 说明 3 2( ) 1 g x x x = + +( ) h xdmaxlmaxt3 2 1 0( ) (1001) m