信息论与编码试卷及答案

-11’〕填空题1948年美国数学家 香农 发表了题通信的数学理论〞的长篇论文从而创立信息论。必然事件的自信息是0 。离散平稳无记忆信*的N次扩展信源的熵等于离散信的熵的N倍 。对于离散无记忆信源，当信源熵有最大值时，满足条件信源符号等概分_。假设一离散无记忆信源的信源熵〔〕等于2.5，对信源进展等长的无失真二进制编码则编码长度至少为3 。对于香农编码、费诺编码和霍夫曼编码，编码方法惟一的是香农编码 。*线性分组码的最小汉明距离为3，则这组码最多能检测_2 个码元错误，最多能正 1 个码元错误。设有一离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R 小于 〔大于、小于或者等于则存在一种编码，当输入序列长度n足够大使译码错误概率任意小平均错误概率不仅与信道本身的统计特性有关还译码规和 编码法 有关〔5*地区的女孩中有25%是大学生，在女大学生中有75%是身高1.6米以上的，而女孩中身高1.6米以上的占总数的一半。假设我们得知"身高1.6米以上的*女孩是大学生〞的消息，问获得多少信息量.解：设A表示"大学生〞这一事件，B表示"身高1.60以上〞这一事件，则P(A)=0.25 p(B)=0.5 p(B|A)=0.75 〔2分〕故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 〔2分〕I(A|B)=-log0.375=1.42bit 〔1分〕5〕证明：I(*;Y)=H(*)+H(Y)-H(*Y)证明：. z.- I;Y

pxyjii j pi X Y y pxypxy ijiiji

〔2分〕 HX H

i jX YXY

i j同理I;YHHX 〔1则因为HHHX 〔故即I;YHHH 〔1分〕五〔18’〕.黑白气象 图的消息只有黑色和白色两种，求：1〕黑色出现的概率为0.3，白色出现的概率为0.7。给出这个只有两个符号的信源*的数学模型。假设图上黑白消息出现前后没有关联，求熵HX；2〕 假设黑白消息出现前后有关联，其依赖关系为 ， ，，

X。3〕分别求上述两种信源的冗余度，比较它们的大小并说明其物理意义。解：1〕信源模型为〔1分〕2〕由题意可知该信源为一阶马尔科夫信源。〔2分〕由得极限状态概率

〔4分〕〔2分〕. z.-3〕 1H(X)0.119

〔3分〕1 log2

2 〔1分〕 1

H(X) 0.4472 log2

2 〔1分〕2 映信源符号依赖关系的强弱，冗余度越大，依赖关系就越大2 18’〕.信源空间为 X x x x x x x x P(X) 1 2 3

4 5 6

7 ，试分别构造二元香农码和二元霍夫 0.2 0.19 0.18 0.17 0.15 0.1 0.01 曼码，计算其平均码长和编码效率〔要求有编码过程

p(x)12 1/3 1/6

1 4七〔6’〕.设有一离散信道，其信道传递矩阵为6 1/2 1/3，并设 ( )1，试分别 px 2221/3 1/6 1/2

p(x)1 3 413分〕最小似然译码准则下，有，3分〕最大后验概率准则下，有，八〔10〕.二元对称信道如图。1〕假设p03，1HH|YI;Y；4 42〕求该信道的信道容量。解：1〕共6分23分〕此时输入概率分布为等概率分布1分〕HX|Y0.749bit/符号

0 0 0 1 1 九〔18〕设一线性分组码具有一致监视矩阵H0 1 1 0 0 0 1 0 1 1〕求此分组码n=",k="共有多少码字.. z.--.z..z.2〕求此分组码的生成矩阵。〕写出此分组码的所有码字。4〕假设接收到码字〔101001〕，求出伴随式并给出翻译结果。解：1〕n=6,k=3,共有8个码字。〔3分〕C 2〕设码字

CCCC

HCT0T5 4 3 CCC 0

2 1 0由 得2 1 0CCC 04 3 03 1 5 CCC 03 1 5CCC令监视位为

2 1

，则有CC 2 5 3CCC1 5 404 C04

〔3分〕11001100100110011013000000，001101，010011，011110，100110，101011，110101，1110004分〕4〕由ST

HRT得S 2分〕该码字在第5101001〕纠正为〔1010111010011分〕一、填空题〔此题10空,每空1分,共10分〕1、必然事件的自信息量0 ，不可能事件的自信息量无。一信源有五种符{abcde}先验概率分别为=0.=0.2c=0.125d=e=0.062。符号"a〞的自信息量1 bit，此信源的熵1.875 bit/符号。3、如*线性分组码的最小汉明dmin=6，最多能纠2 个随机错。4、根据密码算法所使用的加密密钥和解密密钥是否一样，可将密码体制分对称〔密钥〕 和 非对称〔双密钥。5、平均互信息量I(*;Y)与信源熵和条件熵之间的关系I(*:Y)=H(*)-H(*/Y) 。6、克劳夫特不等式是唯一可译存在 的充要条件是否是唯可译码. 是 。三、单项选择题(此题共10小题；每题2分，共20分)1、对连续集的熵的描述不正确的选项是〔A〕A连续集的熵和离散集的熵形式一致，只是用概率密度代替概率，用积分代替求和B连续集的熵值无限大C连续集的熵由绝对熵和微分熵构成D连续集的熵可以是任意整数y|my|≠m时，将y判为m’，则称该准则为〔D〕A最大后验概率译码准则B最小错误概率准则C最大相关译码准则D最大似然译码准则3、线性分组码不具有的性质是〔C〕A任意多个码字的线性组合仍是码字B最小汉明距离等于最小非0重量C最小汉明距离为3D任一码字和其校验矩阵的乘积cmHT=04、关于伴随式的描述正确的选项是〔A〕A伴随式s与传送道出现的错误图样e有关B通过伴随式s可以完全确定传送道出现的错误图样eC伴随式s与发送的具体码字有关D伴随式s与发送的具体码字有关，与传送道出现的错误图样e也有关5、率失真函数的下限为〔B〕B0 D没有下限6、纠错编码中，以下哪种措施不能减小过失概率DA增大信道容量B 增大码长C减小码率D减小带宽7、*无记忆三符号信源a,b,c等概分布，接收端为二符号集，其失真矩阵为,则信源的最大平均失真度Dma*为〔D〕A1/3B2/3C3/3D4/38、一珍珠养殖场收获240颗外观及重量完全一样的特大珍珠，但不幸被人用外观一样但重量仅有微小差异的假珠换掉1颗。一人随手取出3颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6信息量〔AA0bitBlog6bitC6bitDlog240bit9、随机噪声电压的概率密度函数p(*)=1/2，*的取值围为－1V至+1V，假设把噪声幅度从零开场向正负幅度两边按量化单位为0.1V10BA21.61bit/sB43.22bit/sC86.44bit/sD以上都不对10、彩色电视显像管的屏幕上有5×105个像元，设每个像元有64种彩色度，每种彩度又有种不同的亮度层次，如果所有的彩色品种和亮度层次的组合均以等概率出现，并且各个组合之25C〕A50.106B75.106C125.106D250.106第7章线性分组码1.一个(5,3)线性码C的生成矩阵为：〔1〕求系统生成矩阵；〔2〕列出C的信息位与系统码字的映射关系；〔3〕求其最小Hamming距离，并说明其检错、纠错能力；〔4〕求校验矩阵H；〔5〕列出译码表，求收到r=11101时的译码步骤与译码结果。解：〔1〕线性码C的生成矩阵经如下行变换：得到线性码C的系统生成矩阵为〔2c(cc0 1

, ,

n1

)的编码函数为生成了的8个码字如下信息元系统码字0000000000100111010010100110110110010011101101001101100111111110最小汉明距离1个错，但不能纠错。由G[I

nk

,Ak(nk)

],H[Ak(nk)

T,I

nk

]，得校验矩阵(5)消息序列m=000,001,010,011,100,101,110,111，由c=mGs得码字序列c=00000,c=00111,c=01010,c=01101,0 1 2 3c=10011,c=10100,c=11001,c=111104 5 6 7则译码表如下：0000000111010100110110011101001100111110100001011111010111010001100100010010111001000011110001000101110111110010001101100000100110010110110010010101011100011111当接收到r=(11101)时，查找码表发现它所在的列的子集头为(01101)，所以将它译为c=01101。2．设〔7,3〕线性码的生成矩阵如下〔1〕求系统生成矩阵；〔2〕求校验矩阵；〔3〕求最小汉明距离；〔4〕列出伴随式表。解：〔1〕生成矩阵G经如下行变换得到系统生成矩阵：〔2〕由G[I

nk

,Ak(nk)

],H[Ak(nk)

T,I

nk

]，得校验矩阵为〔3〕由于校验矩阵H的任意两列线性无关，3列则线性相关，所以最小汉明距离d=3。〔47,3〕线性码的消息序列m=000,001,010,011,100,101,110,111，由c=mGs=0000000，c=0010111，0 1c=0101010，c=0111101，c=1001101，c=1011010，c=1100111，c=1110000。又因伴随式有24=16种组合，过失图2 3 4 5 6 77 7样为1的有

7种，过失图样为2的有 种，而由HrT

HeT，则计算陪集首的伴随式，构造伴随1 2表如下：伴随式陪集首伴随式陪集首00000000000010110010001101100000010011000100101001000001111001100001110010000110000011001000000100011100100100010000001001011010000100100000010001100101000001000000101100000110一个(6,3)线性码C的生成矩阵为：〔1〕写出它所对应的监视矩阵H；〔2〕求消息M=(101)的码字；〔3〕假设收到码字为101010，计算伴随式，并求最有可能的发送码字。解：〔1〕线性码C的生成矩阵G就是其系统生成矩阵GS，所以其监视矩阵H直接得出：〔2〕消息M=(m,m,m)=(101)，则码字c为：0 1 2〔3〕收到码字r=(101010)，则伴随式又〔6,3〕线性码的消息序列m=000,001,010,011,100,101,110,111，由c=mGs得码字序列：c=000000，c=001110，0 1c=010011，c=011101，c=100101，c=101011，c=110110，c=111000。伴随式有23=8种情况，则计算伴随式得到伴2 3随表如下：

4 5 6 7伴随式陪集首000000000101100000011010000110001000100000100010000010001000001111100010伴随式〔001〕对应陪集首为〔000001〕，而c=r+e，则由收到的码字r=(101010)，最有可能发送的码字c为：c=〔101011设(6,3)线性码的信息元序列为***，它满足如下监视方程组123〔1〕求校验矩阵，并校验10110是否为一个码字；〔2〕求生成矩阵，并由信息码元序列101生成一个码字。解：〔1〕由监视方程直接得监视矩阵即校验矩阵为：因为收到的序列10110为5位，而由〔6,3〕线性码生成的码字为6位，所以10110不是码字。〔2〕由G[I

nk

,Ak(nk)

],H[Ak(nk)

T,I

nk

]，则生成矩阵为：信息码元序列M=〔101〕，由c=mGs得码字为c：第8章 循环码(8,5)线性分组码的生成矩阵为〔1〕证明该码是循环码；〔2g(x)。〔1〕证明如下：由生成矩阵可知为〔8、5〕循环码。〔2〕生成多项式如下：证明：x10x8x5x4x2x1为(15,5)循环码的生成多项式，并写出信息多项式为m(x)x4x1时的码多项式〔按系统码的形式由定理8-1可知〔n，k〕循环码的生成多项式g(*)为*n+1的因子，g(*)为n-k次多项式，此题目中知：g(x)x10x8x5x4x2x1为一个10次多项式，n-k=15-5=10(x151)mod(x10x8x5x4x2x1)0x10x8x5x4x2x1x151的一个因子，也是循环码的生成多项式。按系统码构造多项式如下：(7,4g(x)x和代数计算求其相应的码多项式由题目可知代数计算求解过程如下：由编码电路进展求解：编码电路如下所示：

x1，信息多项式为m(x)x

1，分别由编码电路如下：时钟0如下：时钟0信息元存放器码字D输出码字00 1DD0 02门1D0+D1D2+或门c(x)m11110120011030111041011150011