信息论与编码期末考试题(全套)之欧阳德创编

1、欧阳德创编2021.03.07时间：2021.03.07创作：欧阳德负性.()7. 信源的消息通过信道 或失直越大，信宿收到消息 的不确定性就越小，获得的信息量8. 汉明码是一种线性分9. 率失直函数的最小值10. 必然事件和不可能事 都是回.()二、埴空题共6小题，满分1、码的检、纠错能力取2、信源编码的目的是； 的是.3、把信息组原封不动览 位的E码就叫做4、香农信息论中的三 是、5、设信道的输入与输 别为回和日，则厂一条件.6、对于香农-费诺编码、原!、判断题共10小题，满分20分.1. 当随机变量回和耳相互独立时，条 件燔 m 等于信源燔s .()2. 由于构成同一空间的基底不是唯一

2、的，所以不同的基底或生成矩阵有可能生 成同一码集.()3. 般情况下，用变长编码得到的平 均码长比定长编码大得多.()4. 只要信息传输率大于信道容量，总存在一种信道编译码，可以以所要 求的任意小的误差概率实现可靠的 通信.()5. 各码字的长度符合克拉夫特不等 式，是唯一可译码存在的充分和必要条件.06. 连续信源和离散信源的燔都具有非欧阳德创编2021.03.07码和哈夫曼编码，编码方法惟一的是.7、某二元信源,其失直阵为 | X |矩阵叵,则该信源的回=.(1)给出该码的一致校三、本题共4小题，满分50分.1、某信源发送端有2种符号 (3，W3 ；接收端有3种符 号冋，转移概率矩阵为计算

3、接收端的平均不确定度计算由于噪声产生的不确定度所有的陪集首和与之相对应若接收矢量其对应的伴随(1)小距离译码准贝试着对其译囚(二(2)、埴空题仔计算信道容量以及最佳入口分布.2、一阶马尔可夫信源的状态转移图如右(3)1分)1、信源编码的主要目的是图所示，信源回的符号集为国主要目的是。(1)求信源平稳后的概率分布;2、信源的剩余度主要来自(2)求此信源的嬌;(3)近似地认为此信源为无记忆时,3、三进制信源的最小燔为,符号的概率分布为平4、无失直信源编码的平均:稳分布求近似信源的嫡s并与极限制为o进行比较.5、当时，信源与信道达到匸4、设二元s线性分组码的生成矩6、根据信道特性是否随时四、(10分

4、)某信源输出 D、E五种符号，每一个符 岀现概率分别为1/8、1/8 l/8o如果符号的码元宽度 算：(1)信息传输速率耳。(5五、(16分)一个一阶马 转 移 概可以分为和。7、根据是否允许失直，信源编码可分为 和。8、若连续信源输岀信号的平均功率为 凶，则输岀信号幅度的概率密度是时，信 源具有最大燔，其值为值。9、在下面空格中选择埴入数学符号“匡”或”(1) 当X和丫相互独立时，H (XY)H(X)+H(X/Y)H(Y)+H(X)o(2) I = i(3) 假设信道输入用X表示，信道输出 用丫表不。 在无噪有损信道中，H(X/Y) 0z H(Y/X)0J(X;Y) H(X)O三、(16分)

5、已知信源(1) 用霍夫曼编码法编成二进制变长码；(6分)(2) 计算平均码长；(4分)(3) 计算编码信息率回；(2分)(4) 计算编码后信息传输率目；(2分)(1) 画岀状态转移图。“(2) 计算稳态概率。(4 3(3) 计算马尔可夫信源 分)(4) 计算稳态下日，凶及度。(4分)六、设有扰信道的传输情】 示。试求这种信道的信道容:七、(16分)设X、Y是两个 元随机变量，其取0或1的 义另一个二元随机变量 积)。试计算(5) 计算编码效率，(2分)(1) I I(2) 一 1(3) I 1(4) I I ；八、(10分)设离散无记忆信源的概率空间 为 I X |,通过干扰信道，信道输岀端的

6、接收符号集为S ,信道传输 概率如下图所示。(1) 计算信源回中事件因包含的自信息量；计算信源回的信息燔;计算信道疑义度耳;计算噪声嬌EKI ；计算收到消息回后获得的平均互信息量。信息论基础2参考答案、埴空题(共15分，每空1分)1、信源编码的主要目的是提高有效性，信道编码的主要目的是提高可靠性。统计不均匀性。3、三进制信源的最小爛为s bit/符号。4、无失直信源编码的平均: 极限制为信源爛(回 Hr(S) o5、当R=C或(信道剩余度 源与信道达到匹配。6、根据信道特性是否随时 可以分为恒参信道和随参信:7、根据是否允许失直，信 无失直信源编码和限失直信:8、若连续信源输出信号白 剧，则输

7、岀信号幅度的概率 布或正态分布或 I X 有最大火商，其值为值E9、在下面空格中选择境 “ g ”或勺”(1)当X和丫相互独立=H(X)+H(X/Y)=H(Y)+H(X)o2、信源的剩余度主要来自两个方面，一 是信源符号间的相关性，二是信源符号的(2) I x I _ I x (3) 假设信道输入用X表示，信道输出 用Y表示。在无噪有损信道中，H(X/Y) 0/H(Y/X)=0J(X;Y)0时率失直函数的血和M311）若胞爲，F爲，求陀2）求该信道的信道容量和曹布O二、综合题（每题10分，共60分）1 .黑白气象传直图的消息只有黑色和白色两种，求：3.信源空间为S _ X % 63 S4 S5

8、 S6 sP（s） 0.4 0.2 0.1 0.1 0.05 0.05 0.0 I 别构造二元和三元霍夫曼码码长和编码效率。1）黑色出现的概率为0.3,白色出现的 概率为0.7o给出这个只有两个符号的信 源X的数学模型。假设图上黑白消息出现 前后没有关联，求爛旧徑）；5.已知一（8, 5）线性分组1000011101000100001000100001000100001111求：1）输入为42）假设黑白消息出现前后有关联，其依 赖关系为：卿白）9, P（黑泊）71,戸旧/黑）=0.2, f為黑）= D.8,求其爛禺an ；10100时该码的码字；2） fl答案2.二元对称信道如图。-、 概念简答题（每题5夕1答：平均自信息为丹（ =-三左（吾）1跆巩否）表示信源的平均不确定度，个信源消息所提供的信息量平均互信息Z（X,F）=-三三去（砂7）1昭表示从丫获得的关于每个X的平均信息瓦陀）6.答：只要L 一1。劭/ ,当N定存在一种无失直编码。量，也表示发X前后Y的平均不确定性减7.答：当RJ2.答：）丹（出=0.8113如符号2）俪2阳符号,最佳输入概率分布为等概率分布。3.答：1）二元码的码字依序为：10,11