信息论与编码(2012-2013下期)试题A答案.doc_第1页
信息论与编码(2012-2013下期)试题A答案.doc_第2页
信息论与编码(2012-2013下期)试题A答案.doc_第3页
信息论与编码(2012-2013下期)试题A答案.doc_第4页
信息论与编码(2012-2013下期)试题A答案.doc_第5页
已阅读5页,还剩1页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

3、 (5)居住在某地区的女孩中有25%是大学生,在女大学生中有75%是身高1.6米以上的,而女孩中身高1.6米以上的占总数的一半。 假如我们得知“身高1.6米以上的某女孩是大学生”的消息,问获得多少信息量? 解:设A表示“大学生”这一事件,B表示“身高1.60以上”这一事件,则 P(A)=0.25 p(B)=0.5 p(B|A)=0.75 (2分)故 p(A|B)=p(AB)/p(B)=p(A)p(B|A)/p(B)=0.75*0.25/0.5=0.375 (2分) I(A|B)=-log0.375=1.42bit (1分)四、(5)证明:平均互信息量同信息熵之间满足I(X;Y)=H(X)+H(Y)-H(XY)证明: (2分)同理 (1分)则 因为 (1分)故即 (1分)五、(18).黑白气象传真图的消息只有黑色和白色两种,求:1) 黑色出现的概率为0.3,白色出现的概率为0.7。给出这个只有两个符号的信源X的数学模型。假设图上黑白消息出现前后没有关联,求熵;2) 假设黑白消息出现前后有关联,其依赖关系为 ,求其熵。3)分别求上述两种信源的冗余度,比较它们的大小并说明其物理意义。解:1)信源模型为 (1分) (2分) 2)由题意可知该信源为一阶马尔科夫信源。 (2分)由 (4分)得极限状态概率 (2分) (3分)3) (1分) (1分)。说明:当信源的符号之间有依赖时,信源输出消息的不确定性减弱。而信源冗余度正是反映信源符号依赖关系的强弱,冗余度越大,依赖关系就越大。(2分)六、(18).信源空间为,试分别构造二元香农码和二元霍夫曼码,计算其平均码长和编码效率(要求有编码过程)。七(6).设有一离散信道,其信道传递矩阵为,并设,试分别按最大后验概率准则与最大似然译码准则确定译码规则, 并计算相应的平均错误概率。 1)(3分)最小似然译码准则下,有, 2)(3分)最大后验概率准则下,有,八(10).二元对称信道如图。1)若,求、和; 2)求该信道的信道容量。 解:1)共6分 2), (3分)此时输入概率分布为等概率分布。(1分)九、(18)设一线性分组码具有一致监督矩阵1)求此分组码n=?,k=?共有多少码字?2)求此分组码的生成矩阵G。3)写出此分组码的所有码字。4)若接收到码字(101001),求出伴随式并给出翻译结果。解:1)n=6,k=3,共有8个码字。(3分)2)设码字由得 (3分) 令监督位为,则有 (3分)生成矩阵为 (2分)3)所有码字为000000,001101,010011,011110,100110,101011,110101,111000。(4分)

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论