【精选】信息论与编码作业答案(新)超全_第1页
【精选】信息论与编码作业答案(新)超全_第2页
【精选】信息论与编码作业答案(新)超全_第3页
【精选】信息论与编码作业答案(新)超全_第4页
【精选】信息论与编码作业答案(新)超全_第5页
已阅读5页,还剩1页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、信息论与编码作业答案(新)超全 篇一:信息论与编码姜丹第三版 信息论与编码习题参考答案 第一章 单符号离散信源 信息论与编码作业是74页,1.1的(1)(5),1.3,1.4,1.6,1.13,1.14还有证明熵函数的连续性、扩展性、可加性 1.1同时掷一对均匀的子,试求: (1)“2和6同时出现”这一事件的自信息量; (2)“两个5同时出现”这一事件的自信息量; (3)两个点数的各种组合的熵; (4)两个点数之和的熵; (5)“两个点数中至少有一个是1”的自信息量。 解: 11 样本空间:n?c6c6?6?6?36 n12 n36(1)p1? (3)信源空间: ?log?6?log36?4.

2、32bit 36236 ?h(x)?15? 2436636836 ?log36?log?log?log36362363364 1036636 365366n1136 n3611 ?h(x)? 1.2如有6行、8列的棋型方格,假设有两个质点a和b,分别以等概落入任一方格内,且它们的坐标分别为(xa,ya), (xb,yb),但a,b不能同时落入同一方格内。 (1) 假设仅有质点a,求a落入任一方格的平均信息量; (2) 假设已经明白a已落入,求b落入的平均信息量; (3) 假设a,b是可识别的,求a,b落入的平均信息量。 解: 1 (1)?a落入任一格的概率:p(ai)?i(ai)?logp(a

3、i)?log48 48 i?1 48 (2)?在已经明白a落入任一格的情况下,b落入任一格的概率是:p(bi)?i(bi)?logp(bi)?log47 i?148 1 47 (3)ab同时落入某两格的概率是p(abi)?i(abi)?logp(abi) 48?47i?1 11?4847 1.3从大量统计材料明白,男性中红绿色盲的发病率为7%,女性发病率为0.5%.假设你征询一位男士:“你是否是红绿色盲?”他的答复可能是:“是”,也可能“不是”。征询这两个答复中各含有多少信息量?平均每个答复中各含有多少信息量?假设你征询一位女士,那么她的答案中含有多少平均信息量? 解: 关于男士: 答复“是”

4、的信息量:i(my)?logp(my)?log7%?3.84bit答复“不是”的信息量:i(mn)?logp(mn)?log93%?0.105bit平均每个答复信息量:h(m)?p(my)?logp(my)?p(mn)?logp(mn) ?-7%?log7%-93%?log93%?0.366bit关于女: 答复“是”的信息量:i(wy)?logp(wy)?log0.5%答复“不是”的信息量:i(mn)?logp(mn)?log99.5% 1.4某一无经历信源的符号集为0,1,已经明白p0? 13 ,p1? 23 。 (1) 求符号的平均信息量; (2) 由1000个符号构成的序列,求某一特定序

5、列(例如有m个“0”,(1000-m)个“1”) 的自信量的表达式; (3) 计算(2)中序列的熵。 解: 1122 3333 12 (2)i(a)?mlogp0?(1000?m)logp?mlog?(1000?m)logbit 33 (3)h(a)?1000h(x)?1000?0.918?918bit/sequence h(a)?p0logp0? i?1m 1000?m ? i?1 p1logp1? m12(1000?m)2 log?log3333 1.5设信源x的信源空间为: a1 a2a3a4a5 a6?x: x?p:? 求信源熵,并解释为什么h(x)log6,不满足信源熵的极值性。 解

6、: h(x)?p(ai)logp(ai) i?1 6 ?0.17log0.17?0.19log0.19?2?0.18log0.18?0.16log0.16?0.3log0.3 ?2.725 bit/symble 可见h(x)?2.725?log6?2.585 不满足信源熵的极值性, 这是由于信源熵的最大值是在?pi?1的约束条件下求得的,但是此题中 i?1r ?p i?1 6 i ?1.18不满足信源熵最大值成立的约束条件,因此h(x)?log6。 1.6为了使电视图象获得良好的明晰度和规定的比照度,需要用5×105个像素和10个不同的亮度电平,并设每秒要传送30帧图象,所有的像素是

7、独立的,且所有亮度电平等概出现。求传输此图象所需要的信息率(bit/s)。 解: 由于亮度电平等概出现,由熵的极值性: i?110 每帧图像的熵是: h(x)?5?105?h(x0)?5?105?3.322?1.661?106 bit/frame ?所需信息速率为:r?r(frame/s)?h(x)(bit/frame)?30?1.661?106?4.983?107 bit/s 1.7设某彩电系统,除了满足关于黑白电视系统的上述要求外,还必须有30个不同的色彩度。试证明传输这种彩电系统的信息率要比黑白系统的信息率大2.5倍左右。 证: 增加30个不同色彩度,在满足黑白电视系统要求下,每个色彩度

8、需要10个亮度,因此每个像素需要用30?10?300bit量化 ?每个像素的熵是: h(x1)?p(bi)logp(bi)?log300bit/pels i?1300 ? h(x1)log300 ?2.477?2.5h(x0)log10 ?彩色电视系统每个像素信息量比黑白电视系统大2.5倍作用,因此传输一样的图形,彩色电视系统信息率要比黑白电视系统高2.5倍左右. 1.8每帧电视图像能够认为是由3×105个像素组成,因此像素均是独立变化,且每像素又取128个不同的亮度电平,并设亮度电平是等概出现。征询每帧图像含有多少信息量?假设如今有一个广播员,在约10000个汉字中选1000个字来

9、口述这一电视图像,试征询假设要恰当地描绘此图像,广播员在口述中至少需要多少汉字? 解: 每帧图象所含信息量: h(x)?3?105?h(x)?3?105?log128?2.1?106bit/symble1000 ?每个汉字所包含信息量:h(c)?logp每个汉字所出现概率p? 描绘一帧图像需要汉字数n,h(x)?nh(c)h(x)2.1?106n?6.322?105/frame h(c)?log0.1?最少需要6.322?105个汉字 1.9给定一个概率分布(p1,p2,.,pn)和一个整数m,0?m?n。定义qm?1? ?p,证明: ii?1 m h(p1,p2,.,pn)?h(p1,p2,

10、.,pm,qm)?qmlog(n?m)。并说明等式何时成立? 证: 先证明f(x)?xlogx(x?0)为凸函数,如下: loge 又x?0x loge ?f?(x)?(?xlogx)?0 即f(x)?xlogx(x?0)为凸函数。 x?f?(x)?(?xlogx)? 又?h(p1,p2,.,pn)?pilogpi? i?1m i?m?1 ?plogp i n i由凸函数的性质,变量函数的平均值小于变量的算术平均值的函数,可得: ? i?m?1 ?pilogpi?(n?m) i?m?1 n i?m?1 ?f(p) i n n?m ?(n?m)f( i?m?1 ?p n i n?m )?(n?m

11、) i?m?1 ?p n i n?m log i?m?1 ?p n i n?m ?qmlog qmn?m 即? ?plogp i n i ?qmlogqm?qmlog(n?m) 当且仅当pm?1?pm?2?.?pn时等式成立。?h(p1,p2,.,pn)?pilogpi? m ?plogp i n i ?pilogpi?qmlogqm?qmlog(n?m) m i?1 i?m?1 i?1 m?h(p1,p2,.,pm,qm)?pilogpi?qmlogqm i?1 ?h(p1,p2,.,pn)?h(p1,p2,.,pm,qm)?qmlog(n?m)当且仅当pm?1?pm?2?.?pn时等式成立。 1.10找出两种特别分布: p1p2p3pn,p1p2p3pm,使h(p1,p2,p3,pn)=h(p1,p2,p3,pm)。解:n m h(p1,p2,.,pn)?pilogpi?h(q1,q2,.,qm)?qilogqi i?1 i?1篇二:信息论与编码课程大作业 信息论与编码课程大作业 1、 以下面方向为题,写一份:(标题能够本人定义,只要内容在以 下范围之内) a) 信息理论方法的应用 b) 信息率失真函数与有损数据压缩技术 c) 信源编码及其开展动态 d) 论信源编码

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论