版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、u 离散平稳无记忆信源X的N次扩展信源的熵为离散信源X的熵的N倍。证明:求和是对信源中所有个元素求和,可以等效成N个求和,而其中的每一个又是对X中的n个元素求和,所以有: 则共有N项,考察其中第一项因为所以同理其余各项均等于H(X) 故有: 证毕。例3.1有一离散平稳无记忆信源,求此信源的二次扩展信源的熵。 先求出此离散平稳无记忆信源的二次扩展信源。扩展信源的每个元素是信源X的输出长度为2的消息序列。由于扩展信源是无记忆的,故信源的元素对应的消息序列概率根据熵的定义,二次扩展信源的熵为结论:计算扩展信源的熵时,不必构造新的信源,可直接从原信源X的熵导出。即离散平稳无记忆信源X的N次扩展信源的熵
2、为离散信源X的熵的N倍。u 思考证明二维离散有记忆信源的熵不大于二维平稳无记忆信源的熵? 例3.3设某二维离散信源X=的原始信源X的信源模型为,X=中前后两个符号的条件概率为 7/92/901/83/41/802/119/11原始信源的熵为: 由条件概率确定的条件熵为:条件熵比信源熵(无条件熵)减少了0.672bit/symbol,正是由于符号之间的依赖性所造成的。信源X=平均每发一个消息所能提供的信息量,即联合熵则每一个信源符号所提供的平均信息量小于信源X所提供的平均信息量H(X),这同样是由于符号之间的统计相关性所引起的。u 将二维离散平稳有记忆信源推广到N维情况,可证证明:则表明:多符号离散平稳有记忆信源X的熵H(X)是X中起始时刻随机变量X1的熵与各阶条件熵之和。u 证明离散平稳信源条件熵随变量数N增大而减小的非递增性,即由信源熵不等式其中令,代入上式不等式两边乘上两边对求和即等号在(对所有都满足)时成立。证明平均符号熵大于
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 避光输液器商业机会挖掘与战略布局策略研究报告
- 高精度数字测温仪表市场需求与消费特点分析
- 超高功率大吨位电弧炉市场发展预测和趋势分析
- 电机控制器产品原材料供应与需求分析
- 生发剂市场发展预测和趋势分析
- 专业技术人员继续教育公共课题库
- 精密温控节能设备市场发展预测和趋势分析
- 诊断血清生物制品商业机会挖掘与战略布局策略研究报告
- 计算器及货币专用设备市场需求与消费特点分析
- 玻璃器皿产品原材料供应与需求分析
- 风光制氢一体化项目可行性研究报告
- 第一章 有理数单元测试卷2024-2025学年人教版(2024)七年级数学上册
- 2024广东省林业局直属事业单位招聘19人历年(高频重点复习提升训练)共500题附带答案详解
- 生活垃圾焚烧厂检修规程征求意见稿
- 输变电工程施工质量验收统一表式附件1:线路工程填写示例
- 2023北京大兴区招聘社区工作者261人笔试历年典型考题及考点剖析附答案带详解
- 2024-2030年中国水果行业市场深度调研及前景趋势与投资研究报告
- 基金应知应会专项考试题库(证券类190题)附有答案
- 【宝钢股份环境会计信息披露问题探究6700字(论文)】
- 2024年红十字应急救护知识竞赛考试题库500题(含答案)
- 2024云南红河州个旧市城市发展集团限公司招聘工作人员2人重点基础提升难、易点模拟试题(共500题)附带答案详解
评论
0/150
提交评论