版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领
文档简介
《现代通信技术》课程主讲：曾庆珠通信技术专业教学资源库南京信息职业技术学院信息及其度量目录基本概念01度量信息的原则02度量信息的方法031.最佳接收准则消息中包含的有意义的内容。不同形式的消息，可以包含相同的信息。
信息信源的不肯定度就是信源提供的信息量。传输信息的多少用信息量表示。
信息量
2.度量信息的原则度量信息量的原则：
能度量任何消息，并与消息的种类无关；
度量方法应该与消息的重要程度无关；
消息中所含信息量和消息内容的不确定性有关；
如：一条概率几乎为零的消息（太阳将从西方升起）将会使人感到惊奇和意外，而一个必然事件（如太阳从东方升起），人们不足为奇，前一条比后一条包含了更多的信息。这表明：消息所表达的事件越不可能发生，信息量就越大。3.度量信息的方法
信息量是消息出现概率的函数；消息出现的概率越小，所包含的信息量就越大；设：
P(x)－消息发生的概率
I－消息中所含的信息量，则P(x)和I之间应该有如下关系：（1）I是P(x)的函数：I＝I[P(x)]（2）P(x)，I；P(x)
，I；（3）P(x)=1时，I
＝0；P(x)=0时，I
＝；－信息量的定义满足上述3条件的关系式如下：3.度量信息的方法若a=10，信息量的单位称为哈特莱(Hartley)若a=2，信息量的单位称为比特(bit)，可简记为b；上式中对数的底若a=e，信息量的单位称为奈特(nat)通常广泛使用的单位为比特，这时有：3.度量信息的方法[例]设二进制离散信源，数字0或1以相等的概率出现，试计算每个符号的信息量。解:二进制等概率时即二进制等概时，每个符号的信息量相等，为1bit。有3.度量信息的方法当各个符号出现的概率不相等时，计算消息的信息量，常用到平均信息量的概念。平均信息量定义：每个符号所含信息的平均值。用符号表示多进制时，设各符号出现的概率为：且则平均信息量（信息源的熵）为：3.度量信息的方法[例]一离散信源由“0”，“1”，“2”，“3”四个符符号组成，它们出现的概率分别为3/8，1/4，1/4，1/8，且每个符号的出现都是独立的。
试求某消息：201020130213001203210100321010023102002010312032100120210的信息量。[解]此消息中，“0”出现23次，“1”出现14次，“2”出现13次，“3”出现7次，共有57个符号，故该消息的信息量：每个符号的算术平均信息量为3.度量信息的方法
以上两种结果略有差别的原因在于，它们平均处理方法不同。前一种按算数平均的方法，结果可能存在误差。这种误差将随着消息序列中符号数的增加而减小。当消息序列较长时，
温馨提示
- 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
评论
0/150
提交评论