信息论与编码理论第1章 绪论_第1页
信息论与编码理论第1章 绪论_第2页
信息论与编码理论第1章 绪论_第3页
信息论与编码理论第1章 绪论_第4页
信息论与编码理论第1章 绪论_第5页
已阅读5页，还剩9页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

信息论与编码理论

第1章绪论作为信息科学的重要理论基础——信息论，是在长期的信息与通信工程实践中，与概率论、随机过程和数理统计等近代数学学科相结合而建立并发展起来的，它主要研究信息系统的有效性和可靠性。1.1信息信息首先被手机编码成无线电波发送出去，该无线电波是信息的载体，是实际存在的无线电“信号”。李四的手机接收到信号之后在屏幕上显示“某沿海地区发生了海啸”，这是一条“消息”。李四看到消息之后，会在大脑中形成自己的理解，有自己的感受，这是“信息”。例1-1信息、消息、信号的联系与区别信号消息的表现形式，是物理的。比如电信号、信号等。消息信息的载荷者；信号的具体内容。不是物理的。例如语言、文字、符号、图片等。信息包含在消息中，是通信系统中被传送的对象，消息被人的大脑所理解就形成了信息。1.1信息信息的概念——概率信息它是由美国数学家香农提出来的，故又称香农信息。用事件发生的概率衡量它的信息量事件发生的概率越大，它发生后提供的信息量越小。张三今天吃饭了事件发生的概率越小，一旦该事件发生，它提供的信息量就越大。某沿海地区发生了海啸概率信息是信息论研究的对象。1.1信息

1.1.2信息的性质信息是无形的。信息是可共享的。信息是无限的。是一种取之不尽、用之不竭的资源时空上是可扩展的：具有时效性；又会源源不断产生新信息；前后信息相连，会提供新信息。信息是可度量的。信息的度量是信息论的一个重要内容。1.2通信系统模型信息论又叫通信的数学理论。因此信息论的研究基础是通信系统模型。如何理解通信：将信息由一方传递给另一方，这个传递过程就是通信。通信系统模型1.2通信系统模型信源：产生消息的源泉。信宿：信息的接收者编码器：将消息变换成适合于信道传输的形式。信源编码：压缩密码编码：保证信息的安全性信道编码：纠错调制：物理的方法译码器：编码的逆变换1.2通信系统模型信道：将信号从发射端传到接收端的通道干扰源：信道中的噪声信源和信道是信息论中要研究的问题，而编码器和译码器是编码理论中要研究的问题。1.3离散与连续连续消息，消息的取值范围为区间[a,b]离散消息，消息的取值范围为集合{x1,x2,x3,x4,x5}离散时间消息在时间上是离散的，在幅度上是连续的1.4形成和发展鼻祖：香农（ClaudeShannon,1916-2001）1948.10，发表在《贝尔系统技术学报》上的论文《通信的数学理论》它是以编码理论为中心的信息传输理论，主要研究信息系统模型、信息的度量、信道容量、编码理论、网络编码等产生背景电报、电话、电视、传真、调频、扩频等通信成果和技术接连出现，一方面迫切需要产生一套理论来指导技术的进一步发展，另一方面为理论的产生积累了经验、奠定了基础。两次世界大战促进了现代密码学的形成，保密编码快速发展。因此1948年信息论的产生是通信技术和密码学发展的必然结果。1.5本章小结信息概率信息性质：无形的、可共享的、无限的、可度量的离散消息的值域取自于集合，连续消息的值域取自于区间1948年10月，香农在《贝

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论