信息论的发展历程以及应用现状概述(共5页)

1、精选优质文档-倾情为你奉上信息论的发展历程以及应用现状概述作者：张子言来源：中国科技纵横2019年第01期        摘 要：信息论是诞生于四十年代的一门重要的横断学科，在接近七十年的发展历程中，信息论已经由最初单纯对信息的研究到了如今对广义上的信息系统的研究。论文简要的概述了信息论发展的几个阶段以及学科的拓展，最后对信息论的未来进行了展望。        关键词：信息论;香农信息论;发展展望   &#

2、160;    中图分类号：TN911.2 文献标识码：A 文章编号：1671-2064（2019）01-0011-02        0 引言        在信息论出现之前，信息和消息是同义词。香农在他的观点中将“信息”概念的“语义”剥离出来，从而区别出了信息论的研究对象“信息”。信息论在发展的过程中，信息论的研究对象和研究领域不断拓宽，不断与其他学科产生交叉，最后形成了称之为信息科学的庞大的

3、研究体系。下面将对信息论发展中的几个阶段进行讨论。        1 信息论的出现背景与历史意义        1.1 信息论的出现背景        从20世纪20年代开始，如何准确、高效地传递信息已经得到普遍的关注，一些科学家，如奈奎斯特（H.Nyquist）和哈特莱（L.V.R.Hartley）等对信息开始了初步的研究，而在另一边，人们一方面深入研究了

4、精确传输通信符号问题;另一方面又对信息概念的描述问题作了探讨，对现代信息论的产生起了奠基作用。在第二次世界大战中，盟军破译德国情报部门的Enigma密码成了信息论诞生的直接诱因，“信息论之父”克劳德·艾尔伍德·香农（Claude Elwood Shannon）正是在研究密码学的报告中，首次提出了信息论的概念。在二战期间以及战后，雷达技术、电子技术、自动控制等技术的发展也迫切的需要一个能很好的解决这些技术中基本问题信息的处理和传递的理论的出现。1948年，香农在贝尔系统技术学报上发表的论文通信的数学理论，首次将通讯过程建立了数学模型，与其一年后发表的噪声中的通信一起构成了现代

5、信息论的理论基础，标志着信息理论的正式创立。可以说，二战是促使信息论成型的直接原因。        1.2 信息论出现的意义        信息论是一门用数理统计方法来研究信息的度量、传递和变换规律的科学。信息论的研究对象在于普遍的信息系统中存在的一般性规律，目的在于寻找信息的获取、处理、传输等方面的最优方案，手段是数理分析以及概率统计等。信息论中的“信息“是事物及其属性的集合，是信息系统的处理对象，以文字、图片、音頻、视频等作为载体，

6、剥离了“意义“的概念。信息论的主要目的就在于“在一点精确地或近似地复现在另一点所选取的信息”（香农）。        2 信息论概念的发展历程        2.1 狭义信息论        狭义信息论也称香农信息论，大体上是一门数学理论学科。狭义信息论主要通过数理统计的方法研究信息的传递和处理等问题，对象仅仅局限于信息本身。狭义信息论主要的研究方向在于研究

7、存在于通讯和控制系统中普遍存在着的信息传递的共同规律以及如何提高各信息传输系统的有效性和可靠性。其基础理论包括信源、信宿等，在此之上的研究重点为信息的传递与编码。因此，狭义信息论主要应用于通讯方面。        2.2 一般信息论        一般信息论是在狭义信息论上的拓展，包含了噪声理论、信号滤波与预测、调制与信息处理等问题和微弱信号监测理论等新理论的引入。一般信息论主要研究从噪声中去判决有用信号是否出现以及从噪声中去测量有用信

8、号的参数，运用现代数理统计的手段研究在有噪声的影响下，如何更优的传递和处理信息。一般信息论的研究是以广义的通讯系统为背景，对广义的通讯系统中存在的问题的理论研究，因此一般信息论仍是一门通讯学科。        2.3 广义信息论        广义信息论是对信息论的研究领域的拓展。广义信息论不仅包含了狭义信息论和一般信息论的内容，研究方向还包括所有与信息学相关的领域，包括心理学，遗传学，神经心理学，语义学等等。不同于狭义信息论和一般信息

9、论只研究信息中包含的客观因素，即“信息“本身，广义信息论的研究包括了信息论中包含的主观因素，包括信息的作用、价值等的分析与理解。广义信息论中的”信息“既有信息论基础研究中的客观因素，也有实际应用中的主观因素，也就使得广义信息论的用途大大拓宽，是目前最全面的信息理论。但是由于主观因素的复杂性和人类知识水平的限制，广义信息论中的许多问题还得不到解答，因此广义信息论也是目前正在发展的信息论的前沿。        2.4 信息论到信息科学       &

10、#160;信息科学是由老三论、计算机理论和人工智能理论等相互渗透、结合而成的一门综合性学科。信息科学可以较为精确的表述为：“信息科学是以信息作为主要研究对象、以信息的运动规律作为主要研究内容、以信息科学方法论作为主要研究方法、以扩展人的信息功能（特别是其中的智力功能）作为重要研究目标的一门科学”。区别于一般传统学科，信息科学最本质的特征即是以信息为基本研究对象，在这个基础上研究信息的运动规律和应用方法，目标是扩展人类对信息利用和处理的能力。信息科学在传统的信息论上进行了全方面的拓展：在深度上，从仅仅研究具有客观因素（即“信息”本身）的“信息”到研究加入了主观因素（信息的意义等）的“信息”;在广

11、度上，拓展了信息系统的概念范围，并把信息论运用到了广义的信息系统中。信息科学的出现是现代社会步入信息化的必然，也是社会信息化继续迈进的重要阶梯。        3 信息论与其他学科的关系        3.1 老三论        老三论，即系统论、控制论和信息论。在二十世纪四十年代末，随着战后科技的迅速发展，各个学科之间的区分越来越细致，与此同时，学科之间

12、相互渗透的现象越来越明显。在此期间的几乎同一时间，出现了系统论、控制论和信息论这三门边缘学科。它们的出现有力地推动了科学技术的推进和思想观念的发展，为现代多门新学科出现奠定了基础。三者的关系可以理解为：信息论是控制论的基础，二者共同成为系统论的研究方法。信息论在其中提供了最基础的理论部分。随着三者理论的发展和深入，它们相互间互相渗透，在发展中趋向综合、统一，有形成统一学科的趋势。        3.2 系统科学        系统科学是

13、研究系统的结构与功能关系、演化和调控规律的科学，是一门新兴的综合性、交叉性学科。广义的系统科学包括老三论、新三论（耗散结构论、协同论和突变论）、运筹学、泛系方法论、系统动力学、灰色系统论、系统工程学、计算机科学、人工智能学、知识工程学、传播学等一大批学科在内，是20世纪中叶以来发展最快的一门综合性科学。早在二十世纪60年代至70年代间，老三论之间相互融合，再加之新三论的出现，便有科学家预言有一种包含范围更加广泛，理论更加严密的系统工程的学科，这便是系统科学的雏形。信息论作为系统科学的基础之一参与了系统科学的构成。       

14、; 3.3 信息论在其它学科的应用        3.3.1 密码学        在前文也提到了：香农正是在研究密码学的报告中提出了信息论的概念。密码学研究的基础内容，也是将信息从一处向另一处传递，但是在中间加上了“密钥”来进行保护。例如：通过密钥将“天空”转化为“sky”，信息论负责将“sky”这三个信息从一处传输到另一处，在另一处再通过密钥将“sky”翻译成“天空”。可以这么说，信息论是密码学的理论基础，是现代密码学的重

15、要标志。        3.3.2 生物医学        在DNA的结构探索时，人们从信息论的角度提出了核苷酸的三联体概念，即有三个碱基组成一个密码子编码蛋白质，后来通过科学实验证明了理论的正确。在应用医学中，任何系统都有一个相应的能描述它的信息，通过信息论相关理论的处理得出定量的描述。例如对内环境稳态的定量描述，对癌症扩散程度的描述等，都需要信息论对相关数据（也就是信息）的处理。    

16、60;   3.3.3 光学信息论        1955年意大利科学家G.Toraldo di Francia将信息论引入光学领域，主要用于研究光学成像的图像或物体的信息如何度量，信息量经过光学系统如何传递等等问题，从信息论的角度对光学问题进行了讨论，减少了光学系统在传递光学信息时的误差。        3.3.4 量子信息论      

17、0; 在香农提出了来源于热力学的熵概念的信息熵概念后，许多物理学家开始着手研究信息熵与热熵的关系，得出结论：信息量的增加意味着热熵的减少。1993年，Schumacher在此基础上推出了一个初步的量子信源编码理论，并随后得到了证实。现在的量子信息论主要研究量子信源编码、量子信道容量和量子信道编码三个方向。量子信息论现在仍处于起步状态，有大量的问题亟需更深入的信息理论的解答。        4 信息论发展前景展望        

18、信息论的本质是一套数学的理论，但在随后的發展中，研究的范围已经远远地超过了当初香农定义的范围，正如意大利科学家朗高在信息论：新的趋势与未决问题中所说的：“曾被香农在他的文献中所审慎排除的东西，现在又被包含了进来。”在未来，信息论的应用价值应该会被更多的学科所重视，研究的领域可能会得到进一步的拓广。同时，信息论还可能会与更多的学科交叉，形成知识体系的相互贯通，信息科学的理论能得到进一步完善。一门研究信息系统的综合性、横断性学科正在发展的道路上。        5 结语        信息论从最初的理论学科发展到了现在的应用学科，突破的原来狭义的定义范围。信息论的发展可以说是社会步入信息化的必然趋势，也是推动社会信息化走的更远的有力助推剂。信息论发展历程，也是人们对信息认识和应用的进程，对于更好的认识现代社会的信息化是大有裨益的。      &#