勘察仪器与原理第二章第1~2节ok

1、第二章测量仪器的基本理论第二章测量仪器的基本理论勘勘 查查 仪仪 器器 原原 理理教师：教师： 王旭王旭Email：第二章测量仪器的基本理论第二章测量仪器的基本理论第二章第二章 测量仪器的基本测量仪器的基本理论理论第二章测量仪器的基本理论第二章测量仪器的基本理论 由于测量仪器重要且主要组成部分为数由于测量仪器重要且主要组成部分为数据采集系统，而数据采集技术是信息科学的据采集系统，而数据采集技术是信息科学的一个重要组成部分，所以本章第一节就从信一个重要组成部分，所以本章第一节就从信息论基础知识学起。息论基础知识学起。第二章测量仪器的基本理论第二章测量仪器的基本理论第一节第一节信息的概念信息的概念

2、 信息的信息的计量方法计量方法第二章测量仪器的基本理论第二章测量仪器的基本理论 现代科学研究表明，物质流、能量流、现代科学研究表明，物质流、能量流、信息流是事物之间联系的三种载体形式。没信息流是事物之间联系的三种载体形式。没有物质的世界是虚无的世界，没有能源的世有物质的世界是虚无的世界，没有能源的世界是死寂的世界，没有信息的世界是混乱的界是死寂的世界，没有信息的世界是混乱的世界。信息与能源、材料并称为现代社会的世界。信息与能源、材料并称为现代社会的三大基本资源。随着人类对信息的认识和利三大基本资源。随着人类对信息的认识和利用日趋深入和广泛，信息资源的地位与作用用日趋深入和广泛，信息资源的地位与

3、作用日益凸显，信息已成为社会发展中的一个主日益凸显，信息已成为社会发展中的一个主要因素，是客观世界不可缺的要因素，是客观世界不可缺的重要资源。重要资源。第二章测量仪器的基本理论第二章测量仪器的基本理论2.1.12.1.1信息的概念信息的概念一、信息的定义：一、信息的定义： 人类从诞生那天起，就生人类从诞生那天起，就生活在信息的海洋之中。原始人的活在信息的海洋之中。原始人的“结绳记事结绳记事”、我国古代的、我国古代的“烽烽火告警火告警”、语言和文字则是人类、语言和文字则是人类社会用来表达和传递信息的最根社会用来表达和传递信息的最根本的工具。近代，电子计算机的本的工具。近代，电子计算机的迅猛发展和

4、广泛应用，大大提高迅猛发展和广泛应用，大大提高了人们处理加工信息，存储信息了人们处理加工信息，存储信息及控制管理信息的能力。及控制管理信息的能力。第二章测量仪器的基本理论第二章测量仪器的基本理论 在自然界，宇宙中的射电源在自然界，宇宙中的射电源不停地向宇宙空间发射电波，不停地向宇宙空间发射电波，这种电波就是射电源存在的信这种电波就是射电源存在的信息；花卉的应季荣衰就是寒暑息；花卉的应季荣衰就是寒暑交替的信息。人类对世界的认交替的信息。人类对世界的认知和改造过程就是获取信息、知和改造过程就是获取信息、加工信息和发送信息的过程。加工信息和发送信息的过程。人们通过电视、电话、报刊等人们通过电视、电话

5、、报刊等各种媒体，每时都在获取、加各种媒体，每时都在获取、加工、传递和利用着大量的信息，工、传递和利用着大量的信息，如通过天气预报获取气象信息，如通过天气预报获取气象信息，可以合理地安排生产、生活。可以合理地安排生产、生活。第二章测量仪器的基本理论第二章测量仪器的基本理论 在行政工作中，看材料、学文件是获取在行政工作中，看材料、学文件是获取信息，作决策、批文件是处理信息，作指信息，作决策、批文件是处理信息，作指示是传递信息。可见，信息来源于客观世示是传递信息。可见，信息来源于客观世界，范围广大，具有一定的利用价值，可界，范围广大，具有一定的利用价值，可以通过载体为人们所获知，用来指导人类以通过

6、载体为人们所获知，用来指导人类认识世界、改造世界。在当今信息社会，认识世界、改造世界。在当今信息社会，人们在各种生产、科研、社会活动中，无人们在各种生产、科研、社会活动中，无处不涉及到信息的交换和利用。处不涉及到信息的交换和利用。 第二章测量仪器的基本理论第二章测量仪器的基本理论 对于信息的含义，人们从不同的角度做出对于信息的含义，人们从不同的角度做出了多种描述：了多种描述：“信息就是谈论的事情、新闻和信息就是谈论的事情、新闻和知识知识”( (牛津辞典牛津辞典) )；“信息，就是在观察信息，就是在观察或研究过程中获得的数据、新闻和知或研究过程中获得的数据、新闻和知识识”( (韦氏字典韦氏字典)

7、 )；“信息是所观察事物的信息是所观察事物的知识知识”( (广辞苑广辞苑) )；“信息是通信系统传输信息是通信系统传输和处理的对象，泛指消息和信号的具体内容和和处理的对象，泛指消息和信号的具体内容和意义，通常需通过处理和分析来提取意义，通常需通过处理和分析来提取” ” ( (辞辞海海19891989年版年版) )。第二章测量仪器的基本理论第二章测量仪器的基本理论 众说纷纭。那么，到底什么是信息呢？众说纷纭。那么，到底什么是信息呢？在现代信息理论形成之前，信息一直被看作在现代信息理论形成之前，信息一直被看作是通信的消息的同义词，没有赋予它严格的是通信的消息的同义词，没有赋予它严格的科学定义；在日

8、常生活中，信息常常被认为科学定义；在日常生活中，信息常常被认为就是就是“消息消息”、“情报情报”、“情况情况”等。的等。的确，信息与它们之间有着密切联系。在信息确，信息与它们之间有着密切联系。在信息论中，信息和消息是紧密相关联的两个不同论中，信息和消息是紧密相关联的两个不同概念。概念。第二章测量仪器的基本理论第二章测量仪器的基本理论 同样一个消息，比如一张当日报纸，对同样一个消息，比如一张当日报纸，对于不同的人从中可获得的信息是不一样的；于不同的人从中可获得的信息是不一样的；同样的天气预报同样的天气预报“明天有雨明天有雨”，对于干旱地，对于干旱地区和雨量充沛地区来说其信息量不一样（对区和雨量充

9、沛地区来说其信息量不一样（对充沛地区要防涝）；一封书信，对于收信者充沛地区要防涝）；一封书信，对于收信者是家书抵万金，但对旁人可能是废纸一张。是家书抵万金，但对旁人可能是废纸一张。所以所以信息不等同于消息信息不等同于消息。第二章测量仪器的基本理论第二章测量仪器的基本理论（消息的定义是这样的：用文字、符号、数据、（消息的定义是这样的：用文字、符号、数据、语言、音符、图片、图像等能够被人们感觉器语言、音符、图片、图像等能够被人们感觉器官所感知的形式，把客观物质运动和主观思维官所感知的形式，把客观物质运动和主观思维活动的状态表达出来就成为消息）可见，消息活动的状态表达出来就成为消息）可见，消息中中包

10、含信息包含信息，是信息的，是信息的载体载体，得到消息，从而，得到消息，从而获得信息。同一则信息可用不同的消息形式来获得信息。同一则信息可用不同的消息形式来载荷，如，球赛进展情况可用电视图像、广播载荷，如，球赛进展情况可用电视图像、广播语言、报纸文字等不同消息来表述，而一则消语言、报纸文字等不同消息来表述，而一则消息，也可荷载不同的信息，它可能包含非常息，也可荷载不同的信息，它可能包含非常第二章测量仪器的基本理论第二章测量仪器的基本理论丰富的信息，也可能只包含很少的信息，因丰富的信息，也可能只包含很少的信息，因此，信息与消息既有区别又有联系。此，信息与消息既有区别又有联系。 信息也不等同于情报信

11、息也不等同于情报。情报往往是军事。情报往往是军事学、文献学方面的习惯用词，情报是人们对学、文献学方面的习惯用词，情报是人们对于某个特定对象所见、所闻、所理解而产生于某个特定对象所见、所闻、所理解而产生的知识，可见情报的含义要比信息窄得多，的知识，可见情报的含义要比信息窄得多，它只是一类特定的信息，不是信息的全体。它只是一类特定的信息，不是信息的全体。第二章测量仪器的基本理论第二章测量仪器的基本理论 信息也不等同于知识信息也不等同于知识。知识是以实践为。知识是以实践为基础，通过抽象思维，对客观事物规定性的基础，通过抽象思维，对客观事物规定性的概括，知识信息只是人类社会中客观存在的概括，知识信息只

12、是人类社会中客观存在的部分信息，所以知识是信息，但不等于信息部分信息，所以知识是信息，但不等于信息的全体。的全体。 信息的含义要深刻广泛很多。信息不只信息的含义要深刻广泛很多。信息不只是人类所独有，一切生物都有它独自接收、是人类所独有，一切生物都有它独自接收、交换信息的方式。所谓禽有禽言，兽有兽语。交换信息的方式。所谓禽有禽言，兽有兽语。因此，信息是一种奇妙的东西，它有别于物因此，信息是一种奇妙的东西，它有别于物质和能量。质和能量。第二章测量仪器的基本理论第二章测量仪器的基本理论 目前，社会上流行一些提法，信息、材目前，社会上流行一些提法，信息、材料、能源是现代科学的三大支柱，信息、物料、能源

13、是现代科学的三大支柱，信息、物质、能量构成一切系统的三大要素。质、能量构成一切系统的三大要素。第二章测量仪器的基本理论第二章测量仪器的基本理论 关于信息的定义，国内外有不下百余关于信息的定义，国内外有不下百余种流行的说法，它们都是从不同的侧面和种流行的说法，它们都是从不同的侧面和不同的层次来揭示信息的本质的。从本质不同的层次来揭示信息的本质的。从本质上说，信息是反映现实世界的上说，信息是反映现实世界的运动、发展运动、发展和变化状态及规律的信号与消息和变化状态及规律的信号与消息。所以，。所以，信息的定义给出以下两种。信息的定义给出以下两种。 第二章测量仪器的基本理论第二章测量仪器的基本理论1、狭

14、义信息论、狭义信息论（由美国（由美国数学家香农数学家香农创立）创立）是研究在通讯系统中普遍存在着的信息传是研究在通讯系统中普遍存在着的信息传递的共同规律、以及如何提高各信息传输递的共同规律、以及如何提高各信息传输系统的有效性和可靠性的一门通讯理论。系统的有效性和可靠性的一门通讯理论。 香农信息定义：信息是事物运动状态香农信息定义：信息是事物运动状态或存在方式的不确定性的描述。或存在方式的不确定性的描述。第二章测量仪器的基本理论第二章测量仪器的基本理论2、广义信息论、广义信息论被理解为运用狭义信息论的观点来研究被理解为运用狭义信息论的观点来研究一切一切问题问题的理论。的理论。广义信息定义：信息就

15、是事物运动的状广义信息定义：信息就是事物运动的状态和方式。（就是关于事物运动的千差态和方式。（就是关于事物运动的千差万别的状态和方式的知识。）万别的状态和方式的知识。）第二章测量仪器的基本理论第二章测量仪器的基本理论下面我们分析一下这两个定义：下面我们分析一下这两个定义： 香农对信息作出了科学的定义，并进行香农对信息作出了科学的定义，并进行了定性、定量的描述。香农把各种通信系统了定性、定量的描述。香农把各种通信系统（电报、电话、广播、电视、雷达、遥测等）（电报、电话、广播、电视、雷达、遥测等）概括成通信系统模型如图所示：概括成通信系统模型如图所示：信源信源编码器编码器信道信道解码器解码器信宿信

16、宿噪声噪声消息消息信号信号信号噪声信号噪声消息消息第二章测量仪器的基本理论第二章测量仪器的基本理论 在通信系统中，形式上传输的是消息，但在通信系统中，形式上传输的是消息，但实质上传输的是信息，消息只是表达信息的工实质上传输的是信息，消息只是表达信息的工具，具，信息较抽象，消息较具体信息较抽象，消息较具体。但消息传递过。但消息传递过程中一个最基本、最普通的特点是：程中一个最基本、最普通的特点是：收信者在收信者在收到消息以前是不知道消息的具体内容。收到消息以前是不知道消息的具体内容。通信通信的结果是消除或部分消除不确定性，从而获得的结果是消除或部分消除不确定性，从而获得信息。比如在电报通信中，收报

17、人在收到报文信息。比如在电报通信中，收报人在收到报文前，首先他不知何人会给他发电报，而且也不前，首先他不知何人会给他发电报，而且也不知道将要告诉他什么事情，收信者在看到报文知道将要告诉他什么事情，收信者在看到报文第二章测量仪器的基本理论第二章测量仪器的基本理论前，存在不确定性，只要报文清楚，在传递前，存在不确定性，只要报文清楚，在传递过程中没有差错，那么他收到报文后，他原过程中没有差错，那么他收到报文后，他原来所有的不确定性都没有了，他就获得了所来所有的不确定性都没有了，他就获得了所有信息；若在传递过程中存在干扰，使报文有信息；若在传递过程中存在干扰，使报文完全模糊不清，收信者收到后，原先所具

18、有完全模糊不清，收信者收到后，原先所具有的不确定性一点也没减少，他就没有获得信的不确定性一点也没减少，他就没有获得信息；若报文发生部分差错，使收信者原先的息；若报文发生部分差错，使收信者原先的不确定性减少了一些，但没有全部消除，他不确定性减少了一些，但没有全部消除，他就获得了一部分信息。所以，通信过程是一就获得了一部分信息。所以，通信过程是一第二章测量仪器的基本理论第二章测量仪器的基本理论种消除不确定性的过程，不确定性的消除，种消除不确定性的过程，不确定性的消除，就获得了信息，原先的不确定性消除的越多，就获得了信息，原先的不确定性消除的越多，获得的信息就越多。获得的信息就越多。 香农的信息定义

19、和度量是科学的，是反香农的信息定义和度量是科学的，是反映信息的某些本质，但有其映信息的某些本质，但有其局限性局限性，存在一，存在一些缺陷，它的适用范围受到严重的限制。根些缺陷，它的适用范围受到严重的限制。根据香农的信息定义，同样一个消息对任何收据香农的信息定义，同样一个消息对任何收信者来说，所得信息量都是一样的，信者来说，所得信息量都是一样的， （前（前面的例子，家信，对任何收信者来说所得面的例子，家信，对任何收信者来说所得第二章测量仪器的基本理论第二章测量仪器的基本理论信息量是不一样的）所以，香农的信息定义信息量是不一样的）所以，香农的信息定义没有考虑收信者的没有考虑收信者的主观特性和主观意

20、义，也主观特性和主观意义，也撇开了信息的具体含义、具体用途、重要程撇开了信息的具体含义、具体用途、重要程度和引起后果等因素度和引起后果等因素。这就与实际情况不完。这就与实际情况不完全一致。当得到同一消息后，对不同的收信全一致。当得到同一消息后，对不同的收信者来说常会引起不同的感情、不同的关心程者来说常会引起不同的感情、不同的关心程度、不同的价值，这些都应认为是获得了不度、不同的价值，这些都应认为是获得了不同的信息。同的信息。第二章测量仪器的基本理论第二章测量仪器的基本理论 如，甲乙两人同去听一段音乐，若甲缺乏欣如，甲乙两人同去听一段音乐，若甲缺乏欣赏音乐的起码知识和必要训练的话，这种信息就不赏

21、音乐的起码知识和必要训练的话，这种信息就不能发生什么作用；若乙是一位训练有素的音乐家，能发生什么作用；若乙是一位训练有素的音乐家，那么他将从这一段音乐中获得大量信息。因此，信那么他将从这一段音乐中获得大量信息。因此，信息有很强的息有很强的主观性和实用性主观性和实用性。所以香农信息定义是。所以香农信息定义是狭义信息定义。狭义信息定义。第二章测量仪器的基本理论第二章测量仪器的基本理论 再说说广义信息定义。再说说广义信息定义。“事物事物”是广是广义的事物，既包括外部世界的物质客体，义的事物，既包括外部世界的物质客体，也包括主观世界的精神现象。也包括主观世界的精神现象。“运动运动”泛泛指一切意义上的变

22、化，包括物理的、化学指一切意义上的变化，包括物理的、化学的、生物的、大脑思维的和社会的运动。的、生物的、大脑思维的和社会的运动。“状态状态”是事物运动在空间上所展示的性是事物运动在空间上所展示的性状和态势。状和态势。 “ “方式方式”指事物运动在时间上指事物运动在时间上所呈现的过程和规律。所呈现的过程和规律。第二章测量仪器的基本理论第二章测量仪器的基本理论 的确，宇宙万物，无时不在运动，只要的确，宇宙万物，无时不在运动，只要有运动的事物，就会产生各种各样事物运动有运动的事物，就会产生各种各样事物运动的状态和方式，就会产生信息，可见，信息的状态和方式，就会产生信息，可见，信息是普遍存在的。显然，

23、广义信息定义远远超是普遍存在的。显然，广义信息定义远远超出了原来通信领域的范畴，但由于人们对信出了原来通信领域的范畴，但由于人们对信息的本质认识还不够充分，所以，国际上尚息的本质认识还不够充分，所以，国际上尚未形成一个普遍公认的、完整的、确切的信未形成一个普遍公认的、完整的、确切的信息定义。为此，有关信息的定义和其测度的息定义。为此，有关信息的定义和其测度的研究还在不断深入，随着人们对信息这一研究还在不断深入，随着人们对信息这一第二章测量仪器的基本理论第二章测量仪器的基本理论概念的不断深入研究，将会得出更合理、更概念的不断深入研究，将会得出更合理、更确切的信息的定义和测度，达到彻底揭示信确切的

24、信息的定义和测度，达到彻底揭示信息的本质，全面和准确地把握信息。息的本质，全面和准确地把握信息。 广义信息论不仅包括狭义信息论，而且广义信息论不仅包括狭义信息论，而且包括所有与信息有关的自然和社会领域，如，包括所有与信息有关的自然和社会领域，如，计算机翻译、心理学、遗传学、语言学等，计算机翻译、心理学、遗传学、语言学等，也包括社会学中有关信息的问题。也包括社会学中有关信息的问题。第二章测量仪器的基本理论第二章测量仪器的基本理论二、信息的特征二、信息的特征1、信息与载体的不可分性、信息与载体的不可分性 信息不是物质运动本身，而是物质的运动变化及相互信息不是物质运动本身，而是物质的运动变化及相互作

25、用、相互联系的一种特定表现形式，是以物质载体为媒作用、相互联系的一种特定表现形式，是以物质载体为媒介的物质运动状态的再现。世界上没有游离于物质载体之介的物质运动状态的再现。世界上没有游离于物质载体之外的信息，而载体也不能决定和影响信息所要表达的内容。外的信息，而载体也不能决定和影响信息所要表达的内容。如邮一封信，信息是人的思维通过文字这种载体表达出来，如邮一封信，信息是人的思维通过文字这种载体表达出来，再通过信封、邮票、运输工具等传递，达到将思维传递给再通过信封、邮票、运输工具等传递，达到将思维传递给对方的目的的信的内容。可见，信息离开物质载体就无法对方的目的的信的内容。可见，信息离开物质载体

26、就无法传递，而信息的内容又与物质载体无关。传递，而信息的内容又与物质载体无关。第二章测量仪器的基本理论第二章测量仪器的基本理论2、信息的客观性、信息的客观性 信息不是物质，只是物质的产物，即先信息不是物质，只是物质的产物，即先有信息反映的对象，然后才有信息。无论借有信息反映的对象，然后才有信息。无论借助于何种载体，信息都不会改变其所反映对助于何种载体，信息都不会改变其所反映对象的属性，因此，信息具有客观性。如气象象的属性，因此，信息具有客观性。如气象预报无论是通过广播、电视、报纸，还是通预报无论是通过广播、电视、报纸，还是通过其他别的载体，反映的都是自然世界的客过其他别的载体，反映的都是自然世

27、界的客观变化。观变化。 第二章测量仪器的基本理论第二章测量仪器的基本理论3、信息的价值性、信息的价值性 信息是一种特殊资源，具有使用价值。信息是一种特殊资源，具有使用价值。收集、加工、传递信息的目的在于提高活动收集、加工、传递信息的目的在于提高活动效益。信息的价值性有赖于对信息进行正确效益。信息的价值性有赖于对信息进行正确的选择、理解和使用，只有在与某种有目的的选择、理解和使用，只有在与某种有目的的活动相联系时，其价值才能体现出来。的活动相联系时，其价值才能体现出来。 第二章测量仪器的基本理论第二章测量仪器的基本理论4、信息的时效性信息的时效性 信息的时效性是信息的重要特征，是指信息从信息的时

28、效性是信息的重要特征，是指信息从发出、接收到进入利用的时间间隔及其效率。发出、接收到进入利用的时间间隔及其效率。 信息的时效性与信息的价值性密不可分。任何信息的时效性与信息的价值性密不可分。任何有价值的信息，都是在一定的条件下起作用的，如有价值的信息，都是在一定的条件下起作用的，如时间、地点、事件等，离开一定的条件，信息将会时间、地点、事件等，离开一定的条件，信息将会失去应有的价值。从某种意义上讲，信息的价值取失去应有的价值。从某种意义上讲，信息的价值取决于信息的时效性，特别是反映客观事物某种发展决于信息的时效性，特别是反映客观事物某种发展趋势、动向的信息，时效性越强，信息的价值越大，趋势、动

29、向的信息，时效性越强，信息的价值越大，反之，信息就会失去作用。因此，信息价值的大小反之，信息就会失去作用。因此，信息价值的大小取决于信息的时效性。取决于信息的时效性。 第二章测量仪器的基本理论第二章测量仪器的基本理论5、信息的可扩充与可压缩性、信息的可扩充与可压缩性 在一切领域都会产生信息，随着时间的在一切领域都会产生信息，随着时间的推移和事物的运动、发展、变化，信息经过推移和事物的运动、发展、变化，信息经过不断地开发利用，会扩充、增值，成为取之不断地开发利用，会扩充、增值，成为取之不尽、用之不竭的资源。同时，经过加工整不尽、用之不竭的资源。同时，经过加工整理，又可使之精练、浓缩。信息的可压缩

30、性理，又可使之精练、浓缩。信息的可压缩性还表现在信息贮存上，贮存的形式多种多样，还表现在信息贮存上，贮存的形式多种多样，如人和动物的记忆就是其中的一种。另外，如人和动物的记忆就是其中的一种。另外，文字、摄影、录音、录像、计算机存储器等。文字、摄影、录音、录像、计算机存储器等。 第二章测量仪器的基本理论第二章测量仪器的基本理论6、信息的可替代性、信息的可替代性 信息的可替代性有两方面含义：一方面信息的可替代性有两方面含义：一方面是指信息的物质载体形态是可以相互替代的，是指信息的物质载体形态是可以相互替代的，如语言信息经过记录变成文字信息，就是文如语言信息经过记录变成文字信息，就是文字信息替代了语

31、言信息；另一方面是指信息字信息替代了语言信息；另一方面是指信息的利用可以替代资本、劳动力和物质资料，的利用可以替代资本、劳动力和物质资料，这一点在经济学上的作用尤其显著。管理学这一点在经济学上的作用尤其显著。管理学认为，信息是管理的重要手段和工具，正确认为，信息是管理的重要手段和工具，正确运用信息是提高管理水平的重要环节，利用运用信息是提高管理水平的重要环节，利用好信息，就可以代替资本和物质的投入。好信息，就可以代替资本和物质的投入。第二章测量仪器的基本理论第二章测量仪器的基本理论7 、信息的可传递性与可扩散性、信息的可传递性与可扩散性 信息的可传递性是指信息可以借助一定的物质信息的可传递性是

32、指信息可以借助一定的物质载体传递给感受者、接收者的特性。信息可以进行载体传递给感受者、接收者的特性。信息可以进行空间和时间上的传输，传输速度越快，效用就越大。空间和时间上的传输，传输速度越快，效用就越大。科技的发展，使传播信息的网络覆盖面越来越大，科技的发展，使传播信息的网络覆盖面越来越大，从而使信息得以迅速扩散开来。信息的可扩散性与从而使信息得以迅速扩散开来。信息的可扩散性与信息传递技术的发展密切相关，信息的扩散速度与信息传递技术的发展密切相关，信息的扩散速度与传递技术的发展成正比，即传递技术发展得越快，传递技术的发展成正比，即传递技术发展得越快，信息扩散的速度越快。随着信息传播手段和技术的

33、信息扩散的速度越快。随着信息传播手段和技术的提高，信息的扩散性已表现得越来越突出。提高，信息的扩散性已表现得越来越突出。 第二章测量仪器的基本理论第二章测量仪器的基本理论 8、信息的无形性与无损耗性、信息的无形性与无损耗性 信息的无形性是指信息看不见，摸不着，不占信息的无形性是指信息看不见，摸不着，不占空间，容易积累。信息量的大小并不取决于存放它空间，容易积累。信息量的大小并不取决于存放它们的物质空间的大小，如人的大脑容量无太大差别，们的物质空间的大小，如人的大脑容量无太大差别，但记忆、存储、处理信息量的差别却是巨大的。信但记忆、存储、处理信息量的差别却是巨大的。信息与其他资源相比，更容易积累

34、、加工和处理。只息与其他资源相比，更容易积累、加工和处理。只要用心收集，就可以获取信息、占有信息、积累信要用心收集，就可以获取信息、占有信息、积累信息和加工处理信息，而不会受空间条件过多的制约，息和加工处理信息，而不会受空间条件过多的制约，如利用现代信息技术，用几张光盘即可储存下一个如利用现代信息技术，用几张光盘即可储存下一个大型图书馆。大型图书馆。第二章测量仪器的基本理论第二章测量仪器的基本理论 信息的无形性，为掌握信息、积累信息信息的无形性，为掌握信息、积累信息和利用信息提供了较大的便利。和利用信息提供了较大的便利。 信息的无损耗性是指信息不是物质实体，信息的无损耗性是指信息不是物质实体，

35、在使用的过程中没有物质损耗，信息本身的在使用的过程中没有物质损耗，信息本身的损耗充其量只是一种时间上的损耗。信息是损耗充其量只是一种时间上的损耗。信息是可以重复使用的资源，只要其内容没有过时，可以重复使用的资源，只要其内容没有过时，就一直可以利用。某些信息在使用过程中还就一直可以利用。某些信息在使用过程中还会产生新的补充信息，或发生会产生新的补充信息，或发生“增值增值”现象，现象，甚至有些历史信息虽然已过时，但在许多领甚至有些历史信息虽然已过时，但在许多领域仍有利用的价值。域仍有利用的价值。 第二章测量仪器的基本理论第二章测量仪器的基本理论9、信息的可开发性、信息的可开发性 虽然信息是一种客观

36、存在，但它的质量虽然信息是一种客观存在，但它的质量高低、适用程度和效用大小则取决于信息资高低、适用程度和效用大小则取决于信息资源的利用度，取决于对无效信息的过滤、有源的利用度，取决于对无效信息的过滤、有效信息的获取以及提炼信息的水平等。经过效信息的获取以及提炼信息的水平等。经过筛选、整理、概括、归纳、扩充，可以使信筛选、整理、概括、归纳、扩充，可以使信息更精练，含量更丰富，价值更高。息更精练，含量更丰富，价值更高。 第二章测量仪器的基本理论第二章测量仪器的基本理论10、信息的共享性、信息的共享性 信息能够同时为多个使用者所利用，信信息能够同时为多个使用者所利用，信息扩散后，信息载体本身所含的信

37、息量并没息扩散后，信息载体本身所含的信息量并没有减少。这是信息与实物、能量等的根本区有减少。这是信息与实物、能量等的根本区别。通过传递，信息迅速为大多数人接收、别。通过传递，信息迅速为大多数人接收、掌握和利用，并会产生出巨大的社会效应。掌握和利用，并会产生出巨大的社会效应。正因为信息的这一特性，社会才为保护信息正因为信息的这一特性，社会才为保护信息开发者的合法权益，补偿其在开发整理某些开发者的合法权益，补偿其在开发整理某些信息过程中付出的代价，制定了专利制度和信息过程中付出的代价，制定了专利制度和知识产权制度。知识产权制度。第二章测量仪器的基本理论第二章测量仪器的基本理论三、信息技术三、信息技

38、术能够扩展人的信息功能的技术叫信息技术能够扩展人的信息功能的技术叫信息技术（information technology）。1、感测技术（信息获取技术）、感测技术（信息获取技术）：感觉器官功：感觉器官功能的延长。包括传感技术和测量技术，它的能的延长。包括传感技术和测量技术，它的功能是使人能更好地从外部世界获取信息，功能是使人能更好地从外部世界获取信息，包括信息的识别、检测、提取和变换。包括信息的识别、检测、提取和变换。2、通信技术（信息传递技术）、通信技术（信息传递技术）：传导神经网：传导神经网络功能的延长。包含信息的传递、变换和分络功能的延长。包含信息的传递、变换和分配。配。第二章测量仪器的

39、基本理论第二章测量仪器的基本理论3、信息处理技术、信息处理技术：思维器官功能的延长。：思维器官功能的延长。包括信息的存储、分析、控制和产生新信息。包括信息的存储、分析、控制和产生新信息。4、控制技术（信息利用技术）、控制技术（信息利用技术）：效应器官：效应器官功能的延长。其作用是根据输入的指令（决功能的延长。其作用是根据输入的指令（决策信息）对外界事物的运动状态实施干预，策信息）对外界事物的运动状态实施干预，即信息施效。即信息施效。 5、信息技术的支撑技术、信息技术的支撑技术：指信息技术的实：指信息技术的实现手段所涉及的技术。当前，信息技术的支现手段所涉及的技术。当前，信息技术的支撑技术主要是

40、电子技术，特别是微电子技术，撑技术主要是电子技术，特别是微电子技术，激光技术、生物技术等等。另外还有机械、激光技术、生物技术等等。另外还有机械、精密机械等。精密机械等。第二章测量仪器的基本理论第二章测量仪器的基本理论 以上几个信息技术是一整体，其中通信以上几个信息技术是一整体，其中通信技术与计算机技术是核心，感测技术和控制技术与计算机技术是核心，感测技术和控制技术是核心与外部世界的接口。通过逻辑的技术是核心与外部世界的接口。通过逻辑的综合分解可以形成各种各样的信息技术应用综合分解可以形成各种各样的信息技术应用系统。如管理信息系统、自动护理系统、医系统。如管理信息系统、自动护理系统、医疗专家系统

41、、远程医疗会诊系统等等。疗专家系统、远程医疗会诊系统等等。| 信息技术是现代高科技技术中的代表性信息技术是现代高科技技术中的代表性技术，是人类文明的技术基础，也是人类开技术，是人类文明的技术基础，也是人类开发利用信息资源的主要手段，即信息管理的发利用信息资源的主要手段，即信息管理的技术基础。技术基础。 第二章测量仪器的基本理论第二章测量仪器的基本理论四、信息论简史四、信息论简史 20世纪中叶，信息论、控制论、系统论世纪中叶，信息论、控制论、系统论等标新立异的新理论相继问世，有力地等标新立异的新理论相继问世，有力地“晃动晃动”着传统的科学框架。着传统的科学框架。 信息论产生于信息论产生于20世纪

42、世纪40年代末，它的主要年代末，它的主要创立者是美国的数学家香农（创立者是美国的数学家香农（Shannon）和维）和维纳。最初信息论仅局限予通讯领域，是一门应纳。最初信息论仅局限予通讯领域，是一门应用概率论和数理统计方法研究信息处理和信息用概率论和数理统计方法研究信息处理和信息传递的科学。它的基本内容是研究信源、信宿、传递的科学。它的基本内容是研究信源、信宿、信道及编码问题。后来信息论作为控制信道及编码问题。后来信息论作为控制第二章测量仪器的基本理论第二章测量仪器的基本理论论的基础，它研究的是通讯和控制系统中普论的基础，它研究的是通讯和控制系统中普遍存在着的信息传递的共同规律，同时也是遍存在着

43、的信息传递的共同规律，同时也是研究如何提高信息传输系统的有效性和可靠研究如何提高信息传输系统的有效性和可靠性的通讯理论。随着现代科学发展的综合化、性的通讯理论。随着现代科学发展的综合化、整体化趋势，信息概念及其方法远远超出通整体化趋势，信息概念及其方法远远超出通讯领域，已经推广和应用于其他学科，如生讯领域，已经推广和应用于其他学科，如生物学、医学、仿生学、语言学、管理科学等，物学、医学、仿生学、语言学、管理科学等，从而使局限于通讯领域的信息理论发展成一从而使局限于通讯领域的信息理论发展成一种广义信息论种广义信息论 信息科学。信息科学。第二章测量仪器的基本理论第二章测量仪器的基本理论克劳德克劳德

44、香农是一位美国数学工程师，作香农是一位美国数学工程师，作为信息论的创始人，人们认为他是为信息论的创始人，人们认为他是20世世纪最伟大的科学家之一。他在通信技术纪最伟大的科学家之一。他在通信技术与工程方面的创造性工作，为计算机与与工程方面的创造性工作，为计算机与远程通信奠定了坚实的理论基础。人们远程通信奠定了坚实的理论基础。人们尊崇香农为信息论及数字通信时代的奠尊崇香农为信息论及数字通信时代的奠基之父。确实，他对人类的贡献超过了基之父。确实，他对人类的贡献超过了一般的诺贝尔获奖者。回顾一般的诺贝尔获奖者。回顾20世纪的信世纪的信息革命风暴，经他阐明的信息概念、连息革命风暴，经他阐明的信息概念、连

45、同同“比特比特”这个单位已经深入人心，成这个单位已经深入人心，成为今天日常生活都离不开的词汇。为今天日常生活都离不开的词汇。 1948年香农在年香农在Bell System Technical Journal上发表了上发表了A Mathematical Theory of Communication 。 第二章测量仪器的基本理论第二章测量仪器的基本理论 今天，我们怀念香农，要熟悉他的两今天，我们怀念香农，要熟悉他的两大贡献：一是信息理论、信息熵的概念；大贡献：一是信息理论、信息熵的概念；另一是符号逻辑和开关理论。我们更应该另一是符号逻辑和开关理论。我们更应该学习他好奇心强、重视实践、追求完美、

46、学习他好奇心强、重视实践、追求完美、永不满足的科学精神，这是他获得成功的永不满足的科学精神，这是他获得成功的重要经验。重要经验。 第二章测量仪器的基本理论第二章测量仪器的基本理论2.1.2信息的计量方法信息的计量方法( (信息计量内容很多，如信源、信道、编码信息计量内容很多，如信源、信道、编码方式等，本课只简要介绍信源的数学模型和方式等，本课只简要介绍信源的数学模型和信息的基本测度信息的基本测度) ) 前面学习了信息的定义，对信息有了定前面学习了信息的定义，对信息有了定性的认识，但怎么定量分析信息性的认识，但怎么定量分析信息? ?也就是信也就是信息怎样计算和度量息怎样计算和度量? ?当人们收到

47、一封电报，当人们收到一封电报，听了广播，看了电视，到底得到多少信息量听了广播，看了电视，到底得到多少信息量? ?信息是一个抽象的概念，它能否被量化并且信息是一个抽象的概念，它能否被量化并且如何量化呢？如何量化呢？第二章测量仪器的基本理论第二章测量仪器的基本理论信源是信息的来源，但信息是抽象的信源是信息的来源，但信息是抽象的东西，要用它的外在表现形式消息来表东西，要用它的外在表现形式消息来表达，通过消息来研究信源。受信者在未收到达，通过消息来研究信源。受信者在未收到消息以前，对信源发出什么消息是不确定的，消息以前，对信源发出什么消息是不确定的，信息量与不确定性消除的程度有关，而通信信息量与不确定

48、性消除的程度有关，而通信过程是一种消除不确定性的过程，不确定性过程是一种消除不确定性的过程，不确定性的消除就获得了信息，用数学的语言来讲，的消除就获得了信息，用数学的语言来讲，不确定就是随机性，不确定就是随机性，具有不确定性的事件就具有不确定性的事件就是随机事件，因此，可用研究随机事件是随机事件，因此，可用研究随机事件第二章测量仪器的基本理论第二章测量仪器的基本理论的数学工具的数学工具-概率论和随机过程概率论和随机过程来测度来测度不确定性的大小。既然不确定性的大小能不确定性的大小。既然不确定性的大小能够度量，而信息量是不确定性消除的程度，够度量，而信息量是不确定性消除的程度，消除了多少不确定性

49、，就获得多少信息量，消除了多少不确定性，就获得多少信息量，可见，信息是可以测量的，衡量信息多少可见，信息是可以测量的，衡量信息多少的物理量称为信息量。通过研究发现，信的物理量称为信息量。通过研究发现，信息量的大小与消息所描述事件的出现概率息量的大小与消息所描述事件的出现概率有关，让我们看看下面的例子：有关，让我们看看下面的例子：第二章测量仪器的基本理论第二章测量仪器的基本理论 比如，比如，“明天太阳从东边出来明天太阳从东边出来”绝对没绝对没有有“明天太阳从西边出来明天太阳从西边出来”对信息的接受者对信息的接受者更有吸引力；同样，当你听说更有吸引力；同样，当你听说“明天有雨明天有雨”（西安（西安

50、9 9月份）并不会感到惊奇，但若有人月份）并不会感到惊奇，但若有人告诉你告诉你“明天有雪明天有雪”你一定非常吃惊。这说你一定非常吃惊。这说明信息有量值可言，并且信息所包含的事件明信息有量值可言，并且信息所包含的事件越不可发生，人们就越感兴趣，信息量就越越不可发生，人们就越感兴趣，信息量就越大。大。第二章测量仪器的基本理论第二章测量仪器的基本理论 显然，信息量与事件发生的概率有关，显然，信息量与事件发生的概率有关，若概率很小，受信者感觉很突然，该消息所若概率很小，受信者感觉很突然，该消息所含信息量就很大；含信息量就很大；若概率很大，受信者事先已有所估计，则该若概率很大，受信者事先已有所估计，则该

51、消息信息量就越小；消息信息量就越小；若收信者收到完全确定的消息，则没有信息若收信者收到完全确定的消息，则没有信息量。量。第二章测量仪器的基本理论第二章测量仪器的基本理论一、信息的数学模型一、信息的数学模型 由上面知道，信源发出什么消息是不确由上面知道，信源发出什么消息是不确定的，是随机的，所以用概率空间来描述信定的，是随机的，所以用概率空间来描述信源。源。第二章测量仪器的基本理论第二章测量仪器的基本理论1、离散信源的数学模型、离散信源的数学模型 信源常常以一个个符号的形式发出消信源常常以一个个符号的形式发出消息，而且这些符号的取值是有限的或可数息，而且这些符号的取值是有限的或可数的，所以，可用

52、离散型随机变量来描述这的，所以，可用离散型随机变量来描述这些信息，这样的信源称为些信息，这样的信源称为离散信源离散信源。 在实际情况中，存在很多这样的信源：在实际情况中，存在很多这样的信源：投掷硬币、书信文字、计算机的代码、电投掷硬币、书信文字、计算机的代码、电报符号等。报符号等。第二章测量仪器的基本理论第二章测量仪器的基本理论)(.)()(.,NNxPxPxPxxxPX2121它的它的数学模型就是离散型的概率空间数学模型就是离散型的概率空间，也称，也称信源空间信源空间11)(iNixPX为信源随机变量；为信源随机变量；p( xi )为其概率分布。为其概率分布。第二章测量仪器的基本理论第二章测

53、量仪器的基本理论2、连续信源的数学模型、连续信源的数学模型有些信源输出的消息的取值是连续的，有些信源输出的消息的取值是连续的，即可能出现的消息数是不可数的无限值，这即可能出现的消息数是不可数的无限值，这时可用连续随机变量来描述这些消息，那么时可用连续随机变量来描述这些消息，那么这些信源称为连续信源，其数学模型为连续这些信源称为连续信源，其数学模型为连续型的概率空间，即型的概率空间，即第二章测量仪器的基本理论第二章测量仪器的基本理论)(),()(,xpbaxpX)( xpR且满足且满足badxxp1)(Rdxxp1)(其中，其中，R 或或(a,b)表示连续随机变量表示连续随机变量X的数集的数集区

54、间；而区间；而p(x)是随机变量是随机变量x的概率密度函数。的概率密度函数。第二章测量仪器的基本理论第二章测量仪器的基本理论 其实连续信源可以经过取样，其实连续信源可以经过取样，量化变为离散信源来处理。量化变为离散信源来处理。第二章测量仪器的基本理论第二章测量仪器的基本理论二、离散信源的测度二、离散信源的测度1 1、自信息、自信息( (信息量信息量) )的定义的定义 由前面知道，事件发生的不确定性与由前面知道，事件发生的不确定性与事件发生的概率有关。事件发生的概率越事件发生的概率有关。事件发生的概率越小，不确定性就越大，这样的事件一旦发小，不确定性就越大，这样的事件一旦发生，所获的信息量就越大

55、。因此，某事件生，所获的信息量就越大。因此，某事件发生所含有的信息量应该是该事件发生的发生所含有的信息量应该是该事件发生的概率的函数：概率的函数：)()(iixPfxI第二章测量仪器的基本理论第二章测量仪器的基本理论函数函数I(xi )应满足以下条件：应满足以下条件： P(xi )越大，越大， I(xi )越小；越小；当当P(xi ) 1时，时， I(xi ) 0，必然事件信息量，必然事件信息量为零为零;当当P(xi )0时，时， I(xi ) ，不可能发生的事，不可能发生的事件发生了，其信息量为无穷大件发生了，其信息量为无穷大;两个独立事件的联合信息量，应等于它们各两个独立事件的联合信息量，

56、应等于它们各自信息量之和。自信息量之和。第二章测量仪器的基本理论第二章测量仪器的基本理论根据上述条件，从数学上证明：根据上述条件，从数学上证明：若一个若一个消息消息 xi 出现的概率为出现的概率为P(xi)，则这，则这一消息所含的信息量为一消息所含的信息量为iiixPxPxIloglog1此为香农的信息量公式表述，一个消息所此为香农的信息量公式表述，一个消息所载载的信息量的信息量 I，等于它所表示的事件发生，等于它所表示的事件发生的概率的概率 P 的倒数的对数。的倒数的对数。第二章测量仪器的基本理论第二章测量仪器的基本理论 I(xi )描述了事件描述了事件xi发生时的信息量，故也称发生时的信息

57、量，故也称为为自信息自信息。 I(xi )代表两种含义：代表两种含义：1)当事件当事件xi发生以前，表示事件发生以前，表示事件xi发生的不确发生的不确定性；定性；2)当事件当事件xi发生以后，表示事件发生以后，表示事件xi所含有所含有(或或所提供所提供)的信息量。的信息量。第二章测量仪器的基本理论第二章测量仪器的基本理论信息量单位信息量单位上式中对数以上式中对数以2为底时，单位为为底时，单位为 bit（比特）（比特）上式中对数以上式中对数以e为底时，单位为为底时，单位为 nit（奈特）（奈特）上式中对数以上式中对数以10为底时，单位为为底时，单位为 Hartley（哈特莱）（哈特莱）一般以一般

58、以2为底，为了书写方便，省略为底，为了书写方便，省略2。第二章测量仪器的基本理论第二章测量仪器的基本理论注意：注意：这里的这里的比特比特是指抽象的信息量单位，是指抽象的信息量单位，与计算机术语中与计算机术语中比特比特的含义不同，此的含义不同，此比特为比特为binary unit，计算机比特为，计算机比特为binary digit( (二元数字二元数字) ) ，这两种定义，这两种定义之间的关系是，每个二元数字所能提之间的关系是，每个二元数字所能提供的最大平均信息量为供的最大平均信息量为1比特。比特。第二章测量仪器的基本理论第二章测量仪器的基本理论英文字母出现的概率英文字母出现的概率符号 概率 符

59、号 概率 符号 概率 空格空格 0.2 s 0.052 y, w 0.012 e 0.105 h 0.047 g 0.011 t 0.072 d 0.035 b 0.0105 o 0.0654 i 0.029 v 0.008 a 0.063 c 0.023 k 0.003 n 0.059 f , u 0.0225 x 0.002 l 0.055 m 0.021 j, q, z 0.001 r 0.054 p 0.0175 第二章测量仪器的基本理论第二章测量仪器的基本理论根据表中给出的英文字母出现的概率根据表中给出的英文字母出现的概率, ,求字求字母母e和和q的信息量。的信息量。 解：据表可知解

60、：据表可知e和和q的出现概率分别为的出现概率分别为P(e)=0.105， P(q)=0.001，它们的信息量是，它们的信息量是 I(e)= -log2 P(e)= -log20.105=3.24(bit) I(q)= -log2 P(q)= -log20.001=9.97 (bit)第二章测量仪器的基本理论第二章测量仪器的基本理论This is a table这条消息的符号种数这条消息的符号种数m=9, 即即t, h, i, s, a, b, l, e和空格。和空格。各符号次数各符号次数ni分别如下：分别如下： t出现出现2次，次，i出现出现2次，次，s出现出现2次，空格出现次，空格出现3次，