机理分析建模

1、成都大学成都大学 机理分析机理分析是根据对现实对象特性的认识，分析其因是根据对现实对象特性的认识，分析其因果关系，找出反映内部机理的规律。果关系，找出反映内部机理的规律。 机理分析方法立足于揭示事物内在规律机理分析方法立足于揭示事物内在规律与问题相关的物理、化学、经济等方面的知识；与问题相关的物理、化学、经济等方面的知识；通过对数据和现象的分析对事物内在规律做出的通过对数据和现象的分析对事物内在规律做出的猜想猜想( (模型假设模型假设) )。模型特点：模型特点：有明确的物理或现实意义有明确的物理或现实意义 对现实对象的认识来源：对现实对象的认识来源：机理分析建模常用方法：常微分方程偏微分方程逻

2、辑方法比例方法代数方法目录 常微分方程建模常微分方程建模 微分方程的建立微分方程的建立 微分方程的求解微分方程的求解 逻辑方法建模逻辑方法建模一一 微分方程建模微分方程建模 当实际问题需寻求某个变量当实际问题需寻求某个变量y 随另一变量随另一变量 t 的变化的变化规律规律 y=y(t)，且直接求很困难时，可以建立关于未知变且直接求很困难时，可以建立关于未知变量、未知变量的导数以及自变量的方程量、未知变量的导数以及自变量的方程(即变量满足的即变量满足的微分方程微分方程)。 在实际问题中，在实际问题中， “改变改变”、“变化变化”、“增加增加”、“减少减少”等关键词提示我们注意什么量在变化；关键词

3、等关键词提示我们注意什么量在变化；关键词“速率速率”、“增长增长” “衰变衰变” ，“边际的边际的” ，常涉及，常涉及到导数。这些都是建立微分方程模型的关键。到导数。这些都是建立微分方程模型的关键。建立常微分方程模型的常用方法：建立常微分方程模型的常用方法： 运用已知物理定律运用已知物理定律利用平衡与增长式利用平衡与增长式运用微元法运用微元法运用分析法运用分析法 ( (一一) ) 微分方程的建立微分方程的建立 建立微分方程模型时应用已知物理定律，可事半功建立微分方程模型时应用已知物理定律，可事半功倍。倍。 例例1.1 一个较热的物体置于室温为一个较热的物体置于室温为180C的房间内，的房间内，

4、该物体最初的温度是该物体最初的温度是600C，3分钟以后降到分钟以后降到500C 。想知想知道它的温度降到道它的温度降到300C 需要多少时间？需要多少时间？10分钟以后它的分钟以后它的温度是多少？温度是多少？ 牛顿冷却牛顿冷却(加热加热)定律：定律：将温度为将温度为T的物体放入处于的物体放入处于常温常温 m 的介质中时，的介质中时，T的变化的变化速率速率正比于正比于T与周围介质与周围介质的温度差。的温度差。1 1、运用已知物理定律、运用已知物理定律 分析：分析：假设房间足够大，放入温度较低或较高的假设房间足够大，放入温度较低或较高的物体时，室内温度基本不受影响，即室温分布均衡，物体时，室内温

5、度基本不受影响，即室温分布均衡，保持为保持为m m，采用牛顿冷却定律是一个相当好的近似。，采用牛顿冷却定律是一个相当好的近似。 建立模型：建立模型：设物体在冷却过程中的温度为设物体在冷却过程中的温度为T(t) (t0)， “T的变化速率正比于的变化速率正比于T与周围介质的温度差与周围介质的温度差” 翻译成数学语言也就是：翻译成数学语言也就是： 。成成正正比比与与mTdtdT 60)0()(TmTkdtdT建立微分方程建立微分方程其中参数其中参数k 0，m=18，求得一般解为求得一般解为 ln(Tm)=k t+c)0( tcemTkt或或代入条件，求得代入条件，求得c=42 ， , 最后得最后得

6、2116ln31 k)0( 4218)(2116ln31 tetTt该物体温度降至该物体温度降至300C 需要需要8.17分钟。分钟。结果：结果：)(3 .394218)10(0102116ln31CeT 2 2、利用平衡与增长式、利用平衡与增长式 许多研究对象在数量上常常表现出某种许多研究对象在数量上常常表现出某种不变的特性不变的特性，如封闭区域内的能量、货币量等。如封闭区域内的能量、货币量等。 利用变量间的平衡与增长特性，可分析和建立有关利用变量间的平衡与增长特性，可分析和建立有关变量间的相互关系变量间的相互关系. . 续续 人口增长模型人口增长模型 对某地区时刻对某地区时刻t t的人口总

7、数的人口总数P(t)，除考虑个体的，除考虑个体的出生、出生、死亡死亡，再进一步考虑，再进一步考虑迁入迁入与与迁出迁出的影响。的影响。 在很短的时间段在很短的时间段t 内内，关于关于P(t)变化的一个最简单变化的一个最简单的模型是：的模型是： t时间内的人口增长量时间内的人口增长量 =t内出生人口数内出生人口数t内死亡人口数内死亡人口数+ t内迁入人口数内迁入人口数t内迁出人口数内迁出人口数 t时间内的净改变量时间内的净改变量=t时间内时间内输入量输入量t时间内时间内输出量输出量不同的输入、输出情况对应不同的差分或微分方程。不同的输入、输出情况对应不同的差分或微分方程。更一般地更一般地输入量：输

8、入量：含系统外部输入及系统内部产生的量；含系统外部输入及系统内部产生的量；输出量：输出量：含流出系统及在系统内部消亡的量。含流出系统及在系统内部消亡的量。 此类建模方法的此类建模方法的关键关键是分析并正确描述基本模型的是分析并正确描述基本模型的右端，使平衡式成立。右端，使平衡式成立。 例例1.2(战斗模型战斗模型) 两方军队交战，希望为这场战斗两方军队交战，希望为这场战斗建立一个数学模型，应用这个模型达到如下目的：建立一个数学模型，应用这个模型达到如下目的： 1. 预测哪一方将获胜？预测哪一方将获胜？ 2. 估计获胜的一方最后剩下多少士兵？估计获胜的一方最后剩下多少士兵？ 3. 计算失败的一方

9、开始时必须投入多少士兵才能计算失败的一方开始时必须投入多少士兵才能赢得这场战斗？赢得这场战斗？ 模型建立模型建立设设: x(t) t 时刻时刻X方存活的士兵数；方存活的士兵数； y(t) t 时刻时刻Y方存活的士兵数；方存活的士兵数； 假设：假设： 1) 双方所有士兵不是战死就是活着参加战斗双方所有士兵不是战死就是活着参加战斗， x(t)与与y(t)都是连续变量。都是连续变量。 2) Y方军队的一个士兵在单位时间内杀死方军队的一个士兵在单位时间内杀死X 方军队方军队 a 名士兵名士兵； 3) X 方军队的一个士兵在单位时间内杀死方军队的一个士兵在单位时间内杀死Y方军队方军队 b 名士兵名士兵；

10、 t 时间内时间内X军队减少的士兵数军队减少的士兵数 = t 时间内时间内Y军队消灭对方的士兵数军队消灭对方的士兵数平衡式：平衡式：即有：即有：x =ayt，同理：同理：y =bxt令令t 0，得到微分方程组：得到微分方程组： )0( )0( bbxdtdyaaydtdx 基本思想：基本思想： 通过分析研究对象的有关变量在一个通过分析研究对象的有关变量在一个很短时间内的变化情况。很短时间内的变化情况。3 3、微元法、微元法 例例1.3 一个高为一个高为2米的球体容器里盛了一半的水，水米的球体容器里盛了一半的水，水从它的底部小孔流出，小孔的横截面积为从它的底部小孔流出，小孔的横截面积为1 1平方

11、厘米。平方厘米。 试求放空容器所需要的时间。试求放空容器所需要的时间。2米对孔口的流速做两条假设对孔口的流速做两条假设 ： 1t 时刻的流速时刻的流速v 依赖于此依赖于此刻容器内水的高度刻容器内水的高度h(t)。2 整个放水过程无能量损失。整个放水过程无能量损失。 分析分析：放空容器放空容器容器内水的体积为零容器内水的体积为零容器内水的高度为零容器内水的高度为零 模型建立：模型建立：由水力学知：水从孔口流出的流量由水力学知：水从孔口流出的流量Q为为通过通过“孔口横截面的水的体积孔口横截面的水的体积V对时间对时间t 的变化率的变化率”，即，即ghSdtdVQ262. 0 S孔口横截面积孔口横截面

12、积(单位：平方厘米单位：平方厘米) h(t) 水面高度水面高度(单位：厘米单位：厘米) t时间时间(单位：秒单位：秒)当当S=1平方厘米，有平方厘米，有)1(262. 0dtghdV h(t)h+h 在在t，t+t 内，水面高度内，水面高度 h(t) 降至降至h+h(h0的情形的情形,即即X方获胜的情形。方获胜的情形。abxayyx/ )(, 02020 得得令令即即Y方获胜时的幸存士兵数。方获胜时的幸存士兵数。 3) 计算失败的一方开始时必须投入多少士兵才能赢得计算失败的一方开始时必须投入多少士兵才能赢得这场战斗？这场战斗？ 2020bxay若若 ，则，则Y方获胜；方获胜；若若 ，则，则X方

13、获胜。方获胜。2020bxay 4) 战斗持续时间？战斗持续时间？食用鱼食用鱼人类人类捕捞捕捞食肉鱼食肉鱼捕鱼量减少，食用鱼的比例反而降低？捕鱼量减少，食用鱼的比例反而降低？ 上世纪初上世纪初, , 意大利生物学家意大利生物学家U.DA ncona在研究中在研究中发现第一次世界大战期间从地中海捕获的鱼中，发现第一次世界大战期间从地中海捕获的鱼中，鲨鱼等鲨鱼等食肉鱼的比例十分明显地上升了食肉鱼的比例十分明显地上升了。他认为这一现象决非。他认为这一现象决非偶然，应是由战争期间捕鱼量减少所致。偶然，应是由战争期间捕鱼量减少所致。例例2.2 2.2 捕食系统的捕食系统的Volterra方程方程x(t)

14、 t 时刻食用鱼时刻食用鱼(prey)的数量的数量y(t) t 时刻食肉鱼时刻食肉鱼(predator)的数量的数量1. 没有食肉鱼没有食肉鱼, 食用鱼的净相对增长率为正常数食用鱼的净相对增长率为正常数k1,k10 2. 没有食用鱼，食肉鱼的净相对增长率为负常数没有食用鱼，食肉鱼的净相对增长率为负常数k2, k20.3. 两类鱼相遇的机会正比于两类鱼相遇的机会正比于x 和和 y 的乘积的乘积；建立微分方程如下：建立微分方程如下： 假设如下：假设如下：（1）、模型建立）、模型建立) 1 ().();(2211 cxkycxyykdtdybykxbxyxkdtdx建立微分方程如下：建立微分方程如下

15、： 其中其中b0,c0。方程组表明两类鱼共存时，食。方程组表明两类鱼共存时，食肉鱼在单位时间内捕食的食用鱼数量与两类鱼肉鱼在单位时间内捕食的食用鱼数量与两类鱼的数量的乘积成比例关系，描述了两类鱼的相的数量的乘积成比例关系，描述了两类鱼的相互制约关系。互制约关系。 关心相互制约的两类鱼种的总变化趋势关心相互制约的两类鱼种的总变化趋势. 针对建模目的，对微分方程进行以下分析工作：针对建模目的，对微分方程进行以下分析工作：1. 讨论方程的平衡点；讨论方程的平衡点；2. 分析验证方程组是否有周期解；分析验证方程组是否有周期解； 3. 对方程组周期解进行分析；对方程组周期解进行分析；4. DA ncon

16、a现象的解释。现象的解释。（2）、模型分析）、模型分析1) 求平衡点求平衡点 0021cxyykdtdybxyxkdtdx令令平衡点：平衡点：(0, 0)与与(x, y)=( )bkck12,平凡的平凡的在平衡点在平衡点 处，两类鱼将能够处，两类鱼将能够“平衡平衡”地生地生存，它们的数量将一直保持这个水平。存，它们的数量将一直保持这个水平。),(),(12bkckyx2) 分析验证方程组有周期解分析验证方程组有周期解 (1)求相轨线方程求相轨线方程 将方程组将方程组(1)的两个方程相除：的两个方程相除： bykcxkbykxcxkydxdy 1212)()(dxcxkdybyk)()(21 两

17、边积分两边积分scxxkbyyk lnln21)2()(S)(12为任意常数为任意常数Seyexbykcxk (2) 验证方程有周期解验证方程有周期解方程组方程组(1)有周期解有周期解 相轨线相轨线(2)是一族封闭曲线是一族封闭曲线 xy0 x0 x1x需证明：需证明：对每一条轨线，存在对每一条轨线，存在 x0 x1，使使：1) x0 xx1时时,方程方程(2)有两个相异根；有两个相异根； 2) x =x0 或或 x=x1时时, 方程仅有一个单根方程仅有一个单根； 3) 时时, , 方程方程(2)无根无根。,10 xxx 3) 对方程周期解的分析对方程周期解的分析(1) 相轨线的形状相轨线的形

18、状 设方程的周期解为设方程的周期解为: x=x(t), y=y(t), t0, 则对任意给则对任意给定的定的t00，存在存在t10，使使x(t0)=x(t1), y(t0)=y(t1) 。 方程方程(1)(1)的相轨线的相轨线是一族包含平衡点是一族包含平衡点A( )的封闭曲线。的封闭曲线。bkck12,xyok2/ck1/bA(2) 平衡点平衡点A的实际意义的实际意义 记记 T=t1-t0 ，称称T 周期，将原方程周期，将原方程).();(2211cxkycxyykdtdybykxbxyxkdtdx中的第二个方程改写为中的第二个方程改写为cxkycxkyydtdy 22)(/两边从两边从t0

19、到到 t1 积分，得积分，得dtcxkydytttt2121)(2 21)(12ttdttxTck 21)(11ttdttyTbk同同理理 结论：结论：食用鱼和食肉鱼的平衡量恰为它们的数量在一食用鱼和食肉鱼的平衡量恰为它们的数量在一个周期内的平均值。个周期内的平均值。0)()(ln)(21012 tttytydttxcTkox(食用鱼食用鱼)yA0, 0 dtdydtdx0, 0 dtdydtdx0, 0 dtdydtdx0,0 dtdydtdxP该区域两类鱼的初始数量分别为该区域两类鱼的初始数量分别为x x0 0和和y y0 0，轨线的，轨线的出发点为出发点为P(xP(x0 0,y,y0 0

20、) )，箭头表明了轨线的运动方向。，箭头表明了轨线的运动方向。4) DA ncona现象的解释现象的解释 为考察捕鱼业对两种鱼类的影响，引入捕捞能力系为考察捕鱼业对两种鱼类的影响，引入捕捞能力系数数，将方程，将方程(1)改写为改写为 )3(.)(;)(21 cxyykdtdybxyxkdtdx 方程方程( (3)的平衡点为的平衡点为A( )，由于捕捞能力由于捕捞能力系数的引进，食用鱼的平均量增大，而食肉鱼的平均量系数的引进，食用鱼的平均量增大，而食肉鱼的平均量则减少了。则减少了。bk,ck12 Volterra原理：为了减少强者，只需捕获弱者。原理：为了减少强者，只需捕获弱者。 欧几里德在不加

21、证明而直接采用基本概念和公理欧几里德在不加证明而直接采用基本概念和公理的基础上，运用逻辑推理方法得出了一系列定理、推论的基础上，运用逻辑推理方法得出了一系列定理、推论, 从而建立了完整的欧几理德几何学，这一辉煌的成果至从而建立了完整的欧几理德几何学，这一辉煌的成果至今仍然是人类宝贵财富。今仍然是人类宝贵财富。逻辑推理建模方法是一种重要的建模方法逻辑推理建模方法是一种重要的建模方法 一、合作对策模型一、合作对策模型 从事某一项活动若能多方合作，往往可以获得更大从事某一项活动若能多方合作，往往可以获得更大的总收益的总收益(或受到更小的损失或受到更小的损失)。合作中应该如何分配收。合作中应该如何分配

22、收益益(或分摊损失或分摊损失)? 合作对策模型基本思想：合作对策模型基本思想：采用公理化方法，从问题采用公理化方法，从问题应当具有的基本属性出发，运用逻辑推理方法导出满足应当具有的基本属性出发，运用逻辑推理方法导出满足这些基本属性的解。这些基本属性的解。 例例5.3.1 有三个位于一条河流同一侧的城镇，三城有三个位于一条河流同一侧的城镇，三城镇的污水必须经过处理才能排入河中，三方商议共建一镇的污水必须经过处理才能排入河中，三方商议共建一座污水处理厂。座污水处理厂。城城1城城2城城320公里公里38公里公里污水厂污水厂筹建处筹建处 问题：问题： (1) 三个城镇怎样三个城镇怎样 建厂可使总开支最

23、少？建厂可使总开支最少？ (2) 每一个城镇的费用各分摊多少？每一个城镇的费用各分摊多少？分析：分析：有五种方案可供选择有五种方案可供选择条件：条件：建设污水处理厂的费用有公式：建设污水处理厂的费用有公式：)(730712. 01万万元元QC 管道费用：管道费用：)(6 . 651. 02万万元元LQC (1) 三城各建一个处理厂；三城各建一个处理厂；(2) 城城1与城与城2合建一个厂，合建一个厂， 城城3单独建一个；单独建一个；(3) 城城2与城与城3合建一个厂，城合建一个厂，城1单独建一个；单独建一个；(4) 城城1与城与城3合建一个厂，城合建一个厂，城2单独建一个；单独建一个；(5) 三

24、城合作建一个处理厂；三城合作建一个处理厂；Q Q污水排放量污水排放量L L管道长度管道长度( (公里公里) ) 三个城镇的污水排放量分别为三个城镇的污水排放量分别为Q1=5米米3 3/ /秒秒，Q2=3米米3 3/ /秒秒，Q3=5米米3 3/ /秒。秒。对各个方案进行费用测算，得对各个方案进行费用测算，得方案总投资 城1投资 城2投资 城3投资 (1)6200230016002300(2)5800？2300(3)59502300？(4)6230？1600？(5)5560？ 方案方案(5)：三个城市合作建厂总投资最少。三个城市合作建厂总投资最少。问题：问题：三个城市如何分摊费用？三个城市如何分

25、摊费用？经商讨定下几条原则：经商讨定下几条原则：1. 建厂费用按建厂费用按3个城市的污水量之比个城市的污水量之比5:3:5分摊；分摊；2. 城城2到城到城3的管道费按的管道费按5:3由城由城1和城和城2分摊；分摊；3. 城城1到城到城2的费用由城的费用由城1自行解决自行解决.思考：思考：他们的原则是否有道理？他们的原则是否有道理？城城1市长的市长的“可行性论证可行性论证”： 1. 建厂总费用为建厂总费用为 730(5+3+5)0.712 =4530(万元万元)，城城1负担费用为负担费用为 45305/131742(万元万元); 2. 城城1至城至城2的管道费用为的管道费用为 6.650.512

26、0300(万元万元)； 3. 城城2至城至城3的管道费用为的管道费用为 6.6(5+3)0.5138724(万元万元) 城城1 1负担负担 7245/8=425.5(万元万元);城城1 1总共负担：总共负担：1742+300+425.5=2467(元元). 市长的市长的结论：结论：不能接受这样的合作！不能接受这样的合作！n人合作对策模型人合作对策模型 Shapley定理：定理：满足公理满足公理14 的的(V)存在并且存在并且唯一，由下式给出：唯一，由下式给出：)1()()()()( iTSiiSVSVSWV )2( !)!()!1()(nSnSSW Ti 是是I中包含中包含i的一切子集构成的集

27、族的一切子集构成的集族, , 表示集合表示集合S中的元素个数。中的元素个数。S 续例续例1 ：计算城市计算城市1应承担的费用应承担的费用 T1=1, 1,2, 1,3, 1,2,3。 0 0 0 250V(S1) 0 67 0 130 W( ) V(S) V(S1) 1 2 2 31/3 1/6 1/6 1/3W( ) 0 490 0 390V(S) V(S1) 0 400 0 640 V(S)1 1,2 1,3 1,2,3SSSS根据公式根据公式(1)(1) 1)()()()(1TSiSVSVSWV 从而城市从而城市1 1应承担投资额为应承担投资额为：2300197=2103(万元万元)。=

28、 67+130=197(万元万元)，二、信息模型二、信息模型 例例5.3.2 调整气象观察站问题调整气象观察站问题 某地区内有某地区内有12个气象观察站个气象观察站( (位置如图位置如图) )，有，有10年各年各观察站的年降水量数据。为了节省开支。想要适当减少观察站的年降水量数据。为了节省开支。想要适当减少气象站。气象站。 问题：问题：减少哪些观察站可以使得到的降水量的减少哪些观察站可以使得到的降水量的信息信息量量仍然足够大？仍然足够大？x1x2x3x4x5x6x7x8x9x10问题：问题：怎样比较信息的大小？怎样比较信息的大小？ 信息的多少能不能度量信息的多少能不能度量？ 降水量的降水量的信

29、息量信息量仍然足够大？仍然足够大？1. 信息量信息量认识问题的过程：认识问题的过程： 对一个问题毫无了解时，对它的认识是不确定的。对一个问题毫无了解时，对它的认识是不确定的。在了解过程中，通过获得信息，逐渐消除了不确定性在了解过程中，通过获得信息，逐渐消除了不确定性.获获得的信息越多，消除的不确定性就越大。得的信息越多，消除的不确定性就越大。用消除不确定性的多少来度量信息量用消除不确定性的多少来度量信息量 例例1：到影院寻找一个人，已问到：到影院寻找一个人，已问到： (1) 甲告诉两条消息：他不坐在前十排，他也不坐甲告诉两条消息：他不坐在前十排，他也不坐在后十排；在后十排； (2) 乙告诉一条

30、消息：他坐在第十五排。乙告诉一条消息：他坐在第十五排。问题：问题：甲、乙谁提供的消息信息量更大？甲、乙谁提供的消息信息量更大？ 答案：答案：乙的消息总信息量更大乙的消息总信息量更大 ，因其不确定性消除，因其不确定性消除得更多。得更多。 例例2. 若在盛夏预报若在盛夏预报“明日无雪明日无雪”，这条消息的信，这条消息的信息量为零，因根本不存在不确定性。息量为零，因根本不存在不确定性。 美国贝尔实验室的学者香龙美国贝尔实验室的学者香龙(Shannon)应用概率知应用概率知识和逻辑方法推出了信息量的计算公式。识和逻辑方法推出了信息量的计算公式。他提出信息度量应满足的公理：他提出信息度量应满足的公理：

31、公理公理1 信息量是该事件发生概率的连续函数；信息量是该事件发生概率的连续函数； 公理公理2 如果如果A B，则，则A发生的信息量发生的信息量B发生的信发生的信息量；息量； 公理公理3 若若A与与B相互独立，则相互独立，则A与与B同时发生的信息同时发生的信息量应为单独获知两事件发生的信息量之和；量应为单独获知两事件发生的信息量之和；公理公理4 任何信息的信息量都是有限的。任何信息的信息量都是有限的。 将事件将事件A 发生的信息记为发生的信息记为M，概率记为，概率记为p，记信息，记信息的信息量为的信息量为I(M) 定理：定理：满足公理满足公理14的信息量函数必为的信息量函数必为 I(M)=C l

32、oga p (1)其中其中C 是任意正整数，对数的底是任意正整数，对数的底a可取不为可取不为1的正实数。的正实数。注注取取a=2，C=1，信息量的单位称为信息量的单位称为比特比特 取取a=10，C=1， 信息量的单位称为信息量的单位称为迪吉特迪吉特 例例3. 某剧院有某剧院有1280个座位，个座位，32排，每排排，每排40座。现从座。现从中找出某人，求以下信息的信息量。中找出某人，求以下信息的信息量。1) A：他在第十排；：他在第十排； 2) B：他在第他在第15座座 ；3) C：他在第十排第他在第十排第15座。座。 解：解： 在未知任何信息的条件下，认为他坐在各排在未知任何信息的条件下，认为

33、他坐在各排 的概率是均等的，坐在各座位的概率也相等。的概率是均等的，坐在各座位的概率也相等。)(5321log)(2比特比特 AMI有：有：I(MC)=I(MA) I(MB)。)(32. 5401log)(2比特比特 BMI)(32.2012801log)(2比特比特 CMI 满足公理满足公理3：对完全独立的几条信息，其总信息量对完全独立的几条信息，其总信息量等于各条信息的信息量总和。等于各条信息的信息量总和。2. 平均信息量平均信息量(熵熵) 定义：定义：一随机试验有一随机试验有N个可能结果，个可能结果， 出现的概率出现的概率分别为分别为p1, p2, ,pN，出现第出现第i 组结果的信息量

34、为组结果的信息量为-log2pi，该试验的不确定性可由这组信息量的平均信息量度量该试验的不确定性可由这组信息量的平均信息量度量:)1(log12 NiiippH称称H为为熵熵(或或负熵负熵)。 对具有连续分布对具有连续分布 p(x) 的随机试验，熵的定义为的随机试验，熵的定义为: dxxpxppH)(log)()(2注注1. 此定义与物理中的熵仅相差一个负号；此定义与物理中的熵仅相差一个负号； 2. 熵度量试验的不确定程度，熵越大试验的熵度量试验的不确定程度，熵越大试验的不确定程度越大。不确定程度越大。例例4有三名射手的射击情况如下：有三名射手的射击情况如下： 5 . 05 . 0AA甲甲：

35、01. 099. 0AA乙乙： 3 . 07 . 0AA丙丙： 其中其中A 表示射击命中目标表示射击命中目标。哪一个射手的射击情况哪一个射手的射击情况最不确定？最不确定？ 解：解：需求三个射击试验的熵需求三个射击试验的熵3010. 02lg21lg2121lg21 甲甲H0243. 001. 0lg01. 099. 0lg99. 0 乙乙H2653. 03 . 0lg3 . 07 . 0lg7 . 0 丙丙H其中其中, , 取取a=10，甲的熵值最大，乙的最小。甲的熵值最大，乙的最小。结论结论？ 例例5. . 若若随机试验的随机变量随机试验的随机变量XN(0,2)， 求试验求试验的熵值。的熵值

36、。解：解：X 的的概率密度为概率密度为 ,21)(222Rxexpx dxxepHx22log21)(222/22 .2log212log e 思考：思考： 分析熵与随机变量方差的关系分析熵与随机变量方差的关系重要结论重要结论: : 1) )若试验仅有有限种结果：若试验仅有有限种结果：S1, S2,Sn，其发生的其发生的概率分别为概率分别为p1, p2, , pn，当当 p1= p2= =pn=1/n，试验具有最大熵试验具有最大熵. 2) 若试验是连续型随机试验，其概率密度若试验是连续型随机试验，其概率密度P(x) 在在 a, b以外均为零以外均为零， 则均匀分布具有最大熵。则均匀分布具有最大熵。 3) 对于一般连续型随机试验对于一般连续型随机试验, 在方差一定的前提在方差一定的前提下下, 正态分布具有最大熵。正态分布具有最大熵。 定理：定理：(最大熵原理最大熵原理)受到相互独立且均匀而小的随受到相互独立且均匀而小的随机因素影响的系统，其状态的概率分布将使系统的熵最机因素影响的系统，其状态的概率分布将使系统的熵最大。大。问题：问题：怎样将