不确定性知识表示和推理技术

1、关于不确定性知识的表示与推理技术第1页，共139页，2022年，5月20日，15点33分，星期四2022/7/142内容4.1 不确定性知识表示与推理概述4.2 确定性理论4.3 主观贝叶斯方法4.4 证据理论4.5 基于贝叶斯网络的推理4.6 模糊推理4.7 不确定性推理的应用第2页，共139页，2022年，5月20日，15点33分，星期四2022/7/1434.1不确定性知识表示与推理概述一般的（确定性）推理过程：运用已有的知识由已知事实推出结论.如已知:事实 A，B知识 ABC可以推出结论C。 此时，只要求事实与知识的前件进行匹配。问题：如果A可能为真，B比较真，知识ABC只在一定程度上

2、为真，结论如何？第3页，共139页，2022年，5月20日，15点33分，星期四2022/7/1444.1不确定性知识表示与推理概述通过几个例子认识不确定性：今天有可能下雨如果乌云密布并且电闪雷鸣，则很可能要下暴雨。张三是个秃子“秃子悖论”第4页，共139页，2022年，5月20日，15点33分，星期四2022/7/1454.1不确定性知识表示与推理概述4.1.1 不确定性及其类型4.1.2 不确定性推理概述第5页，共139页，2022年，5月20日，15点33分，星期四2022/7/1464.1.1 不确定性及其类型(1)不确定性： 知识和信息中含有的不肯定、不可靠、不准确、不精确、不严格、

3、不严密、不完全甚至不一致的成分。按性质分类：随机不确定性模糊不确定性不完全性不一致性第6页，共139页，2022年，5月20日，15点33分，星期四2022/7/1474.1.1 不确定性及其类型(2)随机不确定性 随机不确定性是基于概率的一种衡量，即已知一个事件发生有多个可能的结果。虽然在该事件发生之前，无法确定哪个结果会出现，但是，可以预先知道每个结果发生的可能性。例如： “这场球赛甲队可能取胜”“如果头疼发烧，则大概是患了感冒。”2.模糊不确定性 模糊不确定性就是一个命题中所出现的某些言词其涵义不够确切，从概念角度讲，就是其代表的概念的内涵没有硬性的标准或条件，其外延没有硬性的边界。例如

4、：“小王是高个子。”“张三和李四是好朋友。”把涵义不确切的言词所代表的概念称为软概念。第7页，共139页，2022年，5月20日，15点33分，星期四2022/7/1484.1.1 不确定性及其类型(3)3.不完全性 对某事物了解得不完全或认识不够完整。如，刑侦过程的某些阶段往往要针对不完全的证据进行推理。4.不一致性 随着时间或空间的推移，得到了前后不相容或不一致的结论。如，人们对太空的认识等。第8页，共139页，2022年，5月20日，15点33分，星期四2022/7/1494.1.2 不确定性推理（1）1.不确定性推理方法的分类控制方法模型方法非数值方法数值方法模糊推理基于概率纯概率可信

5、度方法证据理论主观Bayes通过识别领域内引起不确定性的某些特征及相应的控制策略来限制或减少确定性对系统产生的影响。贝叶斯网络第9页，共139页，2022年，5月20日，15点33分，星期四2022/7/14104.1.2 不确定性推理概述（2）对比一下不确定性推理与通常的确定性推理的差别：(1) 不确定性推理中规则的前件能否与证据事实匹配成功，不但要求两者的符号模式能够匹配（合一），而且要求证据事实所含的信度必须达“标”，即必须达到一定的限度。这个限度一般称为“阈值”。(2) 不确定性推理中一个规则的触发，不仅要求其前提能匹配成功，而且前提条件的总信度还必须至少达到阈值。(3) 不确定性推理

6、中所推得的结论是否有效，也取决于其信度是否达到阈值。(4) 不确定性推理还要求有一套关于信度的计算方法，包括“与”关系的信度计算、 “或”关系的信度计算、“非”关系的信度计算和推理结果信度的计算等等。第10页，共139页，2022年，5月20日，15点33分，星期四2022/7/14114.1.2 不确定性推理概述（3）2.不确定性推理需要解决的问题1）不确定性的表示与度量证据的不确定性规则（知识）的不确定性结论的不确定性2）不确定性的匹配算法3）不确定性的计算与传播组合证据的不确定性计算(最大最小方法、概率方法、有界方法)证据和知识的不确定性的传递不同证据支持同一结论时其不确定性的合成因此，

7、不确定性推理的一般模式也可以简单地表示为： 不确定性推理=符号推演+不确定性计算第11页，共139页，2022年，5月20日，15点33分，星期四2022/7/14124.2确定性理论4.2.1 知识的不确定性表示4.2.2 证据的不确定性表示4.2.3 不确定性的传播与计算4.2.4 确定性理论的特点及进一步发展 第12页，共139页，2022年，5月20日，15点33分，星期四2022/7/14134.2.1知识的不确定性表示（1）不确定性度量知识的不确定性表示： if E then H (CF(H, E) CF(H,E)：是该条知识的可信度，称为可信度因子或规则强度，它指出当前提条件 E

8、 所对应的证据为真时，它对结论为真的支持程度。如： “如果头疼发烧，则患了感冒；(0.8)。”“如果乌云密布并且电闪雷鸣，则很可能要下暴雨。 (0.9)”第13页，共139页，2022年，5月20日，15点33分，星期四2022/7/14144.2.1知识的不确定性表示（2）在CF模型中，CF的定义为 CF(H,E)=MB(H,E) - MD(H,E) 用P(H) 表示H的先验概率； P(H/E) 表示在前提条件E对应的证据出现的情况下，结论H的条件概率。 MB（Measure Belief）：称为信任增长度，它表示因与前提条件 E 匹配的证据的出现，使结论H为真的信任增长度。 MB定义为：

9、第14页，共139页，2022年，5月20日，15点33分，星期四2022/7/14154.2.1知识的不确定性表示（3） MD（Measure Disbelief）：称为不信任增长度，它表示因与前提条件E匹配的证据的出现，使结论H为真的不信任增长度。MD定义为： 第15页，共139页，2022年，5月20日，15点33分，星期四2022/7/14164.2.1知识的不确定性表示（4）由MB、MD得到CF(H,E)的计算公式： 第16页，共139页，2022年，5月20日，15点33分，星期四2022/7/14174.2.1知识的不确定性表示（5）CF公式的意义当MB（H，E）0时， MD（H

10、，E）0 ，表示由于证据E的出现增加了对H的信任程度。 当MD（H，E）0时， MB（H，E）0，表示由于证据E的出现增加对H的不信任程度。注意：对于同一个E，不可能既增加对H的信任程度又增加对H的不信任程度。第17页，共139页，2022年，5月20日，15点33分，星期四2022/7/14184.2.1知识的不确定性表示（6）当已知P(H)， P(H/E)，运用上述公式可以求CF(H/E)。但是，在实际应用中， P(H)和P(H/E) 的值是难以获得的。因此，CF(H,E) 的值要求领域专家直接给出。其原则是：若由于相应证据的出现增加结论 H 为真的可信度，则使CF(H,E)0，证据的出现

11、越是支持 H 为真，就使CF(H,E)的值越大；反之，使CF(H,E)0，证据的出现越是支持 H 为假，就使CF(H,E)的值越小；若证据的出现与否与 H 无关，则使 CF(H,E)=0。 第18页，共139页，2022年，5月20日，15点33分，星期四2022/7/14194.2.1知识的不确定性表示（7）例 如果感染体是血液，且细菌的染色体是革兰氏阴性，且细菌的外形是杆状，且病人有严重发烧， 则 该细菌的类别是假单细胞菌属（0.4） 。 这就是专家系统MYCIN中的一条规则。这里的0.4就是规则结论的CF值。第19页，共139页，2022年，5月20日，15点33分，星期四2022/7/

12、14204.2.2证据的不确定性表示（1）证据的不确定性表示初始证据CF(E)由用户给出先前推出的结论作为推理的证据，其可信度由推出该结论时通过不确定性传递算法而来。第20页，共139页，2022年，5月20日，15点33分，星期四2022/7/14214.2.3不确定性的传播与计算（1）组合证据 前提证据事实总CF值计算（最大最小法）E=E1 E2 EnCF(E)=minCF(E1) ,CF(E2) , CF(En)E=E1 E2 EnCF(E)=maxCF(E1) ,CF(E2) , CF(En)E=E1CF(E)=-CF(E1)第21页，共139页，2022年，5月20日，15点33分，

13、星期四2022/7/14224.2.3不确定性的传播与计算（2）推理结论的CF值计算 C-F 模型中的不确定性推理是从不确定的初始证据出发，通过运用相关的不确定性知识，最终推出结论并求出结论的可信度值。 结论 H 的可信度由下式计算： CF(H) = CF(H,E) max 0, CF(E) 当CF(E)0时，CF(H)=0，说明该模型中没有考虑证据为假时对结论H所产生的影响。第22页，共139页，2022年，5月20日，15点33分，星期四2022/7/14234.2.3不确定性的传播与计算（3）重复结论CF值计算 if E1 then H (CF(H, E1) if E2 then H (

14、CF(H, E2) （1）计算CF1(H) CF2(H)； （2）计算CF (H)：CF1(H) + CF2(H) CF1(H) CF2(H) 若 CF1(H) 0, CF2(H) 0CF1(H) + CF2(H) + CF1(H) CF2(H) 若 CF1(H) 0, CF2(H) 0 CF1(H) + CF2(H) 若 CF1(H) 与 CF2(H) 异号CF1，2(H) = 第23页，共139页，2022年，5月20日，15点33分，星期四2022/7/14244.2.3不确定性的传播与计算（4）例4.1 设有如下规则： r1: IF E1 THEN H 0.8) r2: IF E2 T

15、HEN H (0.9) r3: IF E3 AND E4 THEN E1 (0.7) r4: IF E5 OR E6 THEN E1 (0.3)并已知初始证据的可信度为：CF（E2）=0.8，CF（E3）=0.9，CF（E4）=0.7，CF（E5）=0.1，CF（E6）=0.5，用确定性理论计算CF（H）。 第24页，共139页，2022年，5月20日，15点33分，星期四2022/7/14254.2.3不确定性的传播与计算（5）由r3可得： CF1（E1）=0.7min0.9,0.7=0.49由r4可得： CF2（E1）=0.3max0.1,0.5=0.15从而 CF1,2（E1）=（0.4

16、90.15）/(1min(|0.49|,|0.15|)=0.34/0.85=0.4由r1可得： CF1（H）=0.40.8=0.32由r2可得： CF2（H）=0.80.9=0.72从而 CF1,2（H）=0.32+0.72-0.320.72=0.8096这就是最终求得的H的可信度。第25页，共139页，2022年，5月20日，15点33分，星期四2022/7/14264.2.4 确定性理论的特点及进一步发展可信度方法的进一步发展(1)带有阈值限度的不确定性推理 知识表示为： if E then H (CF(H, E), ) 其中 是阈值，它对相应知识的可应用性规定了一个度: 0 0,它们是不

17、独立的，且有如下约束关系：当LS1时，LN1；当LS1；当LS=1时，LN=1；实际系统中，LS、LN值是有专家给出的。第36页，共139页，2022年，5月20日，15点33分，星期四2022/7/1437 4.3.2 证据的不确定性表示（1） 证据的不确定性也是用概率表示的。 对于初始证据 E ，由用户根据观察 S 给出 P(E/S)，它相当于动态强度。 具体应用中采用变通的方法，在 PROSPECTOR 中引进了可信度的概念，用C(E/S)刻画证据的不确定性。 让用户在 5 至 5 之间的 11 个整数中选一个数作为初始证据的可信度C(E/S) 。 初始可信度 C(E/S) 与 概率 P

18、(E/S) 的对应关系如下： C(E/S)= -5 ，表示在观察 S 下证据 E 肯定不存在，即 P(E/S)=0；C(E/S)= 0 ， 表示 S 与 E 无关，即 P(E/S) =P(E) ；C(E/S)= +5 ，表示在观察 S 下证据 E 肯定存在，即 P(E/S)=1；第37页，共139页，2022年，5月20日，15点33分，星期四2022/7/14384.3.2 证据的不确定性表示（2）C(E/S) = 其它数值时，与 P(E/S) 的对应关系可通过对上述三点进行分段线性 插值得到，如下图。P(E/S)1P(E)C(E/S)-5 -4 -3 -2 -1 0 1 2 3 4 5由上

19、图可得到 C(E/S) 与 P(E/S) 的关系式，即由C(E/S) 计算 P(E/S)： P(E/S) =若 0 C(E/S) 5若 5 C(E/S) 0C(E/S) + P(E) ( 5 C(E/S)55P(E) ( C(E/S) + 5 )第38页，共139页，2022年，5月20日，15点33分，星期四2022/7/14394.3.3不确定性的传播与计算 在主观 Bayes 方法的知识表示中，P(H) 是专家对结论 H 给出的先验概率， 它是在没有考虑任何证据的情况下根据经验给出的。 随着新证据的获得，对 H 的信任程度应该有所改变。主观 Bayes 方法推理的任务就是根据证据 E 的

20、概率 P(E)及 LS , LN 的值，把 H的先验概率 P(H) 更新为后验概率 P(H/E) 或 P(H/ E)。 即： P(H) P(H/E) 或 P(H/ E) P(E)LS, LN第39页，共139页，2022年，5月20日，15点33分，星期四2022/7/14404.3.3不确定性的传播与计算(1) 在现实中，证据肯定存在或肯定不存在的极端情况是不多的， 更多的是介于两者之间的不确定情况。 现在要在 0 P(E/S) 1 的情况下确定 H 的后验概率 P(H/S) 。 在证据不确定的情况下，不能再用上面的公式计算后验概率，而需使用 R.O.Doda 等人1976年证明的如下公式：

21、 P(H/S) = P(H/E) P(E/S) + P(H/E) P(E/S) 第40页，共139页，2022年，5月20日，15点33分，星期四2022/7/14414.3.3不确定性的传播与计算(2)下面分四种情况讨论： 1) P(E/S) = 1 当 P(E/S) = 1 时， P(E/S) = 0，此时公式 变为： P(H/S) = P(H/E) = 这是证据肯定存在的情况。 2) P(E/S) = 0 当 P(E/S) = 0 时， P(E/S) = 1，此时公式 变为： P(H/S) = P(H/E) = 这是证据肯定不存在的情况。 LS P(H)(LS 1) P(H) +1 LN

22、 P(H)(LN 1) P(H) +1第41页，共139页，2022年，5月20日，15点33分，星期四2022/7/14424.3.3不确定性的传播与计算(3)3) P(E/S) = P(E) 当 P(E/S) = P(E) 时，此时公式 变为： P(H/S) = P(H/E) P(E) + P(H/E) P(E) = P(H) 表示 H 与 S 无关。 4) 当 P(E/S) = 其它值时，通过分段线性插值可得到计算P(H/S)的公式。全概率公式第42页，共139页，2022年，5月20日，15点33分，星期四2022/7/14434.3.3不确定性的传播与计算(4)0 P(E) 1 P(

23、E/S) P(H/E) P(H)P(H/E)P(H/S) P(H/E) + P(E/S) 若 0 P(E/S) P(E) P(H) + P(E/S) P(E) 若 P(E) P(E/S) 1P(H) P(H/E) P(E)P(H/E) P(H) 1 P(E) P(H/S) =该公式称为EH公式。第43页，共139页，2022年，5月20日，15点33分，星期四2022/7/14444.3.3不确定性的传播与计算(5)由前面可知P(E/S)、P(H/S)的计算公式分别为：P(E/S) =若 0 C(E/S) 5若 5 C(E/S) 0C(E/S) + P(E) ( 5 C(E/S)55P(E)

24、( C(E/S) + 5 ) P(H/E) + P(E/S) 若 0 P(E/S) 01515P(H/S) =第45页，共139页，2022年，5月20日，15点33分，星期四2022/7/14464.3.3不确定性的传播与计算(7)相同结论的后验概率合成： 若有n条知识都支持相同的结论H，而且每条知识的前提条件所对应的证据Ei（i =1,2,n）都有相应的观察Si 与之对应, 此时只要先求出每条知识的O(H/Si)，然后运用下述公式求出 O(H/S1,S2,Sn)。O(H/S1) O(H)O(H/S2) O(H)O(H/Sn) O(H)O(H/S1,S2,Sn) = O(H)最后，再利用P(

25、H/S1,S2,Sn)与O(H/S1,S2,Sn)的关系： P(H/S1,S2,Sn)=O(H/S1,S2,Sn)/(1+ O(H/S1,S2,Sn)计算P(H/S1,S2,Sn) 。第46页，共139页，2022年，5月20日，15点33分，星期四2022/7/14474.3.3不确定性的传播与计算(8)例4.2 设有如下规则： r1: IF E1 THEN (65, 0.01) H1 r2: IF E2 THEN (300, 0.001) H1 r3: IF H1 THEN (200, 0.002) H2已知： P(E1)=0.1 ，P(E2)=0.03， P(H1)=0. 1 ，P(H2

26、)=0.05，用户提供证据：C(E1/S1)=2，C(E2/S2)=1，计算P(H2/S1，S2)。第47页，共139页，2022年，5月20日，15点33分，星期四2022/7/14484.3.3不确定性的传播与计算(9)分析：自下而上计算：根据LS值，将H的先验概率转换为后验概率，计算P(H1/E1)、P(H1/E2) 使用CP公式计算P(H1/S2)、P(H1/S2) ，计算O(H1/S1)、O(H1/S2)对H1合成。计算 O(H1/S1,S2)、P(H1/S1,S2) 。根据LS值，将H的先验概率转换为后验概率，计算P(H2/H1) 使用EH公式计算P(H2/S1，S2)(1)计算

27、P(H1/E1) 、P(H1/S1) 和 O(H1/S2)第48页，共139页，2022年，5月20日，15点33分，星期四2022/7/14494.3.3不确定性的传播与计算(10)对于初始证据，使用CP公式： P(H/E) + P(H) P(H/E) C(E/S) + 1， 若C(E/S) 0P(H) + P(H/E) P(H) C(E/S)， 若C(E/S) 01515P(H/S) = C(E1/S1)=2 0 使用CP公式的后半部。第49页，共139页，2022年，5月20日，15点33分，星期四2022/7/14504.3.3不确定性的传播与计算(11) 3000.1(300-1)0

28、.01+1P(H1/E2)= LS2P(H1)(LS2-1)P(H1)+1= 0.9709(2) 计算P(H1/E2)、 P(H1/S2) 、( O(H1/S2) )对于初始证据，使用CP公式， C(E2/S2)=1 0 使用CP公式的后半部。P(H1)+P(H1/E2)P(H1) C(E2/S2)15P(H1/S2)= 0.1+0.9709-0.0911/5= 0.2742O(H1/S2)= P(H1/S2)1-P(H1/S2) 0.27421-0.2742= 0.3778= 第50页，共139页，2022年，5月20日，15点33分，星期四2022/7/14514.3.3不确定性的传播与计

29、算(12)(3) 计算 P(H1/S1,S2) 、O(H1/S1,S2) 第51页，共139页，2022年，5月20日，15点33分，星期四2022/7/14524.3.3不确定性的传播与计算(13)(4) 计算 P(H2/S1,S2) ( O(H2/S1,S2) )使用EH公式 P(H1/S1,S2) P(H1) 使用EH公式的后半部。 2000.05(200-1)0.05+1P(H2/H1)= LS3P(H2)(LS31)P(H2)+1= 0.9132P(H1/S1,S2) P(H1) 1 P(H1) P(H2/S1,S2)=P(H2)+P(H2/H1) P(H2)= 0.05+(0.91

30、32-0.05)/(1-0. 1)(0.7038-0.01)= 0.6291H2的先验概率为0.05，而最后算出的后验概率为0.6291 P(H/E) + P(E/S) 若 0 P(E/S) 1或|A|=0时，m（A）=0。 |A|表示命题A对应集合中的元素个数。第75页，共139页，2022年，5月20日，15点33分，星期四2022/7/14764.4.2 证据理论的不确定性推理模型（3） 对这样的概率分配函数，可计算对应命题和识别框架的信任函数值以及似真函数值： 第76页，共139页，2022年，5月20日，15点33分，星期四2022/7/14774.4.2 证据理论的不确定性推理模型

31、（4）对任何A U和B U均有：m(U)表示对命题A或B不知道的程度 。定义4.7 类概率函数 已知识别框架U，对所有的命题A2U，它的类概率函数为：其中，|A|、|U|表示集合A及U中元素的个数。第77页，共139页，2022年，5月20日，15点33分，星期四2022/7/14784.4.2 证据理论的不确定性推理模型（5）类概率函数具有如下性质：（1）全体基本事件的类概率函数之和为1，即：（2）对任何A U，都有：由以上性质可以得到如下推论：（1）空集的类概率函数值为0，即f( )=0。（2）全集的类概率函数值为1，即f(U)=1。（3）任何时间的类概率函数值都在0和1之间，即对任何A

32、U，均有0 f(A) 1。第78页，共139页，2022年，5月20日，15点33分，星期四2022/7/14794.4.2 证据理论的不确定性推理模型（6）2. 知识的不确定性表示不确定性知识用如下形式的规则来表示： IF E THEN H=h1，h2，hn CF= c1，c2，cn 其中：E：前提条件，它可以是简单条件，也可以是通过AND和OR连接起来的复合条件。H：结论，它用识别框架中的子集表示，h1，h2，hn是该子集中的元素。CF：可信度因子。其中ci用来指出hi i=1，2，n的可信度，且满足如下条件：第79页，共139页，2022年，5月20日，15点33分，星期四2022/7/

33、14804.4.2 证据理论的不确定性推理模型（6）3.证据不确定性表示 不确定性证据E的确定性用CER（E）表示，CER（E）的取值为0，1。对于初始证据，其确定性由用户给出；对于中间结论作为当前推理的证据，确定性由推理得到。4.组合证据不确定性的计算 采用最大最小方法计算，即：简单证据的合取时，取最小值作为组合证据的不确定性；简单证据的析取时，取最大值作为组合证据的不确定性。第80页，共139页，2022年，5月20日，15点33分，星期四2022/7/14814.4.2 证据理论的不确定性推理模型（7）5.不确定性的传递算法设有规则：IF E THEN H=h1，h2，hn CF= c1

34、，c2，cn 则结论H的不确定性可以通过下述步骤求出：（1）求H的概率分配函数若有两条规则支持同一结论H，即：IF E1 THEN H=h1，h2，hn CF= c1，c2，cn IF E 2 THEN H=h1，h2，hn CF= c1，c2 ，cn 则先分别对每一条规则求出概率分配函数m1、m2，然后再求正交和得到H的概率分配函数m.第81页，共139页，2022年，5月20日，15点33分，星期四2022/7/14824.4.2 证据理论的不确定性推理模型（8）（2）求出Bel（H），Pl（H），f（H）（3）求H 的确定性CER（H）其中，MD（H/E）为规则前提条件与相应证据E的匹配

35、度，定义为 第82页，共139页，2022年，5月20日，15点33分，星期四2022/7/14834.4.2 证据理论的不确定性推理模型（9）例4.8 设有如下推理规则：且已知初始证据的确定性分别为： CER（E1）=0.5，CER（E2）=0.6，CER（E3）=0.8，CER（E4）=0.7。假设|U|=10，求CER（H）=？ 解：由给出的推理规则可形成如图推理网络：第83页，共139页，2022年，5月20日，15点33分，星期四2022/7/14844.4.2 证据理论的不确定性推理模型（9）（1）求CER（A）第84页，共139页，2022年，5月20日，15点33分，星期四20

36、22/7/14854.4.2 证据理论的不确定性推理模型（9）（2）求CER（B）第85页，共139页，2022年，5月20日，15点33分，星期四2022/7/14864.4.2 证据理论的不确定性推理模型（10）（3）求正交和对于r3，其概率分配函数为：对于r4，其概率分配函数为： 第86页，共139页，2022年，5月20日，15点33分，星期四2022/7/14874.4.2 证据理论的不确定性推理模型（11）下面求m1和m2的正交和m。第87页，共139页，2022年，5月20日，15点33分，星期四2022/7/14884.4.2 证据理论的不确定性推理模型（12）同理可得：第88

37、页，共139页，2022年，5月20日，15点33分，星期四2022/7/14894.4.2 证据理论的不确定性推理模型（13）（4）求CER（H）第89页，共139页，2022年，5月20日，15点33分，星期四2022/7/1490拓展阅读及实践阅读D_S理论英文介绍： :8080/UGAIWWW/lectures/dempster.html下载程序包试运行 http:/www.quiver.freeserve.co.uk/Dse.htm 中程序包DempsterShaterEngine.zip 第90页，共139页，2022年，5月20日，15点33分，星期四2022/7/14914.5

38、 基于贝叶斯网络的推理4.5.1 什么是贝叶斯网络4.5.2 贝叶斯网络推理第91页，共139页，2022年，5月20日，15点33分，星期四2022/7/14924.5.1 什么是贝叶斯网络（1）贝叶斯网络是一种以随机变量为节点，以条件概率为节点间关系强度的有向无环图（Directed Acyclic Graph，DAG）。设V1，V2，Vk是贝叶斯网络中的节点，满足贝叶斯网络的条件独立性假设，则网络中所有节点的联合概率为： 贝叶斯网络中的节点一般代表事件、对象、属性或状态；有向边一般表示节点间的因果关系。贝叶斯网络也称因果网络、信念网络、概率网络、知识图等，是描述事物之间因果关系或依赖关系

39、的一种直观图形。第92页，共139页，2022年，5月20日，15点33分，星期四2022/7/14934.5.1 什么是贝叶斯网络（2）机器人举积木问题。首先考虑第一个原因，即“电池被充电”（B）和“积木是可举起来的”（L）相对应的变量。B和L对“手臂移动”（M）有一个因果影响，B对G（“仪表指示电池被充电了”）也有因果关系， BLMG节点表示随机变量边表示相关节点或变量之间某种依赖关系每个节点有一个条件概率表（CPT）因节点果节点P（G/B）=0.95P（G/B）=0.1P（M/B,L）=0.9P（M/B, L）=0.05P（M/B, L）=0.05P（M/B, L）=0.0P（B）=0.

40、95P（L）=0.7第93页，共139页，2022年，5月20日，15点33分，星期四2022/7/14944.5.2 贝叶斯网络推理（1）根据贝叶斯网络的结构特征和语义特征，基于网络中的一些已知节点（证据变量），利用这种概率网络就可以推算出网络中另外一些节点（查询变量）的概率，即实现概率推理。推理可分为因果推理诊断推理辩解混合推理第94页，共139页，2022年，5月20日，15点33分，星期四2022/7/14954.5.2 贝叶斯网络推理（2）1 因果网络 由原因到结果的推理，即已知网络中的祖先节点而计算后代节点的条件概率。是一种自上而下的推理。在积木是可以举起的（L）的条件下，计算手臂

41、能移动（M）的概率P（M/L）。由于积木可举起是手臂能移动的原因之一，因此，这是一个典型的因果推理。L称作推理的证据，而M称作询问节点。BLMGP（M/B,L）=0.9P（M/B, L）=0.05P（M/B, L）=0.05P（M/B, L）=0.0第95页，共139页，2022年，5月20日，15点33分，星期四2022/7/14964.5.2 贝叶斯网络推理（3） 首先，由于M还有另外一个因节点电池被充电（B），因此可以对概率P（M/L）进行扩展，得： （4-14） 对式（4-14）中第一项P（M，B/L）做如下变形 ： 第96页，共139页，2022年，5月20日，15点33分，星期四2

42、022/7/14974.5.2 贝叶斯网络推理（4） 同理，可对式（4-14）中的第二项P（M，B/L）变形得到： 由式（4-14）可得结果： （4-15） 将这些概率代入到式（4-15）右端： 第97页，共139页，2022年，5月20日，15点33分，星期四2022/7/14984.5.2 贝叶斯网络推理（5）因果推理的思路和方法（1）对于所求的询问节点的条件概率，用所给证据节点和询问节点的所有因果节点的联合概率进行重新表达。（2）对所得表达式进行适当变形，直到其中的所有概率值都可以从问题贝叶斯网络的条件概率表中得到。（3）将相关概率值代入到概率表达式中进行计算即得所求询问节点的条件概率。

43、第98页，共139页，2022年，5月20日，15点33分，星期四2022/7/14994.5.2 贝叶斯网络推理（6）2 诊断推理由结果到原因的推理，即已知网络中的后代节点而计算祖先节点的条件概率。这种推理是一种自下而上的推理。诊断推理的一般思路和方法是：先利用贝叶斯公式将诊断问题转化为因果推理问题；然后进行因果推理；再利用因果推理的结果，导出诊断推理的结果。第99页，共139页，2022年，5月20日，15点33分，星期四2022/7/141004.5.2 贝叶斯网络推理（7） 假设机器人手臂未移动（M），求积木不可举起（L）的概率，即，也即是用一个结果（或症状）来推理一个起因，把这类推理

44、叫做诊断推理。 由贝叶斯公式，得BLMG第100页，共139页，2022年，5月20日，15点33分，星期四2022/7/141014.5.2 贝叶斯网络推理（8）用因果推理：将结果代入式（4-16）中，计算：同样的，用因果推理可计算出： 第101页，共139页，2022年，5月20日，15点33分，星期四2022/7/141024.5.2 贝叶斯网络推理（9）计算：因为：所以：解得P(M)=0.38725，代入到式（4-16）中得： 第102页，共139页，2022年，5月20日，15点33分，星期四2022/7/141034.5.2 贝叶斯网络推理（10） 如果机器人举积木的例子中已知的证

45、据仅仅是M（手臂不能移动），则能够计算L（积木不能举起）的概率。如果现在仅仅给定B（电池没有被充电），那么L就变得不确定。这种情况下，可以说B解释M，使L不确定。这种推理将使用嵌入在一个诊断推理中的因果推理。 由贝叶斯公式可得： 由条件概率定义：第103页，共139页，2022年，5月20日，15点33分，星期四2022/7/141044.5.2 贝叶斯网络推理（11）所以： （4-17）由联合概率可计算：其中第104页，共139页，2022年，5月20日，15点33分，星期四2022/7/141054.5.2 贝叶斯网络推理（12） 可得P（M，B）=0.05 代入式（4-17）中得： 机器

46、人举积木例子中的推理方法可以推广到更一般的推理过程中去。但是在实际应用系统中的网络，不仅相关因素繁多，而且许多概率是无法得到的，因此，在推理的过程中将会引入大量的近似计算。 贝叶斯网络的建造涉及拓扑结构和条件概率，可以通过机器学习的方法来解决，称为贝叶斯网络学习。第105页，共139页，2022年，5月20日，15点33分，星期四2022/7/141064.6 模糊推理4.6.1 模糊集合及模糊逻辑4.6.2 简单模糊推理第106页，共139页，2022年，5月20日，15点33分，星期四2022/7/141074.6.1模糊集合及模糊逻辑（1） 1965年美国学者扎德（LAZadeh）等人从

47、集合论的角度出发，对传统集合进行了推广，提出了模糊集合、隶属函数、语言变量、语言真值及模糊推理等重要概念。 1 模糊集合的定义2 模糊集合的运算3 模糊关系4 模糊关系的合成5 模糊逻辑第107页，共139页，2022年，5月20日，15点33分，星期四2022/7/141084.6.1模糊集合及模糊逻辑（2）1模糊集合的定义 定义4.8：设U是给定论域，F是把任意uU映射为0,1上某个实数值的函数，即 F : U0,1; u F(u) 则称F为定义在U上的一个隶属函数，对所有的uU，由F(u) 所构成的集合F： 为U上的一个模糊集合（简称模糊集）， F(u)称为对F的隶属度。 模糊子集实际是

48、普通子集的推广，而普通子集是模糊子集的特例。第108页，共139页，2022年，5月20日，15点33分，星期四2022/7/141094.6.1模糊集合及模糊逻辑（3）（1）论域离散的，并且为有限论域，模糊集合F，一般可以记为 F= F(u1)/u1, F(u2)/u2, ， F(un)/un或 F= F(u1)/u1+ F(u2)/u2+ + F(u3)/u3 一般形式为有限论域，可以表示为： F= F(u1), F(u2), F(u3) , , A(un) 第109页，共139页，2022年，5月20日，15点33分，星期四2022/7/141104.6.1模糊集合及模糊逻辑（4）例4.

49、9 设有限论域U=10，20，30，40，50，60，70，80，100上“大”和“小”的概念用集合S大和S小来表示：S大= 0100200.1300.2400.3500.5600.7700.9801901100S小= 1101200.8300.7400.5500.4600.2700800900100第110页，共139页，2022年，5月20日，15点33分，星期四2022/7/141114.6.1模糊集合及模糊逻辑（5）（2）如果论域是连续的，其分段隶属函数就可以表示模糊集 设有论域 U=1, 200，表示人的年龄区间，则模糊概念“年轻”和“年老”可分别定义如下： 第111页，共139页，

50、2022年，5月20日，15点33分，星期四2022/7/141124.6.1模糊集合及模糊逻辑（5）2 模糊集合的运算定义4.9 设F1，F2分别是论域U上的两个模糊集，则F1F2 ，F1F2分别称为F1，F2的并集、交集，它们的隶属函数分别为： 模糊集合论中通常用“”代表max，“”代表min。即对任意的uU，有 第112页，共139页，2022年，5月20日，15点33分，星期四2022/7/141134.6.1模糊集合及模糊逻辑（6）定义4.10 设F为U上的模糊集，称F为F的补集，其隶属函数为例4.10 设U=u1，u2，u3，A和B分别是U上的两个模糊集合 A=0.3/u1+0.8

51、/u2+0.6/u3 B=0.6/u1+0.4/u2+0.7/u3则 AB = (0.30.6)/u1+(0.80.4)/u2+(0.60.7)/u3 =0.3/u1+0.4/u2+0.6/u3 AB = (0.30.6)/u1+(0.80.4)/u2+(0.60.7)/u3 =0.6/u1+0.8/u2+0.7/u3 A = (10.3)/u1+(10.8)/u2+(10.6)/u3 =0.7/u1+0.2/u2+0.4/u3第113页，共139页，2022年，5月20日，15点33分，星期四2022/7/141144.6.1模糊集合及模糊逻辑（7）3 模糊关系普通集合的关系 设U与V是两个

52、集合，则称 UV=(u,)| uU, V 为U与V的笛卡尔乘积。 所谓从U到V的关系R，是指UV上的一个子集，即 RUV。第114页，共139页，2022年，5月20日，15点33分，星期四2022/7/141154.6.1模糊集合及模糊逻辑（8）模糊集的笛卡儿乘积 定义4.11 设Fi是Ui上（i=1，2，n）的模糊集，则称 为F1， F2， Fn的笛卡尔乘积，它是U1 U2 Un上的一个模糊集。 定义4.12 在U1 U2 Un上的一个n元模糊关系R是指以U1 U2 Un为论域的一个模糊集，记为：第115页，共139页，2022年，5月20日，15点33分，星期四2022/7/141164

53、.6.1模糊集合及模糊逻辑（9）例4.11：设有一组学生U: U=张平，李军，王伟 他们对不同的活动V： V=阅读，音乐，运动，郊游 有不同的爱好，把他们对各种球类运动的爱好程度列成一张表，就构成了UV上的一个模糊关系R:R(u,)阅读音乐运动郊游张平0.1李军0王伟0第116页，共139页，2022年，5月20日，15点33分，星期四2022/7/141174.6.1模糊集合及模糊逻辑（10）模糊关系的矩阵表示 若U、V为有限论域，则模糊关系可用一个矩阵表示。 U=u1,u2,um V=1,2,n 则U和V的模糊关系为R(u1,1) R(

54、u1,2) R(u1,n)R(u2,1) R(u2,2) R(u2,n) R(um,1) R(um,2) R(um,n)R = 第117页，共139页，2022年，5月20日，15点33分，星期四2022/7/141184.6.1模糊集合及模糊逻辑（11）例4.11的模糊矩阵是0.7 0.5 0.4 0.10 0.6 0 0.50.5 0.3 0.8 0 R = 第118页，共139页，2022年，5月20日，15点33分，星期四2022/7/141194.6.1模糊集合及模糊逻辑（12）定义4.13 设R1与R2分别是U V和V W上的两个模糊关系，则R1与R2的合成是从U到W的一个模糊关系

55、，记为其隶属函数为这种合成关系的方法称为最大-最小矩阵集（max-min matrix product），或简单地称为最大-最小（max-min），即是把矩阵乘法运算中的加法和乘法换为最大和最小函数。 第119页，共139页，2022年，5月20日，15点33分，星期四2022/7/14120Zadeh的模糊关系合成法则 设 4.6.1模糊集合及模糊逻辑（13）第120页，共139页，2022年，5月20日，15点33分，星期四2022/7/14121则 即,对R1第i行和R2第j列对应元素取最小,再对k个结果取最大, 所得结果就是R中第i行第j列处的元素。 4.6.1模糊集合及模糊逻辑（14

56、）第121页，共139页，2022年，5月20日，15点33分，星期四2022/7/141224.6.1模糊集合及模糊逻辑（15）例4.12 有如下两个模糊关系R1和R2：第122页，共139页，2022年，5月20日，15点33分，星期四2022/7/141234.6.1模糊集合及模糊逻辑（16） 5模糊逻辑 对于自然语言描述的模糊命题，可以用模糊集合和语言变量来量化其含义，模糊命题就是对语言变量指定一定的语言值。 表4-6 常用的语言变量及典型值语言变量典型值高度矮小、短、一般、高、巨大数量几乎无、几个、少数、许多生命历程婴儿、小孩、青少年、成人亮度微暗的、弱的、正常的、明亮的、强烈的第1

57、23页，共139页，2022年，5月20日，15点33分，星期四2022/7/141244.6.1模糊集合及模糊逻辑（17） 模糊逻辑是研究模糊命题的逻辑。 n元谓词 表示一个模糊命题。那么这个模糊命题的真值为其中对象x1， x2 ， xn 对模糊集合P的隶属度。即 把模糊命题的真值定义为一个区间0,1中的一个实数。第124页，共139页，2022年，5月20日，15点33分，星期四2022/7/141254.6.1模糊集合及模糊逻辑（18）模糊逻辑运算 由这三种模糊逻辑运算所建立的逻辑系统就是所谓的模糊逻辑。第125页，共139页，2022年，5月20日，15点33分，星期四2022/7/1

58、41264.6.2 简单模糊推理（1） 模糊推理是基于不确切性知识(模糊规则)的一种推理。模糊推理也有三种基本模式，即模糊假言推理、拒取式推理和模糊三段论推理，以下仅以模糊假言推理为例说明模糊推理的过程。 1.模糊知识的表示形式 模糊规则： IF x is A THEN y is B x和y是语言变量，表示对象； A和B是模糊语言值，可以分别用论域U和V上的模糊集来表示。 所用的证据： x is A 第126页，共139页，2022年，5月20日，15点33分，星期四2022/7/14127 例如, 设有规则 如果x isA 那么 y isB 其中A、B是两个语言值。那么,按Zadeh的观点, 这个规则表示了A、B之间的一种模糊关系R。于是, 有 其中U、V分别为模糊集合A、B所属的论域,R(ui,vj) (i, j=1, 2, )是元素(ui, vj) 对于R的隶属度。 4.6.2 简单模糊推理（2）2.用模糊关系表示模糊规则第127页，共139页，2022年，5月20日，15点33分，星期四2022/7/14128(i, j=1, 2, ) 其中、分别代表