第四章不确定性推理

1、L/O/G/O第四章第四章 不确定性推理不确定性推理本章内容本章内容不确定性推理概述不确定性推理概述模糊理论模糊理论主观主观Bayes方法方法可信度方法可信度方法4163证据理论证据理论52概率方法概率方法4.1 不确定性推理概述不确定性推理概述1.建立在不确定知识和证据基础上的推理建立在不确定知识和证据基础上的推理2. 从不确定性的初始证据出发，通过运用不确定性从不确定性的初始证据出发，通过运用不确定性的知识，最终推出具有一定程度的不确定性但却的知识，最终推出具有一定程度的不确定性但却是合理或者近乎合理的结论的思维过程是合理或者近乎合理的结论的思维过程3. 反映了知识不确定性的动态积累和传播

2、过程反映了知识不确定性的动态积累和传播过程4.1.1 不确定性推理中的基本问题不确定性推理中的基本问题1.表示问题表示问题1 1、知识不确定性的表示、知识不确定性的表示2 2、证据的不确定性表示、证据的不确定性表示2. 计算问题计算问题1 1、不确定性的传递算法、不确定性的传递算法2 2、结论不确定性的合成、结论不确定性的合成3 3、组合证据的不确定性算法、组合证据的不确定性算法3. 语义问题语义问题1 1、知识的不确定性度量、知识的不确定性度量2 2、证据的不确定性度量、证据的不确定性度量4.1.2 不确定性推理方法分类不确定性推理方法分类1 1、控制方法控制方法 特点:通过识别领域中引起不

3、确定性的某些特征及相应的控制策略来限制或减少不确定性对系统产生的影响，这类方法没有处理不确定性的统一模型，其效果极大地依赖于控制策略。相关性制相关性制导回溯导回溯 机缘控制机缘控制 启发式启发式搜索搜索 2 2、模型方法、模型方法 特点特点:把不确定的证据和不确定的知识分别与某把不确定的证据和不确定的知识分别与某种度量标准对应起来，并且给出更新结论不确定性的种度量标准对应起来，并且给出更新结论不确定性的算法，从而构成了相应的不确定性推理的模型。算法，从而构成了相应的不确定性推理的模型。非数值方法是指除数值方法外的其他非数值方法是指除数值方法外的其他各种处理不确定性的方法。各种处理不确定性的方法

4、。非数值非数值方法方法数值方法是对不确定性的一种定量数值方法是对不确定性的一种定量表示和处理方法。表示和处理方法。数值方法数值方法4.1.2 不确定性推理方法分类不确定性推理方法分类数值方法数值方法分类分类模糊推理模糊推理基于概率基于概率的方法的方法4.1.2 不确定性推理方法分类不确定性推理方法分类理论依据理论依据4.1.2 不确定性推理方法分类不确定性推理方法分类主观主观BayesBayes方法方法它是它是PROSPECTORPROSPECTOR专家系统中使用专家系统中使用的不确定推理模的不确定推理模型，是对型，是对BayesBayes公式修正后形成公式修正后形成的一种不确定推的一种不确定

5、推理方法。理方法。 可信度方法可信度方法它是它是MYCINMYCIN专家专家系统中使用的系统中使用的不确定推理模不确定推理模型，它以确定型，它以确定性理论为基础，性理论为基础，方法简单、易方法简单、易用。用。证据理论证据理论它通过定义信它通过定义信任函数、似然任函数、似然函数，把知道函数，把知道和不知道区别和不知道区别开来。开来。基于概率的方法基于概率的方法 设有如下产生式规则：设有如下产生式规则： IF E THEN H其中，其中，E为前提条件，为前提条件，H为结论，具有随机性。为结论，具有随机性。 根据概率论中条件概率的含义，我们可以用条件概率根据概率论中条件概率的含义，我们可以用条件概率

6、P(H|E)表示上述产生式规则的不确定性程度，即表示为表示上述产生式规则的不确定性程度，即表示为在证据出现的条件下，结论在证据出现的条件下，结论H成立的确定性程度。成立的确定性程度。 对于复合条件对于复合条件 E = E1 AND E2 AND AND En可以用条件概率可以用条件概率P(H|E1,E2,En)作为在证据出现时结作为在证据出现时结论的确定程度。论的确定程度。4.2 概率方法概率方法4.2.1 经典概率方法经典概率方法4.2.2 Bayes定理定理 设设A,B1,B2,Bn 为一些事件，为一些事件，P(A)0,B1,B2,Bn 互不互不相交，相交，P(Bi)0，i=1,2,n，且

7、，且 则对于则对于k=1,2,n有 (4.3.1)() (|)(|)() (|)kkkiiiP B P A BP BAP B P A BiiBP)1( Bayes Bayes公式容易由条件概率的定义、乘法公式和全公式容易由条件概率的定义、乘法公式和全概率公式得到。在概率公式得到。在BayesBayes公式中，称为先验概率，而称公式中，称为先验概率，而称为后验概率，也就是条件概率。为后验概率，也就是条件概率。1 1单个证据的情况单个证据的情况 如果用产生式规则如果用产生式规则 IF E THEN Hi i 1, 2, , n其中前提条件其中前提条件E 代替代替Bayes公式中公式中B，用，用Hi

8、 代替公式中的代替公式中的Ai 就可得到就可得到 i1,2, ,n (4.3.2) 当 已 知 结 论当 已 知 结 论 Hi( i = 1 , 2 , ） 的 先 验 概 率 ， 并 且 已 知 结 论） 的 先 验 概 率 ， 并 且 已 知 结 论 Hi成立时前提条件成立时前提条件E 所对应的证据出现的条件概率所对应的证据出现的条件概率P(E|Hi)，就可以用上，就可以用上式求出相应证据出现时结论式求出相应证据出现时结论Hi的条件概率的条件概率P(Hi|E)。1(|) ()(|)(|) ()iiinjjjP E H P HP HEP E HP H4.2.3 逆概率方法的基本思想逆概率方法

9、的基本思想2 2多个证据的情况多个证据的情况 对于有多个证据对于有多个证据E1,E2,En和多个结论和多个结论H1,H2,Hn并且每个证据都以一定程度支持结论的情况，上面的并且每个证据都以一定程度支持结论的情况，上面的式子可进一步扩充为式子可进一步扩充为 (4.3.3) 1212121(/) (/)(/) ()(/)(/) (/)(/) ()iimiiimnjjmjjjP E H P EHP EH P HP HEEEP E H P EHP EH P H4.2.3 逆概率方法的基本思想逆概率方法的基本思想 逆概率公式的优点是它有较强的理论背景和良好的逆概率公式的优点是它有较强的理论背景和良好的数

10、学特征，当证据及结论彼此独立时计算的复杂度比数学特征，当证据及结论彼此独立时计算的复杂度比较低。其缺点是要求给出结论较低。其缺点是要求给出结论Hi的先验概率的先验概率P(Hi)及证及证据据Ej的条件概率的条件概率P(Ej|Hi)，尽管有些时候，尽管有些时候P(Ej|Hi)比比 P(Hi|Ej)相对容易得到，但总的来说，要想得到这些数相对容易得到，但总的来说，要想得到这些数据仍然是一件相当困难的工作。另外，据仍然是一件相当困难的工作。另外，Bayes公式的应公式的应用条件是很严格的，它要求各事件互相独立等，如若用条件是很严格的，它要求各事件互相独立等，如若证据间存在依赖关系，就不能直接使用这个方

11、法。证据间存在依赖关系，就不能直接使用这个方法。4.2.4 概率方法的优缺点概率方法的优缺点4.3 主观主观Bayes方法方法 知识不确定性的表示知识不确定性的表示证据不确定性的表示证据不确定性的表示不确定性的传递算法不确定性的传递算法 结论不确定性的合成结论不确定性的合成 主观主观Bayes的优缺点的优缺点4.3.1 知识不确定性的表示知识不确定性的表示 知识是用产生式规则表示的，具体形式为知识是用产生式规则表示的，具体形式为 IF E THEN (LS，LN) H (P(H)其中其中（1）E 是该知识的前提条件。它既可以是一个简单条件，是该知识的前提条件。它既可以是一个简单条件，也可以是复

12、合条件。也可以是复合条件。（2）H 是结论。是结论。P(H)是是 H 的先验概率，它指出在没有的先验概率，它指出在没有任何证据情况下的结论任何证据情况下的结论 H 为真的概率，即为真的概率，即 H 的一般可的一般可能性。能性。（3）（）（LS，LN）为规则强度。其值由领域专家给出。）为规则强度。其值由领域专家给出。)|()|(HEPHEPLS)|()|(HEPHEPLN关于关于LS、LN的讨论的讨论为假为真则当排斥为真为真则当的支持越充分对越大且支持没有影响对的支持程度对反映HHELSE, 0LS,E 1LSHE,LS ,HE,LS,HE 1LSH 1LSHE为假为真则当排斥为真为真则当的支持

13、越充分对越大且支持没有影响对的支持程度对反映HHELNE, 0LS,E 1LNHE,LN ,HE,LN,HE 1LNH 1LNHEr1: IF E1 THEN (1,0.003) H1 (0.4)r2: IF E2 THEN (18,1) H2 (0.06)r3: IF E3 THEN (12,1) H3 (0.04)计算计算P(Hi|Ei)/P(Hi|Ei) 1LNLS1LN1LS1N1LS且且且且 L4.3.2 证据不确定性的表示证据不确定性的表示 若以若以O(x) 或或P(x)表示证据表示证据x的不确定性，则转的不确定性，则转换公式是：换公式是： P(x)与与O(x)有相同的单调性有相同

14、的单调性 介于真假之间时为真为假 x), 0(x x 0)(1)()(xPxPxO1证据肯定存在的情况证据肯定存在的情况4.3.3 不确定性的传递算法不确定性的传递算法在证据在证据E 肯定存在时，把先验几率肯定存在时，把先验几率O(H)更新为后更新为后验几率验几率O(H/E)的计算公式为的计算公式为 (4.4.1) 如果将上式换成概率，就可得到如果将上式换成概率，就可得到 (4.4.2) (/)()O H ELSO H()(/)(1)() 1LSP HP H ELSP H在证据在证据E肯定不存在时，把先验几率肯定不存在时，把先验几率O(H)更新为后验更新为后验几率几率O(H/E)的计算公式为的

15、计算公式为 (4.4.3) 如果将上式换成概率，就可得到如果将上式换成概率，就可得到 (4.4.4) (/)()O HELNO H()(/)(1)() 1LNP HP HELNP H4.3.3 不确定性的传递算法不确定性的传递算法2证据肯定不存在的情况证据肯定不存在的情况(/ )(/)(/ )(/)(/ )P H SP H EP E SP HEPE S4.3.3 不确定性的传递算法不确定性的传递算法3证据不确定的情况证据不确定的情况P(H|E)P(E/S)1P(H|E)P(H)P(H|S)P(E)0（1）当）当P(E/S)=1时，式时，式(4.4.5)变成变成()(/ )(/)(1)() 1L

16、SP HP H SP H ELSP H1)() 1()()/()/(HPLNHPLNEHPSHP（2）当）当P(E/S)=0时，式时，式(4.4.5)变成变成4.3.3 不确定性的传递算法不确定性的传递算法（3 3）当当P(E/S)=P(E)时，表示时，表示E与与S无关，利用全概率公式无关，利用全概率公式将公式将公式(4.4.5)变为变为(/(/)( )(/)()()P H SP H EP EP HEPEP H）1)|()( )()|()(1)()|()()()|(0 )|()()|()()|()|(SEPEPEPSEPEPHPEHPHPEPSEPSEPEPEHPHPEHPSHP当当（4）当当

17、P(E/S)为其它值时，通过分段线性插值就可得为其它值时，通过分段线性插值就可得计算计算P(H/S)的公式的公式4.3.3 不确定性的传递算法不确定性的传递算法 例例2 2 设有如下知识设有如下知识R R1 1：IF IF A A THEN (20 THEN (20，1) 1) B B1 1(0.03)(0.03)R R2 2：IF IF B B1 1 THEN (300 THEN (300，0.0001) 0.0001) B B2 2(0.01)(0.01)求：当证据求：当证据A A必然发生时必然发生时, ,P(BP(B2 2 / /A)A)的值是多少？的值是多少？ 解解:（1）由于）由于A

18、必发生，由必发生，由R1得得111()200.03(/)0.3822(1)()1(201)0.031LSP BP BALSP B （2）由于）由于B1不是必发生的，所以需作插值处理。不是必发生的，所以需作插值处理。21212( )300 0.01( / ) 1(/ )0.75188(1)( ) 1 (300 1) 0.03 1LS P BP B AP B BLSP B 例例1 14.4.3 不确定性的传递算法不确定性的传递算法 11(/)()0.03P BAP B2()0.01P B1(/)0.03,1P BA 20.751880.01(/)0.01(0.38220.03)0.30510510

19、.03P BA当当时，有时，有，所以在此区间插值。，所以在此区间插值。由于由于4.4.3 不确定性的传递算法不确定性的传递算法 （1）当组合证据是多个单一证据的合取时，即）当组合证据是多个单一证据的合取时，即 E = E1 and E2 and and En 如果已知如果已知P(E1|S),P(E2|S),P(En|S)则则 P(E/S)=minP(E1|S),P(E2|S),P(En|S) （2）当组合证据）当组合证据E是多个单一证据的析取时，即是多个单一证据的析取时，即 E = E1 or E2 or or En 如果已知如果已知P(E1|S),P(E2|S),P(En|S)则，则， P(

20、E/S)=maxP(E1|S),P(E2|S),P(En|S) （3）“非非”运算用下式计算运算用下式计算 (/)1(/)PESP ES4.4.3 不确定性的传递算法不确定性的传递算法4组合证据的情况组合证据的情况 若有若有n条知识都支持相同的结论条知识都支持相同的结论，而且每条知识的，而且每条知识的前提条件所对应的证据前提条件所对应的证据Ei(i=1,2,n)都有相应的观都有相应的观Si与之对应，此时只要先对每条知识分别求出与之对应，此时只要先对每条知识分别求出O(H|Si) 然后就可运用下述公式求出然后就可运用下述公式求出O(H|S1,S2,Sn) iS4.3.4 结论不确定性的合成算法结

21、论不确定性的合成算法12121212,1,2(/)(/)(/)(/,)()()()()(/,)(/,)1(/,)nnnnnO H SO H SO H SO H S SSO HO HO HO HO H S SSP H S SSO H S SS例例2： 设有如下知识设有如下知识 r1:IF E1 THEN (20，1) Hr2:IF E2 THEN (300, 1) H 已知已知P(H)=0.03，若证据，若证据E1，E2依次出现，求依次出现，求P(H|E1,E2)解法解法1：合成法：合成法O(H)=P(H)/(1-P(H)=0.0309由由r1：O(H|E1)=LS1*O(H)=0.618由由r

22、2：O(H|E2)=LS2*O(H)=9.274 .185 )()()|()()|(),|(2121HOHOEHOHOEHOEEHO9946. 0)|(1),|(),|(2, 12121EEHOEEHOEEHP4.3.5 应用举例应用举例解法解法2：更新法：更新法382. 01)() 11()()|(11HPLSHPLSEHP9946. 01)|() 1()|(),|(121221EHPLSEHPLSEEHP4.3.5 应用举例应用举例例例3 设有如下规则：设有如下规则：r1:IF E1 THEN (2, 0.000001) H1r2:IF E2 THEN (100, 0.000001) H1

23、 r3:IF H1 THEN (65, 0.01) H2r4:IF E3 THEN (300, 0.0001) H2 且已知且已知P(H1)=0.1, P(H2)=0.01, P(E1)=0.2, P(E2)=0.4, P(E3)=0.03 P(E1|S1)=0.7, P(E2|S2)=0.6, P(E3|S3)=0.02, 求求P(H2|S1S2S3)E1H1E2E3H2(2,0.000001)(65,0.01)(300,0.0001)(100,0.000001)0.20.40.030.10.014.3.5 应用举例应用举例解解(1)求求P(H1|S1)1818. 01)1 . 0)(12(

24、)1 . 0(21)1)P(H-(LS)P(HLS)E|P(H1111 151125. 0)2 . 07 . 0(2 . 011 . 01818. 01 . 0 )P(E)S|P(E)P(E-1)P(H- )E|P(H)P(H)S|P(H 0.20.7)S|P(E111111111111 4.3.5 应用举例应用举例(2)求求P(H1|S2)9174311. 01)1 . 0)(1100()1 . 0(1001)1)P(H-(LS)P(HLS)E|P(H1121 372477. 0)4 . 06 . 0(4 . 011 . 09174311. 01 . 0 )P(E)S|P(E)P(E-1)P

25、(H- )E|P(H)P(H)S|P(H 0.40.6)S|P(E222212112122 4.3.5 应用举例应用举例4874563. 0)S&S|O(H1S&S|H()S&S|P(H951053. 0)O(H)O(H)S|O(H)O(H)S|O(H)S&S|O(H593567. 0372477. 01372477. 0)S|P(H-1)S|P(H)S|O(H1780297. 0151125. 01151125. 0)S|P(H-1)S|P(H)S|O(H 0.1111110.1-10.1)P(H1H()O(H)S&S|P(H 3)(211211211

26、1121111211212121111111111211 ）计计算算OP4.3.5 应用举例应用举例1763226. 0) 1 . 04874563. 0(0.1-10.01-0.39634140.01 )P(H- )S&S|P(H)P(H1)P(H)H|P(H)P(H)S&S|P(H1 . 04874563. 0)S&S|P(H3963414. 01)01. 0)(165()01. 0(651)1)P(H-(LS)P(HLS)H|P(H)S&S|P(H (4)1211121222122112212212 计算4.3.5 应用举例应用举例006667. 002.

27、 00.030.000001-0.010.000001 )S|P(E)P(E)E|P(H)P(H)E|P(H)S|P(H000001. 01)01. 0)(10001. 0()01. 0(0001. 01)1)P(H-(LN)P(HLN)E|P(H03. 002. 0)S|P(E)S|P(H (5)333322323122323332 计算4.3.5 应用举例应用举例124564. 0)S&S&S|O(H1S&S&S|H()S&S&S|P(H142239. 0)O(H)O(H)S|O(H)O(H)S&S|O(H)S&S&S

28、|O(H00671174. 0006667. 01006667. 0)S|P(H-1)S|P(H)S|O(H2140675. 01763226. 011763226. 0)S&S|P(H-1)S&S|P(H)S&S|O(H 0.0101010.01-10.01)P(H1H()O(H)S&S&S|P(H 6)(3212321232122232221232123232322122122122223212 ）计计算算OP（1）主观）主观Bayes方法具有较坚实的理论基础。方法具有较坚实的理论基础。（2）知识的静态强度）知识的静态强度LS及及LN是由领域专家根据

29、是由领域专家根据实验经验给出的，比较全面地反映了证据与结实验经验给出的，比较全面地反映了证据与结论间因果关系，符合现实世界中某些领域的实论间因果关系，符合现实世界中某些领域的实际情况，使推出的结论有较际情况，使推出的结论有较准确的确定性准确的确定性。（3）主观）主观Bayes方法实现了不确定性的逐级传递。方法实现了不确定性的逐级传递。4.3.6 主观主观Bayes方法的优缺点方法的优缺点主要优点主要优点（1）要求领域专家在给出知识的同时给出）要求领域专家在给出知识的同时给出H的先的先验概率验概率P(H)，这是比较困难的。，这是比较困难的。（2）Bayes方法中关于事件间独立性的要求使主方法中关

30、于事件间独立性的要求使主观观Bayes方法的应用受到了限制。方法的应用受到了限制。主要缺点主要缺点4.4.6 主观主观Bayes方法的优缺点方法的优缺点 所谓可信度就是在实际生活中根据自己的经验对某一事所谓可信度就是在实际生活中根据自己的经验对某一事 物或现象进行观察，判断相信其为真得程度。可信度也称为物或现象进行观察，判断相信其为真得程度。可信度也称为确定性因子。确定性因子。 在以产生式作为知识表示的专家系统在以产生式作为知识表示的专家系统MYCIN中，用以中，用以度量知识和证据的不确定性。度量知识和证据的不确定性。 显然，可信度具有较大的主观性和经验性，其准确性是显然，可信度具有较大的主观

31、性和经验性，其准确性是难以把握的。难以把握的。4.4 可信度方法可信度方法4.4.1 可信度的概念可信度的概念4.4.2 C-F模型模型 C-F模型是基于可信度表示的不确定性推理的基本方法，模型是基于可信度表示的不确定性推理的基本方法，其他可信度方法都是在此基础上发展起来的。其他可信度方法都是在此基础上发展起来的。1 1知识不确定性的表示知识不确定性的表示 2 2证据不确定性的表示证据不确定性的表示3 3组合证据不确定性的算法组合证据不确定性的算法 4 4不确定性的传递算法不确定性的传递算法 5 5结论不确定性的合成算法结论不确定性的合成算法 4.4.3 知识不确定性的表示知识不确定性的表示

32、在可信度方法中，知识是用产生式规则表示的，具体在可信度方法中，知识是用产生式规则表示的，具体形式为形式为 IF E THEN H (CF(H,E)其中其中（1）E 是知识的前提条件，或称为证据。它既可以是一是知识的前提条件，或称为证据。它既可以是一个简单条件，也可以是复合条件。个简单条件，也可以是复合条件。（2）H 是结论，它可以是一个单一的结论，也可以是是结论，它可以是一个单一的结论，也可以是多个结论。多个结论。（3） CF(H,E)是该条知识的可信度，称为可信度因子或是该条知识的可信度，称为可信度因子或规则强度。规则强度。 P(H)E)|P(H 1-P(H)P(H)-E)|P(HP(H)E

33、)|P(H 0P(H)E)|P(H P(H)-1P(H)-E)|P(HE)CF(H, HEP(H)E)|P(H 0 HE0E)|P(H 1- HE1E)|P(H 1 没没有有影影响响对对时时，即即当当为为假假真真则则时时，即即当当为为真真真真则则时时，即即当当4.4.3 知识不确定性的表示知识不确定性的表示 HE 0 E)H,(CF 1- HE 1E)CF(H,0 为假的概率的出现增加了证据为真的概率的出现增加了证据4.4.4 证据不确定性的表示证据不确定性的表示1CF(E)1：证据的不确定性表示为 对对证证据据一一无无所所知知以以某某种种程程度度为为假假以以某某种种程程度度为为真真肯肯定定为

34、为真真 0E 0E 0E 1CF(E)单个证据单个证据4.4.4 证据不确定性的表示证据不确定性的表示 （1）当组合证据是多个单一证据的合取时，即）当组合证据是多个单一证据的合取时，即 E = E1 and E2 and and En 如果已知如果已知CF(E1),CF(E2),CF(En)则则 CF(E)=minCF(E1),CF(E2),CF(En) （2）当组合证据）当组合证据E是多个单一证据的析取时，即是多个单一证据的析取时，即 E = E1 or E2 or or En 如果已知如果已知CF(E1),CF(E2),CF(En)则，则， CF(E)=maxCF(E1),CF(E2),C

35、F(En)组合证据组合证据 如果支持结论的知识只有一条，且已知证据的如果支持结论的知识只有一条，且已知证据的可信度可信度CF(E)和规则和规则 IF E THEN H 的可信度的可信度CF(H,E)，则结论，则结论H的可信度计算公式如下的可信度计算公式如下 CF(H)=CF(H,E)*max0,CF(E)4.4.5 不确定性的传递算法不确定性的传递算法单条知识支持结论单条知识支持结论)E(CF(H, H THEN E IF )E(CF(H, H THEN E IF 2211假设的合成算法多个独立证据推出同一)CF(Emax0,)ECF(H,(H)CF )CF(Emax0,)ECF(H,(H)C

36、F222111 则则异号(H)CF和(H)CF (H)CF(H)CF0(H)CF0,(H)CF (H)CF(H)CF(H)CF(H)CF0(H)CF0,(H)CF (H)CF(H)CF(H)CF(H)CF(H)CF21212121212121211,2多条知识支持同一结论多条知识支持同一结论4.4.5 不确定性的传递算法不确定性的传递算法结论可信度的更新算法结论可信度的更新算法已知规则已知规则IF E THEN H (CF(H,E)及及CF(H),求求CF(H|E)异号E)CF(H,和CF(H) |)CF(E)E)CF(H,| |,CF(H)min(|-1E)CF(H,CF(H)0E)CF(H

37、,0,CF(H) CF(H)E)CF(H,E)CF(H,CF(H)0E)CF(H,0,CF(H) CF(H)E)CF(H,E)CF(H,CF(H)E)|CF(HCF(E)=10CF(E)1异号E)CF(H,和CF(H) |)CF(E)E)CF(H,| |,CF(H)min(|-1CF(E)E)CF(H,CF(H)0E)CF(H,0,CF(H) CF(E)CF(H)E)CF(H,CF(E)E)CF(H,CF(H)0E)CF(H,0,CF(H) CF(E)CF(H)E)CF(H,CF(E)E)CF(H,CF(H)E)|CF(HCF(E)=0,规则不可用规则不可用4.4.5 不确定性的传递算法不确定

38、性的传递算法4.4.6 可信度方法应用举例可信度方法应用举例 已知已知 R1：IF A1 THEN B1 CF(B1,A1)=0.8； R2: IF A2 THEN B1 CF(B1,A2)=0.5； R3: IF B1A3 THEN B2 CF(B2,B1A3)=0.8;初始证据为初始证据为A1,A2,A3的可信度的可信度CF均设为均设为1，即，即CF(A1)= CF(A2)= CF(A3)=1,对对B1,B2一无所知一无所知,求求CF(B1)和和CF(B2)。B B2 2B B1 1A A3 3A A1 1A A2 2(1)(1)对于知识对于知识R R1 1,R,R2 2, ,分别计算分别

39、计算CFCF1 1(B(B1 1),CF),CF2 2(B(B1 1) )1111121122()(,)max0,()0.8 10.8()(,)max0,()0.5 10.5CF BCF B ACF ACF BCF B ACF A (2)(2)利用合成算法计算利用合成算法计算B B1 1的综合可信度的综合可信度1,211211121()()()()0.80.50.80.50.9CFCF BCF BCF BCF B(3)(3)计算计算B B2 2的可信度，这时，的可信度，这时，B B1 1作为作为B B2 2的证据，的证据，CF(BCF(B1 1)=0.9)=0.9，而而A A3 3的可信度为初

40、始制定的的可信度为初始制定的1 1。由规则。由规则R R3 3得到得到 72. 09 . 0 , 0max8 . 0)(, 0max),()(313122ABCFABBCFBCF4.4.6 可信度方法应用举例可信度方法应用举例例例2:设有如下规则：设有如下规则： R1： IF EI THEN H (0.8) R2： IF E2 THEN H (0.6) R3: IF E3 THEN H (-0.5) R4： IF E4 AND E5 OR E6 THEN E1 (0.7) R5： IF E7 AND E8 THEN E3 (0.9)在系统运行中已从用户处得在系统运行中已从用户处得CF(E2)=

41、0.8，CF(E4)=0.5，CF(E5)=0.6，CF(E6)=0.7，CF(E7)=0.6，CF(E8)=0.9，求求H的综合可倍度的综合可倍度CF(H)。4.4.6 可信度方法应用举例可信度方法应用举例(1)求求CF(E1),CF(E3) CF(E4 AND (E5 OR E6) =minCF(E4),maxCF(E5),CF(E6)=0.5 CF(E1)=0.7max0,CF (E4 AND (E5 OR E6) =0.50.7=0.35 同理可得：同理可得：CF(E3)=0.54(2)求求CF1(H),CF2(H),CF3(H) CF1(H)=0.8max0,CF(E1)=0.80.

42、35=0.28 CF2(H) =0.6max0,CF(E2)=0.60.8=0.48 CF3(H) =-0.5max0,CF(E3)=-0.50.54=-0.274.4.6 可信度方法应用举例可信度方法应用举例(3)求求CF1,2(H),CF1,2,3(H) CF1,2(H)= CF1(H)CF2(H)- CF1(H)CF2(H) =0.28+0.48-0.280.48=0.63 CF1,2,3(H)= CF1,2(H)+CF3(H)=0.63-0.27=0.3649. 027. 0127. 063. 0 |)(| |,)(min|1)()(H)CF32, 132, 11,2,3HCFHCFH

43、CFHCF4.4.6 可信度方法应用举例可信度方法应用举例4.5 证据理论证据理论4.5.1 D-S理论的数学基础理论的数学基础 证据理论是用集合表示命题的。设证据理论是用集合表示命题的。设D是变是变量量x所有可能取值的集合，且所有可能取值的集合，且D中的元素是互中的元素是互斥的，在任一时刻斥的，在任一时刻x都取都取D中的某一个元素为中的某一个元素为值，则称值，则称D为为x的样本空间。在证据理论中，的样本空间。在证据理论中，D的任何一个子集的任何一个子集A都对应于一个关于都对应于一个关于x的命的命题，称该命题为题，称该命题为“x的值在的值在A中中”。 设设D为样本空间，领域内的命题都用为样本空

44、间，领域内的命题都用D的子集表示，则概率的子集表示，则概率分配函数（分配函数（Function of Probability Assignment）定义如下。）定义如下。定义定义4.6.1 设函数设函数M(x): 2D0,1,且满足且满足则称则称M(x)是是2D 上的概率分配函数，上的概率分配函数，M(A)称为称为A的基本概的基本概率函数即对于样本空间率函数即对于样本空间D的任一子集都分配一个概率值。的任一子集都分配一个概率值。()0M ( )1ADM A1、概率分配函数、概率分配函数4.5.1 D-S理论的数学基础理论的数学基础 定义定义4.6.2 设函数设函数Bel：2D0,1 , 且且

45、（ ）则称为命题则称为命题A的信任函数（的信任函数（Function of Belief）,即命题即命题A的信任函数值，就是的信任函数值，就是A的所有子集的基本概率分配函数之的所有子集的基本概率分配函数之和，用来表示对和，用来表示对A的总信任。的总信任。Bel函数又称为下限函数，以函数又称为下限函数，以Bel（A）表示对命题）表示对命题A为真的信任程度。为真的信任程度。( )( )BABel AM B2. 信任函数信任函数2DA4.5.1 D-S理论的数学基础理论的数学基础 似然函数（似然函数（Plausible Function）又称为不可驳斥）又称为不可驳斥函数或上限函数，下面给出它的定义

46、。函数或上限函数，下面给出它的定义。 定义定义4.6.3 似然函数似然函数:pl: 2D0,1 ,且且 （ ） 命题命题A的似然函数值就是所有与的似然函数值就是所有与A相交的子集的基本概相交的子集的基本概率分配函数之和，用来表示不否定率分配函数之和，用来表示不否定A的信任度。的信任度。2DA3. 似然函数似然函数ABBMABelApl)()(1)(4.5.1 D-S理论的数学基础理论的数学基础 即即 由于由于Bel(A)表示对表示对A为真的信任程度，为真的信任程度，pl(A)表示对表示对A为为非假的信任程度，因此可分别称非假的信任程度，因此可分别称Bel(A) 和和pl(A)为对为对A信任信任

47、程度的下限和上限，记作程度的下限和上限，记作A(Bel(A),pl(A)( )()( )( )( )1BACAEDBel ABelAM BM CM E( )( )1()( )Pl ABel ABelABel A 1()( )0BelABel A 4信任函数与似然函数的关系信任函数与似然函数的关系( )( )Pl ABel A4.5.1 D-S理论的数学基础理论的数学基础 有时对同样的证据会得出两个不同的概率分配函数。例有时对同样的证据会得出两个不同的概率分配函数。例如，对于样本空间如，对于样本空间D=a,b，从不同的来源可分别得到如，从不同的来源可分别得到如下两个概率分配函数：下两个概率分配函

48、数： 此时需要对它们进行组合，德普斯特提出的组合方法可此时需要对它们进行组合，德普斯特提出的组合方法可对这两个概率分配函数进行正交和运算。对这两个概率分配函数进行正交和运算。5概率分配函数的正交和概率分配函数的正交和11112222( )0.3,( )0.6,( , )0.1,( )0( )0.4,( )0.4,( , )0.2,( )0MaMbMa bMMaMbMa bM4.5.1 D-S理论的数学基础理论的数学基础 设设M M1 1和和M M2 2是两个概率分配函数，则其正交和是两个概率分配函数，则其正交和 为为 其中，其中， 。 如果如果 , ,则正交和则正交和M M也是一个概率分配函数

49、；也是一个概率分配函数；如果如果K K0,0,则不存在正交和则不存在正交和M M，称，称M1和和M2矛盾。矛盾。 定义定义4.5.412MMM0)(MAYXYMXMKAM)()()(211YXYXYMXMYMXMK)()()()(121210K 4.5.1 D-S理论的数学基础理论的数学基础定义定义4.5.5 对于多个概率分配函数对于多个概率分配函数 ，如果它们，如果它们可以组合，则也可通过正交和运算将它们组合为一个概率可以组合，则也可通过正交和运算将它们组合为一个概率分配函数，其定义如下。分配函数，其定义如下。12,nMMM 设设 是是n n个概率分配函数，则其正交个概率分配函数，则其正交

50、和和 为为其中，其中， 。12,nM MM12nMMMM11()0( )()iiiAAi nMM AKMA 1()iiiAinKMA 4.5.1 D-S理论的数学基础理论的数学基础样本空间样本空间D=a,b， 11112222( ) 0.3,( ) 0.6,( , ) 0.1,( ) 0( ) 0.4,( ) 0.4,( , ) 0.2,( ) 0MaMbMabMMaMbMabM 4.5.1 D-S理论的数学基础理论的数学基础定义定义4.6.54.6.51. 信任度函数信任度函数 除了可以利用区间除了可以利用区间(Bel(A),pl(A)表示表示A的不确定性的不确定性以外，还可以用以外，还可以

51、用A的类概率函数表示的类概率函数表示A的不确定性。的不确定性。 定义：定义： 命题命题A的信任度函数为的信任度函数为 其中，其中，|A|,|D|分别是分别是A及及D中元素的个数。中元素的个数。f(A)具有如下性质：具有如下性质：( )( )( )( )Af ABel APl ABel AD(1) ()0;(2) ()1;(3),0( )1ff DADf A 对于任何有4.5.2 不确定性的表示不确定性的表示4.5.2 不确定性的表示不确定性的表示不确定性证据不确定性证据E的信任度用的信任度用f(E)表示。对于初始证据，其确定性表示。对于初始证据，其确定性由用户给出；当用前面推理所得结论作为当前

52、推理的证据时，由用户给出；当用前面推理所得结论作为当前推理的证据时，其确定性由推理得到。其确定性由推理得到。f(E)的取值范围为的取值范围为0,1。1 组合证据不确定性的算法组合证据不确定性的算法 当组合证据是多个证据的合取，即当组合证据是多个证据的合取，即 E1 and E2 andand En，则则E的信任度的信任度f(E)=minf(E1),f(E2),f(En) 当组合证据是多个证据的析取，即当组合证据是多个证据的析取，即 E1 or E2 oror En 时，时，则则E的信任度的信任度f(E)=maxf(E1),f(E2),f(En) 2.证据表示证据表示4.5.2 不确定性的表示不

53、确定性的表示 在该模型中，不确定性知识用如下的产生式规则表示：在该模型中，不确定性知识用如下的产生式规则表示： IF E THEN H=h1,h2,hn CF =c1,c2,cn其中，其中，（1）E为前提条件，它是样本空间为前提条件，它是样本空间D的子集。的子集。E既可以是简单既可以是简单条件，也可以是用条件，也可以是用AND或或OR连接起来的复合条件。连接起来的复合条件。（2）H是结论，它用样本空间中的子集表示，是结论，它用样本空间中的子集表示， h1,h2,hn 是该子集中的元素。是该子集中的元素。（3）CF 是可信度因子，用集合形式表示，其中是可信度因子，用集合形式表示，其中,ci用来指

54、出用来指出hi(i=1,2,n)的可信度，的可信度，ci 与与hi一一对应一一对应, ci应满足如下条件应满足如下条件0(1,2, )icinniic11 3.知识的表示知识的表示 1.求出求出H的概率分配函数的概率分配函数 ( 1）如果只有一条知识支持结论）如果只有一条知识支持结论H，即，即 IF E THEN H=h1,h2,hn CF =c1,c2,cn 结论结论H的确定性通过下述步骤求出。的确定性通过下述步骤求出。 对于上述知识，对于上述知识，H的概率分配函数规定为的概率分配函数规定为M(h1,h2,hn)=f(E)c1, f(E) c2, f(E) cnniicEfDM1)(1)(4

55、.5.3 不确定性的传递计算不确定性的传递计算 （2）如果有两条知识支持同一结论，即）如果有两条知识支持同一结论，即 IF E1 THEN H=h1,h2,hn CF =c1,c2,cn IF E2 THEN H=h1,h2,hn CF =c1,c2,cn 首先分别对每一条知识求出概率分配函数：首先分别对每一条知识求出概率分配函数：然后再用公式然后再用公式 ，求，求M1与与M2正交和，从而得正交和，从而得到到H的概率分配函数的概率分配函数M。对那条知识则有对那条知识则有112212( , , )( , , )nnMhhhMhhh12MMM4.5.3 不确定性的传递计算不确定性的传递计算12nM

56、MMM2.求出求出H的信任度函数的信任度函数f(H) 最后求出最后求出11()( )()1()()()()()niBel HMhPl HBelHHf HBel HPl HBel HD ()()HBel HM DD4.5.3 不确定性的传递计算不确定性的传递计算4.5.4 应用举例应用举例例例4.5.1 已知下列知识：已知下列知识：IF （A1 and A2) ThEN B=b1,b2 CF(0.3,0.5f(A1)=0.8,f(A2)=0.6,|D|=20, 计算计算f(B)。 解解(1)计算计算B的概率分配函数的概率分配函数f(A1and A2)=minf(A1),f(A2)=min0.8,

57、0.6=0.6M(b1,b2)= (0.60.3,0.60.5)=(0.18,0.3) 4.6.5 4.6.5 例子例子(2)(2)计算信任函数和似然函数计算信任函数和似然函数 1212( )()( )()( ,)00.180.300.48Bel BMM bM bMb b 1)M(b)M(b-1 )(1)(ibi21iiBBBelBPl(3)计算计算f(B) 53.0)48.01(20248.0 )()(|)()(BBelBPlDBBBelBf4.5.4 应用举例应用举例例例4.5.2 已知下列知识：已知下列知识：IF A1 ThEN B=b1,b2,b3 CF(0.1,0.5,0.3IF A

58、2 ThEN B=b1,b2,b3 CF(0.4,0.2,0.1f(A1)=0.53,f(A2)=0.52,|D|=20, 计算计算f(B)。 解解(1)计算计算B的概率分配函数的概率分配函数M1(b1,b2,b3)= (0.530.1,0.530.5,0.530.3) =(0.053,0.265,0.159) M2(b1,b2,b3)= (0.520.4,0.520.2,0.520.1) =(0.208,0.104,0.052) 524. 0)159. 0265. 0053. 0(1)(1)(111niicAfDM625. 0)052. 0104. 0208. 0 (1)(1)(122nii

59、cAfDM下面下面M1与与M2的正交和的正交和M：874. 0)()()()()()()()(3112212121iiiiiDMbMDMbMbMbMYMXMK157. 0)()()(287. 0)()()(3221132112bYXbYXyMxMKbMyMxMKbM38. 0)(1)(31iibMDM176. 0)()()(12111bYXyMxMKbM)()()()()()(12121112111bMDMDMbMbMbMK4.5.4 应用举例应用举例4.6.5 4.6.5 例子例子(2)(2)计算信任函数和似然函数计算信任函数和似然函数 (3)计算结论计算结论B的信任度的信任度f(B) 62

60、. 0)()()()(321bMbMbMBBel162.038.0)()()(BBelDMBPl677. 0)62. 01 (20362. 0 )()(|)()(BBelBPlDBBBelBf4.5.4 应用举例应用举例4.5.5 证据理论的主要优缺点证据理论的主要优缺点 最后需要说明的是，当最后需要说明的是，当D D中的元素很多时，信任函数中的元素很多时，信任函数BelBel及正交和等的运算将是相当复杂的，工作量很大，这是由于及正交和等的运算将是相当复杂的，工作量很大，这是由于需要穷举需要穷举D D的所有子集，而子集的数量是的所有子集，而子集的数量是 的缘故。另外，的缘故。另外，证据理论要求证据理论要求D D中的元素是互斥的，这一点在许多应用领域中的元素是互斥的，这一点在许多应用领域也难以做到。为解决这些问题，巴尼特提出了一种方法，运也难以做到。为解决这