第03章_2_不确定性推理

1、1第三章第三章 推理机制推理机制 1不确定性推理不确定性推理Company Logo推理机制推理机制 不确定性推理不确定性推理n 不确定性推理基本理论不确定性推理基本理论n 主观主观BayesBayes方法方法n 证据理论证据理论n 可信度方法可信度方法n 模糊集理论模糊集理论Company Logo推理机制推理机制 不确定性推理不确定性推理n 不确定性推理基本理论不确定性推理基本理论n 主观主观BayesBayes方法方法n 证据理论证据理论n 可信度方法可信度方法n 模糊集理论模糊集理论Company Logo不确定性的产生和来源不确定性的产生和来源来自人类的主观认识与客观实际之间存在来自

2、人类的主观认识与客观实际之间存在的差异的差异产生原因产生原因事物发生的随机性人类知识的不完全、不可靠、不精确和不一致自然语言中存在的模糊性和歧义性Company Logo不确定性不确定性(狭义狭义) 不确定性不确定性(uncertainty)(uncertainty)就是一个命题就是一个命题( (亦即所表示的亦即所表示的事件事件) )的真实性不能完全肯定，而只能对其为真的可能性的真实性不能完全肯定，而只能对其为真的可能性给出某种估计。给出某种估计。例：例：l如果乌云密布如果乌云密布 电闪雷鸣，则可能要下暴雨。电闪雷鸣，则可能要下暴雨。l如果头痛发烧，则大概是患了感冒。如果头痛发烧，则大概是患了

3、感冒。Company Logo不确切性不确切性(模糊性模糊性) 不确切性不确切性(imprecision)(imprecision)就是一个命题中所出现的就是一个命题中所出现的某些言词其涵义不够确切，从概念角度讲，也就是其代某些言词其涵义不够确切，从概念角度讲，也就是其代表的概念的内涵没有硬性的标准或条件，其外延没有硬表的概念的内涵没有硬性的标准或条件，其外延没有硬性的边界，即边界是软的或者说是不明确的。性的边界，即边界是软的或者说是不明确的。例例: :l小王是个高个子。小王是个高个子。l张三和李四是好朋友。张三和李四是好朋友。l如果向左转，则身体就向左稍倾如果向左转，则身体就向左稍倾。Com

4、pany Logo随机性和模糊性是不确定性的基本内涵随机性和模糊性是不确定性的基本内涵随机性(偶然性)和随机数学v以贝叶斯公式为基础的贝叶斯理论,在人工智能中一直是处理不确定性的重要工具v带可信度的不确定推理v证据理论 引入信任函数和似然函数来描述命题的不确定性 当先验概率已知时,证据理论就变成了概率论模糊性(非明晰性)和模糊数学v模糊集合论,隶属度v粗糙集理论vVague 集理论 通过对模糊对象赋予真、假隶属函数,从正、反两个方面来处理模糊性Company Logo不确定性推理不确定性推理u不确定性的类型不确定性的类型 n随机性随机性n模糊性模糊性n不完全性（对事物认识不足）不完全性（对事物

5、认识不足）n不一致性（随着推理的进行，原来成立的，不一致性（随着推理的进行，原来成立的，变的不那么成立了）变的不那么成立了）Company Logo不确定性的表示（不确定性的表示（I）（1）知识不确定性的表示 知识不确定性的表示方式是与不确定性推理方法密切相关的一个问题。在选择知识的不确定性表示时，通常需要考虑以下两个方面的因素：要能够比较准确地描述问题本身的不确定性便于推理过程中不确定性的计算 一般将这两个方面的因素结合起来综合考虑。 知识的不确定性通常为一个数值，也称为知识的静态强度。Company Logo不确定性的表示（不确定性的表示（II） 知识的静态强度可以是该知识在应用中成功的概

6、率，也知识的静态强度可以是该知识在应用中成功的概率，也可以是该知识的可信程度等。可以是该知识的可信程度等。 如果用知识在应用中成功的概率来表示静态强度，则其如果用知识在应用中成功的概率来表示静态强度，则其取值范围为取值范围为00，11，该值越接近于，该值越接近于1 1，说明该知识越接，说明该知识越接近于近于“真真”；其值越接近于；其值越接近于0 0，说明该知识越接近于，说明该知识越接近于“假假”。 如果用知识的可信度来表示静态强度，则其取值范围为如果用知识的可信度来表示静态强度，则其取值范围为-1-1，11，当该值大于，当该值大于0 0时，值越大说明知识越接近于时，值越大说明知识越接近于 真真

7、 ，当其值小于，当其值小于0 0时，值越小说明知识越接近于时，值越小说明知识越接近于 假假 。在实际应用中，知识的不确定性是由领域专家给出的。在实际应用中，知识的不确定性是由领域专家给出的。Company Logo不确定性表示（不确定性表示（III）（2 2）证据的不确定性的表示）证据的不确定性的表示u推理中的证据有两种来源：推理中的证据有两种来源：n一种是一种是用户在求解问题时所提供的初始证据，如病，如病人的症状、检查结果等；人的症状、检查结果等；n另一种是另一种是在推理中得出的中间结果，即把当前推理，即把当前推理中所得到的中间结论放入综合数据库，并作为以后中所得到的中间结论放入综合数据库，

8、并作为以后推理的证据来使用。推理的证据来使用。u一般来说，证据的不确定性表示应该与知识的不确定一般来说，证据的不确定性表示应该与知识的不确定性表示保持一致，以便推理过程能对不确定性进行统性表示保持一致，以便推理过程能对不确定性进行统一处理。一处理。 证据的不确定性可以用概率来表示，也可以证据的不确定性可以用概率来表示，也可以用可信度等来表示，其意义与知识的不确定性类似。用可信度等来表示，其意义与知识的不确定性类似。 Company Logo不确定性推理的类型不确定性推理的类型(I)u关于不确定性推理的类型由多种不同的分类方法关于不确定性推理的类型由多种不同的分类方法，如果如果按照按照是否采用数

9、值来描述非精确性，是否采用数值来描述非精确性，可将其分为可将其分为数值方数值方法法和和非数值方法非数值方法两大类型两大类型。n数值方法是一种用数值对非精确性进行定量表示和数值方法是一种用数值对非精确性进行定量表示和处理的方法。处理的方法。n非数值方法是指除数值方法以外的其他各种对不确非数值方法是指除数值方法以外的其他各种对不确定性进行表示和处理的方法，如非单调推理等。定性进行表示和处理的方法，如非单调推理等。 Company Logo不确定性推理的类型不确定性推理的类型(II)u对于数值方法，又可按其对于数值方法，又可按其所依据的理论所依据的理论分为两种类分为两种类型型n一类是基于概率论的有关

10、理论发展起来的方法，一类是基于概率论的有关理论发展起来的方法，称为称为基于概率的模型，如确定性理论、主观，如确定性理论、主观BayesBayes方法、证据理论、可能性理论等；方法、证据理论、可能性理论等；n另一类是基于模糊逻辑理论发展起来的可能性理另一类是基于模糊逻辑理论发展起来的可能性理论方法，称为论方法，称为模糊推理。 Company Logo不确定性推理模型的基本结构不确定性推理模型的基本结构u规则的一般表示形式：规则的一般表示形式： IF E THEN H ( C ( H IF E THEN H ( C ( H， E ) E ) ) ) 其中：其中： E E 表示规则的前提条件，即证据

11、表示规则的前提条件，即证据 H H 表示规则的结论部分，即假设表示规则的结论部分，即假设 C ( H, E ) C ( H, E ) 表示规则的精确程度或可信度。表示规则的精确程度或可信度。u任何一个不确定性推理模型必须解决三个问题：任何一个不确定性推理模型必须解决三个问题： 1) 1) 前提前提( (证据，事实证据，事实) )的不确定性描述的不确定性描述 2) 2) 规则规则( (知识知识) )的不确定性描述的不确定性描述 3) 3)不确定性的更新算法不确定性的更新算法Company Logo不确定性推理模型的基本结构不确定性推理模型的基本结构u证据的不确定性证据的不确定性 C ( E )

12、, C ( E ) ,表示证据表示证据E E为真的程度。为真的程度。需定义其在三种典型情况下的取值：需定义其在三种典型情况下的取值： E E 为真为真 E E 为假为假 对对 E E 一无所知一无所知 ( ( 该情况下的取值称为证据的单该情况下的取值称为证据的单位元位元e(E) )e(E) )u规则的不确定性规则的不确定性 C ( H C ( H，E ) ,E ) ,表示规则的强度。需表示规则的强度。需定义其在三种典型情况下的取值：定义其在三种典型情况下的取值： 若若 E E 为真则为真则H H为真为真 若若 E E 为假则为假则H H 为假为假 E E对对 H H没有影响没有影响( ( 该情

13、况下的取值称为规则的单位该情况下的取值称为规则的单位元元 e( H,E ) e( H,E )Company Logo不确定性推理模型的基本结构不确定性推理模型的基本结构u一个不确定性推理模型必须包括下列算法：一个不确定性推理模型必须包括下列算法：(1) C ( H ) = g1 C( E ), C ( H, E) (1) C ( H ) = g1 C( E ), C ( H, E) (2) C ( H ) = g2 C1(H), C2(H) (2) C ( H ) = g2 C1(H), C2(H) (3) C ( E1 AND E2 ) = g3 C(E1), C(E2) (3) C ( E

14、1 AND E2 ) = g3 C(E1), C(E2) (4) C ( E1 OR E2 ) = g4 C(E1), C(E2)(4) C ( E1 OR E2 ) = g4 C(E1), C(E2)(5) C ( E ) = C( E )(5) C ( E ) = C( E )Company Logo不确定性推理模型的基本结构不确定性推理模型的基本结构u一个不确定性推理模型必须满足下列条件：一个不确定性推理模型必须满足下列条件：(1) (1) 当全部证据和规则都是确定性的时候，此模型应满足确定性当全部证据和规则都是确定性的时候，此模型应满足确定性推理。推理。(2) (2) 若算法若算法(1

15、)(1)中，中，C ( E ) = e(H),C ( E ) = e(H),则则C(H) = e(H)C(H) = e(H)(3) (3) 若算法若算法(2)(2)中，中，C1(H)=e(H)C1(H)=e(H)，则，则C(H)=C2(H)C(H)=C2(H) C2(H)=e(H) C2(H)=e(H)，则，则C(H)=C1(H)C(H)=C1(H)(4) (4) 若算法若算法(1)(1)中，中，C(HC(H，E) = e(H),E) = e(H),则则C(H) = e(H) C(H) = e(H) (5) (5) 在算法在算法(3)(3)中，中，g3 (x1, xn) = min(x1,xn

16、)g3 (x1, xn) = max(x1,xn)g4 (x1, xn) = max(x1,xn)Company Logo推理机制推理机制 不确定性推理不确定性推理n 不确定性推理基本理论不确定性推理基本理论n 主观主观BayesBayes方法方法n 证据理论证据理论n 可信度方法可信度方法n 模糊集理论模糊集理论主观主观贝叶斯贝叶斯方法方法u概述概述n在在ProspectorProspector的探矿系统的研究过程中提出的。的探矿系统的研究过程中提出的。 原有贝叶斯公式只考虑原有贝叶斯公式只考虑E E出现对出现对H H的影响，没有考虑的影响，没有考虑E E不不出现的影响。出现的影响。 n贝叶

17、斯规则：贝叶斯规则：当当H H为为n n个互不相容事件的集合时，贝叶斯公式可写为：个互不相容事件的集合时，贝叶斯公式可写为： P(E)H)P(H)|P(EE)|P(Hn1jjjiii)P(HH|P(E)P(HH|P(EE)|P(Hn 1i主观主观贝叶斯贝叶斯方法方法u知识的不确定性表示：知识的不确定性表示： IF E THEN H ( LS IF E THEN H ( LS ， LN ) LN ) 其中其中LSLS， LN LN表示规则强度。表示规则强度。 主观主观BayesBayes方法的不精确推理过程就是根据证据方法的不精确推理过程就是根据证据E E的概率的概率P(E), P(E), 利用

18、规则的利用规则的LSLS和和LNLN，把结论，把结论H H的先验概率的先验概率P(H)P(H)更新为后验概率更新为后验概率P P (H|E)(H|E)的过程，也称为概率传播。的过程，也称为概率传播。 LS， LN主观主观贝叶斯贝叶斯方法方法u思路思路n先定好应该怎么办，再凑公式。主要是避开先定好应该怎么办，再凑公式。主要是避开P(E| H)P(E| H)的计算。的计算。 u规则的不确定性规则的不确定性n定义：定义：H)|P(EH)|P(ELSLS LS 表示表示E E为真时，对为真时，对H H的影响，称的影响，称LSLS为规则的充为规则的充分性度量分性度量( (规则成立的充分性规则成立的充分性

19、) )。主观主观贝叶斯贝叶斯方法方法（规则的不确定性规则的不确定性） H)|EP(H)|EP(LN LNLN表示表示E E为假时，对为假时，对H H的影响，的影响，LNLN称为规则的必要性称为规则的必要性度量度量( (规则成立的必要性规则成立的必要性) )。确定性理论中没有考虑这点。确定性理论中没有考虑这点。主观主观贝叶斯贝叶斯方法方法（规则的不确定性规则的不确定性）uBayesBayes公式可表示为：公式可表示为：P(E)H)P(H)|P(EE)|P(HP(E)H)H)P(|P(EE)|HP(H)P( H)|P(EP(H) H)|P(EE)|HP(E)|P(H主观主观贝叶斯贝叶斯方法方法（规

20、则的不确定性规则的不确定性）u几率函数几率函数O(X)O(X)P(X)-1P(X)O(X) O(X)的性质的性质P(X) = 0时时, O(X) = 0 假假P(X) = 0.5时时, O(X) = 1P(X) = 1时时, O(X) = 真真主观主观贝叶斯贝叶斯方法方法（规则的不确定性规则的不确定性）结论的先验几率结论的先验几率O(H)：H)P(-1P(H)H)P(P(H)O(H)结论的后验几率结论的后验几率O(H|E)：E)|P(H-1E)|P(HE)|HP(E)|P(HE)|O(H主观主观贝叶斯贝叶斯方法方法（规则的不确定性规则的不确定性）根据根据BayesBayes公式公式和和LSLS

21、，LNLN的定义，几率函数与的定义，几率函数与LNLN，LSLS的关系为的关系为nO(H|E) = LS O(H)O(H|E) = LS O(H)nO(H|E) = LN O(H)O(H|E) = LN O(H)以上两公式称为修改的以上两公式称为修改的BayesBayes公式公式H)P( H)|P(EP(H) H)|P(EE)|HP(E)|P(HH)P( H)|EP(P(H) H)|EP(E)|HP(E)|P(H主观主观贝叶斯贝叶斯方法方法（规则的不确定性规则的不确定性）HE O(H)E)|H O( 1HE O(H)E)|O(H 1HE O(H)E)|O(H 1LS不支持支持没影响对HE O(

22、H)E)|H O( 1HE O(H)E)|O(H 1HE O(H)E)|O(H 1LN不支持支持没影响对，且必须满足且必须满足：主观主观贝叶斯贝叶斯方法方法（规则的不确定性规则的不确定性）nLSLS、LNLN，不独立。，不独立。nLS, LNLS, LN不能同时不能同时 或或 nLS, LNLS, LN可同时可同时1 1nLS, LNLS, LN的取值范围的取值范围 0, 0, 主观主观贝叶斯贝叶斯方法方法（证据证据E的不确定性的不确定性）一般情况），（真当，假当0, 0)(1)()(EEEPEPEOuP(E)P(E)或或O(E)O(E)表示证据表示证据E E的不确定性的不确定性主观主观贝叶斯

23、贝叶斯方法方法（推理计算推理计算1）uE E必出现时必出现时( (即证据肯定存在或肯定不存在即证据肯定存在或肯定不存在) )：nO(H|E) = LSO(H|E) = LSO(H)O(H)nO(H|E) = LNO(H|E) = LNO(H)O(H) 若需要概率时：若需要概率时：)(1)()(EOEOEP主观主观贝叶斯贝叶斯方法方法（推理计算推理计算2）u E E不确定时：即不确定时：即P(E) P(E) 1 1 （19761976年的算法）年的算法）n向前看一步向前看一步S S， S S 为与为与E E有关的所有观察，证据的不确定有关的所有观察，证据的不确定性设想为与另一事件性设想为与另一事

24、件S S 有关，有关， S S E E H H P(H|P(H|S S) = P(H|E)P(E| ) = P(H|E)P(E| S S)+P(H|)+P(H|E)P(E)P(E| E| S S) ) )|(),|()|(),|(),()(),(),(),()(),(),()(),(),()(/),()|(SEPSEHPSEPSEHPSEPSPSEPSEHPSEPSPSEPSEHPSPSEHPSEHPSPSHPSHP主观主观贝叶斯贝叶斯方法方法（推理计算推理计算2）(1) P(E| S) = 1(1) P(E| S) = 1时，证据时，证据E E必然出现必然出现(2) P(E| S) = 0(

25、2) P(E| S) = 0时，证据时，证据E E肯定不存在肯定不存在(3) P(E| S) = P(E) (3) P(E| S) = P(E) 时，时，(S(S对对E E无影响无影响) )P(H|S) = P(H|E)P(E| S) + P(H|P(H|S) = P(H|E)P(E| S) + P(H|E)P(E)P(E| S)E| S) = P(H|E)P(E) + P(H| = P(H|E)P(E) + P(H|E)P(E)P(E) E) = P(H) = P(H) ) 1 (1)() 1()()|()|(HPLSHPLSEHPSHP)2(1)()1()()|()|(HPLNHPLNEH

26、PSHP主观主观贝叶斯贝叶斯方法方法（推理计算推理计算2）(4) P(E| (4) P(E| S S) ) 其它值，通过分段线性插值求其它值，通过分段线性插值求 P(H| P(H| S S) )，EHEH公式公式 ：1S)|P(HP(E)P(E)S|HPP(E)-1P(H)-E)|P(HE)|P(HP(E)S)|P(H0 S|HPP(E)E)|P(H-P(H)E)|P(HS)|P(H 当 当，主观主观贝叶斯贝叶斯方法方法（推理计算推理计算2）uP(E|S)P(E|S)和和P(E)P(E)不容易得到，在不容易得到，在PROSPECTORPROSPECTOR中引入可信度中引入可信度C(E|S),

27、C(E|S), 值域为值域为-5-5，55上的上的1111个整数。个整数。 C(E|S)= - 5 C(E|S)= - 5，证据肯定不存在，证据肯定不存在， P(E|S) = 0 P(E|S) = 0 C(E|S)= 0 C(E|S)= 0，S S与与E E无关，无关， P(E|S) = P(E) P(E|S) = P(E) C(E|S)= 5 C(E|S)= 5，证据肯定存在，证据肯定存在， P(E|S)= 1 P(E|S)= 1)()|(0)()()|(51)|()()(1)()|(5)|(EPSEPEPEPSEPSEPEPEPEPSEPSEC当当主观主观贝叶斯贝叶斯方法方法（推理计算推理

28、计算2）uCPCP公式：公式：)|(0)|(5/ 1)()|()(0)|( 1)|(5/ 1 )|()()|()|(SECSECHPEHPHPSECSECEHPHPEHPSHP当当主观主观贝叶斯贝叶斯方法方法（推理计算推理计算2）nP(E| S)P(E| S)与与P(H| S)P(H| S)坐标系上的三点：坐标系上的三点： 总之是找一些总之是找一些P(E| S)P(E| S)与与P(H| S)P(H| S)的相关值，的相关值， 两点也可以做曲线（或折线、直线）。由插值法两点也可以做曲线（或折线、直线）。由插值法从线上得到其它点的结果。从线上得到其它点的结果。)()()2(0) 1 (1)|(H

29、PEPSEP公式公式主观主观贝叶斯贝叶斯方法方法（推理计算推理计算3）u规则的条件部分是多个证据的逻辑组合时：规则的条件部分是多个证据的逻辑组合时： E = E1 AND E2 E = E1 AND E2 E = E1 OR E2 E = E1 OR E2 P(E|S) = 1 P( E|S ) P(E|S) = 1 P( E|S )|(),|(min)|(2121SEPSEPSEEP)|(),|(max)|(2121SEPSEPSEEP主观主观贝叶斯贝叶斯方法方法（推理计算推理计算3）u多条规则支持相同的结论：多条规则支持相同的结论：)()()|(.)()|()()|().|(2121HOH

30、OSHOHOSHOHOSHOSSSHOnn主观主观贝叶斯贝叶斯方法方法（推理计算推理计算3）u例例5.4 5.4 设有如下规则设有如下规则: : R1: IF E1 THEN (2 , 0.001) H1 R1: IF E1 THEN (2 , 0.001) H1 R2: IF E2 THEN (100 , 0.001) H1 R2: IF E2 THEN (100 , 0.001) H1 R3: IF H1 THEN (200 , 0.01) H2 R3: IF H1 THEN (200 , 0.01) H2已知已知: O(H1) = 0.1 , O(H2) = 0.01: O(H1) =

31、0.1 , O(H2) = 0.01 C(E1|S1) = 2 , C(E2|S2) = 1 C(E1|S1) = 2 , C(E2|S2) = 1求求: O(H2|S1S2) = ?: O(H2|S1S2) = ?主观主观贝叶斯贝叶斯方法方法u主观主观BayesBayes方法的评价方法的评价n优点：优点：n计算方法直观、明了。计算方法直观、明了。n缺点：缺点：n要求要求H Hj j相互无关（实际不可能）。相互无关（实际不可能）。nP(E| H)P(E| H)与与P(HP(Hi i) ) 很难计算。很难计算。n应用困难。应用困难。Company Logo推理机制推理机制 不确定性推理不确定性推

32、理n 不确定性推理基本理论不确定性推理基本理论n 主观主观BayesBayes方法方法n 证据理论证据理论n 可信度方法可信度方法n 模糊集理论模糊集理论证据理论证据理论 ( (Evident Theory) )概述概述证据的不确定性证据的不确定性规则的不确定性规则的不确定性推理计算推理计算证据理论证据理论 ( (Evident Theory) )u概述概述n由由DempsterDempster首先提出，并由他的学生首先提出，并由他的学生ShaferShafer发展起发展起来，也称来，也称D-SD-S理论。在专家系统的不精确推理中已理论。在专家系统的不精确推理中已得到广泛的应用。得到广泛的应用

33、。 （也用在模式识别中）（也用在模式识别中）n证据理论中引入了信任函数，它满足概率论弱公理证据理论中引入了信任函数，它满足概率论弱公理。在概率论中，当先验概率很难获得，但又要被迫。在概率论中，当先验概率很难获得，但又要被迫给出时，用证据理论能区分不确定性和不知道的差给出时，用证据理论能区分不确定性和不知道的差别。所以它比概率论更合适于专家系统推理方法。别。所以它比概率论更合适于专家系统推理方法。n当概率值已知时，证据理论就成了概率论。因此，当概率值已知时，证据理论就成了概率论。因此，概率论是证据理论的一个特例，有时也称证据沦为概率论是证据理论的一个特例，有时也称证据沦为广义概率论。广义概率论。

34、证据理论证据理论 ( (证据的不确定性证据的不确定性) )u证据：证据： 用集合用集合U U来表示：如来表示：如U U中的每个元素代表一种中的每个元素代表一种疾病。讨论一组疾病疾病。讨论一组疾病A A发生的可能性时，发生的可能性时，A A变变成了单元（某些假设）的集合。成了单元（某些假设）的集合。U U内元素内元素A Ai i间间是互斥的，但是互斥的，但A Ai i中元素间是不互斥的。中元素间是不互斥的。证据理论证据理论 ( (证据的不确定性证据的不确定性) )u基本概率分配函数：基本概率分配函数：n m m：0,10,1（在（在U U的幂集的幂集上定义，取值上定义，取值0,10,1）m(A)

35、m(A)表示了证据对的子集表示了证据对的子集A A成立的一种信任度成立的一种信任度有：有： 空集为零空集为零 n意义意义若若A A属于，且不等于，表示对属于，且不等于，表示对A A的精确信任度的精确信任度若若A A等于，表示这个数不知如何分配等于，表示这个数不知如何分配1)(AmUA0)(m证据理论证据理论 ( (证据的不确定性证据的不确定性) )u信任函数信任函数n0,10,1。（在（在的幂的幂集集上定义上定义，取取值值0,10,1）Bel(A) = Bel(A) = 有有: : Bel() = m() = 0 , Bel() = m() = 0 , Bel( Bel() = = 1) =

36、= 1 BelBel类似于概率密度函数，表示类似于概率密度函数，表示A A中所有子集的基本中所有子集的基本概率分配数值的和，用来表示对概率分配数值的和，用来表示对A A的总信任度的总信任度。 ABm(B)ABBm)(证据理论证据理论 ( (证据的不确定性证据的不确定性) )u似然函数似然函数nPlPl：0,10,1。（在（在的幂集的幂集上定义，取值上定义，取值0,10,1）Pl(A) = 1 - Bel(Pl(A) = 1 - Bel(A) = A) = 性质：性质：0 Bel(A) Pl(A) 1 0 Bel(A) Pl(A) 1 ( ( BelBel是是PlPl的一部分的一部分) ) 称称

37、Bel(A)Bel(A)和和Pl(A)Pl(A)是是A A的下限不确定性的下限不确定性值和上限不确定性值。值和上限不确定性值。ABm(B)证据理论证据理论 ( (证据的不确定性证据的不确定性) )设函数设函数f(Bel(A), Pl(A)f(Bel(A), Pl(A) ，则有如下特殊值：，则有如下特殊值：f(f(, ,) )：表示表示A A为真为真 f( 1, 0)f( 1, 0)：表示表示A A为假为假f(f(, ,) )：表示对表示对A A一无所知一无所知 f( 0,f( 0,) )：Bel(A)=0,Bel(A)=0,对对A A不信任不信任,PL(A)=0, ,PL(A)=0, 证据理论

38、证据理论 ( (规则的不确定性规则的不确定性) )u定义：定义：其中其中|A|A|、|U|U|为集合内元素个数。为集合内元素个数。 u性质：性质： 对于对于A A U U nf f1 1()() = = 0 0，nf f1 1( () ) = = 1 1，n0f0f1 1(A)1(A)1)()(|)()(1ABelAPlUAABelAf证据理论证据理论 ( (规则的不确定性规则的不确定性) )u推理形式：推理形式：n设子集合设子集合A A、B B，其中其中A = aA = a1 1, a, a2 2, , , a, al l, B = b B = b1 1, b, b2 2, , , b, b

39、k k ，n用相应的向量用相应的向量(c(c1 1, c, c2 2, , , c, ck k) )描述规则描述规则ABAB，其中：其中：c ci i0, 0, 1 1ikik, , 且且ccj j11， 1jk 1jk n已知事件已知事件A A，由由f f1 1(A)(A)求求b bk k， b bk k = f = f1 1(A)c(A)ck k 证据理论证据理论 ( (推理计算推理计算) )uf1(A1A2) = min f1(A1), f1(A2) uf1(A1A2) = max f1(A1), f1(A2) u已知已知:f1(A)，A B，(c1, c2, , ck)。 求求:f1(

40、B)规定：规定：m(b1, b2, ,bk) = (f1(A)c1,f1(A)c2, f1(A)ck) m (U) = 1 k1iiic )A(f证据理论证据理论 ( (推理计算推理计算) )u证据的组合：证据的组合：m m1 1, m, m2 2在在U U上的合成上的合成 u（对于同样的证据，由于来源不同，得到二个概率分（对于同样的证据，由于来源不同，得到二个概率分配函数配函数m m1 1, m, m2 2 ）n定义：定义：m =m = m m1 1 m m2 2 n规定：规定：m() = 0 m() = 0 ， m(A) = m(A) = 其中其中 K K1 11 1且且 K K1 1 0

41、 0。若若K K1 1 0 0，认为，认为m m1 1，m m2 2矛盾，没有联合基本概率矛盾，没有联合基本概率分配函数分配函数 。AYX21)Y(m)X(mKYX21YX21)Y(m)X(m)Y(m)X(mCompany Logo推理机制推理机制 不确定性推理不确定性推理n 不确定性推理基本理论不确定性推理基本理论n 主观主观BayesBayes方法方法n 证据理论证据理论n 可信度方法可信度方法n 模糊集理论模糊集理论 可信度方法是由可信度方法是由E.H.ShortliffeE.H.Shortliffe等人在确定性理论等人在确定性理论的基础上的基础上, ,结合概率提出的一种不确定性推理方法

42、结合概率提出的一种不确定性推理方法, ,首先首先在在MycinMycin系统中得到了成功的应用。系统中得到了成功的应用。 其核心思想是：利用确定性因子其核心思想是：利用确定性因子CF(CF(值值) ). . 联系于具体的断言联系于具体的断言. . 联系于每条规则联系于每条规则. . 通过通过CFCF的计算传播不确定性的计算传播不确定性u可信度可信度 根据经验对一个事物或现象为真的相信程度。根据经验对一个事物或现象为真的相信程度。uC-FC-F模型模型C-F C-F 模型是基于可信度表示的不确定性推理的基本方法模型是基于可信度表示的不确定性推理的基本方法. .知识不确定性的表示知识不确定性的表示

43、u在在C-FC-F模型中模型中, ,知识是用产生式规则表示的知识是用产生式规则表示的, ,其一般形式是其一般形式是: :if E then H (CF(H, E)if E then H (CF(H, E)其中其中, ,E:E:是知识的前提条件是知识的前提条件, ,它既可以是一个单个条件它既可以是一个单个条件, ,也可以是也可以是用用 and and 及及 or or 连接起来的复合条件连接起来的复合条件; ;H:H:是结论，它可以是一个单一结论是结论，它可以是一个单一结论, ,也可以是多个结论也可以是多个结论. .CF(H,E):CF(H,E):是该条知识的可信度，称为可信度因子或规则强是该条

44、知识的可信度，称为可信度因子或规则强度。（度。（Certainty FactorCertainty Factor） CH(H,E) CH(H,E) 在在-1,1-1,1上取值上取值, ,它指出当前提条件它指出当前提条件 E E 所对应所对应的证据为真时的证据为真时, ,它对结论为真的支持程度。它对结论为真的支持程度。确定因子法确定因子法 知识的不确定性表示知识的不确定性表示 MYCIN系统称规则强度为规则确定性因子（系统称规则强度为规则确定性因子（Certainty Factor）CF(H,E)，它表示在已知证据的情况下，对假，它表示在已知证据的情况下，对假设的确信程度。设的确信程度。 CF(

45、H,E)定义如下：定义如下： ),(),(),(EHMDEHMBEHCF)(1)()(),|(max1),(HpHPHPEHPEHMB)()()(),|(min1),(HPHPHPEHPEHMDuMBMB：称为信任增长度：称为信任增长度, ,它表示因与前提条件它表示因与前提条件 E E 匹配的匹配的证据的出现，使结论证据的出现，使结论H H为真的信任增长度为真的信任增长度. . uMDMD：称为不信任增长度：称为不信任增长度, ,它表示因与前提条件它表示因与前提条件E E匹配的匹配的证据的出现证据的出现, ,使结论使结论H H为真的不信任增长度为真的不信任增长度. .u 在环境在环境E E 下

46、，若两个证据的合取或析取支持结论下，若两个证据的合取或析取支持结论H H，则可，则可表示为表示为 证据的不确定性组合定义为证据的不确定性组合定义为 CF(E1E2, CF(E1E2, E E ) = minCF(E1, ) = minCF(E1, E E ), CF(E2, ), CF(E2, E E )CF(E1E2, CF(E1E2, E E ) = maxCF(E1, ) = maxCF(E1, E E ), CF(E2, ), CF(E2, E E )当两条规则支持同一结论当两条规则支持同一结论H H时，可表示为时，可表示为 u当组合证据是多个单一证据的合取时当组合证据是多个单一证据的

47、合取时, ,即即: :E = E1 and E2 and E = E1 and E2 and and En and En若已知若已知 CF(E1), CF(E2), CF(E1), CF(E2), CF(En), CF(En),则则CF(E) = min CF(E1), CF(E2),CF(E) = min CF(E1), CF(E2), CF(En) , CF(En) u当组合证据是多个单一证据的析取时当组合证据是多个单一证据的析取时, ,即即: :E = E1 or E2 or E = E1 or E2 or or En or En若已知若已知 CF(E1), CF(E2), CF(E1)

48、, CF(E2), CF(En), CF(En),则则CF(E) = max CF(E1), CF(E2),CF(E) = max CF(E1), CF(E2), CF(En) , CF(En) 结论不确定性的合成算法结论不确定性的合成算法 u若由多条不同知识推出了相同的结论若由多条不同知识推出了相同的结论, ,但可信但可信度不同度不同, ,则可用合成算法求出综合可信度则可用合成算法求出综合可信度. . 设有如下知识设有如下知识: : if E1 then H (CF(H, E1) if E1 then H (CF(H, E1) if E2 then H (CF(H, E2) if E2 th

49、en H (CF(H, E2)则结论则结论 H H 的综合可信度可分如下两步算出的综合可信度可分如下两步算出: :结论不确定性的合成结论不确定性的合成u首先分别对每一条知识求出首先分别对每一条知识求出 CF(H): CF(H):CF1(H) = CF(H, E1) max 0, CF(E1) CF1(H) = CF(H, E1) max 0, CF(E1) CF2(H) = CF(H, E2) max 0, CF(E2) CF2(H) = CF(H, E2) max 0, CF(E2) 然后用下述公式求出然后用下述公式求出 E1 E1 与与 E2 E2 对对 H H 的综合影响所形成的可的综合

50、影响所形成的可信度信度: :CF1(H) + CF2(H) CF1(H) + CF2(H) CF1(H) CF2(H) CF1(H) CF2(H) 若若 CF1(H) 0, CF1(H) 0, CF2(H) 0CF2(H) 0CF1(H) + CF2(H) + CF1(H) CF2(H) CF1(H) + CF2(H) + CF1(H) CF2(H) 若若 CF1(H) CF1(H) 0, 0, CF2(H) CF2(H) 0 0 CF1(H) + CF2(H) CF1(H) + CF2(H) 1 1 min | CF1(H) | , | CF2(H) | min | CF1(H) | , |

51、 CF2(H) | 若若 CF1(H) CF2(H) CF1(H) CF2(H) 0 0 实例实例u有下列一组知识有下列一组知识: :r1: if E1 then H ( 0.8 )r1: if E1 then H ( 0.8 )r2: if E2 then H ( 0.6 )r2: if E2 then H ( 0.6 )r3: if E3 then H ( - 0.5 )r3: if E3 then H ( - 0.5 )r4: if E4 and ( E5 or E6 ) then E1 ( 0.7 )r4: if E4 and ( E5 or E6 ) then E1 ( 0.7 )r

52、5: if E7 and E8 then E3 ( 0.8 )r5: if E7 and E8 then E3 ( 0.8 )已知已知: CH ( E2 ) = 0.8, CH ( E4 ) = 0.5,CH : CH ( E2 ) = 0.8, CH ( E4 ) = 0.5,CH ( E5 ) = 0.6, CH ( E6 ) = 0.7,( E5 ) = 0.6, CH ( E6 ) = 0.7,CH ( E7 ) = 0.6, CH ( E8 ) = 0.9,CH ( E7 ) = 0.6, CH ( E8 ) = 0.9,求求: CF ( H ) = : CF ( H ) = 确定因

53、子法的缺点确定因子法的缺点u（1 1）如何将人表示可信度的术语转变为数字化的）如何将人表示可信度的术语转变为数字化的CFsCFs。例如，人的经验规则常涉及例如，人的经验规则常涉及 很可能很可能 、 不大可能不大可能 等术等术语，应对应到多大的语，应对应到多大的CFCF值。值。（2 2）如何规范化人们对可信度的估计，不同人所作的）如何规范化人们对可信度的估计，不同人所作的估计往往相差较大。估计往往相差较大。（3 3）为防止积累误差，需指定门槛值，但多大合适呢？）为防止积累误差，需指定门槛值，但多大合适呢？太小固然不行，但太大也不好，因为可信度的传递需要太小固然不行，但太大也不好，因为可信度的传递

54、需要累计较小的变化。累计较小的变化。 （4 4）为改进可信度的精确性，需提供从系统的实际执）为改进可信度的精确性，需提供从系统的实际执行反馈的信息，并基于反馈信息调整可信度。这实际上行反馈的信息，并基于反馈信息调整可信度。这实际上是一种机器学习问题，尚未较好地加以解决。是一种机器学习问题，尚未较好地加以解决。 Company Logo推理机制推理机制 不确定性推理不确定性推理n 不确定性推理基本理论不确定性推理基本理论n 主观主观BayesBayes方法方法n 证据理论证据理论n 可信度方法可信度方法n 模糊集理论模糊集理论1.1.可能性理论可能性理论 Zadeh Zadeh在在1965196

55、5年提出了模糊集合论，年提出了模糊集合论，19781978年又提出了可能年又提出了可能性理论。性理论。 模糊命题：含有模糊概念、模糊数据或带有确信程度模糊命题：含有模糊概念、模糊数据或带有确信程度的语句称为模糊命题。形式化为：的语句称为模糊命题。形式化为：x is A或者或者x is A (CF) 其中，其中，X X是论域上的变量，用来代表所论对象的属性；是论域上的变量，用来代表所论对象的属性；A A是模糊概念或模糊数；是模糊概念或模糊数；CFCF是该模糊命题的确信度，它可是该模糊命题的确信度，它可以是一个确定的数，也可以是模糊数，还可以是模糊语以是一个确定的数，也可以是模糊数，还可以是模糊语

56、言值。言值。 模糊知识的表示：模糊产生式规则的一般形式为模糊知识的表示：模糊产生式规则的一般形式为 其中其中E E是用模糊命题表示的模糊条件；是用模糊命题表示的模糊条件；H H是用模糊命题表是用模糊命题表示的模糊结论；示的模糊结论；CFCF是该产生式规则所表示的知识可信度是该产生式规则所表示的知识可信度因子。因子。 ),(CFHTHENEIF模糊集理论模糊集理论2.2.粗集理论粗集理论 粗集理论是波兰华沙理工大学的粗集理论是波兰华沙理工大学的Z. Pawlak教授教授19821982年首年首先提出的处理不确定性信息的理论。该方法特别实用于先提出的处理不确定性信息的理论。该方法特别实用于观察和测

57、量获得的不精确数据的分类问题。观察和测量获得的不精确数据的分类问题。 模糊集理论模糊集理论加权的不确定性推理加权的不确定性推理 IF IF 该论文有创见该论文有创见 AND AND 立论正确立论正确 AND AND 文字通顺文字通顺 AND AND 格式规范格式规范 THEN THEN 该论文可以发表该论文可以发表 IF E IF E1 1(1 1) AND E) AND E2 2(2 2) AND ) AND E En n(n n) THEN ) THEN H (CF(H,E),)H (CF(H,E),)其中，其中，i i是加权因子，且是加权因子，且E= E= E E1 1(1 1) AND

58、 E) AND E2 2(2 2) AND ) AND E En n(n n) )CF(H)=CF(H,E)CF(H)=CF(H,E)CF(E)CF(E)例、设有下列知识：例、设有下列知识：IF IF 该动物有蹄（该动物有蹄（0.30.3） AND AND 该动物有长腿（该动物有长腿（0.20.2） AND AND 该动物有长颈（该动物有长颈（0.20.2） AND AND 该动物是黄褐色（该动物是黄褐色（0.130.13） AND AND 该动物身上有暗黑色斑点（该动物身上有暗黑色斑点（0.130.13） AND AND 该动物的体重该动物的体重200kg200kg（0.040.04） TH

59、EN THEN 该动物是长颈鹿（该动物是长颈鹿（0.95, 0.80.95, 0.8）证据为：证据为：E E1 1: : 该动物有蹄（该动物有蹄（1 1）E E2 2: : 该动物有长腿（该动物有长腿（1 1）E E3 3: : 该动物有长颈（该动物有长颈（1 1）E E4 4: : 该动物是黄褐色（该动物是黄褐色（0.80.8）E E5 5: : 该动物身上有暗黑色斑点（该动物身上有暗黑色斑点（0.60.6）试问该动物是什么动物？试问该动物是什么动物？解：解：CF(E)=0.3CF(E)=0.31+0.21+0.21+0.21+0.21+0.131+0.130.8+0.130.8+0.130

60、.60.6 =0.882 =0.882因因=0.8=0.8，而，而CF(E)CF(E)，所以知识可以使用，推出该动，所以知识可以使用，推出该动物是长颈鹿，其可信度为：物是长颈鹿，其可信度为：CF(H)=CF(H,E) CF(H)=CF(H,E) CF(E)CF(E) =0.95 =0.95 0.8820.882 =0.84 =0.844 4、冲突消解、冲突消解设有下述知识设有下述知识r r1 1: IF E: IF E1 1(1 1) THEN H) THEN H1 1 (CF(H (CF(H1 1,E,E1 1),),1 1) )r r2 2: IF E: IF E2 2(2 2) THEN