人工智能第4章(不确定性推理方法)

人工智能ArtificialIntelligence(AI)1

第4章推理技术-----不确定性推理方法4.5不确定性推理方法概述可信度方法

(确定性方法)主观Bayes方法证据理论3概述--不确定推理的概念推理：从已知事实出发，运用相关知识(或规则)逐步推出结论或者证明某个假设成立或不成立的思维过程。已知事实是推理过程的出发点即推理中使用的知识，我们把它称为证据。不确定推理：从具有不确定性的证据出发，运用不确定性的知识(或规则)，最终推出具有一定程度的不确定性，但却是合理的或近乎合理的结论的思维过程。4概述--不确定性的主要表现1、证据的不确定性观察度量的不确定性证据表示的不确定性多个不确定证据合成时表现出来的不确定性2、规则的不确定性3、结论的不确定性E1→HE2→H5概述—不确定推理中的基本问题不确定性的表示单个证据的不确定性表示

证据的来源：

(1)初始证据:通过观察而得到的，由于观察本身的不精确性，因此所得的初始证据具有不确定性；其值一般由用户或专家给出;(2)间接证据:在推理过程中利用前面推理出的结论作为当前新的推理证据。其值则是由推理中的不确定性传递算法计算得到。

证据不确定性的表示通常为一个数值，用以表示相应证据的不确定性程度。组合证据的不确定性表示

证据不止一个，而是几个，这几个证据间可能是and或or的关系，假设C(E1)表示证据E1的不确定性程度，C(E2)表示证据E2的不确定性程度，如何由C(E1)和C(E2)来计算C(E1∧E2)和C(E1∨E2)6概述—不确定推理中的基本问题规则的不确定性表示

规则不确定性要由领域专家给出，以一个数值表示，该数值表示了相应知识的不确定性程度。推理计算—结论的不确定性表示不确定性传递问题：

已知证据E的不确定性度量为C(E)，而规则E→H的不确定性度量为CF(H,E)，那么如何计算结论H的不确定性程度C(H)，即如何将证据E的不确定和规则E→H的不确定性传递到结论H上。结论不确定性的合成问题：

如果有两个证据分别由两条规则支持结论，如何根据这两个证据和两条规则的不确定性确定结论的不确定性。即已知

E1→HC(E1),CF(H,E1)E2→HC(E2),CF(H,E2)如何计算C(H)?

7概述-分类不确定性推理方法控制方法模型方法数值方法非数值方法基于概率的方法模糊推理方法可信度方法主观Bayes方法证据理论方法8可信度方法（确定性方法）MYCIN系统研制过程中产生的不确定推理方法,第一个采用了不确定推理逻辑，70年代很有名。它是不确定推理方法中应用最早、且简单有效的方法之一。9可信度方法可信度：人们在实际生活中根据自己的经验或观察对某一事件或现象为真的相信程度,也称为确定度因子。可信度具有较大的主观性和经验性。但是，对某一具体领域而言，由于该领域专家具有丰富的专业知识及实践经验，要给出该领域知识的可信度还是完全有可能的。10可信度(确定性)方法证据（前提）的不确定性表示规则的不确定性表示推理计算---结论的不确定性表示确定性(可信度)方法11证据的不确定性度量单个证据的不确定性获取方法：两种初始证据：由提供证据的用户直接指定，用可信度因子对证据的不确定性进行表示。如证据E的可信度表示为CF(E)。

如对它的所有观测都能肯定为真，则使CF(E)=1；如能肯定为假，则使CF(E)=-1；若它以某种程度为真，则使其取小于1的正值，即0<CF(E)<1;若它以某种程度为假，则使其取大于-1的负值，即-1<CF(E)<0;若观测不能确定其真假，此时可令CF(E)=0。间接证据：用先前推出的结论作为当前推理的证据，对于这种情况的证据，其可信度的值在推出该结论时通过不确定性传递算法计算得到。12证据的不确定性度量组合证据的不确定性获取方法当证据是多个单一证据的合取时,即E=E1∧E2∧…∧En

若各证据的可信度分别为CF(E1),CF(E2),…,CF(En),

则CF(E

)=min{CF(E1),CF(E2),…,CF(En)}当证据是多个单一证据的析取时,即E=E1∨E2∨…∨En

若各证据的可信度分别为CF(E1),CF(E2),…,CF(En),

则CF(E)=max{CF(E1),CF(E2),…,CF(En)}当证据是某一证据的非时，即E=～A；

则CF(E)=-CF(A)13规则证据（前提）的不确定性表示规则的不确定性表示推理计算---结论的不确定性表示

确定性方法14规则的不确定性度量规则E→H，可信度表示为CF(H,E)。表示当证据E为真时，对结论H为真的支持程度。其取值范围为[-1，1]。CF(H,E)越大，则E越支持H为真。遵循的原则：如果由于证据E的出现，使结论H为真的可信度增加了，则使CF(H,E)>0，并且这种支持的力度越大，就使CF(H,E)的值越大，相反，如果证据E的出现，使结论H为假的可信度增加，则使CF(H,E)<0，并且这种支持的力度越大，就使CF(H,E)的值越小；若证据的出现与否和H无关，则使CF(H,E)=0。15规则规则的不确定性表示证据（前提）的不确定性表示推理计算—结论的不确定性表示确定性方法16规则(推理计算

1）从不确定的初始证据出发，通过运用相关的不确定知识，最终推出结论并求出结论的可信度值。最简单的情形：只有单条规则--不确定性传递问题

例如:由E，E→H，求H。

已知:证据E的可信度CF(E

)和规则CF(H,E

)的可信度，则结论H的可信度计算公式为： CF(H)=max{0,CF(E

)}·CF(H,E

)

(CF(E

)＜0时CF(H)=0,说明在该模型中没有考虑证据为假时对结论H的影响。)17规则(推理计算

2）多条知识支持同一结论时--结论不确定性的合成问题

设有如下知识：ifE1thenH；ifE2thenH；1)利用上式分别计算每一条知识的结论可信度CF(H)CF1(H)=max{0,CF(E1)}·CF(H,E1)CF2(H)=max{0,CF(E2)}·CF(H,E2)2)用下式合成CF1(H)、CF２(H)，求可信度CF12(H)

18例题已知：R1：A1→B1 CF（B1，A1）＝0.8 R2：A2→B1 CF（B1，A2）＝0.5 R3：B1∧A3→B2 CF（B2，B1∧A3）＝0.8 CF（A1）＝CF（A2）＝CF（A3）＝1；而对B1和B2一无所知；计算CF（B2）本题可图示为19解：依规则R1，

CF1（B1）＝CF（B1，A1）·max{0,CF（A1）}＝0.8，依规则R2：CF2（B1）＝CF（B1，A2）·max{0,CF（A2）}＝0.5，利用合成算法计算B１的综合可信度：

CF1２(

B1)＝CF1(B1)＋CF２(B１)－CF1(B1)·CF２(B１)＝0.9依R3，先计算 CF（B1∧A3）＝min（CF（A3），CF（B1））＝0.9CF（B2）=CF(B2，B1∧A3)·max{0,CF（B1∧A3）}=0.9×0.8=0.72答：CF（B1）＝0.9，CF（B2）＝0.7220例设有一组知识:21解：2223规则(推理计算3）已知结论原始可信度的情况下，结论可信度的更新计算方法。即已知规则E→H的可信度为CF(E,H

)，证据E的可信度为CF(E)，同时已知结论H原来的可信度为CF(H)，如何求在证据E下结论H可信度的更新值CF(H/E)：24

规则(推理计算4）CF(E)<=0，

规则EH不可使用，即此计算不必进行。0<CF(E)<=1， 25规则(推理计算3）当E必然发生，CF(E)=1时：26主观贝叶斯方法(概述）贝叶斯公式：设事件H1,…,Hn是彼此独立、互不相容的事件，则有：在贝叶斯公式中，P(Hi),i=1,2,…,n称为先验概率，

而P(Hi|E)i=1,2,…,n称为后验概率.

27一座别墅在过去的20年里一共发生过2次被盗，别墅的主人有一条狗，狗平均每周晚上叫3次，在盗贼入侵时狗叫的概率被估计为0.9。问题：在狗叫的时候发生入侵的概率是多少？假设A事件为狗在晚上叫，B为盗贼入侵，则P(A)=3/7

P(B)=2/(20·365)=2/7300

P(A|B)=0.9，按照公式很容易得出结果：P(B|A)=0.9*(2/7300)/(3/7)=0.00058例：别墅与狗28现分别有A，B两个容器，在容器A里分别有7个红球和3个白球，在容器B里有1个红球和9个白球。现已知从这两个容器里任意抽出了一个球，且是红球，问：这个红球是来自容器A的概率是多少?假设已经抽出红球为事件B，从容器A里抽出球为事件A，则有：P(B)=8/20

P(A)=1/2

P(B|A)=7/10，按照公式，则有：P(A|B)=(7/10)*(1/2)/(8/20)=0.875例：容器里的球29

：结论，：证据。已知：求：同理可得：例：解：P(H2∣E)=0.26，P(H3∣E)=0.43P(H1∣E)，P(H2∣E)，P(H3∣E)？30多个证据，多个结论，

且每个证据都以一定程度支持结论。

扩充后的公式：主观贝叶斯方法(概述）∑1212121)()︳()︳()︳()()︳()︳()︳()︳(njjjmjjiimiimiHPHEPHEPHEPHPHEPHEPHEPEEEHP==LLL31

已知：

例：求：P(H1∣E1E2)，P(H1∣E1E2)，P(H1∣E1E2)？。32解：同理可得：33主观贝叶斯方法(概述）直接根据贝叶斯公式进行推理计算简单明了，但是它要求结论Hi相互独立，实际上难以保证。而且P(E|Hi)的计算通常比较困难。所以在求解不确定性推理问题时，还不能直接使用贝叶斯公式，而是使用对其经过改进的主观贝叶斯公式。1976年提出的，在地矿勘探系统中得到成功的应用。是对概率中基本贝叶斯公式的改进。34主观贝叶斯方法证据（前提）的不确定性表示规则的不确定性表示推理计算---结论的不确定性表示主观贝叶斯方法35多个单一证据的合取：则组合证据的概率：主观贝叶斯方法(概述）

非运算：多个单一证据的析取：则组合证据的概率：{})(,),(),(max)︱(21SEPSEPSEPSEPnL=︱︱︱证据的不确定性表示

单个证据：在主观贝叶斯方法中，证据的不确定性用概率表示。例如，对于初始证据E，其先验概率为P(E)。

组合证据：36主观贝叶斯方法证据（前提）的不确定性表示规则的不确定性表示推理计算---结论的不确定性表示主观贝叶斯方法37主观贝叶斯方法(概述）规则的不确定性表示

在主观贝叶斯方法，规则的不确定性是以一个数值对(LS,LN)来进行描述的。IFETHEN(LS,LN)H(P(H))取值范围取值范围它们的具体取值由领域专家根据实际经验给出。

规则的充分性度量:表示E为真时，对H的影响。规则的必要性度量:表示E为假时，对H的影响。H为真时E出现的概率除以H为假时E出现的概率H为真时E不出现的概率除以H为假时E不出现的概率38主观贝叶斯方法证据（前提）的不确定性表示规则的不确定性表示推理计算---结论的不确定性表示主观贝叶斯方法39主观贝叶斯方法推理计算—不确定性的传递：

1）已知规则E→H的(LS,LN)和P(H)、P(E)，如何计算P(H/E)或P(H/～E)

这里存在三种情况：

证据E肯定存在、肯定不存在或以某种程度存在。

40(1)证据E肯定存在，即P(E)=1时：

由基本贝叶斯公式，可得：

两式相除得：41主观贝叶斯方法(概述）几率函数O(X)

数学证明，O(x)与P(x)有相同的单调性E肯定出现的情况下，H的先验几率更新为后验几率的公式E肯定出现的情况下，H的先验概率更新为后验概率的公式42讨论LS对后验概率的影响(1)LS>1O(H/E)>O(H)，即P(H/E)>P(H)(2)LS=1O(H/E)=O(H)(3)0<LS<1O(H/E)<O(H)(4)LS=0O(H/E)=0故，当E越支持H为真时，应置LS>1，且越大越好。E的存在，使H为真的概率增加，且LS越大，P(H/E)越大，表明E对H为真的支持越强。E与H无关。E的出现使H为真的可能性下降。E的出现使H为假。43(2)证据E肯定不存在，即P(E)=0时：

P(～E)=1，由贝叶斯公式，可得：

两式相除得：44主观贝叶斯方法(概述）

E肯定不出现的情况下，H的先验几率更新为后验几率的公式E肯定不出现的情况下，H的先验概率更新为后验概率的公式45讨论LN对后验概率的影响(1)LN>1O(H/～E)>O(H)，即P(H/～E)>P(H)(2)LN=1O(H/～E)=O(H)(3)0<LN<1O(H/～E)<O(H)(4)LN=0O(H/～E)=0故，E的不存在使H为真的可能性下降，则应该相应的LN设置的小于1而且越小越好。E的不存在，使H为真的概率增加，且LN越大，P(H/～E)越大，表明～E对H为真的支持越强。E的不存在与H无关。E的不存在使H为真的可能性下降。E的不存在使H为假。46主观贝叶斯方法（规则的不确定性），且必须满足：47主观贝叶斯方法（规则的不确定性）对LS、LN赋值时的考虑LS、LN≥０。LS,LN不能同时＞１或＜１LS,LN可同时＝148主观贝叶斯方法例：

规则如下：R1：E1→H1

LS=1LN=0.003;R2：E2→H2

LS=18 LN=1R3：E3→H3

LS=12 LN=1

已知P(H1)=0.4,P(H2)=0.06,P(H3)=0.04

求：证据出现及不出现时，P(Hi/Ei)和P(Hi/~Ei)的值各是多少？49解：R1中，因为LS=1，

即E1的出现对H1无影响，故：P(H1/E1)=P(H1)=0.4P(H1/～E1)=R2中，因为LN=1，

即E2的不出现对H2无