版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
2023/2/51第4章不确定性知识的表示与推理技术2023/2/52内容4.1不确定性知识表示与推理概述4.2确定性理论4.3主观贝叶斯方法4.4证据理论4.5基于贝叶斯网络的推理4.6模糊推理4.7不确定性推理的应用2023/2/534.1不确定性知识表示与推理概述一般的(确定性)推理过程:运用已有的知识由已知事实推出结论.如已知:事实A,B知识ABC可以推出结论C。此时,只要求事实与知识的前件进行匹配。问题:如果A可能为真,B比较真,知识ABC只在一定程度上为真,结论如何?2023/2/544.1不确定性知识表示与推理概述通过几个例子认识不确定性:今天有可能下雨如果乌云密布并且电闪雷鸣,则很可能要下暴雨。张三是个秃子“秃子悖论”2023/2/554.1不确定性知识表示与推理概述4.1.1不确定性及其类型4.1.2不确定性推理概述2023/2/564.1.1不确定性及其类型(1)不确定性:知识和信息中含有的不肯定、不可靠、不准确、不精确、不严格、不严密、不完全甚至不一致的成分。按性质分类:随机不确定性模糊不确定性不完全性不一致性2023/2/574.1.1不确定性及其类型(2)随机不确定性随机不确定性是基于概率的一种衡量,即已知一个事件发生有多个可能的结果。虽然在该事件发生之前,无法确定哪个结果会出现,但是,可以预先知道每个结果发生的可能性。例如:“这场球赛甲队可能取胜”“如果头疼发烧,则大概是患了感冒。”2.模糊不确定性模糊不确定性就是一个命题中所出现的某些言词其涵义不够确切,从概念角度讲,就是其代表的概念的内涵没有硬性的标准或条件,其外延没有硬性的边界。例如:“小王是高个子。”“张三和李四是好朋友。”把涵义不确切的言词所代表的概念称为软概念。2023/2/584.1.1不确定性及其类型(3)3.不完全性
对某事物了解得不完全或认识不够完整。如,刑侦过程的某些阶段往往要针对不完全的证据进行推理。4.不一致性
随着时间或空间的推移,得到了前后不相容或不一致的结论。如,人们对太空的认识等。2023/2/594.1.2不确定性推理(1)1.不确定性推理方法的分类控制方法模型方法非数值方法数值方法模糊推理基于概率纯概率可信度方法证据理论主观Bayes通过识别领域内引起不确定性的某些特征及相应的控制策略来限制或减少确定性对系统产生的影响。贝叶斯网络2023/2/5104.1.2不确定性推理概述(2)对比一下不确定性推理与通常的确定性推理的差别:(1)不确定性推理中规则的前件能否与证据事实匹配成功,不但要求两者的符号模式能够匹配(合一),而且要求证据事实所含的信度必须达“标”,即必须达到一定的限度。这个限度一般称为“阈值”。(2)不确定性推理中一个规则的触发,不仅要求其前提能匹配成功,而且前提条件的总信度还必须至少达到阈值。(3)不确定性推理中所推得的结论是否有效,也取决于其信度是否达到阈值。(4)不确定性推理还要求有一套关于信度的计算方法,包括“与”关系的信度计算、“或”关系的信度计算、“非”关系的信度计算和推理结果信度的计算等等。2023/2/5114.1.2不确定性推理概述(3)2.不确定性推理需要解决的问题1)不确定性的表示与度量证据的不确定性规则(知识)的不确定性结论的不确定性2)不确定性的匹配算法3)不确定性的计算与传播组合证据的不确定性计算(最大最小方法、概率方法、有界方法)证据和知识的不确定性的传递不同证据支持同一结论时其不确定性的合成因此,不确定性推理的一般模式也可以简单地表示为:不确定性推理=符号推演+不确定性计算2023/2/5124.2确定性理论4.2.1知识的不确定性表示4.2.2证据的不确定性表示4.2.3不确定性的传播与计算4.2.4确定性理论的特点及进一步发展2023/2/5134.2.1知识的不确定性表示(1)不确定性度量知识的不确定性表示:
ifEthenH(CF(H,E))
CF(H,E):是该条知识的可信度,称为可信度因子或规则强度,它指出当前提条件E所对应的证据为真时,它对结论为真的支持程度。如:“如果头疼发烧,则患了感冒;(0.8)。”“如果乌云密布并且电闪雷鸣,则很可能要下暴雨。(0.9)”2023/2/5144.2.1知识的不确定性表示(2)在CF模型中,CF的定义为
CF(H,E)=MB(H,E)-MD(H,E)
用P(H)表示H的先验概率;P(H/E)表示在前提条件E对应的证据出现的情况下,结论H的条件概率。
MB(MeasureBelief):称为信任增长度,它表示因与前提条件E匹配的证据的出现,使结论H为真的信任增长度。
MB定义为:
2023/2/5154.2.1知识的不确定性表示(3)
MD(MeasureDisbelief):称为不信任增长度,它表示因与前提条件E匹配的证据的出现,使结论H为真的不信任增长度。MD定义为:
2023/2/5164.2.1知识的不确定性表示(4)由MB、MD得到CF(H,E)的计算公式:
2023/2/5174.2.1知识的不确定性表示(5)CF公式的意义当MB(H,E)>0时,MD(H,E)=0,表示由于证据E的出现增加了对H的信任程度。当MD(H,E)>0时,MB(H,E)=0,表示由于证据E的出现增加对H的不信任程度。注意:对于同一个E,不可能既增加对H的信任程度又增加对H的不信任程度。2023/2/5184.2.1知识的不确定性表示(6)当已知P(H),P(H/E),运用上述公式可以求CF(H/E)。但是,在实际应用中,P(H)和P(H/E)的值是难以获得的。因此,CF(H,E)的值要求领域专家直接给出。其原则是:若由于相应证据的出现增加结论H为真的可信度,则使CF(H,E)>0,证据的出现越是支持H为真,就使CF(H,E)的值越大;反之,使CF(H,E)<0,证据的出现越是支持H为假,就使CF(H,E)的值越小;若证据的出现与否与H无关,则使CF(H,E)=0。
2023/2/5194.2.1知识的不确定性表示(7)例
如果感染体是血液,且细菌的染色体是革兰氏阴性,且细菌的外形是杆状,且病人有严重发烧,
则该细菌的类别是假单细胞菌属(0.4)。这就是专家系统MYCIN中的一条规则。这里的0.4就是规则结论的CF值。2023/2/5204.2.2证据的不确定性表示(1)证据的不确定性表示初始证据CF(E)由用户给出先前推出的结论作为推理的证据,其可信度由推出该结论时通过不确定性传递算法而来。2023/2/5214.2.3不确定性的传播与计算(1)组合证据前提证据事实总CF值计算(最大最小法)E=E1E2…EnCF(E)=min{CF(E1),CF(E2),…CF(En)}E=E1E2…EnCF(E)=max{CF(E1),CF(E2),…CF(En)}E=E1CF(E)=-CF(E1)2023/2/5224.2.3不确定性的传播与计算(2)推理结论的CF值计算
C-F模型中的不确定性推理是从不确定的初始证据出发,通过运用相关的不确定性知识,最终推出结论并求出结论的可信度值。结论H的可信度由下式计算:
CF(H)=CF(H,E)max{0,CF(E)}
当CF(E)<0时,CF(H)=0,说明该模型中没有考虑证据为假时对结论H所产生的影响。2023/2/5234.2.3不确定性的传播与计算(3)重复结论CF值计算
ifE1thenH(CF(H,E1))ifE2thenH(CF(H,E2))
(1)计算CF1(H)CF2(H);(2)计算CF
(H):CF1(H)+CF2(H)–CF1(H)
CF2(H)若CF1(H)0,
CF2(H)0CF1(H)+CF2(H)+CF1(H)
CF2(H)若CF1(H)0,
CF2(H)0
CF1(H)+CF2(H)若CF1(H)与
CF2(H)异号CF1,2(H)
=
2023/2/5244.2.3不确定性的传播与计算(4)例4.1设有如下规则:
r1:IFE1THENH0.8)r2:IFE2THENH(0.9)r3:IFE3ANDE4THENE1(0.7)r4:IFE5ORE6THENE1(-0.3)并已知初始证据的可信度为:CF(E2)=0.8,CF(E3)=0.9,CF(E4)=0.7,CF(E5)=0.1,CF(E6)=0.5,用确定性理论计算CF(H)。
2023/2/5254.2.3不确定性的传播与计算(5)由r3可得:
CF1(E1)=0.7×min{0.9,0.7}=0.49由r4可得:
CF2(E1)=-0.3×max{0.1,0.5}=-0.15从而
CF1,2(E1)=(0.49-0.15)/(1-min(|0.49|,|-0.15|))=0.34/0.85=0.4由r1可得:
CF1(H)=0.4×0.8=0.32由r2可得:
CF2(H)=0.8×0.9=0.72从而
CF1,2(H)=0.32+0.72-0.32×0.72=0.8096这就是最终求得的H的可信度。2023/2/5264.2.4确定性理论的特点及进一步发展可信度方法的进一步发展(1)带有阈值限度的不确定性推理知识表示为:ifEthenH(CF(H,E),)
其中
是阈值,它对相应知识的可应用性规定了一个度:0<<1(2)加权的不确定性推理知识表示为:ifE1(1)andE2(2)and…thenH(CF(H,E),)
其中1,1,…n为加权因子。(3)前提条件中带有可信度因子的不确定性推理知识表示为:ifE1(cf1)andE2(cf2)and…thenH(CF(H,E),)2023/2/5274.3主观贝叶斯方法(1)简介
主观贝叶斯方法是R.O.Duda等人1976年提出的一种不确定性推理模型,并成功地应用于地质勘探专家系统PROSPECTOR。其核心思想是:
根据:Ⅰ.证据的不确定性(概率)P(E);Ⅱ.规则的不确定性(LS,LN);
LS:E的出现对H的支持程度,
LN:E的出现对H的不支持程度。把结论H的先验概率更新为后验概率P(H|E);2023/2/5284.3主观贝叶斯方法(2)4.3.1知识的不确定性表示4.3.2证据的不确定性表示4.3.3不确定性的传播与计算4.3.4主观贝叶斯方法的特点2023/2/5294.3.1知识的不确定性表示(1)
知识是用规则表示的,具体形式为:
ifEthen(LS,LN)H(P(H))或:
其中•
E
是该条知识的前提条件,它既可以是一个简单条件,也可以是用and、or把多个条件连接起来的复条件。•H
是结论,P(H)是H的先验概率,它指出在没有任何专门证据的情况下,结论为真的概率,其值由领域专家根据以往的实践及经验给出。2023/2/5304.3.1知识的不确定性表示(2)•
LS
称为充分性量度,用于指出E对H的支持程度,取值范围为[0,∞),其定义为:
LS=
LS的值由领域专家给出,具体情况在下面论述。•
LN
称为必要性量度,用于指出
E对H的支持程度,取值范围为[0,∞),其定义为:
LN==
LN的值也由领域专家给出,具体情况在下面论述。•
LS,LN相当于知识的静态强度。P(E/H)P(E/H)P(E/H)P(E/H)1P(E/H)1P(E/H)2023/2/531在贝叶斯方法中,引入几率函数o(x)
,它与概率的关系为:几率函数与概率函数有相同的单调性,但取值为[0,]下面讨论LS、LN定义的由来O(x)=P(x)1-P(x)4.3.1知识的不确定性表示(3)2023/2/5324.3.1知识的不确定性表示(4)1)对于LS:
由Bayes公式得:
P(H/E)=[P(E/H)P(H)]/P(E)①
同理有:
P(H/E)=[P(E/H)P(H)]/P(E)②
①除以②,得:
P(H/E)P(E/H)P(H)
P(H/E)P(E/H)P(H)
③
LS=O(H)O(H/E)2023/2/5334.3.1知识的不确定性表示(5)使用几率函数,③式可以表示为:
O(H/E)=LS×O(H)
可以看出,LS越大,O(H/E)越大,则P(H/E)越大,表明E对H为真的支持越强。当LS∞
,P(H/E)1,E的存在对H为真是充分的,故称LS为充分性量度。对于上式,证据E肯定存在时,即P(E)=P(E/S)=1,考虑P(H/E)。由③式及“非”运算:P(H/E)=1–P(H/E)、P(H)=1–P(H),得:
LS将H的先验概率更新为后验概率P(H/E)=
LSP(H)(LS–1)P(H)+12023/2/5344.3.1知识的不确定性表示(6)2)对于LN:
由Bayes公式得:
P(H/E)=P(E/H)P(H)/P(E)①
同理有:
P(H/E)=P(E/H)P(H)/P(E)②
①除以②,得:
P(H/E)P(E/H)P(H)P(H/E)P(E/H)P(H)③
=LNO(H)O(H/E)2023/2/5354.3.1知识的不确定性表示(7)LN的定义还可以表示为:
O(H/E)=LN×O(H)则LN越大,表明
E对H为真的支持越强。当LN=0
,P(H/E)=0,E的不存在导致H为假,说明E对H是必要的,故称LN为必要性量度。由③式及“非”运算P(H/E)=1–P(H/E)、P(H)=1–P(H),得:LN将H的先验概率更新为后验概率P(H/E)=LNP(H)(LN–1)P(H)+12023/2/5364.3.1知识的不确定性表示(9)可以证明:LS、LN>0,它们是不独立的,且有如下约束关系:当LS>1时,LN<1;当LS<1时,LN>1;当LS=1时,LN=1;实际系统中,LS、LN值是有专家给出的。2023/2/537
4.3.2证据的不确定性表示(1)
证据的不确定性也是用概率表示的。
对于初始证据E,由用户根据观察S给出P(E/S),它相当于动态强度。
具体应用中采用变通的方法,在PROSPECTOR中引进了可信度的概念,用C(E/S)刻画证据的不确定性。让用户在–5至5之间的11个整数中选一个数作为初始证据的可信度C(E/S)。
初始可信度C(E/S)与概率P(E/S)的对应关系如下:
C(E/S)=-5,表示在观察S下证据E肯定不存在,即P(E/S)=0;C(E/S)=0,表示S与E无关,即P(E/S)=P(E);C(E/S)=+5,表示在观察S下证据E肯定存在,即P(E/S)=1;2023/2/5384.3.2证据的不确定性表示(2)C(E/S)=其它数值时,与P(E/S)的对应关系可通过对上述三点进行分段线性插值得到,如下图。P(E/S)1P(E)C(E/S)-5-4-3-2-1012345由上图可得到C(E/S)与P(E/S)的关系式,即由C(E/S)计算P(E/S):P(E/S)=若0C(E/S)5若5C(E/S)<0C(E/S)+P(E)(5C(E/S))55P(E)(C(E/S)+5)2023/2/5394.3.3不确定性的传播与计算
在主观Bayes方法的知识表示中,P(H)是专家对结论H给出的先验概率,它是在没有考虑任何证据的情况下根据经验给出的。随着新证据的获得,对H的信任程度应该有所改变。主观Bayes方法推理的任务就是根据证据E的概率P(E)及LS,LN的值,把H的先验概率P(H)更新为后验概率P(H/E)或P(H/E)。
即:
P(H)P(H/E)或P(H/E)
P(E)LS,LN2023/2/5404.3.3不确定性的传播与计算(1)
在现实中,证据肯定存在或肯定不存在的极端情况是不多的,更多的是介于两者之间的不确定情况。
现在要在0<P(E/S)<1的情况下确定H的后验概率P(H/S)。在证据不确定的情况下,不能再用上面的公式计算后验概率,而需使用R.O.Doda等人1976年证明的如下公式:
P(H/S)=P(H/E)P(E/S)+P(H/E)P(E/S)
①2023/2/5414.3.3不确定性的传播与计算(2)下面分四种情况讨论:
1)P(E/S)=1
当P(E/S)=1时,P(E/S)=0,此时公式①变为:
P(H/S)=P(H/E)=
这是证据肯定存在的情况。
2)P(E/S)=0
当P(E/S)=0时,P(E/S)=1,此时公式①变为:
P(H/S)=P(H/E)=
这是证据肯定不存在的情况。
LSP(H)(LS–1)P(H)+1
LNP(H)(LN–1)P(H)+12023/2/5424.3.3不确定性的传播与计算(3)3)P(E/S)=P(E)
当P(E/S)=P(E)时,此时公式①变为:
P(H/S)=P(H/E)P(E)+P(H/E)P(E)=P(H)
表示H与S无关。
4)当P(E/S)=其它值时,通过分段线性插值可得到计算P(H/S)的公式。全概率公式2023/2/5434.3.3不确定性的传播与计算(4)0P(E)1P(E/S)
P(H/E)P(H)P(H/E)P(H/S)
P(H/E)+P(E/S)若0P(E/S)<
P(E)P(H)+[P(E/S)–P(E)]
若P(E)P(E/S)1P(H)–P(H/E)
P(E)P(H/E)–P(H)1–P(E)
P(H/S)=该公式称为EH公式。2023/2/5444.3.3不确定性的传播与计算(5)由前面可知P(E/S)、P(H/S)的计算公式分别为:P(E/S)=若0C(E/S)5若5C(E/S)<0C(E/S)+P(E)(5C(E/S))55P(E)(C(E/S)+5)
P(H/E)+P(E/S)若0P(E/S)<
P(E)P(H)+[P(E/S)–P(E)]
若P(E)P(E/S)1P(H)–P(H/E)
P(E)P(H/E)–P(H)1–P(E)
P(H/S)=2023/2/5454.3.3不确定性的传播与计算(6)对初始证据,用可信度C(E/S)计算P(H/S)
对于初始证据,由于其不确定性是用可信度C(E/S)给出的,此时只要把C(E/S)与P(E/S)的对应关系带入上式,便可得到下述公式:
该公式称为CP公式。P(H/E)+[P(H)–P(H/E)][C(E/S)+1],若C(E/S)0P(H)+[P(H/E)–P(H)]C(E/S),若C(E/S)>01515P(H/S)=2023/2/5464.3.3不确定性的传播与计算(7)相同结论的后验概率合成:若有n条知识都支持相同的结论H,而且每条知识的前提条件所对应的证据Ei(i=1,2,…,n)都有相应的观察Si
与之对应,此时只要先求出每条知识的O(H/Si),然后运用下述公式求出O(H/S1,S2,…,Sn)。O(H/S1)O(H)O(H/S2)O(H)O(H/Sn)O(H)O(H/S1,S2,…,Sn)=…O(H)最后,再利用P(H/S1,S2,…,Sn)与O(H/S1,S2,…,Sn)的关系:
P(H/S1,S2,…,Sn)=O(H/S1,S2,…,Sn)/(1+O(H/S1,S2,…,Sn))计算P(H/S1,S2,…,Sn)
。2023/2/5474.3.3不确定性的传播与计算(8)例4.2设有如下规则:
r1:IFE1THEN(65,0.01)H1r2:IFE2THEN(300,0.001)H1r3:IFH1THEN(200,0.002)H2已知:
P(E1)=0.1,P(E2)=0.03,P(H1)=0.1,P(H2)=0.05,用户提供证据:C(E1/S1)=2,C(E2/S2)=1,计算P(H2/S1,S2)。2023/2/5484.3.3不确定性的传播与计算(9)分析:自下而上计算:根据LS值,将H的先验概率转换为后验概率,计算P(H1/E1)、P(H1/E2)
使用CP公式计算P(H1/S2)、P(H1/S2),计算O(H1/S1)、O(H1/S2)对H1合成。计算O(H1/S1,S2)、P(H1/S1,S2)。根据LS值,将H的先验概率转换为后验概率,计算P(H2/H1)
使用EH公式计算P(H2/S1,S2)(1)计算P(H1/E1)、P(H1/S1)和O(H1/S2)2023/2/5494.3.3不确定性的传播与计算(10)对于初始证据,使用CP公式:
P(H/E)+[P(H)–P(H/E)][C(E/S)+1],若C(E/S)0P(H)+[P(H/E)–P(H)]C(E/S),若C(E/S)>01515P(H/S)=∵C(E1/S1)=2>0∴使用CP公式的后半部。2023/2/5504.3.3不确定性的传播与计算(11)
3000.1(300-1)0.01+1P(H1/E2)=LS2P(H1)(LS2-1)P(H1)+1==0.9709(2)计算P(H1/E2)、P(H1/S2)
、(O(H1/S2))对于初始证据,使用CP公式,∵C(E2/S2)=1>0∴使用CP公式的后半部。P(H1)+[P(H1/E2)–P(H1)]C(E2/S2)15P(H1/S2)==0.1+[0.9709-0.09]11/5=0.2742O(H1/S2)=
P(H1/S2)1-P(H1/S2)0.27421-0.2742=0.3778=2023/2/5514.3.3不确定性的传播与计算(12)(3)计算P(H1/S1,S2)、O(H1/S1,S2)2023/2/5524.3.3不确定性的传播与计算(13)(4)计算P(H2/S1,S2)(O(H2/S1,S2))使用EH公式∵P(H1/S1,S2)>P(H1)∴使用EH公式的后半部。2000.05(200-1)0.05+1P(H2/H1)=LS3P(H2)(LS3–1)P(H2)+1==0.9132P(H1/S1,S2)–P(H1)1–P(H1)P(H2/S1,S2)=P(H2)+[P(H2/H1)–P(H2)]=0.05+[(0.9132-0.05)/(1-0.1)](0.7038-0.01)=0.6291H2的先验概率为0.05,而最后算出的后验概率为0.6291
P(H/E)+P(E/S)若0P(E/S)<
P(E)P(H)+[P(E/S)–P(E)]
若P(E)P(E/S)1P(H)–P(H/E)
P(E)P(H/E)–P(H)1–P(E)
P(H/S)=2023/2/5534.3.4主观贝叶斯方法的特点主要优点:
•其计算公式大多是在概率论的基础上推导出来的,具有较坚实理论基础;
•知识的静态强度LS、LN由领域专家根据实际经验得到,避免了大量的数据统计工作;
•给出了在证据不确定情况下更新先验概率为后验概率的方法,且从推理过程中看,确实是实现了不确定性的传递.主要缺点:
•它要求领域专家在给出知识时,同时给出H的先验概率,这是比较困难的。
•Bayes定理中要求事件间相互独立,限制了该方法的应用。2023/2/5544.4证据理论(1)20世纪60年代Dempster把证据的信任函数与概率的上下值相联系,从而提供了一个构造不确定性推理模型的一般框架。20世纪70年代中期,Shafer对Dempster的理论进行了扩充,在此基础上形成了处理不确定信息的证据理论,出版了《证据的数学理论》。证据理论又称Dempster-Shafer理论(D-S理论)或信任函数理论。是经典概率论的一种扩充形式。证据理论能充分区分“不确定”和“不知道”的差异,并能处理由“不知道”引起的“不确定”性,具有较大的灵活性。2023/2/5554.4证据理论(2)4.4.1D-S理论4.4.2
证据理论的不确定推理模型2023/2/5564.4.1D-S理论(1)识别框架或论域
U1={客机,轰炸机,战斗机}
U2={红,绿,蓝,橙,黄}
U3={谷仓,草,人,牛,车}
正确答案:θ1={轰炸机,战斗机}识别框架的子集就构成了求解问题的各种解答。将一个不变的、元素两两互斥的完备集合U称为识别框架或论域。哪些是军用飞机?(对应识别框架U1)哪些是民用飞机?(对应识别框架U1)正确答案:θ2={客机}2023/2/5574.4.1D-S理论(2)每一个子集都可以看做是一个隐含的命题。证据理论就是通过定义在这些子集(命题)上的几种信任函数来计算识别框架中诸子集(命题)为真的可信度U={感冒,支气管炎,鼻炎}可能是{感冒}、{支气管炎}、{鼻炎}、{感冒,支气管炎}、{感冒,鼻炎}、{支气管炎,鼻炎}、{感冒,支气管炎,鼻炎}、Φ
其中之一。考察某人得了什么疾病时,如何处理?2023/2/5584.4.1D-S理论(4)1.基本概率分配函数2.信任函数(下限函数)3.似真函数(上限函数)4.信任区间5.德普斯特组合规则2023/2/5591.基本概率分配函数(1)定义4.1
给定识别框架U,A∈2U,称
m(A):2U
→[0,1]
是2U上的一个基本概率分配函数(FunctionofBasicProbabilityAssignment),若它满足基本概率分配函数的物理意义:
1.若A属于U,且不等于U,表示对子集命题A的精确信任度
2.若A等于U,表示这个数不知如何分配2023/2/5601.基本概率分配函数(2)例4.3U1={客机,轰炸机,战斗机},分别用A,B,F代表客机、轰炸机和战斗机,其基本概率分配函数为:
m({A})=0.4m({A,B})=0m({A,F})=0.2m({A,B,F})=0.2m({B})=0m({B,F})=0.2m({F})=0m({Φ})=0基本概率分配函数值由主观给出,一般是某种信度。所以概率分配函数也被称为信任度分配函数。
m({A})+m({B})+m({F})=0.4≠1可以看出,基本概率分配函数之值并非概率。2023/2/5612.信任函数定义4.2:信任函数(下限函数)给定识别框架U,对于2U中的任意A
称为2u上的信任函数(FunctionofBelief)。信任函数表示对A为真的信任程度,即为包含于A中的所有集合的基本概率分配函数值之和。性质:Bel(Φ)=0,Bel(U)=1,且对于2U中的任意元素A,有0≤Bel(A)≤1。根据定义:Bel(Φ)=?Bel(U)=?例:考试成绩估分下限问题:做对的题目分数之和2023/2/5623似真函数(上限函数)
定义4.3
似真函数
A为2U中的元素,A’为A的补集
Pl(A)=1-Bel(A’)=
称为A的似真函数(Plausiblefunction),函数值又称似真度。
似真函数表示对A非假的信任程度,物理意义为与A交集不为空的所有集合的概率分配函数之和。例,考试成绩估分上限问题:去掉错误题目的分数之后的得分2023/2/5633似真函数(上限函数)例4.3U1={客机,轰炸机,战斗机},分别用A,B,F代表客机、轰炸机和战斗机,其基本概率分配函数为:
m({A})=0.4m({A,B})=0m({A,F})=0.2m({A,B,F})=0.2m({B})=0m({B,F})=0.2m({F})=0m({Φ})=0例4.4Bel({A,F})=m({A})+m({F})+m({A,F})=0.4+0+0=0.4例4.5Pl({A,F})=1-Bel({A,F}’)=1-Bel({B})=12023/2/5644.信任区间(1)证明根据定义有:
0≤Bel(A)≤Pl(A)≤1,Bel是Pl的一部分。2023/2/5654.信任区间(2)定义4.4信任区间设Bel(A)和Pl(A)分别表示A的信任度和似真度,称二元组
[Bel(A),Pl(A)]
为A的一个信任区间。
信任区间刻划了对A所持信任程度的上下限。考试成绩估分区间问题信任区间所代表的含义(1)[1,1](2)[0,0](3)[0,1]
(4)[0.5,0.5](5)[0.25,0.85]表示A为真。表示对A完全无知。表示A为假。表示A是否为真完全不确定。表示对A为真信任的程度为0.25,对A’的信任程度为0.15。2023/2/5665.德普斯特组合规则(1)
有时,同样的识别框架在不同的证据下会得到不同的概率分配函数,例如对飞机的识别框架:
U={A,B,F}假设第一传感器对目标识别的基本概率分配函数用m1表示:m1({B,F})=0.7m1({A,B,F})=0.3其余为0第二种传感器识别目标的基本概率分配函数用m2表示:m2({B})=0.9m2({A,B,F})=0.1其余为02023/2/5675.德普斯特组合规则(2)定义4.5
概率分配函数的正交和
设m1(A)和m2(A)(A∈2U)是识别框架U基于不同证据的两个基本概率分配函数,则其正交和m=m1m2
为:.
组合后的m
(A)满足:2023/2/5685.德普斯特组合规则(3)例4.6基于两组不同证据得到的基本概率分配函数为:
m1({B,F})=0.7m2({B})=0.9m1({A,B,F})=0.3m2({A,B,F})=0.1
将m1和m2合并:
m12({B})=m1({B,F})m2({B})+m1({A,B,F})m2({B})=0.9m12({B,F})=m1({B,F})m2({A,B,F})=0.07m12({A,B,F})=m1({A,B,F})m2({A,B,F})=0.03
m12({B})=0.9m12({B,F})=0.07m12({A,B,F})=0.032023/2/5695.德普斯特组合规则(4)例:假设在证据组合后,第三种传感器此时报告了一个客机的证据,即
m3({A})=0.95m3({A,B,F})=0.05m12({B})=0.9m12({B,F})=0.07m12({A,B,F})=0.03将m12和m3合并:
m(Φ)=m3({A})m12({B})+m3({A})m12({B,F})=0.95×0.9+0.95×0.07=0.9215这与基本概率分配函数中,m({Φ})=0相矛盾,这时就应该采用含有冲突修正的组合规则。
报酬分配问题2023/2/5705.德普斯特组合规则(5)定义4.6含冲突修正的组合规则设m1和m2是对同一识别框架的概率分配函数,则其正交和m=m1
m2为:
规范数K的引入,实际上是把空集所丢弃的正交和按照比例地补到非空集上,使m(A)仍然满足:2023/2/5715.德普斯特组合规则(6)对于多个概率分配函数的情形,假设m1,m2,…,mn是n个概率分配函数,则其正交和m=m1
m2
…
mn为:其中:2023/2/5725.德普斯特组合规则(6)例4.7:假设在证据组合后,第三种传感器此时报告了一个客机的证据,即
m3({A})=0.95m3({A,B,F})=0.05m12({B})=0.9m12({B,F})=0.07m12({A,B,F})=0.03将m12和m3合并:2023/2/5735.德普斯特组合规则(7)从而K=12.73892023/2/5744.4.2证据理论的不确定性推理模型(1)1.概率分配函数与类概率分配函数
在下面要讨论的模型中,识别框架U={s1,s2,…,sn}上的概率分配函数还要满足如下要求:(1)基本事件的概率分配函数值为非负,即:(2)全体基本事件的概率分配函数之和不大于1,即:2023/2/5754.4.2证据理论的不确定性推理模型(2)(3)识别框架的概率分配函数为:(4)当AU且|A|>1或|A|=0时,m(A)=0。
|A|表示命题A对应集合中的元素个数。2023/2/5764.4.2证据理论的不确定性推理模型(3)对这样的概率分配函数,可计算对应命题和识别框架的信任函数值以及似真函数值:
2023/2/5774.4.2证据理论的不确定性推理模型(4)对任何AU和BU均有:m(U)表示对命题A或B不知道的程度。定义4.7类概率函数已知识别框架U,对所有的命题A∈2U,它的类概率函数为:其中,|A|、|U|表示集合A及U中元素的个数。2023/2/5784.4.2证据理论的不确定性推理模型(5)类概率函数具有如下性质:(1)全体基本事件的类概率函数之和为1,即:(2)对任何AU,都有:由以上性质可以得到如下推论:(1)空集的类概率函数值为0,即f(Φ
)=0。(2)全集的类概率函数值为1,即f(U)=1。(3)任何时间的类概率函数值都在0和1之间,即对任何AU,均有0≤f(A)≤1。2023/2/5794.4.2证据理论的不确定性推理模型(6)2.知识的不确定性表示不确定性知识用如下形式的规则来表示:
IFETHENH={h1,h2,…,hn}CF={c1,c2,…,cn}其中:E:前提条件,它可以是简单条件,也可以是通过AND和OR连接起来的复合条件。H:结论,它用识别框架中的子集表示,h1,h2,…,hn是该子集中的元素。CF:可信度因子。其中ci用来指出hi
{i=1,2,…,n}的可信度,且满足如下条件:2023/2/5804.4.2证据理论的不确定性推理模型(6)3.证据不确定性表示不确定性证据E的确定性用CER(E)表示,CER(E)的取值为[0,1]。对于初始证据,其确定性由用户给出;对于中间结论作为当前推理的证据,确定性由推理得到。4.组合证据不确定性的计算采用最大最小方法计算,即:简单证据的合取时,取最小值作为组合证据的不确定性;简单证据的析取时,取最大值作为组合证据的不确定性。2023/2/5814.4.2证据理论的不确定性推理模型(7)5.不确定性的传递算法设有规则:IFETHENH={h1,h2,…,hn}CF={c1,c2,…,cn}则结论H的不确定性可以通过下述步骤求出:(1)求H的概率分配函数若有两条规则支持同一结论H,即:IFE1THENH={h1,h2,…,hn}CF={c1,c2,…,cn}IFE2THENH={h1,h2,…,hn}CF={c1’,c2’
,…,cn
’}则先分别对每一条规则求出概率分配函数m1、m2,然后再求正交和得到H的概率分配函数m.2023/2/5824.4.2证据理论的不确定性推理模型(8)(2)求出Bel(H),Pl(H),f(H)(3)求H
的确定性CER(H)其中,MD(H/E)为规则前提条件与相应证据E的匹配度,定义为2023/2/5834.4.2证据理论的不确定性推理模型(9)例4.8设有如下推理规则:且已知初始证据的确定性分别为:
CER(E1)=0.5,CER(E2)=0.6,CER(E3)=0.8,CER(E4)=0.7。假设|U|=10,求CER(H)=?解:由给出的推理规则可形成如图推理网络:2023/2/5844.4.2证据理论的不确定性推理模型(9)(1)求CER(A)2023/2/5854.4.2证据理论的不确定性推理模型(9)(2)求CER(B)2023/2/5864.4.2证据理论的不确定性推理模型(10)(3)求正交和对于r3,其概率分配函数为:对于r4,其概率分配函数为:
2023/2/5874.4.2证据理论的不确定性推理模型(11)下面求m1和m2的正交和m。2023/2/5884.4.2证据理论的不确定性推理模型(12)同理可得:2023/2/5894.4.2证据理论的不确定性推理模型(13)(4)求CER(H)2023/2/590拓展阅读及实践阅读D_S理论英文介绍:
:8080/UGAIWWW/lectures/dempster.html下载程序包试运行
http://www.quiver.freeserve.co.uk/Dse.htm
中程序包DempsterShaterEngine.zip2023/2/5914.5基于贝叶斯网络的推理4.5.1什么是贝叶斯网络4.5.2贝叶斯网络推理2023/2/5924.5.1什么是贝叶斯网络(1)贝叶斯网络是一种以随机变量为节点,以条件概率为节点间关系强度的有向无环图(DirectedAcyclicGraph,DAG)。设V1,V2,…,Vk是贝叶斯网络中的节点,满足贝叶斯网络的条件独立性假设,则网络中所有节点的联合概率为:
贝叶斯网络中的节点一般代表事件、对象、属性或状态;有向边一般表示节点间的因果关系。贝叶斯网络也称因果网络、信念网络、概率网络、知识图等,是描述事物之间因果关系或依赖关系的一种直观图形。2023/2/5934.5.1什么是贝叶斯网络(2)机器人举积木问题。首先考虑第一个原因,即“电池被充电”(B)和“积木是可举起来的”(L)相对应的变量。B和L对“手臂移动”(M)有一个因果影响,B对G(“仪表指示电池被充电了”)也有因果关系,BLMG节点表示随机变量边表示相关节点或变量之间某种依赖关系每个节点有一个条件概率表(CPT)因节点果节点P(G/B)=0.95P(G/¬B)=0.1P(M/B,L)=0.9P(M/B,¬L)=0.05P(M/B,¬L)=0.05P(M/¬B,¬L)=0.0P(B)=0.95P(L)=0.72023/2/5944.5.2贝叶斯网络推理(1)根据贝叶斯网络的结构特征和语义特征,基于网络中的一些已知节点(证据变量),利用这种概率网络就可以推算出网络中另外一些节点(查询变量)的概率,即实现概率推理。推理可分为因果推理诊断推理辩解混合推理2023/2/5954.5.2贝叶斯网络推理(2)1因果网络由原因到结果的推理,即已知网络中的祖先节点而计算后代节点的条件概率。是一种自上而下的推理。在积木是可以举起的(L)的条件下,计算手臂能移动(M)的概率P(M/L)。由于积木可举起是手臂能移动的原因之一,因此,这是一个典型的因果推理。L称作推理的证据,而M称作询问节点。BLMGP(M/B,L)=0.9P(M/B,¬L)=0.05P(M/B,¬L)=0.05P(M/¬B,¬L)=0.02023/2/5964.5.2贝叶斯网络推理(3)首先,由于M还有另外一个因节点——电池被充电(B),因此可以对概率P(M/L)进行扩展,得:(4-14)
对式(4-14)中第一项P(M,B/L)做如下变形:
2023/2/5974.5.2贝叶斯网络推理(4)同理,可对式(4-14)中的第二项P(M,¬B/L)变形得到:由式(4-14)可得结果:
(4-15)将这些概率代入到式(4-15)右端:
2023/2/5984.5.2贝叶斯网络推理(5)因果推理的思路和方法(1)对于所求的询问节点的条件概率,用所给证据节点和询问节点的所有因果节点的联合概率进行重新表达。(2)对所得表达式进行适当变形,直到其中的所有概率值都可以从问题贝叶斯网络的条件概率表中得到。(3)将相关概率值代入到概率表达式中进行计算即得所求询问节点的条件概率。2023/2/5994.5.2贝叶斯网络推理(6)2诊断推理由结果到原因的推理,即已知网络中的后代节点而计算祖先节点的条件概率。这种推理是一种自下而上的推理。诊断推理的一般思路和方法是:先利用贝叶斯公式将诊断问题转化为因果推理问题;然后进行因果推理;再利用因果推理的结果,导出诊断推理的结果。2023/2/51004.5.2贝叶斯网络推理(7)
假设机器人手臂未移动(¬M),求积木不可举起(¬L)的概率,即,也即是用一个结果(或症状)来推理一个起因,把这类推理叫做诊断推理。由贝叶斯公式,得BLMG2023/2/51014.5.2贝叶斯网络推理(8)用因果推理:将结果代入式(4-16)中,计算:同样的,用因果推理可计算出:
2023/2/51024.5.2贝叶斯网络推理(9)计算:因为:所以:解得P(~M)=0.38725,代入到式(4-16)中得:
2023/2/51034.5.2贝叶斯网络推理(10)如果机器人举积木的例子中已知的证据仅仅是¬M(手臂不能移动),则能够计算¬L(积木不能举起)的概率。如果现在仅仅给定¬B(电池没有被充电),那么¬L就变得不确定。这种情况下,可以说¬B解释¬M,使¬L不确定。这种推理将使用嵌入在一个诊断推理中的因果推理。由贝叶斯公式可得:由条件概率定义:2023/2/51044.5.2贝叶斯网络推理(11)所以:(4-17)由联合概率可计算:其中2023/2/51054.5.2贝叶斯网络推理(12)可得P(¬M,¬B)=0.05
代入式(4-17)中得:机器人举积木例子中的推理方法可以推广到更一般的推理过程中去。但是在实际应用系统中的网络,不仅相关因素繁多,而且许多概率是无法得到的,因此,在推理的过程中将会引入大量的近似计算。贝叶斯网络的建造涉及拓扑结构和条件概率,可以通过机器学习的方法来解决,称为贝叶斯网络学习。2023/2/51064.6模糊推理4.6.1模糊集合及模糊逻辑4.6.2简单模糊推理2023/2/51074.6.1模糊集合及模糊逻辑(1)
1965年美国学者扎德(L.A.Zadeh)等人从集合论的角度出发,对传统集合进行了推广,提出了模糊集合、隶属函数、语言变量、语言真值及模糊推理等重要概念。
1模糊集合的定义2模糊集合的运算3模糊关系4模糊关系的合成5模糊逻辑20
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
评论
0/150
提交评论