




版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
第5.3节贝叶斯网络王庆江计算机科学与技术系qjwang@第5.3节贝叶斯网络王庆江1勘误P173页关于图5.4的CPT有误。P175页倒数第3行,“对于S、L和E…”应为“对于S,L和E…”。P178页第1行,“具有以上3个属性之一”应为“同时具有以上3个属性”。P178页14行,“结点E阻塞了结点C和…”应为“结点S阻塞了结点C和…”。P178页16行,“而对于给定结点E、S和L之间…”应为“而对于给定结点E,S和L之间…”。P180页15行,“P(~S|C)”应为“P(~S|~C)”。注:新印刷的可能已纠正。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法勘误P173页关于图5.4的CPT有误。注:新印刷的可能已纠2贝叶斯网络(BayesianNetwork)有坚实的数学理论基础;采用概率形式的不确定性表示和推理;20世纪80年代,成功应用于专家系统。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法贝叶斯网络(BayesianNetwork)2008-2035.3.1贝叶斯网络的基本概念有向无环图DirectedAcyclicGraph,缩写DAG;可用于表示因果关系网。结点代表证据或结论,权代表证据或结论的不确定度;弧代表规则(即因果关系),权代表规则的不确定度。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法5.3.1贝叶斯网络的基本概念有向无环图2008-2004ConditionProbabilityTable,缩写CPT;对于所有父结点的每种指派,确定子结点的发生概率。例:CPT包括P(C|A,B),P(C|A,~B),P(C|~A,B),P(C|~A,~B)P(A),P(B)ABC条件概率表2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法ConditionProbabilityTable,缩写5贝叶斯网络的构造方法确定包含哪些结点;建立反映条件独立的有向无环图;指派局部概率分布,即CPT。如果CPT包含了足够的条件概率,可以计算出任何联合概率,则称此网络是可计算的(即可推理的)。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法贝叶斯网络的构造方法2008-2009学年第1学期5.1-56因果关系网的示例结点及其解释S(Smoker):该患者为吸烟者C(Coalminer):该患者是煤矿工人L(Lungcancer):他患了肺癌E(Emphysema):他患了肺气肿因果关系S可能导致L和EC可能导致E
。SCLE因果关系从哪里得来呢?2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法因果关系网的示例结点及其解释SCLE因果关系从哪里得来呢?27贝叶斯网络是结点间增加连接强度的因果关系网。连接强度用条件概率表示;例:P(B|A)为A到B的连接强度;例:P(B|AC)表示A、C对B的联合作用。CPT除了包含上述条件概率,还包括顶点(即无父结点的结点)的无条件概率(即先验概率)。贝叶斯网络=网络结构+CPT注:贝叶斯网络不允许包含循环因果关系!2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法贝叶斯网络是结点间增加连接强度的因果关系网。注:贝叶斯网络不8ACEBDGF贝叶斯网络的结构贝叶斯网络的完整CPTP(A)、P(C)、P(D)、P(B|ACD)、P(B|~A,C,D)、P(B|A,~C,D)、P(B|A,C,~D)、P(B|~A,~C,D)、P(B|~A,C,~D)、P(B|A,~C,~D)、P(B|~A,~C,~D)、P(E|B)、P(E|~B)、P(F|E)、P(F|~E)、
P(G|DEF)、P(G|~D,E,F)、P(G|D,~E,F)、P(G|D,E,~F)、
P(G|~D,~E,F)、P(G|~D,E,~F)、P(G|D,~E,~F)、P(G|~D,~E,~F)
一般,父结点发生或不发生的所有组合都要给出。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法ACEBDGF贝叶斯网络的结构贝叶斯网络的完整CPTP(A)9SCLE网络的结构不够完整的CPTP(S)=0.4P(C)=0.3P(E|S,C)=0.9P(E|S,~C)=0.3P(E|~S,C)=0.5P(E|~S,~C)=0.1P(L|S)=0.6P(L|~S)=0.5剩余的条件概率2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法SCLE网络的结构不够完整的CPTP(S)=0.4P(L|10条件独立有结点A、B和C,若P(A|BC)=P(A|B),则称A和C在B条件下独立、A在B条件下独立于C,或A和C关于B独立。所谓“关于B”,有时是给定B的不确定度,有时是完全不知道B的不确定度。“条件独立”是贝叶斯网络中隐含的断言(assertion)、假设(assumption),贝叶斯网络就是一个表示条件独立关系的图模型。实际中,若已知A在B条件下独立于C,则P(A|BC)=P(A|B)。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法条件独立有结点A、B和C,若P(A|BC)=P(A|B11事件独立与贝叶斯网络中的条件独立事件独立若P(AB)=P(A)P(B),则A与B相互独立。性质2:若A与B独立,且P(B)>0,则P(A|B)=P(A)。∵P(A|B)=P(AB)/P(B)=P(A)P(B)/P(B)独立和互斥不一会儿事!若AB=Φ,则A与B互斥,有P(A∪B)=P(A)+P(B)P(A)>0,P(B)>0,若AB=Φ,则P(AB)=0,A与B互斥但不相互独立;Ω与任何事件独立,但Ω与任何事件不互斥。贝叶斯网络中的条件独立若P(A|BC)=P(A|B),则A和C关于B条件独立。一个事件的概率与另一事件的概率没关系两个事件不可能同时发生给定某条件时,一个事件的概率与另一个事件的概率没关系2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法事件独立与贝叶斯网络中的条件独立事件独立一个事件的概率与另一12条件独立断言有什么用呢?例:P(S,C,L,E) =P(E|S,C,L)×P(L|S,C)×P(C|S)×P(S) =P(E|S,C)×P(L|S,C)×P(C|S)×P(S) =P(E|S,C)×P(L|S)×P(C|S)×P(S) =P(E|S,C)×P(L|S)×P(C)×P(S)联合概率公式不给定E,C独立于S给定S,L独立于C给定S,E独立于LCPT给出这些概率SCLE贝叶斯网络的结构2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法条件独立断言有什么用呢?例:P(S,C,L,E)联合概率公式13贝叶斯网络隐含着哪些条件独立断言?串行连接A通过B影响C;C通过B影响A;如果给定B,则A和C互不影响,这时称A和C关于B条件独立。注:所谓“影响”与箭头方向无关。ACB血糖胃酸饿条件独立断言是合理的2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法贝叶斯网络隐含着哪些条件独立断言?串行连接注:所谓“影响”与14分叉连接如果给定A,没有信息可经由A传递给A的子结点,即给定A时,A的子结点之间相互独立,称子结点B、C、…、F关于A条件独立。ACBF…2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法分叉连接ACBF…2008-2009学年第1学期5.1-5.15汇集连接多个原因(causes)有一个共同结果(effect)。对结果一无所知时,原因之间条件独立。当结果或其某个子孙已知,父结点之间就不再独立了。ACBF…eACBF…eHK2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法汇集连接ACBF…eACBF…eHK2008-2009学年第16汇集连接的解释A和B有共同的结果C;在有向图中,结点C称为冲突子(collider);不给定C时,A和B之间是相互独立的;给定C时,A和B之间就不再独立了。电池没电油箱空汽车发动不了ABCDavidPapineau于1985年发现了给定冲突子时父结点之间的因果联系。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法汇集连接的解释A和B有共同的结果C;电池没电油箱空汽车发动不17摘自http://www.cs.mcgill.ca/~mgendr12/COMP526/docs/lecture3.pdfHead-to-tailTail-to-tailHead-to-headXYZXYZY未知,路径不阻塞Y已知,路径被阻塞XZYXZYY未知,路径不阻塞Y已知,路径被阻塞Y未知,路径被阻塞Y已知,路径不阻塞ZXYZXY2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法摘自http://www.cs.mcgill.ca/~mge18定义:Vi
和Vj被Vb
阻塞ViVb3VjVb1Vb2证据集ε给定结点集ε,Vi和Vj的每个无向路经都有结点Vb,如果
Vb∈ε,且路径上两条弧都以Vb为尾;
Vb∈ε,且路径上一条弧以Vb
为尾,一条以Vb为头;
Vb及其后继都不属于ε,且路径上两条弧都以Vb为头。称Vi和Vj被Vb阻塞。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法定义:Vi和Vj被Vb阻塞ViVb3VjVb1Vb2证据19定义:一条路径的阻塞给定证据集ε,当上述任一条件满足时,Vb阻塞相应的那条路径。定义:D分离(Dependenceseparation)给定证据集ε,如果Vi和Vj之间的所有路径被阻塞,则结点集ε可以D分离Vi和Vj。定义:条件独立如果证据集ε可以D分离Vi和Vj,则Vi和Vj条件独立于证据集ε。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法定义:一条路径的阻塞给定证据集ε,当上述任一条件满足时,Vb20当Vi和Vj条件独立于证据集ε时,记为I(Vj,Vi|ε)或I(Vi,Vj|ε),且有P(Vi|Vj,ε)=P(Vi|ε)和P(Vj
|Vi,ε)=P(Vj|ε)2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法当Vi和Vj条件独立于证据集ε时,2008-2009学年第21D-分离的示例I(L,E|S)或I(L,E|~S)应用示例:P(L|E,S)=P(L|S)I(L,C|S)或I(L,C|~S)应用示例:P(L|C,~S)=P(L|~S)I(L,C,E|S)I(S,C)、I(~S,C)、I(S,~C)或I(~S,~C)应用示例:P(~S|C)=P(~S)SCLE×∵CPT不含P(E)2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法D-分离的示例I(L,E|S)或I(L,E|225.3.2贝叶斯网络的推理模式因果推理:已知父结点,计算子结点的条件概率例:给定S,计算P(E|S)。S称为推理的证据,E称为询问结点。SCLE已知:P(S)=0.4,P(C)=0.3,P(E|S,C)=0.9,P(E|S,~C)=0.3,P(E|~S,C)=0.5,P(E|~S,
~C)=0.1不完整的CPT2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法5.3.2贝叶斯网络的推理模式因果推理:已知父结点,计算23例(续)P(E|S)=P(E,C|S)+P(E,~C|S)P(E,C|S)=P(E,C,S)/P(S)=P(E|C,S)×P(C|S)×P(S)/P(S)=P(E|C,S)×P(C|S)=P(E|C,S)×P(C)P(E,~C|S)=P(E|~C,S)×P(~C)P(E|S)=P(E|C,S)×P(C)+P(E|~C,S)×P(~C)=0.48SCLE要点:利用条件概率性质3引入所有父结点,利用条件概率定义将父结点移到“|”右侧,利用条件独立简化公式,代入CPT中的值求解。条件概率性质3>>2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例(续)P(E|S)=P(E,C|S)+P(E,~C24条件概率性质3若B1B2=Φ,则P(B1∪B2|A)=P(B1|A)+P(B2|A)证明:P(B1∪B2|A)=P((B1∪B2)A)/P(A) =P(B1A∪B2A)/P(A) ={P(B1A)+P(B2A)}/P(A) =P(B1A)/P(A)+P(B2A)/P(A) =P(B1|A)+P(B2|A)条件概率定义事件运算分配率概率定义性质3条件概率定义2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法条件概率性质3若B1B2=Φ,则P(B1∪B2|A)=P(B25②诊断推理已知一个子结点,计算父结点的条件概率。例:计算P(~C|~E)。
SCLE要点:将诊断推理转化为因果推理。已知:P(S)=0.4,P(C)=0.3,P(E|S,C)=0.9,P(E|S,~C)=0.3,P(E|~S,C)=0.5,P(E|~S,~C)=0.12008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法②诊断推理已知一个子结点,计算父结点的条件概率。SCLE要点26例(续)P(~C|~E)=P(~E|~C)×P(~C)/P(~E)P(~E|~C)=P(~E,S|~C)+P(~E,~S|~C)
=
P(~E|S,~C)×P(S|~C)+P(~E|~S,~C)×P(~S|~C)=P(~E|S,~C)×P(S)+P(~E|~S,~C)×P(~S)=0.82∴P(~C|~E)=0.82×P(~C)/P(~E)=0.574/P(~E)同理,P(C|~E)=P(~E|C)×P(C)/P(~E)=0.102/P(~E)由P(~C|~E)+P(C|~E)=1,得P(~E)=0.676∴P(~C|~E)=0.849SCLE贝叶斯公式条件概率性质32008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例(续)P(~C|~E)=P(~E|~C)×P(~C)27③辩解推理已知的既有父结点又有子结点,询问其他父结点。例:计算P(~C|~E,~S)。SCLE2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法③辩解推理已知的既有父结点又有子结点,询问其他父结点。SCL28P(~C|~E,~S)=P(~E,~S|~C)×P(~C)/P(~E,~S)=P(~E|~S,~C)×P(~S|~C)×P(~C)/P(~E,~S)=P(~E|~S,~C)×P(~S)×P(~C)/P(~E,~S)=P(~E|~S,~C)×P(~S)×P(~C)/(P(~E|~S)×P(~S))=0.807SCLE要点:先用贝叶斯公式,把要询问的父结点移至“|”右侧;再利用条件概率定义将“|”左侧的父结点移至“|”右侧;条件独立随时可用于简化公式。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法P(~C|~E,~S)SCLE要点:先用贝叶斯公式,把要询29例(摘自/wiki/Bayesian_network)CPT如下:P(R)=0.2P(S|R)=0.01P(S|~R)=0.4P(G|S,R)=0.99P(G|~S,R)=0.8P(G|S,~R)=0.9P(G|~S,~R)=0.0求:P(R|G)SprinklerRainGrasswetSprinkler:洒水车洒水了Rain:下雨了Grasswet:草湿了2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例(摘自/wi30解:P(R|G)=P(G|R)P(R)/P(G)={P(G,S|R)+P(G,~S|R)}P(R)/P(G)={P(G|S,R)P(S|R)+P(G|~S,R)P(~S|R)}P(R)/P(G)={0.99×0.01+0.8×0.99}×0.2/P(G)=0.16038/P(G)P(G)=P(G,S,R)+P(G,~S,R)+P(G,S,~R)+P(G,~S,~R)=P(G|S,R)P(S|R)P(R)+P(G|~S,R)P(~S|R)P(R)+P(G|S,~R)P(S|~R)P(~R)
+P(G|~S,~R)P(~S|~R)P(~R)=0.99*0.01*0.2+0.8*0.99*0.2+0.9*0.4*0.8+0.0=0.44838∴P(R|G)=0.16038/0.44838=0.35769SRG诊断推理贝叶斯公式条件概率性质3概率定义性质32008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法解:P(R|G)SRG诊断推理贝叶斯公式条件概率性质3概率定31方法二:P(R|G)={P(G|S,R)P(S|R)+P(G|~S,R)P(~S|R)}P(R)/P(G)={0.99×0.01+0.8×0.99}×0.2/P(G)=0.16038/P(G)P(~R|G)={P(G|S,~R)P(S|~R)+P(G|~S,~R)P(~S|~R)}P(~R)/P(G)={0.9×0.4+0.0×0.6}×0.8/P(G)=0.288/P(G)由P(R|G)+P(~R|G)=1,得P(G)=0.44838∴P(R|G)=0.16038/0.44838=0.35769SRG2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法方法二:SRG2008-2009学年第1学期5.1-5.2节32作业5.152008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法作业5.152008-2009学年第1学期5.1-5.2节33第5.4节主观贝叶斯方法王庆江计算机科学与技术系qjwang@第5.4节主观贝叶斯方法王庆江34勘误P182页15行,LS表达式中缺少一个等号。P188页第2行,“(300*0.02+1)”应为“((300-1)*0.02+1)”。P203页图5.15,E1和E2,应分别为T1和T2。注:新印刷的可能已纠正。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法勘误P182页15行,LS表达式中缺少一个等号。注:新印刷的35主观贝叶斯方法1976年,R.O.Duda等提出;用于地矿勘测系统PROSPECTOR;仍断言因果关系网络蕴含条件独立;引入LS、LN两个因子,分别表示规则成立的充分性和必要性程度。而不是用P(xi|pai)表示连接强度,pai表示xi的父结点集。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法主观贝叶斯方法2008-2009学年第1学期5.1-5.2节36规则的不确定性规则:A→B由贝叶斯定理,A发生后B发生的概率为B不发生的概率为两式相除得2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法规则的不确定性规则:A→B2008-2009学年第1学期5.37充分性因子LS∵先验几率、后验几率分别定义为由
定义LS,使得LS2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法充分性因子LS∵先验几率、后验几率分别定义为LS2008-38LS的含义LS表示A真对B的影响程度。LS=∞时,P(~B|A)=0,P(B|A)=1。说明A对于B是逻辑充分的,即规则成立是充分的。∴LS称作充分似然率因子。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法LS的含义LS表示A真对B的影响程度。2008-2009学年39LS的含义(续)LS=1,O(B|A)=O(B),A对B无影响可推得P(B)=P(B|A),即B独立于A。LS>1,O(B|A)>O(B),A支持B可推得P(B)<P(B|A),即A发生提高了B发生的概率。LS<1,O(B|A)<O(B),A不支持B可推得P(B)>P(B|A),即A发生降低了B发生的概率。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法LS的含义(续)LS=1,O(B|A)=O(B),A40必要性因子LN规则:A→B由贝叶斯定理,A不发生时B发生的概率为B不发生的概率为两式相除得2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法必要性因子LN规则:A→B2008-2009学年第1学期5.41∵先验几率、后验几率分别为且
得必要似然率因子LN2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法∵先验几率、后验几率分别为必要似然率因子LN2008-2042LN的含义LN表示A假(即不存在)对B的影响程度。LN=0时,P(B|~A)=0。说明A对于B是逻辑必要的,即规则成立的必要性。∴LN称作必要似然率因子。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法LN的含义LN表示A假(即不存在)对B的影响程度。2008-43LN的含义(续)LN表示A不存在对B发生的影响度LN=1,O(B|~A)=O(B),~A对B无影响可推得P(B)=P(B|~A),即B独立于~A。LN>1,O(B|~A)>O(B),~A支持B可推得P(B)<P(B|~A)LN<1,O(B|~A)=O(B),~A不支持B可推得P(B)>P(B|~A)2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法LN的含义(续)LN表示A不存在对B发生的影响度2008-244LS、LN的关系LN≥0,LS≥0,且LN和LS彼此不独立。证明:∴理论上LS>1,LN<1;LS<1,LN>1;LS=LN=12008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法LS、LN的关系LN≥0,LS≥0,且LN和LS彼此不独立。45LS和LN的取值与证据的关系LS0A为真则B为假,即~A对B是必然的0<LS<<1A为真时对B不利1A为真时对B无影响1<<LSA为真时对B有利∞A为真时对B逻辑充分,即B必然为真LN0A为假则B为假,即A对B是必然的0<LN<<1A为假时对B不利1A为假时对B无影响1<<LNA为假时对B有利∞A为假时对B逻辑充分,即B必然为真2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法LS和LN的取值与证据的关系LS0A为真则B为假,即~A对46专家给出的LS和LN专家对证据的观察是重要的,而缺少证据是不重要的。∴LS>1且LN=1是合理的。这时,只能说贝叶斯定理是不适合的。LS、LN表明了先验几率到后验几率有多大的变化(这正好适合专家意见的表达)。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法专家给出的LS和LN专家对证据的观察是重要的,而缺少证据是不47指定LS、LN的示例例:“如果有石英矿,则必有钾矿带”。LS=300,LN=0.2。
这意味着:发现石英矿,对判断发现钾矿带非常有利。而没有发现石英矿,并不暗示一定没有钾矿带。如果LN<<1,则没有发现石英矿时,强烈暗示钾矿带不存在。例:“如果有玻璃褐铁矿,则有最佳矿产结构”。这里,LS=1000000,LN=0.01。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法指定LS、LN的示例例:“如果有石英矿,则必有钾矿带”。LS485.4.2证据的不确定性LS和LN可描述规则成立的充分性和必要性;证据或中间结论的不确定度仍用几率表示;由几率也可计算概率。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法5.4.2证据的不确定性LS和LN可描述规则成立的充分性49证据A必然出现或不出现,结论的后验几率怎么计算?根据规则的充分性或必然性因子求B的后验几率;O(B|A)=LS×O(B)O(B|~A)=LN×O(B)还可以进一步求得后验概率。
5.4.3主观贝叶斯的推理计算AB2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法证据A必然出现或不出现,结论的后验几率怎么计算?5.4.350P(A)≠1或0找出对A产生影响的肯定发生或肯定不发生的所有证据,组成集合A’。计算O(B|A’)。②A不确定,怎样计算B的后验几率呢?BAA1A2A‘2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法P(A)≠1或0②A不确定,怎样计算B的后验几率呢?BAA511976年Duda给出的计算方法P(B|A’)=P(B|A)×P(A|A’)+P(B|~A)×P(~A|A’)怎么解释呢?合理吗?给定A时,B独立于A’2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法1976年Duda给出的计算方法P(B|A’)=P(B|52P(B|A’)=P(B|A)×P(A|A’)+P(B|~A)×P(~A|A’)P(A|A’)=1时,则P(B|A’)=P(B|A)。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法P(B|A’)=P(B|A)×P(A|A’)+P(B53P(B|A’)=P(B|A)×P(A|A’)+P(B|~A)×P(~A|A’)P(A|A’)=0时,则P(B|A’)=P(B|~A)。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法P(B|A’)=P(B|A)×P(A|A’)+P(B54P(B|A’)=P(B|A)×P(A|A’)+P(B|~A)×P(~A|A’)P(A|A’)=P(A)时,则P(B|A’)=P(B)。A’对A无影响,对B也无影响。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法P(B|A’)=P(B|A)×P(A|A’)+P(B55A与A’存在上述特殊关系时,P(B|A’)的计算方法2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法A与A’存在上述特殊关系时,P(B|A’)的计算方法200856A与A’存在其他不确定关系时,P(B|A’)该怎样计算呢?线性插值P(A)P(A|A’)1P(B|~A)P(B)P(B|A)0P(A|A’)P(B|A’)2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法A与A’存在其他不确定关系时,P(B|A’)该怎样计算呢?线57Duda公式的使用当不知道证据A的不确定度时,从A向前看,找出B←A←A’中的A’;如果A’的不确定度未知,继续向前找。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法Duda公式的使用当不知道证据A的不确定度时,2008-2058证据的合成A’A1A2单独受A’影响时,A1和A2的发生概率。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法证据的合成A’A1A2单独受A’影响时,A1和A2的发生概率59证据组合聪明(A1)而且努力(A2),则考上大学(B)。已知O(A1)和O(A2),可计算O(B|A1)和O(B|A2),但怎样计算O(B|A1A2)?BA1A2两个规则同时激活,怎样计算结果的后验几率2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法证据组合聪明(A1)而且努力(A2),则考上大学(B)。BA60假设A1和A2相互独立,2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法假设A1和A2相互独立,2008-2009学年第1学期5.161主观贝叶斯推理需要知道什么?初始证据都是必然发生或必然不发生的;所有中间结论或最后结论的先验概率都是已知的;所有规则的LS和LN都是已知的。对于发生的初始证据,只需知道LS;对于没发生的初始证据,只需知道LN。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法主观贝叶斯推理需要知道什么?初始证据都是必然发生或必然不发生62例5.1:已知P(A)=1,P(B1)=0.04,P(B2)=0.02,
R1:A→B1,LS1=20,LN1=1;R2:B1→B2,LS2=300,LN2=0.001。计算P(B2|A)。解:O(B1)=0.04/(1﹣0.04)=0.0417O(B1|A)=LS1
×O(B1)=0.83P(B1|A)=0.83/(1﹢0.83)=0.454
当P(B1|A)=1时,P(B2|A)=LS2×P(B2)/((LS2–1)×P(B2)+1)=300×0.02/(299
×0.02+1)=0.860根据线性插值法,P(B1|A)>P(B1)时,有P(B2|A)=0.02+(0.860-0.02)×(0.454-0.04)/(1-0.04)=0.390参见图5.12的线性插值AB2B1R1R22008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例5.1:已知P(A)=1,P(B1)=0.04,P(B2)63例5.2:已知A1和A2必然发生,且P(B)=0.03,R1:A1→B,LS1=20,LN1=1,R2:A2→B,LS2=300,LN2=1,计算B的更新值。解法一:P(B)=0.03O(B)=P(B)/(1–P(B))=0.0309O(B|A1)=LS1
×O(B)=20×0.0309=0.619P(B|A1)=O(B|A1)/(1+O(B|A1))=0.382O(B|A1A2)=LS2
×O(B|A1)=185.565P(B|A1A2)=185.565/(1+185.565)=0.99464B
的概率由0.03更新为0.99464。B1A2A1R1R22008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例5.2:已知A1和A2必然发生,且P(B)=0.03,R164解法二:P(B)=0.03O(B)=P(B)/(1–P(B))=0.0309O(B|A1A2)=LS1
×LS2
×O(B|A1)=20×300×0.0309=185.4P(B|A1A2)=185.4/(1+185.4)=0.99464B的概率由0.03更新为0.99464。这里内在地假设:A1、A2相互独立。例5.2:已知A1和A2必然发生,且P(B)=0.03,R1:A1→B,LS1=20,LN1=1,R2:A2→B,LS2=300,LN2=1,计算B的更新值。B1A2A1R1R22008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法解法二:P(B)=0.03这里内在地假设:A1、A2相互65例5.3:已知A必然发生,且P(B1)=0.03,P(B2)=0.01,R1:A→B1,LS1=20,LN1=1;R2:B1→B2,LS2=300,LN2=0.0001,计算B2的更新值解:P(B1)=0.03;O(B1)=P(B1)/(1–P(B1))=0.0309O(B1|A)=LS1×O(B1)=20×0.0309=0.619P(B1|A)=O(B1|A)/(1+O(B1|A))=0.382∵P(B1|A)>P(B1),∴计算当P(B1|A)=1时的P(B2|B1)。P(B2|B1)=P(B2|A)=300×0.01/((300﹣1)×0.01+1)=0.75188用线性插值法,得P(B2|A)=P(B2)+(P(B2|B1)-P(B2))×(P(B1|A)-P(B1))/(1-P(B1))=0.3AB2B1R1R22008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例5.3:已知A必然发生,且P(B1)=0.03,P(B2)66主观贝叶斯方法的特点Duda公式蕴涵条件独立语义;给定A时,B独立于A’,故P(B|A’,A)=P(B|A);多因一果时,假设证据相互独立。但实际中,多因一果时,证据之间不相互独立;由概率可计算出规则的LS和LN,但概率往往难以准确获得,故一般由专家给出。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法主观贝叶斯方法的特点Duda公式蕴涵条件独立语义;2008-67思考题作业5.9(图5.15中的E1和E2,应分别为T1和T2)2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法思考题5.12008-2009学年第1学期5.1-5.2节68习题5.9S1、S2、S3都必然发生;P(F1|S1)=0.7P(F2|S2)=0.6P(T2|S3)=0.02P(F1)=0.2P(F2)=0.4P(T1)=0.1P(T2)=0.03P(H)=0.01求P(H|S1∩S2∩S3)HT1T2F1F20.010.0(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S32008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法习题5.9S1、S2、S3都必然发生;HT1T2F1F20.69H有直接证据T1和T2,但不确定发生;影响T1的确定发生的证据的集合A’为{S1,S2};影响T2的确定发生的证据的集合A’’为{S3};先求O(H|A’)和O(H|A’’),然后证据合成,得O(H|A’,A’’)。HT1T2F1F20.010.0(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S32008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法H有直接证据T1和T2,但不确定发生;HT1T2F1F20.70HT1T2F1F20.010.0(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3∵P(F1|S1)=0.7,P(F1)=0.2∴假设P(F1|S1)=1,计算根据插值法,有2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法HT1T2F1F20.010.0(30071HT1T2F1F20.010.0(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3∵P(F2|S2)=0.6,P(F2)=0.4∴假设P(F2|S2)=1,计算根据插值法,有2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法HT1T2F1F20.010.0(30072HT1T2F1F20.010.0(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3根据证据合成(见P187),及O(T1)=P(T1)/(1–P(T1))=0.1/(1–0.1)=0.11112008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法HT1T2F1F20.010.0(30073HT1T2F1F20.010.0(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3∵P(T1|S1,S2)>P(T1)∴假设P(T1|S1,S2)=1,计算根据插值法,有2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法HT1T2F1F20.010.0(30074HT1T2F1F20.010.0(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3∵P(T2|S3)<P(T2)∴假设P(T2|S3)=0,计算根据插值法,有2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法HT1T2F1F20.010.0(30075HT1T2F1F20.010.0(300,0.0001)(65,0.01)(100,0.00001)(2,0.000001)S2S1S3根据证据合成(见P187)2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法HT1T2F1F20.010.0(30076第5.3节贝叶斯网络王庆江计算机科学与技术系qjwang@第5.3节贝叶斯网络王庆江77勘误P173页关于图5.4的CPT有误。P175页倒数第3行,“对于S、L和E…”应为“对于S,L和E…”。P178页第1行,“具有以上3个属性之一”应为“同时具有以上3个属性”。P178页14行,“结点E阻塞了结点C和…”应为“结点S阻塞了结点C和…”。P178页16行,“而对于给定结点E、S和L之间…”应为“而对于给定结点E,S和L之间…”。P180页15行,“P(~S|C)”应为“P(~S|~C)”。注:新印刷的可能已纠正。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法勘误P173页关于图5.4的CPT有误。注:新印刷的可能已纠78贝叶斯网络(BayesianNetwork)有坚实的数学理论基础;采用概率形式的不确定性表示和推理;20世纪80年代,成功应用于专家系统。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法贝叶斯网络(BayesianNetwork)2008-20795.3.1贝叶斯网络的基本概念有向无环图DirectedAcyclicGraph,缩写DAG;可用于表示因果关系网。结点代表证据或结论,权代表证据或结论的不确定度;弧代表规则(即因果关系),权代表规则的不确定度。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法5.3.1贝叶斯网络的基本概念有向无环图2008-20080ConditionProbabilityTable,缩写CPT;对于所有父结点的每种指派,确定子结点的发生概率。例:CPT包括P(C|A,B),P(C|A,~B),P(C|~A,B),P(C|~A,~B)P(A),P(B)ABC条件概率表2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法ConditionProbabilityTable,缩写81贝叶斯网络的构造方法确定包含哪些结点;建立反映条件独立的有向无环图;指派局部概率分布,即CPT。如果CPT包含了足够的条件概率,可以计算出任何联合概率,则称此网络是可计算的(即可推理的)。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法贝叶斯网络的构造方法2008-2009学年第1学期5.1-582因果关系网的示例结点及其解释S(Smoker):该患者为吸烟者C(Coalminer):该患者是煤矿工人L(Lungcancer):他患了肺癌E(Emphysema):他患了肺气肿因果关系S可能导致L和EC可能导致E
。SCLE因果关系从哪里得来呢?2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法因果关系网的示例结点及其解释SCLE因果关系从哪里得来呢?283贝叶斯网络是结点间增加连接强度的因果关系网。连接强度用条件概率表示;例:P(B|A)为A到B的连接强度;例:P(B|AC)表示A、C对B的联合作用。CPT除了包含上述条件概率,还包括顶点(即无父结点的结点)的无条件概率(即先验概率)。贝叶斯网络=网络结构+CPT注:贝叶斯网络不允许包含循环因果关系!2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法贝叶斯网络是结点间增加连接强度的因果关系网。注:贝叶斯网络不84ACEBDGF贝叶斯网络的结构贝叶斯网络的完整CPTP(A)、P(C)、P(D)、P(B|ACD)、P(B|~A,C,D)、P(B|A,~C,D)、P(B|A,C,~D)、P(B|~A,~C,D)、P(B|~A,C,~D)、P(B|A,~C,~D)、P(B|~A,~C,~D)、P(E|B)、P(E|~B)、P(F|E)、P(F|~E)、
P(G|DEF)、P(G|~D,E,F)、P(G|D,~E,F)、P(G|D,E,~F)、
P(G|~D,~E,F)、P(G|~D,E,~F)、P(G|D,~E,~F)、P(G|~D,~E,~F)
一般,父结点发生或不发生的所有组合都要给出。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法ACEBDGF贝叶斯网络的结构贝叶斯网络的完整CPTP(A)85SCLE网络的结构不够完整的CPTP(S)=0.4P(C)=0.3P(E|S,C)=0.9P(E|S,~C)=0.3P(E|~S,C)=0.5P(E|~S,~C)=0.1P(L|S)=0.6P(L|~S)=0.5剩余的条件概率2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法SCLE网络的结构不够完整的CPTP(S)=0.4P(L|86条件独立有结点A、B和C,若P(A|BC)=P(A|B),则称A和C在B条件下独立、A在B条件下独立于C,或A和C关于B独立。所谓“关于B”,有时是给定B的不确定度,有时是完全不知道B的不确定度。“条件独立”是贝叶斯网络中隐含的断言(assertion)、假设(assumption),贝叶斯网络就是一个表示条件独立关系的图模型。实际中,若已知A在B条件下独立于C,则P(A|BC)=P(A|B)。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法条件独立有结点A、B和C,若P(A|BC)=P(A|B87事件独立与贝叶斯网络中的条件独立事件独立若P(AB)=P(A)P(B),则A与B相互独立。性质2:若A与B独立,且P(B)>0,则P(A|B)=P(A)。∵P(A|B)=P(AB)/P(B)=P(A)P(B)/P(B)独立和互斥不一会儿事!若AB=Φ,则A与B互斥,有P(A∪B)=P(A)+P(B)P(A)>0,P(B)>0,若AB=Φ,则P(AB)=0,A与B互斥但不相互独立;Ω与任何事件独立,但Ω与任何事件不互斥。贝叶斯网络中的条件独立若P(A|BC)=P(A|B),则A和C关于B条件独立。一个事件的概率与另一事件的概率没关系两个事件不可能同时发生给定某条件时,一个事件的概率与另一个事件的概率没关系2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法事件独立与贝叶斯网络中的条件独立事件独立一个事件的概率与另一88条件独立断言有什么用呢?例:P(S,C,L,E) =P(E|S,C,L)×P(L|S,C)×P(C|S)×P(S) =P(E|S,C)×P(L|S,C)×P(C|S)×P(S) =P(E|S,C)×P(L|S)×P(C|S)×P(S) =P(E|S,C)×P(L|S)×P(C)×P(S)联合概率公式不给定E,C独立于S给定S,L独立于C给定S,E独立于LCPT给出这些概率SCLE贝叶斯网络的结构2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法条件独立断言有什么用呢?例:P(S,C,L,E)联合概率公式89贝叶斯网络隐含着哪些条件独立断言?串行连接A通过B影响C;C通过B影响A;如果给定B,则A和C互不影响,这时称A和C关于B条件独立。注:所谓“影响”与箭头方向无关。ACB血糖胃酸饿条件独立断言是合理的2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法贝叶斯网络隐含着哪些条件独立断言?串行连接注:所谓“影响”与90分叉连接如果给定A,没有信息可经由A传递给A的子结点,即给定A时,A的子结点之间相互独立,称子结点B、C、…、F关于A条件独立。ACBF…2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法分叉连接ACBF…2008-2009学年第1学期5.1-5.91汇集连接多个原因(causes)有一个共同结果(effect)。对结果一无所知时,原因之间条件独立。当结果或其某个子孙已知,父结点之间就不再独立了。ACBF…eACBF…eHK2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法汇集连接ACBF…eACBF…eHK2008-2009学年第92汇集连接的解释A和B有共同的结果C;在有向图中,结点C称为冲突子(collider);不给定C时,A和B之间是相互独立的;给定C时,A和B之间就不再独立了。电池没电油箱空汽车发动不了ABCDavidPapineau于1985年发现了给定冲突子时父结点之间的因果联系。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法汇集连接的解释A和B有共同的结果C;电池没电油箱空汽车发动不93摘自http://www.cs.mcgill.ca/~mgendr12/COMP526/docs/lecture3.pdfHead-to-tailTail-to-tailHead-to-headXYZXYZY未知,路径不阻塞Y已知,路径被阻塞XZYXZYY未知,路径不阻塞Y已知,路径被阻塞Y未知,路径被阻塞Y已知,路径不阻塞ZXYZXY2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法摘自http://www.cs.mcgill.ca/~mge94定义:Vi
和Vj被Vb
阻塞ViVb3VjVb1Vb2证据集ε给定结点集ε,Vi和Vj的每个无向路经都有结点Vb,如果
Vb∈ε,且路径上两条弧都以Vb为尾;
Vb∈ε,且路径上一条弧以Vb
为尾,一条以Vb为头;
Vb及其后继都不属于ε,且路径上两条弧都以Vb为头。称Vi和Vj被Vb阻塞。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法定义:Vi和Vj被Vb阻塞ViVb3VjVb1Vb2证据95定义:一条路径的阻塞给定证据集ε,当上述任一条件满足时,Vb阻塞相应的那条路径。定义:D分离(Dependenceseparation)给定证据集ε,如果Vi和Vj之间的所有路径被阻塞,则结点集ε可以D分离Vi和Vj。定义:条件独立如果证据集ε可以D分离Vi和Vj,则Vi和Vj条件独立于证据集ε。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法定义:一条路径的阻塞给定证据集ε,当上述任一条件满足时,Vb96当Vi和Vj条件独立于证据集ε时,记为I(Vj,Vi|ε)或I(Vi,Vj|ε),且有P(Vi|Vj,ε)=P(Vi|ε)和P(Vj
|Vi,ε)=P(Vj|ε)2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法当Vi和Vj条件独立于证据集ε时,2008-2009学年第97D-分离的示例I(L,E|S)或I(L,E|~S)应用示例:P(L|E,S)=P(L|S)I(L,C|S)或I(L,C|~S)应用示例:P(L|C,~S)=P(L|~S)I(L,C,E|S)I(S,C)、I(~S,C)、I(S,~C)或I(~S,~C)应用示例:P(~S|C)=P(~S)SCLE×∵CPT不含P(E)2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法D-分离的示例I(L,E|S)或I(L,E|985.3.2贝叶斯网络的推理模式因果推理:已知父结点,计算子结点的条件概率例:给定S,计算P(E|S)。S称为推理的证据,E称为询问结点。SCLE已知:P(S)=0.4,P(C)=0.3,P(E|S,C)=0.9,P(E|S,~C)=0.3,P(E|~S,C)=0.5,P(E|~S,
~C)=0.1不完整的CPT2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法5.3.2贝叶斯网络的推理模式因果推理:已知父结点,计算99例(续)P(E|S)=P(E,C|S)+P(E,~C|S)P(E,C|S)=P(E,C,S)/P(S)=P(E|C,S)×P(C|S)×P(S)/P(S)=P(E|C,S)×P(C|S)=P(E|C,S)×P(C)P(E,~C|S)=P(E|~C,S)×P(~C)P(E|S)=P(E|C,S)×P(C)+P(E|~C,S)×P(~C)=0.48SCLE要点:利用条件概率性质3引入所有父结点,利用条件概率定义将父结点移到“|”右侧,利用条件独立简化公式,代入CPT中的值求解。条件概率性质3>>2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例(续)P(E|S)=P(E,C|S)+P(E,~C100条件概率性质3若B1B2=Φ,则P(B1∪B2|A)=P(B1|A)+P(B2|A)证明:P(B1∪B2|A)=P((B1∪B2)A)/P(A) =P(B1A∪B2A)/P(A) ={P(B1A)+P(B2A)}/P(A) =P(B1A)/P(A)+P(B2A)/P(A) =P(B1|A)+P(B2|A)条件概率定义事件运算分配率概率定义性质3条件概率定义2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法条件概率性质3若B1B2=Φ,则P(B1∪B2|A)=P(B101②诊断推理已知一个子结点,计算父结点的条件概率。例:计算P(~C|~E)。
SCLE要点:将诊断推理转化为因果推理。已知:P(S)=0.4,P(C)=0.3,P(E|S,C)=0.9,P(E|S,~C)=0.3,P(E|~S,C)=0.5,P(E|~S,~C)=0.12008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法②诊断推理已知一个子结点,计算父结点的条件概率。SCLE要点102例(续)P(~C|~E)=P(~E|~C)×P(~C)/P(~E)P(~E|~C)=P(~E,S|~C)+P(~E,~S|~C)
=
P(~E|S,~C)×P(S|~C)+P(~E|~S,~C)×P(~S|~C)=P(~E|S,~C)×P(S)+P(~E|~S,~C)×P(~S)=0.82∴P(~C|~E)=0.82×P(~C)/P(~E)=0.574/P(~E)同理,P(C|~E)=P(~E|C)×P(C)/P(~E)=0.102/P(~E)由P(~C|~E)+P(C|~E)=1,得P(~E)=0.676∴P(~C|~E)=0.849SCLE贝叶斯公式条件概率性质32008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例(续)P(~C|~E)=P(~E|~C)×P(~C)103③辩解推理已知的既有父结点又有子结点,询问其他父结点。例:计算P(~C|~E,~S)。SCLE2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法③辩解推理已知的既有父结点又有子结点,询问其他父结点。SCL104P(~C|~E,~S)=P(~E,~S|~C)×P(~C)/P(~E,~S)=P(~E|~S,~C)×P(~S|~C)×P(~C)/P(~E,~S)=P(~E|~S,~C)×P(~S)×P(~C)/P(~E,~S)=P(~E|~S,~C)×P(~S)×P(~C)/(P(~E|~S)×P(~S))=0.807SCLE要点:先用贝叶斯公式,把要询问的父结点移至“|”右侧;再利用条件概率定义将“|”左侧的父结点移至“|”右侧;条件独立随时可用于简化公式。2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法P(~C|~E,~S)SCLE要点:先用贝叶斯公式,把要询105例(摘自/wiki/Bayesian_network)CPT如下:P(R)=0.2P(S|R)=0.01P(S|~R)=0.4P(G|S,R)=0.99P(G|~S,R)=0.8P(G|S,~R)=0.9P(G|~S,~R)=0.0求:P(R|G)SprinklerRainGrasswetSprinkler:洒水车洒水了Rain:下雨了Grasswet:草湿了2008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法例(摘自/wi106解:P(R|G)=P(G|R)P(R)/P(G)={P(G,S|R)+P(G,~S|R)}P(R)/P(G)={P(G|S,R)P(S|R)+P(G|~S,R)P(~S|R)}P(R)/P(G)={0.99×0.01+0.8×0.99}×0.2/P(G)=0.16038/P(G)P(G)=P(G,S,R)+P(G,~S,R)+P(G,S,~R)+P(G,~S,~R)=P(G|S,R)P(S|R)P(R)+P(G|~S,R)P(~S|R)P(R)+P(G|S,~R)P(S|~R)P(~R)
+P(G|~S,~R)P(~S|~R)P(~R)=0.99*0.01*0.2+0.8*0.99*0.2+0.9*0.4*0.8+0.0=0.44838∴P(R|G)=0.16038/0.44838=0.35769SRG诊断推理贝叶斯公式条件概率性质3概率定义性质32008-2009学年第1学期5.1-5.2节贝叶斯网络和主观贝叶斯方法解:P(R|G)SRG诊断推理贝叶斯公式条件概率性质3概率定107方法二:P(R|G)={P(G|S,R)P(S|R)+P(G|~S,R)P(~S|R)}P(R)/P(G)={0.99×0.01+0.8×0.99}×0.2/P(G)=0.16038/P(G)P(~R|G)={P(G|S,~R)P(S|~R)+P(G|~S,~R)P(~S|~R)}P(~R)/P(G)={0.9×0.4+0.0×0.6}×
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
评论
0/150
提交评论