AI-05-6不确定性推理概述人工智能课程浙江大学研究生

1、第六章 不确定性推理概述徐从富浙江大学人工智能研究所2002年8月第一稿2005年9月修改主要参考考文献：1王王永庆庆.人工智智能原理理与方法法. 西安安交通大大学出版版社,1998.pp156-252.(偏重基本概念念)2张文修, 梁怡怡.不确定定性推理理原理. 西安安交通大大学出版版社,1996.（偏重数学原理理）3陆陆汝钤钤.人工智智能（下册）. 科学学出版社社,2000.pp1133-1170.（偏重Bayes概率推理理、可信信度、模模糊推理理）4史忠植.知识发发现. 清华华大学出出版社, 2002.pp24-26,pp141-202.（偏重Roughset和贝叶斯斯网络）5Mitch

2、ell, T. M.著,曾曾华军等等译.机器学学习. 机械械工业出出版社, 2003.pp112-143.（偏重贝叶斯学学习）6Russell,S., Norvig,P.Artificial Intelligence:AModernApproach.人民邮电电出版社社,2002.pp413-522.（偏重贝叶斯网网络及其其应用）6.1造造成知知识不精精确性的的主要原原因在人类的的知识和和思维行行为中，精确性性只是相相对的，不精确确性才是是绝对的的。这是是客观现现实的必必然要求求，主要要原因有有：（1）很很多原因因导致同同一结果果。如医学上上导致低低烧的病病因就很很多，医医生只能能作出猜猜测性判

3、判断。（2）信信息的不不完备性性。如战场态态势估计计、股市市波动预预测等。（3）背背景知识识的不充充分性。如人类目目前对癌癌症机理理还不了了解。（4）信信息描述述的模糊糊性。如报警者者说：“凶手是是高个子子青年，三角眼眼、鹰钩钩鼻、山山羊胡。”征婚婚广告：“觅年年青貌美美、温柔柔体贴、家境富富裕者”。（5）信信息中含含有噪声声。如为了逃逃税，有有些公司司做假帐帐。军事事上的雷雷达、无无线通信信、声纳纳等都会会掺进噪噪声。（6）推推理规则则的模糊糊性。如“若物物价上涨涨过快，就要紧紧缩信贷贷”等模模糊规则则。（7）推推理能力力的局限限性。如天气预预报，气气象专家家只能满满足于时时间不太太长、精精

4、度尽可可能好的的预测算算法。（8）解解题方案案的不唯唯一性。无论是政政治、经经济、文文化，还还是军事事领域中中的很多多问题，一般都都有多种种可选方方案，在在无法绝绝对地判判断各方方案优劣劣的情况况下，只只好选择择主观上上认为相相对较优优的方案案，这又又是一种种不精确确推理。6.2不不确定定性推理理的基本本概念1、推理理：就是从已已知事实实出发，通过运运用相关关知识逐逐步推出出结论，或证明明某个假假设成立立或不成成立的思思维过程程。2、推理理的两个个基本要要素（1）已已知事实实（又称称证据）：用以指指出推理理的出发发点及推推理时应应该使用用的知识识。（2）知知识：是推理理得以向向前推进进，并逐逐

5、步达到到最终目目标的依依据。3、精确确性推理理的局限限性若用精确确性推理理方法（即经典典逻辑）处理不不确定性性知识，则势必必产生如如下问题题：把客观事事物原本本具有的的不确定性性及事物之之间客观观存在的的不确定性性关系化归为确确定性的的，在本来来不存在在明确类类属界限限的事物物间人为地划划定界限限，这无疑疑会舍弃事事物的某某些重要要属性，从而失去了真真实性。因此，对对不确定定性知识识的表示示及其推推理方法法的研究究，将使计算机机对人类类思维的的模拟更更接近于于人类的的真实思思维过程程。4、不确确定性推推理的定定义不确定性性推理（也称不精确性性推理），就是是从不确确定性的的初始证证据（即即已知事

6、事实）出出发，通通过运用用不确定定性的知知识，最最终推出具有有一定程程度的不不确定性性但却是是合理或或近乎合合理的结结论的思维过过程。5、不确确定性推推理的根根本目的的根据用户户提供的的初始证证据，通通过运用用不确定定性知识识，最终终推出不不确定性性的结论论，并推推算出结结论的不不确定性性程度。6.3不不确定定性推理理中的基基本问题题除了必须须解决经经典推理理方法中中同样存存在的推推理方向向、推理理方法、控制策策略等基基本问题题外，一一般还需需要着重重解决不确定性性的表示示与度量量、不确确定性匹匹配、不不确定性性的传递递算法，以及不不确定性性的合成成等问题。1、不确确定性的的表示与与度量不确定

7、性性推理中中的“不不确定性性”的分分类：（1）知知识的不不确定性性（2）证证据的不不确定性性选择不确确定性表表示方法法时应考考虑的因因素：（1）根根据领域域问题的的特征将其不确确定性比比较准确确地描述述出来，以满足足问题求求解的需需要；（2）便便于推理理过程中中对不确定定性的推推算。静态强度度：表示相应应知识的的不确定定性程度度的某个个数值。它可以以是相应应知识在在应用中中成功的的概率，也可以以是该条条知识的的可信程程度等，其值范范围因其其意义与与使用方方法的不不同而不不同。动态强度度：表示相应应证据的的不确定定性程度度的数值值。初始证证据的动动态强度度由用户户给出；推理过过程中所所得到的的中

8、间结结论（或或中间结结果）的的动态强强度由不不确定性性传递算算法计算算得到。不确定性性的度量量：对于不不同的知知识及不不同的证证据，其其不确定定性的程程度一般般是不相相同的，需要用用不同的数数据表示其不不确定性性程度，还需事事先规定定其取值范围围，只有这这样每个个数据才才会有确确定的意意义。例例如，在在专家系系统MYCIN中，（1）可可信度：表示知知识及证证据的不不确定性性；（2）取取值范围围：-1,1；（3）当当可信度度0时时，其值值越大表表示相应应的知识识或证据据越接近近于“真真”；（4）当当可信度度-1时，测测度g是模糊测测度。定理6.2当当-1时，测测度g具有如下下性质：定义6.3（概

9、率测度度）称P：(X）0，1为概率测测度，若若满足：（1）有有界性：P(X) =1（2）可加性：AB=时，P(AB)= P(A)+P(B)【注】：可证明明概率测度度是0时模糊测度度。定义6.4(条件概率率)如如果P是X上的概率率测度，EX，且P(E)0，称为给定条条件E下，事件件A发生的条条件概率率。对于条件件概率显然然有如下下联合概率率公式：若A1, A2, .,An为X中的n个事件，可得若A,B两个事件件满足P(A|B)=P(A)，即A发生的可可能性与与B无关，称称A,B是相互独立立的。这时时有若n个事件A1, A2, .,An相互独立立，则在实际问问题中，独立性性是一个个非常重重要的概概

10、念，它它可以大大大简化化概率计计算。但但是独立立性的条条件有时时显得太太强，需需要有某某种条件独立立性。定义6.5(马氏条件件独立性性)若若A1, A2, .,An是按时间间顺序发发生的一一系列事事件，而且具有有如下特特性：未未来某一一事件Ak+1发生的可可能性只只依赖于于当前时时刻的事事件Ak，而与过去去发生的的事件无无关，即即这时称n个事件具具有马氏氏（Markov）独立性。对n个满足马马氏独立立性条件件的事件件满足定义6.6（全概率公公式）设Hi(i 0 。【注】：与不协协调度相相似，当当m是概率分分布时，混淆度度即为不不确定度度（香农农信息熵熵）。3、信息息量一个概念念是内涵涵与外延延

11、的统一一体。内内涵的多多少表示示了信息息量的大大小，但但是内涵涵一般是是无法度度量的。由于内内涵与外外延是某某种相反反关系，我们可可用外延补补集作为为信息，用外延延补集的的测度作作为信息息量。于是就就得到如如下信息息量的概概念。定义6.19(信息量)设设X是有限集集，包含含n个元素。P是X上的概率率分布，称是X,P的信息量量。其中中，信息量I具有如下下性质：（1）0 =I(X) = 1-1/n；（2）I(X) =1 1/n当且仅当当P(x) =1/n (x属于X）；（3）I(x)=0当且仅当当存在x0属于X，使P(x0)=1；（4）I(x) =P(x)(1 P(x)是P(x)的连续函函数。各种

12、信息息量之间间有如下下关系：(1)I(X) =I(XY)+ I(X-Y)(2)I(Y)= I(XY)+ I(Y-X)(3)I(XY)= I(X)+I(Y-X)=I(Y) +I(X-Y)= I(X)+I(Y) I(XY)(4)I(XY)=I(X) I(Y)在不确定定性推理理过程中中，经常常遇到两两类问题题：(1)匹配（检检索）问问题，需需要相似度的概念；(2)推推理规规则的条条件与结结论之间间的蕴涵涵关系，就需要要蕴涵度的概念。经研究发发现，相相似度与与蕴涵度度的共性性即为包含度。【注】：本课件件只简要要介绍上上述三个个概念的的定义，有关包包含度理理论的详详细论述述请参见见张文修修、梁怡怡不确确

13、定性推推理原理理，西西安交通通大学出出版社，1996。4、包含含度设X是一个普普通集合合，(X)表示X中所有子子集的全全体，(X)表示X中模糊集集合的全全体。定义6.19(包含度)：设0(X)(X)，对A,B0(X)有数D(B/A)对应，且且满足：(1)0=D(B/A) = 1(2)对A,B0(X),AB时，有D(B/A)= 1(3)对A,B,C0(X),ABC时，有D(A/C)D(A/B)称D为0(X)上的包含度。【注】：关于强强包含度度、弱包包含度定定义请详见张张文修不确定定性推理理原理。BACX包含度的的常用计计算方法法是：设设X是有限集集合，A,B X, |A|,|AB|分别表示示集合

14、A,A B的模（即即元素个个数），则B对A的包含度度为：D(B/A)=|AB|/ |A|当A为空集时时，记D(B/A)=1。【说明】：包含含度的生生成方法法请参见见张文修修不确确定性推推理原理理pp65-76，该书中给给出如下下主要生生成方法法：（1）利利用模糊糊关系生生成包含含度；（2）利利用模糊糊概率生生成包含含度；（3）利利用模糊糊测度生生成包含含度；（4）利利用条件件模糊测测度生成成包含度度；（5）利利用条件件信息生生成包含含度；（6）利利用对偶偶合成生生成包含含度。5、相似似度定义6.20(相似度)：设0(X)(X)，对A,B0(X)有数S(B/A)对应，且且满足：(1)0=S(B,A) = 1, S(A,A) =1(2)S(A,B)=S (B,A)(3)当ABC时，有S(A/C)S(A/B)称S为0(X)上的相似度。若修改（1）为为（1)0 =S(B,A) Q