不精确推理技术

1、不确定推理技术不确定性v 不确定性(uncerbinly)是智能问题的本质特征，无论是人类智能还是人工智能，都离不开不确定性的处理。v可以说，智能主要反映在求解不确定性问题的能力上。因此，不确定推理模型是人工智能与专家系统的一个核心研究课题。v不确定性通常表现在证据、规则和推理三个方面证据的不确定性v歧义性（在知识获取阶段要避免）v不完全性v不精确性v模糊性v可信性v随机性规则的不确定性v构成前提条件的模式的不确定性v观察证据的不确定性v组合证据的不确定性v规则自身的不确定性v规则结论的不确定性v搜索策略带来的不确定性推理的不确定性v推理过程中要进行不确定性的动态积累和传播的计算，得出结果的不

2、确定性v不确定推理网络可以分解为三种基本模式推理的不确定性v证据逻辑组合模式F证据的合取：求e1e2 en的不确定度： MU=f(MU1,MU2,MUn)F证据的析取：求e1e2 en的不确定度： MU=g(MU1,MU2,MUn)F证据的否定：求ei的不确定度：MU=nMU(MUi)推理的不确定性v并行规则模式： if ei then h, i=1,n 所有规则都满时h 的不确定度：MU=pMU(MU1,MU2,MUn)v顺序规则模式： if e then e; MU0 if e then h; Mu1 求：if e then h 的不确定度 MU=s(MU0,MU1)推理的不确定性v一旦给

3、定上述三种组合模式不确定性的计算方法，即可从观察证据出发得到结论的不确定度v不确定性推理模型就是证据和规则的不确定性测度方法和组合计算模式主观Bayes方法v 不确定性与概率有许多内在的联系，可将概率理论用作一种不确定性的处理工具v 现实世界中的不确定性是非常丰富的，要使用概率来描述专家系统中的不确定性，必须将概率的含义加以拓展v专家系统中，概率一般解释为专家对证据和规则的主观信任度（注意：这里不采取先验概率是上帝结定的、不可知的，只能逐步逼近的观点），对概率推理起着支撑作用的是Bayes定理主观Bayes方法v 1976年Duda等人在开发PROSPECTOR的过程中，针对专家系统推理网络的

4、特点，对主观Bayes 法做了重要的改进。该方法及其变种在专家系统领域中得到了广泛的应用v 在专家系统的概率推理模型中证据e的不确定性为e发生的概率P(e)；产生式规则 “if e then h” 的不确定性通常解释为在事件e(证据)已经发生的情况下，事件h(假设)发生的概率P(h|e)主观Bayes方法v 贝叶斯方法用于专家系统不确定推理的一个原始条件是： 领域专家或知识工程师对每个命题(包括初始证据e及中间假设h)的先验概率P(e)和P(h)已经预先赋值，同时，对于每一假设h及其相关证据e已经给出h成立时，e出现的条件概率P(eI h)v 如果只使用一条规则进行一步推理，则使用如下最简形式

5、的贝叶斯公式便可以从假设h的先验概率P(h)推得h的后验概率： )()()|()|(hphphepehp主观Bayes方法v Bayes推理过程实质上就是从证据出发，将每一步推理得到的结论的先验概率修改为条件概率的过程v主观Bayes方法的两个基本假设：1若一组证据e1，e2，en同时支持假设h则 对于h，h；证据之间相互独立2当一个证据e支持多个假设h1,h2,，hn时，假设 hl,h2,hn之间互不相容主观Bayes方法v 主观Bayes方法的基本定理： 1)()(hphpiiehp1)|(iiiepehphp)()|()()()|(.).&|().&|().&(1

6、322121nnnnnnhphhphhhphhhphhhp主观Bayes方法v 基于上述假设，我们可以得出主观贝叶斯方法的证据逻辑组合规则、并行法则和顺序法则的不确定性计算模式v证据逻辑组合定理： 设证据e1，e2，en相互独立，则：主观Bayes方法v 顺序法则定理： 设e支持e,e支持h，且e，h相对于e，e相 互独立,即: P(eh|e)=P(e|e)P(h|e) P(eh|e)=P(e|e)P(h|e) 则： P(h|e)=P(h|e)P(e|e)+P(h|e)P(e|e)主观Bayes方法v 若领域专家对证据和假设的赋值按先验概率P(e)、P(h)和条件概率P(e|h)给出，则在运用

7、关于并行规则和顺序规则的计算模式前，需要计算P(e|h)、P(h|e)和P(h|e)，它们可由如下公式得到:主观Bayes方法v 几率（似然比）：v 条件几率：v几率修正（充分性）因子：v有：主观Bayes方法v 从条件几率得到条件概率： )|(1)|()|(EHOEHOEHP主观Bayes方法v必要性因子：还可以用LN(G|H)表示LS(G|H)，得到：v约束条件：vLS,LN0vLN1,则LS1, 反之亦然v若LS=1，则LN=1，反之亦然v满足约束的前提下，LS、LN可以任意给定1.通过给定O(),LS,LN，则可以进行较方便的贝叶斯推理主观Bayes方法v LS和LN只用其一即可进行推

8、理，在证据独立的前提下，同时使用较为方便，有如下定理： 主观Bayes方法v 例子：PROSPECTOR的推理模型v Duda等人关于PROSPECTOR的工作的指导思想是：以简单、实用、有效为目的，用经验性模型改进严格的贝叶斯理论在专家系统中的应用v规则的不确定测度(或称规则强度)并没有采用原始条件概率来加以刻划，而是让领域专家为每条规则提供两个量度，分别称为规则的充分性量度和必要性量度。vPROSPECTOR不确定推理过程，就是根据证据e的先验概率P(e)，利用规则的充分性量度和必要性量度，把假设h的先验概率P(h)更新为后验概率 P(h|e)和P(h|e)的过程PROSPECTOR的推理

9、模型v LS和LN的意义： (1)LS1，LNl，这时P(hIe)P(h)P(h|e)， 说明证据e的存在增加了对h的信任度，而e不存 在则减少对h的信任度 (2)LSLN1，这时P(h|e)P(h)P(hIe)，说明 e的存在与否对假设h不产生影响。 (3)LS1，LNl，这时P(hIe)P(h)P(h|e)，说明e的存在减少了对h的主观信任度，而e不存在则增加h的信任度PROSPECTOR的推理模型v 证据逻辑组合规则：v 并行法则：同主观贝叶斯法则v顺序法则：采用线性插值法 PROSPECTOR的推理模型v 计算公式：PROSPECTOR的推理模型v 由顺序法则的分段插值公式可以看出，在

10、运用它时必须知道P(ele)的大小关系。设e是原始证据，e表示用户的观察。在许多情况下、要求用户确切地给出P(e|e)的值是不现实的，但是，给出P(eIe)与P(e)的相对关系还是有可能的 PROSPECTOR的推理模型v通过人机交互赋值的方法：由用户给出证据信任度C(e|e)，-55的十一个整数值，正整数时肯定证据的出现，数越大肯定的程度越大，若C(eIe)5，则证据绝对肯定；负整数时，否定证据的出现负得越多否定的程度越多，若C(eIe)-5，则证据绝对被否定，即P(eIe)0;C(eIe)0，表示“无可奉告”，不改变证据的先验概率，即P(e|e)P(e)PROSPECTOR的推理模型v 计

11、算公式（CP公式）：PROSPECTOR的推理模型vBayes方法的局限性： I由于概率赋值的主观性，领域专家所给的概率值很难保证 一致。如可能会出现P(AIB)P(B)不等于P(BIA)P(A)的情况2使用贝叶斯定理的一个基本条件是所有假设不相交。在大 型专家系统中，将解空间严格地分解为不相容的子集通常 是不现实的。3不确定证据公式和并行规则模式中引入的条件独立性假设 很难严格满足4通过增加或删除一个假设或规则来对系统进行维护、求精 时，须计算所有事件发生的概率才能保证系统纳协调一 致PROSPECTOR的推理模型vPROSCETOR的局限性： 1、PROSPECTOR系统对假设主观信任度的

12、赋值采用概率，但是证据组合公式和插值公式并不符合概率的基本性质，因而难以采用严格的概率论对PROPECTOR的推理结论给出评价。 2、采用概率作为不确定性测度时，一个最难解决的问题是要保证专家对假设的先验概率和规则强度的赋值保持一致插值方法，仍然没有彻底解决这一问题。3同主观贝叶斯方法一样，PROSPECTOR系统的并行法则和顺序法则都引入了相应的独立性条件，这些条件在实际运用中很难得到满足。证据理论模型vD-S证据理论是由Dempster和Shafer建立的一套数学理论，它是概率论的进一步扩充。v证据理论可以处理由不知道所引起的不确定性，采用信任函数而不是概率作为不确定性度量。通过对一些事件

13、的概率加以约束来建立信任函数，而不必说明精确的难以获得的概率。v在证据推理中，由于mass函数在构造信任函数和似然函数时有着重要的作用，因此最关键的是mass函数的计算与合成。 证据理论模型v定义定义: mass函数： 设U为一有限集，U中的元素是互斥的，在U的幂集上定义一基本概率分配（BPA，Basic Probability Assignment）函数： ，满足： ， 如对于 ，有 ，则称为m的焦点元素或核元素，而称 为m的核.1 , 02:Um 0m1UAAmUA 0Am ACAm0证据理论模型vmass函数是专家给出的一种评价，是凭经验给出的一种主观判断，表示了在当前证据下对假设成立的

14、一种信任程度。vmass函数与通常的概率分布函数有很大的差别，它的基本概率分配是定义在U的幂集上的，是从U的幂集到0，1的映射，因而其方法不同于Bayes方法。v基本概率分配满足以下公理： 证据理论模型（1）（2）（3） v基本概率分配是松散的，因为：（1） 可以不等于1（2） 并不意味着 （3） 与 之间没有约束关系 0m 1UAAm 0AmUA2 UmBA BmAm AmcAm证据理论模型v定义定义:信任函数：设U为有限集，称 为信任函数，如果满足以下条件：(1) ， (2)对于U中的任意子集 ，有v 1 , 02:UBel 0Bel 1UBelnAAA,21InIiIiIiniABelA

15、Bel, 2, 1111证据理论模型v信任函数和似然函数： ADDmAPl ADDmABel证据理论模型v信任函数和似然函数分别作为对假设信任程度的下限估计（悲观估计）和上限估计（乐观估计），并有关系： v可以用区间 来描述A的不确定性，下面对该区间的特殊值进行语义解释：（1） ，表示A为真（2） ，表示A为假（3） ，表示对A一无所知。1)()(0APlABel)(),(APlABel 1 , 0)(),(APlABel0 , 0)(),(APlABel 1 , 1)(),(APlABel证据理论模型v在证据理论中，证据信息是以给定基本概率分配的形式给出的。v为了同时利用来自两个（或多个）相

16、互独立的不同信息源的两组证据，提高对事件判断的可靠度，Dempster-Shafer组合公式提供对独立的信息源所提供的证据的融合能力。v该规则是一种多信息体的组合法则，它定义了一个新的基本概率分配函数 21mm 证据理论模型vDempste-Shafer合成公式：设m1和m2为U上的两个mass函数，则对及 为mass函数。其中： 0mAFEFmEmKAm)()(11)(21A1)()(21FEFmEmKFEFEFmEmFmEm0)()()()(12121证据理论模型v该定理可以扩展至多个mass函数的情形，并满足交换率和结合率 vDempste-Shafer合成公式有三种可能的情形：（1）0k1，意味着两组证