不确定性推理方法概率基础

1、不确定性推理方法概率基础第1页，共39页，2022年，5月20日，0点50分，星期日第3章作业的部分问题（续）只能置换变量，不可置换常量、函数求合一的步骤见P104 - P105例：P(g(f(v), g(u) 和 P(x, x)归结法步骤：声明谓词的含义； 写出谓词公式（别忘了量词）， 按结论的否定写出谓词公式； 将各公式的子句集求出； 归结，得到；说明按归结原理，原题得证 。注：参与归结的都是子句，不可出现包含的句子。注：第3章作业的部分参考答案已放在 1=g(f(v)/xP(g(f(v) , g(f(v) 2=g(f(v)/x, f(v)/uu/f(v) 第2页，共39页，2022年，5

2、月20日，0点50分，星期日5 不确定性推理方法背景推理基于知识，而知识库包含大量模糊、随机、不可靠的知识。必须采用非精确推理(即不确定性推理)。AI的核心研究课题。第3页，共39页，2022年，5月20日，0点50分，星期日不确定性推理的发展史概率论是不确定性推理的理论基础之一。80年代，贝叶斯网络成功应用于专家系统。75年，Shortliff等提出了确定性推理方法(医疗诊断系统MYCIN)。 76年，DURA等提出了主观贝叶斯方法(地矿勘探系统PROSPECTOR)。76年，Dempster和Shafer提出了证据理论(D-S理论, 又称广义概率论)。83年， Zadeh等提出了模糊逻辑。

3、第4页，共39页，2022年，5月20日，0点50分，星期日不确定性推理中的术语解释规则前件后件(产生式系统中)规则证据结论(不确定性推理中)规则新证据结论第5页，共39页，2022年，5月20日，0点50分，星期日5.1.1 不确定性的普遍存在证据有不确定性，如事实描述有歧义、不精确、不肯定。证据可以是初始证据新证据第6页，共39页，2022年，5月20日，0点50分，星期日5.1.1 不确定性的普遍存在(续)规则是启发类(Heuristic)知识，描述由已有知识可推得哪些新知识。规则有不确定性。规则自身证据组合结论A1A2ANDBAB第7页，共39页，2022年，5月20日，0点50分，星

4、期日5.1.1 不确定性的普遍存在(续)推理过程的不确定性知识不确定性的动态积累和传播的过程。第8页，共39页，2022年，5月20日，0点50分，星期日5.1.2 基本问题(1)不确定性如何表示？定量(数值)表示 例：P(A)是A发生的概率，用作证据A的不确定性度量。定性(非数值)表示 例：A很可能(或可能、不太可能、一定)发生。第9页，共39页，2022年，5月20日，0点50分，星期日5.1.2 基本问题(2)不确定程度该如何计算？已知P(A)和P(B, A)，怎样求P(B)？已知P(B1, A) 和P(B2, A)，怎样求P(A)？已知P(A1)和P(A2)，怎样求P(A1A2)和P(

5、A1A2)？各规则和初始证据的不确定性度一般由专家给出。第10页，共39页，2022年，5月20日，0点50分，星期日5.1.2 基本问题(3)不确定性度量代表什么含义？P(B, A)可理解为A真对B真的影响程度。P(A)可理解为A为真的程度。第11页，共39页，2022年，5月20日，0点50分，星期日5.1.3 推理方法的分类形式化方法逻辑法采用多值逻辑和非单调逻辑处理不确定性。新计算法采用扩展的概率方法，表示不确定性。如：证据理论(D-S法)、确定性方法(CF法)、模糊逻辑法第12页，共39页，2022年，5月20日，0点50分，星期日5.1.3 推理方法的分类(续)新概率法根据传统概率

6、论，采用新方法描述不确定性。如：主观内叶斯方法、贝叶斯网络方法。非形式化方法即启发性方法，对不确定性没有给出明确定义。第13页，共39页，2022年，5月20日，0点50分，星期日5.2 概率论基础概率可表示随机现象发生的可能性。不确定性现象不同于随机现象，但用概率思考不确定性，效果不错。“新计算法”和“新概率法”都是以概率论为基础的。第14页，共39页，2022年，5月20日，0点50分，星期日5.2.1 随机事件样本空间()随机实验可能结果的集合。样本点()一个可能出现的结果。随机事件(A、B、)一些样本点的集合。CAB第15页，共39页，2022年，5月20日，0点50分，星期日5.2.

7、1 随机事件事件间的关系包含 等价 A = B 互斥 对立 A = BABABA B第16页，共39页，2022年，5月20日，0点50分，星期日事件间的关系运算由已知事件，导出新事件。交 并 第17页，共39页，2022年，5月20日，0点50分，星期日事件间的关系运算(续)差 A发生而B不发生 求余 A =A ABAA第18页，共39页，2022年，5月20日，0点50分，星期日事件关系运算的性质交换律 结合律分配律摩根律第19页，共39页，2022年，5月20日，0点50分，星期日运行符的优先顺序 余 交 差 并高低第20页，共39页，2022年，5月20日，0点50分，星期日5.2.2

8、 事件的概率有和A，P(A)称作事件A发生的概率，当满足:0P(A)1P()=1, P()=0AB=,则P(A B)=P(A)+P(B)第21页，共39页，2022年，5月20日，0点50分，星期日完备事件族An | n = 1, 2, 称为完备事件族,当 对于任意i, j 1且ij，AiAj =，且 。 A1A2A3A4第22页，共39页，2022年，5月20日，0点50分，星期日完备事件族(续)An | n = 1, 2, 为完备事件族,则 对于任意B , B Ai 第23页，共39页，2022年，5月20日，0点50分，星期日基本事件族An | n = 1, 2, 称为基本事件族,当An

9、 | n = 1, 2, 是完备事件族；且对于任意B，有BAn=An或, 这里，n = 1, 2, 。A1A2A3A4B第24页，共39页，2022年，5月20日，0点50分，星期日基本事件族(续)An | n = 1, 2, 为基本事件族,当 B Ai 第25页，共39页，2022年，5月20日，0点50分，星期日统计概率(古典概率)若在同一条件下，事件A出现频率为m/n, 则m/n称为A的统计概率。第26页，共39页，2022年，5月20日，0点50分，星期日统计概率的性质0P(A)1P()=1, P()=0对于任意A, P(A) = 1P(A) An | n = 1, 2, ,n中两两不

10、相容，则对于任意A和B，有第27页，共39页，2022年，5月20日，0点50分，星期日条件概率在事件A 发生情况下B 发生的条件概率边缘概率A与B的联合概率（乘法公式）第28页，共39页，2022年，5月20日，0点50分，星期日条件概率(续)如果是统计概率，则第29页，共39页，2022年，5月20日，0点50分，星期日C、D发生下A、B发生的概率另一种写法：第30页，共39页，2022年，5月20日，0点50分，星期日条件概率的性质0P(B|A)1P(|A)=1, P(|A)=0若B1,B2不相容，则P(B1+B2|A)=P(B1|A)+P(B2|A)另一种写法： P(B1B2|A)=P

11、(B1|A)+P(B2|A)第31页，共39页，2022年，5月20日，0点50分，星期日条件概率的性质(续)乘法公式(联合概率) P(A1A2An) =P(A1)P(A2|A1)P(An|A1A2An-1)例：P(ABCD)=P(A|BCD)P(B|CD)P(C|D)P(D)第32页，共39页，2022年，5月20日，0点50分，星期日条件概率的性质(续)Ai | i = 1, 2, ,n是完备事件集，且P(Ai)0，则有全概率公式：例：A + B + C = , 对于任意D，有P(D) = P(A)P(D|A) + P(B)P(D|B) + P(C)P(D|C) = P(AD) + P(B

12、D) + P(CD) = P(AD BD CD) = P(D)第33页，共39页，2022年，5月20日，0点50分，星期日事件的独立性若P(AB)=P(A)P(B)，则A与B相互独立。性质：P(A)=0或1，则A与任何事件独立。若A，B独立，且P(B)0,则P(A|B)=P(A)。若A，B独立，则A与B，A与B，A与 B都相互独立。Ai | i = 1, 2, ,n中事件相互独立，则其中任何一组事件之间相互独立。第34页，共39页，2022年，5月20日，0点50分，星期日5.2.3 贝叶斯定理(公式)Bi | i = 1, 2, ,n是一个完备事件集，P(A)0, P(Bi)0,则 P(Bi)称为先验概率，P(Bi|A)称为后验概率，B1,B2, ,Bn为互不相容的原因，A为结果。第35页，共39页，2022年，5月20日，0点50分，星期日5.2.4 信任几率概率基于重复的随机实验，而实际中事件不可重复。A代表出红斑，B代表出麻疹， P(B|A)理解为“A成立时B的可信度”。A=T，P(B|A)=1,则B=T。A=T，P(B|A)=0，则B=F。A=T，0P(B|A)1，则不能确定B的值。P(B|A)表示了存在证据A时B的似然性（或可信度）。第36页，共39页，2022年，5月20日，0点50分，星期日信任几率事件发生与否的相对可能性，几率O事