证据理论基础(1)

1、万 江 文多源测试信息融合多源测试信息融合证据理论基础（证据理论基础（1）主要内容主要内容引言证据理论基础证据理论研究现状未来研究方向22022-3-16多源测试信息融合多源测试信息融合主要内容主要内容引言证据理论基础证据理论研究现状未来研究方向32022-3-16多源测试信息融合多源测试信息融合1 引言引言主观贝叶斯理论的缺点：(1)要求概率（各证据之间）都是独立的；(2)要求先验概率P(Oi)和条件概率P(Dj|Oi)；(3)要求统一的识别框架，不能实现不同层 次的组合；(4)不能区分“不确定”和“不知道”。42022-3-16多源测试信息融合多源测试信息融合1 引言引言不确定性分类 不确

2、定性可以分为随机性、模糊性和认识不确定性三种。 随机性：在自然界中客观存在，可根据历史资料得到的统计数字来描述，常用概率论和数理统计来解决这方面问题。 模糊性：通常指发生在概念上的模糊，如大、中、小界限的模糊等。模糊理论是处理此问题的有力工具。 认识的不确定性：是由于人们认识水平的局限以及知识缺乏所造成的。 随机性和模糊性是客观的不确定性，认识的不确定性是主观的不确定性。52022-3-16多源测试信息融合多源测试信息融合1 引言引言 概率的解释 证据理论出现以前，概率的解释主要有客观解释，个人主义解释及必要性解释。 客观解释概率：认为概率描述了一个可以重复出现事件的客观事实，用试验次数趋于无

3、穷时，该事件发生的频率的极限来刻划。 个人主义解释：认为概率反映了个人的某种偏好，它根据某个人在赌博中或其他带有不确定性结果的事件中所表现出来的行为来推算。62022-3-16多源测试信息融合多源测试信息融合1 引言引言 必要性解释：则认为概率是测量一个命题推出另一个命题程度的量，这个量由两个命题之间的逻辑关系完全决定，与个人的偏好无任何关系，又称为逻辑主义解释。 Shafer指出以上三种概率的解释都没有涉及概率推断的构造特征，因此， Shafer提出了对概率的第四种解释构造性解释: 概率是指某人在证据的基础上构造出的他对某一命题为真的信任程度，简称信度。72022-3-16多源测试信息融合多

4、源测试信息融合主要内容主要内容引言证据理论基础证据理论研究现状未来研究方向82022-3-16多源测试信息融合多源测试信息融合4.2 证据理论基础证据理论基础证据理论的起源 证据理论源于20世纪60年代美国哈弗大学的数学家A.P.Dempster 利用上、下概率来解决多值映射问题方面的研究工作。后来他的学生G.Shafer对证据理论做了进一步的发展和推广完善，引入了信任函数概念，形成了一套利用证据和组合来处理不确定性推理问题的数学方法。它作为一种不确定性推理方法，正受到越来越多的关注。称为（D-S）证据理论和信任函数理论。 92022-3-16多源测试信息融合多源测试信息融合12 ,n 2 证

5、据理论基础证据理论基础（1) 识别框架 假设现有一个判决问题，对于该问题我们所能认识到的所有可能答案的集合用表示，且中的所有元素都满足两两互斥；任一时刻的问题答案只能取中的某一子集，答案可以是数值变量，也可以是非数值变量，则称此互不相容命题的完备集合为识别框架，可表示为：(2-1) 其中i为识别框架的一个元素或事件。102022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础（1) 识别框架（续1）集合的选取问题识别框架的选取 集合的选取依赖于我们的认识水平和知识结构,包含我们所知道的和想要知道的。当一个命题对应于该识别框架的一个子集时，称该框架能够识别该命题，否则认为识

6、别框架是无效的。因此， 的选取应当足够的丰富，使我们所考虑的任何特定的命题集都可以对应于的某一集类R，（,R ）称为命题空间。当中含有N个元素时，R中最多有2N个子集。需要说明的是，集合可以为有限集也可以为无限集。本课程只讨论有限集。112022-3-16多源测试信息融合多源测试信息融合1212131232 , , , , , , , , , 2 证据理论基础证据理论基础（1) 识别框架（续2） 由识别框架中所有子集构成的一个有限集合称为的幂集合，记作(2-2 ) 其中表示空集。 识别框架的任一子集A都对应于一个命题，一般可描述为“问题的答案在A中”。122022-3-16多源测试信息融合多源

7、测试信息融合2 证据理论基础证据理论基础例1: 以掷骰子为例，要判断其可能所出现的点数，则识别框架=1,2,3,4,5,6，而1则表示“掷出的点数为1”，则2,4,6表示“掷出的点数为偶数”，1,2,3,4,5则表示“掷出的点数不为6”，即“掷出的点数为1, 2, 3, 4, 5中的某一个”。由此可见，幂集合中的每一个子集A都代表一个命题。132022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础 证据理论是建立在识别框架基础上的推理模型，其基本思路如下： a) 建立识别框架。利用集合论方法来研究命题； b) 建立初始信任分配。根据证据提供的信息，分配证据对每一集合（命

8、题）A本身的支持程度，该支持程度不能再细分给A的真子集。 c) 根据因果关系，计算所有命题的信任度。一个命题的信任度等于证据对它的所有前提的初始信任度之和。这是因为，若证据支持一个命题，则他同样支持该命题的推论。 d) 证据合成。利用证据理论合成公式融合多个证据提供的信息，得到各命题融合后的信任度。 e) 根据融合后的信任度进行决策，一般选择信任度最大的命题。2022-3-16多源测试信息融合多源测试信息融合142 证据理论基础证据理论基础证据函数证据函数 (2) 证据函数 证据是整个证据理论的核心，证据函数又是描述证据的有力工具。下面将详细介绍证据理论中几个证据函数的基本概念及相关定理。 基

9、本置信度指派函数； 信任度函数； 似真度函数等152022-3-16多源测试信息融合多源测试信息融合2()0( )1Amm A 2A2 证据理论基础证据理论基础基本置信度指派函数基本置信度指派函数定义1:设为一识别框架，函数m是20,1的映射，A为2任一子集，记作 ，且满足：(2-3)则称m是2上的基本置信度分配函数，也称为质量函数或mass函数。m(A) 为命题A的基本置信度指派值，表示证据对A的信任程度，空集的基本信任分配值为0。162022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础基本置信度指派函数基本置信度指派函数n基本置信度指派函数相关的几个定义（1） 对

10、于识别框架的任一子集A，只要满足m(A)0，则称A为证据的焦元。 证据的焦元和它的基本置信度指派构成的二元体(A, m(A)称为证据体,证据是由若干证据体组成。172022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础基本置信度指派函数基本置信度指派函数n基本置信度指派函数相关的几个定义（2） 焦元中所包含识别框架中的元素个数称为该焦元的基，记作 |A|。 当子集A中只包含一个元素时，即 |A|=1，称为单元素焦元。当子集A中包含i个元素时，即 |A|=i，称为i元素焦元。 全体焦元的集合称为证据的核。18核就是核就是识别框识别框架的幂集架的幂集2吗吗?2022-3-1

11、6多源测试信息融合多源测试信息融合 A22 证据理论基础证据理论基础基本置信度指派函数基本置信度指派函数n基本置信度指派函数的作用 把的任一子集都映射到0,1上的一个数m(A)： （1）当A由单个元素组成时，m(A)表示对相应命题A的精确信任度； （2）当 ，A，且A由多个元素组成时，m(A)也是相应命题A的精确信任程度，但却不知道这部分信任度该分给A中的哪些元素； （3）当A=时，m(A)是对的各个子集进行信任分配后剩下的部分，它表示不知道该如何对它进行分配。192022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础基本置信度指派函数基本置信度指派函数n例2： 泄漏诊

12、断时，设识别框架=A1，A2，A3，A1表示“发生大泄漏”，A2表示“发生小泄漏”，A3表示无泄漏，基本置信度指派分别为 m()=0，m(A1)=0.3，m(A2)=0，m(A3)=0.1m(A1，A2)=0.2，m(A1，A3)=0.2，m(A2，A3)=0.1，m(A1，A2，A3)=0.120返例32022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础基本置信度指派函数基本置信度指派函数 当A =A1时，m(A)=0.3，它表示对命题“答案是大泄漏”的精确信任度为0.3。 当A =A1，A2时，m(A)=0.2，它表示对命题“答案或是大泄漏，或是小泄漏”的精确信任

13、度为0.2，但却不知道该把这0.2分给大泄漏还是分给小泄漏。 当A =A1，A2，A3时，m(A)=0.1，它表示不知道该把它如何分配；它不属于A1，就属于A2或A3，只是基于现有的知识，还不知道该如何进行分配。212022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础信任度函数信任度函数定义2: 信任度函数：集合A是识别框架的任一子集，A中全部子集对应的基本置信度之和称为信任函数Bel(A)，即Bel：2 0，1 其中，Bel(A)成为事件A的信任值，它表示证据对A为真的信任程度；空集的信任值为0。22B ABel(A)M(B)2022-3-16多源测试信息融合多源测

14、试信息融合Bel()()0 Bel( )( ) 1BMM B 121212Bel(AA )Bel(A )Bel(A )Bel(AA )2 证据理论基础证据理论基础信任度函数信任度函数 信任度函数表示对假设的信任程度的下限估计。由信任度分配函数的定义容易得到： 如果对于中的任意两个子集A1,A2，满足：则称为弱信任度函数。232022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础信任度函数信任度函数例3：同例2，已知： m()=0，m(A1)=0.3，m(A2)=0，m(A3)=0.1 m(A1，A2)=0.2，m(A1，A3)=0.2， m(A2，A3)=0.1，m(A

15、1，A2，A3)=0.1求.Bel(A1)和Bel(A1,A2)的信任度值.解：根据题意，可得Bel(A1) = m(A1) =0.3Bel(A1,A2)=m(A1)+m(A2)+m(A1,A2)=0.5.242022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础信任度函数信任度函数引理1: 假设A是一个有限集合，则下式成立证明：令 是一个有限的非空集合，其中n为正整数，则有25B1( 1)0BAA其它12,nA ,B( 1)( 1)( 1)( 1)( 1)( 1)012(1 ( 1)0ijiBAAiijnnnnnnn B( 1)0BA2022-3-16多源测试信息融合

16、多源测试信息融合2 证据理论基础证据理论基础信任函数信任函数引理2.2: 若A是有限集，且 ，则：证明：根据引理2.1，可证。26BA( 1)( 1)0ACBCAAB其它(BD)D()D()( 1)( 1)( 1)( 1)( 1)CBDBCABABDA BBDA B 2022-3-16多源测试信息融合多源测试信息融合( )( )1( )BAPl Am BBel A 2 证据理论基础证据理论基础似真度函数似真度函数定义3： 似真度函数：设识别框架 ，幂集2 0,1映射，A为识别框架内的任一子集，似真度函数Pl(A)定义为对A的非假信任度，即对A似乎可能成立的不确定性度 ，此时有：Pl(A) 表示

17、A为非假的信任程度，A的上限估计，且Bel(A) Pl(A) ；Bel() 表示对A为假的信任程度，即对A的怀疑程度。27A 2022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础信任区间信任区间信任区间定义4： 信任区间表示事件发生的下限估计到上限估计的范围，即：Bel(A)，Pl(A)称为命题A的信任区间，Pl(A)-Bel(A)描述了对A的不确定性，有时也称为不确定区间。 区间的下限等于直接证据对命题的支持程度，即命题的信任度；区间的上限等于潜在证据对命题的支持程度，即命题的似真度。28证据区间划分示意图证据区间划分示意图2022-3-16多源测试信息融合多源测试

18、信息融合2 证据理论基础证据理论基础信任区间信任区间例4： 说说下列信任区间，对命题A表示的实际意义：29 Bel(A), Pl(A) 意义意义0，1对命题对命题A一无所知一无所知0，0命题命题A为假为假1，1命题命题A为真为真0.5，0.5对命题对命题A的准确信任度为的准确信任度为0.50.4，1证据提供对命题证据提供对命题A的部分支持度的部分支持度0，0.7证据对命题证据对命题 的部分支持度的部分支持度0.3，0.9证据对命题证据对命题A的信任区间为的信任区间为0.3-0.9 2022-3-16多源测试信息融合多源测试信息融合2 证据理论基础证据理论基础证据函数总结证据函数总结 m(A)、

19、Bel(A) 和Pl(A)的意义lm(A)反映了对A本身的信任度大小 lBel(A)是分配到A上的总信任度 lPl(A)是所有与A相容的命题本身的信任度之和 302022-3-16多源测试信息融合多源测试信息融合课程内容课程内容引言证据理论基础证据理论研究现状未来研究方向312022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状(1)证据理论模型解释(2)证据融合悖论(3)证据组合算法实现(4)证据理论的应用(5)国内研究现状322022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状(1) 证据理论模型的几种解释上、下概率解释 广

20、义贝叶斯理论解释 随机集理论模型解释 可传递信度模型解释 332022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状nDempster对证据理论模型解释上、下概率解释模型，认为置信函数是概率的下界，似真函数是概率的上界，Dempster正是通过这个概念创立了证据理论。广义贝叶斯理论模型，认为证据理论是贝叶斯理论的扩展，所有应用贝叶斯概率推理方法的数据融合系统都可以用证据理论方法来替代。当BPA函数的所有焦元都是单个假设集，且这些焦元都满足贝叶斯独立条件时，Dempster合成公式就退化为贝叶斯公式。随机集理论模型把证据的合成看作是随机条件事件的并(或交)。按照这

21、种解释模型的观点，数据融合过程就相当于随机集的集合运算过程。 以上三种解释模型的共同点都是以概率理论为基础。342022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状nSmets对证据理论模型解释 Smets发现许多DS模型的研究者只看到了BPA是在识别框架的幂集上的静态概率分布，都没有从研究DS模型的动态部分，即信度是如何更新的，因此提出了一种不依赖任何概率理论的“可传递信度模型”(TBM)。这种模型的基本假设是证据不充分，以致不足以把信任度指派给识别框架中的元素。从数据融合的角度来看，TBM模型在它是一种层次化的递进模型，体现了数据融合系统的层次化描述特征，

22、尤其适用于需要逐层进行数据、特征或决策融合的数据融合系统。TBM模型理论和实际应用上都很有价值。352022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状(2) 证据融合悖论 在证据理论的实际应用中，常常会面临各种不确定的冲突信息，而当参与合成的证据间具有较大的不一致性或冲突时，证据合成方法就不能使用，若使用会得出与事实相悖的结果。这一局限性成为制约证据理论进一步推广的主要问题，所以基于冲突证据的合成方法的研究和改进是一个亟待解决的问题。为了解决冲突证据的合成问题，不少学者对冲突证据的合成方法进行了研究，并提出了许多解决方法。 362022-3-16多源测试信息

23、融合多源测试信息融合3 证据理论研究现状证据理论研究现状(3) 证据算法的实现 目前证据算法实现主要有以下三种途径： 1）针对特殊的证据组织结构，构造相应的快速算法 2）近似计算 3）修改D-S合成公式法372022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状1）快速算法构造 Shafer给出在层次情况下精确实现Dempster合成规则的算法。 Barnett针对一类简单的证据结构提出了一个快速实现D-S的算法； 为达到简化计算量的目的，Pearl在层次假设空间中使用了一种贝叶斯形式的推理算法；382022-3-16多源测试信息融合多源测试信息融合3 证据理论

24、研究现状证据理论研究现状2）近似计算 近似计算方法的思路是通过减少置信函数的焦元个数来简化计算。 Voorbraak提出了一种置信函数的贝叶斯近似算法，他研究证明：如果置信任函数的合成将产生一个贝叶斯信任函数，即一个识别框架上的概率测度，则信任函数用他们的贝叶斯近似来代替，将不会影响Dempster合成规则的结果。 Voorbraak证明了在一般的情况下，置信函数的贝叶斯近似的合成等于这些置信函数的合成的贝叶斯近似，大大简化了计算量。392022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状 Dubois（迪布瓦）提出了一致近似性算法，该方法的特点是通过近似计算

25、后的焦元是嵌套的，并且焦元的个数不超过识别框架中的假设个数。 Tessem（特塞姆）提出了(k,l,x)近似算法，k表示保留的焦元个数,l保留的焦点元素最多个数，x表示允许被删除的最大mass值，x通常在0,0.1上取值。 Simard（西马德）提出了一种称为TDS算法，主要思想为：首先给出要保留的焦点元素的最大个数、上限BPA和下限BPA，然后判断BPA的数值的大小以决定其对应的焦点元素是否应该保留。402022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状3）修改D-S方法 修改D-S方法主要是指Mahler提出的条件化证据理论，它是一种在先验知识可能是非贝

26、叶斯的情况下，处理证据的概率计算。Ishizuka等人结合了D-S方法和模糊集理论的优点来表示和处理不确定的和模糊的信息，通过定义模糊集合的包含度和相关度来实现这个目的，并将置信函数重新定义，给出了包含度的定义并相应地修正了Dempster合成公式。412022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状(4) 证据理论的应用 证据理论为不确定信息的表达和合成提供了强有力的方法，使得它在数据融合领域得到了广泛的应用。在军事方面，如目标检测、识别、跟踪和态势评估与决策分析；在非军事方面，如故障诊断、数字图像处理、经济决策、网络入侵检测、机器人导航等。 随着证据理论的发展，它的应用也越来越广。目前，证据理论在信息融合，风险评估功伪、专家系统、企业诊断、模式识别、决策分析等方面均有成功的应用。422022-3-16多源测试信息融合多源测试信息融合3 证据理论研究现状证据理论研究现状(5) 国内研究状况 近十几年来，证据理论在我国