北航多源信息融合2017课件4属性融合

北航多源信息融合2017课件4属性融合第一页，共63页。Outline属性融合算法概述属性融合算法分类属性融合算法概述贝叶斯统计理论第一页2023/9/282多源测试信息融合第二页，共63页。Outline属性融合算法概述属性融合算法分类属性融合算法概述贝叶斯统计理论第二页2023/9/283多源测试信息融合第三页，共63页。多属性融合概述多属性融合

属性即事物本身所固有的性质。是物质必然的、基本的、不可分离的特性，是事物某个方面质的表现。一定质的事物常表现出多种属性。多属性融合是利用多传感器检测信息对目标的属性和类型进行判断。第三页2023/9/284多源测试信息融合第四页，共63页。多属性融合概述

多属性融合与通常所说的多属性决策不同，多属性融合一般包含以下3个步骤：在[0,1]上映射属性的信任度或可能性等；按一定的融合规则，对反应各属性的信任度和可能性进行融合，得到各属性的最终信任度或可能性；根据融合结果作出决策。第四页2023/9/285多源测试信息融合第五页，共63页。多属性融合概述

由于属性的表达形式复杂多样，有可度量的，也有不可度量的形式，因此，检测方法各不相同。本次课程先简单介绍属性融合算法的分类，然后介绍几种常用的属性融合算法。第五页2023/9/286多源测试信息融合第六页，共63页。Outline属性融合算法概述属性融合算法分类属性融合算法概述贝叶斯统计理论第六页2023/9/287多源测试信息融合第七页，共63页。1属性融合算法分类1.1属性融合算法分类

对属性融合不存在精确的和唯一的算法分类，在属性融合领域中有统计法、经典推理、Bayes方法、模板法、表决法以及自适应神经网络等算法。一般归纳为三大类：物理模型、参数分类技术和基于知识的模型法。第七页2023/9/288多源测试信息融合第八页，共63页。属性融合(识别)算法参数分类物理模型基于知识的模型模拟估计语法分析映像代数极大似然估计Kalman滤波最小二乘法统计算法信息论技术Bayes经典推理Dempster-Shafer聚类分析

参数模板自适应神经网络表决法熵法逻辑模板品质因数专家系统模糊集系统图1

属性融合算法的分类第八页2023/9/289多源测试信息融合第九页，共63页。属性融合算法--物理模型（1）

物理模型所采用的技术是根据物理模型模拟出可观测或可计算的数据，并把观测数据与预先存储的目标特征或根据物理模型对观测对象进行预测所得出的模拟特征进行比较。比较过程涉及到计算预测数据和实测数据的相关关系。如果相关系数超过一个预先规定的阈值，则认为两者存在匹配关系。这种方法的处理过程如图2所示。第九页2023/9/2810多源测试信息融合第十页，共63页。对象目标传感器观测预处理属性识别处理属性识别报告观察模型图像信号物理模型2物理模型n物理模型1...观测信号观测模型观测模型先验信号文件对象物理特性图2属性识别的物理模型方法属性融合算法--物理模型（1）第十页2023/9/2811多源测试信息融合第十一页，共63页。属性融合算法--物理模型（1）

预测一个实体特征的物理模型必须建立在被识别物体的物理特征基础上。对于每一种（类）被识别物体，都需要建立一个（组）物理模型。因此，在实际应用中，即使物理模型相对简单或已有先验特征数据的情况下，其观测模型和信息处理过程的运算量也非常庞大。其实际应用很有限，但在非实时环境中，研究观测对象的物理现象时非常有用。第十一页2023/9/2812多源测试信息融合第十二页，共63页。属性融合算法--物理模型（1）例:

成像传感器用于遥感，识别某一对象，并且已经有一些观测对象的简单模型，如：二维几何图形或实体照片。一般来讲识别过程看似很简单：将两幅图像进行比较，但实质计算需要进行很多工作：传感器几何校正、滤波补偿、平台校正、动态调整和照片匹配等等。第十二页2023/9/2813多源测试信息融合第十三页，共63页。属性融合算法--参数分类法(2)

参数分类技术是依据参数数据获得属性说明，而不使用物理模型。在参数数据（如特征）和一个属性说明之间建立一个直接的映像。具体包括统计算法和信息论方法。

统计算法有经典推理、Bayes推理、D-S证据理论方法等。

信息论方法有：模板法、聚类分析、自适应神经网络、表决法和熵法等。第十三页2023/9/2814多源测试信息融合第十四页，共63页。属性融合算法--参数分类法(2)

经典推理技术在给定先验前提假设下计算一个观测的概率，它的缺点是一次仅能估计两个假设，而多变量数据复杂度高，不能直接使用先验似然估计。

Bayes推理在目标属性估计中，其缺点是定义先验似然函数困难；当存在多个可能假设和多条相关事件时复杂度高，需要对应的互不相容的假设，缺乏分配总的不确定性的能力。第十四页2023/9/2815多源测试信息融合第十五页，共63页。属性融合算法--参数分类法(2)

D-S证据理论方法是一种较新的属性融合方法，是经典概率论的扩展，是一种不确定性推理方法，为不确定信息的表达和合成提供了强有力的方法，特别适用于决策级信息融合。但其在计算上的复杂度比较高。第十五页2023/9/2816多源测试信息融合第十六页，共63页。属性融合算法--基于知识的方法(3)

属性融合算法的第三种主要方法是基于知识的模型。这些方法主要是模仿人类对属性判别的推理过程，它们可以在原始传感器数据或抽取的特征基础上进行。图3是用此类方法进行目标属性识别的原理。

这类方法主要包含：逻辑模版、知识（专家）系统和模糊集合论。第十六页2023/9/2817多源测试信息融合第十七页，共63页。对象目标传感器特征抽取基于知识的系统属性识别报告先验知识库观测信号观测模型语法规则框架逻辑模板图3基于知识的属性识别属性融合算法--基于知识的方法(3)第十七页2023/9/2818多源测试信息融合第十八页，共63页。Outline属性融合算法概述属性融合算法分类属性融合算法概述贝叶斯统计理论第十八页2023/9/2819多源测试信息融合第十九页，共63页。1.2属性融合算法概述（1）经典推理

经典推理技术中的假设检验，是在给定先验知识的两种假设H0

和H1

中做出接受哪一个的判断。该技术是从样本出发，根据样本的量测值制定一个规则（阈值），因此，这种方法，只要知道事件的观测值，就可以利用这一规则做出判定。第十九页2023/9/2820多源测试信息融合第二十页，共63页。经典推理（1）

假设检验是根据概率来进行判定的，因此有可能判断错误。这种错误不外乎有两种类型：第一种错误是原假设H0为真，却被拒绝的错误，犯这类错误的是根据情况规定的小概率α；第二种错误是原假设H0为假，却被接受的错误，其概率为β。以上两种错误可以归纳如表1。类型接受H0接受H1H0为真，H1为假判断正确（1-α）αH0为假，H1为真β判断正确（1-β）表1假设检验规则的错误概率第二十页2023/9/2821多源测试信息融合第二十一页，共63页。经典推理（1）例：利用经典推理技术识别不同型号雷达

假设两个不同型号的雷达具有不同的脉冲重复周期（PRI），现在要根据雷达侦察传感器获得的雷达的PRI来识别属于哪一部雷达，即两种假设分别为 H0：目标为1型雷达；

H1：目标为2型雷达。第二十一页2023/9/2822多源测试信息融合第二十二页，共63页。经典推理（1）

图4（a）给出了两部雷达（1型记为E1，2型记为E2）的PRI的概率密度函数

f(PRI/H0)和

f(PRI/H1)它们出现重叠范围。图4(a)PRI密度函数第二十二页2023/9/2823多源测试信息融合第二十三页，共63页。经典推理（1）2型雷达以脉冲重复周期PRI（PRIN

≤

PRI

≤

PRIN+1）由图中阴影区域表示，根据概率密度函数积分得：其中

z=PRI,z1=PRIN,z2=PRIN+1。第二十三页2023/9/2824多源测试信息融合第二十四页，共63页。经典推理（1）

经典推理根据观测到的PRIobs来接受或拒绝所提出的假设，也就是确定与其关联的雷达是1型还是2型。对于给定阀值PRIC，识别规则为PRIobs〉PRIc？H1：H0图4(b)1型和2型的误差第二十四页2023/9/2825多源测试信息融合第二十五页，共63页。经典推理（1）

在这个例子中，由于PRI重叠，因此基于PRIc的判定会导致错误的识别。具体来说，图4（b）表示存在一个有限概率α（区域①），此时1型雷达的观测PRI将大于PRIc；一个有限概率β（区域②），2型雷达的观测PRI将小于PRIc。这些无法识别的错误分别称为1类错误和2类错误：第二十五页2023/9/2826多源测试信息融合第二十六页，共63页。经典推理（1）

另外，上述两个PRI分布可以从不同的传感器得到，在这种情况下融合处理可由判定策略表示出来，而使用经典推理的另一个融合策略一般是从多变量情况的广义方法得到或从特定的传感器判定结果的逻辑组合得到。

经典推理技术的优点是能提供判定错误概率的一个度量值。但如果需要把这个方法推广到多变量统计情况，则需要先验知识并计算多维概率密度函数。这对实际应用是个严重的缺陷。第二十六页2023/9/2827多源测试信息融合第二十七页，共63页。Bayes推理（2）考察一个随机试验:试验中，设已知n个互不相容的事件H1，H2，…，Hn的可能性大小（先验信息）为P(H1)，P(H2)，…P(Hn)。在试验中观测到事件E发生了，由于这个新情况的出现，我们对事件H1，H2，…，Hn的可能性有了新的认识，即有后验信息P(H1/E)，P(H2/E)，…，P(Hn/E)：第二十七页2023/9/2828多源测试信息融合第二十八页，共63页。式中:

P（Hj/E）为给定证据E条件下，假设

Hj为真的后验概率；j=1，2，…，3；

P（Hj）为假设Hj为真的先验概率；

P（E/Hj）为给定Hj为真的条件下，观测到的证据E的概率。这个公式就是数学上著名的Bayes公式，（1）首先构造先验概率，（2）使用一个新的证据E来改善对事件的先验假设。Bayes公式的特征就是由先验信息到后验信息的转化过程

。Bayes推理（2）第二十八页2023/9/2829多源测试信息融合第二十九页，共63页。Outline属性融合算法概述属性融合算法分类属性融合算法概述贝叶斯统计理论第二十九页2023/9/2830多源测试信息融合第三十页，共63页。2贝叶斯统计理论2.1贝叶斯统计理论概述

考查一个随机试验，在这个试验中，n个互不相容的事件A1，A2，…，An必发生一个，且只能发生一个，用P（Ai）表示Ai的概率，则有第三十页2023/9/2831多源测试信息融合第三十一页，共63页。2.1贝叶斯统计理论概述设B为任一事件，则根据条件概率的定义及全概率公式，有这就是著名的Bayes公式。

在上式中，P(A1)，P(A2)，…，P(An)表示A1，A2，…，An出现的可能性，这是在做试验前就已知道的信息，这种知识叫做先验信息，这种先验信息以一个概率分布的形式给出，成为先验分布。第三十一页2023/9/2832多源测试信息融合第三十二页，共63页。2.1贝叶斯统计理论概述

现假设在试验中观察到B发生了，由于这个新情况的出现，对事件A1，A2，…，An的可能性有了新的估计，这个知识是在做试验后获得的，可称为后验知识，此处也以一个概率分布P

(A1|B)

，P(A2|B)，…，P(An|B)

的形式给出，显然有

这称为“后验分布”。它综合了先验信息和试验提供的新信息，形成了关于Ai出现的可能性大小的当前认识。这个由先验信息到后验信息的转化过程就是Bayes统计的特性。

第三十二页2023/9/2833多源测试信息融合第三十三页，共63页。2.1贝叶斯统计理论概述贝叶斯统计的基本观点是把未知参数Θ看做一个有一定概率分布的随机变量，这个分布总结了抽样以前对Θ的先验分布，这是贝叶斯统计理论区别于古典统计学派的本质区别。贝叶斯学派在处理任何统计分析问题时，均以先验分布为基础和出发点。第三十三页2023/9/2834多源测试信息融合第三十四页，共63页。2.2基于Bayes统计理论的信息融合

假设有m个传感器用于获取未知目标的参数数据。每一个传感器基于传感器观测和特定的传感器分类算法提供一个关于目标属性的说明。设O1，O2，…，On为所有可能的n个目标，D1，D2，…，Dm表示m个传感器各自对于目标属性的说明。O1，O2，…，On实际上构成了观测空间的n个互不相容的穷举假设，则根据前面几个式子得到i=1,2,…,n;j=1,2,…,m第三十四页2023/9/2835多源测试信息融合第三十五页，共63页。2.2基于Bayes统计理论的信息融合目标的观测、分类与说明传感器1P(D1|Oi)D1目标的观测、分类与说明传感器2P(D2|Oi)D2目标的观测、分类与说明传感器mP(Dm|Oi)Dm......贝叶斯统计推断计算目标融合概率贝叶斯统计决策判定逻辑融合属性说明P(Oi

|D1,D2,…,Dm)，i=1，2，…，m图5基于贝叶斯统计理论的属性识别第三十五页2023/9/2836多源测试信息融合第三十六页，共63页。2.2基于Bayes统计理论的信息融合Bayes融合识别算法的主要步骤为：（1）

将每个传感器关于目标的观测转化为目标属性的分类与说明D1，D2，…，Dm。（2）

计算每个传感器关于目标属性说明或判定的确定性，即P(Dj|Oi)，j=1，2，…，m；i=1，2，…，n。第三十六页2023/9/2837多源测试信息融合第三十七页，共63页。2.2基于Bayes统计理论的信息融合（3）

计算目标属性的融合概率：如果D1，D2，…，Dm相互独立，则i=1，2，…，n第三十七页2023/9/2838多源测试信息融合第三十八页，共63页。举例例：

设有两个传感器，一个是敌-我-中识别（IFFN）传感器，另一个是电子支援测量（ESM）传感器。

设目标共有n种可能的机型，分别用O1，O2，…，On表示，先验概率PIFFN（x｜Oi）已知，其中x表示敌、我、中3种情形之一。对于传感器IFFN的观测z，求：P(x|z)?解：

对IFFN传感器应用全概率公式，得第三十八页2023/9/2839多源测试信息融合第三十九页，共63页。举例

对于电子增援（ESM）传感器，能在机型级上识别飞机属性，有

基于两个传感器的融合似然为i=1，2，…，ni=1，2，…，n第三十九页2023/9/2840多源测试信息融合第四十页，共63页。举例从而：第四十页2023/9/2841多源测试信息融合第四十一页，共63页。举例说明Bayes方法的应用

从而第四十一页2023/9/2842多源测试信息融合第四十二页，共63页。Bayes推理

Bayes推理在许多领域有广泛的应用，但直接使用概率计算公式主要有几个个困难：（1）一个证据A的概率是在大量的统计数据的基础上得出的，当所处理的问题比较复杂时，需要非常大的统计工作量，这使得定义先验似然函数非常困难；（２）Bayes推理要求各证据之间是不相容或相互独立，从而当存在多个假设和多条件相关事件时，计算复杂性迅速增加。（３）缺乏分配总的不确定性的能力。第四十二页2023/9/2843多源测试信息融合第四十三页，共63页。课程小结属性融合通用分类

物理模型、参数分类、基于知识的模型常见几种算法的概述

经典推理、Bayes推理贝叶斯统计理论及其在信息融合中的应用第四十三页2023/9/2844多源测试信息融合第四十四页，共63页。Thanks!《多源测试信息融合》第四十四页2023/9/2845多源测试信息融合第四十五页，共63页。题目1、甲袋中有5只白球,

7

只红球;乙袋中有4只白球,

2只红球.取甲、乙两袋的概率相同,现在任取一袋，从所取到的袋子中任取一球(1)、发现所取袋子是甲，问此白球是从甲袋中取出来概率多少？(2)、问此球是甲袋中白球的概率是多少？(3)、发现是白球，问此白球是从甲袋中取出来概率多少？第四十五页2023/9/2846多源测试信息融合第四十六页，共63页。解：首先看样本空间。一共有18个球。样本空间为18个点。代表着取到的每个球。先求两种情况的条件概率。设:事件A={取到甲袋中球}，事件B={取到乙袋中球}。且A+B=Ω.事件C={取到白球}第四十六页2023/9/2847多源测试信息融合第四十七页，共63页。(1)、P(C|A)=P(取到白球|取到甲袋)=5/12(2)、P(AC)=P(取到甲袋中的球并且是白球）=5/24(3)、P(C|B)=P(取到白球|取到乙袋)=4/6而由A+B=Ω，根据贝叶斯全概率公式P(C)=P(AC)+P(BC)=P(A)P(C|A)+P(B)P(C|B)=(1/2)(5/12)+(1/2)(4/6)=13/24上式概率就是先验概率。第四十七页2023/9/2848多源测试信息融合第四十八页，共63页。所以，此白球从甲袋取出的概率为P(A|C)=P(取到甲袋中的球|取到白球）=P(AC)/P(C)=5/13上式概率就是后验概率，另外P(C|A)为似然度。第四十八页2023/9/2849多源测试信息融合第四十九页，共63页。第四十九页2023/9/2850多源测试信息融合第五十页，共63页。第五十页2023/9/2851多源测试信息融合第五十一页，共63页。Bayes推理的提出ThomasBayes

英国数学家，1702年生于伦敦，1742年成为英国皇家学会会员，1763年4月7日逝世。Bayes主要研究概率论，他首先将归纳推理法用于概率论基础理论，创立了贝叶斯统计理论，对于统计决策函数、统计推断和统计估算等做出了重要贡献。1763年发表了这方面的论著。第五十一页2023/9/2852多源测试信息融合第五十二页，共63页。Bayes统计推理基本思想

贝叶斯推理是在不完全情报下，对部分未知的状态用主观概率估计，然后用贝叶斯公式对先验概率进行修正，最后再利用修正概率做出最优决策。

贝叶斯决策理论方法是统计决策中的一个基本方法，其基本思想是：1.已知条件概率密度参数表达式和先验概率。2.利用贝叶斯公式转换成后验概率。3.根据厚颜概率大小进行决策分类。第五十二页2023/9/2853多源测试信息融合第五十三页，共63页。Bayes推理公式Bayes推理的基本原理：给定一个前面的似然估计后，若又增加一个证据（测量），则可以对前面的似然估计加以更新。也就是说，随着测量值的到来，可以将给定假设的鲜艳密度更新为后验密度。

假设A1，A2,…,An表示n个互不相容的穷举假设，B为一个事件（或事实，观测等），Bayes公式的形式为：

其中：第五十三页2023/9/2854多源测试信息融合第五十四页，共63页。Bayes推理应用实例有两个可选的假设：

病人有癌症（cancer）、病人无癌症（normal）可用数据来自化验结果：正（+）和负（-）先验知识：在所有人口中，患病率是0.8%；

对确实有病的患者的化验准确率为98%

对确实无病的患者的化验准确率为97%总结如下：P(Cancer)=0.008;P(Normal)=0.992P(+|Cancer)=0.98;P(-|Cancer)=0.02P(+|Normal)=0.03;P(-|Normal)=0.97问题：假定有一个新病人，化验结果为正，是否应将病人断定为有癌症？求后验概率P(Cancer|+)和P(Normal|-).第五十四页2023/9/2855多源测试信息融合第五十五页，共63页。Bayes推理应用实例(续)解：几大后验假设计算结果如下：P(+|Cancer)P(Cancer)=0.00784P(+|Normal)P(Normal)=0.02976P(Cancer|+)=P(+|Cancer)P(Cancer)/{P(+|Cancer)P(Cancer)+P(+|Normal)P(Normal)}=0.21P(-|Cancer)P(Cancer)=0.0016P(-|Normal)P(Normal)=0.96224P(Normal|-)=P(-|Normal)P(Normal)/{P(-|Cancer)P(Cancer)+P(-|Normal)P(Normal)}=0.99834贝叶斯推理的结果很大程度上依赖于先验概率，另外不是完全接受或拒绝的假设，只是在观察到较多的数据后增大或减小了假设的可能性。第五十五页2023/9/2856多源测试信息融合第五十六页，共63页。基于Bayes推理的数据融合方法

Bayes推理方法可以对多个传感器信息进行融合，以计算出给定假设为真的后验概率。设有n个传感器，它们可能是不同类型的，用它们共同对一个目标进行探测。再设目标有m个属性需要进行识别，即有m个假设或命题Ai，i=1,2,…,m。传感器1P(D1|Oi)D1传感器2P(D2|Oi)D2传感器nP(Dn|Oi)Dn......Bayes组合公式:P(Aj/D1∩D2

…∩Dn)