动态贝叶斯网络DBN

1、动态贝叶斯网络DBN2008年12月08日 星期一 14:49贝叶斯网络（Bayesian Networks）也被称为信念网络（Belif Networks）或 者因果网络（Causal Networks）,是描述数据变量之间依赖关系的一种图形模 式，是一种用来进行推理的模型。贝叶斯网络为人们提供了一种方便的框架结构来表示因果关系，这使得不确定性推理变得在逻辑上更 为清晰、可理解性强。对于贝叶斯网络，我们可以用两种方法来看待它：首先贝叶斯网表达了各个节 点间的条件独立关系，我们可以直观的从贝叶斯网当中得出属性间的条件独立以及依赖关系；另外可 以认为贝叶斯网用另一种形式表示出了事件的联合概率分布

2、，根据贝叶斯网的网络结构以及条件概率 表（CPT）我们可以快速得到每个基本事件（所有属性值的一个组合）的概率。贝 叶斯学习理论利用先验知识和样本数据来获得对未知样本的估计，而概率（包括联合概率和条件概率）是先验信息和样 本数据信息在贝叶斯学习理论当中的表现形式。贝叶斯网络由以下两部分组成：贝叶斯网的网络结构是一个有向无环图（Directed Acyclic Graph）,其中每 个结点代表一个属性或者数据变量，结点间的弧代表属性（数据变量）间的概率 依赖关系。一条弧由一个属性（数据变量）A指向另外一个属性（数据变量）B说 明属性A的取值可以对属性B的取值产生影响，由于是有向无环图，A、B间不会

3、 出现有向回路。在贝叶斯网当中，直接的原因结点（弧尾）A叫做其结果结点（弧头)B的双亲结点(parents) , B叫做A的孩子结点(children)。如果从一个结点X有一条有向通路指向Y,则称结点X为结点Y的祖先(ancestor),同时称结点Y为结点X的后代(descendent)。我们用下面的例子来具体说明贝叶斯网的下雪M摔交氏3迟到A4骨折A5结构:图2.1简单的贝叶斯网模型图2.1中共有五个结点和五条弧。下雪A1是一个原因结点，它会导致堵车A2 和摔跤A3o而我们知道堵车A2和摔跤A3都可能最终导致上班迟到A4o另外如果 在路上摔跤严重的话还可能导致骨折A5o这是一个简单的贝叶斯网

4、络的例子。在贝叶斯网中像A1这样没有输入的 结点被称作根结点(root),其他结点被统称为非根结点。贝叶斯网络当中的弧表达了结点间的依赖关系，如果两个结点间有弧连接说明 两者之间有因果联系，反之如果两者之间没有直接的弧连接或者是间接的有向联通路径，则说明两者 之间没有依赖关系，即是相互独立的。结点间的相互独立关系是贝叶斯网络当中很重要的一个属性， 可以大大减少建网过程当中的讣算量，同时根据独立关系来学习贝叶斯网络也是一个重要的方法，这 在本文后面会着重介绍。使用贝叶斯网络结构可以使人清晰的得出属性结点间的关系，进而也使得使用 贝叶斯网进行推理和预测变得相对容易实现。从上图中我们可以看出，节点间

5、的有向路径可以不只一条，一个祖先结点可以 通过不同的途径来影响它的后代结点。如我们说下雪可能会导致迟到，而导致迟到的直接原因可能是 堵车，也可能是在雪天滑倒了、摔了一跤。这里每当我们说一个原因结点的出现会导致某个结果的产 生时，都是一个概率的表述，而不是必然的，这样就需要为每个结点添加一个条件概率。一个节点在 其双亲节点（直接的原因接点）的不同取值组合条件下取不同属性值的概率，就构成了该结点的条件 概率表。在上一节当中已经介绍了条件概率的概念，贝叶斯网络中的条件概率表是结点 的条件概率的集合。当使用贝叶斯网络进行推理时，实际上是使用条件概率表肖中的先验概率和已知 的证据结点来讣算所查询的U标结

6、点的后验概率的过程。条件概率可以山某方面的专家总结以往的经验给出（但这是非常困难的，只适 合某些特殊领域），另外一种方法就是通过条件概率公式 在大样本数据当中统计求 得，学习条件概率表的算法将在下一节中详细介绍。在这里我们先根据上图的贝叶斯网给出其中的一些条件概率表，使 大家对条件概率表有一个感性的认识。如果将结点A1下雪当作证据结点，那么发生A2堵车的概率如何呢？下表给出 了相应的条件概率：表2.1上表是最简单的情况，如果有不只一个双亲结点的话，那么情况会变得更为复 杂一些，见表2. 2：曲表中可以看出，当堵车A2和摔跤A3取不同的属性值时， 导致迟到A4的概率是不同的。贝叶斯网条件概率表中

7、的每个条件概率的都是以当前结点的双亲结点做为条件集的。如 果一个结点有n个父节点，在最简单的情况下（即每个结点都是二值结点，只有两 个可能的属性值：True或者False）,那么它的条件概率表有2n行；如果每个属 性结点有k个属性值，则有kn行记录，其中每行有k-l项（因为k项概率的总和 为1,所以只需知道其中的k-l项，最后一项可以用减法求得），这样该条件概率 表将一共有（k-l） kn项记录。根据条件概率和贝叶斯网络结构，我们不仅可以山祖先接点推出后代的结果，还可以通过后代当中的证据结点来向前推出祖先取各种状态的概率。贝叶斯网可以处理不完整和带有噪声的数据集，因此被日益广泛的应用于各种 推理程序当中。同时由于可以方便的结合已有的先验知识，将已有的经验与数据集的潜在知识相结 合，可以弥补相互的片面性与缺点，因此越来越受到研究者的喜欢。12在我们这里所讲的DB,它的动态，并不是说网络结构随着时间的变化而发 生变化，而是样本数据，或者说观测数据，随着时间的变化而变化。其中对网络结构随时间变 化的情况主要出现在这么一个问题中：对一个未知对象集进行跟踪。随着时间的 变化，无法知道哪些对象产生了，而哪些对象乂消失了。在A工界，这类问题被 称为，First Order"，也被称为” Propositi