11.网络建模技术

1、贝叶斯网络建模技术Anders L. MadsenHUGIN EXPERT A/S2012.03大纲表格生成器连续节点中介变量无定向关系测量误差简单贝叶斯模型因果影响的独立父级分离专家异议、结构的不确定、功能的不确定反转弧和节点吸收功能节点2贝叶斯网络的定义3表格生成器如果CPT是低维数的，那么知识获取可由专家评判执行域知识和经验表格生成器是一个与其父级相关点的数学描述CPT/UT的生成工具它是一种指定CPTs和UTs紧凑描述描述的一种方法统计分布，算子和逻辑运算符以及它们之间的关系也是一种知识规范的有效工具，而不是值的引出工具4离散机会节点的子类型在表达式中使用不同的算子有不同的返回类型和不

2、同的参数类型要求标记的节点可用于等式比较并表示确定性关系状态：红，蓝，low功能：如果-那么，分配布尔运算节点可以代表真实值“错误”或者“正确”（在该命令下），也可作为逻辑运算符 状态：错误，正确 功能：和，或者，否，=，！=，Noisy-OR5离散机会节点的子类型已编好的节点数代表增加数字数列（整数或实数）和可以用于算术运算符，数学函数等状态：-，-2.2，-1.5，0，1，2，3，功能：二项式，几何，负二项式，泊松比，+，-，*，/，间隔节点表示实线不相交，可用于已编好的节点。此外， 当指定的连续量的时间间隔离散时，可以使用他们状态：-；-10，-10；-5，-5；-1功能：，e，正态，二

3、项式，几何，负二项式，泊松，+，-，*，/，6在表格生成器备注7表格生成器练习在预测掷n次骰子时，能够掷出几次6的问题。不幸的是，我们不知道骰子是真的还是假的。如果是假的，那么平均每掷5次会出现一次6。建立一个模型来估计掷n次骰子时能够掷出几次6的次数，其中n是一个从1到10的数字8连续的节点设Y是一个连续随机变量，有离散父级I和连续父级ZY（和Z）我们假设高斯分布（正态分布）父级的条件值其中这个就是称为CG分布9模型的限制Y是线性条件高斯分布：其中注意：平均值线性取决于连续的父级方差不取决于连续的父级线性函数和方差取决于离散的父级这些限制确保精确推理成为可能被称为线性条件高斯贝叶斯网格10温

4、度通过使用一个可选择低、中、高温度的简单空调系统，在一个房间里温度可调节。假设实际温度以1度的方差正态分布，意味着分别相当于18，20和22度。在房间里面，使用不同质量的温度计（高或者低）测量温度。低质量的温度计有0.5的方差，而质量好的温度计只有0.1的方差。假设在测量中加入了平均值为1，方差为0.1的噪声。在房间里建立对温度的推理模型11通过人工智能和数学课堂假设每学期，上一次数学而上两次人工智能。参加学习班学生的人数取决于科目。平均每120名学生选用人工智能课（2=500），而每180名学生选择数学课（2=1000）。假设平均25%通过人工智能考试（2=400），平均50%通过数学考试（

5、2=500）。假设考试已经完成。预测通过考试的学生数是多少？预测通过数学考试的学生数是多少？当80个学生通过考试，预测参加数学考试的学生数是多少？12CDVT功能CLG模型不允许连续节点的离散子级HUGIN GUI实现了一个简单的过程，支持从一个连续节点Y到离散节点D的链接D必须是状态从信息到信息的间隔节点D可以没有其它父级证据只可以在指定方向传播链接在证据的传播间，Y的边缘分布被设定为D的表达。这种功能应该格外小心使用。13变量的目的贝叶斯网格是一组变量集的知识表示。不同的变量有不同的用途。假设：想要的是事后概率不易察觉的变量例如：分类和诊断变量信息：可观察的变量是有效的，可以提供与假设变量

6、相关的信息。例如：传感器读数，背景信息，测试结果中介：事后概率不可观察变量是不想要的，但其未到达目标发挥重要重要作用。正确的条件独立和依赖性能。高效地推理14中介变量中介变量对于获得正确的条件独立和依赖属性是非常重要的例如：激素状态：验血（BT）和尿液测试（UT）是独立的怀孕状态（Pr）没有Ho变量的模型是错误的，因为Ho变量没有决定性取决于Pr，并且BT和UT是独立给予Ho的15中介变量 在这种扑克游戏中，每个玩家收到三张牌，并且允许改变牌两轮，在第一轮（FC），你可能会放弃你手中的任何一张牌，从这副牌中取一张。在第二轮中（SC），你最多放弃两张牌，并从这副牌中取两张。两轮结束后，我会有兴趣

7、对对手手上的牌估计一下（OH）。16一个简单的例子：约束 我在洗衣机里面洗了两双袜子。由于洗了很久，因此很难区分出这俩双袜子。然而，有这两双袜子有两种类型款式和两种不同颜色，用款式和颜色来区分袜子，是将它们区分正确重要的方法。款式和颜色之间是无定向关系。17一个简单的例子：约束我们有四个项目，S1，S4，其中Sp(Si)=t1，t2，这样两个项目必须成为类型t1，另外两个成为t2这种约束可以在带有开或关的状态的子变量C的 CPT编码。通过实例化C，约束强制执行。18约束设R（A，B，C） 在数值上为直接关系R（a，b，c）0,1引进带有yes和no两种状态的变量D设P（D=yes|A，B，C）

8、=R（A，B，C）设P（D=no|A，B，C）=1-R（A，B，C）当D=yes 得R (A，B，C)=119测量误差往往，一个信息变量的真实值-I，它不能由于测量误差获得。通过引入一个新的变量，测量误差被建模。成为OI，代表I的观测值。测量误差的大小用P(OI|I)代表I变成调节变量，是不可观测的。我们需要明确地表示出模型中A的估计精度20测量误差：实例假设t1类型的袜子是以颜色c1和款式p1为特征，t2类型的袜子以颜色c2（c2c1）和款式p2（p2p1）经过几次清洗之后：c1被误认为是c2有十分之三的概率c2被误认为是c1有十分之二的概率p1被误认为是p2有百分之二的概率p2一直被识别正

9、确模型如下：P(OC=c2|C=c1)=0.3P(OC=c1|C=c2)=0.2P(OP=p2|P=p1)=0.02P(OP=p1|P=p2)=021简单贝叶斯模型以下类型的分类任务与任务的一个非常适合的模型假设对h1，hn有兴趣假设他们之间完全穷尽且互相排斥结果指标I1，Im去预测hi结果是有条件独立给出的假设22简单贝叶斯模型的表示计算和代表一个有效的模型能在很多情况下能提供好的结果h1，hn被表示出和假设变量H的状态一样信息变量I1，Im是变量H的子级基本假设是当变量H已知时，I1，Im是两两独立 假设 在实际中不成立，结论可能被误解。23简单贝叶斯模型更详细的简单贝叶斯模型设可能的假设

10、，收集到一个带有优先假设P(H)的假设变量H中对于每个信息变量I，得到P(I|H)=L(H|I)对于任意观察设置 计算：其次 ，其中 ，或者表示通过贝叶斯规则24男孩或女孩悖论两个孩子的家庭，至少有一个是男孩的被选中有一个女孩的概率是多少？我们假设每个孩子的性别的决定是独立性事件，孩子可能是男孩或者女孩，并且每个孩子有相同的机会成为男性或者女性。Foshee周二男孩我有两个孩子，一个是周二出生的男孩，那么我的两个孩子都是男孩的概率是多少？25依赖发现假设是完全穷尽和互相排斥结果不是条件独立给定假设26因果影响的独立性头痛（Ha）可能由于发热（Fe）、宿醉（Ho）、纤维组织炎（Fb）、脑肿瘤（B

11、t）以及其他原因（Ot）引起。各种原因都能够引起头痛，但是它们之间相互独立。如果头痛级别为I，然后增加能独立导致头痛级别q的原因，看如何能到达级别I 27因果影响的独立性增加额外原因，线性时间评估因果关系的独立性假设28因果影响的独立性利用关于CPTs的内部结构的知识来减少表示和推理的复杂性从Ci到E的贡献被认为是Cj贡献的独立注意：必须有一个状态命令且 （序变量）29Noisy-OR假设感冒和咽喉痛的因果影响可以认为是独立的。另外，假设有一个“背景”事件，可能导致喉咙变痛“背景”事件导致咽喉痛有0.05的可能性感冒导致咽喉痛的概率有0.4且P(Cold)=0.1心绞痛导致咽喉痛有0.7可能切

12、P(Angina)=0.05P(sore|cold,angina)是noisy-OR功能:对于每种原因，我们只需要指定一个指定的号码，成为抑制剂概率。举例，我们的抑制剂概率为0.95，0.6和0.3属性参数的数目与父级数目线性增长30Noisy-OR交互模型设X1, X2是影响变量Y和让所有变量成为布尔的原因31因果关系影响的独立性必须满足以下条件X1，Xn，Y表明异常存在的程度（状态的顺序）事件Xi引起Y与pi的影响在实践中没有显著的共同作用通过以上假设，ICI可以接近真实的CPT距离测量欧几里德，KL具有其他功能而不是分离，例如：noisy-Max32父级分离设X1，Xn是Y的原因列表指定

13、P(Y|X1，Xn)涉及到一个非常大的需求获取任务通过中间变量C，可能使分离父级考虑到头痛的原因或者约束情况33父级分离设X1，Xn成为Y的原因的列表：假设，（X1，X2）的配置可以分成c1，cm (X1，X2)，(x1，x 2)ci适用于所有的y： P(y|x1，x2，x3，xn)=P(y|x1，x2，x3，xn)如果|C|X1|*|X2|，则PD（表示）是有效的34专家意见35结构的不确定性36功能不确定性37圆弧反转38节点吸收我们怎么样才能删除一个节点，且在无需改变底层概率分布？通过圆弧反转的排列圆弧反转和节点吸收可以作为一个推理算法39功能节点注意在利用额外计算的更新结果中，如何使用hugin当做计算器？一个功能节点代表一个取决于父级的实值函数如果可能的话，信念函数更新后，功能节点的值被计算40功能节点例子使用带有自变量年龄，眼睛-颜色，动物-主人，智商-身高的模型计算得分总得分是个人得分的线性和计算得出年龄的得分（0-20=5，20-40=7，40-60=9，60+=11），眼睛-颜色（蓝色=10，棕色=20，绿色=30），房屋-主人（0，25依变量值是不变的智商得分和身高使它们变量功能41功能节点功能节点代表真实值功能依赖于它们的父级功能节点仅仅作为子级的功能节点