第六章em与混合模型网络

相关概率论基 贝叶 的意 贝叶 的例 是 通过贝叶 解A1A2B1=得病 B2=没得P(B1)= P(A1|B1)=99/100 想求P(B1|A1)P(B1|A1)=(P(A1|B1)*P(B1))/ =(99/100*1/10000)/(99/100*1/10000+ = =另一个问 舞台上有三个门，一个门后有100 答奖在某门后的概率P(H1)=P(H2)=P(H3)=P(D=2|H=1)=P(D=2|H=2)=P(D=2|H=3)=

P(D=3|H=1)=P(D=3|H=2)=P(D=3|H=3)=现 打开了3号门，计算P(H=1|D=3)和计算过==蒙特卡洛模当所求解问题是某种随机出现的概率，或者是某个随量的期望值时，通过某种“实验”的方法，以这种出现的频率估计这一随机的概率，或者得到这个随量的某些数字特写个贝叶斯决策用在机器学习 假设B为特征，A为，我们可以根据贝叶斯计算出特征为B的数据标为Ai的概率选择概率最大的Ai作为最终模型问题来P(Ai)那P(B|Ai那怎么通常先假设模型上的B向量具有某种确定的概率分布形式（比如P(B|Ai)具有某种确定的形式并被参数θc唯一确定，我们的任务就P(Dc|θc)=∏*∈,-极大似然估计参p(x|yiμi和σi的高斯分布，根据训练集上的μi=1/|Dc|*∑*∈01σi=1/|Dc|*∑*∈01(𝑥−𝜇𝑐)(𝑥−朴素贝叶斯分类P(x|yiyi的情况下所有维度的联合分布，很难从有限的训朴素贝叶斯分类器采用了“属性条件独立假设”即数据特征的每此时P(x1,x2,x3…xn|yi)=P(x1|yi)*P(x2|yi)*P(x3|yi)p(xi|yi)=朴素贝叶斯分类器用 邮件判样本：1000封邮件，每个邮件都已经被标定为 分类目标：给定第1001封邮件，确定它是 过程分类别 过程分过程分 P(cjcj 斯平n1：在所 邮件中单词x1出现的次数。如果x1没有出现过，则n1=0n：属于c1 朴素贝叶斯的一些思如果只是处理分类任务，那么只需要比较P(c1|x)和P(c2|x P(c|x)=P(x|c)*P(c)/P(x)，二者的分母都是除以P(x)，实对大小的“概率”）判别模型和生成模给定x后直接对P(yi|xLogisticregression，决策树，svm对联合分布P(x,yiP(yi|X)=P(yi|X)=P(yi)*P(x|yi)维 的问 量的各种先验后验概率，解决所有的问题 贝叶斯网 它通过有向无环图（DAG）来描述随 贝叶斯网 因(parents)”，另一个是“果(children)”，两节点就会产生一贝叶斯网络的示X1x2X6x7在x4有向图网 P(B,E,A,R,C)2^5-1• • 𝑝(𝑥6|𝑝𝑎𝑟𝑒𝑛𝑡𝑠𝑥𝑖故障诊贝叶斯网络的定一般定义一个BNG和参数记做 K^m(k-通过贝叶斯网络判断条件独P(a,b,c)=P(a,b|c)=P(a,b|c)=判断条件独这种情况下同样：在给定ca和b判断条件独实例理有向分对于任意的结点集A，B，C，所有通过A中任意结点到B中任A和B的“顺序结构”和“同父结构”路径都通过A和B的“C以及C有向分GAS是和RadioBatteryMarkov一个结点的MarkovBlanket是一个集合，在这个集合中的结点都如何定义这个集合：一个结点的MarkovBlanket是它的Markov贝叶斯网络结构的构其中一个构建算1.对于从1到在X1：i-1使例将贝叶斯网络结构的简最大权生成树算1.对于给定的分布P(x)，对于所有的i≠j，计算联合分布 um-weightspanning重复上述过程过程直到插入了-1贝叶斯网络的参数学贝叶斯网络的参数学

SRSRFFTFFTTT

贝叶斯网络的参数学对于混合网络如何建孩子节点是连续孩子节点是离散或者使用sigmoid函贝叶斯网络的参数学

SRSRFFTFFTTT

概率图的推根据上面的图，求P(s=1)=∑K∑J∑I𝑃(𝐶,𝑅,𝑊,𝑆= =∑K∑J∑ 𝑃 ∗𝑃𝑠=

∗𝑃

∗𝑃(𝑤|𝑠=1, =CRW=000时四个取值+CRW=001 2^n-1贝叶斯网络的推断优化：消元∑K∑J∑I𝑃 ∗𝑃𝑠=1