【图文】隐马尔科夫模型(原理图解)

1、 5. 参数训练算法：Baum-Welch算法（多观测序列） é a01 ù êa ú p = ê 02 ú ê M ú ê ú ë a0 N û 0-初始概率矩阵 L P(O, q1 = si | l a (l (i gb1(l (i L (l pi = N =å 1 = å g 1 (i P(O (l | l l =1 l =1 å P(O, q1 = sk | l k =1 AN *N é a11 a12 L a1N ù

2、 ê a a L a ú 2 N ú = ê 21 22 êL L L L ú ê ú ë aN 1 aN 2 L aNN û A转移概率矩阵 ij = a åå P(O l =1 t =1 L T -1 (l , qt = si , qt +1 = s j | l å P(O, qt = si | l t =1 T -1 = åå x l =1 t =1 L Tl -1 l =1 t =1 L Tl -1 (l t (i, j = a 

3、9;å é ë l =1 t =1 L Tl -1 (l t (l (l (l (ig a ijg b j(ot +1 gbt +1 ( j P(O | l ù û (l t åå g t(l (i åå é ëa l =1 t =1 L T -1 ¹ a åå é ë l =1 t =1 L Tl -1 (l t (l (l (ig a ijg b j(ot +1 gbt +1 ( j ù û (l t (igbt

4、(l (i P(O (l | l ù û åå é ëa l =1 t =1 L T -1 (i gbt(l (i ù û BN *M éb11 b12 L L b1M ù êb b LL b2 M ú 21 22 ê ú = êL L LL L ú ê ú bNM û ëbN 1 bN 2 LL B生成概率矩阵 (k = b j å å l =1 t =1 L Tl l =1

5、 t =1, ot = sk L Tl P(O , qt = s j | l (l åå P(O = (l å å l =1 t =1 L Tl , qt = s j | l l =1 t =1, ot = sk L Tl g t(l ( j = (l t å å l =1 t =1 L Tl åå g ( j l =1 t =1,ot = sk L Tl a t(l ( j × bt(l ( j P(O ( l | l ¹ (l t å å l =1 t =1 L TL &

6、#229;å a ( j × b ( j P(O | l (l t (l l =1 t =1, ot = sk L TL a t( l ( j × bt(l ( j (l t åå a ( j × bt(l ( j 这种多观测序列正好适用于蛋白质家族序列中相关问题的解决：如多序列比对 20 山东大学高性能计算与大数据处理学科组 6. 参数训练算法：Baum-Welch算法过程纵览 情形1：路径已知时的参数估计 (监督学习方法 情形2：路径未知时的参数估计 (非监督学习方法 S2 S3 S1 S5 S2 S2 S3 S1 S5 ? ?

7、? ? ? ? ? ? ? V1 V3 V2 V2 V1 V4 V3 V4 V1 V1 V3 V2 V2 V1 V4 V3 V4 V1 极大似然统计法 Count(si 状态si出现的次数 p = = Length 序列的长度 Baum-Welch算法 初始化HMM模型参数 初始概率 初始概率 a ij = f ( si ® s j å N +1 j '=1 = 状态转移si ® s j的总次数 状态转移si ® 任意状态的总次数 训练HMM模型 转移概率 令0= (基于0以及观测序列O训练新模 令0= f ( si ® s j g ( si Þ vk 转移概率 否 否 判断是否满足 bi ( k = å g (si Þ vk k =