模式识别2013参数估计6-3隐马尔可夫

HiddenMarkov 1的参数，目的是为了做出一个。当需要进行一个序列的，该怎么办？与时间有关的事件，HMM获得了最好的应用，如主要链 模HMM 有机化学家VladimirV. 马尔可夫马尔隐马尔可夫模链时间和状态都离散的 过程称为记作{XnX(n),n为在时间集T1={0,1,2,…}链的状态空间记做Ia1a2条件概率Pijm,m+n)=P{Xm+naj|Xmai}为马氏 X(t+1)=f(X(t)X(n+1)=f(X(n)j由于链在时刻m从任何一个状态ai出发，到

state1：

a13 P

记为 23

0.1 P(O)P[S3,S3,S3,S1,S1,S3,S2,SP(S3)P(S3S3)P(S3S3)P(S1S3)P(S1S1)P(S3S1)P(S2S3)P(S3S21a33a33a31a11a13a32a1.536104HiddenMarkovMarkovMarkov

P(yellow)=b1(2)

P(yellow)=b2(2)

P(yellow)=bN(2)观察序列 ，蓝，红，红，黄，…..蓝 系，用观察值概率描述。q1,q2,...,

o1,o2,...,HMM，或简写为λ=(πHMM，或简写为λ=(π参含实N状态缸的M每个状态可能的观察值目彩球颜色数AB给定状态下，观察值概分每个缸中的颜色分初始状态空间的概率分初始时选择某口缸的概 随机性一阶性

ai,j bi,jj1 j1

1,ai,j,bi,j[0P(ot|qt,qt1,...,q1,) p(ot|qt,ai,jp(qt1j|qti),bi,jp(otej|qtT观测样本独立性Tp(o1,o2,...oT|q1,q2,...qT,θ)p(ot|qtt

(AB,

,如何计算P(OO1,O2,...,OT|)问题：OO1,O2,...,OT以及模型λ,如何选择一个对应的状态序列Qq1,q2,…qT，使得Q*argQ(q1,...,qT

P(Q,O|P(O|(A,B,))P(O|'(A',B','解决问题1给定一个固定的状态序列TP(O/S,λ)P(Ot/qt,λ)bq1(O1)bq2(O2)bqt(OTTtbq(Ot)表示在qt状态下观测到OttP(O/)P(O/S,)P(S/N=5T=100,=>计算量

HMMa0.8

b

a12 abb

ba23 ab

a1 0.5×1×0.4×0.3×0.6×0.5=0.0180.3×0.8×0.3×0.8×0.2×0=0解决问题1定义前向变量（HMM在t时刻位于隐状态Sit(i)P(O1,O2,Ot,qtSi/ 1t初始 1t递归 t1(j)[t(i)aij]bj(Ot1i

1tT1,1j终结 P(O/λ)αTi

jαtα 按时间对 模型展N=5T=100,=>计算量 t= ……………T- 按时间对 模型展Numerical按时间对 模型展解决问题1与前定义t(i)P(Ot1,Ot2,OT,qtSi/

1tTβT(i) 1tN

t(i)aijbj(Ot1)t1(jj

tT1,T2,...,1,1i

P(O/λ)β1NiN解决问题1问题2q1,q2 P[q1q2...qt1,qti,O1,O2,…Ot,|N和T分别为个数和序列长

δT(i)所代表的那个状态序问题2Viterbi算法(续

δ1(i)πibi 1i 1i

t(j)max[t1(i)aij]bj(Oi

2tT,1j

t(j)argmax[t1(i)aijP*max[δT

2tT,1jq*Targmax[δTq*1iq*φ tT1,T t t问题2NumericalExample:使得P(O|