HMM隐马尔科夫模型的学习资料,有实例介绍

隐马尔可夫模型

HiddenMarkovmodel徐从富浙江大学人工智能研究所2003年10月第一稿2005年9月修改补充Modifiedbysiuleung目录HMM的由来马尔可夫性和马尔可夫链HMM实例HMM的三个基本算法主要参考文献HMM的由来

1870年，俄国有机化学家VladimirV.Markovnikov第一次提出马尔科夫模型马尔可夫模型马尔可夫链隐马尔可夫模型马尔可夫性如果一个过程的“将来”仅依赖“现在”而不依赖“过去”，则此过程具有马尔可夫性,或称此过程为马尔可夫过程X(t+1)=f(X(t))马尔科夫链时间和状态都离散的马尔科夫过程称为马尔科夫链记作{Xn=X(n),n=0,1,2,…}在时间集T1={0,1,2,…}上对离散状态的过程相继观察的结果链的状态空间记做I={a1,a2,…},ai∈R.条件概率Pij(

m,m+n)=P{Xm+n=aj|Xm=ai}为马氏链在时刻m处于状态ai条件下，在时刻m+n转移到状态aj的转移概率。转移概率矩阵阴天晴天下雨

晴天阴天下雨晴天0.500.250.25阴天0.3750.250.375下雨0.250.1250.625转移概率矩阵(续)

由于链在时刻m从任何一个状态ai出发，到另一时刻m+n，必然转移到a1，a2…，诸状态中的某一个，所以有当Pij(m,m+n)与m无关时，称马尔科夫链为齐次马尔科夫链，通常说的马尔科夫链都是指齐次马尔科夫链。

HMM实例

ObservedBallSequenceUrn3Urn1Urn2VeilHMM实例——描述设有N个缸，每个缸中装有很多彩球，球的颜色由一组概率分布描述。实验进行方式如下根据初始概率分布，随机选择N个缸中的一个开始实验根据缸中球颜色的概率分布，随机选择一个球，记球的颜色为O1，并把球放回缸中根据描述缸的转移的概率分布，随机选择下一口缸，重复以上步骤。最后得到一个描述球的颜色的序列O1,O2,…，称为观察值序列O。

HM速M实是例——敲约束在上裙述实迟验中上，有派几个逆要点签需要枣注意洁：不能女被直隔接观数察缸驶间的屯转移从缸桃中所绞选取架的球阁的颜远色和常缸并何不是一一博对应液的每次砖选取拌哪个基缸由脸一组煮转移测概率聚决定HM槐M概讯念HM密M的使状态激是不秆确定凶或不庆可见辽的，宗只有寒通过浊观测战序列祥的随贞机过青程才镜能表州现出肢来观察热到的私事件胞与状龙态并制不是彼一一员对应床，而询是通湾过一侄组概后率分魄布相惊联系HM统M是纳一个汗双重菠随机集过程牵，两强个组疏成部察分：马尔座可夫罩链：描洪述状盈态的矩转移穴，用转移蝇概率描述或。一般怀随机畅过程：描抛述状土态与瓣观察踢序列巴间的售关系妥，辜用观察凳值概夹率描述进。Ma替rk怕ov目链（,之A）随机队过程（B）状态筒序列观察勉值序固列q1,车q2,线..冒.,黎qTo1,额o2,表..爪.,易oTHM欢M的涛组成卫示意附图HM锐M组舅成HM邻M的吨基本库要素用模助型五像元组仇＝块（马N,丘M江,赵π匆，A弯，B卵）用榨来描趴述H采MM附，或虑简写井为诸=珍(π翻，造A，唱B)参数含义实例N状态数目缸的数目M每个状态可能的观察值数目彩球颜色数目A与时间无关的状态转移概率矩阵在选定某个缸的情况下，选择另一个缸的概率B给定状态下，观察值概率分布每个缸中的颜色分布p初始状态空间的概率分布初始时选择某口缸的概率HM曲M可篇解决洞的问码题问题苹1：起给定明观察裤序列璃O=链O1,O2,…遵OT,以走及模顷型蚀,爱如终何计腿算P(锐O|幻玉λ)？问题凯2：司给定宁观察泛序列源O=吧O1,O2,…墨OT以及磁模型内λ,服如何咽选择肚一个款对应趣的状或态序救列锐S般=株q1,q2,…川qT，使犬得S润能够疫最为追合理润的解岛释观轧察序泻列O田？问题槐3：踢如何勾调整屈模型昨参数互,都使牧得P犯(O观|λ鼠)最丽大？解决役问题坏1荡基础屯方法给定逮一个语固定荡的状阿态序锁列S=按(q1，q2，q3…)表示晶在qt状态茂下观更测到Ot的概谢率N=陪5,羊M松=1促00秃,输=溪>厌计鸽算量皇10凑^7宇2解决斩问题猪1韵前向脉法动态杠规划定义纪前向熟变量初始甲化：递归可：终结细：前向脾法示婚意图1过.须..选t避t叼+1美..换.a1jat1qN.qi.qj..q1atNatiaNjaijN=跳5,架M骄=1逝00谊,拒=按>拌计歼算量着30组00解决萝问题甘1伤后向今法与前由向法杜类似定义狱后向欢变量初始犁化：递归腹：终结积：Vi敢te置rb避i算法目的呈：给定周观察案序列现O以幻玉及模搏型λ哀,如钉何选蔬择一逐个对雕应的今状态笋序列航S松，使尝得S得能够磨最为陈合理妨的解至释观陕察序享列O陡？N和蹲T分皮别为皮状态带个数针和序雀列长摆度定义诱：我们哥所要扯找的庆，就同是T纤时刻借最大勉的瞧所代件表的牺那个杯状态蜓序列Vi蜘te会rb豪i算法址(续串)初始造化：递归漠：终结舌：求S怎序列粉：Ba纽奉um挖-W脉el馋ch算法孔(模代型训糊练算抢法)目的斧：给灵定观酿察值宿序列墙O，见通过殊计算火确定赌一个称模型l，使得P(凯O|l)最大可。算法敬步骤旅：1.初始呈模型游（待跨训练转模型健）l0,2.基于l0以及觉观察卖值序陪列O，训练叙新模拍型l；3.如果lo真g烤P(掀X|l)啦-览lo睁g(约P(婶X|l0)德<哥De累lt野a，说明如训练观已经伴达到险预期滑效果孙，阻算币法结忆束。4.否则孟，令l0＝l，继续翁第2训步工鹅作Ba陕um蛮-W似el暖ch算法收(续兼)定义桥：Ba极um赞-W询el饮ch算法致(续渡2)参数芳估计进：几种财典型主形状阅的马榆尔科踪蝶夫链a.抚A矩阵羽没有帜零值睬的Ma处rk帅ov链b.德A矩阵查有零欧值的Ma各rk楼ov链c.赵/d拥.左－拉右形妖式的Ma泛rk虏ov链HM弊M的卧应用箭领域语音摸识别机器健视觉人脸评检测机器科人足湿球图像猫处理图像杠去噪图像喂识别生物插医学提分析DN必A/葱蛋白哨质序涛列分踢析主要寺参考笛文献1.添L肿aw萌re晚nc旧e原R.倡R叙ab弯in习er壶,A鉴Tu殃to篮ri业al桑o斧n岂Hi摸dd泥en且M群ar枝ko拴v型Mo眯de唉ls副a淡nd戏S绸el明ec宜te填d痛Ap睁pl脊ic政at绍io纹ns厘i嫌n狂Sp扫ee弱ch婆R什ec恢og赛ni源ti