高斯混合模型算法_第1页
高斯混合模型算法_第2页
高斯混合模型算法_第3页
高斯混合模型算法_第4页
高斯混合模型算法_第5页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

下面介绍一下几种典型的机器算法首先第一种是高斯混合模型算法:高斯模型有单高斯模型(SGM)和混合高斯模型(GMM)两种。(1)单高斯模型:为简单起见,阈值t的选取一般靠经验值来设定。通常意义下,我们一般取t=0.7-0.75之间。二维情况如下所示:(2)混合高斯模型:对于(b)图所示的情况,很明显,单高斯模型是无法解决的。为了解决这个问题,人们提出了高斯混合模型(GMM),顾名思义,就是数据可以看作是从数个高斯分布中生成出来的。虽然我们可以用不同的分布来随意地构造XXMixtureModel,但是GMM是最为流行。另外,MixtureModel本身其实也是可以变得任意复杂的,通过增加Model的个数,我们可以任意地逼近任何连续的概率密分布。每个GMM由K个Gaussian分布组成,每个Gaussian称为一个“Component”,这些Component线性加成在一起就组成了GMM的概率密度函数:(1)其中,πk表示选中这个component部分的概率,我们也称其为加权系数。根据上面的式子,如果我们要从GMM的分布中随机地取一个点的话,实际上可以分为两步:(1)首先随机地在这K个Component之中选一个,每个Component被选中的概率实际上就是它的系数πk,选中了Component之后,再单独地考虑从这个Component的分布中选取一个点就可以了──这里已经回到了普通的Gaussian分布,转化为了已知的问题。假设现在有N个数据点,我们认为这些数据点由某个GMM模型产生,现在我们要需要确定πk,μk,σk这些参数。很自然的,我们想到利用最大似然估计来确定这些参数,GMM的似然函数如下:(2)在最大似然估计里面,由于我们的目的是把乘积的形式分解为求和的形式,即在等式的左右两边加上一个log函数,但是由上文博客里的(2)式可以看出,转化为log后,还有log(a+b)的形式,因此,要进一步求解。我们采用EM算法,分布迭代求解最大值:EM算法的步骤这里不作详细的介绍,可以参见博客:/?p=39贴出代码:89end

90end

91

92functionPx=calc_prob()

93Px=zeros(N,K);

94fork=1:K

95Xshift=X-repmat(pMiu(k,:),N,1);

96inv_pSigma=inv(pSigma(:,:,k));

97tmp=sum((Xshift*inv_pSigma).*Xshift,2);

98coef=(2*pi)^(-D/2)*sqrt(det(inv_pSigma));

99

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论