条件概率密度函数的最大似然估计课件_第1页
条件概率密度函数的最大似然估计课件_第2页
条件概率密度函数的最大似然估计课件_第3页
条件概率密度函数的最大似然估计课件_第4页
条件概率密度函数的最大似然估计课件_第5页
已阅读5页，还剩21页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

任课教师：刘琼自动化学院模式识别条件概率密度函数的最大似然估计MaximumLikelihoodEstimationof

Class-conditionalProbabilityDensityFunction教材：模式识别（第三版）张学工编著清华大学出版社讲授提纲问题提出最大似然估计基于最大似然估计的模式分类实例2讲授提纲问题提出贝叶斯决策论贝叶斯公式最大似然估计基于最大似然估计的模式分类实例3问题提出（2/4）5第一种情况：不知晓这条鱼的任何信息，判决依据P(ωi)的大小；结论：第二种情况：给你这条鱼的宽度值x，判决依据P(ωi|x)；贝叶斯决策论？鲑鱼问题提出（3/4）贝叶斯公式用非正式的英语表述6后验概率类条件概率密度先验概率根据领域知识或大量样本中计算各类样本所占的比例得到总体密度所有样本关于特征x的概率密度

问题提出（4/4）7函数形式估计目标估计方法已知函数中的未知参数参数估计（最大似然估计、贝叶斯估计）

未知函数形式非参数估计（kn近邻估计、Parzen窗法）讲授提纲问题提出最大似然估计假设条件主要思想求解方法及解的分析正态分布参数的最大似然估计基于最大似然估计的模式分类实例8设ωi类样本集有N个样本

它们是独立地按照概率密度p(x|ωi，θ)抽取出来的（独立同分布样本）似然函数可以表示为：

含义：从总体中抽取x1,…xN

这样N个样本的联合概率（可能性）10求最大似然估计量的方法如果H(θ)满足连续可微的数学性质，可以直接应用高等数学的知识来求最大值点，即求梯度（偏导数）,并令其等于零，解线性或者非线性方程组得到估计量假设：有s个参数梯度算子12最大似然估计结果的分析可能存在多个解解决方法：使得似然函数最大的解才是最大似然估计量14有可能求不出正确的解（比如均匀分布）15例：正态分布函数的最大似然估计单变量正态分布的概率密度函数要求的未知参数（均值与方差）已知，利用最大似然估计法，针对上述样本集，求出均值与方差的估计值1617对数似然函数求偏导数18解释：正态分布总体均值的最大似然估计量是样本属性值的算术平均（无偏）正态分布总体方差的最大似然估计量是样本方差的算术平均（渐进无偏）推广到多元正态分布（无偏）基于最大似然估计的模式分类实例20已知条件：80条鲑鱼，20条多宝鱼对于宽度特征，两类鱼均服从正态分布箱中这条鱼的宽度为10cm问题：对箱中的鱼进行贝叶斯分类决策？Step1：数据准备数据获取：对80条鲑鱼和20条多宝鱼分别测得他们的宽度值数据预处理：剔除野值数据（如发育不正常的个例）特征形成：每一条鱼有两个数据：类别标识宽度（特征）21+1

6.2+1

5.7……-1

8.9-1

9.5…….Step3：后验概率计算23关于宽度特征的类

人人文库> 全部分类> 行业资料 > 医学制药

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论