线性判别分析-冯守渤_第1页
线性判别分析-冯守渤_第2页
线性判别分析-冯守渤_第3页
线性判别分析-冯守渤_第4页
线性判别分析-冯守渤_第5页
已阅读5页，还剩9页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

1、判别分析判别分析 根据已知对象的某些观测指标和所属类别来判断未知对象所属类别的统计方法。 利用已知类别的样本信息求判别函数，根据判别函数对未知样本所属类别进行判别。判别方法的分类 按判别组数来分，有两组判别分析和多组判别分析 按数学模型来分，有线性判别分析线性判别分析和非线性判别分析 按判别方法来分，有Fisher判别分析判别分析和Bayes判别分析Bayes判别分析方法 许多时候各类别的比例分布情况有一定的先验信息，此时，Bayes判别恰好适用。Bayes判别就是根据总体的先验概率，使误判的平均损失达到最小二进行的判别。其最大优势是可以用于多组判别问题。但是适用此方法必须满足三个假设条件，即

2、各种变量必须服从多元正态分布、各组协方差矩阵必须相等、各组变量均值均有显著性差异。Fisher 判别法 所谓Fisher判别法，用投影的方法将k个不同总体在p维空间上的点尽可能分散，同一总体内的各样本点尽可能的集中，用方差的思想则可构建一个较好区分各个总体的线性判别法。优缺点比较 Fisher判别方法对总体分布没有特殊要求，但是Fisher判别法未考虑各总体出现概率的大小，不能给出后验概率以及错判造成的损失。 Bayes判别法可以给出后验概率以及错判造成的损失。但是要求即各种变量必须服从多元正态分布、各组协方差矩阵必须相等、各组变量均值均有显著性差异。Fisher判别方法（二类） 有A，B两个

3、总体，分别有n1 ，n2 个历史数据，每个数据有p维，则每个样本为p维空间的一点。Fisher方法构造一个线性判别函数：1 122ppyc xc xc x其中，判别系数 c 应满足 类内距离最小 类间距离最大 即构造统计函数 使F取最大值即可满足Fisher方法的要求。 只要令 21,22211()(,)()()ababmnnaiabibiiyyF c ccyyyy0idFdc变换矩阵C的解析解 解得 其中112()wcSxxwabSSS()()Tax aSxxxxFisher判别法（多类）21,221()(,)()axii amnxaiai a jyyF c ccyy此时依然有统计函数依然最小化此函数变换矩阵C的选择 得到 求出 矩阵的特征值，然后提取前k个特征向量组成 C ，其中特征值大的特征向量分割性能最好。1wBiiS S cc1wBS S11()() ,()()immTTwiiBiiiixiSxxxxSn xxxxMATLAB实验从UCI数据库选取一个输入向量为十维的三分类数据，首先利用Fisher判别分析法对输入向量进行降维（2维），然后用降维之后的输入向量对数据进行神经网络训练，之后用测试集测试，结果准确率为百分之百。LDA函数 function mappedX, mapping = lda(X, labels, no_dims) 输入数据为X，输出标签为labe

人人文库> 全部分类> 教育资料 > 辅导培训

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论