SVM线性与非线性支持向量机_第1页
SVM线性与非线性支持向量机_第2页
SVM线性与非线性支持向量机_第3页
SVM线性与非线性支持向量机_第4页
SVM线性与非线性支持向量机_第5页
已阅读5页，还剩20页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

1、支持向量机SVM 2015.11.25 主要内容 数据线性可分的情况 数据非线性可分的情况 支持向量机(Support Vector Machine, SVM)一种对线性 和非线性数据进行分类的方法。 SVM是一种算法，使用一种非线性映射，把原训练数据映 射到较高的维上；在新的维上，搜索最优分离超平面。 数据线性可分的情况 首先考虑最简单的情况两类问题，是线性可分的。 最佳标准：分类间隔 分类间隔：两类样本 中离分类面最近的样 本到分类面的距离称 作分类间隔。 数据线性可分的情况 如何找出最佳最佳超平面？ SVM通过搜索最大间隔超平面(Maximum Marginal Hyperplane,

2、MMH)来处理该问题。 分离超平面： 由最优超平面定义的分类 决策函数为： 0g xWXb sgnfxg x 数据线性可分的情况 由点到线的距离公式可得： 从分离超平面到H1上的任意点的距离 是 1 W 因为W是超平面的法向量，所以W实 际上只由在H1平面上的样本点确定。 在H1上的点叫做支持向量，它们撑起 了分界线。 数据线性可分的情况 于是问题便转换为了求 很容易看出当|W|=0的时候就得到了目标函数的最小值。 反映在图中，就是H1与H2两条直线间的距离无限大，所有 样本都进入了无法分类的灰色地带。 解决方案：加一个约束条件对所有样本正确分类 21 min 2 w 数据线性可分的情况 数据线性可分的情况 数据线性可分的情况 数据线性可分的情况 数据线性可分的情况 数据线性可分的情况 决策 数据线性可分的情况 改进：加入 松弛变量 ：允许实际分类中一定的不准确 性的存在 惩罚因子C：为了避免系统轻易放弃一些重要 的数据，减小系统损失 i 数据线性不可分的情况 对于上述的SVM，处理能力还是很弱，仅仅能处理线性可分的数据。如果数 据线性不可分的时候，我们就将低维的数据映射到更高的维低维的数据映射到更高的维，以此使数据重 新线性可分。这转化的关键便是核函数核函数。 数据线性不可分的情况 数据线性不可分的情况 数据线性不可分的情况 数据线性不可分的情况 数据线性不可分的情况

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论