机器学习课次15-多分类及KNN多分类_第1页
机器学习课次15-多分类及KNN多分类_第2页
机器学习课次15-多分类及KNN多分类_第3页
机器学习课次15-多分类及KNN多分类_第4页
机器学习课次15-多分类及KNN多分类_第5页
已阅读5页,还剩5页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

彭辉94031097(QQ)机器学习MachineLearningK近邻算法及应用任务目标能力目标使用K近邻解决多分类问题多分类的常用方法理解多分类的基本原理任务目标素质目标团队协作学会学习实践创新多分类解决多分类问题,我们是基于一些基本策略,利用二分类学习器来解决多分类问题。所以多分类问题的根本方法依然是二分类问题。

考虑N个类别C1,C2…,CN,多分类学习的基本思路是“拆解法”即将多分类任务拆为若干个二分类任务求解。具体来说,先对问题进行拆分,然后为拆出的每个二分类任务训练一个分类器。在测试时,对这些分类器的预测结果进行集成以获得最终的多分类结果。

最经典的拆分策略有三种:

(1)"一对一"(OvO)

(2)"一对其余"(OvR)

(3)"多对多"(MvM)多分类问题的一般解决方法多分类 拆解法:将一个多分类任务拆分为若干个二分类任务求解••训练N(N-1)/2个分类器,存储开销和测试时间大训练只用两个类的样例,训练时间短训练N个分类器,存储开销和测试时间小训练用到全部训练样例,训练时间长预测性能取决于具体数据分布,

多数情况下两者差不多多分类(1)

OvO

OvO将这N个类别两两配对,从而产生N(N-1)/2个二分类任务,例如OvO将为区分类别Ci和Cj训练一个分类器,该分类器把D中的Ci类样例作为正例,Cj类样例作为反例。在测试阶段,新样本将同时提交给所有分类器,于是我们将得到N(N-1)/2个分类结果,最终结果可通过投票产生:即把被预测得最多的类别作为最终分类结果多分类(2)OvR

OvR则是每次将一个类的样例作为正例、所有其他类的样例作为反例来训练N个分类器。在测试时若仅有一个分类器预测为正类,则对应的类别标记作为最终分类结果。若有多个分类器预测为正类,则通常考虑各分类器的预测置信度,选择置信度最大的类别标记作为分类结果。多分类例如:KNN算法根据可以直接支持多分类问题的解决,即,可以使用KNN算法对多种电影类型的预测。电影名称打斗镜头数情感镜头数电影类型CaliforniaMan3104爱情片He’sNotReallyintoDudes2100爱情片BeautifulWoman181爱情片KevinLongblade10110动作片RoboSlayer3000995动作片Ampedll982动作片unkown5050历史片在最近邻算法中,二分类学习方法可直接推广到多分类。KNN解决多分类问题任务小结

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论