模型独立的学习方式PPT课件_第1页
模型独立的学习方式PPT课件_第2页
模型独立的学习方式PPT课件_第3页
模型独立的学习方式PPT课件_第4页
模型独立的学习方式PPT课件_第5页
已阅读5页,还剩11页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、模型独立的学习方式神经网络与深度学习https:/nndl.github.io/神经网络与深度学习2模型独立的学习方式这些学习方式不限于具体的模型前馈神经网络、循环神经网络还是其他模型然而一种学习方式往往会对符合某种特性的模型更加青睐集成学习往往和方差大的模型组合时效果显著。神经网络与深度学习3内容集成学习协同学习多任务学习迁移学习终身学习元学习神经网络与深度学习4集成学习三个臭皮匠赛过诸葛亮神经网络与深度学习5集成方式Bagging类Bagging(Bootstrap Aggregating)是一个通过不同模型的训练数据集的独立性来提高不同模型之间的独立性。我们在原始训练集上进行有放回的随机

2、采样,得到M 比较小的训练集并训练M 个模型,然后通过投票的方法进行模型集成。随机森林(Random Forest)是在Bagging的基础上再引入了随机特征,进一步提高每个基模型之间的独立性。在随机森林中,每个基模型都是一棵决策树。神经网络与深度学习6随机森林神经网络与深度学习7集成方式Boosting类按照一定的顺序来先后训练不同的基模型,每个模型都针对前序模型的错误进行专门训练。根据前序模型的结果,来调整训练训练样本的权重,从而增加不同基模型之间的差异性。AdaBoost(Adaptive Boosting)算法神经网络与深度学习8AdaBoost神经网络与深度学习9协同训练( Co-T

3、raining )Multi-View Learning神经网络与深度学习10多任务学习( Multitask Learning )Machine Learning 1997Multitask Learning is an approach to inductive transfer that improves generalization by using the domain information contained in the training signals of related tasks as an inductive bias. It does this by learning tasks in parallel while using a shared representation; what is learned for each task can help other tasks be learned better.神经网络与深度学习12迁移学习(Transfer Learning)神经网络与深度学习13元学习(Meta Learning)神经网络与深度学习14元

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论