深度学习应用开发 课件 cha1 3-深度学习发展史_第1页
深度学习应用开发 课件 cha1 3-深度学习发展史_第2页
深度学习应用开发 课件 cha1 3-深度学习发展史_第3页
深度学习应用开发 课件 cha1 3-深度学习发展史_第4页
深度学习应用开发 课件 cha1 3-深度学习发展史_第5页
已阅读5页，还剩7页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

目录1深度学习的快速发展期01任务深度学习的爆发期02任务1深度学习的快速发展期1深度学习的快速发展期2006年，深度学习（DL）元年。是年，Hinton提出了深度置信网络（DeepBeliefNet：DBN），在世界顶级学术期刊《Science》上提出观点：（1）多层人工神经网络模型有很强的特征学习能力，深度学习模型学习得到的特征数据对原始数据有更本质的代表性，这将大大便于分类和可视化问题；（2）对于深度神经网络很难训练达到最优的问题，可以采用逐层训练方法解决。将上层训练好的结果作为下层训练过程中的初始化参数。1深度学习的快速发展期图2DBN网络架构层叠的多个RBM网络组成DBN结构，来提取需要处理对象的特征，然后再用分类器进行分类。1深度学习的快速发展期2011年，ReLU激活函数被提出，该激活函数能够有效的抑制梯度消失问题；

图3ReLU激活函数微软首次将DL应用在语音识别上，构建了深度神经网络模型，将语音识别错误率降低了20%~30%，取得了重大突破。2深度学习的爆发期2深度学习的爆发期1998年LeCun大神提出卷积神经网络LeNet-5网络，用来解决手写数字识别的问题。LeNet-5被誉为卷积神经网络的‘HelloWorld’图4LeNet-5架构图2深度学习的爆发期2012年，Hinton团队为了证明深度学习的潜力，参加首届ImageNet图像识别大赛，构建名为AlexNet的CNN网络，获得冠军。图5AlexNet架构图2深度学习的爆发期AlexNet的创新点;首次采用ReLU激活函数，增加收敛速度；完全采用有监督训练，DL方法开始向有监督学习转变；扩展了LeNet-5，引入Dropout减小过拟合；首次采用GPU加速训练。2深度学习的爆发期2013~2017，通过ImageNet图像识别竞赛，GPU硬件的不断进步，涌现了性能更好的CNN模型， CNN 在其他计算机视觉任务中也开始应用开来。20

人人文库> 全部分类> 教育资料 > 课件下载

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论