深度学习应用开发 课件 cha4 2-初识感知机_第1页
深度学习应用开发 课件 cha4 2-初识感知机_第2页
深度学习应用开发 课件 cha4 2-初识感知机_第3页
深度学习应用开发 课件 cha4 2-初识感知机_第4页
深度学习应用开发 课件 cha4 2-初识感知机_第5页
已阅读5页,还剩9页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

目录1初识感知机01任务感知机的数学定义02任务感知机的几何意义03任务感知机的局限性04任务1初识感知机1初识感知机1958年,美国心理学家FrankRosenblatt提出了第一个可以自动学习权重的神经元模型,称为感知机(Perceptron),感知机(perceptron),又称“人工神经元”或“朴素感知机。如图所示,为感知机的基本结构:感知机的基本结构1初识感知机感知机输入为实例的特征向量,输出为实例的类别,取+1和-1二值;感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型,解决的问题是分类问题;感知机学习算法具有简单而易于实现的优点,分为原始形式和对偶形式;感知机预测是用学习得到的感知机模型对新的输入实例进行分类;感知机算法是支持向量机(SVM)和神经网络的基础,学好感知机大有裨益。2感知机的数学定义2感知机的数学定义

2感知机的数学定义感知机是线性模型,不能处理线性不可分问题,通过在线性模型后添加激活函数(Activationfunction)后得到活性值(Activation):𝑎=𝜎(𝑧)=𝜎(𝒘𝑇𝒙+𝑏)注:线性不可分问题就是一个数据集不可以通过一个线性分类器(直线、平面)来实现分类。2感知机的数学定义感知机中的激活函数为阶跃函数(Stepfunction)或符号函数(Signfunction),阶跃函数的输出只有0/1两种数值,当𝑧<0时输出0,代表类别0;当𝑧≥0时输出1,代表类别1;符号函数输出为-1和1两种值。阶跃函数和符号函数3感知机的几何意义3感知机的几何意义感知机模型是线性分类模型,其线性方程

w·x+b=0

对应于特征空间中的一个超平面S(可以同时存在多个超平面),超平面将特征空间分成两部分,位于两侧的点分别为正负两类。其中w是超平面的法向量,b是超平面的截距。4感知机的局限性4感知机的局限性添加激活函数后,感知机可以用来完成二分类任务的分类;阶跃函数和符号函数𝑧=0处是不连续的,其他位置导数为0,无法利用梯度下降算法进行参数优化;以感知机为代表的线性模型不能解决异或

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论