神经网络设计.ppt_第1页
神经网络设计.ppt_第2页
神经网络设计.ppt_第3页
神经网络设计.ppt_第4页
神经网络设计.ppt_第5页
已阅读5页,还剩43页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、神经元模型和网络结构,第二章,单输入神经元,传输函数:硬极限传输函数,传输函数:线性传输函数,传输函数:对数S-形传输函数,常用传输函数,常用传输函数,多输入神经元,简化记号,神经网络的层,简化记号,多层神经网络,简化记号,递归网络:延时模块,递归网络:积分器模块,递归网络,如何选择一种网络结构,网络的输入个数=应用问题的输入个数 输出层神经元的数目=应用问题的输出数目 输出层的传递函数选择至少部分依赖于应用问题的输出描述,一个说明性实例,第三章,苹果/橘子分类器,问题描述,特征向量,标准橘子向量,标准苹果向量,方案1:感知机实现,两输入单层感知机,判定边界:,苹果/橘子实例,判定边界:,网络

2、测试,苹果:,苹果:,橘子:,椭圆的橘子:,方案2:Hamming网络,前馈层,Hamming(汉明)距离:,两个向量中不同元素的个数,递归层,Hamming网络测试,椭圆的橘子:,前馈层:,前馈层:,递归层:,方案3:Hopfield网络,Hopfield网络测试,椭圆的橘子:,扩展的问题,当输入较多而判定边界无法用图示方法表示的情况下,如何设计多输入感知机的权值和偏置值? 如果要识别的问题不是线性可分的,能否通过扩展标准感知机来解决这类问题? 当不知道标准模式时,Hamming网络如何学习权值和偏置值? 如何确定Hopfield网络的权值矩阵和偏置值向量? 如何知道Hopfield网络最终

3、是否会收敛?,感知机学习规则,第四章,学习规则,监督学习学习规则由一组描述网络行为的实例集合(输入、输出对;训练集)给出 增强学习对网络的某些输入序列进行评分,来作为网络的性能测度 无监督学习学习算法仅依赖于网络输入,通常是对输入进行聚类,感知机的结构,单神经元感知机,判定边界,判定边界上的点与权值向量的内积相等 判定边界上的点到权值向量上的投影相等,即它们应该位于正交于权值向量的直线上 权值向量总是指向神经元输出为1的区域,例:或运算(OR),多神经元感知机,每个神经元都有自己的判定边界 单神经元能将输入向量分为两类 多神经元(S个)感知机能将输入向量分为2S类,学习规则:测试问题,起始点,随机生成初始权重向量,输入第一个向量p1,错误的分类!,学习规则的尝试,将1w置为p1 将1w加上p1 尝试性规则:,第二个输入向量,(错误的分类),修正学习规则:,第三个输入向量,模式被正确分类时,(错误的分类),统一的学习规则,偏置值可视为输入1的权重,令,多神经元感知机学习规则,更新第i行权值矩阵:,矩阵形式:,苹果/橘子分类器,训练集,初始权重,第一次迭代,第二次迭代,第三次迭代,感知机学习规则收敛性,感知机规则总能收敛到能够完成分类的权值和偏置值,如果这些值存在的话证明 P45 什么时候感知机能完成分类的权值和偏置值存在?即感知机能

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论