BP神经网络的基本原理+很清楚_第1页
BP神经网络的基本原理+很清楚_第2页
BP神经网络的基本原理+很清楚_第3页
已阅读5页，还剩2页未读， 继续免费阅读

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

5。4BP神经网络的基本原理BP(BackPropagation）1986Rinehart

)BP神经网络的基本原理+很清楚关习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和BP（input）、隐层（hidelayer）和输出层layer)（5。2）.5。4.1BP神经元5.3jBP（节点)，它只模仿了生物神经元所具有的三个最基本也是

x…x

12…i…n1 2 i nww…ww1、2…i…nj

为阈值；j1 j2 ji jn jf(·）为传递函数;yj

为第j个神经元的输出。第j个神经元的净输入值为：（5.12）(完整版)BP神经网络的基本原理+很清楚其中:若视 ， ，即令及 包括及 ，则于是节点j的净输入可表示为:（5.13)净输入通过传递函数(Transferj（5。14）有一最大值。5。4.2BP网络BP）播方向为输入层→隐层→输出层,每层神经元的状态只影响下一层神经元。若在输出层得不到期望的输出,则转向误差信号的反向传播流程.通过这两个过程的交替进行，在权向量空间执行误差函数梯度下降策略,动态迭代搜索一组权向量，使网络误差函数达到最小值，从而完成信息提取和记忆过程.5.4。2。1正向传播)BP神经网络的基本原理+很清楚设BP网络的输入层有n个节点，隐层有q个节点，输出层有m个节点，输入层与隐层之间的权值为,隐层与输出层之间的权值为 ，如图5.4所示。隐层的传递函数为f(·），输出层1传递函数为f(·)，则隐层节点的输出为（将阈值写入求和项中)：2k=1,2，……q （5.15)输出层节点的输出为:j=1,2，……m (5.16）B—Pnm5。4.2.2反向传播定义误差函数输入个学习样本用 来表示第个样本输入到网络后得到输出 m）。采用平方型误差函数，于是得到第p个样本的误差E:p（5。17）式中：为期望输出。对于个样本,全局误差为：)BP神经网络的基本原理+很清楚（5.18）输出层权值的变化采用累计误差BP算法调整 ,使全局误差变小，即(5。19）式中：—学习率定义误差信号为：（5.20）其中第一项：（5.21)第二项:（5.22)是输出层传递函数的偏微分.于是：(5.23）由链定理得：)BP神经网络的基本原理+很清楚(5。24）于是输出层各神经元的权值调整公式为：（5.25)隐层权值的变化（5.26)定义误差信号为：(5。27）其中第一项：（5。28)依链定理有：(5.29）第二项：（5.30）是隐层传递函数的偏微分.于是：

(完整版)BP神经网络的基本原理+很清楚（5。31）由链定理得：（5.32）从而得到隐层各神经元的权值调整公式为：（5。33)5。4.3BP算法的改进BPBP以下缺点：收敛速度缓慢；容易陷入局部极小值；难以确定隐层数和隐层节点个数。在实际应用中,BP1） BPBPW（K）K梯度方向进行修正，而没有考虑到以前积累的经验，即以前时刻的梯度方向，从而常常使学习过程发生振荡，收敛缓慢。动量法

人人文库> 全部分类> 应用文书 > 项目管理

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论