



下载本文档
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、BP InferencePart 1 Neural Unit图1展示了一个神经单元的构成。Figure 1 a neural unit兀+b)1=1Pai t 2 Neural Netivork图2、图3是两类常见的神经网络,其中图2描述了仅含有1个隐层的网络,图3描述了含有多个隐层的网络。UK outputs UFigure 2. Three layers networkshiddeninputoutput/i"2/AVnFigure 3 Multiple hidden layer neural networksPart 3 BP Process下面给出图3所描述的一般性厶层神经网
2、络(第1层为输入层,第厶层为输出层)的权重参数BP推导过程:O参数说明:x/二:训练集,其中兀w/T。t :样本x的真实label,其中teRn oy :样本x所对应的网络输出,其中y 6 Rn oSj :第/层(2/厶-1)神经元个数。w:?:第/-1层第丿个神经元到第Z层第I个神经元之间的连接权值。net :为第/层第i个神经元的输入。袴):为第Z层第!个神经元的输出,具体地,= f(net) o/():激活函数。乙:误差函数所采用的度量形式。注:常用的激活函数有sigmoid函数、tanh函数。令误差函数:1 .N 方YE(Z)(1)/V .1其中,EQ)弓£(锂)-儿(M。4
3、计算过程:对于单个样本X上而言,输出层(即第厶层)第上个神经元与第厶-1层第J个 神经元权值W;?的偏导为:OE(i)0E(i) dyk (z) dnet碍飞山)恥伞)碉(2)= -(zk(0-仁心竽"aE(i) _ OE(i)九恥尸 3yfc(/) dnet db=-(4 -M)/(xjl“y记华一(钮)-儿Q)"(x)L即,则对隐含层厶-1层:0EnZk=ldE(i) dyk(i) dnet啦°二丈哟犷)+灯)"1(5)因此恥二(£)时dnet""(叽(6)结合(4)、(5入(6)可得繆一字(的-讪)加 仁小"
4、(叽t”灯、相仿地命,2)二-斗(4(0 - 必 0) f(X)鳥附 吩 f (x) lx=”咐 1)(8)令:犷1)一土仏-诫)/(叽观(叽T”k-1Jn"工吩即/(Qk=l类似地,第/层(2 </<£-!)的权值和偏置的偏导可表示为°E(i)=抄(9)(10)那一丈嗚)巒)/(叽(11)其中,Part 4 BP Algorithm For 1=2 : Lw(" = 0wM , Ab(/) = 0eA5/;EndF or Foi* i =1: NFor I = L:2Calculate gradient matrix Aw)Q)、rector Ab(,)(z):Update Aw(/ < Aw(/ +Aw(/ (z), Ab(/) < Ab(&
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 第一单元写作《学习仿写》教学设计 2023-2024学年统编版语文八年级下册
- Unit 2 Shopping Lesson2(教学设计)-2024-2025学年北师大版(三起)英语四年级上册
- 2017年秋学期海南省三亚四中-八年级校园足球的魅力公开课教学设计-《脚内侧踢地滚球》
- 3 《b p m f》(教学设计)2024-2025学年统编版(2024)语文一年级上册
- 2024年八年级物理上册 6.4 活动 密度知识应用交流会教学设计 (新版)教科版
- 油田废弃井处理与环境保护考核试卷
- 塑胶跑道颜色持久性测试考核试卷
- 旅游消费者决策
- 一型糖尿病的护理
- 停车设备行业法律法规适用与解析考核试卷
- 儿童中医体质辨识课件
- 特种设备日管控、周排查、月调度模板
- 2020年现行房屋建筑工程常用材料进场取样复试检验项目规范
- 都江堰简介课件
- 学校内部控制评价报告范文(5篇)
- 综合管理中心组织架构图人员编制表及岗位说明书
- LS/T 1201-2020磷化氢熏蒸技术规程
- 12YJ6 外装修标准图集
- 新概念英语第三册第60课-Too early and too late
- 高中化学培训《追寻化学教育的本源》
- 初中数学北师大八年级下册综合与实践-生活中的一次模型PPT
评论
0/150
提交评论