课件2014中文13神经网络_第1页
课件2014中文13神经网络_第2页
课件2014中文13神经网络_第3页
课件2014中文13神经网络_第4页
课件2014中文13神经网络_第5页
已阅读5页,还剩6页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

神经网络的学习神经网络模型和联接,甘利俊一,东大出版社神经元的性质线性相加:神经元把从其他神经元得到信息的权重求和。非线性阈值:若总和不超过阈值则什么事都不会发生,若超过了阈值,则产生一个脉冲。神经元的数学模型x1,x2,...,xn:输入z:输出s1,s2,...,sn:各自的权重(突触的效率)θ:阈值zxnf

(x)sns1s2x2θx1si

xi

-qi根据左式,求得输入的权重的总和iz

=

f

si

xi

-q进一步筛选得出输出函数f(x)f(x)x一个神经元上的学习竞争学习=一定n

s

i1(x)x1u10.5i

=1如果一个突触的效率上升,则其他的下降。输出函数eu/Tf(u)

=1+

eu/T学习方程(一个神经元)ds

i=

-

si

+

crx

it¢dtτ‘:常数c:常数(学习的效率)r:学习信号(突触的效率是否改变的条件xi:输入・不管的话,会慢慢衰减。・如果满足条件,这个输入会成比例的剧烈增加。a感知学习xwijsi输入层中间层输出层z

j

xi

=

f

wij

aj

izk

=

f

ski

xi

学习(结合效率的更新)把对于输入信号a合适的输出信号当做函数yd

(a)。损失函数(θ表示Ski和wij)2l(a,q)

=

1

z

-

yd(a)

2输出(感知的输出层的值)误差绝对值的平方(不要在意(接上文1)因为实在相反方向上的学习信号,因此称之为反向传播。用最速下降法(Steepest

descent

method)求解。¶l¶sii

di{

}¢=

z

-

y

(a)

f(

)s

x

xj

j

i=

{zi

-

ydi

(a)}f¢(s

•x)xi更新si(c是常数)。si

fi

si

-

cri

xi但是,

ri

=

(zi

-

ydi

)f'(s•x)(学习信号)(接上文2)更新wij。

¶l

=

¶l

¶xi¶wij

¶xi

¶wij=(zi

-

ydi

(a))kki¶z

¶xi¶x

¶wij=idik(z

-

y

(a))f¢

js

x

skj

j

ki¶x

i

¶wijk

m

=rk

sk

f'wim

am

aj=

ri

ajwijfi

wij

-

cri

ajk但是、

ri

=

(rk

sk

)f'(wi

•a)(学习信号)总结x1x2识别树学习神经网络多元回归分析最近邻域法课题确认以下公式的推导。¶si¶l

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论