线性判别函数人工神经元网络模型学习教案

1、会计学1第一页，共43页。量简单的处理单元组成的高度复杂的大规模非线性自适应系统n (3)ANN力求从四个方面去模拟人脑的智能(zh nn)行为n物理结构n计算模拟n存储与操作n训练第1页/共42页第二页，共43页。激活规则（Fi）；n（7） 通过经验修改联接强度的学习规则；n（ 8 ）系 统 运 行 的 环 境(hunjng)（样本集合）。第2页/共42页第三页，共43页。第3页/共42页第四页，共43页。第4页/共42页第五页，共43页。 2. 人工神经元的工作过程人工神经元的工作过程 对于某个处理单元（神经元）来说，假设来自其他对于某个处理单元（神经元）来说，假设来自其他处理单元（神经元

2、）处理单元（神经元）i的信息为的信息为Xi，它们，它们(t men)与本与本处理单元的互相作用强度即连接权值为处理单元的互相作用强度即连接权值为Wi, i=0,1,n-1,处理单元的内部阈值为处理单元的内部阈值为。第5页/共42页第六页，共43页。10niiixw而处理单元的输出(shch)为)xw(fy1n0iii那么(n me)本处理单元（神经元）的输入为第6页/共42页第七页，共43页。J. McClelland David Rumelhart 第7页/共42页第八页，共43页。1x2x1Nx1y2y2Ny1z2z3Nz123N1T2Tihwhjw- - -隐含层输出层输入层3NT第8页

3、/共42页第九页，共43页。1122.nnnetx wx wx w1f()1enetynet第9页/共42页第十页，共43页。211f ()(1)1e(1e)-netnetnetyy 根据根据S S型激活函数的图形型激活函数的图形可知可知, ,对神经网络进行训对神经网络进行训练，应该将练，应该将netnet的值尽量的值尽量控制控制(kngzh)(kngzh)在收敛比在收敛比较快的范围内较快的范围内 第10页/共42页第十一页，共43页。第11页/共42页第十二页，共43页。将误差分摊给各层的所有单将误差分摊给各层的所有单元元(dnyun)各层单各层单元元(dnyun)的误差信号的误差信号修正各

4、单元权修正各单元权值值第12页/共42页第十三页，共43页。第13页/共42页第十四页，共43页。12,nxxxx12,phihihihi12,pho hohoho12,qyiyiyiyi12,qyoyoyoyo12,qdddod第14页/共42页第十五页，共43页。ihwf( ) howhb1,2,kmob211( )( )2qoooedkyo k第15页/共42页第十六页，共43页。k12( )( ),( ),( )nkx kx kx kx12( )( ),( ),( )qkd kdkdkod第16页/共42页第十七页，共43页。1( )( )1,2,nhihihihikw x kbhp(

5、 )f( )1,2,hhho khi khp1( )( )1,2,pohohohyi kw ho kboq( )f( )1,2,ooyo kyi koq第17页/共42页第十八页，共43页。ohoohoeeyiwyiw( )( )( )phohoohhhohow ho kbyi kho kww211( ( )( )2( ( )( )( )( ( )( )f( )( )qooooooooooood kyo ked kyo k yo kyiyid kyo kyi kk( )ok第18页/共42页第十九页，共43页。( )( )oohhoohoeeyik ho kwyiw 1( )( )( )( )

6、( )hihhihnihihhiiihiheehi kwhi kww x kbhi kx kwwp第五步，利用隐含层到输出层的连接权值、第五步，利用隐含层到输出层的连接权值、输出层的输出层的 和隐含层的输出计算误差函数和隐含层的输出计算误差函数(hnsh)(hnsh)对隐含层各神经元的偏导数对隐含层各神经元的偏导数 。 ( )hk( )ok第19页/共42页第二十页，共43页。21212111( )( ) )( )2( )( )( )1( )f( ) )( )2( )( )1( )f( ) )( )2( )( )qoohohhhqoohohhqpohohohohhhd kyo keho khi

7、 kho khi kd kyi kho kho khi kd kw ho kbho kho khi k11( )( )( )f ( )( )( )f ( )( )qhooohoohqohohhoho kd kyo kyi kwhi kk whi kk 第20页/共42页第二十一页，共43页。1( )( )( )( )( )hoohhoNNhohoohewkk ho kwwwk ho k ( )ok( )howk第21页/共42页第二十二页，共43页。( )hk1( )( )( ) ( )( )( ) ( )hihhiihhihNNihihhieehi kw kk x kwhi kwwwk x

8、k第22页/共42页第二十三页，共43页。2111( )( )2qmookoEdky km第23页/共42页第二十四页，共43页。whohoewe0，此时，此时who0第24页/共42页第二十五页，共43页。hoewe0who第25页/共42页第二十六页，共43页。1n0iiixw(a)(a)阈值阈值(y zh)(y zh)型型 (b) (b)分段线性型分段线性型 (c) Sigmoid (c) Sigmoid函数型函数型 (d) (d)双曲正切双曲正切、 常用的激发函数常用的激发函数 第26页/共42页第二十七页，共43页。函函 数数 名名功功 能能newff()生成一个前馈生成一个前馈BP

9、网络网络tansig()双曲正切双曲正切S型型(Tan-Sigmoid)传输函数传输函数logsig()对数对数S型型(Log-Sigmoid)传输函数传输函数traingd()梯度下降梯度下降BP训练函数训练函数第27页/共42页第二十八页，共43页。第28页/共42页第二十九页，共43页。第29页/共42页第三十页，共43页。第30页/共42页第三十一页，共43页。第31页/共42页第三十二页，共43页。第32页/共42页第三十三页，共43页。第33页/共42页第三十四页，共43页。第34页/共42页第三十五页，共43页。月份月份123456销量销量20562395260022981634

10、1600月份月份789101112销量销量187314781900150020461556数据(shj)标准化：X=(x-min)/(max-min)第35页/共42页第三十六页，共43页。第36页/共42页第三十七页，共43页。n由对比图可以看出预测效果与实际存在一定误差，此误差可以通过增加运行步数和提高预设(y sh)误差精度也进一步缩小第37页/共42页第三十八页，共43页。第38页/共42页第三十九页，共43页。第39页/共42页第四十页，共43页。第40页/共42页第四十一页，共43页。第41页/共42页第四十二页，共43页。NoImage内容(nirng)总结会计学。当误差达到预设精度或学习次数大于设定的最大次数，则结束算法。0，此时who0。