BP神经网络理论与实验结果

1、神经网络简介：神经网络是大脑的一个组成部分。James在1890年的心理学一书中这样描述神经网络的基本原理：大脑皮层每一点的活力是由其它点势能释放的综合效能产生的，这些势能与如下因素有关：（1）相关点的兴奋次数；（2）兴奋的强度；（3）与其不相连的其它点所接受的能量。他的这一原理一直沿用至今。到目前为止，神经网络的研究主要分为两个派别：一派主要包括生物学家、物理学家和心理学家等，他们研究的主要目的是给出大脑活动的描述和精细模型；另一派主要包括工程技术人员等，他们关心的是怎样利用神经网络的基本原理，来构造解决实际问题的算法，使得这些算法具有有效的计算能力，我们称之为神经网络的工程应用研究，或称为

2、人工神经网络（artificialneuralnetwork,ANN），简称为神经网络。人工神经网络可以分为前向型和反馈型两类：前向型神经网络的特点是信息传递由后层神经元向前层神经元传递，同一层内的神经元之间没有信息交流；反馈型神经网络中的神经元之间不但相互作用，而且自身也有信息内耗。BP神经网络是一种多层前向神经网络，名字源于网络权值的调整规则采用的是后向传播学习算法（也称为反推学习规则），即BP学习算法（back-propagation,BP）。BP学习算法是Rumelhart等在1986年提出的。至此以后，BP神经网络得到了广泛的实际应用，据统计，80%90%的神经网络模型都采用了BP网

3、络或者它的变形。BP神经网络理论BP神经网络是一种单向传播的多层前向型网络，其结构如图所示。由图可见,BP网络是一种具有三层或三层以上的神经网络，包括输入层、中间层（隐层）和输出层。上下层之间实现全连接，而每层神经元之间无连接。当一对学习样本提供给网络后，神经元的激活值从输入层经各中间层向输出层传播，在输出层的各神经元获得网络的输入响应。接下来，按照减少目标输出与误差的方向，从输出层经过各中间层逐步修正各连接权值，最后回到输入层，这种算法称为“误差逆传播算法”，即BP算法，随着这种误差逆的传播修正不断进行，网络对输入模式响应的正确率也不断上升。BP网络的传递函数要求必须是可微的，常用的有Sig

4、moid型的对数、正切函数或线性函数，即1logsig（x），1+e-xtansig(x)，exexxexpurelin(x)，xBP网络学习规则下面以一个三层BP网络为例，介绍BP网络的学习过程及步骤。首先对符号的形式及意义说明如下：网络输入向量P，(a,a)；TOC o 1-5 h zk12n网络目标向量T，(yj)；k12q中间层单元输入向量S，(sss)，输出向量B，(b,bb)；k1,2pk12p输出层单元输入向量L，(l,llq)；输出向量C，(c,ccq)；k12k12输入层至中间层的连接权仪.，i，1,2,.n，j，1,2,.p；ij中间层至输出层的连接权v.tj，1,2,.p

5、，t，1,2,.,q；中间层各单元的输出阈值J，j,1,2,.p；输出层各单元的输出阈值yt，t，1,2,.,q；参数k，1,2,.,m，为训练样本序号。BP网络学习过程及步骤如下：(1)初始化。给每个连接权值仪.、v.、阈值e.、y赋予区间(1,1)内的随ijjtjt机值。(2)随机选取一组输入和目标样本P(ak,akak八T=(yk,ykyk)kk12n12q提供给网络。3）用输入样本P（akk1ak，,ak）、连接权w.2nij和阈值e/计算中间层各单元的输入，然后用通过传递函数计算中间层各单元的输出b。jjjnS.,W,.ak-e.，j1,2,.pjijiji1bjf(j)，j1,2,

6、.p利用中间层的输出b、连接权卩和阈值计算输出层各单元的输出L，jjttt然后通过传递函数计算输出层各单元的响应C。tLt=，vjtbjtt=1,2,.,qj1Ctf(Lt)，t1,2,.,q利用网络目标向量T=(yk,yk，,yk)，网络实际输出C，计算输出层kt12q的各单元一般化误差dk。td：=(时-Ct)Ct(1-Ct)，t=1,2,.,q利用连接权v、输出层的一般化误差dk和中间层的输出b计算中间层jttj各单元的一般化误差ek。jek=,dk-vb(1-b.)jtjtjjt1利用输出层各单元的一般化误差dk与中间层各单元的输出b来修正连接tj权v和阈值。jttv.(N+1)v(N

7、)+a-dkb.jtjttjt(N+1)=t(N)+adt1,2,.,q，j1,2,.p，0a|Jg|E|H过滤效率预测误差(%)250温度/cDCD/cm人定量/gm-2透气量/Lm-2s-1温度/cDCD/cm人定量/gm2透气量/Lm-2.s-1观察值平均值预测值观察值平均值预测值250104504927015100366355.73555.75250104505145.7545.270151003197525010450432702098513404.74045.752501045040270209842525015270166270209837225015270176170.5170

8、2702098309.52501527017427025321020250152701662702532107911021102250202401082702532128925020240189161.7161.727025321020550025020240244290521154725020240106290521158825025637482905211665594.75945.75250256385678529052115792502563788785290101958492502563748290101955662705112533477.7477290101957067317315.75.52705112386290101958052705112524290151781304270511246829015178103811291129.227010152395310.2310290151781