BP神经网络吐血推荐 matlab程序

1、4.3.1BP神经网络的概述：BP神经网络9由Rumelhard和McClelland于1986年提出的，从结构上讲，它是一种典型的多层前向型神经网络，具有一个输入层、数个隐含层(可以是一层，也可以是多层)和一个输出层。层与层之间采用全链接的方式，同一层的神经元多采用线性传递函数。图1.1,所示，为一个典型的BP神经网络结构，该网络具有一个隐含层，输入层神经元数目为m,隐含层神经元数目为1,输出层神经元数目为n，隐含层采用S型传递函数tansig，输出层传递函数为purelin.4.3.2BP神经网络的学习算法思想BP神经网络的误差反向传播算法是典型的有导师指导的学习算法，其学习过程由信号的正

2、向传播与误差的反向传播两个过程组成。正向传播时，输入样本从输入层传入，经各隐层处理后，传向输出层。若输出层的实际输出与期望输出不符，则转入误差的反向传播阶段。误差反传播时，将输出误差以某种形式通过隐含层向输入层逐渐反传，并将误差分摊，经各层的所有单元，从而获得各层单元的误差信号，此误差信号即作为修正各单元误差的依据这种信号正向传播与误差反向传播的各层权值的调整过程是周而复始的进行的。权值的不断调整过程，就是网络的学习过程，此过程直到网络输出的误差减少到可以接受的程度或进行到预先设定的学习次数为止。BP神经网络的精髓是将网络的输出与期望输出间的误差归结为权值和阈值的“过错”，通过反向传播把误差“

3、分摊”给各个神经元的权值和阈值。BP神经网络的学习算法的指导思想是权值和阈值的调整要沿着误差函数下降最快的方向负梯度方向。4.3.3BP神经网络的学习过程一般习惯将单隐含层前馈网络称为三层网络或三层感知网，即输入层，隐含层，输出层输入向量X=(xxx.，x)T.若加入x=-1，可为隐含层神经元引入阈值，隐含层输1，2，3n0出向量为Y=(yyy,y)T，若加入y=-】，可为输出层引入阈值，隐含层各神经元1，2，3n01，2，为O=000.，O)T.输入层与隐含层神经元间的网络权值矩阵与隐含层与输出层神经3n元间的网络权值矩阵分别为、(、3131.313232.3211121m11121m313

4、1.313232.3221222m，W2=21222m.3131.31.3232.32,lmlml1l2l1l2隐含层神经元的阈值01和输出层神经元的阈值02分别为4.6)4. )V01=01,01,.,。1,62=02,02,.,0211l11l则隐含层神经元的的输出为O=f乏g.-0i)=f(net),j=l,2,，1jjiijji=14.8)其中，net=wix-01,j=1,2,1；f(.)为隐含层的传递函数。jjiiji=1输出层神经元的输出为z=g(O-02)=f(net),k=1,2,n；kkjjkkj=1网络输出与期望输出的误差为g(.)为输出层的传递函数。(4.9)E=工(y

5、-z)2=工y-g2kk2kk=1k=1工Vy-g工1f(IEIkkjk=1j=1(工1O-02)2=kjjkj=1X-01)-02|jiijkI(4.10)i=1误差E对隐含层与输出层神经元间的权值雹的偏导数为dEdEdz=-(y-z)g(net)dzQ2kkkkkj52=(y-z)gnet).kkkk2kj其中O=52Ojkj4.11)误差E对输入层与隐含层神经元间的权值1的偏导数为jidEEnE1dEdzdOEn=k4=-2L(y-z)g(net)2f(net)=51xd1dzdOd1kkkkjjjijik=1j=1kjjik=1-z)gnet)2f(net)=f(net)En522kk

6、kkjjjkkjk151=E(yjk=1其中,51=En(4.12)y-z)gnet)2f(net)=f(net)工522jkkkkjjjkkjk=1k1由式(4.11)和(4.12)可得权值调整公式为dE1(t+1)=1(t)+A1=1(t)-q1=1(t)+q151xjijijijid1jijikjdE2=2(t)+q252Okjkjd2kjjjkj耳1和耳2分别为隐含层和输出层的学习步长。2(t+1)=2(t)+A2=2(t)-qkjkj其中，4.13)同理误差E对输出层神经元间的阈值0；的偏导数为:4. )(-D=(y-z)gnet)=52kkkkTOC o 1-5 h zBEBEdz

7、/、/=#=-(y-z)g(net2BzBv2kkkkkk误差E对隐含层神经元间的阈值v1的偏导数为:jgnet血2(net)*(-D=kkjjBE，BEBzBOy=kj=-2_(y-zBv1BzBOBv1kk4.15)4.16)jk=1kjjk=12(y-z)g(net)2(net)=81kkkkjjjk=1由式(4.14)和(4.15)可得阈值调整公式为BEi(t+D=VKt)+AVi=Vi(t)+qi-=Vi(t)+qi51TOC o 1-5 h zjjjjBv1jjVjBE2(t+1)=V2(t)+AV2=V2(t)+q2=V2(t)+2V2kkkkBV2kkIk4.3.4BP神经网络

8、在预测中算法实现1）产生训练集/测试集为了保证建立的模型具有良好的泛化能力，要求训练集样本数量足够多，且具有良好的代表性。一般认为，训练集样本数量占总体样本数量的2/33/4为宜，剩余的1/41/3作为测试集样本。同时，尽量使得训练集与测试集样本的分布规律近似相同。2）创建/训练BP神经网络创建BP神经网络前需要确定网络的结构10即需要确定以下几个参数:输入变量个数、隐含层数及各层神经元个数、输出变量个数。只含有一个隐含层的三层BP神经网络可以逼近任意非线性函数，因此，下文只讨论单隐含层BP神经网络。隐含层神经元个数对BP神经网络的性能影响较大。若隐含层神经元的个数较少，则网络不能充分描述输出

9、与输入变量之间的关系；相反，若隐含层神经元个数较多，则会导致网络的学习时间变长，甚至会出现过拟合的问题。一般地，确定隐含层神经元个数的方法是在经验公式的基础上，对比隐含层不同神经元个数对BP网络的性能的影响，从而进行选择。图4.1描述了隐含层神经元的个数对BP网络的性能的影响，为了减少初始权值和阈值对结果的影响，这里选取的评价指标为程序运行10次对应的决定系数的平均值。从图4.1中可以看出，当隐含层神经元个数为10时，测试集的决定系数平均值最大，为0.8984.10次运行对应的具体结果如表4.1.表4.110次运行对应的具体结果隐含层神经元个数决定性系数R2平均值最大值最小值10110.925

10、8250.9209750.9226250.919750.92320.925050.9266250.9291750.92520.9320.9230.92670.9130.92750.91470.92740.91410.92650.91990.93140.91910.930.9240.93310.92540.92750.9223图4.1隐含层神经元个数对BP网络性能的影响3）仿真测试及性能评价将测试集的输入变量送入模型，模型的输出便是对应的预测结果102030405060703090*r：r，轉四天时r可点OO3图4.2BP神经网络第四天交通量的预测对比预测结果4.2图示可以看出，基于分形的BP神经网络