BP人工神经网络试验报告一

1、学号：北京工商大学人工神经网络实验报告实验一基于BP算法的XX及Matlab实现院（系）专业学生姓名成绩指导教师2011年10月一、实验目的：1、熟悉MATLAB中神经网络工具箱的使用方法；2、了解BP神经网络各种优化算法的原理；3、掌握BP神经网络各种优化算法的特点；4、掌握使用BP神经网络各种优化算法解决实际问题的方法。二、实验内容：1案例背景1.1BP神经网络概述BP神经网络是一种多层前馈神经网络，该网络的主要特点是信号前向传递，误差反向传播。在前向传递中,输入信号从输入层经隐含层逐层处理,直至输出层。每一层的神经元状态只影响下一层神经元状态。如果输出层得不到期望输出，则转入反向传播，根

2、据预测误差调整网络权值和阈值，从而使BP神经网络预测输出不断逼近期望输出。BP神经网络的拓扑结构如图1.1所示。图1.1BP神经网络拓扑结构图是Bp神经网络的输入值如,負,n12y是bP神经的预测n图1.1中x,x,12值，和为BP神经网络权值。从图1.1可以看出，BP神经网络可以看成一个非线性函数,ijjk网络输入值和预测值分别为该函数的自变量和因变量。当输入节点数为n,输出节点数为m时,BP神经网络就表达了从n个自变量到m个因变量的函数映射关系。BP神经网络预测前首先要训练网络，通过训练使网络具有联想记忆和预测能力。BP神经网络的训练过程包括以下几个步骤。步骤1：网络初始化。根据系统输入输

3、出序列(x,y)确定网络输入层节点数n、隐含层节点数l，输出层节点数m，初始化输入层、隐含层和输出层神经元之间的连接权值，和ij，初始化隐含层阈值a，输出层阈值b，给定学习速率和神经元激励函数。jk步骤2:隐含层输出计算。根据输入向量x,输入层和隐含层间连接权值，以及隐含ij层阈值a,计算隐含层输出H。式中，i为隐含层节点数；f为隐含层激励函数，该函数有多种表达形式,本章所选函数为:步骤3:输出层输出计算。根据隐含层输出H，连接权值,和阈值b，计算BP神经网络预测输出O。Ok=工Hbkj=i步骤4:误差计算。根据网络预测输出O和期望输出y,计算网络预测误差e。敛=匕一Okk=1,2,步骤5:权

4、值更新。根据网络预测误差e更新网络连接权值,。ijjk步骤6:阈值更新。根据网络预测误差e更新网络节点阈值a,b。mcijajqHj（1H）o）jfj=1.一：步骤7:判断算法迭代是否结束，若没有结束，返回步骤2。丫川1.2基于BP算法的多层前馈网在催化剂配方建模中的应用随着化工技术的发展，各种新型催化剂不断问世，在产品的研制过程中，需要制定优化指标并设法找出使指标达到最佳值的优化因素组合，因此属于典型的非线性优化问题。目前常用的方法是采用正交设计法安排实验，利用实验数据建立指标与因素间的回归方程，然后采用某种寻优法，求出优化配方与优化指标。这种方法的缺陷是，数学模型粗糙，难以描述优化指标与各

5、因素之间的非线性关系，以其为基础的寻优结果误差较大。理论上已经证明，三层前馈神经网络可以任意精度逼近任意连续函数。本例采用BP神经网络对脂肪醇催化剂配方的实验数据进行学习，以训练后的网络作为数学模型映射配方与优化指标之间的复杂非线性关系，获得了较高的精度。三、实现方法（设计）：1模型建立基于BP神经网络的分类算法建模包括BP神经网络构建、BP神经网络训练和BP神经网络分类三步，算法流程如图1.2所示。个数设计神经网络的结构，然后用实验数据对神经网络进行训练。完成训练之后的多层前馈神经网络，其输入与输出之间形成了一种能够映射配方与优化指标内在联系的连接关系，可作为仿真实验的数学模型。243图1.

6、3三层前馈神经网络结构图图1.3给出了针对五因素、三指标配方的实验数据建立的三层前馈神经网络。5维输入向量与配方组成因素相对应，3维输出向量与三个待优化指标：脂肪酸甲脂转化率TR%、脂肪醇产率YOH%和脂肪醇选择性SOH%相对应。实验设定确定隐层结点数为4。表1.1催化剂配方的神经网络模型样本数据表NoA/CuZn/CuB/CuC/CuMn/CuTR%iY%OH1S%OH110.05000.1300.0800.1400.04094.5096.3097.8020.06500.0700.1200.1600.02088.0575.5086.530.08000.1900.0800.0600.00060

7、.2540.2196.2540.09500.1100.0600.1600.04093.0597.3199.3050.11000.0500.0200.0600.02094.6588.5595.2060.12500.1700.0000.1400.00096.0595.5099.5070.14000.0900.1600.0400.04061.0059.7267.3580.1550.0300.1200.1400.02070.4037.5052.2590.17000.1500.1000.0400.00083.3082.8599.20100.05000.0700.0600.1200.05084.5090.

8、9095.90110.06500.1900.0400.0200.03069.5061.8088.20120.08000.1300.0000.1200.01094.5597.60103.40130.0950.0500.1600.0200.05070.9562.5460.10140.1100.1700.1400.1000.03087.2091.00103.60150.1250.1100.1000.0000.01064.2058.3058.90160.1400.0300.0800.1000.05086.1575.6586.50170.1550.1500.0400.0000.03077.1571.90

9、91.80180.1700.0900.0200.0800.01096.0594.6098.002MATLAB实现根据BP神经网络理论，在MATLAB软件中编程实现基于BP算法的多层前馈网在催化剂配方中的建模。2.1归一化方法及MATLAB函数数据归一化方法是神经网络预测前对数据常做的一种处理方法。数据归一化处理把所有数据都转化为绝对值为b,l之间的数，其目的是取消各维数据间数量级差别，避免因为输入输出数据数量级差别较大而造成网络预测误差较大。数据归一化的方法主要有以下两种。1）最大最小法。函数形式如下：式中，X为数据序列中的最小数X为序列中的最大数。minmax2）平均数方差法函数形式如下-m

10、ean式中，X为数据序列的均值;X为数据的方差。meanvar本案例采用第二种数据归一化方法归一化函数采用MATLAB自带函数premnmx,该函数有多种形式常用的方法如下。1nput_train1flinpjn.axp=premiunx(input_train);cutpul.trainljmintjnast=preinrm(output_train);input_train,output_train是训练输入、输出原始数据，input_train1,output_train1是归一化后的数据。minp,maxp，mint,maxt为数据归一化后得到的结构体，里面包含了数据最大值、最小值和平

11、均值等信息，可用于测试数据归一化和反归一化。测试数据归一化和反归一化程序如下。input_test是测试输入原始数据，input_test1是归一化后的数据。minp,maxp表示根据input_train的值对input_test进行归一化outputp1是训练输出数据的归一化值，output是反归一化之后的网络预测输出，mint,maxt表示根据output_train对数据进行反归一化。2.2数据选择首先利用正交表安排实验，得到18组准确的实验数据分别作为神经网络的训练样本（15组）及测试样本（3组），分别存储于input_train,output_train二维数组中。5维输入向量与配

12、方组成因素相对应，3维输出向量与三个待优化指标：脂肪酸甲脂转化率TR%、脂肪醇产率YOH%和脂肪醇选择性SOH%相对应。input_train数组为5行15列，output_train数组为3行15列，并对训练数据进行归一化处理。Tnput_tr?iin=O.05000,06500.08000.09500.11000.1250h14000.15500.17000.05000.06500.08000,09500.noo0.1250;0.1300D.D7DD0.19D0D.HOD0.0500D.1700D.09OD0.03000.15000-07000.19000.13DD0.D50D0-1700

13、D.1100；0.080001200O.OSDO0.DC000-020U0-00HOD160D0.12000.ICiOO0-06010.0400LLUUDOLL1600i140i0.1000;0-141：10016000.LI6DLIU.16000-0600LL1400D.04OD0.14000.04000-12000.02LILILL12D0LLD2OUU-1000l：Li：ll：lll：l;0.0400LL02000.ULIDO0.D4000-020U0-00HOD.04OD0.020i：i0.OCIOO0-050U0.i：i：i：ii：iLI.LI1D00.D5000-0300o.oia

14、o,cutput_trairL=94NQss.as60.259：3.0594.6590.asei.ooT0.4D83.30i84.5069.50M.5570.3587.2004.20;96,3075,5040.2157.3LSS,5595r5059.7237.5032.55!90.9061.SO97.6062.5491,0056.50;97.8086.5096.2599.3D95.2099.5067.3552.25gg.20!95.go88.20103.40SO.101D3.6058.3D：;input_tBet=0=140ULL1550D.170D;0-030U0-1600D.Q9LID;0

15、.08000.0400D.02OD0.1000o.ooaoD.08OD0.05000-03000.Q10D;outputas=86-1577.1596.05;75.657L9094.60;36.5091.8Q9B.Q0;2.3BP神经网络结构初始化根据数据特点确定BP神经网络的结构为543,随机初始化BP神经网络权值和阈值。2.4BP神经网络训练用训练数据训练BP神经网络，在训练过程中根据网络预测误差调整网络的权值和阈值。设定训练次数为10000,学习率为0.05，误差限为0.001。2.5结果分析用训练好的BP神经网络测试数据。input_testl=tramrunxCinput_test.

16、minp,maxp);outputl=sim.(nelsinput_tesl1);output=postnminx(output1mintjm.axt)BP神经网络误差如表1.2所示。从BP神经网络分类结果可以看出，基于BP神经网络的算法具有较高的准确性,能够较准确得到催化剂配方配比。表1.2BP神经网络训练结果误差TR%1TR%i相对Y%OH1Y%OH1相对S%OH1S%OH1相对误实测值网络预测值误差实测值网络预测值误差实测值网络预测值差186.1595.76090.111575.6567.93810.101986.5077.97770.0985277.1578.15350.013071.

17、9067.55500.060491.80102.79180.1197396.0596.01750.000394.6067.65120.284898.00103.50100.0561四、实验拓展：1隐含层节点数BP神经网络的隐含层节点数对BP神经网络预测精度有较大的影响:节点数太少，网络不能很好地学习，需要增加训练次数，训练的精度也受影响；节点数太多，训练时间增加,网络容易过拟合。最佳隐含层节点数选择可参考如下公式I.n(I-1I)IV(川+刃T(112)I=lugM(1-13)式中，n为输入层节点数；l为隐含层节点数；m为输出层节点数；a为0-10之间的常数。在实际问题中，隐含层节点数的选择首先是参考公式来确定节点数的大概范围，然后用试凑法确定最佳的节点数。对于本案例，均方误差同隐含层节点数的关系如表1.3所示。可以看出当隐层节点数为7时，均方误差最小，训练结果越精确。表1.3不同隐含层节点数训练结果均方误差l2345678910MSE158.5