选择BP神经网络参数的例子

1、| 维普资讯 h ttp:/Vd. 5 No. 1Mar. ,20。了水利与建筑工程学报Journal <jF Water R出1山首t启 and Architectuml Engineer!皿BP神经网络用于水质评价的参数确定陈兴1,程吉林S刘芳自(1.扬州大学信息工程学院，江苏扬州225009; 2.扬州大学水利科学与工程学院，江苏杨州225009;3一江苏省杨泰水文与水资源勘测局，江苏扬州225002)摘墓：水质评价是事变董的非皱性系貌，而料经网络解决非统性问題有其独到优势，其用于水质评价 是较好的方法口在评折时，神经网皓豔数的确定直接影响到评价的精度°通过对输入辅出数据

2、的归一 化、祝和阖值的初始值以及网给隐层节点数确定方法进行探讨，优化了在水质评价时BP神弊网掛的齧 数并在实际评价中应用从而使评折结果更答观廁符合实际。关ttW:神经网络;水质评价;参数魏定中图分类号：X824,TP183文就标识码；A文章集号：1672-1144(2007)010012-04Parameters of BP Neural Network in Application of Water Quality EvaluationCHEN Xing1, CHENG Ji-lin2 , LIU Fang31、Cdiege uf Irifurrmliim ErigiTieering, Yu

3、ngzh侧 University t Ytirtgxhvu, Jiangsu 225009 * China;2. Cnilege of Hydraulic Science and Engineeting t Yangzhou University t Yangzhou h Jiurtgsu 225009 F Chinu |3” Yangtai hydnjity and WLer Resaurms In-uestigatiurt Bureau af Jiangsu Pruuirtced Yanghou Jiangsu 225002. China)Abstract: Water quality e

4、valuation is a multivariable nonlinear system. As is known to all, neural network (NN) has its original predominance in solving the nonlinear problem so it is a good method to be used for water quality evaluation. The parameters of the neurd network have direct influence on the precision of the eval

5、uation. TTirough the discussion on the normalization of input and output chta, the original value of weight and threshold value, and the ascertaining method of network latent layer node numbers, the parameters of BP NN in water quality evaluation are optimized and applied in practical evaluation, th

6、us making the evaluation outcome more objective and up to practice.Keywords： neural network; water quality evaluation: determination of parameter| 维普资讯 h ttp:/水质评价是水环境習呈计算和水资源系统规划 管理的基础，有基独特的重要性。其评价模型较 多早期的一些方法多数需要设计各评价指标对各 级标准的議展函数及各指标的权重個此，评价结果 受评价者主观因素影响较大q而水质评价是一 个典型的模式识别问题,BP神经网络技术在模式识 别方面已表现出了

7、很好的特性，文猷3创利用BP 神经网络进行水质评价进行了一些应用但对网络 中各种參数的确定都没有深人进行讨论。本文依据 地表水标准地表水环境质盘标准(GB3838 - 2002)，并结合实际，利用文献7的BP神经网络学 习算法对标准中溶解氧等6个指标训练岀5类水质 的权值和阈值，从而计算出实测水庾的相应導级。1 EP神经网络模型结构的选择BP神经网络需要事先确定网络结构，也就是隐 层数的确定。根据knlarnngniow定理叭斛定任一 连续函数广=匕式中，U是闭单 位区何0J可以精确地用一个三层BP网络实 现，并保证了三层网络精确地实现任意连续函数。 本文选择只有一个隐层的RP网络模型。其算法

8、如 下：第一步初始化。将地表水环境质抵标准中 用于训镰的&个指标归一化，将5类水质相应值也| 维普资讯 h ttp:/| 维普资讯 h ttp:/收稿同 ffi；2006-06-01帳構日 1(3:2006-09-05基金前目:教育部髙等学校悼上贞专项科研革金(加0刃1口001)作者简弁战歟1驱一人男血劇他苏武进人曲赋博士生主要研丸方向为水利工程倍息化皆J3R哋理倍息黑域应用第1期陈兴，等:BP神经网络用于水质评价的参数确定13第1期陈兴，等:BP神经网络用于水质评价的参数确定14yi = 1/(1 + e_xf)Q进行归一化，得到输入、输出样本为th t ,j I b1 t2t

9、9; nh $门H = lt2t*fnh = lr2r'*»«/ ； I给各连接权|码、I两|和阖值I跖、河I赋随机的 初始值；第二步 置A二1,把样本对I工"，必丿提供 给网络（h lt*f* tnh,j = 1,，力）；第三步计算机隐层各节点的输入巧、输出乂（=1,2,，応）第四步计算输出层各节点的输人些、输出 y）（i = 1,2 ，疮）niY码 y +茅1-1yj = 1/（1 4- e_Jj）Q（5）第五步计算输岀层各节点所收到的总输人变化时单样本点谋差E*的变化率畫=刃（1旳）（刃一吐订）（6）<j = 1,冷）第六步计算隐层各节点所收到

10、的总输入变 化时单样本点课差的变化率(7)(i = 1,2,*,«£)第七步修正各连接的权值和阈值t¥i &兔叫=3葫一可丢云3；zw+i/VBE*硏7-勺咅-r+l -x9E*3 hi =3加一引厲文和；(10)矶一仿-帀筑。(11)式中M为修正次数训为学习速率。第八步 取k = k-务取学习模式对 dkti提供给网络，转第三步，直至全部nk个模式对 圳练完毕，转第九步臼第九步重:复第二步至第八步，直至网络全局 误差函数E =若E*二若£ © -血丿（ 小于预先龊的一术廖爲或学习次数大于预先设定的值，结束学习。2输入输出数据的归一化处

11、理2-1输入数据的归一化处理输入样本根据实际情况选择了<地表水环境质 量标准中溶解氧、氨氮等6个崔标的数据，为消除 各指标值的量纲和统一各指标值的变化范围，可釆 用下列方法进行归一化处理。设各指标值的样本 集为龙二人仏= nkhj = I诚“，其中工；山 为第k个样本第h个指标值对于水质样本，通常有 三种量：（1）对值牆大污染越严重指标的处理公式%h -（13）<2）对于值越小污染越严重的指标处理公式禺M = 1 £；.hg,h（14）（3）对于值越中等污染越严重的指标处理公式式中:弓心工“心嗣川分别是水质评价标准表中最高等级样本的第怡个评价措标的临界值、最低等级第k个评

12、价指标的临界值和第去个评价指标的中间 最适值;冲川为第k个样本第h个评价指标去量纲后 的值；£用于调整耳川，使工E O.ljo2.2 输出值的归一化处理输出值中分类数据的取值不同,也可能会形响 到迭代次数和精度，取得不适当，甚至结果会发散。 如水质评估输出分成5类，可以取等间隔的值如：dj = (0.2,0.4,0.6,0.8,1.0)(16)也可取dj = (l/Nt2/Nr-,p/N)(17)式中N = 1 + 2 + '* + pp为分类数。3隐层结点数的确定长期以来,隐层结点数的确定尚缺乏严格的理 论依据描导，主要根据实际所用模型及具体问题来 确定。目前的研究成果大致

13、可以分为以下几类： 3.1凑试谖该方法的思想是针对实际问题凭借经验知识构 造结构不同的若干网络，分别进行训练，再根据性能 评价,挑选出最满意的隐层结点数该方法过程 繁琐，式童较大。3.2修剪法从一个大规模的网络开始，通过柱训练过程中|维普贽讯 nnp:/www.cqvip.corn|14水利与建筑工程学报|维普贽讯 nnp:/www.cqvip.corn|维普贽讯 nnp:/www.cqvip.corn|仃8)逐步删除那些不必旻的节点和权值，最终找到较滿 意的隐层结点数33直接定型法指设计者依据经验，设计一个固定的网络隐层 结点数q如宜接依据Kolmogorov定理，对于n个 输人结点的网络，

14、采用2n十1个隐层点;或者报据 付英尊在文献12中给出选择隐层结点的经验公 式：L>ti + m 1 p式中rL为隐结点;H为输人结点数;m为输岀结点j P为学习样本数。一般而言隐层结点数的取值范围 为 A< L<3AO3.4增长法这种方法跟修剪法正好相反，它是从一个小规 摸的网络开始，通过在训练中根据网络性能要求逐 步增加结点数。根据我们的试算，隐层结点的范围 在上面3)中所述较好口除了上述方法外,还有用遗传算法、自适应算法 等确定参数的但都要根据具体问题来确定。4计算实例在地表水环境质量标准中选择6个实际评价 指标及其5类标准值作为训练输人样本见表1,输 出值分为5种情况

15、，并统一进行归一化。因为该问 题中训练样本较少*但其代表性是很好的，要使最后 实测值评价相对准确,其训练出来的权和阈值应最 佳。我们对权和阈值的初始值、隐层结点数、学习速 率和输出值的归一化方法考虑多种情况进行训练, 并比较各种情况的性能,找出一组最佳的网络参数。衰1地農水环境质标准(GB3838-2002单位:mg/LI类II类ID类IV类V类7,56531.52.0高越酸盐措数M2461015生化BOQsC3346100.0020.002.0.0050.010.1机化物瑤0.0050.04.1 mss点数的确定首先权和國值取(-CL 1,0.1),

16、输出值取(17) 式的形式，精度£ = 0,0001,学习速率 厂0.5,隐层 结点数根据(18)式的计算结果A = 4.所以取为5 13,即网络结构为6：513：1分别进行了训练，其训 练结果如图1所示。从图中可以看出，隐层结点选 10最佳，其训练出来的平均误差最小。隐見皓点故圈I隐层结点数与课變关系曲线4.2输出值取值方法在上面确定网络结构基础上，将输出值分别取 (16)和(17)式蘭种情况进行计算,结果如表2所示。 从表中很明显可以看出，输出值取(17)式更佳口*2两神输出取值训体结果鑫数I类11类DI类N类V类标稚输出0.81.0阳皓*出0.3560,589

17、0,7640.89B0.9940.1560JR90.1640.098-0.006标涮*出0.0670.1330.2000.2670.333网络输出00770.1250,2030,2720,3360.01070080.0030.0050.0034.3权和阈值初始值的确定BP算法的传递函数取为S型条件下许多资料 都说，权和陶值的切始值应取0-1之间的随机数。 但根据计算，取-0.1-0. 1之何的均匀随机数更 好。4.4评价实例报据上面计算结果，确定网络最隹参数，即：网 络隐层结点数为10,权和阈值初始值*-0.1-0,1 之间的均匀随机数，输出值取为(17)式的形式。根 据这样的网络参数训练岀来

18、一组权和阈值，对扬州 市古运河的扬州闸断面2004年全年的实测水质数 据进行了评价，其评价结果如表3所示乜从表中结 果看，比原来单因子评价法(最差指标作为茨水质评 价结果)的结果更容规，里准确o5结论神经网络用于水质评价大大提高评价的客观 性，但网络的参数不同对评价结果有较大的影响,S 此如何确定网络的参数是关健，本文对权和阈值初 始值的取法、网络隐层结点数、输出值的设计尊进行 了研究，经实际应用得到了较好的效果但网络参 数的确定往往与实际解决的问题有关，所以如何找 出规律性的参数还有待研究。第1期陈兴，等:BP神经网络用于水质评价的参数确定15M3 2004年扬州市内古运河扬州斷面实测数据及

19、评价结II单位:mg/L日期虱氤生化襦氣澤发酣帆化詢输出值单丙7怦价BP网堆评价2004-01-0610.90,934*43.5<0.002<0,004Q. 1495hi类II类2004-02-111L61.134h52.0<0.002<0.0040.1476IV类d类2004-030110.02,654.37.4<0.002<0.0040.1998翁于V类ID类2004-04441.3<0,002<0.0040.1577庄类m类2004-05-108.50.553.41.2<0,002<0.0040.1570i

20、n类m类2004-06098.00,252.90.8<0.002<0.0040.1518(I类m类2004-07-077,10.474.21.4<0/002<0.0040.1725m类m类2004-OS-110.81,5414.87.0<0.002<0.004« 0.3044劈于¥类V攬2004-09X)80,83.656,35.0<0,002<0.0040.3208宝于¥类V类2004-1037.70.344.60.6<0,002<0.0040,1721m类ID类2004-11X)7S.90.284,4

21、1,5<0.002<0.0040J52O皿类ID类2004-12-1510.70.0941.B<0,002<0.0040J30in类11类性：其中挥发酚和戡化物小于枪出限的均按检出跟的1戍奥加H算。第1期陈兴，等:BP神经网络用于水质评价的参数确定#第1期陈兴，等:BP神经网络用于水质评价的参数确定#發考文献：1 李如忠水质评价理论模式硏究进展及趋势分折J1. 合肥工业大学学报,2005,28(4)： 369-372.2 纪桂WL李培红.水环境质量评价的人工神经网络樓塑 及其应用Jh华北水利水电学院学报,1999,20(1)： 60-62.3 禮玉波，王进宝.水环境质量

22、粽合评价的B-P网络及层 次分析扶J.太原理工大学学报4998,29(4):441-444.斗冯耀龙，杨庆学应用神经网培评价于桥水库水质J 那河水利1999卫；3也40+5 杨志英.BP神经网络在水质评价中的应用J.中国农 村水利水电,2001 ,(9)128-29-6 刘连芳，魏砾宏，李爱民，等，神经网络摸和在辽河水质 壷评价中的应用J.城市环境与城市生态,2003,16 (6):251-253.了金菊良，丁晶著水资源系统工程M.成都;四川科学 技术出版社，2002.8 赵振宁，徐用懋.摸糊理论和神经网蝎的基础与应用 MJt京:清华大学出版社,1996.9 金菊良，黄款梅，魏一鸣.基于组合权堇的水质评价模 刑Jh水力发电学报,2004,23(3):13-19.10 Husken M. et al. Structure optimization of neural ne works for evolutionary design optimisation J + Soft computing诅 fusion of Foundations , Methodologies and Applicaiionst2005,9( 1) ；21-28-11 Hyunjin Lce.et al. Network optimization through learn