改进的粒子群优化算法及其在软测量中的应用

1、改进的粒子群优化算法及其在软测量中的应用王改堂1，李平2,苏成利2 (1.西北工业大学自动化学院, 陕西 西安710072;2.辽宁石油化工大学信息与控制工程学院, 辽宁 抚顺 113001)摘要：针对粒子群优化算法不易跳出局部最优的缺点，提出了一种自适应变异的动态粒子群优化算法。该算法除了采用动态惯性权重外，还引入了自适应学习因子和新的变异算子。通过对几种典型函数的优化问题进行测试，结果表明：与动态改变惯性权重的自适应粒子群算法(DCW)算法和PSO算法相比，新算法具有很强的全局搜索能力,收敛速度和收敛精度也有所提高。然后，用该算法训练神经网络，并将其用于延迟焦化汽油干点软测量建模，仿真结果

2、表明该算法具有较高的预测精度和良好的泛化性能。关键词：粒子群优化算法；自适应变异；软测量；神经网络；汽油干点中图分类号：TP202+.7 文献标识码：AAn Improved Particle Swarm Optimization Algorithm and Its Application in Soft Sensor Modeling WANG Gai-tang1 LI Ping2 SU Cheng-li2(1.School of Automation, Northwestern Polytechnical University, Xian Shanxi 710072, China; 2.

3、School of Information and Control Engineering, Liaoning ShiHua University, Fushun Liaoning 113001, China)ABSTRACT：Presented is a dynamic particle swarm optimization algorithm based on adaptive mutation, to solve the problem that particle swarm optimization algorithm is apt to trap in local mini

4、mums. Besides that it makes use of adaptive inertia weight, adaptive term coefficients and new mutation operator were introduced to the algorithm. The proposed algorithm are used to resolve the optimization problems of several standard test functions, and the result shows that the new algorithm has

5、great global search ability, convergence accuracy and convergence velocity is also increased than PSO and DCW (adaptive particle swarm algorithm with dynamically changing inertia weigh) algorithm. Then, the algorithm is employed to train artificial neural network and applied to soft-sensing of gasol

6、ine end point in delayed coking. The simulation results show that the algorithm has better predict precision and good generalization performance. KEYWORDS：particle swarm optimization; adaptive mutation; soft sensor; neural network; gasoline end point1引言基金项目：辽宁省高等学校优秀人才支持计划资助(2008RC32);辽宁省高校创新团队支持计划资

7、助(2007T103,2009T062);辽宁省教育厅科技计划资助项目(2008386)基金项目：辽宁省高等学校优秀人才支持计划资助(2008RC32);辽宁省高校创新团队支持计划资助(2007T103,2009T062);辽宁省教育厅科技计划资助项目(2008386)粒子群优化（Particle Swarm Optimization, PSO)算法是1995年提出的一类基于群体智能的随机优化算法1。与遗传算法和蚁群算法等全局优化算法相比，粒子群优化算法具有收敛速度快、设置参数少、算法简单、容易实现等特点，因此广泛地被应用于系统辨识2-3、神经网络训练4等领域。但该算法同样存在早熟收敛和后期振

8、荡现象等缺陷，针对这些问题国内外学者提出了各种各样的改进算法5-10。在粒子群优化算法的可调整参数中，惯性权重是一个重要参数，该参数取值的好坏直接关系到算法的性能。关于惯量权重如何取值，如何调整的问题，文献6提出了惯量权重线性递减(Linearly Decreasing Weight，LDW)的调整方法，但该算法不能适应复杂的非线性优化搜索过程的问题。为了解决这一问题，文献8提出了动态改变惯性权重的自适应粒子群算法(DCW)，在该算法中引入了粒子群进化速度因子和聚集度因子两个参数来动态调节惯性权重。文献5实验结果表明：DCW算法的收敛速度明显优于LCD，收敛精度也有所提高,但DCW算法跳出局部

9、搜索的能力比LCD算法差。文献8也指出粒子群中的所有粒子具有同一性时,如果此时算法陷入局部最优,则结果不容易跳出该局部极值点。为解决了DCW算法不易跳出局部搜索能力的缺点，本文提出了一种基于自适应变异的动态粒子群优化算法。由于神经网络具有较强的非线性拟合能力，成为目前最流行的一种软测量建模方法且广泛地应用于软测量建模中11-14。针对梯度下降学习方法训练神经网络具有收敛速度慢或易陷入局部最小等的缺陷，本文采用改进的粒子群优化算法训练的神经网络的权值参数，并将它应用到延迟焦化汽油干点的软测量建模中，取得了满意的效果。2 DCW算法粒子群优化算法首先初始化一群随机粒子,然后通过迭代找到最优解。在每

10、一次迭代中,每个粒子跟踪个体最优值、全局最优值和前一时刻的状态来更新当前时刻的位置和飞行速度，其迭代公式如下8： (1) (2)其中：是粒子的速度,是粒子的当前位置,是粒子通过跟踪当前自身找到的个体最优值,整个种群找到的全局最优值,为0,1之间的随机数, 学习因子为非负常数。为动态惯性权重因子，表示为进化速度和聚集度的函数8,即： (3)其中： (4) (5)式中,为上一次迭代的全局最优值,为当前迭代的全局最优值，为所有粒子当前适应度值的平均值。参数反映了粒子群进化速度，参数反映了所有粒子当前的聚集程度,同时在一定程度上也反映出粒子的多样性。文献8指出,当时,粒子群中的所有粒子具有同一性,如果

11、此时算法陷入局部最优,则结果不容易跳出该局部极点。文献5指出,与进化速度因子呈反向关系，与聚集度因子呈正向关系，公式表示如下： (6)式中,为的初始值，一般。和分别为和的比例因子,的取值范围在0.4-0.6之间，的取值范围在0.05-0.2之间。3自适应变异的动态粒子群优化算法在改进的算法中，有两个较为关键的问题：一个就是确定变异的合适时机，另一个是如何对符合变异条件的粒子进行变异。文献10表明，粒子群优化算法无论出现全局收敛还是早熟收敛,粒子群中的粒子将聚集在搜索空间的一个或几个特定位置,此时群体适应度方差等于零。群体适应度方差等于零只是表明算法已达到全局收敛或局部收敛，仅凭这一点不能判断算

12、法是否陷入局部收敛，还要根据此时得到的最优解与理论全局最优解(或期望最优解)做比较,才可以判断出此时得到的最优解是全局极值还是局部极值。如果判断出算法已经趋于局部收敛时，想办法让粒子脱离开这种“聚集”现象，进入其它的搜索区域进行搜索，最终算法就可能发现新的个体极值和全局极值。如此循环下去，算法就更有望找到全局最优解。考虑到改进算法运算的高效、快速性，所以对满足变异条件的按一定的概率变异，计算公式10如下： (7)式中,k可以取0.1,0.3之间的任意数值。的取值与实际问题有关,一般远小于的最大值。可以设置为理论最优解或期望最优解。如果算法已陷入局部收敛，这就需要对出现“聚集”现象的粒子进行变异

13、操作，使其进入其它的搜索区域进行搜索。本文将采用新的随机扰动的变异策略方法，设为的第k维取值,是服从正态分布的随机变量，则： (8)综上所述,本文提出算法的步骤如下：步骤1:初始化,和，置,=0和=0。步骤2:初始化粒子的位置向量、速度向量,计算粒子的适应度。步骤3:初始化粒子的全局最优值和个体最优值，并将粒子的设置为当前位置,设置为初始群体中最佳粒子的位置。步骤4:如果算法满足收敛准则或达到最大迭代次数,执行步骤11,否则,执行步骤5。步骤5:对于粒子群中的所有粒子,执行如下操作：计算所有粒子的平均适应度，并根据文献9计算自适应学习因子。根据式(1)、(2)和(6)更新粒子的位置与速度。如果

14、粒子适应度优于的适应度,设置为新位置.如果粒子适应度优于的适应度,设置为新位置. 步骤6:计算群体适应度方差10和。步骤7:根据式(7)计算变异概率pm。步骤8:产生随机数r0,1,如果r<pm,按式(8)执行变异操作;否则,转向步骤9。步骤9:根据式(4)和式(5),分别计算和。步骤10:将迭代次数加1,并执行步骤4。步骤11: 输出,算法结束。4仿真实验为了验证提出算法的有效性,本文对测试函数：Rosenbrock函数、Rastrigrin函数和Schaffer f6函数的优化问题进行测试。其中这三个函数用遗传算法优化难度均较大,通常被用来比较算法的性能。 Rosenbrock函数，

15、即；Rastrigrin函数，即；Schaffer f6函数，即其中，Rosenbrock函数和Rastrigrin函数都有一个全局极小点,其函数值为0,这两个函数经常用来评价粒子群算法的收敛速度。Schaffers f6有一个全局极大解1,Schaffers f6函数的全局最优点被一圈局部最优点包围,算法极易陷入局部最优点,所以经常用来评价算法跳出局部最优的能力。在运行过程中，取,对于Rosenbrock函数和Rastrigrin函数,粒子维数分别为8和10,粒子规模取为30,最大迭代次数分别为200和1000。对于Schaffers f6函数,粒子维数为2,最大迭代次数为200。本文将改进

16、的算法与DCW算法、PSO算法进行了比较，对于Schaffers f6函数的实验结果，本文提出的算法从第6次迭代开始结果就为1，而DCW在第95次迭代其结果才为1。结果如表1和图1-图3所示。表1 三种算法的运行结果比较函数理论最优解PSODCW本文改进的算法0014.1379e+003426.12010.9902818.1124258.376810.2097 (, k=0.3)0 (, k=0.3)1 (,k=0.3) 图1 Rosenbrock函数寻优曲线 图2 Rastrigrin函数寻优曲线 图3 Schaffers f6函数寻优曲线从图2和图3中可以直观看出，对于Rastrigrin

17、函数和Schaffers f6函数，本文提出的算法收敛速度明显优于DCW算法PSO算法，而且最优解也是最好的。对于Rosenbrock函数，从图1中可以看出PSO算法的最优解最差。从表1中可以看出，本文提出的改进算法收敛精度远远比DCW算法和PSO算法好。5改进的算法在延迟焦化汽油干点软测量中的应用5.1 影响因素分析和辅助变量选择分馏塔的产品组成极其复杂，在实际生产中，延迟焦化汽油干点无法用机理方法计算，而是采用离线实验室分析获得，但离线分析滞后数小时，且分析采样次数少(8小时/次)，远远不能满足控制的要求。因此，采用软测量技术建立汽油干点估计模型，对提高装置的经济效益是非常必要的。影响延迟

18、焦化汽油干点的因素很多，如分馏塔塔顶温度、塔顶压力、汽油抽出量、顶回流温度、顶回流量、蒸发段温度、加热炉出口温度、注水量、进料温度、塔顶压力、塔底温度等。经过全面的工艺机理分析和与现场工艺人员充分讨论的基础上，确定影响粗汽油干点的最主要因素：分馏塔塔顶温度(T1)、塔顶压力(P)、汽油抽出量(F1)、塔顶回流温度(T2)、塔顶回流量(F2)等5个变量作为辅助变量。用表示汽油干点, 则与上述辅助变量可以表示为如下式(9)的非线性关系，表示误差。 (9)式中，为复杂的多变量非线性函数。在本文，采用改进的粒子群优化的神经网络拟合函数。5.2 基于改进的粒子群优化的神经网络汽油干点软测量将改进的粒子群

19、优化算法用来训练神经网络，并用作延迟焦化汽油干点的软测量模型。本文采用一个简单的三层BP神经网络：输入层、隐含层、输出层。网络有5个输入、1个隐含层(隐含层节点数为20, 隐含层采用Sigmoid函数作为激活函数)、1个输出(即汽油干点，输出层采用Purelin函数作为激活函数)，构造出结构为5-20-1的神经网络作为软测量模型，模型的目标函数为: (10)其中，N为样本个数,(i =1,2,n)为汽油干点的实际值,(i =1,2,n)为汽油干点模型预测值。将采集到的330组数据经过数据预处理后，其中230组用于对改进的粒子群神经网络进行训练，本文采用多组参数对网络进行训练，通过对训练结果比较

20、，最后确定参数,，粒子数为30。利用训练得到的模型，用剩余的100组数据对所建模型进行检验，其预测结果如图4(a)所示。采用同样的数据，用DCW算法训练神经网络(DCWBP)和BP神经网络对汽油干点进行预测，预测结果分别如图4(b)和图4(c)所示。图5为三种算法的的误差结果对比图。表2给出了三种算法的性能比较。从图4和表1可以看出，利用该模型得到的汽油干点更接近实际值，且均方差RMSE也最小，从而说明该算法具有较高的预测精度和泛化能力。(a) 本文算法(b)DCWBP算法(c) BP算法图4检验集下几种算法的预测结果与误差图5检验集下三种算法的预测误差对比表2 三种算法的预测性能比较算法BP

21、DCWBP本文算法RMSE1.25220.94070.53715 结 论提出了基于自适应变异的动态粒子群优化算法。通过对几种典型函数优化问题进行测试，结果表明该算法具有较好的优化性能。改进的粒子群神经网络成功地用于延迟焦化汽油干点的软测量建模中，与DCWBP和BP算法相比，本文提出的算法具有较高的预测精度和较好的泛化性能以及良好的应用前景。参考文献：1 Kennedy J, Eberhert R. Particle swarm optimization J. IEEE International Conference on Neural Networks,1995:1942-1942 王峰,邢

22、科义,徐小平.系统辨识的粒子群优化方法J.西安交通大学学报, 2009,43(2):116-120.3 Mark S Voss,Xin Feng.ARMA model selection using particle swarm optimization and AIC criteriaA.15th Triennial World CongressC.Barcelona,Spain:IFAC,2002.4 Bingxiang Zhong, Debiao Wang, Taifu Li. Application of Optimized Neural Network Based on Partic

23、le Swarm Optimization Algorithm in Fault DiagnosisJ.Proc.8th IEEE Int.Conf.on Cognitive Informatics (ICCI'09), 2009:476-480.5 张玉芳,薛青松,熊忠阳.基于禁忌搜索的动态粒子群算法J.计算机工程与应用, 2008,44(24):56-58.6 Shi Y, Eberhart R C. Empirical study of particle swarm optimizationC.Proceedings of the IEEE Congress on Evolutionary Computation,1999:1945-1950.7 王启付,王战江,王书亭.一种动态改变惯性权重