（系统工程专业论文）基于支持向量机的甲醛浓度软测量.pdf

大连理t 火学硕十学位论文 摘要 在实际工业生产过程中，存在许多无法在线测量的重要过程变量，例如甲醛生产过 程中最终产物甲醛浓度的测量，生物发酵过程中1 ，3 丙二醇的浓度的测量等。为了解决 此类问题，软测量技术应运而生。软测量是通过对可测变量的检测、变换和计算，间接 得到待测变量的估计值。具有单个隐层以上的前馈网络可以任意精度逼近非线性函数， 因此有许多学者应用神经网络来进行软测量。但是神经网络技术存在一些缺陷，首先是 网络结构难以确定，其次是神经网络容易陷入局部最小点。由v a p n i k 提出的支持向量 机是一种基于结构风险最小化的学习技术，它具有更严格的理论和数学基础，不存在局 部最小点问题，不过分依赖样本的质量和数量等优点，因此适于对复杂工业过程变量的 软测量。 甲醛用途十分广泛，涉及合成树脂、塑料、橡胶、造纸、制药和防腐等领域。目前， 甲醛生产过程中甲醛浓度是采用人工滴定的方式测得的，这就不可避免人与甲醛的直接 接触。因为甲醛有剧毒，会对人体造成很大的伤害。针对这一重要问题，本文建立了基 于支持向量机的甲醛浓度软测量模型，并针对支持向量机在实际应用中的关键技术，提 出了一种基于二次规划的参数选取方法，通过仿真实验证实了该方法的有效性。 论文首先阐述了软测量的工程背景、软测量技术及工程实现方法，阐述了软测量的 建模方法和发展状况。其次，论文在对统计学习理论和支持向量机相关理论介绍的基础 上，针对甲醛浓度的软测量问题，利用支持向量机v - s v r 技术建立了甲醛浓度的软测量 模型。第三，为确定模型中的待定参数，并保证软测量的精度，本文利用二次规划技术 提出了一种新的参数选取方法，对交叉验证法和网格法选取参数进行了改进，论文中给 出了详细的参数选取算法流程图，且简单易于实现。最后，本文给出了甲醛浓度软测量 的具体实现步骤，利用仿真实验验证了基于支持向量机的软测量模型比以往常用建模方 法如r b f 神经网络建立的模型具有更好的推广能力，同时也验证了本文提出的参数选 取方法比以往常用的参数选取方法更具有效性。 关键词：甲醛；软测量；支持向量机；核函数 人连理i ：人学硕十学位论文 t h es o f t s e n s i n go ff o r m a l d e h y d ec o n c e n t r a t i o nb a s e do ns v m a b s t r a c t 1 1 1t h er e a lp r o d u c e p r o g r e s so fi n d u s t r y , t h e r ea r el o t so fp r o g r e s sp a r a m e t e r st h a tc a n t b em e a s u r eo n l i n e f o re x a m p l e ，i nt h ep r o d u c ep r o g r e s so ff o r m a l d e h y d e ，a st h el a s t e d p r o d u c t i o n ，t h ec o n c e n t r a t i o nm e a s u r e m e n to ft h ef o r m a l d e h y d e ，i nt h ep r o g r e s so fb i o l o g y f e r m e n t ，t h ec o n c e n t r a t i o nm e a s u r e m e n to f1 ，3 - p r o p a n e d i o la n ds oo n i no r d e rt os o l v e t h e s ek i n d so fp r o b l e m ，t h es o f t s e n s i n gt e c h n o l o g yi su s e dw i d e l y s o f t s e n s i n gu s u a l l yg e t s t h et a r g e tp a r a m e t e ri n d i r e c t l yb yd e t e c t ，t r a n s f o r ma n dc a l c u l a t i o nt h ef a t h o m a b l ep a r a m e t e r t h eb a c kp r o m u l g a t en e t w o r kw i t ha tl e s t s i n g l eh i d el a y e rc a na p p r o a c ht h en o n l i n e a r f u n c t i o na ta n yp r e c i s i o n ，s ot h e r ea r em a n yo fs c h o l a r su s ea r t i f i c i a ln e r v en e t w o r kt o s o f t s e n s i n g b u tt h ea n nt e c h n o l o g yh a ss o m ed e f e c t i o n s ，f i r s to fa l l ，t h es t r u c t u r eo ft h e n e t w o r ki sh a r dt of i x ；s e c o n d l y ，a n ne a s yt og e t si nl o c a lo p t i m i z a t i o np o i n t s u p p o r t v e c t o rm a c h i n ei sal e a r n i n g t e c h n o l o g yb a s e do ns t r u c t u r er i s km i n i m i z a t i o nw h i c h p r o m o t e db yv a p n i k ，i t sh o l d st h es t r i c tt h e o r ya n dm a t h e m a t i c sb a s e m e n tw h i c hd o e s n t e x i s t sl o c a lo p t i m i z a t i o n a n dd o e s n tr e l yo nt h eq u a l i t ya n dt h en u m b e ro ft r a i n i n gd a t a e x c e s s i v e l y ，s oi tf i tt ot h ec o m p l e xi n d u s t r yp r o g r e s so fs o f t - s e n s i n g f o r m a l d e h y d ei sw i d e l yu s e di nv i n y l i t e ，p l a s t i c ，r u b b e r ，p a p e rm a k i n g ，p h a r m a c y ，a n d a n t i s e p s i sa n ds oo n i nt h ep r o d u c ep r o g r e s so ff o r m a l d e h y d e ，t h ec o n c e n t r a t i o no f f o r m a l d e hy d ei sm e a s u r e db yt i t r a t i o nw a y s oi ti su n a v o i d a b l et h a tt h ep e r s o n st o u c ht h e f o r m a l d e h y d e b u tf o r m a l d e h y d ei sv i r u l e n t ，t h a tm u s td oag r e a th a r mt ot h ep e r s o n s i n o r d e rt os o l v et h ei m p o r t a n tp r o b l e m ，t h i sp a p e rb u i l d sa s o f t s e n s i n gm o d e lo ff o r m a l d e h y d e c o n c e n t r a t i o nb a s e do ns v m a n di no r d e rt os o l v et h ek e yt e c h n o l o g yo ft h es v mi nt h e r e a la p p l i c a t i o n ，i tp r o m o t e sap a r a m e t e rc h o o s em e t h o db a s e do nq u a d r a t i cp r o g r a m m i n g , a n dv a l i d a t ei t sa v a i l a b i l i t yb ys i m u l a t i o n f i r s to fa l l ，t h i sp a p e re x p o u n d st h ep r o j e c tb a c k g r o u n d ，s o f t - s e n s i n gt e c h n o l o g ya n d p r o j e c ti m p l e m e n to fs o f t - s e n s i n g ，e x p o u n d st h em o d e l i n gm e t h o da n dd e v e l o p m e n ts t a t eo f s o f t s e n s i n g s e c o n d l y ，t os o l v et h ep r o b l e mo fs o f ts e n s i n go ff o r m a l d e h y d ec o n c e n t r a t i o n ， t h i sp a p e rb u i l d sas o f t s e n s i n gm o d e lo ff o r m a l d e h y d ec o n c e n t r a t i o nu s i n gs v m ，b a s e do n i n t r o d u c e st h eb a s i ct h e o r yo fs t a t i s t i c a ll e a r n i n gt h e o r ya n ds v m t h i r d l y i no r d e rt o i d e n t i f yt h eu n c e r t a i np a r a m e t e r s ，i tp r e s e n t san e ws t r a t e g yt os e l e c tt h ep a r a m e t e r so ft h e m o d e lb yi m p r o v i n gt h ec r o s sv a l i d a t i o nm e t h o da n dg r i d - s e a r c h i n gm e t h o du s i n gq u a d r a t i c t e c h n o l o g y ，t h e r ei sad e t a i l e da r i t h m e t i cs t e p so ft h ep a r a m e t e rc h o o s em e t h o di nt h ep a p e r , a n di t e a s yt or e a l i z e a tl a s t i tp r e s e n t st h ed e t a i lr e a l i z a t i o ns t e p so ft h ef o r m a l d e h y d e 基丁支持向苗机的甲醛浓度软测量 c o n c e n t r a t i o ns o f t s e n s i n g ，i tv a l i d a t e st h em o d e lb a s e do ns v mh o l d sb e t t e re x t e n da b i l i t y t h a nt h em o d e lb a s e do nr b f ，a tt h es a m et i m e ，i ta l s ov a l i d a t e st h ev a l i d i t yo ft h ep a r a m e t e r c h o o s em e t h o dp r o m o t e db yt h i sp a p e ri sb e t t e rt h a nt h em e t h o dw eu s u a l l yu s e db e f o r e k e yw o r d s ：f o r m a l d e h y d e ；s o f t - s e n s i n g ；s u p p o r tv e c t o rm a c h i n e ；k e r n e lf u n c t i o n 大连理工大学学位论文独创性声明 作者郑重声明：所呈交的学位论文，是本人在导师的指导下进行研究 工作所取得的成果。尽我所知，除文中已经注明引用内容和致谢的地方外， 本论文不包含其他个人或集体已经发表的研究成果，也不包含其他已申请 学位或其他用途使用过的成果。与我一同工作的同志对本研究所做的贡献 均已在论文中做了明确的说明并表示了谢意。 若有不实之处，本人愿意承担相关法律责任。 学位论文题目基王玄挂自量扭数里醛速度筮测量 作者签名：通& 支良 日期：趔& 年j 三月2 生日 人迩理i ：人学硕十研究生学何论文 大连理工大学学位论文版权使用授权书 本人完全了解学校有关学位论文知识产权的规定，在校攻读学位期间 论文工作的知识产权属于大连理工大学，允许论文被查阅和借阅。学校有 权保留论文并向国家有关部门或机构送交论文的复印件和电子版，可以将 本学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、 缩印、或扫描等复制手段保存和汇编本学位论文。 学位论文题目： 基王玄挂自量狃鲍里醛这廑筮测量 作者签名： 戤盘整 日期：塑盘年垒月2 三日 导师签名： 砺伊移 r 大连理t 人学硕十学位论文 引言 软测量技术主要解决工业过程控制中变量的检测问题。在实际控制系统中，由于 工艺和技术的限制，许多重要的过程变量难以实时在线检测。为解决由此问题带来的 控制问题，以往主要存在两种方法 l j ：一是采用间接的质量指标控制，但此方法难以保 证最终质量指标的控制精度；二是采用在线分析仪表，并用硬件予以实现，这种方法 开发费用高、硬件投资大、原理复杂，因此除了在少数特殊情况以外，并没有被工业 控制界广泛接受和采纳。高级过程控制理论的出现和成熟，直接促成了软测量技术的 形成和发展。 软测量技术就是建立待测变量与可测或易测的过程变量之问的非线性函数关系， 通过对可测变量的变换计算，间接得到待测变量的估计值。软测量建模方法主要有机 理建模方法和辨识建模方法；辨识建模方法又分有动念模型f 日j 接建模、静态模型辨识 和非线性建模。通过适当选择神经网络的隐单元数和网络层次，前馈网络能以任意精 度逼近非线性函到2 1 ，因此人工神经网络技术已经广泛应用到工业过程建模和控制中。 目前有许多学者成功地应用神经网络进行软测量建模，其中比较有代表性的是r b f 神 经网络【3 1 。 但是，神经网络依然存在一些缺陷【3 1 。第一，网络结构需要事先指定或应用启发式 算法在训练过程中修正，这些启发式算法难以保证网络结构的最优化，对于多层网络， 这是一个很复杂的组合问题；第二，网络权系数的调整方法存在局限性，表现在训练 可能过早结束，权值衰退等等；第三，神经网络容易陷入局部最小点，有些训练算法 甚至不能得到最小，这样，为了得到更好的泛化性能，只能牺牲网络的性能，而这种 问接控制系统的能力，和最优相去甚远；第四，过分依赖学习数据的质量和数量，模 型性能的好坏取决于模型训练过程中样本数据的数量和质量。然而，大多数情况下， 数据有限，而且不一致。许多问题中的输入空间是高维的，得到的数据仅是输入空间 的稀疏分布。即使有高质量的训练数据，大量数据必然会大大增加算法的训练时间。 针对用于非线性函数估计的r b f 神经网络，神经网络的缺陷具体表现为以下问题1 4 j ： 1 ) 网络基函数中心点难以确定；2 ) 输出权值计算过程中存在数值变态问题；3 ) 网络 的在线校正效果不明显；4 ) 网络的泛化能力不强。对于前三个问题，文献【4 ，5 】在一定 程度上加以改进。由于网络易导致过学习，目前还没有有效提高网络泛化能力的方法。 支持向量 f l , ( s u p p o r tv e c t o rm a c h i n e ，s v m ) 是1 9 6 0 年由v a p n i k 提出的i6 。1 9 7 1 年， k i m e l d o r f 提出使用线性不等约束重新构造s v 的核空间，解决了一部分线性不可分问 题1 7 。1 9 9 0 年，g r a c e ，b o s e r 和v a p n i k 等人了 ：始对s v m 进行研究，并丌始取得突破 基于支持向量机的甲醛浓度软测鼙 性进展，直到1 9 9 5 年v a p n i k 正式提出统计学习理谢剐，并较好地解决了线性不可分问 题，从而奠定了支持向量机的理论基础。支持向量机实质上是统计学习理论在实际应 用中的一种实现方法。它在解决小样本、非线性及高维模式识别问题中表现出许多特 有的优势，而且可以推广应用到函数估计等其他机器学习问题中。相对于神经网络的 启发式学习方式和实现中带有的很大的经验成分相比，有更严格的理论和数学基础， 不存在局部最小点问题，小样本学习使它具有很强的推广能力，不过分依赖样本的数 量和质量。尽管它的研究和应用刚刚丌始，已经有大量的文献报道了它在各个领域的 应用，如模式识别、回归估计和时序预测等。支持向量机基本思想是把训练数据集从 输入空问非线性地映射到一个高维特征空间( h i l b e r t 空间) ，然后在此空间中求解凸优化 问题( 典型二次规划问题) 。支持向量机的最优求解基于结构风险最小化思想，比其他 非线性函数逼近方法具有更强的泛化能力。 因此，采用支持向量机技术建模是一个有前途的研究方向。支持向量机包括支持 向量分类机( s u p p o r t v e c t o rc l a s s i f i c a t i o n ，s v c ) 和支持向量回归机( s u p p o av e c t o r r e g r e s s i o n ，s v r ) ，支持向量回归机又包括占一s v r 、 一s v r 和l s s v r 。由于 一s v r 模型中，u 有明确的实际意义，并且模型实现比较方便，因此本文将采用v - s v r 技术对 甲醛生产过程建模，解决甲醛浓度的软测量问题。 人连理t 火学硕十学位论文 1 研究背景及软测量技术概述 1 1工程背景 在许多工业控制场合，存在着一类这样的变量：它们与产品质量密切相关，需要 加以严格控制，但是由于经济或技术的原因( 如在线测量仪表价格昂贵，在恶劣的工作 环境下无法j 下常工作) ，难以进行在线测量，只能通过离线实验室分析得到分析值。但 是，离线实验室分析往往存在长时间滞后的问题，无法满足在线实时控制和优化操作 的要求。近年来，为解决这类变量的估计和控制问题，软测量技术取得了重大发展。 软测量技术的基本点是根据某种最优准则，选择一组与主导变量( p r i m a r yv a r i a b l e ) 有密切联系又容易测量的二次变量( s e c o n d a r yv a r i a b l e ) ，如温度、压力、流量等，通过 构造某种数学关系，用计算机软件实现对主导变量的估计。在以软测量传感器的估计 值为反馈信号的控制系统中，控制器与估计器是分离，因而给控制器和软传感器( s o f t s e n s o r ) 的设计都带来极大的方便。除了“测量 主导变量外，软传感器还可估计一些 反应过程特征的工艺参数，克服分析滞后、采样间隔大的问题。目前，软测量技术已 成为过程控制领域的研究方向之一1 9 j 。 软测量模型是软测量技术的核心。软测量建模技术主要有两大类，一类是过程反 应机理的机理建模技术，该类方法通过分析过程的反应机理，运用物理、化学等基本 定律来表述过程的内部规律，建立过程模型。另一类是基于数据的统计建模技术，该 类方法在建模时，将对象看作一个黑箱，通过输入输出数据建立与过程外特性等价的 模型。这种方法的优点在于，不需要研究对象的内部规律，只需要获得足够的数据， 即可建立对象的软测量模型【1 0 1 。 本文以甲醛生产的实际过程为背景，利用支持向量机技术建立了甲醛浓度的软测量 模型，并在应用中研究了支持向量机中的关键技术。 1 2 甲醛生产过程概述 工业甲醛是( 3 6 5 3 7 4 ) 的甲醛水溶液，其中含有少量的甲醇，为无色透明液体， 成微酸性，具有强烈刺激性气味。甲醛水溶液对碳钢有极强的腐蚀性，其蒸汽则没有。 ( 3 5 - - 4 0 ) 的甲醛水溶液叫福尔马林。甲醛的用途非常广泛，涉及合成树脂、表面活性 剂、塑料、橡胶、皮革、造纸、染料、制药、农药、照相胶片、炸药、建筑材料以及消 毒、熏蒸和防腐过程中均要用到甲醛，可以说甲醛是化学工业中的多而手。再加一f ：甲醛 生产过程非常复杂，涉及到多种化学反应，因此对甲醛的，七产过程研究具有十分重要的 意义。部分的甲醛生产过程如图1 1 所示： 摹j 支持向站机的1 醛浓度软删龄 幽jl甲醛的邪分 l zj 。过n 1 f i 9 1 】p a r td m d u c ep r o g t e s s o f f o r m a l d e h y d e 凰闺 一m ，_ 8 。 翮到9一，_30 臼船1 ：3 0 _ ! g ( 人连理r ：人学硕+ 学位论文 甲醛的一般生产过程是在甲醇、空气、水蒸气三元混合气体在银触媒作用下，发 生甲醇不完全氧化和脱氢反应，生成甲醛气液混合物，经一塔吸收后制成符合工业标 准的甲醛溶液，未被吸收下来的甲醛气，经二塔吸收后送至一塔作为补充稀释剂。尾 气一部分去锅炉燃烧掉，另一部分经尾气循环风机送至混合器，组成四元混合气，尾 气达到最终循环利用的目的。 某化工厂甲醛生产线如图1 1 所示，来自甲醇栈台的甲醇，进入甲醇贮罐，再通过 甲醇输送泵，送入甲醇计量槽，然后经甲醇泵通过甲醇过滤器进入甲醇再沸器。再沸 器由蒸汽分配盘的低压蒸汽做热源，蒸汽冷凝液排入冷凝液贮槽。预热产生的甲醇蒸 汽进入甲醇蒸发器，蒸发器内的气相甲醇经丝网除沫器分离甲醇液滴，未被气化的甲 醇由蒸发器的底部循环回至甲醇再沸器中，蒸发器顶部出来的甲醇气体经蒸汽加热套 管进入混合器。 米自大气的空气，经空气过滤器过滤后，由罗茨鼓风机吸入，以一定的风量，进 入空气预热器，经低压蒸汽预热，达到工艺要求的温度后进入混合器。来自蒸汽分配 盘的配料蒸汽经蒸汽过滤器气液分离后，纯净的蒸汽经热夹套管伴热进入混合器。三 元混合气体按工艺要求的配比，均相混合后，经阻火过滤器进入氧化器，混合气体在 银触媒作用下，发生甲醇的不完全氧化和脱氢反应，生成甲醛和水，同时伴有一定的 副反应发生。甲醛气液混合物由氧化器底部进入吸收一塔底部，反应后的余热由急冷 段、夹套的软水换热，产生的蒸汽进入蒸汽分配盘投入系统。来自氧化器底部的甲醛 混合气，进入吸收一塔底部，甲醛气体被塔内自上而下的循环吸收液吸收后，塔釜的 甲醛溶液通过一塔循环泵经换热器换热后，一部分回流至塔顶，一部分采出至甲醛计 量槽，未被吸收的甲醛气体由塔顶排出，进入吸收二塔底部。 由脱盐水总管向吸收二塔直接加水，吸收下来的稀醛液通过塔底二塔循环泵经换 热器换热后，一部分回流至塔中部，一部分作为补充稀释剂回流到一塔。塔中部的稀 醛通过三塔循环泵经换热器换热后，全部回流至三塔顶。未被吸收下来的气体，由塔 顶排出，经气液分离器分离后，一部分尾气经v 1 3 0 2 液封槽分离后，由尾气循环风机 吸入，经尾气预热器进入混合器，完成四元混合器的混合。 经过气液分离器后的气体，一部分回系统循环利用，另一部分经尾气液封槽分离 后，进入尾气锅炉。空气由空气鼓风机吸入，点燃后燃烧放热，气化汽包内的冷凝水， 产生蒸汽，进入汽包，然后进入系统或管网。 对于甲醛的生产过程，甲醛作为生产过程的最终产物，其浓度是需要知道的，这就 需要对它进行测量。但是，目前的测量方法大多使用的是人工滴定的方式，这就不可避 免人与甲醛的接触，因为甲醛有毒，轻者对呼吸道、艮睛和皮肷有强烈刺激性，能引起 基丁支持向量机的甲醛浓度软测量 结膜炎、鼻炎、气管炎等。重者发生吼痉挛、声门水肿和肺炎等，可灼伤口腔和消化道， 发生胃穿孔、休克，对肾和肝脏有损害。 于是我们想到的建立一种模型关系，即由生产过程的状态变量和甲醛浓度的依存关 系，对甲醛的浓度进行软测量。常见的建模方法有很多种，有基于机理建模的，有基于 测量数据建模的，例如神经网络建模等，然而由于甲醛实际生产过程的复杂性，很难用 机理的方法建模。神经网络的局部最优、过学习以及结构和类型的选择过分依赖于经验 等固有缺点，严重降低了其应用和发展的效果。再加上甲醛浓度测量的间隔时问长，造 成可利用的数据样本少，这样的小样本问题，更限制了神经网络模型的推广能力。所以 基于小样本的支持向量机建模方法就得到了青睐，本文采用抄一s v r 技术来建立甲醛浓 度软测量的模型。选择 一s v r 的主要原因是参数 有明确的意义。 1 3 软测量技术及建模方法研究现状 软测量技术，源于2 0 世纪年7 0 代b r o s i l l o w 提出的推断控制，近年来发展迅速， 受到了越来越广泛的重视，已经成为当前自动控制及检测领域发展的主导方向之一，在 过程工业中已经有了许多成功的应用1 9 j 。软测量技术是相对传统的直接测量方法而言的， 传统的测量技术通常建立在传感器等硬件基础上，如温度、流量、液位等的测量。而工 业过程中却存在着许多无法在线测量或不能快速测量的非常重要的参数，如精馏产品的 纯度、干点等质量指标，精馏塔塔板效率等。过去，对这些参数是根据经验来估计的， 往往存在较大的误差，对生产过程的控制难以达到最佳。软测量的出现，使得对这些参 数的估计更科学、合理、准确。一般的软测量问题描述如图1 2 所示。 图1 2 软测鼙的基本结构 f i g 1 2 t h ep r i m a r ys t r u c t u r eo fs o f t s e n s i n g 火迮理t 大学硕+ 学位论文 建立数学模型是软测量技术的重要组成部分。根掘模型建立方法的不同，可将软测 量建模方法大致分成如下几类1 1 0 j 。 1 3 1 基于传统方法的软测量模型 ( 1 ) 基于工艺机理的软测量模型 基于工艺机理的软测量模型主要运用化学反应动力学、物料平衡、能量平衡等原理， 通过对生产过程的机理分析，建立主导变量与辅助变量之间的机理模型，从而实现主导 变量的软测量。其特点是原理简单，工程背景清晰，便于实际应用。但是对于机理研究 不充分、尚不完全清楚的复杂工业过程，难以建立合适的机理模型。 ( 2 ) 基于状态估计的软测量模型 基于状念估计的软测量模型以状态空问模型为基础，如果系统的主导变量关于辅助 变量是完全可观的，那么软测量问题就可以转化为典型的状态观测和状态估计问题。这 种方法可以反应主导变量和辅助变量之间的动态关系，有利于处理各变量问动态特性的 差异和系统滞后等问题。其缺点是对于复杂的过程对象，往往难以建立系统的状态空间 模型。另外，当过程中出现持续缓慢变化的不可测扰动时，利用该方法建立的软测量模 型可能导致严重的误差。 1 3 2 基于回归分析的软测量模型 回归分析方法是一种经典的建模方法，不需要建立复杂的数学模型，只要收集大量 过程参数和质量分析数据，运用统计方法将这些数据中隐含的对象信息进行浓缩和提 取，从而建立主导变量和辅助变量之问的数学模型。包括以下几种方法。 ( 1 ) 多元线性回归 多元线性回归以拟合值与真实值的累计误差最小化为原则，适合解决操作变量变化 范围小并且非线性不严重的问题。这种方法要求自变量之间不存在严重的相关性，对于 非线性或者干扰严重的系统，可能导致模型失真，甚至无法正确建立模型。另外，模型 的计算复杂程度也将随着输入变量的增加而相应增加。 ( 2 ) 主元回归 主元回归根据数据变化的方差大小来确定变化方向的主次地位，按主次顺序得到各 主元变量。这种方法能够有效地解决自变量之问的多重共线性问题，对减少变个数，简 化模型有着很大的方便。然而，由于在提取主成分时没有考虑自变量与因变量之间的联 系，所提取的成分对因变量的解释能力不强，这是主元刚归方法的不足之处。 ( 3 ) 偏最小二乘回归 基于支持向量机的甲醛浓度软测鼙 偏最小二乘回归也是一种数据压缩和提取方法。既能消除原变量复共线问题以达到 降维目的，也充分考虑了输入变量与输出变量之间的相关性。而且它在样本点较少的场 合有着明显的优势，对含噪声样本可进行回归处理，并且能用于非常复杂的混合场合。 1 3 3 基于智能方法的软测量模型 ( 1 ) 基于模糊数学的软测量模型 基于模糊数学的软测量模型模仿人脑逻辑思维特点，建立起一种知识性模型。这种 方法特别适合应用于复杂工业过程中被测对象呈现亦此亦彼的不确定性，难以用常规数 学定量描述的场合。实际应用中常将模糊技术和其他人工智能技术相结合，例如模糊数 学和人工神经网络相结合构成模糊神经网络，将模糊数学和模式识别相结合构成模糊模 式识别，这样可互相取长补短以提高软测量的性能。另一方面，模糊模型的规则集和隶 属函数只能靠经验来选择，很难自动设计和调整，缺乏自学习和自适应能力，这是模糊 模型的缺点。 ( 2 ) 基于模式识别的软测量模型 基于模式识别的软测量模型是采用模式识别的方法对工业过程的操作数据进行处 理，从中提取系统的特征，构成以模式描述分类为基础的模式识别模型。该方法的优势 在于它适用于缺乏系统先验知识的场合，可利用同常操作数据来实现软测量建模。在实 际应用中，该种软测量方法常常和人工神经网络以及模糊技术结合在一起。 ( 3 ) 基于人工神经网络的软测量模型 人工神经网络是利用计算机模拟人脑的结构和功能的技术。人工神经网络的方法无 需具备对象的先验知识，根据对象的输入输出数据直接建模。b p 网络和r b f 神经网络 由于其非线性拟合能力强，被广泛应用于软测量建模当中。 b p 网络 b p 网络是一种单向传播的多层前向网络。网络具有一个输入层和一个输出层，有 一个或多个隐层，同层节点中没有任何藕合连接，输入信号从输入层节点依次传过各个 隐层节点，然后传到输出层节点，每一层节点的输出只影响下一层节点的输出。b p 算 法利用输出层计算值与理想值之问的误差来得出输出层的直接前导层的误差，再利用这 个误差得出更前一层的误差。如此下去，就获得了所有其它各层的误差估计，用以确定 网络权值。 r b f 网络 r b f 网络同b p 网络一样，也是一种多层日订向网络，它由输入层、隐层和输出层三 层节点构成。输入层节点传递输入信号到隐层，隐层节点采用径向基函数，输出节点通 人连理t 大学硕十学位论文 常是简单的线性函数。r b f 网络结构简单，训练学习速度快，能以任意精度逼近任意非 线性函数，具有全局最佳逼近的特性。 ( 4 ) 基于支持向量机的软测量模型 支持向量机是从线性可分情况下寻找最优分类面提出的，它通过某种事先选择的非 线性映射将输入向量映射到一个高维特征空间，然后在这个空间中构造最优分类超平 面，在解决小样本、非线性及高维模式识别问题中表现出许多特有的优势。利用支持向 量机解决函数回归问题，从而实现软测量建模是支持向量机分类能力的一种推广【1 1 】。文 献 1 2 1 已将s v m 应用于稳定汽油饱和蒸汽压的估计。但是，参数选取的是否合适对模 型的推广能力影响很大。 1 4 软测量工程实现 软测量的工程实现主要包括辅助变量的选择、数据的预处理、模型的建立以及模型 校j 下四个环节。详细的实现环节和步骤如图1 3 所示1 1 3 j 。 工艺分析并选择 相关的辅助变量 辅壁耋苎罂苎数l j 萄戛；i ；磊； 据的预处理i 。l = 二：二二 对软测量模型进 行评估 用计算机语言实 现软测量算法 模型校正 图l - 3 软测量的设计步骤 f i g 1 3d e s i g ns t e p so fs o f t - s e n s i n g 软 测 苴 墨 建 漠 1 4 1 数据的预处理 从现场采集的测量数据由于仪表精确度、测量环境、人为因素、仪表错误或过程泄 漏等原因而带有误差。如果将这样的数据直接用于软测量，势必导致软测量模型质量降 低乃至完全失败。因此，测量数据必须经过预处理【1 4 l 。 ( 1 ) 数据清理 数据清理主要处理空缺值，平滑噪声数据，识别、删除孤立点。数据清理的基本方 法有： 空缺值处理 基丁支持向鼙机的甲醛浓度软测量 目前最常用的方法是使用最可能的值填充空缺值，比如可以用回归、贝叶斯形式化 方法工具或判定树归纳等确定空缺值。这类方法依靠现有的数据信息来推测空缺值，使 空缺值有更大的机会保持与其它属性之间的联系。 噪声数据处理 噪声是一个测量变量中的随机错误或偏差，包括错误的值或偏离期望的孤立点 值。可以用分箱、回归、聚类的数据平滑技术来平滑噪声数据，识别、删除孤立点。 ( 2 ) 数据变换 工业过程中的测量数据有着不同的工程单位，直接使用这些数据进行计算可能会丢 失信息或引起数值计算的不稳定。而利用合适的方法对数据进行变换可提高数值算法的 稳定性。设有p 个变量，1 个样本点的数据表x 。 数据的中心化处理 数据的中心化处理是指平移变换，即 巧= 一弓 u = 1 ，2 ，l ；j = l 2 ，p ) ( 1 1 ) 其中，瓦为第_ 个变量的样本均值。该变换可以使新坐标系的原点与样本点集合的 重心重合。 数据的标准化处理 数据的标准化处理是指对数据同时进行中心化一压缩处理，即 r 一万 一塑o = 1 ，2 ，刀；，= 1 ，2 ，p ) ( 1 2 ) 。 s i 其中，瓦为第，个变量的样本均值，s ，为第j 个变量的样本标准差。经过这样的变 换后，每个变量对应的数据均值都为0 ，方差都为1 。 1 4 2 辅助变量的选择 辅助变量的选择是软测量技术应用首先要解决的问题，确定适当的辅助变量才能保 证所建立的软测量模型的质量。辅助变量的选择一般要考虑数目、类型和检测位置，这 三者之间相互关联，相互影响，不但由过程特性决定，还受设备价格、可靠性和安装维 护的难易等额外因素的制约。 ( 1 ) 辅助变量数目的选择 辅助变量的最佳数目与过程自由度、测量噪声以及模型不确定性有关。通常情况下， 辅助变量数目不应少于主导变量的数闩。应先从系统自由度出发，确定最小数目，再结 大连理t 人学硕十学位论文 合具体过程，并考虑动态性质等问题，适当予以增加。辅助变量过多将增加估计器对模 型误差的灵敏度，出现过参数化问题。 ( 2 ) 辅助变量类型的选择 辅助变量类型的选择与主导变量有密切的联系，应遵守灵敏性、特异性、精确性、 鲁棒性、工程适用性等原则。 ( 3 ) 辅助变量检测位置的选择 辅助变量检测位置的选择十分重要，但目前尚无通用的方法或原则。辅助变量的位 置和数目常常是同时确定的，用于选择变量数目的准则往往也适用于检测位置的选择。 1 4 3 软测量模型的建立 软测量的核心工作就是建立软测量模型，它不同于一般意义下的数学模型，强调 的是通过辅助变量来获得对主导变量的最佳估计。建立软测量模型的方法多种多样， 本文1 3 节已对目前软测量技术的建模方法进行总结和分析。 1 4 4 软测量模型的校正 工业对象一般都具有非线性、时变性等特征。随着时间的推移，对象的特性会发生 变化，已经建立的模型就不能很好地反映实际工况，因此模型的校f 十分重要。 软测量模型的校j 下分为两个部分，即模型的参数校正和结构校正。参数修正可以通 过修改模型中的某些常量参数来实现，也可以通过短期学习实现，由于数据量和计算量 较小，学习时间短，可以在线完成。软测量模型的结构校正需要大量的数据和较长时i 日j 的计算，一般很难在线实施，可以待积累一定数量的过程数据之后离线进行，然后替代 原有的在线运行模型。 1 5 本文的主要工作 本文首先分析了软测量技术和现有的软测量建模方法及其优缺点，论述了支持向 量机模型进行软测量的合理性；其次、本文概述了甲醛的生产过程和特点，针对甲醛 浓度无法在线测量这难题，本文将软测量技术引入甲醛浓度的测量中，建立了基于 支持向量机的甲醛浓度软测量模型；第三、采用主元分析的方法进行了数据的预处理 和辅助变量的选择；最后、本文利用二次规划技术提出了一种新的参数选取方法，对 交叉验证法和网格法选取参数不能在连续范围内选取参数这一不足进行了改进，通过 仿真实验验证了该方法的有效性。 本文的内容安排如下： 基丁支持向鼙机的甲醛浓度软测域 第一章简要软测量的工程背景、软测量技术及工程实现方法，阐述了软测量的建 模方法和发展状况，分析了现有建模方法的优缺点。 第二章阐述统计学习理论的发展过程及核心理论。 第三章介绍统计学习理论下支持向量机技术的重要思想，重点介绍了支持向量回 归机的相关内容。本章论述了支持向量机的在实际应用情况以及支持向量机实际应用 中的关键技术。 第四章提出了一种基于二次规划的参数选取方法，并给出了该方法的算法流程图。 第五章阐述了甲醛浓度软测量的具体实现步骤，通过仿真实验证明了支持向量机 模型有更好的推广能力，同时也证明了基于二次规划的参数选取方法的有效性。 人连理- 1 ：人学硕十学位论文 2 统计学习理论 2 1 统计学习理论中的一些基本概念 统计方法是从观测自然现象或者专门安排的实验所得到的数据去推断该事物可能 的规律性。科学的规律性一般总是隐藏得比较深，最初总是从其在数量表现上通过统计 分析看出一些线索，然后提出一定的假说，作进一步深入的研究。当理论研究提出一定 的结论时，就需要在实践中加以检验。统计学习理论是在研究小样本统计估计和预测的 过程中发展起来的一种新兴理论，它的发展及其在随后的应用中涉及到一些基本的概念 如下【8 】： ( 1 ) 学习。如果一个系统能够通过执行某种过程而改进它的性能，我们就称之为学 习。 ( 2 ) 机器学习。主要研究从采集样本出发得出目前尚不能通过进行原理分析得到的 规律，并利用这些规律对未来数据或无法观测的数据进行预测。它是现代智能技术中十 分重要的一个方面。 ( 3 ) 模式。通常我们把通过对具体的个别事物进行观测所得到的具有时间和空间分 布的信息称为模式，而把所属的类别或同一类中模式的总体称为模式类( 或简称为类) 1 8 l 。 ( 4 ) 模式识别。对表征事物或现象的各种形式( 数值的，文字的和逻辑关系的) 信息 进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程，是信息科学和 人工智能的重要组成部分。它诞生于2 0 世纪2 0 年代，在的年代初发展成一门学科。 ( 5 ) 统计学习理论。是一种研究小样本估计和预侧的理论。 2 2 统计学习理论的发展历史 虽然感知器的思想已经在神经生理学领域中被讨论了多年，但f r o s e n b l a t t ( 1 9 5 8 ， 1 9 6 2 ) 把它作为一个学习机器模型，标志着人们对学习过程进行数学研究的真正开始， 不寻常的是f r o s e n b l a t t 把它表现为一个计算机程序，通过实验说明这个模型可以被推 广。1 9 6 2 年n o v i k o f f 证明了关于感知器的第一个定理，这个定理实际上是统计学习理 论的开始，它在创建学习理论的过程中起到了重要的作用。它在一定意义上把导致学习 机器具有推广能力的原因和最小化训练集上的错误数的原则联系了起来。 t i k h o n o v ( 1 9 6 3 ) 、l v a n o v ( 1 9 6 2 ) 、p h i l l i p s ( 1 9 6 2 ) 发现了关于解决不适定问题的f 则化 原则，这种思想及其f 则化技术在统计学领域产生了深远影响。为了从范围宽的集合f 非 参数集合) 中估计概率密度，必须采用某种新的推理方法，其中利用了币则化技术。在 2 0 世纪的年代，r o s e n b l a t t ( 1 9 5 6 ) 、p a r z e n ( 1 9 6 2 ) 、e h e n t s o v ( 1 9 6 3 ) 提出了几种此类( 非参 基于支持向量机的甲醛浓度软测量 数) 算法，v a p n i k 和s t e f a n y u k ( 1 9 7 8 ) 发现创建此类算法的一般途径，它是建立在解决不 适定问题的标准做法基础上的，从而一举奠定了非参数统计学的基础。v a p n i k 和 c h e r v o n e n k i s 在1 9 6 8 年，针对指示函数集( 即模式识别) ，提出了v c 熵和v c 维的概念， 这是统计学习理论的核心概念，利用这些概念，发现了泛函空问的大数定理( 频率一致 收敛于其概率的充分必要条件) ，研究了它与学习过程的联系，并且得到了关于收敛速 度的非渐近界的主要结论。在1 9 7 1 年v a p i n k 和c h e r v o n e n k i s 发表了这些工作的完全证 明。所得到的这些界使得v a p n i k 和c h e r v o n e n k i s 在1 9 7 4 年提出了结构风险最小化归纳 原则，从而完成了模式识别的学习理论。s o l o m o