神经网络与智能控制系统

神经网络与智能控制系统姓名：学号：日期：

【摘要】本文介绍了神经网络的基本概念，论述了人工神经网络的产生与发展，以及人工神经网络在控制系统中的应用现状，分析了人工神经网络的特点和监视控制系统的原理，并阐述了几种基于神经网络的控制系统，简要介绍了人工神经网络的发展、应用及研究现状，通过实例来分析人工神经网络原理的设计和实现过程。【关键词】人工神经网络；控制系统；智能控制；发展；应用引言神经网络控制是20世纪80年代末期发展起来的自动控制领域的前沿学科之一。它是智能控制的一个新的分支，为解决复杂的非线性、不拟定、不确知系统的控制问题开辟了新途径。神经网络控制是（人工）神经网络理论与控制理论相结合的产物，是发展中的学科。它汇集了涉及数学、生物学、神经生理学、脑科学、遗传学、人工智能、计算机科学、自动控制等学科的理论、技术、方法及研究成果。在控制领域，将具有学习能力的控制系统称为学习控制系统，属于智能控制系统。神经控制是有学习能力的，属于学习控制，是智能控制的一个分支。神经控制发展至今，虽仅有十余年的历史，已有了多种控制结构。如神经预测控制、神经逆系统控制等。神经网络控制是一种基本上不依赖于模型的控制方法，它适合于具有不拟定性或高度非线性的控制对象，并具有较强的自适应和自学习功能，因此是智能控制的一个重要分支领域。人工神经网络运用物理器件来模拟生物神经网络的某些结构和功能，具有并行和分布式的信息解决网络结构，该结构一般由几个神经元组成，每一个神经元有一个单一的输出，但可通过连接的很多其它神经元，获得有多个连接通道的输入，每个连接通道相应一个连接权系数。人工神经网络的产生与发展人工神经网络的研究是从19世纪末期开始的，其发展历史经历了以下四个时期。启蒙时期启蒙时期开始于1980年美国著名心理学家W.James关于人脑结构与功能的研究，结束于1969年Minsky和Papert发表的《感知器》（Perceptron）一书。早在1943年，美国神经生物学家W.S.McCul-loch和数学家W.Pitts合作，采用数理模型的方法研究脑细胞的动作和结构，以及生物神经元的一些基本生理特性，提出了第一个神经计算模型，即神经元的阈值元件模型(M-P模型)，并指出：即使是最简朴的神经网络，从原则上讲也可以进行任意算术或逻辑函数的计算。该模型把神经细胞的动作描述为：神经元的活动表现为兴奋或克制的二值变化；任何兴奋性突触有输入激励后，使神经元兴奋与神经元先前的动作状态无关；任何克制性突触有输入激励后，使神经元克制；突触的值不随时间改变；突触从感知输入到传送出一个输出脉冲的延迟时间是0.5ms。可见，M-P模型是用逻辑的数学工具研究客观世界的事件在形式神经网络中的表述。现在来看M-P模型尽管过于简朴，并且其观点也并非完全对的，但是其理论有一定的奉献。因此，M-P模型被认为开创了神经科学理论研究的新时代。1949年，心理学家D.O.Hebb提出了神经元之间突触联系连接强度可变的假设，并据此提出神经元的学习规则——Hebb规则，其对的性30年后才得到证实，至今仍在各种神经网络模型中起着重要的作用，为神经网络的学习算法奠定了基础。1957年，计算机学家FrankRosenblatt提出了一种具有三层网络特性的神经网络结构，称为“感知器”（Perceptron），从而掀起第一次研究神经网络的热潮。它是由阈值性神经元组成，试图模拟动物和人脑的感知学习能力，Rosenblatt认为信息被包含在互相连接或联合之中，而不是反映在拓扑结构的表达法中；此外，对于如何存储影响认知和行为的信息问题，他认为，存储的信息在神经网络系统内开始形成新的连接或传递链路后，新的刺激将会通过这些新建立的链路自动地激活适当的响应部分，而不是规定任何辨认或坚定他们的过程。1960年B.Windrow和M.E.Hoff提出自适应线性单元(Adaline)网络，它是连续取值的线性网络，重要用于自适应信号解决和自适应控制。这与当时占主导地位的以顺序离散符号推理为基本特性的AI途径完全不同，因而引起人们的爱好，同时也引起符号主义与连接主义的争论。低潮期人工智能的创始人之一M.Minsky和S.Papert通过数年研究，对以感知器为代表的网络系统的功能及其局限性从数学上做了进一步的研究，于1969年出版了很有影响的《Perceptron》一书，该书在肯定感知器的研究价值的同时，指出感知器的局限性，在数学上证明了感知器不能解决XOR等线性不可分问题，提出了感知器不也许实现复杂的逻辑函数，这对当时的人工神经网络研究产生了极大的负面影响，从而使神经网络研究处在低潮时期。引起低潮的更重要的因素是：20世纪70年代以来集成电路和微电子技术的迅猛发展，使传统的冯·诺伊曼型计算机进入发展的全盛时期，因此暂时掩盖了发展新型计算机和寻求新的神经网络的必要性和迫切性。但是在此时期，波士顿大学的S.Grossberg专家和赫尔辛基大学的Kohonen专家，仍致力于神经网络的研究，分别提出了自适应共振理论（AdaptiveResonanceTheory）和自组织特性映射模型（SOM）。以上开创性的研究成果和工作虽然未能引起当时人们的普遍重视，但其科学价值却不可磨灭，它们为神经网络的进一步发展奠定了基础。复兴时期20世纪80年代以来，人工神经网络进入一个高速发展的阶段，Prigogine因提出非平衡系统的自组织理论(耗散结构理论)而获得诺贝尔奖；近年来广泛研究的浑沌动力学和奇异吸引子理论，则揭示了系统的复杂行为。由于以逻辑推理为基础的人工智能理论和冯·诺伊曼型计算机在解决诸如视觉、听觉、联想记忆等智能信息解决问题上受到挫折，促使人们怀疑当前的冯·诺伊曼型计算机是否能解决智能问题，同时也促使人们探索更接近人脑的计算模型，于是又形成了对神经网络研究的热潮。1982年，美国加州理工学院的物理学家JohnJ.Hopfield博士发表了一篇对神经网络研究的复苏起了重要作用的文章，他总结与吸取前人对神经网络研究的成果与经验，把网络的各种结构和各种算法概括起来，塑造出一种新奇的强有力的网络模型，称为Hopfield网络，有力地推动了神经网络的研究。Hopfield通过引入“计算能量函数”的概念，给出网络稳定性判据。从而有力地推动了神经网络的研究与发展。1984年Hopfield提出网络模型实现的电子电路，为神经网络的工程实现指明了方向。1985年Hinton和Sejnowski将模拟退火算法引入到神经网络中，提出Boltzmann机模型，为神经网络优化计算提供了一个有效方法。D.E.Rumelhart和J.L.McClelland等人提出的PDP(并行分布解决理论)，致力于认知微观结构的探索；1986年，Rumelhart及LeCun等学者提出了多层感知器的反向传播学习算法(BP算法)，把学习结果反馈到中间层次的隐单元，改变它们的联系矩阵，从而达成预期的学习目的，克服了当初阻碍感知器模型继续发展的重要障碍，迄今为止仍是应用最广泛的神经网络。这一时期，大量而进一步的开拓性工作大大发展了神经网络的模型和学习算法，增强了对神经网络特性的进一步结识，使人们对模仿脑信息解决的智能计算机的研究重新充满了希望。新时期1987年6月，首届国际神经网络学术会议在美国加州圣地亚哥召开，这标志着世界范围内掀起了神经网络开发研究的热潮。在这次会上成立了国际神经网络学会（INNS），并于1988年在美国波士顿召开了年会，会议讨论的议题涉及到生物、电子、计算机、物理、控制、信号解决及人工智能等各个领域。自1988年起，国际神经网络学会和国际电气工程师与电子工程师学会（IEEE）联合召开了每年一次的国际学术会议。这次会议后不久，美国波士顿大学的StephenGrossberg专家、芬兰赫尔辛基技术大学的TeuvoKohonen专家及日本东京大学的甘利俊一专家，主持创办了世界第一份神经网络杂志《NeuralNetwork》。随后，IEEE也成立了神经网络协会并于1990年3月开始出版神经网络会刊，各种学术期刊的神经网络特刊也层出不穷。从1987年以来，神经网络的理论、应用、实现及开发工具均以令人振奋的速度快速发展。神经网络理论已成为涉及神经生理科学、认知科学、数理科学、心理学、信息科学、计算机科学、微电子学、光学、生物电子学等多学科交叉、综合的前沿学科。神经网络的应用已渗透到模式辨认、图像解决、非线性优化、语音解决、自然语言理解、自动目的记别、机器人专家系统等各个领域，并取得了令人瞩目的成果。进入20世纪90年代以来，神经网络的研究已进入相对平稳的发展时期，许多理论得到了进一步的证实、补充与发展。同时神经网络的应用研究得以广泛开展，应用的领域也不断扩大。神经网络理论的应用已经渗透到各个领域，并在智能控制、模式辨认、计算机视觉、自适应滤波和信号解决、非线性优化、自动目的记别、连续语音辨认、声纳信号的解决、知识解决、传感技术与机器人、生物医学工程等方面，都取得很大的进展。人工神经网络的特点人工神经网络是生物神经网络的一种模拟和近似，重要从两个方面进行模拟：一个是结构和实现机理方面，它涉及到生物学、生理学、心理学、物理及化学等许多基础学科。由于生物神经网络的结构和机理非常复杂，现在从这方面模拟还仅在尝试；另一个是功能方面，即尽量使人工神经网络具有生物神经网络的某些功能特性，如学习、辨认、控制等。目前应用的神经网络均是对功能方面的模拟。神经网络有以下一些特点：具有自适应功能重要是根据所提供的数据，通过学习和训练，找出和输出之间的内在联系，从而求得问题的解答，而不是依靠对问题的经验知识和规则，因而具有良好的自适应性。具有泛化功能可以解决那些不经训练过的数据，而获得相应于这些数据的合适的解答；也能解决那些有噪声或不完全的数据，从而显示了很好的容错能力。非线性映射功能现实的问题非常复杂，各因素间互相影响，呈现出复杂的非线性关系，神经元网络为解决这些问题提供了有用的工具。高度并行解决信息此特点使用硬件实现的神经网络的解决速度远远高于普通计算机。高度的并行性人工神经网络是由许多相同的简朴解决单元并联组合而成，大量简朴解决单元的并行活动，使其解决信息的能力大大提高。高度的非线性全局作用人工神经网络的每个神经元接受大量其他神经元的输入，并通过并行网络产生输出，影响其他神经元。网络之间的这种互相制约和影响，实现了从输入状态到输出状态空间的非线性映射。从全局的观点来看，网络整体性能不是网络局部性能的简朴叠加，而是表现出某种集体性行为。良好的容错性和联想记忆功能人工神经网络通过自身的网络结构可以实现对信息的记忆，所记忆的信息以分布式存储在神经元之间的权值中，使得网络具有良好的容错性，并能进行聚类分析、特性提取、模式复原等模式信息解决工作，又宜于做模式分类、模式联想等模式辨认工作。人工神经网络可以通过训练和学习来获得网络的权值和结构，呈现出很强的自学能力和对环境的自适应能力，便于现有计算机技术虚拟实现。人工神经网络在控制系统中的应用神经网络控制的研究始于20世纪60年代。1960年，Widrow和Hoff一方面将神经网络运用于控制系统。Kilmer和McCulloch提出了KMB神经网络模型，并在“阿波罗”登月计划中的应用取得良好的效果。1964年，widrow等用神经网络对小车倒立摆系统控制取得成功。神经网络控制可以分为监视控制、逆控制、神经适应控制、实用反向传播控制和适应评价控制等。在智能控制系统中，最重要的是和知识基有关的推理机型，以及随环境变化的适应能力。一般而言，推理是以符号为元素执行的，而客观世界中的信号是数值，为了理解过程的状态，需要实行数值数据到符号数据的映射，这就要把数值数据进行分类。此外，对过程的控制需要自适应控制器。神经网络的分类功能和学习能力可以使其有效地用于智能控制系统，神经网络用于控制系统是“物尽其用”的必然结果。IEEE神经网络协会出版刊物主席ToshioFukuda专家和《神经计算应用手册》的作者P.J.Werbos把神经网络控制系统分为5大类：一是监视控制；二是逆控制；三是神经适应控制；四是实用反问传播控制；五是适应评价控制。根据划分情况，神经网络控制系统有5类不同的结构，并且神经网络在控制系统中的位置和功能有所不同，学习方法也不尽相同。人工神经网络的智能化特性与能力使其应用领域日益扩大，潜力日趋明显。目前，神经网络的重要应用于以下几个领域。信息领域神经网络作为一种新型智能信息解决系统，其应用贯穿信息的获取、传输、接受与加工运用等各个环节。1）信号解决：神经网络广泛应用于自适应信号解决和非线性信号解决。前者如信号的自适应滤波、时间序列预测、谱估计、噪声消除等；后者如非线性滤波、非线性预测、非线性编码、调制解调等。2）模式辨认：模式辨认涉及模式的预解决变换和将一种模式映射为其他类型的操作。神经网络不仅可以解决静态模式如固定图像、固定能谱等，还可以解决动态模式如视频图像、连续语音等。3）数据压缩：在数据传送存储时，数据压缩至关重要。神经网络可对待传送的数据提取模式特性，只将该特性传出，接受后再将其恢复成原始模式。自动化领域神经网络和控制理论与控制技术相结合，发展为神经网络控制。为解决复杂的非线性不拟定、不确知系统的控制问题开辟了一条新的途径。1）系统辨识：在自动控制问题中，系统辨识的目的是为了建立被控对象的数学模型。数年来控制领域对于复杂的非线性对象的辨识，一直未能很好的解决。神经网络所具有的非线性特性和学习能力，使其在系统辨识方面有很大的潜力，为解决具有复杂的非线性、不拟定性和不确知对象的辨识问题开辟了一条有效途径。2）神经控制器：控制器在实时控制系统中起着“大脑”的作用，神经网络具有自学习和自适应等智能特点，因而非常适合于做控制器。对于复杂非线性系统神经控制器所达成的控制效果往往明显好于常规控制器。3）智能检测所谓智能检测一般涉及干扰量的解决，传感器输入特性的非线性补偿，零点和量程的自动校正以及自动诊断等。这些智能检测功能可以通过传感元件和信号解决元件的功能集成来实现。在综合指标的检测（例如对环境舒适度这类综合指标的检测）中，以神经网络作为智能检测中的信息解决元件便于对多个传感器的相关信息（如温度、湿度、风向和风速等）进行复合、集成、融合、联想等数据融合解决，从而实现单一传感器所不具有的功能。工程领域1）汽车工程：汽车在不同状态参数下运营时，能获得最佳动力性与经济性的档位称为最佳档位。运用神经网络的非线性映射能力，通过学习优秀驾驶员的换档经验数据，可自动提取蕴含在其中的最佳换档规律。此外，神经网络在汽车刹车自动控制系统中也有成功的应用，该系统能在给定刹车距离、车速和最大减速度的情况下一人体感受到最小冲击实现平稳刹车而不受路面坡度和车重的影响。神经网络在载重车柴油机燃烧系统方案优化中也得到了应用，有效的减少了油耗和排烟度，获得了良好的社会经济效益。2）军事工程：神经网络同红外搜索与跟踪系统配合后，可发现和跟踪飞行器。例如借助于神经网络可以检测空间卫星的动作状态是稳定、倾斜、旋转还是摇摆，一般对的率可达95%。3）化学工程：神经网络在制药、生物化学、化学工程等领域的研究与应用蓬勃开展，取得了不少成果。例如在谱分析方面，应用神经网络在红外谱、紫外谱、折射光谱和质谱与化合物的化学结构间建立某种拟定的相应关系方面的成功应用。基于神经网络的几种控制系统有关神经网络控制方法与结构的文献很多，分类方法也很多，但典型的控制结构应涉及：神经网络监督控制(或称神经网络学习控制)；神经网络自适应控制(自校正、模型参考控制，含直接与间接自适应控制)；神经网络内模控制；神经网络自适应评判控制(或称神经网络再励控制)等。神经网络控制结构方案的研究，构成了神经网络控制方法的设计基础。具有代表性的神经网络控制系统有：全局逼近、局部逼近和模糊神经网络控制系统。基于全局逼近神经网络的控制全局逼近网络是在整个权空间上对误差超曲面的逼近，故对输入空间中的任意一点，任意一个或多个连接权的变化都会影响到整个网络的输出，其泛化能力遍及全空间，如BP网络等。由于在全局逼近网络中，每一个训练样本都会使所有连接权发生变化，这就使响应的收敛速度极其缓慢。当网络规模较大时，这一特点使其事实上难以在线应用。基于全局逼近式神经网络异步自学习控制系统如下图所示。由于神经网络控制器事实上是一个非线性控制器，因此一般难以对其进行稳定性分析。全局逼近网络在控制系统中的作用，重要体现在两个方面：提供一个类似于传统控制器的神经网络控制器；为神经网络控制器进行在线学习，提供性能指标关于控制误差梯度的反向传播通道，如建立被控对象的正向网络模型等。此外，结合稳定性分析，对神经网络的控制结构方案进行特别设计，还可认为分析复杂问题提供一个有效的解决途径。基于局部逼近神经网络的控制局部逼近网络只是对输入空间一个局部邻域中的点，才有少数相关连接权发生变化，如CMAC、RBF和FLN网络等。由于在每次训练中只是修正少量连接权，并且可修正的连接权是线性的，因此其学习速度极快，并且可保证全空间上误差全平面的全局收敛特性可以实时应用。其局限性之处是采用间断超平面对非线性超曲面的逼近，也许精度不够，同时也得不到相应的导数估计；采用高阶B样条的BMAC控制，则部分填补了CMAC的局限性，但计算量略有增长；基于高斯径向函数(RBF)的直接自适应控制，是有关非线性动态系统的神经网络控制方法中，较为系统且逼近精度最高的一种方法，但它需要的固定或可调连接权太多，且RBF的计算也太多，运用目前的串行计算机仿真实现时，计算量与内存过大，很难实时实现。模糊神经网络控制模糊神经网络控制系统的基本思绪是：运用模糊box分割问题空间，使每个模糊box不仅具有CEN给出的评分，具有作为控制作用的输出语言变量，并且整个模糊box还隐含定义了模糊规则库。模糊神经网络重要有三种结构：输入信号为普通变量，连接权为模糊变量；输入信号为模糊变量，连接权为普通变量；输入信号与连接权均为模糊变量。它们还可根据网型及学习算法中的点积运算是使用模糊逻辑运算，还是使用模糊算术运算，提成常规和混合型模糊神经网络。人工神经网络的研究现状和发展方向

早在20世纪初，人们从模仿人脑智能的角度出发，研究出了人工神经网络，又称连接主义模式。其借鉴了人脑的结构和特点，并通过大量简朴解决单元，互连组成了大规模并行分布式、信息解决和非线性动力学系统。该系统具有巨量并行性、结构可靠性、高度非线性、自学习性和自组织性等特点，它可以解决常规信息解决方法难以解决或无法解决的问题。人工神经网络的产生给人类社会带来了巨大的进步，但是随着社会的发展，神经网络结构的整体能力与其限制性已被逐渐体现出来。目前，对神经网络研究的趋势重要从以下三点进行分析：增强对智能和机器关系问题的结识研究人类智能一直是科学发展中最故意义，也是空前困难的挑战性问题。20世纪80年代中期出现了“连接主义”的革命或并行分布解决（POP），又被称为神经网络，它具有自学习、自适应和自组织的特点，而这些正是神经网络研究需要进一步增强的重要功能。构建多层感知器与自组织特行图级联想的复合网络是增强网络解决实际问题能力的一个有效途径。探索更有效的学习新算法在当前人工神经网络学习算法中，都有一个无法避免的缺陷，就是在学习新的模式样本时，会导致已有的知识破坏。于是在给定的学习误差条件下，人工神经网络必须对这些样本周而复始的反复学习，这样不仅导致反复迭代次数多，学习时间长，并且易陷入局部极小值。因而有必要进一步去构思更有效的学习新算法，以便能类似于生物神经网络那样实现知识的积累和继承。Amari运用微分流形理论创建的信息几何，初次将非欧式空间的研究带入人工神经网络模型的研究，Amari在信息几何中的开拓性工作，是在非线性空间研究的一个极其重要的工作，研究了神经网络模型结构在整个信息解决模型空间中的各种表达，所具有的变化能力和限制，为解释人脑神经功能提供了一定的理论基础，使得从整体结构上对神经网络进行分析成为也许，为进一步构思更有效的网络结构和学习算法提供了强有力的分析工具。解决多功能多方法的转换问题这种转换问题就是多网络的协同工作问题，单独的人工神经网络不能完毕像人脑那样的高级智能活动，将这些不同的智能信息解决方法综合在一起，构成整体神经网络智能系统，必然需要在多网络之间进行工作协调。Hinton和他的研究小组，提出通过神经网络抽取模式结构为目的，形成外界环境在神经网络中的内在表达机理，并把其作为发展人工神经网络的基础，探索通过结构组合来达成完毕具有更高水平的混合模拟人工神经网络机构和非监督学习人工神经网络。另一方面，人们正在考虑基于生命模型信息解决技术的目的和意义，涉及进化计算，人工生命等。研究者已经开始从分子水平上来揭示人类思维之谜，用一些生物学上的发现来研究生物计算机。总之，目前人工神经网络依赖的是一种典型的非线性、非欧式空间模型。如何把基于知识表、非结构化推理、连接主义的非线性函数逼近和基于生命模型系统联系起来是科学界面临的一个挑战。人工神经网络控制的研究，无论从理论上还是从应用上目前都取得了很大进展，但是，离模拟真实的生物神经系统还相距甚远，所使用的形式神经网络模型无论从结构还是网络规模上，都是真实神经网络的极简朴模拟，因此神经网络控制的