安徽建筑大学智能控制第四章

第4章

神经控制主要内容：1、人工神经网络的初步知识2、神经网络控制的结构3、神经网络控制系统的设计1、神经网络原理神经生理学和神经解剖学的研究表明，人脑极其复杂，由一千多亿个神经元交织在一起的网状结构构成，其中大脑皮层约140亿个神经元，小脑皮层约1000亿个神经元。人脑能完成智能、思维等高级活动，为了能利用数学模型来模拟人脑的活动，导致了神经网络的研究。4.1人工神经网络的初步知识

神经系统的基本构造是神经元(神经细胞)，它是处理人体内各部分之间相互信息传递的基本单元。每个神经元都由一个细胞体，一个连接其他神经元的轴突和一些向外伸出的其它较短分支—树突组成。

从生物控制论的观点来看，神经元作为控制和信息处理的基本单元，具有下列一些重要的功能与特性：

时空整合功能兴奋与抑制状态脉冲与电位转换神经纤维传导速度突触延时和不应期学习、遗忘和疲劳

人工神经网络（NeuralNetwork）是模拟人脑思维方式的数学模型。

神经网络是在现代生物学研究人脑组织成果的基础上提出的，用来模拟人类大脑神经网络的结构和行为。神经网络反映了人脑功能的基本特征，如并行信息处理、学习、联想、模式分类、记忆等。

神经网络的发展历程经过4个阶段。

（1）启蒙期（1890-1969年）

1890年，W.James发表专著《心理学》，讨论了脑的结构和功能。1943年，心理学家W.S.McCulloch和数学家W.Pitts提出了M-P模型（第一个神经网络模型）。1949年，心理学家Hebb实现了Hebb学习法则。1958年，E.Rosenblatt提出了著名的感知机模型（Perceptron）。1962年，Widrow和Hoff提出了自适应线性神经网络。2、神经网络发展历史（2）低潮期（1969-1982）受当时神经网络理论研究水平的限制及冯·诺依曼式计算机发展的冲击等因素的影响，神经网络的研究陷入低谷。在美、日等国有少数学者继续着神经网络模型和学习算法的研究，提出了许多有意义的理论和方法。（3）复兴期（1982-1986）

1982年，物理学家Hoppield提出了Hoppield神经网络模型。1986年，在Rumelhart和McCelland等提出了一种著名的多层神经网络模型，即BP网络。该网络是迄今为止应用最普遍的神经网络。（4）新连接机制时期（1986-现在）神经网络从理论走向应用领域，出现了神经网络芯片和神经计算机。神经网络主要应用领域有：模式识别与图象处理（语音、指纹、故障检测和图象压缩等）、控制与优化、预测与管理（市场预测、风险分析）、通信等。3、人工神经元模型

人工神经元是对生物神经元的一种模拟与简化。它是神经网络的基本处理单元。如图所示为一种简化的人工神经元结构。它是一个多输入、单输出的非线性元件。其输入、输出关系可描述为其中，是从其他神经元传来的输入信号；表示从神经元j到神经元i的连接权值；为阈值；称为激发函数或作用函数（一般具有非线性特性）常用的神经元非线性特性有以下三种：（1）阈值型阈值型函数（2）分段线性型分段线性函数（3）Sigmoid函数型Sigmoid函数4、人工神经网络的分类

人工神经网络是以工程技术手段来模拟人脑神经元网络的结构与特征的系统。利用人工神经元可以构成各种不同拓扑结构的神经网络，它是生物神经网络的一种模拟和近似。

目前神经网络模型的种类相当丰富，已有近40余种神经网络模型。典型的神经网络有多层前向传播网络（BP网络）、Hopfield网络、CMAC小脑模型、ART网络、BAM双向联想记忆网络、SOM自组织网络、Blotzman机网络和Madaline网络等。（1）前馈型神经网络

前馈型神经网络，又称前向网络（FeedforwardNN）。如图所示，神经元分层排列，有输入层、隐含层（亦称中间层，可有若干层）和输出层，每一层的神经元只接受前一层神经元的输入。输入模式经过各层的顺次变换后，由输出层输出。在各神经元之间不存在反馈。感知器和误差反向传播网络采用前向网络形式。

（2）反馈型神经网络

反馈型神经网络（FeedbackNN）的结构如图所示。在输出层到输入层存在反馈，即每个输入节点都有可能接受来自外部的输入和来自输出神经元的反馈。这种神经网络是一种反馈动力学系统，它需要工作一段时间才能达到稳定。Hopfield神经网络是反馈网络中最简单且应用最广泛的模型。(3)自组织网络Kohonen网络是最典型的自组织网络。当神经网络在接受外界输入时，网络将会分成不同的区域，不同区域具有不同的响应特征，即不同的神经元以最佳方式响应不同性质的信号激励，实际上是一种非线性映射。这种映射是通过无监督的自适应过程完成的，所以也称为自组织特征图。1、有监督学习方式特点：不能保证得到全局最优解；要求大量训练样本，收敛速度慢；对样本地表示次序变化比较敏感

神经网络根据实际输出与期望输出的偏差，按照一定的准则调整各神经元连接的权系数，见下图。期望输出又称为导师信号，是评价学习的标准，故这种学习方式又称为有导师学习。5、神经网络的学习方法学习方法是体现人工神经网络智能特性的主要标志。按有无导师来分类。

无导师信号提供给网络，神经网络仅仅根据其输入调整连接权系数和阈值，此时，网络的学习评价标准隐含于内部。其结构见下图。这种学习方式主要完成聚类操作。2、无监督学习方式3、再励学习

再励学习是介于上述两者之间的一种学习方式。神经网络中常用的几种最基本的学习方法

（1）Hebb学习规则

两个神经元同时处于激发状态时，它们之间的连接强度将得到加强，这一论述的数学描述被称为Hebb学习规则。Hebb学习规则是一种无教师的学习方法，这种学习的结果是使网络能够提取训练集的统计特性，从而把输入信息按照它们的相似性程度划分为若干类。这一点与人类观察和认识世界的过程非常吻合，人类观察和认识世界在相当程度上就是在根据事物的统计特征进行分类。（2）Delta（δ）学习规则δ规则实现了E中的梯度下降，因此使误差函数达到最小值。但δ学习规则只适用于线性可分函数，无法用于多层网络。BP网络的学习算法称为BP算法，是在δ规则基础上发展起来的，可在多网络上有效地学习。（3）概率式学习

从统计力学、分子热力学和概率论中关于系统稳态能量的标准出发，进行神经网络学习的方式称概率式学习。它是基于模拟退火的统计优化方法，因此又称模拟退火算法。6、典型的神经网络

（1）BP神经网络误差反向传播神经网络，简称BP网络（BackPropagation），该网络是一种单向传播的多层前向网络。

误差反向传播的BP算法简称BP算法，其基本思想是梯度下降法。它采用梯度搜索技术，以期使网络的实际输出值与期望输出值的误差均方值为最小。BP网络特点（1）是一种多层网络，包括输入层、隐含层和输出层；（2）层与层之间采用全互连方式，同一层神经元之间不连接；（3）权值通过δ学习算法进行调节；（4）神经元激发函数为S函数；（5）学习算法由正向传播和反向传播组成；（6）层与层的连接是单向的，信息的传播史双向的。

BP网络具有很好的逼近非线性映射的能力，该网络在模式识别、图像处理、系统辨识、函数拟合、优化计算、最优预测和自适应控制等领域有着较为广泛的应用。由于BP网络具有很好的逼近特性和泛化能力，可用于神经网络控制器的设计。但由于BP网络收敛速度慢，难以适应实时控制的要求。（2）RBF神经网络

径向基函数(RBF-RadialBasisFunction)具有单隐层的三层前馈网络。由于它模拟了人脑中局部调整、相互覆盖接收域（或称感受野-ReceptiveField）的神经网络结构，因此，RBF网络是一种局部逼近网络，已证明它能任意精度逼近任意连续函数。RBF网络结构

RBF网络是一种三层前向网络，由于输入到输出的映射是非线性的，而隐含层空间到输出空间的映射是线性的，从而可以大大加快学习速度并避免局部极小问题。RBF网络特点

(1)RBF网络的作用函数为高斯函数，是局部的，BP网络的作用函数为S函数，是全局的；(2)如何确定RBF网络隐层节点的中心及基宽度参数是一个困难的问题；(3)已证明RBF网络具有唯一最佳逼近的特性，且无局部极小。7、神经控制的基本原理传统控制模式——根据被控对象的数学模型及对控制系统要求的性能指标设计控制器，并对控制规律加以数学解析描述。模糊控制模式——基于专家经验和领域知识总结模糊控制规则——显式表达知识神经控制——不善于显式表达知识——具有很强的逼近非线性函数能力（非线性映射能力）神经网络在控制中主要起以下作用：(1)在基于精确模型的各种控制结构中充当对象的模型；(2)在反馈控制系统中直接充当控制器的作用；(3)在传统控制系统中起优化计算作用；(4)在与其它智能控制方法和优化算法相融合中,为其提供对象模型、优化参数、推理模型及故障诊断等。

一般说来，神经网络用于控制有两种方式：一种是利用神经网络实现系统建模，有效地辨识系统；另一种就是将神经网络直接作为控制器使用，以取得满意的控制效果。4.2神经网络控制的结构1、基于神经网络的系统辨识（1）系统辨识的基本概念L.A.Zadeh曾给辨识下过定义：“辨识就是在输入和输出数据的基础上，从一组给定的模型中，确定一个与所测系统等价的模型。”（1）系统辨识的基本概念根据以上关于辨识的定义可知，辨识有三大要素：①数据：能观测到的被辨识系统的输入/输出数据；

②模型类：待寻找模型的范围；③等价准则：辨识的优化目标，用来衡量模型与实际系统的接近情况。

设一个离散非时变系统，其输入和输出分别为u(k)和y(k)，辨识问题可描述为寻求一个数学模型，使得模型的输出与被辨识系统的输出y(k)之差满足规定的要求。被辨识系统辨识模型系统辨识原理图在进行辨识系统时要遵循以下几个基本原则：

①输入信号的选择原则为了能够辨识实际系统，对输入信号的最低要求是在辨识时间内系统的动态过程必须被输入信号持续激励，反映在频谱上，要求输入信号的频率必须足以覆盖系统的频谱，更进一步的要求是输入信号应能使给定问题的辨识模型精度足够高。

②模型的选择原则模型只是在某种意义下对实际系统的一种近似描述，它的确定要兼顾其精确性和复杂性，一般选择能逼近原系统的最简模型。

其中，L为数据的长度，f(•)是e(k)的函数，一般选平方函数，即根据图可知

由于e2(k)通常是关于模型参数的非线性函数。因此，在这种误差准则意义下，辨识问题可归结为非线性函数的最优化问题。③误差准则的选择原则作为衡量模型是否接近实际系统的标准，误差准则通常表示为一个误差的泛函，记作被辨识系统辨识模型（2）基于神经网络的系统辨识正向模型辨识所谓正向模型是指利用多层前馈神经网络，通过训练或学习，使其能够表达系统正向动力学特性的模型。下图给出了获得系统正向模型的网络结构示意图。其中神经网络与待辨识系统并联，两者的输出误差e被用作网络的训练信号。显然，这是一个典型的有监督学习问题，实际系统作为教师，向神经网络提供学习算法所需的期望输出。一般可选BP及其改进算法对网络进行训练。动态系统NN正向模型2.逆模型辨识

（1）直接逆建模直接逆建模也称为广义逆学习，其结构如图动态系统NN

从原理上说，这是一种最简单的方法。拟辨识动态系统的输出作为网络的输入，将网络输出与系统输入进行比较后的误差作为训练信号，因而网络将通过学习建立起拟辨识动态系统的逆模型。（2）正–逆建模正–逆建模也称为狭义逆学习，其结构如图动态系统NN正向模型

此时待辨识对象的逆模型（NN）位于动态系统前面，并与之串联。网络的训练误差或者为系统期望输出yd(k)与系统实际输出y(k)之差，或者为系统期望输出yd(k)与已建神经网络正向模型的输出yN(k)之差，即或2、基于神经网络的控制

在现代控制系统中，随着工程研究的深入，控制理论所面临的问题日益复杂多变，主要表现在控制对象、控制任务的日益复杂化，系统的数学模型难以建立。神经网络由于其强大的非线性映射能力、自学习自适应能力、联想记忆能力、并行信息处理能力以及优良的容错能力，使得其非常适用于复杂系统的建模与控制，特别是当系统存在不确定因素时，更体现了神经网络方法的优越性，它使模型与控制的概念合二为一。（1）基于神经网络控制的基本原理神经网络用于控制的优越性主要表现在以下几个方面：①采用并行分布信息处理方式，具有很强的容错性。②神经网络的本质是非线性映射，它可以逼近任意非线性函数。③通过对训练样本的学习，可以处理难以用模型或规则描述的过程和系统。④硬件实现发展迅速，为提高神经网络的应用开辟了广阔的前景。神经网络自身所具有的自学习和自适应、自组织以及大规模并行信息处理等特点，使其在自动控制领域具有广阔的应用前景。（Ⅰ）神经网络前馈控制的基本原理一般反馈控制系统的原理图：控制器被控对象神经网络被控对象采用神经网络作为前馈控制器的系统如图：神经网络被控对象

设被控对象的输入u和系统输出y之间满足如下