神经网络控制及其应用

实际是自动控制理论在机械制造领域的应用的一部分，最为热门和广泛应用的一部分

自动控制是在没有人直接参与的情况下，通过控制系统是被控对象自动地按照预定规律运行的控制过程。

自动控制系统是由相互联系、相互依赖、相互作用的若干部分组成，具有控制功能的有机整体。

被控对象是指工作状态需要给以控制的装置、设备和过程。

给定量也称控制量，表征被控量的希望运行规律，也是系统的输入量。

扰动量也称干扰量，是引起被控量偏离预定运行规律的量。从控制理论上而不是控制方法上说控制理论主要分两大类经典控制理论和现代控制理论。经典控制理论是以传递函数为理论基础，解决单输入、单输出的线性控制系统的分析与设计问题。现代控制理论主要是以状态方程或模糊数学、神经网络等为理论基础，解决多输入多输出的非线性时变控制系统的分析与设计问题。基本概念当前第1页\共有39页\编于星期四\20点

时变系统是指其方程的系数是时间的函数，如宇宙飞船的控制系统，因为飞船的然联消耗和引力的变化都是时间的函数。系统是由相互联系、相互依赖、相互制约和相互作用的若干部分组成，具有某种特定功能的有机整体。控制系统是由相互联系、相互依赖、相互制约和相互作用的若干部分组成，具有某种控制功能的有机整体。当前第2页\共有39页\编于星期四\20点自动控制系统的分类按系统组成的物理性质分电气控制系统；机械控制系统；流体控制系统；电气—流体控制系统按系统的数学模型（微分方程）的性质分

线性定常系统；线性时变系统；按给定量的变化规律分恒值控制系统；程序控制系统；随动控制系统按输入、输出信号连续性分连续系统；离散系统按控制量参数的性质分速度控制；位置控制；力和力矩控制；混合变量控制等系统按系统有无反馈信号分开环系统；闭环系统线性系统非线性系统当前第3页\共有39页\编于星期四\20点神经网络控制及其应用1神经网络控制产生的背景

自动控制面临着两个方面的技术问题（1）控制对象越来越复杂，存在着多种不确定（随机性）和难以确切描述的非线性。（2）对控制系统的要求越来越高，迫切要求提高控制系统的智能化水平，即系统具有逻辑思维和推理判断的能力。

神经网络为处理和解决上述问题提供了一条新的途径

（1）神经网络源于对脑神经的模拟，所以具有很强的适应于复杂环境和多目标控制要求的自学习能力。（2）具有以任意精度逼近任意非线性连续函数的特性。

当前第4页\共有39页\编于星期四\20点神经网络的应用航空:高性能飞行器自动驾驶、飞行路径模拟、飞行部件模拟、飞行部件故障检测…汽车:汽车自动导航仪…

国防:武器操纵、目标跟踪、面部识别、雷达和图像信号处理、新型传感器、声纳…

制造：生产流程控制、过程和机器诊断、机器性能分析、化工流程动态建模、项目投标…

机器人：轨道控制、操作手控制、视觉系统…

语音：语音识别、语音压缩…还有金融、保险、银行、医疗、交通、电讯、电子、石油天然气、有价证券、娱乐等行业。当前第5页\共有39页\编于星期四\20点3生物学的启示

轴突突触细胞体树突图1生物神经元的简图

4人工神经元

j=1,2…mi=1,2…nyjQjXnX2f∑X1图2单神经元结构图

输入

输出

轴突细胞体树突树突当前第6页\共有39页\编于星期四\20点为简便起见，也可把网络的阈值以连接数值的形式表示出来，即令，则

式中

—为其它神经元传至本神经元的输入信号，

—神经元j的阈值，此阈值决定了该神经元的兴奋与否；

—表示从神经元i到神经元j的连接权值；

—称为激励函数（也有称为响应函数或传输函数）。权值表示相邻的神经元相互连接的程度阈值即决定神经元的兴奋与否，决定兴奋与抑制激励函数可为线性函数也可为非线性函数。它是用来实现输入对输出函数关系的静态映射，它决定了神经元的单元特性。

当前第7页\共有39页\编于星期四\20点常用的神经元非线性函数x10f(x)图3阶跃函数f(x)x1-1图4sgn函数

1β=1f(x)0xβ=0.2β=5图5S状函数（1）阶跃函数

（2）Sgn函数

（3）S状函数

当前第8页\共有39页\编于星期四\20点4神经网络模型的组成

4.1．神经网络连接的结构形式

输出层输入层隐含层神经元yny2y1XnX2X1图6前向网络

神经元网络中神经元是分层排列，每个神经元只与前一层的神经元相连接，分为输入层，隐含层（一层或多层）和输出层。

（1）前向网络当前第9页\共有39页\编于星期四\20点（2）反馈前向网络

网络本身是前向型，但从输出到输入有反馈。

yny2y1XnX2X1图7反馈前向网络

图8互连网络

（3）互连网络

任意两个神经元之间都可能有连接，因此输入信号要在神经元之间反复往返传递。

当前第10页\共有39页\编于星期四\20点4.2．BP网络的结构

BP网络是一单向传播的多层前向网络，其结构图如图6所示BP网络可看成是一从输入到输出的高度非线性映射网络。

（1）输入层神经元数

（2）隐含层神经元数

（3）隐含层数的确定

（4）输出层神经元数的确定

BP网络各层的神经元数（即节点数）及隐含层层数的确定如下：

当前第11页\共有39页\编于星期四\20点5神经网络的学习

当神经网络的结构确定之后，关键问题是设计一个学习速度快，收敛性好的学习算法。

要求网络本身必须具有学习功能，即能够从示教模式的学习中逐渐调整权值，使网络整体具有近似函数或处理信息的功能。

（1）有教师学习

（2）无教师学习

5.1．网络学习方式当前第12页\共有39页\编于星期四\20点广泛应用的有教师学习的算法——BP（BackPropagation）算法

BP算法即是误差反向传播算法，该方法已成为神经网络学习中最常用的方法之一。BP算法一般是应用梯度下降原理，样本输入信号在神经网络中正向传播，应用了多层前向神经网络具有的以任意精度逼近非线性函数的能力。而网络输出与样本给定输出值之差（误差）在网络中是反向传播，用于网络的权值的训练。

输出层LC隐含层LB输入层LAWpqWpjWp1WiqWijWi1W1qW1jVnpVniVn1VhpVhiVh1V1pV1iW11V11a1ahanb1bibpc1cjcq图9基本BP网络的拓扑结构

当前第13页\共有39页\编于星期四\20点5.2．网络的计算

对BP控制网络进行训练时，首先要提供训练样本，样本可以形式化为样本对或称模式对

()其中Ak为第k个样本的输入模式

()

Ck为希望输出模式

()它们分别对应于LA层的n个神经元和Lc层的q个神经元。当网络的实际输出与希望输出一致时，学习过程结束。否则学习系统将根据实际输出和希望输出之间的误差，通过调整连接权值使网络的实际输出趋向于希望输出。当前第14页\共有39页\编于星期四\20点

BP网络样本输入学习算法程序框图如图10所示。并以图11三层（LA，LB，LC）BP神经网络为例进行学习过程的演示。

结束输入学习样本求隐含层、输出层神经元的输出计算实际输出值与目标值的误差误差满足要求？反向计算调整权值和阈值YN初始化当前第15页\共有39页\编于星期四\20点

三层BP神经网络拓扑结构

W11V11b1W12W32W31W22W21V23V22V21V13V12U2=1U1=1a1a2b2b3c1c20404图11三层BP神经网络拓扑结构

当前第16页\共有39页\编于星期四\20点BP三层神经网络学习算法各种参数及计算公式见表1。

层名当前第17页\共有39页\编于星期四\20点学习训练步骤如下：

第1步：网络初始化

输入层LA到隐含层LB的权值矩阵为

隐含层LB到输出层LC权值矩阵为

隐含层LB各神经元阈值为

当前第18页\共有39页\编于星期四\20点输出层LC­各神经元阈值为

以一个样本对即k=1为例，样本输入，样本输出。

第2步：样本正向输入，进行前向计算

输入样本为,其输入层的输出为a1和a2。对于输入层，给定每个神经元的权值为1，阈值为0，其激励函数为S型函数，则当前第19页\共有39页\编于星期四\20点第1个神经元的输出值为

则

根据（8）式计算网络LB层某一神经的加权输入为

当前第20页\共有39页\编于星期四\20点bi的实际输出根据（9）式和（26）式为

根据（7）式求激励函数为S型情况下的b值为

则

当前第21页\共有39页\编于星期四\20点根据（5）式计算第k=1样本对LC层神经元的加权输入为

根据（6）式求LC层神经元的实际输出值

则

当前第22页\共有39页\编于星期四\20点第3步：进行误差计算根据（14）式和样本期量值进行输出层LC误差计算

则

通过给定的精度系数可判断输出层LC的误差值d是否满足要求，如果不满足，则需进行反向传播计算，通过修正权值和阈值使其逼近给定精度系数。当前第23页\共有39页\编于星期四\20点

第4步：反向传播计算（1）隐含层LB一般化误差的计算根据（19）式计算隐含层LB一般化误差为

则

当前第24页\共有39页\编于星期四\20点（2）隐含层Lb和输出层Lc权值的调整

根据（20）式调整其LB至LC权值，则按学习步长（也称学习率）的范围：给定。

则

当前第25页\共有39页\编于星期四\20点根据（21）式调整LA至LB权值,则

按步长范围：,给定

则

当前第26页\共有39页\编于星期四\20点（3）网络输出层Lc和隐含层Lb阈值的调整值计算根据（22）式调整Lc层阈值

则

根据（23）式调整LB层阈值为

当前第27页\共有39页\编于星期四\20点

则

（4）计算调整后的权值和阈值隐含层LB至输出层LC的权值，由（25）和（34）式得当前第28页\共有39页\编于星期四\20点

输入层LA至隐含层LB的权值，由（24）和（35）式得输出层LC阈值根据（27）和（36）式得

当前第29页\共有39页\编于星期四\20点

隐含层LB阈值，根据（26）和（37）式得

经过上述计算在输出层LC的误差值d未满足精度要求的情况下，完成了第1次权值和阈值的调整训练。经反向计算调整后需按程序框图12的流程和上述计算方法再计算输出层LC误差值d，其运算过程不再全部列出，只是直接给出将调整后LB层和LC层的输出值和误差值。当前第30页\共有39页\编于星期四\20点

LB层的输出值

LB层的误差值

LC层的输出值

LC层的误差值

当前第31页\共有39页\编于星期四\20点在此根据LC层的误差值d判断是否满足给定的精度系数，如果不满足再进行第2次的循环调整，再从第2步开始运行，以后为了简化只给出调整结果。

·第2次循环调整

LC层至LB层的权值调整

LB层至LA层的权值调整

当前第32页\共有39页\编于星期四\20点LC层阈值的调整

LB层阈值的调整

LB层的输出值

LB层的误差值

当前第33页\共有39页\编于星期四\20点第3次循环调整

LC层至LB层的权值调