基于神经网络的系统辨识专家讲座

第十三章神经网络建模与控制

主讲教师：付冬梅

北京科技大学信息工程学院自动化系基于神经网络的系统辨识专家讲座第1页主要内容1、

智能控制产生和基本特征2、基于神经网络系统辨识3、基于神经网络系统辨识示例4、基于神经网络系统控制5、基于神经网络系统控制示例基于神经网络的系统辨识专家讲座第2页13.1智能控制产生和基本特征

寻找不需要建立（准确）数学模型控制方案，研究能够按照操作人员智力、经验及意识公布指令控制器。（含辨识器）。凡是具备两个条件智能学科都能够在智能控制上占一席之地：①能够模拟人脑智力行为处理复杂性、不确定性、非线性对象。②不需要对象准确数学模型便能迫近满意控制。智能控制阶段研究对象是控制器，而传统控制理论研究对象是被控对象，二者都是闭环负反馈形式。基于神经网络的系统辨识专家讲座第3页1）辨识系统基本结构系统辨识主要任务就是选择辨识模型，确定输入信号和误差信号及其差值。2）辨识模型静态模型、动态模型、参数模型、非参数模型（阶跃响应、脉冲响应）、神经网络模型3）辨识系统中误差准则其中，有各种选择，最多是平方函数其中，是误差函数，定义区间为[0,M]被测系统×+干扰+辨识模型+e13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第4页4）神经网络辨识原理由误差准则可知，系统辨识本质上是一个优化问题。辨识方法大致上分两种：①基于算法辨识方法要求建立一个模型，该模型依赖于某个参数，把辨识转化成为对模型参数预计。预计方法有：最小二乘法（快，线性），梯度下降法，极大似然法。②基于神经网络辨识方法在碰到不能线性化非线性系统时，对应模型难于转化成关于参数空间线型模型。基于算法辨识方法将束手无策。

13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第5页基于神经网络辨识系统结构图以下列图所表示。辨识不在意神经网络以什么形式去迫近实际系统，只关心神经网络输出与被辨识系统输出相差多少，可否为零。被辨识系统×+V(k)+辨识模型+y(k)×-延时u(k)e(k)13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第6页5）辨识系统中非线性模型神经网络作系统辨识，主要用于非线性辨识和自适应。因为非线性系统在能控性、能观性、负反馈调整、状态观察器设计等方面还没有成熟作法。难度是非线性系统辨识模型和控制模型不易选取，为此，用神经网络辨识非线性系统必须作一些假设限制：被控对象含有能控性、能观性。对全部可能输入控制量u，被控对象输出y存在并有界。在辨识模型中神经网络允许一个或几个不一样神经网络结构用于被控对象。辨识模型基本结构为包含神经网络串—并联结构。

13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第7页前两条为确保系统稳定性和可辨性，第三条为了方便选择模型，简化处理过程，第四条限制主要是为了易于到达以下目标：因为输出y存在并有界，那么串—并联模型中全部信号都有界，辨识模型易于稳定。串—并联模型间无反馈，使从后向前静态反向传输算法成为可能。当误差足够小时，不使用串—并联结构，只用并联结构也能有好效果。在前述四种假设限制下，能够写出惯用一些非线性经典模型，现举例以下：

13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第8页n=2,m=0时并联结构如图3所表示。u(k)-e(k+1)++×Z-1×a0a1Z-1++N+Z-1∑a0a1Z-1++g∑+×+y(k+1)图3并联结构①13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第9页n=2,m=0时串联结构如图4所表示。u(k)-e(k+1)++×Z-1×a0a1Z-1++N+Z-1∑a0a1Z-1++g∑+×+y(k+1)图4串--并联结构13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第10页②结构同图3、图4，将g换为f.②③④后两种用神经网络实现起来较难。13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第11页6）非线性系统逆模型神经网络辨识

①什么叫系统逆模型在正常情况下，对系统进行分析主要任务就是：系统在一个控制信号作用下，将会产生什么样输出；产生什么样运动轨迹。比如：y=f(x,u,T)

输出状态输入系统控制作用

当输入u一定时，正常系统分析过程是：已知T(t)，确定y(t)和x(t).系统T(t)y(t),x(t)13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第12页

逆系统是：由y(t)和x(t)寻找控制信号T(t).系统寻求T(t)y(t),x(t)已知T(t)y(t),x(t)

或者是：由理想y(t)和x(t)，怎样寻找理想T(t).13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第13页

②系统分析逆模型存在性在一个控制系统中，假如已知了运动轨迹y(t)、x(t)要想求出它控制信号T(t)，首先必定要知道这个控制信号是否存在？系统是否可逆？线型系统可逆性问题实际上是一个能控性问题，即线性可控系统即是可逆系统。非线性则未必。但有以下定理存在：定理：假如对于u(k),f[y(k)…y(k-n),u(k)…u(k-m)]严格单调，那么系统在点[y(k)…y(k-n),u(k)…u(k-m)]T

处可逆。只有在全部点处可逆都成立，系统才是可逆。

③非线性系统逆模型非线性系统逆模型研究包含逆系统建模和逆模型辨识两部分内容。逆系统建模是对非线性系统逆运行过程建立一数学模型。逆模型辨识是对非线性系统逆运行进行辨识识别，看其与哪种已知模型更靠近。13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第14页

通常认为，神经网络辨识是逆模型建立和辨识有效和惯用方法。下面仅介绍三种惯用方法：非线性系统逆模型直接建立该方法又称为泛化学习方法。泛化学习本意是网络训练所覆盖范围要比未知逆系统所可能包括范围大一些。这么有利于取得更佳逆动力学特征。被控对象-ANN+e×uy这里ANN惯用BP,RBF,CMAC13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第15页正—逆系统建模

这种方法关键点是在非线性系统正模型（未知对象动力学模型）基础上，取得逆动力学模型，共有三种方案。

a)被控对象—逆模型建模这种方案严重缺点是：要求知道未知对象模型。但恰恰在实际系统中，它是未知，所以基本上是不实用。未知被控对象-ANN+e×uy13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第16页b)正模型—逆系统建模

其中正模型是指x→y之间映射（整个系统是单位反馈时才可用）。这种方案优点是：正模型建立之后就成为已知条件，未知被控对象各种运算都能从正模型中计算出来。不足之处于于逆模型精度完全取决于正模型精度。且这种缺点是这种辨识结构所设。正模型-ANN+e×uy被控对象x13.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第17页c)被控对象--正模型—逆模型建模

正模型-ANN+e×uy被控对象y013.2基于神经网络系统辨识基于神经网络的系统辨识专家讲座第18页例1线性离散系统辨识示例仿真系统为二阶SISO系统，表示为y(k)-1.5y(k-1)+0.7y(k-2)=u(k-1)+0.5u(k-2)。辨识器NNI选择串-并联结构，采取自适应线性神经元DTNN网络。

这里学习算法可采取一次性LS（离线）和递推LS及梯度下降法（在线）。系统输入采取M序列，M序列选取周期Np=15四阶M序列。M序列图形可见仿真结果。13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第19页例1线性离散系统辨识示例

其中function.prbs(n1,n,k1,k2,k3,k4)是产生M序列函数n1–--n1阶M序列→Np=(2p-1)n----M序列总长度Ki(i=1,…4)----M序列参数K3普通取0，K4普通取0，K1K2选择使Np到达最大值程序Bianshi_ADLINE_L.M采取是离线辨识方法Bianshi_ADLINE_Z.M采取是在线辨识方法函数prbs.M是产生M序列函数13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第20页例2含有输出量测噪声一阶SISO系统辨识

仿真系统模型为y(k)-0.2y(k-1)=0.5u(k-1)。含有输出量测噪声v(k)(零均值)系统输出为：z(k)=y(k)+v(k)

该例为有输出噪声随机系统第一类问题。辨识器ANNI选串—并联结构。仍用自适应线性神经元（事先要已知被辨识系统数学模型结构，而且线性自适应神经元主要适应于线性系统。优点是结构简单，稳定性、收敛性无问题。非线性标准上可结构多个线性自适应神经元）仿真系统×y(k)v(k)z(k)u(k)13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第21页例2含有输出量测噪声一阶SISO系统辨识

训练采取是δ规则。含输入输出噪声随机模型辨识问题普通化描述为：设随机系统为：求得系统参数预计值。13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第22页例3基于高斯RBF网络非线性动态系统辨识仿真模型为：系统输入信号为：辨识器取串-并联结构，其中NN取二维高斯RBF网络。其中散布系数SC=1，中心参数是程序内部自设。13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第23页例4基于CMAC非线性动态系统辨识仿真系统模型为：系统输入信号为：辨识器由CMAC与一个Z-1组成。但这里选是并联结构。全知权值依据δ学习规则调整。这里设y=1.8（学习率）,C=5（泛化常数)N=5，量化级q=100.系统输入范围Umin~Umax=-1~1.13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第24页例5基于PID网络非线性动态系统辨识仿真系统模型：系统输入信号为：辨识器输入/输出为：PID神经网络输入/输出为：PID神经网络输出层用线性节点，准则函数取设η1=0.15，η2=0.08.13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第25页例5基于PID网络非线性动态系统辨识辨识器ANNI采取PID神经网络与按拍延迟线（两个Z-1）组成，选取串-并联辨识结构，以下列图所表示：13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第26页以上例子中这类问题普通化描述为：非线性系统差分方程形式包含有：仿射型离散状态空间表示式：普通型离散状态空间表示式：13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第27页对于前5个SISO系统而言，假设：

1，模型结构已知，而nm已知。

2，u(k)，y(k)可测量。

3，对全部u(k)而言，y(k)是一致有界，即系统稳定。对于后面两个MIMO系统而言，假设

1，系统含有能控性，能观性。

2，输入m维，输出p维，状态n维。在普通情况下多用传-并联辨识结构，这种结构下ANNI更轻易确保其稳定性。13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第28页13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第29页例6用线性自适应神经元进行线性系统逆模型辨识

仿真系统模型为：因为P(z)零点p=-0.5,极点为0.75与j0.37和或者差，均在Z平面单位圆内，所以P(z)是稳定且含有一阶时延系统（2）系统逆模型，因为其极点在Z平面单位圆内，所以其是稳定：（1）求系统Z传递函数13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第30页例6用线性自适应神经元进行线性系统逆模型辨识（3）逆模型辨识：逆模型神经网络输出为u(k-1).输入为：y(k),y(k-1),y(k-2),u(k-2)逆差分方程为：逆模参数为：13.3基于神经网络系统辨识示例基于神经网络的系统辨识专家讲座第31页（5）在线逆模型辨识（模型还是例6模型）例6用线性自适应神经元进行线性系统逆模型辨识在线逆模型辨识（不过不能用M序列，可用正弦和随机数）证实在线难度大（4）离线逆模型辨识：输入u(k)循环周期Np=15四阶M序列程序名称Bianshi_ADLINE_L_O.M（离线）13.3基于神经网络系统辨识示例Bianshi_ADLINE_Z_O.M（在线）基于神经网络的系统辨识专家讲座第32页这里主要处理以下几个问题：（1）神经控制设计问题（2）神经控制集中结构及设计（3）再励学习原理，再励学习与神经控制。1）神经网络控制系统设计与实现（1）神经控制系统普通结构×神经控制器y(t)-T保持器对象或过程传感器u(t)Te(t)r(t)13.4基于神经网络系统控制(a)闭环确定性系统ANN控制基于神经网络的系统辨识专家讲座第33页对于该神经控制设计，就是神经辨识器、控制器结构（包含动态神经网络种类、结构）选择，很可能需经屡次试探过程，在L2意义下，使准则函数：13.4基于神经网络系统控制(b)不确定、不确知系统普通结构（这里是单位反馈）基于神经网络的系统辨识专家讲座第34页2)神经自校正控制神经自校正控制包含直接型（直接逆动态控制），间接型（就是常说自校正控制）。13.4基于神经网络系统控制（1）神经网络直接自校正控制此种控制结构要求对象可逆，其中ANNI和ANNC结构相同。学习算法也相同，输出y跟踪输入r精度取决于逆模型精度。另外，这种控制因为是开环控制，所以在实际工业生产应用极少基于神经网络的系统辨识专家讲座第35页(2)神经网络自校正控制结构由两个回路组成：自校正控制器与被控对象组成反馈回路，神经网络辨识器与控制器设计，以得到控制器参数。需要在线设计与实现。13.4基于神经网络系统控制基于神经网络的系统辨识专家讲座第36页×Gcy(k)-系统u(k-1)r(k)被控对象为：式中，u,y分别为对象输入、输出。g[],φ[]为非零函数，假如这两个均已知，依据确定性等价标准，控制器控制算法为：此时，控制系统输出y(k)能准确地跟踪输入r(k)---系统期望输出。13.4基于神经网络系统控制基于神经网络的系统辨识专家讲座第37页假如g[],φ[]为未知，则经过在线训练神经网络辨识器，使其逐步迫近被控对象，由辨识器函数代替这两个函数，则控制器输出为：式中，Ng[],Nφ[]分别为组成辨识器非线性动态神经网络13.4基于神经网络系统控制基于神经网络的系统辨识专家讲座第38页（3）神经网络辨识器为使问题简化，考虑以下一阶被控对象：网络辨识器由两个三层非线性DTNN实现，网络输入{y(k-1),u(k-1)},输出为：式中W,V为权系数。图中L表示线性节点f()=x。H为非线性节点13.4基于神经网络系统控制基于神经网络的系统辨识专家讲座第39页所以，我们设定目标函数为而取值调整仍可采取BP算法13.4基于神经网络系统控制基于神经网络的系统辨识专家讲座第40页例7被控对象含有非线性时变特征神经网络自校正控制仿真模型为：仿真结果表明控制系统能有效地抑制扰动，且对被控对象时变性，控制器能及时调整，表现为网络系值调整，有自适应性13.4基于神经网络系统控制基于神经网络的系统辨识专家讲座第41页3）神经PID控制神经PID控制结构中有两个神经网络：在线辨识器(ANNI)，自适应PID控制器（ANNC)。原理：由ANNI在线辨识被控对象模型（正）基础上，在线调整ANNC权系数，到达自适应控制目标。13.4基于神经网络系统控制基于神经网络的系统辨识专家讲座第42页在线辨识器ANNI设计与实现设被动对象为：g[]未知，采取串-并联结构由ANNI在线辨识。ANNI可采取BP网或CAMC或RBF网络。BP网络输入为：隐层为第i个节点