最优控制理论课件

4/12/20241现代控制理论最优控制理论东北大学信息科学与工程学院井元伟教授二○○九年十一月4/12/20242第2章求解最优控制的变分方法第3章最大值原理第4章动态规划第5章线性二次型性能指标的最优控制第6章快速控制系统第1章最优控制问题4/12/20243最优控制理论现代控制理论的重要组成部分20世纪50年代发展形成系统的理论研究的对象

控制系统中心问题

给定一个控制系统，选择控制规律，使系统在某种意义上是最优的统一的、严格的数学方法最优控制问题研究者的课题，工程师们设计控制系统时的目标最优控制能在各个领域中得到应用，效益显著4/12/20244现代控制理论1.1两个例子1.2问题描述第1章最优控制问题4/12/20245现代控制理论最优控制问题1.1两个例子

例1.1

飞船软着陆问题

4/12/20246现代控制理论最优控制问题1.1两个例子

例1.1

飞船软着陆问题

m

飞船的质量h

高度v

垂直速度g

月球重力加速度常数M

飞船自身质量F

燃料的质量软着陆过程开始时刻t为零

K为常数

4/12/20247现代控制理论最优控制问题1.1两个例子

例1.1

飞船软着陆问题

m

飞船的质量h

高度v

垂直速度g

月球重力加速度常数M

飞船自身质量F

燃料的质量软着陆过程开始时刻t为零

K为常数

4/12/20248现代控制理论最优控制问题1.1两个例子

例1.1

飞船软着陆问题

m

飞船的质量h

高度v

垂直速度g

月球重力加速度常数M

飞船自身质量F

燃料的质量软着陆过程开始时刻t为零

K为常数

初始状态

4/12/20249现代控制理论最优控制问题1.1两个例子

例1.1

飞船软着陆问题

m

飞船的质量h

高度v

垂直速度g

月球重力加速度常数M

飞船自身质量F

燃料的质量软着陆过程开始时刻t为零

K为常数

初始状态

终点条件

4/12/202410现代控制理论最优控制问题1.1两个例子

例1.1

飞船软着陆问题

m

飞船的质量h

高度v

垂直速度g

月球重力加速度常数M

飞船自身质量F

燃料的质量软着陆过程开始时刻t为零

K为常数

初始状态

终点条件

控制目标4/12/202411现代控制理论最优控制问题1.1两个例子

例1.1

飞船软着陆问题

m

飞船的质量h

高度v

垂直速度g

月球重力加速度常数M

飞船自身质量F

燃料的质量软着陆过程开始时刻t为零

K为常数

初始状态

终点条件

控制目标推力方案4/12/202412现代控制理论最优控制问题例1.2

导弹发射问题4/12/202413现代控制理论最优控制问题例1.2

导弹发射问题4/12/202414现代控制理论最优控制问题例1.2

导弹发射问题4/12/202415现代控制理论最优控制问题例1.2

导弹发射问题初始条件

4/12/202416现代控制理论

最优控制问题例1.2

导弹发射问题初始条件

末端约束

4/12/202417现代控制理论

最优控制问题例1.2

导弹发射问题初始条件

末端约束

指标

4/12/202418现代控制理论

最优控制问题例1.2

导弹发射问题初始条件

末端约束

指标

控制4/12/202419现代控制理论最优控制问题1.2问题描述(1)状态方程一般形式为4/12/202420现代控制理论

最优控制问题1.2问题描述(1)状态方程一般形式为4/12/202421现代控制理论最优控制问题1.2问题描述(1)状态方程一般形式为为n维状态向量4/12/202422现代控制理论

最优控制问题1.2问题描述(1)状态方程一般形式为为n维状态向量为r维控制向量4/12/202423现代控制理论最优控制问题1.2问题描述(1)状态方程一般形式为为n维状态向量为r维控制向量为n维向量函数4/12/202424现代控制理论

最优控制问题1.2问题描述(1)状态方程一般形式为为n维状态向量为r维控制向量为n维向量函数给定控制规律4/12/202425现代控制理论最优控制问题1.2问题描述(1)状态方程一般形式为为n维状态向量为r维控制向量为n维向量函数给定控制规律满足一定条件时，方程有唯一解4/12/202426现代控制理论

最优控制问题(2)容许控制4/12/202427现代控制理论最优控制问题(2)容许控制：4/12/202428现代控制理论

最优控制问题(2)容许控制：4/12/202429现代控制理论最优控制问题(2)容许控制：有时控制域可为超方体

4/12/202430现代控制理论

最优控制问题(2)容许控制：有时控制域可为超方体

4/12/202431现代控制理论最优控制问题(3)目标集4/12/202432现代控制理论最优控制问题(3)目标集4/12/202433现代控制理论

最优控制问题(3)目标集n维向量函数4/12/202434现代控制理论最优控制问题(3)目标集固定端问题

n维向量函数4/12/202435现代控制理论最优控制问题(3)目标集固定端问题

自由端问题

n维向量函数4/12/202436现代控制理论

最优控制问题(4)

性能指标4/12/202437现代控制理论最优控制问题(4)

性能指标4/12/202438现代控制理论最优控制问题(4)

性能指标对状态、控制以及终点状态的要求，复合型性能指标4/12/202439现代控制理论

最优控制问题(4)

性能指标对状态、控制以及终点状态的要求，复合型性能指标4/12/202440现代控制理论最优控制问题(4)

性能指标对状态、控制以及终点状态的要求，复合型性能指标积分型性能指标，表示对整个状态和控制过程的要求

4/12/202441现代控制理论

最优控制问题(4)

性能指标对状态、控制以及终点状态的要求，复合型性能指标积分型性能指标，表示对整个状态和控制过程的要求

4/12/202442现代控制理论最优控制问题(4)

性能指标对状态、控制以及终点状态的要求，复合型性能指标积分型性能指标，表示对整个状态和控制过程的要求

终点型指标，表示仅对终点状态的要求4/12/202443现代控制理论

2.1泛函与变分法基础2.2欧拉方程2.3横截条件2.4含有多个未知函数泛函的极值2.5条件极值2.6最优控制问题的变分解法第2章求解最优控制的变分方法4/12/202444现代控制理论

求解最优控制的变分方法2.1泛函与变分法基础平面上两点连线的长度问题

4/12/202445现代控制理论

求解最优控制的变分方法2.1泛函与变分法基础平面上两点连线的长度问题

4/12/202446现代控制理论

求解最优控制的变分方法2.1泛函与变分法基础平面上两点连线的长度问题

一般来说，曲线不同，弧长就不同，即弧长依赖于曲线，记为4/12/202447现代控制理论

求解最优控制的变分方法2.1泛函与变分法基础平面上两点连线的长度问题

一般来说，曲线不同，弧长就不同，即弧长依赖于曲线，记为称为泛函

称为泛函的宗量

4/12/202448现代控制理论

求解最优控制的变分方法泛函与函数的几何解释4/12/202449现代控制理论

求解最优控制的变分方法泛函与函数的几何解释4/12/202450现代控制理论

求解最优控制的变分方法泛函与函数的几何解释宗量的变分4/12/202451现代控制理论

求解最优控制的变分方法泛函与函数的几何解释宗量的变分泛函的增量4/12/202452现代控制理论

求解最优控制的变分方法泛函与函数的几何解释宗量的变分泛函的增量泛函的变分4/12/202453现代控制理论

求解最优控制的变分方法泛函与函数的几何解释连续泛函

宗量的变分趋于无穷小时，泛函的变分也趋于无穷小线性泛函

泛函对宗量是线性的宗量的变分泛函的增量泛函的变分4/12/202454现代控制理论

求解最优控制的变分方法定理2.2

若泛函有极值，则必有上述方法与结论对多个未知函数的泛数同样适用

4/12/202455现代控制理论

求解最优控制的变分方法2.6最优控制问题的变分解法2.6.4终值时间自由的问题2.6.3末端受限问题2.6.2固定端问题2.6.1自由端问题4/12/202456现代控制理论求解最优控制的变分方法2.6.1自由端问题约束方程新的泛函令有哈米顿函数

4/12/202457现代控制理论

求解最优控制的变分方法进行变分令有伴随方程

必要条件4/12/202458现代控制理论

求解最优控制的变分方法例2.5

哈米顿函数伴随方程边界条件必要条件4/12/202459现代控制理论

求解最优控制的变分方法最优控制代入状态方程并求解令4/12/202460现代控制理论求解最优控制的变分方法2.6.2固定端问题性能指标分部积分进行变分令变分为零4/12/202461现代控制理论

求解最优控制的变分方法边界条件指标泛函例2.6考虑如下系统的终端固定的最优控制问题，求取最优控制和最优状态曲线，使指标泛函J取得极小值。

系统的状态方程：4/12/202462现代控制理论

求解最优控制的变分方法哈米顿函数伴随方程由状态方程代入初始和终端条件，可求得4/12/202463现代控制理论

求解最优控制的变分方法4.考虑如下系统的终端固定的最优控制问题，求取最优控制和最优状态曲线，使指标泛函J取得极小值。系统的状态方程为：其边界条件为：其指标泛函为：4/12/202464现代控制理论

求解最优控制的变分方法哈米顿函数伴随方程4/12/202465现代控制理论

求解最优控制的变分方法4/12/202466现代控制理论

求解最优控制的变分方法2.6.3末端受限问题新的泛函变分4/12/202467现代控制理论求解最优控制的变分方法必要条件4/12/202468现代控制理论

求解最优控制的变分方法2.6.4终值时间自由的问题T有时是可变的，是指标泛函，选控制使有T极小值变分4/12/202469现代控制理论

求解最优控制的变分方法必要条件4/12/202470现代控制理论

求解最优控制的变分方法例2.7

指标泛函哈米顿函数伴随方程必要条件4/12/202471现代控制理论

3.1古典变分法的局限性3.2最大值原理3.3变分法与极大值原理第3章最大值原理4/12/202472现代控制理论

最大值原理3.1古典变分法的局限性u(t)受限的例子例3.1伴随方程极值必要条件矛盾!!4/12/202473现代控制理论

最大值原理3.2最大值原理定理3.1(最小值原理)设为容许控制，为对应的积分轨线，为使为最优控制，为最优轨线，必存在一向量函数，使得和满足正则方程且4/12/202474现代控制理论

最大值原理最小值原理只是最优控制所满足的必要条件。但对于线性系统最小值原理也是使泛函取最小值得充分条件。4/12/202475现代控制理论

最大值原理例3.2

重解例3.1哈密顿函数伴随方程由极值必要条件，知又于是有4/12/202476现代控制理论

最大值原理协态变量与控制变量的关系图

4/12/202477现代控制理论

最大值原理例3.3

性能指标泛函哈密顿函数伴随方程4/12/202478现代控制理论

最大值原理上有4/12/202479现代控制理论

最大值原理协态变量与控制变量的关系图

整个最优轨线4/12/202480现代控制理论最大值原理例3.4

把系统状态在终点时刻转移到性能指标泛函终点时刻是不固定的哈米顿函数伴随方程4/12/202481现代控制理论

最大值原理H是u的二次抛物线函数，u在上一定使H有最小值，可能在内部，也可能在边界上。最优控制可能且只能取三个值

此二者都不能使状态变量同时满足初始条件和终点条件4/12/202482现代控制理论最大值原理最优控制最优轨线最优性能指标4/12/202483现代控制理论

最大值原理例3.5

使系统以最短时间从给定初态转移到零态哈米顿函数伴随方程4/12/202484现代控制理论

最大值原理最优控制切换及最优轨线示意图4/12/202485现代控制理论

最大值原理3.3古典变分法与最小值原理古典变分法适用的范围是对u无约束，而最小值原理一般都适用。特别当u不受约束时，条件就等价于条件4/12/202486现代控制理论4.1多级决策过程与最优性原理4.2离散系统动态规划4.3连续系统动态规划4.4动态规划与最大值原理的关系第4章动态规划4/12/202487现代控制理论

动态规划

动态规划是求解最优控制的又一种方法，特别对离散型控制系统更为有效，而且得出的是综合控制函数。这种方法来源于多决策过程，并由贝尔曼首先提出，故称贝尔曼动态规划。4/12/202488现代控制理论动态规划4.1多级决策过程与最优性原理作为例子，首先分析最优路径问题(a)(b)(c)试分析(a),(b)和(c)三种情况的最优路径，即从走到所需时间最少。规定沿水平方向只能前进不能后退。4/12/202489现代控制理论

动态规划(a)中只有两条路径，从起点开始，一旦选定路线，就直达终点，选最优路径就是从两条中选一条，使路程所用时间最少。这很容易办到，只稍加计算，便可知道，上面一条所需时间最少。(b)共有6条路径可到达终点，若仍用上面方法，需计算6次，将每条路线所需时间求出，然后比较，找出一条时间最短的路程。(c)需计算20次，因为这时有20条路径，由此可见，计算量显著增大了。4/12/202490现代控制理论动态规划逆向分级计算法

逆向是指计算从后面开始，分级是指逐级计算。逆向分级就是从后向前逐级计算。以(c)为例从倒数第一级开始，状态有两个，分别为和在处，只有一条路到达终点，其时间是；在处，也只有一条，时间为1。后一条时间最短，将此时间相应地标在点上。并将此点到终点的最优路径画上箭头。4/12/202491现代控制理论

动态规划然后再考虑第二级只有一种选择，到终点所需时间是有两条路，比较后选出时间最少的一条，即4+1=5。用箭头标出也标出最优路径和时间依此类推，最后计算初始位置求得最优路径最短时间为134/12/202492现代控制理论动态规划最优路径示意图

4/12/202493现代控制理论动态规划5.利用逆向分级计算法求解如下的最优路径问题从倒数第一级开始，状态有两个，分别为和在处，只有一条路到达终点，其时间是；在处，也只有一条，时间为3。后一条时间最短，将此时间相应地标在点上。并将此点到终点的最优路径画上箭头。4/12/202494现代控制理论

动态规划然后再考虑第二级，亦即倒数第二级只有一种选择，到终点所需时间是有两条路，比较后选出时间最少的一条，即2+4=6。用箭头标出也标出最优路径和时间3+3=6

4/12/202495现代控制理论

动态规划然后再考虑第一级，亦即倒数第三级有两种选择，到终点所需时间是分别是，保留前者有两条路，比较后选出时间最少的一条，即2+(2+4)=8和2+(3+3)=8。用箭头标出。

4/12/202496现代控制理论

动态规划最后再考虑第一级，亦即倒数第四级有两种选择，到终点所需时间是分别是或2+(2+3+3)=10。于是，最短路经有3条，时间为10。求得最优路径4/12/202497现代控制理论

动态规划多级过程

多级决策过程

目标函数

控制目的

选择决策序列使目标函数取最小值或最大值实际上就是离散状态的最优控制问题

4/12/202498现代控制理论动态规划最优性原理在一个多级决策问题中的最优决策具有这样的性质，不管初始级、初始状态和初始决策是什么，当把其中任何一级和状态做为初始级和初始状态时，余下的决策对此仍是最优决策。4/12/202499现代控制理论

动态规划指标函数多是各级指标之和，即具有可加性最优性原理的数学表达式4/12/2024100现代控制理论

动态规划4.2离散系统动态规划阶离散系统性能指标求决策向量使有最小值（或最大值），其终点可自由，也可固定或受约束。4/12/2024101现代控制理论

动态规划引进记号应用最优性原理可建立如下递推公式贝尔曼动态规划方程

4/12/2024102现代控制理论

动态规划例4.2

设一阶离散系统，状态方程和初始条件为性能指标求使有最小值的最优决策序列和最优轨线序列指标可写为4/12/2024103现代控制理论

动态规划代入上一级4/12/2024104现代控制理论

动态规划代入状态方程最优决策序列最优轨线4/12/2024105现代控制理论

动态规划4.3连续系统的动态规划性能指标目标集引进记号根据最优性原理及4/12/2024106现代控制理论

动态规划4/12/2024107现代控制理论

动态规划由泰勒公式，得由中值定理，得4/12/2024108现代控制理论

动态规划连续型动态规划方程

实际上它不是一个偏微分方程，而是一个函数方程和偏微分方程的混合方程4/12/2024109现代控制理论

动态规划满足连续型动态规划方程，有设边界条件动态规划动态规划方程是最优控制函数满足的充分条件；解一个偏微分方程；可直接得出综合函数；动态规划要求有连续偏导数最大值原理最大值原理是最优控制函数满足的必要条件；解一个常微分方程组；最大值原理则只求得。4/12/2024110现代控制理论

动态规划例4.3

一阶系统性能指标动态规划方程右端对u求导数，令其导数为零，则得4/12/2024111现代控制理论

动态规划4.4动态规划与最大值原理的关系

变分法、最大值原理和动态规划都是研究最优控制问题的求解方法，很容易想到，若用三者研究同一个问题，应该得到相同的结论。因此三者应该存在着内在联系。变分法和最大值原理之间的关系前面已说明，下面将分析动态规划和最大值原理的关系。可以证明，在一定条件下，从动态规划方程能求最大值原理的方程。

4/12/2024112现代控制理论

动态规划动态规划方程令哈米顿函数最大值原理的必要条件4/12/2024113现代控制理论

5.1问题提出

5.2状态调节器

5.3输出调节器

5.4跟踪问题

5.5利用Matlab求解最优控制第5章线性二次型性能指标的最优控制4/12/2024114现代控制理论

线性二次型性能指标的最优控制

用最大值原理求最优控制，求出的最优控制通常是时间的函数，这样的控制为开环控制。

当用开环控制时，在控制过程中不允许有任何干扰，这样才能使系统以最优状态运行。在实际问题中，干扰不可能没有，因此工程上总希望应用闭环控制，即控制函数表示成时间和状态的函数。

求解这样的问题一般来说是很困难的。

但对一类线性的且指标是二次型的动态系统，却得了完全的解决。不但理论比较完善，数学处理简单，而且在工程实际中又容易实现，因而在工程中有着广泛的应用。4/12/2024115现代控制理论

线性二次型性能指标的最优控制5.1问题提法动态方程指标泛函求使之有最小值此问题称线性二次型性能指标的最优控制问题通常称为综合控制函数4/12/2024116现代控制理论线性二次型性能指标的最优控制指标泛函的物理意义积分项，被积函数由两项组成，都是二次型。第一项

过程

在控制过程中，实际上是要求每个分量越小越好，但每一个分量不一定同等重要，所以用加权来调整，当权为零时，对该项无要求。第二项

控制能力

能量消耗最小。对每个分量要求不一样，因而进行加权。要求正定，一方面对每个分量都应有要求，否则会出现很大幅值，在实际工程中实现不了；另一方面，在计算中需要有逆存在。指标中的第一项是对点状态的要求，由于对每个分量要求不同，用加权阵来调整。4/12/2024117现代控制理论

线性二次型性能指标的最优控制5.2状态调节器5.2.1末端自由问题5.2.2固定端问题5.2.3

的情况状态调节器选择或使系统性能指标有最小值4/12/2024118现代控制理论

线性二次型性能指标的最优控制5.2.1末端自由问题构造哈密顿函数伴随方程及边界条件最优控制应满足代入正则方程4/12/2024119现代控制理论线性二次型性能指标的最优控制求导4/12/2024120现代控制理论

线性二次型性能指标的最优控制（矩阵黎卡提微分方程）

边界条件最优控制令最优控制是状态变量的线性函数借助状态变量的线性反馈可实现闭环最优控制对称半正定阵4/12/2024121现代控制理论

线性二次型性能指标的最优控制例5.1

性能指标泛函最优控制黎卡提微分方程4/12/2024122现代控制理论

线性二次型性能指标的最优控制最优轨线的微分方程解最优轨线最优控制

4/12/2024123现代控制理论

线性二次型性能指标的最优控制黎卡提方程的解随终点时间变化的黎卡提方程的解4/12/2024124现代控制理论线性二次型性能指标的最优控制5.2.2固定端问题指标泛函（设

）采用“补偿函数”法补偿函数惩罚函数边界条件黎卡提方程逆黎卡提方程4/12/2024125现代控制理论

线性二次型性能指标的最优控制求导黎卡提方程乘以逆黎卡提方程解逆4/12/2024126现代控制理论

线性二次型性能指标的最优控制5.2.3的情况性能指标无限长时间调节器问题

黎卡提方程边界条件最优控制最优指标4/12/2024127现代控制理论

线性二次型性能指标的最优控制5.2.4定常系统完全可控指标泛函矩阵代数方程最优控制最优指标4/12/2024128现代控制理论线性二次型性能指标的最优控制例5.2

黎卡提方程4/12/2024129现代控制理论

线性二次型性能指标的最优控制5.3输出调节器指标泛函输出调节器问题状态调节器问题

令4/12/2024130现代控制理论线性二次型性能指标的最优控制5.4跟踪问题问题的提法

已知的理想输出

偏差量指标泛函寻求控制规律使性能指标有极小值。物理意义

在控制过程中，使系统输出尽量趋近理想输出，同时也使能量消耗最少。4/12/2024131现代控制理论

线性二次型性能指标的最优控制指标泛函哈密顿函数4/12/2024132现代控制理论

线性二次型性能指标的最优控制设并微分4/12/2024133现代控制理论

线性二次型性能指标的最优控制的任意性

最优控制4/12/2024134现代控制理论

线性二次型性能指标的最优控制最优轨线方程

最优性能指标

4/12/2024135现代控制理论

线性二次型性能指标的最优控制例5.3

性能指标

4/12/2024136现代控制理论

线性二次型性能指标的最优控制最优控制4/12/2024137现代控制理论线性二次型性能指标的最优控制，最优控制极限解

4/12/2024138现代控制理论

线性二次型性能指标的最优控制闭环控制系统结构4/12/2024139现代控制理论

快速控制系统6.1快速控制问题6.2综合问题第6章快速控制系统4/12/2024140现代控制理论

快速控制系统

在实际问题中，经常发生以时间为性能指标的控制问题。

如，当被控对象受干扰后，偏离了平衡状态，希望施加控制能以最短时间恢复到平衡状态。

凡是以运动时间为性能指标的最优控制问题称