变分法与最优控制【稻香书屋】

1、第二讲 变分法与最优控制,1,学习幻灯,主要内容,2.1 变分法概述 2.2 无约束最优化问题 无约束固定端点泛函极值必要条件 无约束自由端点泛函极值必要条件 2.3 等式约束最优化问题 2.4 变分法求解最优控制问题 引入哈密顿函数求解拉格朗日问题 求解综合型（波尔扎）问题,2,学习幻灯,2.1 变分法概述 1、泛函定义 2、泛函的连续性 3、泛函的极值 4、线性泛函 5、泛函的变分 6、泛函变分的求法 7、泛函变分的规则 8、泛函极值的条件,3,学习幻灯,2.1 变分法概述,1、泛函定义 定义： 如果变量y对于某一函数类中的每一个函数x(t)，都有一个确定的值与之对应，那么就称变量y为依赖

2、于函数x(t)的泛函，记为：y=J x(t,说明：由于函数的值是由自变量的选取而确定的，而泛函的值是由自变量的函数的选取而确定的，所以将泛函理解为“函数的函数,4,学习幻灯,例2.1】 是一个泛函。 变量J的值是由函数x(t) 的选取而确定。 当 时, 有 。 当 时, 有,5,学习幻灯,例2.2】曲线的弧长 求：平面上连接给定两点A(x0，y0)和B(x1，y1)的曲线的弧长 J。 A、B两点间的曲线方程为：y=f(x) A、B两点间的弧长为,6,学习幻灯,泛函的上述概念，可以推广到含有几个函数的泛函的情况，例如,求一般函数极值 微分法 求泛函极值 变分法,7,学习幻灯,2、泛函的连续性,函

3、数相近(零阶相近) 当函数x(t)与 x0(t)之差的绝对值，即 x(t)-x0(t) , t1t t2 对于x(t)的定义域中的一切t（ t1 t t2 ）都很小时，称函数x(t)与函数x0(t)是相近的，也称为零阶相近,8,学习幻灯,一阶相近 当函数x(t)与 x0(t)之差的绝对值以及它们的一阶导数 和 之差的绝对值，即 t1 t t2 都很小，称函数x(t)与函数x0(t)是一阶相近的,注意：一阶相近的两个函数，必然是零阶相近，反之不成立,K阶相近 当 t1 t t2 都很小时，称函数x(t)与函数x0(t)是k阶相近的,9,学习幻灯,函数间距离 在不同的函数空间，函数间的距离定义也不

4、同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,显然，式（2.1）定量地表示两个函数之间的零阶相近度，而式（2.1）定量地表示两个函数之间的k阶相近度,2.1,2.2,零阶距离,零阶距离,函数间距离 在不同的函数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中

5、，任意两个函数间的距离定义为,2.1,函数间距离 在不同的函数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,函数间距离 在不同的函数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,函数间距离 在不同的函

6、数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,函数间距离 在不同的函数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,函数间距离 在不同的函数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间

7、a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,函数间距离 在不同的函数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,函数间距离 在不同的函数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义

8、距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,零阶距离,零阶距离,函数间距离 在不同的函数空间，函数间的距离定义也不同。 在函数空间Ca，b（在区间a，b上连续的函数的全体构成的函数空间）中，通常采用下式定义距离： 在函数空间Cka，b（在区间a，b上连续且具有连续的k阶导数的函数的全体构成的函数空间）中，任意两个函数间的距离定义为,10,学习幻灯,泛函的连续性 如果对于任意给定的正数，可以找到这样一个0，当 dx(t)，x0(t) 时，存在 Jx(t)Jx0(t) 那么，就说泛函J在点x0(t)处是连续的。 根

9、据所采用的函数之间距离定义的不同，对应的泛函分别称为零阶连续泛函(2.1)或k阶连续泛函(2.2,11,学习幻灯,3、泛函的极值,如果是在与仅仅具有零阶接近度的曲线的泛函中比较得出的极值，称为强极值。 如果是在与 具有一阶或一阶以上接近度的曲线 的泛函中比较得出的极值，则称为弱极值,12,学习幻灯,4、线性泛函,连续泛函如果满足下列条件： （1）叠加原理 ： Jx1(t)+ x2(t)= Jx1(t)+ Jx2(t) （2） 齐次性： Jcx(t)=c Jx(t,其中，c是任意常数，就称为线性泛函。 例如,都满足上述两个条件，故均为线性泛函,13,学习幻灯,5、泛函的变分,宗量的变分 若函数x

10、(t)是变量J的自变量函数，则称x(t)为泛函Jx(t)的宗量函数。 宗量的变分是指在同一函数类中的两个宗量函数间的差,14,学习幻灯,也就是说，泛函的变分是泛函增量的线性主部。 当一个泛函具有变分时，称该泛函是可微的,泛函的变分 当宗量x(t)有变分时，泛函的增量可以表示为,其中，Lx(t)，x(t)是关于x(t)的线性连续泛函； rx(t)，x(t)是关于x(t)的高阶无穷小； Lx(t)，x(t)称为泛函的变分，记为,线性主部,15,学习幻灯,6、泛函变分的求法,定理21 连续泛函J(x)的变分，等于泛函 对的导数在=0 时的值. 即,定理22 连续泛函J(x)的二次变分定义为,证明略,

11、证明略,16,学习幻灯,7、泛函变分的规则,17,学习幻灯,求泛函 的变分,例2.3,18,学习幻灯,8、泛函极值的条件,泛函极值的必要条件： 定理23 连续可微泛函J(x) 在x0(t)上达到极值的必要条件为：J(x)在x=x0处必有,泛函极值的充要条件： 定理24 设可微泛函J(x)存在二次变分， 则在x=x0处达到极小值的充要条件为： 同理，设可微泛函J(x)存在二次变分， 则在x=x0处达到极大值的充要条件为,19,学习幻灯,主要内容,2.1 变分法概述 2.2 无约束最优化问题 无约束固定端点泛函极值必要条件 无约束自由端点泛函极值必要条件 2.3 等式约束最优化问题 2.4 变分法

12、求解最优控制问题 引入哈密顿函数求解拉格朗日问题 求解综合型（波尔扎）问题,20,学习幻灯,2.2 无约束最优化问题,1、无约束固定端点泛函极值必要条件,问题 2-1,无约束固定终端泛函极值问题为,其中, 及x(t)在t0,tf上连续可微， t0及tf固定,求满足上式的极值轨线x*(t,x(t0)= x0，x(tf)= xf,21,学习幻灯,定理25 若给定曲线x(t)的始端x(t0)= x0和终端x(tf)= xf，则泛函,达到极值的必要条件是，曲线x(t)满足欧拉方程,其中x(t)应有连续的二阶导数， 则至少应是二次连续可微的,欧拉(Euler)方程,证明略,边界条件,或,22,学习幻灯,

13、欧拉方程的全导数形式,在 中，第二项 为全导数,令,得欧拉方程的全导数形式,或,23,学习幻灯,例2.4,求泛函 在边界条件,下的极值曲线及极值,24,学习幻灯,几种特殊的欧拉方程（可以得到封闭形式的解,被积函数L不依赖于 ，即 被积函数L不依赖于x， 即 被积函数L不依赖于t， 即 在这种情况下，欧拉方程的首次积分为 其中c是待定的积分常数。实际上，将上式左边对t求全导数，有,被积函数L 线性地依赖于 ，即,25,学习幻灯,例2.5】 最速降线(又称捷线)问题,设在竖直平面内有两点A和B，它们不在同一条铅垂线上。现有一质点受重力的作用自较高的A点向较低的B点滑动，如果不考虑各种阻力的影响，问

14、应取怎样的路径，才能使所经历的时间最短,在A、B两点所在的竖直平面内选择一坐标系，如上图所示。A点为坐标原点，水平线为x轴，铅垂线为y轴,结论:最速降线是一条圆滚线,26,学习幻灯,对于向量空间的泛函，也存在着欧拉方程，不过是欧拉方程组（即向量欧拉方程,定理26 在n维函数空间中，若极值曲线X(t)=x1(t),x2(t),xn(t)T的始端X(t0)=x1(t0),x2(t0),xn(t0)T和终端X(tf)=x1(tf),x2(tf),xn(tf)T是给定的，则泛函,达到极值的必要条件是曲线X(t)满足向量欧拉方程,其中X(t)应有连续的二阶导数，而 则至少应是二次连续可微的,向量欧拉方程

15、,或,27,学习幻灯,向量欧拉方程,向量欧拉方程,可写成标量方程组,28,学习幻灯,例2.6】 求泛函 满足边界条件 的极值函数,思考：能否利用MATLAB符号工具箱求解微分方程组,29,学习幻灯,当极值曲线x*(t)的端点变化时，要使泛函 达到极小值， x*(t)首先应当满足欧拉方程,若端点固定,可以利用端点条件,确定欧拉方程中的两个待定的积分常数,问题：若端点可变，如何确定这两个积分常数,2.2 无约束最优化问题,2、无约束自由端点泛函极值必要条件（横截条件,30,学习幻灯,图形分析, 都固定，图a,即,即,固定, 自由 图 b,即,因为 自由 所以,终端仅在 上滑动,求出最优,许多状态轨

16、线,31,学习幻灯,自由， 固定 ，图c 则横截条件变为,始端仅在 上滑动,端点变动的情况,自由端点，无约束条件的变分，如图,始点 在曲线 上变动,终点 在曲线 上变动,32,学习幻灯,问题描述：假定极值曲线的始端A(t0，x0)是固定的，而终端B(tf，xf)是可变的，并沿着给定的曲线,现在的问题是：需要确定一条从给定的点A(t0，x0)到给定的曲线 上的某一点B(tf，xf)的连续可微的曲线x(t) ，使得泛函,达到极小值,变动，如右下图所示,33,学习幻灯,横截条件,定理2-7 若曲线x(t)由一给定的点(t0，x0)到给定的曲线x(tf)=(tf)上的某一点(tf，xf)，则泛函,达到

17、极值的必要条件是， x(t)满足欧拉方程,和横截条件,其中x(t)应有连续的二阶导数， 则至少应是二次连续可微的，而(t) 则应有连续的一阶导数,证明略,34,学习幻灯,若极值曲线的始端不是固定的，并沿着曲线,变动，则同样可以推导出始端的横截条件,定理2-7扩展,35,学习幻灯,根据定理2-7和上式，可得到端点可变时，Lagrange问题的解，除有欧拉方程外，还有横截条件,1)始端、终端可变，即x(t0)=(t0)， x(tf)=(tf)，则横截条件为,2) 当t0、 tf 可变，而x(t0) 与x(tf)固定时，则横截条件为,3)当t0、 tf 固定，而x(t0) 与x(tf)可变时，即始端

18、与终端分别在t=t0、t=tf上滑动，则横截条件为,横截条件总结,36,学习幻灯,定理2-7和以上几种情况的横截条件，都可以将其推广到n维函数向量X(t)=x1(t),x2(t),xn(t)T的泛函的情形,定理2-8在n维函数空间中，若曲线X(t)=x1(t),x2(t),xn(t)T 的始端 X(t0)=x1(t0),x2(t0),xn(t0)T是固定的，而终端X(tf)=x1(tf), x2(tf), xn(tf)T是可变的，且在曲面X(tf)=(tf)上变动，则泛函,达到极值的必要条件是，曲线X(t)满足向量欧拉方程,和横截条件,37,学习幻灯,若曲线X(t)=x1(t),x2(t),x

19、n(t)T的始端不是固定的，而是可变的，并在给定的曲面,上变动，其中 ，则同样可以推导出始端的横截条件为,38,学习幻灯,例2.7,泛函求极值,若x(0)与x(2)任意，求极值曲线x*及极值J(x*,39,学习幻灯,例2-8】求固定点A（0，1）到给定直线 的弧长最短的曲线方程,40,学习幻灯,主要内容,2.1 变分法概述 2.2 无约束最优化问题 无约束固定端点泛函极值必要条件 无约束自由端点泛函极值必要条件 2.3 等式约束最优化问题 2.4 变分法求解最优控制问题 引入哈密顿函数求解拉格朗日问题 求解综合型（波尔扎）问题,41,学习幻灯,回顾等式约束条件下函数极值问题的解法,设有函数,2

20、.2,现在需要求函数Z在以下约束条件下的极值,2.1,1）消元法：从约束条件（2.2）中将y解出来。 用x表示y，即 y=y(x) 然后将y(x)代入g(x,y)中，得到 Z=gx, y(x) （2.3） 这样，函数Z只含有一个自变量x,等式(2.2)约束条件下的函数(2.1)极值问题,无约束条件的函数(2.3)极值问题,存在两个问题： 从方程(2.2)中将y解出来往往很困难； 对x和y这两个自变量未能平等看待,42,学习幻灯,2）拉格朗日乘子法（Lagrange factor） 步骤如下： 作一个辅助函数 F=g(x,y)+f(x,y) 式中， 是待定常数，称为拉格朗日乘子,2.4,联立求解

21、方程（2.2）和（2.4），求出驻点（ x0 ，y 0）和待定常数值; 判断（ x0 ，y 0）是否是函数g(x,y)的极值点,2.2,约束条件,求辅助函数F的无条件极值，即令,Lagrange函数,等式约束条件下的函数极值问题,无约束条件的函数极值问题,43,学习幻灯,2）拉格朗日乘子法（Lagrange factor,扩展： 1、拉格朗日乘子法对于求n元函数 Z=g（x1，x2，xn） 在约束条件下的极值问题，同样适用。 2、拉格朗日乘子法对于求在多个约束方程 fi（x1，x2，xm） =0， i=1，2， ，m； 下的极值问题，同样适用。 3、m n是必要的,向量函数,向量方程约束,44

22、,学习幻灯,2.3 等式约束最优化问题,1、等式约束固定终端泛函极值必要条件,问题 2-2,等式约束固定端点泛函极值问题为,情况下的极值轨线X*(t,2.5,求泛函,在约束方程为,和端点条件为,2.6,45,学习幻灯,解决方法,引入拉格朗日向量乘子，将等式约束泛函极值问题转化为无约束泛函极值问题。 步骤如下： （1）构造辅助泛函 其中(t)= 1(t), 2(t), m (t)T是m维待定向量乘子,2.7,无约束条件的泛函（2.7）极值问题,有约束条件（2.6）的泛函（2.5）极值问题,46,学习幻灯,2）令 写出欧拉方程,3）联立求解欧拉方程（2.8）和约束方程 （2.6），可以得到n维向量

23、函数X(t)和m维向量乘子 (t)。 （4）利用端点条件确定欧拉方程解中的2n个积分 常数，得到候选函数X*(t) 。 （5）检验候选函数X*(t)是否使泛函（2.7）达到极值，以及是极大值还是极小值,2.8,47,学习幻灯,定理2-9 如果n维向量函数 X(t)=x1(t),x2(t),xn(t)T 能使泛函,在等式约束,条件下达到极值，这里f是m维向量函数， m n，必存在适当的m维向量函数 (t)= 1(t), 2(t), m (t)T 使泛函,达到无条件极值。即函数X (t)是上述泛函J0的欧拉方程,的解，其中,而X (t)和(t)由欧拉方程和约束方程共同确定,48,学习幻灯,无约束条

24、件的泛函J0极值问题,有约束条件的泛函J极值问题,等价,证明,49,学习幻灯,取极小值。给定的边界条件为,例2-9 已知受控系统的动态结构如图所示。求最优控制u*(t)及最优轨线x*(t) ，使目标泛函,50,学习幻灯,2.3 等式约束最优化问题,2、等式约束自由端点泛函极值必要条件,如何求解,51,学习幻灯,主要内容,2.1 变分法概述 2.2 无约束最优化问题 无约束固定端点泛函极值必要条件 无约束自由端点泛函极值必要条件 2.3 等式约束最优化问题 2.4 变分法求解最优控制问题 引入哈密顿函数求解拉格朗日问题 求解综合型（波尔扎）问题,52,学习幻灯,2.4 变分法求解最优控制问题,当

25、状态变量和控制变量均不受约束，即X(t)Rn，U(t) Rm时，最优控制问题是个在等式约束条件下求泛函极值的变分问题，因此，可以利用在上一节中介绍的拉格朗日乘子法来求解。 在这一节中，利用拉格朗日乘子法求解最优控制问题时，将引入哈密顿（Hamilton）函数，推导出几种典型的最优控制问题应满足的必要条件,53,学习幻灯,2.4 变分法求解最优控制问题,1、引入哈密顿函数求解拉格朗日问题,2.10,初始条件,2.9,终端条件：tf固定，X(tf)自由和性能泛函,2.11,给定系统状态方程,要求从容许控制U(t) Rm中确定最优控制U*(t)，使系统（2.9）从给定的初态X(t0)转移到某个终态X

26、(tf) ，并使性能泛函（2.11）达到极小值。这是拉格朗日问题，又称为积分型最优控制问题,问题 2-3,54,学习幻灯,解：将状态方程 （2.9）改写为,2.12,最优控制问题 微分方程（2.12）在约束条件下求泛函 极值的变分问题,55,学习幻灯,利用拉格朗日乘子法，引入n维拉格朗日乘子向量 (t)= 1(t), 2(t), n (t)T (t)称为协态变量，以便与状态变量相对应,2.13,求泛函 在等式 约束条件下的极值问题 求泛函（2.13）J0的无约束条件的极值问题,构造辅助泛函,56,学习幻灯,定义哈密顿（Hamilton）函数为,辅助泛函,标量函数,哈密顿函数与辅助函数之间关系为

27、,57,学习幻灯,将 代入欧拉方程，得,协态方程 （共轭方程,状态方程,规范方程 （正则方程,控制方程,利用变分法写出辅助泛函 的欧拉方程,58,学习幻灯,初始状态为,由于终端时刻tf固定，终端状态X(tf)自由，所以横截条件为,得,联立求解规范方程 可以得到两个未知函数X(t)和 (t)。 由边界条件确定积分常量：混合边界问题或两点边界值问题,59,学习幻灯,求解两点边值问题步骤,由控制方程 求得 U=UX(t)，(t)，t ； 将上式代入规范方程消去其中的U(t)，得到 利用边界条件联立求解方程以上方程，可得唯一确定的解X(t)和(t)； 将所求得的X(t)和(t)代入U=UX(t)，(t

28、)，t ，求得相应的U(t,说明：利用引入哈密顿函数的方法求解拉格朗日型最优控制问题，是将求泛函在等式约束条件下对控制函数U(t)的条件极值问题转化为求哈密顿函数H对控制变量U(t)的无条件极值问题。这种方法称为哈密顿方法,60,学习幻灯,定理2-10 设系统的状态方程为,为将系统从给定的初态,转移到终端时刻 tf固定，终端状态X(tf)自由的某个终态，并使性能泛函,达到极小值的最优控制应满足的必要条件是,61,学习幻灯,1）设U*(t)是最优控制， X*(t)是对应于U*(t)的最优轨线，则必存在一与U*(t)和X*(t)相对应的n维协态变量(t) ，使得X(t)与(t) 满足规范方程,其中

29、,2）边界条件为,3）哈密顿函数H对控制变量U(t)（t0ttf）取极值，即,62,学习幻灯,沿着最优控制和最优轨线，哈密顿函数H对时间t求全导数，得,若H不显含t时，则有 H(t)=常数 tt0，tf; 也就是说，当H不显含t时，哈密顿函数H是不依赖于t的常数,63,学习幻灯,取极小值。给定的边界条件为,解法2：哈密顿方法,例2-9 已知受控系统的动态结构如图所示。求最优控制u*(t)及最优轨线x*(t) ，使目标泛函,64,学习幻灯,取极小值。给定的边界条件为,自由,例2-10 已知受控系统的动态结构如图所示。求最优控制u*(t)及最优轨线x*(t) ，使目标泛函,65,学习幻灯,由例2-

30、9哈密顿方法,由协态方程得,由控制方程得,由状态方程得,66,学习幻灯,例2-11 已知 系统方程和边界条件为,1）求使性能泛函,为极小值的最优控制函数与最优轨线,可以利用MATLAB符号工具箱求解微分方程,2）若终端条件为x1(1)=0，x2(1)自由，求该最优控制问题,67,学习幻灯,2.4 变分法求解最优控制问题,2、求解综合型（波尔扎）问题,2.10,初始条件,2.9,和性能泛函,2.14,给定系统状态方程,要求从容许控制U(t) Rm中确定最优控制U*(t)，使系统（2.9）从给定的初态X(t0)转移到某个终态X(tf) ，并使性能泛函（2.14）达到极小值。这是波尔扎问题，又称为复

31、合型最优控制问题,问题 2-4,注意：给定的端点条件不同，上述最优控制问题的解将不同,68,学习幻灯,1. 终端时刻tf固定，终端状态X(tf) 自由的情况 构造辅助泛函为,若令哈密顿函数为,2.15,2.16,并对式（2.15）积分号内第三项进行分部积分，则辅助泛函变为,69,学习幻灯,2.17,求上式对状态变量X(t)和控制变量U(t)的变分，得,2.19,由于泛函J0达到极值的必要条件为,2.18,由于X(t0)=0， X(tf)0， X(t)0， U(t)0，则由式（2.18）和（2.19）可得上述波尔扎型最优控制问题的解应,70,学习幻灯,终端时刻tf固定，终端状态X(tf) 自由的

32、波尔扎型最优控制问题的解应满足的必要条件为,这些关系与拉格朗日型最优控制问题的完全相同，所不同的只是横截条件，即协态变量的终端值,71,学习幻灯,2.终端时刻tf固定，终端状态X(tf) 受约束的情况 设终端状态受到如下等式的约束,2.20,其中为r（当L=0，rn-1；当L0，rn）维向量，即,这时，终端状态X(tf)即不是固定的，也不是完全自由的，只能在终端流型（2.20）上变动。在构造辅助泛函时，应考虑终端约束条件（2.20），为此，需要引入待定的拉格朗日乘子向量,72,学习幻灯,考虑到哈密顿函数为,2.21,并对式（2.21）积分号内第三项进行分部积分，则辅助泛函变为,构造的辅助泛函为,73,学习幻灯,求J0对状态变量X(t)和控制变量U(t)的变分，得,考虑到 J0=0, X(t0)=0， X(tf)0， X(t)0