第2章优化设计ppt课件

1、第第2章章 优化设计优化设计优化设计是现代设计方法的重要内容之一。它以数学规划论为优化设计是现代设计方法的重要内容之一。它以数学规划论为实际根底，以电子计算机为工具，在充分思索多种设计约束的前提实际根底，以电子计算机为工具，在充分思索多种设计约束的前提下，寻求满足某项预定目的的最正确设计方案的一种设计方法。下，寻求满足某项预定目的的最正确设计方案的一种设计方法。 本章主要引见了如下方面内容：本章主要引见了如下方面内容：内容简介内容简介 优化设计的根本概念及数学模型的建立 常用的一维优化方法 多维无约束优化方法 约束优化方法 多目的优化方法 机械优化设计的普通步骤及设计运用实例2.1 概述概述2

2、.1.1 优化设计根本概念优化设计根本概念优化设计Optimal Design是20世纪60年代开展起来的一种现代设计方法。它是将最优化原理和计算机技术运用于设计领域，为工程设计提供一种重要的科学设计方法。利用这一设计方法，设计者就可从众多的设计方案中寻觅出最正确设计方案，从而大大提高设计效率和质量，因此优化设计是现代设计实际和方法的一个重要领域，它已广泛运用于各个工业设计领域和各种产品设计中。所谓优化设计，就是在规定的设计限制条件下，运用最优化原理和方法将实践工程设计问题转化为最优化问题，然后以计算机为工具进展寻优计算，在全部可行设计方案中，寻求满足预定设计目的的最正确设计方案。进展最优化设

3、计时：首先必需将实践问题加以数学描画，构成一组由数学表达式组成的数学模型；然后选择一种最优化数值计算方法和计算机程序，在计算机上进展寻优运算求解，得到一组最正确的设计参数。这组设计参数就是设计的最优解。 与传统设计方法不同，优化设计过程普通分为如下四步： 设计课题分析 建立数学模型 选择优化设计方法 上机电算求解 获得最优解建立数学模型：将工程优化设计问题用数学方程式的方式予以全面地、准确地描画，即建立优化数学模型。设计课题分析：设计课题分析：经过对设计课题的分析，提出设计目的，它可以是单项设计目的，也可以是多项设计目的的组合。经过对设计课题的分析，提出设计目的，它可以是单项设计目的，也可以是

4、多项设计目的的组合。 从技术经济的观念出发，对机械设计而言，机器的运动学和动力学性能、体积、分量、效率、本钱、可靠性从技术经济的观念出发，对机械设计而言，机器的运动学和动力学性能、体积、分量、效率、本钱、可靠性等都可以作为设计追求的目的。等都可以作为设计追求的目的。然后分析设计应满足的要求，主要的有：某些参数的取值范围；某种设计性能或目的按设计规范推导出的技然后分析设计应满足的要求，主要的有：某些参数的取值范围；某种设计性能或目的按设计规范推导出的技术性能；还有工艺条件对设计参数的限制等。术性能；还有工艺条件对设计参数的限制等。选择优化设计方法：选择优化设计方法：根据所建立的数学方程式的性质、

5、设计精度的要求等选用适宜根据所建立的数学方程式的性质、设计精度的要求等选用适宜的优化设计方法，并做出相应的程序设计。的优化设计方法，并做出相应的程序设计。 上机电算求解：上机电算求解：将所编程序及有关数据上机运算，自动得出最优值。然后对计将所编程序及有关数据上机运算，自动得出最优值。然后对计算结果做出分析和判别，那么得出最优设计方案。算结果做出分析和判别，那么得出最优设计方案。上述优化设计过程的四步其中心是进展如下两项任务：一是分析设计义务，将实践问题转化为一个最优化问题，即建立优化问题的数学模型；二是选用适用的优化方法在计算机上求解数学模型，寻求最优设计方案。 例例2-1 2-1 如图如图2

6、-12-1所示，所示，有一圆形等截面的销轴，一有一圆形等截面的销轴，一端固定，一端作用着集中载端固定，一端作用着集中载荷荷F =1000NF =1000N和转矩和转矩T T =100Nm=100Nm。由于构造需求，。由于构造需求，轴的长度轴的长度l l 不得小于不得小于8cm8cm，知，知销轴资料的许用弯曲应力销轴资料的许用弯曲应力WW120MPa120MPa，许用改动，许用改动切应力切应力=80MPa=80MPa，允许挠，允许挠度度f f=0.01cm=0.01cm，密度，密度=7.8t/m3=7.8t/m3，弹性模量，弹性模量E=2E=2105 80MPa105 80MPa。下面经过三个简

7、单的优化设计实例，阐明优化数学模型的普通方式及其有关概念。图图2-1 2-1 圆形等截面的销轴圆形等截面的销轴2.1.2 优化设计的数学模型优化设计的数学模型现要求在满足运用要求的条件下，试设计一个用料最省销轴质现要求在满足运用要求的条件下，试设计一个用料最省销轴质量最轻的方案。量最轻的方案。解：根据上述问题，该销轴的力学模型是一个悬臂梁。设销轴解：根据上述问题，该销轴的力学模型是一个悬臂梁。设销轴直径为直径为d d ，长度为，体积为，长度为，体积为V V，那么该问题的物理表达式如下：，那么该问题的物理表达式如下：l21min4Vd lll可见销轴用料取决于其直径可见销轴用料取决于其直径 d

8、d 和长度。这是一个合理选择和长度。这是一个合理选择 d d 和和而使体积而使体积V V 最小的优化设计问题。最小的优化设计问题。(2) 满足的条件：满足的条件：强度条件：强度条件：wdFl3max1 . 0 32 . 0 dT fdEFlEJFlf4333643弯曲强度弯曲强度改动强度式改动强度式挠度表达式挠度表达式(1) 销轴用料最省即体积最小：销轴用料最省即体积最小：构造尺寸边境条件：构造尺寸边境条件：min8 cmll12, xdxl12 TTXd lxx222121211min ()0.78544f XVd lx xx x将题意的有关知数值代入，按优化数学模型的规范方式，可归纳为如将

9、题意的有关知数值代入，按优化数学模型的规范方式，可归纳为如下数学模型：下数学模型：设：设：33121()8.338.330 ()gXldxx弯曲强度条件3321343432142()6.256.250 ()()0.340.340 ()() 880 ()gXdxgXldxxgXlx 扭转强度条件刚度条件长度的边界条件例例2-2 2-2 现用薄钢板制造一体积为现用薄钢板制造一体积为5 5，长度不小于，长度不小于4m4m的无上盖的无上盖的立方体货箱。要求该货箱的钢板耗费量最少，试确定货箱的长、的立方体货箱。要求该货箱的钢板耗费量最少，试确定货箱的长、宽和高的尺寸。宽和高的尺寸。 3m解：分析可知，钢

10、板的耗费量与货箱的外表积成正比。解：分析可知，钢板的耗费量与货箱的外表积成正比。设货箱的长、宽、高分别为，货箱的外表积为设货箱的长、宽、高分别为，货箱的外表积为S S，那，那么该问题的物理表达式为：么该问题的物理表达式为： 123,x x x1213232()minSx xx xx x2x3x(1) 货箱的钢板耗费量即货箱的外表积用料最少：货箱的钢板耗费量即货箱的外表积用料最少：可见货箱的外表积取决于货箱的长度、宽度和高度可见货箱的外表积取决于货箱的长度、宽度和高度 。1x1234; 0; 0 xxx(2) 满足的条件：满足的条件：按优化数学模型的规范方式，可归纳为如下数学模型：按优化数学模型

11、的规范方式，可归纳为如下数学模型：123 TXxxx121323min ()2()f XSx xx xx x11()40g Xx2233123()0()0()50gXxgXxh Xx x x 由等式约束条件可知，三个设计变量中只需两个是独立变量，即由等式约束条件可知，三个设计变量中只需两个是独立变量，即。所以，该问题的优化数学模型应写为：。所以，该问题的优化数学模型应写为：3125xx x12 TXxx121323122111min ()2()10()f Xx xx xx xx xxx11()40g Xx22123()0()50gXxh Xx x x 这样，使该优化问题的数学模型更为准确、精炼

12、。这样，使该优化问题的数学模型更为准确、精炼。例例2-32-3某车间消费甲、乙两种产品。消费甲种产品每件需运用资某车间消费甲、乙两种产品。消费甲种产品每件需运用资料料9kg9kg、3 3个工时、个工时、4kw4kw电，可获利润电，可获利润6060元。消费乙种产品每件需用资料元。消费乙种产品每件需用资料4kg4kg、1010个工时、个工时、5kw5kw电，可获利电，可获利120120元。假设每天能供应资料元。假设每天能供应资料360kg360kg，有有300300个工时，能供个工时，能供200kw200kw电。试确定两种产品每天的产量，以使每天电。试确定两种产品每天的产量，以使每天能够获得的利润

13、最大。能够获得的利润最大。 12,x x12( ,)f x x1212(,)60120maxf x xxx112()94360gXxx212()310300gXxx312()45200gXxx每天实践耗费的资料、工时和电力可分别用以下约束函数表示：解：这是一个消费方案问题，可归结为既满足各项消费条件，又解：这是一个消费方案问题，可归结为既满足各项消费条件，又使每天所能获得的利润到达最大的优化设计问题。使每天所能获得的利润到达最大的优化设计问题。设每天消费的甲、乙两种产品分别为 件，每天获得的利润可用函数 表示，即12 TXxx1212min ()(,)60120f Xf x xxx 于是上述消

14、费方案问题的优化数学模型应写为：于是上述消费方案问题的优化数学模型应写为：112()94360g Xxx212()310300gXxx312()45200gXxx41()0gXx 工时约束工时约束电力约束电力约束资料约束资料约束52()0gXx 由于目的函数和一切约束函数均为设计变量的线性函数，故此优化问题属线性约束优化问题。 12 ,TnXx xx12()( ,)nf Xf x xx()0 (1,2,)ugXum()0 (1,2,)vh Xvpn()0ugX ()0vh X 从以上三个实例可以看出，优化设计的数学模型需求用设计变量、目的函数和约束条件等根本概念才干予以完好的描画，可以写成以下

15、一致方式：(2-1)(2-2)其中，称为不等式约束条件，称为等式约束条件。其中，称为不等式约束条件，称为等式约束条件。假设用向量表示设计变量，表示向量X 属于n 维实欧氏空间；用min、max表示极小化和极大化，s.t.subjected to的英文缩写表示 “满足于， m、p分别表示不等式约束和等式约束的个数。12 ,TnXx xxnXR min () . . ()0 (1,2,) ()0 (1,2,)nuvf XXRst gXumh Xvpn(2-3) min () nf XXR(2-4)这一优化问题不受任何约束，称为无约束优化设计问题。式这一优化问题不受任何约束，称为无约束优化设计问题。

16、式2-4即即为无约束优化问题的数学模型表达式。为无约束优化问题的数学模型表达式。假设上式所列数学模型内假设上式所列数学模型内 m = p = 0，那么成，那么成为为上述优化数学模型还可以写成如下向量方式：上述优化数学模型还可以写成如下向量方式： min()f Xmax()f X ( )f X()0 ugX ()0 vh X 当涉及问题要求极大化 f (X)目的函数时，只需将式中目的函数改写为 f (X)即可。由于和具有一样的解。同样，当不等式约束为：“ 时，只需将不等式两端同乘以“1，即可得到 “ 的普通方式。一个完好的规格化的优化数学模型应包含有三部分内容，即设计变量 X；目的函数；约束条件

17、 和。它们又称为：优化数学模型的三要素。建立出的优化数学模型，在计算机上求得的解称为优化问题的最优解，它包括：最优方案：最优方案：最优目的函数值：最优目的函数值：*12 ,TnXx xx* ()f X* ()f X即优化问题的最优解由最优设计方案即优化问题的最优解由最优设计方案 X *或称最优点和最优目的或称最优点和最优目的函数值两部分组成。函数值两部分组成。最优目的函数值是最优点最优目的函数值是最优点X *带入目的函数带入目的函数 所求得的所求得的最优函数值，它是评价设计方案优劣程度的一个标量值。最优函数值，它是评价设计方案优劣程度的一个标量值。 ()f X* ()f X下面就优化数学模型三

18、要素的有关问题阐明如下下面就优化数学模型三要素的有关问题阐明如下: :在优化设计过程中需求调整和优选的参数，称为设计变量。可表示为： 12 ,.,TnnXx xxXR由于实践工程设计对象的不同，那么选取的设计变量也就不同。 它可以是几何参数：如零件外形尺寸、截面尺寸、机构的运动尺寸等；也可以是某些物理量：如零部件的分量、体积、力与力矩、惯性矩等；还可以是代表机器任务性能的导出量：如应力、变形等。总之，设计变量必需对该项设计性能目的优劣有影响的参数。设计变量是一组相互独立的根本参数。普通用向量 X 来表示。 设计变量的每一个分量都是相互独立的。以n 个设计变量为坐标轴所构成的实数空间称为设计空间

19、，或称 n 维实欧式空间，用 Rn 表示。1. 设计变量设计变量 当 n=2 时，X=x1,x2T 是二维设计向量；当 n=3 时，X=x1,x2, x3T 为三维设计向量，设计变量x1,x2, x3组成一个三维空间；当 n3 时，设计空间是一个想象的超越空间，称n维实属空间。其中二维和三维设计空间如图2-2所示。 图图2-22-2设计空间设计空间(a)(b)在工程设计中，当有些设计变量的取值要求是离散型量，那么称离散设计变量，如齿轮的齿数、模数，钢管的直径、钢板的厚度等。对于离散设计变量，在优化设计过程中常是先把它视为延续量，再求得延续量的优化结果后再进展圆整或规范化，以求得一个适用的最优设

20、计方案。 设计变量的个数，称为维数自在度，它决议了优化问题的设计变量的个数，称为维数自在度，它决议了优化问题的大小范围，当：大小范围，当： n210 为小型优化问题为小型优化问题 ； n1050 为中型优化问题；为中型优化问题；n 50 为大型优化问题。为大型优化问题。2. 目的函数目的函数 目的函数是用来评价设计方案优劣的规范，又称评价函数。它是目的函数是用来评价设计方案优劣的规范，又称评价函数。它是设计变量的函数，常记为设计变量的函数，常记为 12( )( ,)nf xf x xx确定目的函数，是优化设计中最重要的决策之一。由于这不仅直确定目的函数，是优化设计中最重要的决策之一。由于这不仅

21、直接影响优化方案的质量，而且还影响到优化过程。接影响优化方案的质量，而且还影响到优化过程。目的函数可以根据工程问题的要求从不同角度来建立，例如：机目的函数可以根据工程问题的要求从不同角度来建立，例如：机械零件设计中的分量、体积、效率、可靠性、几何尺寸、承载才干；械零件设计中的分量、体积、效率、可靠性、几何尺寸、承载才干；机械设计中的运动误差、功率、应力、动力特性；产品设计中的本钱、机械设计中的运动误差、功率、应力、动力特性；产品设计中的本钱、寿命等。寿命等。优化设计就是要寻求一个最优设计方案，即最优点X*，从而使目的函数到达最优值。在优化设计中，普通取最优值为目的函数的最小值。 *()f X一

22、个优化问题，可以用一个目的函数来衡量，称之为单目的优化问题；也可以用多个目的函数来衡量，称之为多目的优化问题。目的函数可以经过等值线面在设计空间中表现出来。现以二维优化问题为例，来阐明目的函数的等值线(面)的几何意义。图图2-32-3二维目的函数的等值线二维目的函数的等值线由于每一条曲线上的各点都具有相由于每一条曲线上的各点都具有相等的目的函数值，所以这些曲线称为目等的目的函数值，所以这些曲线称为目的函数的等值线。的函数的等值线。如图如图2-3所示，当目的函数所示，当目的函数 f(x) 等等于某一值于某一值ci (i=1, 2, )时，就可得到一时，就可得到一条等值线，它是在设计平面上由条等值

23、线，它是在设计平面上由 f (x)Ci 的无数个设计点的无数个设计点 X 所连成，当所连成，当 f(x)为不等的函数值为不等的函数值c1，c2，时，可时，可以得到一族等值线。以得到一族等值线。所谓目的函数的等值线面，所谓目的函数的等值线面，就是当目的函数就是当目的函数 f (X) 的值依次等于一的值依次等于一系列常数系列常数 ( i=1, 2, )时，设计变量时，设计变量X 获得一系列值的集合。获得一系列值的集合。ic对于一个目的函数来说，它可以有无穷多条的等值线。可以说等值线充溢了设计空间。由图可见，等值线族反映了目的函数值的变化规律，等值线越向里面，目的函数值越小。对于有中心的曲线族来说，

24、等值线族的共同中心就是目的函数的无约束极小点 。故从几何意义上来说，求目的函数无约束极小点也就是求其等值线族的共同中心。*X等值线有以下几个特点：等值线有以下几个特点： (1) 不同值的等值线不相交；不同值的等值线不相交； (2) 除极值点外，在设计空间内，等值线不会中断；除极值点外，在设计空间内，等值线不会中断； (3) 等值线充溢整个设计空间；等值线充溢整个设计空间； (4) 等值线分布的疏或密，反响出函数值变化的慢或快等值线分布的疏或密，反响出函数值变化的慢或快 ； (5) 普通来说，在极值点附近，等值线近似是同心椭圆族，极值普通来说，在极值点附近，等值线近似是同心椭圆族，极值点就是椭圆

25、的中心点。点就是椭圆的中心点。在设计空间内，目的函数值相等点的连线：在设计空间内，目的函数值相等点的连线： 对于二维优化问题，构成了等值线；对于二维优化问题，构成了等值线； 对于三维优化问题，构成了等值面；对于三维优化问题，构成了等值面； 对于四维以上的优化问题，那么构成了等值超曲面。对于四维以上的优化问题，那么构成了等值超曲面。3. 约束条件约束条件 约束条件是设计变量选取的限制条件，或称设计约束。约束条件是设计变量选取的限制条件，或称设计约束。按照约束条件的方式不同，约束有不等式和等式约束两类，按照约束条件的方式不同，约束有不等式和等式约束两类，普通表达式为：普通表达式为：( )01,2,

26、ug xum ( )01,2,vh xvp 按照设计约束的性质不同，约束又可分为如下两类：性能约束：是根据设计性能或目的要求而确定的一种约束条件，例如零件的任务应力、变形的限制条件以及对运动学参数如位移、速度、加速度值的限制条件均属性能约束。边境约束：那么是对设计变量取值范围的限制，例如对齿轮的模数、齿数的上、下限的限制以及对构件长度尺寸的限制都是边境约束。 任何一个不等式约束方程的图形将设计空间划分为两部分：一部分 ：满足约束，即 gj(X)0；另一部分：那么不满足约束，即 gj(X)0。故将该分界限或分界面称为约束边境或约束面。等式约束本身也是约束边境，不过此时只需约束边境上的点满足约束，

27、而边境两边的一切部分都不满足约束。以二维问题为例，如图2-4所示，其中阴影方向部分表示不满足约束的区域。图图2-42-4约束边境约束边境uvD=X| g (X)0, h (X)=0 (u=1,2,m ; v=1,2,pn)(2-5)图图2-5二维问题的可行域二维问题的可行域不满足约束条件的设计点构成该优化问题的不可行域。可行域也可看做满足一切约束条件的设计点的集合，因此，可用集合表示如下：约束的几何意义是它将设计空间一分为二，构成了可行域和非可行域。每一个不等式约束或等式约束都将设计空间分为两部分，满足一切约束的部分构成一个交集，该交集称为此约束问题的可行域，记做 D，见图2-5。综上所述，优

28、化数学模型是对实践问题的数学描画和概括，是进展优化设计的根底。因此，根据设计问题的详细要求和条件建立完备的数学模型是关系优化设计成败的关键。这是由于优化问题的计算求解完全是围绕数学模型进展的。也就是说，优化计算所得的最优解实践上只是数学模型的最优解。此解能否满足实践问题的要求，能否就是实践问题的最优解，完全取决于数学模型和实践问题的符合程度。建立优化数学模型是一项重要而复杂的任务：一方面希望建立一个尽能够完善的数学模型，以求准确地表达实践问题，得到称心的结果；另一方面又力求使所建立的数学模型尽能够简单，以方便于计算与求解。工程设计的类型很多，总的来说，它可以分为两个层次：工程设计的类型很多，总

29、的来说，它可以分为两个层次：2.1.3 优化问题的分类优化问题的分类 总体方案优化总体方案优化 设计参数优化设计参数优化这两者之间有着亲密的联络，但也存在着本质性的区别。这两者之间有着亲密的联络，但也存在着本质性的区别。总体方案优化：是指总体规划、构造或系统的类型以及几何形式的优化设计；设计参数优化：是在总体方案选定后，对详细设计参数几何参数、性能参数等的优化设计。总体方案设计是一种发明性活动，必需依托思索与推理，综合运用多学科的专门知识和丰富的实际阅历，才干获得正确、合理的设计。因此，总体方案优化其大量任务是根据知识和阅历进展演绎和推理，可用人工智能方法特别是专家系统技术适宜于求解这类问题。

30、设计参数优化是择优确定详细的设计参数，属于数值计算型任务，比较容易总结出可供计算分析用的数学模型，因此普通采用数学规划方法来求解。本章主要引见设计参数优化问题。根据优化问题的数学模型能否含有设计约束，可将工程优化问题分为：工程优化设计问题中的绝大多数问题都是约束优化问题。一维优化问题一维优化问题多维无约束优化问题多维无约束优化问题非线性规划问题非线性规划问题线性规划问题线性规划问题二次规划问题二次规划问题凸规划问题凸规划问题对于优化问题数学模型的求解，目前可采用的求解方法有三种：数学解析法：就是把优化对象用数学模型描画出来后，用数学解析法如微分、变分发等来求出最优解，如高等数学中求函数极值或条

31、件极值的方法。数学解析法是优化设计的实际根底。但它仅限于维数较少且易求导的优化问题的求解。 数学解析法 图解法数 值迭代法图解法：就是直接用作图的方法来求解优化问题，经过画出目的函数和约束函数的图形，求出最优解。此法的特点是简单直观，但仅限于n2的低维优化问题的求解。 2.1.4 优化设计的迭代算法优化设计的迭代算法图图2-6 所示为采用图解法来求解如下二维优化问题：所示为采用图解法来求解如下二维优化问题：min f(X) = x12+x224x1+4 s.t. g1(X) = x2x120 g2(X) = x12x2+10 g3(X) = x10 g4(X) = x20该问题的目的函数、约束

32、函数的立体图如图该问题的目的函数、约束函数的立体图如图2-6(a)所示；所示；该问题的设计空间关系图如图该问题的设计空间关系图如图2-6(b)所示，阴影线部分即为所示，阴影线部分即为由一切约束边境围成的可行域。由一切约束边境围成的可行域。该问题的约束最优点为图中的该问题的约束最优点为图中的X *点，即点，即 X* = x1*, x2*T = 0.58, 1.34 T约束最优值为：约束最优值为： 的最优解的结果。的最优解的结果。f (X*) = 0.38。 (a)问题的立体图 (b)设计空间关系图图2-6 二维优化问题的几何解数值迭代法：完全是依赖于计算机的数值计算特点而产生的，它是具有一定逻辑

33、构造并按一定格式反复迭代计算，逐渐逼近优化问题最优解的一种方法。采用数值迭代法可以求解各种优化问题。为了求得目的函数 的极小点 ，其迭代过程如下： 在设计空间给出一初始迭代点 ； 从 出发，按照确定的搜索方向 和迭代步长 ，求得第一个改良设计点 ，它应该满足： ； 再以 为新的初始点，反复上述步骤，求得 ， 如此反复迭代，得到一个不断改良的点列 及一相应的递减函数值数列 。(0)X(0)S(0)(1)X(1)(0)()()f Xf X( ),0,1,2,kXk ( ) (),1,2,kf Xk ()f X*X(1)X(2)(3),XX(0)X(1)( )()( )(1)( )(1) (0,1,

34、2,)()()()0 (1,2,)kkKkkkkuXXSkf Xf XgXum式中：式中：X(k)X(k)前一步已获得的设计方案迭代点；前一步已获得的设计方案迭代点；X(k+1)X(k+1)新的改良设计方案新的迭代点；新的改良设计方案新的迭代点；S(k)S(k)第第 k k次迭代计算的搜索方向；次迭代计算的搜索方向；(k) (k) 第第 k k次迭代计算的步长因子。次迭代计算的步长因子。2-6 这样一步步地反复数值计算，不断用改良的新点迭代前次设这样一步步地反复数值计算，不断用改良的新点迭代前次设计点，逐渐改良计点，逐渐改良 值并使设计点最终逼近极小点极值点值并使设计点最终逼近极小点极值点 。

35、()f X*X这一迭代过程如图这一迭代过程如图2-7所示。所示。这一迭代过程用数学式子表达，得数值迭代法的根本迭代格式为：图图2-7二维优化问题的迭代过程二维优化问题的迭代过程在优化算法中，关于迭代方法有多种，它们之间的区别就在于确定(k) 和S (k)的方式不同。特别是S (k)确实定，在各种方法中起着关键性的作用。关于(k) 和S (k)确实定，将在后面各节中引见。 由以上分析及图2-7可知，要用数值迭代法寻觅最优点X*，这里关键要处理三个问题：一是如何确定迭代步长(k)；二是怎样选定搜索方向S(k)；三是如何判别能否找到了最优点X *，以终止迭代。2.迭代计算的终止准那么迭代计算的终止准

36、那么 目前，通常采用的迭代终止准那么有以下几种：目前，通常采用的迭代终止准那么有以下几种： 点距足够小准那么点距足够小准那么 函数下降量足够小准那么函数下降量足够小准那么 函数梯度充分小准那么函数梯度充分小准那么(1)( )1kkXX相邻两迭代点之间的间隔已到达充分小，即相邻两迭代点之间的间隔已到达充分小，即2-7式中，式中， 给定的计算精度，普通可取给定的计算精度，普通可取 。函数下降量足够小准那么函数下降量足够小准那么 相邻两迭代点的函数值下降量已到达充分小，即相邻两迭代点的函数值下降量已到达充分小，即(1)( )2()()kkf Xf X2-8 式中，式中， 给定的计算精度，普通可取给定

37、的计算精度，普通可取 。 目的函数在迭代点的梯度已到达充分小，即目的函数在迭代点的梯度已到达充分小，即(1)3()kf X2-9 12351010351010上述三个准那么都可以单独运用。只需其中一个得到满足，就可以以为到达了近似最优解，迭代计算到此终了。对于约束优化问题，不同的优化方法有各自的终止准那么，在此不在引见。 这是由于函数极值点的必要条件是函数在这一点的梯度值的模为零。因此当迭代点的函数梯度的模已充分小时，那么以为迭代可以终止。3式中，式中， 给定的计算精度，普通可取。给定的计算精度，普通可取。 3102.2 优化方法的数学根底优化方法的数学根底(略略) )(Xf在引见有关优化算法

38、时，经常要用到函数的梯度和海森(Hessian)矩阵的概念。这里简要引见之。1. 多元函数的梯度多元函数的梯度( )( )( )( )12()()()(), , , Tkkkknf Xf Xf Xf Xxxx知一 n 元函数 ，那么该函数在点处的梯度可记为：2-19函数的梯度在优化设计中有着非常重要的作用。由于梯度是一个向量，而梯度方向是函数具有最大变化率的方向。亦即梯度方向是指函数的最速上升方向，而负梯度一那么为函数的最速下降方向。如图2-11所示。 ( )kX图图2-11 2-11 梯度方向与等值线的关系梯度方向与等值线的关系 2. 多元函数的海森矩阵多元函数的海森矩阵 )(Xf( )kX

39、( )()kH X2( )2( )2( )211212( )2( )2( )( )2( )221222( )2( )2( )212()()()()()()()()()()()kkknkkkkknkkknnnf Xf Xf Xxx xx xf Xf Xf XH Xf Xx xxx xf Xf Xf Xxxxxx 知一 n 元函数，那么该函数在点的一切二阶偏导数组成的矩阵，称为函数在点的二阶偏导数矩阵或 海森(Hessian)矩阵，经常记作 。该二阶偏导数矩阵的组成方式如下：)(Xf( )kX (2-21) 由于n 元函数的偏导数有nn个，而且偏导数的值与求导次序无关，所以函数的二阶偏导数矩阵是一

40、个nn阶的对称矩阵。 海森矩阵 在判别多元函数极值的充分条件以及在牛顿法构造牛顿搜索方向时都有重要用途。( )()kH X2.3 一维优化方法一维优化方法 求解一维目的函数最优解的过程，称为一维优化(或一维搜索)，所运用的方法称为一维优化方法。 )(Xf一维优化方法，它不仅可用来处理一维目的函数的求优问题，且常用于多维优化问题在既定方向上寻求最优步长的一维搜索。 由前数值迭代法可知，求某目的函数的最优值时，迭代过程每一步的格式都是从某一定点 出发，沿着某一使目的函数下降的规定方向 搜索，以找出此方向的极小点 。这一过程是各种最优化方法的一种根本过程。)(kX)(kS)1( kX)(kX)(kS

41、)(k)(kX)(kS)(k在此过程中因 、 已确定，要使目的函数值为最小，只需找到一个适宜的步长 就可以了。这也就是说，在任何一次迭代计算过程中，当起步点 和搜索方向 确定之后，就把求多维目的函数极小值这个多维问题，化解为求一个变量步长因子)的最优值 的一维问题。 一维搜索方法主要有：)(kS一维搜索方法普通分两步进展： 首先在方向 上确定一个包含函数极小点的初始区间，即确定函数的搜索区间，该区间必需是单峰区间； 然后采用减少区间或插值逼近的方法得到最优步长，即求出该搜索区间内的最优步长和一维极小点。 分数法分数法 二次插值二次插值 黄金分割法黄金分割法0.6180.618法法 三次插值法等

42、三次插值法等本节引见最常用的黄金分割法和二次插值法。本节引见最常用的黄金分割法和二次插值法。2.3.1 搜索区间确实定搜索区间确实定 根据函数的变化情况，可将区间分为单峰区间和多峰区间。所谓单峰区间，就是在该区间内的函数变化只需一个峰值，即函所谓单峰区间，就是在该区间内的函数变化只需一个峰值，即函数的极小值，如图数的极小值，如图2-18所示。所示。即在单峰区间内的极小值点即在单峰区间内的极小值点X X* * 的左侧：函数呈下降趋势，的左侧：函数呈下降趋势，而在极小值点而在极小值点X X* * 的右侧：函数呈上升趋势。的右侧：函数呈上升趋势。也就是说，单峰区间的函数值呈也就是说，单峰区间的函数值

43、呈“高高- -低低- -高的变化特征。高的变化特征。设区间 1，3 为单峰区间，而2为该区间内的一点，假设有1223成立，那么必有 f(1) f(2) f(3)同时成立。图图2-18单峰区间单峰区间目前，在一维优化搜索中，确定单峰区间常用的方法是进退试算法。 进退试算法的根本思想为： 按照一定的规律给出假设干试算点， 依次比较各试算点的函数值的大小， 直到找到相邻三点的函数值按“高-低-高变化的单峰区间为止。进退试算法的运算步骤如下：图图2-19 求搜索区间求搜索区间(2)将将0及及0+h 代入目的函数代入目的函数 f(x) 进展计算并比较它们的大小。进展计算并比较它们的大小。(1)给定初始点

44、给定初始点0和初始步长和初始步长h，设搜索区间，设搜索区间a, b，如图，如图2-19所示。所示。(3)假设，那么阐明极小点在试算点的右侧，需做前进试算。在做前进运算时，为加速计算，可将步长h添加2倍，并取计算新点为0+h+2h=0+3h。假设 ，那么所计算的相邻三点的函数值已具“高-低-高特征，这时可确定搜索区间为00()()ffh00()(3 )fhfh00, 3abh否那么，将步长再加倍，并反复上述运算。否那么，将步长再加倍，并反复上述运算。00()()ffh00()()4hff00, 4habh00/4h否那么，将步长再加倍，继续后退，反复上述步骤，直到满足单峰区否那么，将步长再加倍，

45、继续后退，反复上述步骤，直到满足单峰区间条件为止。间条件为止。(4)假设 ，那么阐明极小点在试算点的左侧，需做后退试算。在做后退运算时，应将后退的步长缩短为原步长h的1/4，那么取步长为h/4，并从点出发，得到后退点为 ，假设 ，那么搜索区间可取为上述进退试算法的程序计算框图，如图上述进退试算法的程序计算框图，如图2-20所示。所示。图图2-20 2-20 进退法的程序框图进退法的程序框图 2.3.2 黄金分割法黄金分割法 该算法的根本思绪是：经过比较单峰区间内两个插点的函数值，不断舍弃单峰区间的左端或右端一部分，使区间按照固定区间缩短率减少后的新区间与原区间长度之比逐渐缩短，直到极小点所在的

46、区间缩短到给定的误差范围内，而得到近似最优解。 黄金分割法，又称0.618法，它是一种等比例缩短区间的直接搜索方法。如图2-21所示，为使ab 区间减少，在单峰区间a, b内插入两个内分点 ，且满足 ，并计算它的函数值 f(1), f(2)，比较它们的大小，能够发生以下情况： 、1ab (1) 假设 f(1) f(2)，显然，极小点必位于1，b内，因此可去掉区间a，1，得到新区间1，b，如图2-21(b)所示； 图图2-21 2-21 黄金分割法的序列消去原理黄金分割法的序列消去原理 (3) 假设 f(1) = f(2)，极小点应在区间1，2内，因此可去掉a，1 或 2，b，甚至将此二段都去掉

47、，如图2-21(c)所示。 对于上述缩短后的新区间，可在其内再取一个新点3，然后将此点和该区间内剩下的那一点进展函数值大小的比较，以再次按照上述方法，进一步缩短区间，这样不断进展下去，直到所保管的区间减少到给定的误差范围内，而得到近似最优解。黄金分割法的内插点选取原那么是：每次区间缩短都取相等的区间缩短率。按照这一原那么，其区间缩短率都是取=0.618，即该法是按区间全长的0.618倍的关系来选取两个对称内插点1,2的。 图图2-22 0.6182-22 0.618法新、旧区间的几何关法新、旧区间的几何关系系 为缩短区间，黄金分割为缩短区间，黄金分割法要求在区间法要求在区间aa，bb上对称上对

48、称地取两个内分点地取两个内分点11和和22，设两个对称内分点交错离两设两个对称内分点交错离两端点间隔为，那么端点间隔为，那么 llL()Lll 如图2-22所示，设原区间a，b长度为L，区间缩短率为。根据每次区间缩短率相等的原那么，那么有根据每次区间缩短率相等的原那么，那么有 ()lLlLl210llLL 210 2()0lL Ll由此得由此得即即 ，或，解此方程取其正根可得，或，解此方程取其正根可得510.61803398870.6182这意味着，只需取这意味着，只需取= 0.618= 0.618，就以满足区间缩短率不变的要求。，就以满足区间缩短率不变的要求。即每次减少区间后，所得到的区间是

49、原区间的即每次减少区间后，所得到的区间是原区间的0.6180.618倍，舍弃的区倍，舍弃的区间是原区间的间是原区间的0.3820.382倍。倍。12(1)()0.382()()0.618()abaabaabaaba根据以上结果，黄金分割法的两个内插点的取点规那么为：根据以上结果，黄金分割法的两个内插点的取点规那么为：2-30 1112220.382(), ()0.618(), ()abaffabaff21(1) 给定初始单峰区间给定初始单峰区间 a, b和收敛精度和收敛精度；(2) 在区间在区间 a, b内取两个内插点并计算其函数值：内取两个内插点并计算其函数值：假设假设 f1 f2 f1 f

50、2 ，那么取，那么取a, a, 为新区间，而为新区间，而 那么作为那么作为新区间内的第一个试算点，即令新区间内的第一个试算点，即令(3) 比较函数值比较函数值 f1和和 f2 的大小：的大小：综上所述，黄金分割法的计算步骤如下：综上所述，黄金分割法的计算步骤如下：而另一试算点可按下式计算出来：而另一试算点可按下式计算出来：212220.618(), ()abaff22121, , bff而另一试算点可按下式计算出而另一试算点可按下式计算出1110.382(), ()abaff假设假设 f1 f2 ，那么取，那么取 ，b为新区间，而为新区间，而 作为新区间内的作为新区间内的第一个试算点，即令第一

51、个试算点，即令11212, , aff*, ()2abxff x图图2-23 黄金分割法的计算框图黄金分割法的计算框图(4) 迭代终止条件判别迭代终止条件判别假设满足假设满足b-a ，那么，那么转下一步；转下一步；否那么前往步骤否那么前往步骤(3)，进展下一次迭代计算，进一进展下一次迭代计算，进一步缩短区间。步缩短区间。(5) 输出最优解输出最优解黄金分割法的计算框图，黄金分割法的计算框图，如图如图2-23所示。所示。2.3.3 二次插值法二次插值法 二次插值法又称近似抛物线法。该法的根本思想是：在给定的单峰区间中，利用目的函数上的三个点来构造一个二次插值函数，以近似地表达原目的函数，并求这个

52、插值函数的极小点近似作为原目的函数的极小点。该法是以目的函数的二次插值函数的极小点作为新的中间插入点，进展区间减少的一维搜索方法。 ()p X)(Xf)(Xf112233(), (), ()ffffff2( )pABC设一元函数 ，在单峰区间内取一点且 ，这三点对应的函数值分别为于是经过原函数曲线上的三个点和于是经过原函数曲线上的三个点和 可以构成一个可以构成一个二次插值函数，如图二次插值函数，如图2-24所示。设该二次插值函数为所示。设该二次插值函数为123213, 1122(,),(,)ff33(,)f(2-31) ( )20ddpBC*2pBC *p图图2-24 2-24 二次插值法的原

53、理及区间减少过程二次插值法的原理及区间减少过程2-32为求得为求得 ，应设法求得式，应设法求得式(2-32)(2-32)中的待定系数中的待定系数 B B 和和C C。解得解得此函数可以很容易地求得它的极小点此函数可以很容易地求得它的极小点 。令其一阶导数等于零，即。令其一阶导数等于零，即*p211112222223333p()ABCp()ABCp()ABCfff由于所构造的二次插值函数曲线经过原函数上的三个点，因此将由于所构造的二次插值函数曲线经过原函数上的三个点，因此将三个点三个点 及及 代人方程代人方程(2-31)(2-31)可得可得解得系数解得系数2-331122( ,),(,)ff33

54、(,)f222222231312123122331231312123122331()()()()()()()()()()()()fffBfffC 222222*231312123231312123()()()122 ()()()pfffBCfff 2-34将将B，C之值代入式之值代入式(2-32)，可求得，可求得由上可知，在知一个单峰搜索区间内的由上可知，在知一个单峰搜索区间内的 三点值后，便三点值后，便可经过二次搜值方法求得极小点的近似值可经过二次搜值方法求得极小点的近似值 。由于在求。由于在求 时，时，是采用原函数的近似函数，因此求得的是采用原函数的近似函数，因此求得的 不一定与原函数的极

55、值点不一定与原函数的极值点 重合，见图重合，见图2-242-24。*pX*p*p*p123, , 123, 为了求得满足预定精度要求的原函数的近似极小点，普通要进展多次迭代。为此，可根据前述的序列消去原理，在已有的四个点 及 中选择新的三个点，得到一个减少了的单峰区间，并利用此单峰区间的三个点，再一次进展插值。如此进展下去，直至到达给定的精度为止。 *X132213223(1) 给定初始搜索区间给定初始搜索区间 和计算精度和计算精度；(2) 在区间在区间 内取一内点内取一内点 ，有下面两种取法：，有下面两种取法：13, 13, 等距原那么取点等距原那么取点不等距原那么取点不等距原那么取点211

56、2233( ), ( ), ( )ffffff( )p计算三点的函数值计算三点的函数值 。(3) 计算二次插值多项式计算二次插值多项式 的极小点的极小点 与极小值与极小值 ； *p)(*pf*p (4) 进展收敛判别：进展收敛判别：假设满足，那么转假设满足，那么转(6)，停顿迭代，并将点，停顿迭代，并将点 与与 中函数值较小的点作为极小点输出，终了一维搜索；中函数值较小的点作为极小点输出，终了一维搜索；否那么，转下步否那么，转下步(5)； 2*2p(5) 减少区间：减少区间：以得到新的单峰区间，然后转第以得到新的单峰区间，然后转第(3)(3)步，继续迭代，直到满足步，继续迭代，直到满足精度要求

57、为止。精度要求为止。(6)(6)输出最优解：输出最优解：图图2-25 2-25 二次插值法程序框图二次插值法程序框图 2.4 多维无约束优化方法多维无约束优化方法 nnRXxxxfXf)()(min21，2-35求解这类问题的方法，称为多维无约束优化方法。无约束优化方法有很多种，但归纳可以分为两大类： 解析法 直接法 解析法解析法 这类方法是需求利用函数的一阶偏导数甚至二阶偏导数构造搜索方向，如梯度法、这类方法是需求利用函数的一阶偏导数甚至二阶偏导数构造搜索方向，如梯度法、牛顿法和变尺度法等。牛顿法和变尺度法等。由于需求计算偏导数，故这类方法计算量大，但收敛较快。由于需求计算偏导数，故这类方法

58、计算量大，但收敛较快。 直接法直接法 这类方法是仅利用迭代点的函数值来构造搜索方向，如坐标轮换这类方法是仅利用迭代点的函数值来构造搜索方向，如坐标轮换法、法、powell 共轭梯度法和单纯形法等。共轭梯度法和单纯形法等。由于只需求计算函数值，对于无法求导或求导困难的函数，那么这类方法就有突由于只需求计算函数值，对于无法求导或求导困难的函数，那么这类方法就有突出的优越性，但是其收敛速度较慢。出的优越性，但是其收敛速度较慢。2.4.1 坐标轮换法坐标轮换法 是求解多维无约束优化问题的一种直接法，是求解多维无约束优化问题的一种直接法，它不需求函数导数而直接搜索目的函数的最优解。它不需求函数导数而直接

59、搜索目的函数的最优解。该法又称降维法。该法又称降维法。该法将一个多维无约束优化问题该法将一个多维无约束优化问题转化为一系列一维优化问题来求解，转化为一系列一维优化问题来求解，即依次沿着坐标轴的方向进展一维搜索，求得极小点。即依次沿着坐标轴的方向进展一维搜索，求得极小点。当对当对 n n 个变量个变量 x1, x2 , xn x1, x2 , xn 依次进展过一次搜索依次进展过一次搜索之后，之后，即完成一轮计算。即完成一轮计算。假设未收敛到极小点，假设未收敛到极小点，那么又从前一轮的最末点开场，再作下一轮搜索，那么又从前一轮的最末点开场，再作下一轮搜索，如此继续下去，直至收敛到最优点为止。如此继

60、续下去，直至收敛到最优点为止。坐标轮换法，就是由此而得名的。坐标轮换法，就是由此而得名的。现以二维优化问题图现以二维优化问题图2-26为例，阐明该法的搜索过程。为例，阐明该法的搜索过程。图图2-26 2-26 坐标轮换法搜索过程坐标轮换法搜索过程 先以先以 为初始点，为初始点， 沿着坐标轴沿着坐标轴 方向进展一维搜索，求得极小点方向进展一维搜索，求得极小点 ， 然后固定然后固定 不变，改沿着坐标轴不变，改沿着坐标轴 方向进展一维搜索，求得方向进展一维搜索，求得极小点极小点 ，至此完成了该二维问题的一轮计算。，至此完成了该二维问题的一轮计算。由于未得到问题的最优点，需进展第二论迭代，由于未得到问