机械优化设计2优化理论基础课件

1、第一章 作业我国宋代建筑师李诫在其著作营造法式一书中曾指出：圆木做成矩形截面梁的高宽比应为三比二2）多元函数的Taylor展开式3）二次型函数4）关于优化方法中搜索方向的理论基础5）凸集与凸函数6）最优化问题的极值存在条件1）等值(线)面第二章 优化设计的理论与数学基础 对于可计算的函数 f(x)，给定一个设计点 X(k)(x1(k),x2(k), ,xn (k)，f(x)总有一个定值c 与之对应；而当f(x)取定值 c 时，则有无限多个设计点X(i)(x1(i), x2(i), ,xn(i) ) （i=1,2, ）与之对应，这些点集构成一个曲面，称为等值面。 当 c 取c1,c2, 等值时，

2、就获得一族曲面族，称为等值面族。 当f(x)是二维时，获得一族等值线族； 当f(x)是三维时，获得一族等值面族； 当f(x)大于三维时，获得一族超等值面族。2-1 等值(线)面 1.等值线的“心” (以二维为例): 一个“心”：是单峰函数的极(小)值点，是全局极(小)值点。 没有“心”：例，线性函数的等值线是平行的，无“心”，认为极值点在无穷远处。 多个“心”：不是单峰函数，每个极（小）值点只是局部极（小）值点，必须通过比较各个极值点和“鞍点”（须正确判别）的值，才能确定极（小）值点。2.等值线的形状： 同心圆族、椭圆族，近似椭圆族；3.等值线的疏密： 沿等值线密的方向，函数值变化快； 沿等值

3、线疏的方向，函数值变化慢。 等值线的疏密定性反应函数值变化率。 严重非线性函数病态函数的等值线族是严重偏心和扭曲、分布疏密严重不一的曲线族。(1)(2)(3)梯度海赛(Hessian)矩阵对称矩阵二.多元函数的Taylor展开式故解：例：将函数 写成在点 处泰勒展开式的矩阵形式。Hesse 矩阵的特性：是实对称矩阵。 矩阵正定的充要条件：主子式 det(ait)0当主子式 det(ait)0 时，矩阵半正定 det(ait)0时，矩阵负定 det(ait)0时，矩阵半负定Hesse 矩阵的正定性：H(x*)正定， 是 x* 为全局极小值点的充分条件；H(x*)半正定, 是 x* 为局部极小值点

4、的充分条件；H(x*)负定， 是 x* 为全局极大值点的充分条件；H(x*)半负定, 是 x* 为局部极大值点的充分条件。正定的二次函数：曲面为椭圆抛物面； 等值线族为椭圆曲线族，椭圆中心为极小值点。三. Hesse 矩阵与正定* 矩阵A为正定的充要条件-A的各阶主子式均大于零。如 为正定，则必有：2)正定二元二次函数的特点) F=f 时有极小.此时椭圆缩为一点,即椭圆中心.) F只影响椭圆的大小,不影响其中心位置-同心; 椭圆方程经坐标轴平移和转动后可去掉一次项和交叉项, 故写成下述形式不失一般性:因函数为正定，故A为正定，即： 由于判别式0，无论F(X)取何值,所得方程均为椭圆方程.证：（

5、1）正定二元二次函数的等值线是一族同心椭圆，其中心坐标就是该函数的极小点。2-4 关于优化方法中搜索方向的理论基础1.方向导数一.函数的最速下降方向2.梯度1. 定义-函数沿指定方向 的平均变化率的极限。一) 方向导数2.4.1 函数的最速下降方向3.方向导数的计算二）梯度令于是单位矢量从上式可得出如下结论：最优点* 最速下降只是局部性质.4）在与梯度垂直的方向（等值线的切线方向）上，函数的变化率为零。2）梯度的模是最大的方向导数, 负梯度方向是函数的最速下降方向；1）方向导数是梯度在指定方向上的投影；3）最速下降方向为等值线（面） 的法线方向；2-5 凸集与凸函数XX2X1凸集非凸集凹集*若

6、X是X1和X2连线上的点，则有251凸集- 若任意两点 ，对于 ， 恒有 ， 则 D 为凸集。整理后即得252 凸函数 设f(X)为定义在 Rn 内一个凸集D上的函数，若对于 及D上的任意两点X1,X2,恒有 则f(X)为定义在D上的一个凸函数。1.定义2.凸函数的基本性质证: 由定义 两式相加,整理后可得证.（2）设 、 均为定义在凸集D上的凸函数，则 + 也是定义在 D上的凸函数。证: 由定义 两边乘上 :（1）设 为定义在凸集D上的凸函数， 为任意正实数,则 也是定义在 D上的凸函数。（3）设 、 均为定义在凸集D上的凸函数， 为任意正实数，则 也是定义在D上的凸函数。2.6.1 优化设

7、计最优解无约束优化设计问题最优解：约束优化设计问题最优解： 不受约束条件限制，使目标函数达到最小值的一组设计变量，即最优点 x*=x1*,x2*,x n* 和最优值 f(x*)构成无约束问题最优解。 满足约束条件，使目标函数达到最小值的一组设计变量，即最优点 x*=x1*,x2*,x n* 和最优值 f(x*)构成约束问题最优解。2-6 最优化问题的极值存在条件梯度为零向量海赛矩阵正定二）多元函数具有极小值的充要条件一）一元函数具有极小值的充要条件262无约束问题的极值存在条件f(x0)0f(x0)=0开始不为零的导数阶数若为偶次，则为极值点，若为奇次，则为拐点，而不是极值点即在某一点的左右使

8、f（x）的正负发生变化的点,曲线上的凹凸分界点。在生活中，拐点多用来说明某种情形持续上升一段时间后开始下降或回落。在数学上这句话是正确么？例如经济拐点，房地产拐点2.6.3 有约束问题最优点的几种情况有适时约束(起作用)目标函数是凸函数,可行域是凸集，则目标函数等值线与适时约束曲面的切点为最优点，而且是全局最优点。无适时约束(不起作用) 目标函数是凸函数，可行域是凸集，则最优点是内点。相当于无约束问题的最优点。x (k) 为最优点x*的条件：必要条件：充分条件： Hesse矩阵 H(x(k) 是正定矩阵X*f (x) x*有适时约束 目标函数是非凸函数(图 a)，或可行域是非凸集(图 b)：

9、则目标函数等值线与适时约束曲面可能存在多个切点，是局部极值点，其中只有一个点是全局最优点。pQQp2.6.2 约束问题有最优解的必要条件（2）对于整个可行域，恒有 ，则X*为全局极小点；（1）对于X*在可行域中的一个邻域，恒有 ，则X*为局部极小点；一.局部极小点与全局极小点二.有约束最优解的一阶必要条件（Lagrange函数）* Lagrange乘子* 可正可负，但必须有解可表示为各约束函数梯度的线性组合。（1）EP型 分EP型、IP型、GP型逐步深入讨论。消元法和升维法消元法(降维法) 看似简单，实际求解困难大。因为将l个约束方程联立往往求解不出来。即使能解，代入目标函数后，也会因目标函数

10、十分复杂而难于处理。这种方法作为一种分析方法实用意义不大，但对于某些数值迭代方法来说，具有启发意义。拉格朗日乘子法(升维法)通过增加变量将等式约束优化问题变成无约束优化问题。拉格朗日乘子法不仅适合用于等式约束优化问题，而且还可以推广用于具有不等式约束优化问题，需引入松弛变量使不等式约束变为等式约束。（Lagrange函数）设有二维函数问题f(x)=f(x1,x2),且只有一个约束条件h(x)=h(x1,x2)式中， 是单位变量的目标值变化率，而 则是单位变量的约束值变化率。可以称 为优化效率或敏感系数。而且从 可知， 各变量的改变所导致的优化效率是相等的，且等于一个常数对于机械优化设计问题，若

11、有目标函数f(x)是结构重量，约束条件是结构刚度或某点的变形，则 可理解为结构重量的收益，而 则可理解为结构刚度的支出。 就意味着单位的结构刚度支出所能获得的结构重量收益。这时的 就反映结构刚度对其重量的优化效率（2）IP型（Lagrange函数）U是由起作用约束的下标组成的集合， Lagrange乘子 这就是著名的 KuhnTucker(K-T）条件.如要在条件中考虑所有的不等式约束，只需引入互补松弛条件：几何意义：在约束极小点处，函数f的负梯度一定能表示成所有其作用约束在该点梯度(法向量)的非负线性组合K-T ( Kuhn-Tucker 库恩-塔克) 条件 有适时约束时获得最优解的条件1.

12、 有一个适时约束时： 与x(k)点目标函数的负梯度方向成锐角，即沿 S 方向目标函数值下降； 与x(k)点约束函数的梯度方向成钝角，即保证 S方向上各点在可行域内。 此时，获得最优解 x(k) 为最优点 x*，f(x(k)为最优值 f(x*)。 从数学上定义，当从 x(k)点出发不存在一个 S 方向能同时满足： ;，即 ， 则获得最优解：x(k)为最优点 x*，f(x(k)为最优值 f(x*)。从几何上看，当从 x (k)点出发不存在一个 S 方向能同时满足： 相反，当从 x(k)点出发，存在一个 S 方向能同时满足： 和 时，则 x(k) 不是最优点。 从几何上看，当从 x(k)点出发存在一

13、个 S 方向能同时满足： 与x(k)点目标函数的负梯度方向成锐角，即沿 S 方向目标函数值下降； 与x(k)点约束函数的梯度方向成钝角，即保证 S方向上各点在可行域内。 此时，x(k)不是最优点 x*。K-T ( Kuhn-Tucker 库恩-塔克) 条件 有适时约束时获得最优解的条件1. 有一个适时约束时：2. 有二个适时约束时： x(k)成为约束最优点 x* 的必要条件为:。 几何上 位于和 所张的扇形子空间内。即不存在一个 S 方向能同时满足：K-T ( Kuhn-Tucker 库恩-塔克) 条件 有适时约束时获得最优解的条件相反，不符合以上条件： 几何上 不位于 和 所张的扇形子空间内

14、。则 x(k) 点不是最优点。不能表达成 和 的线性组合。即存在一个 S 方向能同时满足：K-T ( Kuhn-Tucker 库恩-塔克) 条件 有适时约束时获得最优解的条件2. 有二个适时约束时：3. K-T 条件（扩展至 m 个适时约束）： 设某个设计点 x(k)，其适时约束集为 ， 几何上，x(k)成为约束最优点（极小点）x*时，目标函数的负梯度向量位于 m 适时约束梯度向量所张成的子空间内。且 为线性独立，则 x(k)成为约束最优点的必要条件是目标函数的负梯度向量可表示为适时约束梯度向量的线性组合，即 。 其中， 。K-T ( Kuhn-Tucker 库恩-塔克) 条件 有适时约束时获

15、得最优解的条件(3)GP型三.K-T条件的应用综合EP、IP型的K-T条件, 可得： ）进行可行性检查，找出起作用约束； ）对起作用约束求拉氏乘子，若 非负， 有确定值，则 X* 为 K-T 点。对X*进行检验K-T条件的作用： 判别边界设计点 x(k) 为最优点的依据，见参考书（第三版）52页例3-6、53页例3-7（要求会判断）； 作为约束优化的收敛条件。问题： K-T条件是否为充分必要条件？若是，说明理由；若不是，则说明什么情况下，可成为充要条件？ 有等式约束时，K-T条件是否还能适用？三. K-T ( Kuhn-Tucker 库恩-塔克) 条件 有适时约束时获得最优解的条件 K-T条件是多元函数取得约束极值的必要条件,以用来作为约束极值的判断条件，又可以来直接求解较简单的约束优化问题。 对于目标函数和约束函数都是凸函数的情况