机械优化设计第二章机械优化设计的数学基础

机械优化设计太原科技大学张学良整理ppt第二章优化设计的数学基础梯度§2.1

目标函数的近似表达设目标函数f(X)是一阶连续可微的，则它在某点X（k）处对xi(i=1,2,…,n)的一阶偏导数的列向量（列矩阵）称为f(X)在X（k）点处的梯度，记作梯度的模整理ppt海赛矩阵设目标函数f(X)在某点X（k）处存在连续的一阶、二阶偏导数：则函数f(X)在X（k）点的n2个二阶偏导数所构成的n×n阶方阵称为函数f(X)在X（k）点的海赛矩阵。整理ppt若函数f(X)的一阶偏导数在定义域内处处连续可微，则海赛矩阵为对称方阵。整理ppt目标函数的近似表达——泰勒展开一元函数f(x)的泰勒展开：二元函数f(x1，x2)的泰勒展开：整理pptn元函数f(X)的泰勒展开：整理ppt可计算函数与等值面给定一组设计变量的值，就对应一个确定的目标函数值f(X)=C，具有这种性质的函数叫可计算函数。反之，给定目标函数f(X)的值C，即f(X)=C，那么将有无限多个设计点X使该式成立，这些设计点在n维设计空间中将组成一个点集，称之为等值曲面（三维空间）或等值超曲面（n>3），通称等值面。在二维平面中为等值线。若给定一系列目标函数的值，将在设计空间得到一组等值面（线）族。目标函数的等值线（面）整理ppt

f(X)=ax12+2bx1x2+cx22a>0c>0ac-b2>0

整理ppt一、最速下降方向——负梯度方向§2.2

最速下降方向和共轭方向函数的方向导数X0X0+X

x1

x2S整理pptn元函数的方向导数:整理ppt整理ppt

与负梯度方向成锐角的方向为目标函数值的下降方向，成钝角的方向为目标函数值的增加方向。目标函数的梯度方向是目标函数等值线（面）在同一点的法向矢量方向。

f(X(k))-f(X(k))X(k)t所以，目标函数在某一点的最速下降方向为负梯度方向整理ppt两个向量的共轭设两个非零向量S(0)、S(1)及对称正定矩阵H，若满足二、共轭方向则称S(0)、S(1)关于H共轭，或称S(0)与S(1)为共轭方向。若H为单位阵，即H=I，则S(0)与S(1)正交。一组向量的共轭设有一组非零向量S(0)、S(1)…S(n-1)及对称正定矩阵H，若满足则称它们关于H共轭，或称它们为一组共轭方向。若H为单位阵，则称它们相互正交。整理ppt凸集（见图2M8）

一个点集（或区域），如果连接其中任意两点的线段都全部包含在该点集内，则称该点集为凸集。否则，称为非凸集。§2.3

凸集、凸函数与凸规划凸函数（见图2M10）

设函数f(X)定义域为凸集G，X(1)、X(2)为凸集G上的任意两点，若函数f(X)在线段X(1)X(2)上的函数值总小于或等于用f(X(1))及f(X(2))作线性内插所得的值，则称函数f(X)为凸集G上的凸函数，即满足整理ppt

的函数f(X)为凸函数。若同时去掉式中的等号，则称函数f(X)为严格凸函数。凸规划

对于约束优化问题

若函数f(X)、gj(X)均为凸函数，则称此约束优化问题为凸规划。整理ppt凸规划的性质

1）凸规划的可行域为凸集2）凸规划的任何局部最优解就是全局最优解整理ppt§2.4

优化问题的几何解释X*X*整理pptX*X*整理pptX*X*h1=0h2=0整理ppt§2.5

优化方法的简单分类按有无约束分类无约束优化方法、约束优化方法按目标函数的维数分类一维优化方法、多维优化方法按目标函数的数目分类

单目标优化方法、多目标优化方法按求优途径的不同分类

直接法、解析法（间接法）、实验法、图解法整理ppt§2.6

迭代方法及其收敛准则

无论是直接法还是解析法，求优的过程都是采用数值迭代法，且迭代公式的形式一致。迭代方法

X(k+1)=X(k)+

(k)

S(k)

(k=0,1,2,…)两个特性

1）下降性:f(X(k+1))<f(X(k))2）收敛性:当k

∞时，X(k)

X*

f(X(0))>f(X(1))>…>f(X(k))>f(X(k+1))>…

f(X*)整理ppt

确定步长

(k)的方法

1）定步长法取

(k)=p(p为常数)，检验下列不等式f(X(k)+

(k)

S(k))<f(X(k))？

若成立，则继续下一步迭代计算；否则，取

(k)=

p（0<

<1），再检验不等式f(X(k)+

(k)

S(k))<f(X(k))？直至满足为止。整理ppt

2）最优步长法

用一维寻优方法确定

(k)：当给定S(k)从X(k)

点出发搜索X(k+1)点时，为求得沿搜索方向S(k)上的最优步长

(k)，可以建立如下一维优化数学模型，即这实质上就是以

(k)为变量的一元函数求极值的问题，称为一维搜索或一维寻优。整理ppt

解析法确定

(k)：整理ppt

搜索方向S(k)的讨论

1）三种常用搜索方向负梯度方向：S(k)=-

f(X(k))

共轭方向：将n维优化问题转化为每一个循环n次一维搜索，依次取n个相互共轭的方向为搜索方向。

随机搜索方向：S(k)随机产生，只要求沿S(k)方向所得X(k+1)点处函数值下降。

整理ppt

2）S(k)与-

f(X(k))和

f(X(k+1))的关系目标函数下降：

f(X(k)+

(k)

S(k))-f(X(k))<0

f(X(k)+

(k)

S(k))-f(X(k))

(k)

T

f(X(k))S(k)

故

(k)

T

f(X(k))S(k)<0

-

T

f(X(k))S(k)>0整理ppt用一维优化方法确定

(k)

时，必须满足：

f

'(X(k)+

S(k))=0所以

T

f(X(k)+

S(k))S(k)=0即T

f(X(k+1))S(k)=0第k次迭代的搜索方向S(k)与目标函数在本次迭代所得点X(k+1)处的梯度方向

f(X(k+1))正交。X(k)

X(k+1)

S(k)-f(X(k+1))整理ppt

3）共轭搜索方向的一个重要性质n维正定二次函数的n次收敛性即对于n维正定二次函数，若相继以一组相互共轭的向量S(0)、S(1)、…、S(n-1)为搜索方向，则不论从任何初始点出发，经过n次一维搜索，就可以得到该正定二次函数的极小点。整理ppt

收敛性与收敛准则

迭代算法应具有收敛性，即产生的极小点序列或者其中某一点就是极小点，或者序列有一个极限，它是目标函数的极小点。点距准则：