多维度极值求法

1）先求梯度和驻点:wo=2）求驻点处赫林矩阵:*ICbk*-6=0"二%二厂21）先求梯度和驻点:wo=2）求驻点处赫林矩阵:*ICbk*-6=0"二%二厂2存壬军+2气A何森矩阵H(Xk)=dx；57ox.x.£124>0海赛矩阵正定，驻点为极小值点.壬淫刖断正定性：H撰）的一阶主子式心）的三阶主子式:4=4>0〃（刑）的二阶主子式；=40>0-&3乂1I例求f（X）=2泰+5必+必叶2为均十2羽*3一6巧+3的极值点寸24>0海赛矩阵正定，驻点为极小值点.壬淫刖断正定性：H撰）的一阶主子式心）的三阶主子式:4=4>0〃（刑）的二阶主子式；=40>0-&3乂1设:A=iw/b方■•丁如B=iwjb】、+jw/b：+k«，by则:a^b-A-B.凸集式中，若奁）、g/x）均为凸函数，则称此问题为凸规划。性质：对于凸规划问题，任何局部最优解就是全局最优解,3.约束优化问题的极值条件库恩一塔克条件（K-T条件）:”（欢）=»少&（尸）+£4%「（尸）a=Lj=1其中，/44「是一组非负乘子°必要条件6.到断下列函数是凸函数，凹函数，还是既不凸也不F函数：(1)，沔)=42.tj3+3砧帷：V2/(.t)不:w三三包即/⑴非凸，然后判断-7V)，经验证：V2不足半王适由此可知=A0非凸非凹一■■?)=2.K1-+.r.t;+3..l‘-5r-6第，半.三定，故_/(.仆为&函敖u节」•甚*『割・u芸土下..中,.中巧■亏:德不叮代三代手一■二霆了芸幸切W■七刊代担•.：：三■任H：•.巨■芸境(3)f(\,,?3-毛)=if+2j^2-一4苛-4气丐解：不是半正定，即双-功非凸「然后判断-兀.】＞,蕴验派=v气二/U)〕不是半|E定.山此可就非凸qilh正定规定，各阶矩阵都大于0,半正定其中一个矩阵等于0拉格朗日乘子法计算P392-4乙设约束优化何前的数学模型为；miny(.i)=+4.ij—.1^一4.i2+10+2>0|段(,t)=-rtf-.t22-2.1,+2,i.j>0试用K.T条件判别点r=[-ljf是否为最优点“解：对十点.t-[-Llf，(..1-)=0,且⑴士0,点满足约束条件，故点才是可行解口且所(X)是起作用约束，『={1},用/(.[)=|怎2)踣1⑴="[.山Vg?(x)>0条件下的K/T条件得『V/iJ-l)-上口，得到2.]=£,点..T=[-1,1]■满足K-T条件Dv2z(4-)lE定，故久刀为严格凸函数，该最优化问题是凸规划问题，由f=[_技「是K-T点.所以F=[-l:lf也是该问题的全局最优戌。一维搜索的过程：»确定初始搜索区间——进退法A缩小区间——0.618法、二次插值法件T职誓法津标哦凝融瀚,做区间[L7],件T职誓法津标哦凝融瀚,做区间[L7],收敏精度E=0.乳解；第一次区间缩短计茸过程；^^-11,-3.292,j%r”i-008526』I计算西内点度对应函数值：xL=b-0.6]Si(b-a]=J卫92yl=71x」)=0.085264xi=a+0.'6l8(b-a)M.7O8V尸〃，)=2-917264七土心卜—llfh士皿酎一皿淄上厂e、各次缩短区I可的计尊数据见下页表*第六次区间缩购的端点作数值比较，可见亍产力，再域詈换，WJ那f户.7脯用终止准则判断：土=疽侦+0.3险0⑴-疽“)=N416456凹=，(苴)=扃击云空=2.7钮917=0.3343886®=3.085305满足精度要求，终止计算。取最优解为砂）一把=4.708-1=3.708»=；（/们+护〕）=291811例题1:试用外推法确定函数犬区)=序血+9的一维优化搜索区间叵b],设初始步长知=1虹计算过程如下：I撰1=女0=00—扁=1约—®l+A—17hA%)nj;书妇=4由万卫WA，作前进搜索，R2h=2%—殉+曲=3,jv=/m)=o比较佑应有吕＞£,再做前进搜索的J处，1，/；T=4灼一明=3*人T=O虹2奸4*鸵+阮7,16再比跖J蠢Vf‘,则取。^―(X]=l,in—ccj=7搜索区间a,b为[L7]v*=/（X*）=0.00670A缩小区间一一二次插值法设一维目标函数的搜索区间为[a,b]第一步：取三点*i,巧，心，互—a,心—b,心=0.5(X】十勺)第二步：计算二点函数IM/fs~f(x3)第四步：判断c2=0或卜广-则到第六步，否则到第五步;第三步：计算二次曲线：p(x)=AX2-IBx-bC的极小值<>第四步：判断c2=0或卜广-则到第六步，否则到第五步;第五步：判断攻与中的大小；若f2<fp,则工1—afx3—xp市,若f2>fp,则gas,x2—xp*,x3=返回第二专；第六步：输出最优解舟7W)六对=产-推+1)鼻题2用:次插值法求非：次函数地最优解“初始区间端点为a=-05,b=2.5D精度要工=尸（心）=-。.851279曲（心）=2610944工=，（沔）=1六对=产-推+1)工=尸（心）=-。.851279曲（心）=2610944工=，（沔）=15.615452(2)计宣6=5488910.》尸=0.382067勺=4・441347

不6=5488910.》尸=0.382067勺=4・441347不3）缩短区间因有I心=-0.5,巧=0.382067,（4）对霸晶]重复步骤二C]=-L17311,故取工=-0・8512797；=-20927209方=26109445=1.910196X；⑵=0.557065f；=-3.040450（5）检查终止条件罗）-罗）=|0.557065-0.3820671=0J74998>£未满足终止条件.返回步骤（3）一、问答题什么是一维搜索问题？答：当方向dk给定时，求最佳步长a就是求一元函数kf（xk+1）=f（xk+a^k）=甲（气）的极值问题，它称为一维搜索。试述两种一维搜索方向的原理，它们之间有何区别？答：搜索的原理是：区间消去法原理区别：（1）、试探法：给定的规定来确定插入点的位置，此点的位置确定仅仅按照区间的缩短如何加快，而不顾及函数值的分布关系，如黄金分割法（2）、插值法：没有函数表达式，可以根据这些点处的函数值，利用插值方法建立函数的某种近似表达式，近而求出函数的极小点，并用它作为原来函数的近似值。这种方法称为插值法，又叫函数逼近法。共轭梯度法是利用梯度求共轭方向的，那共轭方向与梯度之间有什么关系？（P70）对于二次函数，f（X）=-XtGX+brX+c,从Xk点出发，沿G的某一共轭2方向dk作一维搜索，到达Xk+1点，则Xk+1点处的搜索方向dj应满足

(d)(g-g)=0，即终点Xm与始点Xk的梯度之差g-g与dk的共k+1kk+1k轭方向dj正交。4.惩罚函4.惩罚函数法求么？解约束优化问题的基本原理是什答：惩罚函数求解约束优化问题的基本原理是将约束优化问题minf(x)st.g(x)<0(j=1,2,・..,m)七(x)=0(k=1,2,...,l)中的不等式和等式约束优化函数经过加权转化后，和原目标函数结合成新的目标函数----惩罚函数，即4(x,r,r)=f(x)+r^Eg(g(x))+r£h(h(x))口□□□□口121j2kj=1k=1求解该新的目标函数的无约束极小值，以期得到原问题的约束最优解。与最速下降法和牛顿法比较，试述变尺度法的特点。答：P74--77在变尺度法中，为使变尺度矩阵Hk与aT近似，并具有容易计算的特点，Hk必须附加哪些条件？答：(1)为保证迭代公式具有下降的性质，要求海塞矩阵中的每一个矩阵都是对称正定的。(2)要求海塞矩阵之间具有简单的形式：H++1=Hk+气。(3)要求海塞矩阵必须满足拟牛顿条件。试述数值解法求最佳步长因子的基本思路。答主要用数值解法，利用计算机通过反复迭代计算求得最佳步长因子的近似值写应用数学规划法求解优化设计问题的数值迭代公式，并说明公式中各变量的意义，并说明迭代公式的意义。变尺度的搜索方向是什么？变尺度矩阵应满足什么条件？变尺度矩阵在极小点处逼近什么矩阵？并写出其初始形式。在变尺度法中，变尺度矩阵%为什么要求都是正定对称的？答：因为若要求搜索方向d.—Hg为下降方向，即要求gTdk<0，也就是—gTHg<0，这样gTHg>0,即H应为对称正定。kkkkkkk什么是共轭方向？满足什么关系？共轭与正交是什么关系？请写出应用MATLAB优化工具箱处理约束优化设计问题的基本步骤。答：（1）编写定义目标函数的M文件一一funl.m（2）编写定义约束方程函数的M文件con.m（3）在窗口调用求解命令求解.。求解格式为：x0=[-1,1][x,fval]=fmincon（@fun1,x0,[],[],[],[],[],[],@con）试述求解无约束优化问题的最速下降法与牛顿型方法的优缺点。答：最速下降法此法优点是直接、简单，头几步下降速度快。缺点是收敛速度慢，越到后面收敛越慢。牛顿法优点是收敛比较快，对二次函数具有二次收敛性。缺点是每次迭代需要求海塞矩阵及其逆矩阵，维数高时及数量比较大。为何优化设计的可行设计域和可行设计点？无约束优化问题数值求解的一般步骤是什么？答：（1）编写M文件，——fun1.m，定义目标函数文件。（2）在命令窗口中调用无约束线性函数fminunc求解。求解格式为：x0=[-1,1][x,fval]=fminunc（@fun1,x0）什么是内点惩罚函数法？什么是外点惩罚函数法？他们适用的优化问题是什么？在构造惩罚函数时，内点惩罚函数法和外点惩罚函数法的惩罚因子的选取有何不同？1）内点惩罚函数法是将新目标函数定义于可行域内，序列迭代点在可行域内逐步逼近约束边界上的最优点。内点法只能用来求解具有不等式约束的优化问题。内点惩罚函数法的惩罚因子是由大到小，且趋近于0的数列。相邻两次迭代的惩在可行域之外，序列迭代点从可行域之外逐渐逼近约束边界上的最优点。夕卜点法可以用来求解含不等式和等式约束的优化问题。夕卜点惩罚函数法的惩罚因子，它是由小到大，且趋近于8的数列。惩罚因子按下式递增rk=crk-i（k=1,2,…），式中c为惩罚因子的递增系数，通常取c=5~10为什么说共轭梯度法实质上是对最速下降法进行的一种改进？.答：共轭梯度法是共轭方向法中的一种，在该方法中每一个共轭向量都依赖于迭代点处的负梯度构造出来的。共轭梯度法的第一个搜索方向取负梯度方向，这是最速下降法。其余各步的搜索方向是将负梯度偏转一个角度，也就是对负梯度进行修正。所以共轭梯度法的实质是对最速下降法的一种改进。优化设计的数学模型一般有哪几部分组成？简单说明。简述随机方向法的基本思路答：随机方向法的基本思路是在可行域内选择一个初始点，利用随机数的概率特性，产生若干个随机方向，并从中选择一个能使目标函数值下降最快的随机方向作为可行搜索方向。从初始点出发，沿搜索方向以一定的步长进行搜索，得到新的X值，新点应该满足一定的条件，至此完成第一次迭代。然后将起始点移至X，重复以上过程，经过若干次迭代计算后，最终取得约束最优解。简述优化问题数学模型的三个要素，并给出通用的数学模型表述。（15分）一、设计变量。在优化设计过程中需要不断进行修改、调整，一直处于变化状态的基本设计参数称为设计变量，又叫优化参数。设计变量的全体实际上是一组变量，可用一个列向量表x=k%…寸称作设计变量向量。二、约束条件。一个可行设计方案必须满足的某些设计限制条件称为约束条件。在工程问题中，根据约束的性质可区分为两大类：性能约束（针对性能要求提出的限制条件）和侧面（也称边界）约束（对变量取值范围加以限制的约束）。若按数学表达形式可分成等式约束和不等式约束两种类型。三、目标函数。将所有可行设计中能最好地反映该项设计所要追求的某些特定目标表示成设计变量的数学函数称为目标函数。最优化问题的数学模型minf(x)x^Rn,受约束于g.(x)<0(j=1,2,-••,m)七(x)=0(k=1,2,---,l<m)21.写出方向导的表达式。(15分)f=fcos。+fcos9+…+也cos9dddx1dx2dxnx01x02x0nx0=Ufcos9dxi，=】ix。其中的cos9为d方向和坐标轴x方向之间夹角的余弦。22.简述一维搜索方法的分类。(15分)(要点)一、试控法。按一定的规律来确定区间内插入点的位置。如黄金分割法。二、插值法或函数逼迫法。根据某点处的的一些信息，构造一个插值函数来逼近原来函数。常见的有二次插值法、三次插值法等。2、机械优化设计采用数学规划法，其核心一是建立搜索方向二是计算最佳步长因壬。3、当优化问题是__凸规划的情况下，任何局部最优解就是全域最优解。4、应用进退法来确定搜索区间时，最后得到的三点，即为搜索区间的始点、中间点和终点，它们的函数值形成高-低-高趋势。5、包含n个设计变量的优化问题，称为n维优化问题。16、函数—XtHX+BtX+C的梯度为HX+B。27、设G为nxn对称正定矩阵，若n维空间中有两个非零向量d。，d】，满足何。回巾=0，则d。、d】之间存在_共轭关系。8、设计变量、约束条件、目标函数是优化设计问题数学模型的基本要素。9、对于无约束二元函数f(x,x)，若在x(x,x)点处取得极小值，其必要条1201020件是梯度为零，充分条件是海塞矩阵正定。I。、库恩-塔克条件可以叙述为在极值点处目标函数的梯度为起作用的各约束函数梯度的非负线性组合。II、用黄金分割法求一元函数f(x)=x2-10x+36的极小点，初始搜索区间[a,b]=[-10,10],经第一次区间消去后得到的新区间为[-2.36,2.36]。12、优化设计问题的数学模型的基本要素有设计变量、约束条件目标函数、13、牛顿法的搜索方向dk二，其计算量大，且要求初始点在极小点逼近位置。15、存在矩阵H，向量d1，向量d2，当满足(d1)TGd2=0，向量d1和向量d2是关于H共轭。16、采用外点法求解约束优化问题时，将约束优化问题转化为外点形式时引入的惩罚因子r数列，具有由小到大趋于"特点。1、下面、共轭梯度法方法需要求海赛矩阵。2、对于约束问题minf(X)=x2+x2—4x+4g(X)二X—X2—1>0g(X)=3—x>0g3(X)=X2>0根据目标函数等值线和约束曲线，判断X(i)=[L1]『为D.外点；内点，51X(2)="，/『为。3、内点惩罚函数法可用于求解_B只含有不等式约束的优化问题优化问题。4、对于一维搜索，搜索区间为[a，b]，中间插入两个点a「b1，a1<b1，计算出f(a1)<f(b1)，则缩短后的搜索区间为D[a，虹]5、D最佳步长不是优化设计问题数学模型的基本要素。6、变尺度法的迭代公式为xk+1=xk-%Hk^f(xk)，下列不属于Hk必须满足的条件的是与海塞矩阵正交。7、函数f(X)在某点的梯度方向为函数在该点的、最速上升方向。8、D坐标轮换法在构成搜索方向时没有使用到目标函数的一阶或二阶导数。9、设f(X)为定义在凸集R上且具有连续二阶导数的函数，则f(X)在R上为凸函数的充分必要条件是海塞矩阵G(X)在R上处处半正定。11、与梯度成锐角的方向为函数值上升方向，与负梯度成锐角的方向为函数值下降方向，与梯度成直角的方向为函数值不变方向。12、二维目标函数的无约束极小点就是等值线族的一个共同中心。13、最速下降法相邻两搜索方向dk和dk+1必为正交向量。14、下列关于内点惩罚函数法的叙述，错误的是。A可用来求解含不等式约束和等式约束的最优化问题。B惩罚因子是不断递减的正值C初始点应选择一个离约束边界较远的点。D初始点必须在可行域内15、通常情况下，下面四种算法中收敛速度最慢的是B梯度法16、一维搜索试探方法一一黄金分割法比二次插值法的收敛速度入、慢17、下列关于共轭梯度法的叙述，错误的是C共轭梯度法具有二次收敛性三、问答题1、试述两种一维搜索方法的原理，它们之间有何区答：搜索的原理是：区间消去法原理区别：（1）、试探法：给定的规定来确定插入点的位置，此点的位置确定仅仅按照区间的缩短如何加快，而不顾及函数值的分布关系，如黄金分割法（2）、插值法：没有函数表达式，可以根据这些点处的函数值，利用插值方法建立函数的某种近似表达式，近而求出函数的极小点，并用它作为原来函数的近似值。这种方法称为插值法，又叫函数逼近法。2、惩罚函数法求解约束优化问题的基本原理是什么？答，基本原理是将优化问题的不等式和等式约束函数经过加权转化后，和原目标函数结合形成新的目标函数一一惩罚函数园求解该新目标函数的无约束极值，以期得到原问题的约束最优解3、试述数值解法求最佳步长因子的基本思路。答主要用数值解法，利用计算机通过反复迭代计算求得最佳步长因子的近似值4、试述求解无约束优化问题的最速下降法与牛顿型方法的优缺点。答：最速下降法此法优点是直接、简单，头几步下降速度快。缺点是收敛速度慢，越到后面收敛越慢。牛顿法优点是收敛比较快，对二次函数具有二次收敛性。缺点是每次迭代需要求海塞矩阵及其逆矩阵，维数高时及数量比较大。5、写出用数学规划法求解优化设计问题的数值迭代公式，并说明公式中各变量的意义，并说明迭代公式的意义。四、解答题1、试用梯度法求目标函数f（X）=1.5x12+0.5x22-x1x2-2x1的最优解，设初始点x（0）=[-2,4]t,选代精度8=0.02（迭代一步）。

解：I、耿初蛤W・=|TU"则切始山灶函数值及拂虹■■成为—2+4x3，!I叩F，r袖负割聋方时进行锥搜素.，—2+4x3，!I叩F，r袖负割聋方时进行锥搜素.，3a'|—&—1.吃一耳.-12U中场，为■绯搜寮最佶步&匝d.口山=mill祖crj*Irrj。求门.口.山=3U&*-1血斗卜豹1.1i'dfnJ-6L2ifCiISO5tr0-—17炯.1」-1+稣，1出：竺1738炯.1」-1+稣，1出：竺1738-I7iE眼需岐『却歪肝祭件.廓位&酒一卜1■「式辜芦/A\―_IJ_十&一一/li4、求目标函数f(X)=X12+X1X2+2X22+4x1+6x2+10iE眼需岐『却歪肝祭件.廓位&酒一卜1■「式辜判断此畦虑基舌为根值・■12、一根长l的铅丝截成两段，一段弯成圆圈，另一段弯折成方形，问应以怎样的比例截断铅丝，才能使圆和方形的面积之和为最大，试写出这一优化设计问题的数学模型以及用MATLAB软件求解的程序。4、设以Ji的比例截取铅丝，能使问题达到最优解如图所心』中¥匕兀，解得，AC=—.CA=—CB1+21+Z折成的圆尼和方形的血积之和为:S=^2^-(]+Z)]J+[4(1+1)]Z=(上昭+手)1+X164^虹I这个1讪题的优化数早槿型为:s」2,0第一、填空题1.组成优化设计数学模型的三要素是设计变量、目标函数、约束条件。目标函数是一项设计所追求的指标的数学反映，因此对它最基本的要求是能用来评价设计的优劣，，同时必须是设计变量的可计算函数。建立优化设计数学模型的基本原则是确切反映工程实际问题，的基础上力求简洁。约束条件的尺度变换常称规格化，这是为改善数学模型性态常用的一种方法。随机方向法所用的步长一般按加速步长法来确定，此法是指依次迭代的步长按一定的比例递增的方法。最速下降法以负梯度方向作为搜索方向，因此最速下降法又称为梯度法，其收敛速度较慢。二元函数在某点处取得极值的充分条件是Vf(X「=0必要条件是该点处的海赛矩阵正定拉格朗日乘子法的基本思想是通过增加变量将等式约束优化问题变成无约束优化问题，这种方法又被称为升维法。10改变复合形形状的搜索方法主要有反射，扩张，收缩，压缩11坐标轮换法的基本思想是把多变量的优化问题转化为单变量的优化问题12.在选择约束条件时应特别注意避免出现相互矛盾的约束,，另外应当尽量减少不必要的约束。目标函数是n维变量的函数，它的函数图像只能在n+1，空间中描述出来，为了在n维空间中反映目标函数的变化情况，常采用目标函数等值面的方法。数学规划法的迭代公式是Xs=Xk+adk,其核心是建立搜索方向，和计算最佳步长15协调曲线法是用来解决设计目标互相矛盾的多目标优化设计问题的。16.机械优化设计的一般过程中，建立优化设计数学模型是首要和关键的一步，它是取得正确结果的前提。二、名词解释凸规划对于约束优化问题minf(X)s.tg.(X)V0(j=1,2,3,…,m)j若f(X)、gj(X)(j=1,2,3,…,m)都为凸函数，则称此问题为凸规划。可行搜索方向是指当设计点沿该方向作微量移动时，目标函数值下降，且不会越出可行域。设计空间：n个设计变量为坐标所组成的实空间，它是所有设计方案的组合4..可靠度收敛性是指某种迭代程序产生的序列^Xk(k=0,1,…)｝收敛于limXk+i=X*kT3非劣解：是指若有m个目标f(X)(i=1,2...,m)，当要求m-1个目标函数值不变坏时，找不到一个X，使得另一个目标函数值f(X)比f(X*)，则将此X*为非劣解。黄金分割法：是指将一线段分成两段的方法，使整段长与较长段的长度比值等于较长段与较短段长度的比值。可行域:满足所有约束条件的设计点，它在设计空间中的活动范围称作可行域。维修度略三、简答题

1.什么是内点惩罚函数法？什么是外点惩罚函数法？他们适用的优化问题是什么？在构造惩罚函数时，内点惩罚函数法和外点惩罚函数法的惩罚因子的选取有何不同？1）内点惩罚函数法是将新目标函数定义于可行域内，序列迭代点在可行域内逐步逼近约束边界上的最优点。内点法只能用来求解具有不等式约束的优化问题。内点惩罚函数法的惩罚因子是由大到小，且趋近于0的数列。相邻两次迭代的惩在可行域之外，序列迭代点从可行域之外逐渐逼近约束边界上的最优点。外点法可以用来求解含不等式和等式约束的优化问题。外点惩罚函数法的惩罚因子，它是由小到大，且趋近于8的数列。惩罚因子按下式递增rk=cn（k=1,2,-，）式中c为惩罚因子的递增系数，通常取c=5~103.为什么说共轭梯度法实质上是对最速下降法进行的一种改进？.答：共轭梯度法是共轭方向法中的一种，在该方法中每一个共轭向量都依赖于迭代点处的负梯度构造出来的。共轭梯度法的第一个搜索方向取负梯度方向，这是最速下降法。其余各步的搜索方向是将负梯度偏转一个角度，也就是对负梯度进行修正。所以共轭梯度法的实质是对最速下降法的一种改进。写出故障树的基本符号及表示的因果关系。略算法的收敛准则由哪些？试简单说明。略优化设计的数学模型一般有哪几部分组成？简单说明。略简述随机方向法的基本思路答：随机方向法的基本思路是在可行域内选择一个初始点，利用随机数的概率特性，产生若干个随机方向，并从中选择一个能使目标函数值下降最快的随机方向作为可行搜索方向。从初始点出发，沿搜索方向以一定的步长进行搜索，得到新的X值，新点应该满足一定的条件，至此完成第一次迭代。然后将起始点移至X，重复以上过程，经过若干次迭代计算后，最终取得约束最优解。三、计算题1.试用牛顿法求f（X）=8x「+5x22的最优解，设X（0）=11010]t。则初始点处的函数值和梯度分别为200]，沿梯度方向进行一维搜索，有140初始点为X（0