多维度极值求法

1、多维度极值求法（海塞矩阵）何森矩阵凸集正定规定，各阶矩阵都大于0，半正定其中一个矩阵等于0拉格朗日乘子法计算P39 2-4一、 问答题1.什么是一维搜索问题？答：当方向给定时，求最佳步长就是求一元函数的极值问题，它称为一维搜索。2.试述两种一维搜索方向的原理，它们之间有何区别？答：搜索的原理是：区间消去法原理  区别：（1）、试探法：给定的规定来确定插入点的位置，此点的位置确定仅仅按照区间的缩短如何加快，而不顾及函数值的分布关系，如黄金分割法  （2）、插值法：没有函数表达式，可以根据这些点处的函数值，利用插值方法建立函数的某种近似表达式，近而求出函数的

2、极小点，并用它作为原来函数的近似值。这种方法称为插值法，又叫函数逼近法。3.共轭梯度法是利用梯度求共轭方向的，那共轭方向与梯度之间有什么关系？（P70）对于二次函数，,从点出发，沿G的某一共轭方向作一维搜索，到达点，则点处的搜索方向应满足，即终点与始点的梯度之差与的共轭方向正交。4.惩罚函数法求解约束优化问题的基本原理是什么？答：惩罚函数求解约束优化问题的基本原理是将约束优化问题中的不等式和等式约束优化函数 经过加权转化后，和原目标函数结合成新的目标函数-惩罚函数，即=+=f 求解该新的目标函数的无约束极小值，以期得到原问题的约束最优解。5.与最速下降法和牛顿法比较，试述变

3、尺度法的特点。答：P74-776.在变尺度法中，为使变尺度矩阵与近似，并具有容易计算的特点，必须附加哪些条件？答：（1）为保证迭代公式具有下降的性质，要求海塞矩阵中的每一个矩阵都是对称正定的。（2）要求海塞矩阵之间具有简单的形式：。  （3）要求海塞矩阵必须满足拟牛顿条件。7.试述数值解法求最佳步长因子的基本思路。答 主要用数值解法，利用计算机通过反复迭代计算求得最 佳步长因子的近似值 8.写应用数学规划法求解优化设计问题的数值迭代公式，并说明公式中各变量的意义，并说明迭代公式的意义。9.变尺度的搜索方向是什么？变尺度矩阵应满足什么条件？变尺度矩阵在极小点处逼近什

4、么矩阵？并写出其初始形式。10.在变尺度法中，变尺度矩阵为什么要求都是正定对称的？答：因为若要求搜索方向为下降方向，即要求，也就是，这样,即应为对称正定。11.什么是共轭方向？满足什么关系？共轭与正交是什么关系？12.请写出应用MATLAB优化工具箱处理约束优化设计问题的基本步骤。答：（1）编写定义目标函数的M文件fun1.m（2）编写定义约束方程函数的M文件con.m（3）在窗口调用求解命令求解.。  求解格式为：x0=-1, 1           &

5、#160; x, fval=fmincon(fun1 ,x0, , ,  ,  ,  , , con) 13.试述求解无约束优化问题的最速下降法与牛顿型方法的优缺点。答：最速下降法此法优点是直接、简单，头几步下降速度快。缺点是收敛速度慢，越到后面收敛越慢。牛顿法优点是收敛比较快，对二次函数具有二次收敛性。缺点是每次迭代需要求海塞矩阵及其逆矩阵，维数高时及数量比较大。14.为何优化设计的可行设计域和可行设计点？15.无约束优化问题数值求解的一般步骤是什么？答

6、：（1）编写M文件，fun1.m，定义目标函数文件。（2） 在命令窗口中调用无约束线性函数fminunc求解。   求解格式为：x0=-1, 1           x, fval=fminunc(fun1,x0)16.什么是内点惩罚函数法？什么是外点惩罚函数法？他们适用的优化问题是什么？在构造惩罚函数时，内点惩罚函数法和外点惩罚函数法的惩罚因子的选取有何不同？ 1）内点惩罚函数法是将新目标函数定义于可行域内，序列迭代点在可行域内逐步逼近约束边界

7、上的最优点。内点法只能用来求解具有不等式约束的优化问题。 内点惩罚函数法的惩罚因子是由大到小，且趋近于0的数列。相邻两次迭代的惩在可行域之外，序列迭代点从可行域之外逐渐逼近约束边界上的最优点。外点法可以用来求解含不等式和等式约束的优化问题。外点惩罚函数法的惩罚因子，它是由小到大，且趋近于的数列。惩罚因子按下式递增，式中为惩罚因子的递增系数，通常取17为什么说共轭梯度法实质上是对最速下降法进行的一种改进？.答：共轭梯度法是共轭方向法中的一种，在该方法中每一个共轭向量都依赖于迭代点处的负梯度构造出来的。共轭梯度法的第一个搜索方向取负梯度方向，这是最速下降法。其余各步的搜索方向是将负梯度偏转一个角度

8、，也就是对负梯度进行修正。所以共轭梯度法的实质是对最速下降法的一种改进。18.优化设计的数学模型一般有哪几部分组成？简单说明。19简述随机方向法的基本思路答：随机方向法的基本思路是在可行域内选择一个初始点，利用随机数的概率特性，产生若干个随机方向，并从中选择一个能使目标函数值下降最快的随机方向作为可行搜索方向。从初始点出发，沿搜索方向以一定的步长进行搜索，得到新的值，新点应该满足一定的条件，至此完成第一次迭代。然后将起始点移至，重复以上过程，经过若干次迭代计算后，最终取得约束最优解。20. 简述优化问题数学模型的三个要素，并给出通用的数学模型表述。(15分)一、设计变量。在优化设计过程中需要不

9、断进行修改、调整，一直处于变化状态的基本设计参数称为设计变量，又叫优化参数。设计变量的全体实际上是一组变量，可用一个列向量表示称作设计变量向量。 二、约束条件。一个可行设计方案必须满足的某些设计限制条件称为约束条件。在工程问题中，根据约束的性质可区分为两大类：性能约束（针对性能要求提出的限制条件）和侧面（也称边界）约束（对变量取值范围加以限制的约束）。若按数学表达形式可分成等式约束和不等式约束两种类型。 三、目标函数。将所有可行设计中能最好地反映该项设计所要追求的某些特定目标表示成设计变量的数学函数称为目标函数。最优化问题的数学模型 21. 写出方向导的表达式。(15分) 22.简述一维搜索方

10、法的分类。(15分)(要点)一、试控法。按一定的规律来确定区间内插入点的位置。如黄金分割法。二、插值法或函数逼迫法。根据某点处的的一些信息，构造一个插值函数来逼近原来函数。常见的有二次插值法、三次插值法等。2、机械优化设计采用数学规划法,其核心一是建立搜索方向 二是计算最佳步长因子 。3、当优化问题是_凸规划_的情况下，任何局部最优解就是全域最优解。4、应用进退法来确定搜索区间时，最后得到的三点，即为搜索区间的始点、中间点和终点，它们的函数值形成 高-低-高 趋势。5、包含n个设计变量的优化问题，称为 n 维优化问题。6、函数 的梯度为 HX+B 。7、设G为n×n对称正定矩阵，若n

11、维空间中有两个非零向量d0，d1，满足(d0)TGd1=0，则d0、d1之间存在_共轭_关系。8、 设计变量 、 约束条件 、 目标函数 是优化设计问题数学模型的基本要素。9、对于无约束二元函数，若在点处取得极小值，其必要条件是 梯度为零 ，充分条件是 海塞矩阵正定 。10、 库恩-塔克 条件可以叙述为在极值点处目标函数的梯度为起作用的各约束函数梯度的非负线性组合。11、用黄金分割法求一元函数的极小点，初始搜索区间，经第一次区间消去后得到的新区间为 -2.36,2.36 。12、优化设计问题的数学模型的基本要素有设计变量 、约束条件 目标函数 、13、牛顿法的搜索方向dk= ，其计算量 大 ，

12、且要求初始点在极小点 逼近 位置。15、存在矩阵H，向量 d1，向量 d2，当满足 (d1)TGd2=0 ，向量 d1和向量 d2是关于H共轭。16、采用外点法求解约束优化问题时，将约束优化问题转化为外点形式时引入的惩罚因子r数列，具有 由小到大趋于无穷 特点。1、下面 、共轭梯度法 方法需要求海赛矩阵。2、对于约束问题根据目标函数等值线和约束曲线，判断为 D. 外点；内点 ，为 。3、内点惩罚函数法可用于求解_ B只含有不等式约束的优化问题 _优化问题。4、对于一维搜索，搜索区间为a，b，中间插入两个点a1、b1，a1<b1，计算出f(a1)<f(b1)，则缩短后的搜索区间为_

13、D a，b1 5、_ D 最佳步长_不是优化设计问题数学模型的基本要素。6、变尺度法的迭代公式为xk+1=xk-kHkf(xk)，下列不属于Hk必须满足的条件的是与海塞矩阵正交 _。7、函数在某点的梯度方向为函数在该点的 、最速上升方向 。8、_ D 坐标轮换法在构成搜索方向时没有使用到目标函数的一阶或二阶导数。 9、设为定义在凸集R上且具有连续二阶导数的函数，则在R上为凸函数的充分必要条件是海塞矩阵G(X)在R上处处 半正定 。11、与梯度成锐角的方向为函数值 上升 方向，与负梯度成锐角的方向为函数值 下降 方向，与梯度成直角的方向为函数值 不变 方向。12、二维目标函数的无约束极小点就是等

14、值线族的一个共同中心 。13、最速下降法相邻两搜索方向dk和dk+1必为 正交 向量。14、下列关于内点惩罚函数法的叙述，错误的是 。A 可用来求解含不等式约束和等式约束的最优化问题。 B 惩罚因子是不断递减的正值C初始点应选择一个离约束边界较远的点。 D 初始点必须在可行域内15、通常情况下，下面四种算法中收敛速度最慢的是          B  梯度法  16、一维搜索试探方法黄金分割法比二次插值法的收敛速度   

15、0;     A、慢17、下列关于共轭梯度法的叙述，错误的是         C  共轭梯度法具有二次收敛性  三、问答题1、试述两种一维搜索方法的原理，它们之间有何区答：搜索的原理是：区间消去法原理 区别：（1）、试探法：给定的规定来确定插入点的位置，此点的位置确定仅仅按照区间的缩短如何加快，而不顾及函数值的分布关系，如黄金分割法 （2）、插值法：没有函数表达式，可以根据这些点处的函数值，利用插

16、值方法建立函数的某种近似表达式，近而求出函数的极小点，并用它作为原来函数的近似值。这种方法称为插值法，又叫函数逼近法。2、惩罚函数法求解约束优化问题的基本原理是什么？ 答，基本原理是将优化问题的不等式和等式约束函数经过加权转化后，和原目标函数结合形成新的目标函数惩罚函数å求解该新目标函数的无约束极值，以期得到原问题的约束最优解3、试述数值解法求最佳步长因子的基本思路。 答 主要用数值解法，利用计算机通过反复迭代计算求得最 佳步长因子的近似值4、试述求解无约束优化问题的最速下降法与牛顿型方法的优缺点。答：最速下降法此法优点是直接、简单，头几步下降速度快。缺点是收敛速度慢，越到后面收敛越

17、慢。牛顿法优点是收敛比较快，对二次函数具有二次收敛性。缺点是每次迭代需要求海塞矩阵及其逆矩阵，维数高时及数量比较大。 5、写出用数学规划法求解优化设计问题的数值迭代公式，并说明公式中各变量的意义，并说明迭代公式的意义。四、解答题1、试用梯度法求目标函数f(X)=1.5x12+0.5x22- x1x2-2x1的最优解，设初始点x(0)=-2，4T,选代精度=0.02（迭代一步）。4、求目标函数f( X )=x12+x1x2+2x22 +4x1+6x2+10的极值和极值点。12、一根长l的铅丝截成两段，一段弯成圆圈，另一段弯折成方形，问应以怎样的比例截断铅丝，才能使圆和方形的面积之和为最

18、大，试写出这一优化设计问题的数学模型以及用MATLAB软件求解的程序。第一、填空题1.组成优化设计数学模型的三要素是 设计变量 、 目标函数 、 约束条件 。3.目标函数是一项设计所追求的指标的数学反映，因此对它最基本的要求是能用来评价设计的优劣，同时必须是设计变量的可计算函数 。4.建立优化设计数学模型的基本原则是确切反映 工程实际问题，的基础上力求简洁 。5.约束条件的尺度变换常称 规格化，这是为改善数学模型性态常用的一种方法。 6.随机方向法所用的步长一般按 加速步长 法来确定，此法是指依次迭代的步长按一定的比例 递增的方法。 7.最速下降法以 负梯度 方向作为搜索方向，因此最速下降法又

19、称为 梯度法，其收敛速度较 慢 。8.二元函数在某点处取得极值的充分条件是必要条件是该点处的海赛矩阵正定9.拉格朗日乘子法的基本思想是通过增加变量将等式约束 优化问题变成 无约束优化问题，这种方法又被称为 升维 法。10改变复合形形状的搜索方法主要有反射，扩张，收缩，压缩 11坐标轮换法的基本思想是把多变量 的优化问题转化为 单变量 的优化问题12在选择约束条件时应特别注意避免出现 相互矛盾的约束， ，另外应当尽量减少不必要的约束 。13目标函数是n维变量的函数，它的函数图像只能在n+1, 空间中描述出来，为了在n维空间中反映目标函数的变化情况，常采用 目标函数等值面 的方法。14.数学规划法

20、的迭代公式是 ，其核心是 建立搜索方向， 和 计算最佳步长 15协调曲线法是用来解决 设计目标互相矛盾 的多目标优化设计问题的。16.机械优化设计的一般过程中， 建立优化设计数学模型 是首要和关键的一步，它是取得正确结果的前提。二、名词解释1凸规划 对于约束优化问题 若、都为凸函数，则称此问题为凸规划。2可行搜索方向是指当设计点沿该方向作微量移动时，目标函数值下降，且不会越出可行域。3设计空间：n个设计变量为坐标所组成的实空间，它是所有设计方案的组合4.可靠度5收敛性是指某种迭代程序产生的序列收敛于6.非劣解：是指若有m个目标，当要求m-1个目标函数值不变坏时，找不到一个X，使得另一个目标函数

21、值比，则将此为非劣解。7. 黄金分割法：是指将一线段分成两段的方法，使整段长与较长段的长度比值等于较长段与较短段长度的比值。8.可行域：满足所有约束条件的设计点，它在设计空间中的活动范围称作可行域。9.维修度 略三、简答题 1什么是内点惩罚函数法？什么是外点惩罚函数法？他们适用的优化问题是什么？在构造惩罚函数时，内点惩罚函数法和外点惩罚函数法的惩罚因子的选取有何不同？ 1）内点惩罚函数法是将新目标函数定义于可行域内，序列迭代点在可行域内逐步逼近约束边界上的最优点。内点法只能用来求解具有不等式约束的优化问题。 内点惩罚函数法的惩罚因子是由大到小，且趋近于0的数列。相邻两次迭代的惩在可行域之外，序列迭代点从可行域之外逐渐逼近约束边界上的最优点。外点法可以用来求解含不等式和等式约束的优化问题。外点惩罚函数法的惩罚因子，它是由小到大，且趋近于的数列。惩罚因子按下式递增，式中为惩罚因子的递增系数，通常取3为什么说共轭梯度法实质上是对最速下降法进行的一种改进？.答：共轭梯度法是共轭方向法中的一种，在该方法