机械优化设计之优化设计的数学基础培训课件(ppt 102页).ppt

何军良 2 目录 CONTENTS 补课时间 周四11 13节教室 3A103 第二章优化设计的数学基础 矩阵运算 01 多元函数的方向导数与梯度 多元函数的泰勒展开 凸集 凸函数与凸规划 02 03 04 最优化问题的极值存在条件 05 5 2 1矩阵 2 1 1矩阵的概念 第二章优化设计的数学基础 设一线性方程组 如果把上面式子中的系数按原来的顺序排列起来 记作下面的形式 它就被称为矩阵 简记为 6 2 1矩阵 2 1 1矩阵的概念 第二章优化设计的数学基础 由方阵A的全部元素构成的行列式 称为矩阵A的行列式 记为 A 应用MATLAB求解A 1 2 3 4 5 6 7 8 9 生成矩阵Adet A 求A的行列式 当方阵A的行列式 A 0 称A为奇异方阵 当 A 0 则称A为非奇异方阵 7 2 1矩阵 2 1 1矩阵的概念 第二章优化设计的数学基础 单位方阵 在n阶方阵中 当主对角均为1 其余各元素都为零 则称作单位矩阵 并用特定符号E表示 即 在矩阵代数中 单位矩阵相当于一般代数中纯1的概念 MATLAB中 单位矩阵的命令是 eye n 8 2 1矩阵 2 1 2矩阵的转置 第二章优化设计的数学基础 若将原矩阵A的行与列对换成列与行来写 就得到A的转置矩阵 用AT表示 即 同样 行矩阵的转置为列矩阵 列矩阵的转置为行矩阵 如 应用MATLAB求解 A 1 2 3 4 5 6 7 8 9 生成矩阵AA 求A转置 9 2 1矩阵 2 1 3对称方阵 第二章优化设计的数学基础 当方阵具有A AT 也即各元素满足aij aji的性质时 称A为对称方阵 其全部元素沿主对角线呈对称分布 例如 10 2 1矩阵 2 1 4矩阵的运算 第二章优化设计的数学基础 1 矩阵相等 两个同阶数的矩阵A与B 它们的阶数相同 并且各对应元素完全相等 即aij bij 则该两矩阵称为相等 记作A B 2 矩阵的加减 两个同阶数的矩阵A与B可以进行加减运算 其和或差C亦同阶矩阵 矩阵C中各元素为矩阵A B中各对应元素之和或差 即 则必有相对于元素的对应关系 矩阵加法还满足交换律和结合律 设有同阶矩阵A B C 则有 11 2 1矩阵 2 1 4矩阵的运算 第二章优化设计的数学基础 3 矩阵的乘法 若以数乘矩阵 得同阶矩阵C 记C A 规定C中各元素就是A中各元素乘以 即cij aij 表达如下 12 2 1矩阵 2 1 4矩阵的运算 第二章优化设计的数学基础 3 矩阵的乘法 若以两个矩阵A与相乘 则必须A的列数等于B的行数时才可以进行这种运算 它的乘积仍是一个矩阵C C的行数同A C的列数同B C的第i行j列的元素cij等于A中第i行各元素ai1 ai2 aip与B中第j列各元素a1j a2j apj逐对相乘之积的总和 即 13 2 1矩阵 2 1 4矩阵的运算 第二章优化设计的数学基础 3 矩阵的乘法 例如 14 2 1矩阵 2 1 4矩阵的运算 第二章优化设计的数学基础 3 矩阵的乘法 关于矩阵乘积的某些性质 1 当两矩阵之积为0时 并不意味着其中之一必为零矩阵 2 当存在AB AC的关系时 B C的关系不一定成立 3 当矩阵A与单位方阵相乘时 其积仍为A 即EA A或AE A 4 乘积的转置 AB T BTAT 15 2 1矩阵 2 1 4矩阵的运算 第二章优化设计的数学基础 4 逆矩阵 对于一个n阶方阵A 非奇异方阵 如果另有一个n阶方阵B 能满足两者之积等于单位方阵 即AB E时 则B叫做A的逆矩阵 记作B A 1 一个矩阵如果有逆矩阵 就叫它为可逆矩阵 逆矩阵是唯一的 由此推知 由此看 A也是A 1的逆矩阵 应用MATLAB求解A 1 2 3 4 5 6 7 8 9 生成矩阵Ainv A 求A的逆 16 2 1矩阵 2 1 4矩阵的运算 第二章优化设计的数学基础 4 逆矩阵 把数学方程组写成矩阵的形式 若矩阵A是非奇异的 即 A 0 则A 1以左乘上式等号两端 所以 因有 则 这里 只要求出系数矩阵的逆阵A 1 再求出乘积A 1B 即可求出未知量X 17 2 1矩阵 2 1 4矩阵的运算 第二章优化设计的数学基础 4 逆矩阵 在线性代数中将二次齐次函数称作二次型 其矩阵形式为 式中 G是对称矩阵 如果对任何 X 0的的向量都有f x 0 则称f为正定二次型 并称对称矩阵G正定 对称矩阵G为正定的充要条件是G的各阶主子式都为正 18 2 2多元函数的方向导数与梯度 2 2 1方向导数 第二章优化设计的数学基础 一个二元函数f x1 x2 在点X0 x10 x20 处的偏导数定义是 定义 函数沿指定方向d的平均变化率的极限 二元函数f x1 x2 在X0 x10 x20 沿d方向导数 方向导数 19 2 2多元函数的方向导数与梯度 2 2 2方向余弦 第二章优化设计的数学基础 即 20 2 2多元函数的方向导数与梯度 2 2 3方向导数与偏导数的关系 第二章优化设计的数学基础 式中 1和 2为d与x1和x2的夹角 当 1 0或 1 2时 方向导数分别为 或 即为方向导数 21 2 2多元函数的方向导数与梯度 2 2 3方向导数与偏导数的关系 第二章优化设计的数学基础 对n元函数 仿此可得 式中 为函数对各个坐标轴的偏导数 为d对各坐标轴方向余弦 方向导数表明函数沿某方向的变化率 它是一个标量 当其值为正时 函数值增加 当其值为负时 函数值减小 三元函数f x1 x2 x3 在点X0 x10 x20 x30 沿d方向导数 三维空间中的方向 22 2 2多元函数的方向导数与梯度 2 2 4梯度 第二章优化设计的数学基础 定义 方向导数变化最大的方向 以二元函数为例 其方向导数为 写成矩阵形式 式中 为d方向的单位向量 也是一个向量 称为f X 记作 在X0的梯度 它与方向d无关 23 2 2多元函数的方向导数与梯度 2 2 4梯度 第二章优化设计的数学基础 式中 因此 可将方向导数改写为 梯度的模为 如何推广到n维函数的梯度 梯度的模为 梯度的意义 当与d同向时 方向导数为最大 沿此方向函数值增加最快 反向时 函数值下降最快 垂直时 方向导数为零 沿此方向 函数值不变 和 分别为向量和d的模 为两向量的夹角 24 2 2多元函数的方向导数与梯度 2 2 4梯度 第二章优化设计的数学基础 可得出如下结论 1 方向导数是梯度在指定方向上的投影 2 最速下降方向为等值线 面 的法线方向 3 梯度的模是最大的方向导数 负梯度方向是函数的最速下降方向 4 在与梯度垂直的方向 等值线的切线方向 上 函数的变化率为零 5 与梯度方向成锐角的方向 函数值增加 成钝角的方向 函数值减小 25 2 2多元函数的方向导数与梯度 2 2 4梯度 第二章优化设计的数学基础 例2 1求函数f X x12 x22 4x1 4在点X1 32 T和点X2 20 T处的梯度 解 函数的等值线如图由梯度定义可知 在点X1 32 T处梯度为 该点梯度与x1的夹角为 梯度是该点函数等值线的法线方向 在点X2 20 T处的梯度为 梯度的分量都等于零 使得该点处的函数沿任何方向的方向导数也等于零 表明该点处函数值具有稳定性 此处的函数值就是极值 该点就是极值点 26 2 2多元函数的方向导数与梯度 2 2 4梯度 第二章优化设计的数学基础 例2 1求函数f X x12 x12 4x1 4在点X1 32 T和点X2 20 T处的梯度 用MATLBA求解 symsx1x2 将x1 x2设置为符号变量f x1 2 x2 2 4 x1 4 写出函数表达式fx1 diff f x1 对x1求偏导数 fx2 diff f x2 对x2求偏导数 x1 3 x2 2 对x1 x2求偏导数赋值 g fx1fx2 梯度 g subs g 把符号变量转为数值 27 2 2多元函数的方向导数与梯度 2 2 4梯度 第二章优化设计的数学基础 例2 2求函数f X x12 x12 4x1 2x2 5在点X0 00 T和处函数变化率最大的方向和数值 解 28 2 2多元函数的方向导数与梯度 2 2 4梯度 第二章优化设计的数学基础 例2 3一般二元二次函数的矩阵式为其中c为常数 求梯度 解 将二元二次函数的矩阵式展开 于是梯度 即 29 2 2多元函数的方向导数与梯度 2 2 4梯度 第二章优化设计的数学基础 例2 3续 对于n元二次函数 其中 梯度 推广 30 2 3多元函数的泰勒展开 2 3 1一元函数的Taylor展开式 第二章优化设计的数学基础 研究函数的极值问题 主要研究函数在极值点附近的变化形态 在实际计算中 常取前三项 二次函数 来近似原函数 式中 31 2 3多元函数的泰勒展开 2 3 2二元函数的Taylor展开式 第二章优化设计的数学基础 G X0 函数f x1 x2 在X0处的海赛 Hessian 矩阵 32 2 3多元函数的泰勒展开 第二章优化设计的数学基础 例2 4求二元函数f x1 x2 x12 x22 4x1 2x2 5在点处的二阶泰勒展开 解 2 3 2二元函数的Taylor展开式 33 2 3多元函数的泰勒展开 第二章优化设计的数学基础 利用MATLAB绘制该曲面 x1 5 5 x2 5 5 取值范围设定 x1 x2 meshgrid x1 x2 三维曲面的分格线坐标f1 x1 2 x2 2 4 x1 2 x2 5 surfc x1 x2 f1 绘制曲面 带等高线 此函数的图像是以X0点为顶点的旋转抛物面 例2 4续 34 2 3多元函数的泰勒展开 2 3 3多元函数的Taylor展开式 第二章优化设计的数学基础 35 2 3多元函数的泰勒展开 2 3 3多元函数的Taylor展开式 第二章优化设计的数学基础 函数f X0 在X0处的梯度 海赛 Hessian 矩阵 36 2 3多元函数的泰勒展开 2 3 3多元函数的Taylor展开式 第二章优化设计的数学基础 若将函数的泰勒展开式只取到线性项 即取 当将函数的泰勒展开式取到二次项时 则得到二次函数形式 在线性代数中将二次齐次函数称作二次型 矩阵形式 当对任何非零向量x使 则二次型函数正定 G为正定矩阵 则Z x 是过点x0和函数f x 所代表的超曲面相切的切平面 37 2 3多元函数的泰勒展开 2 3 3多元函数的Taylor展开式 第二章优化设计的数学基础 Hessian矩阵与正定 Hessian矩阵的特性 是实对称矩阵 矩阵正定的充要条件 矩阵G的各阶主子式都是正的 即矩阵的主子式det ait 0 矩阵负定的充要条件 矩阵G的奇数阶主子式det ait 0 且偶数阶主子式det ait 0 Hessian矩阵的正定性 G x 正定 是x 为全局极小值点的充分条件 G x 负定 是x 为全局极大值点的充分条件 38 2 3多元函数的泰勒展开 第二章优化设计的数学基础 例2 5判定矩阵G 是否正定 解 对称矩阵G的三个主子式依次为 因此知矩阵G是正定的 利用MATLAB求解G 6 31 320 104 a det G 1 1 求G 1 1 行列式b det G 1 2 1 2 求G 1 2 1 2 行列式c det G 求G行列式 39 2 4凸集 凸函数与凸规划 2 4 1凸集 第二章优化设计的数学基础 若任意两点X1 X2 R 对于任意 0 10 恒有 若Y是X1和X2连线上的点 则有 整理后即得 凸集 非凸集 则R为凸集 40 2 4凸集 凸函数与凸规划 2 4 2凸函数 第二章优化设计的数学基础 设f x 为定义在Rn内一个凸集D上的函数 若对于 对于任意 0 10 及D上的任意两点x1 x2 恒有 则f x 为定义在D的凸函数 1 定义 41 2 4凸集 凸函数与凸规划 2 4 2凸函数 第二章优化设计的数学基础 2 凸函数的基本性质 1 设F x 为定义在凸集R上的凸函数 为任意正实数 则 F x 也是定义在R上的凸函数 证 由定义 两边乘上 2 设F1 x F2 x 均为定义在凸集R上的凸函数 则F1 x F2 x 也是定义在R上的凸函数 证 由定义 两式相加后整理可得证 42 2 4凸集 凸函数与凸规划 2 4 2凸函数 第二章优化设计的数学基础 2 凸函数的基本性质 3 设F1 x F2 x 均为定义在凸集R上的凸函数 1 2为任意正实数 则 1F1 x 2F2 x 也是定义在R上的凸函数 43 2 4凸集 凸函数与凸规划 2 4 3凸规划 第二章优化设计的数学基础 2 凸函数的基本性质 对于约束优化问题 若其中f x 和gi x 均为凸函数 则这样的规划问题称为凸规划 性质 1 若给定一点X0 则集合R X f X f X0 为凸集 此性质表明 当f X 为二元函数时 其等值线呈现大圈套小圈形式 2 可行域R X gj X j 1 2 m 为凸集 3 凸规划的局部极小点一定是全局极小点 44 2 5最优化问题存在的极值条件 2 5 1无约束问题的极值存在条件 第二章优化设计的数学基础 1 必要条件 即 1 一元函数具有极小值的充要条件 2 二元函数具有极小值的充要条件 45 2 5最优化问题存在的极值条件 2 5 1无约束问题的极值存在条件 第二章优化设计的数学基础 1 充分条件 设 则 若X0是极小点 因此需满足 即要求 或要求 也就是海赛矩阵G X0 的各阶主子式大于0 即海赛矩阵正定 46 2 5最优化问题存在的极值条件 2 5 1无约束问题的极值存在条件 第二章优化设计的数学基础 3 多元函数具有极小值的充要条件 梯度为零向量 海赛矩阵正定 47 2 5最优化问题存在的极值条件 2 5 1无约束问题的极值存在条件 第二章优化设计的数学基础 例2 6求二元函数f x1 x2 x12 x12 4x1 2x2 5的极值 解 根据必要条件求驻点 驻点 根据充分条件判断是否为极值点 1 2阶主子式大于0 X0为极小点 f X0 0 48 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 第二章优化设计的数学基础 为了便于理解 先讨论二元函数只有1个等式约束条件的情况 即 求解这一问题可以用代数中的消元法 根据等式约束 将一个变量x1变成另一个变量x2的函数关系 将x1带入目标函数f中 消去x1 变成一元函数F x2 从而将等式约束变成无约束问题 目标函数通过消元由二维降为一维 因此消元法也是降维法 1 消元法 降维法 49 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 第二章优化设计的数学基础 根据l个约束条件 可将l个变量用其余n l个变量表示 对于具有l个等式约束的n维优化问题 将这些函数关系代入到目标函数中 得到n l个变量的无约束优化问题的新目标函数 即F xl 1 xl 2 xn 50 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 第二章优化设计的数学基础 拉格朗日乘子法是求解等式约束优化问题的另一种经典方法 它是通过增加变量将等式约束优化问题变成无约束优化问题 所以又称作升维法 2 拉格朗日乘子法 升维法 对于具有l个等式约束的n维优化问题 求解等式约束优化问题转换成无约束函数的极值条件 k为拉格朗日乘子 F X 为拉格朗日函数 51 第二章优化设计的数学基础 在极值点x 处有 将等式约束乘以待定系数 k 有以下等式 可以通过其中l个方程等于0 求解出 1 2 l 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 2 拉格朗日乘子法 升维法 52 第二章优化设计的数学基础 那么 就余下的n l个变量的微分项 因为dxj是任意量 因此有 因此 等式约束的必要条件是 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 2 拉格朗日乘子法 升维法 53 第二章优化设计的数学基础 根据目标函数f X 的无约束极值条件 则等式约束问题就可以转化为无约束的函数极值问题 其方法是引入新的目标函数 其中 k为拉格朗日乘子 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 2 拉格朗日乘子法 升维法 新目标函数F X 中显然多出了l个待定系数 k 新的变量 则函数的总的变量共有n l个变量 但是可提供n个方程 再与等式约束结合 足以求出n l个变量 54 第二章优化设计的数学基础 即 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 2 拉格朗日乘子法 升维法 由于 所以 所以n l个变量可由下述n l个方程求出 55 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 3 拉格朗日乘子的物理意义 考虑二元函数只有1个等式约束条件的情况 即 表示成拉格朗日函数的形式 即 由公式 可得 即 56 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 3 拉格朗日乘子的物理意义 上式中是单位变量的目标函数变化率 而则是单位变量的约束值变化率 可以称为优化效率或敏度系数 因为 所以各变量导致的优化效率是相等的 都等于常量 对于机械问题 若目标函数f x 是结构重量 约束条件是结构刚度或某点的变形 则分别表示 结构重量的收益 结构刚度的支出 常量 表示 单位刚度的支出能获得的结构重量的收益 反映刚度对重量的优化效率 57 第二章优化设计的数学基础 例2 7求用消元法和拉格朗日乘子法分别计算在约束条件h x1 x2 2x1 3x2 6 0的情况下 目标函数f x1 x2 4x12 5x22的极值点坐标 解 1 消元法 令 改造目标函数 则 解得 2 拉格朗日乘子法 因 2 5最优化问题存在的极值条件 2 5 2等式约束问题的极值存在条件 58 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 1 基本思路 求解不等式约束优化问题的基本思想 具体做法 将不等式约束条件变成等式约束条件 引入松弛变量 59 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 2 一元函数在给定区间上的极值条件 对于一元函数f x 在给定区间 a b 上的极值优化问题 转换成等式约束 拉格朗日函数 拉格朗日乘子 60 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 2 一元函数在给定区间上的极值条件 拉格朗日函数 对应于不等式约束条件的拉格朗日乘子 应满足非负要求 根据拉格朗日乘子法 可得 61 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 2 一元函数在给定区间上的极值条件 由于 有2种情况 情况1 则 约束不起作用 情况2 则 约束起作用 说明 和 至少有一个取0 可改写成 因此 可改写成 同理 62 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 2 一元函数在给定区间上的极值条件 极值条件 下面2个条件为什么不需用了 3个方程解3个未知数已经够了 63 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 2 一元函数在给定区间上的极值条件 极值条件 一元函数在区间 a b 上的极值条件可以转化 情况1 当a x b时 因为 则极值条件为 情况2 当a x 时 因为 则极值条件为 情况3 当b x 时 因为 则极值条件为 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 2 一元函数在给定区间上的极值条件 64 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 2 一元函数在给定区间上的极值条件 65 起作用约束的下标集合 情况1 当a x b时 两个约束均不起作用 情况2 当a x 时 第一个约束起作用 情况3 当b x 时 第二个约束起作用 结论 在极值条件中 只考虑起作用的约束及其相应的拉格朗日乘子 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 66 参考一元函数不等式优化问题极值的条件 用拉格朗日乘子法推导出相应的极值条件 新的拉格朗日函数如下 拉格朗日乘子 松弛变量 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 67 参考一元函数的条件 得出多元函数不等式约束问题的极值条件 库恩 塔克条件 库恩 塔克条件 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 引入起作用的约束条件后的极值条件如下 68 库恩 塔克条件 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 几何意义 在约束极小值点x 处 函数f x 的负梯度一定可以表示成所有起作用约束在该点的梯度 法向量 的非负线性组合 69 几何意义 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 xk是极值点 所以xk必须落在g1 x 0和g2 x 0的交线上 和 线性相关且3者共面 70 几何意义 二维 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 第二章优化设计的数学基础 落在和形成的锥角区外的一侧 从xk出发向切平面的方向移动时 目标函数值减小 且不破坏约束条件 因此xk出不是稳定最优点 不是约束最优点 也不是局部极值点 71 几何意义 二维 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 第二章优化设计的数学基础 落在和形成的锥角之内 xk出是稳定最优点 是约束最优点或局部极值点 72 几何意义 N维 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 第二章优化设计的数学基础 在局部极小点xk处 目标函数的负梯度能表示成有效约束梯度的非负组合 即目标函数的负梯度属于有效约束的梯度所生成的凸锥内 73 结论 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 第二章优化设计的数学基础 1 在极值点处和以及线性相关 或者说可以看成和的线性组合 2 如果xk是极小点 那么目标函数的负梯度一定位于两个约束函数的梯度形成的夹角内 或者说他们的线性组合系数是正的 即 74 同时具有等式和不等式约束的优化问题 库恩 塔克条件 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 第二章优化设计的数学基础 式中 k为对应于等式约束的拉格朗日乘子 无非负 k为对应于不等式约束的拉格朗日乘求子 非负 75 76 第二章优化设计的数学基础 判断有约束问题的极值点是否存在的条件采用库恩 塔克条件 库恩 塔克 K T 条件中心思想 目标函数在该点的负梯度应该为在该点起作用的条件约束的梯度的线性组合 对于等式约束它一定是起作用约束 对于不等式约束 需要看最优点是否落在约束的边界上 如左图 g2是有作用约束 右图最优点在g1 g2交点处 g1 g2都是起作用约束 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 3 库恩 塔克条件 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 对于如下约束优化问题 利用K T条件求极值 画出目标函数的等值线和可行域 77 78 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 解法1 根据K T条件 直接解联立方程 极值点xk待求 所以起作用约束难以判断只能根据各种可能情况进行试验 共8种可能性 情况1 g1 g2 g3都是起作用约束 79 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 极值条件 g1 g2 g3是矛盾方程 无解 80 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 情况2 g1 g2是起作用约束 极值条件 不满足g3 因此 带回方程1 2 满足 由方程3 4求得 是极值点 81 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 情况3 g1 g3是起作用约束 极值条件 带回方程1 2 由方程3 4求得 不是极值点 不满足不等式约束拉格朗日乘子非负的要求 82 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 情况4 g2 g3是起作用约束 极值条件 带回方程1 2 由方程3 4求得 不是极值点 不满足不等式约束拉格朗日乘子非负的要求 83 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 情况5 g1是起作用约束 极值条件 因为仅g1起作用 因此g2不起作用 即 x2 0 因此 1 0 不满足非负要求 故此点不是极值点 由方程1 2求得 84 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 情况6 g2是起作用约束 极值条件 不满足g1约束 故此点不是极值点 由方程1 2 3求得 85 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 情况7 g3是起作用约束 极值条件 3 0 不满足非负要求 故此点不是极值点 由方程1 2 3求得 86 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 情况8 没有起作用约束 极值条件 求得 不满足g1约束 故此点不是极值点 87 第二章优化设计的数学基础 解 1 当前迭代点是可行点 因 当前迭代点为 试用K T条件判别它是否为约束最优点 2 当前迭Xk起作用的约束为g1 x 和g2 x 因为不在g3 x 上 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 解法2 先用图上作业法找到极值点 再用K T条件判别是否为约束最优点 88 第二章优化设计的数学基础 3 Xk点各处函数的梯度 4 求拉格朗日乘子 1 2 按照K T条件 解得 上述解满足K T条件 且 1 2非负 说明该点是局部最优点 又因为目标函数是凸函数 可行域为凸集 所以该点也是全局最优点 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 4 库恩 塔克条件举例 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 5 其他问题 对于如下不等式约束模型 89 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 5 其他问题 可行方向 可行方向锥 S在点处的可行方向锥 Feasibledirectioncone 90 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 5 其他问题 下降方向 descentdirection 下降方向锥 f在点处的下降方向锥 91 第二章优化设计的数学基础 2 5最优化问题存在的极值条件 2 5 3不等式约束问题的极值存在条件 5 其他问题 可行方向锥与下降方向锥的几何解释 在极小点处 任何下降方向都不是可行方向 而任何可行方向也不是下降方向 即 不存