可行方向法梯度投影法课件

有约束优化问题非线性优化问题线性优化问题非线性约束优化问题线性约束优化问题（目标函数—非线性）（目标函数—线性）（约束—线性）（目标函数—非线性）（约束—非线性）（目标函数—非线性）（约束—线性）有约束优化问题非线性优化问题线性优化问题非线性约束优化问题线1K-K-T条件（1）K-K-T条件K-K-T条件（梯度条件）

（约束条件）

（松弛互补条件）

（非负条件）

（正则条件或约束规格）

线性无关

定义：

K-K-T条件（1）K-K-T条件K-K-T条件（梯度条件）2可行方向法梯度投影法课件3最优点，一定在与之间，所以可以起作用的非负线性组合表示。起作用的约束经过最优点，最优点满足所有的约束条件，这就是K-K-T条件，最优点，一定在4约束优化问题：（1）搜索方向；受约束条件的限制。（2）迭代步长；受约束条件的限制。（一）基本概念：（1）起作用的约束：起到限制性作用的约束。（2）可行方向：点在可行域内的点，方向迭代后的新的点也是可行域内的点，则搜索方向称为可行方向。（3）可行下降方向：使目标函数下降的可行方向，称为可行下降方向。起作用的约束约束优化问题：（1）搜索方向；受约束条件的限制。（2）迭代步5将每一个函数在处对函数进行taylor展开，取一次近四，则；（1）如果或，则搜索方向是下降方向。（2）如果在可行域内，，则总可取步长，得，使仍在可行域内，即任意搜索方向是可行方向。（3）如果在边界上，，则对某个步长来说，如果，则在可行域内，故可行的。（4）如果(3)的情况下，，或则位于在点的切平面上，只有为现行时，才是可行点。线性条件下非线性条件下线性条件下将每一个函数在处对函数进行tayl6线性约束条件下搜索方向需要满足的条件：目标函数下降的条件：约束条件：约束条件搜索方向需要满足的条件：目标函数下降的条件：约束条件：线性约束条件下搜索方向需要满足的条件：目标函数下降的条件：约7二次规划可行方向法二次规划可行方向法8线性约束问题的Zoutendijk可行方向法

解析搜索法：可行方向法起作用的约束不起作用的约束线性约束问题的Zoutendijk可行方向法解析搜索法：可9解析搜索法：可行方向法解析搜索法：可行方向法10解析搜索法：可行方向法解析搜索法：可行方向法11解析搜索法：可行方向法解析搜索法：可行方向法12解析搜索法：可行方向法解析搜索法：可行方向法13解析搜索法：可行方向法解析搜索法：可行方向法14解析搜索法：可行方向法解析搜索法：可行方向法15解析搜索法：可行方向法解析搜索法：可行方向法16非线性约束问题的Zoutendijk可行方向法

解析搜索法：可行方向法-非线性约束问题的Zoutendijk可行方向法解析搜索法：17解析搜索法：可行方向法解析搜索法：可行方向法18解析搜索法：可行方向法解析搜索法：可行方向法19解析搜索法：可行方向法解析搜索法：可行方向法20起作用约束可行方向法解析搜索法：可行方向法起作用约束可行方向法解析搜索法：可行方向法21解析搜索法：可行方向法解析搜索法：可行方向法22解析搜索法：可行方向法解析搜索法：可行方向法23Topkis–Veinott全约束可行方向法

解析搜索法：可行方向法Topkis–Veinott全约束可行方向法解析搜24解析搜索法：可行方向法解析搜索法：可行方向法254.非线性结构优化4.5梯度投影法4.非线性结构优化4.5梯度投影法26投影矩阵的基本概念解析搜索法：梯度投影法投影矩阵的基本概念解析搜索法：梯度投影法27解析搜索法：梯度投影法解析搜索法：梯度投影法28解析搜索法：梯度投影法解析搜索法：梯度投影法29约束优化问题：（1）搜索方向；受约束条件的限制。（2）迭代步长；受约束条件的限制。搜索方向需要满足的条件：目标函数下降的条件：约束条件：线性约束条件下搜索方向约束优化问题：（1）搜索方向；受约束条件的限制。（2）迭代步30线性约束问题的Zoutendijk可行方向法

起作用的约束不起作用的约束（1）搜索方向线性约束问题的Zoutendijk可行方向法起作用的约束不31非线性约束问题的Zoutendijk可行方向法

搜索方向迭代步长非线性约束问题的Zoutendijk可行方向法搜索方向迭代32起作用约束可行方向法迭代步长搜索方向起作用约束可行方向法迭代步长搜索方向33Topkis–Veinott全约束可行方向法

迭代步长搜索方向Topkis–Veinott全约束可行方向法迭代步34梯度投影法梯度投影法35可行方向法梯度投影法课件36可行方向法梯度投影法课件37可行