五种最优化方法

1、五种最优化方法1. 最优化方法概述1.1最优化问题的分类1）无约束和有约束条件；2） 确定性和随机性最优问题（变量是否确定）；3） 线性优化与非线性优化（目标函数和约束条件是否线性）；4） 静态规划和动态规划（解是否随时间变化）。1.2最优化问题的一般形式（有约束条件）：cnin f（X）h （X = OJ = U丄s, （X） 2 0+i = 2m式中f（X）称为目标函数（或求它的极小，或求它的极大），si（X）称为不等式约 束，hj（X）称为等式约束。化过程就是优选 X，使目标函数达到最优值。2. 牛顿法2.1简介1）解决的是无约束非线性规划问题；2）是求解函数极值的一种方法；3）是一种函

2、数逼近法。2.2原理和步骤精选半顿法的菲本思整是,在股小点附近用二阶Taylor 式近戡口标函敷M2赳內求出相小点的估计値一考走问题min /（.r） . r G B1, 9. 3, 1 乂令衍刘J r）的旺虚记作匸阖庄戎 电走f P*软2,因此可用雷数無沖 的樋小点作为口标團数J3的様小 戊的怙计如果严）的极小点的乍牯计，算么利用（9.3.G式可以吋到极小点胛 今逊步的佔计这样，利用送代瓷式【氏乱昭可以将到一个序列I可tlit明在-定条件下这个序列收St于问题XI）的址优榊，祈且是2级收敛.3.最速下降法（梯度法）3.1最速下降法简介1）解决的是无约束非线性规划问题；2）是求解函数极值的一种

3、方法；3）沿函数在该点处目标函数下降最快的方向作为搜索方向;3.2最速下降法算法原理和步骤4模式搜索法（步长加速法）4.1简介1）解决的是无约束非线性规划问题；2）不需要求目标函数的导数，所以在解决不可导的函数或者求导异常麻烦的函 数的优化问题时非常有效。3） 模式搜索法每一次迭代都是交替进行轴向移动和模式移动。轴向移动的目的 是探测有利的下降方向，而 模式移动的目的则是沿着有利方向加速移动。4.2模式搜索法步骤R模式搜索法耳严基本原理轴向移动每次轴向務动时开始点称为蔘考点岭-给定的初始点.“初始就美点x*M=y囂齐广第决十1次轴向移动纳束时所需到的点北=1,环“ S剋从点如*比喪作糕式尊动，

4、抽向秒动成功* 糕式移动否!it判断想否有直丈 *涣勢定的允许说捲）？着忆选代St止：轴向移动失败：我世近馆辰优解苦无，且垃讥二盹堀矩步检.忻从占岔出发进轩下 坎纳向科动；若无，且岭付于珀，则从点斗少发用茅怏&逹疔下一庆轴向淳动一R8模式搜索法基本原理【摸式移动从点工中出发債幔式移动建描以1为步长梢初速方向右二比打-升移动 稈郭新的晏君点y 一 科 1 十 l 2jcttl - x4,鹽后，从新的羿苇点j 发，仍以気为步岳说行将甸移丙*5. 评价函数法5.1简介评价函数法是求解多目标优化问题中的一种主要方法。在许多实际问题中， 衡量一个方案的好坏标准往往不止一个，多目标最优化的数学描述如下：m

5、in (f_1(x),f_2(x),f_k(x)s.t. g(x)v=O传统的多目标优化方法本质是将多目标优化中的各分目标函数,经处理或数学变换，转变成一个单目标函数，然后采用单目标优化技术求解。常用的方法有“线性加权和法”、“极大极小法”、“理想点法”。选取其中一种线性加权求合法 介绍。5.2线性加权求合法I对多目标规划问越中的p个目标按其更要程度给以适当的权系数四二帝二口严 且f四=1,然后用1-L町划=叫八刘件为新的目标函数*成为评价 目标|函数.再求解问题min k(jr) =1=1si. g (x) fl.;w得最优解m叫 取T =声作为夢目标规划问题的解.6. 遗传算法智能优化方法

6、是通过计算机学习和存贮大量的输入-输出模式映射关系，进而达到优化的一种方法，主要有人工神经网络法，遗传算法和模拟退火法等。6.1遗传算法基本概念1. 个体与种群个体就是模拟生物个体而对问题中的对象 (一般就是问题的解)的一种称呼。 种群就是模拟生物种群而由若干个体组成的群体，它一般是整个搜索空间的 一个很小的子集。2. 适应度与适应度函数适应度就是借鉴生物个体对环境的适应程度，而对问题中的个体对象所设计 的表征其优劣的一种测度。适应度函数就是问题中的全体个体与其适应度之间的一个对应关系。该函数就是遗传算法中指导搜索的评价函数6.2遗传算法基本流程遗传算法的中心思想就是对一定数量个体组成的生物种群进行选择、交叉、 变异等遗传操作，最终求得最优解或近似最优解。遗传算法步骤步1在搜索空间U上定义一个适应度函数f(x)，给定种群规模N,交叉率Pc 和变异率Pm代数T;步2随机产生U中的N个个体s1, s2,sN ,组成初始种群S=s1, s2,sN,置代数