![最优化问题简介_第1页](http://file4.renrendoc.com/view/a1861247807960cefd442546c0d72282/a1861247807960cefd442546c0d722821.gif)
![最优化问题简介_第2页](http://file4.renrendoc.com/view/a1861247807960cefd442546c0d72282/a1861247807960cefd442546c0d722822.gif)
![最优化问题简介_第3页](http://file4.renrendoc.com/view/a1861247807960cefd442546c0d72282/a1861247807960cefd442546c0d722823.gif)
下载本文档
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
,为约束函数,。满⾜最优化数学模型中的所有约束条件就称为可⾏点(FeasiblePoint),所有可⾏点的全体称为可⾏域(Feasible表⽰。在⼀个可⾏点的边界;如果有,就称不等式约束在点,如果没有⼀个不等式约束是有效的,就称是可⾏域的内点,不满⾜,如果存在⼀个邻域成⽴,则称为最优化问题的局部最优解,其中,如果存在⼀个邻域和和为等式约束,和考虑不等式约束,则称为最优化问题的全局最优解(或总体最优解);如果可⾏点是⼀个⼩的正数;对于可使得则是局部极⼩解,其中为连续函数,通常还要求连续可微。称为决策变量,为不等式约束,并记等式约束的指标集为分别是英⽂单词minimize(极⼩化)和subjectto(受约束)的缩写。,如果有满⾜成⽴,则称为最优化问题的严格局部最优解。如下图所是严格局部极⼩解,⽽为⽬标函,就称不等式约束是⾮严格局部极⼩解。(注:在点附近有⼀段线考虑不等式约束是
最优化问题简介,为约束函数,。满⾜最优化数学模型中的所有约束条件就称为可⾏点(FeasiblePoint),所有可⾏点的全体称为可⾏域(Feasible表⽰。在⼀个可⾏点的边界;如果有,就称不等式约束在点,如果没有⼀个不等式约束是有效的,就称是可⾏域的内点,不满⾜,如果存在⼀个邻域成⽴,则称为最优化问题的局部最优解,其中,如果存在⼀个邻域和和为等式约束,和考虑不等式约束,则称为最优化问题的全局最优解(或总体最优解);如果可⾏点是⼀个⼩的正数;对于可使得则是局部极⼩解,其中为连续函数,通常还要求连续可微。称为决策变量,为不等式约束,并记等式约束的指标集为分别是英⽂单词minimize(极⼩化)和subjectto(受约束)的缩写。,如果有满⾜成⽴,则称为最优化问题的严格局部最优解。如下图所是严格局部极⼩解,⽽为⽬标函,就称不等式约束是⾮严格局部极⼩解。(注:在点附近有⼀段线考虑不等式约束是
题⽬:最优化问题简介
⼀年多学习以来,⽆论是前⾯学习压缩感知,还是这半年学习机器学习,⼀直离不开最优化,⽐如压缩感知的基追踪类重构算法,核⼼问题就是⼀个优化问题,⽽机器学习中的很多算法也需要最优化的知识,⽐如⽀持向量机算法。看来必须得把最优化的基本内容学习⼀下了,不求理解的有多么深,⾄少要知道怎么⽤。其实前⾯已经写过⼀篇与最优化相关的内容了,就是《》这篇。
从本篇起,开始学习⼀些有关最优化的基础知识,重点是了解概念和如何应⽤。本篇是参考⽂献第1.1节的⼀个摘编或总结,主要是把⼀些概念集中起来,可以随时查阅。
1、⼀般形式
最优化问题的数学模型的⼀般形式为(以下称为最优化数学模型):
其中数,,不等式约束的指标集为
2、概念
如果点Region),⽤有效约束或起作⽤约束(activeconstraint),并称可⾏点位于约束是⽆效约束或不起作⽤约束(inactiveconstraint);对于⼀个可⾏点是内点的可⾏点就是可⾏域的边界点。显然在边界点⾄少有⼀个不等式约束是有效约束,当存在等式约束时,任何可⾏点都要满⾜等式约束,因此不可能是等式约束的内点。如果⼀个可⾏点,则称为最优化问题的严格全局最优解(或严格总体最优解);对于可⾏点
使得⾏点⽰,点是严格全部极⼩解,是⽔平的)
⼀般常见的最优化⽅法只适⽤于确定最优化问题的局部最优解,有关确定全局最优解的最优化⽅法属于最优化问题的另⼀个领域——全局最优化。然⽽,如果最优化问题的⽬标函数是凸的,⽽可⾏域是凸集,则问题的任何最优解(不⼀定唯⼀)必是全局最优解,这样的最优化问题⼜称为凸规划。进⼀步,对于凸集上的严格凸函数的极⼩化问题,存在唯⼀的全局最优解。
3、分类
1)约束最优化问题
只要在问题中存在任何约束条件,就称为约束最优化问题。
只有等式约束时,称为等式约束最优化问题,数学模型为:
只有不等式约束时,称为不等式约束最优化问题,数学模型为:
。矩阵向量形式为,为半正定矩阵,则称此规划为凸⼆次规划,否则为⾮凸规划。对于⾮凸规
既有等式约束,⼜有不等式约束,则称为混合约束优化问题(或⼀般约束优化问题);。矩阵向量形式为,为半正定矩阵,则称此规划为凸⼆次规划,否则为⾮凸规划。对于⾮凸规
把简单界约束优化问题称为盒式约束优化问题(或有界约束优化问题),数学模型为:
2)⽆约束最优化问题
如果问题中⽆任何约束条件,则称为⽆约束最优化问题,数学模型为:
3)连续与离散最优化问题
决策变量的取值是连续的,称为连续最优化问题;
决策变量的取值是离散的,称为离散最优化问题,⼜称为组合最优化问题。如整数规划、资源配置、邮路问题、⽣产安排等问题都是离散最优化问题的典型例⼦,求解难度⽐连续最优化问题更⼤。
4)光滑与⾮光滑最优化问题
如果最优化数学模型中的所有函数都连续可微,则称为光滑最优化问题;
只要有⼀个函数⾮光滑,则相应的优化问题就是⾮光滑最优化问题。
5)线性规划问题
对于连续光滑最优化问题,如果最优化数学模型中的所有函数都是决策变量的线性函数,则称为线性规划问题。线性规划问题的⼀般形式为:
其中
其中
,
6)⼆次规划问题
对于连续光滑最优化问题,如果最优化数学模型中的⽬标函数是决策变量的⼆次函数,⽽所有约束都是决策变量的线性函数,则称为⼆次规划问题。⼆次规划问题的⼀般形式为:
其中,为纯量,为阶对称矩阵。如果划,由于存在⽐较多的驻点,求解⽐较困难。
7)⾮线性最优化问题
只要最优化数学模型中的函数有⼀个关于决策变量是⾮线性的,则称为⾮线性最优化问题。
⾮线性最优化问题是最⼀般的最优化问题,⽽线性规划和⼆次规划问题却是相当重要的特殊的最优化问题,因为在实际中形成的许多最优化问题都是线性规划问题或⼆次规划
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 合肥小型商铺出租合同样本
- 公司并购合同管理与风险防范
- 心理康复师实习劳动合同
- 设计师合作开发合同模板专业版
- 标准版劳动合同范本合同
- 国际仓储业务合作合同范本
- 度中国员工境外工作劳务合同
- 供应链合作协议合同法全文
- 中小学教师职务合同范本
- 临时工劳务合同
- 冠心病课件完整版本
- 光伏发电+储能项目三期项目建筑安装工程投标方案(技术方案)
- 生活垃圾转运站技术规范 CJJT47-2016知识培训
- 课前三分钟有效利用活动方案
- HIV阳性孕产妇全程管理专家共识2024年版解读
- 人教版九年级数学复习教案全册
- 零售商超市行业前台工作技巧
- 《纺织服装材料》课件-项目6 纺织材料的水分及检测
- (正式版)SH∕T 3548-2024 石油化工涂料防腐蚀工程施工及验收规范
- 贵州人民版五年级劳动下册教案
- 九年级物理说教材课标
评论
0/150
提交评论