最优化课程设计-共轭梯度法算法分析与实现

最优化方法课程设计（设计程序）题目共轭梯度法算法分析与实现班级/学号14140101/2011041401011学生姓名黄中武指导教师王吉波王微微课程设计任务书课程名称最优化方法课程设计院（系）理学院专业信息与计算科学课程设计题目共轭梯度法算法分析与实现课程设计时间:2014年6月16日至2014年6月27日课程设计的要求及内容：[要求]学习态度要认真，要积极参与课程设计，锻炼独立思考能力；严格遵守上机时间安排；按照MATLAB编程训练的任务要求来编写程序；根据任务书来完成课程设计论文；报告书写格式要求按照沈阳航空航天大学“课程设计报告撰写规范”；报告上交时间：课程设计结束时上交报告；严禁抄袭行为，一旦发现，课程设计成绩为不及格。运用共轭梯度法求解无约束最优化问题要求：1）了解求解无约束最优化问题的共轭梯度法；2）绘出程序流程图；3）编写求解无约束最优化问题的共轭梯度法MATLAB程序；4）利用编写文件求解某无约束最优化问题；5）给出程序注释。指导教师年月日负责教师年月日学生签字年月日沈阳航空航天大学课程设计成绩评定单课程名称最优化理论与算法课程设计院（系）理学院专业信息与计算科学课程设计题目共轭梯度法算法分析与实现学号2011041401011姓名黄中武指导教师评语：课程设计成绩指导教师签字年月日最优化方法课程设计沈阳航空航天大学课程设计用纸目录第8页目录TOC\o"1-3"\h\z一、正文 1二、总结 2参考文献 3附录 4最优化方法课程设计沈阳航空航天大学课程设计用纸正文一、正文一无约束最优化问题的共轭梯度法共轭梯度法最初是由Hesteness和Stiefel于1952年为求解线形方程组而提出的。后来，人们把这种方法用于求解无约束最优化问题，使之成为一种重要的最优化方法。下面，重点介绍Fletcher-Reeves共轭梯度法，简称FR法。共轭梯度法的基本思想是把共轭性与最速下降法相结合，利用已知点处的梯度构造一组共轭方向，并沿这组方向进行搜索，求出目标函数的极小点。根据共轭梯度方向的基本性质，这种方法具有二次终止性。首先讨论对于二次函数的共轭梯度法，然后再把这种方法推广到极小化一般函数的情形。考虑问题其中A是对称正定矩阵，c是常数。具体求解方法如下：首先，任意给定一个初始点，计算出目变函数在这点的梯度，若=0，则停止计算，否则，令沿方向搜索，得到点，计算在处的梯度，若，则利用和构造第二个搜索方向，再沿搜索。一般地，若已知点和搜索方向，则从出发，沿进行搜索，得到其中步长满足此时可求出的显式表达。令求得极小点，令根据二次函数的梯度表达式，即（10.3.16）由（10.3.16）式得到（10.3.17）计算在处的梯度，若，则停止计算；否则，用和构造下一个搜索方向，并使和关于共轭。按此设想，令（10.3.18）上式两端左乘，并令由此得到（10.3.19）再从出发，沿方向搜索综上分析，在第一个搜索方向取负梯度的前提下，重复使用公式（10.3.14），（10.3.17），（10.3.18）和（10.3.19），就能伴随计算点的增加，构造出一组搜索方向。二程序流程图开始开始输入初始点x0输入初始点x0精度e继续迭代满足精度要求继续迭代满足精度要求NY输出迭代结果输出迭代结果结束结束图一共轭梯度法程序流程图三共轭梯度法的MATLAB程序function[x,val,k]=frcg(fun,gfun,x0)maxk=5000;rho=0.6;sigma=0.4;k=0;epsilon=1e-7;n=length(x0);while(k<maxk)g=feval(gfun,x0);itern=k-(n+1)*floor(k/(n+1));itern=itern+1;if(itern==1)d=-g;elsebeta=(g'*g)/(g0'*g0);d=-g+beta*d0;gd=g'*d;if(gd>=0)d=-g;endendif(norm(g)<epsilon)break;endm=0;mk=0;while(m<20)if(feval(fun,x0+rho^m*d)<feval(fun,x0)+sigma*rho^m*g'*d)mk=m;break;endm=m+1;endx0=x0+rho^mk*d;val=feval(fun,x0);g0=g;d0=d;k=k+1;endx=x0;val=feval(fun,x);functionf=fun(x)f=100*(x(1)^2-x(2))^2+(x(1)-1)^2;functiong=gfun(x)g=[400*x(1)*(x(1)^2-x(2))+2*(x(1)-1),-200*(x(1)^2-x(2))]'四利用所编程序求解实际问题例该问题有精确解利用所编程序求解此问题，在命令窗口输入：运行结果为：五程序注释function[x,val,k]=frcg(fun,gfun,x0)%用FR共轭梯度法求解无约束问题：minf(x)%输入：x0时初始点，fun，gfun分别是目标函数和梯度%输出：x，val分别是近似最优点和最优值，k是迭代次数。maxk=5000;%最大迭代次数rho=0.6;sigma=0.4;k=0;epsilon=1e-7;n=length(x0);while(k<maxk)g=feval(gfun,x0);%计算梯度itern=k-(n+1)*floor(k/(n+1));itern=itern+1;%计算搜索方向if(itern==1)d=-g;elsebeta=(g'*g)/(g0'*g0);d=-g+beta*d0;gd=g'*d;if(gd>=0)d=-g;endendif(norm(g)<epsilon)%检验终止条件break;endm=0;mk=0;while(m<20)if(feval(fun,x0+rho^m*d)<feval(fun,x0)+sigma*rho^m*g'*d)mk=m;break;endm=m+1;endx0=x0+rho^mk*d;val=feval(fun,x0);g0=g;d0=d;k=k+1;endx=x0;val=feval(fun,x);functionf=fun(x)f=100*(x(1)^2-x(2))^2+(x(1)-1)^2;%需要求解的函数functiong=gfun(x)g=[400*x(1)*(x(1)^2-x(2))+2*(x(1)-1),-200*(x(1)^2-x(2))]'%梯度二、总结不知不觉，一个学期就这样过去了，随着期末尾声的到来，《最优化》这门课也已经结课了，接着而来的是为期两个星期的课程设计。作为信息与计算科学系的一员，我们在课堂上接触最多的就是理论部分，刚好课程设计可以给我们验证理论，联系实际的机会，所以，这次课程设计，我一直都在认真完成。在拿到自己的课程设计题目的时候，我对它进行了一定时间的审题，题目中要求我用共轭梯度法求解无约束优化问题，所以我拿到课本，仔细地看了共轭梯度法的原理与例题求解，以便帮助我更好的理解共轭梯度法的应用。我记得，再一次研究生面试中，有的老师问过考生：你在你的大学生涯中学到了什么？如果让我回答，我会说：我学到了一种发现问题与解决问题的方法，这种方法是在我的学习中慢慢形成的一种潜移默化的思想，关于学到的内容，我们不会一直保留太清晰的记忆，也不会在以后的生活中用到太多，就像买菜不会用到微积分，不会求导，但是，数学方法和思想给我们思考问题所带来的方法论却是大有裨益。这次课程设计，我发现我的很多不足，比如在MATLAB上的应用上，我还不熟练，这与我在平时的练习中没有加以重视有关，而且在《最优化》的很多知识点上，自己还没有很好地掌握。最后，我要感谢我们的任课教师王吉波老师，感谢他在给我们上课中的带来的幽默感和知识的传授。在此，祝愿老师身体健康，工作顺利。完稿日期:2014年6月21日最优化方法课程设计沈阳航空航天大学课程设计用纸参考文献第12页参考文献[1]陈宝林.《最优化理论与算法》[M].北京,清华大学出版社,2013.[2]刘卫国.《MATLAB程序设计教程》[M].北京,中国水利水电出版社,2010.[3]马昌凤.《最优化方法及其MATLAB程序设计》[M].北京,科学出版社,2010.最优化方法课程设计沈阳航空航天大学课程设计用纸附录附录源程序:function[x,val,k]=frcg(fun,gfun,x0)maxk=5000;rho=0.6;sigma=0.4;k=0;epsilon=1e-7;n=length(x0);while(k<maxk)g=feval(gfun,x0);itern=k-(n+1)*floor(k/(n+1));itern=itern+1;if(itern==1)d=-g;elsebeta=(g'*g)/(g0'*g0);d=-g+beta*d0;gd=g'*d;if(gd>=0)d=-g;endendif(norm(g)<epsilon)break;endm=0;mk=0;while(m<20)if(feval(fun,x0+rho^m*d)<feval(fun,x0)+sigma*rho^m*g'*d)mk=m;break;endm=m+1;endx0=x0+rho^mk*d;val=feval(fun,x0);g0=g;d0=d;k=k+1;endx=x0;val=feval(fun,x);functionf=fun(x)f=100*(x(1)^2-x(2))^2+(x(1)-1)^2;functiong=gfun(x)g=[400*x(1)*(x(1)^2-x(2))+2*(x(1)-1),-200*(x(1)^2-x(2))]'基于C8051F单片机直流电动机反馈控制系统的设计与研究基于单片机的嵌入式Web服务器的研究MOTOROLA单片机MC68HC（8）05PV8/A内嵌EEPROM的工艺和制程方法及对良率的影响研究基于模糊控制的电阻钎焊单片机温度控制系统的研制基于MCS-51系列单片机的通用控制模块的研究基于单片机实现的供暖系统最佳启停自校正（STR）调节器单片机控制的二级倒立摆系统的研究基于增强型51系列单片机的TCP/IP协议栈的实现基于单片机的蓄电池自动监测系统基于32位嵌入式单片机系统的图像采集与处理技术的研究基于单片机的作物营养诊断专家系统的研究基于单片机的交流伺服电机运动控制系统研究与开发基于单片机的泵管内壁硬度测试仪的研制基于单片机的自动找平控制系统研究基于C8051F040单片机的嵌入式系统开发基于单片机的液压动力系统状态监测仪开发模糊Smith智能控制方法的研究及其单片机实现一种基于单片机的轴快流CO〈,2〉激光器的手持控制面板的研制基于双单片机冲床数控系统的研究基于CYGNAL单片机的在线间歇式浊度仪的研制基于单片机的喷油泵试验台控制器的研制基于单片机的软起动器的研究和设计基于单片机控制的高速快走丝电火花线切割机床短循环走丝方式研究基于单片机的机电产品控制系统开发基于PIC单片机的智能手机充电器基于单片机的实时内核设计及其应用研究基于单片机的远程抄表系统的设计与研究基于单片机的烟气二氧化硫浓度检测仪的研制基于微型光谱仪的单片机系统单片机系统软件构件开发的技术研究基于单片机的液体点滴速度自动检测仪的研制基于单片机系统的多功能温度测量仪的研制基于PIC单片机的电能采集终端的设计和应用基于单片机的光纤光栅解调仪的研制气压式线性摩擦焊机单片机控制系统的研制基于单片机的数字磁通门传感器基于单片机的旋转变压器-数字转换器的研究基于单片机的光纤Bragg光栅解调系统的研究单片机控制的便携式多功能乳腺治疗仪的研制基于C8051F020单片机的多生理信号检测仪基于单片机的电机运动控制系统设计Pico专用单片机核的可测性设计研究基于MCS-51单片机的热量计基于双单片机的智能遥测微型气象站MCS-51单片机构建机器人的实践研究基于单片机的轮轨力检测基于单片机的GPS定位仪的研究与实现基于单片机的电液伺服控制系统用于单片机系统的MMC卡文件系统研制基于单片机的时控和计数系统性能优化的研究基于单片机和CPLD的粗光栅位移测量系统研究单片机控制的后备式方波UPS提升高职学生单片机应用能力的探究基于单片机控制的自动低频减载装置研究基于单片机控制的水下焊接电源的研究基于单片机的多通道数据采集系统基于uPSD3234单片机的氚表面污染测量仪的研制基于单片机的红外测油仪的研究96系列单片机仿真器研究与设计基于单片机的单晶金刚石刀具刃磨设备的数控改造基于单片机的温度智能控制系统的设计与实现基于MSP430单片机的电梯门机控制器的研制基于单片机的气体测漏仪的研究基于三菱M16C/6N系列单片机的CAN/USB协议转换器基于单片机和DSP的变压器油色谱在线监测技术研究基于单片机的膛壁温度报警系统设计基于AVR单片机的低压无功补偿控制器的设计基于单片机船舶电力推进电机监测系统基于单片机网络的振动信号的采集系统基于单片机的大容量数据存储技术的应用研究基于单片机的叠图机研究与教学方法实践基于单片机嵌入式Web服务器技术的研究及实现基于AT89S52单片机的通用数据采集系统基于单片机的多道脉冲幅度分析仪研究机器人旋转电弧传感角焊缝跟踪单片机控制系统基于单片机的控制系统在PLC虚拟教学实验中的应用研究基于单片机系统的网络通信研究与应用基于PIC16F877单片机的莫尔斯码自动译码系统设计与研究基于单片机的模糊控制器在工业电阻炉上的应用研究基于双单片机冲床数控系统的研究与开发基于Cygnal单片机的μC/OS-Ⅱ的研究基于单片机的一体化智能差示扫描量热仪系统研究基于TCP/IP协议的单片机与Internet互联的研究与实现变频调速液压电梯单片机控制器的研究基于单片机γ-免疫计数器自动换样功能的研究与实现基于单片机的倒立摆控制系统设计与实现单片机嵌入式以太网防盗报警系统基于51单片机的嵌入式Internet系统的设计与实现单片机监测系统在挤压机上的应用MSP430单片机在智能水表系统上的研究与应用基于单片机的嵌入式系统中TCP/IP协议栈的实现与应用单片机在高楼恒压供水系统中的应用基于ATmega16单片机的流量控制器的开发基于MSP430单片机的远程抄表系统及智能网络水表的设计基于MSP430单片机具有数据存储与回放功能的嵌入式电子血压计的设计基于单片机的氨分解率检测系统的研究与开发锅炉的单片机控制系统基于单