重庆工商大学数学模型与数学实验课件第11讲 无约束优化

1、大学数学实验Experiments in Mathematics实验7 无约束优化数学建模与数学实验- 李焕荣 实 验 7学习并不是人生的全部。但，既然连人生的一部分学习也无法征服，还能做什么呢？ 最优化是工程技术、经济管理、科学研究、社会生活中经常遇到的问题, 如:优化模型和算法的重要意义结构设计资源分配生产计划运输方案解决优化问题的手段 经验积累，主观判断 作试验，比优劣 建立数学模型，求解最优策略最优化: 在一定条件下，寻求使目标最大(小)的决策 实 验 7 实 验 7运筹学(OR: Operations/Operational Research)管理科学(MS: Management

2、Science)决策科学 (DS: Decision Science)(最)优化理论是运筹学的重要内容无约束优化OR/MS/DS优化(Optimization), 规划(Programming)线性规划非线性规划网络优化组合优化整数规划不确定规划多目标规划目标规划动态规划 实 验 7 实 验 7 优化问题的数学模型 可行解（只满足(2)）与最优解（满足(1),(2)） 无约束优化（只有(1)）与约束优化（(1),(2)） 实际问题一般总有约束，何时可用无约束优化处理？ 实 验 7 实 验 74. 优化工具箱的使用2. 无约束优化的基本方法：梯度法，牛顿法，拟牛顿法1. 优化问题的最优解条件；算

3、法模式无约束优化的主要内容3. 非线性最小二乘法5. 实际问题中的无约束优化模型 实 验 7 实 验 7实例1 产销量安排假设A产销平衡假设Bp随x (两种牌号)增加而减小，呈线性关系某厂生产两个牌号的同一种产品，如何确定产量使利润最大 实 验 7 实 验 7目标利润最大q随x (本牌号)增加而减小，呈负指数关系假设C实例1 产销量安排 实 验 7 实 验 7求解无约束优化的基本思路基本思想在中某一点，确定一个搜索方向及沿该方向的移动步长，得到使目标函数下降的新的点迭代步骤Step 1 初始化：初始点x0，终止准则等Step 2 迭代改进：方向d k，步长 kStep 3 终止检验：得到近优解

4、或k+1k转2选择d k , k 使 f 下降更快 不同算法 实 验 7 实 验 7搜索方向的选择1 最速下降法（梯度法） 下 降 方 向 最速下降方向迭代改进格式算法特点初始阶段改进较快，最优解附近改进较慢暂不考虑搜索步长，可设k=1(负梯度方向) 实 验 7 实 验 72 Newton方法特点局部2阶收敛;需计算Hessian阵,它可能病态或不正定将f(xk+1)在xk点作泰勒展开至二阶项，用d替代dk 牛 顿 方 程 牛 顿 方 向迭 代 格 式比较求d使f(xk+1)极小右端对d导数为0 实 验 7 实 验 73 拟Newton方法目的不计算Hessian阵，克服病态、不正定、计算复杂

5、等缺陷，同时保持收敛较快的优点回顾解方程组 F(x)=0的拟牛顿法思路优化问题 实 验 7 实 验 7搜索步长的确定线性搜索(Line Search)确定步长方法问题给定xk和方向dk, 确定步长k, 使得优化算法黄金分割(0.618)法、Fibonacci法、Newton切线法、割线法、2次或3次插值法等一维优化问题 实 验 7 实 验 7非线性最小二乘(Least Square)拟合问题给定(t i, y i), i=1,n, 拟合一个函数y=f(t, x)， 其中x为待定的参数向量, f 对x非线性。优化模型记误差根据目标函数是 r(x) 的二次函数的特点构造简单算法 实 验 7 实 验

6、 7优化工具箱基本用法：x=fminbnd(f,lb,ub)x=fminunc(f,x0)x=fminunc(f,x0,options,P1,P2,.)x=fminsearch(f,x0,options,P1,P2,.)f.m f(x)的m文件名x0 初始点; x 最优解P1,P2, 传给fun的参数中间输入项缺省用 占位 实 验 7 实 验 7非线性最小二乘法x,resnorm,res,exitf,out,lambda,jacob=lsqnonlin(fun,x0,lb,ub,options,P1,P2,)输入的用法与fminunc类似，但注意：f.mf(x)的m文件名: function

7、y=f(x,t)fun.mr(x)的m文件名: function r=fun(x,t,y)输出 resnom=r(x)T*r(x), res=r(x)(误差向量)x,resnorm,res,exitf,out,lambda,jacob=lsqcurvefit(f,x0,t,y,lb,ub,options,P1,P2,) 实 验 7 实 验 7非线性最小二乘法t0.250.511.523468c19.2118.1515.3614.1012.899.327.455.243.01例3 用下面一组数据拟合系数r, k : 实 验 7 实 验 7实例1 产销量安排已知数据原问题 实 验 7 实 验 7命令和最优解x