MAAB非线性优化fmincon

1、active-set andsqpalgorithms 不接受用户提供的海塞矩阵，对拉格朗日的海塞矩阵提供一个拟牛顿的近似值； 目标函数估值次数与迭代次数？优化成功或失败一、求解失败1、在到达迭代次数阈值或目标函数估值次数阈值时，求解器没 有最小化目标到要求的精度，此时求解器停止。接下来，可以尝 试以下方法：(1) 设置 Display为iter，查看每步的迭代信息，这些信 息包括：目标函数( Fvalorf(x)orResnorm )是否是下降的；检查 约束越界(Maxconstraint)是否是递减趋向于 0;查看一阶优化 是否是递减趋向于 0；查看置信域半径 (Trust-regionr

2、adius) 是否下 降趋向于一个小的值。 若其中至少一种情况为是， 就表示结果是 不断改善的。如果结果是不断改善的，可以采取下边的措施：设 置 MaxIter、MaxFunEvals 比默认值大的值，默认值可以在优化 工具箱或求解器的函数参考页的优化表中查看; 从最后计算出的 点开始重新求解。如果结果没有改善，尝试以下其他的方法。( 2)放松精度 如果 TolX 或 TolFun 太小，当求解器达到一个最小值时可能也不 会识别到，这就会导致无限次徒劳的迭代。 DiffMaxChange 和 DiffMinChange 选项能影响求解器的改善，它们控制求导估计中 有限差分的步长。（3）从不同的

3、初始点重新开始求解（4）检查目标函数和约束函数的定义 举个例子，可以检查目标函数和非线性约束函数在某些特定点处 返回正确的值。不可行的点不一定导致函数的错误。（5）对问题进行中心化和标准化 当每个坐标轴对目标函数和约束函数有相同的影响时， 求解器更 能可靠的运行， 对每个坐标轴方向乘以合适的量使得每个坐标轴 的影响相同，在特定的坐标轴上加上合适的值使得它们长度一 致。（6）提供解析的梯度和雅可比矩阵 如果用户不提供解析的梯度或雅可比矩阵， 求解器会用有限差分 来估计这些值， 因此提供这些导数可以减少运算时间， 提高计算 准确度。对于约束问题， 提供梯度还有另一个好处 求解器到达一个点 x时能满

4、足该点是可行的， 但有限差分在 x 点周围可能会导致不可 行的点，在这种情况下，求解器可能会失败或突然中断。（7）提供海塞矩阵当提供海塞矩阵时， 求解器能运行的更可靠， 而且运行的次数比 较少。2、无可行点在 TolCon 约束精度内，求解器不能找到一个满足所有约束条件 的点，此时，可以尝试以下方法：（1）检查线性约束 通过求解一个线性规划问题来找到一个满足界约束和线性约束 的点。i）定义一个目标函数是常值 0的线性规划问题 f=zeros（size（x0）;%assumesx0istheinitialpointii）求解这个线性规划问题看是否有一个可行点 xnew=linprog（f,A,b

5、,Aeq,beq,lb,ub）;iii）如果有可行点xnew，用xnew作为初始点去求解原始问题iv）如果没有可行点，那说明原始模型建的不好，检查界约束和线 性约束。（2）检查非线性约束 在保证界约束和线性约束是可行的之后，检查非线性约束：i）设置目标函数为0,然后求解优化问题，如果能找到一个可行 点xnew，令x0=xnew返回到原始问题中去ii）如果用 0 目标函数不能找到一个可行点， 尝试几个不同的初始点重新求解，如果找到了一个可行点xnew，令x0=xnew并返回到原始问题中去， 如果仍没找到可行点， 试着用下列方法放松约 束条件。a. 改变非线性约束函数c为c- , 是一个正数，这会

6、使得非线 性约束更容易满足。b. 尝试用原始的目标函数或 0目标函数对新的约束函数寻找一个 可行点。如果找到一个可行点，那么减少 ，并在之前找到的点 处开始对新的约束函数重新找一个可行点； 如果没有找到一个可 行点，试着增大并重新找。如果一直没有找到可行点，那么原始问题可能确实是不可行的， 重新检查约束函数的定义。3、问题是无界的 求解器到达一个目标函数小于目标阈值界的点，那么（1） 原问题可能确实无界， 即存在一系列满足问题约束的点 xi， 使得 limf（xi）= s。（2）检查原问题建模正确，求解器是最小化目标函数，如果想 得到最大化，将目标函数乘以 -1.（3）试着标准化或中心化原问题

7、。（4） 放松目标函数界精度， 用 optimset 减少 ObjectiveLimit 设定 的精度值。二、求解可能成功1、最后的点等于初始点 初始点可能是局部极小点，因为它的一阶导数接近 0，如果并不 确定初始点确实是一个局部极小点，尝试下边的步骤：（1）从不同的点开始重新求解（2）检查目标函数和约束函数定义正确。（3）改变精度，如 TolFun,TolCon,TolX（4）标准化原问题，使得每个坐标轴有相同的影响。（5）提供解析的梯度和海塞矩阵。2、可能的局部最小值（ LocalMinimumPossible ， notLocalMinimumFound ） 求解器可能达到一个局部最小值

8、， 但并不确定， 因为一阶导数不 小于 TolFun ，为了检查得到的答案是否是可靠的，考虑下边的 建议。（1）非平滑函数 如果试着最小化一个非平滑的函数， 或者有非平滑的约束， 那么 LocalMinimumPossible 是最好的返回标志， 因为一阶导数条 件并不适用于非平滑的点。 试着检查周围的点来确定结果是否真 的可靠。（2）在最后得到的点处开始重新优化 在最后得到的点处开始重新优化会得到一个在一阶导数估量上 更好的点，更好的一阶导数估量能让人相信结果是可靠的。3、尝试一个不同的算法4、改变精度5、重新标准化原问题6、检查邻近点7、改变有限差分的计算方法 中心有限差分用的时间更多，但

9、更准确，可以设置 FinDiffType 为cen tral。8、提供解析的梯度或雅可比矩阵9、提供海塞矩阵三、求解成功当求解器返回成功信息时， 也可能结果是错误的， 下边有几种方 法可以验证结果。1、改变初始点 初始点对求解结果有很大影响， 如果从不同的初始点得到了相同 或较差的结果，说明原来求得的界是正确的。2、检查邻近点计算f（xfinal 土的值，与f（xfinal）值做比较。3、检查目标函数与约束函数4、局部最优与全局最优（ 1）为什么求解器找不到最小的最小值 通常，求解器返回的是一个局部最小值， 该值也可能是一个全局 最小值，但并不保证是。 这部分讨论求解器得出这种结果的原因， 并

10、给出寻找全局最小值的建议。一般求解器是在初始点的 basinofattraction 找到的最优值，但也 有些例外：i）线性规划和正定二次规划是凸的，可行域也是凸的，所以只有一个basi no fattraction。在设定某些条件下，lin prog会忽略用户提 供的初始点，quadprog也不需要。ii） 全局优化工具箱，女口 Simulannealbnd，试着搜索不止一个 basinofattraction。2）寻找一个更小的最小值如果需要一个全局最小值，必须要在全局最小值的basinofattraction 内找一个初始点。设置初始点的建议：i)用初始点的一个规则网格i i )如果原始问题在所有的坐标轴上是有界的，那么从均匀分布 得到一个随机初始点，如果有些部分是无界的，那么用正态、指 数或其他随机分布得到初始点。对全局最优值的位置知道的越 少，就要选择越分散的随机分布。例如，正态分布大部分样本在均值的三个标准偏差范围内， 但柯西分布(密度函数1/( n (1+x2) 样本很分散。iii )如