(最新整理)约束优化算法：拉格朗日乘子法

1、(完整)约束优化算法：拉格朗日乘子法(完整)约束优化算法：拉格朗日乘子法 编辑整理：尊敬的读者朋友们：这里是精品文档编辑中心，本文档内容是由我和我的同事精心编辑整理后发布的，发布之前我们对文中内容进行仔细校对，但是难免会有疏漏的地方，但是任然希望（(完整)约束优化算法：拉格朗日乘子法）的内容能够给您的工作和学习带来便利。同时也真诚的希望收到您的建议和反馈，这将是我们进步的源泉，前进的动力。本文可编辑可修改，如果觉得对您有帮助请收藏以便随时查阅，最后祝您生活愉快 业绩进步，以下为(完整)约束优化算法：拉格朗日乘子法的全部内容。拉格朗日乘子法约束优化问题的标准形式为：约束优化算法的基本思想是：通过

2、引入效用函数的方法将约束优化问题转换为无约束问题，再利用优化迭代过程不断地更新效用函数，以使得算法收敛。1. 罚函数法罚函数法（内点法）的主思想是:在可行域的边界上筑起一道很高的“围墙”，当迭代点靠近边界时，目标函数陡然增大,以示惩罚，阻止迭代点穿越边界,这样就可以将最优解“挡在可行域之内了。它只适用于不等式约束：它的可行域为：对上述约束问题,其其可行域的内点可行集的情况下，引入效用函数:、其中或算法的具体步骤如下:给定控制误差，惩罚因子的缩小系数.步骤1：令，选定初始点，给定（一般取10）。步骤2：以为初始点，求解无约束其中或，得最优解 步骤3：若，则为其近似最优解,停;否则，令，转步骤2.

3、2. 拉格朗日乘子法(1)算法：（约数为等式的情况引入)效用函数为判断函数为当时迭代停止.步骤1：选定初始点,初始拉格朗日乘子向量,初始罚因子及其放大系数,控制误差与常数,令.步骤2:以为初始点，求解无约束问题：得到无约束问题最优解步骤3:当时，为所求的最优解，停；否则转步骤4。步骤4：当时,转步骤5；否则令，转步骤5。步骤5：令，转步骤1。(2） 算法(一般约束形式的松弛变量法和指数形式法）松弛变量法:乘子的修正公式为：判断函数为:当时迭代停止。3. 乘子法matlab程序及其作用3。1 函数3.1.1程序(1）：乘子法效用函数程序 函数功能:将约束优化问题，根据效用函数方法，将其转变成无约

4、束问题.function f=al_obj（x）拉格朗日增广函数%n_equ 等式约束个数%n_inequ 不等式约束个数global r_al pena n_equ n_inequ;全局变量h_equ=0;h_inequ=0；h，g=constrains(x）;%等式约束部分for i=1：n_equ h_equ=h_equ+h（i）*r_al（i）+（pena/2）*h（i).2；end不等式约束部分for i=1：n_inequ h_inequ=h_inequ+（0.5/pena）*（max（0,(r_al(i)+pena*g（i)）。2-r_al(i).2）;end%拉格朗日增广函数值

5、f=obj（x)+h_equ+h_inequ;3.1.2 程序(2）:判断函数函数功能：判断是否符合约束条件% the compare function is the stop conditionfunction f=compare（x)global r_al pena n_equ n_inequ；h_equ=0;h_inequ=0;h，g=constrains(x）；%等式部分for i=1：n_equ h_equ=h_equ+h（i）。2;end不等式部分for i=1:n_inequ h_inequ=h_inequ+(max(-g（i),r_al(i+n_equ)/pena)）.2；en

6、df=sqrt(h_equ+h_inequ);3.1.3 程序（3）al算法主程序函数功能:对无约束的效用函数利用拟牛顿算法求解其最优解，更新乘子。function x，fval=al_main（x_al，r_al,n_equ,n_inequ）%本程序为拉格朗日乘子算法示例算法%函数输入：% x_al:初始迭代点 r_al：初始拉格朗日乘子 n-equ:等式约束个数% n_inequ：不等式约束个数函数输出 x：最优函数点 fval：最优函数值%=程序开始=global r_al pena n_equ n_inequ; %参数(全局变量）pena=10; %惩罚系数c_scale=2; %乘法

7、系数乘数cta=0.5； 下降标准系数e_al=0。005; %误差控制范围max_itera=25;out_itera=1； 迭代次数%=算法迭代开始=while out_iteramax_itera x_al0=x_al； r_al0=r_al； 判断函数 compareflag=compare（x_al0); %无约束的拟牛顿法bfgs x,fval=fminunc(al_obj，x_al0)； x_al=x; %得到新迭代点 %判断停止条件 if compare(x_al）e_al disp(we get the opt point）； break end %c判断函数下降度 if c

8、ompare(x_al）cta*compareflag pena=pena; 可以根据需要修改惩罚系数变量 else pena=min（1000,c_scalepena); 乘法系数最大1000 disp（pena=2*pena); end % 更新拉格朗日乘子 h，g=constrains(x_al)； for i=1：n_equ %等式约束部分 r_al（i)=r_al（i）+penah（i）; end for i=1：n_inequ %不等式约束部分 r_al（i+n_equ）=max（0,（r_al(i+n_equ)+penag(i)； end out_itera=out_itera+

9、1;end+迭代结束+disp(!！!！!！!！!！!！the iteration over！!！!！!！!！!！!！!）；disp(the value of the obj function)；obj(x_al)disp（the value of constrains)；compare(x_al）disp(the opt point)； x=x_al； fval=obj(x)；3.1.4 乘子法函数使用方法（1） 定义目标函数及约束条件目标函数文件约束函数文件（2） 函数调用x_al=1,1，1； 初始迭代点r_al=1，1； %初始拉格朗日乘子n_equ=1; 等式约束个数 一个n_inequ=1； %不等式约束个数 一个x,fval=al_main（x_al,r_al，n_equ，n_inequ)计算结果:we get the opt point!！!！!！!！!！!the iteration over!！!！!！!！