最优化复习题

1、用最速下降法求解minx； 2x22设初始点为x( (4,4)T,迭代一次。<2x1、20、解：g(x)=<4x2，G(x)=<04,由最速下降法的迭代公式x(k 1)x(k)Tgk9kT9k9k Gg k可以算出x(1)(8&1 6 161.7 8-0.4 4 丿x(2)".78、3.56、r 0.30 A- 0 . 42=<-0.44 < -1 .780.30 丿8,10 4 丿(1 6F 2 0 卄 86)1111x(3)0.30 '0 .59 、广0.13A-0.28l 0.30 丿J .19 i 一 0.03请用DFP拟牛顿法解

2、min2 c 2x1 2x2(0)取X1, 2一维搜索的步长:T二 Pk Pk ktPkGPkx(k 1)x(k)TPk PkT PkPkGPk用牛顿法求解2 2 2min x14x29x32x< 18 x3解：取初值x(0)0I I二 00 I，由丿2x1 - 2|I2100I1 1g(x)二 8X2G(x)二 0180I，18 x3180018根据牛顿迭代公式(k 1)(k)xxGk1gk计算得到由于牛顿法对正定二次函数一步到位所以最优解*(1)Tx x(- (1,0,1)用DFP法求解0I I0I I01/2i0I01/0- 2丨i i001/18 11ii0II-1min (V

3、X )2 2(x2 - x； )2(0)设初始点为 X(0,°),初始矩阵为单位矩阵，求解：由x，H!,g（x）=14（x,21） 8人（冷-人） x2）34彳所以有4x2-2I I，Po0go（20求迭代点x(1)。令f （x。p。）3。（）二 12884232' " 44壽"14=0=0.25匚x厂X。： oPo-I丫 0、2, gi =c1丿01So 二Xi2X。二 2 , y。= gi g。二 厂1丿 oTy。So = 1于是，由DFP修正公式有T10120.25011 2 1i01510010< 4-( 0.25011 一0.210121丿

4、i00H厂 H° Ho严0H。y。H o y°so soTyo so0.450.4ii0.40.8对下列最优化问题22minf(x)二x1 4x2s.t.-x2咗 1,xx2-1,x2空1T*41)、试验证x =厂 为该问题的K-T点，并说明它是此约束优化问题 <5 5丿的唯一全局最优点.2 2min f (x)二 x1 4x2s.t. -x2 - - 1,x x2 - 1,_ x2 _1lf (x) = 'i' Ci(x)代入i =1jCj (x) = 0, i - 0,i I若 f(x是可微凸函数，则x为最优 化问题min f (x), xRn,s

5、.t. x 0.的最优解的充分必要条件为' f (x) - 0x 0.' f (x)T x = 0.证明：必要性：令 Lagrange函数为F(x) = f(x)- Tx，则在最优点X处满足KKT条件F(x) = f(x)-= 0T x = 0,0, x 0即有' f (x)T x = 0, f (x) - 0, x 0充分性：取入=7 f(x)则由条件知：F(x) = ' f(x)-= 00,0,x所以x所是最优化问题min f (x), xRn,s.t. x 0.的KT点，而此问题为凸规划， 为最优点。用乘子法:2 2min2 f (x) = x - 3x2

6、 - x2 x R2s.t. x2 = 0.CT 一2M (x/ / ) = x12M2x厂0X!M2 x23X22xf -3 xx1X2+3T取 = - 3，即知 x = (0,0).例：2 2min2 f (x) =+ x2x R2s.t. X x2 - 2 = 0.2 2 GM (x, ,)= X x2 - xx2 - 2 xx2 - 22M2 x1 _k + x1(1)*x2 _ 2 一oM =2x2 -k + x1x2 - 2 二0(2)X27+=Xi=x2 二272九二丸-( x1+X22 12二扎一九+1CT+1*>1=J1, 加快）1*沖2CT=>*/lj/.+CT

7、+11*二 2屮T二 X =11用内点法求解min( xx2)s.t x1x2 ' 2X10.解:B(x,r)x1x21 r(2 -2Xi+2X21)X12rx12 _、22 2(XiX2 - 2)2rx2/ 22小、2(XiX2 - 2)r2Xi二0（已默认x厂0）0(已默认 x；x； - 2 - 0)由后两个方程可以推出上两式分别在两边乘x2, X1,在x厂0时x1 ) rx 2rx 2x2 - x- 一= 0 二 x1 (x2xi分析之：要目标小，但要求x10,故x20,且应较远离0。 所以当r 0, x -； 0或x2 - x 0，后者致x2 = Xq =但目标决不在直线x= x1取到最小值.2 1 2 1所以取代入(X；X22rx(由前分析x22)2rx0).,22 2min f (x)二 x14x2s.t.x1 -X2 T,x x21,x2 1B(x,r)2=Xi4x2r In(1xx2ln( x1X21)ln( 1 X2)y厂 xx22X2X!52523B(y,r)=yi+y2yM442r ln( y2+ 1iln(yi -i)ln( 1 - yi/2 -y2/2)B 53r2ryi-y2+0,(i)yi 22yi-i2 -y< y2B35r2ryi+0,(2)讨222y2i2 -yr y2柱B53r(1).yiy2S