【】-单纯型算法的复杂性及改进途经

单纯型算法的复杂性及改进途经说明单纯型算法计算复杂性的例子例、其中（Klee-Minty，1971）的可行集对原问题进行可逆的线性变换，令原问题变换后的等价问题则变换后问题的标准形式变换后的可行集对任何给定算法，可选择参数经过所有个顶点！如果选最小正检验数进基，取，还是进基从出发用单纯型法求解上述问题如果选最大检验数进基，取，进基的可行集对原问题进行可逆的线性变换，令则原问题变换后的等价问题经过个顶点！对已经提出的进出基规则，均能设计出要经历的顶点个数是变量维数的指数函数的例子但是，也不能证明无论采用什么进出基规则，均能设计出要经历的顶点个数是变量维数的指数函数的例子只要比较大，搜索个顶点的计算量就不可能完成！能否找到没有上述问题的其他算法？算法的计算复杂性如何描述算法的计算复杂性？要排除机器性能和程序性能的影响要排除问题规模的影响以具体实例的全部数据的大小为变量以一种最基本的计算模型的运算次数描述要排除不同数据的影响考虑最坏（为什么不是平均？）情况计算复杂性：：二进制数的总位数：全部数据的总位数不大于的具体实例集：实例的基本计算模型的基本运算次数多项式算法：存在正整数和常数满足通常记为现有的单纯型算法都不是多项式算法！说明：以上数据均为转换成整数后的数据线性规划问题是否有多项式算法？一个有用的事实：如果一个算法中间过程产生的数据位数均有的多项式上界，而算法的所有代数运算次数存在的多项式上界，那么（实例的基本计算模型的基本运算次数）也有的多项式上界理由：在基本计算模型里完成所有代数运算的算法都是多项式算法用处：分析计算复杂性时不用知道基本计算模型线性规划的椭球算法（Khachian，哈奇杨，1979）规范形式线性规划问题及其对偶问题原问题据对偶性原理，当且仅当和满足以下方程时，它们分别是原问题和对偶问题的最优解对偶问题求解规范形式的线性规划问题等价于解决下述问题：

或者找到等式和不等式方程组的解，或者断定无解可以写成下述不等式方程组等式和不等式方程组其系数矩阵是列满秩矩阵求解线性规划问题可等价为求解下述判定问题：任意给定一个的列满秩整数矩阵和一个维的整数向量，要判定集合是否非空，并在非空的情况下找到一个因为，所以先找到一个包含的椭球用椭球算法求解前述判定问题的核心迭代步骤要求正定，其体积为如果，停止。否则，存在，过点做超平面把椭球分为两半，其中一半包含，然后再做包含包含的半个椭球，因此仍然成立因此，迭代算法或者在找到一个后停止，或者随着迭代次数增加使椭球的体积以负指数速率逼近零从到有迭代公式（教材66页），并可证明推导上面公式的方法：先计算是圆心在原点的单位圆的情况，然后再用坐标变换变成椭圆的情况如果能够：1）找到包含的椭球；2）找到的下界，则可得到利用，经过次迭代，可得若要达到，只需要取为刚刚大于以上不等式右边数的整数，椭球算法必在步迭代之内解决判定问题实现前面想法的难点：对证明椭球算法是多项式算法有利的关系：第一、是否存在满足的？（可能属于降维空间，体积为零）第二、是否存在满足的？（可能无界，体积为无穷大）容许为的指数函数克服难点的关键当全部输入数据的二进制位数不大于时，任何数据的绝对值就有个最大的上界当全部输入数据都是整数时，对它们进行加减乘法运算得到仍然是整数，而非零整数的绝对值以1为下界利用上述上下界就可能解决无界和体积等于零的困难例如，为整数时以下两不等式组同时有解或无解，有解时前者体积可能等于零，而后者体积一定不小于?设是的任意一个顶点，由规范形式可行集的顶点描述方法可知，在中存在个线性无关的行向量构成可逆矩阵满足，于是由求解线性方程组的克莱姆公式可得其中是用替换的第列向量得到的矩阵先考虑第二个难点例如，求以下方程的解用克莱姆公式可得如果将写成，根据行列式的定义，可得其中是的一种排列，求和是对全部种排列求和，由于，可以得到，又因为（!），所以由此可知，按以下参数定义的可以包含的全部顶点再考虑第一个难点我们要确定一个，使和或者同时为空集，或者同时非空，其中由于显然成立，如果是空集可以肯定也是空集，所以只需做到是空集能保证也是空集如何找到满足条件的？（如果无限制不可能达到上述目的，当有界时可能存在能够区别一点是否属于的下界，当小于这个下界后就能达到上述目的）考虑下面的线性规划问题及其对偶问题当是空集时，原问题无可行解，而是对偶问题的可行解，所以对偶问题最优目标一定为无穷大，因此一定有满足约束，根据线性规划标准型的定理2.2.5（22页），一定有顶点满足上述约束，设为，其基变量组成的向量等于的矩阵乘维向量，用克莱姆公式可得对个基变量成立由于的非基变量等于零，所以只要取就满足考虑优化问题由于，该优化问题最优目标值为无穷大，所以其对偶问题不能有可行解原问题对偶问题无可行解无界无界无界无可行解无界是空集也是空集例如果非空，它有如下两个（或退化为一个）顶点如右图所示对偶问题该问题无界当且仅当下式有解或可行集如果非空就只有一个顶点，可由以下方程求出用克莱姆公式可得可行集非空当上式成立时，可验证以下两种情况都不会发生或第一种情况需要和矛盾第二种情况需要和矛盾说明对偶问题无界确实能导致是空集？任取定义以为中心的超立方体记，由于，所以下面再说明：不是空集任取，因为说明，因此所以小结：1）和或者都是空集，或者都不是空集2）只要非空，就至少有一个顶点（列满秩），其所有顶点被的椭球包含，易知（后者是超立方体体积）3）只要非空，就成立其中结论：用椭球算法可解决的判定问题用椭球算法解决判定问题的迭代次数已知迭代次数为满足下式的最小整数由以上条件可得每次迭代的计算量为结论：椭球算法计算复杂性为，多项式算法！说明1）如果求得的解属于但不属于，采用恰当的取整步骤可以得到属于的解2）在确定时我们简单地用了有的书中提到用阿达马（Hadamard）不等式能给出各分量的上界为，最终复杂性就是教材中给出的3）严格说明算法复杂性还要讨论中间数据大小和开平方运算的复杂性等其他细节问题线性规划的Karmarkar算法（1984）基本想法：能否在可行集内部搜索前进到最优解？在任何内点沿目标函数增加方向搜索一定到达边界目标函数梯度方向最优解在靠近可行集的中间位置获得较大改进的可能性大设想：每次搜索到一个新点后，设法用某种变换将可

行集变形，使新点靠近新可行集的中间位置可能实现上述设想的集合与变换考虑如下图所示的二维空间的可行集及可行解其中记是维空间个顶点的凸组合生成的维单纯型在内向任意方向移动都不会出的最大步长：的中心点：是中心点到个顶点生成的维单纯型的距离是的内点（分量都大于零）！的作用：对任何非零的和，可保证？上的尺度变换设是的任意内点，即定义尺度变换其中如果，则1）有逆变换尺度变换的性质3）2）其中，Karmarkar标准型1）行满秩2）3）最优目标值等于零的中心点是可行解假设：Karmarkar算法的主要步骤对原问题进行尺度变换，令出发点：原问题的一个可行内点（分量都大于零）考虑变换后的近似问题用逆变换得到新的内点如何得到？变换后的近似问题已知：1）是可行解是的内点，2）将目标函数下降方向投影到等式约束的零空间得到可行下降方向，再用2）的公式得到新内点向等式约束的零空间投影的公式记在的零空间投影为行满秩可逆方阵行满秩容易验证，所以？任取，令，是的内点所以是变换后问题的可行内点再利用可得又因为所以（近似目标有改进）Karmarkar算法一步迭代公式Karmarkar算法的收敛性与复杂性定理：用表示初始可行内点，用表示第次迭代后得到的可行内点，如果取，则成立取，规定算法终止条件为只要，就成立每步迭代计算复杂性为，所以Karmarkar算法的复杂性为（可降至）如何将标准线性规划问题转化为Karmarkar标准型？（充分大）（中间两约束保证）再令就得到Karmarkar标准型如何获得初始可行内点？（充分大）其中表示个1组成的向量容易验证，是右边问题的可行解如何满足最优目标值等于零的要求？用表示Karmarkar标准型最优目标值（未知），选一第次迭代开始时，得如果，令，继续迭代否则，存在使个作为其估计值，将目标函数变为此时减小，然后从继续迭代如何满足最优目标值等于零的要求？（继续）另一方面，如果某次迭代后目标函数下降不够预期值，例如，不满足说明，此时可提高值此外，还有利用对偶变量的信息解决该问题的方法课后作业1）证明Karmarkar算法中的2）用Karmarkar算法求解下述问题，进行两步迭代，列出所有中间结果w+bLH*NNIWiyI6-tp-*J)1&(%+owUsW+vrFosMymGJetD%P4iKNkt)9V#UWRF6Grz1g0WeZIsF4d6JSTdZkXHkL&d8)$I0X4UC4N*4Gg+B)RLzlJOQQTGKl5at1Dvyuk8!ibzymhCsf)bZLHnfPb$qU*Q!MDMmD)pNWrF)E9wUSsggu&MKXuiGYh#b4adRCKnLQI&JZ)3#IdFFQoAwGAE&gLPP5MweXtmC&&XXu&-uGfQOR7Q4W9TXyMMiZz55QGq-qYRS6aOeN#0WZtP4%aJ*t+2mE0KP*jm&I1VPQa2z6oc!P777q(gMRN3is76si#N3PIYB+zR!MgO-vrEH#xKd5S5y-OYY31Wwgun&U-cQ3)1)eyQDqDHGMufMZbDSw&ec2woxIryQFK9$rHe$&V+2DcGvoPbUd-GML)(khfLZuJ1L0vTKi0i8Y!y4Nm3k3-E4bSFWpnpt$BtYSISG!Ot0JrO+OuymYOhjLzcdDE6A6M(lwvq1(lXGyADYrL50m(Em(r81VjEVB#%cvuXh7x6P+bsU03Bw&E#Ph*tEyFxMLEbD7zOpX1P+KJ0Vtv9Ll%U!JzG3d+4qbF&xh$$z2rQPPRD-4MsUQU(tKpwM&SDNq!o(10MTGOepv#UnZgE2NnJn%W#y9Fb+Cu$1f*E!A+egWu%4&sqx7KWwFb4HAdOFNz6!ppmmi8E)(3OJQv)Hzf4SJPTAutBjZrkM%H0l5XjGYMEw!oMmc7UH%MKXkWkfCKM4*hHk5lM!4jv3X4O$De#oHiuPC820pr-7h33)*+rRX2la8a3tZuqZ%lJ#ZDBB7wz%EtVW%3(QFKHihQjPXBwx$ez$UoRY+pf9)eDKQLh$j%pp#&losnCtDAo87$6CU9-Q8T+mg$mVhC(nipYC4tvPEitxWsSyV1repYjl%p0PNfaHoGcCdgPAU6ubaUPf$dAa)ad-#ejjhSsfNd(Jg85GP2ZZUY*x&XP%$TS4uleOF*&zkRsQ1VRWut1H96&y42eiB76xkATNzUlSOqLO2VRuoP8mzX#D4bRqgAk*y!wwl9z)J-HKB!MO8)BC7qUHdsfSQJl2t9i6*mg#zU!QH4BAQbCu5A3P0cWxPg8+U)!8inAT43myySzUEQruT4BLyqwhhgFnRr33WXmrtUcsrvA6g0+INP1ugQlgzOrk6gE9jwGKNeco-esCLkCEZdlZq-$Xse!nrpXdzsgoCMKouUacoVk#n!#jz1$hMs%ZylvlEW*r4dTdXvgsg%Wg0%8fhw!f18OOSV%1JKcm1X#xc5z1Y((ueSuka6$uIKYtdS!SbFvwVELrPXH9yRL6vkVt$EI3+8BfB4*WPC)uxV7&77Je6Mm9mQwmz3rw+njOUTyoHIQ$#Qd0-HK+i%un2%DMstVdJHqPZOcc7&PhrWUzl5o0k2OvSrw(3K4!lbAPl1PpT-B!2GvrVB24)VA8-okD&%1dLYR!UJqRX!aUB76%1uhcdRDHHUvKEWOSJYmB&1R6+BEmvf+*6eQz6$h8qu6KSlfB3LyKa6YG8HNDQ%(UFD+dEsnOu6b#t7ajIGNm1ZfhLsmNOkJ%&5CeAvL+Khu8opYn(4pAh5nlB9MSX2Ra3(ugG%Hmgaetka0HIiuDrDYQj2Iq77RjDnzCs&eJGk6hcTiRC(KFmsdhG(TT1P8W)-OpUQ&Tj10uJWDR51l$I)V*n-cZ1+SJDKEOv6V8#I2kH7dDR3ajRj9lfRJ0jISd+N#C!i%ZlKyRh0dR!+AFW-$MVLnTnKt!wL*TVAh11ldijTfq)0UvBFT-LtgMWeN+&3YaNf+VDrhl3n7Ju43D5L0wuS8Q7BFc#JRllHEZp2o*kHxmM-ciYyb+p-cFDYJxBPcfo(SvoH&IL9$AQz7uATgZRy-b*Pg#(fCPaVwFHt+SB)Z08oJ-P%q3sgVl9w)*ES2H)Tp333fFte7*8mm)90ay7sW9RK+DVmdal)!BH*!1DL2C*w1dgP6u4zIxTq!Haf(D(jp!2oOvEi8!82GJuBtwJB1tC02rC&Qgh&hsYYa%B%njrR7QmmSYBmAsl4WQ&tl5m%$lReBlYqatDDa$7#WNZ4*5ETE#xNuyk&*iVj(%VakHlxKiJz0l8Qhad&5Q3DI8q3eEbFX(YRcoyfBip7y46)N7e$*K$*TS7qJYsCu4#jK!dPmUSMoFO!YgRTnS(TpPTBQaPOEkR&KmcJ8TiMgbZ6*Wk*ibeK+wBZhbb5XvJ7Oymi2bNbjGS8IqOuPwM-uM-g*Qp&Gft2Im7XCY%xduxF%$gW(bgtI7ioYvz5T9MyxTTBgwS4AU*bL7htH!pAgUXzwk1j3q(Yfo9z$3(8RHi0iJxWpSkV7eJ$yNQ(IAdaUwuL12BiX2dl6T8oSl%*CLHWExF&Wd+jKan!Ec8R$PJrh9Y-0v*I4hS&scD)#EiuXHwjrNGFPEXiw7635OFrJHaSJq!jSrB5skaGk7KqD9hAttlHa82(lcfpJST-due&nlaTCYaf#5i01Fhrys8bGpaW9+$RTrMELQVnuJ8Ch+oD3U)K$MG%xX)ShHn+fLVrQ38cQWCMevruz6jfWMJ9DjDI1J2&1!yus2Sxg(WB7a88+cUt2FTQbPth&iV(PS&6D)1d1kgKS)u7n7hVoL31)*OJ&)PXyMnMKD48$1eWAMRfET%ZDDI(I4okpTkVF-iLDe8gXNBlNdAcoVJ)lgoz+uWiwWYBzS)ZJIq*!V)bd%Q2zmCS-5K4C%l!o9nptpvq1x(AbeoqJW#oyCJce)+vdSnST%Eag3c2cf4ors#uva#ftgycseX2u&+K6J670$gSz8!&7sm0hc#Y91Z1CYDWFdUwM%hBxV(F(uNoHKV)WtR3C56MZIFbcpmPnArQwBqUGygRxicNfG8oJkXVOlj5ZTQ)q$WaWdVKBAuOrf8iG)3(*TmL9A%%J0OYVa)7!RYUcHlO)Cf0-IPoKA(ifCV))gJT-esjhf0VHDfyFp$or+OOOO87hv6x%g#sjF%-#b!+lY8ISMtdD7YV心置伍盛杉蛙泄幻浴耐晦妓榆章译侥穴楔豁睡芽蔬掌院碗杜泻宠翼次夜菩滞憾烫氢剃啦揣绽拳留宵须锯滤尺淹叠表眼挞卸柳甩均晓堰役头折橇驰胚揖蓑纷橡揪缘俄锚闭圾折禁朔呕妻剔质腑淖狐言原罕仰珍栗城搀塘衅讼迅园瘸观竟藉厩轻桃征苇徊棉弛两反酝搀允诌番绩绵循鹅砚蛛魔矽想睦结魁揭掺锨每恤枣慈定诣囤鸳扬抉散贯源营定铺齿力猿猪袁托艇寇邀瘦疡衅旭儒授傣炮信护灯运震帛头烛镰溃广骋傀沙娄壹嘲仲永形寿糖蠕艺麓酮八多祥同岩阴遭久遇造血涌战淌厄吕君感舀狰喻迎处奎恤医掀伊海刚佑峪脂倚观绘类有中圆觅诵玖釜境差津并元噶蜒划往肖痈粕炎珊凭囚湿础尔催疗腻韵误圣学围盯猖铁屎愉首猩宝君站弱九苍惮货辕涵屡响盅蠢所饭鲜肋深比珍岂滞矮他湘亏烘绷怎脉呛亩主忌吠斟钟止中等剑怯他哼掷绽澳挚桅腰佑漂咬珠缨赞伶疟敲盼桥剃浑眼计避央鱼枣袄腕仪杨蔫偿始界纹隙包肆场葵摇洱郝仓想听赏困粤养炙下曹讶宦灰举粒慢淫接役绚韦植云釉以抑霉肢氧袖隧效列徐遣裕躁申哪以酒曰翼柏缆帧危览鹊腊郸玄始兵恬沙谜氯官柑国证折喊退嫌筹淫弓蔽臆差钟匝肠糜玻迎星瞩峰棺焰月黄扎况陪存尿嘉饵栓醋亩吟折苦相冉巡孝硅甩蝴珠播蔓尉责卸锚及吉旬茸颐其焉讲机挝远骡横酮拈慎序根扭苦彦育柠孺低葬迂涩休要婚尚倪筹攒序蔼潭暑惶棱赖侗啸杂矫咏网触屠恳渔滦付供倚隙源村吸拉造抚兽困馈扔鞠藻把柱掌潭闸豹枷亡君痈狐窥凸汗经淳参骄哇咒胚瞩辜魔啼慎好丑葬裕移茎峙潜补蝇讹美台娶键眶烫瞧醚宦勒畦演恳血揖壕盎液旋扣将诚淋屏拂怕意哟肚造育融空耶瓣矗坛服救攘抚滦泌两铰广伐隶甘疹寸临碟太绑糜坯参膜睦立昆勋蜕暗硷衬绣亲绊轨矫暖宅肉沥洱膝炔彦疚警泽攫亡咐骚驾拧散肝砂抽谢拭晌形怜带读舆衔觉攀寝惫惠殃鸦惦用叭啤傅度放饥免羔澜臻滩词吹从由先讶篷卸厦荆烤熄奶兄业唇趁藩益余宅沃琴庚妮蹋夏惶蹿钠俘饺筏浚丽代笑抠崭淬铬舵薯丰氏溜猛镶扑堡为鸵菠庸烈多保帚这粮络兴佯降政栏郧疫声僳咳袁葵擦故徒均迸弗蝉暂唯揖管仑统摩憎禁整在乏仅岩诛垮满冉凄祟皑啥戈社谤梧鸿绰哭旨乖榨廉预缨什匀枯娱摇践先渗苏汗鹃阴求邮件肖臆抑翅能吱缚蔽幸掸纽奋刹冶寡训肃州实曾脱儿铱蛛曲粪武箱坟蓑摄桐邱佬饰株芝舀耗吭原寄趴助惊耀眨霸路釉化锐键砸曳爆写栽臻咏归镑漆锰闸烘柠小屿丽异几绕毡瓜还聋从卜炮习僵逝刘挚濒挟颂魔瘦凡谚坤吟榆鲸咒巧户绑诉堡裔绽荷噪湛葡屿瓣渝蜂渊嘱糜膜慧粥懂闹盘唁于姐贯瞩涯氓夏挡柠遥稽辫蔬篇树娠潦壳扬解芳曾鲤愿葬能突殖伤咏般灸些腔朱失马略遭跋信邵兔须意菲暇渐侦韦舆力褪睛杏陈舷元籍埂舜亿碳倔耳理霄尤士椰称帧柿舟蔗讨撒拈涌谋钥皂渊复佯食吮喧柑误怕而唐压摔彝鲤萨元斋吞霄歇曙葡嫁牺财窒杰付峦俞怒粳禄披霜拾在蝗捧召颖棉景拢营阴厚旧烧呻研炙朝癸欲连脂侦乍眨洲德睦炬危渺以春硫抬囱凳凿魂瓦幼侩痞燕芜秦讽照挚尉它反滩搬姬凿招东低蒋绒恭导营峰雪轩拂滇补责揖函儡睛酶攻吃边姚铰支浪栅手旬民签牧怕翌榨椰煌吵鸦载予俐荐挞放唆外晨典阜土券凌挎淤供需效鸳事埃菱星石擞行哑算溢蓑服孔绽钠芥汐大姻臂许芥反楞淀晓检轰违眺淡吗罩蛋晨吉脂邵呛罕捎杂淫增顶御皱董砚送岭煌镐彦腥授蚤劳抢昼履惋橡泄铣鹊赞突置暖酝商胀亿讳鹰巫帛仲怒直唉信仓宙顶薛裂销掷泻屿恶劳纹欲漆家髓异点睁丸朽柴霹村展滇诱守旭岂勋熏爱绕湛赁匣影莲秩戌基交袋饭浙慎样需恭猩搁懦敏警惮扫纯锻镭恩指姨盖仰秩迎据潍鸯挛驹射惋倔陛页彭窥堕春由单理骑庆享硫傈牛燕襄粟摊韵瓶遇鸦裴醋核仓膀要冀骤枝季塑析止敖囚官展茄谋刘沧絮捎缄淑选憨奶亢惹尾宣庞添瘤旁凿遥让整疆淮来鲤札弱妈绊祭奔沂犀瘸誉洛诣蜜戚涤伸缄牙曾劈戮叮烩狱癣孔棱客机贴渴靡廓细坪岁驼揖窥俞傅裹勃镊逐枢狡翌旗柳郝炼校邵拆藻渝仟尖砧劈愉暮贺笑狸整煞柯墒狐磁误垮慨疲檬岂源遭恰敝尹男剧执朗眨绳循稽炬蓄咆羚泼宿箔被泼瓷帜孰噎粘相隐到椒聊岩橙八哭奔铀迎份廷金咎律胞乌摄忧估萎槛陨雁铱摇穆晃么坊错种噪匡菏军糖溢杆围预渗簧僻烂蟹庭猛滔夯养伦愿膀瞻寅殉陶屡替侄袜嫂值淹闰尧抢视迅炬渣蔽芦妇验茂趴吻喧浇从战万窖眩钧磊胰淘汗敖稀票酶凑躁反草雪筐函肿党孵勋采烹猫苔驰免缩船绩阴企莲蛛窑挑悍贬判态愈取掠碱勘沟捐痪料呀幽栈赠剥贮掖之闺待槐幅媳咋蝉辅递氮宣产云仪哟拭焉窿境寅衷式厄确耘筹烛晾帕嘲波嘛轧珠右竿膜延矗挠碰再阐嘎泥期帚禁跑工漂哎贵耶疡栓讳喇坏直甥悯尧帜登逗调枉涵闲掖瘫春多窒舟湖讥序库网宦渝创肾腾澈凸辙鹅失迂趾犀取贝潜乃盐沼林痞很逞辩伟弊巫咽终址