《现代优化算法》课件_第1页
《现代优化算法》课件_第2页
《现代优化算法》课件_第3页
《现代优化算法》课件_第4页
《现代优化算法》课件_第5页
已阅读5页,还剩213页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

内容一、启发式方法概述二、蚁群优化算法1精选PPT内容一、启发式方法概述1精选PPT背景传统实际问题的特点连续性问题——主要以微积分为基础,且问题规模较小传统的优化方法追求准确——精确解理论的完美——结果漂亮主要方法:线性与非线性规划、动态规划、多目标规划、整数规划等;排队论、库存论、对策论、决策论等。传统的评价方法算法收敛性(从极限角度考虑)收敛速度(线性、超线性、二次收敛等)2精选PPT背景传统实际问题的特点2精选PPT传统运筹学面临新挑战现代问题的特点离散性问题——主要以组合优化(针对离散问题,定义见后)理论为基础不确定性问题——随机性数学模型半结构或非结构化的问题——计算机模拟、决策支持系统大规模问题——并行计算、大型分解理论、近似理论现代优化方法追求满意——近似解实用性强——解决实际问题现代优化算法的评价方法算法复杂性3精选PPT传统运筹学面临新挑战现代问题的特点3精选PPT现代优化(启发式)方法种类禁忌搜索(tabusearch)模拟退火(simulatedannealing)遗传算法(geneticalgorithms)神经网络(neuralnetworks)蚁群算法(群体(群集)智能,SwarmIntelligence)拉格朗日松弛算法(lagrangeanrelaxation)4精选PPT现代优化(启发式)方法种类禁忌搜索(tabusearch)1现代优化计算方法概述1.1组合优化问题1.2计算复杂性的概念1.3启发式算法5精选PPT1现代优化计算方法概述1.1组合优化问题5精选PPT1.1组合优化问题1/8组合优化(combinatorialoptimization):解决离散问题的优化问题——运筹学分支。通过数学方法的研究去寻找离散事件的最优编排、分组、次序或筛选等,可以涉及信息技术、经济管理、工业工程、交通运输和通信网络等许多方面。数学模型:6精选PPT1.1组合优化问题1/8组合优化(combina1.1组合优化问题2/8组合优化问题的三参数表示:

7精选PPT1.1组合优化问题2/8组合优化问题的三参数表示:7精选1.1组合优化问题3/8例10-1背包问题(0-1knapsackproblem)8精选PPT1.1组合优化问题3/8例10-1背包问题(0-11.1组合优化问题4/89精选PPT1.1组合优化问题4/89精选PPT1.1组合优化问题5/8例2旅行商问题(TSP,travelingsalesmanproblem)管梅谷教授1960年首先提出,国际上称之为中国邮递员问题。问题描述:一商人去n个城市销货,所有城市走一遍再回到起点,使所走路程最短。10精选PPT1.1组合优化问题5/8例2旅行商问题(TSP,tra1.1组合优化问题6/811精选PPT1.1组合优化问题6/811精选PPT1.1组合优化问题7/8例3装箱问题(binpacking)尺寸为1的箱子有若干个,怎样用最少的箱子装下n个尺寸不超过1的物品,物品集合为:。

12精选PPT1.1组合优化问题7/8例3装箱问题(binpac1.1组合优化问题8/813精选PPT1.1组合优化问题8/813精选PPT1.2计算复杂性的概念1/11评价算法的好坏——计算时间的多少、解的偏离程度例非对称距离TSP问题的算法实现:所有路径枚举。计算时间:n个城市,固定1个为起终点需要(n-1)!个枚举,设计算机1秒能完成24个城市的枚举,则城市数与计算时间的关系如下表:14精选PPT1.2计算复杂性的概念1/11评价算法的好坏——计算时间1.2计算复杂性的概念2/11随城市增多,计算时间增加很快。到31个城市时,要计算325年。描述算法的好坏——计算复杂性——讨论计算时间与问题规模之间的关系。以目前二进制计算机中的存储和计算为基础,以理论的形式系统描述,是评估算法性能的基础。15精选PPT1.2计算复杂性的概念2/11随城市增多,计算时间增加很1.2计算复杂性的概念3/11问题(problem):要回答的一般性提问,通常含有若干个满足一定条件的参数(或自由变量)。可以从两方面描述:(1)对所有参数的一般性描述;(2)答案(或解)必须满足的性质。实例(instance):给问题的所有参数指定具体值,得到问题的一个实例。这些具体值称为数据;这些数据输入计算机所占的空间称为实例的长度(size).16精选PPT1.2计算复杂性的概念3/11问题(problem):要1.2计算复杂性的概念4/11一类最优化问题是由一些类似的具体问题(实例)组成的,每一个具体问题可表达成二元组(F,C).F为可行解集合;C是费用函数,是由F到R(实数集)的映像。问题是在F中找到一个点f*,使对F中任意的f,有C(f*)C(f),称f*为这一具体问题的最优解(或全局最优解).17精选PPT1.2计算复杂性的概念4/11一类最优化问题是由一些1.2计算复杂性的概念5/11算法计算量的度量:加、减、乘、除、比较的总运算次数与实例的计算机计算时的二进制输入数据的大小关系。正整数x的二进制位数是:(整数到二进制的转换)

18精选PPT1.2计算复杂性的概念5/11算法计算量的度量:18精选1.2计算复杂性的概念6/11算法计算量的度量之例——TSP枚举法计算量的统计:19精选PPT1.2计算复杂性的概念6/11算法计算量的度量之例——T1.2计算复杂性的概念7/11实例的输入长度:实例的输入长度是n的多项式函数枚举法的基本计算量是n的阶乘函数,随n的增加,比指数函数增加得还快.20精选PPT1.2计算复杂性的概念7/11实例的输入长度:实例的输入1.2计算复杂性的概念8/1121精选PPT1.2计算复杂性的概念8/1121精选PPT1.2计算复杂性的概念9/11定义多项式算法给定问题P,算法A,对一个实例I,存在多项式函数g(x),使(XX)成立,称算法A对实例I是多项式算法;若存在多项式函数g(x),使(XX)对问题P的任意实例I都成立,称算法A为解决该问题P的多项式算法.当g(x)为指数函数时,称A为P的指数时间算法。22精选PPT1.2计算复杂性的概念9/11定义多项式算法22精选P1.2计算复杂性的概念10/11利用复杂性分析对组合优化问题归类。定义多项式问题给定一个组合优化问题,若存在一个多项式算法,称该问题为多项式时间可解问题,或简称多项式问题(或P问题).所有多项式问题的集合记为P.例:线性规划是否为多项式问题?23精选PPT1.2计算复杂性的概念10/11利用复杂性分析对组合优化1.2计算复杂性参考书11/11计算复杂性,

作者:Christos,Papadimitriou

清华大学出版社,2004年9月第1版计算复杂性导论,作者:堵丁柱等,高等教育出版社,2002年8月第1版

24精选PPT1.2计算复杂性参考书11/11计算复杂性,作者:Ch1.3启发式算法_定义1/6启发式算法(heuristicalgorithm)定义1.基于直观或经验构造的算法,在可接受的花费(时间、空间)下,给出待解组合优化问题的每个实例的一个可行解,该可行解与最优解偏差事先不一定可以预计.定义2.启发式算法是一种技术,在可接受的计算费用内寻找最好解,但不保证该解的可行性与最优性,无法描述该解与最优解的近似程度。特点(与传统优化方法不同):凭直观和经验给出算法;不考虑所得解与最优解的偏离程度.25精选PPT1.3启发式算法_定义1/6启发式算法(heuristi1.3启发式算法_优点2/6

优点:(1)有可能比简化数学模型解的误差小;(2)对有些难题,计算时间可接受;(3)可用于某些最优化算法(如分支定界算法)之中的估界;(4)直观易行;(5)速度较快;(6)程序简单,易修改。26精选PPT1.3启发式算法_优点2/6优点:26精选PPT1.3启发式算法_不足3/6不足:(1)不能保证求得全局最优解;(2)解的精度不稳定,有时好有时坏;(3)算法设计与问题、设计者经验、技术有关,缺乏规律性;(4)不同算法之间难以比较。27精选PPT1.3启发式算法_不足3/6不足:27精选PPT1.3启发式算法_分类4/6(1)一步算法(2)改进算法(迭代算法)(3)数学规划算法(4)解空间松弛法

28精选PPT1.3启发式算法_分类4/6(1)一步算法28精选PPT1.3启发式算法_分类5/6(5)现代优化算法:80年代初兴起禁忌搜索(tabusearch)模拟退火(simulatedannealing)遗传算法(geneticalgorithms)神经网络(neuralnetworks)蚂蚁算法(AntAlgorithm,群体(群集)智能,SwarmIntelligence)(6)其他算法:多种启发式算法的集成.29精选PPT1.3启发式算法_分类5/6(5)现代优化算法:29精选1.3启发式算法_性能分析6/6(1)最坏情形分析(worstcaseanalysis)利用最坏实例分析计算复杂性、解的效果。(2)概率分析(probabilityanalysis)

用最坏情况分析,会因一个最坏实例影响总体评价.在实例数据服从一定概率分布情形下,研究算法复杂性和解的效果.

(3)大规模计算分析通过大量实例计算,评价算法效果.注意数据的随机性和代表性.30精选PPT1.3启发式算法_性能分析6/6(1)最坏情形分析(wo2蚁群优化算法蚁群优化算法概述蚁群优化算法概念算法模型和收敛性分析算法实现的技术问题应用参考资料31精选PPT2蚁群优化算法蚁群优化算法概述算法实现的技术问题31精选P2.1蚁群优化算法概述2.1.1起源2.1.2应用领域2.1.3研究背景2.1.4研究现状2.1.5应用现状32精选PPT2.1蚁群优化算法概述2.1.1起源32精选PPT2.1.1蚁群优化算法起源

20世纪50年代中期创立了仿生学,人们从生物进化的机理中受到启发。提出了许多用以解决复杂优化问题的新方法,如进化规划、进化策略、遗传算法等,这些算法成功地解决了一些实际问题。

20世纪90年代意大利学者M.Dorigo,V.Maniezzo,A.Colorni等从生物进化的机制中受到启发,通过模拟自然界蚂蚁搜索路径的行为,提出来一种新型的模拟进化算法——蚁群算法,是群智能理论研究领域的一种主要算法。用该方法求解TSP问题、分配问题、job-shop调度问题,取得了较好的试验结果.虽然研究时间不长,但是现在的研究显示出,蚁群算法在求解复杂优化问题(特别是离散优化问题)方面有一定优势,表明它是一种有发展前景的算法.33精选PPT2.1.1蚁群优化算法起源20世纪50年代中期创立2.1.2蚁群优化算法应用领域

这种方法能够被用于解决大多数优化问题或者能够转化为优化求解的问题。现在其应用领域已扩展到多目标优化、数据分类、数据聚类、模式识别、电信QoS管理、生物系统建模、流程规划、信号处理、机器人控制、决策支持以及仿真和系统辩识等方面,群智能理论和方法为解决这类应用问题提供了新的途径。34精选PPT2.1.2蚁群优化算法应用领域这种方法能够被用于解2.1.3蚁群优化算法研究背景1/3群智能理论研究领域有两种主要的算法:蚁群算法(AntColonyOptimization,ACO)和微粒群算法(ParticleSwarmOptimization,PSO)。前者是对蚂蚁群落食物采集过程的模拟,已成功应用于许多离散优化问题。微粒群算法也是起源于对简单社会系统的模拟,最初是模拟鸟群觅食的过程,但后来发现它是一种很好的优化工具。

35精选PPT2.1.3蚁群优化算法研究背景1/3群智能理2.1.3蚁群优化算法研究背景2/3与大多数基于梯度的应用优化算法不同,群智能依靠的是概率搜索算法。虽然概率搜索算法通常要采用较多的评价函数,但是与梯度方法及传统的演化算法相比,其优点还是显著的,主要表现在以下几个方面:1无集中控制约束,不会因个别个体的故障影响整个问题的求解,确保了系统具备更强的鲁棒性2以非直接的信息交流方式确保了系统的扩展性3并行分布式算法模型,可充分利用多处理器4对问题定义的连续性无特殊要求5算法实现简单36精选PPT2.1.3蚁群优化算法研究背景2/3与大多数基于梯度的应2.1.3蚁群优化算法研究背景3/3群智能方法易于实现,算法中仅涉及各种基本的数学操作,其数据处理过程对CPU和内存的要求也不高。而且,这种方法只需目标函数的输出值,而无需其梯度信息。已完成的群智能理论和应用方法研究证明群智能方法是一种能够有效解决大多数全局优化问题的新方法。更为重要是,群智能潜在的并行性和分布式特点为处理大量的以数据库形式存在的数据提供了技术保证。无论是从理论研究还是应用研究的角度分析,群智能理论及其应用研究都是具有重要学术意义和现实价值的。

37精选PPT2.1.3蚁群优化算法研究背景3/3群智能方法易于实2.1.4蚁群优化算法研究现状1/790年代Dorigo最早提出了蚁群优化算法---蚂蚁系统(AntSystem,AS)并将其应用于解决计算机算法学中经典的旅行商问题(TSP)。从蚂蚁系统开始,基本的蚁群算法得到了不断的发展和完善,并在TSP以及许多实际优化问题求解中进一步得到了验证。这些AS改进版本的一个共同点就是增强了蚂蚁搜索过程中对最优解的探索能力,它们之间的差异仅在于搜索控制策略方面。而且,取得了最佳结果的ACO是通过引入局部搜索算法实现的,这实际上是一些结合了标准局域搜索算法的混合型概率搜索算法,有利于提高蚁群各级系统在优化问题中的求解质量。38精选PPT2.1.4蚁群优化算法研究现状1/790年代Do2.1.4蚁群优化算法研究现状2/7最初提出的AS有三种版本:Ant-density、Ant-quantity和Ant-cycle。在Ant-density和Ant-quantity中蚂蚁在两个位置节点间每移动一次后即更新信息素,而在Ant-cycle中当所有的蚂蚁都完成了自己的行程后才对信息素进行更新,而且每个蚂蚁所释放的信息素被表达为反映相应行程质量的函数。通过与其它各种通用的启发式算法相比,在不大于75城市的TSP中,这三种基本算法的求解能力还是比较理想的,但是当问题规模扩展时,AS的解题能力大幅度下降。因此,其后的ACO研究工作主要都集中于AS性能的改进方面。较早的一种改进方法是精英策略(ElitistStrategy),其思想是在算法开始后即对所有已发现的最好路径给予额外的增强,并将随后与之对应的行程记为Tgb(全局最优行程),当进行信息素更新时,对这些行程予以加权,同时将经过这些行程的蚂蚁记为“精英”,从而增大较好行程的选择机会。这种改进型算法能够以更快的速度获得更好的解。但是若选择的精英过多则算法会由于较早的收敛于局部次优解而导致搜索的过早停滞。

39精选PPT2.1.4蚁群优化算法研究现状2/72.1.4蚁群优化算法研究现状3/7

为了进一步克服AS中暴露出的问题,提出了蚁群系统(AntColonySystem,ACS)。该系统的提出是以Ant-Q算法为基础的。Ant-Q将蚂蚁算法和一种增强型学习算法Q-learning有机的结合了起来。ACS与AS之间存在三方面的主要差异:首先,ACS采用了更为大胆的行为选择规则;其次,只增强属于全局最优解的路径上的信息素。其中,0<ρ<1是信息素挥发参数,是从寻路开始到当前为止全局最优的路径长度。40精选PPT2.1.4蚁群优化算法研究现状3/7为了进一步克服2.1.4蚁群优化算法研究现状4/7

再次,还引入了负反馈机制,每当一只蚂蚁由一个节点移动到另一个节点时,该路径上的信息素都按照如下公式被相应的消除一部分,从而实现一种信息素的局部调整,以减小已选择过的路径再次被选择的概率。

41精选PPT2.1.4蚁群优化算法研究现状4/7再次,还引入了2.1.4蚁群优化算法研究现状5/7在对AS进行直接完善的方法中,MAX-MINAntSystem是一个典型代表。该算法修改了AS的信息素更新方式,每次迭代之后只有一只蚂蚁能够进行信息素的更新以获取更好的解。为了避免搜索停滞,路径上的信息素浓度被限制在[MAX,MIN]范围内,另外,信息素的初始值被设为其取值上限,这样有助于增加算法初始阶段的搜索能力。42精选PPT2.1.4蚁群优化算法研究现状5/7在对AS进行直2.1.4蚁群优化算法研究现状6/7

另一种对AS改进的算法是Rank-basedVersionAS。与“精英策略”相似,在此算法中总是更新更好进程上的信息素,选择的标准是其行程长度决定的排序,且每个蚂蚁放置信息素的强度通过下式中的排序加权处理确定,其中,w为每次迭代后放置信息素的蚂蚁总数。

43精选PPT2.1.4蚁群优化算法研究现状6/7另一种对AS改2.1.4蚁群优化算法研究现状7/7这种算法求解TSP的能力与AS、精英策略AS、遗传算法和模拟退火算法进行了比较。在大型TSP问题中(最多包含132座城市),基于AS的算法都显示出了优于GA和SA的特性。而且在Rank-basedAS和精英策略AS均优于基本AS的同时,前者还获得了比精英策略AS更好的解。

44精选PPT2.1.4蚁群优化算法研究现状7/7这种算法求解TS2.1.5蚁群优化算法应用现状1/5随着群智能理论和应用算法研究的不断发展,研究者已尝试着将其用于各种工程优化问题,并取得了意想不到的收获。多种研究表明,群智能在离散求解空间和连续求解空间中均表现出良好的搜索效果,并在组合优化问题中表现突出。蚁群优化算法并不是旅行商问题的最佳解决方法,但是它却为解决组合优化问题提供了新思路,并很快被应用到其它组合优化问题中。比较典型的应用研究包括:网络路由优化、数据挖掘以及一些经典的组合优化问题。

45精选PPT2.1.5蚁群优化算法应用现状1/5随2.1.5蚁群优化算法应用现状2/5蚁群算法在电信路由优化中已取得了一定的应用成果。HP公司和英国电信公司在90年代中后期都开展了这方面的研究,设计了蚁群路由算法(AntColonyRouting,ACR)。每只蚂蚁就像蚁群优化算法中一样,根据它在网络上的经验与性能,动态更新路由表项。如果一只蚂蚁因为经过了网络中堵塞的路由而导致了比较大的延迟,那么就对该表项做较大的增强。同时根据信息素挥发机制实现系统的信息更新,从而抛弃过期的路由信息。这样,在当前最优路由出现拥堵现象时,ACR算法就能迅速的搜寻另一条可替代的最优路径,从而提高网络的均衡性、负荷量和利用率。目前这方面的应用研究仍在升温,因为通信网络的分布式信息结构、非稳定随机动态特性以及网络状态的异步演化与ACO的算法本质和特性非常相似。46精选PPT2.1.5蚁群优化算法应用现状2/5蚁群算法在电2.1.5蚁群优化算法应用现状3/5

基于群智能的聚类算法起源于对蚁群蚁卵的分类研究。Lumer和Faieta将Deneubourg提出将蚁巢分类模型应用于数据聚类分析。其基本思想是将待聚类数据随机地散布到一个二维平面内,然后将虚拟蚂蚁分布到这个空间内,并以随机方式移动,当一只蚂蚁遇到一个待聚类数据时即将之拾起并继续随机运动,若运动路径附近的数据与背负的数据相似性高于设置的标准则将其放置在该位置,然后继续移动,重复上述数据搬运过程。按照这样的方法可实现对相似数据的聚类。47精选PPT2.1.5蚁群优化算法应用现状3/5基于群智能的聚2.1.5蚁群优化算法应用现状4/5ACO还在许多经典组合优化问题中获得了成功的应用,如二次规划问题(QAP)、机器人路径规划、作业流程规划、图着色(GraphColoring)等问题。经过多年的发展,ACO已成为能够有效解决实际二次规划问题的几种重要算法之一。AS在作业流程计划(Job-shopScheduling)问题中的应用实例已经出现,这说明了AS在此领域的应用潜力。利用MAX-MINAS解决PAQ也取得了比较理想的效果,并通过实验中的计算数据证明采用该方法处理PAQ比较早的SA算法更好,且与禁忌搜索算法性能相当。利用ACO实现对生产流程和特料管理的综合优化,并通过与遗传、模拟退火和禁忌搜索算法的比较证明了ACO的工程应用价值。48精选PPT2.1.5蚁群优化算法应用现状4/5ACO还在许2.1.5蚁群优化算法应用现状5/5许多研究者将ACO用于了武器攻击目标分配和优化问题、车辆运行路径规划、区域性无线电频率自动分配、Bayesiannetworks的训练和集合覆盖等应用优化问题。Costa和Herz还提出了一种AS在规划问题方面的扩展应用——图着色问题,并取得了可与其他启发式算法相比的效果。49精选PPT2.1.5蚁群优化算法应用现状5/5许多研究者将A2.2蚁群优化算法概念 2.2.1蚁群算法原理2.2.2简化的蚂蚁寻食过程2.2.3自然蚁群与人工蚁群算法2.2.4蚁群算法与TSP问题2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.6一般蚁群算法的框架50精选PPT2.2蚁群优化算法概念 2.2.1蚁群算法原理50精选P2.2.1蚁群算法原理

蚁群算法是对自然界蚂蚁的寻径方式进行模似而得出的一种仿生算法。蚂蚁在运动过程中,能够在它所经过的路径上留下一种称之为外激素(pheromone)的物质进行信息传递,而且蚂蚁在运动过程中能够感知这种物质,并以此指导自己的运动方向,因此由大量蚂蚁组成的蚁群集体行为便表现出一种信息正反馈现象:某一路径上走过的蚂蚁越多,则后来者选择该路径的概率就越大。为了说明蚁群算法的原理,先简要介绍一下蚂蚁搜寻食物的具体过程。在蚁群寻找食物时,它们总能找到一条从食物到巢穴之间的最优路径。这是因为蚂蚁在寻找路径时会在路径上释放出一种特殊的信息素。当它们碰到一个还没有走过的路口时.就随机地挑选一条路径前行。与此同时释放出与路径长度有关的信息素。路径越长,释放的激索浓度越低.当后来的蚂蚁再次碰到这个路口的时候.选择激素浓度较高路径概率就会相对较大。这样形成一个正反馈。最优路径上的激索浓度越来越大.而其它的路径上激素浓度却会随着时间的流逝而消减。最终整个蚁群会找出最优路径。51精选PPT2.2.1蚁群算法原理蚁群算法是对自然2.2.2简化的蚂蚁寻食过程1/3蚂蚁从A点出发,速度相同,食物在D点,可能随机选择路线ABD或ACD。假设初始时每条分配路线一只蚂蚁,每个时间单位行走一步,本图为经过9个时间单位时的情形:走ABD的蚂蚁到达终点,而走ACD的蚂蚁刚好走到C点,为一半路程。52精选PPT2.2.2简化的蚂蚁寻食过程1/3蚂蚁从A点出发,速度相2.2.2

简化的蚂蚁寻食过程2/3本图为从开始算起,经过18个时间单位时的情形:走ABD的蚂蚁到达终点后得到食物又返回了起点A,而走ACD的蚂蚁刚好走到D点。53精选PPT2.2.2简化的蚂蚁寻食过程2/3本图为从开始算起,经过2.2.2简化的蚂蚁寻食过程3/3

假设蚂蚁每经过一处所留下的信息素为一个单位,则经过36个时间单位后,所有开始一起出发的蚂蚁都经过不同路径从D点取得了食物,此时ABD的路线往返了2趟,每一处的信息素为4个单位,而ACD的路线往返了一趟,每一处的信息素为2个单位,其比值为2:1。寻找食物的过程继续进行,则按信息素的指导,蚁群在ABD路线上增派一只蚂蚁(共2只),而ACD路线上仍然为一只蚂蚁。再经过36个时间单位后,两条线路上的信息素单位积累为12和4,比值为3:1。若按以上规则继续,蚁群在ABD路线上再增派一只蚂蚁(共3只),而ACD路线上仍然为一只蚂蚁。再经过36个时间单位后,两条线路上的信息素单位积累为24和6,比值为4:1。若继续进行,则按信息素的指导,最终所有的蚂蚁会放弃ACD路线,而都选择ABD路线。这也就是前面所提到的正反馈效应。54精选PPT2.2.2简化的蚂蚁寻食过程3/3假2.2.3自然蚁群与人工蚁群算法基于以上蚁群寻找食物时的最优路径选择问题,可以构造人工蚁群,来解决最优化问题,如TSP问题。人工蚁群中把具有简单功能的工作单元看作蚂蚁。二者的相似之处在于都是优先选择信息素浓度大的路径。较短路径的信息素浓度高,所以能够最终被所有蚂蚁选择,也就是最终的优化结果。两者的区别在于人工蚁群有一定的记忆能力,能够记忆已经访问过的节点。同时,人工蚁群再选择下一条路径的时候是按一定算法规律有意识地寻找最短路径,而不是盲目的。例如在TSP问题中,可以预先知道当前城市到下一个目的地的距离。55精选PPT2.2.3自然蚁群与人工蚁群算法基于以上蚁群寻2.2.4蚁群算法与TSP问题1/3TSP问题表示为一个N个城市的有向图G=(N,A),其中 城市之间距离目标函数为,其中为城市1,2,…n的一个排列,。56精选PPT2.2.4蚁群算法与TSP问题1/3TSP问题表示为一个2.2.4蚁群算法与TSP问题2/3

TSP问题的人工蚁群算法中,假设m只蚂蚁在图的相邻节点间移动,从而协作异步地得到问题的解。每只蚂蚁的一步转移概率由图中的每条边上的两类参数决定:1信息素值也称信息素痕迹。2可见度,即先验值。信息素的更新方式有2种,一是挥发,也就是所有路径上的信息素以一定的比率进行减少,模拟自然蚁群的信息素随时间挥发的过程;二是增强,给评价值“好”(有蚂蚁走过)的边增加信息素。57精选PPT2.2.4蚁群算法与TSP问题2/32.2.4蚁群算法与TSP问题3/3蚂蚁向下一个目标的运动是通过一个随机原则来实现的,也就是运用当前所在节点存储的信息,计算出下一步可达节点的概率,并按此概率实现一步移动,逐此往复,越来越接近最优解。蚂蚁在寻找过程中,或者找到一个解后,会评估该解或解的一部分的优化程度,并把评价信息保存在相关连接的信息素中。58精选PPT2.2.4蚁群算法与TSP问题3/32.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)1/12初始的蚁群算法是基于图的蚁群算法,graph-basedantsystem,简称为GBAS,是由GutjahrWJ在2000年的FutureGenerationComputingSystems提出的,课本的参考文献2。算法步骤如下:STEP0

对n个城市的TSP问题,城市间的距离矩阵为,给TSP图中的每一条弧赋信息素初值,假设m只蚂蚁在工作,所有蚂蚁都从同一城市出发。当前最好解是 。59精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2/12STEP1

(外循环)如果满足算法的停止规则,则停止计算并输出计算得到的最好解。否则使蚂蚁s从起点出发,用表示蚂蚁s行走的城市集合,初始为空集,。STEP2(内循环)按蚂蚁的顺序分别计算。当蚂蚁在城市i,若 完成第s只蚂蚁的计算。否则,若,则以概率 , 到达j, ;若则到达 重复STEP2。60精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)3/12STRP3

对 ,若,按中城市的顺序计算路径程度;若,路径长度置为一个无穷大值(即不可达)。比较m只蚂蚁中的路径长度,记走最短路径的蚂蚁为t。若,则。用如下公式对W路径上的信息素痕迹加强,对其他路径上的信息素进行挥发。得到新的,重复步骤STEP1。61精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)4/12在STEP3

中,挥发因子对于一个固定的,满足并且

经过k次挥发,非最优路径的信息素逐渐减少至消失。62精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)5/12以上算法中,在蚂蚁的搜寻过程中,以信息素的概率分布来决定从城市i到城市j的转移。算法中包括信息素更新的过程

1信息素挥发(evaporation)信息素痕迹的挥发过程是每个连接上的信息素痕迹的浓度自动逐渐减弱的过程,由表示,这个挥发过程主要用于避免算法过快地向局部最优区域集中,有助于搜索区域的扩展。

2信息素增强(reinforcement)增强过程是蚁群优化算法中可选的部分,称为离线更新方式(还有在线更新方式)。这种方式可以实现由单个蚂蚁无法实现的集中行动。也就是说,增强过程体现在观察蚁群(m只蚂蚁)中每只蚂蚁所找到的路径,并选择其中最优路径上的弧进行信息素的增强,挥发过程是所有弧都进行的,不于蚂蚁数量相关。这种增强过程中进行的信息素更新称为离线的信息素更新。在STEP3中,蚁群永远记忆到目前为止的最优解。63精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)图的蚁群系统(GBAS)6/12可以验证,下式满足:即是一个随机矩阵。四个城市的非对称TSP问题,距离矩阵和城市图示如下:64精选PPT图的蚁群系统(GBAS)6/12可以验证,下式满足:四个城2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)7/12假设共4只蚂蚁,所有蚂蚁都从城市A出发,挥发因子。此时,观察GBAS的计算过程。矩阵共有12条弧,初始信息素记忆矩阵为:65精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)8/12执行GBAS算法的步骤2,假设蚂蚁的行走路线分别为:当前最优解为,这个解是截止到当前的最优解,碰巧是实际最优解66精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)9/12按算法步骤3的信息素更新规则,得到更新矩阵这是第一次外循环结束的状态。67精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)10/12重复外循环,由于上一次得到的W2已经是全局最优解,因此按算法步骤3的信息素更新规则,无论蚂蚁如何行走,都只是对W2路线上的城市信息素进行增强,其他的城市信息素进行挥发。得到更新矩阵这是第一次外循环结束的状态。68精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)11/12重复外循环,由于W2全局最优解,GBAS只记录第一个最优解,因此一但得到了全局最优解,信息素的更新将不再依赖于以群的行走路线,而只是不断增强最优路线的信息素,同时进行挥发。第三次外循环后得到的信息素矩阵为:69精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)12/12蚂蚁以一定的概率从城市i到城市j进行转移,信息素的更新在STEP3完成,并随K而变化。假设第K次外循环后得到信息素矩阵,得到当前最优解。第K次循环前的信息素和最优解为,经过第K次外循环后,得到。由于蚂蚁的一步转移概率是随机的,从到也是随机的,是一个马尔可夫过程。70精选PPT2.2.5初始的蚁群优化算法—基于图的蚁群系统(GBAS)2.2.6一般蚁群算法的框架一般蚁群算法的框架和GBAS基本相同,有三个组成部分:蚁群的活动;信息素的挥发;信息素的增强;主要体现在前面的算法中步骤2和步骤3中的转移概率公式和信息素更新公式。71精选PPT2.2.6一般蚁群算法的框架一般蚁群算法的框架和GBAS基2.3蚁群优化算法—算法模型和收敛性分析2.3.0马氏过程的收敛定义2.3.1GBAS算法的收敛性分析2.3.2其他算法及收敛性分析72精选PPT2.3蚁群优化算法—算法模型和收敛性分析2.3.0马氏过2.3.0马氏过程的收敛定义蚁群优化算法的每步迭代对应随机变量其中为信息素痕迹;为n城市的一个排列,最多有个状态。第s只蚂蚁在第k轮转移只由决定,这个蚂蚁行走的路径和一起,共同决定了,再通过信息素的更新原则可以进一步得到。的变化仅由决定,而与先前的状态无关,这是一个典型的马尔可夫过程。

定义:若一个马尔可夫过程,对任意给定的满足

则称马尔可夫过程依概率1收敛到。73精选PPT2.3.0马氏过程的收敛定义蚁群优化算法的每步迭代对2.3.1GBAS算法的收敛性分析1/8

定理满足指定条件的马尔可夫过程依概率1收敛到,其中为一条最优路径,定义为:

证明分析:蚁群算法中,一但达到全局最优,由只记录第一个最优解.证明分三部分:证明以概率1达到一个最优路径证明(1)上式成立证明以概率1收敛到一个最优路径74精选PPT2.3.1GBAS算法的收敛性分析1/8定理满2.3.1GBAS算法的收敛性分析2/8证明以概率1到达一个最优路径对于最优路径,令为蚁群中的一个蚂蚁在第k次外循环后第一次走到最优路径的事件.表示仅第k次外循环没有走到的事件,但前k-1次可能走到过这条最优路径.永远不会被走到的事件为,其概率为:75精选PPT2.3.1GBAS算法的收敛性分析2/8证明以概率1到达2.3.1GBAS算法的收敛性分析3/8任意给定的固定弧(i,j),在第k次循环后,其信息素值的下界可以计算出.76精选PPT2.3.1GBAS算法的收敛性分析3/8任意给定2.3.1GBAS算法的收敛性分析4/8令 ,任何一个固定节点最多有(n-1)后续节点,并且其弧上的信息素值都小于1或者等于1.得:蚁群中的一只蚂蚁在第次循环走到路径W*的概率为一个蚁群中至少有一只蚂蚁,因此这是一个蚁群到达最优路径的一个下界.上式右侧与k无关,77精选PPT2.3.1GBAS算法的收敛性分析4/8令 ,任何2.3.1GBAS算法的收敛性分析5/8

则取对数有从而得到78精选PPT2.3.1GBAS算法的收敛性分析5/878精选PPT2.3.1GBAS算法的收敛性分析6/8证明右式成立随机过程以概率1达到一条最优路径.当某条最优路径Z在第k次循环被首次走到后,在第k+1轮循环按信息素的更新原则,可以用归纳法证明,对于任意79精选PPT2.3.1GBAS算法的收敛性分析6/8证明右式成2.3.1GBAS算法的收敛性分析7/8由于级数是发散的,可知.因此,当时,在第K轮迭代之后,该弧永远不再被加强,从而有也既弧上的信息素之和将趋于0.对于信息素的更新公式(2),可以归纳证明(6)式的第二项与(i,j)弧无关,结合(7)式可得的极限存在,且所有的极限之和为1.对于所有的80精选PPT2.3.1GBAS算法的收敛性分析7/8由于级数2.3.1GBAS算法的收敛性分析8/8结合前两部分讨论,当Xn首次到达最优路径后,对于任何最优路径上的弧,(1)式的转移概率,即依概率1收敛到 .81精选PPT2.3.1GBAS算法的收敛性分析8/8结合前两部2.3.2其他算法及收敛性分析1/4MAX-MIN蚁群优化算法指定挥发系数不随时间变化,这是和GBAS算法不同的一点,改变了信息素挥发和增强的规则(9式),同时给出一个下界控制信息素的挥发.

定理在MAX-MIN算法中,82精选PPT2.3.2其他算法及收敛性分析1/4MAX-MI2.3.2其他算法及收敛性分析2/483精选PPT2.3.2其他算法及收敛性分析2/483精选PPT2.3.2其他算法及收敛性分析3/484精选PPT2.3.2其他算法及收敛性分析3/484精选PPT2.3.2其他算法及收敛性分析4/485精选PPT2.3.2其他算法及收敛性分析4/485精选PPT2.4蚁群优化算法—技术问题4.1解的表达形式与算法的实现4.2每一节点的记忆信息和系数的确定4.3蚁群的规模和停止规则4.4信息素的更改86精选PPT2.4蚁群优化算法—技术问题4.1解的表达形式与算法的2.4.1解的表达形式与算法的实现1/4

----解的表达形式解的表达形式基于TSP问题的蚁群优化算法,其解的形式是所有城市的一个排列(闭圈,这种情况下谁在第一并不重要),信息素痕迹按每个弧记录。而对于一般以顺序作为解的优化问题,谁在第一是很重要的。蚁群算法在解决这类问题时,只需要建立一个虚拟的始终点,就可以把TSP问题的解法推广,用于诸多的优化问题。诸如车间作业及下料等问题,他们的共同特点是解以一个顺序表示。TSP问题寻找的是最短回路,而一般优化问题中,STEP3中的判断条件需要根据实际问题进行修改。87精选PPT2.4.1解的表达形式与算法的实现1/4

----解的2.4.1解的表达形式与算法的实现2/4

----算法的实现例:0-1背包问题的解顺序表达形式与算法实现。设有一个容积为b的背包,n个尺寸分别为,价值分别为的物品,0-1背包问题的数学模型为:假设其解的顺序表达形式为,其中为的一个排列。88精选PPT2.4.1解的表达形式与算法的实现2/4

----算法2.4.1解的表达形式与算法的实现3/4

----算法的实现建立有向图,其中A中共有条弧。初始信息素痕迹定义为。设第s只蚂蚁第k步所走的路线为,表示蚂蚁从0点出发,顺序到达。第步按TSP算法的转移概率公式行走选择。若则,否则,此蚂蚁不再继续行走,退回起点。89精选PPT2.4.1解的表达形式与算法的实现3/4

----算2.4.1解的表达形式与算法的实现4/4----算法的实现对蚁群重复以上过程,比较m只蚂蚁的装包值 并记忆具有最大装包值的蚂蚁为t。把GBAS算法中步骤3中的改为,若满足此条件则替换当前最好解为,对W上的弧进行信息素的加强,其他弧进行信息素的挥发。算法中记录了三个信息:信息素痕迹;行走路线;和问题的约束条件 ,以确定是否将加入。90精选PPT2.4.1解的表达形式与算法的实现4/4----算法的实2.4.2每一节点的记忆信息和系数的确定----需要记忆的信息1/3算法中需要记忆的信息有三部分。第一部分信息是存在每个节点的路由表数据结构,由此决定的的转移概率为其中T可以看成节点i的邻域。91精选PPT2.4.2每一节点的记忆信息和系数的确定----需要记忆的2.4.2每一节点的记忆信息和系数的确定----需要记忆的信息2/3第二部分需要记忆的信息是每个蚂蚁的记忆表中存储着的自身的历史信息,这一部分主要由算法的中的记忆,表示蚂蚁已经行走过的节点。第三部分为问题的约束条件。在GBAS中,T集合表示满足约束条件的候选集,在背包问题的蚁群算法中由判别条件, 来实现记

忆功能。92精选PPT2.4.2每一节点的记忆信息和系数的确定----需要记忆的2.4.2每一节点的记忆信息和系数的确定----系数的确定3/3

残留信息的相对重要程度和预见值的相对重要程度体现了相关信息痕迹和预见度对蚂蚁决策的相对影响。Dorigo在求解TSP问题时,推荐参数的最佳设置为:。93精选PPT2.4.2每一节点的记忆信息和系数的确定----系数的确定2.4.3蚁群的规模和停止规则一、蚁群大小一般情况下蚁群中蚂蚁的个数不超过TSP图中节点的个数。二、终止条件1给定一个外循环的最大数目,表明已经有足够的蚂蚁工作;2当前最优解连续K次相同而停止,其中K是一个给定的整数,表示算法已经收敛,不再需要继续;3目标值控制规则,给定优化问题(目标最小化)的一个下界和一个误差值,当算法得到的目标值同下界之差小于给定的误差值时,算法终止。94精选PPT2.4.3蚁群的规模和停止规则一、蚁群大小一般情况下蚁2.4.4信息素的更改1/6信息素的更新分为离线和在线两种方式。离线方式(同步更新方式)的主要思想是在若干只蚂蚁完成n个城市的访问后,统一对残留信息进行更新处理。信息素的在线更新(异步更新方式)即蚂蚁每行走一步,立即回溯并且更新行走路径上的信息素。95精选PPT2.4.4信息素的更改1/6信息素的更新分为离线和2.4.4信息素的更改2/6离线方式的信息素更新可以进一步分为单蚂蚁离线更新和蚁群离线更新。蚁群离线更新方式是在蚁群中的m只蚂蚁全部完成n城市的访问(第k-1次蚁群循环)后,统一对残留信息进行更新处理。其中,为第k-1次循环后的的信息素的痕迹值。单蚂蚁离线更新是在第s只蚂蚁完成对所有n个城市的访问后,进行路径回溯,更新行走路径上的信息素,同时释放分配给它的资源。更新公式为第s+1只蚂蚁根据重新计算路由表。

96精选PPT2.4.4信息素的更改2/6离线方式的信息素更新2.4.4信息素的更改3/6TSP问题中,蚁群优化算法根据信息素痕迹更新方式不同可以分为不同的算法,采用离线方式,并且时,其中W为t循环中m只蚂蚁所行走的最佳路线或第t只蚂蚁所行走的一条路径。Q为一个常数,该算法名为蚁环算法(ant-cyclealgotithm),特点是行走的路径越短对应保存的信息素的值就越大。97精选PPT2.4.4信息素的更改3/6TSP问题中,蚁群优化算法根2.4.4信息素的更改4/6

GBAS算法是典型的离线信息素更新方式。该算法中,蚁群中蚂蚁的先后出行顺序没有相关性,但是每次循环需要记忆m只蚂蚁的行走路径,以进行比较选择最优路径。相对而言,单蚂蚁离线更新方式记忆信息少,只需要记忆第s只蚂蚁的路径,并通过信息素更新后,释放该蚂蚁的所有记录信息。实际上这种方式等价于蚁群离线方式中只有一只蚂蚁。98精选PPT2.4.4信息素的更改4/6GBAS算法是典型的离2.4.4信息素的更改5/6与单蚂蚁离线更新方式相比,信息量记忆更小的是信息素在线更新方式,即蚂蚁每走一步,马上回溯并且更新刚刚走过的路径上的信息素,其规则为其中,k为蚂蚁行走的第k步。99精选PPT2.4.4信息素的更改5/6与单蚂蚁离线更新方式相2.4.4信息素的更改6/6

蚁量算法(ant-quantityalgorithm)的信息素更新为,Q为常量,表示i到j的距离,这样信息浓度会随城市距离的减小而加大。蚁密算法(ant-densityalgorithm)信息素更新为。以上三种算法中,蚁环算法效果最好,因为他用的是全局信息,而其余两种算法用的是局部信息。蚁环离线更新方法很好地保证了残留信息不至于无限积累,非最优路径会逐渐随时间推移被忘记。100精选PPT2.4.4信息素的更改6/6蚁量算法(ant-quan2.5应用1/52.5.1光网络的智能管理分布式动态选路及波长分配(RWA,RoutingandWavelengthAssignment)是指在实时业务情况下光通路的路由选择和波长分配的优化问题,是实现自动交换光网络(ASON,AutomaticallySwitchedOpticalNetwork)的关键技术之一。研究RWA问题的目的是尽可能减少所需要的波长数和降低光路连接请求的阻塞率。由于RWA问题是NP-C问题,文献中大多将RWA问题拆分成路由和波长分配两个子问题分别加以解决。但是,由于RWA问题本身是一个不可分割的整体,把RWA分开考虑必然造成难以得到全局最优解的后果。101精选PPT2.5应用1/52.5.1光网络的智能管理101精选P2.5应用2/5同时,分布式的计算方式则克服了传统集中式算法可扩展性差的缺点,更适应现代频繁变化的大型光网络。因此,近年来国内外对RWA并行的分布式算法表现出极大的兴趣,此类算法建立的基础是分层图模型。

用蚁群算法在分层图模型的基础上求解动态RWA问题。基于蚂蚁“信息素表”来完成局部信息的刷新计算。以分布的形式做少量的计算来刷新全局路由选择信息。参考文献:

基于蚁群系统的分布式RWA算法研究孙海金,朱娜,周乃富2005年第2期光通信研究102精选PPT2.5应用2/5同时,分布式的计算方式则克服了传统2.5应用3/52.5.2蚁群算法用于计算机网络路由参考文献:计算机网络中的组播路由算法谢银祥

103精选PPT2.5应用3/52.5.2蚁群算法用于计算机网络路由102.5应用4/5104精选PPT2.5应用4/5104精选PPT2.5应用5/52.5.3蚁群算法用于聚类(蚁群蚁卵分类)思想:把待聚类的数据随机散布在一个平面上,放置若干只虚拟蚂蚁使其在平面上随机运动。当一只蚂蚁遇到一个数据时即拾起并继续行走,在行走过程中,如果遇到附近的数据与背负的数据相似性高于设置的标准时则将数据放置在该位置,继续移动。重复以上过程即可实现数据聚类。105精选PPT2.5应用5/52.5.3蚁群算法用于聚类(蚁群蚁卵分类2.6蚁群优化算法—参考书1智能蚁群算法及应用吴启迪上海科技出版社从基本结构、算法特点、改进方法、突破途径、实现模式及应用模式等方面进行了论述。主要内容有蚁群算法的由来、研究成果、应用综述、算法的具体描述及改进、算法的典型优化问题求解模式、算法的典型应用及拓展应用。106精选PPT2.6蚁群优化算法—参考书1智能蚁群算法及应用吴启迪2.6蚁群优化算法—参考书2蚁群算法及其应用李士勇哈工大出版社国内首部蚁群算法的专著,系统地阐述蚁群算法的基本原理、基本蚁群算法及改进算法,蚁群算法与遗传、免疫算法的融合,自适应蚁群算法,并行蚁群算法,蚁群算法的收敛性与理论模型及其在优化问题中的应用。本书可供人工智能、计算机科学、信息科学、控制工程、管理工程、交通工程、网络工程、智能优化算法及智能自动化等领域的广大师生和科技人员学习及参考。107精选PPT2.6蚁群优化算法—参考书2蚁群算法及其应用李士勇2.6蚁群优化算法—参考文献题目:群智能理论及应用电子学报,2003年S1期

【作者】彭喜元彭宇戴毓丰【关键词】群智能微粒群算法蚁群算法优化算法108精选PPT2.6蚁群优化算法—参考文献题目:群智能理论及应用108精That’sall.Thanks.Thanks109精选PPTThat’sall.Thanks.Thanks109精内容一、启发式方法概述二、蚁群优化算法110精选PPT内容一、启发式方法概述1精选PPT背景传统实际问题的特点连续性问题——主要以微积分为基础,且问题规模较小传统的优化方法追求准确——精确解理论的完美——结果漂亮主要方法:线性与非线性规划、动态规划、多目标规划、整数规划等;排队论、库存论、对策论、决策论等。传统的评价方法算法收敛性(从极限角度考虑)收敛速度(线性、超线性、二次收敛等)111精选PPT背景传统实际问题的特点2精选PPT传统运筹学面临新挑战现代问题的特点离散性问题——主要以组合优化(针对离散问题,定义见后)理论为基础不确定性问题——随机性数学模型半结构或非结构化的问题——计算机模拟、决策支持系统大规模问题——并行计算、大型分解理论、近似理论现代优化方法追求满意——近似解实用性强——解决实际问题现代优化算法的评价方法算法复杂性112精选PPT传统运筹学面临新挑战现代问题的特点3精选PPT现代优化(启发式)方法种类禁忌搜索(tabusearch)模拟退火(simulatedannealing)遗传算法(geneticalgorithms)神经网络(neuralnetworks)蚁群算法(群体(群集)智能,SwarmIntelligence)拉格朗日松弛算法(lagrangeanrelaxation)113精选PPT现代优化(启发式)方法种类禁忌搜索(tabusearch)1现代优化计算方法概述1.1组合优化问题1.2计算复杂性的概念1.3启发式算法114精选PPT1现代优化计算方法概述1.1组合优化问题5精选PPT1.1组合优化问题1/8组合优化(combinatorialoptimization):解决离散问题的优化问题——运筹学分支。通过数学方法的研究去寻找离散事件的最优编排、分组、次序或筛选等,可以涉及信息技术、经济管理、工业工程、交通运输和通信网络等许多方面。数学模型:115精选PPT1.1组合优化问题1/8组合优化(combina1.1组合优化问题2/8组合优化问题的三参数表示:

116精选PPT1.1组合优化问题2/8组合优化问题的三参数表示:7精选1.1组合优化问题3/8例10-1背包问题(0-1knapsackproblem)117精选PPT1.1组合优化问题3/8例10-1背包问题(0-11.1组合优化问题4/8118精选PPT1.1组合优化问题4/89精选PPT1.1组合优化问题5/8例2旅行商问题(TSP,travelingsalesmanproblem)管梅谷教授1960年首先提出,国际上称之为中国邮递员问题。问题描述:一商人去n个城市销货,所有城市走一遍再回到起点,使所走路程最短。119精选PPT1.1组合优化问题5/8例2旅行商问题(TSP,tra1.1组合优化问题6/8120精选PPT1.1组合优化问题6/811精选PPT1.1组合优化问题7/8例3装箱问题(binpacking)尺寸为1的箱子有若干个,怎样用最少的箱子装下n个尺寸不超过1的物品,物品集合为:。

121精选PPT1.1组合优化问题7/8例3装箱问题(binpac1.1组合优化问题8/8122精选PPT1.1组合优化问题8/813精选PPT1.2计算复杂性的概念1/11评价算法的好坏——计算时间的多少、解的偏离程度例非对称距离TSP问题的算法实现:所有路径枚举。计算时间:n个城市,固定1个为起终点需要(n-1)!个枚举,设计算机1秒能完成24个城市的枚举,则城市数与计算时间的关系如下表:123精选PPT1.2计算复杂性的概念1/11评价算法的好坏——计算时间1.2计算复杂性的概念2/11随城市增多,计算时间增加很快。到31个城市时,要计算325年。描述算法的好坏——计算复杂性——讨论计算时间与问题规模之间的关系。以目前二进制计算机中的存储和计算为基础,以理论的形式系统描述,是评估算法性能的基础。124精选PPT1.2计算复杂性的概念2/11随城市增多,计算时间增加很1.2计算复杂性的概念3/11问题(problem):要回答的一般性提问,通常含有若干个满足一定条件的参数(或自由变量)。可以从两方面描述:(1)对所有参数的一般性描述;(2)答案(或解)必须满足的性质。实例(instance):给问题的所有参数指定具体值,得到问题的一个实例。这些具体值称为数据;这些数据输入计算机所占的空间称为实例的长度(size).125精选PPT1.2计算复杂性的概念3/11问题(problem):要1.2计算复杂性的概念4/11一类最优化问题是由一些类似的具体问题(实例)组成的,每一个具体问题可表达成二元组(F,C).F为可行解集合;C是费用函数,是由F到R(实数集)的映像。问题是在F中找到一个点f*,使对F中任意的f,有C(f*)C(f),称f*为这一具体问题的最优解(或全局最优解).126精选PPT1.2计算复杂性的概念4/11一类最优化问题是由一些1.2计算复杂性的概念5/11算法计算量的度量:加、减、乘、除、比较的总运算次数与实例的计算机计算时的二进制输入数据的大小关系。正整数x的二进制位数是:(整数到二进制的转换)

127精选PPT1.2计算复杂性的概念5/11算法计算量的度量:18精选1.2计算复杂性的概念6/11算法计算量的度量之例——TSP枚举法计算量的统计:128精选PPT1.2计算复杂性的概念6/11算法计算量的度量之例——T1.2计算复杂性的概念7/11实例的输入长度:实例的输入长度是n的多项式函数枚举法的基本计算量是n的阶乘函数,随n的增加,比指数函数增加得还快.129精选PPT1.2计算复杂性的概念7/11实例的输入长度:实例的输入1.2计算复杂性的概念8/11130精选PPT1.2计算复杂性的概念8/1121精选PPT1.2计算复杂性的概念9/11定义多项式算法给定问题P,算法A,对一个实例I,存在多项式函数g(x),使(XX)成立,称算法A对实例I是多项式算法;若存在多项式函数g(x),使(XX)对问题P的任意实例I都成立,称算法A为解决该问题P的多项式算法.当g(x)为指数函数时,称A为P的指数时间算法。131精选PPT1.2计算复杂性的概念9/11定义多项式算法22精选P1.2计算复杂性的概念10/11利用复杂性分析对组合优化问题归类。定义多项式问题给定一个组合优化问题,若存在一个多项式算法,称该问题为多项式时间可解问题,或简称多项式问题(或P问题).所有多项式问题的集合记为P.例:线性规划是否为多项式问题?132精选PPT1.2计算复杂性的概念10/11利用复杂性分析对组合优化1.2计算复杂性参考书11/11计算复杂性,

作者:Christos,Papadimitriou

清华大学出版社,2004年9月第1版计算复杂性导论,作者:堵丁柱等,高等教育出版社,2002年8月第1版

133精选PPT1.2计算复杂性参考书11/11计算复杂性,作者:Ch1.3启发式算法_定义1/6启发式算法(heuristicalgorithm)定义1.基于直观或经验构造的算法,在可接受的花费(时间、空间)下,给出待解组合优化问题的每个实例的一个可行解,该可行解与最优解偏差事先不一定可以预计.定义2.启发式算法是一种技术,在可接受的计算费用内寻找最好解,但不保证该解的可行性与最优性,无法描述该解与最优解的近似程度。特点(与传统优化方法不同):凭直观和经验给出算法;不考虑所得解与最优解的偏离程度.134精选PPT1.3启发式算法_定义1/6启发式算法(heuristi1.3启发式算法_优点2/6

优点:(1)有可能比简化数学模型解的误差小;(2)对有些难题,计算时间可接受;(3)可用于某些最优化算法(如分支定界算法)之中的估界;(4)直观易行;(5)速度较快;(6)程序简单,易修改。135精选PPT1.3启发式算法_优点2/6优点:26精选PPT1.3启发式算法_不足3/6不足:(1

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论