热动力学演化算法及其进展

热动力学演化算法及其进展第1页，课件共29页，创作于2023年2月内容提要群智能算法研究的关键问题热力学与统计力学动力系统与最优控制热动力学算法框架自由能极小与热力学替换规则与粒子群算法的融合总结与展望第2页，课件共29页，创作于2023年2月群智能算法研究的关键问题回顾——早期遗传算法以及相关演化算法优点：自组织、自适应、普适性理论：隐含并行、基因块（建筑块）假设、依概率收敛—基于SGA的论证缺点：过早收敛、适应值平台、欺骗性问题症结：选择压力与种群多样性的关系解决方法：从线性选择策略到非线性选择策略适应值变换、锦标赛竞争选择、Boltzmann竞争选择、μ+λ选择减缓选择压力，保持种群多样性第3页，课件共29页，创作于2023年2月现代——启发式群智能算法：粒子群优化、差分进化、分布估计算法优点：实现简单、普适性强、快速收敛、精度高理论：动力学分析方法缺点：过早收敛、局部搜索症结：种群多样性与局部搜索、广域探测与局部开采解决方法：2E（Exploration&Exploitation)权衡

增强搜索潜力，保持种群多样性第4页，课件共29页，创作于2023年2月热力学与统计力学研究对象-大量粒子组成的系统热现象和力的宏观关系-热力学从粒子运动研究宏观关系-统计力学基于宏观观测、实验的唯象分析基于运动定律、假设的统计分析系统的热力学性质两个方面相辅相成封闭系统：能量交换孤立系统：与世隔绝开放系统：充分交换第5页，课件共29页，创作于2023年2月基本定律热力学第一定律系统内能的变化等于其从环境传递的热量与对外所作的功之差：dE=δQ-δA，或δQ=dE

+δA，即系统吸收的热量等于系统内能的增加与系统对外做功之和，对孤立系统dE=0，或E=恒量

——能量守恒定律热力学第二定律不可逆性—两个典型的现象——t以-t代换得到不同的方程

T-温度，λ-热传导系数：Fourier定律

C-浓度，D-浓度扩散系数

：Fick定律

Kelvin表述：不能从单一热源中取热使之完全变为有用的功而不产生任何其它影响

Clausius表述：不可能把热从低温物体传到高温物体而不产生其它影响不可逆性，能量的耗散特性第6页，课件共29页，创作于2023年2月熵与平衡态熵的概念系统吸收热能除以温度所得的商，标志热转化为功的程度d

S=δQ/T，严格地讲应分为两部分：d

S=diS+deSdiS≥0，称为熵产生项，由系统内的热运动决定deS可正可负，称为熵流项，由系统与外界环境的相互作用决定孤立系统有d

S≥0，但封闭系统和开放系统则不一定熵的统计力学解释

系统的一个宏观态对应着大量的微观态，一个微观态称为系统的一种实现，实现的总数称作容配数W，则有熵

S=klnW——著名的Boltzmann公式

k称为Boltzmann常数系统的平衡态对应的容配数W最多，熵最大第7页，课件共29页，创作于2023年2月熵与序孤立系统的自发过程是熵增加的过程，最终发展到一个宏观静止的平衡态，熵达到最大值平衡态是一个最无序的状态系统的熵值反映系统的有序程度，系统的熵值越小，它越是有序，呈现某种结构；系统的熵值越大，它越是无序，难以发现其结构系统总是力图自发地从熵值较小的状态向熵值较大（即从有序走向无序）的状态转变，即孤立系统的“熵值增大原理”第8页，课件共29页，创作于2023年2月信息熵自信息描述了事件集X中一个事件i出现给出的信息量，整个集X的平均信息量是该集所有事件自信息的统计平均值（数学期望），称作集X的熵pi表示件i事发生的概率H（X）度量了集X中各个事件未出现时所呈现的平均不确定性，也度量了集X中一个事件出现时所给出的平均信息量第9页，课件共29页，创作于2023年2月自由能极小定律等温下的封闭热力学系统遵循自由能极小定律对于与周围环境交换热量而温度保持不变的封闭系统,系统状态的自发变化总是朝着自由能减少的方向进行,当自由能达到最小值时系统达到平衡态系统的自由能

F＝E–TS能量减少与熵增加均可导致自由能减少,两者均有利于系统的自发变化任一恒定温度下,系统从非平衡态自发变化到平衡态的过程,都是能量与熵两者竞争的结果而温度则决定着竞争过程中能量与熵的相对权重：高温时熵占统治地位；低温时能量占统治地位能量温度熵第10页，课件共29页，创作于2023年2月热力学系统与群智能算法热力学系统算法若干粒子组成热力学系统若干个体组成进化种群系统的能量种群的负平均适应值，与开发能力相关系统的热力学熵种群的多样性，与探索能力相关系统的温度权重控制参数T能量和熵的竞争“开发能力”与“探索能力”的适当平衡恒定温度下系统朝着自由能减少的方向自发变化给定权重T下驱动种群向自由能减少的方向演化“徐徐”降温给定权重T下种群充分演化后缓慢衰减T值第11页，课件共29页，创作于2023年2月动力系统与最优控制第12页，课件共29页，创作于2023年2月TDEA通过模拟自由能极小定律实现种群中能量和熵之间的竞争机制，从而达到定量协调算法探索能力和开发能力之间的均衡，随T递减缓慢降低自由能从N个父个体和M个子个体中挑选出N个个体组成下一代种群,使其具有的自由能最小热动力学算法框架第13页，课件共29页，创作于2023年2月两个最关键问题如何定义熵——度量种群多样性基因熵（Mori,1995）网格熵（胡婷,2005）等级熵（应伟勤，2007）如何设计热力学替换规则——种群自由能下降贪婪热力学替换规则（Mori,1995）分量热力学替换规则（应伟勤，2007）第14页，课件共29页，创作于2023年2月种群的基因熵Mori在实现TDGA时采用基因熵来度量种群的基因多样性，基因熵等于种群每个基因座上的信息熵的合计值优点：很直观，易于实现缺点：只适用于离散编码；在个体编码较长时计算开销极大，这将会降低TDGA的计算效率…

…0…

…1…

…0…12…j…LX1X2XN第15页，课件共29页，创作于2023年2月种群的网格熵由于基因熵无法应用于实数编码，胡婷提出了一种网格熵，将定义域划分为若干网格，计算个体在网格中分布的信息熵x1x2G1G2GM………第16页，课件共29页，创作于2023年2月种群的等级熵活跃窗口wt

：记录了到第t代为止搜索过程已达个体的适应度范围在对活跃窗口划分等级时,遵循了适应值区域越优分级越精细的原则…0………1……0…编码空间目标空间活跃窗口f(.)等级划分示意图第17页，课件共29页，创作于2023年2月等级熵度量种群中个体在适应值空间的分散程度当Pt中所有个体全部落入同一等级时等级熵H(wt,Pt)取最小值0,当Pt中落入各等级的个体数都相等时,H(wt,Pt)达到最大值1.等级熵的优点：不再依赖个体的编码长度，计算成本较低第18页，课件共29页，创作于2023年2月热力学替换规则

从父代种群Pt

=(X1,X2,…,XN)的N个个体与产生的M个子代种群Ot=(XN+1,XN+2,…,XN+M)，共N+M个体中挑选出N个个体组成下一代种群P(E)t+1,使其具有的自由能F(Tt,P(E)t+1)最小从N个父个体和M个子个体中挑选出N个个体生成下一代种群,使其具有的自由能最小第19页，课件共29页，创作于2023年2月穷举热力学替换规则精确地最小化所有可能的下一代种群的自由能本身是一个颇难的组合优化问题穷举热力学替换规则：使用穷举法计算所有可能组合成的临时种群的自由能，最小的那个种群即为下一代穷举热力学替换规则的复杂度为O(LNCNN+M),因此Mori指出穷举热力学替换规则在实际应用中是不可行的第20页，课件共29页，创作于2023年2月贪婪热力学替换规则Mori在实现TDGA时采用了贪婪热力学替换规则，按照贪婪的策略逐个往下一代种群中填充使临时种群自由能最小的个体复杂度：O(LN(N+M))贪婪热力学替换规则的计算开销较穷举热力学替换规则有很大降低,但在实际应用中计算成本仍相当高Pt＋1=GTR(Tt,Pt,Ot){将子种群Ot与父种群Pt合并得到规模为N+M的中间种群Pt＋1‘,将Pt＋1置空;for(i=1;i<=N;i++)//采用贪婪策略逐次往Pt＋1中填充N个个体

{for(j=1;j<=N+M-i;j++)//在多次尝试后找到本轮最好填充个体计算若将Pt＋1‘的第j个个体填充到Pt＋1后的自由能F(Tt,Pt＋1∪{Pt＋1‘[j]}),并记录下本轮尝试填充中使自由能最小的个体Xjmin;

将个体Xjmin填充到Pt＋1中,并将其从中间种群Pt＋1‘中清除出去;}

返回下一代种群Pt＋1;}第21页，课件共29页，创作于2023年2月分量热力学替换规则-自由能分量贪婪替换规则计算开销较大的主要原因在于自由能是相对于种群而言的，须首先通过尝试填充获得临时种群，然后反复计算这些临时种群的自由能为提高计算效率，引入个体的自由能分量的概念，将种群的自由能分派到其各个体上，避免反复计算种群的自由能活跃窗口wt和温度Tt下个体Xl在种群Pt中的自由能分量

Fc(wt,Tt,Pt,Xl)=e(Xl)+TtlogK(nd/N),

其中nd表示种群Pt中与Xl处于同一等级的个体数第22页，课件共29页，创作于2023年2月分量热力学替换规则基于自由能分量的分量热力学替换规则，计算量少驱动种群自由能下降快速复杂度：O(M(N+M))，有效降低了替换规则的时间复杂度第23页，课件共29页，创作于2023年2月分量热力学替换规则(CTR)的性质在两个引理的基础上，运用极限夹逼准则可从理论上完整地证明CTR规则除了具有较低时间复杂度之外，还具有驱动种群自由能近似最速下降的良好性质(极限夹逼准则，数学归纳法，自然对数性质ln(x)<=x-1)第24页，课件共29页，创作于2023年2月TDEA相关论文MoriN,YoshidaJ,TamakiH,KitaH,NishikawaY.Athermodynamicalselectionruleforthegeneticalgorithm.In:FogelDB,ed.Proc.oftheIEEEConf.onEvolutionaryComputation.NewYork:IEEEPress,1995.188−192.MoriN,KitaH,NishikawaY.Adaptationtoachangingenvironmentbymeansofthefeedbackthermodynamicalgeneticalgorithm.In:EibenAE,etal.,eds.Proc.oftheIEEEConf.onParallelProblemSolvingfromNature.Berlin:Springer-Verlag,1998.149−158.应伟勤,李元香,许承瑜.热力学遗传算法计算效率的改进.软件学报,2008,19(7):1613-1622WeiqinYing,YuanxiangLi,ShujuanPeng,WeiwuWang.ASteepThermodynamicalSelectionRuleforEvolutionaryAlgorithms.Proc.ofInt.Conf.onComputationalScien