智能计算模式的统一性和多样性研究

智能计算模式的统一性和多样性研究吴启迪2/4/20231主要内容智能计算智能计算模式的统一框架描述智能计算模式在统一框架下的多样性研究人工神经网络群体智能——蚁群算法和微粒群算法进化计算分布估计算法人工免疫系统智能计算模式的应用研究结束语2/4/20232智能计算智能计算定义——

是以自然界，特别是其中典型的生物系统和物理系统的相关功能、特点和作用机理为参照基础，研究其中所蕴含的丰富的信息处理机制，在所需求解问题特征的相关目标导引下，提取相应的计算模型，设计相应的智能算法，通过相关的信息感知积累、知识方法提升、任务调度实施、定点信息交换等模块的协同工作，得到智能化的信息处理效果，并在各相关领域加以应用。2/4/20233智能计算学科定位：相关自然科学（特别是物理学和生命科学）和计算机科学的交叉（可能包括生物社会科学）。与人工智能的关系：与人工智能领域有交叉更关注各相关计算模型及算法模式中自然模拟的本质，而非“人工”──模仿自然的模型与算法──与自然界物理特征、生命特征等相关的作用机理研究2/4/20234智能计算智能计算所关注的模式主要包括：

进化计算、神经计算、群体智能计算、人工免疫系统、人工内分泌系统、生态计算、分子计算以及其他相关复杂自适应计算等。2/4/20235智能计算模式的统一性框架理念智能计算模式的多样性：在智能计算相关的研究领域，各类智能算法层出不穷，它们形态各异，理念各异，建模及分析工具各具特色，但这恰恰体现了智能计算模式的多样性。多样性被公认了，是否在某些智能算法之间存在着一定程度的统一性呢？答案显然是肯定的。2/4/20236智能计算模式的统一性框架理念智能计算模式的统一框架模型：智能计算的各种算法及模型，在具体的计算动态过程中，均具有一定的分布式自主寻优特征，但是这一切都是在客观统一的总体模式框架约束下进行的。因此，智能计算的统一框架可看作是一个分层的模式。如图１所示。框架模型的四个层次：宏观设计及方法提升层任务分解协调层计算调度及信息感知层被控实体运动过程层2/4/20237智能计算模式的统一性框架理念主要模块：用户及模型选择设计过程（模块）知识方法提升模块决策分配模块调度实施模块信息感知积累模块信息交换模块被控实体及传感器系统2/4/20238图１智能计算模式的总体分层框架模式2/4/20239智能计算模式在统一框架下的

多样性研究人工神经网络——反馈式Hopfield神经网络和前馈式RBF神经网络群体智能算法——智能蚁群算法和微粒群算法进化计算——遗传算法分布估计算法人工免疫系统2/4/202310Hopfield神经网络(HNN)HNN由N个神经元通过平面全互联模式进行能量函数的动态合作寻优，其标准能量函数规定了统一的集体寻优目标。HNN已知的动态收敛模式：每个神经元的非线性动态可用以下方程描述：

为神经元的非线性输入输出特性。2/4/202311Hopfield神经网络的智能计算

框架结构表达

在智能计算总体框架下，HNN表现为两层结构：

上层：任务分解协调及模型方法提升层问题求解HNN模块模型方法提升模块下层：计算调度及信息感知层HNN神经元运动模式计算模块通信和感知模块：简化为信息全互联传递及反馈网络2/4/202312图２Hopfield神经网络的智能计算框架理念求证2/4/202313RBF神经网络RBF神经网络是一种多层前向型神经网络，通常网络结构是一个三层前向网络。输入层由信号源节点组成；隐含层的单元数视所描述问题的需要而定；输出层对输入模式的作用做出响应。

RBF神经网络结构图2/4/202314RBF神经网络隐含层是对作用函数的参数进行调整，采用非线性优化策略；输出层是对线性权进行调整，采用线性优化策略。隐含层径向基函数：RBF神经网络的输出为：2/4/202315RBF神经网络的智能计算

框架结构表达在智能计算总体框架下，表现为一类两层结构模型：上层：任务分解协调及模型方法提升层问题求解RBF模块知识方法提升模块下层：计算调度及信息感知层RBF中心点运动模式计算模块RBF输出权值运动模式计算模块RBF神经网络：包括输入层、信息前馈式网络（实现神经网络内部信息的交换和传递）和输出层。2/4/202316图３ＲＢＦ神经网络的智能计算框架理念求证2/4/202317蚁群算法

AntColonySystem(ACS)1991年M.Dorigo等人首先提出一种典型的群体智能模式，基本特征：充分利用蚁群能通过个体间简单的信息传递，搜索到从蚁穴至食物间最短路径的集体寻优特征通过正反馈、分布式协作进行路径寻优：──寻优的快速性通过正反馈信息传递和积累来保证──分布式计算避免算法的早熟收敛──能在搜索过程的早期找到次最优（满意）解2/4/202318蚁群算法路径寻优的基本思想蚂蚁在给定点之间选择不同路径的一般原则：选择被先行蚂蚁大量采用的路径的概率较大，也即信息素留存较浓的路径．蚂蚁k从城市i到城市j的转移概率：结论：较多的信息素一般对应着较短的路径2/4/202319蚁群算法的智能计算

框架结构表达在智能计算总体框架下，ACS是一类两层结构模型：上层：任务分解协调及模型方法提升层问题求解ACS模块知识方法提升模块下层：计算调度及信息感知层。蚂蚁个体运动模式计算模块与求解问题相对应的信息素分布环境信息感知与反馈模块2/4/202320图４蚁群算法的智能计算框架理念求证2/4/202321微粒群算法

ParticleSwarmOptimization(PSO)1995年由社会心理学博士J.Kennedy和电子工程学博士R.Eberhart提出个体为寻优空间中一个无质量无体积的微粒；微粒在搜索空间中以一定的速度飞行飞行速度调整规则：微粒自身与微粒经验+对环境的学习与适应各微粒自身的最优历史记录和群体最优个体起示范作用──一种具有很强导向性的启发式搜索算法同样具有寻优快速性和分布式计算避免早熟收敛等优点2/4/202322微粒群算法流程图2/4/202323微粒群算法的智能计算

框架结构表达两层结构模型：上层是任务分解协调及模型方法提升层：问题求解PSO设计模块知识方法提升模块以及知识库方法库下层为计算调度及信息感知层：主要包括微粒个体运动模式设定模块全互联信息交换连接模块最优信息处理模块2/4/202324图５微粒群算法的智能计算框架理念求证2/4/202325遗传算法

GeneticAlgorithms(GA)20世纪70年代由美国的Holland提出，是一种模拟生物进化过程的优化方法它的基本思想基于C.R.Darwin的生物进化论和G.Mendel的遗传学，并结合了Darwin的适者生存和随机交换理论不需要对象的特定知识，也不需要对象空间连续可微，具有全局寻优的能力进化过程采用选择、交叉和变异等算子

2/4/202326遗传算法流程图2/4/202327遗传算法的智能计算

框架结构表达两层结构模型：上层是任务分解协调及模型方法提升层：问题求解GA设计模块知识方法提升模块以及知识库方法库下层为计算调度及信息感知层：染色体进化模式设定模块与问题求解对应的遗传进化计算交互模式信息感知与传递模块2/4/202328图６遗传算法的智能计算框架理念求证2/4/202329分布估计算法

EstimationofDistributionAlgorithms(EDA)分布估计算法的概念最初在1996年提出，是一种全新的进化模式本质上是一种基于概率模型的进化算法——自然进化算法和构造性数学分析方法相结合分布估计算法中，没有传统的交叉、变异等遗传操作，取而代之的是概率模型的学习和采样。2/4/202330分布估计算法EDA与遗传算法GA的区别2/4/202331分布估计算法的智能计算

框架结构表达两层结构模型：上层是任务分解协调及模型方法提升层：问题求解EDA设计模块知识方法提升模块以及知识库方法库下层为计算调度及信息感知层：个体选择模块与问题求解对应的群体分布环境EDA统计优选模块2/4/202332图７分布估计算法的智能计算框架理念求证2/4/202333人工免疫系统受免疫学启发，借鉴免疫系统机制来模拟免疫学功能、原理和模型这一概念是在1974年由诺贝尔奖获得者、免疫学家K.Jerne提出了免疫网络理论而引起关注的人工免疫系统是借鉴自然免疫系统机制以及免疫学理论所建立的算法、模型以及软、硬件系统的统称

2/4/202334人工免疫算法

ArtificialImmuneAlgorithms(AIA)将抗原和抗体分别对应于优化问题的目标函数和可行解把抗体和抗原的亲和度视为可行解与目标函数的匹配程度用抗体之间的亲和力运算保证可行解的多样性通过抗体之间期望生存率的比较计算及择优来促进较优抗体的遗传和变异用记忆细胞单元保存择优后的可行解来抑制相似可行解的继续产生并加速搜索到全局最优解2/4/202335人工免疫算法流程2/4/202336人工免疫算法的智能计算

框架结构表达两层结构模型：上层是任务分解协调及模型方法提升层：问题求解AIA设计模块知识方法提升模块以及知识库方法库下层为计算调度及信息感知层：抗体免疫进化模式设定模块免疫记忆细胞群与问题求解对应的免疫进化计算交互模式信息感知与传递模块2/4/202337图８人工免疫算法的智能计算框架理念求证2/4/202338智能计算的应用大规模复杂系统（优化问题）科学技术、经济、社会、管理优化设计、优化控制等理论问题求解计算机网络、通信、集成制造（生产）等机器人、仿生学等电路设计（大规模集成电路）电力系统（电网、电能优化等）智能交通、城市规划等2/4/202339基于群体智能理念的半导体生产线动态调度系统2/4/202340半导体生产线群体智能动态调度系统的总体原则每个蚂蚁agent分别控制相应的工件、设备、运输工具与人员蚂蚁agent从环境获取信息素，并向环境传播信息素蚂蚁agent根据所获取的信息素进行自主决策，（工件在设备间的合理分配以及在设备上的优化加工顺序）蚂蚁agent间的交互、合作与协调通过信息素这种间接的通讯方式来实现所处的环境是分布式黑板环境将集中优化控制与分布式动态控制结合起来，既可以利用集中优化控制的优化优势，得到优化的调度结果，又可以根据半导体生产线实际状态实现动态实时调度。2/4/202341半导体封装过程总体模型实例五个主要工序为：划片（Saw）装片（DieAttach,DA）键合（WireBonding,WB）塑封（Molding）打印（Marking）

2/4/202342半