第4章 系统辨识的人工智能方法

第4章系统辨识的人工智能方法传统辨识方法给定模型的参数估计系统辨识问题实际上是一个优化问题通过观测输入、输出数据对，确定系统的数学模型。估计是针对函数的，系统的输入输出是函数关系。估计准则最后体现为目标函数的形式。

因为系统辨识技术涉及最优估计和优化计算，所以了解和掌握其基本内容和最新发展是重要的。系统辨识与优化问题4.1模拟退火算法4.2遗传算法4.3蚁群算法4.4粒子群优化算法4.5模糊逻辑4.6神经网络4.1模拟退火算法SAA模拟退火算法(SimulatedAnnealingAlgorithms)

基于热处理中固体物质退火时由高能态向低能态转变的过程与组合优化问题中寻找目标函数最优值过程的相似性而提出的模拟退火算法，是一种通用的MonteCarlo随机搜索算法，已用于求解制造领域中的组合优化问题。典型的组合优化问题有旅行商问题（TravelingSalesmanProblem－TSP）、加工调度问题（SchedulingProblem，如Flow-Shop，Job-Shop）、0-1背包问题（KnapsackProblem）、装箱问题（BinPackingProblem）、图着色问题（GraphColoringProblem）、聚类问题（ClusteringProblem）等。

组合优化问题固体物质的退火过程模拟退火来源于拉丝玻璃的物理特性。模拟退火的原理类似于以一定的受控率冷却金属时所发生的现象。固体物质的退火过程时，通常先将它加热熔化，使其中粒子可以自由运动。然后逐渐降低温度，粒子的自由运动也逐渐减弱，缓慢下降的温度使融化金属中的原子排成行，并逐渐形成具有高密度低能量的有规则晶体结构。若在凝结点附近温度下降的速度足够慢，则固体物质一定会形成最低能量的基态，即最稳定的结构状态。但是如果温度下降太快，原子没有足够的时间去排成有规则结构，结果就产生了具有较高能量的非晶体材料。实际上，在整个降温过程中，各个粒子都可能经历了由高能态向低能态，有时又暂时由低能态向高能态最终趋向于低能态的变化过程。退火过程算法步骤4.2遗传算法(进化计算)

遗传算法(GA)是模拟自然进化的一类随机搜索技术，它模拟由个体组成的群体的集体学习过程。其中每个个体表示给定问题搜索空间中的一点。遗传算法从初始的群体出发，通过随机选择、变异和重组过程，使群体进化到搜索空间中越来越好的区域。选择过程使群体中适应性好的个体比适应性差的个体有更多的复制机会，重组操作将父辈信息结合在一起并将他们传到子代个体，变异在群体中引人新的个体。如果视种群为超空间的一组点，选择、杂交和变异的过程即是在超空间中进行点集之间的某种变换，通过信息交换使种群不断进化。

群体搜索策略和群体中个体之间的信息交换是进化算法的两大特点。⒈遗传算法的基本概念GA的主要组成部分包括编码方案、适应度计算、父代选择、交换算子和变异算子。可以选择这样的策略，在每一次生成新种群时，始终保留一定数量的最优个体，这一原理通常称作为精英原则。

⒉编码方案

使用二进制编码把参数空间的点转换成位串来表示。将每个坐标值编码为一个由二进制位组成的基因。也可以使用其它编码方法。可对负数、浮点数和离散值进行编码，编码方案提供了将问题领域知识直接转化为GA框架的一种方式。因此，对GA的性能起到决定性的作用。此外，诸如交换和变异等遗传算子可以也应该与特定应用领域的编码一起设计。

例如，三维参数空间中的一点(11,6,9)可表示为一个级联的二进制串:1011011010011169⒊适应度计算建立一代之后的第一步就是计算种群中每个个体的适应度值。对于最大化的问题，第i个个体的适应度值fi通常就是在此个体（或点）处求得的目标函数值。我们往往需要适应度值是正的。因此，如果目标函数不严格为正，就有必要使用某种单调的尺度和/或变换。另一种方法是采用种群中个体的序别作为它们的适应度值。这样做的好处是不需精确计算目标函数，只要能提供正确的序别信息即可。

⒋随机选择(复制)求值之后，我们要从当前一代生成一组新的种群。选择操作决定哪些个体参与生成下一代的个体。这类似于自然选择中的适者生存。通常使用与个体适应度值成正比的选择概率来选择参与交换的个体。实现这一任务最常用的方法是令选择概率等于：其中n为种群规模。这种选择方法的效果是允许具有高于平均适应度值的个体进行复制，取代具有低于平均适应度值的个体。具有高于平均适应度值的个体可以复制多次。⒌交换操作使用交换算子来生成新的染色体，并希望这些新的染色体保留上一代中优良的特征。根据一定概率选择交换的个体对，这一概率等于给定的交换率。单点交换是最基本的交换算子，其中基因码的交换点的位置随机而定，两个父代染色体在交换点处进行互换。在双点交换中，将选定两个交换点，在这两点之间的染色体串部分进行交换生成两个子体。类似地，可以定义n点交换。交换的作用类似于自然进化过程中的交配，在这一过程中个体将自身染色体中的某些段遗传给它们的子辈。因此，如果子辈从双亲中得到了“优良”的基因或基因品质，则它们将优于它们双亲。

A：100│11110B：101│10010A1：100│10010B1：101│11110A：1│0011│110B：1│0110│010A1：1│0110│110B1：1│0011│010⒍变异操作交换利用了当前基因的潜能，但如果种群中并未包含求解特定问题所需的所有编码信息，那么任意次数的基因混合都不能产生满意的结果。基于此，引入了具有自发生成新染色体功能的变异算子。实现变异的最常用方式是以一定的概率对某一位进行突变，这个概率等于一个给定的很小值变异率。变异算子能够防止整个种群中的任一位收敛到一个值，并且更为重要的是，它能防止种群收敛并滞留在任何局部最优点。变异率通常取得很小。因此，由交换操作中得到的好染色体不会丢失。1001111010011010

(1)在搜索过程中不容易陷入局部最优。即使在所定义的适应度函数是不连续的、非规则的或有噪声的情况下，遗传算法仍能以很大的概率找到最优解;(2)具有并行计算能力及很高的计算效率;(3)采用自然进化机制来表现高度复杂、强非线性现象，能快速可靠地解决问题;(4)能介入到已有的模型中，并且具有可扩展性，易于同其它技术混合。遗传算法的优越性蚁群算法是受自然界中真实蚁群的集体觅食行为的启发而发展起来的一种基于群集智能的进化算法，属于随机搜索算法，它是由意大利学者Dorigo等人在二十世纪九十年代初首先提出来的。虽然蚂蚁本身的行为极其简单，但由这些简单个体所组成的蚁群却表现出极其复杂的行为特征。如蚁群除了能够找到蚁巢与食物源之间的最短路径外，还能适应环境的变化，即在蚁群运动的路线上突然出现障碍物时，蚂蚁能够很快地重新找到最短路径。4.3蚁群算法蚁群算法是一种基于群体的、用于求解复杂优化问题的通用搜索技术。与真实蚂蚁的间接通讯相类似，蚁群算法中一群简单的蚂蚁(主体)通过信息素(一种分布式的数字信息，与真实蚂蚁的外激素相对应)进行间接通讯，并利用该信息和与问题相关的启发式信息逐步构造问题的解。所谓基本蚁群算法，指的是经典的ACS(AntColonySystem)算法，它具有当前很多种类的蚁群算法最基本的共同特征，后来一系列的改进蚁群算法都以此为基础。4.3蚁群算法粒子群优化（ParticleSwarmOptimization,PSO）算法是由Kennedy和Eberhart于1995年提出的一种优化算法。PSO算法的运行机理不是依靠个体的自然进化规律，而是对生物群体的社会行为进行模拟，它最早源于对鸟群觅食行为的研究。在生物群体中存在着个体与个体、个体与群体间的相互作用、相互影响的行为，这种行为体现的是一种存在于生物群体中的信息共享的机制。4.4粒子群优化算法初始化一群随机粒子（随机解）每次迭代中，粒子通过跟踪两个极值更新自己： －粒子本身找到的历史最后解（个体极值点pbest） －整个种群目前找到的最好解（全局极值点gbest）需要计算粒子的适应值，以判断粒子位置距最优点的距离。每次迭代中，根据适应度值更新pbest和gbest。迭代中止条件：设置最大迭代次数或全局最优位置满足预定最小适应阈值。

4.4粒子群优化算法开始初始化粒子群计算每个粒子的适应度根据适应度更新pbest、gbest，更新粒子位置速度结束noyes达到最大迭代次数或全局最优位置满足最小界限？4.4粒子群优化算法4.5模糊逻辑模糊系统辨识的问题分类1