工业自动化技术讲稿5(人工神经网络与神经网络控制)课件

人工神经网络与神经网络控制陆宝春2005年11月人工神经网络与神经网络控制陆宝春人工神经网络与神经网络控制1人工神经网络概述2人工神经网络发展3人工神经网络模型4神经网络的工作方式及其特点5神经网络的设计开发过程6人工神经网络的应用7神经网络控制8净水厂最佳投药量的神经网络控制系统9神经网络控制中有待解决的问题10人工神经网络的发展方向人工神经网络与神经网络控制1人工神经网络概述1人工神经网络概述

现代计算机有很强的数值计算、逻辑运算和信息处理能力，极大地扩展了人的脑力，但它对模式识别、感知等问题的能力却远不如人，特别是它只能按照事先编好的程序机械的执行，缺乏向环境学习，适应环境的能力。人脑的工作方式与计算机是不同的。人脑是由大量基本单元（即神经元）经过复杂的互相连接而成的一种高度复杂的、非线形的、并行处理的信息处理系统。1人工神经网络概述现代计算机有很强的数值计算、逻1人工神经网络概述

人们以模仿人脑神经网络的信息表示、存储和处理机制为基础，设计全新的计算机处理结构模型，这也就促进了人工神经网络（artificialneuralnetworks简称NN）的研究与应用。人工神经网络就是由多个简单的并行工作的处理单元彼此以某种方式互连组成的系统。它模拟人类大量脑细胞的高度连接，当有输入信号将神经元激活时，经过神经回路产生输出。1人工神经网络概述人们以模仿人脑神经网络的信息表2人工神经网络发展启蒙时期低潮时期复兴时期新时期2人工神经网络发展启蒙时期低潮时期复兴时期新时期（1）启蒙时期

1890年，心理学家W.Jams关于人脑结构与功能的研究。1943年，生理学家W.S.McCulloch和数学家W.A.Pitts提出了神经元M-P模型。1958年，计算机学家FrankRosenblatt提出了“感知器”（Perceptron）。（1）启蒙时期

1890年，心理学家W.Jams关于人脑结构（2）低潮时期

1969年，人工智能的创始人M.Minsky和S.Paper发表了《感知器》一书。书中指出，简单的神经网络只能运用于线性问题的求解，能够求解非线性问题的网络应具有隐层，而从理论上不能证明将感知器模型扩展到多层网络是有意义的。这一悲观论点极大地影响了人工神经网络的研究，开始了神经网络发展史上长达10年的低潮时期。

（2）低潮时期

1969年，人工智能的创始人M.Mi（3）复兴时期

1982年，物理学家John.J.Hopfield提出了Hopfield网络；1986年，贝尔实验室利用Hopfield理论在硅片上制成了硬件神经计算机网络；1988年，《并行分布式处理》一书发展了多层感知机的反向传播训练方法。（3）复兴时期

1982年，物理学家John.J.Hopfi（4）新时期

1987年，首届国际神经网络学术会议召开，标志着世界范围内掀起神经网络开发研究的热潮。神经网理论已成为涉及神经生理科学、认识科学、数理科学、心理学、信息科学、计算机科学、微电子学、光学、生物电子学等多学科交叉、综合的前沿科学。

许多国家在神经网络计算机的硬件实现方面也取得了一些成绩。

（4）新时期

1987年，首届国际神经网络学术会议召开，标志3人工神经网络模型神经元输入输出关系：

3人工神经网络模型神经元输入输出关系：3人工神经网络模型人工神经网络是由多个神经元构成的一个并行和分布式信息处理网络结构。神经网络模型的种类繁多，有前馈神经网络、反馈神经网络、自组织神经网络、模糊神经网络等。

3人工神经网络模型人工神经网络是由多个神经元（1）前馈神经网络这是现行控制方案中采用的最多的神经网络网型。前馈神经网络又包括BP、PID神经元、RBF径向基函数神经网络。（1）前馈神经网络这是现行控制方案中采用的最多的神经（2）模糊神经网络

模糊神经网络控制技术是神经网络集成控制技术的精华，现在已成为一个研究热点。

（2）模糊神经网络模糊神经网络控制技术是神经网络集4神经网络的工作方式及其特点神经元的连接权值通过学习来修改连接权值不变，由网络输入得到相应的输出学习期工作期4神经网络的工作方式及其特点学习期工作期（1）人工神经网络学习

人工神经网络学习就是通过对样本的学习训练，不断改变网络连接权值和扩扑结构以使网络的输出不断的接近期望的输出，其实质就是连接权值的动态调整。神经网络的学习算法很多，如BP算法。

（1）人工神经网络学习人工神经网络学习就是通过对样（2）训练神经网络的基本步骤

包括原始数据的收集、数据分析、变量选择以及数据的预处理等如选择BP网，就要确定网络的结构和参数，如：层数，每层结点数、初始权值其目的在于找到蕴涵在样本数据中的输入和输出间的本质关系，从而对未经训练的输入也能找到合适的输出，即具备泛化能力。产生数据样本集确定网型与结构训练和测试（2）训练神经网络的基本步骤

包括原始数据的收集、数据分析（3）神经网络特点自适应性泛化功能

非线性映射功能

高度并行处理信息这些特点显示了神经网络在解决高度非线性和严重不确定性系统的控制方面具有很大潜力。将神经网络引入控制系统是控制学科发展的必然趋势。

（3）神经网络特点自适应性这些特点显示了神经网络在5神经网络的设计开发过程神经网络结构描述系统需求分析产生网络可执行代码训练和测试网络将神经网络并入系统选择训练和测试数据抽取数据特征和预处理5神经网络的设计开发过程神经网络结构描述系统需求分析产生网6人工神经网络的应用

模式识别如癌细胞识别、油气藏检测、电力变压器故障检测等。

控制与优化如温度控制、液压位置伺服系统控制、机器人运动控制等。

金融预测及管理如股票市场预测、保险业风险评估。

通信如路由选择。

6人工神经网络的应用模式识别7神经网络控制20世纪80年代以来，工业生产向着大型、连续、综合化方向发展，控制系统也变的越来越复杂。自动控制工作面临着两大挑战，一是控制对象越来越复杂存在多种不确定性以及难以确切描述的非线性特征；二是控制任务要求越来越高，往往是多层次多目标的控制要求。为此，人们必须建立新的理论和方法，从而导致了神经网络控制的产生，而神经网络的自适应、分布式存储等特点正好为上述问题解决了一条新途径，在自动控制领域展现出广阔的应用前景。

7神经网络控制20世纪80年代以来，工业生（1）神经网络控制概念

神经网络控制是研究和利用人脑的某些结构机理以及人的知识和经验对系统的控制。利用神经网络，可以把控制问题看成模式识别问题．被识别的模式是映射成“行为”信号的“变化”信号。神经控制最显著的特点是具有学习能力。它是通过不断修正神经元之间的连接权值，并离散存储在连接网络来实现的。它对非线性系统和难以建模的系统的的控制具有良好效果。

（1）神经网络控制概念神经网络控制是研究和利用人脑的（2）神经网络控制应用

基于神经网络的特点，神经网络在控制系统中可充当系统模型、直接做控制器或提供优化算法。它已被应用到自动控制领域的各个方面，包括系统建模与辨识、优化设计、预测控制、最优化控制、自适应控制、容错控制、模糊控制、专家控制和学习控制等等。

（2）神经网络控制应用基于神经网络的特点，神经网络在8例：净水厂最佳投药量的神经网络控制系统市场需求现状解决难度神经网络控制8例：净水厂最佳投药量的神经网络控制系统市场需求现状解决难解决方案

水处理过程从混凝剂的投加，经过絮凝、沉淀、过滤，至少需经过40min以上，系统的大滞后、非线性使得无法依据出水指标来确定投药量。鉴于此，我们提出通过对源水典型水质参数的检测，利用神经网络的容错性、自学习性和自适应能力，建立混凝投药系统投药量预测模型的方法，并进一步在此模型的基础上，通过优化算法，实现混凝剂的实时最佳投加。

解决方案

水处理过程从混凝剂的投加，经过絮凝、沉淀、影响混凝剂的投加量和混凝效果的几个主要源水参数浊度pH色度温度流量影响混凝剂的投加量和混凝效果的几个主要源水参数浊度混凝投药量的神经网络预测模型

依据此网络结构可实现当已知源水状况时，预测混凝剂的投加量。预测值的准确程度取决于选取训练样本的淮确性与样本数据的有代表性和全面性。混凝投药量的神经网络预测模型

依据此网络结构可实现当BP学习算法混凝投药量的神经网络预测模型采用BP学习算法。BP算法正向传播反向传播BP学习算法混凝投药量的神经网络预测模型采用BP学习混凝投药量的神经网络预测模型依据混凝投药神经网络结构和BP网络算法，编制建立了某日处理水量为22．5万吨水厂的投药量神经网络预测模型，并对其某月的投药量进行了预测。

注：图中实线为实际运行数据，虚线为网络预测数据混凝投药量的神经网络预测模型依据混凝投药神经网络结构基于源水参数预测出水浊度的神经网络模型

混凝的控制指标大都以出水浊度衡量。基于源水参数预测出水浊度的神经网络模型最佳投药量预测控制系统在以上模型基础上结合优化算法可建立投药量最佳预测控制系统，实现混凝投药的最佳实时控制。

最佳投药量预测控制系统在以上模型基础上结合优化算法可9神经网络控制中有待解决的问题

当所给数据不充分或不存在可学习的映射关系时，神经网络结构可能找不到满意的解，而且有时也很难估计神经网络结构给出的结果。

网络本身的黑箱式内部知识表达方式使其不能利用初始经验进行学习，易于限于局部极小值。

9神经网络控制中有待解决的问题当所给数据不充分或不存在可神经网络控制中有待解决的问题

神经网络的训练很慢，由于要收集、分析和处理大量的训练数据，同时还需要相当的经验来选择合适的参数，有时需要付出很高的代价。

神经网络的网型未有重大突破，专门适合控制问题的动态神经网络仍有待进一步发展。

分布式并行计算的潜力还有赖于硬件实现技术的进步

神经网络控制中有待解决的问题神经网络的训练很慢，由于要收集10人工神经网络的发展方向

基础理论研究，包括神经网络的统一模型与通用学习算法，激发函数的类型等；研究专门适合于控制问题的动态神经网络模型，解决相应产生的对动态网络的逼近能力与学习算法问题；对成熟的网络模型与学习算法，研究相应的神经网络控制专用芯片；目前将模糊逻辑（包括专家系统）与神经网络相结合，发展模糊神经网络控制方法已成为主要发展趋势。10人工神经网络的发展方向基础理论研究，包括神经网络的统谢谢大家！谢谢大家！市场需求

投药混凝是水质净化的重要环节，在水处理工艺一定的条件下，混凝剂的投加量直接决定混凝效果，准确地投加混凝剂可有效减轻过滤、消毒设备的负担，是提高水质、取得良好经济效益的关键问题。市场需求现状目前主要采用的方法是通过人工定期做烧杯试验确定、修正系统的投药量。由于烧杯试验需要一定的时间，故这种方法确定的系统投药量只能是适合某一时间内的近似最优值。

现状目前主要采用的方法是通过人工定期做烧杯试验确定、解决问题难度

水处理的混凝投药过程是一个复杂的物理、化学反应过程，目前还很难通过对其化学反应机理的研究，准确地建立反应过程的数学模型。而影响混凝剂投加量的因素又很多，如源水浊度、温度、流量、pH、所含杂质特性、净水设备的负荷及状态等，使得系统的最优投药量需要根据水质特点不断修正。

解决问题难度

水处理的混凝投药过程是一个复杂的物理、人工神经网络与神经网络控制陆宝春2005年11月人工神经网络与神经网络控制陆宝春人工神经网络与神经网络控制1人工神经网络概述2人工神经网络发展3人工神经网络模型4神经网络的工作方式及其特点5神经网络的设计开发过程6人工神经网络的应用7神经网络控制8净水厂最佳投药量的神经网络控制系统9神经网络控制中有待解决的问题10人工神经网络的发展方向人工神经网络与神经网络控制1人工神经网络概述1人工神经网络概述

现代计算机有很强的数值计算、逻辑运算和信息处理能力，极大地扩展了人的脑力，但它对模式识别、感知等问题的能力却远不如人，特别是它只能按照事先编好的程序机械的执行，缺乏向环境学习，适应环境的能力。人脑的工作方式与计算机是不同的。人脑是由大量基本单元（即神经元）经过复杂的互相连接而成的一种高度复杂的、非线形的、并行处理的信息处理系统。1人工神经网络概述现代计算机有很强的数值计算、逻1人工神经网络概述

人们以模仿人脑神经网络的信息表示、存储和处理机制为基础，设计全新的计算机处理结构模型，这也就促进了人工神经网络（artificialneuralnetworks简称NN）的研究与应用。人工神经网络就是由多个简单的并行工作的处理单元彼此以某种方式互连组成的系统。它模拟人类大量脑细胞的高度连接，当有输入信号将神经元激活时，经过神经回路产生输出。1人工神经网络概述人们以模仿人脑神经网络的信息表2人工神经网络发展启蒙时期低潮时期复兴时期新时期2人工神经网络发展启蒙时期低潮时期复兴时期新时期（1）启蒙时期

1890年，心理学家W.Jams关于人脑结构与功能的研究。1943年，生理学家W.S.McCulloch和数学家W.A.Pitts提出了神经元M-P模型。1958年，计算机学家FrankRosenblatt提出了“感知器”（Perceptron）。（1）启蒙时期

1890年，心理学家W.Jams关于人脑结构（2）低潮时期

1969年，人工智能的创始人M.Minsky和S.Paper发表了《感知器》一书。书中指出，简单的神经网络只能运用于线性问题的求解，能够求解非线性问题的网络应具有隐层，而从理论上不能证明将感知器模型扩展到多层网络是有意义的。这一悲观论点极大地影响了人工神经网络的研究，开始了神经网络发展史上长达10年的低潮时期。

（2）低潮时期

1969年，人工智能的创始人M.Mi（3）复兴时期

1982年，物理学家John.J.Hopfield提出了Hopfield网络；1986年，贝尔实验室利用Hopfield理论在硅片上制成了硬件神经计算机网络；1988年，《并行分布式处理》一书发展了多层感知机的反向传播训练方法。（3）复兴时期

1982年，物理学家John.J.Hopfi（4）新时期

1987年，首届国际神经网络学术会议召开，标志着世界范围内掀起神经网络开发研究的热潮。神经网理论已成为涉及神经生理科学、认识科学、数理科学、心理学、信息科学、计算机科学、微电子学、光学、生物电子学等多学科交叉、综合的前沿科学。

许多国家在神经网络计算机的硬件实现方面也取得了一些成绩。

（4）新时期

1987年，首届国际神经网络学术会议召开，标志3人工神经网络模型神经元输入输出关系：

3人工神经网络模型神经元输入输出关系：3人工神经网络模型人工神经网络是由多个神经元构成的一个并行和分布式信息处理网络结构。神经网络模型的种类繁多，有前馈神经网络、反馈神经网络、自组织神经网络、模糊神经网络等。

3人工神经网络模型人工神经网络是由多个神经元（1）前馈神经网络这是现行控制方案中采用的最多的神经网络网型。前馈神经网络又包括BP、PID神经元、RBF径向基函数神经网络。（1）前馈神经网络这是现行控制方案中采用的最多的神经（2）模糊神经网络

模糊神经网络控制技术是神经网络集成控制技术的精华，现在已成为一个研究热点。

（2）模糊神经网络模糊神经网络控制技术是神经网络集4神经网络的工作方式及其特点神经元的连接权值通过学习来修改连接权值不变，由网络输入得到相应的输出学习期工作期4神经网络的工作方式及其特点学习期工作期（1）人工神经网络学习

人工神经网络学习就是通过对样本的学习训练，不断改变网络连接权值和扩扑结构以使网络的输出不断的接近期望的输出，其实质就是连接权值的动态调整。神经网络的学习算法很多，如BP算法。

（1）人工神经网络学习人工神经网络学习就是通过对样（2）训练神经网络的基本步骤

包括原始数据的收集、数据分析、变量选择以及数据的预处理等如选择BP网，就要确定网络的结构和参数，如：层数，每层结点数、初始权值其目的在于找到蕴涵在样本数据中的输入和输出间的本质关系，从而对未经训练的输入也能找到合适的输出，即具备泛化能力。产生数据样本集确定网型与结构训练和测试（2）训练神经网络的基本步骤

包括原始数据的收集、数据分析（3）神经网络特点自适应性泛化功能

非线性映射功能

高度并行处理信息这些特点显示了神经网络在解决高度非线性和严重不确定性系统的控制方面具有很大潜力。将神经网络引入控制系统是控制学科发展的必然趋势。

（3）神经网络特点自适应性这些特点显示了神经网络在5神经网络的设计开发过程神经网络结构描述系统需求分析产生网络可执行代码训练和测试网络将神经网络并入系统选择训练和测试数据抽取数据特征和预处理5神经网络的设计开发过程神经网络结构描述系统需求分析产生网6人工神经网络的应用

模式识别如癌细胞识别、油气藏检测、电力变压器故障检测等。

控制与优化如温度控制、液压位置伺服系统控制、机器人运动控制等。

金融预测及管理如股票市场预测、保险业风险评估。

通信如路由选择。

6人工神经网络的应用模式识别7神经网络控制20世纪80年代以来，工业生产向着大型、连续、综合化方向发展，控制系统也变的越来越复杂。自动控制工作面临着两大挑战，一是控制对象越来越复杂存在多种不确定性以及难以确切描述的非线性特征；二是控制任务要求越来越高，往往是多层次多目标的控制要求。为此，人们必须建立新的理论和方法，从而导致了神经网络控制的产生，而神经网络的自适应、分布式存储等特点正好为上述问题解决了一条新途径，在自动控制领域展现出广阔的应用前景。

7神经网络控制20世纪80年代以来，工业生（1）神经网络控制概念

神经网络控制是研究和利用人脑的某些结构机理以及人的知识和经验对系统的控制。利用神经网络，可以把控制问题看成模式识别问题．被识别的模式是映射成“行为”信号的“变化”信号。神经控制最显著的特点是具有学习能力。它是通过不断修正神经元之间的连接权值，并离散存储在连接网络来实现的。它对非线性系统和难以建模的系统的的控制具有良好效果。

（1）神经网络控制概念神经网络控制是研究和利用人脑的（2）神经网络控制应用

基于神经网络的特点，神经网络在控制系统中可充当系统模型、直接做控制器或提供优化算法。它已被应用到自动控制领域的各个方面，包括系统建模与辨识、优化设计、预测控制、最优化控制、自适应控制、容错控制、模糊控制、专家控制和学习控制等等。

（2）神经网络控制应用基于神经网络的特点，神经网络在8例：净水厂最佳投药量的神经网络控制系统市场需求现状解决难度神经网络控制8例：净水厂最佳投药量的神经网络控制系统市场需求现状解决难解决方案

水处理过程从混凝剂的投加，经过絮凝、沉淀、过滤，至少需经过40min以上，系统的大滞后、非线性使得无法依据出水指标来确定投药量。鉴于此，我们提出通过对源水典型水质参数的检测，利用神经网络的容错性、自学习性和自适应能力，建立混凝投药系统投药量预测模型的方法，并进一步在此模型的基础上，通过优化算法，实现混凝剂的实时最佳投加。

解决方案

水处理过程从混凝剂的投加，经过絮凝、沉淀、影响混凝剂的投加量和混凝效果的几个主要源水参数浊度pH色度温度流量影响混凝剂的投加量和混凝效果的几个主要源水参数浊度混凝投药量的神经网络预测模型

依据此网络结构可实现当已知源水状况时，预测混凝剂的投加量。预测值的准确程度取决于选取训练样本的淮确性与样本数据的有代表性和全面性。混凝投药量的神经网络预测模型

依据此网络结构可实现当BP学习算法混凝投药量的神经网络预测模型采用BP学习算法。BP算法正向传播反向传播BP学习算法混凝投药量的神经网络预测模型采用BP学习混凝投药量的神经网络预测模型依据混凝投药神经网络结构和BP网络算法，编制建立了某日处理水量为22．5万吨水厂的投药量神经网络预测模型，并对其某月的投药量进行了预测。

注：图中实线为实际运行数据，虚线为网络预测数据混凝投药量的神经网络预测模型依据混凝投药神经网络结构基于源水参数预测出水浊度的神经网络模型

混凝的控制指标大都以出水浊度衡量。基于源水参数预测出水浊度的神经网络模型最佳投药量预测控制系统在以上模型基础上结合优化算法可建立投药量最佳预