人工智能与专家系统GIS

第八章人工神经网络及应用8.1人工神经网络概述8.2人工神经网络基础8.3人工神经网络学习8.4人工神经网络应用8.1人工神经网络概述

利用机器模仿人类的智能是长期以来人们认识自然、改造自然和认识自身的理想。人工神经网络（ArtificialNeuralNetwork）是一个用大量简单处理单元经广泛连接而组成的人工网络，是对人脑或生物神经网络若干基本特性的抽象和模拟。（1）研究ANN目的探索和模拟人的感觉、思维和行为的规律，设计具有人类智能的计算机系统。探讨人脑的智能活动，用物化了的智能来考察和研究人脑智能的物质过程及其规律。（2）研究ANN方法●生理结构的模拟用仿生学观点，探索人脑的生理结构，把对人脑的微观结构及其智能行为的研究结合起来即人工神经网络方法。●宏观功能的模拟从人的思维活动和智能行为的心理学特性出发，利用计算机系统来对人脑智能进行宏观功能的模拟，即符号处理方法。（3）ANN的研究内容理论研究：从数学上描述ANN的动力学过程，建立相应的ANN模型。对于给定的学习样本，找出一种能以较快的速度和较高的精度调整神经元间互连权值，使系统达到稳定状态，满足学习要求的算法。实现技术的研究：探讨利用电子、光学、生物等技术实现神经计算机的途径。应用的研究：探讨如何应用ANN解决实际问题，如模式识别、故障检测、智能机器人等。（4）ANN的特点与优势具有自学习功能具有联想存储功能具有高速寻找优化解的能力人工神经网络的局限性人工神经网络不适于高精度的计算正像很多人不善于直接计算类似资金的问题一样，人工神经网络不用于计算资金方面的问题。人工神经网络不适于做类似顺序计数的工作。人工神经网络是以并行方式工作的。人工神经网络的学习和训练是一个艰难的过程。网络的设计没有严格确定的方法（一般凭经验），所以选择训练方法和所需网络结构没有统一标准。脱机训练往往需要很长时间，为了获得最佳效果，常常要重复试验多次。网络收敛性的问题。8.2人工神经网络基础人工神经网络的生物原型—大脑简单的神经元8.2人工神经网络基础简单的神经元神经元就是神经细胞，在人体内从大脑到全身存在大约1010个神经元。神经元的组成：细胞体：它是神经元的本体，内有细胞核和细胞质，完成普通细胞的生存功能。树突：它有大量的分枝，多达103数量级，长度较短（通常不超过1毫米），用以接受来自其它神经元的信号。轴突：用以输出信号，有些较长（可达1米以上），轴突的远端也有分枝，可与多个神经元相连。突触：它是一个神经元与另一个神经元相联系的特殊部位，通常是一个神经元轴突的端部靠化学接触或电接触将信号传递给下一个神经元的树突或细胞体。8.2人工神经网络基础神经元间信号的传递神经元间的信号通过突触传递。通过它，一个神经元内传送的冲击信号将在下一个神经元内引起响应，使下一个神经元兴奋，或阻止下一个神经元兴奋。8.2人人工神神经网网络基基础神经元元的基基本工工作机机制一个神神经元元有两两种状状态———兴兴奋和和抑制制平时处处于抑抑制状状态的的神经经元，，当接接收到到其它它神经经元经经由突突触传传来的的冲击击信号号时，，多个个输入入在神神经元元中以以代数数和的的方式式叠加加。进入突突触的的信号号会被被加权权，起起兴奋奋作用用的信信号为为正，，起抑抑制作作用的的信号号为负负。如果叠叠加总总量超超过某某个阈阈值，，神经经元就就会被被激发发进入入兴奋奋状态态，发发出输输出脉脉冲，，并由由轴突突的突突触传传递给给其它它神经经元。。神经元元被触触发后后有一一个不不应期期，在在此期期间内内不能能被触触发，，然后后阈值值逐渐渐下降降，恢恢复原原来状状态。。8.2人人工神神经网网络基基础神经元元的基基本工工作机机制神经元元是按按照““全或或无””的原原则工工作的的，只只有兴兴奋和和抑制制两种种状态态，但但也不不能认认为神神经元元只能能表达达或传传递二二值逻逻辑信信号。。神经元元兴奋奋时往往往不不是只只发一一个脉脉冲，，而是是发出出一串串脉冲冲，如如果把把一串串脉冲冲看成成是一一个调调频信信号，，脉冲冲的密密度是是可以以表达达连续续量的的。神经网网络基基本模模型黑箱当常规规方法法解决决不了了或效效果不不佳时时ANN方方法才才能显显示出出其优优越性性。尤尤其对对问题题的机机理不不甚了了解或或不能能用数数学模模型表表示的的系统统,如如故障障诊断断、特特征提提取和和预测测等问问题,ANN往往往是是最有有利的的工具具。另另一方方面,ANN对处处理大大量原原始数数据而而不能能用规规则或或公式式描述述的问问题,表表现出出极大大的灵灵活性性和自自适应应性。。8.2人人工神神经网网络基基础人工神神经网网络的的拓扑扑结构构单层网网络最简单单的网网络是是把一一组结结点形形成一一层。。左边的的黑色色圆点点只起起着分分配输输入信信号的的作用用，没没有计计算作作用，，不看看作是是网络络的一一层。。右边用用圆圈圈表示示的一一组结结点被被看作作一层层。8.2人人工神神经网网络基基础人工神神经网网络的的拓扑扑结构构单层网网络输入信信号表表示为为行向向量：：x=(x1,x2,…,xN)，其其中每每一分分量通通过加加权连连接到到各结结点。。每一个个结点点均可可产生生一个个加权权和。。输入和和结点点间采采用全全连接接，并并且都都是前前馈连连接。。实际的的人工工神经经网络络和生生物神神经网网络中中有些些连接接可能能不存存在。。8.2人人工神神经网网络基基础人工神神经网网络的的拓扑扑结构构单层网网络在这种种单层层网络络中，，可把把各加加权表表示为为加权权矩阵阵W。矩阵的的维数数是Nxn，N是输输入信信号向向量（（也称称输入入图形形）的的分量量数，，n是是该层层内的的结点点数。。由第三三个输输入连连接到到第二二个结结点的的连接接权表表示为为W32。8.2人人工神神经网网络基基础人工神神经网网络的的拓扑扑结构构单层网网络输入信信号的的加权权和表表示为为：s是各各结点点加权权和的的行向向量，，s=(s1,s2,…,sn)。输出向向量y=(y1,y2,…,yn)，其其中yj=F(sj)。8.2人人工神神经网网络基基础人工神神经网网络的的拓扑扑结构构多层网网络一般来来说，，大而而复杂杂的网网络能能提供供更强强的计计算能能力。。虽然目目前已已构成成了很很多网网络模模型，，但它它们的的结点点都是是按层层排列列的，，这一一点正正是模模仿了了大脑脑皮层层中的的网络络模块块。多层网网络是是由单单层网网络进进行级级联构构成的的，即即上一一层的的输出出作为为下一一层的的输入入。8.2人人工神神经网网络基基础人工神神经网网络的的拓扑扑结构构多层网网络两层网网络（（前馈馈全连连接网网络））8.2人人工神神经网网络基基础人工神神经网网络的的拓扑扑结构构多层网网络三层网网络（（前馈馈全连连接网网络））8.2人人工神神经网网络基基础存储和和回忆忆存储就就是将将信息息或图图形存存在某某种存存储器器中，，而回回忆则则是将将已存存储的的信息息按某某种方方式恢恢复出出来。。为了与与人类类大脑脑的功功能类类比，，我们们把这这种信信息的的恢复复称为为回忆忆。8.2人人工神神经网网络基基础存储和和回忆忆人工神神经网网络中中存储储图形形的类类型在计算算机中中，数数据和和信息息是存存放在在存贮贮器中中（RAM或ROM)，，以8比特特字节节作为为存储储单位位。在人工工神经经网络络中，，信息息或图图形不不再限限定为为8比比特，，它是是多维维的二二进制制数据据或连连续信信息。。8.2人人工神神经网网络基基础存储和和回忆忆人工神神经网网络中中存储储的两两类图图形空间图图形的的存储储存储单单个空空间静静态图图像，，如一一幅画画面。。时空图图形的的存储储存储一一系列列随时时间变变化的的图像像，比比如电电影。。我们讨讨论的的人工工神经经网络络存储储的图图形大大多是是空间间图形形，因因它是是构成成时空空图形形的基基础。。人工神神经网网络中中图形形的存存储内容寻寻址存存储器器它是在在人工工神经经网络络的训训练过过程中中形成成的，，相当当于通通过训训练将将信息息存储储在加加权矩矩阵W中。。训练练一旦旦完成成，数数据就就相当当于变变换到到加权权矩阵阵的稳稳定状状态中中，因因此这这种存存储是是长期期存储储。联想存存储器器它是在在人工工神经经网络络的回回忆操操作中中出现现的。。当对对网络络输入入激励励信号号时，，作为为回忆忆结果果，网网络的的输出出给出出一个个响应应状态态。这这一响响应状状态实实际上上也相相当于于一个个所需需的存存储数数据（（响应应），，因此此这种种存储储为短短期存存储。。存储和和回忆忆存储和和回忆忆回忆的的概念念回忆是是人类类智能能的一一个主主要特特征，，要想想回忆忆某个个人或或某件件事，，通常常可通通过联联想进进行。。当看到到一本本书的的封面面颜色色和作作者时时，会会联想想到这这是一一本什什么书书（书书的内内容））。当丢失失东西西时，，可以以通过过联想想到过过什么么地方方，做做过什什么事事情，，最后后回忆忆起把把东西西放在在什么么地方方。这两种种情况况都有有一个个特点点，就就是不不管是是哪本本书，，还是是与东东西有有关的的地点点和事事情，，都是是经历历过的的，相相应的的记忆忆才有有可能能联想想出所所需的的结果果。联想的的两种种方式式自联想想：由由本身身的部部分特特征联联想起起整个个事物物的全全部特特征。。他联想想：由由一件件事情情联想想到另另一件件事情情。在人工工神经经网络络中，，回忆忆操作作也有有两种种联想想变换换自联想想变换换他联想想变换换存储和和回忆忆回忆的的概念念在人工工神经经网络络中，，不管管是自自联想想回忆忆还是是他联联想回回忆，，信息息的回回忆方方式有有两种种。前馈回回忆反馈回回忆存储和和回忆忆回忆的的概念念前馈回回忆输入激激励只只需通通过一一次存存储矩矩阵就就可产产生所所需的的响应应。存储和和回忆忆回忆的的概念念反馈回回忆输入激激励通通过存存储矩矩阵W产生生响应应，该该响应应作为为激励励再反反馈通通过W，这这样依依次循循环，，直到到激励励和响响应停停止变变化为为止，，即得得到所所要求求的响响应。8.3人人工神神经网网络学学习人工神神经网网络的的最主主要特特征之之一是是它可可以学学习。。任何何一个个人工工神经经网络络模型型要实实现某某种功功能的的操作作，就就必须须对它它进行行训练练，让让它学学会要要做的的事情情，并并把这这些知知识记记忆（（存储储）在在网络络的加加权中中。学习或或训练练的实实质就就是加加权矩矩阵随随外部部激励励（环环境））做自自适应应的变变化。。8.3人人工神神经网网络学学习因为学学习和和训练练的实实质是是变动动加权权值，，因此此很多多文献献中学学习和和训练练的概概念是是混用用的。。严格格来说说，两两者是是有区区别的的，训训练通通常是是指调调整网网络加加权的的操作作动作作和过过程，，这个个过程程对网网络来来讲就就是学学习。。比如举举办一一个训训练班班对学学生进进行某某种技技能的的训练练，对对学生生来讲讲，它它是在在该班班内学学习。。8.3神神经网网络的的学习习方式式监督学学习（（有教教师学学习））非监督督学习习（无无教师师学习习）再励学学习（（强化化学习习）监督学学习环境教师学习系系统+输入正确响响应实际响响应误差信信号非监督督学习习环境学习系系统输入再励学学习环境学习系系统输入评价输出状态动作人工神神经网网络的的应用用空间技技术：：飞行行器控控制系系统，，飞行行器元元件仿仿真，，飞行行器元元件错错误探探测。。交通业业：交交通控控制、、道路路优化化。金融业业：信信贷申申请评评估。。语言理理解：：语音音识别别，语语音压压缩，，声调调识别别。遥感解解译、、天气气预报报、故故障诊诊断、、机器人人，制制造业业，保保险业业和医医学领领域等等。基于神神经网网络模模式识识别功功能的的诊断断系统统因子的具体体选取依据降水的的主要条件件，从我国国T213数值预报报产品中选选取反映保保定降水条条件的物理理量。共从从36小时时预报中选选出10个个网格点要要素，分别别是：湿度度条件：850HPA的相对对湿度、水水汽通量；；垂直速度度条件：850的散散度、200的散度度、700的垂直速速度、降水水量、700的涡度度；（以上上为116E、39N网点的的值）东高高西低条件件：110E、120E、39N两点点850的的高度差；；锋区和能能量条件：：116E、35N、45N两点850的温度度差、TS。人工神经网网络在短期期降水预报报中的应用用BP神经网网络的建立立采用三层BP人工神神经网络模模式，输入入层为10个神经元元，对应10个预报报因子。输输出层为3个神经元元，对应降降水的大中中小三个降降水量级。。中间层一一般取输入入层和输出出层数的平平均，这里里取7个神神经元。如如图1所示示，X为为输入层，，H为隐含含层，Y为为预报输出出层。网络训练1、预报因因子0~1化：Xi=(Xmax-Xi)/(Xmax-Xmin)2、在训练练以前我们们取0~1之间的随随机数为连连接权重系系数Uil、Wlt和和阀值Rl、Sj赋赋初值。由由于训练开开始时误差差常常较大大，它们将将在以后的的训练学习习过程中自自动逐步调调节3、02年年，我台从从3月到11月接收收T213数值预报报产品齐全全的共有159天，，用前109天的资资料作为网网络训练样样本训练结果经过两万多多次的训练练，总体预预报误差达达到了4.0以下。。终止训练练后。这109天中中共有降水水日27天天，其中小小雨20天天，中雨6天，大雨雨以上降水水一次。训训练结束时时27天降降水全部报报出，量级级也全部正正确，只是是空报两次次小雨过程程，历史拟拟合率达到到27/29=93%。试报结果在试报的50天中共共有降水8次，其中中大雨2次次，漏一一次，一次次报中雨。。中雨3次次，报对2次，漏一一次。3次次小雨，一一次报中雨雨，漏2次次。另空报报2次小雨雨，定性准准确率4/10=40%。分析与讨论论拟合率虽然然很高，但但试报准确确率不太理理想。这可可能与样本本少，降水水模型过于于简单，且且不分季节节有关。如如果增加历历史样本，，分季节、、分类型建建立降水模模型。根据据不同模型型特点，分分别找不同同的预报因因子，有可可能提高实实际的预报报准确率（BP）神神经网络的的输入与输输出不象回回归方程是是线性关系系，而是非非线性的。。因此，因因子的选好好比较困难难，没有较较好的数学学方法，所所以采用建建