神经网络第七~九章

第七章人工神经元网络与模糊系统,两者的结合是发展的必然两者结合的基本方式,人脑实际上是神经网络与模糊系统有机的自然结合。从物质结构上:人脑是一种典型的生物神经元网络，人脑是由大量的神经元经广泛的突触连接而构成的一个极其复杂的网络系统。是一个巨系统。人脑的思维活动和智能行为正是这么多的神经元协同运作的宏观表现。,从主要的功能角度看:人脑又是个典型的模糊系统。人类生存的环境，有精确的和模糊的两部分。人类思维的奇妙之处正是因为有精确思维和模糊思维两部分组成的结果，使它不仅有精确性、清晰性和逻辑性而且有模糊性、容错性和非逻辑性。,人工神经元网络是对人脑的结构和工作方式的近似与简化，这种结构和工作方式的并行性在许多方面已经产生了类似于人脑行为的某些功能特点；人工模糊系统是以模糊集合论、模糊语言变量以及模糊逻辑推理的知识为基础力图在较高的层次上对人脑思维的模糊性方面进行工程化的模拟。模糊理论是解决复杂的非线性系统决策所使用的一种方法。,人工神经元网络与模糊系统的共同之处:(1)它们在处理和解决问题时，无需建立对象的精确数学模型，只需要根据输入的采样数据去估计其要求的决策，这是一种无模型的估计。人工神经元网络是通过学习算法实现结构的可变性(指连接权)，逐步适应外部环境的各种因素的作用，不断地发掘所研究对象之间内在的因果关系，最终达到解决问题的目的。这种因果关系是直接表现为一种不很精确的输入输出值描述。,模糊系统是根据一些由人们总结出来的描述各种因素之间相互关系的模糊性语言经验规则，并将这些规则上升为简单的数值运算，以便让机器代替人在相应的问题面前进行推理决策具体地实现这些规则。这些经验规则的形成是基于对它们进行的定性的、大致精确的观察和总结，因此，实现这些语言件经验规则的数值运算也就无需是一种基于它们精确数学模型的数值运算。,(2)人工神经元网络和模糊系统在对信息的加工处理过程中，均表现出很强的容错能力。人工神经元网络在计算处理信息的过程中所表现出来的容错性，来自于其网络自身的结构特点。模糊系统是仿效人的模糊逻辑思维方法设计的一类系统，该方法本身就明确地说明了系统在工作过程中允许数值型量的不精确性的存在。人脑思维的容错能力，正是来源于这两个方面的综合-思维方法的模糊性和大脑本身的结构特点。,(3)它们都可以用硬件实现由于它们的实现，提高了计算机、控制和AI等的“智能”程度，使那些采用严格建模的方法难以解决的非线性问题得到一些解决。它们两者涉及的系统多数为动态系统。ANN主要用于自适应控制、优化、识别和统计等；模糊系统应用于概率、数学逻辑和测试理论等。,人工神经元网络与模糊系统的异同之处：(1)映射集ANN是用点与点的映射得到输入与输出的关系，它们的训练集都是确定的量，因而它的映射关系也必然是一一对应的。模糊系统的输入输出变量都是经过模糊化的量，它们都不是用明确的数来表示，其输入已模糊化为一个隶属度的值来表示，显然它是区域块与区域块之间的映射。,(2)知识的存储方式人工神经元网络的基本单元是神经元用多层网络实现映射时，它们之间是用权连接的。人工神经元网络是靠样本输入，由网络自身进行学习而得到，其结果是与样本集有关。学习的知识是分布地存储在权中间的。模糊系统则是以规则的方式来存储知识的，因此，在隶属函数的形式、区域划分的大小和规则的制定上人为的因素更多一些，如果利用专家的知识和经验，那么模糊的结构和结果比人工神经元网络要优良些。,(3)映射的精度人工神经元网络是用点点映射的办法，因此它的输出与输入之间的关系曲面比较光滑；模糊系统则是区域之间的映射，如果区域分得比较粗，那么映射输出的表面就比较粗糙，每一条规则如梯形台阶。模糊系统的编码精度较低，特别当推理路径较长时其精度下降也更大。要求映射的精度较高，用人工神经元网络较好。,（4）连接方式人工神经元网络每个权都要进行学习，费时较多；在模糊控制中，每次输入可能只与几条规则有关，显然连接并不是固定的，每次输入、输出联系的规则都是在变动的，而每次连接的规则数目较少，运用方便。,(5)结构的物理意义从外部宏观上看人工神经元网络是有物理含义的，但网络内部的每个权不一定都有明确的物理意义，不同的初始权值得到的结果是不相同的，无法用统一概念特征去描述它。模糊系统的输入和输出用规则来映射它们之间的关系，大致是明确的，其物理意义也是清楚的，因此在映射出现偏差时，可以通过修改规则或者其他变量以得到比较好的修正结果。,(6)计算量人工神经元网络的计算涉及到乘法、累加和指数运算以及反复迭代等。模糊系统的计算只需要两个量的比较和累加，加上每次迭代涉及到的规则不多，因此，模糊系统的计算速度比人工神经元网络更快，实时应用可能性大。当模糊输入与输出变量很多的时候，用一张模糊规则表已难以表达多变量之间的关系，而且制定规则也遇到一定困难，那么，隶属函数以及规则本身也需要通过学习得到，显然它的计算量也会增加。,(7)信息的性质和编码人工神经元网络是对于一些有关联的信息，通过学习的方法，将输入与输出的关联知识以权值的方式编码存储下来，它表示关联性知识不仅需要大量的数据而且需要很长的学习时间。模糊系统是直接对专家用语言描述的事件、关联的关系进行编码，然后，将编码结果放入一个模糊矩阵中。对于许多实际问题，模糊矩阵的维数是比较小的，它将数字方法和用符号表示的模型及AI方法结合起来。知识的采集是按语言描述的方式进行，但又是利用数字表示这些知识，用数值方法进行处理。人们可以追踪它的推理过程也易理解模糊系统所编码的知识，也很容易引入启发性知识。,人工神经元网络与模糊系统各有其特点和应用范围，又由于它们都是利用数值形式进行处理，故有可能将两者结合起来，组成模糊神经元网络，使之兼有两之长。两者的结合是发展的必然。模糊神经网络一方面可以对专家用语言描述的事件直接进行编码，可以用语言描述方式来采集知识，比较容易引入启发性知识，还可以跟踪推理过程，能使网络中的权值具有明显的含义。,另一方面，和其他人工神经元网络一样，它也具有学习功能，可以通过学习来提高其编码的精度。它是当前很有发展前途的技术，已应用于控制、模式分类、作模糊模型、专家系统的预处理器、图像分割、边缘检测以及加速神经网络的学习等方面，已取得了明显的效果。,人工神经元网络与模糊系统结合的方式很多，大体上有两种基本方式：第一种方式：是将人工神经元网络作为一种计算工具引进已有的模糊系统中，具体说就是将人工神经元网络作为模糊系统中隶属函数、模糊规则和扩展原理的网络化描述形式。应用人工神经元网络对下面两类问题可以解决：,两者结合的基本方式,（1）专业人员对于问题认识的深度和综合能力，直接影响到模糊系统工作性能的好坏，对于某些问题，不同的专业人员持有的见解存在着一定的差异，人工神经元网络方法以一种简单的数值运算方式来综合他们不同的语言性经验。（2）对有些问题，即使是很有经验的专业人员也很难将他们的经验总结归纳为一些比较明确而简化的规则，并以语言的形式表达出来。在这种情况下，人工神经元网络能为模糊系统建立行之有效的决策规则。,为了解决上述两类问题，可以采用模糊认知映射FCM(FuzzyCognitiveMaps)结构，在一定程度上通过数值运算的形式实现对结构性语言经验的综合推理；而利用单层前向网络输入输出积空间的聚类方法，那么能够直接从原始的工作数据中归纳出若干条规则最后以语言的方式表示出来。,在模糊系统的规则形成部分采用神经元网络可以得到一类新颖的自适应模糊系统，这就是基于神经元网络的自适应模糊系统。这类系统是把自适应原理引入模糊神经元网络中，使它能适应环境的变化，从而使系统具有更大的鲁棒性。因此，这类系统有着广泛的应用前景。这类系统具有类似于神经元网络的形式，但其输入所连接的是不同的模糊控制规则，而不是普通神经元网络的节点。通常，有几种自适应算法可以对模糊神经元网络进行自适应的修改。这类系统不同于传统的模糊控制系统。,传统的模糊控制系统不能很好地适应环境的变化，当外部环境变化时，它们可以从一条规则改变到执行另一条规则，但是，规则本身是不能改变的。这是一种静态系统，它对于环境已知，测量值正常时，其性能是好的，但是，当外部环境变化时，使其假设的前提条件受到了破坏，其后果也可能是灾难性的。,第二种方式：是将模糊件原理引入现有的神经元网络结构中，这种结合又可分为以下四种情形：（1)将训练及工作过程中的神经元网络结构视为种模糊的类别标志；(2)将模糊性原理应用到神经元网络中的每个神经元，即改变传统神经元的综合函数和传递函数形式，使得神经元在功能上表现为各种模糊运算操作，例如模糊交集、并集和模糊加权等等。,(3)对神经元网络的输入数据进行模糊化预处理；(4)将模糊关系引入神经元网络结构。其基本思想是将模糊并集、交集等运算操作和神经元网络的学习机制结合起来，在神经元网络中，关系数据的作用远未受到如同特征数据那样的重视。最近，模糊形式的Kohonen网络和模糊ART模型等也巳相继出现，请查阅有关文献。,第八章人工神经网络应用,文字识别印刷体文字识别、手写体文字识别图像处理图像数据压缩、图像边缘检测、图像自动分类、医学自动诊断、目标自动识别、图像补正、工业产品检查,优化组合应用神经网络专家系统神经网络在智能控制中的应用神经网络计算机,神经网络技术的选取神经网络各种模型的应用范围网络设计的基本原则,第九章神经网络的设计,神经网络技术的选取,是否有必要采用神经网络？能够精确求出系统的传递函数；能够用数学表达式对系统进行描述的系统应采用已有的成熟设计方案来解决问题。,当处理