人工神经网络的发展和分类

人工神经网络的发展和分类人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型在工程与学术界也常直接简称为神经网络或类神经网络神经网络是代（acvinnin的，这相当于人工神经网络的记忆网络的输出则依网络的连接方式权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近也可能是对一种逻辑策略的表达。它的构筑理念是受到生（人或其他动物神经网络功能的运作启发而产生的。人工神经网络通常是通过一个基于数学统计学类型的学习方法LearningMethod）得以优化，所以人工神经网络也是数学统计学方法的一种实际应用，通过统计学的标准数学方法我们能够得到大量的可以用函数来表达的局部结构空间另一方面在人工智能学的人工感知领域我们通过数学统计学的应用可以来做人工感知方面的决定问也就是说通过统计学的方法，人工神经网络能够类似人一样具有简单的决定能力和简单的判断能，这种方法比起正式的逻辑学推理演算更具有优势。19，心理学家W.S.McCulloch家W.Pitts神经网络和数学模型称为M模型他们通过M模型提出了神经元的形式化数学描述和网络结构方法证明了单个神经元能执行逻辑功能从而开创了人工神经网络研究的时代。19，心理学家提出了突触联系强度可变的设想。6年代，人工神经网络的到了进一步发展更完善的神经网络模型被提出其中包括感知器和自适应线性元件等。M.Mi分析了以感知器为代表的神经网络系统的功能及局限后，于19出版了《Perceptron出感知器不能解决高阶谓词问题他们的论点极大地影响了神经网络的研究加之当时串行计算机和人工智能所取得的成就，掩盖了发展新型计算机和人工智能新途径的必要性和迫切性，使人工神经网络的研究处于低潮。在此期间一些人工神经网络的研究者仍然致力于这一研究提出了适应谐ART同时进行了神经网络数学理论的研究。以上研究为神经网络的研究和发展奠定了基础。19，美国加州工学院物理学家J.J.Hopf格模型，引入了“计算能量”概念，给出了网络稳定性判断。1984 Hopf神经ld网络模型为神经计算机的研究做了开拓性的工作开创了神经网络用于联想记忆和优化计算的新途径，有力地推动了神经网络的研究。19，又有学者提出了波耳兹曼模型在学习中采用统计热力学模拟退火技术保证整个系统趋于全局稳定点。19进行认知微观结构地研究，提出了并行分布处理的理论。人工神经网络的研究受到了各个发达国家的重视。美国国会通过决议将19月日变RWC成。，。其中常见的两种分类方法是按照网络连接的拓朴结构分类和按照网络内部的信息流向分类。按照网络拓朴结构分类网络的拓朴结构，即神经元之间的连接方式。按此划分，可将神经网络结构分为两大类层次型结构和互联型结构层次型结构的神经网各网，隐连，节，接。分相得，进馈。节外。景针对神经网络存在的问题和社会需求今后发展的主要方向可分为理论研究和应用研究两个方面。（1）利用神认究及机理、计算理论，带着问题研究理论。人工神经网络提供了一种揭示智能和了解人脑工作方式的合理途径但是由于人类起初对神经系统了解非常有限对于自身脑结构及其活动机理的认识还十分肤浅，并且带有某种“先验”。例如，Boltzmann要。络此变智能和机器关系的认识。利用神经科学基础理论的研究成果，用数理方法探索智能水平更高的人工神经网络模型，深入研究网络的算法和性能，如神经计算、数的发从。（2）神经网络软件模拟，硬件实现的研究以及神经网络在各个科学技术领域应用的研究。由于人工神经网络可以用传统计算机模拟，也可以用集成电路芯片组成神经计算机甚至还可以用光学的生物芯片的方式实现因此研制纯软件模拟虚拟模拟和全硬件实现的电子神经网络计算机潜力巨大如何使神经网络计算机与传统的计算机和人工智能技术相结合也是前沿课题如何使神经网络计算机的功能向智能化发展研制与人脑功能相似的智能计算机如光学神经计算机，分子神经计算机，将具有十分诱人的前景。人工神经网络打开了认识论的新领域（1）认识与脑的问题，长期以来一直受到人们的关注，因为它不仅是有关人的心理意识的心理学问题也是有关人的思维活动机制的脑科学与思维科学问题而且直接关系到对物质与意识的哲学基本问题的回答人工神经网络的发展使我们能够更进一步地既唯物又辩证地理解认识与脑的关系打开认识论的新领域人脑是一个复杂的并行系统它具“认知意识情感等高级脑功能，用人工进行模拟有利于加深对思维及智能的认识已对认知和智力的本质的研究产生了极大的推动作用在研究大脑的整体功能和复杂性方面人工神经网络给人们带来了新的启迪由于人脑中存在混沌现象混沌可用来理解脑中某些不规则的活动从而混沌动力学模型能用作人对外部世界建模的工具可用来描述人脑的信息处理过程混沌和智能是有关的神经网络中引入混沌学思想有助于提示人类形象思维等方面的奥秘人工神经网络之所以再度兴起关键在于它反映了事物的非线性抓住了客观世界的本质而且它在一定程度上正面回答了智能系统如何从环境中自主学习这一最关键的问题，从认知的角度讲，所谓学习，就是对未知现象或规律的发现和归纳由于神经网络具有高度的并行性高度的非线性全局作用良好的容错性与联想记忆功能以及十分强的自适应自学习功能而使得它成为揭示智能和了解人脑工作方式的合理途径但是由于认知问题的复杂性目前我们对于脑神经网的运行和神经细胞的内部处理机制如信是脑。（2人工神经网络发展的推动力来源于实践理论和问题的相互作用随着人们社会实践范围的不断扩大社会实践层次的不断深入人们所接触到的自然现象也越来越丰富多彩纷繁复杂这就促使人们用不同的原因加以解释不同种类的自然现象当不同种类的自然现象可以用同样的原因加以解释这样就出现于到。地个可y，，的，明Miniky的悲观论调是错误的。今天，高度发达的科学技术逐渐揭示了非线性问题是客观世界的本质问题理论实践的相互作用又迎来了人工神经网络的第二次高潮目前人工神经网络的问题是智能水平不高还有其它理论和实现方面的问题这就迫使人们不断地进行理论不。是，问，，而不、辩。（3人工神经网络发展的另一推动力来源于相关学科的贡献及不同学科专家的竞争与协同人工神经网络本身就是一门边缘学科，它的发展有更广阔的科学背景，亦即是众多科研成果的综合产物，控制论创始Wiener在其家g过B网络的设想Prigoginen研究大量元件联合行动而产生宏观效果，非线性系统“混沌”态的提出及其研究等都是研究如何通过元件间的相互作用建立复杂系统类似于生物系统的自组织行为脑科学与神经科学的进展迅速反映到人工神经网络的研究中例如生物神经网络理论视觉中发现的侧抑制原理感受野概念等为神经网络的发展起了重要的推动作用从已提出的上百种人工神经网络模型中涉及学科之多令人目不暇接其应用领域之广令人叹为观止不同学科专家为了在这一领域取得领先水平存在着不同程度的竞争所有这些有力地推动了人工神经网络的发展人脑是一个功能十分强大结构异常复杂的信息系统随着信息论控制论、生命科