人工智能学年论文对人工神经网络学习的探讨

1、学号: 人工智能课程论文学院计算机与信息技术专业计算机科学与技术年级2010级计科一班姓名课题对人工神经网络学习的探讨对人工神经网络学习的探讨摘要:随着智能技术研究和应用的不断深入,人工智能越来越受到社会的关注。在中国科协2008年举办的"十项引领未来的科学技术"网络评选中,"人工智能技术"名列第四。人工智能作为一项引领未来的科学技术,正在以其无限的潜力,影响着未来科学技术的发展,改变着人类的生产生活方式。人工智能就是要用机器模拟、延伸和扩展人的智能。智能就像人类生命体的精髓一样,人工智能则是人造智能系统的精髓。今天,从智能理论到智能应用,从智能产品到智

2、能产业,从个体智能到群体智能,从智能家居到智能社会,人工智能已无处不在,其新理论、新方法、新技术、新系统、新应用如雨后春笋般不断涌现。创新智能技术,深化智能应用是人工智能发展的根本。人工神经网络是一种新的数学建模方式,它具有通过学习逼近任意非线性映射的能力,本文主要提出了一种基于动态BP神经网络的猜测方法。关键字:人工智能;动态系统;反向传播;人工神经网络;BP神经网络一、简介作为动态系统辨识、建模和控制的一种新的、令人感兴趣的工具,人工神经网络(ANN提供了一种普遍而且实用的方法从样例中学习值为实数、离散值或向量的函数。像反向传播(BACKPROPAGATION这样的算法,使用梯度下降下来调

3、节网络参数以最佳拟合由输入输出对组成的训练集合。ANN学习对于训练数据中的错误健壮性很好,且已被成功的应用到很多领域,例如视觉场景分析、语音识别以及机器人控制等。对人工神经网络的研究可以追溯到计算机科学的早期。然而,直到20世纪60年代晚期,人们才开始清楚单层的感知器网络的表现能力很有限,而且找不到训练多层网络的有效方法。在20世纪80年代中期ANN的研究经历了一次复兴,主要是因为训练多层网络的反向传播算法的发明。自从20世纪80年代,反向传播算法就成为应用最广泛的学习方法,而且人们也积极探索出了很多其他的ANN 方法。二、人工神经网络学习的国内外研究状况随着人工神经网络20世纪80年代在世界

4、范围内的复苏,国内也逐步掀起了研究热潮。经过十几年的发展,中国学术界和工程界在人工神经网络的理论研究和应用方面取得了丰硕成果,学术论文、应用成果和研究人员逐年增加.在国际上,1987年,在美国加洲召开了第一届国际神经网络学会.此后每年召开两次国际联合神经网络大会(IJCNN.不久,该学会创办了刊物Journal Neural Networks,另有十几种国际著名的神经网络学术刊物相继问世,至此,神经网络理论研究在国际学术领域获得了其应有的地位。作为人工神经网络学习的典型算法反向传播(BP算法,近年来国内外学者对这一算法提出了一些改进。其中,由宋绍云、仲涛提出的BP人工神经网络网络的新算法解决了

5、传统算法的局部极小及收敛速度慢的问题。该算法是在BP神经网络现有的基础上提出的一种新的算法。人工神经网络的研究同样在实践中也有所发展。比如,基于人工神经网络的并行强化学习自适应路径规划,可以很好的应用于机器人蔽障系统。BP算法在雷达目标识别中的应用以及在超声检测中的应用等都是在BP算法改进的基础上实现的。三、所选专题的研究意义与研究方法从1946年第一台电子数字计算机问世以来直到现在,大多数信息处理都采用程序式计算方式。这种方式解题需要设计算法或规则,并正确的编制成软件,然后才能进行问题求解。这种解题方式必须考虑3个因素:问题的形式化;可进行计算的算法;计算的复杂性。人脑处理信息的特点如下:大

6、规模并行处理;具有很强的容错性,善于联想、概括、类比和推广;具有很强的自适应能力。由上可知,脑是最复杂、最完美、最有效的一种信息处理装置,人们正以极大的兴趣研究它的结构和机理。以此为背景,以人工神经网络为基础,形成了神经网络的新学科。目前,对大脑思维的过程了解仍然很肤浅,人工神经网络模拟的研究还很不充分,人们面临的是一个充满未知的新领域。神经网络将在基本原理方面进行更深刻的探索。神经网络研究的主要目的如下:(1理解脑系统为何具有智能。这些计算与符号表示的形式操作处理不同,人脑是如何组织和实施这些计算的。(2研究各种强调“计算能力”的神经网络模型,并不着重于这些模型的生物学保真程度(3研究大规模

7、并行自适应处理机理。(4研究神经计算机的体系结构和实现技术。四、适合神经网络学习的问题人工神经网络学习非常适合于这样的问题:训练集合为含有噪声的复杂传感器数据,例如来自摄像机和麦克风的数据。它也适用于需要较多符号表示的问题,例如决策树学习任务。这种情况下ANN和决策树学习经常产生精度大体相当的结果。反向传播算法是最常用的ANN学习技术。它适合具有以下特征的问题:(1实例是用很多“属性-值”对表示的。(2系统中输出的是30属性向量,每一个分量对应一个建议的驾驶方向。每个输出值是0和1之间的某个实数,对应于在预测相应驾驶方向时的置信度。(3训练数据可能包含错误:ANN学习算法对于训练数据中的有非常

8、好的健壮性。(4可容忍长时间的训练:网络训练算法通常比像决策树学习这样的算法需要更长的训练时间。(5可能需要快速求出目标函数值。(6人类能否理解学到的目标函数是不重要的:神经网络学习方法学习到得权值经常是人类难以解释的。五、对人工神经网络学习研究的认识及观点(一人工神经网络学习的几种算法1.有监督Hebb算法2.单层感知器3.梯度(LMS算法4.BP算法这几种算法中,BP算法应用最为广泛。(二基于反向传播网络的学习反向传播算法是一种计算单个权值变化引起网络性能变化值得较为简单的方法。由于BP算法过程包含从输出节点开始,反向地向第一隐含层(即最接近输入层的隐含层传播由总误差引起的权值修正,所以称

9、为“反向传播”。(1反向传播网络的结构鲁梅尔哈特和麦克莱兰于1985年发展了BP网络学习算法,实现了明基斯的多层网络设想。BP网络不仅含有输入节点和输出节点,而且还含有一层或多层隐(层节点。BP算法的学习过程由正向传播和反向传播组成。在正向传播过程中,输入信息从输入层经隐单元层逐层处理后,传至输出层。每一层神经元的状态只影响下一层神经元的状态。如果在输出层得不到期望输出,那么就转为反向传播,把误差信号沿原连接路径返回,并通过修改各层神经元的权值,使误差信号最小。反向传播算法是一种很有效的学习算法,它已解决了不少问题,成为神经网络的重要模型之一。(2反向传播算法性能分析反向传播算法作为指导多层感

10、知器训练的最流行的算法而出现,基本上,它是一个梯度(导数的技术而不是一个最优化技术。其具有两个明显的性质:局部计算简单;可实现权值空间的随机梯度下降。多层感知器背景下的BP学习的这两个属性导致了它的优点和缺点。1.BP网络的优点1BP网络实质上实现了一个从输入到输出的映射功能,而数学理论已经证明它具有实现任何复杂非线性映射的功能。这使得它特别适合于求解内部机制复杂的问题。2BP网络能通过学习带正确答案的实例集自动提取“合理的”求解规则,即具有自学习能力。通过学习,BP网络能在任意精度范围内表达复杂的非线性映射。3BP网络具有泛化能力,能从样本数据中学习知识,抽象一般性规律。BP 网络的泛化能力

11、既与自身记忆容量相关,又与学习样本具有的信息量相关。2.BP网络的问题传统的BP网络在诸多领域得到广泛应用,也取得一定的成效,但在实际应用中有时处理结果并不理想,还存在诸多问题。究其原因,主要是BP网络还存在许多固有的缺点,这不只是多层前向BP网络的问题。1BP算法的学习速度很慢;2网络训练失败的可能性较大。六、小结 人工神经网络学习为学习实数值和向量值函数提供了一种实际的方法， 对于 连续的和离散值得属性都可以使用，并且对训练数据中的噪声具有很好的健壮 性。 反向传播算法是最常见的网络学习算法，这已经被成功应用在很多学习任务 中，比如手写识别和机器人控制。 反向传播算法使用梯度下降方法搜索可

12、能假设的空间， 迭代减小网络的误差 以拟合训练数据。 反向传播算法最令人感兴趣的特征之一，是它能够创造出网络 输入中没有明确出现的特征。 过度拟合训练是 ANN 学习中的一个重要问题。 过度拟合导致网络泛化到新的 数据时性能很差， 尽管网络对于数据表现非常好。交叉验证方法可以用来估计梯 度下降搜索的合适终止点，从而最小化过度拟合的风险。 任何新生事物的成长都不是一帆风顺的。 人工神经网络学习也不例外。 但是， 经过长时间的研究发展， 神经网络学习已经逐步成长起来了，在未来的发展中可 能会遇到新的困难， 甚至遭受较大的挫折。广大研究者也可能会为此承受巨大风 险。但是作为科学研究者，我们应持有乐观的态度，为神经网络学习的发展做贡 献。 参考文献 1宋绍云,仲涛.BP 人工神经网络的新型算法.人工智能及识别技术,2009,5(5 2李晓峰,徐玖平,王荫清,贺昌政.BP 人工神经网络自适应学习算法的建立及 其应用.系统工程理论与实践.2004,5(5 3李建珍.基于遗传算法的人工神经网络学习算法.西北师范大学学报.2002 4耿晓龙,李长江.基于人工神经网络的并行强化学习自适应路径规划.科学技 术与工程.2011,11(4 5蔡自兴,徐光祐.人工智能及其应用.北京：清