第1章-绪论资料课件

人工神经网络基础主讲：李忠教授ArtificialNeuralNetwork参考文献：将宗礼，人工神经网络导论，北京：高等教育出版社，2003丁士圻，郭丽华，人工神经网络基础，哈尔滨工程大学出版社，2008焦李成.神经网络的应用与实现.西安:西安科技大学出版社，2005胡守仁.神经网络导论.北京:国防科技大学出版社，1993韩力群，人工神经网络理论、设计及应用（第二版），化学工业出版社，2007。（教材）ISBN:9787502595234近年“计算机学报”、“软件学报”、“模式识别”、“自动化学报”等相关文献Q1：为什么开这门课？

Q2:这门课能干什么？A1：选修课，挣学分，课程建设，补充课程库，知识传承。A2：分类聚类，自动控制，联想记忆，数据压缩，趋势预测，解决难题。前言现代计算机对于那些特征明确、推理或者运算规则清楚的可编程问题，可以高速有效地求解，在数值计算与逻辑运算方面拓展了人脑能力。随着人脑科学的深入研究，推动了人工神经网络的研究与应用。第一章绪论1.1人脑与计算机1.2人工神经网络的发展史1.3神经网络的基本特征与功能1.4人工神经网络的主要应用领域1人脑与计算机人类具有高度发达的大脑，大脑是思维活动的物质基础，思维是人类智能的集中体现。人脑思维具有三种方式：逻辑思维、形象思维、灵感思维

-----钱学森逻辑思维是概念、判断与推理，即将信息抽象为概念，再根据逻辑规则进行推理。这可以使用串行指令由机器完成。例如：1997年的国际象棋人机大战：深蓝

PK卡斯帕洛夫2006年8月，浪潮天梭超级计算机

PK5位中国象棋大师联队(柳大华、卜风波、徐天红、张强、汪洋

)然而，在形象思维和灵感思维方面，计算机表现差强人意。小档案：IBM生产，CPU：RS6000SP2数据处理方式：并行速度：200万步/秒最新：360万亿次/秒1997年5月11日深蓝战胜卡斯帕罗夫

1997年5月11日，早晨4时50分(北京时间)，一台名为“深蓝”的超级电脑将棋盘上的一个兵走到C4位置时，人类有史以来最伟大的国际象棋名家卡斯帕罗夫不得不沮丧地承认自己输了。世纪末的一场人机大战终于以计算机的微弱优势取胜。这场比赛是继去年卡斯帕罗夫与IBM的超级电脑“深蓝”比赛获胜后，与改进型的“深蓝”的第二次较量。比赛于5月3日--11日在纽约的公平大厦举行。整个比赛引起了全世界传媒的巨大关注。比赛吸引人们注视目光的原因之一是世界象棋冠军卡斯帕罗夫赛前充满信心，发誓要为捍卫人类之优于机器的尊严而战。然而，最后的结果却是他所捍卫的人类尊严在一台冷漠的1.4吨重的庞然大物

“蓝色巨人”面前被无情地击溃了。虽然人类的骄傲可以把这场比赛的结果仍然归咎于人类的胜利，毕竟“深蓝”自己也是人类所研制出来的一台计算机而已，但人类所创造的工具击溃了人类，并且是在人类引以为骄傲的智慧领域，这在一定程度上带来了恐惧，并由此引发了一场有关人类创造物与自身关系的深层讨论。“深蓝”是IBM公司生产的世界上第一台超级国际象棋电脑。是一台RS6000SP2超级并行处理计算机，计算能力惊人，平均每秒可计算棋局变化200万步。

卡斯帕罗夫曾分别于1996年和1997年同IBM公司超级计算机“深蓝”两次展开“人机大战”，结果卡斯帕罗夫一胜一负。在1997年的那场著名比赛中，卡斯帕罗夫以2.5∶3.5的总比分在“深蓝”面前败下阵来，引起全球轰动。一些人甚至认为，这标志着电脑的智能已经开始超越人脑。2003年1月26日，卡斯帕罗夫花了不到4个小时，仅用27回合，就轻取名为“小深”的计算机软件棋手，在引人注目的新一轮“人机大战”中以1∶0暂告领先。由以色列科学家开发的“小深”每秒能思考300万步棋并能以更接近人类棋手的方式对奕，曾连续三次在国际象棋计算机大赛中夺冠，人称电脑“棋王”。之后这台电脑被拆卸。

右为“深蓝”现场操作者许峰雄博士：“深蓝之父”、微软亚洲研究院的高级研究员，绰号：CB——“疯狂的鸟”。他在1980年毕业于台湾大学，1989获得卡耐基梅隆大学计算机博士学位。他和同伴在1997年研制出大型计算机“深蓝”，拉开电脑与人脑的“世纪之战”，以“深蓝”战胜国际象棋世界冠军卡斯帕罗夫而告终，轰动全世界。2003年春，许峰雄加盟微软亚洲研究院。

五大师将出征：汪洋、张强、卜风波、徐天红、柳大华

2006年8月9日，在首届浪潮杯中国象棋人机大战中，经过三个小时的激烈搏战，1台浪潮天梭高性能服务器以微弱优势击败了由柳大华等五位中国象棋特级大师组成的人类大师队。在十局比赛中，大师队2胜5平3负，最终以9∶11的总比分负于浪潮天梭。比赛现场类人机器人丰田机器人乐队美女阿莫西蛇形机器人

1956年正式提出人工智能（artificialintelligence,AI）是前沿学科。

20世纪三大科学技术成就：空间技术原子能技术

人工智能综合计算机科学、控制论、信息论、神经心理学、哲学、语言学等棋天大圣Excel格式样本数据1.1.1人脑与电脑比较1、记忆与联想能力人脑电脑

1.4×1011个神经细胞存储器随机顺序联想记忆无过滤无自联恢复无创造性无

2、学习与认知能力计算机被动执行程序

3、信息加工能力电脑不具备非逻辑加工能力

4、信息综合能力归纳、类比、概括、综合5、信息处理速度人脑信息传递速度为毫秒级，而电脑为纳秒级，对于串行算法，电脑确实快。而对于并行算法、模式识别等，电脑就差远了PK1.1.2人脑与计算机信息处理机制比较四个方面1、系统结构：简单与复杂2、信号形式：二值逻辑与模糊逻辑3、信息存储：集中与分散4、信息处理机制：串行与协同1.1.3什么是人工神经网络人工神经网络(ANN)只是对人脑的简化、抽象和模拟。

ANN是人类对其大脑神经网络认识理解的基础上人工构造的能够实现某种功能的神经网络。它是理论化的人脑神经网络的数学模型，是基于模仿大脑神经网络结构和功能而建立的一种信息处理系统。它实际上是由大量简单处理单元并联组合而成的复杂网络，具有高度的非线性特征。人工神经网络吸取了生物神经网络的许多优点，它的主要特点如下：高度的并行性高度的非线性全局作用良好的容错性与联想记忆功能很强的自适应、自学习功能1.2人工神经网络的发展史人工神经网络的研究是人类探索模仿脑神经系统信息处理智能装置的一个相当重要的领域。纵观其发展历程，几经兴衰，我们可以大致将它划分为四个时期：第一是启蒙期第二是低潮期第三是复兴期第四是高潮期

1.2.1启蒙期(1890年—1969年)

1890年从著名美国心理学家W.James的《心理学原理》研究开始，到1969年。

1943年，生理学家W.S.McCulloch和数学家W.A.Pitts发表的《神经活动中所蕴含思想的逻辑活动》从信息处理角度提出形式神经元的数学模型，M-P模型。开创了一个新时代。

1949年心理学家DonaldOlding

Hebb出版《行为构成》一书，首次提出连接权训练算法。

1958年计算机学家FrankRosenblatt提出了“感知机(perceptron)”，这是一个三层结构的神经网络。

1960年BernardWidrow和MarcianHoff发表《自适应开关电路》一文，提出了Adaline模型，即自适应线性单元，设计了一个精巧的学习训练算法—--误差平方和最小。1.2.2低潮期(1969年—1982年)

1969年人工智能创始人M.Minsky

和S.Papert

合著的《感知机》（Perceptrons）一书，指出ANN只能用于线性问题求解，而对非线性问题，需要隐含层，但理论上无法证明。为ANN的研究泼了一盆冷水。开始了长达10年的低潮期。研究资金大量减少！

1969年，美国波士顿大学的S.GrossBerg及其夫人提出著名的自适应共振理论，在之后若干年中，陆续提出ARTI，II，III三个版本的系统。

1972年，芬兰的T.Kohonen和美国的J.Anderson提出了自组织映射(SOM)理论。

1980年日本的福岛邦彦发表了《新认知机》一文，其后不断进行改进。1.2.3复兴期(1982年—1987年)

人工神经网络研究的复兴标志是：

1982年，美国加州工学院物理学家JohnJ.Hopfield博士发表的一篇突破性学术论文，提出了一个强有力的网络模型，引入了能量函数，这与电子电路存在对应关系。

1986年发表DavidE.Rumelhart及其小组发表了《并行分布式处理》一书，提出神经网络的三个特征：结构、传递函数和训练方法。也就是在这一时期，Rumelhart等人提出BP算法，对神经网络的复苏和发展起到了关键性作用。

1987年6月，首届国际ANN学术会议在美国加州圣地亚哥召开，与会代表1600多人，成立了国际神经网络学会INNS，之后每年一次。不久，《NeuralNetwork》创刊.重要的是，计算机技术飞速发展，促成了NN技术的研究和应用普及。1.2.4新时期(1987年—)我国最早关于NN的著作是涂序彦在1980年出版的《生物控制论》一书，其中一章介绍了神经网络。1988年，北大非线性研究中心发起举办“神经网络学习与识别”会议；1990年召开“中国首届神经网络学术大会”；1991年在南京召开第二届，成立神经网络学会。今年在厦门召开的第19届。

1.2.5国内研究概况1.3人工神经网络的主要应用领域

随着人工神经网络技术的发展，其用途日益广泛，应用领域也在不断拓展，已在各工程领域中得到广泛的应用。主要应用如下：（1）模式信息处理和模式识别人工神经网络特别适宜解算这类问题，形成了新的模式信息处理技术。它在各领域中广泛应用是神经网络技术发展的重要侧面。（2）最优化问题计算人工神经网络中有相当一部分模型是非线性动态系统，若将所计算问题的目标函数与网络某种能量函数对应起来，网络动态向能量函数极小值方向移动的过程则可视作优化问题的解算过程。网络的动态过程就是优化问题计算过程，稳态点则是优化问题的局部或全局最优动态过程解。（3）信息的智能化处理神经网络适宜于处理具有残缺结构和含有错误成分的模式，能够在信源信息含糊、不确定、不完整，存在矛盾及假象等复杂环境中处理模式。网络所具有的自学习能力使得传统专家系统技术应用较为困难的知识获取工作转换为网络的变结构调节过程，从而大大方便了知识库中知识的记忆和抽提。（4）复杂控制神经网络在诸如机器人运动控制等复杂控制问题方面有独到之处。较之传统数字计算机的离散控制方式，更适宜于组成快速实时自适应控制系统。（5）信号处理神经网络的自学习和自适应能力使其成为对各类信号进行多用途加工处理的一种天然工具，尤其在处理连续时序模拟信号方