人工神经网络方法

人工神经网络方法

——原理及应用张倩倩、孙晶人工神经网络方法人工神经网络简介应用实例

——长江三角洲地区

城市体系的职能分类

人工神经网络，是一个具有高度非线性的超大规模连续时间动力系统，是由大量的处理单元(神经元)广泛互连而形成的网络。是人脑的某种抽象、简化与模拟。人工神经网络的特点和优越性：具有自学习功能；具有联想存储功能；具有高速寻找优化解的能力。在现代地理学中，人工神经网络方法特别适用于地理模式识别、地理过程模拟与预测、复杂地理系统的优化计算等问题的研究。人工神经网络简介神经元模型神经网络的基本结构人工神经网络的工作原理人工神经网络的学习规则神经网络模型的种类yiθix1x2xnW1iW2iWni神经元模型神经元模型

基于生物神经元构造，W.McCulloch和W.Pitts于1943年建立了一个模拟神经元功能的数学模型，这个模型被称为MP模型。

MP模型是一个多输出单输出的非线性元件。在MP模型中，f是二值函数，其输出值为0或1，分别代表神经元的抑制和兴奋状态，它可以用阶跃函数表示，即当wji>0时，为兴奋性突触结合；当wji<0时，为抑制性突触结合；当wji=0时，为无结合。神经元构成的神经网络如图所示。yjwkjθjj#θkk#θii#θmm#wijwmiwkiyiymyk…神经网络神经元之间的突触结合有兴奋性和抑制性两种。在下图中，（a）和（b）分别给出了两个神经元串行连接和相互结合型连接的情形。

(a)12y1w21y221y1y2(b)w12w21两个神经元的不同连接（a）所示的两个神经元串行连接，当w21>0为兴奋性连接时，若神经元1处于兴奋状态，则神经元2也处于兴奋状态；当w21<0为抑制性连接时，若神经元1处于兴奋状态，反而会使神经元2容易处于抑制状态。在（b）中，两个神经元处于相互结合性状态，若w12和w21均为正，则某一个神经元处于兴奋状态时，另一个神经元也倾向于兴奋状态，这称为神经元之间的协调作用；若w12和w21均为均为负，则当某一个神经元处于兴奋状态时，另一神经元倾向于抑制状态，这称为神经元之间的竞争作用。协调和竞争是神经网络中并行信息处理的基本动态特性。

神经网络的基本结构把大量的神经元通过一定的拓扑结构连接起来，就形成了神经网络。神经元之间的连接方式有相互结合型结构和层状结构两大类。21435(a)相互结合型12345(b)层状结构神经网络的结构图(a)所示的相互结合型神经网络系统中存在着反馈环。在神经元的学习过程中，进行误差反馈。反馈有正、负之分，正反馈使系统发生振荡，负反馈使系统稳定。在大脑神经系统中，由于负反馈的存在，使控制抑制的机构起着十分重要的作用。正反馈对大脑神经元的同步动作起着一定的作用。在图(b)所示的层状神经网络结构中，信号依特定的方向传播。在生物体内，大脑皮质之间、感觉器官和大脑之间，就可以看作是一种分层结构，即功能模块级的分层。在大脑内确实存在各种机理不同的功能模块，这一点被大脑的解剖研究已经证明，而且每一个模块内部是由神经元组成的并行处理系统。

人工神经网络的工作原理

人工神经网络首先要以一定的学习准则进行学习，然后才能工作。网络学习的准则应该是：如果网络作出错误的判决，则通过网络的学习，应使得网络减少下次犯同样错误的可能性。将模式分布地记忆在网络的各个连接权值上。当网络再次遇到其中任何一个模式时，能够作出迅速、准确的判断和识别。神经网络的工作过程主要由两个阶段组成，一个阶段是工作期，此时各连接权值固定，计算单元的状态变化，以求达到稳定状态。另一阶段是学习期(自适应期，或设计期)，此时各计算单元状态不变，各连接权值可修改(通过学习样本或其他方法)，前一阶段较快，各单元的状态亦称短期记忆(STM)，后一阶段慢的多，权及连接方式亦称长期记忆(LTM)。人工神经网络的学习规则神经网络的学习过程，一般是，首先设定初时权值，如果无先验的知识，初时权值可设定为随机值。接着输入样本数据进行学习，参照评价标准进行评判。如果达到要求，就停止学习，否则按照给定的学习法则调整权值，继续进行学习，直到取得满意的结果为止。神经网络的学习规则，主要包括误差传播式学习、联想学习、竞争性（Competitive）学习和基于知识的学习等。各种学习规则都是以Hebb规则为基础的。

误差传播式学习感知器（Perceptron）是神经网络中的一种最基本的神经网络模型，它是F.Rosenblatt于1961年提出来的。设神经元的输入输出关系为η是学习速率，di是教师信号或希望输出，δi是实际输出yi与希望输出di之差，yi和xj取1或0的离散值。联想式学习根据空间或时间上接近的事物之间，性质上相似或相反的事物之间，以及存在因果关系的事物都可能在人的大脑中产生联想的原理，人们提出了许多无教师的联想式学习模式，其学习规则可以表示为在联想式学习中，权值变化仅是输入与输出同时兴奋的结果。由于联想发生在输入与输出之间，所以这种联想被称为异联想（Hetroassociation）。

竞争召性学块习在竞留争性师学习田时，国网络忧各输拖出单阴元相送互竞粉争，信最后味达到棵只有报一个码最强番者激绿活，贯最常邪见的统一种禾情况吃是输妈出神弓经元鼠之间狱有侧疤向抑边制性朽连接,这样监，原战来输促出单还元中庸若有抽一个现单元害较强后，则掠它将锅获胜悔并抑爆制其隶它单裤元，讨最后仅只有异此强斧者处寄于激异活状领态。踪蝶最常治见的树竞争温性学狂习规为则可救以写魂为输入层输出层具有侧向抑制性连接的竞争学习网络神经席网络顿模型阵的种傻类按照副拓扑孟结构甘可以泄分为咸反馈富神经岭网络燃模型紧和前搜向神渣经网酸络模秋型；快按照须性能粪可以约分为并连续赚型和永离散垮型神案经网即络模棕型，佛确定妇型和存随机购型神缸经网春络模醋型；并按照恨学习纱方式熄可以杂分为权有教哪师学怖习和智无教胆师学草习神串经网己络；优按照符连接国突触慌性质乎可以镰分为暖一阶笼线性姜关联胸神经闯网络贝模型共和高忘阶非尘线性低关联略神经籍网络种模型伪。常集见的涛人工金神经州网络虏模型茅，主堂要包您括感揭知器对（Pe笔rc弯ep酬tr奴on）神经走网络雄、线阳性神快经网清络、速前馈芒神经后网络兄、径请向基脏函数锯神经拨网络纷、自本组织絮竞争是神经贿网络欧、回络归神堤经网仆络等援。应用催实例：——长江伪三角痒洲地披区城市蜂体系昼的职惩能分锤类建立漆城市央职能大分类垄的指深标体谢系Ko畅ho欢ne阿n网络疗的原便理建立倒城市期分类冒的Ko错ho雪ne竖n网络兽模型结果勇及讨体论建立丹城市慰职能春分类读的指疾标体爆系1选择互反映滋城市如社会艇发展凝的指浇标在人胃口与垫劳动斯力构该成中排选取欢总人件口、皇非农卷业人踏口、百从业躺人员轻作为城衡量殊城市昏规模残的指芽标；鞋将在遭校小堆学生前数、雾中等妄学校涨学生令数、受高等西学校做学生桑数三队项合澡并为缺一项手，即待在校生学生啊数，栋同时丽选取办各类众专业搬技术拳人员副、公垄共图舰书馆底图书劈燕藏量回、医她院卫葛生院淡床位谨数作谊为反闪映社增会文逝化教轿育的骑指标栗。2选择续反映猪城市征社会枕经济汇的指再标在城摆市国星民生涝产总烤值综疲合指胡标中宝，选贩取国驳内生亲产总永值、牙人均动国民遵生产华总值巨、第唱一产份业、梅第二切产业么、第底三产普业、粮工业愁产值姜、农肾林牧根渔总集产值疮以及嫩有关禁财政件、金疯融、殿保险秃等17项指蹦标。3选择耗反映再城市远基础测设施膏的指掘标从交闷通运棵输、腾邮电讲事业秩的指补标中茎，选他取了到公路垫客运获量、仿公路超客运芒量、狐邮电晒业务蓝总量3项指啄标。表——城市汉职能举分类叙指标谣体系城市社会发展

总人口、非农业人口、从业人员、在职职工年平均工资、在校学生数、各类专业技术人员、公共图书馆图书藏量、医院卫生院床位数。城市经济发展

城市社会发展国内生产总值、人均国民生产总值、第一产业产值、第二产业产值、第三产业产值、工业产值、农林牧渔总产值、固定资产投资、财政总收入、地方财政收入、地方财政支出、出口总额、利用外资、年末金融机构存款余额、年末金融机构贷款余额、保险收入、已决赔款。

城市基础设施

公路客运量、公路客运量、邮电业务总量。

Ko撕ho乘ne肺n网络罪的原拥理Ko返ho锁ne眼n网络肌也称惭为自售组织丢特征森映射味网络(S樱el丸f-师Or由ga解ni负zi纠ng蕉F想ea烘tu裳re折M拼ap向,简称SO状M网络)，通占过寻镰找最遗优权轰值矢方量对皆输入五模式糟集合吧进行著分类斧。1偿Ko夫ho餐ne滤n网络怒结构由输扣入层堵和输底出层抢（也虫称竞骨争层猪）构剂成的板两层版网络宾，输舍入层离用于沟接收乔输入娃模式句，输单出层缠的神青经元匀一般沃按正诉则二隙维阵蜡列排配列，垫两层堤之间矿的各怀神经忌元实榴现双老向权爬连接葱。Ko务ho静ne异n网络丹结构2那Ko宏ho钱ne老n网络怀的学采习和偷工作船规则Ko差ho巧ne拔n网络参的自窝组织燥学习问过程凝可以语描述抵为：适对于滨每一扁个网慨络的赤输入浴，只棕调整宾一部先分权饲值，等使权帅向量斜更接擦近或忌更偏纵离输粱入矢段量，具这一粒调整晃过程磁，就颜是竞吧争学丝式习，祥随着毁不断欣学习萌，所追有权狂矢量提都在厦输入助矢量福空间将相互雷分离堆，形登成了容各自坚代表铅输入悉空间奔的一急类模系式，岛这就麦是Ko改ho猪ne依n网络津的特滔征自陈动识黎别的淹聚类进功能。建立妥城市习分类电的Ko粪ho乳ne存n网络泛模型1指标瞧数据蠢的处炸理在本学模型匙中，昂采用馅标准尺差标轿准化冻，将孤原始申数据转换罗为：2运用Ma转tl暮ab神经境网络瞒工具刘箱建泻立Ko挺ho尺ne育n网络杏模型将长俱江三免角洲敏各城罚市的28项指残标导迈入Ko符ho血ne寻n网络名中，西作为览网络减的输墙入模医式区，肯因此豆输入搅层的开神经削元个询数为28；而谈竞争狗层的伐神经盾元个回数决备定于妖需要株分成梅几类萍，在搂不清偷楚分嫩类数胡目的颠情况舅下，虑竞争翅层神熄经元存个数路从开澡始，愉然后西依次取加1，分肥别进煤行学望习。在Ko软ho加ne陡n网络凯模型摸中，查选择躺网络游训练膜的迭旧代最劫大次林数为10校00次，犯初始旬的学交习率靠为0.押5。3缸K攀oh滚on链en网络权模型懂的分念类结俩果结果厉及讨弟论从长妻江三穴角洲毙城市礼的分迷类模规型结府果来辩看，典分类远结果汇与实鹊际情击况大着体一你致，肾结果来较为心