神经网络在短时交通量预测中的应用

摘要进入21世纪以来，人们的社会生活水平逐渐提高，随着车辆在大多数城市居民中的普及，城市交通拥堵问题恶化迅速。为切实地解决这个问题，合理地安排交通运行，提高交通设施的使用效率，必须进行交通流的合理分配以及信号灯的优化配置，准确的短时交通流量预测是解决这些问题的重要依据。近年来BP神经网络被广泛应用于预测研究。本文设计了三层BP神经网络用于短时交通流量预测。将预测日前三天同时段的交通量作为输入信号，预测当日某时段的交通量。文中用江门市区小时交通量数据进行了仿真实验，结果表明该用方法进行短时交通流量预测是可行的。最后，对预测结果的准确性进行分析和讨论。关键词短时交通流量；BP神经网络；改进；仿真；预测AbstractSincetwenty-firstCentury,thesociallifelevelofpeopleisincreasinggradually,alongwiththevehicleinmostcityresidentsinthepopular,citytrafficcongestionproblemdeterioratedrapidly.Inordertosolvethisproblem,arrangethetransportationoperationrationally,improvetheefficiencyoftheuseoftransportationfacilities,optimizetheallocationofareasonableallocationtotrafficflowandsignallamp,accuratetrafficflowforecastingisanimportantbasisforsolvingtheseproblems.Inrecentyears,theBPneuralnetworkhasbeenwidelyusedinthepredictionof.Thispaperdesignstheshort-termtrafficflowforecastingforthethreelayerBPneuralnetwork.Thepredictionoftrafficvolumeinthreedaystimerecentlyastheinputsignal,thetrafficvolumeforecastatatime.WithJiangmenurbantrafficvolumedatabasedonthesimulationresults,theresultsshowthatthemethodforshort-termtrafficflowforecastingisfeasible.Finally,theaccuracyofthepredictionresultsareanalyzedanddiscussed.KeywordsShort-termtrafficflowBPneuralnetworkImproveSimulationForecast目录TOC\o"1-3"\h\u摘要IAbstractII第1章绪论11.1课题背景11.2研究目的和意义11.3本文研究的主要内容1对1.仔4涌本文锐章节睁安排揉2症第2责章哑神经施网络直介绍筐3湿2.绳1父神经覆网络摔的发亚展现谱状核3继2.美2鬼神经茶网络候的结鼠构宪3思2.心2.跳1晌人工役神经悄元冰3杀2.师2.吩2迫神经建网络数的结休构努4错2.句3险神经掠网络土的应怠用与截存在例问题姻6迁2.国3.央1催神经猪网络抗的应义用惯6写2.获3.项2睬神经秃网络陪存在衰的问玻题顽7课2.盐4也本章懂小结衰7施第3缩章举BP邮神经范网络侦及其菜算法狱8游3.禁1缎BP肤神经络网络徒概述翻8逃3.筑2剩BP役神经恨网络布的结话构悼8赞3.盼3俗BP君算法秋9味3.炸3.侵1央BP纲算法旦的基桐本原风理粮9奶3.夕3.拴2介BP坛算法傲计算溉步骤姻13妙3.界4粮BP攻神经畅网络渐的学恐习方专式龄14糊3.功5婆BP少神经罩网络灯性能戚分析蒜15咐3.替5.轧1响BP什网络翠优点途15刮3.款5.斗2斜BP医网络楼的不京足忍15掘3.温5.恰3杜BP意网络趴的缺姑陷与金改进复15厕3.赌6花本章丈小结晕16薯第4皇章衫短时县交通情流量付预测亲网络星17吹4.窑1悄B虏P神箭经型网络抓的设体计与量训练胸17议4.生1.鹿1杂BP龟神经贼网络促的设黄计方其法仔17卖4.酸1.僵2架改进恒型训术练方错法虎18晴4.绢1.抓3逢MA惨TL阁AB碌神经妻网络程工具赠箱吃20冒4.页2谋预测絮网络友的设哗计挽21若4.胜2.挽1焦神经暮元个镜数海21仍4.冒2.宾2售激活鸽函数惜的选倘择备22婆4.行3威预测混网络持的训董练与独测试个22拥4.爹3.狡1察训练重参数方设置餐22熊4.纳3.叮2炊仿真规实验切23昨4.已4陆仿真盲结果其分析姑28已4.贷5叠本章土小结塞28测结论押29古参考迹文献是30周致谢青31钟附录广32电第替1蜜章严绪论识1.款1奥课题蚕背景朝众所爱周知偿，我掌国是公个人程口大锻国，跳随着乎我国洗社会对经济饥的发果展，辈越来梨越多昆的特内陆劳人民柴和农化村居贤民番涌入删到东皆南岸近沿海冠城市轻谋求币更高的的收班入柏，再涂加上饭沿海浊城市放本身书的人值口，乐我国肺的沿矿海城独市都阿面临河着严寄峻的适交通特拥堵窗问题撕。尤恩其是戒广州跨、北哪京报等不这些家一线交发达黄城市板，交遥通问驻题尤舌为突帮出。次合理俗有效沙的分铁配交唯通流孙，安章排合抹适的耗行进贱路线梨，配番置恰甘当的门信号亏灯时僵间黑这些竹都是衡有效倦解决虾问题贺的方巧式，渐但是低这些藏方法猜都要夸有人彼去做妄交通真调查务才可向以提莫出相抹应的油方案笛。草现在陶对于皆解决戴交通唯拥堵孙问题材，大辜多数逮都会歇涉及苏到我根们熟乓识的道智能遣交通兄系统偷（I老TS慢）。奔智能系交通好系统颜是在投较完筝善的锣道路秀基础看设施唯上，讽将先砖进的兰信息蹦技术银、通卵信技零术、钓控制宋技术仿、传唉感器唇技术窄以及哲系统篇综合督技术挤有效诞地集动成并评应用迅于地族面交州通系橡统，售从而交建立悉起较突大范温围内饮发挥暖作用蜓，实释时、挺准确茂、高慌效的市地面瓦交通热系统槽[1危]疗。我相国的鸡智能腿交通击目前药正在稳高速脉发展为中，白但是谜比较尺一些纽发达朱国家差还略尾有欠红缺，木当前忧我们把一直化在努瓶力构情建一削个高便效的润城市母交通信监控盼指挥锹平台恒，但多是这庄一切钻都要转做流佣量测贱量乔。我液们解临决很蔬多交株通问蚂，提扎出各奋种各诊样的虾方案骄都要曾依据纲测量五到的盐数据惯进行朽。炭1.语2衔研究缎目的象和意残义乘本次班研究衫我们泉是通总过对狂已有派数据忆进行唱训练宏，得革到稳歉定、星小误酷差的域BP庙网络凉，然捆后进脏行挽实验舱预测堂。煌得到遗结果制后进幅行判祝断交娇通状训况页，邀这样拥我们墙就可千以为捷交通污控制怖中心谅对浇未来霜交通享疏导命、信蛾号灯荷时差影调整俱等决遵策提右供依晓据。争让交刻通控仪制中笑心发鹅布各惭样交灾通信寇息，道为市肌民出以行提兵供有膊效的玻路线速、时睛间安浅排，怒也可挺以翼合理辛引导捎各种片车辆朗前进吨的路肢线，侧解决壤城市递交通胶中的津拥堵想问题铸。孟本次巷研究但意义亭：补近些视年来毕，交敌通拥玩堵给洋我们屯带来酷的惨很多娘的不县便，肠交通辨事故狐也是眼频频易发生阻，这谋给我腰们的卡经济获、生完活造志成了佳很多雷的损掘失。涝要解俭决这女些问师题都鄙有一只个前非提，期就是肥要进腥行交吼通流扎量的尸测量寒与预姐测。话特别舞的，进在解絮决城予市交郑通问显题方振面更榜显得笼重要君。通活过对缺各种穷道路堆的短纳时交备通流准量预择测，依我们柿可以构更进预一步矮了解白城市英交通舍流的赖规律岛，能岛更好丰的去文想出承解决掠问题愚的办嘴法，洞为我绿们的很各种卫决策犬提供嘱依据味，创傍造出屠更多争的经捷济传效益帐，使似得交类通问介题不功再制近约我召们的穷城市源发展断。趴1.农3铲本文番研究古的主漠要内损容桶本文埋的主缴要内凯容是者通过炼学习硬BP习神经删网络胆，并右通过于网络炸训练姐，得费到我贯们需赢要的裹BP勉网络洽，揉最后疼使用衣这个围网络精进行杰交通晚流量蚊的蛙预测并。结芹合我特们仿产真得停到的译结果村对比足真腿实六的状样况捧，验叶证B矛P神黄经网趁络对归于短余时交栽通流衰量预柱测的猛可行抬性。挎本次牌预测示是建瓣立在铸Wi杆nd秀ow侧s孕X皆P冬系统鱼环境阶中的寒MA且TL喷AB躁7汗.0痰软件偷基础伯上的蕉BP些神经愧网络桨仿真鞠。误1.立4普本文席章节卖安排妙本文虹全文狭分为帝四尘章，魄章节禁安排瓦如下悔：佣第1捎章卫说明亦了筛本毕葵业设墙计的偷研究浓背景衣、目论的、雹意义掩，税以及滩本文扣的主占要内吓容。岂第2蛮章腰介绍朵了威神经妇网络茶的发部展，银它量的结嚷构陡和勤在各晃个领素域的亮应用欺，赴阐述普了神理经网满络细存在蜜的问钻题。假第3霜章顶介绍础了阿BP自神经内网络咸的结宏构郊，B吨P算暖法的洋基本滨原理作、盐计算摧步骤推以及均BP遣算法准的改斧进方穷法枯。但第4印章宋说明沃了交基通流锦量预君测实煌验的链设计挥、肿训练赵和仿序真测发试结敏果，代对预司测结傅果进领行了肌分析功和讨发论。三第2缠章为神经府网络割介绍宽2.忍1而神经绒网络阁的发领展现夸状常神经逼网络怜的科晕学研我究毅自诞份生起世至今骂已发喉展几由十年皮了，支它的应研究券历程先可划市分为笼三个班阶段环。第愧一个覆阶段友开始燃于处19羞50艺年到海19遣6捆9惭年之愚间；乒第二耕个阶华段在趟19毛70吐年到符7谦9宾年之估间；询第三裤个阶夹段为冻19听80挺年到绑至今邪。三鉴个阶脆段经情历了究高潮内期酬——麻低潮茫期淡——薯高潮稀期的腊发展坡，如溜今依羞然是坊人们狐研究饮的重衔要话稻题。灾第一融阶段奇开创环了神贿经网盟络理摊论研维究，经提出屡了神债经网溉络的贵学习纪算法冒基础享。第用二个说阶段割为神愁经网嫌络发苗展的母低潮劝期，优不过妥这一在时期状人们圆却提捉出了老更多碍的神应经网内络理奇论和欧模型专。如谢：富Fu照ku惧sh唐im棍a楼提出瓦了神燕经认白知网树络理刘论；吹Gr晴os急sb师er土g耀提出症了自担适应乖共振伍理论挖；惭An钻de炊rs孝on唱提出烛了锈BS栽B扇模型浩；瓶Ko微he予ne燃n催提出誉了自额组织珍映射艰；抹We笨bo锤s愁提出川了悲BP焰理论弯等。生第三罢个阶久段作蠢为神冤经网毫络的滚新一塘轮高症潮期冠研究密，使迟之焕厘发出沟蓬勃锄生机枣。刊从但19核82奋年，涌来自代美国晕的物烘理学拔家牛Ho腹pf轮ie贿ld旷在自撞己发融表的久文章奴中提印出佩Ho山pf符ie谨ld星神经河网络疼模型邀开始叙，到倚Hi谋nt皆on进和末Se钩jn臣ow踢ws替ki遍提出颂多层闯网络糖的学女习算笼法，损然后进一直驱到段Ru笔me风lh供ar忆t馒和便Mc鉴Ce粪ll寻an贡d肯发表汤文章汪提出角了多框层网袖络的止误差敌反向务传播烫学习兰算法蒙，即嚷我们奇所熟打知的斤BP破算法足，形惰成迄撇今为吉止最馋实用殊、最锻受大吹众欢失迎的闷BP硬神经目网络鸡。而偏我国夏在臂19瞒90永年也嫁在剧86斯3芬高技搬术研途究计梢划中中为人滨工神建经网感络的成研究润提供裙科研凡基金黑，为套我国肃神经米网络爷的发要展奠甩定基踪础仓[2鹅]音。叨神经细网络战发展干到今午天，漫由于灰其秆有桑应用延面不毛够墨广大楼、精礼确度台不够丰理想月，可鞭信度步有待自提高逗等原兆因火，进轨入深盐入到翅认识域与应走用研咐究时性期。茶人们寿期望敲在现叼有的他模型辣上对御其进盯行烂优化垒，提针高职其筒训练烧速度方，还繁有算运行旗精确建度，禁同时便也在解理论幅上滋探索黄发掘刘新的钓突破沉点吴，建顽立新贷的专鱼用引/选通用短模型白和算播法。暂同时仍期的津专家锦学者扁们也稠在生仅物神干经系库统中轰加大询研究姐投入策，期传望能亦够更罢彻底衬的了福解到伶更多君关于置神经照系统夸的知是识。鬼2.由2城神经致网络谨的结峰构较2.蔽2.诚1板人工钉神经寿元方神经托元是比神经停系统眯的基脸本组反成单组位。营神经厌元的叠树突序非常芹丰富瞧，它陶能充普分接台受其统他神醒经元里传来隙的兴棍奋。狱而轴朽突很狡长为妻兴奋吸的传姑导奠敲定基贪础，主轴突称末梢调也非锋常多侮，能俯把兴凶奋传岔至其牙他神泰经元扩，室树突前作为填输入璃端，庭接收膛信息陡，然畜后通伸过突壁触传田递出健去谊，载神经除元与清神经帅元之燥间的盗连接究是靠合突触融实现抗的鞠[3集]蛙。它讽的结恒构如拔图2仗-1务所示拳：披图2晒-燃1千生物亏神经绳元俘人工萌神经潮元可野以视股为生荷物神狠经元播的简赤化以年及模皆拟破，它罪作为营网络添中的刺基棒础级巾别的倒处理炒单元赤。自图2商-2槽表示暂神经共元条结构铃，它株拥有栋多鬼个亮输入真，但膝仅有时单输叫出，猛其输周入输句出关雄系可站以描建述为受：折篮澡湿就缠广张秩充室名答匪(2医-1夺)孝绵着亦恭皮薄鼻矩移衰简途脊铃丸(2橡-2掏)企其中渴，x衔j俗（j远=1秧,2掀,.包..膏,n齿）是脉从输前入机数据滴，θ愉i政为阈认值，狸w哨ij躬表示娱从铅神经捕元案j脆i的塞连接宅权值抄，辛成为抖作用炉函数灿。竟图2炕-2颤人埋工神梯经元秘结构末模型欺以上菌可以恋看出蜓，人枕工神成经元心其实卧就是拦反映碰生物仁神经厅元规的基僵本功川能[睁3]番。朴2.梢2.换2洁神经充网络怀的结方构蝶神经牲网络饥拥有拍由多俗个处菌理单惧元抗，授而神估经网哪络的挥信息根处理碌功能蝶是通胳过坦各个荒单元差之间疾的互学相作输用来煎达到筝目标畅的。举有多擦个神叼经元次遵照可我们来设定国的掠方式馋连接没成网梨络，考并且乳让网习络中芦每一旬个神违经元掀提取医数据包之间颤的共弃性询，最蓝后实艰现根输入真到输天出的罪映射个功能吨，完驰成网抖络训眼练疮。人需工神蝇经网艰络物虽然复种类桥繁多挺，雷样式沟都有牌各自办的特殿点，日但是神总体庭归纳弦为分台层型闪神经手网络双和互孔联型群神经乞网络特这垮两种康形式寨，。该分层敢类型牲的神未经网蚕络，悬它可活以分晴为三策种类卧型，灶其结症构如剪图2贯-3搂、图吩2-将4、卖图2袖-5寻所示闯，墨图2肿-3燃简睛单前辰馈网来络沫图2笨-4内反仁馈型良前馈枝网络彼图2赌-5永内蒜层互拾联前杜馈网截络没分层侧类型谊的神讨经网敬络是写将全驱部的式神经洞元功将能分示开到剧若干妹层之变中，蹈通常捏情况出下会伶有输栋入、嫂中间代以及绝输出溜三个旗层，捕各层蚊顺序辆连接此，而封中间完层因机为不呢直接暑与输踏入输凳出层津打交康道，铅因此秀又称腐为隐藏层，贡隐层降可以龄有多榨层，如也可剩没有屡[4终]关。根互联略型神棚经网蚊络的卵结前构彻图如砖图2释-4较所示湖，它押的任蛋意两秧个神词经元执都互炮相连既接，费形成仿全互贷联神瓣经网胃络列，耳如若楼非全懂部神澡经元胶相互进连接光，则牢形成淘局部付互联陪网络渗[4幻]钢。调图2神-4电互仆联型孝神经吩网络梅的拓馋扑结天构蝴2.望3腊神经食网络缺的应椒用胸与创存在镰问题垦2.柱3.陕1茂神经予网络带的应慢用扑时至坝今日叮，神纷经网即络已携经在松许多冒个领沿域中超得到虎应用养，其翅主要赵的应符用领杀域有肺：战（1归）自头动控购制领愚域渣主辆要应丽用于育系统菜模型叛建设兵、系属统的旅识别济、各匙类参隆数的搏整定升、各膝种极窄点的招配置仗等。狮（2食）处罩理为最望优问蝶题环为垄人们档解决喇旅行鸟商问盯题、蹲作业更调度蓝问题兼、最持大匹遵配问爷题，页还有侨装箱献问题储。洪（3天）霞模式壤识别句方面庸逗手写悠字符请、汽汇车牌裙照、鹊目标凡自动箭识别骗、目进标跟界踪、监地震倒信号熔的鉴森别等键。旱（4杆）比图像念处理涛方面众窝对到有杏需要虎的适目标肯进行纹监测速—分扎割—购压缩泪—恢绑复骨，实丝现图垮像修尾改美荐化。乱（5肺）昆机器钓人控朵制寄洒用于肚操作霜其眼桌手系挺统烧，翼对思机器齐人的准运作范轨道些控制钥，另姿外还辞可以踪进行寸故障秆发现毙并且掉进行蚂排除震。疼2.贴3.队2均神经侮网络症存在杯的问装题状人工挽神经槐网络裳的无贱疑具动有非绢常可告观的泻研究平性与圣应用滋性，妇也确路实值先得人下们去涂研究络开发葱，以催创造麦出足陵够的时价值叉。但所是，排就目魔前而吊言，乘神经包网络田还存搏在不旷少缺帽陷，看比如蜘智能颤水平渣还不惨够高帮，智读能化饼达不赴到我族们理镇想的神要求炭，在搜诸多唯应用迁方面凯依然印无法套达到编我们浇的需趁求，俘针对勤各种谋各样辰的应架用卖领域揭，各魂类税繁灭杂的采问题授需要烦解答楼时，伐往往飞达不涌到我使们预商期的着效果城。另清外，跟网络匠分析磁能力姨不够拜强，舍在一樱些综韵合性貌质的翁理论钢问题轨中的硬处理丢能力瑞还有泡待提短高。卷并且告源于锦对训虽练中溉稳定域性所炉提出拦学习妇率要洲求很现小，臂所以亲在学虹习过马程中辟收敛没速度么过慢圆；粉当我败们采混用云动量痕法究时截学习末率有丘所提嘴高，末但在检实际茅应用烘中仍痰然太抄慢。婚在神妻经网牙络的愈学习粗速率素选择酿中缺求乏有浅效的掠方法汤，学富习速菊率不热易选加择，摄太快骗、太灯慢都尺不好雀，需值要慢门慢调芦节找狡到最脚佳学录习速劈率。园最后贯，类蜜似于亏BP亦神经岸网络伞中，致隐含马层神毕经元想数目雅的选晨取也扑没有岩准确手有效僵的方赌法。广2.着4唉本章够小结柱本章阵介绍蜂了临神经畅网络黄的发乞展现旋状，泡它恩的结积构喜以及臂在各齐个宅方面涨的应葬用，鸡阐述堤了神复经网寨络后仍需喘要解搁决的统一些冠问题皂。垦第3什章间BP虾神经庙网络袜及其乔算法剥3.废1头BP唇神经栏网络周概述养BP散神经养网络换又被挂人们相称为弊误差迁反向拿传播事（e醋rr流or疏b泄ac纠k坐-惧pr兔op躺ag敞at扶io俩n）犹网络筝,它冠是一升种多失层的虏前馈馆网络幕。误闷差反第向传滔播这宗一思捕想最泳早由勿Br姓ys绞on旋等人约在1胞96交9年洪提出裂，经唐过多笋人的秋研究羡论证版形成善了目棍前最晚流行峰的反廉向传乎播网池络以损及它丈附带干产生尽的反场向传朗播算锁法。睡反向兽传播社网络厘有以滥下3趟个突唐出的莲特点多：棒①网验络中危的每揉一个泼存在君的神掉经元体模型餐拥有句一个恐非线泄性激胃活函凉数，额其中信非线糠性是睁光滑虾的。期②网父络可打以存商在一柔层或却存在柿多层缠的隐呢含层咳，必清须说煤明的彻是，排这个胖层不摊是网骡络的号输入雕或者绑输出邻的部三分。离输入途数据朝中的愈有用餐特征禾会被凑这些颠隐含竿层宋慢慢遵地晌提取胶，细学到换存在村于输翠入和琴输出旷中的振某种仿关系灾。苗③网梁络之脂间的禽连接乘强度丸通常垦是由本网络杯中存撤在的蜻突触偿决定没，蓄网络棚连接接的改尿变可仿以通浩过突迁触连煤接数闲量变蜓化，拘或通蚕过权患值的绸改变排[5朽]镜。识3.线2灾BP声神经轿网络绘的结仅构卸BP利神经巾网络漫实际丑上是轿一个摆多层槽感知六器，梦因此淹它的冬结构惊也是存典型引的前唐馈型就神经执网络垄。如某图3救-1城为一搁个具铃有两阴个隐粪层和根单露输出懒层的锣多层州感知快器的李结构坦图。虏图3正-1商多姓层感斗知器室结构屯BP阔神经矩网络祝结构匠图如匪图3华-2例所示涉，它剂是单是隐层址网络轿，各恋层的劲节点搞数为址相应治神经充元数稼目术。xx1xixnVWinmq误差反向传播输出层隐含层输入层信息正向传播jy1yiynznziz1樱图3亭-2晕B伸P神煮经网蹦络结吓构图抹设B淘P神惰经网炸络需培要接振收的危输入瞧数据沟有续个，肤用向歌量京表示乔：租年泻潮稳拖辰吨锤酸餐招锯具室样（所3-伸1）肺网络败产生席个输叹入数识据，好用向虹量昆表示丧：贝映闭舰饿邮袋州秤筹犁由涉也某（籍3-糟2）舌则网殊络将概对应省有赠个输松入节顺点，糟个输群出节俗点，只这样队就形愉成了昏从促维输榴入空测间到延维输买出空予间的毅非线阁性映轨射。见BP淋神经炒网络代在学假习的付时候括可以振分为训两部健分：恒正方阔向传走播和猛反方威向传挎播。绿当其娇向正列方向费传播旨信息原时，敞要输孩入的释信息茎从输穿入层悔进入赏，然陡后经处过单旗隐层粥处理王后一鸣直传乖向输语出层创。要下说明寿的是泛，每夺一层每次等只会掠到影总响下然一层照变化菠，而先不会主影响蔑上一愧层。惑如若抱得不郊到奶需要撞的目伶标输彩出，社BP馅网络悬的信购息就经会转块入反畅向传什播贿。牌3.粱3慢BP陆算法马3.存3.悬1适BP范算法中的基呼本原既理沫BP吹算法业的基光本思辉想是使我们照所了沙解的苍最小尿二乘龙法。社它使弦用了土梯度敲搜索攻技术宵，达墨到网醒络的蓝实际热输出骄值与期期望吩值的管误差汇均方祥值达时到最捉小。淹该算呈法在铜神经暖网络甲学习叼过程纺分两写部分毒组成售，一黎部分敢是存信号嗽的正宫向传挑播纷，利疮益部穴分是牵误差贸的反犬向传怖播。争当B果P神卵经网拜络在绞正向并传播获时，急输入直数据狼信息询从输回入层遍开始疮进入钳，经凳各隐训层逐废层处够理后职的数使据信吸息继批续传缘向输风出层述。若绍在输胜出层借得到于的实歇际输镰出值新和我只们期杠待的咽目标扎输出讽不相唯符，渡网络场就会瓜转入记误差慰的反戴向传颠播。罩误差嗓反向奥传播灰过程讨中画输出须层得嗽到的贷误差沾以某游种形君式经排过隐删层向马输入晚层逐贿层反挡向传蚊播回炉去，巩并将得传输废过来限的误叶差均址匀的望分摊杨给各造层的雹所有怒神经勿元，屿使各毫层神敌经单荣元获抄得误扭差信括号趴，然剂后使女用这锁个误胸差信嫁号汉作为泪依据某修正古各个竟单元篇权值读。夫正如鸭图3头-2尖所示搞，B涂P神提经网芦络有鲁个输慎入节浑点，拆输出督层有池个输知出点牙，隐念含层邀有猪个节碎点，活作为置输入截层节川点和艳隐含蛇层节系点之的间的硬连接狭权值质，乳是隐乔含层姜和输旬出层椒节点纷之间补的连知接权沙值弯；蜜隐含病层和壶输出浸层节号点的径输入腰是前联一层续节点螺的输煤出的盈加权呢和，搭每个迅节点贪的激宝励程型度由志它的慢激发闷函数肌来决厘定[骂3]设。醒1.贵BP疤网络旬的前驰馈计旱算鲁在网材络的残学习册阶段动，设舒有N巧个训辰练样微本，铸我们防来假捉设某糊个固引定嫁的训相练贺样本宵的输穷入输蒜出模纸式为谨和录，现摸在对臭它对铃网络垒进行掏训练冒。我隔们先湿将公浴式样霜本中定的记应号省墙略，昏以方贺便介烦绍，油例如隐第袜个节兼点的亮隐含展层称输入刻为：覆辈学紫今拌供样（内3-关1）发第溪个节旺点的添输出印为储：竟倘丽踪历药怖某抖才豪（3三-2螺）目其中宅，肢为激姜发函钩数锯（3团-3蛇）径获冲部圣沸克沈野艇亚阴其中狗，贵表示稻阈值摄，正姑的作昌用是匹让网故路本贤身的稍激发抽函数轧沿水港平轴狂方向恭右移催；音可为揭网络戚调节沿函数目的输花出形宰状，殿较小织的轻输出忌值使验函数旬逼近智阶跃乖函数矿，较协大的躬输出鹿值使哨函数芦变得洗较为册平坦压[3晚]向。暖对式德（3嫩-3晕）求献导，撕可得逝：译叼浸咬帽（撞3-召4）慧那么磁第叠个节宿点的湿输出锣量滑通过州加权撒系数荷沿着升网络撒一直烘传播悠到第枯个节怠点，元我们计计算暂得到厚该元节点枣的总么输出披为终：油貌故倒割包蜘馆刮桶坡亭亚悠（3净-5秘）丙其中未，泡是B底P神斥经诞网络理隐层面的节红点数艇。译那么摊得到知网络平输出鼻层第表个节块点的虫实际陈网络嗽输出疮为：道武显辟馆坡粗滴夫榴软隐克（逃3-魄6）满当得强到的朋网络烂输出宗与盒目标列值币不接控近它时，翻BP估神经董网络烧则会并将其锯误差好信号隔从输合出端姑反向轿传播尼回去难（如担图3筝-2登所示帆），猎并在慕传播素过程烂中对拿加权夸系数殿不断刻修正歇。肿在对龙样本宝完成唇网络析加权榆系数介的调坊整后深，描然后里再把希数据似信息跨送进友入到害另一颈样本畜模式竖对，译继续售进行搅学习啊。奏2.黎BP厚网络过加权百的调胞整规艳则惕设二萝次型盾误差愚函数栽（3隶-7缝）作邻为瘦样本扁的对姓应赖误差夜函数母，敏中酿匹扰粪裹汪织孤套睡置弦皱(3路-7亚)饱网络采的平洒均误情差函蜻数为商，玻因竹矮浸隙改严搂寄(骄3-泰8)朋其糟中，歼作假为样犁本模贷式恭的篇对数菜，裕作禾为输桐出眼的俗节点脑数。沟下面套为大末家介通绍在公式（脂3-格7）圾的基岭础上冬的一芒阶梯榆度法去的优哪化方渐法，孝也就谱是最晋速下灰降法瑞。巨为简强便介功绍，策省略询下标割，重辟写式温（3朱-7丸），洽则有升革蕉质捞虾糟栋窗组吊菊膜拒忌疫壤蔽(3来-9活)慨输出摸层权辆系数粉的调烫整抱权系往数的内修正深公式壁为，滥夸砖混记配违扫艳乐女（3于-1谊0）姑其中谦，梳为学伞习速汁率，毕。双津催版锄倾楼（3币-1免1）屋反向冰传播怒误差浑信号乒为，典尚承咏脾练（3贵-1物2）富其中硬，弃让铁粱汽调惜绘液（帝3-挽13睁）桑衔（坛3-爸14锁）驶因此吊我们根得到格汪（3宅-1埋5）案又因洒为龙诞（杯3-垄16弱）此因此魂输出苏层神聚经元元的修钉正公境式为钥（3驴-1赞7）叨挡栽（3浩-1吹8）梁隐含疾层节积点权仓系数剥调整樱首先拆我们北计算煤权函走数的熄变化快量如饺式（妥3-国19技ab越）太（3那-1活9a哈)痒式中徐不可蹦以直垫接计尘算，第我们洲可以者通过骡其他渴间接牺量进济行计鉴算，辩其计背算如森下辆(劲3-剧19桶b)慢很显放然可谎以得煌到扰越逢莫傻巴吵中爷即后两且（3箩-2蔽0）钉将逗原来茶省略福的博计入暑公式捐后，膨我们趟得到泼输出的节点伟为，紧洒铅踏什世区权（秒3-花21稍）痰对于排隐含钓层节天点董有锋骨垃岂栏膀主（反3-汉22肿）剩式中原，独是输蓬出点膊的输逮出，锈是隐忠含节介点恐的输棍出，负是输乓入节扛点的制输出建。溉我们陷从式烘（3投-1竞9）杀到（卡3-齿22抱）的钟推导油结果蛛分析爸可得滔到，腥BP敌神经赚网络皱连接葡权值舰调为恩：策（3易-2草3）胖式中洗，园表示栋第成步，歇为平巾滑因邀子，妈。畏3.智3.矮2填B神P送算法搞计算动步骤酷如图楚3-效3所汽示为速BP馆算法千的您步骤仗流程依图版，过揉程为均：罢（1撑）驶将所艘有权希值初肉始化醒。析（2裂）倦向B昼P神复经网约络提雕供需暖要训怒练稳样本绵数据已。出（3玻）戴计算难各层倚节点阶输出慨值。纤（4熄）详计算晋实验体样本睁的曲期望唇值和恳仿真罢实验爷得到既的值劣的偏蠢差私。充（5怨）弯使用民（3侵-2集3）缎计算枯输出栏权值勒（6拐）首使用忘（3昨-2昆3）售计算元隐含阿层输贷出权摩值份（7旋）浆重复放步骤乖（2仁）到宏（6暂），孔直到股步骤欢（4横）得谜到满找意的睬偏差贼。初始化给定训练样本计算隐含层和输出层各节点输出计算反向误差权值学习学习结束？结束NNYY箱图3贱-3剪于BP辣算法舟的流就程图镜3.严4暂BP输神经兼网络局的学陵习方档式层BP碎神经瓜网络吴的学索习方监式划邮分具包体如火下：寺根据撤学习抽组织逐和管对理划烤分为寻有监激督学肥习、塞无监朽督学算习和遥混合衔型学柄习三盘种。渠（1抓）有久监督积的学难习是贵指网即络的朝输出要会和蓄我们获赋予柴的指催定的何值进底行对语比，涨然后丙才对绵神经弟网络状的权浆值进层行修痕改调酿整。岂BP午网络肉的学含习前霞后都青要以络给定妥的样度本做娇为标烛准进田行监胳督学撇习。船（2妨）无冒监督结学习填是指钩网络叛学习南过程糖没有剧学习胳样本社指导岗，网津络自融己学愉习输明入与容输出仍的映蝴射特傲征，摔这种迎方法曾使网齿络拥寇有较幕强的慢自组哲织自任学习忙能力纪。呜（3袖）混脊合型垮学习攻过程惊先采无用无泥监督玩学习非，然损后再肥采用铁有监摸督学利习，枣前者祸抽取泰输入燕模式功的特痒征，字后者潮在对畅其进辈行处源理，佳形成怜输入动输出衣的某将种映捡射。挥这样艘的学眨习过效程把愤前两扛种学准习学商习方侵式的爪优点被都集者中，计训练叠时间阅比第掏一种第要快贷，训蚊练精犯度比丙第二腰种要号高。环3.际5质B录P神恶经网便络性挡能分母析贯3.纵5胃.1肾B爽P网矛络优混点茄（1壁）冒BP舰网络笋能为滴我们忌实现偷任何齿一种掉复杂候的非忽线性蛇映射碑的功似能，亏可以办用于昌解决倡内部乳机制竿繁败杂的丙问题塔。禾（2究）鹅BP梦网络津能通丹过学磨习带款有正书确答械案的嘉例子调得到怒接近定于复事物采之间续的脑发展冶规律贞，它轧有着吐自学戴习能哥力，包能通溉过学嚼习到暗的规免律预想测新恒的未醉知答僻案。葬（3蚕）凝BP呈网络摆具有鸡泛化乡能力挨，能系从给恒定的高样本赌数据铅中学匹习知合识，耳抽象确出种接近叮真实练的洪规则屯。撑3.数5逃.2蜓B谣P网化络的初不足困1）乖BP顾网络坐中的既BP魂算法牺学习斤速度户很慢菜，其葬主要法原因灵是：凳①五BP欢算法猛要优坊化的克目标冶函数菊一般辰比较胁复杂豆，这针样就帝会出纽现捞“割锯齿克形现车象闹”卸，使养得该丑算法训效率办不高送。隆②兆存在糊麻痹材现象哗。逝③纹因为研无法侧求得雄每一派次的往迭代违步长素，就去要预榴先赋复予B也P网言络学棕习的瘦步长束，这吧导致担BP牺算法兼效率索低。桌2）忆网络双训练绪很多李时候展会失摄败，征特别柄在处究理复是杂问杯题时么，其拼主要啦原因逐是：赵在理播论上泰，B傅P算座法只窄是一附种局庸部搜佛索的定优化茧方法药，找三到我工们需欢要的雀全局需极值岗不容尝易，献网络终自己秀就有币可能边陷入电局部塘搜索最，造厅成训夹练失纺败。伏3)拘BP盐神经甘网络泛的规搏模在样解决爽应用孝问题浮的实笑例中像存在前矛盾抵。其击网络吩规模陵无法待为实问例中朝的规哭模服倦务，祖网络墙容量克的大格小可步能不艺足，竹还有寒网络筒是否甩可行既，这彻导致投BP在神经偏网络炊在处公理复伏杂性蓄问题巾上不侧能达厦到令苗人满难意的沉结果奉。反4)悔BP子神经砖网络护的结丧构选价择还词有待肿我们封去研标究，倍目前伐为止蚂，我宴们还旋没有煎找到功一种尝有效猫的可客行的默方法目去准炎确确寄定B盯P网建络的挤结构晨。目石前我埋们只滤能以抖前任趟的经夹验为考指导样。变5)加BP乓神经宜网络绞的预忠测能殿力（骗泛化插能力肺）一阴直是杀我们妇追求摩的目步的，禽我们姥一直胖希望敲它能任越高迁越好淡，但灿是它均又和暮网络料本身哲的训考练能疗力（霞逼近裹能力建）相股矛盾快。它叉们会叮呈现灶正态河分布控，即百在一拾定范晃围内逼，网悄络的要训练嫂能力你和预利测能鸟力一述起增淹长，跟但是逃超过评该范牵围后怖训练那能力赵继续禽曾大吩，预香测能非力却带会下怠降。遮3.笑5域.衡3孔B随P网撒络的叫缺陷嫌与改争进广尽管踩BP求神经桥网络灿已经你发展绿成为喇目前绞最流疏行的针神经辨网络肾，B杂P算劝法也保得到史人们抄的广贡泛应驾用，坝但是祖因为壳BP投网络代的本文质为窜梯度歪下降摄法，庆所以妈总会间存在垫一些什不足版之处旱。耍第一探，由妈于B交P算贯法采浊用的牵是非绳线性胳优化宫，比育较容楚易形控成局叫部极事小值狂从而检使我艳们无肤法得休到全臭局最炉优值猫；副第二尺，B烈P算扎法寻峡找最洞优值彻的参鞠数比叙较多趋，这耽就导副致其计收敛秘速度果表较匹慢；胞第三插，构帽建神套经网演络的仍结构程一直葬到现蛙在也凤没有奥找到俘一个百准确告的方仿法，缴即无蚕法确新定隐夕层和滤节点图的数瘦量；厘第四盐，当能我们局需要策在已信经学渴习好沿的样合本中圆加入心新的碎样本桌时，辆会影莲响到捐原来菠的学嚷习。疤虽然笔BP吓算法议还无奖法达场到我舱们满透意的驻程度啄，但坦是我驶们一权直在牧寻找知改进勉BP僻算法灵的方折法。泥到目苗前为逆止，阳比较社有名胀的有赖几个武：拟挂牛顿巡法、牧共轭孟梯度管法、钉Le干ve叼nb赴er假g-钥Ma州rq故ua撤rd归t法耗、附喂加动茧量法委。东3.嫁6丢本章会小结怪在本迹章节志中，纲简单秃介绍自了B山P神真经网回络，况阐述轮了B宇P神筑经网础络的辣BP袋算法铁，分番析了鉴BP敏网络平及B坏P算养法的舅优缺丽点，津讲述淡一些水目前啊在使乔用的缴改进监BP秃神经辰网络用方垫法。剂第4半章伙短时挥交通洒流量出预测过网络帽4.宣1腐BP桥神经胸网络微的设四计与碌训练缩BP遇神经上网络请的设管计主弃要是框涉及尤到网夫络本与身的悬几个员层以扒及各屈个层盾次之独间传易递函层数的英确定识。层4.彩1.盘1浓BP透神经拾网络侦的设或计方圆法纤（1仆）网折络层菠数选偶择帽设计集神经洋网络啄一般慈都会联先确参定网葬络的矿层数黑，在远BP振神经拌网络漠中我准们可明以包呜含不荷同的会隐含父层在挥其中捎。但窃是，包现在委的理猎论告寄诉我冻们，山在没再有限止制隐执含层竹节点摩数的摧时候口，它挑可以甲用于发任意窑非线构性样需本的毒映射企。一洗般经汪验告狸诉我尺们，给当样还本数签量比魔较少践的时榜候，明选择犁两层鲁BP糕神经厦网络么足以炮满足趁我们副的需朝求。餐而当清我们携需要蝶训练踢的样收本数致量比灰较多耽时就熟需要箱增加链一个汪隐含牧层，申但是伏BP兽神经忘网络反一般悬情况嘉下也巾不会酬拥有久超过赚2层碌。杠（2谎）输艘入层通节点骑数选狐择刃在B稿P网茅络中酿，输瓜入层亿节点宗数取册决于滥输入输矢量吧的维世数。择比如毒我们干要做毅的是鹿交通骑流量壮预测惊，维暂数单挖一，某只有路一个罗变量讲的输列入输附出；贵再比刘如我斯们通浴过苍弦蝇的顾翅膀些、触耳角、段颜色笔去区适分苍间蝇的认种类提，这欲其中耕输入请到输港出的镜映射隔关系克对应厦到B芦P神摔经网校络就离是这么样：季翅膀生、触普角、派颜色校三个穷作为眨输入感，而航种类驼则是慕输出滚[6阻]灶。驳（3丹）输轨出层裹节点贡数选衬择总在B蒙P网肉络中头，输滋出层链节点长数取帖和输滨出该永型数刑据的健大小祸这两耐个因晓素。穿我们脸即将东做的烫交通教流量射预测园只有洽一个使类型始的数钟据，穿即交拴通流册量。芝而且微我们径做的床是短谨时交炒通流果量的役预测蔽，所地以数总据并置不会猛太大让，因妖此我衡们仅床需要发一个惑输出点即可棕[6患]舞。真（4水）隐膀含层援的节李点数雅对于绞BP洽神经廉网络时中隐机含层邮的节刚点数笼，到瞒目前滚为止雁还没植有准引确的遇理论陈方法耳指导栽，我辈们没泪有准楼确的幅解析结式去品确定汗其节挎点数淡，因稠此我夫们只符能选产择前碌人所化积累勺的经光验去弃选择偶。现虫在我句们的贫认知姜中，镜隐含叙层的俯节点醉数与昌神经私网络谅的输圣出和央输入辱的变穴量都驾有关榨系。逼另外竭由于属BP钉网络仁的局枕限性蚀，为援了不亚造成坊过拟哲合现摆象，吓隐含长层节脖点数境过多服过少符都不陪合适坟。我抱们只浙有在商训练炉网络康时谋却求在敬一定伯的范涨围内帆改变漂隐含祸层的盘节点池数，勿尽可龄能地那去找必到最楚优的揪节点峰数目缓，从爱而进助行网木络训掘练。母根据辽前人常的经允验来盼看，伞一般牌使用蜡两种杆方法书去确愚定隐锻含层给的节跨点数惹。干第一劫，根熟据经岗验参芹照公另式（炭4-学1）叉进行逆选择殊：值（4脊-1龄）浑式中恋，佣为隐槽含层酿的旬节点越数愁，岭为输校入艺的萝节点示数迷，蜂为输倘出妙的殊节点军数睬，爽为1较--躬10屋之间眯的常帅数动[7歇]犁。对染于选权取多升少个广节点酱，需驾要我倾们根膛据公匠式得班到的呈范围岗去做旁不同劳节点洒数的四实验丸，找耀到最撒佳的牢目标收。待第二桨，根新据K蔽ol吉mo趟go托ro肿v定慢理（猜强大桑数定钢理）乳，任虫一个盛连续歪函数夸可以壳精确另地用忠一个稠三层图网络丑实现赢，即沈一个密输入伐层，趟Si训gm普oi肌d单窃隐层义，一者个线善性输粱出层盖[8妻]普。而薄隐含匀层当径中的缩节点浆数目缝根据浑Ko劲lm酷og馋or房ov咬定理号由式胜（4焰-2繁）得直出：德（4集-2袍）初式中款，帆为隐亩含层符节点年数；猾为输歇入层需节点祖数。订强大逗数定琴理只点是给外定一宏个比够较靠御近最驶佳节债点数匙的值饶，并办不是练说该腹方法岸求得网的节随点数歼就是粪最佳肿节点循数。肉比如咱六个纸输入扣时，室根据抓式（禁4-刷2）令求得侦的节留点数找为1腔3，停而我愈们应赴该选碍择1送3以漂及1堆3附羽近的况数目坛作为钳节点毁数，菌具体竿选择耻多少热个隐酸含层吵神经院元要隐根据置训练纳情况海而定嘉。必4.汽1.礼2识改进金型训场练方够法活由于退BP宪网络贤本身微也存筒在着田一些刷不足甘之处贯，所貌以很躺多专款家学除者一舍直在鲁对改懂进B惰P神校经网伤络进必行着挪一系汇列的铺探索哗和发宰掘。瓦经过旷这些碗年的哀积累寨，人蹈们已梳经找滔到了鹊很多奴不错攻的改键进B忧P神色经网嗽络的收方法标，比笑较著骆名的凡有附荡加动兽量法滤、拟雁牛顿通法、价共轭轰梯度红法、喂自适饰应学宾习速隐率法两、弹交性B糠P法丈、以倍及L养ev匀en矩be蹄rg抢-M评ar序qu秧ar羞dt霸算法膏等。败我们璃在这窜里主款要介耕绍介袋绍共裕轭梯无度法听和L卸ev仆en鞭be虹rg剥-M式ar年qu饲ar普dt逆算法怀。抗1)咐共轭胆梯度溪法秋有鉴闸于B卫P网看络在秒使用胃梯度唯下降移法时局，收斯敛速堪度慢苍，而集拟牛岁顿法垮计算毒对于声我们者来说林又较劝为复蜡杂，朵研究经者就器开发裙出了彩共轭慎梯度剩法，值从而却尽量浩避免麦两者聚的缺姨点。位共轭朴梯度搂法的孝第一华步是拾沿着挥负梯叙度方丑向搜减索，匠然后妨沿着馆当前狗搜索摔方向茶的共翅轭方续向进付行搜山索，狠这样屠一来炼就可雄以快累速达浮到最弊优值伏。攀当第富一次记迭代肿的搜桂索方舅向译，之件后的厘每一万次迭钥代的半搜索渴方向岭由式训（4锤-5瓜）决蝶定：奴（基4-柜5）培其中竟，极限包滨赚（遣4-政6）板根据哭所取蓄形式扯不同茫，可遵构成艘不同绢的共日轭梯蝶度法肾。厌怪贵圆替（4税-8宾）知其中拘，才豪项克挎沾抗金崇描（段4-酒9）暖一般誓情况察下，锻搜索帐方向军在网工络训花练迭华代过膀程中羡会按唉照一贴定的社周期鲜复位忠到负撞梯度岩方向艺，这唯个周福期长饺度为驰网络批所有炊权值流和偏长差的晓总数茎目。剥共轭详梯度避法么收敛绘速度淹增加识很多拥，而状且需塘要的晋存储队量和联计算揭量并勉不多闸。因渡此我弊们可锻以看草出，虎共轭麻梯度存法对拿于那涨些权视值很倚多的远网络身训练羽是非永常有援效的劝。阿2)池Le驶ve役nb筹er瑞g-刃Ma幻rq铲ua部rd畜t算蒜法抖我们钩要了两解的森Le陕ve神nb衡er顿g-隐Ma浆rq浩ua昆rd障t算航法，剖实际危上可坟以说泥是梯旦度下卧降法筹和牛烛顿法斧的结正合。公它的唐优势灾在于犹当前虾网络卷权值登数目监比较让少时胜收敛怎的速丢度非油常快灭，它挥需要钓迭代僵的次取数比科较少架，精轮确度龄也很乱高。驱Le任ve醉nb畅er篮g-于Ma魄rq服ua何rd味t算岂法的聚思路要是网委络的浊每一牢次迭笑代不脱仅仅抢会沿昌着单侄一的馋负梯驾度方若向搜姑索，酱而且粪误差近还会走沿着深网络评恶化锯的方旁向进批行搜缩索，惊在搜晌索的赖同时狱间内束不断摆在两午个算沃法之臭间适拾应调谦整来各优化冶网络腊权值透，以久达到蔽网络霉可有榆效地见进行帐收敛摧的目姨的。凑Le猜ve宿nb损er抢g-纳Ma员rq棵ua卫rd修t优案化算要法，设我们皮又称房为阻序尼最茶小二柔乘法育，它伴的权倡值调术整公坟式为禽：含迫本模羡松（馋4-钢10演）费其中度，训为误吃差向灰量；份为误见差对贷权值交微分酷的雅蹄克比腿矩阵虎；章为一垄个标败量，射且坑变大捐时，期它会堵向最述速下怎降法节靠近廊；嫩减少旅至零训时，讽他靠缴向高艰斯-悉牛顿跌法。船因此屡，L障-M市优化著算法葬是在梅高斯材-牛捐顿法流和具县有学房习率塑的最能速下零降法岸之间奴的平嫩滑调锹和。热L-姑M优智化算羞法的品迭代椒步骤拌可分痒为四篇步：且第一戚，把芽输入坛量全哀部送发入B去P神秤经网摇络，辰并且尾计算回出网答络的初输出宿数据拣。优第二紧，计土算误乳差相凉对于葬微分武之后盼的权另值的滩雅克旁比矩何阵J便：叮它首隐先定忠义M矩ar冬qu抽ar吵dt队的敏符感度狼：爱盆惨弄猛愧卸渣（4恨-1享1）罗从式吵（4庄-1族1）偷知道形，敏芝感度腹误差谷函数忆对些层输辨入的桶第疼个元词素变越化的负敏感迹性，封其中粥，矩为每养一层后的网肢络加缴权和睁。凶敏感畏度关壁系式岗为：若烘胡燕竿（4狼-1经2）彼由是蓄（4滴-1通2）骨可以脉值得灰，敏滔感度册可以环由网桃络的窜最后勾一层帐向第善一层斜传播痰：戒吨（4擦-1诞3）谁使用喘（4匠-1着3）是计算箭雅克想比矩否阵的价元素歌：王（4苗-1吴4）槐第三网，使蜂用式乔（4歇-1双0）冠求得价。联第四驱，用帜重复沟计算乘误差醒平方市和。塘当我差们得识到的壳新和劳小于搞步骤推一种忍计算脉的和巧时，峡就要削用燃除以州，且源，转膀入步搁骤一矛；否培则，罗用县乘以饥，转融入步胁骤三考，当爽我们搭得到态的误乎差平讨方和伴减少很到某践一目京标误蚀差是耍，L庄ev痰en村be补rg交-M强ar刮qu代ar昏dt夏算法绝就算镜达到考我们券的目临的了眉，可对以认煮为算段法这佳时已赢经收哑敛台[9砖]刚。对4.铅1.傲3哨MA妥TL矛AB干神经点网络榆工具运箱月在M闪AT皮LA邮B碰神经睁网络坚工具聪箱中咳，有士关幼BP赠网络巩的函倦数一注般善包括灭创建昏函数师、性里能函甚数他、漠传递点函数璃、学窄习函逼数、柴训练收函数马以及坡作图治像输抬出的素显示男函数寺。越创建代函数础如表粉4-职1逆所示踪：赶表4享-1层创皮建函音数雷函数脊名茂功能交效滴用如ne汪wc船f严创建略级联衰前向版BP戴网络煮ne号wf雁f暖创建皆一个赤BP购网络降传递要函数扎如表课4-缝2：挺表4航-2崭沃传递活函数物函数弄名之功能允效用注lo技gs狂ig们作为皆S型膊的对关数函劝数织ta脂ns抱ig孝作为宰双曲乖正切也S型币传递晌函数青Pu尸re倚li帮n裹作为佣线性岁函数串学习洋函数拦如表评4-贤3：味表4容-3暑学号习函昆数绍函数培名联功能威效用含le确ar进ng陆d国通过眠输入贪、冠误差福和斗学习己速率声来计玩算权动值/嫁阈值赚的变锈化率嫂Le斩ar猜ng咽dm窜利用对输入厦、误菜差皆、惧学习佩速率虹以及蕉动量考常数聋来计今算权惕值/插阈值流的变铸化率荣训练笛函数牲如表爪4-遇4：包表4竞-4率训咳练函淋数掌函数伙名记功能丝效用插tr永ai绞nb详rB蹲ay轮es串眯规范约化B逝P训宾练函堪数院tr保ai鼻nc加gb批Po样we近ll登-B游ea众le棕连接把梯度续BP迹训练女函数农tr隆ai妥nc屠gf粱Fl沟et国ch膜er歉-P忙ow到el宵l连枯接梯眠度B歼P训造练函探数怀tr绿ai果ng父dx伞乔动量虫及自怨适应且lr拘BP酱的梯互度递瓶减训腊练函绝数顺tr义ai数nl镜m参Le社ve猾nb苦er课g-触Ma仇rq择ua盟rd丛t度BP爸训练慎函数抛tr验ai腐no锤ss端一步悬正切轻BP革训练杜函数疤tr暮ai敏nr浮p误仁带反技弹的寻BP弯训练翠函数念tr蓝ai慕ns贯顺序咽递增樱BP涉训练疫函数捡性能细函数船如表通4-亿5：银表4挠-5里性攻能函序数谊函数邮名青功能迁效用虑ms弄e祝作为挤BF渐GS精准牛轻顿B莲P算阳法函痰数渡ms遵er悲eg哑作为的梯度鸟下降锐法B嘱P算依法函想数名显示蚀函数居如表兔4-蛮6：波表4窝-6忆显拖示函变数棚函数式名盐功能舍效用妥pl五ot性pe贷rf投绘制尸网络惕性能杜pl落ot贝es井绘制扛误差挥曲面仓Pl帜te抵p哲绘制裂权值掀以及宜阈值扑在误物差曲烈面上轻的位估置概4.搂2升预测脊网络押的持设计风4.掉2.巾1神纯经元壮个数弱本次贤毕业湿设计熄采用幅的是丧含一谈个隐剪含层镇的三敌层B遗P神柳经网泡络。济这次粘的数就据采推集、资训练传、仿卵真，控这些蕉过程六中，幻我们吨只有坑一个捕变量奉——严交通贼流量才。我寄们采杨取的恭3个衬输入啊，1撤个输千出的嘉网络聪设置些。我双们要酷预测义未来钩某一铺时段局的江交通络流量菜，通眠过分俯析所旷训练匆的交纹通流们量数踩据，棋我们缩发现梨同时沈期的开历史赌数据蛾和般要预没测的身某个唯时间衔段张的交疮通流闲量关低系券较为佳密切蠢。比什如我久们要属预测讲某个旗时段蒜的交杯通流切量，炭我们脆要知仆道前修三天怀这三至个时殿间段鸦的交宋通流旬量。叔因此盘我们允的输墨入量扎为前茎三天壤同一医时间反段的塑交通盒流量只数据员。因沙为我较们要晕提高杠网络想的准听确率豆，就鼠需要疼一定渐的样概本数慌据，递本次健毕业伸设计播所用趁交通防流量助数据知来自独于江据门市摩交管鸭局指狂挥大愚队，令数据限为江释门市俩龙湾叶路（塑西环顶路龙库湾路宰口)蛋20医13叠-3汉-2崖5悄至掀2毛01著3-宴5-杆01煤每天姓小时居流量队数据室。我邀们使倍用其泄中3总0天鞋数据贤流量愧进行邪网络糊训练黎，选廉择盐最后绢4天绍进行叛仿真甘预测说。黄对于专隐含朗层的波神经瞒元的冻选择袭，我芦们根纳据式衫（4劳-1旁）得钞到网粉络的忽初步醉隐含欺层神爷经元锤数目榆选择吉区域抱为[肝26辉,3旧6]侨,最潮后选黎择的孤隐含绑层神叶经元值数目困为2砖6、翻30值、3适4分楚别训毫练。侦4.源2.抬2激酷活函适数的败选择甚S型寸函数刺有以友下几巡个特匀点，捧首先孩，S欺型函眯数存险在非携线性菜的，贱饱和靠的；抚其次停，S蛮型函丝数存踩在最膨大、沙最小衫值，稳可以撒限定灵权值昏的上庄下边递界；祥最后洁，S傻型函胁数是矿连续喊且光地滑的垃，即忽处处贴可微运。奖本次桶仿真签实验掉的B乌P网寺络要润求隐粗含层恭激活跳函数窝处处躺可微佳，因逮此恋选择吨S型朴函数袖作为详激活萄函数伶。孙其中员ta宾ns股ig唉函数默作为轰隐含劫层的恰激活叹函数绝；雅pu拜re铲li租n型洞函数误作为原输出制层臂函数涛。肯4.卷3劫预测各网络终的训咬练制与测宋试绑4.偿3晒.皂1扬训练多参数昌设置塘如前皂文所厨述，骨本文蛋采用乏三层袭神经挽网络畅，网勇络结袄构如爬图4货-1佛所示犁。分肤别对嫌三种塌网络表结构冲进行钳了仿权真实巩验，皂各网枯络神潜经元屯个数绳如下缓：3宣-2体6-身1、丸3-谨30芝-1忘、3钱-3吸4-港1。效BP死神经愧网络芹的训固练步误长镇均吉为5渣00冲0，城设置姑训练捧精度枝为匠0.怠01擦，学误习率京为0衰.0唇1，探网络愤的训怪练函桥数则榴选用斥动量述及自贷适应外lr腹BP然的梯枝度递活减训浙练函纸数向tr皮ai谊ng悔dx白。第n-3天第n-3天第n-1天第n-2天第n天输入层隐含层输出层夏图4舅-1肃预术测网巩络结浩构图奇本次何仿真者是对住江门跨市西扭环路厚-龙尿湾路晴口2丰01织3年旷3月方2瞒6犹日至蓝2贵01额3年扶5月戴1日书每天删的小并时交辅通量悠数进留行仿总真实想验，捞根据坊预测旱日前雕三天拘同时黎段的杠交通犯量预束测当闲天该俊时段网的交喂通量怪。珠4.围3.葱2仿船真实率验猴建立的BP销网络洗之前谱，首堡先要虏把实拢验数堂据归您一化虏，这看样的扫好处攀有两梳个：辛第一粉，归播一化趴后的拢数据圈存在解范围绞基本普都被床压缩华在里摧中心斜点较线近的伶地方抵，这魄样对锹于使爬用S枯形函屠数的附作为刻训练妥函数姑的网抗络可神以提归高训嫁练精冻度。廉第二毯，归狡一化贺后的尤数据胁都在董[-事1,数1]麻这个奥区域轿内，姐数据成值小扎可以极加速羞网络道的学扔习，驼减少慧学习柄时间枣。专具体宿的归拖一化槽MA滩TL渴AB汗仿真奔训练挖程序祝如下址：蓄fo怎r经i=霸1:学3喷窝礼P(江i,扣:)放=(柿P(钞i,俯:)鼠-m猫in绝(P浊(i揭,:代))酷)/四(m恼ax委(P耀(i羡,:久))掀-m痕in搅(P聋(i阳,:笑))适);塑en拣d寨fo浑r炼i=泛1:障1鸟狡走T(裤i,拿:)根=(挨T(景i,传:)与-m来in唤(T晨(i玻,:锦))针)/案(m卷ax榆(T岭(i厚,:守))饺-m珍in想(T虽(i寺,:司))环);吼en砍d录fo标r屿i=命1:垒3御禁舅P_瓦te订st恭(i荣,:颤)=树(P践_t蚀es丰t(妙i,辽:)霸-m仗in寸(P坊_t马es搏t(洗i,浊:)哀))椒/(洒ma沉x(推P_观te树st帮(i宪,:庆))眼-m抵in随(P精_t肝es薄t(关i,扎:)吩))赴;裳en身d佣fo疲r轧i=弱1:读1心叹起T_墓te因st创(i贝,:客)=族(T巷_t魄es退t(果i,敲:)岔-m圈in浮(T塑_t促es极t(头i,惜:)耐))默/(淹ma请x(授T_飞te瓶st熄(i衣,:潜))箭-m丈in底(T缝_t愈es滴t(图i,编:)岔))捞;瓜en哲d烟数据面初步疾处理庆完成判后，点同时齿进行内3个砌网络贸的建名立和务训练貌，亏编写丽Ma呀tl多ab锻程序啦如下末：激a=立[2防6猎30什3怖4]征fo浅r愁i=弯1:饶3绍%建迈立仿炮真网菜络御ne喷t=械ne爪wf贴f(盘mi身nm石ax领(P赞),专[a堵(i锹),原1]挥,{饰't哲an球si奥g'霸,'目pu报re系li阔n'候},贤't梢ra专in浑gd猪x'安);唐%设姻置网床络最榨大训数练步瘦长鲜ne么t.纲tr游ai梦nP懒ar开am餐.e故po坏ch辉s=识50揭00秘;泳%设栏置网罢络精务度滨ne汁t.虫tr炉ai虽nP而ar挽am碰.g薄oa颈l=砌0.才01批;渣%设惯置网乡络学闸习率寇LP闻.l税r=催0.翁01释;感ne捷t=痕in烟it历(n序et乌);驾ne喊t=摆tr冰ai眉n(击ne食t,帮P,其T)停;冻Y(匆i,作:)忧=s奏im紫(n置et跨,P捕_t餐es业t)攻;埋en赞d羊本次垦试验廊是同恳时训防练三艺个网雕络，逝从中背对比杯找到夜拥有被最优傅的隐推含层秘神经茶元数裕目的折BP凳网络思。M泽AT吹LA萌BA紧语句址a=两[.券..争.]侧fo缠r楼i=虏1:拴n.提..肃..拴.斑en迟d运就是团为此译准备首，a李=[村..介.]篇语句哲中，论中括递号内章为我健们选边取的割隐含宅层神对经元译数目宅，可讯以是诊多个瞧；f肌or哭语句剩中n全为对黎应的钞网络帽个数砍；我连们可强以任车意改净变神土经元啄的数业目，丽训练扒更多贞的网榆络进溪行对葬比，吼本次丝实验掏根据舒式（包4-底1）扰得到队的范签围中忠选取般三个侦进行扰仿真塌训练佩。划网络璃的训泡练结顿果如拳图4急-2较所示赠，唤图4雅-2甲网弯络训歇练结浮果停由网波络训皆练图栽（该野图对监应网拔络迟隐含防层神拍经元库个数泳为3沾4个砍）可这以看快出，固网络椒达到出稳定匠并达献到实毅验要器求的膀训练朝精度姿只需涉要能50蚀0多顶步，惹这就扎证明附了本忘次网腐络训脱练步赴长短寒，而微时间公也不导会太证久，联符合像我们碗的实傻验要吉求和博应用飘的目谋的。为本文昂采用找20执13标年3渔月2新6跨日至点2按01刚3年骂4月穴24歉日共以31驶天的短小时摘交通漆量进训行网晓络训纠练，系训练步的结弃果如义表4计-7抚所示原。锹表4岔-7呀不统同网歪络训技练结筒果途网络帝结构孙训练掩数目灾(组因)攻迭代录次数挠训练后时间袭（s拥）招（3细，2警6，祥1）兴67逮2学77啊9罚13熔.2秀03酒（3坝，3择0，鹿1）广67论2甲11待36两18猜.5左（3肥，3芳4，营1）外67兽2五55冈7息11戚.7慎81锡由表夺4-仰7的绝数据非可以畏看出数，隐棕含层幻神经遭元为太34伏个的垒神经纵网络现，无符论迭别代次僻数还规是训生练时晃间都宾是三每个网雷络中昏最好油的。事因此忌选定锄预测轰网络丈结构风为3业-3揭4-订1。判利用叨训练无好的酷网络坛对2渐01铃3年院4月攀28眠日至吓2扩01扯3年备5月饥1日奔各时毫段的公小时炎交通原量共甘96考组数挺据市进行炎预测柜。谊MA集TL掉AB孤进行独仿真辟预测船得到烤的真再实数亲据和抄预测推数据佛进行辜拟合考的输野出图蛮型如引图4酬-3泄所示井。灰图4前-3氧真栽实值惕与预若测值煮拟合捎图际由图就4-娇3可参以看初得到颠，所齐测试省的9转6组附数据赶得到聚的真赏实值时（蓝智色曲毅线）念和预宪测值益（绿排色曲大线）眉的拟桌合度志还是失令人望满意镰的，弦这也词证明剖了我睁们所眼设计屑的B闹P网苹络的臭预测巴能力愉还是反比较疫好的亲，能垂达到浓仿真鸭预测灾的目自的。达值得阶说明迈是，阅由于顾交通句流量体数据劲本身派具有桨随机荐性，秩我们含可以或换用秒不同盛的训愧练函筹数去群训练榆BP帅网络膀，这城样也聪可以敌得到磨不同疾的数群据拟糟合图恰，可汗以从乏中找愤到最昌优的归训练罚方法扫。蛮得到证96放组匠预测隆结果钳进行付反归筑一化仪处理故后，鬼计算鄙真实愉值和帜预测藏值之才间的古相对北误差废，具纪体情笨况如妻表4飘-8狗和表院4-衰9所存示。或表4礼-岩8改预测信结果愤（一夜）午乎俯织岁丛分输（串交通揭量单谁位悟：挺辆/乡小时围）预测日交通量预测日交通量时间段夏4月钱28收日化4月价29哄日苍实际纷值侧预测叶值桥相对拔误差治实际此值残预测德值克相对冠误差约0:珍00倘—1傍:0红0款17餐1我14仅5胁-1栽5.代20义%还15肾4恒19献0齐23舰.3偏8%烧1:摸00设—2燕:0车0献83佩96害15足.6旅6%狼11葬2矩97大-1罩3.聋39喷%幼2:跃00借—3卷:0绪0逼76诉71鞠-6狡.5成8%欧13艘8盟10应5妇-2购3.窝91吴%矿3:厦00塔—4舱:0村0监66扣52柏-2两1.顿21喇%烈12旧7典10海1山-2押0.惹47摊%犁4:煎00关—5截:0削0死64跳55棚-1毅4.译06泥%派52暂42我-1殃9.毙23扬%样5:叉00巴—6醒:0励0者76许70驼-7捧.8允9%狗85纸92册8.隶24螺%月6:沟00新—7温:0蝇0够56凤67池19轻.6烟4%腊31善38课22辆.5剩8%俱7:汁00江—8嚷:0醋0伯23赔1稠25繁3渡9.镰52辱%晨13中0鸟16炭1据23扁.8驳5%衫8:鸡00苏—9踏:0乘0汗29类0破33抵7适16绸.2焰1%固19金4咽24么4稠25地.7变7%久9:屡00容—1良0:帽00计23救8也26解3失10激.5撒0%判23怨7仙26老6黄12假.2崖4%传10冤:0品0—驻11热:0超0外28吉8胃28乘5们-1志.0夫4%陕23嘴2京29兽0坟25出.0增0%氧11迫:0兆0—皱12岩:0特0吩28淹7体28进1隐-2局.0妥9%昌25晨7秆32劲3职25警.6等8%衔12颤:0宗0—拾13眠:0微0皮26腾1宪28四7眠9.贞96脱%目23泉3凳26泄9队15汁.4佛5%停13戒:0肾0—遥14督:0怖0肿22砍7式25倚3暴11恶.4使5%茂23居4遭26久6浴13负.6抓8%共14剃:0袜0—仿15胳:0袋0每30虚3横34徒5累13宁.8岭6%饮27瘦8唱31刃6卵13麦.6白7%团15众:0遵0—段16很:0体0冰29江5古31创6仪7.彩12钢%刺24某2啄26椅6电9.番92块%坐16祸:0被0—绵17弄:0叉0王41睡4纺35同9源-1勺3.装29尾%批24庙1迅27存0慢12贪.0便3%义17症:0砖0—姨18叨:0姜0套46伯7纷38秒5我-1场7.邻56贱%剪30凤4找32阔5似6.岛91滨%许18笛:0宴0—堤19鹊:0匹0芝31六4贸34烧3贞9.挂24脸%寺26科9级30戒4乘13财.0纠1%稠19勇:0答0—干20浴:0姓0奔39阅5附46尝6记17殊.9燃7%竿39揉6棕40苍9释3.裳28喝%道20蛋:0跌0—裙21面:0形0绩44缴9测44馒5烦-0乐.8徐9%商47宰3摊41侨0祝-1焰3.头32霉%择21百:0洁0—奔22浸:0蛇0蠢50知4居39触4炕-2练1.异83炊%程41躺2认34羽8怖-1辞5.滔53彩%牛22拼:0慧0—签23描:0漂0委32扛0桶35曾0促9.饮38仗%侮30锐2徐32谷9骑8.债94侵%何23扮:0滥0—坑24司:0气0耗23搂3慈22浮2容-4裹.7欣2%袋23初2羞23请0取-0锤.8宇6%悲表4香-竟9极预测郑结果视（二暴）灯览疯悟镰衫跪（类交通批量单之位砌：默辆/赏小时务）预测日预测日交通量时间段础4月音30蜂日讨5月啦1日福实际竹值纹预测迁值驶相对辣误差闷实际志值侦预测老值栏相对就误差架0:身00汤—1脖:0藏0瘦19笛4伍16担4渡-1代5.买46秧%春18躬8沃23俯8疮21亮.2锯8%倾1:旺00幻—2掌:0饼0售12别2竹10耍8腰-1裳1.举48兼%纤97悦95打-2械.0威6%撞2:朋00烫—3铺:0拥0辆12宫5趴11击6哭-7壤.2纸0%耀91来74许-1慧8.纯68塘%爆3:阿00拳—4湿:0朗0伪11战1石10狮6脑-4奸.5弃0%躺67蹄72绕7.坊46算%亲4:强00亚—5献:0圈0涉80院64孩-2点0.注00期%涛43尾34鸦-2但0.真93未%毯5:习00询—6蒙:0遇0兴53扭68询13战.2玻1%碍56属70难25开.0顷0%堡6:拼00早—7球:0斯0欧42劣56逆16他.6充7%样58露73裁25蓬.8敌6%庄7:段00供—8借:0折0喂12打9粱16室8泡11誉.6陵3%村10文1疑12探9跨18按.8劝1%赴8:匠00愿—9倦:0跨0涂20考2坡23球4宇15志.8矩4%恐15敌1观17梳9肆18眨.5串4%呈9:成00餐—1牺0:谣00摔24搂9们25熔8虑3.浅61增%孩21美4缴24盗9咱16诉.3岂6%丹10冒:0肢0—阁11侦:0鲜0炭26球3曾24牢8挂-5匹.7国0%运30查0近27唤6验-8咳.0滨0%颗11猛:0绞0—米12总:0岸0票25解0跨29准2殿16扁.8烈0%突33塔2拐26界6绝-1四9.侮88块%颜12酿:0廊0—穴13倦:0沉0青20迈0削17增4寺-1倒3.祥00电%守33卷1润37稻3糕12乓.6除9%剧13扩:0程0—否14定:0絮0凑19慕0片21闲6对13府.6炒8%障29厉9童25旦6受-1宿4.题38稀%粉14沃:0遣0—狡15炉:0掘0沈22至1栽23咐0晋4.膀07撑%纪26挠4蝇22碰2档-1把5.补91最%公15侵:0龟0—球16艰:0袜0永20复7谢26压6监18炉.8虑4%夕27延5腐24脚6挺-1握0.木55溉%狸16派:0殃0—标17盼:0蜡0坏22辆4卫25福4蛙13逆.3悦9%蹄31天5钱27港4刘-1瓶3.党02棉%序17避:0姜0—到18鸽:0芬0至22访3蝶29糠0迈16带.5肝9%蝶27清9铸27志0掌-3宗.2遵3%景18跪:0漂0—蛮19花:0煌0午24死1招30新6朴19降.0勾9%梢35佛2讨31婆2胆-1叔1.费36察%宽19占:0周0—巴20暮:0可0子43应9喉40缺9魂-6问.8傅3%干56这9波44煤4传-2光1.汗97烦%照20顶:0裙0—殿21案:0吨0抚51乏5槐43矛3装-1沙5.打92房%超56纹7遗47垦5弟-1丰6.勤23成%营21缴:0状0—里22束:0养0梢48编6贩41穷0吼-1猾5.齿64弄%神45年0棉50祸0适11销.1材1%著22荣:0珠0—矛23放:0滴0想32权6仓34缎5稿5.夺83汪%谊30轨1介38晒6鸣21贤.5腹9%士23端:0蓝0—勾24起:0录0笔31办8反24工8敞-2走2.般01贤%滋19校2崇22芒6售17丈.7烂1%偶4.省4井仿真虎结果葡分析意由表棵4-影8和武表4价-9评可以翻看到瞒仿真政预测拖值与说真实称值的般相对去误差鸟最大视达到城25肆%，徒最小主只有揉1%乒，基通本达伞到了码预期冈目标祸，证纤明了捷使用烛BP需神经殿网络偶进行敲交通册流量恋预测弊是可坏行的勾。半预测倦网络屿存在辆一些虾误差阳，分章析原妙因主佛要有耗以下蛙几点彩：笋首先留，网嫌络训斩练的仿样本姻数据胖要足纽够多小，而疯