人工神经网络建模

人工神经网络建模

（ArtificialNeuronNets）

一、引例

1981年生物学家格若根（W．Grogan）和维什（W．Wirth）发现了两类蚊子(或飞蠓midges)．他们测量了这两类蚊子每个个体的翼长和触角长，数据如下：翼长触角长类别1.641.38Af1.821.38Af1.901.38Af1.701.40Af1.821.48Af1.821.54Af2.081.56Af翼长触角长类别1.781.14Apf1.961.18Apf1.861.20Apf1.721.24Af2.001.26Apf2.001.28Apf1.961.30Apf1.741.36Af数学模型问：如果抓到三只新的蚊子，它们的触角长和翼长分别为(l.24,1.80);

(l.28，1.84)；（1.40，2.04）．问它们应分别属于哪一个种类？

解法一：把翼长作纵坐标，触角长作横坐标；那么每个蚊子的翼长和触角决定了坐标平面的一个点.其中6个蚊子属于APf类；用黑点“·”表示；9个蚊子属Af类；用小圆圈“。”表示．得到的结果见图1图1飞蠓的触角长和翼长数学模型思路：作一直线将两类飞蠓分开

例如；取A＝（1.44，2.10）和B＝(1.10，1.16)，过AB两点作一条直线：y＝1.47x-0.017其中X表示触角长；y表示翼长．

分类规则：设一个蚊子的数据为（x,y）如果y≥1.47x-0.017，则判断蚊子属Apf类；

如果y＜1.47x-0.017；则判断蚊子属Af类．

数学模型分类结果：(1.24，1.80)，(1.28，1.84)属于Af类；(1.40，2.04）属于Apf类．图2分类直线图

数学模型•缺陷：根据什么原则确定分类直线？

若取A=(1.46,2.10),B=(1.1,1.6)不变，则分类直线变为y=1.39x+0.071分类结果变为：(1.24,1.80)，(1.40,2.04)属于Apf类；(1.28,1.84)属于Af类

哪一分类直线才是正确的呢？

因此如何来确定这个判别直线是一个值得研究的问题．一般地讲，应该充分利用已知的数据信息来确定判别直线．数学模型再如，如下的情形已经不能用分类直线的办法：

新思路：将问题看作一个系统，飞蠓的数据作为输入，飞蠓的类型作为输出，研究输入与输出的关系。数学模型二、神经元与神经网络

大脑可视作为1000多亿神经元组成的神经网络图3神经元的解剖图数学模型神经元的信息传递和处理是一种电化学活动．树突由于电化学作用接受外界的刺激；通过胞体内的活动体现为轴突电位，当轴突电位达到一定的值则形成神经脉冲或动作电位；再通过轴突末梢传递给其它的神经元．从控制论的观点来看；这一过程可以看作一个多输入单输出非线性系统的动态过程神经网络研究的两个方面从生理上、解剖学上进行研究从工程技术上、算法上进行研究数学模型三、人工神经网络

（ArtificialNeuronNets,简称ANN）神经元的数学模型

图4神经元的数学模型数学模型其中x＝沾（x1，…xm）T输入复向量等，y为输拘出，wi是权误系数忍；输翻入与扬输出龟具有染如下腹关系：θ为阈端值，f（X）是激怨发函刑数；肠它可葱以是认线性仔函数润，也吨可以壳是非甘线性接函数．数学痰模型例如级，若延记取激反发函虹数为毯符号爆函数则S型激亭发函摔数：数学模型或注：若将险阈值环看作京是一番个权博系数辱，-1是一盯个固幸定的榆输入那，另喝有m-犬1个正庸常的绝输入浴，则容（1）式役也可疗表示程为：

（1）

参数毕识别：假取设函鸟数形恶式已故知，世则可铃以从摊已有适的输雅入输疯出数垮据确煤定出速权系锁数及挡阈值磨。数学模型2、神困经网席络的益数学床模型众多切神经泄元之迹间组扔合形玩成神摩经网忙络，览例如希下图何的含虑有中尘间层禾（隐务层）的B-博P网络图5带中键间层谣的B-障P网络数学模型3、量缺变引晶起质惨变--氏--往--神经帮网络沿的作箩用（1）蚂砖蚁群一个羽蚂蚁雷有50个神容经元仅，单逆独的驶一个培蚂蚁周不能端做太沿多的石事；玩甚至征于不零能很蝇好活献下去城．但睬是一淘窝蚂圣蚁；应设有10万个欧体，祝那么跃这个旺群体皂相当超于50赚0万个怨神经知元（性当然拔不是刃简单执相加掠，这增里只嘴为说尘明方麻便而风言）测；那终么它帐们可悄以觅粮食、抄搬家克、围摘攻敌蜻人等妥等．（2）网晴络说更话人们崖把一冤本教咱科书迁用网秀络把也它读代出来昆（当探然需遗要通洪过光嚼电，近电声致的信士号转糠换）形；开增始网撑络说霉的话发像婴续儿学捞语那流样发糠出“劣巴、订巴、押巴”贴的声盖响；柄但经尝过B－P算法导长时寇间的致训练爽竟能乖正确桃读出共英语办课本候中90％的费词汇泼．从此分用神喂经网软络来艺识别计语言且和图重象形从成一瞎个新凑的热宽潮．数学务模型4、人馅工神描经网鞋络的歼基本落特点（1）可湾处理传非线脚性（2）并每行结臭构．刊对神轮经网旅络中黎的每水一个呼神经干元来炭说；逃其运稼算都炎是同尸样的齐．这专样的精结构凝最便悠于计牙算机裁并行幕处理届．（3）具壮有学易习和码记忆得能力载．一写个神衫经网贴络可怖以通夹过训拼练学蹲习判截别事贵物；躲学习厕某一锡种规觉律或特规则唐．神惠经网喉络可授以用劫于联纷想记认忆．（4）对芹数据跪的可丽容性厌大．照在神已经网慨络中改可以典同时歇使用椒量化老数据谈和质指量数子据（净如好展、中叶、差约、及跟格、陷不及园格等岁）．（5）神具经网逼络可片以用抬大规爽模集侍成电钳路来璃实现疏．如乏美国塘用25储6个神魂经元移组成赚的神鼓经网找络组飞成硬缎件用遗于识登别手宝写体王的邮辉政编均码．数学谁模型四、侍反向叙传播踪蝶算法弃（B-闪P算法芒）Ba基ck童p双ro敏pa吐ga嘱ti驴on乞a印lg碗or梁it砍hm1．简夸单网勤络的B-超P算法算法林的目揉的：扭根据支实际烈的输凶入与引输出炒数据浸，计墙算模挠型的芹参数速（权垫系数量）图6简单禾网络数学并模型假设有P个训构练样条本，吸即有P个输入脏输出贤对（Ip,Tp）,皂p=器1,衬…,际P,其中输入向量为,目标输出向量为（实际上的）

网络输出向量为

（理论上的）

数学扭模型（p=1,…,P）

（2）

记wi塘j为从顾输入现向量铅的第j掘(j塔=1基,…额,m想)个分监量到粗输出包向量况的第i醋(i赌=1捆,…舱,n率)个分舍量的豪权重邻。通运常理弱论值同与实联际值画有一积误差士，网除络学里习则管是指运不断朵地把沾与比蓝较，坦并根承据极肚小原但则修浩改参水数wi鉴j，使误印差平境方和歉达最睬小：记De茫lt控a学习患规则:（4）

（3）

表示君递推票一次染的修写改量软，则耽有称为学习的速率

数学迈模型ipm=毯-1害,wim=副(第i个神价经元钥的阈述值)泻（5）注：由（1）痕式，房诚第i个神姓经元惊的输狂出可拖表示距为特别芒当f是线羽性函伐数时（6）数学蝴模型数学及模型图7多层印前馈头网络2．多贯层前循馈网馆络（l）输入桐层不疯计在磁层数突之内里，它谅有No个神肢经元径．设袜网络棒共有L层；凑输出买层为握第L层；匠第k层有Nk个神答经元狠．假设源：(2)设表示第k层第i神经元所接收的信息wk(i彩,j图)表示次从第k-给1层第j个元南到第k层第i个元苏的权屿重，表第k层第i个元的输出数学笑模型（3）设培层与条层间员的神腹经元御都有凳信息旗交换加（否腾则，肿可设狂它们酷之间帜的权刃重为碍零）预；但闭同一理层的昏神经再元之势间无稿信息卸传输功．(4问)设信狐息传求输的衫方向趟是从废输入躲层到旨输出容层方动向；袋因此姜称为乎前向等网络悬．没苍有反欲向传币播信滨息．（5）表示输入的第j个分量．假设扰：数学剖模型在上迷述假武定下倍网络诸的输凭入输吊出关览系可糟以表槐示为受：（7）

其中愿表示厅第k层第i个元伞的阈萄值.数学赶模型定理2对于倒具有型多个帝隐层跃的前紫馈神趟经网榴络；丽设激挤发函享数为S函数湿；且环指标夕函数串取（8）（9）则每乱个训艳练循喇环中犬按梯膝度下荒降时盖,其评权重礼迭代妄公式坊为（10）表示第l-1层第j个元对第l层第i个元输入的第p次迭代时的权重

其中（11）（12）数学蚊模型BP算法St筛ep观1选定遣学习渔的数耳据,p柱=1厅,…,P积,随机霸确定咸初始赢权矩进阵W（0）St丢ep妖2用（10）式具反向长修正,直到矩用完露所有悔学习尿数据.用学联习数站据计隔算网夜络输雄出St迅ep漠3数学荒模型五．惕应用史之例权：蚊浩子的稳分类已知酱的两响类蚊衡子的役数据腿如表1：翼长煤触角隆长节类别1.片78遇1出.1携4Ap烫f1.验96虎1倘.1死8Ap辆f1.邮86叹1模.2代0Ap但f1.握72先1税.2跌4Af2.技00足1抚.2榨6Ap丛f2.迹00若1迎.2响8Ap骡f1.钱96芹1麦.3宣0Ap鸭f1.鞋74席1阀.3床6Af目标苗值0.口90.鸽90.仆90.匹10.稻90.虎90.肤90.谦1翼长汇触角顿长习类别1.爷64带1.址38Af1.漏82奋1.浊38Af1.罩90闲1.辅38Af1.罚70顿1.串40Af1.理82脊1.白48Af1.生82纪1.贪54Af2.辅08驻1.额56Af目标t0.阅10.宏10.慌10.祖10.恋10.沫10.酒1数学横模型输入任数据神有15个，咱即,p=茎1,陈…,闸15坝;勒j主=1皆,要2;对应15个输愧出。建模：（漂输入岛层，默中间殖层，皇输出显层，串每层饮的元糕素应练取多壁少个万？）建立蜡神经除网络数学组模型规定哀目标蝇为：绑当t(丑1)益=0传.9时表散示属怨于Ap色f类，t(妇2)孩=0势.1表示杨属于Af类。设两尖个权湖重系耽数矩稻阵为众：为阈值

其中数学黄模型分析颂如下拾：为第吸一层芒的输