第1章神经元和神经网络

1主要内容1.1神经元电活动模型1.2神经元的功能模型1.3神经网络1.4人工神经网络的计算功能当前第1页\共有123页\编于星期五\20点2神经系统的生理梗概人体生活在经常变化的环境中，环境的变化随时影响着体内的各种功能。这就需要对体内各种生理功能不断作出迅速而完善的调节，使机体适应内外环境的变化。实现这一调节功能的就是神经系统。当前第2页\共有123页\编于星期五\20点3神经系统的生理梗概中枢神经系统:包括脑和脊髓。脑可分为脑干、小脑、大脑两半球三部分。

外周神经系统:联系中枢神经系统与全身各器官的神经，由脑发出的脑神经及脊髓发出的脊神经组成。当前第3页\共有123页\编于星期五\20点4当前第4页\共有123页\编于星期五\20点5神经系统的生理梗概中枢神经系统是人体各种活动的管理机构，它通过分布在体内各部分的各种感受器和感觉神经获得体内外的各种信息，再经过各级神经中枢的分析和综合，起到了整体协调的作用。当前第5页\共有123页\编于星期五\20点6神经系统的生理梗概神经系统的主要机能可归纳为三种：高级机能，包括饮食活动等非条件反射性及学习和记忆等条件反射性的复杂行为；运动机能，包括骨胳肌的收缩等躯体运动和组成内脏器官的平滑肌与心肌的内脏机能；感觉机能，包括各种内外刺激作用于感受器产生神经冲动传到大脑皮层所产生的躯体感觉、内脏感觉和特殊感觉，如视、听、味、嗅觉等。当前第6页\共有123页\编于星期五\20点7神经系统的生理梗概神经系统的主要细胞组成：神经细胞神经胶质细胞神经系统表现出来的一切机能都由神经细胞所承担。所以神经细胞是神经系统的结构单元，同时也是它的功能单元，称为神经元。当前第7页\共有123页\编于星期五\20点8主动作用与对抗作用从有机体与环境之间的相互关系来看，中枢神经系统的功能可以归纳成两类：主动作用并非由明显的外界刺激所引起而是由机体主动发动的，如猫向老鼠扑去，如人们随意想发动某个动作等。对抗作用就是对抗外界环境给予机体的刺激，力图维持机体活动的原先状态，在生理学上称稳态性作用。当前第8页\共有123页\编于星期五\20点91.1神经元电活动模型当前第9页\共有123页\编于星期五\20点101.什么是电活动当前第10页\共有123页\编于星期五\20点11细胞膜的物质转运机制当前第11页\共有123页\编于星期五\20点12常见的跨膜物质转运形式单纯扩散易化扩散由载体介导由通道介导主动转运出胞与入胞当前第12页\共有123页\编于星期五\20点13常见的跨膜物质转运形式1.单纯扩散脂溶性的小分子物质从细胞膜的高浓度一侧向低浓度一侧移动的过程，称为单纯扩散。浓度梯度、通透性

当前第13页\共有123页\编于星期五\20点14常见的跨膜物质转运形式2.易化扩散指一些不溶于脂质或脂溶性很小的物质，在膜结构中一些特殊蛋白质分子的“帮助”下，从膜的高浓度一侧向低浓度一侧的移动过程。当前第14页\共有123页\编于星期五\20点15常见的跨膜物质转运形式(1)由载体为中介的易化扩散葡萄糖、氨基酸等营养性物质的进出细胞就属于这种类型的易化扩散。特点：特异性；饱和性；竞争性抑制。当前第15页\共有123页\编于星期五\20点16常见的跨膜物质转运形式(2)由通道为中介的易化扩散通过通道扩散的物质主要是Na+、K+、Ca2+、Cl-等离子。通道蛋白质特点：随着蛋白质分子构型的改变，它可以处于不同的功能状态。开放状态：允许特定的离子由膜的高浓度一侧向低浓度一侧转移；关闭状态：膜对该种离子不能通透。当前第16页\共有123页\编于星期五\20点17当前第17页\共有123页\编于星期五\20点18当前第18页\共有123页\编于星期五\20点19常见的跨膜物质转运形式上述两种物质转运方式，都不需要细胞代谢供能，因而均属于被动转运。当前第19页\共有123页\编于星期五\20点20常见的跨膜物质转运形式3.主动转运指细胞膜通过本身的某种耗能过程，将某物质的分子或离子由膜的低浓度一侧移向高浓度一侧的过程。当前第20页\共有123页\编于星期五\20点21常见的跨膜物质转运形式

当前第21页\共有123页\编于星期五\20点22常见的跨膜物质转运形式钠泵：镶嵌在膜的脂质双分子层中的一种特殊蛋白质。具有ATP酶的活性，可以分解ATP使之释放能量，并能利用此能量进行Na+和K+逆浓度梯度的主动转运。因而钠泵是一种被称Na+、K+依赖式ATP酶的蛋白质。当前第22页\共有123页\编于星期五\20点23常见的跨膜物质转运形式当细胞内的Na+增加和细胞外的K+增加时，钠泵被激活，于是将细胞内的Na+移出膜外，同时把细胞外的K+移入膜内。泵出Na+和K+这两个过程是同时进行的。与此同时，ATP酶分解ATP，为钠泵提供能量。在一般生理情况下，每分解一个ATP分子，可以移出3个Na+，同时移入2个K+。当前第23页\共有123页\编于星期五\20点24钠泵活动的意义钠泵活动造成的细胞内高K+，是许多代谢反应进行的必需条件；细胞内高K+、低Na+能阻止细胞外水分大量进入细胞，对维持细胞的正常体积、形态和功能具有一定意义；建立一种势能贮备，供其他耗能过程利用。当前第24页\共有123页\编于星期五\20点25常见的跨膜物质转运形式4.出胞与入胞式物质转运出胞指借助于细胞膜复杂的结构和功能变化使大分子物质或固态、液态的物质团块从细胞内移向细胞外，如腺细胞的分泌活动;入胞是指物质进入细胞的过程。当前第25页\共有123页\编于星期五\20点26细胞的生物电现象能引起生物机体发生反应的各种环境变化，统称为刺激。一切具有生命活动的细胞、组织或机体对刺激都具有发生反应的能力或特性，称为兴奋性。一切活组织的细胞，不论在安静状态还是在活动过程中均表现有电的变化，这种电变化是伴随着细胞生命活动出现的，所以称为生物电。当前第26页\共有123页\编于星期五\20点27细胞的生物电现象生物电的表现形式：静息电位——所有细胞在安静时均存在，不同的细胞其静息电位值不同。动作电位——可兴奋细胞受到阈或阈上刺激时产生。局部电位——所有细胞受到阈下刺激时产生。当前第27页\共有123页\编于星期五\20点281.静息电位静息电位：细胞处于安静状态下（未受刺激时）膜内外的电位差。静息电位表现为膜外相对为正而膜内相对为负。当前第28页\共有123页\编于星期五\20点29当前第29页\共有123页\编于星期五\20点301.静息电位（1）形成条件：①安静时细胞膜两侧存在离子浓度差（离子不均匀分布）。②安静时细胞膜主要对K+通透。

细胞未受刺激时，膜上离子通道中主要是K+通道开放，允许K+由细胞内流向细胞外，而不允许Na+、Ca2+由细胞外流入细胞内。

当前第30页\共有123页\编于星期五\20点311.静息电位（2）形成机制：K+外流的平衡电位即静息电位，静息电位形成过程不消耗能量。（3）特征：静息电位是K+外流形成的膜两侧稳定的电位差。当前第31页\共有123页\编于星期五\20点321.静息电位当前第32页\共有123页\编于星期五\20点332.动作电位概念：可兴奋组织或细胞受到阈上刺激时，在静息电位基础上发生的快速、可逆转、可传播的细胞膜两侧的电变化。动作电位的主要成份是锋电位。当前第33页\共有123页\编于星期五\20点34形成条件细胞膜两侧存在离子浓度差。细胞膜在不同状态下对不同离子的通透性不同，例如，安静时主要允许K+通透，而去极化到阈电位水平时又主要允许Na+通透。可兴奋组织或细胞受阈上刺激。当前第34页\共有123页\编于星期五\20点35形成过程≥阈刺激细胞部分去极化Na+少量内流去极化至阈电位水平Na+内流与去极化形成正反馈（Na+爆发性内流）达到Na+平衡电位（膜内为正膜外为负）形成动作电位上升支当前第35页\共有123页\编于星期五\20点36膜去极化达到一定电位水平Na+内流停止、K+迅速外流形成动作电位下降支当前第36页\共有123页\编于星期五\20点37形成机制动作电位上升支——Na+内流所致。动作电位的幅度决定于细胞内外的Na+浓度差(细胞外液Na+浓度降低动作电位幅度也相应降低，而阻断Na+通道则能阻碍动作电位的产生)。动作电位下降支——K+外流所致。当前第37页\共有123页\编于星期五\20点38动作电位特征产生和传播都是“全或无”式的。传播的方式为局部电流（localcurrent），传播速度与细胞直径成正比。动作电位是一种快速，可逆的电变化，产生动作电位的细胞膜将经历一系列兴奋性的变化：绝对不应期——相对不应期——超常期——低常期。动作电位期间Na+、K+离子的跨膜转运是通过通道蛋白进行的。当前第38页\共有123页\编于星期五\20点393.局部电位概念：细胞受到阈下刺激时，细胞膜两侧产生的微弱电变化（较小的膜去极化或超极化反应）。或者说是细胞受刺激后去极化未达到阈电位的电位变化。形成机制：阈下刺激使膜通道部分开放，产生少量去极化或超极化。局部电位在不同细胞上由不同离子流动形成，而且离子是顺着浓度差流动，不消耗能量。等级性、可以总和、衰减性当前第39页\共有123页\编于星期五\20点404.兴奋的传播（1）兴奋在同一细胞上的传导：可兴奋细胞兴奋的标志是产生动作电位，因此兴奋的传导实质上是动作电位向周围的传播。（2）兴奋在细胞间的传递：细胞间信息传递的主要方式是化学性传递。当前第40页\共有123页\编于星期五\20点412.神经元的活动规律当前第41页\共有123页\编于星期五\20点42神经元的基本结构每个神经元由三部分组成：树突：神经元的“输入”组织。细胞体：神经元的“CPU”，完成非线性信号处理：当输入信号超过一定阈值，则产生一个输出信号。轴突：神经元的“输出装置”，把输出信号传送给其他神经元。当前第42页\共有123页\编于星期五\20点43神经细胞的分类根据形态结构的不同可分为：单极、双极、多极神经元。当前第43页\共有123页\编于星期五\20点44神经元的分类根据神经元在信息传递、整合过程中的作用不同或反射弧中的位置，可把它们分成：传入（感觉）神经元中间（联络）神经元传出（运动）神经元当前第44页\共有123页\编于星期五\20点45神经元的分类根据对突触后神经元的不同作用分为:兴奋性神经元抑制性神经元当前第45页\共有123页\编于星期五\20点46突触一个神经元与另一个神经元或其他细胞相接触的部位，称为突触。突触具有特殊的结构，是神经元之间或神经元与其他细胞之间在机能上发生联系的部位，是信息传递和整合的关键部位。发送信号的神经元为突触前神经元，接收信号的神经元为突触后神经元。当前第46页\共有123页\编于星期五\20点47突触的结构突触前膜突触间隙突触后膜当前第47页\共有123页\编于星期五\20点48突触的分类根据突触接触的部位分类：一般来说，高等哺乳动物最主要的突触接触形式有三种：

1.轴突-树突突触。

2.轴突-胞体突触。

3.轴突-轴突突触。当前第48页\共有123页\编于星期五\20点49突触的分类根据突触的结合形式分类：(1)包围式突触。一个轴突末梢的许多分支密集地贴附在另一神经元的胞体上，这种结合形式使兴奋易于总合，相当于轴突-胞体突触。(2)依傍式突触。一个神经元的轴突末梢分支与另一神经元的树突或胞体的某一点相接触，这一结合形式起易化作用，相当于轴突-树突突触或轴突-胞体突触。当前第49页\共有123页\编于星期五\20点50突触的分类根据突触对下一个神经元机能活动的影响分类：(1)兴奋性突触，使下一个神经元兴奋；(2)抑制性突触，使下一个神经元抑制。当前第50页\共有123页\编于星期五\20点51突触传递过程化学性突触传递是神经系统内信息传递的主要方式，是一种以释放化学递质为中介的突触性传递。基本过程：EPSP兴奋性突触后电位IPSP抑制性突触后电位突触前膜释放递质突触间隙与突触后膜受体结合EPSP或IPSP突触后神经元兴奋或抑制当前第51页\共有123页\编于星期五\20点52当前第52页\共有123页\编于星期五\20点53兴奋性突触后电位其特征是突触后膜出现局部去极化。它的产生是由于突触小泡释放兴奋性递质，与受体结合后，提高了突触后膜对Na+、K+、Cl-，特别是Na+的通透性。由于Na+内流，使突触后膜膜电位绝对值减小，产生局部去极化，即兴奋性突触后电位。当前第53页\共有123页\编于星期五\20点54抑制性突触后电位特征：突触后膜产生超极化。它的产生也是由于突触前神经元末梢兴奋，但释放的是抑制性递质，与受体结合后，可提高突触后膜对K+、Cl-，尤其是Cl-的通透性。由于Cl-由膜外进入膜内，使膜电位的绝对值增大，出现突触后膜的超极化，即抑制性突触后电位，它降低突触后膜的兴奋性，使突触后神经元不能产生兴奋，而出现抑制效应。当前第54页\共有123页\编于星期五\20点55神经递质同一个中枢递质对不同的突触后膜有不同的效应，有的呈现兴奋性效应，有的呈现抑制性效应，这种不同主要是由突触后膜的特性决定的。当前第55页\共有123页\编于星期五\20点56神经系统传递信息的机理全或无原则辐散原则聚合原则接力传递原则神经背景发放脉冲当前第56页\共有123页\编于星期五\20点573.神经元电活动模型当前第57页\共有123页\编于星期五\20点58一、计算跨膜电压的生物物理工具不带电微粒在水溶液中的扩散：物理意义：溶液中的微粒总沿着浓度梯度下降的方向扩散，直至溶液浓度均匀一致。穿越溶液中薄膜的微粒流量比例系数，扩散率膜两边的浓度梯度古典的生物膜理论建立在由浓度差引起的扩散和由电位差引起的带电微粒（离子）的漂移这两种过程的基础上。当前第58页\共有123页\编于星期五\20点59一、计算跨膜电压的生物物理工具当溶液中存在任何电场E时，带电微粒在溶液中还要受到一个附加的力的作用，这个力就是电场力。任何电解质在水溶液中都要被离解为电的离子，例如氯化钠溶于水被离解为带正电荷的钠离子和带负电荷的氯离子，它们都是可能受到电场力作用的带电微粒。带电微粒在电场中的运动速度也与电场强度成比例。当前第59页\共有123页\编于星期五\20点60计算跨膜电压的生物物理工具因电场力而产生的带电微粒在溶液中的漂移流量可由欧姆定律表达：带正电荷微粒的漂移沿电位梯度下降的方向进行，且流量与电位梯度成正比。离子带电荷数某种离子浓度溶液中的电位梯度，即电场强度离子迁移率当前第60页\共有123页\编于星期五\20点61计算跨膜电压的生物物理工具离子扩散率和迁移率都取决于离子通过溶液的能力，二者之间的关系用爱因斯坦关系式表示：可以求出，当溶液被一个对溶液中某正离子具有通透性的膜分隔时，为了保持膜两侧具有稳定浓度差所应施加的跨膜电压。绝对温度单位电荷电量波尔兹曼常数当前第61页\共有123页\编于星期五\20点62计算跨膜电压的生物物理工具离子扩散流量和漂移流量分别为：根据在平衡状态下两者之和为零，可推导出：上式称为Nernst方程，它给出为维持膜两侧具有稳定浓度差所应施加的跨膜电压。当前第62页\共有123页\编于星期五\20点63计算跨膜电压的生物物理工具当计算生物膜两边的离子时，总认为在膜的任何一侧，正负离子是相伴存在的，即空间电荷中和：当前第63页\共有123页\编于星期五\20点64二.生物膜电位的电路模型当前第64页\共有123页\编于星期五\20点65二.生物膜电位的电路模型为计算跨膜电压，建立生物膜的电路模型：把表示离子通透性的电阻画成可变电阻，是考虑到突触中离子通透性的变化。当前第65页\共有123页\编于星期五\20点66二.生物膜电位的电路模型根据包含钠元素的回路所写出的基尔霍夫电压方程为：当前第66页\共有123页\编于星期五\20点67二.生物膜电位的电路模型根据钠、钾离子通道列出基尔霍夫电压方程，代入某细胞膜已知数值计算出静息状态和翻转状态（离子通道被打开）的跨膜电压分别为：

Vm静=-90mv，Vm翻=2mv这是生理实验可得到的典型数值。当前第67页\共有123页\编于星期五\20点684.Hodgkin-Huxley模型当前第68页\共有123页\编于星期五\20点69AlanHodgkinAndrewHuxley1963年诺贝尔医学生理学奖当前第69页\共有123页\编于星期五\20点70枪乌贼神经纤维的直径达到1000微米，如果从神经的一端沿纤维的长轴方向插入一根直径约100微米的测量电极，对轴突的正常功能几乎不产生什么影响。这样，通过这个细胞内电极与另一个置于细胞外的电极，就可以精确地测出细胞的跨膜静息电位。当前第70页\共有123页\编于星期五\20点714.Hodgkin-Huxley模型当前第71页\共有123页\编于星期五\20点72A：膜离子总电流B：钾离子电流A-B：钠离子电流A加入60mv去极化电压B去除外部海水中的大部分钠离子C去除外部所有的钠离子当前第72页\共有123页\编于星期五\20点734.Hodgkin-Huxley模型经过对大量实验数据的分析，Hodgkin和Huxley找到了能与实验数据拟合的电导方程。当前第73页\共有123页\编于星期五\20点744.Hodgkin-Huxley模型对于钾离子的膜电导方程为：对于钠离子的膜电导方程为：其中，、为常数，其它参数由实验得出。当前第74页\共有123页\编于星期五\20点75当前第75页\共有123页\编于星期五\20点764.Hodgkin-Huxley模型根据上述方程和生物膜电路模型可列出去极化过程中总共的膜电流为：当前第76页\共有123页\编于星期五\20点774.Hodgkin-Huxley模型图2-8是上述方程所表示的H-H模型计算机仿真动作电位的结果。当前第77页\共有123页\编于星期五\20点781.2神经元的功能模型当前第78页\共有123页\编于星期五\20点79神经元的作用原则1.在神经元系统中，信息的传输靠神经纤维传播全或无消息来实现的；2.神经元的轴突分成许多末梢，神经元发出脉冲沿所有末梢扩布，并激活各自的突触；3.每个神经元都要接收来自许多其他神经元的突触，有兴奋性的也有抑制性的，数量成百上千，最多可达80000；当前第79页\共有123页\编于星期五\20点80神经元的作用原则4.在突触处信息的传输先由电变化转变成化学变化，最后又转为电变化，继续传输；5.神经元总是有背景发放。当前第80页\共有123页\编于星期五\20点81模型中神经元的功能神经元功能建模的共同点是针对神经元扩布性峰电位的“全或无”性质，模型中神经元的功能主要表现为：1.神经元有多个输入端和一个输出端，输入可为兴奋性的或抑制性的；输出服从“全或无”定律；2.输出与输入之间有固定的时延，它主要取决于突触延搁；当前第81页\共有123页\编于星期五\20点82模型中神经元的功能3.神经元有一定的阈值，只有当其输入超过阈值时，才有输出产生；4.绝对和相对不应期；5.非时变特性。当前第82页\共有123页\编于星期五\20点83形式神经元MP模型由McCulloch和Pitts于1943年建立。基本思想：神经细胞的工作方式是要么兴奋，要么抑制。当前第83页\共有123页\编于星期五\20点84形式神经元具体实现：由于神经元之间的信号连接强度取决于突触状态，因此在MP模型中，神经元的每个突触的活动强度用一个固定的实数即权值模拟。于是每个神经元模型都可以从数十甚至数百个其他神经元接收信息，产生神经兴奋和冲动；同时，在其他条件不变的情况下，不论何种刺激，只要达到阈值以上，就能产生一个动作电位。但如果输入总和低于阈值，则不能引起任何可见的反应。当前第84页\共有123页\编于星期五\20点85形式神经元描述神经元基本功能的数学模型如下：设模型有几个输入变量，它表示第j个输入在t时刻的状态（0，1）。t时刻的输出也是二值变量，有输出时为1，无输出时为0。输入与输出之间的关系可用下列方程描述：当前第85页\共有123页\编于星期五\20点86形式神经元符号函数权重+/-阈值当前第86页\共有123页\编于星期五\20点87形式神经元因此，神经元在t+1时刻有脉冲发放的条件为：形式神经元表达了“全或无”定律，空间加和、阈值，传输延迟等神经元功能，但并未体现出时间总和及不应期等。为此可把（2-12）改进为：当前第87页\共有123页\编于星期五\20点88

表示j个输入在r个时刻前的状态对系统的影响的权重。

若第j个输入是兴奋性的，则全部大于零，但依r之顺序而递减；若第j个输入是抑制性的，则全部均小于零，但依r之顺序，其绝对值递减。形式神经元当前第88页\共有123页\编于星期五\20点891.3神经网络当前第89页\共有123页\编于星期五\20点90在神经网络的研究中，所遇到的巨大困难来自两方面：一是神经元的非线性特性；二是神经元数量太大，联接关系太复杂。研究中要针对这两方面做大量的简化。当前第90页\共有123页\编于星期五\20点91神经网络的特点人脑是由140亿个神经元组成的神经网络，其突出特点主要有三个方面：1.并行处理机制。因此其速度快；2.容错性。单个神经元的损坏并不影响其整体功能，因而保证了其可靠性；3.自学习能力。保证了人的适应能力。当前第91页\共有123页\编于星期五\20点92一、神经元逻辑网络神经元状态的“全或无”定律使神经网络中每个神经元的输入、输出都成为二值变量，可以较方便地利用逻辑代数来分析神经网络。根据神经元的连接形式，可把神经网络分解为实现基本逻辑运算的逻辑神经网络。当前第92页\共有123页\编于星期五\20点93（a）逻辑与（^）当前第93页\共有123页\编于星期五\20点94当前第94页\共有123页\编于星期五\20点95当前第95页\共有123页\编于星期五\20点96当前第96页\共有123页\编于星期五\20点97一、神经元逻辑网络如果神经网络中含有反馈回路，则神经网络不再是简单的组合逻辑网络，它在任一给定时刻的状态还与以前的（包括初始）状态有关。如图：当前第97页\共有123页\编于星期五\20点98如果网络中每一个元件发生错误的概率为ε>0。不管这个ε怎么小，在一段相当长的时间内，总可能有一个或几个元件发生错误，从而对网络的状态产生很大的影响。例：图2-13（a）的网络中，一旦因为动作错误而产生兴奋，就会把兴奋状态保持下去。当前第98页\共有123页\编于星期五\20点99在人的神经系统中，总共有上百亿个神经元，每个神经元及其连接方式显然不会有无限高的可靠性；那么人们就很难理解为什么神经系统能可靠地稳定工作上百年。当前第99页\共有123页\编于星期五\20点100一、神经元逻辑网络美国科学家诺依曼提出并证实了网络中增加可靠性的方法，方法之一是采用多重联线。网络中的每个信号都传送到一束N条联线中去，如图：取某个置信水平（0<<0.25），有多于（1-）N条联线兴奋时，经过混合器（方框C），输出端就有信号，而只有少于N条联线兴奋，输出端就没有信号。如果兴奋的联线数在N到（1-）N之间，就处于一种不确定的状态。这样就体现了一种少数服从多数的原则。当前第100页\共有123页\编于星期五\20点101二、自组织系统在人出生一年后，脑细胞数目不再增加。人的一生所可能接受的一切信息不可能预先存贮在脑内，知识、技能只能通过学习方能掌握，这实际上是通过接受输入信息，使神经元之间的联结方式发生可塑性变化的复杂、漫长的过程。当神经冲动不断地通过一个突触，可使突触导纳上升，在大量分泌神经递质后，突触后细胞质的结构发生变化，即结合系数加大，兴奋敏感性上升，成为一种学习、记忆过程。当前第101页\共有123页\编于星期五\20点102二、自组织系统任何系统的形成都是一个组织过程，组织过程是事物或一组变量从无联系的状态进化到某些特定状态的过程。开始时，系统的各部分之间是分散的，各部分是独立运转的。系统的各部分之间通过改变自身结构或参数形成联系，以致成为一个整体，这种能具有自行组织功能的系统称为自组织系统。许多神经网络就是自组织系统。自组织系统可引用熵的概念作为判据。当前第102页\共有123页\编于星期五\20点103二、自组织系统熵是衡量系统混乱程度的一个物理量，在热力学中，熵的极大状态是物质分子排列最无序的状态，也是孤立系统在自发过程中达到的平衡态。为了对系统的有序度进行量度，可引进“剩余度”的概念。对于完全无序的系统，R=0；对于理想的有序系统，R=1。剩余度系统的熵最大熵当前第103页\共有123页\编于星期五\20点104二、自组织系统对于自组织系统，它的有序度随时间的推移而增长，即若系统的最大熵为常量，则：这说明，在最大熵为常量时，若要使系统成为自组织系统，系统熵的变化率应为负的。当前第104页\共有123页\编于星期五\20点105二、自组织系统-学习过程当与某神经元联结的突触前细胞为兴奋性结合时，，由于突触的多次作用，突触导纳会逐步增加，下式表达自组织系统的学习过程。自组织的速度与兴奋的传递相比很慢，的数值应很小。正的常数，数值很小结合系数的增量当前第105页\共有123页\编于星期五\20点106突触联结没有兴奋性激励时，结合系数又会随时间而按一定比例减小，向初始值恢复，成为学习后的遗忘过程。正的常数，数值更小学习前的突触导纳，遗传结合系数二、自组织系统-遗忘过程当前第106页\共有123页\编于星期五\20点107二、自组织系统-遗忘过程当前第107页\共有123页\编于星期五\20点108二、自组织系统-遗忘过程复习点的确定（根据艾宾浩斯记忆曲线制定）：

1．第一个记忆周期：5分钟

2．第二个记忆周期：30分钟

3．第三个记忆周期：12小时

4．第四个记忆周期：1天

5．第五个记忆周期：2天

6．第六个记忆周期：4天

7．第七个记忆周期：7天

8．第八个记忆周期：15天当前第108页\共有123页\编于星期五\20点109增加到一定程度后不再加大，表明在学习过程中，结合系数的增加有一个限度。饱和值二、自组织系统-饱和值当前第109页\共有123页\编于星期五\20点110考虑式（2-20）至式（2-22）的各种因素后，的总增量为：上式表达了神经网络在自组织过程中所具有的学习、遗忘、及遗传因素等方面的特性。当前第110页\共有123页\编于星期五\20点111三、神经网络模型神经网络模型是人们在对人脑思维研究的基础上，用数学方法将其简化、抽象并模拟，能反映人脑基本功能特性的一种并行分布处理连接网络模型。当前第111页\共有123页\编于星期五\20点112神经网络模型的特征1.网的拓扑学特征：包括模型中所包含的神经元（结点）的个数和排列形式、各神经元的作用及其相互联结方式和强弱，一般用权重表示其联系的强弱。2.结点的特性：包括其非线性特性和阈值，可选用适当的神经元模型来描述。3.学习法则：不同的神经网络模型，其学习法则各异。当前第112页\共有123页\编于星期五\20点113神经元网络中的每一个神经元都是一个信息处理单元，它可根据接收到的信息独立运算，然后把结果传输出去，这是一个并行处理。当前第113页\共有123页\编于星期五\20点1141.Hopfield神经网模型这一网络可直接处理如黑白图象或8bitASCII码表示的信息，而对于那些连续值的输入形式，则必须将其模拟量转换为二值（+1或-1）后才能处理