生物神经网络系统突触连接的可塑性

生物神经网络系统突触连接的可塑性第1页/共37页前言生命体主要活动：

物质运动---机械、电磁、化学等作用

信息活动---生长信息、认知信息、集群信息这两种活动密切相关，为此需要深入研究它们的相互作用。生物神经网络系统的动力学研究突出地反映这个问题。复杂网络系统的理论已经重要成果，当前的一个发展趋势是在生物网络系统中的应用。

ian2第2页/共37页3一、生物神经网络系统第3页/共37页神经元神经元集群脑的特定区域皮层的大规模组织全脑大脑第4页/共37页生物神经网络系统概述（一）

生物神经系统作为产生感觉、学习、记忆和思维等认知功能的器官系统，是多层次的超大型信息网络，也是目前发现的最复杂的非线性网络系统。

神经信息传导和整合过程是通过神经网络系统实现的，因此神经系统的网络动力学行为与其信息活动和认知功能密切相关。为了进一步探讨脑神经信息传导过程和认知、思维、控制等功能的需要，必须深入研究神经网络系统的丰富动力学问题。5第5页/共37页6生物神经网络系统概述（二）

生物神经元的类型和连接形式的多样性使得神经网络系统具有复杂的拓扑结构和动态特性，表现出很强的非线性和复杂性。

在整个神经系统中，神经元对信息的反应是由神经元集群共同完成的，而不是单一神经元的功能，因此我们需要从复杂网络动力学的观点去考察耦合神经元系统放电的复杂活动和时空动力学行为，探索神经系统如何对外界的信号进行加工、传导和整合，进而深入理解神经高级认知功能。第6页/共37页7生物神经网络系统特点生物神经网络系统首先将外界的各种刺激转化为神经电信号，通过神经信息传导和整合过程，实现生物的认知和运动控制的功能。

其复杂性表现为以下方面：海量维数——神经元和突触的数目极其巨大（如人脑约有10^11个神经元，每个神经元有10^3-10^4个突触）多种类型的神经元多层次——从分子层次直到认知和心理活动层次；每个层次都有十分复杂的动力学行为，且彼此紧密相关多时间尺度——从电脉冲的毫秒级，到一般感觉的秒级，到学习、记忆、辨识等的更长时间多功能——包括视、听、嗅、味等感官和运动系统的功能多影响因素——神经元和突触参数、网络结构参数、时滞、噪声等神经信息编码与解码高度的鲁棒性、自调节性、自学习能力第7页/共37页生物神经网络系统分类（一）微观分子层次

；细胞层次；介观神经元集群（耦合振子集合

）层次；

宏观器官和运动控制系统层次

8第8页/共37页9生物神经网络系统分类（二）结构性网络(structuralnetwork)：从神经元之间直到脑功能区之间的连接关系的大脑网络生理解剖结果功能性网络(functionalnetwork)：描述神经元集群（例如皮层区域）各节点之间的统计性连接关系所产生的信息结果效率性网络(effectivenetwork)：描述皮层神经网络各节点非线性动力学行为之间的相互影响或信息流向，比功能性网络更强调节点之间相互因果作用

结构性或功能性网络可以利用图论方法,同时采用各种技术手段（包括EEG，MEG，MRI，fMRI，CT，PET）和理论模型及其计算仿真一起去拼接出大脑网络的图景。但效率性网络的研究尚少。

第9页/共37页10神经动力学（计算神经科学）神经动力学（计算神经科学）研究生物神经元网络的放电和信息活动,以及神经认知行为的动力学问题是非线性动力学、网络科学和神经科学的跨学科交叉研究领域。建立神经科学的“理论、计算和实验相结合”的新研究模式。向神经系统的放电活动、信息编码、网络及认知行为提出了一系列崭新研究方向和问题。第10页/共37页11

神经医学与生物控制工程

生物神经元放电和编码活动生物控制科学生物神经复杂网络智能机器人神经生理解剖结构神经认知科学神经计算机神经医学第11页/共37页12二、神经突触可塑性动力学研究

突触概述突触可塑性树突对突触可塑性的影响时滞、噪声对神经网络系统的放电同步和时空行为的影响第12页/共37页突触概述神经元之间的信号传递通过精细的突触结构。神经元通过突触连接进行神经信息传递和转导，以实现细胞间的信息交流。根据神经元的耦合机理，突触传递分为电突触和化学突触两类，再按响应特性又可分为兴奋型和抑制型。突触动力学用以刻画在突触中电信号和化学信号的相互转化，信号的接收和传递等动力学过程。13第13页/共37页14神经元间的信号传递方式：突触突触第14页/共37页15电突触与化学突触第15页/共37页突触耦合的数学模型电耦合的数学模型为：Ie=ge(vpre(t–d)–vpost(t))，这里ge是耦合强度，vpre

和vpost是突触前和突触后膜电位，d表示突触延迟。化学耦合有多种数学模型，如

Isyn=gsyn(v–vsyn)H(vpre(t-d)–vthresh)

这里gsyn是耦合强度，vpre

和vsyn是突触前和突触膜电位，vthresh是突触阈值，d表示突触延迟。16第16页/共37页神经突触可塑性

真实神经网络系统通常是动态的。为此我们不仅要考虑神经元动力系统和神经网络拓扑结构的的高度非线性和复杂性，还要讨论神经网络系统的时变性、鲁棒性和易损性等问题，其中涉及的一个重要问题是学习和记忆功能，这与突触可塑性研究密切相关。17第17页/共37页突触可塑性的实验基础Bliss（1973)在麻醉的家兔海马上发现了长时程突触增强效应（long-termpotentiation,LTP)，单个脉冲测试引起群体峰电位或群体兴奋性突触后电位增高。Nicolletal（1988）通过实验验证了联合型LTP。后来还发现突触后电位也能产生与长时程突触增强的相反方式，使用的刺激方式是长时间的低频刺激，持续几百次即可引起兴奋性突触后电位的持续降低(long-termdepression,LTD)。这些都为突触的变化提供了可靠的证据。神经突触的耦合系数受到突触前后的神经元活动的相互作用的影响而随时间变化，称为突触的可塑性。18第18页/共37页Hebb突触可塑性假说

20世纪中叶，神经心理学家D.O.Hebb根据长期实验研究的结果，提出了学习过程中突触运作的基本规律，即”当某一突触两端的神经元同步激活（同为兴奋或同为抑制）时，该连接强度增强，反之应减弱”的著名论断，被称为Hebb假说。19第19页/共37页TheHebbianpostulate

forcellularlearning“WhenanaxonofcellAisnearenoughtoexciteBandrepeatedlyorpersistentlytakespartinfiringit,somegrowthprocessormetabolicchangetakesplaceinoneorbothcellssuchthatA’sefficiency,asoneofthecellsfiringB,isincreased.”20第20页/共37页Hebb突触学习规则

令神经细胞A和B的电发放为Va和Vb，它的突触连接系数为Wab。由于细胞A和细胞B的发放，引起它们之间突触联系有个增量△Wab，根据Hebb规则有数学表达式：

△Wab=f（Va，Vb），

其中f表示某种函数关系。

Hebb的突触学习律并没有直接告诉我们这个函数f的形式如何。把神经元作为神经系统的基本单元，神经元之间的突触系数作为一个变数。现在借助数学，计算机科学和物理学理论，提出一些学习和记忆的数学理论，这些理论都是建立在突触可塑性基础之上。21第21页/共37页Hebb的突触可塑性假说的实验验证

Hebb关于学习和记忆的突触可塑性变化假说，在当时仅仅是一种猜想。而后，形态学研究以及电生理实验开始证实这一假说，如Bliss（1973）等的工作。半世纪以来的神经生理学的实验研究所取的证据都倾向于支持Hebb突触修饰的假说。还有一些实验表明，随着某一神经回路的多次应用，该回路上的突触数量增多，体积变大，甚至还长出新的突触出来，学习和记忆功能得到显著加强。22第22页/共37页Hebb的突触可塑性假说的实验验证（续）

近年来，特别是Markram、Bell、Amzica、Zhang及Bi等人的实验研究工作给出了较为完整的和准确的关于Hebb突触的实验证明，并给出了突触修饰对于时间的敏感性以及发现了Hebb猜想中并未明确的突触抑制（depression）机制。这些工作显示：突触可塑性对时间信号具有敏感性；正相关的突触后放电将引起突触联系的增强，而负相关的突触后放电将引起突触联系减弱。

23第23页/共37页树突对突触可塑性的影响

目前的神经元网络建模中，大多数连接方式没有考虑空间方面的影响。实际上，突触可塑性是由突触前后的瞬时动作电位支配的，而突触后电位又受到树突棘结构性质的影响，因此树突的可兴奋性必然反映到突触可塑性规律上面；同样地，突触在树突上的位置也会间接地影响其可塑性规律。反之，突触可塑性当然影响树突的工作特性。24第24页/共37页树突对突触可塑性的影响（续）结论：在生物神经网络模型时，必然存在突触可塑性与树突的可兴奋性的相互作用回路特性。树突的电性质不是静态的，要受到神经调制机理和突触活动的影响，因此突触学习规律会随着树突响应特性函数的形式发生动态的变化。25第25页/共37页三、神经学习记忆功能研究

学习和记忆是动物和人类的生存必需的重要脑基本功能，是两个互相联系的神经过程。学习是指获得外界信号的神经过程，而记忆是将获得的信息储存和读出的神经过程。

学习和记忆本身也不是单一过程，可以包含不同的神经过程：

学习可分为非联合型学习和联合型学习。

记忆可分为短时记忆和长时记忆；陈述性记忆和非陈述性记忆等。

26第26页/共37页Hebb理论与学习记忆功能

突触可塑性是学习和记忆的基础。Hebb提出的关于突触传递变化的理论，设想在学习过程中突触发生某些变化，导致突触连接的增强和传递效能的提高。他提出重复持续的活动可以引起神经元连接的长时程变化并固定起来，即学习能力的增强。

他后来又进一步指出，记忆不是两个神经元之间连接的变化，而是同时被激活的神经元集合的持续活动可以使细胞的相互联系加强，从而实现对刺激的记忆。

神经电脉冲到达突触的时间是离散的，空间分布也是复杂的，因此突触可塑性是统计的结果。

27第27页/共37页Hebb学习理论的发展（一）

Hebb突触修饰假设无论对于神经科学还是计算神经科学都是重要的。

根据Hebb突触假说，发展了各种突触变化的学习律，如经典的Hebb学习律、加强学习律、相关学习律、协方差律、BCM律。这几种学习律在具体执行时往往会发生突触系数无限增大，从而使系统不稳定。限于神经生理学的研究，Hebb学习律还存在诸多问题，如Hebb突触的联系效率只能增长却无上限等。这在神经生理学上是没有依据的。Hebb学习律的改进和发展依然是今后突触可塑性研究的重要问题之一。28第28页/共37页Hebb学习理论的发展（二）Oja（1982）为了避免不稳定性，提出了一种非监督学习律，称之为“Oja学习律”。Oja学习规则作为Hebb学习规则的一种改进算法,它在单个神经元的权值变化中具有很好的收敛性,但是在规模比较大的生物神经网络中,Oja学习规则易使网络的解产生发散。29第29页/共37页Hebb学习理论的发展（三）

郑鸿宇等根据实际生物神经元之间的连接强度随时间变化的特点，首先构造了一个Hodgkin-Huxley方程为节点动力学模型的动态变权小世界生物神经网络模型，然后研究了该模型神经元的兴奋特性、权值变化特点和不同的学习系数对神经元的兴奋统计特性的影响。

最有意义的结果是,在同样的网络结构、网络参数及外部刺激信号的条件下，学习系数b存在一个最优值bopt

，使生物神经网络的兴奋度在bopt

处达到最大。30第30页/共37页Hebb学习理论的发展（四）脉冲时间依赖的突触可塑性（spike-timingdependentplasticity,STDP）现象的发现，使Hebb学习律更为精确定量，时间在数十毫秒之内，为时间编码理论（而不是长时程的平均发放）提供了直接证据。STDP的发现也是Hebb的细胞集群理论的一个实验证据。STDP的突触修正规律是一种快速的变化，可能对学习效果产生影响，同时表明不同类型的时间窗口可能对学习的结果有关键性的作用。

因此STDP的发现以及其理论可能对现有的学习算法产生重大影响。31第31页/共37页Hebb学习理论的发展（五）Dayan&Abbott（2001）提出了一个STDP规则指导下的学习律。它仅是描述了STDP的可塑性，这种方式的可塑性对学习过程究竟有什么好处，及多种窗口函数情况下学习过程有何不同等问题还需要进一步考虑。JohannesJ.Letzkus讨论了局部突触的时间依赖可塑性的学习规则，结果表明突触是根据局部规则改变而不是全局的，局部突触是时间依赖可塑性的关键。32第32页/共37页33四、一些思考

生物神经网络系