（运筹学与控制论专业论文）hopfield神经网络的稳定性分析.pdf

电子科技大学硕士学位论文 h o p f i e l d 神经网络的 稳定性研究 摘要 神经网络在神经生理学、神经解剖学的范畴内， 指的是生物神经未网络: 在 信息计算机科学等领域内，指的是向生命学习 而构造的人工神经网络。 神经网络的研究实质是a n n向b n n学习的问题;1 9 8 2年，美国加州理工学 院生物物理学家h o p f i e l d 提出了神经网络的模型-h o p f i e l d 神经网络模型， 有 力的推动了神经网络理论的研究，同时h o p f i e l d 还引入 “ 计算能量函数”的概 念， 给出了网络稳定性的判据和电子电路实现， 为神经计算机的研究奠定了基础。 人工神经网络是模拟生物脑结构和功能的一种信息处理系统， 虽然目 前的模 仿正处于低级水平， 但已经显出一些与生物类似的特点: 大规模并行结构， 信息 的分布式存储和并行处理， 具有良好的自 适应性，自组织性和容错性， 具有较强 的学习、记忆、识别功能等等。 神经网络系统的理论和实践中， 神经网络始终是一个至关重要的问题。 一个 好的h o p f i e l d 神经网 络系统具有稳定性好、 对各类输入能产生响应等特性。因 此h o p f i e l d 神经网 络系统具有较好的理论和实践意义。 本文讨论了无时滞神经 网络和时滞神经网络的稳定性。 本文分四章: 第一章为引言，主要介绍了本文的选题背景。第二章讨论了 无时滞反馈型神经网络的指数稳定性。第三章介绍了变时滞神经网络的稳定性。 第四章研究了时滞细胞神经网络的稳定性。 关键词:神经网络、l y a p u n o v 函数、不等式分析、d i n i 导数 电子科技大学硕士学位论文 ab s t r a c t n e u r a l n e t w o r k s me a n b i o l o g i c a l n e u r a l n e t w o r k s i n t h e c a t e g o r y o f n e u r o - p h y s i o lo g y a n d n e u r a l a n a t o m y a n d c a l l a r t i f i c i a l n e u r a l n e t w o r k s i n t h e f i e l d o f i n f o r m a t i o n c o m p u t e r s c i e n c e ,e t c . t h e r e s e a r c h e s s e n c e o f t h e n e u r a l n e t w o r k i s t h a t a n n i s l e a rn fr o m b n n , i n 1 9 8 2 , b i o l o g i c a l p h y s i c i s t h o p f i e l d o f c a l i f o r n i a i n s t i t u t e o f t e c h n o l o g y o f u .s .a . p r o p o s e d th e m o d e l o f t h e n e u r a l n e t w o r k - t h e n e u r a l n e t w o r k m o d e l o f h o p f i e l d , p u s h t h e r e s e a r c h o f n e u r a l n e t w o r k . a t t h e s a m e t im e h o p f r e l d s t i l l i n tr o d u c e s t h e c o n c e p t o f c a l c u l a t i n g e n e r g y f u n c t i o n ， ， p r o v i d e t h e c r i t e r i o n o f t h e s t a b i l i t y o f t h e n e u r a l n e t wo r k a n d r e a l i z e o f e l e c t ron i c c i r c u i t a n d h a v e e s t a b l i s h e d t h e f o u n d a t i o n f o r t h e r e s e a r c h o f t h e n e u r a l c o m p u t e r . i n t h e o r y a n d p r a c t i c e o f n e u r a l n e t w o r k s s y s t e m , h o p f i e l d n e u r a l n e t w o r k s s y s t e m i s a v e r y i m p o rt a n t p r o b l e m a l l t h e t i m e . a g o o d h o p fi e l d n e u r a l n e t w o r k s s y s t e m h a v e c h a r a c t e r i s t i c s o f a g o o d s t a b i l i t y a n d p r o d u c t r e s p o n d o f a l l k i n d s o f i n p u t . t h u s h o p f i e l d n e u r a l n e t w o r k s s y s t e m h a v e b e t t e r me a n i n g o f t h e o r y a n d p r a c t i s e . t h i s t e x t d i s c u s s in g s t a b i l i t y o f n o n - d e l a y n e u r a l n e t w o r k s s y s t e m a n d d e l a y n e u r a l n e t w o r k s s y s t e m t h i s t e x t d i v i d e s f o u r c h a p t e r s : c h a p t e r o n e i s f o r e w o r d , m a i n i n t r o d u c t s e le c t e d t i t l e b a c k g r o u n d o f t h i s t e x t . c h a p t e r t w o d i s c u s s e x p o n e n t i a l s t a b i li ty o f n o n - d e l a y r e c u r r e n t n e u r a l n e t w o r k s . c h a p t e r t h r e e i n tr o d u c t d e l a y n e u r a l n e t w o r k s w i t h t i m e v a r y in g . c h a p t e r f o u r s t u d y s t a b i l i t y o f d e l a y c e l l n e u r a l n e t w o r k s . k e y wo r d s : n e u r a l n e t w o r k s . l y a p u n o v f u n c t i o n、 i n e q u a l i t y a n a ly s i s , d i n i d e r i v a t i v e 1 1 独 创 性 声 明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。 据我所知， 除了文中特别加以标注和致谢的地 方外， 论文中不包含其他人已经发表或撰写过的研究成果， 也不包含 为获得电子科技大学或其它教育机构的学位或证书而使用过的材料。 与我一同工作的同志对本研究所做的任何贡献均己在论文中作了明 确的说明并表示谢意。 签 名 : 伽 la日 期 : 对年/ 月 /。 日 关于论文使用授权的说明 本学位论文作者完全了解电子科技大学有关保留、 使用学位论文 的规定，有权保留并向国家有关部门或机构送交论文的复印件和磁 盘， 允许论文被查阅和借阅。 本人授权电子科技大学可以将学位论文 的全部或部分内容编入有关数据库进行检索， 可以采用影印、 缩印或 扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签 名 : 都l r导 师 签 名: 衣 叶 r4 4q o 日 期: ti t年月/ d 日 电 子科大 硕士学位论文 引 言 神经网络系统是由大量的， 同时也是很简单的处理单元广泛地互相连接而形 成的复杂网络系统。它反映了人脑功能的许多基本特性，但它并不是人脑神经 网络系统的真实写照，而是对其作某种简化，抽象和模拟，是目前神经网络研 究的基本出发点。一般认为，神经网络系统是一种高度复杂的大规模并行的非 线性动力学系统。虽然每个神经元的结构和功能十分简单，但由大量神经元构 成的网络系统的行为却是丰富多彩和十分复杂的。因此在研究方法上强调综合， 也就是说神经网络理论所要研究的问题是如何把这些极为简单的神经元构成一 个复杂的具备多方面功能的系统。 一般来说， 人们研究的神经网络不外两种， 一是生物神经网络， 一是人工神 经网络。我们把存在于人脑中的实际神经网络叫做生物神经网络 ( b i o l o g i c a l n e u r a l n e t w o r k s ) ，而把向生命学习，用电 子方法、光学方法或其他生物物理 化学方法仿照生物神经网络所构造出来的神经网络，称为人工神经网络 ( a r t i f i c i a l n e u r a l n e t w o r k s ) .向生物神经网络学习的人工神经网络，并非 在全面指标功能上达到或超过它的学习对象，而是在了解和分析生物神经网络 的结构，机理和功能的基础上，学习和实现那些人们所需要的智能，因此我们 把这种神 经网 络称为人工神经网络。 在众多的人工神经网络系统中h o p f i e l d 型 神经网络是研究和应用最为广泛的神经网络之一，它的两个主要应用是联想记 忆和最优化计算。近年来，细胞神经网络 ( c n n )模型的理论和应用研究已 成为 新的热点。由于神经网络具有信息的分布存储，并行处理和自 学习能力等优点， 所以在信息处理，模式识别智能控制等领域有着广泛的应用前景。 一个神经网络系统若想在工程中发挥作用就必须具备稳定性， 因此在神经网 络的设计和分析中，稳定性的分析是极为重要的且必不可少的一个环节。稳定 性理论是研究动态系统中的过程 ( 包括平衡位置)相对干扰是否具有自我保持 能力的理论， 是由著名学者l y a p u n o v 在1 9 世纪9 0 年代开创的理论。 它的概念， 最早源于力学，它刻画了一个刚体运动的平衡状态。而它的发展反过来却为工 程技术，特别是自 动化，控制理论等提供了广泛的应用。 在稳定性理论发展中， 最伟大的事件乃是俄国数学力学家李雅普诺夫院士在 1 8 9 2年完成的著名的博士论文 “ 运动稳定性的一般性问题”。在这篇论文中， 第 1荧 共 4 1页 电子科大硕士学位论文 他将由p e a n o ,b e n d i x s o n 和d a r b o u x 等人建立的 微分方程解对初值和参数的 连续 依赖性这一概念，由自 变量( 时间 ) 在有限区间上变化拓宽到无穷 区间上， 科学 地给出了系统中运动是稳定和渐近稳定地概念;他从类似系统总能量物理概念 得到启示， 提出了后来人们称为李雅普诺夫函数的概念， 将一般。 阶微分方程组 中 扰动解渐近性质的讨论归结为讨论一个标量函数( 李雅普诺夫函数) 及其对系 统的全导数的一些特性的研究，成功地避开了讨论。 阶微分方程组的阶的困难， 从而建立了稳定性理论研究的框架。李雅普诺夫这一工作影响巨大，在当时实 际上是无法做出估计的，近一百年的历史已经表明由他创立的这一理论与方法， 已 经渗透到应用数学、力学、控制与系统理论的众多领域，取得了巨大的发展， 形成了从理论到应用的丰富的体系。 本文将研究反馈型以及时滞神经网络系统的稳定性问题， 在研究中对于神经 网络模型，我们自 然提出以下几个方面的问题。 1 ，神经网络模型的平衡点是否存在，假如存在是否唯一; 2 .神经网络模型在平衡点存在时平衡点的稳定性，给出平衡点的局部稳定 性和全局稳定性的充分条件; 3 .神经网络模型在平衡点存在时收敛于平衡点的速度问题，给出其指数稳 定的充分条件。 本文对以 上问 题进行研究， 将通过构造不同的l y a p u n o v函数， 利用常数变 异法，结合不等式技巧，对神经网络系统进行较为全面的分析和研究，试图得 到更满意的结果。 第 2页 共 4 1页 电子科大硕士学位论文 第一章 神经网络的介绍 数字电子计算机的发明和发展改变了整个人类社会。 在不到半个世纪的时间 里，计算机己经历了从电子管到晶体管到集成电路到大规模，超大规模集成电 路这样的几个飞跃。计算机的计算速度越来越快， 存储容量越来越大，它已能 实现许多以往只有人脑才能实现的功能，从而被人们称为电脑。然而它从原理 上 和人脑却相差甚远。首先，计算机是串行处理， 人脑是并行处理的;其次， 计算机是按地址记忆的，而人脑则是按内容记忆的;再次，计算机的运算单元 和存储单元是明确区分开来的，而人脑则没有这种区分，记忆分布在整个大脑。 此外，计算机特别擅长于数学运算和逻辑运算，然而对即使是幼儿的大脑也能 轻而易举地做到从众多景物中识别某一特定目 标，但对计算机来说也是十分困 难的。计算机需要人给它编制程序才能执行其特定的功能，而人脑则可以通过 经验自 觉地学会本领。为了弥补计算机的不足之处， 使计算机更加智能化人 机界面对人更加友善，人们正试图发展新一代的仿脑计算机。这种机器是由大 量像神经元这样的元件组成的，进行并行处理，其记 忆是按内容分布存储的， 具有自 组织和学习的能力。神经网络是顺应这一要求而兴起的。 1 . 1 人工神经网络， 的特点 神经网络的基本元件是神经元，亦具有生物神经元某些特点的元件。在神 经网络的研究中我们不考虑神经元的生物物理模型，生物物理模型固然对理解 神经元的内部机制是重要的，然而对于理解神经网络的功能常常是不必要的。 从应用的角度来说，人们只要求神经网络解决他们所希望的实际问题，而不去 管神经系统中是否也是按同样的方法来解决，甚至其基本单元神经元的性质也 可能不完全符合生物神经元的真实情况。因此这类神经网络被称为人工神经网 络。 人工神经网络是大脑及其活动的一个理论化的数学模型， 它是由大量处理单 元通过适当的方式互连起来，是一个大规模的非线性自 适应系统。这些处理单 元具有局部内存，并可以完成局部操作。每个处理单元有一个单一的输出联接， 这个输出可以根据需要被分支成希望个数的许多并行联接都输出相同的信号， 第 3页 共 4 1页 电子科技大学硕士学位论文 即相应处理单元的信号，信号的大小不因分支的多少而变化。处理单元的输出 信号，即相应处理单元的信号，信号的大小不因分支的多少而变化。处理单元 的输出信号可以是任何需要的数学模型，每个处理单元中进行的操作必须是完 全局部的。也就是说，它必须紧紧依赖于经过输入联接到达处理单元的所有输 入信号的当前值和存储在处理单元局部内存中的值。 1 . 2 人工神经网络i 的基础 12 . 1人工神经元 在生物神经系统中神经元是构成神经网络的最基本单元。 因此构造一个人工 神经网络系统，首要任务是构造人工神经元模型。 对于每一个人工神经元来说， 他可以接受一组来自 系统中其他神经元的输入 信号，每一个输入对应于一个权，所有输入的加权和决定该神经元的激活状态。 这里，每一个权就相当于生物神经元中突触的联接强度。 设。 个 输入 分 别 用x i ， x 2 , . . , x 。 表 示， 它 们 对应 的 联 接 权 值依次 为w叭 ， ， 呱 所有的输入及对应的联接权值分别构成输入向量x和联接权向量w: x= ( xx z ， 一 ， x . ) w 一 ( wl ， 玛 ， ， 珠 ) rww i , . . , w 用n e t 表示该神经元所获得的输入信号的累积效果， 称之为该神经元的网 络 输入: n e t = 艺 x , 哄 神经元在获得网络输入后，应该给出适当的输出。按照生物神经元的特性， 每个神经元有一个阀值，当该神经元所获得的输入信号的累积效果超过阀值时， 它就处于激发态:否则处于抑制态。为了使系统有更宽的适用面，希望人工神 经元有一个更一般的变换函数，用来执行对该神经元所获得的网络输入的变换。 这就是激活函数。 用f 表示: o = f ( n e t 其中，0 是该神经元的输出。由此式可以看出，函数同时也用来将神经元的 输出进行放大处理或限制在一个适当的范围内。 典型的激活函数有线性函数，非线性斜面函数，阶跃函数，: 型函数 1 . 2 . 2 人工神经网 络的 拓扑特性 第 4页 共 4 1页 电子科大硕士学位论文 我们在组织网络中的神经元中将这些神经元分成不同的组， 也就是分块进行 组织。在拓扑表示中，不同的块可以被放入不同的层中。另一方面，网络应该 有输入和输出，从而就有了输入层和输出层。 层次的划分，导致了神经元之间三种不同的互联模式: ( 1 ) 层内联接 层内联接又叫做区域内联接或侧联接。 它是本层内的神经元到本层内的神经 元之间的联接，可以用来加强和完成层内神经元之间的竞争;当需要组内加强 时， 这种联接的联接权取正值;在需要实现组内竞争时，这种联接权取负值。 ( 2 ) 循环联接 循环联接在这里特指神经元到自 身的激活值， 使本次的输出与上次的 输出相 关，是一种特殊的反馈信号。 ( 3 ) 层间联接 层间联接指不同层中的神经元之间的联接， 是用来实现层间的信号传递的。 为了更好地组织网络中的神经元，我们把它们分布到各层。按照上面对网络的 联接的划分，我们称侧联接引起的信号传递为横向反馈;层间的向前联接引起 的 信号传递为层前馈:层间的向 后联接引 起的信号传递为层反馈。 神经网络按分层结构有 ( 1 )单极网 单极网分为简单单极网和单极横向反馈网。 其中只有一级联接权矩阵的网络 叫简单单极网。在简单单极网基础上加上侧联接就构成单极横向反馈网 ( 2 )多级网 事实上， 单极网的功能是有限的， 适当地增加网络的层数是提高网络计算能 力的一个途径， 这也部分地模拟了人脑的 某些部位的分级结构特征。 从拓扑结构上来看，多级网是由多个单极网联接而成的。 ( 3 )循环网 如果将输出信号反馈到输入端，就可以构成一个多层的循环网络。 引入反馈的主要目 的是解决非循环网络对上次的输出无记忆的问题。 在循 环网中，需要将输出送回输入端，从而使当前的输出受到上次输入的影响，进 而又受到前一个输入的影响，如此形成一个迭代。即，在此过程中，输入的原 始信号被逐步地加强，修复。 这种性能， 在一定程度上反映了人的 大脑的短期记忆特征看到的东西不 第 5页 共 引 页 电子科大硕士学位论文 是一下子就从脑海中消失。 1 . 3 h o p f i e l d 神经网络1- 2 ， 的介绍 在神经网络的发展过程中有几种重要的神经网络: 感知器，b p 网络，对传 网， h o p f i e l d 神经网络，小脑模型关联控制器一一 m a c 网络，大脑自 组织特征 映射模型k o h o n e n网络。其中h o p f i e l d 神经网络是研究最为广泛的神经网 络之一，也是本文研究的重点。 h o p f i e l d神经网络是一种典型的反馈型神经网络，具 有系统动态性能。从 控制系统的观点看，h o p f i e l d神经网络是一个非线性动力学系统，由 此涉及到 随机性，稳定性，吸引子以至于混沌现象等问题，使得研究反馈型网络比研究 感知器，b p 网络等前向网络要复杂的多 。 h o p f i e l d神经网络模型的基本原理是: 只要由 神经元兴奋的算法和联接权 系数所决定的神经网络的状态，在适当给定的兴奋模式下尚未达到稳定状态， 那么该状态就会一直变化下去，直到预先定义的一个必定减小的能量函数达到 极小值，状态才达到稳定而不再变化。 h o p f i e l d 神经网络的核心内 容是对于连续的和离散的h o p f i e l d 神经网络均 可以通过引入能量函数，使其朝着能力减小的方向运行，最终到达一个稳定状 态。因此， h o p f i e l d 神经网 络具有联想记忆功能和优化计算功能。h o p f i e l d 神 经网络的优化计算功能成功的解决的著名的旅行商 t s p问题，它在极短的时间 里找到虽然不是最短，但却是接近最短的 最优近似解。而且连续的h o p f i e l d 神 经网络模型可直接与电子模拟线路相对偶，易于通过v 工 si技术实现，为研制神 经计算机开辟了道路。 1 . 4 1 . 4 . 神经网络的应用 1 神经网络在控制中的应用 神经网络应用于控制系统设计主要是针对系统的非线性， 不确定性和复杂性 进行的。由于神经网络的适应能力，并行处理能力和它的鲁棒性，使采用神经 网络控制系统具有更强的适应性和鲁棒性。通常神经网络在控制系统中的作用 可分为如下几种: 1 ) 充当 系统的 模型， 构 成各种控 制结构， 如在内 模控制， 模型参考自 适应 控 制，预测控制中，充当对象的模型; 第 6页 共 4 】页 电子科大硕士学位论文 2 ) 直接用作控制器; 3 ) 在控制系统中起优化计算的 作用。 在神经网络控制系统中， 信息处理过程通常分成自 适应学习期和控制期两个 阶段。在控制期，网络连接模式和权重已知且不变，各种神经元根据输入信息 和状态信息产生输出;在学习期，网络按一定的学习规则调整其内部连接权重， 使给定的性能指标达到最优。两个阶段可以独立完成，也可以交替进行。 目 前，从大类上看，神经网络控制结构和方法有以下几种: ( i ) 神经网络监督控制 监督控制是利用神经网络的非线性映射能力， 使其学习人与被控对象打交道 时获得的知识和经验，从而最终取代人的控制行为。 他需要一个导师，以 提供 神经网络训练用的从人的感觉到人的决策行为的映射，导师可以是人，也可以 是常规控制器。 ( 2 ) 神经网 络直接逆动态控制 神经网络直接逆动态控制是将系统的逆动态模型直接串 联在被控对象之前， 使得复合系统在期望输出和被控系统实际输出之间构成一个恒等映射关系 这 时网络直接作为控制器工作。 ( 3 ) 神经网络参数估计自 适应控制 利用神经网络的计算能力对控制器参数进行约束， 优化求解。 控制器可以是 基于l y a p u n o v 的自 适应控制和自 校正 控制以 及模糊 控制器。 神经网 络对控制器 中用到的系统参数进行实时辨识和优化，以 便为控制器提供正确的估计值。 ( 4 ) 神经网络模型 参考自 适应控制 将神经网络直接作为控制器， 用系统输出误差来进行训练。 这里， 闭环系统 的期望行为由一个稳定的参考模型给出，控制系统的作用是使得系统输出渐进 地参考模型的输出相匹配。 ( 5 ) 神经网 络内 模控制 利用被控对象的模型和模型的逆构成控制系统。 ( 6 ) 神经网 络预测控制 预测控制又称为 基于模型的 控制是2 0 世纪7 0 年代后期发展起来的一类新型 计算机控制算法。其本质特征是预测模型，滚动优化和反馈校正，这种方法对 非线性系统有期望的稳定性。利用神经网络建立系统的预测模型，即可构成神 经网络预测控制。 第 7页 共 引 页 电子利大硕士学位论文 1 .4 .2神经网络在其它方面的应用 多层b p网络可以用来完成数据压缩，数据压缩又称为数据的特征提取，将 真实数据用较少的单元来存储和传递，使用时再将压缩数据还原成原始数据， 就可以大大节省存放和传输的费用。动态神经网络还可以用来对数据进行加密 和解密，即用在保密通信中。离散的 h o p f i e l d神经网 络可以 很好的解决旅行推 销商 c t s p )问题，另外k o h o n e n网络也可以解决旅行推销商问题。神经网络还 可以用来解决生物医学方面中诸如:急性心肌梗塞的预后，胎儿心率的检测等 问题，以 及金融工程中股市扩容等问题。 第 8页 共 4 1页 电子科大硕士学位论文 第二章 带有非对称连接权的反馈型神经网络 的稳定性分析 在神经网络系统的理论和实践中， 反馈型神经网络始终是一个至关重要的问 题。一个好的神经网络系统应该具有如下特性:稳定性好:对各类输入能产生 预期的响应:对系统参数的扰动不敏感;能有效制外界干扰的影响，等等。在 实际工程中，通常设计出来的神经网络系统很难同时满足各方面的设计要求， 只有经过适当的校正之后，才能具有最优性能。反馈型神经网络系统不仅调整 系统参数，还能重新考虑系统的结构并作出必要的修改。因此，反馈型神经网 络系统具有较好的理论和实践意义。 本章将研究带有非对称连接权反馈型神经网络的稳定性问题。 反馈型神经网 络由于它在优化计算和实现的低复杂性上有较好的表现而被提出和研究。文献 4 1 5 研究了带有对称连接权的神经网络系统。由于带有非对称连接权的神经 网络系统更具有普遍性， 其结果在理论与实践中更具有重要意义。 文献仁 1 6 - - 1 8 了 基于一种新的 l y a p u n o v函数及m矩阵的方法研究了带有非对称连接权神经网 络系统，得到了较好的结果。本文使用了常数变异法，以及对系统进行分解， 再利用d i n ， 导数的方法得到了系统全局渐近稳定和全局指数稳定的新判据。 2 . 1系统的描述 我们考虑如下神经网络系统: 业一“ 、 p o ( w u + a q ) d t ( 2 . 1 ) 这里q e r , a 是一个正常量，w = e 一 a m， m是一个 1 x 1矩阵， e 是1 x ! 单 位矩阵， s 2 = 。 。 川 d i “ s h i ,i 。 科 ， e 二 ， l = 1, ., l 且r - - 0 是一个 由 p n ( u 一 p n ( u 0 1 ，二 ，p n ( u , 汀定 义 的 映 射 算 子 并 且 有 二 l - 1 , p , (u ;) = u i u i - 0 ( - w ( x ) _ 0 ) ， 且 w ( x ) = 0 可 有 非 零 解x 一 x o # 0 定 义 2 . 3称 函 数v ( t , x ) , w ( x ) 在 i x q 上 为 变 号 的 ， 若v ( t , x ) , w ( x ) 在 其定义域上可正可负。 定 义2 . 4称 w ( x ) e c r ,月为 无 穷 大 正 定 函 数 ， 若 w ( x ) 正 定 ， 且 ilx ll -4 + 0 0 iff m w ( x ) 。+ 。 。 定 义 2 . 5若v ( t , o ) = 0 , 称 函 数v ( t , x ) e c i x q , 川为 正 定 的 ， 且 存 在 正 定 函 数 w ( x ) ， 使v ( t , 0 ) - w ( x ) 在 i x q 上 成 立; 若v ( t , x ) - 0 ， 称v ( t , x ) 在i x q 上半正定。 定义 小上界， 大下界。 2 “若 存 在 正 定 函 数 w ( x ) , 使 v ( t , x ) i s w , ( x ) ， 称 v ( t, x ) 具 有 无 穷 若 存 在 无 穷 大 正 定 函 数 w ( x ) ， 使 v ( t , x ) i ? w 2 ( x ) ， 称 v ( t , x ) 具 有 无 穷 2 . 2 . 2 不等式的方法 不等式在神经网络稳定性的研究中有着非常重要的作用。 下面我们介绍几个 不等式 1 ) 关于积分的平均值不等式 有限的算术平均一几何平均不等式的一般形式为: 第 1 0页 共 引 页 电子科大硕士学位论文 ( v l x .n z . . . 4 n ) u ,(x, z p i x i +p 2 x 2 + . . . +xx p 其中x i ? 0 , p i 0 ,= 1 , 2 , . . ., n , p 二 艺p ;等号成立当 且仅当所有x i 相等 。 上式的 右端是加权平 均，当p i = 1 ( i = 1 , 2 , ， 二 ， n )时 便是 通常的 算术平均， 上式的左端是一种几何平均可改写成 ( x 尸 x ,x , , i x 2. .x n )u , 一 。 x p ( p lo g x + p 2 lo g x 2 + - + p lo g x n ) 这样等式左端的指数部分也是加权平均。 2 )关于积分的赫尔德不等式 不等式的常用形式是 客 xiyi 到, c 犷 “ 中 xi,y j _ 0, p ，含 1q = 1 当p 1 , f e 州哟， g e 州哟则 p q f lfg ld x ( l lf l d x 门 ig l0 、 )“ 等 号 仅 当 f l, 与 g l4 在 s 2 上 几 乎 处 处 比 例 时 成 立 。 利 用 l 0 ( p ? 1 ) 空 间 的 范 数 ， 上 述不等式可简写成: ilf g ll, _ ilf ll, ilg ll, 若 。 p 1 或 p 0 , 龙e l ( q ) ， 且 当 o p 0 , p 1 当p 2 ) 是 可 测 集。 引 理2 . 3 12 1 若p ! 1 , f , g e l 0 ( 0 ) 则 ( j1 if + g i0 dx ) :( l if l0 * ) + ( i lg l, “ )”“ 或者写成 llf + g 11, :- iif iid a d , 等号 仅 当 f 与 g( 几 乎 处 处 ) 成 比 例 时 成 立 。 若 p 1 , ( i f l + ig u 0 e l 7 ( f2 ) ， 且 f lv 第 1 2页 共 4 1页 电子科大硕士学位论文 或 ig lp 二 l ( n ) ， 则 ( f (if l+ lg l)0 d x ) : ( l if lp 1)vp,if i)p 1 ， 则 第 1 3页 共 4 1页 电子科大硕十学位论文 m i lf (一 ， )i dy p“ “ ia glf (一 ， )i0 dx 、 等 号 成 立 仅当f 形 如f ( x , y ) = o w p 行 ) ， d ( x , y ) e s z 2 . 2 . 3 k类函数 ,4 i 函 数 ， 任 c r ,r 或 。 e c ( 0 ,r ) ,r 十 是 连 续 的 严 格 单 调 上 升 函 数 ， 且 有 p ( 0 ) = 0 , 则 称(p 是 属 于k 类函 数， 记为 p e k. 若 ， e k , rp : r 一 r - ， 且 悠tp ( r ) 一 + ， 则 称 州 r ) 为 属 于 径 向 无 穷 大 k 类 函 数， 一记 为p 。 k r 这 里r := 0 ， 十 ) 。 关于l y a p u n o v 函数与k类函数有下列极重要的关系: 引 理2 . 8 u 4 对 于 在 ix ii r 是 连 续函 数 且 有 右 上 导 数; ( 2 ) 几( y ; ) 是 有 界 函 数; ( 3 ) 0 ) 厂lesesesesesesesl - 、.声 y 了.、 f . 叫.月月卫lesesj 0八u 尸lesesesesesesl - a 定义一个如下凸集: 。 = i - 卜 。 r 且 ilx 一 b ll :! lla ilm * 其中 m = su py(p er iil (y (.) )1i 从( 2 .8 ) 我们知道 iif ( y ) 一 b ll = 11a f ( y ) ii _ 11a llilf ( y ) jl _ 11a llm . 易知f是连续映射并且f : s 2 - ) . s 2 ， 且4是闭凸集。 有b r o u w e r 不动点定理f至 少有一个不动点y ，我们有: ， 一 f ( ， ) = a f ( ， ) + 。 即方程( 2 .7 ) 有解，因而我们知道系统( 2 .4 ) 有平衡点 。 2 . 4稳定性的分析 神经网络的稳定性分析所关心的问题类型依赖于具体应用。 反馈型神经网 络是目前使用最广，研究最多的神经网络之一，它主要应用于联想记忆和优化 计算。根据其不同的应用，需要作不同类型的稳定性分析，对于联想一记忆神经 网络，它应具有多个分别对应于要存储的记忆模式的平衡点，定性分析的目的 是在何种条件下，这些平衡点是全局渐近稳定的。 本章研究的目 的是在于对带有非对称连接权的反馈型神经网络系统， 通过构 造不同 的l y a p u n o v 函 数， 利用d i n i 导 数给出 平衡点的全局指数稳定的 一些判 据。 从 定 理 ( 2 .1 0 ) 我 们 能 知 道 系 统 (2 .4 ) 存 在 平 衡 点 ， 设， 一 ( ， : ， : ; ， ， y )t 是 系 统( 2 .4 ) 的平衡点， 使用坐标变换: x=夕一y 因而 第 1 8页 共 4 1页 电子科大硕士学位论文 x (,) 0 y ( ,) 一 y ( qx ( 2 ) = y ( 2 ) 一 y ( 2 ) 代入系统 ( 2 .4 ) ，有 d x (,) _ d t d (2) d t - x (,) + w f ( x (,) ) + w ,2x (,) - a m 22x (2) + w i,f (x (,) ) ( 2 .9 ) 厂1.es吠1 其 中 以 x (,) 一 ( x (,) + 玲 ) ) 一 (玲 小根 据 咐口 m ， 的 关 系 ，系 统 (2 .9 ) 与 下 式 等 价 : - - x (，) + ( e 一 。 m ii) f ( x (,) 一 。 m ,2x (2) 一 “ m 22x (2) 一 a m , f ( x (,) ) ( 2 . 1 0 ) 鱼改ha一改 千一一 定理 2 . 2假如系统( 2 . 1 0 ) 满足: 1i、 一 jl+ 号 (11m ,2 + iim 2 - id 0 p 2 0，使得: d v ldt (2，。): 一 二 llx(t)il 一 2 ,u2iix(2)112 再 取,u = m in ( u , , /2 2 ) 0， 我 们 有 d_ vdt 一 (2.to): - 2p (ix(t)12 + iix(2)ll2) = - 2,u v 因而，我们有 e 2 0 v ( x ( 0 ) e 2 0r v ( to ) v ( x ( t ) ) 一 ilx ( t )一 v ( o ) e -2 aq 一 、 ) = llx ( to )ii2 e 2w “ 一 ， 因此 卜 ( ) 卜 】卜 ( 。 ) 一e - (,- ,. ) 根据稳定性的定义可知系统的零解是全局指数稳定， 因而系统的解是全局指 数稳定。