人工神经网络-连续型Hopfield神经网络课件

完整版课件1连续型Hopfield神经网络

ContinuousHopfieldNeuralNetwork——CHNN提出原理优点完整版课件2

一、网络结构二、稳定性证明三、CHNN的几点结论连续型Hopfield神经网络

ContinuousHopfieldNeuralNetwork——CHNN完整版课件3连续型Hopfield网络结构及特点连续型Hopfield网络结构如右图所示,它是单层反馈非线性网络,每一个节点的输出均反馈至节点的输入。完整版课件4Hopfield网络用模拟电路实现的神经元节点如右图。图中电阻Rio和电容Ci并联,模拟生物神经元的延时特性,电阻Rij(j=1,2,…,n)模拟突触特征,偏置电流Ii相当于阈值,运算放大器模拟神经元的非线性饱和特性。完整版课件5设模型中放大器为理想放大器，其输入端无电流输入，则第i个放大器的输入方程为:完整版课件6ui:表示运算放大器i的输入电压vi:表示运算放大器i的输出电压连续型Hopfield动态神经网络模型如右图所示。取Wij=Wji,Wii=0(无自反馈)完整版课件7Hopfield神经网络中每个神经元都是由运算放大器及其相关的电路组成的，其中任意一个运算放大器i（或神经元i）都有两组输入:第一组是恒定的外部输入，用Ii表示，这相当于放大器的电流输入；第二组是来自其他运算放大器的反馈连接，如其中的另一任意运算放大器j（或神经元j），用wij表示，这相当于神经元i与神经元j之间的连接权值。完整版课件8设则有一般设则有

完整版课件9式中f(x)为S形激励函数。一般有以下两种形式:非对称型Sigmoid函数

对称型Sigmoid函数完整版课件10连续型Hopfield神经网络稳定性分析能量函数的定义求取

其中:完整版课件11由于Wij=Wji则有:由连续Hopfield运行方程可得将上式代入原式可得:完整版课件12由于Ci>0,f(U)单调递增，故f-1(U)也单调递增，可得:当且仅当,时,结论:网络是渐进稳定的，随着时间的推移，网络的状态向E减小的方向运动，其稳定平衡状态就是E的极小点。完整版课件13关于Hopfield能量函数的几点说明:当对反馈网络应用能量函数后，从任一初始状态开始，因为在每次迭代后都能满足E≤0，所以网络的能量将会越来越小，最后趋于稳定点E=0。Hopfield能量函数的物理意义:在那些渐进稳定点的吸引域内，离吸引点越远的状态，所具有的能量越大，由于能量函数的单调下降特性，保证状态的运动方向能从远离吸引点处，不断地趋于吸引点，直到达到稳定点。完整版课件14两点说明:1）能量函数为反馈网络的重要概念。根据能量函数可以方便的判断系统的稳定性；2）Hopfield选择的能量函数，只是保证系统稳定和渐进稳定的充分条件，而不是必要条件，其能量函数也不是唯一的。完整版课件151）具有良好的收敛性；2）具有有限个平衡点；3）如果平衡点是稳定的,那么它也一定是渐进稳定的；4）渐进稳定平衡点为其能量函数的局部极小点；5）能将任意一组希望存储的正交化矢量综合为网络的渐进平衡点；6）网络的存储信息表现为神经元之间互连的分布式动态存储；7）网络以大规模、非线性、连续时间并行方式