第三讲(3)人工神经网络(Hopfield).ppt

1、第5节 循环网络,第三讲 人工神经网络,Hopfield网络,Hopfield网络,基本概念 特点 训练方法,5.1 Hopfield网络的基本概念,美国加州理工学院物理学家J.J.Hopfield教授于1982年提出； Hopfield网络可用作联想存储器的互连网络； Hopfield神经网络模型是一种循环神经网络，从输出到输入有反馈连接； 有离散型和连续型两种。,5.1 Hopfield网络的基本概念,网络结构,5.2 离散型Hopfield神经网络,Hopfield最早提出的一种反馈网络是二值神经网络； 采用的神经元是二值神经元； 神经元的输出只取1和0这两个值，分别表示神经元处于激活和

2、抑制状态。,一、网络的状态 DHNN网中的每个神经元都有相同的功能，其输出称为状态，用 xj 表示。,j=1,2,n,所有神经元状态的集合就构成反馈网络的状态 X=x1,x2,xnT,反馈网络的输入就是网络的状态初始值，表示为 X(0)=x1(0),x2(0),xn(0)T,反馈网络在外界输入激发下，从初始状态进入动态演变过程，变化规律为,5.2 离散型Hopfield神经网络,5.2 离散型Hopfield神经网络,三个神经元组成的离散Hopfield神经网络,5.2 离散型Hopfield神经网络,且有： Yi=1,当Uii 时 Yi=0,当Uii 时 对于一个离散的Hopfield网络，

3、其网络状态是输出神经元信息的集合。对于一个输出层是n个神经元的网络，则其t时刻的状态为一个n维向量： Y(t)=Y1(t),Y2(t),.,Yn(t)T 故而，网络状态有2n个状态；,对于二值神经元，有：,输入,输出,5.2 离散型Hopfield神经网络,三神经元输出层的网络状态,推论：对于n个神经元的输出层，它有2n个网络状态，也和一个n维超立方体的顶角相对应。,5.2 离散型Hopfield神经网络,如果Hopfield网络是一个稳定网络，那么在网络的输入端加入一个输入向量，则网络的状态会产生变化，也就是从超立方体的一个顶角转移向另一个顶角，并且最终稳定于一个特定的顶角。,5.2 离散型

4、Hopfield神经网络,一船而言，w和可以确定一个唯一的离散Hopfield网络。,对于一个由n个神经元组成的离散Hopfield网络，则有n*n权系数矩阵w:,5.2 离散型Hopfield神经网络,考虑离散Hopfield网络的一船节点状态；用Yj(t)表示第j个神经元，即节点j在时刻t的状态，则节点的下一个时刻(t+1)的状态可以求出如下：,5.2 离散型Hopfield神经网络,当Wij在ij时等于0，则说明一个神经元的输出并不会反馈到它自己的输入；这时，离散的HopfieId网络称为无自反馈网络。 当Wij在ij时不等于0，则说明个神经元的输出会反馈到它自己的输入；这时，离散的Ho

5、pfield网络称为有自反馈的网络。,(a)网络的异步工作方式,(b)网络的同步工作方式 网络的同步工作方式是一种并行方式，所有神经元同时调整状态，即,j=1,2,n,网络运行时每次只有一个神经元 j 进行状态的调整计算，其它神经元的状态均保持不变，即,5.2 离散型Hopfield神经网络,二、网络的工作方式,三、网络的稳定性,DHNN网实质上是一个离散的非线性动力学系统。网络从初态X(0)开始，若能经有限次递归后，其状态不再发生变化，即X(t+1)X(t)，则称该网络是稳定的。,如果网络是稳定的，它可以从任一初态收敛到一个稳态：,5.2 离散型Hopfield神经网络,三、网络的稳定性,5

6、.2 离散型Hopfield神经网络,则Hopfield网络是稳定的。 应该指出：这只是Hopfield网络稳定的充分条件而不是必要条件。 推论：无自反馈的权系数对称Hopfield网络是稳定的网络。,如果Hopfield网络的权系数矩阵w是一个对称矩阵，并且，对角线元素为0则这个网络是稳定的。即是说在权系数矩阵W中，如果：,若网络是不稳定的，由于DHNN网每个节点的状态只有1和-1两种情况，网络不可能出现无限发散的情况，而只可能出现限幅的自持振荡，这种网络称为有限环网络。,如果网络状态的轨迹在某个确定的范围内变迁，但既不重复也不停止，状态变化为无穷多个，轨迹也不发散到无穷远，这种现象称为混沌

7、。,5.2 离散型Hopfield神经网络,若网络是不稳定的，由于DHNN网每个节点的状态只有1和-1两种情况，网络不可能出现无限发散的情况，而只可能出现限幅的自持振荡，这种网络称为有限环网络。,如果网络状态的轨迹在某个确定的范围内变迁，但既不重复也不停止，状态变化为无穷多个，轨迹也不发散到无穷远，这种现象称为混沌。,5.3 吸引子与能量函数,网络达到稳定时的状态X，称为网络的 吸引子。,如果把问题的解编码为网络的吸引子，从初态向吸引子演变的过程便是求解计算的过程。,若把需记忆的样本信息存储于网络不同的吸引子，当输入含有部分记忆信息的样本时，网络的演变过程便是从部分信息寻找全部信息，即联想回忆

8、的过程。,定义： 若网络的状态X 满足 X=f(WX-T) 则称X为网络的吸引子。,5.3 吸引子与能量函数,吸引子,如何逃离局部极小点？,联接权修改量 太小：落到A点后很难逃离 太大：导致在A、B两点来回抖动 解决办法 控制联接权修改量的大小：权修改量由大变小 允许暂时变坏 修改量的大小和网络的“能量”相关 模拟退火,5.3 吸引子与能量函数,能量函数与模拟退火算法,逃离局部极小点,模拟退火算法,金属中原子的能量与温度有关 原子能量高的时候，有能力摆脱其原来的能量状态而最后达到一个更加稳定的状态全局极小能量状态 在金属的退火过程中，能量的状态分布,P(E)系统处于具有能量E的状态的概率； k

9、Boltzmann常数； T系统的绝对温度(Kelvin),P(E),5.3 吸引子与能量函数,能量与温度,高温情况下： T足够大，对系统所能处的任意能量状态E，有,将趋近于1,能量与温度,中温情况下： T比较小，E的大小对P(E)有较大的影响 ，设E1E2 P(E2)P(E1)。即，系统处于高能量状态的可能性小于处于低能量状态的可能性,能量与温度,能量与温度,低温情况下： T非常小，E的大小对P(E) 的影响非常大 ，设E1E2 P(E2) P(E1)。即，当温度趋近于0时，系统几乎不可能处于高能量状态,模拟退火组合优化法,目标函数能量函数 人工温度T一个初值较大的数 依据网络的能量和温度来

10、决定联接权的调整量（称为步长）。 与金属的退火过程（Annealing）非常相似,模拟退火组合优化法,基本思想 随机地为系统选择一个初始状态wij(p)，在此初始状态下，给系统一个小的随机扰动wij(p)，计算系统的能量变化 E=E(wij(p)+wij(p)-E(wij(p) 若 E0 则接受 若E0 则依据概率 判断是否被接受 若接受，则系统从状态wij(p)变换到状态wij(p)+wij(p)；否则，系统保持不变,Lyapunov函数能量函数,作为网络的稳定性度量 wijoioj：网络的一致性测度。 xjoj：神经元的输入和输出的一致性测度。 joj：神经元自身的稳定性的测度。,统计Ho

11、pfield网与Boltzmann机,统计Hopfield网 在网络运行中，神经元状态与 “人工温度”确定的概率相关 网络运行模拟金属退火过程,pi：ANi的状态取1的概率 neti：ANi所获网络输入； i：ANi的阈值； T：系统的人工温度。,在网络运行中，神经元状态与 “人工温度”确定的概率相关 网络运行模拟金属退火过程,pi：ANi的状态取1的概率 neti：ANi所获网络输入； i：ANi的阈值； T：系统的人工温度。,5.4 统计Hopfield网,统计Hopfield网,统计Hopfield网运行算法,1取一个很大的值作为人工温度T的初值； 2对网络中每一个神经元ANi， 2.1

12、 按照相应式子计算相应的概率pi； 2.2 按照均匀分布，在0，1中取一个随机数r； 2.3 如果 pir 则使ANi的状态为1， 否则使ANi的状态为0； 3 逐渐降低温度T，如果温度足够低，则算法结束。否则，重复2,5.4 统计Hopfield网,5.5 Boltzmann机,Boltzmann机,Boltzmann机是多级循环网络，是Hopfield网的一种扩展。 神经元ANi实际输出状态oi=1的概率为：,T趋近于0时，神经元的状态不再具有随机性，Boltzmann机退化成一般Hopfield网。,Boltzmann机的训练,神经元ANi在运行中状态发生了变化,Boltzmann机的能

13、量函数(一致性函数 ),Boltzmann机的训练,如果i0，则应该选ANi输出为1，否则，应该选ANi输出为0。 i的值越大，神经元ANi应该处于状态1的概率就应该越大。反之，i的值越小，神经元ANi应该处于状态1的概率就应该越小。从而，oi=1的概率为：,Boltzmann机的训练,处于状态a，b的概率Pa和Pb，对应于oi=1和oi=0，其它的神经元在a，b状态下不变 Pa=pi Pb =（1-pi）,Boltzmann机的训练,网络进行足够多次迭代后，处于某状态的概率与此状态下的能量和此时系统的温度有关。 由于高温时网络的各个状态出现的概率基本相同，这就给它逃离局部极小点提供了机会。

14、当系统的温度较低时，如果EaPb：网络处于较低能量状态的概率较大,Boltzmann机的训练,1986年，Hinton和Sejnowski训练方法 自由概率Pij-：没有输入时ANi和ANj同时处于激发状态的概率。 约束概率Pij+：加上输入后ANi和ANj同时处于激发状态的概率。 联接权修改量：wij=( Pij+ - Pij-),Boltzmann机训练算法,1计算约束概率 1.1 对样本集中每个样本，执行如下操作： 1.1.1 将样本加在网络上（输入向量及其对应的输出向量）； 1.1.2 让网络寻找平衡； 1.1.3 记录下所有神经元的状态； 1.2 计算对所有的样本，ANi和ANj的状态同时为1的概率Pij+；,Boltzmann机训练算法,2 计算自由概率 2.1 从一个随机状态开始，不加输入、输出，让网络自由运行，并且在运行过程中多次纪录网络的状态； 2.2 对所有的ANi和ANj，计算它们的状态同时为1的概率Pij-； 3 对权矩阵进行调整 wij=(Pij+-Pij-),5.6 联想存储器,Hopfield网络的一个功能是可用于联想记忆，也即是联想存储器。 对于Hopfield网络，用它作联想记忆时，首先通过一个学习训练过程确定网络中的权系数，使所记忆的信息在网络的n维超立方体的某一个顶角的能量最小。 当网络的权系数确