自组织神经网络(SOM)方法及其应用ppt课件

1、第四章 自组织神经网络4.1竞争学习的概念与原理4.2自组织特征映射神经网络自组织神经网络的典型构造第四章 自组织神经网络竞争层输入层第四章 自组织神经网络自组织学习(self-organized learning) ： 经过自动寻觅样本中的内在规律和本质属性，自组织、自顺应地改动网络参数与构造。 自组织网络的自组织功能是经过竞争学习competitive learning实现的。 4.1竞争学习的概念与原理4.1.1 根本概念分类分类是在类别知识等导师信号的指点下，将待识别的输入方式分配到各自的方式类中去。聚类无导师指点的分类称为聚类，聚类的目的是将类似的方式样本划归一类，而将不类似的别分开

2、。 类似性丈量欧式间隔法4.1.1 根本概念 类似性丈量余弦法4.1.1 根本概念4.1.2 竞争学习原理竞争学习规那么Winner-Take-All 网络的输出神经元之间相互竞争以求被激活，结果在每一时辰只需一个输出神经元被激活。这个被激活的神经元称为竞争获胜神经元，而其它神经元的形状被抑制，故称为Winner Take All。竞争学习规那么Winner-Take-All1.向量归一化 首先将当前输入方式向量X和竞争层中各神经元对应的内星向量Wj 全部进展归一化处置； (j=1,2,m)向量归一化之前向量归一化之后竞争学习原理竞争学习规那么Winner-Take-All2.寻觅获胜神经元

3、当网络得到一个输入方式向量时，竞争层的一切神经元对应的内星权向量均与其进展类似性比较，并将最类似的内星权向量判为竞争获胜神经元。欲使两单位向量最类似，须使其点积最大。即： 从上式可以看出，欲使两单位向量的欧式间隔最小，须使两向量的点积最大。即：竞争学习规那么Winner-Take-All竞争学习规那么胜者为王(Winner-Take-All)3.网络输出与权值调整 jj* 步骤3完成后回到步骤1继续训练，直到学习率衰减到0。竞争学习的几何意义竞争学习的几何意义 * 1W *jW * )()()()(*ttttjpWXW-=hD * )(*1tj+W )(tpX jW mW * *竞争学习游戏将

4、一维样本空间的12个样本分为3类竞争学习游戏w1w2w3x训练样本集o1o1o1例4.1 用竞争学习算法将以下各方式分为2类：解：为作图方便，将上述方式转换成极坐标方式 ：竞争层设两个权向量，随机初始化为单位向量：4.2自组织特征映射神经网络 Self-Organizing feature Map 1981年芬兰Helsink大学的T.Kohonen教授提出一种自组织特征映射网，简称SOM网，又称Kohonen网。 Kohonen以为：一个神经网络接受外界输入方式时，将会分为不同的对应区域，各区域对输入方式具有不同的呼应特征，而且这个过程是自动完成的。自组织特征映射正是根据这一看法提出来的，其

5、特点与人脑的自组织特性相类似。SOM网的生物学根底 生物学研讨的现实阐明，在人脑的觉得通道上，神经元的组织原理是有序陈列。因此当人脑经过感官接受外界的特定时空信息时，大脑皮层的特定区域兴奋，而且类似的外界信息在对应区域是延续映象的。 对于某一图形或某一频率的特定兴奋过程，神经元的有序陈列以及对外界信息的延续映象是自组织特征映射网中竞争机制的生物学根底。SOM网的拓扑构造 SOM网共有两层，输入层模拟感知外界输入信息的视网膜，输出层模拟做出呼应的大脑皮层。 SOM网的权值调整域 SOM网的获胜神经元对其临近神经元的影响是由近及远，由兴奋逐渐转变为抑制，因此其学习算法中不仅获胜神经元本身要调整权向

6、量，它周围的神经元在其影响下也要程度不同地调整权向量。这种调整可用三种函数表示：SOM网的权值调整域 以获胜神经元为中心设定一个邻域半径，该半径圈定的范围称为优胜邻域。在SOM网学习算法中，优胜邻域内的一切神经元均按其分开获胜神经元的间隔远近不同程度地调整权值。 优胜邻域开场定得很大，但其大小随着训练次数的添加不断收缩，最终收缩到半径为零。SOM网的运转原理训练阶段 w1 w2 w3 w4 w5SOM网的运转原理任务阶段SOM网的学习算法(1)初始化 对输出层各权向量赋小随机数并进展归一化处置，得到 ，j=1,2,m；建立初始优胜邻域Nj*(0)；学习率 赋初始值。(2)接受输入 从训练集中随

7、机选取一个输入方式并进展归一化处置，得到 ，p1,2,P。(3)寻觅获胜节点 计算 与 的点积，j=1,2,m，从中选出点积最大的获胜节点j*。(4)定义优胜邻域Nj* (t) 以j*为中心确定t 时辰的权值调整域，普通初始邻域Nj* (0)较大，训练过程中Nj* (t)随训练时间逐渐收缩。Kohonen 学习算法Kohonen学习算法SOM网的学习算法(5)调整权值 对优胜邻域Nj*(t)内的一切节点调整权值： i=1,2,n jNj*(t) 式中， 是训练时间t 和邻域内第j 个神经元与获胜神经元 j* 之间的拓扑间隔N 的函数，该函数普通有以下规律：Kohonen学习算法SOM网的学习算

8、法(5)调整权值(6)终了检查 学习率能否衰减到零或某个预定的正小数？Kohonen学习算法SOM网的学习算法Kohonen学习算法程序流程功 能 分 析(1)保序映射将输入空间的样本方式类有序地映射在输出层上。例1：动物属性特征映射。功能分析(2)数据紧缩 将高维空间的样本在坚持拓扑构造不变的条件下投影到低维空间。(3)特征抽取 高维空间的向量经过特征抽取后可以在低维特征空间更加明晰地表达。例2：SOM网用于字符排序。功能分析SOM网在皮革配皮中的运用 要消费出优质皮衣，必需保证每件皮衣所用皮料在颜色和纹理方面的类似性。在消费中，通常由有阅历的工人根据皮料颜色、纹理的相近程度进展分类。这道称

9、为“配皮的工序，因光照条件、工人阅历不同以及心情、膂力等要素变化的影响，质量难于保证。 计算机皮革检测与分类系统可对成批皮革的颜色及纹理进展在线检测、特征值提取及快速分类，从而替代了传统的手工操作，获得了良好的效果。 系统硬件组成 CCD彩 色摄像机解码器PAL)图 像采集卡及帧 存储 器计算机486/66彩 色监视器打印机规范灯箱 皮革皮料传送带D65光源基于SOM神经网络的皮革聚类1. 颜色纹理特征提取颜色参数: CIE1996均匀颜色空间值 l*, a*, b*纹理参数: 梯度均值2, 梯度标差 2 , 及梯度墒T8。皮革外观由维输入矢量 I = l*, a*, b*, 2 ,2 ,T8

10、描画 2. SOM 神经网络的设计 网络构造: 6输入1维线阵输出。聚类时每批100张皮，平均每件皮衣需求56张皮，因此将输出层设置20个神经元。每个神经元代表一类外观效果类似的皮料，假设聚为一类的皮料不够做一件皮衣，可以和相邻类归并运用。 基于SOM神经网络的皮革聚类3.网络参数设计 N j* (t) 优胜邻域在训练开场时覆盖整个输出线阵，以后训练次数每添加t =tm/P，Nj*(t)邻域两端各收缩一个神经元直至邻域内只剩下获胜神经元。 对(t)采用了以下模拟退火函数：00.95 tm5000 tp1500 4.皮革纹理分类结果 基于SOM神经网络的皮革聚类SOM网用于物流中心城市分类评价

11、(1)物流中心城市评价目的与数据样本 简单项选择取5个评价目的作为网络输入：x1人均GDP(元)，x2工业总产值(亿元)，x3社会消费品零售总额(亿元)，x4零售零售贸易总额(亿元)，x5货运总量(万吨)。 44个物流中心城市分类评价样本 SOM网用于物流中心城市分类评价 (2)物流中心城市的分类和评价分析 物流中心城市 全国性物流中心城市区域性物流中心城市地域性物流中心城市综合型货运型SOM网用于物流中心城市分类评价 (2)物流中心城市的分类和评价分析 按照SOM算法步骤，取开场的1000次迭代为排序阶段，学习率=0.9； 其后为收敛阶段，学习率为= 0.02。 将44个数据样本归一化，输入网络进展训练。经过实验比较，最终取类别数为8，得到如下表所示的分类结果。 物流中心城市分类结果 上机实验阐明义务：用平面网格状样本训练