SOM自组织映射学习汇报

九逸作品汇报人：我学到了什么我下一步要做什么自组织神经网络SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching自组织神经网络自组织神经网络是一类无教师学习方式的神经网络模型，它无需期望输出，知识根据数据样本进行学习，并调整自身权重以达到学习的目的。自组织神经网络的学习规则大都采用竞争型的学习规则。

竞争型神经网络的基本思想是网络竞争层的各神经元通过竞争来获取对输入模式的响应机会。竞争结果会存在获胜神经元，获胜神经元有关的各连接权值向着更有利于其竞争的方向发展。竞争层输入层Wj权值不同的输入归结到1个神经元上，几个输入就是一类，实现了分类。竞争学习：

网络的输出神经元之间相互竞争以求被激活，结果在每一时刻只有一个输出神经元被激活。这个被激活的神经元称为竞争获胜神经元，而其它神经元的状态被抑制，称为WTA（Winner-Take-All）。学习规则：1.向量归一化。首先将当前输入模式向量X和竞争层中各神经元对应的向量Wj全部进行归一化处理。2.寻找获胜神经元。当网络得到一个输入模式向量时，竞争层的所有神经元对应的权向量均与其进行相似性比较，并将最相似的内权向量判为竞争获胜神经元。3.网络输出与权值调整。4.重新向量归一化。用竞争学习算法将下列各模式分为2类：

输入向量为：学习率为a=0.5

向量归一化设置两个权向量竞争学习X1学习d1=||X1-W1(0)||=1∠36.89°,d2=||X1-W2(0)||=1∠216.89°d1<d2,所以神经元1获胜，W1调整W1(1)=W1(0)+a(X1-W1(0))=1∠18.43°W2(1)=W2(0)=1∠-180°X2学习d1=||X2-W1(1)||=1∠98.43°,d2=||X2-W2(1)||=1∠100°d1<d2,所以神经元1获胜，W1调整W1(2)=W1(1)+a(X2-W1(1))=1∠-30.8°W2(2)=W2(1)=1∠-180°d1=1∠104°d2=1∠100°我学到了什什么我下一步要要做什么自组织神经经网络SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearchingSOMSOM，Self-OrganizingFeatureMaps,自组织神经经网络，是一种种无导师学学习的网络络，主要用用来对于输输入向量进进行区域分类类。SOM的算法思想想：某个输出节节点能对某某一类模式式做出特别别的反应以以代表该模式类。。输出层上相相邻的节点点能对实际际模式分布布中相近的的模式类做出特别别的反应。。当某类数据据模式输入入时，对某某以输出节节点产生最最大刺激（获胜神神经元），，同时对获获胜神经元元节点周围围的一些节节点产生较大大的刺激。。SOM网络中中有两两种链链接权权值，，一种种是神神经元元对外外部输输入反反应的连连接权权值，，另外外一种种是神神经元元之间间的特特征权权值。。它的的大小控控制着着神经经元之之间交交互作作用的的强弱弱。SOM拓扑结结构图图SOM算法是是一种种无导导师的的聚类类法，，他能能将任任意维维输入入模在输出出层映映射成成一维维或者者二维维离散散图形形，并并保持持其拖拖布结结构不变，，即在在无导导师的的情况况下，，通过过对输输入模模式的的自组组织学学习，，在竞争争层将将分类类结果果表示示出来来。此此外，，网络络通过过对输输入模模式的反复复学习习，可可以使使连接接权值值空间间分布布密度度与输输入模模式的的概率分布布趋于于一致致，即即链接接权向向量空空间分分布能能反应应输入入模式式的统计特特征。。SOM算法是是一个个竞争争-合作的的过程程。1.竞争。。对于于输入入模式式，网网络中中的神神经元元计算算他们们各自自判别函函数的的值。。这个个判别别函数数对神神经元元之间间的竞竞争提提供基基础，，具有判判别函函数最最优值值（在在欧式式距离离中是是最小小值））的特特定神神经元成为为竞争争的胜胜利者者。2.合作。。获胜胜神经经元的的的相相邻神神经元元的是是合作作的基基础。。神经元元决定定兴奋奋神经经元的的拓扑扑邻域域的空空间位位置，，从而而提供供这样的相相邻神神经元元的合合作的的基础础。3.突出调调节。。最后后的这这个机机制使使神经经元通通过对对他们们突触触权值的的调节节以增增加他他们的的关于于该输输入模模式的的判别别的函函数值值。所做的的调节节使获获胜神神经元元对以以后相相似输输入模模式的的响应应增强强了。。SOM算法法步步骤骤Step.1网络络初初始始化化用随随机机数数设设定定输输入入层层和和映映射射层层之之间间权权值值的的初初始始值值：：Wij。设设定定学学习习次次数数T，相相关关邻邻域域Ni(d)。WijX1X2………XijStep.2输入入向向量量把输输入入向向量量输输入入给给输输入入层层：：Xi。SOM算法步骤骤Step.3计算映射射层的权权值向量量和输入入向量的的距离。。由欧式距离离给出：WijX1X2……XijSOM算法步骤Step.4选择与权值值向量的距距离最小的的神经元。。计算并选择择使输入向向量和权值值向量距离离最小的神神经元，把把其称为胜胜出神经元元，标记为为j*，并给出出邻接神经经元集合。。WijX1X2……XijSOM算法在修正正神经元的的时候，同同时要修正正获胜神经经元的附近区域域Ni(d)内所有的神神经元。Ni(d)={j,dij<=d}12543671098111215141316172019182122252423N13(1)={8，12，13，14，18}N13(2)={3，7，8，9，11，12，13，14，15，17，18，19，23}SOM算法步骤Step.5调整权值胜出神经元元和位于其其邻接的神神经元的权权值通过下下式调整。。Wij(t+1)=Wij(t)+a(t)h(j,j*)(Xi-Wij)其中，a(t)为学习率，，随着t的增大而减减小。h（j,j*）为邻域函函数，随着着学习程度度逐渐减小小。Step.6若t<=T，则停止学学习，否则则继续执行行Step.2。解释：可以以用两种方方式来解释释SOM算法。首先，因为为在训练阶阶段，整个个邻域的权权值向着相相同的方向向靠近，所所以类似的的项目趋向向于刺激邻邻近的神经经元。因此此，SOM形成了一个个使相同样样本靠近，，不同样本本分离的语语义映射。。这样，SOM便实现了分分类的过程程。其次，可以以考虑神经经元的权值值作为输入入空间的指指针，形成成了一个训训练样本分分布的离散散近似值。。更多的神神经元指向向了高度训训练的样本本集中的区区域。性质：输入入空间的近近似对于V空间中的向向量v，首先根据据特征映射射Φ确定在输出出空间A中最佳的匹匹配单元S，S的权重向量量Ws可视为S投影到输入入空间的坐坐标。通过过不断调整整权重矩阵阵，是输出出空间A近似的表示示输入空间间V。SOM实质上是从从任意维离离散或者连连续空间V到一维或者者二维离散散空间A的一种保序序映射。SOM功能分析1.保序映映射：：将输输入空空间的的样本本模式式类有有序地地映射射在输出出层上上。2.数据压压缩：：将高高维空空间的的样本本在保保持拓拓扑结结构不不变的的条件件下投投影到到低维维空间间。在在SOM中，无无论输输入空空间样样本有有多少少维，，都可可以在在SOFM输出层层的某某个区区域得得到响响应。。3.特征抽抽取：：高维维空间间的向向量经经过特特征抽抽取后后可以以在低低维特特征空空间更更加清清晰地地表达达。我学到到了什什么我下一一步要要做什什么自组织织神经经网络络SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearchingAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching论文是是对于于原来来的NeuralArchitectureforGazeMovementControlinTargetSearching的改进进。论文在在第三三层和和第四四层之之间增增加了了一个个新的的MovementCodingNeuron,以便更更好地地实现现gazemotionestimationandcontrol。原来结结构的的缺点点是，，第三三层所所有的的大反反应神神经元元向第第四层层中运运动控控制神神经元元传输输了权权值响响应，，从而而参与与了凝凝视运运动的的合成成。。然而而，这这些大大反应应神经经元可可能产产生不不同的的运动动估计计量的的分组组。谈谈及分分组链链接权权值时时，要要对这这些神神经元元的运运动估估计进进行分分辨及及分类类，有有必要要在第第四层层把这这些神神经元元对应应着运运动控控制神神经元元组织织起来来。我学到到了什什么我下一一步要要做什什么自组织织神经经网络络SOMAnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching1.对于AnImprovedNeuralArchitectureforGazeMovementControlinTargetSearching详细解解读。。2.对于Self-OrganizingNeuralPopulationCodingforImprovingRoboticVisuomotorCoordination的理解学学习。3.对于SOM算法的实实现。Thanksforyourattention!9、静夜四无邻邻，荒居旧业业贫。。1月-231月-23Wednesday,January4,202310、雨中中黄叶叶树，，灯下下白头头人。。。23:03:0723:03:0723:031/4/202311:03:07PM11、以我独沈沈久，愧君君相见频。。。1月-2323:03:0723:03Jan-2304-Jan-2312、故人江江海别，，几度隔隔山川。。。23:03:0723:03:0723:03Wednesday,January4,202313、乍见见翻疑疑梦，，相悲悲各问问年。。。1月-231月-2323:03:0723:03:07January4,202314、他他乡乡生生白白发发，，旧旧国国见见青青山山。。。。04一一月月202311:03:07下下午午23:03:071月月-2315、比不了了得就不不比，得得不到的的就不要要。。。。一月2311:03下下午1月-2323:03January4,202316、行动动出成成果，，工作作出财财富。。。2023/1/423:03:0723:03:0704January202317、做前，能能够环视四四周；做时时，你只能能或者最好好沿着以脚脚为起点的的射线向前前。。11:03:07下下午11:03下午23:03:071月-239、没没有有失失败败，，只只有有暂暂时时停停止止成成功功！！。。1月月-231月月-23Wednesday,January4,202310、很很多多事事情情努努力力了了未未必必有有结结果果，，但但是是不不努努力力却却什什么么改改变变也也没没有有。。。。23:03:0723:03:0723:031/4/202311:03:07PM11、成成功功就就是是日日复复一一日日那那一一点点点点小小小小努努力力的的积积累累。。。。1月月-2323:03:0723:03Jan-2304-Jan-2312、世世间间成成事事，，不不求求其其绝绝对对圆圆满满，，留留一一份份不不足足，，可可得得无无限限完完美美。。。。23:03:0723:03:0723:03Wednesday,January4,202313、不知香积积寺，数里里入云峰。。。1月-231月-2323:03:0723:03:07January4,202314、意志坚坚强的人人能把世世界放在在手中像像泥块一一样任意意揉捏。。04一一月202311:03:07下下午23:03:071月-2315、楚塞塞三湘湘接，，荆门门九派派通。。。。。一月2311:03下下午1月-2323:03January4,202316、少年年十五五二十十时，，步行行夺得得胡马马骑。。。2023/1/423:03:0723:03:0704January202317、空空山山新新雨雨后后，，天天气气晚晚来来秋秋。。。。11:03:07下下午午11:03下下午午23:03:071月月-239、杨柳散和风风，青山澹吾吾虑。。1月-231月-23Wednesday,January4,202310、阅读一切切好书如同同和过去最最杰出的人人谈话。23:03:0723:03:0723:031/4/202311:03:07PM1