自组织神经网络

第十章自组织神经网络常见的自组织网络自组织竞争网络〔Kohonen网络〕自组织特征映射网络〔SOFM网络〕学习矢量量化神经网络〔LVQ网络〕学习方法分类有师学习〔分类〕知输入知期望输出〔每个输入分别属于哪一类〕在特征空间中，各个类的核位置知无师学习〔聚类〕知输入期望输出未知〔但能够知分为几类〕在特征空间中，各个类的核位置待确定自组织竞争网络神经元功能分析权值W：R维向量〔与输入向量维数一样〕处置函数：求权值向量W与输入向量I之间的间隔的负值-d输出：阈值b与-d的和n=b-dist(p,w)自组织竞争神经网络的构造自组织竞争神经网络构造分析输入：R维列向量，表示待分类的特征空间是R维的。〔每个样本有R个分量〕输入层：有S个神经元，分别经过学习确定S个类的中心〔在特征空间的〕位置竞争层〔输出层〕：输出一个S维列向量，假设输入的第i个分量最大，那么输出向量中的第i个分量为1，其它分量为0根本竞争型神经网络构造自组织竞争神经网络的学习过程根据一个输入向量与初始形状下各个中心的间隔判别它属于哪个类根据确定分类的输入向量对相应的中心位置进展修订对一切训练样本都进展上述处置反复将训练样本进展多次处置，直到不再发生分类改动为止，学习过程完成修正神经元权值的规那么内星学习规那么外星学习规那么Kohonen学习规那么阈值学习规那么内星学习规那么instar学习规那么:Δwij=lr·(pj–wij)·ai例一：内星学习规那么函数learnis()外星学习规那么Outstar学习规那么：Δwij=lr·(aj–wij)·pj例二：外星学习规那么函数learnos()Kohonen学习规那么对instar规那么的改良将ai取值为1Kohonen学习规那么：Δwij=lr·(pj–wij)例三：科荷伦学习规那么函数learnk()阈值学习规那么阈值的作用：调整的是某个神经元呼应的半径为什么除了调整权值以外还要调整阈值：某些神经元的初始位置离样本区域太远先将这些“死〞神经元的呼应半径增大当有样本可以吸引到该神经元后再减少半径阈值学习函数learncon()自组织竞争神经网络的创建创建自组织竞争神经网络的函数NET=NEWC(PR,S,KLR,CLR)PR：Rx2维矩阵，确定输入范围S：神经元个数〔分类个数〕KLR：Kohonen学习规那么的学习率，默以为0.01CLR：阈值学习率，默以为0.001例四：自组织竞争神经网络的创建〔留意初始形状〕例五：自组织竞争神经网络的设计设置初始训练向量创建初始态的自组织竞争神经网络设置训练参数训练察看训练后网络的形状检验网络功能例六：自组织竞争神经网络用于方式识别经过语句生成待分类点集，8组，每组10个创建一个有8个神经元的网络察看训练前网络的形状对网络进展训练察看网络训练后的形状用新的输入向量进展测试自组织特征映射神经网络Self-OrganizingFeatureMaps，简称SOFM设计来源：模拟大脑的“不同感知途径〞〔拓扑构造〕引入神经元所处位置的空间信息每个神经元遭到的鼓励除了外部输入信息之外还有来自周围神经元的反响信号特点：神经元只需权值，没有阈值神经元之间有相互联络自组织学习SOFM模型〔二维〕输入信号：n维输出：2维SOFM网络学习方法Kohonen学习规那么起作用范围是竞争胜出神经元及其周围邻域中的一切神经元，但是修正率不同邻域间隔中心神经元间隔小于指定半径d的一切神经元的集合拓扑构造矩形拓扑构造：gridtop()〔例一〕六〔三？〕角型拓扑构造：hextop()〔例二〕随机拓扑构造：randtop()〔例三〕留意：指的是神经元组织拓扑构造，而不是特征向量空间的拓扑构造几种间隔定义SOFM构造SOFM的构建函数NET=NEWSOM(PR,[D1,D2,...],TFCN,DFCN,OLR,OSTEPS,TLR,TNS)PR -Rx2矩阵确定输入范围Di -第i层神经元个数,缺省为5×8TFCN -拓扑函数，缺省为'hextop'.DFCN -间隔函数，缺省为'linkdist'.OLR -排序阶段学习率，缺省为0.9.OSTEPS -排序阶段最大学习步骤，缺省为1000.TLR -调整阶段学习率，缺省为0.02;TND -调整阶段最大学习步骤，缺省为1例八：SOFM网络的构建和训练构建网络设置训练样本〔待聚类样本〕察看训练前网络的形状根据样本进展训练排序阶段〔粗调〕调整阶段〔细调〕察看训练后网络的形状例九：一维SOFM网络设计输入为二维向量，神经元分布为一维将二维空间的特征映射到一维拓扑构造步骤设置输入向量构建网络根据输入向量进展训练显示训练结果并进展测试例十：二维SOFM网络设计输入为二维向量，神经元分布为二维将二维空间的特征映射到二维拓扑构造步骤设置输入向量构建网络根据输入向量进展训练显示训练结果并进展测试学习矢量量化神经网络LearningVectorQuantizationNetwork

简称LVQ两层网络：竞争层：同自组织竞争网络线性层：对竞争结果进展量化组合可以进展子类合并LVQ的网络构造LVQ的学习规那么LVQ的网络构建函数NET=NEWLVQ(PR,S1,PC,LR,LF)PR-Rx2矩阵确定输入范围S1–竞争层神经元个数PC–大样本情况下各种分类所占比例LR–学习率缺省为0.01.LF–学习函数，缺省为'learnlv1'例：LVQ网络的设计设定输入样本和期望输出构建并设置网络参数根据训练样本对网络进展训练用训练样本测试网络用新样本测试网络讨论比例的影响小结何谓自组织：没有答案的