自组织网络讲义学习教案

1、会计学1第一页，共70页。 竞争层竞争层输入输入层层第1页/共70页第二页，共70页。自组织自组织(zzh)学习学习(self-organized learning) ： 通过自动寻找样本中的内在规律和本质属通过自动寻找样本中的内在规律和本质属性，自组织性，自组织(zzh)、自适应地改变网络参数、自适应地改变网络参数与结构。与结构。 自组织自组织(zzh)网络的自组织网络的自组织(zzh)功能是功能是通过竞争学习（通过竞争学习（competitive learning）实现的）实现的。 第2页/共70页第三页，共70页。第3页/共70页第四页，共70页。)()(iTiiXXXXXX 类 1 类

2、 2 类 1 类 2 T T (a)基于欧式距离的相似性测量 (b)基于余弦法的相似性测量4.1.1 基本概基本概念念第4页/共70页第五页，共70页。 相似性测量相似性测量(cling)(cling)余弦法余弦法4.1.1 基本概念基本概念iiTXXXXcos类 1 类 2 类 1 类 2 T T (a)基于欧式距离的相似性测量 (b)基于余弦法的相似性测量第5页/共70页第六页，共70页。4.1.2 4.1.2 竞争竞争(jngzhng)(jngzhng)学习原理学习原理竞争学习竞争学习(xux)规则规则Winner-Take-All 网络的输出神经元之间相互竞争以求被网络的输出神经元之间

3、相互竞争以求被激活，结果在每一时刻只有一个输出神经元激活，结果在每一时刻只有一个输出神经元被激活。这个被激活的神经元称为竞争获胜被激活。这个被激活的神经元称为竞争获胜(hu shn)神经元，而其它神经元的状态被神经元，而其它神经元的状态被抑制，故称为抑制，故称为Winner Take All。第6页/共70页第七页，共70页。竞争竞争(jngzhng)学习规则学习规则Winner-Take-All1.1.向量归一化向量归一化 首先将当前输入模式向量首先将当前输入模式向量X X和竞争和竞争(jngzhng)(jngzhng)层中各神经元对应的内层中各神经元对应的内星向量星向量Wj Wj 全部进行

4、归一化处理；全部进行归一化处理； (j=1,2,m)(j=1,2,m)Tnjjnnjjxxxx12121.XXX第7页/共70页第八页，共70页。向量向量(xingling)归一化之前归一化之前 * * * * * * * * 第8页/共70页第九页，共70页。向量向量(xingling)归一化之后归一化之后 * * * * * * * * * * 第9页/共70页第十页，共70页。竞争学习竞争学习(xux)(xux)原理原理竞争学习竞争学习(xux)规则规则Winner-Take-All2.2.寻找获胜神经元寻找获胜神经元 当网络得到一个输入模式向量时当网络得到一个输入模式向量时，竞争，竞争

5、(jngzhng)(jngzhng)层的所有神经元对应的内星权向层的所有神经元对应的内星权向量均与其进行相似性比较，并将最相似的内星权向量量均与其进行相似性比较，并将最相似的内星权向量判为竞争判为竞争(jngzhng)(jngzhng)获胜神经元。获胜神经元。欲使两单位向量最相似，须使其点积最大。即：欲使两单位向量最相似，须使其点积最大。即：)(max,.,2, 1*XWXWTjmjTj第10页/共70页第十一页，共70页。 从上式可以看出，欲使两单位向量的欧式距从上式可以看出，欲使两单位向量的欧式距离离(jl)(jl)最小，须使两向量的点积最大。即：最小，须使两向量的点积最大。即：)(max

6、,.,2, 1*XWXWTjmjTjjmjjWXWXmin,.,2,1*)()(*jTjjWXWXWXTjTjTjT*2WWXWXX)1(2*XWTj竞争学习竞争学习(xux)规则规则Winner-Take-All第11页/共70页第十二页，共70页。竞争学习竞争学习(xux)规则规则胜者为王胜者为王(Winner-Take-All)3.3.网络输出网络输出(shch)(shch)与权值与权值调整调整*01) 1(jjjjtoj)( )()()() 1(*jjjjjttttWXWWWW)()1(ttjjWW j j j j* * 步骤步骤3 3完成后回到步骤完成后回到步骤1 1继续训练继续训练

7、(xnlin)(xnlin)，直到学习，直到学习率衰减到率衰减到0 0。第12页/共70页第十三页，共70页。 * * * * * * * * 竞争学习竞争学习(xux)的几何意义的几何意义第13页/共70页第十四页，共70页。竞争学习竞争学习(xux)的几何意义的几何意义 * 1W *jW * )()()()(*ttttjpWXWh * )(*1tjW )(tpX jW mW * *第14页/共70页第十五页，共70页。竞争学习竞争学习(xux)游戏游戏将一维样本将一维样本(yngbn)空间的空间的12个样个样本本(yngbn)分为分为3类类第15页/共70页第十六页，共70页。竞争学习竞争

8、学习(xux)游游戏戏w1w2w3x训练样本集训练样本集o1o1o1第16页/共70页第十七页，共70页。例例4.1 4.1 用竞争学习用竞争学习(xux)(xux)算法将下列各模式分算法将下列各模式分为为2 2类：类：6 . 08 . 01X9848. 01736. 02X707. 0707. 03X9397. 0342. 04X8 . 06 . 05X解：为作图方便解：为作图方便(fngbin)(fngbin)，将上述模式转换成极坐标形，将上述模式转换成极坐标形式式 ：89.3611X8012X5 .4413X7014X13.5315X竞争竞争(jngzhng)(jngzhng)层设两个权

9、向量，随机初始化为单位向量：层设两个权向量，随机初始化为单位向量：0101)0(1W180101)0(2W第17页/共70页第十八页，共70页。 x5 x3 x1 w2 w1 x2 x4 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2

10、1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3

11、0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第18页/共70页第十九页，共70页。 x5 x3 x1 w2 x2 x4 w1 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2

12、 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 -

13、 - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第

14、19页/共70页第二十页，共70页。 x5 x3 x1 w2 x2 x4 w1 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0

15、0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 -

16、- 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第20页/共70页第二十一页，共70页。 x5 x3 x1 w2 x2 x4 w1 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1

17、1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1

18、1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第21页/共70页第二十二页，共70页。 x5 x3 x1 w2 x2 x4 w1 训训 练练 次次 数数

19、W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 .

20、. 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8

21、8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第22页/共70页第二十三页，共70页。 x5 x3 x1 w2 x2 x4 w1 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8

22、8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3

23、3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第23页/共70页第二十四页，共70页。 x5 x3 x1 w2 x2 x4 w1 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1

24、1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5

25、5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7

26、7 5 5 - - 7 7 5 5 第24页/共70页第二十五页，共70页。 x5 x3 x1 x2 x4 w1 w2 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3

27、3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0

28、0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第25页/共70页第二十六页，共70页。 x5 x3 x1 x2 x4 w1 w2 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6

29、6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 -

30、- 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第26页/共70页第二十七页，共70页。 x5 x3 x1 x2 x

31、4 w1 w2 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3 3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3

32、3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1

33、1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第27页/共70页第二十八页，共70页。 x5 x3 x1 x2 x4 w1 w2 训训 练练 次次 数数 W W1 1 W W2 2 1 1 2 2 3 3 4 4 5 5 6 6 7 7 8 8 9 9 1 1 0 0 1 1 1 1 1 1 2 2 1 1 3 3 1 1 4 4 1 1 5 5 1 1 6 6 1 1 7 7 1 1 8 8 1 1 9 9 2 2 0 0 1 1 8 8 . . 4 4 3

34、3 - - 3 3 0 0 . . 8 8 7 7 - - 3 3 2 2 1 1 1 1 2 2 4 4 2 2 4 4 3 3 4 4 3 3 4 4 4 4 4 4 4 4 0 0 . . 5 5 4 4 0 0 . . 5 5 4 4 3 3 4 4 3 3 4 4 7 7 . . 5 5 4 4 2 2 4 4 2 2 4 4 3 3 . . 5 5 4 4 3 3 . . 5 5 4 4 8 8 . . 5 5 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1 1 8 8 0 0 - - 1

35、1 8 8 0 0 - - 1 1 3 3 0 0 - - 1 1 3 3 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 1 1 0 0 0 0 - - 9 9 0 0 - - 9 9 0 0 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 1 1 - - 8 8 0 0 . . 5 5 - - 8 8 0 0 . . 5 5 - - 7 7 5 5 - - 7 7 5 5 第28页/共70页第二十九页，共70页。第29页/共70页第三十页，共70页。第30页/共70页第三十一页，共70页。 (a)一维线阵 (b)二维平面线阵第31页/共70页

36、第三十二页，共70页。整(tiozhng)权向量。这种调整(tiozhng)可用三种函数表示：第32页/共70页第三十三页，共70页。第33页/共70页第三十四页，共70页。第34页/共70页第三十五页，共70页。 * W4 W1* W2 * W3* *W5 * * W1 W2 * W3*W5 * W4 w1 w2 w3 w4 w5第35页/共70页第三十六页，共70页。 * * W1 W2 * W3*W5 * W4 * * W1 W2 * W3*W5 * W4第36页/共70页第三十七页，共70页。(1)(1)初始化初始化 对输出层各权向量赋小随机数并进行归一化对输出层各权向量赋小随机数并进

37、行归一化处理，得到处理，得到 ，j=1,2,m；建立初始优胜邻域建立初始优胜邻域Nj*(0)；学习率学习率h h 赋初始值。赋初始值。jW(2)接受输入接受输入 从训练集中随机选取一个输入模式并进从训练集中随机选取一个输入模式并进行归一化处理，得到行归一化处理，得到 ，p 1,2,P。pX(3)寻找获胜节点寻找获胜节点 计算计算 与与 的点积，的点积，j=1,2,m，从中选出点积最大的获胜节点从中选出点积最大的获胜节点j*。pXjW(4)定义优胜邻域定义优胜邻域(ln y)Nj* (t) 以以j*为中心确定为中心确定t 时刻的权时刻的权值调整域，一般初始邻域值调整域，一般初始邻域(ln y)N

38、j* (0)较大，训练过程较大，训练过程中中Nj* (t)随训练时间逐渐收缩。随训练时间逐渐收缩。Kohonen 学习学习(xux)算法算法第37页/共70页第三十八页，共70页。 Nj*(0) Nj*(0) Nj*(1) Nj*(1) Nj*(2) Nj*(2)第38页/共70页第三十九页，共70页。)(),()()1(twxNttwtwijpiijijh),( NthhhNt,KohonenKohonen学习学习(xux)(xux)算法算法第39页/共70页第四十页，共70页。NetNt)(),(hhh(t) h(t) h(t)h(0) h(0) h(0) 0 t 0 t 0 t(6)(6

39、)结束检查结束检查 学习率是否衰减到零或某个学习率是否衰减到零或某个(mu )(mu )预定预定的正小数？的正小数？KohonenKohonen学习学习(xux)(xux)算法算法第40页/共70页第四十一页，共70页。初始化、归一化权向量 W：jW，j=1,2,m；建立初始优胜邻域 Nj*(0)学习率h(t)赋初始值输入归一化样本pX，p1,2,P计算点积pTjXW，j=1,2,m选出点积最大的获胜节点 j*定义优胜邻域 Nj*(t)对优胜邻域 Nj*(t)内节点调整权值：)()()()(twxN, ttw1twijpiijijhi=1,2,n jNj*(t) N )(thminh Y结束K

40、ohonenKohonen学习学习(xux)(xux)算法程序流算法程序流程程第41页/共70页第四十二页，共70页。 动物 属性 鸽子 母鸡 鸭 鹅 猫头鹰 隼 鹰 狐狸 狗 狼 猫 虎 狮 马 斑马 牛 小 中 大 2只腿 4只腿 毛 蹄 鬃毛 羽毛 猎 跑 飞 泳 1 0 0 1 0 0 0 0 1 0 0 1 0 1 0 0 1 0 0 0 0 1 0 0 0 0 1 0 0 1 0 0 0 0 1 0 0 0 1 1 0 0 1 0 0 0 0 1 0 0 1 1 1 0 0 1 0 0 0 0 1 1 0 1 0 1 0 0 1 0 0 0 0 1 1 0 1 0 0 1 0 1

41、0 0 0 0 1 1 0 1 0 0 1 0 0 1 1 0 0 0 1 0 0 0 0 1 0 0 1 1 0 0 0 0 1 0 0 0 1 0 0 1 1 0 0 0 1 1 0 0 1 0 0 0 1 1 0 0 0 1 0 0 0 0 0 1 0 1 1 0 0 0 1 1 0 0 0 0 1 0 1 1 0 0 0 1 1 0 0 0 0 1 0 1 1 1 1 0 0 1 0 0 0 0 1 0 1 1 1 1 0 0 1 0 0 0 0 1 0 1 1 1 0 0 0 0 0 0 第42页/共70页第四十三页，共70页。 鸭 马 牛 斑马 虎 鹅 狼 猫 隼 头 狮 鸽 鹰

42、狗 鹰 母鸡 狐 猫第43页/共70页第四十四页，共70页。A BC D E FG H I GK L M NO P Q RS T U VW X Y Z1 2 3 45 6x01 2 3 4 5 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3x10 0 0 0 0 1 2 3 4 5 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3 3x20 0 0 0 0 0 0 0 0 0 1 2 3 4 5 6 7 8 3 3 3 3 6 6 6 6 6 6 6 6 6 6x30 0 0 0 0 0 0 0 0

43、0 0 0 0 0 0 0 0 0 1 2 3 4 1 2 3 4 2 2 2 2 2 2x40 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 0 1 2 3 4 5 6功能分析功能分析第44页/共70页第四十五页，共70页。 A B C D E F G H K L M N O P Q R I S W J T X 1 2 3 4 5 6 U Y V Z B C D E Q R Y Z A P X F N O W 1 G M 2 H K L T U 3 I 4 J S V 5 6第45页/共70页第四十六页，共70页。 要生产出优质皮衣，必须保证

44、每件皮衣所用皮料在要生产出优质皮衣，必须保证每件皮衣所用皮料在颜色和纹理方面颜色和纹理方面(fngmin)的相似性。在生产中，通的相似性。在生产中，通常由有经验的工人根据皮料颜色、纹理的相近程度进行常由有经验的工人根据皮料颜色、纹理的相近程度进行分类。这道称为分类。这道称为“配皮配皮”的工序，因光照条件、工人经验的工序，因光照条件、工人经验不同以及情绪、体力等因素变化的影响，质量难于保证不同以及情绪、体力等因素变化的影响，质量难于保证。 计算机皮革检测与分类系统可对成批皮革的颜色及计算机皮革检测与分类系统可对成批皮革的颜色及纹理进行在线检测、特征值提取及快速分类，从而代替纹理进行在线检测、特征

45、值提取及快速分类，从而代替了传统的手工操作，取得了良好的效果。了传统的手工操作，取得了良好的效果。 第46页/共70页第四十七页，共70页。系统系统(xtng)(xtng)硬件组成硬件组成 CCD彩彩 色色摄像机摄像机解码器（解码器（PAL)图图 像像采集卡采集卡及及帧帧 存存储储 器器计算机计算机486/66彩彩 色色监视器监视器打印机打印机标准灯箱标准灯箱 皮革皮革皮料传送带皮料传送带D65光源光源第47页/共70页第四十八页，共70页。1. 颜色纹理特征提取颜色纹理特征提取颜色参数颜色参数: CIE1996均匀颜色空间值均匀颜色空间值 l*, a*, b*纹理参数纹理参数: 梯度均值梯度

46、均值2, 梯度标差梯度标差 2 , 及梯度墒及梯度墒T8。皮革外观由维输入皮革外观由维输入(shr)矢量矢量 I = l*, a*, b*, 2 ,2 ,T8描述描述 第48页/共70页第四十九页，共70页。2. SOM 神经网络的设计神经网络的设计 网络结构网络结构: 6输入输入1维线阵输出。维线阵输出。聚类时每批聚类时每批100张皮，平均每件皮衣需要张皮，平均每件皮衣需要56张张皮，因此将输出层设置皮，因此将输出层设置(shzh)20个神经元。每个神经元。每个神经元代表一类外观效果相似的皮料，如果聚个神经元代表一类外观效果相似的皮料，如果聚为一类的皮料不够做一件皮衣，可以和相邻类归为一类的

47、皮料不够做一件皮衣，可以和相邻类归并使用。并使用。 第49页/共70页第五十页，共70页。 )(th t tp tm 3.网络参数设计网络参数设计 N j* (t) 优胜邻域在训练开始时覆盖整个输优胜邻域在训练开始时覆盖整个输出线阵，以后训练次数每增加出线阵，以后训练次数每增加t =tm/P，Nj*(t)邻域两端邻域两端(lin dun)各收缩一个神经元直至各收缩一个神经元直至邻域内只剩下获胜神经元。邻域内只剩下获胜神经元。 对对(t)采用了以下模拟退火函数：采用了以下模拟退火函数：00.95 tm5000 tp1500 第50页/共70页第五十一页，共70页。4.皮革皮革(pg)纹理分类结果

48、纹理分类结果 频频 度度 节节 点点 第51页/共70页第五十二页，共70页。(1)物流中心城市评价指标物流中心城市评价指标(zhbio)与数据样本与数据样本 简单选取简单选取5个评价指标作为网络输入：个评价指标作为网络输入：x1人均人均GDP(元元)，x2工业总产值工业总产值(亿元亿元)，x3社会消费品零售社会消费品零售(ln shu)总额总额(亿元亿元)，x4批发零售批发零售(ln shu)贸易总额贸易总额(亿元亿元)，x5货运总量货运总量(万吨万吨)。 第52页/共70页第五十三页，共70页。城城市市 X1 X2 X3 X4 X5 城城市市 X1 X2 X3 X4 X5 北北京京 275

49、27 2738.30 1494.83 3055.63 30500 青青岛岛 29682 1212.02 182.80 598. 06 29068 天天津津 22073 2663.56 782.33 1465.65 28151 烟烟台台 21017 298.73 92.71 227.39 8178 石石家家庄庄 25584 467.42 156.02 763.46 12415 郑郑州州 17330 261.80 215.63 402.98 7373 唐唐山山 19387 338.67 95.73 199.69 14522 武武汉汉 17882 1020.84 685.82 1452 16244

50、太太原原 13919 304.13 141.94 155.22 15170 长长沙沙 26327 241.76 269.93 369.83 7550 呼呼和和浩浩特特 13738 82.23 69.27 108.12 2415 衡衡阳阳 12386 61.53 63.95 72.65 3004 沈沈阳阳 21736 729.04 590.26 1752.4 15156 广广州州 42828 2446.97 1166.10 3214.19 24500 大大连连 34659 1003.56 431.83 728.08 19736 深深圳圳 152099 3079.63 609.26 801.06

51、5167 长长春春 24799 900.26 309.75 173.99 10346 汕汕头头 19414 192.93 112.96 280.84 1443 哈哈尔尔滨滨 20737 402.73 360.38 762.94 8814 湛湛江江 15290 228.45 99.08 149.16 5524 上上海海 40788 6935.57 1531.89 3921.2 49499 南南宁宁 17715 109.39 142.08 264.32 3371 南南京京 26697 1579.21 401.20 1253.73 14120 柳柳州州 17598 256.76 68.93 159.

52、44 3397 徐徐州州 19727 295.73 108.17 187.39 7124 海海口口 24782 100.13 81.03 142.54 2018 连连云云港港 17869 112.18 47.94 134.89 4096 成成都都 22956 412.23 400.56 754.07 23724 杭杭州州 31784 1615.63 373.28 1788.29 15841 重重庆庆 9778 870.82 389.60 823.72 29470 宁宁波波 46471 751.58 167.70 529.68 11182 贵贵阳阳 13176 207.95 108.93 285

53、.27 4885 温温州州 29781 381.93 233.44 272.84 6292 昆昆明明 24554 303.78 227.44 428.64 12084 合合肥肥 19770 330.14 140.14 328.98 2903 西西安安 16002 449.14 323.37 558.27 7728 福福州州 33570 379.51 209.72 613.24 7280 兰兰州州 16629 354.30 163.97 374.9 5401 厦厦门门 42039 803.29 186.55 620.47 2547 西西宁宁 7261 38.00 48.95 91.14 1837 南南昌昌 19923 238.82 14.09 348.21 3246 银银川川 12779 77.74 41.22 53.16 1573 济济南南 25642 616.97 323.08 462.39 13057 乌乌鲁鲁木木齐齐 19793 251.19 129.05 277.8 9283 44个物流中心城市分类评价个物流中心城市分类评价(pngji)样本样本 第53页/共70页第五十四页，共