模糊聚类分析方法

1、第二节模糊聚类分析方法 在科学技术、经济管理中常常要按一定的标准 (相似程度或亲疏关系)进行 分类。例如，根据生物的某些性状可对生物分类， 根据土壤的性质可对土壤分类 等。对所研究的事物按一定标准进行分类的数学方法称为聚类分析， 它是多元统 计“物以类聚”的一种分类方法。由丁科学技术、经济管理中的分类界限往往不 分明，因此采用模糊聚类方法通常比较符合实际。 一、模糊聚类分析的一般步骤 1、第一步：数据标准化9 (1) 数据矩阵 设论域U =X1，X2，Xn为被分类对象，每个对象乂有m个指标表示其性状， 即 Xi = Xi1，Xi2， ，Xim (i = 1 , 2 , n , 丁是，得到原始数

2、据矩阵为 |&1 1 X 1 2 X m X X X X2 1 X 2 2 X m 2 o XM Xn2 Xnm 其中Xnm表示第n个分类对象的第m个指标的原始数据。 (2) 数据标准化 在实际问题中，不同的数据一般有不同的量纲，为了使不同的量纲也能进行 比较，通常需要对数据做适当的变换。 但是，即使这样，得到的数据也不一定在 区间0,1上。因此，这里说的数据标准化，就是要根据模糊矩阵的要求，将数据 压缩到区间0,1上。通常有以下几种变换： 平移标准差变换 1, 、2 -Z & XQ 。 n i A. 经过变换后，每个变量的均值为 0,标准差为1,且消除了量纲的影响。但 是，再

3、用得到的Xik还不一定在区间0,1上。 平移极差变换 Xk-m i nX i k ) 1 B m a XX(ik -项为“ 1兰垩 1 兰垩 显然有。壬Xi： 1 ,而且也消除了量纲的影响 对数变换 Xik lg Xk （i = 1 , 2 , n ,号 1,2m 取对数以缩小变量问的数量级。 2、第二步：标定（建立模糊相似矩阵） 设论域U =X.X2，Xn , Xi =X“，知,，Xm,依照传统聚类方法确定相似 系数，建立模糊相似矩阵，Xj与Xj的相似程度上=R（Xj,Xj）。确定上=R（Xj,Xj）的 方法主要借用传统聚类的相似系数法、距离法以及其他方法。具体用什么方法, 可根据问题的性质

4、，选取下列公式之一计算。 （1）相似系数法 夹角余弦法 最大最小法 m (Xik Xjk ) k q = m xi k - x k xik = Sk (i = 1 , 2 , n ,后 1,2m 其中 sk = IF Xik (k =1,2 ，m) ) m 、Xik 欧 P (Xik Xjk) 算术平均最小法2 二 Qik X jk ) 指数相似系数法 m 2 1 m 3 (Xk -Xjk) j =一 eXp -2 - , m k i 4 sk 1 / - 其中 Sk = (Xik -Xik) n i H 1 . 而 Xk = - X i k k =(1, 2, , m)。 n i 士 几何平

5、均最小法 ij w (Xik Xjk) k A r 2 .一 (Xi k X j k) k .1 Xik :Xjk 以上3种方法中要求 x x否则也要做适当变换。 数量积法 其中 r Xik Xjk , a X( Xi i -j k* jk。) 相关系数法 其中 Xi y x X Xj . 0 jk m m m (2)距离法 直接距离法 r j 顼c d（ x，Xj） 其中c为适当选取的参数，使得0菱孔1 , d(Xi，Xj)表示他们之间的距离。经常 用的距离有 海明距离 m d(X，X)=E Xir Xjk k =1 欧几里得距离 、r d( X , X 上寸 (XTT Xj k) 切比雪夫

6、距离 d( X , X 乒 w Xk Xpk k日 倒数距离法 1 , i = j , rij = M 。 - ,i # j, d(,Xj) 其中M为适当选取的参数，使得0上彳。 指数距离法 I； j = e X p- d Xi Xj o ) 3、第三步：聚类(求动态聚类图) (1)基于模糊等价矩阵聚类方法 传递闭包法 根据标定所得的模糊矩阵R还要将其改造称模糊等价矩阵 R。用二次方法 求R的传递闭包，即t(R) = R*。再让九由大变小，就可形成动态聚类图。 布尔矩阵法1010 布尔矩阵法的理论依据是下面的定理： 定理2.2.1设R是U =Xi,X2，x/上的一个相似的布尔矩阵，贝U R具有

7、传 递性(当R是等价布尔矩阵时) U 矩阵R在任一排列下的矩阵都 没有形如 /1 1、* 1、占 0、/0 1、 . . , 的特殊子矩阵。 .1 0 .0 1 .1 1 . 1 11 J J J J 布尔矩阵法的具体步骤如下： 求模糊相似矩阵的丸截矩阵R. 若R；按定理2.2.1判定为等价的，则由R；可得U在人水平上的分类， /u /u 若R；判定为不等价，则R；在某一排列下有上述形式的特殊子矩阵，此时只要将 其中特殊子矩阵的0 律改成1直到不再产生上述形式的子矩阵即可。 如此得到 的R；为等价矩阵。因此,由R*可得A水平上的分类 （2）直接聚类法 所谓直接聚类法，是指在建立模糊相似矩阵之后

8、，不去求传递闭包t（R），也 不用布尔矩阵法，而是直接从模糊相似矩阵出发求得聚类图。其步骤如下： 取兀=1 （最大值），对每个Xi作相似类xL ,且 XR =Xj Irj =1, 即将满足 =1的Xi与Xj放在一类，构成相似类。相似类与等价类的不同之处是， 不同的相似类可能有公共元素，即可出现 Xi R= X i ,x k,fXR =xj,xk ,x- xj = ._ . 此时只要将有公共元素的相似类合并，即可得 & =1水平上的等价分类。 取人2为次大值，从R中直接找出相似度为九2的元素对（Xi,Xj）（即 r, =K ）,将对应丁有=1的等价分类中Xi所在的类与Xj所在的类合并，将

9、所有的 这些情况合并后，即得到对应丁 2的等价分类。 取儿为第三大值，从R中直接找出相似度为 舄3的元素对（ ,Xj）（即 rij =亳），将对应丁 7吃的等价分类中为所在的类与xj所在的类合并，将所有的这 些情况合并后，即得到对应丁人的等价分类。 以此类推，直到合并到U成为一类为止 二、最佳阈值的确定 在模糊聚类分析中对丁各个不同的 九W0,1,可得到不同的分类，许多实际 问题需要选择某个阈值 舄，确定样本的一个具体分类，这就提出了如何确定阈值 兀的I可题。一般有以下两个方法： 按实际需要，在动态聚类图中，调整7的值以得到适当的分类，而不需 要事先准确地估计好样本应分成几类。 当然,也可由具

10、有丰富经验的专家结合专 业知识确定阈值从而得出在兀水平上的等价分类 用F统计量确定九最佳值。11 设论域U = Xi, X2,，Xn为样本空间(样本总数为n ),而每个样本Xi有m个 特征：Xi=Xii，Xi2,，Xim , (i =1,2，n) 。 丁是得到原始数据矩阵，如下表所示， 1 n 其中Xk =- Xik (k =1,2，m) , X称为总体样本的中心向重。 设对应丁九值的分类数为r ,第j类的样本数为七，第j类的样本记为: (j) (j). X , X2 , (j) 华来研取来 i+r ,【、斗旦 一(j) (j) (j). (j) (j)斗话 ,Xn，弟j矣日勺聚关中心为问里X

11、 =(X1 , X12 , Xm )，具中Xk为弟 k个特征的平均值，即 离。称为F统计量，它是遵从自由度为r -1 , n_r的F分布。它的分子表征类 与类之间的距离，分母表征类内样本间的距离。因此，F值越大，说明类与类之 间的距离越大；类与类问的差异越大，分类就越好。 基于模糊聚类分析的多属性 决策方法的实际应用 聚类分析是将事物根据一定的特征，并按某种特定要求或规律分类的方法。 由丁聚类分析的对象必定是尚未分类的群体， 而且现实的分类问题往往带有模糊 性，对带有模糊特征的事物进行聚类分析， 分类过程中不是仅仅考虑事物之间有 无关系，而是考虑事物之间关系的深浅程度， 显然用模糊数学的方法处

12、理更为自 然，因此称为模糊聚类分析。 第一节雨量站问题 、问题的提出 某地区设置有11个雨量站，其分布图见图1, 10年来各雨量站所测得的年 降雨量列入表1中。现因经费问题，希望撤销几个雨量站，问撤销那些雨量站, 而不会太多的减少降雨信息？作F统计量 其中 (j ) 1 nj j() Xk = Xik , (k =1,2,，m), nj i 4 r 、nj F r n j .二 |XiX(n r) j 4 i =1 |x(j)_x (r -1) X(j) m _ j( ) 一 2 v (Xk -Xk) k .1 为x(j)与X|勺距离, (j) -(j) Xi X 为第j类中第i个样本x(j)

13、与其中心X(j)间的距 表1各雨量站10年间测得的降雨量 年序号 X1 X2 X3 X4 X5 X6 X7 X8 X9 X 10 X11 1 276 324 159 413 292 258 311 303 175 243 320 2 251 287 349 344 310 454 285 451 402 307 470 3 192 433 290 563 479 502 221 220 320 411 232 4 246 232 243 281 267 310 273 315 285 327 352 5 291 311 502 388 330 410 352 267 603 290 292 6

14、 466 158 224 178 164 203 502 320 240 278 350 7 258 327 432 401 361 381 301 413 402 199 421 8 453 365 357 452 384 420 482 228 360 316 252 9 158 271 410 308 283 410 201 179 430 342 185 10 324 406 235 520 442 520 358 343 251 282 371 二、问题的分析 应该撤销那些雨量站，涉及雨量站的分布，地形，地貌，人员，设备等众多 因素。我们仅考虑尽可能地减少降雨信息问题。一个自然的想法

15、是就 10年来各 雨量站所获得的降雨信息之间的相似性，对全部雨量站进行分类，撤去“同类” （所获降雨信息十分相似）的雨量站中“多余”的站。 问题求解假设为使问题简化，特作如下假设 每个观测站具有同等规模及仪器设备； 每个观测站的经费开支均等； 具有相同的被裁可能性。 分析：对上述撤销观测站的问题用基丁模糊等价矩阵的模糊聚类方法进行分 析，原始数据如上。 三、问题的解决 求解步骤： 1、 数据的收集 原始数据如表1所示。 2、 建立模糊相似矩阵 利用相关系数法，构造模糊相似关系矩阵 3 出)1仅，其中 n _ _ .二 I (xik - Xi ) |(X jk - X j ) I k d rij

16、 = J n n 1 - , 一、2 - , 、2 - 3 D (Xik 一 Xi) (Xjk -Xj) k 土 k A. 其中 Xi = z Xik , i = 1 , 2, ,11。 10 k Xj -1 n =_ L X jk ， j = 1, 2，, n k皂 ,11。 取i =2, j =1 ,代入公式得 咯=0.839,由丁运算量巨大用 C语言编程计算出 其余数值，得模糊相似关系矩阵()iiXi ,具体程序如下 #include #include double r1111; double X11; void main() ( int i,j,k; double fenzi=0,fe

17、nmu1=0,fenmu2=0,fenmu=0; int year1011=(276,324,159,413, 292 ,258,311,303,175,243,320, 251 ,287,349,344,310,454,285,451,402,307,470, 192 ,433,290,563,479,502,221,220,320,411,232,得到模糊相似矩阵R 246 ,232,243,281,267,310,273,315,285,327,352, 291,311,502,388 ,330,410,352,267,603,290,292, 466 ,158,224,178,164,

18、203,502,320,240,278,350, 258,327,432 ,401,361,381,301,413,402,199,421, 453,365,357 ,452,384,420,482,228,360,316,252, 158 ,271,410,308,283,410,201,179,430,342,185, 324,406,235,520 ,442,520,358,343,251,282,371; for(i=0;i11;i+) ( for(k=0;k10;k+) ( xi=xi+yearki; xi=xi/10; for(i=0;i11;i+) (for(j=0;j11;j+

19、) ( for(k=0;k10;k+) ( fenzi=fenzi+fabs(yearki-xi)*(yearkj-xj); fenmu1=fenmu1+(yearki-xi)*(yearki-xi); fenmu2=fenmu2+(yearkj-xj)*(yearkj-xj); fenmu=sqrt(fenmu1)*sqrt(fenmu2); rij=fenzi/fenmu; fenmu=fenmu1=fenmu2=fenzi=0; for(i=0;i11;i+) ( for(j=0;j11;j+) printf(%6.3f,rij); printf(n); getchar(); 1.000

20、 0.839 0.528 0.844 0.828 0.702 0.995 0.671 0.431 0.573 0.712 0.839 1.000 0.542 0.996 0.989 0.899 0.855 0.510 0.475 0.617 0.572 0.528 0.542 1.000 0.562 0.585 0.697 0.571 0.551 0.962 0.642 0.568 0.844 0.996 0.562 1.000 0.992 0.908 0.861 0.542 0.499 0.639 0.607 0.828 0.989 0.585 0.992 1.000 0.922 0.843

21、 0.526 0.512 0.686 0.584 0.702 0.899 0.697 0.908 0.922 1.000 0.726 0.455 0.667 0.596 0.511 0.995 0.855 0.571 0.861 0.843 0.726 1.000 0.676 0.489 0.587 0.719 0.671 0.510 0.551 0.542 0.526 0.455 0.676 1.000 0.467 0.678 0.994 0.431 0.475 0.962 0.499 0.512 0.667 0.489 0.467 1.000 0.487 0.485 0.573 0.617

22、 0.642 0.639 0.686 0.596 0.587 0.678 0.487 1.000 0.688 0.712 0.572 0.568 0.607 0.584 0.511 0.719 0.994 0.485 0.688 1.000 对这个模糊相似矩阵用平方法作传递闭包运算，求R2- R4 : R4即 4 * t(R)=R =R o 3、聚类 注：R是对称矩阵， 故只写出它的下三角矩阵 - 1.000 - 0.861 1 0.697 0.697 1 0.861 0.996 0.697 1 0.861 0.996 0.697 0.992 1 * R = 0.861 0.995 0.697

23、 0.922 0.922 1 0.994 0.861 0.697 0.861 0.861 0.861 1 0.719 0.719 0.697 0.719 0.719 0.719 0.719 1 0.697 0.697 0.962 0.697 0.697 0.697 0.697 0.676 1 0.688 0.688 0.688 0.688 0.688 0.688 0.688 0.688 0.697 1 0.719 0.719 0.697 0.719 0.719 0.719 0.719 0.688 0.697 0.688 1 取岛=0.996, WJ X10 , X,。 九=0.719 时，可分

24、为 5 类 X2, X4 , X5 , X6, X1 , X7 , X3 , X9 , X8 , X11 , X10 。1 * R0.996 = 1 1 1 1 1 1 1 1 1 1 1 1 1 1 x2,X4,x5在置信水平为 0.996的阈值人下相似度为1,故X2,X4,为同届一类，所以 此时可以将观测站分为 9 类X2，X4 , X5, X1 , X3 , X6, X7, X8 , X9, X10 , X,。 降低置信水平岛，对不同的 L 作同样分析，得到: = 0.995 时, 可分为 8 类，即 X2,X4 , X5, X6, X1 , X3, X7 , X8 , X9 , X10

25、 , X110 X =0.994 时, 可分为 7 类 X2, X4 , X5 , X6, X1 , X7 , X3 , X8 , X9 , X10 , X11o 丸=0.962 时, 可分为 6类 X2,X4 , X5 , X6 , X1 , X7 , X3 , X9 , X8 , 第二节成绩评价问题 一、问题的提出 某高中高二有7个班级，学生成绩的好与差，没有明确的评定界限，并且班 级问成绩好坏的表现具有一定的模糊不确定性。 二、问题的分析 解决上述问题可运用模糊聚类分析方法。 现以7个班级某次其中考试的四门 主课成绩为依据，对7个班级成绩好坏的相关程度分类。 设7个班级组成一个分类集合：

26、x =（*,X2， * 分别代表1班到7班。每 个班级成绩均是四门基础课（语文、数学、英语、综合）作为四项统计指标，即有 Xij = Xii,Xi2,Xi3, Xi4这里Xij表示为第i个班级的第j门基础课指标 （i =1,2，,7; j =1,2，4）。这四项成绩指标为：语文平均成绩 Xn ,数学平均成 绩Xi2,英语平均成绩Xi3,综合平均成绩Xi4。各班级成绩指标值见表1。 表1 7个班4门基础课的成绩指标 =0.994 = 0.962 计算模糊相似矩阵R,根据标准化数值建立各班级之间四门基础课成绩指标 班 级 1班 2班 3班 4班 5班 6班 7班 62.03 6248 78.52

27、72J2 74.18 73.95 66.83 X泣 59.47 6370 72.38 73.28 67.07 68.32 76.04 X诂 68,17 61.04 75.17 77.68 67274 70,09 76.87 72.45 68.17 74,65 70.77 70.43 6873 73.18 三、问题的解决 1、数据标准化12 采用极差变换Xj X X ij m in - ， X X m ax m in (1) 式中Xij是第i i个班级第j门基础课平均成绩的原始数据, XmaX和Xmin分别为不同 班级的同一门基础课平均成绩的最大值和最小值。 X j为第i个班级第j门基础课 班级

28、 1班 2班 3班 4班 5班 6班 7班 % 0 0.0273 1 0.6119 0.7368 07229 0,2911 匕 0 0.2553 07791 0.8385 0.4587 0.5341 1 % 0.4285 0 0.8492 1 0.3966 0.5439 0.9513 0.6605 0 1 04012 0.3488 0.0864 07731 2、用最大最小法建立相似矩阵 ij 一 5 in 表2 平均成绩指标值的标准化数值 平均成绩指标的标准化数值。当Xj =Xmin时，X，=0，当Xij =XmaX时，X，=1。 的相似关系矩阵，采用最大最小法来计算七： m w (Xik X

29、jk ) k -1 rij = - w (Xik Xjk ) k =1 其中在0,1, (i =1,2，7 j =1,2,3,4)是表示第i个班级与第j个班级在四门基础 课成绩指标上的相似程度的量。取i =2, j =1 ,21 =0,其余运算量可以通过MATLAB 编程运算，程序如下：13 clc clear all meanp=0 0.0273 0 0.2553 1 0.6119 0.7368 0.7229 0.2911; 0.7791 0.8385 0.4587 0.5341 1; 0.4285 0 0.8492 1 0.3966 0.5439 0.9513; 0.6605 0 1 0.

30、4012 0.3488 0.0864 0.7731;% 平均成绩指标 值的标准化数值 Ca=0;0;0;0;%初始化比较的数据 Cb=0;0;0;0;%初始化比较的数据 mina=0;%初始化比较的数据 maxa=0;%初始化比较的数据 for i=1:7 for j=1:7 for m=1:4 Ca=meanp(m,i); Cb=meanp(m,j); mina(1,m)=min(Ca,Cb);%计算任意两横的最小值 maxa(1,m)=max(Ca,Cb);%计算任意两横的最大值 end R(i,j)=sum(mina)/sum(maxa);% 计算 ,即相似程度的量 end end R

31、%显示相似矩阵 - 1 0 0.21 0.33 0.30 0.27 0.36 0 1 0.15 0.14 0.08 0.10 0.09 0.21 0.15 1 0.77 0.52 0.60 0.42 得相似矩阵： R = 0.33 0.14 0.77 1 0.53 0.61 0.43 0.30 0.08 0.52 0.53 1 0.69 0.68 0.27 0.10 0.60 0.61 0.69 1 0.73 0.36 0.09 0.42 0.43 0.68 0.73 1 3、改造相似关系为等价关系进行聚类分析 矩阵R满足自反性和对称性，但不具有传递性，为求等价矩阵, 改造，只需求其传递闭包。

32、由平方法可得 最后可得到R =R4，R4 =R4。 故传递闭包为R?=R4,它就是模糊等价矩阵。用其可对 7个班级进行聚类分-1 0.15 0.36 0.36 0.36 0.36 0.36 0.15 1 0.15 0.15 0.15 0.15 0.15 0.36 0.15 1 0.77 0.60 0.61 0.60 0.36 0.15 0.77 1 0.61 0.61 0.61 0.36 0.15 0.60 0.61 1 0.69 0.69 0.36 0.15 0.61 0.61 0.69 1 0.73 0.36 0.15 0.60 0.61 0.69 0.73 1 2 R R =R 1 1 0.15 0.36 0.36 0.36 0.36 0.36 0.15 1 0.15 0.15 0.15 0.15 0.15 0.36 0.15 1 0.77 0.61 0.61 0.