模糊均值聚类演示文稿

主讲：周润景教授单位：电子信息工程学院模糊C均值聚类当前第1页\共有20页\编于星期四\2点目录

模糊C均值聚类应用背景模糊C均值算法模糊C均值聚类的MATLAB实现模糊C均值聚类结果分析

当前第2页\共有20页\编于星期四\2点一.模糊C均值聚类应用背景传统的聚类分析是一种硬划分（CrispPartition），它把每个待辨识的对象严格地划分到某类中，具有“非此即彼”的性质，因此这种类别划分的界限是分明的。然而实际上大多数对象并没有严格的属性，它们在性质和类属方面存在着中介性，具有“亦此亦彼”的性质，因此适合进行软划分。Zadeh提出的模糊集理论为这种软划分提供了有力的分析工具，人们开始用模糊方法来处理聚类问题，并称之为模糊聚类分析。模糊聚类得到了样本属于各个类别的不确定性程度，表达了样本类属的中介性，建立起了样本对于类别的不确定性的描述，能更客观地反映现实世界，从而成为聚类分析研究的主流。在基于目标函数的聚类算法中模糊C均值（FCM，FuzzyC—Means）类型算法的理论最为完善，应用最为广泛。当前第3页\共有20页\编于星期四\2点二.模糊C均值算法

1.模糊C均值聚类的准则设是n个样本组成的样本集合，c为预定的类别数目，是第i个样本对于第j类的隶属度函数。用隶属度函数定义的聚类损失函数可以写为其中，b>1，是一个可以控制聚类结果的模糊程度的常数。在不同的隶属度定义方法下最小化聚类损失函数，就得到不同的模糊聚类方法。其中最有代表性的是模糊C均值方法，它要求一个样本对于各个聚类的隶属度之和为1，即：

当前第4页\共有20页\编于星期四\2点二.模糊C均值算法

2.模糊C均值算法步骤（1）设定聚类数目c和加权指数b：J.C.Bezdek根据经验，认为b取2最合适。Cheung和Chen从汉字识别的应用背景得出b的最佳取值应在1.25～1.75之间。Bezdek和Hathaway等人从算法收敛性角度着手，得出b的取值与样本数目n有关的结论，建议b的取值要大于n/(n2)。Pal等人从聚类有效性方面的实验研究得到b的最佳选取区间为[1.5,2.5]，在不做特殊要求下可取区间中值b=2。当前第5页\共有20页\编于星期四\2点二.模糊C均值算法

（2）初始化各个聚类中心：式中，Ni是第i聚类中的样本数目。（3）重复下面的运算，直到各个样本的隶属度值稳定：用当前的聚类中心根据下式计算隶属度函数：当前第6页\共有20页\编于星期四\2点二.模糊C均值算法

用当前的隶属度函数按下式更新计算各类聚类中心：当模糊C均值算法收敛时，就得到了各类的聚类中心和各个样本对于各类的隶属度值，从而完成了模糊聚类划分。如果需要，还可以将模糊聚类结果进行解模糊，即用一定的规则把模糊聚类划分转化为确定性分类。当前第7页\共有20页\编于星期四\2点三.模糊C均值聚类的MATLAB实现

1.重要程序代码这里对酒瓶颜色进行分类。下面介绍其重要程序代码：1）MATLAB模糊C均值数据聚类识别函数在MATLAB中（b=2），只要直接调用如下程序即可实现模糊C均值聚类：[Center,U,obj_fcn]=fcm(data,cluster_n)data：要聚类的数据集合，每一行为一个样本；cluster_n：聚类数；Center：最终的聚类中心矩阵，每一行为聚类中心的坐标值；U：最终的模糊分区矩阵；obj_fcn：在迭代过程中的目标函数值。当前第8页\共有20页\编于星期四\2点三.模糊C均值聚类的MATLAB实现

注意：在使用上述方法时，要根据中心坐标Center的特点分清楚每一类中心所代表的实际中的哪一类，然后才能准确地将待聚类的各方案准确地分为各自所属的类别；否则，就会出现张冠李戴的现象。2）MATLAB图形显示聚类模式使用命令[center,U,obj_fcn]=fcm(data,4)进行聚类后，可调用MATLAB图形窗口显示聚类结果，命令格式如下：maxU=max(U);%最大隶属度index1=find(U(1,:)==maxU)%找到属于第一类的点index2=find(U(2,:)==maxU)%找到属于第二类的点index3=find(U(3,:)==maxU)%找到属于第三类的点index4=find(U(4,:)==maxU)%找到属于第四类的点当前第9页\共有20页\编于星期四\2点三.模糊C均值聚类的MATLAB实现

为了提高图形的区分度，添加如下命令：line(data(index1,1),data(index1,2),data(index1,3),'linestyle','none','marker','*','color','g');line(data(index2,1),data(index2,2),data(index2,3),'linestyle','none','marker','*','color','r');line(data(index3,1),data(index3,2),data(index3,3),'linestyle','none','marker','+','color','b');line(data(index4,1),data(index4,2),data(index4,3),'linestyle','none','marker','+','color','y');当前第10页\共有20页\编于星期四\2点三.模糊C均值聚类的MATLAB实现

2.

MATLAB实现模糊C均值聚类完整程序clearall;data=[1739.941675.152395.96373.3 3087.05 2429.471756.77 1652 1514.98864.45 1647.31 2665.9222.85 3059.54 2002.33877.88 2031.66 3071.181803.58 1583.12 2163.052352.12 2557.04 1411.53401.3 3259.94 2150.98363.34 3477.95 2462.861571.17 1731.04 1735.33104.8 3389.83 2421.83499.85 3305.75 2196.22当前第11页\共有20页\编于星期四\2点三.模糊C均值聚类的MATLAB实现

2297.28 3340.14 535.622092.62 3177.21 584.321418.79 1775.89 2772.91845.59 1918.81 2226.492205.36 3243.74 1202.692949.16 3244.44 662.421692.62 1867.5 2108.971680.67 1575.78 1725.12802.88 3017.11 1984.98172.78 3084.49 2328.652063.54 3199.76 1257.211449.58 1641.58 3405.121651.52 1713.28 1570.38341.59 3076.62 2438.63291.02 3095.68 2088.95237.63 3077.78 2251.96当前第12页\共有20页\编于星期四\2点三.模糊C均值聚类的MATLAB实现

1702.8 1639.79 2068.741877.93 1860.96 1975.3867.81 2334.68 2535.11831.49 1713.11 1604.68460.69 3274.77 2172.992374.98 3346.98 975.312271.89 3482.97 946.71783.64 1597.99 2261.31198.83 3250.45 2445.081494.63 2072.59 2550.511597.03 1921.52 2126.761598.93 1921.08 1623.331243.13 1814.07 3441.072336.31 2640.261599.63354 3300.12 2373.612144.47 2501.62 591.51当前第13页\共有20页\编于星期四\2点三.模糊C均值聚类的MATLAB实现

426.31 3105.29 2057.81507.13 1556.89 1954.51343.07 3271.72 2036.942201.94 3196.22 935.532232.43 3077.87 1298.871580.1 1752.07 2463.041962.4 1594.97 1835.951495.18 1957.44 3498.021125.17 1594.39 2937.7324.22 3447.31 2145.011269.07 1910.72 2701.971802.07 1725.81 1966.351817.36 1927.4 2328.791860.45 1782.88 1875.13];[center,U,obj_fcn]=fcm(data,4);plot3(data(:,1),data(:,2),data(:,3),'o');当前第14页\共有20页\编于星期四\2点三.模糊C均值聚类的MATLAB实现

grid;maxU=max(U);index1=find(U(1,:)==maxU)index2=find(U(2,:)==maxU)index3=find(U(3,:)==maxU)index4=find(U(4,:)==maxU)line(data(index1,1),data(index1,2),data(index1,3),'linestyle','none','marker','*','color','g');line(data(index2,1),data(index2,2),data(index2,3),'linestyle','none','marker','*','color','r');line(data(index3,1),data(index3,2),data(index3,3),'linestyle','none','marker','+','color','b');line(data(index4,1),data(index4,2),data(index4,3),'linestyle','none','marker','+','color','y');title('模糊C均值聚类分析图');xlabel('第一特征坐标');ylabel('第二特征坐标');zlabel('第三特征坐标');当前第15页\共有20页\编于星期四\2点四.模糊C均值聚类结果分析运行MATLAB程序，数据的模糊C均值聚类分析数据如下：Iterationcount=1,obj.fcn=28484303.583307Iterationcount=2,obj.fcn=22894174.219903Iterationcount=3,obj.fcn=22492974.034424Iterationcount=4,obj.fcn=20879539.602697Iterationcount=5,obj.fcn=14444987.068964Iterationcount=6,obj.fcn=8322567.664727Iterationcount=7,obj.fcn=7551351.839018Iterationcount=8,obj.fcn=7439273.677928Iterationcount=9,obj.fcn=7421451.003657Iterationcount=10,obj.fcn=7417960.721127Iterationcount=11,obj.fcn=7417133.213718Iterationcount=12,obj.fcn=7416918.432660Iterationcount=13,obj.fcn=7416860.845351Iterationcount=14,obj.fcn=7416845.240472Iterationcount=15,obj.fcn=7416840.997724当前第16页\共有20页\编于星期四\2点四.模糊C均值聚类结果分析Iterationcount=16,obj.fcn=7416839.842995Iterationcount=17,obj.fcn=7416839.528623Iterationcount=18,obj.fcn=7416839.443030Iterationcount=19,obj.fcn=7416839.419726Iterationcount=20,obj.fcn=7416839.413381Iterationcount=21,obj.fcn=7416839.411653Iterationcount=22,obj.fcn=7416839.411183Iterationcount=23,obj.fcn=7416839.411055Iterationcount=24,obj.fcn=7416839.411020Iterationcount=25,obj.fcn=7416839.411010当前第17页\共有20页\编于星期四\2点四