应用多元统计分析习题解答_第五章(1)

1、第五章聚类分析5.1 判别分析和聚类分析有何区别？答：即根据一定的判别准则，判定一个样本归属于哪一类。具体而言，设有!个样本，对每个样本测得P项指标（变量）的数据，已知每个样本属于k个类别（或总体）中的某一类，通过找出一个最优的划分，使得不同类别的样本尽可能地区别开，并判别该样本属于哪个总体。聚类分析是分析如何对样品（或变量）进行量化分类的问题。在聚类之前，我们并不知道总体，而是通过一次次的聚类，使相近的样品（或变量）聚合形成总体。通俗来讲，判别分析是在已知有多少类及是什么类的情况下进行分类，而聚类分析是在不知道类的情况下进行分类。5.2 试述系统聚类的基本思想。答：系统聚类的基本思想是：距离

2、相近的样品（或变量）先聚成类，距离相远的后聚成类，过程一直进行下去，每个样品（或变量）总能聚到合适的类中。5.3 对样品和变量进行聚类分析时，所构造的统计量分别是什么？简要说明为什么这样构造？答：对样品进行聚类分析时，用距离来测定样品之间的相似程度。因为我们把n个样本看作p维空间的n个点。点之间的距离即可代表样品间的相似度。常用的距离为（一）闵可夫斯基距离：dj（q）=ElXik-Xj）1/qk=1q取不同值，分为（1）绝对距离（q=1）d（1）=£X-Xijikjkk=1（2）欧氏距离（q=2）d=（严X-X2）1/2k=13）切比雪夫距离d（a）=maxij1<k<p

3、二）马氏距离三）兰氏距离ikjk（q=g）XXikjkd(L)=一兰一ik返ijpX+Xk=1ikjkd2(M)=(X-X)'吝1(X-X)ijijij对变量的相似性，我们更多地要了解变量的变化趋势或变化方向，因此用相关性进行衡量。将变量看作p维空间的向量，一般用（一）夹角余弦Yxxcos0ijikjkr二）相关系数rij刀(X-X)(X-X)ikijkj5.4 在进行系统聚类时，不同类间距离计算方法有何区别？选择距离公式应遵循哪些原则？答：设djj表示样品X.与X.之间距离，用。口表示类G.与Gj之间的距离。（1）.最短距离法D=mindijXgG,XgGiijjijDkr=mind

4、=minD,DXgG,XgGikjrijkpkq2)最长距离法D=maxdpqXgG,XgGijDkripjq=maxd=maxD,DXigGk,XjgGrijkpkq3)中间距离法D2=D2+D2+BD2kr2kp2kqpq1I-1/5l04其中(4)重心法DPq=(Xp-Xq)U-Xq)XqX”nnnnD2pD2+_qD2pqD2krnkpnkqn2pqrrr5）类平均法D21工工d2D21工工d2nnpD2+qD2pqnnijkrnnijnkpnkqpqXi叫Xj巴krX,.叫XgGjrrr（6）可变类平均法nnD2（1P）（”D2+D2）+BD2krnkpnkqpqrr其中?是可变的且

5、?<1（7）可变法1P其中?是可变的且?<1D2（D2+D2）+PD2kr2kpkqpq（8）离差平方和法s-尹（xxy（xx）tittittt1n+nn+nnD2kpD2+kqD2kD2krn+nkpn+nkqn+npqrkrkrk通常选择距离公式应注意遵循以下的基本原则：（1）要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作用。（2）要综合考虑对样本观测数据的预处理和将要采用的聚类分析方法。如在进行聚类分析之前已经对变量作了标准化处理，则通常就可采用欧氏距离。（3）要考虑研究对象的特点和计算量的大小。样品间距离公式

6、的选择是一个比较复杂且带有一定主观性的问题，我们应根据研究对象的特点不同做出具体分折。实际中，聚类分析前不妨试探性地多选择几个距离公式分别进行聚类，然后对聚类分析的结果进行对比分析，以确定最合适的距离测度方法。5.5试述K均值法与系统聚类法的异同。答：相同：K均值法和系统聚类法一样，都是以距离的远近亲疏为标准进行聚类的。不同：系统聚类对不同的类数产生一系列的聚类结果，而K均值法只能产生指定类数的聚类结果。具体类数的确定，离不开实践经验的积累；有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K均值法确定类数的参考。5.6试述K均值法与系统聚类有何区别？试述有序聚类法的基本思想。答：

7、K均值法的基本思想是将每一个样品分配给最近中心(均值)的类中。系统聚类对不同的类数产生一系列的聚类结果，而K均值法只能产生指定类数的聚类结果。具体类数的确定，有时也可以借助系统聚类法以一部分样品为对象进行聚类，其结果作为K均值法确定类数的参考。有序聚类就是解决样品的次序不能变动时的聚类分析问题。如果用X,X,A,X表示(1)(2)(n)n个有序的样品，则每一类必须是这样的形式，即X,X,X，其中1<i<n,且(i)(i+1)(j)j<n，简记为G二i,i+1,A,j。在同一类中的样品是次序相邻的。一般的步骤是(1)i计算直径D(i,j)。(2)计算最小分类损失函数Lp(l,k

8、)。确定分类个数k。(4)最优分类。5.7检测某类产品的重量，抽了六个样品，每个样品只测了一个指标，分别为1，2，36，9，11.试用最短距离法，重心法进行聚类分析。(1)用最短距离法进行聚类分析。采用绝对值距离，计算样品间距离阵810985由上表易知中最小元素是于是将5，丨，兀聚为一类，记为4计算距离阵°丫1丫G7G4Df中最小元素是Dh=2于是将&，也聚为一类，记为&计算样本距离阵°丫二丫。丫二丫中最小元素是因此，于是将聚为一类，记为见2）用重心法进行聚类分析计算样品间平方距离阵Dycy记为4易知中最小元素疋计算距离阵VGSg416498125注：计算方

9、法，其他以此类推。中最小元素是D=4于是将鸟，矗聚为一类，记为G计算样本距离阵0丫二丫g41606416丫中最小元素是于是将，聚为一类，记为$因此，141S5.8下表是15个上市公司2001年的一些主要财务指标，使用系统聚类法和K均值法分别对这些公司进行聚类，并对结果进行比较分析。公司净资产每股净总资产资产负流动负每股净净利润总资产编号收益率利润周转率债率债比率资产增长率增长率111.090.210.0596.9870.531.86-44.0481.99211.960.590.7451.7890.734.957.0216.11300.030.03181.99100-2.98103.3321.1

10、8411.580.130.1746.0792.181.146.55-56.325-6.19-0.090.0343.382.241.52-1713.5-3.366100.470.4868.4864.7-11.560.85710.490.110.3582.9899.871.02100.2330.32811.12-1.690.12132.14100-0.66-4454.39-62.7593.410.040.267.8698.511.25-11.25-11.43101.160.010.5443.71001.03-87.18-7.411130.220.160.487.3694.880.53729.41-

11、9.97128.190.220.3830.311002.73-12.31-2.771395.79-5.20.5252.3499.34-5.42-9816.52-46.821416.550.350.9372.3184.052.14115.95123.4115-24.18-1.160.7956.2697.84.81-533.89-27.74解:令净资产收益率为X1,每股净利润X2，总资产周转率为X3,资产负债率为X4,流动负债比率为X5,每股净资产为X6,净利润增长率为X7,总资产增长率为X8,用spss对公司聚类分析的步骤如下：a）系统聚类法:1.在SPSS窗口中选择AnalyzefClassi

12、fyfHierachicalCluster,调出系统聚类分析主界面，并将变量X1-X8移入Variables框中。在Cluster栏中选择Cases单选按钮，即对样品进行聚类（若选择Variables，则对变量进行聚类）。在Display栏中选择Statistics和Plots复选框，这样在结果输出窗口中可以同时得到聚类结果统计量和统计图。图5.1系统分析法主界面2. 点击Statistics按钮，设置在结果输出窗口中给出的聚类分析统计量。我们选择Agglomerationschedule与ClusterMembership中的Rangeofsolution2-4，如图5.2所示，点击Cont

13、inue按钮，返回主界面。（其中，Agglomerationschedule表示在结果中给出聚类过程表，显示系统聚类的详细步骤；Proximitymatrix表示输出各个体之间的距离矩阵；ClusterMembership表示在结果中输出一个表，表中显示每个个体被分配到的类别，Rangeofsolution2-4即将所有个体分为2至4类。）3. 点击Plots按钮，设置结果输出窗口中给出的聚类分析统计图。选中单击Continue按钮，返回主界面。Dendrogram复选框和Icicle栏中的None单选按钮，如图5.3，即只给出聚类树形图，而不给出冰柱图。图5.2Statistics子对话框图

14、5.3Plots子对话框4.点击Method按钮，设置系统聚类的方法选项。ClusterMethod下拉列表用于指定聚类的方法，这里选择Between-groupinkage（组间平均数连接距离）；Measure栏用于选择对距离和相似性的测度方法，选择SquaredEuclideandistanee（欧氏距离）；单击Continue按钮，返回主界面。5.§3Hierarchical匚lusterAnalyskMsthadlClutoMefiwiBetw比nggM汕幅半_：m皿CnncolH阳图5.5Save子对话框图5.4Method子对话框点击Save按钮，指定保存在数据文件中的用

15、于表明聚类结果的新变量。None表示不保存任何新变量；Singlesolution表示生成一个分类变量，在其后的矩形框中输入要分成的类数；Rangeofsolutions表示生成多个分类变量。这里我们选择Rangeofsolutions，并在后面的两个矩形框中分别输入2和4，即生成三个新的分类变量，分别表明将样品分为2类、3类和4类时的聚类结果，如图5.5。点击Continue，返回主界面。6.点击OK按钮，运行系统聚类过程。聚类结果分析:下面的群集成员表给出了把公司分为2类，3类，4类时各个样本所属类别的情况，另外，从右边的树形图也可以直观地看到，若将15个公司分为2类，则13独自为一类，其

16、余的为一类；若分为3类，则公司8分离出来，自成一类。以此类推。表5.1各样品所属类别表FlrscaledDiata口u亡ClusterCombineCASE0510152025L电丄Ntuo+一_|_>|时一图5.6聚类树形图b)K均值法的步骤如下：1.在SPSS窗口中选择AnalyzeClassifyK-MeansCluster，调出K均值聚类分析主界面，并将变量X1-X8移入Variables框中。在Method框中选择Iterateclassify，即使用K-means算法不断计算新的类中心，并替换旧的类中心(若选择Classifyonly，则根据初始类中心进行聚类，在聚类过程中不

17、改变类中心）。在NumberofCluster后面的矩形框中输入想要把样品聚成的类数，这里我们输入3，即将15个公司分为3类。（Centers按钮，则用于设置迭代的初始类中心。如果不手工设置，则系统会自动设置初始类中心，这里我们不作设置。）他-Mv'nra口gtwAityifli图5.7K均值聚类分析主界面2.点击Iterate按钮，对迭代参数进行设置。MaximumIterations参数框用于设定K-means算法迭代的最大次数，输入10，ConvergenceCriterion参数框用于设定算法的收敛判据，输入0，只要在迭代的过程中先满足了其中的参数，则迭代过程就停止。单击Con

18、tinue，返回主界面。曲K-MeansClusterAnalysis:IrerateConvergenceCriterbn:qUserunningmeansHelpCortinue图5.8Iterate子对话框3. 点击Save按钮，设置保存在数据文件中的表明聚类结果的新变量。我们将两个复选框都选中，其中Clustermembership选项用于建立一个代表聚类结果的变量，默认变量名为qcl_1；Distancefromclustercenter选项建立一个新变量，代表各观测量与其所属类中心的欧氏距离。单击Continue按钮返回。K-MeansCluster:SaveNewVari.Clu

19、stermembership0DistancefromclustercenterCuntinueCancelHelp图5.9Save子对话框4.点击Options按钮，指定要计算的统计量。选中Initialclustercenters和Clusterinformationforeachcase复选框。这样，在输出窗口中将给出聚类的初始类中心和每个公司的分类信息，包括分配到哪一类和该公司距所属类中心的距离。单击Continue返回。图5.10Options子对话框5.点击OK按钮，运行K均值聚类分析程序。聚类结果分析:以下三表给出了各公司所属的类及其与所属类中心的距离，聚类形成的类的中心的各变量

20、值以及各类的公司数。由以上表格可得公司13与公司8各自成一类，其余的公司为一类。通过比较可知，两种聚类方法得到的聚类结果完全一致。聚类成员室1398.15323'12.9代33235.34643531609.9586393.39913205.5M02.OOC9395.9231J338.967113834.134123101.3521?1.OOC143346.882153433.1?8每个聚案中的案洌敎11.00021.000313.000有效15.000.000123披1957911.126.48X2-5.20-1.69.08殖.50.12.39X斗252.34132.1471.48疝

21、99.34100.0092.06X&-5.42-.661.90x7-9816.52-4454.39-103.94xS-40.82-62.7511.915.9下表是某年我国16个地区农民支出情况的抽样调查数据，每个地区调查了反映每人平均生活消费支出情况的六个经济指标。试通过统计分析软件用不同的方法进行系统聚类分析，并比较何种方法与人们观察到的实际情况较接近。地区食品衣着燃料住房交通和通讯娱乐教育文化北京190.3343.779.7360.5449.019.04天津135.236.410.4744.1636.493.94河北95.2122.839.322.4422.812.8山西104.7

22、825.116.49.8918.173.25内蒙128.4127.638.9412.5823.992.27辽宁145.6832.8317.7927.2939.093.47吉林159.3733.3818.3711.8125.295.22黑龙江116.2229.5713.2413.7621.756.04上海221.1138.6412.53115.6550.825.89江苏144.9829.1211.6742.627.35.74浙江169.9232.7512.7247.1234.355安徽135.1123.0915.6223.5418.186.39福建144.9221.2616.9619.5221.

23、756.73江西140.5421.517.6419.1915.974.94山东115.8430.2612.233.633.773.85河南101.1823.268.4620.220.54.3解:令食品支出为X1,衣着支出为X2,燃料支出为X3,住房支出为X4,交通和通讯支出为X5,娱乐教育文化支出为X6,用spss对16各地区聚类分析的步骤如5.8题，不同的方法在第4个步骤的Method子对话框中选择不同的Clustermethod。1.Between-groupinkage（组间平均数连接距离）室CSI4带舞2黑第1112141516111前5E臥垃上表给出了把全国16个地区分为2类、3类和

24、4类时,各地区所属的类别,另外从右边的树形图也可以直观地观察到,若用组间平均数连接距离将这些地区分为3类,则9（上海）独自为一类,1（北京）和11（浙江）为一类,剩余地区为一类。2. Within-grouplinkage（组内平均连接距离）若用组内平均数连接距离将这些地区分为3类，则9（上海）独自为一类，1（北京）独自为一类，剩余地区为一类。3. Nearestneighbor（最短距离法）群晏威员若用最短距离法将这些地区分为3类，则9（上海）独自为一类，1（北京）独自为一类剩余地区为一类。4. Furthestneighbor（最远距离法）土wI册丰;13H15161辞集咸员Keacale

25、dIHscanceCluscecCoutolne匚J15E0510152025若用最远距离法将这些地区分为3类，则9（上海）独自为一类，1（北京）和11（浙江）为一类，剩余地区为一类。5. Centroidcluster（重心法）12233435262:10：2111122132U21521633SB2US11212121212121213221112121212121若用重心法将这些地区分为3类，则9（上海）独自为一类，1（北京）和11（浙江）为一类，剩余地区为一类。6. Mediancluster（中位数距离）CA3IuLimbEJ.Nwi+LU1314二j若用中位数距离法将这些地区分为3

26、类，则9（上海）独自为一类，1（北京）和11（浙江）为一类，剩余地区为一类。7.Wardmethod（离差平方和）10Label客闻1髀集32if#1i1I22223332A3325332621272223332g41IID2221111I122221332214222153216332詐釜咸员若用离差平方和法将这些地区分为3类，则9（上海），1（北京）和11（浙江）为一类，2（天津）、6（辽宁）、7（吉林）、10（江苏）、12（安徽）、13（福建）和14（江西）为一类剩余地区为一类。5.10根据上题数据通过SPSS统计分析软件进行快速聚类运算，并与系统聚类分析结果进行比较。解：快速聚类运算即

27、K均值法聚类，具体步骤同5.8,聚类结果如下：22.92022.40016.86413.83015.25526.2657.51314.59017.90619.50125.91225.20319.20116.40346.751.0007.2COITnt.LU1C.2C0TA123x1155.77221.1111?16x233.7935.Ea254113.9612.53-1J-H36.15115.6519.>4033.3350.8221E95.595.S9X33聚类的结果为9（上海）独自为一类，1（北京）、2（天津）、6（辽宁）、7（吉林）、10（江苏）、11（浙江）、13（福建）和14（江

28、西）为一类，剩余地区为一类。5.11下表是2003年我国省会城市和计划单列市的主要经济指标：人均GDPx（元）1人均工业产值X（元）客运总量x（万人）、货运总量x（万吨）、地方财政预算内收入X2345（亿元）、固定资产投资总额X（亿元）、在岗职工占总人口的比例X（%）、在岗职工人均67工资额X（元）城乡居民年底储蓄余额X（亿元）。试通过统计分析软件进行系统聚类分89析，并比较何种方法与人们观察到的实际情况较接近。城市x1x2x3x4x5x6x7x8x9北京31886331683052030671593200037.8253126441天津264334373235073467920593418.

29、8186481825石家庄15134131591184310008494169.5123061044太原15752158312975152483319722.812679660呼和浩特1899111257350841552118213.514116255沈阳23268154466612146368155714.8149611423大连2914527615110012108111140714.7175601310长春18630210456999108924629412.513870831哈尔滨148257561645895187642317.7124511154上海465867708372126

30、3861899227421.0273056055南京2754743853167901480513679415.4221901134杭州3266749823213491681515071711.8246671466宁波3254347904249381379713955510.9236911060合肥106211171460344641362458.313901359福州2228121310968082506737611.815053876厦门5359093126444130557023838.619024397南昌142219205572844543121011.013913483济南23437

31、226345810143547642913.516027758青岛2470535506146663055312054814.515335908郑州16674140231070978476637312.7135381048武汉212781708311882166108062317.4137301286长沙15446887310609106316043410.016987705广州48220554042975128859275108925.1288053727深圳19183834751910989679329187569.6310532199南宁8176339070165893361708.313

32、171451海口1644214553132843304129916.514819284重庆71905076582903245016211876.5124401897成都17914928972793287989078811.9152741494贵阳11046103501851153184023115.812181345昆明16215116015126123386034214.614255709西安1314089131141393926544615.9135051211兰州1445917136220955812120318.013489468西宁706656052788203787610.114629175银川1178711013214621271213421.913497193乌鲁木齐22508171372188127544118026.116509420南宁31886331683052030671593200037.8253126441海口264334373235073467920593418.8186481825资料来源：中国统计年鉴2004解:用