数据挖掘主成分分析pca

1、主成分分析PCAPrincipal Component Analysis内容一、二、问题的提出三、主成分分析1.二维数据的例子2.PCA的几何意义3.4.均值和协方差、 特征值和特征向量PCA的性质四、主成分分析的算法实例2五、具体实例六、 结论21.假定你是一个公司的财务经理，掌握了公司的所有数据，比如固定资产、资金、每一笔借贷的数额和期限、各种税费、工资、原料消耗、产值、利润、折旧、职工人数、职工的分工和教育程度等等。如果让你介绍公司状况，你能够把这些指标和数字都原封不动地摆出去吗？当然不能。实例1实例2你必须要把各个方面作出高度概括，用一两个指标简单明了地把情况说清楚。3PCA多特征/属

2、性问题是经常会遇到的。特征太多，无疑会增加分析问题的难度与复杂性.在许多实际问题中，多个特征之间是具有一定的相关关系的。因此，能否在各个变量之间相关关系研究的基础上，用较少的新特征代替原来较多的变量，而且使这些较少的新特征尽可能多地保留原来较多的特征所反映的信息？事实上，这种想法是可以实现的.主成分分析原理: 是把原来多个特征化为少数几个特征指标的一种统计分析方法，从数学角度来看，这是一种降维处理技术。主成分分析方法就是综合处理这种问题的一种强的方法。42.问题的提出在力求数据信息丢失最少的原则下，对高维的特征空间降维，即研究指标体系的少数几个线性组合，并且这几个线性组合所的综合指标将尽可能多

3、地保留原来指标变异方面的信息。这些综合指标就称为主成分。要讨论的问题是：(1)如何作主成分分析?当分析中所选择的变量具有不同的量纲，变量水平差异很大，应该选择基于相关系数矩阵的主成分分析。5各个变量之间差异很大6（2）如何确定主成分的数量。主成分分析的目的是简化特征空间，一般情况下主成分的个数应该小于原始特征的个数。关于保留几个主成分，应该权衡主成分个数和保留的信息。（3）如何解释主成分所包含的几何意义。7实例1:分析美国的统计学家斯通(Stone)在1947年关于的研究是一项十分著名的工作。他曾利用美国1929一1938年各年的数据，得到了17个反映收入与的属性/特征要素，例如雇主补贴、消费

4、资料和生产资料、纯公共息、外贸平衡等等。、净增库存、股息、利l 在进行主成分分析后，竟以97.4的精度，用三个新属性就取代了原17个属性。8根据学知识，斯通给这三个新属性分别命名为总收入F1、总收入变化率F2和发展或的趋势F3。更有意思的是，这三个属性其实都是可以直接测量的。9主成分分析就是试图在力保数据信息丢失最少的原则下，对这种多特征的数据表进行最佳综合简化，也就是说，对高维特征空间进行降维处理。很显然，识辨系统在一个低要比在一个高容易得多。10实例2:成绩数据100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。11从本例可能提出的问题 目前的问题是，能不能把这个数据的6

5、 个属性用12个综合属性来表示呢？ 这一两个综合属性包含有多少原来的信息呢？ 能不能利用找到的综合属性来对学生排序呢？这一类数据所涉及的问题可以推广到对企业，对学校进行分析、排序、判别和分类等问题。123.1PCA:二维数据分析例中的的数据点是六维的；也就是说，每个观测值是6 低中的一个点。我们希望把6 表示。用1314单科平均成绩74.1747066.473.663.3平均成绩73.769.861.372.577.272.36372.3701009590858075706560646668707274767880828415data M先假定数据只有二维，即只有两个特征，它们由横坐标和纵坐标

6、所代表； 因此每个观测值都有相应于这两个坐 标轴的两个坐标值；如果这些数据形成一个椭圆形状的点阵（这在特征的二维正态的假定下是可能的）.16平移、旋转坐标轴xF1232主成分分析的几何解释F2 x117.平移、旋转坐标轴xF12主成分分析的几何解释F2 x1 18平移、旋转坐标轴xF12主成分分析的几何解释F2 x1 19平移、旋x转坐标轴F21F2主成分分析的几何解释 x1 203.2.PCA:进一步解释椭圆有一个长轴和一个短轴。在短轴方向上，数据变化很少；在情况，短轴如果的成一-4-2024点，那只有在长轴的方向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。21-4-20

7、24二维数据-4-202422-4-2024进一步解释PCA当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。但是，坐标轴通常并不和椭圆的长短轴平行。因此，需要寻找椭圆的长短轴，并进行变换， 使得新变量和椭圆的长短轴平行。如果长轴变量代表了数据包含的大部分信息， 就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。椭圆（球）的长短轴相差得越大，降维也越有道理。23进一步解释PCA(续)对于变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见罢了。首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量

8、；这样，主成分分析就基本完成了。注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分(principal component)。24 正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。 选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议， 所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定。253.3.均值和协方差、特征值和特征向量设有n个样本，每个样本观测p个指标（变量）：X1，X2

9、，Xn, 得到原始数据矩阵：ù1nú2n úX =êúúpn úû p´n­Xn­X1­X2-4-202426-4-20241.样本均值MM = 1 (X + X+ X).-4-202412nn显然,样本均值是数据散列图的中心.Xk= Xk- M于是 p*n 矩阵的列B具有零样本均值,称为平均偏差形式ùB =n û27-4-2024注意：协方差是对称矩阵且半正定2.样本协方差1S =BBTn -1协方差的大小在一定程度上反映了多特征之间的相关关系，但它还受

10、每种特征自身度量的影响.28·中·心····· · · ····中· 心······3.3特征值与特征向量定义若为阶方阵，为数，X 为维非零向量，AX = l X则称为的特征值，X称为的特征向量特征向量X ¹ 0 ，特征值问题只l , X并不一定唯一；阶方阵的特征值，就是使齐次线性方程组注 与方阵；(l I - A) x = 0 有非零解的值，即满足的都是方阵的特征值l I - A =

11、0l I - A = 0称以为未知数的一元次方程定义为的特征方程29 例1:从一个总体中随机抽取4个样本作三次测量,每一个样本的观测向量为:é1ùé 4 ùé7ùé8ù= ê8ú ,= ê4úXê úêë1úûê úêë5úû34êë1úûêë13úû计算样本均值M和协方差矩阵S

12、以及S的特征值和特征向量.M = 1nn1åi=1SX = l XXS =BBn -1Ti30SyntaxC = cov(X)AlgorithmThe algorithm for cov is n,p = size(X);X = X - ones(n,1) * mean(X);Y = X'*X/(n-1);See Alsocorrcoef, mean, std, var31平移、旋转坐标轴xF12F2 M x1 2014/10/1032为了方便，我们在二中讨论主成分的几何意义。设有n个样本，每个样本有两个观测特征xl和x2，在由特征xl和x2 所确定的二维平面中，n个样本点所

13、散布的情况如椭圆状。由图可以看出这n个样本点无论是沿着xl 轴方向或x2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量xl 的方差和x2 的方差定量地表示。显然， 如果只考虑xl和x2 中的任何一个，那么包含在原始数据中的信息将会有较大的损失。2014/10/1033xl 轴和x2轴先平移，再同时如果按逆时针方向旋转q角度，得到新坐标轴Fl和F2。Fl和F2是两个新特征。2014/10/1034Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息重叠所带来的虚假性。二维平面上的个点的方差大部分都归结在Fl轴上，而F2轴

14、上的方差很小。Fl和F2称为原始变量x1和x2的综合特征。F简化了系统结构，抓住了主要。2014/10/1035§3.4PCA的性质一、两个线性代数的结论1、若A是p阶实对称阵，则一定可以找到正交阵U，使él1ê 0LLOL00 ù0 úlU-1AU = êúM ú2ê Mê 0M0úlp ´ pëp û其中li ,i = 1.2.L p是A的特征根。362、若上述矩阵的特征根所对应的为 u1 ,L,up特征向量LLéu11êuu12u

15、1 p ùúuuU = (u ,L,u ) = ê2 p ú2122令1pêúMMMêuúLuuëpp ûp1p 2则实对称阵 A 属于不同特征根所对应的特征向量是正交的，即有U¢U = UU¢ = I37§3.4PCA的性质(续)E(UT x) = UT M3、均值4、方差为所有特征根之和påVar(F ) =l + l + l= s+s+s+2222pi12p1i=1说明主成分分析把P个随量的总方差分解成为P个不相关的随量的方差之和。协方差矩阵S的对角

16、线上的元之和。和等于特征根383.4、精度分析1）贡献率：第i个主成分的方差在全部方差中所占p比重，称为贡献率，反映了原来P个指标多大liå lii=1的信息，有多大的综合能力。2）累积贡献率：前k个主成分共有多大的综合能力，用这k个主成分的方差和在全部方差中所占比重pkå liå lii=1i=1来描述，称为累积贡献率。39PCA常用统计量：.特征根iliåli.各成分贡献率.前各成分累计贡献率.特征向量各成分表达式中标准化原始变量的系数向量，就是各成分的特征向量。40我们进行主成分分析的目的之一是希望用尽可能少的主成分F1，F2，Fk（kp）代替 原

17、来的P个指标。到底应该选择多少个主成分， 在实际工作中，主成分个数的多少取决于能够反映原来变量80%以上的信息量为依据，即当累 积贡献率80%时的主成分的个数就足够了。最常见的情况是主成分为2到3个。41例 设é 13 的协方差矩阵为0ù- 250S = ê- 20úêêë 0ú2úû= 2.00 ，l3é0ù= 0.17é0.924ùl1 = 5.83，l2解得特征根为，é 0.383 ùU = ê- 0.924ú

18、= ê0ú= ê0.383úUUêúê úêë1úûêú123êë 0.000 úûêë0.000úû第一个主成分的贡献率为5.83/ （ 5.83+2.00+0.17 ）=72.875%，尽管第一个主成分的贡献率并不小，但应该取两个主成分。97.88%42§4主成分分析的步骤一、基于协方差矩阵)¢(l = 1，2，L，n)pl= (Xl) öS&

19、#247;jèø p´ p第一步：由X的协方差阵x，求出其特征根，即解方l1 ³ l2 ³L³ lp ³ 0。程 - lI，可得特征根= 043第二步：求出分别所对应的特征向量U1，U2，Up，U = (u ，u ， ，u)Ti1i2ipi第三步：计算累积贡献率，给出恰当的主成分个数。F = UTX，i = 1，2， ，k(k £ p)ii第四步：计算所选出的k个主成分的得分。将原始数据的中心化值:= ()T-2ip代入前k个主成分的表达式，分别计算出各成分的得分，并按得分值的大小排队。k个主44§5PC

20、A的应用应收账款是指企业因对外销售、材料、提供劳务及收取的款项，包括应例其它，应向购货或接受劳务的收销货款、其它应收款和应收票据等。出于扩大销售的竞争需要，企业不得不以赊销或其它的方式招揽顾客，由于销售和收款的时间差，于是产生了应收款项。应收款赊销的效果的好坏，不仅依赖于企业的信用政策，还依赖于顾客的信用程度。由此，评价顾客的信用等级，了解顾客的综合信用程度，做到“知己知彼， 百战不殆”，对加强企业的应收账款管理大有帮助。某企业为了了解其客户的信用程度，采用西方5C的目的是说明顾客违约的可能性。信用评估常用的5C方法，451、品格（用X1表示），指顾客的信誉，履行偿还义务的可能性。企业可以通过

21、过去的付款项。得到此2、能力（用X2表示），指顾客的偿还能力。即其流动资产的数量和质量以及负载的比率。顾客的资产越多，其转化为现金支付款项的能力越强。同时，还应注意顾客资产的质量，看其是否会出现存货过多过时质量下降，影响其变现能力和支 付能力。3、（用X3表示），指顾客的财务和财务状况，表明顾客可能偿还债务的背景。4、附带的担保品（用X4表示），指借款人以容易出 售的资产做抵押。5、环境条件（用X5表示），指企业的外部因素，即指非企业本身能或的因素。46首先并抽取了10家具有可比性的同类企业作为样本，又请8位分别给10个企业的5个指标打分，然后分别计算企业5个指标的平均值，如表。4776.58

22、1.57675.871.78579.280.384.476.570.67367.668.178.5949487.589.59290.787.39181.58084.666.968.864.866.477.573.670.969.874.857.760.457.460.86585.668.57062.276.57069.271.764.968.9；Eigenvalues of the Covariance MatrixEigenvalue 410.50643.26420.6708.0712.805Difference 367.24222.59412.5995.2660. 0Proportion

23、0.8458540.0891460.0425910.0166300.005779Cumulative 0.845850.935000.977590.994221.00000PRIN1 PRIN2 PRIN3 PRIN4 PRIN5EigenvectorsPRIN10.4688140.4848760.4727440.4617470.329259PRIN2-.8306120.329916-.0211740.4309040.122930PRIN30.0214060.014801-.412719-.2408450.878054PRIN40.254654-.287720-.5885820.706283-

24、.084286PRIN5-.158081-.7570000.5092130.2104030.313677X1 X2 X3 X4 X548第一主成份的贡献率为 84.6% ， 第一主成份Z1=0.469X1+0.485X2+0.473X3+0.462X4+0.329X5的各项系数大致相等，且均为正数，说明第一主成份是对所有指标的一个综合测度，可以作为 综合的信用等级指标。可以用来排序。将原始数据的值中心化后，代入第一主成份Z1的表示式， 计算各企业的得分，并按分值大小排序:在正确评估了顾客的信用等级后，就能正确制定出对其的信用期、收帐政策等，这对于加强应收帐款的管理大有帮助。49序号123456

25、78910得分3.1613.6-9.0135.925.1-10.3- 4.36-33.8- 6.41-13.8排序43712851069例二基于相关系数矩阵的主成分分析。对美国纽约上市的有关化学产业的三个和石油产业的2个做了100周的收益率。下表是其相关系数矩阵。1） 利用相关系数矩阵做主成分分析。2） 决定要保留的主成分个数，并解释意义。5010.5770.5090.00630.00370.57710.5990.3890.520.5090.59910.4360.4260.3870.3890.43610.5230.4620.3220.4260.5231Eigenvalues of the Correlation MatrixEigenvalue 2.856710.809160.539680.451500.34295Difference 2.047550.269490.088180.108550. 0Proportion 0.5713420.1618330.1079350.0903000.068590Cumulative 0.571340.733170.841110.931411.00000PRIN1