主成分分析和因子分析实例课件

主成分与因子分析实例主成分与因子分析实例主成分分析和因子分析介绍两种把变量维数降低以便于描述、理解和分析的方法：主成分分析（principalcomponentanalysis）和因子分析（factoranalysis）。在引进主成分分析之前，先看下面的例子。主成分分析和因子分析介绍两种把变量维数降低以便于描述、理解和成绩数据100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。成绩数据100个学生的数学、物理、化学、语文、历史、英语的成从本例可能提出的问题目前的问题是，能不能把这个数据的6个变量用一两个综合变量来表示呢？这一两个综合变量包含有多少原来的信息呢？能不能利用找到的综合变量来对学生排序呢？这一类数据所涉及的问题可以推广到对企业、对学校进行分析、排序、判别和分类等问题。从本例可能提出的问题目前的问题是，能不能把这个数据的6个变量主成分分析例中的数据点是六维的；也就是说，每个观测值是6维空间中的一个点。我们希望把6维空间用低维空间表示。先假定只有二维，即只有两个变量，它们由横坐标和纵坐标所代表；因此每个观测值都有相应于这两个坐标轴的两个坐标值；如果这些数据形成一个椭圆形状的点阵（这在变量的二维正态的假定下是可能的）主成分分析例中的数据点是六维的；也就是说，每个观测值是6维空主成分分析那么这个椭圆有一个长轴和一个短轴。在短轴方向上，数据变化很少；在极端的情况，短轴如果退化成一点，那只有在长轴的方向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。主成分分析那么这个椭圆有一个长轴和一个短轴。在短轴方向上，数主成分分析当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。但是，坐标轴通常并不和椭圆的长短轴平行。因此，需要寻找椭圆的长短轴，并进行变换，使得新变量和椭圆的长短轴平行。如果长轴变量代表了数据包含的大部分信息，就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。椭圆（球）的长短轴相差得越大降维也越有道理。主成分分析当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描主成分分析对于多维变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见罢了。首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主成分分析就基本完成了。注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分(principalcomponent)。

主成分分析对于多维变量的情况和二维类似，也有高维的椭球，只不主成分分析正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定。主成分分析正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有对于我们的数据，SPSS输出为：这里的InitialEigenvalues就是这里的六个主轴长度，又称特征值（数据相关阵的特征值）。对于我们的数据，SPSS输出为：这里的InitialEig主成分分析的一般模型主成分分析的一般模型主成分分析其中有以下原则来确定：这时称：Y1是第一主成分

Y2是第二主成分主成分分析其中有以下原则来确定：这时称：Y1主成分的含义由原始数据的协方差阵或相关系数据阵，可计算出矩阵的特征根：主成分的含义由原始数据的协方差阵或相关系数据阵，可计算出矩阵主成分的含义但是，spss软件中没有直接给出主成分系数，而是给出的因子载荷，我们可将因子载荷系数除以相应的，即可得到主成分系数。主成分的含义但是，spss软件中没有直接给出主成分系数，而是由Component1的系数除以，得到：Y1=-0.417x1-0.349x2-0.349x3+0.462x4+0.427x5+0.433x6

Y2=0.183x1+0.275x2+0.265x3+0.158x4+0.225x5+0.220x6这些系数表示主成分和相应的原先变量的相关系数。相关系数(绝对值）越大，主成分对该变量的代表性也越大。由Component2的系数除以，得到：由Component1的系数除以，得到：Y1=主成分分析为什么spss中只取了两个主成分呢？主成分分析为什么spss中只取了两个主成分呢？头两个成分特征值对应的方差累积占了总方差的81.142%，称为累计方差贡献率为81.142%。后面的特征值的贡献越来越少。一般我们取累计方差贡献率达到85%左右的前k个主成分就可以了，因为它们已经代表了绝大部分的信息。Spss中选取主成分的方法有两个：一是根据特征根≥1来选取；另一种是用户直接规定主成分的个数来选取。头两个成分特征值对应的方差累积占了总方差的81.142%，称特征值的贡献还可以从SPSS的所谓碎石图看出特征值的贡献还可以从SPSS的所谓碎石图看出可以把第一和第二主成分的点画出一个二维图以直观地显示它们如何解释原来的变量的。该图左面三个点是数学、物理、化学三科，右边三个点是语文、历史、外语三科。可以把第一和第二主成分的点画出一个二维图以直该图左面三个点因子分析因子分析是主成分分析的推广和发展。为什么要进行因子分析？由主成分分析的模型可知：因子分析因子分析是主成分分析的推广和发展。因子分析我们如果想知道每个变量与公共因子的关系，则就要进行因子分析了。因子分析模型为：因子分析我们如果想知道每个变量与公共因子的关系，则就要进行因因子载荷称为因子载荷（实际上是权数）。因子载荷的统计意义：就是第i个变量与第j个公共因子的相关系数，即表示变量xi依赖于Fj的份量（比重），心理学家将它称为载荷。因子载荷称为因子载荷（实际上是权数）。主成分分析和因子分析实例课件公因子方差表提取出来的公因子对每个变量的解释程度到底有多大呢？可从公因子方差表得知：（0.744+0.736+0.718+0.890+0.870+0.880）/6=0.8113公因子方差表提取出来的公因子对每个变量的解释程度到底有多大呢因子旋转为了对公因子F能够更好的解释，可通过因子旋转的方法得到一个好解释的公因子。所谓对公因子更好解释，就是使每个变量仅在一个公因子上有较大的载荷，而在其余的公因子上的载荷比较小。这种变换因子载荷的方法称为因子轴的旋转。因子旋转的方法很多，常用的为方差最大正交旋转。因子旋转为了对公因子F能够更好的解释，可通过因子旋转的方法得这里，第一个因子主要和语文、历史、英语科有很强的正相关；而第二个因子主要和数学、物理、化学三科有很强的正相关。因此可以给第一个因子起名为“文科因子”，而给第二个因子起名为“理科因子”。从这个例子可以看出，因子分析的结果比主成分分析解释性更强。这里，第一个因子主要和语文、历史、英语科有很强的正相关；而第这些系数所形成的散点图（在SPSS中也称载荷图），可以直观看出每个因子代表了一类学科。这些系数所形成的散点图（在SPSS中也称载荷图），可以直观看因子得分在分析中，人们往往更愿意用公共因子反映原始变量，这样更有利于描述研究对象的特征。因而往往将公共因子表示为变量（或样品）的线性组合，即：称上式为因子得分函数，用它可计算每个样品的公因子得分。估计因子得分的方法很多。因子得分在分析中，人们往往更愿意用公共因子反映原始变量，这样可以根据输出，计算出每个学生的第一个因子和第二个因子的大小，即算出每个学生的因子得分f1和f2。可以根据输出，计算出每个学生的第一个因子和第二个因子的大小，人们可以根据这两个函数分别计算出每个学生的两套因子得分，对学生分别按照文科和理科排序。也可以每个因子的方差贡献率为权数，进行加权综合，计算出每个学生的总得分，以此排队。人们可以根据这两个函数分别计算出每个学生的两套因子得分，对学主成分和因子分析的一些注意事项可以看出，因子分析和主成分分析都依赖于原始变量，也只能反映原始变量的信息。所以原始变量的选择很重要。另外，如果原始变量都本质上独立，那么降维就可能失败，这是因为很难把很多独立变量用少数综合的变量概括。数据越相关，降维效果就越好。主成分和因子分析的一些注意事项可以看出，因子分析和主成分分析主成分和因子分析的一些注意事项在得到分析的结果时，并不一定会都得到如我们例子那样清楚的结果。这与问题的性质，选取的原始变量以及数据的质量等都有关系在用因子得分进行排序时要特别小心，特别是对于敏感问题。由于原始变量不同，因子的选取不同，排序可以很不一样。主成分和因子分析的一些注意事项在得到分析的结果时，并不一定会Spss实现Spss选项:Analyze－DataReduction－Factor用Extraction，选择提取公因子的方法（如果是主成分分析，则选PrincipalComponents），用Rotation，选择因子旋转方法（如果是主成分分析就选None），用Scores计算因子得分，再选择Saveasvariables（因子得分就会作为变量存在数据中的附加列上）和计算因子得分的方法（比如Regression）；要想输出ComponentScoreCoefficientMatrix表，就要选择Displayfactorscorecoefficientmatrix；Spss实现Spss选项:Analyze－DataRedu主成分与因子分析实例主成分与因子分析实例主成分分析和因子分析介绍两种把变量维数降低以便于描述、理解和分析的方法：主成分分析（principalcomponentanalysis）和因子分析（factoranalysis）。在引进主成分分析之前，先看下面的例子。主成分分析和因子分析介绍两种把变量维数降低以便于描述、理解和成绩数据100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。成绩数据100个学生的数学、物理、化学、语文、历史、英语的成从本例可能提出的问题目前的问题是，能不能把这个数据的6个变量用一两个综合变量来表示呢？这一两个综合变量包含有多少原来的信息呢？能不能利用找到的综合变量来对学生排序呢？这一类数据所涉及的问题可以推广到对企业、对学校进行分析、排序、判别和分类等问题。从本例可能提出的问题目前的问题是，能不能把这个数据的6个变量主成分分析例中的数据点是六维的；也就是说，每个观测值是6维空间中的一个点。我们希望把6维空间用低维空间表示。先假定只有二维，即只有两个变量，它们由横坐标和纵坐标所代表；因此每个观测值都有相应于这两个坐标轴的两个坐标值；如果这些数据形成一个椭圆形状的点阵（这在变量的二维正态的假定下是可能的）主成分分析例中的数据点是六维的；也就是说，每个观测值是6维空主成分分析那么这个椭圆有一个长轴和一个短轴。在短轴方向上，数据变化很少；在极端的情况，短轴如果退化成一点，那只有在长轴的方向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。主成分分析那么这个椭圆有一个长轴和一个短轴。在短轴方向上，数主成分分析当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。但是，坐标轴通常并不和椭圆的长短轴平行。因此，需要寻找椭圆的长短轴，并进行变换，使得新变量和椭圆的长短轴平行。如果长轴变量代表了数据包含的大部分信息，就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。椭圆（球）的长短轴相差得越大降维也越有道理。主成分分析当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描主成分分析对于多维变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见罢了。首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主成分分析就基本完成了。注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分(principalcomponent)。

主成分分析对于多维变量的情况和二维类似，也有高维的椭球，只不主成分分析正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定。主成分分析正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有对于我们的数据，SPSS输出为：这里的InitialEigenvalues就是这里的六个主轴长度，又称特征值（数据相关阵的特征值）。对于我们的数据，SPSS输出为：这里的InitialEig主成分分析的一般模型主成分分析的一般模型主成分分析其中有以下原则来确定：这时称：Y1是第一主成分

Y2是第二主成分主成分分析其中有以下原则来确定：这时称：Y1主成分的含义由原始数据的协方差阵或相关系数据阵，可计算出矩阵的特征根：主成分的含义由原始数据的协方差阵或相关系数据阵，可计算出矩阵主成分的含义但是，spss软件中没有直接给出主成分系数，而是给出的因子载荷，我们可将因子载荷系数除以相应的，即可得到主成分系数。主成分的含义但是，spss软件中没有直接给出主成分系数，而是由Component1的系数除以，得到：Y1=-0.417x1-0.349x2-0.349x3+0.462x4+0.427x5+0.433x6

Y2=0.183x1+0.275x2+0.265x3+0.158x4+0.225x5+0.220x6这些系数表示主成分和相应的原先变量的相关系数。相关系数(绝对值）越大，主成分对该变量的代表性也越大。由Component2的系数除以，得到：由Component1的系数除以，得到：Y1=主成分分析为什么spss中只取了两个主成分呢？主成分分析为什么spss中只取了两个主成分呢？头两个成分特征值对应的方差累积占了总方差的81.142%，称为累计方差贡献率为81.142%。后面的特征值的贡献越来越少。一般我们取累计方差贡献率达到85%左右的前k个主成分就可以了，因为它们已经代表了绝大部分的信息。Spss中选取主成分的方法有两个：一是根据特征根≥1来选取；另一种是用户直接规定主成分的个数来选取。头两个成分特征值对应的方差累积占了总方差的81.142%，称特征值的贡献还可以从SPSS的所谓碎石图看出特征值的贡献还可以从SPSS的所谓碎石图看出可以把第一和第二主成分的点画出一个二维图以直观地显示它们如何解释原来的变量的。该图左面三个点是数学、物理、化学三科，右边三个点是语文、历史、外语三科。可以把第一和第二主成分的点画出一个二维图以直该图左面三个点因子分析因子分析是主成分分析的推广和发展。为什么要进行因子分析？由主成分分析的模型可知：因子分析因子分析是主成分分析的推广和发展。因子分析我们如果想知道每个变量与公共因子的关系，则就要进行因子分析了。因子分析模型为：因子分析我们如果想知道每个变量与公共因子的关系，则就要进行因因子载荷称为因子载荷（实际上是权数）。因子载荷的统计意义：就是第i个变量与第j个公共因子的相关系数，即表示变量xi依赖于Fj的份量（比重），心理学家将它称为载荷。因子载荷称为因子载荷（实际上是权数）。主成分分析和因子分析实例课件公因子方差表提取出来的公因子对每个变量的解释程度到底有多大呢？可从公因子方差表得知：（0.744+0.736+0.718+0.890+0.870+0.880）/6=0.8113公因子方差表提取出来的公因子对每个变量的解释程度到底有多大呢因子旋转为了对公因子F能够更好的解释，可通过因子旋转的方法得到一个好解释的公因子。所谓对公因子更好解释，就是使每个变量仅在一个公因子上有较大的载荷，而在其余的公因子上的载荷比较小。这种变换因子载荷的方法称为因子轴的旋转。因子旋转的方法很多，常用的为方差最大正交旋转。因子旋转为了对公因子F能够更好的解释，可通过因子旋转的方法得这里，第一个因子主要和语文、历史、英语科有很强的正相关；而第二个因子主要和数学、物理、化学三科有很强的正相关。因此可以给第一个因子起名为“文科因子”，而给第二个因子起名为“理科因子”。从这个例子可以看出，因子分析的结果比主成分分析解释性更强。这里，第一个因子主要和语文、历史、英语科有很强的正相关；而第这些系数所形成的散点图（在SPSS中也称载荷图），可以直观看出每个因子代表了一类学科。这些系数所形成的散点图（在SPSS中也称载荷图），可以直观看因子得分在分析中，人们往往更愿意用公共因子反映原始变量，这样更有利于描述研究对象的特征。因而往往将公共因子表示为变量（或样品）的线性组合，即：称上式为因子得分函数，用它可计算每个样品的公因子得分。估计因子得分的方法很多。因子得分在分析中，人们往往更愿意用公共因子反映原始变量，这样可以根据输出，计算出每个学生的第一个因子和