因子和主成分分析

1、因子分析 因子是一种多变量化简技术。目的是分解原始变量，从中归纳出潜在的“类别”，相关性 较强的指标归为一类，不同类间变量的相关性较低。每一类变量代表了一个“共同因子”，即一种内在结构，因子分析就是要寻找该结构。1因子分析概述 如下面的5个变量中含有两个独立的公共因子F1和F2。再假设这五个变量分别是基本建设投资、平均工资水平、商品零售价格指数、居民消费水平 。 Z1=0.02F10.99F2 1 Z2=0.94F10.01F2 2 Z3=0.13F10.98F2 3 Z4=0.84F10.42F2 4 Z5=0.97F10.02F2 52因子分析概述 概述第一公因子主要影响居民消费水平可能就

2、是居民消费指数、第二公因子则主要影响基本建设投资，代表投资水平。代表特殊因子，只对当前变量有影响，表示该变量中独特的，不能被公因子所解释的。因子分析的目的就是以公共因子来代替变量。3因子分析数学模型中的相关参数4因子旋转建立因子分析数学模型的目的不仅仅是找出公共因子，并且对变量进行分组，更重要的是知道每一个变量的意义，以便于我们对问题作出科学的分析，因子载荷矩阵不是唯一的，可以通过相应的正交变换生成另外的一个载荷矩阵。初始载荷矩阵中往往出现各个因子的代表变量不是很突出，大多数因子与许多变量相关，容易使得因子的含义不清，不利于对因子的解释，这时候就要进行因子旋转。因子旋转的方法常见的正交旋转、斜

3、交旋转、直接斜交旋转、四次最大正交旋转等5因子分析概述方法用途研究设计阶段/问卷效果评估阶段评价问卷的结构效度统计分析阶段寻找变量间潜在结构内在结构证实6适用条件样本量适用条件：样本量与变量数的比例应在5：1以上总样本量不得少于100，而且原则上越大越好各变量间必须有相关性KMO统计量：0.9最佳，0.7尚可，0.6很差，0.5以下放弃Bartletts球形检验7因子分析概述标准分析步骤判断是否需要进行因子分析，数据是否符合要求进行分析，按一定标准确定提取的因子数目考察因子的可解释性，并在必要时进行因子旋转，以寻求最佳解释方式如有必要，可计算出因子得分等中间指标供进一步分析使用8公因子数量的确

4、定主成分的累积贡献率：8085以上特征根大于1综合判断因子分析时更重要的是因子的可解释性9国有银行中层管理人员胜任模型研究目的： 以我国中层管理人员为研究对象，从典型性行为和心理出发，揭示优秀职工的特质于行为表现来确定任职者需要的任职要求和相关的素质。10研究设计对国有的工、农、中、建的50名中层管理者进行结构性访谈，收集反映经营管理者任职要求的关键行为，以此确定可能的52个胜任特征。（通过预研究对量表进行修改）对可能的52个特征设计出问卷，对380名中层管理人员进行调查。回收问卷并进行分析。从52项胜任特征中选择出来评定的均值大于5.5的26项胜任特征的（Analyzedescriptive

5、 statistics descriptive）11具体操作解析菜单位置：AnalyzeData Reductionfactor选入全部需要分析的变量相关按钮说明：ExtractionDescriptiveRotationScoreOption12相关按钮说明 Extraction13Mode 设置因子提取的方法这里我们和论文中 的一致选择“主成分分析”Analyze 使用什么矩阵进行因子提取。correlation matrix适用于分析变量的单位测度不同Covariance matrix适用于分析变量的测度单位相同Display指定与因子输出有关的输出项Unrotated factor s

6、olution输出未经旋转的因子scree plot以特征值大小排列的的因子序号为横轴对应的特征值为纵轴的碎石图有助于确定保留多少个因子Extract 用来控制因子提取多少个因子Eigenvalues根据特征值大小来确定提取的数目Number of factor直接指定提取因子的多少maximum iterations for convergence指定因子分析收敛的的最大迭代次数根据数据量而定14相关按钮说明 Descriptive15Univariate descriptive输出各个变量的均数标准差等描述统计量Initial solution输出因子提取前公因子方差Coefficient

7、s 输出原始变量之间的相关系数矩阵Significance 输出相关系数检验的显著水平Determinant输出相关系数矩阵的行列式KMO and Bartlett KMO 检验和球形Bartlett 检验Inverse 输出相关系数矩阵的逆矩阵Reproduced 输出再生相关矩阵Antiimage输出反映象相关阵16相关按钮说明 Rotation17Rotation 因子旋转相关的选项，Varimax 正交旋转也称方差最大旋转Direct Oblimin 直接斜交交旋转Quartimax 四次最大正交旋转Equamax 平均正交旋转Promax 斜交旋转方法Rotated solution

8、输出因子旋转结果Loading plots 输出经旋转后的因子载荷旋转图18相关按钮说明 ScoresSave as variables 将因子作为新变量保存在数据编辑器窗口Display factor 输出因子得分系数矩阵是标准后的得分系数19相关按钮说明 OptionMissing value缺失值的处理方法Coefficient Display format 设置载荷系数的显示格式分别是安载荷系数大小排列和不现实载荷系数小于某一值的。20统计结果分析对以下几个表格的解读：观测变量之间的相关矩阵（correlation Matrix）KMO和Bartlett检验结果公共因子方差（commu

9、nalities）全部方差解释（Total variance Explained）因子载荷矩阵（component Matrix） 和旋转后的因子载荷矩阵（Rotated component Matrix） （因子载荷矩阵转换矩阵旋转后的因子载荷矩阵）21变量间的相关矩阵（correlation）变量间的相关性矩阵给出了变量之间相关系数，同时还包括相关系数检验的显著水平（在设置时指定输出）。相关系数矩阵的值越大约好，说明变量之间的相关性越大，这样就越可能找到公共因子；显著性水平矩阵的值越小越好，说明相关性越显著。下面的Determinant是相 关矩阵的行列式的值。22KMO和Bartlett

10、 检验结果Bartlett检验的目的式看数据是否来自多元正态分布，若差异检验的F值显著表示所取的数据来自正态分布，可以做进一步的检验。检验的值越小效果越好。KMO检验的目的是分析变量之间的简单相关系数和偏相关系数的相对大小，看数据是否合适进行因子分析。0.9最佳，0.7尚可，0.6很差，0.5以下放弃23公共因子方差（communalities） 公共因子方差等于因子载荷矩阵的某行因子载荷的平方和表示的是所有的公共因子对其所在行的观测变量的贡献。 其中Initial 对应的初始方差， Extration 对应的是提取公共因子方差。对应的是根据某种原则提取的公共因子方差。 顺便补充特征根就是对应的因子载荷矩阵某一列的因子载荷的平方和。 具体可以见下图的例子2425全部方差解释（Total variance Explained）Initial eigenvalues 相关系数矩阵的特征值 of variance各成分所解释的方差占总方差的百分比即各个因子特征值占特征值总和的百分比Extraction Sums of Squared Loadings 为因子提出的结果，是未经旋转的因