本人根据方积乾老师讲课内容整理的多元统计分析5课件

1、生物医学研究的统计方法之十九因子分析10/15/20221厚德载物 自强不息因子分析Factor AnalysisFactor Analysis10/15/20222主成分分析：以原变量的线性组合将原变量组合成少数几个主成分。因子分析：将原变量分解成几个公因子的线性组合，从而更好地理解原变量的内在关系。10/15/20223厚德载物 自强不息回顾：主成分分析的任务将彼此相关的指标变量转化为彼此不相关的指标变量；将个数较多的指标变量转化为个数较少的指标变量。将意义单一的指标变量转化为意义综合的指标变量。10/15/20224厚德载物 自强不息主成分分析的基本原理寻找一个适当的线性变换：将彼此相关

2、的变量转变为彼此不相关的新变量；方差较大的几个新变量就能综合反应原多个变量所包含的主要信息；新变量各自带有独特的专业含义。10/15/20225厚德载物 自强不息变量的可测性可测变量(measured variable)：可以直接观察或测量而得到的变量。潜在变量(latent variable)：不能或不易直接观测得到的变量。这种变量往往是根据某种理论假设的，所以也称为理论变量(theoretical variable)。10/15/20227厚德载物 自强不息仅包含一个潜在因子的探索性因子分析路径图潜在因子其他影响因子10/15/20228厚德载物 自强不息数学模型 假设原有变量有p个，标准

3、化后分别用 表示，且每个变量的均值是0，标准差是1，现将每个原有变量用m（mp）个因子 的线性组合来表示，即：因子模型F称为公共因子，简称因子，其均值为0，标准差为1。因子可理解为高维空间中互相垂直的k个坐标轴；A称为因子载荷矩阵， 称为因子载荷， 是第i个原始变量在第j个因子上的负荷； 称为特殊因子，表示原始变量不能被因子解释的部分。10/15/202210厚德载物 自强不息因子分析数学模型可测变量（measured variable）潜在因子（latent variable）,共性因子（common factor）因子载荷（factor loading）度量误差（measurement e

4、rror）,特殊因子（special factor）10/15/202211厚德载物 自强不息因子模型矩阵表示10/15/202212厚德载物 自强不息共性方差和个性方差共性方差(共同度)：反映Xi信息中被潜在因子解释的比例个性方差共性方差10/15/202214厚德载物 自强不息共性方差和个性方差10/15/202215厚德载物 自强不息因子贡献和因子贡献率因子贡献：因子fj对所有原始指标的贡献因子贡献率（ ）：因子fj对所有原始指标的方差贡献率10/15/202217厚德载物 自强不息因子分析的基本步骤1、因子分析的前提条件； 因子分析的前提条件是原始变量之间应 存在较强的相关关系。 2、

5、因子提取，计算因子负荷； 3、使因子更具有命名可解释性，解释变量间的关系； 4、计算各样本的因子得分。10/15/202218厚德载物 自强不息因子分析的步骤估计因子载荷确定因子个数解释潜在因子的实际意义计算因子得分10/15/202219厚德载物 自强不息估计因子载荷求原始变量相关矩阵；求相关矩阵的特征根(因子的贡献)，并排序计算所有特征根对应的所有线形无关的特征向量；特征向量转置，乘以特征根的平方根，即得到因子载荷。10/15/202220厚德载物 自强不息确定因子个数一般原则：累积贡献率（累积方差）达到7085；特征根1。10/15/202221厚德载物 自强不息解释潜在因子的实际意义解

6、释潜在因子的实际意义，一般以因子载荷的大小为依据。因子载荷大的指标变量受潜在因子支配的作用大。如何判别因子载荷的大小？当因子载荷大于或等于0.5时，可认为该因子f支配对应的指标X。10/15/202222厚德载物 自强不息特征向量 Eigenvectors Prin1 Prin2 Prin3 Prin4 Prin5 Prin6 x1 0.522252 -.195699 -.189953 -.253741 0.226568 0.732908 x2 0.525559 -.080164 -.167681 -.388390 0.304015 -.667812 x3 0.511208 -.181857

7、-.103986 0.334729 -.758103 -.089540 x4 0.345993 -.046978 0.741653 0.456060 0.346103 -.015969 x5 0.188783 0.656595 -.470338 0.498021 0.252640 0.013219 x6 0.185358 0.699199 0.392072 -.465521 -.312900 0.091793第一主成分：C1=0.522252x1+0.525559x2+0.511208x3+0.345993x4+0.188783x5+0.185358x610/15/202224厚德载物 自强不

8、息主成分分析法因子模型（全分量模型）表达形式 由 C=Ax反解为x=AC 即矩阵A称载荷矩阵，反映各成分对原始变量x各分量的贡献大小。10/15/202225厚德载物 自强不息x=Lclij是xj和ci的相关系数SPSS输出的系数矩阵是L矩阵10/15/202227厚德载物 自强不息实例主成分分析法特征值（方差）及其比例10/15/202228厚德载物 自强不息主成分分析分析法L矩阵注意L矩阵的下标，是列在前，行在后10/15/202229厚德载物 自强不息主成分分析法L矩阵注意L矩阵的下标，是列在前，行在后10/15/202230厚德载物 自强不息迭代主成分(主因子)分析法 1. 收集原始数

9、据并整理为下表 10/15/202231厚德载物 自强不息2.对各指标进行标准化3.求指标间的相关系数矩阵RX4.求指标间的约相关系数矩阵R* （1）R*的非对角线元素与相关矩阵RX的 非对角线元素相等 （2）R*的对角线元素为共性方差10/15/202232厚德载物 自强不息5. 求出约关系数矩阵R*所有大于零的特 征值及相应的特征向量6. 写出因子载荷阵A，得出原始指标X的 公因子表达式10/15/202233厚德载物 自强不息要求：1. 保留公因子个数q小于指标个数m，原则： j1 前k个公因子累积贡献率70%2. 各共性方差 接近于1。3. 各原始指标在同一公因子Fj上的因子载荷 之间

10、的差别应尽可能大。10/15/202234厚德载物 自强不息林登(Linden)根据他收集的来自139名运动员的比赛数据，对第二次世界大战以来奥林匹克十项全能比赛的得分作了因子分析研究。这十个全能项目为：100米跑( )，跳远( )，铅球( )，跳高( )，400米跑( )，110米跨栏( )，铁饼( )，撑杆跳高( )，标枪( )，1500米跑( )。经标准化后所作的因子分析表明，十项得分基本上可归结于他们的短跑速度、爆发性臂力、爆发性腿力和耐力这四个方面，每一方面都称为一个因子。十项得分与这四个因子之间的关系可以描述为如下的因子模型： 其中 表示四个因子，称为公共因子， 称为 在因子 上的

11、载荷， 是 的均值， 是 不能被四个公共因子解释的部分，称之为特殊因子。10/15/20223510/15/202236厚德载物 自强不息10/15/202237厚德载物 自强不息一、主成分法10/15/202238厚德载物 自强不息10/15/202239厚德载物 自强不息10/15/202240厚德载物 自强不息10/15/202241厚德载物 自强不息10/15/202242厚德载物 自强不息10/15/202243厚德载物 自强不息10/15/202244厚德载物 自强不息10/15/202245厚德载物 自强不息10/15/202246厚德载物 自强不息10/15/202247厚德载

12、物 自强不息因子旋转当各公因子的专业意义难以解释时，可以 通过因子旋转来解决。如求得的因子载荷阵A不甚理想，可右乘 一个正交阵T，使AT有更好的实际意义， 使各原始指标在同一公因子上 之间 差别尽可能增大。称因子正交旋转。正交旋转可保持各指标的共性方差不变； 各公因子互不相关。常用方差最大旋转法等。10/15/202248厚德载物 自强不息假设公因子Fj的解释能力能够以其因子载荷平方的方差来度量，考虑两个因子的平面正交旋转，设因子载荷矩阵为:正交阵记10/15/202249厚德载物 自强不息经过旋转要求两组数据的方差达到最大。即10/15/202250厚德载物 自强不息将V对求导，并令其为零，

13、经过计算，其旋转角度可按下面公式求得其中由此就可以得出的取值范围。10/15/202251厚德载物 自强不息几点注意 1.因子分析的解不唯一（1）同一问题可以有不同的因子分析解： 主成分解、主因子解、极大似然解（2）进行因子旋转以获得更为满意的解。2.因子得分 不能直接进行计算，但可以估计。 10/15/202252厚德载物 自强不息3.主成分分析与因子分析间的关系（1）两者的分析重点不一致 Z=AX主成分为原始变量线性组合，重点在综合原始变量信息。 X=AF+e原始变量为公因子与特殊因子线性组合，公因子重点反映支配原始变量的不可观测的潜在因素。重要10/15/202253厚德载物 自强不息（2）两者之间有密切的关系