主成分分析方法讲稿

1、关于主成分分析方法第1页，共60页，2022年，5月20日，17点25分，星期四问题的提出地理系统是多要素的复杂系统。变量太多，会增加分析问题的难度与复杂性，而且多个变量之间是具有一定的相关关系的能否在相关分析的基础上，用较少的新变量代替原来较多的旧变量，而且使这些较少的新变量尽可能多地保留原来变量所反映的信息？ 主成分分析方法就是综合处理这种问题的一种强有力的工具。主成分分析是把原来多个变量划为少数几个综合指标的一种统计分析方法。从数学角度来看，这是一种降维处理技术第2页，共60页，2022年，5月20日，17点25分，星期四1 主成分分析方法的基本原理 假定有n个地理样本，每个样本共有p个

2、变量，构成一个np阶的地理数据矩阵第3页，共60页，2022年，5月20日，17点25分，星期四 当p较大时，在p维空间中考察问题比较麻烦。为了克服这一困难，就需要进行降维处理. 要求：较少的几个综合指标尽量多地反映原来较多变量指标所反映的信息，同时它们之间又是彼此独立的第4页，共60页，2022年，5月20日，17点25分，星期四例，成绩数据100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。 第5页，共60页，2022年，5月20日，17点25分，星期四对于多维变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见首先把高维椭球的主轴找出来，再用代表大多数数据信息的最

3、长的几个轴作为新变量；这样，主成分分析就基本完成注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分.第6页，共60页，2022年，5月20日，17点25分，星期四正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定第7页，共60页，2022年，5月20日，17点25分，星期四定义：记x1

4、，x2，xP为原变量指标，z1，z2，zm（mp）为新变量指标第8页，共60页，2022年，5月20日，17点25分，星期四系数lij的确定原则： zi与zj（ij；i，j=1，2，m）相互无关z1是x1，x2，xP的一切线性组合中方差最大者，z2是与z1不相关的x1，x2，xP的所有线性组合中方差最大者； zm是与z1，z2，zm1都不相关的x1，x2，xP， 的所有线性组合中方差最大者。则新变量指标z1，z2，zm分别称为原变量指标x1，x2，xP的第一，第二，第m主成分 第9页，共60页，2022年，5月20日，17点25分，星期四 从以上的分析可以看出，主成分分析的实质就是确定原来变量

5、xj（j=1，2 ， p）在诸主成分zi（i=1，2，m）上的荷载 lij（ i=1，2，m； j=1，2 ，p）从几何上看,找主成分的问题,就是找出P维空间中椭球体的主轴问题；从数学上容易知道，从数学上可以证明，它们分别是相关矩阵的m个较大的特征值所对应的特征向量第10页，共60页，2022年，5月20日，17点25分，星期四特征值与特征向量与方差-协方差矩阵的联系例如6个样方、2个种的多度数据是：样方123456物种X1564603物种X21187622第11页，共60页，2022年，5月20日，17点25分，星期四数据的中心化样方123456总和物种X11202-4-10物种X25210

6、-4-40第12页，共60页，2022年，5月20日，17点25分，星期四第13页，共60页，2022年，5月20日，17点25分，星期四中心化后的原始数据矩阵第14页，共60页，2022年，5月20日，17点25分，星期四把坐标轴X1、X2刚性地旋转一个角度，得到图中新坐标轴Y1和Y2Y1Y2第15页，共60页，2022年，5月20日，17点25分，星期四6个样方点在新坐标系中位置的数据为：与中心化后的原始数据有如下关系： 第16页，共60页，2022年，5月20日，17点25分，星期四每个平方和都是6个点在相应坐标轴上方差的（6-1）倍 每一项都相当于数据的离差平方和，因为x1j,x2j与

7、y1j,y2j的平均值都为0?第17页，共60页，2022年，5月20日，17点25分，星期四由它的取值只依赖于坐标轴旋转角度一个变量，取极大值的必要条件是对的导数为0。即 =0 =0第18页，共60页，2022年，5月20日，17点25分，星期四所以上述条件等同于因此，如果原坐标旋转后的Y1轴是我们要求的使Var(Y1)最大的直线的话，则必然有Var(Y2)最小，且 。这说明6个样方点对新坐标的离差矩阵应为 是对角矩阵，并且第19页，共60页，2022年，5月20日，17点25分，星期四 和 是对称离差矩阵S的两个特征根（ ），而U的每一行是相应的特征向量 第20页，共60页，2022年，5

8、月20日，17点25分，星期四一、主成分的基本理论第21页，共60页，2022年，5月20日，17点25分，星期四第22页，共60页，2022年，5月20日，17点25分，星期四二、主成分分析的几何解释进行主成分分析的目的，就是找出转换矩阵U第23页，共60页，2022年，5月20日，17点25分，星期四2 主成分分析的解法一、用方差协方差矩阵求解主成分例例:设有一组古生物腕足动物贝壳标本的两个变量:长度和宽度.所测量的数据列于表8-1.第24页，共60页，2022年，5月20日，17点25分，星期四X1X2X1X2321210410121165136681314610131572131771

9、3147891513951713981717914181910720201112第25页，共60页，2022年，5月20日，17点25分，星期四1、方差协方差的计算第26页，共60页，2022年，5月20日，17点25分，星期四主成分分析的实质； 就是要求出方差协方差矩阵的特征向量及其对应的特征值，即要找出方差协方差矩阵所确定的椭球的主轴，交确定其长度第27页，共60页，2022年，5月20日，17点25分，星期四方差协方差矩阵为 求特征值第28页，共60页，2022年，5月20日，17点25分，星期四特征向量的求解当 时, 化为联立方程求得 同理求得 时的特征向量第29页，共60页，2022

10、年，5月20日，17点25分，星期四算出第一主成分I：特征值为37.9，特征向量为第二主成分II：特征值为6.5，特征向量为第30页，共60页，2022年，5月20日，17点25分，星期四特征向量的方向由I、II中包括的两个数字控制第一主成分Z1的方差为37.9，第二主成分Z2的方差为6.5。两者之和恰为X1和X2的总方差44.4。可见，两个主成分Z1、Z2所代表的信息分别为86%和14%。如果用Z1代表原来的数据,则仅损失信息14%。但若用X1和X2来代表原来的数据，则将损失信息46%或54%。第31页，共60页，2022年，5月20日，17点25分，星期四3、主成分得分的计算根据（8-3）

11、式，得到主成分的表达式为第32页，共60页，2022年，5月20日，17点25分，星期四原始数据的主成分得分Z1Z2Z1Z23.480.9315.422.410.14-3.616.171.747.711.213.085.799.96-0.7819.080.5111.46-2.119.83-0.156.123.9321.33-1.4714.37-3.3314.495.8812.030.0619.652.679.693.4520.974.1711.941.4723.971.5316.44-2.4926.130.9611.852.8828.21.816.260.33第33页，共60页，2022年，5

12、月20日，17点25分，星期四二、主成分分析的步骤对原始地理数据第34页，共60页，2022年，5月20日，17点25分，星期四进行标准化处理（标准差标准化），即其中第35页，共60页，2022年，5月20日，17点25分，星期四计算相关系数矩阵R第36页，共60页，2022年，5月20日，17点25分，星期四计算特征值和特征向量根据特征方程 计算特征值，即解的特征多项式，求 并使特征值按从大到小的顺序排列，即列出关于每个特征值的特征向量 第37页，共60页，2022年，5月20日，17点25分，星期四计算主成分贡献率及累计贡献率 贡献率:累计贡献率: 一般取累计贡献率达8595%的特征值所对

13、应的第一、第二、第m（mp）个主成分第38页，共60页，2022年，5月20日，17点25分，星期四计算主成分载荷(主成分Zk与变量xi之间的相关系数) 第39页，共60页，2022年，5月20日，17点25分，星期四各主成分的得分： 第40页，共60页，2022年，5月20日，17点25分，星期四3 特征值与特征向量的计算方法雅可比法适合于对称矩阵任一实对称矩阵A，均存在一正交变换矩阵T，使那么 就是A的特征向量，T的列向量就是相应的特征向量第41页，共60页，2022年，5月20日，17点25分，星期四二维情况如令 则将原始矩阵A化成了对角矩阵 。由于T是正交阵，A和对角线元素之和都等于a

14、11+a22第42页，共60页，2022年，5月20日，17点25分，星期四雅可比法的计算步骤1、选择对称矩阵中非对角线元素最大者，记为2、作正交变换第43页，共60页，2022年，5月20日，17点25分，星期四假设在原始矩阵的对角线以外元素中，以的绝对值为最大。设，作一个转轴变换第44页，共60页，2022年，5月20日，17点25分，星期四第45页，共60页，2022年，5月20日，17点25分，星期四第46页，共60页，2022年，5月20日，17点25分，星期四第47页，共60页，2022年，5月20日，17点25分，星期四4 主成分分析方法应用实例第48页，共60页，2022年，5

15、月20日，17点25分，星期四第49页，共60页，2022年，5月20日，17点25分，星期四第50页，共60页，2022年，5月20日，17点25分，星期四第51页，共60页，2022年，5月20日，17点25分，星期四例2,根据表1中给出的数据，对某农业生态经济系统做主成分分析表1 某农业生态经济系统各区域单元的有关数据 第52页，共60页，2022年，5月20日，17点25分，星期四第53页，共60页，2022年，5月20日，17点25分，星期四步骤如下：将表中的数据作标准差标准化处理，然后将它们代入公式计算相关系数矩阵表2相关系数矩阵 第54页，共60页，2022年，5月20日，17点

16、25分，星期四 （2）由相关系数矩阵计算特征值，以及各个主成分的贡献率与累计贡献率（见表3）。由表3可知，第一，第二，第三主成分的累计贡献率已高达86.596%（大于85%），故只需要求出第一、第二、第三主成分z1，z2，z3即可。 第55页，共60页，2022年，5月20日，17点25分，星期四表3特征值及主成分贡献率 第56页，共60页，2022年，5月20日，17点25分，星期四 （3）对于特征值=4.6610，=2.0890，=1.0430分别求出其特征向量e1，e2，e3，再用公式计算各变量x1，x2，x9在主成分z1，z2，z3上的载荷（表4）。 第57页，共60页，2022年，5月20日，17点25分，星期四表4 主成分载荷 第58页，共60页，2022年，5月20日，17点25分，星期四 第一主成分z1