实例说明利用Excel进行主成分分析讲解

1、方法:1 利用 Excel2000 进行主成分分析第一步，录入数据，并对进行标准化。【例】一组古生物腕足动物贝壳标本的两个变量：长度和宽度。图 1 原始数据和标准化数据及其均值、方差 （取自张超、杨秉庚计量地理学基础）计算的详细过程如下： 将原始数据绘成散点图 （图 2 ）。主持分分析原则上要求数据具有线性相关趋势 如果数据之间不相关（即正交），则没有必要进行主成分分析，因为主成分分析的目的 就是用正交的变量代替原来非正交的变量；如果原始数据之间为非线性关系，则有必要对数据进行线性转换，否则效果不佳。从 图 2 可见，原始数据具有线性相关趋势，且测定系 数 R2=0.4979，相应地，相关系数

2、 R=0.7056 。 对数据进行标准化 。标准化的数学公式为*xijx jxi*jj这里假定按列标准化，式中1nxijxijni1分别为第 j 列数据的均值和标准差， 量）的数据， xi*j 为相应于 xij 的标准化数据， n 25 为样本数目。n2（xij xj ）i1xij 为第 i 行（即第 i 个样本）、第 j 列（即第 j 个变ijVar(xij )图 2 原始数据的散点图对数据标准化的具体步骤如下： 求出各列数据的均值，命令为 average，语法为： average（起 始 单 元 格 :终 止 单 元 格 ） 。 如 图 1 所 示 ， 在 单 元 格 B27 中 输 入

3、“=AVERAGE（B1 :B26） ”，确定或回车，即得第一列数据的均值x1 10.88；然后抓住单元格 B27 的右下角（ 光标的十字变细 ）右拖至 C27 ，便可自动生成第二列数据的均值 x2 10.68 。 求各列数据的方差。命令为 varp，语法同均值。如 图 1所示，在单元格 B28 中输入 “ =VARP（B2:B26） ”，确定或回车，可得第一列数据的方差Var（x1） 19.4656 ，右拖至C28 生成第二列数据的方差 Var（x2） 23.0976。 求各列数据的标准差。将方差开方便得标准差。也可利用命令stdevp 直接生成标准差，语法和操作方法同均值、方差，不赘述。

4、标准化计算。如 图 1 所示，在单元格 D2 中输入“ =（B2-$B$27）/$B$29 ”，回车可得 第一列第一个数据“ 3”的标准化数值 -1.786045 ，然后按住单元格 D2 的右下角下拖至 D26，便会生成第一列数据的全部标准化数值；按照单元格D2 的右下角右拖至 E2，就能生成第二列第一个数据“ 2”的标准化数据 -1.806077 ，抓住单元格 E2 的右下角下拖至 E26便会生成第二列数据的全部标准化数值。 作标准化数据的散点图（ 图 3 ）。可以看出，点列的总体趋势没有变换，两种数据的相关系数与标准化以前完全相同。但回归模型的截距近似为0，即有 a 0 ，斜率等于相关系数

5、，即有 b R 。 求标准化数据的相关系数矩阵或协方差矩阵 。求相关系数矩阵的方法是：沿着“工具 （T）” “数据分析（ D）”的路径打开“分析工具（ A）”选项框（ 图 4），确定，弹 出“相关系数”对话框（ 图 5），在“输入区域”的空白栏中输入标准化数据范围，并以 单元格 G1 为输出区域，具体操作方法类似于回归分析。确定，即会在输出区域给出相关图 4 分析工具选项框图 5 相关系数对话框 系数矩阵的下三角即对角线部分，由于系对称矩阵，上三角的数值与下三角相等，故未给 出（图 6），可以通过“拷贝 转置粘帖”的方式补充空白部分。图 6 标准化数据的相关系数和协方差求协方差的方法是在“分析

6、工具”选项框中选择“协方差”（ 图 7），弹出“协方差” 选项框（ 图 8），具体设置与“相关系数”类似，不赘述。结果见图 6，可以看出，对于标准化数据而言，协方差矩阵与相关系数矩阵完全一样。因此，二者任取其一即可。图 7 在分析工具选项框中选择“协方差”图8 协方差选项框 计算特征根 。我们已经得到相关系数矩阵为1 0.7056 C0.7056 1 而二阶单位矩阵为I 10 01 于是根据公式 det( I C) 0 ，我们有1010.705610.7056010.705610.705610按照行列式化为代数式的规则可得( 1)2 0.705622 2 0.5021 0根据一元二次方程的求根

7、公式，当 b2 4ac 0 时，我们有b b2 4ac2a这便是据此解得 1 1.7056， 2 0.2944(对于本例，显然 1 1 R ， 2 1 R) 相关系数矩阵的两个特征根。( I C)0 ，得到0.7056 100.705620 求标准正交向量 。将 1 代入矩阵方程0.70560.7056 在系数矩阵 I C 中，用第一行加第二行，化为0.7056 0.7056 1 0 0 0 2 0 由此得 12 ，令 1 1，则有 2 1，于是得基础解系1 1 ，单位化为 e1 0.70711 1 1 0.7071单位化的公式为 eii（i 1,2 ）1222完全类似，将 2 代入矩阵方程

8、（ I0.70560.7056 用系数矩阵的第二行减去第一行，化为0.7056 0C)0，得到0.7056 1 00.7056 20 于是得到 1 2 ，取 1 1，则有 2 1，121 这里 e1、e2 便是标准正交向量。，单位化为0.7056 10.7056 12因此得基础解系为0.7071 e22 0.70710 求对角阵 。首先建立标准正交矩阵P e1P，即有e200.770077110.70710.70710.7071该矩阵的一个特殊性质便是 PT P 1 ，即矩阵的 转置等于矩阵的 逆。根据 D PTCP ， 可知D 0.7071 0.7071 1 0.7056 0.7071 0.

9、70711.7056 0D 0.7071 0.7071 0.7056 1 0.7071 0.7071 0 0.2934 下面说明一下利用 Excel 进行矩阵乘法运算的方法。矩阵乘法的命令为 mmult ，语法是 mmult （矩阵 1 的单元格范围，矩阵 2 的单元格范围 ）。例如，用矩阵 PT 与矩阵 C 相乘， 首先选择一个输出区域如 G1:H2 ，然后输入“ =mmult（A1:B2,C1:D2） ”，然后按下 “Ctrl+Shift+Enter ”键（ 图 9），即可给出1.206044 1.2060440.20817 -0.20817 再用乘得的结果与 P 阵相乘，便得对角矩阵1.

10、705603 00 0.294397如 果 希 望 一 步 到 位 也 不 难 ， 选 定 输 出 区 域 如 C3:D4 ， 然 后 输 入 “=mmult（mmult（A1:B2,C1:D2）,E1:F2） ” （ 图 10），同时按下“ Ctrl+Shift+Enter ”键，立 即得到结果（ 图 11）。显然，对角矩阵对角线的数值恰是相关系数矩阵的特征值。图9 矩阵乘法示例图 10 矩阵连乘的命令与语法至此，标准化的原始变量 x 与主成分之间 z之间可以表作0.71056显然 z1与 z2 之间正交。x1 x20.7056 x1z11x211.7056 0 z10 0.2944 z2图

11、 11 乘法结果：对角矩阵 根据特征根计算累计方差贡献率 。现已求得第一特征根为 1 1.7056 ，第二特征根为2 0.2944，二者之和刚好就是矩阵的维数，即有1 2 m 2 ，这里 m=2 为变量数目(注意前面的 n=25为样本数目)。比较 图 6或图 10中给出的相关系数矩阵 C与图 11 中给出的对角矩阵 D 可以看出， Tr.(C)=1+1=2 ， Tr.(D)=1.7056+0.2944=2 ，即有 Tr.(C)= Tr.(D) ，可见将相关系数亦即协方差矩阵转换为对角矩阵以后，矩阵的迹(trace，即对角线元素之和)没有改变，这意味着将原始变量化为主成分以后，系统的信息量没有减

12、少。 现在问题是，如果我们只取一个主成分代表原来的两个变量，能反映原始变量的多少信 息？这个问题可以借助相关系数矩阵的特征根来判断。利用 Excel 容易算出，第一特征根 占特征根总和即矩阵维数的 85.28%(见下表 )，即有特征根 累计值 百分比 累计百分比1.705603 1.705603 85.28% 85.28%0.294397 2 14.72% 100.00% 也就是说：1 ： 1.7056， 1 /m 1.7056/ 2 85.28%2 ： 0.2944， 2 /m 0.2944/ m 14.72%1 2 ： 2， ( 1 2 )/m 2/2 100% 这表明，如果仅取第一个主成

13、分，可以反映原来数据85.28%的信息换言之，舍弃第二个主成分，原来数据的信息仅仅损失14.72%，但分析变量的自由度却减少一个，整个分析将会显得更加简明。 计算主成分载荷 。根据公式 jj ej ，容易算出0.2944 0.7071 0.38370.7071 0.38371.7056 00.77007711 00.992233552 计算公因子方差和方差贡献 。根据上述计算结果可以比较公因子方差和方差贡献。再 考虑全部的两个主成分的时候，对应于1和 2 的公因子方差分别为V1ij 2 0.92352 0.38372 1jV2ij 2 0.92352 ( 0.3837)2 1j对应于第一主成分

14、 z1和第二主成分 z2 的方差贡献分别为CV1ij 0.92352 0.92352 1.7056iCV2ij 0.38372 ( 0.3837) 2 0.2944i可以看出( 图 12)： 第一，方差贡献等于对应主成分的特征根，即有CVj j第二，公因子方差相等或彼此接近，即有V1 V2第一，公因子方差之和等于方差贡献之和，即有ViCVj m 2ij第一个规律是我们决定提取主成分数目的判据与之一，第二个规律是我们判断提取主成分 数目是否合适的判据之一，第三个规律是我们判断提取主成分后是否损失信息的判据之 一。去掉次要的主成分以后，上述规律理当仍然满足。这时如果第二个规律不满足，就意 味着主成

15、分的提取是不合适的。此外，上述规律也是我们检验计算结果是否正确的判据之图 12 公因子方差、方差贡献的计算结果及其与特征根的贡献 计算主成分得分。根据主成分与原始变量的关系，应有Z PT X或者对于本例而言，式中P e1 e2 e11 e120.7071 0.7071e21 e220.7071 0.7071X PZe22 T 为前面计算的标准化特征向量。于是有z10.7071 0.7071 x111z2 0.7071 0.7071 x2化为代数形式便是z1 0.7071x1 0.7071x2z2 0.7071x1 0.7071x2式中的 x均为标准化数据。对 Z PTX 进行转置，可得ZT X

16、 TP图 14 计算主成分得分根据这个式子，利用 Excel 计算主成分得分的步骤如下： 将特征向量复制到标准化数据的附近； 选中一个与标准化数据占据范围一样大小的数值区域（如G2:H26）； 输入如下计算公式“ =mmult（ 标准化数据的范围，特征向量的范围 ） ”，在本例中就是 “=MMULT（B2:C26,E2:F3）”（ 图 13）； 同时按下“ Ctrl+Shift+Enter ”键。 计算主成分得分的均值和方差，可以发现，均值为0 （由于误差之故，约等于 0 ），方差等于特征根。 最后，可以对主成分得分进行标准化。已知主成分得分的均值为 0, 我们不按总体方差 进行标准化，而按样

17、本方差进行标准化。10图 15 主成分得分的标准化结果样本方差的计算公式为1 n 2Var( x j )1(xij xj )2n 1 i 1 相应地，标准差为1 n 2jVar(xj )(xij xj )2n 1 i 1 标准化公式同前面给出的一样。结果见 表 15。注意，这里之所以按样本方差进行标准化， 主要目的是为了与 SPSS的计算结果进行比较。分别以 z1、 z2 为坐标轴，将主成分得分(包括标准化的得分)点列标绘于坐标图中， 可以发现，点列分布没有任何趋势：回归结果表明，回归系数和相关系数均为零，即有 a 0， b 0， R 0(图 16，图 17)。这从几何图形上显示：主成分之间是

18、正交的， 即有cos0(试将图 16、图17与图 2、图3对比)。11主成分得分的空间分布1.5000001.000000分得分成主-二0.5000000.000000000 -2.000000 -1.000000 0.000 -0.500000y = -7E-17x - 2E-16 R2 = 2E-32000 1.000000 2.000000 3.000000 4.000000-1.000000 1.500000第一主成分得分图 16 主成分得分的相关系数为零主成分得分的空间分布（标准化）分得分成主二21.510.50y = -2E-16x - 4E-17 R2 = 3E-32-2 -1 -0.5 0-1-1.5123第一主成分得分图 17 主成分得分的相关系数为零（标准化）最后可以验证因子载荷即为(标准化)原始数据与主成分得分之间的相关系数，容易 算出(x1,z1) Correl( x1, z1 ) 0.9235 ，(x2,z1) Correl