第八章-SPSS的相关分析和线性回归分析

第八章SPSS相关分析与回来分析本章内容8.1相关分析和回来分析概述8.2相关分析8.3偏相关分析8.4线性回来分析8.5曲线估计8.1相关分析和回来分析概述客观事物之间的关系大致可归纳为两大类，即函数关系：指两事物之间的一种一一对应的关系，如商品的销售额和销售量之间的关系。相关关系（统计关系）：指两事物之间的一种非一一对应的关系，例如家庭收入和支出、子女身高和父母身高之间的关系等。相关关系又分为线性相关和非线性相关。相关分析和回来分析都是分析客观事物之间相关关系的数量分析方法。8.2相关分析相关分析通过图形和数值两种方式，有效地揭示事物之间相关关系的强弱程度和形式。8.2.1散点图它将数据以点的形式画在直角坐标系上，通过视察散点图能够直观的发觉变量间的相关关系及他们的强弱程度和方向。 简洁散点图：表示一对变量间统计关系的散点图。 重叠散点图：表示多对变量间统计关系的散点图。 矩阵散点图：以方形矩阵的形式在多个坐标轴上分别显示多对变量间的统计关系。以3*3矩阵散点图为例。 三维散点图：以立体图的形式呈现三对变量间的统计关系。58.2.2相关系数利用相关系数进行变量间线性关系的分析通常须要完成以下两个步骤：第一，计算样本相关系数r；相关系数r的取值在-1～+1之间r>0表示两变量存在正的线性相关关系；r<0表示两变量存在负的线性相关关系r＝1表示两变量存在完全正相关；r＝-1表示两变量存在完全负相关；r＝0表示两变量不相关|r|>0.8表示两变量有较强的线性关系；|r|<0.3表示两变量之间的线性关系较弱其次，对样原来自的两总体是否存在显著的线性关系进行推断。对不同类型的变量应接受不同的相关系数来度量，常用的相关系数主要有Pearson简洁相关系数、Spearman等级相关系数和Kendall相关系数等。8.2.2.1Pearson简洁相关系数（适用于两个变量都是数值型的数据）Pearson简洁相关系数的检验统计量为：8.2.2.2Spearman等级相关系数Spearman等级相关系数用来度量定序变量间的线性相关关系，设计思想与Pearson简洁相关系数相同，只是数据为非定距的，故计算时并不干脆接受原始数据，而是利用数据的秩，用两变量的秩代替代入Pearson简洁相关系数计算公式中，于是其中的和的取值范围被限制在1和n之间，且可被简化为：假如两变量的正相关性较强，它们秩的变更具有同步性，于是的值较小，r趋向于1；假如两变量的正相关性较弱，它们秩的变更不具有同步性，于是的值较大，r趋向于0；在小样本下，在零假设成立时，Spearman等级相关系数听从Spearman分布；在大样本下，Spearman等级相关系数的检验统计量为Z统计量，定义为：Z统计量近似听从标准正态分布。8.2.2.3Kendall相关Kendall相关接受非参数方法用来度量定序变量间的线性相关关系。它利用变量秩数据计算一样对数目和非一样对数目。例：两变量的秩对为（2，3）、（4，4）、（3，1）、（5，5）、（1，2），对变量x的秩按升序排序后形成的秩对为（1，2）、（2，3）、（3，1）、（4，4）、（5，5）。一样对数目定义为，非一样对数目定义为

10 假如两变量具有较强的正相关，则一样对数目U应较大，非一样对数目V应较小；假如两变量具有较强的负相关，则一样对数目U应较小，非一样对数目V应较大；假如两变量的相关性较弱，则一样对数目U和非一样对数目V应大致相当，大约各占样本数的一半。11检验统计量Kendall统计量的数学定义为： 在小样本下，统计量听从Kendall分布。在大样本下采用的检验统计量为：Z统计量近似听从标准正态分布。

128.2.3计算相关系数的基本操作相关分析用于描述两个变量间关系的亲密程度，其特点是变量不分主次，被置于同等的地位。在Analyze的下拉菜单Correlate吩咐项中有三个相关分析功能子吩咐Bivariate过程、Partial过程、Distances过程，分别对应着相关分析、偏相关分析和相像性测度（距离）的三个spss过程。Bivariate过程用于进行两个或多个变量间的相关分析，如为多个变量，给出两两相关的分析结果。Partial过程，当进行相关分析的两个变量的取值都受到其他变量的影响时，就可以利用偏相关分析对其他变量进行限制，输出限制其他变量影响后的偏相关系数。Distances过程用于对各样本点之间或各个变量之间进行相像性分析，一般不单独运用，而作为聚类分析和因子分析等的预分析。

Bivariate相关分析步骤（1）选择菜单Analyze－Correlate－Bivariate，出现窗口：（2）把参与计算相关系数的变量选到Variables框。（3）在CorrelationCoefficents框中选择计算哪种相关系数。（4）在TestofSignificance框中选择输出相关系数检验的双边（Two-Tailed）概率p值或单边（One-Tailed）概率p值。（5）选中Flagsignificancecorrelation选项表示分析结果中除显示统计检验的概率p值外，还输出星号标记，以标明变量间的相关性是否显著；不选中则不输出星号标记。（6）在Option按钮中的Statistics选项中，选中Cross-productdeviationsandcovariances表示输出两变量的离差平方和协方差。8.2.4相关分析应用举例

为探讨高等院校人文社会科学探讨中立项课题数会受哪些因素的影响，收集1999年31个省市自治区部分高校有关社科探讨方面的数据，探讨立项课题数（当年）与投入的具有高级职称的人年数（当年）、发表的论文数（上年）之间是否具有较强的线性关系。对该问题的探讨可以接受相关分析的方法，首先可绘制矩阵散点图；其次可以计算Pearson简洁相关系数。问题探讨高校立项课题总数影响因素的相关分析中发现立项课题数与论文数之间有较强正线性相关关系，但应看到这种关系中可能掺入了投入高级职称的人年数的影响。178.3偏相关分析8.3.1偏相关分析和偏相关系数上节中的相关系数是探讨两变量间线性相关性的，若还存在其他因素影响，就相关系数本身来讲，它未必是两变量间线性相关强弱的真实体现，往往有夸大的趋势。例如，在探讨商品的需求量和价格、消费者收入之间的线性关系时，需求量和价格之间的相关关系实际还包含了消费者收入对价格和商品需求量的影响。在这种状况下，单纯利用相关系数来评价变量间的相关性明显是不精确的，而须要在剔除其他相关因素影响的条件下计算变量间的相关。偏相关的意义就在于此。偏相关分析也称净相关分析，它在限制其他变量的线性影响的条件下分析两变量间的线性关系，所接受的工具是偏相关系数。限制变量个数为1时，偏相关系数称一阶偏相关；当限制两个变量时，偏相关系数称为二阶偏相关；当限制变量的个数为0时，偏相关系数称为零阶偏相关，也就是简洁相关系数。利用偏相关系数进行分析的步骤第一，计算样本的偏相关系数假设有三个变量y、x1和x2，在分析x1和y之间的净相关时，当限制了x2的线性作用后，x1和y之间的一阶偏相关定义为：

偏相关系数的取值范围及大小含义与相关系数相同。其次，对样原来自的两总体是否存在显著的净相关进行推断检验统计量为：其中，r为偏相关系数，n为样本数，q为阶数。T统计量听从n-q-2个自由度的t分布。8.3.2偏相关分析的基本操作1.选择菜单Analyze－Correlate－Partial2.把参与分析的变量选择到Variables框中。3.选择一个或多个限制变量到Controllingfor框中。4.在TestofSignificance框中选择输出偏相关检验的双尾概率p值或单尾概率p值。5.在Option按钮中的Statistics选项中，选中Zero-orderCorrelations表示输出零阶偏相关系数。至此，SPSS将自动进行偏相关分析和统计检验，并将结果显示到输出窗口。8.3.3偏相关分析的应用举例上节中探讨高校立项课题总数影响因素的相关分析中发觉，发觉立项课题数与论文数之间有较强正线性相关关系，但应看到这种关系中可能掺入了投入高级职称的人年数的影响，因此，为探讨立项课题总数和发表论文数之间的净相关系数，可以将投入高级职称的人年数加以限制，进行偏相关分析。8.4线性回来分析8.4.1线性回来分析概述线性回来分析的内容能否找到一个线性组合来说明一组自变量和因变量的关系假如能的话，这种关系的强度有多大，也就是利用自变量的线性组合来预料因变量的实力有多强整体说明实力是否具有统计上的显著性意义在整体说明实力显著的状况下，哪些自变量有显著意义回来分析的一般步骤确定回来方程中的说明变量（自变量）和被说明变量（因变量）确定回来方程对回来方程进行各种检验利用回来方程进行预料8.4.2线性回来模型一元线性回来模型的数学模型：其中x为自变量；y为因变量；为截距，即常量；为回来系数，表明自变量对因变量的影响程度。

用最小二乘法求解方程中的两个参数，得到：多元线性回来模型多元线性回来方程：y=β0+β1x1+β2x2+...+βkxkβ1、β2、βk为偏回来系数。β1表示在其他自变量保持不变的状况下，自变量x1变动一个单位所引起的因变量y的平均变动。8.4.3线性回来方程的统计检验8.4.3.1回来方程的拟合优度回来直线与各观测点的接近程度称为回来方程的拟合优度，也就是样本观测值聚集在回来线四周的紧密程度。1、离差平方和的分解：建立直线回来方程可知：y的观测值的总变动可由来反映，称为总变差。引起总变差的缘由有两个：由于x的取值不同，使得与x有线性关系的y值不同；随机因素的影响。xy总离差平方和可分解为即：总离差平方和（SST)=剩余离差平方和(SST)+回来离差平方和（SSR)其中；SSR是由x和y的直线回来关系引起的，可以由回来直线做出说明；SSE是除了x对y的线性影响之外的随机因素所引起的Y的变动，是回来直线所不能说明的。2、可决系数（判定系数、确定系数）回来平方和在总离差平方和中所占的比例可以作为一个统计指标，用来衡量X与Y的关系亲密程度以及回来直线的代表性好坏，称为可决系数。对于一元线性回来方程：对于多元线性回来方程：在多元线性回来分析中，引起判定系数增加的缘由有两个：一个是方程中的说明变量个数增多，另一个是方程中引入了对被说明变量有重要影响的说明变量。假如某个自变量引入方程后对因变量的线性说明有重要贡献，那么必定会使误差平方和显著减小，并使平均的误差平方和也显著减小，从而使调整的判定系数提高。所以在多元线性回来分析中，调整的判定系数比判定系数更能精确的反映回来方程的拟合优度。8.4.3.2回来方程的显著性检验（方差分析F检验）回来方程的显著性检验是要检验被说明变量与全部的说明变量之间的线性关系是否显著。对于一元线性回来方程，检验统计量为：对于多元线性回来方程，检验统计量为：8.4.3.3回来系数的显著性检验（t检验）回来系数的显著性检验是要检验回来方程中被说明变量与每一个说明变量之间的线性关系是否显著。对于一元线性回来方程，检验统计量为：

对于多元线性回来方程，检验统计量为：8.4.3.4残差分析残差是指由回来方程计算得到的预料值与实际样本值之间的差距，定义为：

对于线性回来分析来讲，假如方程能够较好的反映被说明变量的特征和规律性，那么残差序列中应不包含明显的规律性。残差分析包括以下内容：残差听从正态分布，其平均值等于0；残差取值与X的取值无关；残差不存在自相关；残差方差相等。1、对于残差均值和方差齐性检验可以利用残差图进行分析。假如残差均值为零，残差图的点应当在纵坐标为0的中心的带状区域中随机散落。假如残差的方差随着说明变量值（或被说明变量值）的增加呈有规律的变更趋势，则出现了异方差现象。2、DW检验。DW检验用来检验残差的自相关。检验统计量为：DW=2表示无自相关，在0-2之间说明存在正自相关，在2-4之间说明存在负的自相关。一般状况下，DW值在1.5-2.5之间即可说明无自相关现象。8.4.3.5多重共线性分析多重共线性是指说明变量之间存在线性相关关系的现象。测度多重共线性一般有以下方式：1、容忍度：其中，是第i个说明变量与方程中其他说明变量间的复相关系数的平方，表示说明变量之间的线性相关程度。容忍度的取值范围在0-1之间，越接近0表示多重共线性越强，越接近1表示多重共线性越弱。2、方差膨胀因子VIF。方差膨胀因子是容忍度的倒数。VIF越大多重共线性越强，当VIF大于等于10时，说明存在严峻的多重共线性。

3、特征根和方差比。依据说明变量的相关系数矩阵求得的特征根中，假如最大的特征根远远大于其他特征根，则说明这些说明变量间具有相当多的重复信息。假如某个特征根既能够刻画某说明变量方差的较大部分比例（0.7以上），又能刻画另一说明变量方差的较大部分比例，则表明这两个说明变量间存在较强的线性相关关系。4、条件指数。指最大特征根与第i个特征根比的平方根。通常，当条件指数在0-10之间时说明多重共线性较弱；当条件指数在10-100之间说明多重共线性较强；当条件指数大于100时说明存在严峻的多重共线性。

8.4.3线性回来分析的基本操作（1）选择菜单Analyze－Regression－Linear，出现窗口：（2）选择被说明变量进入Dependent框。（3）选择一个或多个说明变量进入Independent(s)框。（4）在Method框中选择回来分析中说明变量的筛选策略。其中Enter表示所选变量强行进入回来方程，是SPSS默认的策略，通常用在一元线性回来分析中；Remove表示从回来方程中剔除所选变量；Stepwise表示逐步筛选策略；Backward表示向后筛选策略；Forward表示向前筛选策略。注：多元回来分析中，变量的筛选一般有向前筛选、向后筛选、逐步筛选三种基本策略。向前筛选（Forward）策略：说明变量不断进入回来方程的过程。首先，选择与被说明变量具有最高线性相关系数的变量进入方程，并进行回来方程的各种检验；然后，在剩余的变量中找寻与被说明变量偏相关系数最高且通过检验的变量进入回来方程，并对新建立的回来方程进行各种检验；这个过程始终重复，直到再也没有可进入方程的变量为止。向后筛选（Backward）策略：变量不断剔除出回来方程的过程。首先，全部变量全部引入回来方程，并对回来方程进行各种检验；然后，在回来系数显著性检验不显著的一个或多个变量中，剔除t检验值最小的变量，并重新建立回来方程和进行各种检验；假如新建回来方程中全部变量的回来系数检验都显著，则回来方程建立结束。否则按上述方法再一次剔除最不显著的变量，直到再也没有可剔除的变量为止。逐步筛选（Stepwise）策略：在向前筛选策略的基础上结合向后筛选策略，在每个变量进入方程后再次推断是否存在应当剔除出方程的变量。因此，逐步筛选策略在引入变量的每一个阶段都供应了再剔除不显著变量的机会。（5）第三和第四步中确定的说明变量及变量筛选策略可放置在不同的块（Block）中。通常在回来分析中不止一组待进入方程的说明变量和相应的筛选策略，可以单击Next和Previous按钮设置多组说明变量和变量筛选策略并放置在不同的块中。（6）选择一个变量作为条件变量放到SelectionVariable框中，并单击Rule按钮给定一个推断条件。只有变量值满足判定条件的样本才参与线性回来分析。（7）在CaseLabels框中指定哪个变量作为样本数据点的标记变量，该变量的值将标在回来分析的输出图形中。8.4.4线性回来分析的其他操作1、Statistics按钮，出现的窗口可供用户选择更多的输出统计量。（1）Estimates：SPSS默认输出项，输出与回来系数相关的统计量。包括回来系数（偏回来系数）、回来系数标准误差、标准化回来系数、回来系数显著性检验的t统计量和概率p值，各说明变量的容忍度。（2）ConfidenceIntervals：输出每个非标准化回来系数95％的置信区间。（3）Descriptive：输出各说明变量和被说明变量的均值、标准差、相关系数矩阵及单侧检验概率p值。（4）Modelfit：SPSS默认输出项，输出判定系数、调整的判定系数、回来方程的标准误差、回来方程显著F检验的方程分析表。（5）Rsquaredchange：输出每个说明变量进入方程后引起的判定系数的变更量和F值的变更量。（6）Partandpartialcorrelation：输出方程中各说明变量与被说明变量之间的简洁相关、偏相关系数。（7）Covariancematrix：输出方程中各说明变量间的相关系数、协方差以及各回来系数的方差。（8）CollinearityDiagnostics：多重共线性分析，输出各个说明变量的容忍度、方差膨胀因子、特征值、条件指标、方差比例等。（9）在Residual框中：Durbin-waston表示输出DW检验值；CasewiseDiagnostic表示输出标准化残差确定值大于等于3（SPSS默认值）的样本数据的相关信息，包括预料值、残差、杠杆值等。2、Options选项，出现的窗口可供用户设置多元线性回来分析中说明变量筛选的标准以及缺失值的处理方式。3、Plot选项，出现的窗口用于对残差序列的分析。（1）窗口左边框中各变量名的含义是：DEPENDNT表示被说明变量，*ZPRED表示标准化预料值，*ZRESID表示标准化残差，*DRESID表示剔除残差，*ADJPRED表示调整的预料值，*SRESID表示学生化残差，*SDRESID表示剔除学生化残差。（2）绘制多对变量的散点图，可依据须要在scatter框中定义散点图的纵坐标和横坐标变量。（3）在StandardizedResidualPlots框中选择Histogram选项绘制标准化残差序列的直方图；选择Normalprobabilityplot绘制标准化残差序列的正态分布累计概率图。选择Produceallpartialplots选项表示依次绘制被说明变量和各个说明变量的散点图。4、Save选项，该窗口将回来分析的某些结果以SPSS变量的形式保存到数据编辑窗口中，并可同时生成XML格式的文件，便于分析结果的网络发布。（1）PredictedValues框中：保存非标准化预料值、标准化预料值、调整的预料值和预料值的均值标准误差。（2）Distance框中：保存均值或个体预料值95％（默认）置信区间的下限值和上限值。（3）Residual框中：保存非标准化残差、标准化残差等。（4）InfluenceStatistics框中：保存剔除第i个样本后统计量的变更量。5、WSL选项，接受加权最小二乘法替代一般最小二乘法估计回来参数，并指定一个变量作为权重变量。以高校科研探讨数据为例，建立回来方程探讨1、课题总数受论文数的影响2、以课题总数为被说明变量，说明变量为投入人年数（X2）、受投入高级职称的人年数（X3）、投入科研事业费（X4）、专著数（X6）、论文数（X7）、获奖数（X8）。（1）说明变量接受强制进入策略（Enter），并做多重共线性检测。（2）说明变量接受向后筛选策略让SPSS自动完成说明变量的选择。（3）说明变量接受逐步筛选策略让SPSS自动完成说明变量的选择。

8.4.5应用举例1、为探讨收入和支出的关系，收集1978-2002年我国的年人均可支配收入和年人均消费性支出数据，探讨收入与支出之间是否具有较强的线性关系。2、以年人均支出和教化数据为例，建立回来方程探讨年人均消费支出、恩格尔系数、在外就餐、教化支出、住房人均运用面积受年人均可支配收入的影响。练习问题 探讨居民家庭教化支出和消费性支出之间的关系，收集到1978年至2002年全国人均消费性支出和教化支出的数据。558.5曲线估计8.5.1曲线估计概述变量间的相关关系中，并不总是表现出线性关系，非线性关系也是极为常见的。变量之间的非线性关系可以划分为本质线性关系和本质非线性关系。本质线性关系是指变量关系形式上虽然呈非线性关系，但可通过变量变换为线性关系，并最终可通过线性回来分析建立线性模型。本质非线性关系是指变量关系不仅形式上呈非线性关系，而且也无法变换为线性关系。本节的曲线估计是解决本质线性关系问题的。常见的本质线性模型有：1、二次曲线（Quadratic），方程为，变量变换后的方程为2、复合曲线（Compound），方程为，变量变换后的方程为3、增长曲线（Growth），方程为，变量变换后的方程为4、对数曲线（Logarithmic），方程为，变量变换后的线性方程为5、三次曲线（Cubic），方程为，变量变换后的方程为6、S曲线（S），方程为，变量变换后的方程为7、指数曲线（Exponential），方程为，变量变换后的线性方程为8、逆函数（Inverse），方程为变量变换后的方程为9、幂函数（Power），方程为变量变换后的方程为10、逻辑函数（Logistic），方程为变量变换后的线性方程为-SPSS曲线估计中，首先，在不能明确原委哪种模型更接近样本数据时，可在多种可选择的模型中选择几种模型；然后SPSS自动完成模型的参数估计，并输出回来方程显著性检验的F值和概率p值、判定系数R2等统计量；最终，以判定系数为主要依据选择其中的最优模型，并进行预料分析等。另外，SPSS曲线估计还可以以时间为说明变量实现时间序列的简洁回来分析和趋势外推分析。8.5.2曲线估计的基本操作可通过绘制并视察样本数据的散点图粗略确定被说明变量和说明变量之间的相关关系，为曲线拟合中的模型选择供应依据。SPSS曲线估计的基本操作步骤是：（1）选择菜单Analyze－Regression－CurveEstimation，出现窗口如下页所示。（2）把被说明变量选到Dependent框中。（