多元线性回归分析

1、 多元线性回归多元线性回归学习目标学习目标l多元线性回归模型、回归方程与估计的回归方多元线性回归模型、回归方程与估计的回归方程程l回归方程的拟合优度与显著性检验回归方程的拟合优度与显著性检验l利用回归方程进行预测利用回归方程进行预测l用用Excel和和SPSS进行回归分析进行回归分析1.1 回归模型与回归方程回归模型与回归方程多元回归模型多元回归模型 (multiple linear regression model)1. 一个因变量与两个及两个以上自变量的回归一个因变量与两个及两个以上自变量的回归2. 描述因描述因变量变量 y 如何依赖于自变量如何依赖于自变量 x1 ， x2 ， xk 和误

2、差项和误差项 的方程，称为多元回归模型的方程，称为多元回归模型3. 涉涉及及 k 个自变量的多元线性回归模型可表示为个自变量的多元线性回归模型可表示为多元回归模型多元回归模型(基本假定基本假定) 1. 正态性。误正态性。误差项差项是一个服从正态分布的随机是一个服从正态分布的随机变量，且期望值为变量，且期望值为0，即，即N(0, 2)2. 方差方差齐性。齐性。对于对于自变量自变量x1，x2，xk的所有的所有值，值， 的方差的方差 2都相同都相同3. 独立独立性。性。对于自变量对于自变量x1，x2，xk的的一组特一组特定值，它所对应的定值，它所对应的 与任意一组其他值所对应与任意一组其他值所对应的

3、不相关的不相关总结：零均值；等方差；无自相关；与解释变量不相关；正态性假定总结：零均值；等方差；无自相关；与解释变量不相关；正态性假定多元线性回归方程多元线性回归方程 (multiple linear regression equation)1. 描描述因变量述因变量 y 的平均值或期望值如何依赖于自的平均值或期望值如何依赖于自变量变量 x1， x2 ，xk的方程的方程2. 多多元线性回归方程的形式为元线性回归方程的形式为v E( y ) = 0+ 1 x1 + 2 x2 + k xk估计的多元线性回归的方程估计的多元线性回归的方程(estimated multiple linear regr

4、ession equation)1. 用样本统计量用样本统计量 估计回归方程估计回归方程中的中的 参数参数 时得到的方程时得到的方程2. 由最小二乘法求得由最小二乘法求得3. 一般形式为一般形式为1.2 参数的最小二乘估计参数的最小二乘估计参数的最小二乘估计参数的最小二乘估计参数的最小二乘法参数的最小二乘法(例题分析例题分析)2008年年8月月参数的最小二乘估计参数的最小二乘估计(例题分析例题分析)2.1 回归方程的拟合优度回归方程的拟合优度多重判定系数多重判定系数(multiple coefficient of determination) 1. 回归平方和占总平方和的比例回归平方和占总平方

5、和的比例2. 计算公式为计算公式为3. 因变量取值的变差中，能被估计的多元回归方程因变量取值的变差中，能被估计的多元回归方程所解释的比例所解释的比例 修正多重判定系数修正多重判定系数(adjusted multiple coefficient of determination) 1. 用样本量用样本量n和自变量的个数和自变量的个数k去修正去修正R2得到得到 2. 计算公式为计算公式为3. 避免增加自变量而高估避免增加自变量而高估 R24. 意义与意义与 R2类似类似5. 数值小于数值小于R22008年年8月月多重相关系数多重相关系数(multiple correlation coefficie

6、nt) 1. 多重判定系数的平方根多重判定系数的平方根R2. 反映因变量反映因变量y与与k个自变量之间的相关程度个自变量之间的相关程度3. 实际上实际上R度量的是因变量的观测值度量的是因变量的观测值 与由多元回与由多元回归方程得到的预测值归方程得到的预测值 之间的关系强度，即多之间的关系强度，即多重相关系数重相关系数R等于因变量的观测值等于因变量的观测值 与估计值与估计值 之间的简单相关系数之间的简单相关系数v (一元相关系数一元相关系数r也是如此，也是如此，即即 。读者自己去验证。读者自己去验证)估计标准误差估计标准误差 Se1. 对误差项对误差项 的标准差的标准差 的的一个估计值一个估计值

7、2. 衡量多元回归方程的拟合优度衡量多元回归方程的拟合优度3. 计算公式为计算公式为2.2 显著性检验显著性检验线性关系检验线性关系检验1. 检验因变量与所有自变量之间的线性关系是检验因变量与所有自变量之间的线性关系是否显著否显著2. 也被称为总体的显著性检验也被称为总体的显著性检验3. 检验方法是将回归均方检验方法是将回归均方(MSR)同残差均方同残差均方(MSE)加以比较，应用加以比较，应用 F 检验来分析二者检验来分析二者之间的差别是否显著之间的差别是否显著如果是显著的，因变量与自变量之间存在线性关系如果不显著，因变量与自变量之间不存在线性关系线性关系检验线性关系检验1. 提出提出假设假

8、设H0：12k=0 线性关系不显著H1：1，2， k至少有一个不等于0回归系数的检验回归系数的检验1. 线性关系检验通过后，对各个回归系数有选择地线性关系检验通过后，对各个回归系数有选择地进行一次或多次检验进行一次或多次检验2. 究竟要对哪几个回归系数进行检验，通常需要在究竟要对哪几个回归系数进行检验，通常需要在建立模型之前作出决定建立模型之前作出决定3. 对回归系数检验的个数进行限制，以避免犯过多对回归系数检验的个数进行限制，以避免犯过多的第的第类错误类错误(弃真错误弃真错误) 4. 对每一个自变量都要单独进行检验对每一个自变量都要单独进行检验5. 应用应用 t 检验统计量检验统计量回归系数

9、的检验回归系数的检验(步骤步骤)1. 提出假设提出假设H0： i = 0 (自变量 xi 与 因变量 y 没有线性关系) H1： i 0 (自变量 xi 与 因变量 y有线性关系) 2. 计算检验的统计量计算检验的统计量 t回归系数的推断回归系数的推断 (置信区间置信区间)v回归系数在回归系数在(1- )%置信水平下的置信区间为置信水平下的置信区间为v v v 26案例案例 回归系数检验回归系数检验Coefficientsa1678.623352.4344.763.00032.7486.640.5094.932.000260.32956.944.4724.572.000(Constant)年收

10、入（千美圆）家庭人员数Model1BStd. ErrorUnstandardizedCoefficientsBetaStandardizedCoefficientstSig.Dependent Variable: 信用卡消费支出（美圆）a. 21329.260748.32623.1678XXy27案例案例 F检验检验ANOVAb21750254210875126.8723.447.000a2179931047463815.0964354956349RegressionResidualTotalModel1Sum ofSquaresdfMean SquareFSig.Predictors: (C

11、onstant), 家庭人员数, 年收入（千美圆）a. Dependent Variable: 信用卡消费支出（美圆）b. 方差分析表方差分析表28模型的效果模型的效果Model Summary.707a.499.478681.0397Model1RR SquareAdjustedR SquareStd. Error ofthe EstimatePredictors: (Constant), 家庭人员数, 年收入（千美圆）a. 29预测（案例）预测（案例）如果某个家庭其家庭成员有如果某个家庭其家庭成员有4人，年人均收入为人，年人均收入为40千千元，试估计使用信用卡支付的数额可能是多少，在元，试

12、估计使用信用卡支付的数额可能是多少，在置信水平为置信水平为95%的要求，确定估计区间。的要求，确定估计区间。点预测：点预测：预测区间：预测区间：2643.308822643.308825416.427065416.427064029.867944*329.26040*748.32623.1678y30相关和回归分析应注意的几个问题相关和回归分析应注意的几个问题v正确理解和对待变量之间的关系正确理解和对待变量之间的关系v预测时自变量的取值范围预测时自变量的取值范围v注意模型的时间、空间条件注意模型的时间、空间条件v定量与定性结合定量与定性结合本章小结本章小结l多元线性回归模型、回归方程与估计的回归多元线性回归模型、回归方程与估计的回归方程方程l回归方程的拟合优度与显著性检验回归方程的拟合优度与显著性检验l利用回归方程进行预测利用回归方程进行预测l用用Excel和和SPSS进行回归分析进行回归分析作作 业业v根据我国某旅游景区根据我国某旅游景区13个旅游点的年外汇收入（个旅游点的年外汇收入（y：百万美元）和相对应的侨胞旅游人数（：百万美元）和相对应的侨胞旅游人数（x1：万人）、外国人旅游人数（万人）、外国人旅游人数（x2：万人）的数据，：万人）的数据，用用SPSS建立二元回归模型，得到以下输出结果建立二元回归模型，得到以下输出结果（亿元）