《管理统计学》第十章 回归分析课件

第十章回归分析一元回归多元回归逐步回归《管理统计学》第十章回归分析一元回归分析二、回归的涵义一、回归的起源三、相关分析与回归分析的关系四、回归分析的任务五、回归分析的种类2《管理统计学》第十章回归分析一、回归的起源

英国统计学家F·Gaiton。研究父母身高与其子女身高的遗传问题时，观察了1078对夫妇。计算出的回归直线方程为：解释了人类身高在一定时间内相对稳定的现象。3《管理统计学》第十章回归分析

回归：揭示出不确定数量关系的内在数量变化规律，并通过一定的表达式描述数量之间的这种内在关系的方法。不确定性的函数关系二、回归的涵义数据之间的关系函数确定性的函数关系回归方程4《管理统计学》第十章回归分析（1）相关分析的两个变量必须都是随机变量；回归分析的因变量是随机变量。（2）相关分析的两个变量是平等的；回归分析的因变量是被解释变量。解释变量可以是刻度级、顺序级、名义级的变量，不论是什么级别的数据,都必须用数字(numeric)型的来表示。（3）相关分析是揭示两个变量的密切程度，通过相关系数；回归分析是揭示两个变量的内在数量变化规律，通过回归方程。三、相关分析与回归分析的关系二者侧重的点和应用的面不同：

《管理统计学》第十章回归分析四、回归分析的任务（1）通过分析大量的样本数据，确定变更量之间的数学表达式；（2）对确定的数学关系式的可信度进行统计检验找出对某一特定变量影响较为显著的变量和不显著的变量；（3）利用确定的数学关系式，根据自变量预测或控制因变量的取值，并找出这种预测或控制的精确度。6《管理统计学》第十章回归分析五、回归分析的种类一元线性回归分析多元线性回归分析线性回归分析的种类7《管理统计学》第十章回归分析回归方程的显著性检验一元线性回归分析二、一元线性回归一、一元线性回归模型的设定三、回归系数的显著性检验四、回归分析的置信区间五、标准回归系数回归效果的检验回归系数总体均值方程的检验一元线性回归的SPSS实现8《管理统计学》第十章回归分析高斯假设一、一元线性回归模型的设定1.总体回归模型：2.样本回归模型：总体回归直线：样本回归直线：即9《管理统计学》第十章回归分析高斯假设(1)(2)(3)(4)(5)(6)。分布。正态性假设；为随机变量；等方差性假设，即所有随机误差都具有相同方差随机扰动项协方差等于零，相互独立。无序列相关假设；服从独立性假设或零均值假设；10《管理统计学》第十章回归分析回归方程的显著性检验——F检验：回归方程不显著：回归方程显著：总离差平方和：剩余平方和/残差平方和：回归离差平方和11《管理统计学》第十章回归分析回归效果的检验——判定相关系数检验若全部观测值都落在回归直线上，则若x完全无助于解释y的变动，则判定相关系数越接近1，表明回归平方和占总离差平方和的比例越大，用x的变动解释y值变动的部分就越多，回归的效果就越好。————F检验12《管理统计学》第十章回归分析回归效果的检验——F检验式中：：样本容量：自变量的个数：判定系数13《管理统计学》第十章回归分析回归系数的显著性检验——T检验～成立,即当时显著异于0。针对回归系数的统计量的显著性检验决定了相应的变量能否作为解释变量进入回归方程。14《管理统计学》第十章回归分析总体均值的置信区间～用代替可以得到统计量～15《管理统计学》第十章回归分析回归系数的置信区间给定一置信水平区间为水平上的置信区间。例，则即16《管理统计学》第十章回归分析标准化即剔除自变量单位的影响，是指对变量标准回归系数进行如下处理：转化为标准方程于是原始方程，式中：17《管理统计学》第十章回归分析

SPSS的实现：Analyze菜单Regression项中选择Linear命令。18《管理统计学》第十章回归分析

SPSS的实现：Analyze菜单Regression项中选择Linear命令。**

Method处下拉菜单**

WSL选项**

Statistics按钮**

Plots按钮**

Save按钮**

Options按钮《管理统计学》第十章回归分析Enter：强行进入法，即所选自变量全部进入模型。Remove：强制剔除法，即建立回归方程时，根据设定的条件从回归方程中剔除部分自变量。Backward：向后剔除法，根据Option对话框中设定的判据，先建立全模型，然后根据设置的判据，每次剔除一个使方差分析中的F值最小的自变量，直到回归方程中不再含有不符合判据的自变量为止。Forward：向前选择法。Stepwise：逐步进入法，根据Option对话框中设定的判据及方差分析结果，选择符合判据的自变量与因变量相关程度最高的进入回归方程。依据Forward选入自变量，依据Backward将模型中F值最小且符合剔除判据的变量剔除，重复Method处下拉菜单，共有5个选项：《管理统计学》第十章回归分析

WSL选项是存在异方差时，利用加权最小二乘法替代普通最小二乘法估计回归模型参数。通过WSL可以选定一个变量作为加权变量。在实际问题中，如果无法自行确定权重变量，可以用SPSS的权重估计来实现。《管理统计学》第十章回归分析Descriptives：输出自变量和因变量的均值、标准差、相关系数矩阵及单侧检验概率。Estimates：输出与回归系数相关统计量。有：回归系数、回归系数的标准误差、标准回归系数、T统计量和相应的相伴概率、各自变量的容忍度。Confidenceintervals：输出每一个非标准化回归系数95%的可信区间。Covariancematix：输出方程中各自变量间的相关系数矩阵及各变量的协方差矩阵。Modelfit：输出判定系数、调整的判定系数、回归方程的标准误差，F检验的ANOVA方差分析表。Rsquaredchange：当回归方程中引入或剔除一个自变量后，判定系数、F值产生的变化。续《管理统计学》第十章回归分析Casewisediagnostics：输出标准化残差绝对值≥3的样本数据点的相关信息，包括：标准化残差、观测值预测值、最小(最大)预测值、残差、最小(最大)残差以及它们的均值和标准差。

Outliersoutsidestandarddevistion：设置奇异值的判据，默认≥3倍的标准差。

Allcase：输出所有样本数据有关残差值。Partandpartialcorrelation：输出方程中各自变量与因变量之间的简单相关系数、偏相关系数与部分相关系数。Collinearitydiagnostics：多重共线性分析，输出各自变量的容限度、方差膨胀因子、最小容忍度、特征值、条件指标及方差比例等。Durbin-Watson：输出Durbin-watson检验值。《管理统计学》第十章回归分析24《管理统计学》第十章回归分析

Plots对话框用来检验残差序列的正态性、随机性和是否存在异方差现象。Produceallpartialplots：输出每一个自变量残差相对于因变量残差的散布图。**

ZPRED选项：标准化预测值。**

ZRESID选项：标准化残差。**

DRESID选项：剔除残差。**

ADJPRED选项：修正后预测值。**

SRESID选项：学生化残差。**

SDRESID选项：学生化剔除残差。《管理统计学》第十章回归分析26《管理统计学》第十章回归分析Mahalanobis：保存Mahalanobis距离Cook’s：保存Cook距离Leveragevalues：保存中心点杠杆值Individual：保存一个观测量上限与下限的预测区间。Studentized：学生化残差Deleted：剔除残差Studentizeddeleted：学生剔除残差DfBeta(s)：因排除一个特定的观察值所引起的回归系数的变化。若该值＞2，则被排除的观测值有可能是影响点。DfFit：因排除一个特定的观测值所引起的观测值的变化。《管理统计学》第十章回归分析UseprobalitlityofF：以回归系数显著性检验中各自变量的F统计量的相伴概率作为自变量是否引入模型或者从模型中剔除的标准。实际应用中，应使Entry值小于Remove值，否则，自变量一进入方程就会被立即剔除。UseFvalue：以回归系数显著性检验中的各自变量的F统计量作为自变量进入模型或者从模型中剔除的标准。IncludeconstantinequationF：表示回归方程中将包含常数项。《管理统计学》第十章回归分析29《管理统计学》第十章回归分析30《管理统计学》第十章回归分析31《管理统计学》第十章回归分析多元线性回归分析一个被解释变量(因变量)，的线性模型，多个解释变量(自变量)多元回归的高斯假设多元回归的种类全部强行进入回归：所有自变量全部进入回归模型逐步回归：所有的自变量依次进入回归模型32《管理统计学》第十章回归分析或者多元回归的高斯假设(1)为随机向量(2)(3)(4)包括(5)为确定矩阵(6)秩(7)行列式远离零。33《管理统计学》第十章回归分析逐步回归第一种方法第二种方法第三种方法34《管理统计学》第十章回归分析的显著性概率应当满足：统计量的值第一种方法最大的统计量在考虑对已知的一群变量回归时，从变量中，逐步选出对已解释变差的贡献(即偏解释变差)最大的变量，进入回归方程。而对已解释变差的贡献大小的判别依据，是包含了偏解释变差的。统计量的值先进入方程；最后一个进入方程的自变量小于等于选定的显著性水平。35《管理统计学》第十章回归分析第二种方法在剔除时，其统计量的值大于选定的显著性水平先把对所有的自变量回归，然后逐步把最小的剔除出方程，所有剔除出方程的的显著性概率。36《管理统计学》第十章回归分析概率所对照的显著性水平第三种方法的显著性慨率所对照的显著性水平则要取得是一边进、一边出。“进”变量的的显著性通常取得大一些，以便能够有更多的的外侧概率(显著性概率)小于从而使较多的变量进入方程。而“出”的变量大于“进”“出”方程，陷入死循环。更大一些，以便能够有较少的的显著性慨率从而有更少的变量被剔除出方程，防止变量☆注意☆37《管理统计学》第十章回归分析的自变量。因为每添加或逐步添加法或逐步剔除法，都应当强调的显著性概率是否小于等于选定的显著性水平来决定是否作为剔除一个变量都会引起所有回归系数及统计量的的变化。一次处理，会造成误判。只有逐步处理，才是恰当的。“逐步”，不能一次按照各个变量的统计量值值☆注意☆《管理统计学》第十章回归分析

回归分析是研究随机变量之间的相关关系的一种统计方法。其用意是研究一个被解释变量(因变量)与一个或多个解释变量(自变量)之间的统计关系。解释变量可以是刻度级、顺序级、名义级的变量。不论是什么级别的数据,都必须用数字(Numeric)型的来表示。一、一元线性回归

一元线性回归，只研究一个自变量与一个因变量之间的统计关系。第一节一元回归分析39《管理统计学》第十章回归分析人均收入与人均食品支出关系的散点图《管理统计学》第十章回归分析例如，某企业产品广告费和销售收入