第七章相关与回归分析课件

PowerPoint统计学第七章相关与回归分析PowerPoint统计学第七章相关与回归分析1

实例1:中国妇女生育水平的决定因素是什么?妇女生育水平除了受计划生育政策影响以外，还可能与社会、经济、文化等多种因素有关。1、影响中国妇女生育率变动的因素有哪些？2、各种因素对生育率的作用方向和作用程度如何？3、哪些因素是影响妇女生育率主要的决定性因素？4、如何评价计划生育政策在生育水平变动中的作用？5、计划生育政策与经济因素比较,什么是影响生育率的决定因素？6、如果某些地区的计划生育政策及社会、经济、文化等因素发生重大变化，预期对这些地区的妇女生育水平会产生怎样的影响？

实例1:中国妇女生育水平的决定因素是什么?妇女生育水平除了2

据世界卫生组织统计，全球肥胖症患者达3亿人，其中儿童占2200万人，11亿人体重过重。肥胖症和体重超常早已不是发达国家的“专利”，已遍及五大洲。目前，全球因”吃”致病乃至死亡的人数已高于因饥饿死亡的人数。

(引自《光明日报》刘军/文）问题:肥胖症和体重超常与死亡人数真有显著的数量关系吗?实例2:全球吃死的人比饿死的人多?据世界卫生组织统计，全球肥胖症患者达3亿人，3发生车祸的次数与司机的年龄有关吗？一年的葡萄酒消耗量（平均每人喝葡萄酒摄取酒精的升数）以及一年中因心脏病死亡的人数（每十万人死亡人数）之间有关系吗？身高与足迹长度有关吗？这些类型的问题可以运用相关分析与回归分析的方法去解决。

发生车祸的次数与司机的年龄有关吗？4第七章相关与回归分析第一节相关分析第二节一元线性回归分析第三节线性回归的显著性检验及回归预测第四节多元线性回归分析第七章相关与回归分析5

学习目标1、变量间的相关关系与相关系数的计算2、总体回归函数与样本回归函数3、线性回归的基本假定4、一元线性回归参数的估计与检验5、多元线性回归参数的估计与检验6、回归预测的方法学习目标6

一、相关关系的概念

◆确定性的函数关系Y=f(X)◆不确定性的统计关系—相关关系

Y=f（X）+ε(ε为随机变量)◆没有关系

变量间关系的图形描述：坐标图(散点图)

变量间的相互关系一、相关关系的概念变量间的相互关系7

（一）相关关系的概念

1、相关关系：客观现象之间确实存在的、但在数量表现上不严格对应的依存关系。

确实存在——关系是真实的、具有内在联系，而不是主观臆造的，也不是形式上的偶然巧合。

通过定性分析确定，即根据经济理论或经济常识以及相关学科的知识分析判断是否存在这样的关系。（一）相关关系的概念8数量表现上不严格对应

——1)变量间的关系不能用函数关系精确表达2)一个变量的取值不能由另一个变量唯一确定3)当变量x取某个值时，变量y有若干取值与之对应——这些数值虽然有波动，但总是以一定的分布规律围绕其均值上下波动4)各观测点分布在直线（或曲线）周围

直线相关图数量表现上不严格对应——1)变量间的关系不能用函数关系精确9居民收入(x)与社会商品零售额(y)之间的关系父亲身高(x)与子女身高(y)之间的关系受教育程度(x)与收入水平(y)之间的关系广告费支出(x1)、价格(x2)与商品销售额(y)之间的关系施肥量(x1)、降雨量(x2)、温度(x3)与粮食亩产量(y)之间的关系相关关系的例子居民收入(x)与社会商品零售额(y)之间的关系相关关系的例子10

2.函数关系客观现象之间确实存在的、而且数量表现上是严格的确定性的依存关系。1）对于变量x和y，当自变量x取某个数值时，因变量y依确定的关系取相应的值，则称y是x的函数，记为y=f(x)。2）各观测点落在一条线上(直线或曲线)

XY2.函数关系1）对于变量x和y，当自变量x取某个数值时，因11函数关系的例子圆面积（S）与半径之间的关系：S=

R2

里程(D)与速度(V)、时间(t)之间的关系：D=Vt某种商品的销售额(y)与销售量(x)、单价（p）之间的关系：y=px企业的原材料消耗额(y)与产量(x1)、单位产量消耗(x2)、原材料价格(x3)之间的关系：y=x1x2x3

函数关系的例子123、相关关系与函数关系的联系函数关系往往通过相关关系表现出来；由于存在测量误差和其他随机因素的干扰，可以说现实中没有纯粹的函数关系。相关关系要通过函数关系进行研究。相关变量之间的数量变动虽然表现出一定的波动性，但是这种波动总是按照一定的分布规律围绕其理论均值而波动的，因此可以通过寻找这种数量变化规律，使相关关系转化为函数关系进行研究。3、相关关系与函数关系的联系13

4、因果关系原因与结果、影响因素与被影响因素之间的关系。

因果关系∈相关关系；是因果关系同时是相关关系，但是相关关系不一定是因果关系。

施肥量(x)与粮食亩产量(y)之间的关系父亲身高(x)与子女身高(y)之间的关系受教育程度(x)与收入水平(y)之间的关系居民收入(x)与商品的消费量(y)之间的关系广告费支出(x)与商品销售额(y)之间的关系4、因果关系施肥量(x)与粮食亩产量(y14

互为因果的情况如：收入水平和股票持有额是正相关，但，是收入增加使股票持有增加？还是持有股票的盈利使收入增加？收入水平和物价水平之间的关系。统计只能说明现象间有无数量上的关系，不能说明谁因谁果。因与果的确定——定性分析互为因果的情况统计只能说明现象间有无数量上的关系，不能155、注意假相关（伪相关）现象之间没有本质联系，只是表面数字的偶然巧合或受到其他潜在变量的影响而表现出不真实的相关性。如上证股票价格综合指数与气温的关系；

有人测算出教师工资增长与酒价上升是正相关；有人测算出小孩脚的大小与识字多少是正相关；有数据表明英国股票指数升降与一年半前的汽车销售量有相同的变化规律，相关系数达0.88‘还有人做过测算，发现在美国经济学学位越高的人，收入越低，相关系数为负（要注意不正确的计算方法也会模糊对事物本质的认识）。5、注意假相关（伪相关）16即时思考：有数据显示世界各国平均每人拥有电视机数x及居民预期寿命y之间有很强的正相关，可否认为电视机很多的国家，居民预期寿命比较长？有人测试出火灾现场的消防员人数和该场火灾造成的损害之间有很强的正相关，可否认为派出的消防员越多造成的损害越大？

即时思考：17（二）相关关系的种类（二）相关关系的种类18

单相关（一元相关）：两个现象之间的相关

复相关（多元相关）：两个以上现象之间的相关

正相关：现象之间的变化方向一致，即一个现象的数量增加或减少，另一个现象的数量随之增加或减少。

负相关：现象之间的变化方向不一致，即一个现象的数量增加或减少，另一个现象的数量随之减少或增加。直线（线性）相关：一个现象的数量每变动一个单位，另一个现象随之每次都发生大致均等的变动，散点分布近似一条直线。曲线（非线性）相关：一个现象的数量每变动一个单位，另一个现象随之发生不均等的变动，散点分布近似某种曲线。单相关（一元相关）：两个现象之间的相关直线（线性）相19相关关系的种类一元相关多元相关负相关正相

关线性相关曲线相关xy正线性相关xy负线性相关xy曲线相关xy不相关相关关系的种类一元相关多元相关负相关正相关线性相关曲20进行相关分析的一般程序：定性分析定量分析相关表和相关图计算相关系数和判定系数二、相关关系的测定进行相关分析的一般程序：定性分析定量分析相关表和相关图计算相21相关表是表现具有相关关系的现象（变量）之间数量取值的表格。一般将成对数据依其中一个变量按大小顺序排列，另一个变量对应排列而成。但仅能对现象作大体初步观测，当涉及多个影响因素时制表较困难。相关图（散点图）将两现象（或多个现象）对应的样本观测值标绘到坐标轴上所作的图形称为散点图。（一）相关表和相关图相关表是表现具有相关关系的现象（变量）之间数量取值的表格。一22能源消耗量与工业总产值的相关表能源消耗量（十万吨）工业总产值（亿元）能源消耗量（十万吨）工业总产值（亿元）3524624138256440402465474228685049326949523171515437724859407658

能源消耗量与工业总产值相关图能源消耗量与工业总产值的相关表

能源消耗量与工业总产值相关图2319个发达国家一年的葡萄酒消耗量以及一年中因心脏病死亡的人数资料（选自《统计学的世界》）：国家从葡萄酒摄取的酒精（升）心脏病死亡率（每十万人死亡人数）国家从葡萄酒摄取的酒精（升）心脏病死亡率（每十万人死亡人数）澳大利亚2.5211荷兰1.8167奥地利3.9167新西兰1.9266比利时/卢森堡2.9131挪威0.8227加拿大2.4191西班牙6.586丹麦2.9220瑞典1.6207芬兰0.8297瑞士5.8115法国9.171英国1.3285冰岛0.8211美国1.2199爱尔兰0.7300德国2.7172意大利7.9107

19个发达国家一年的葡萄酒消耗量以及一年中因心脏病死亡的2419个发达国家一年的葡萄酒消耗量以及一年中因心脏病死亡的人数的相关图19个发达国家一年的葡萄酒消耗量以及一年中因心脏病死亡的25身高与足迹长度的相关图身高与足迹长度的相关图26（二）相关系数（1）相关系数是对变量之间关系密切程度的度量；（2）总体相关系数：反映总体的相关程度，根据总体全部数据计算，通常用“ρ”表示；

样本相关系数：反映样本的相关程度，根据样本数据计算。（3）单相关系数：反映两个变量之间的相关程度；

复相关系数：反映两个以上变量之间的相关程度。（4）直线相关系数（通常简称为相关系数）：反映变量之间直线相关关系的密切程度；曲线相关系数（也称为非线性相关系数或相关指数）反映变量之间曲线相关关系的密切程度。（二）相关系数（1）相关系数是对变量之间关系密切程度的度量；27（5）直线相关系数的取值范围是[-1,1]|r|=1，完全线性相关；r=0，没有线性相关-1

r<0，负线性相关；0<r

1，正线性相关|r|越趋于1表示两变量线性关系越密切；|r|越趋于0表示线性关系越不密切完全负相关完全正相关无线性相关-1.0+1.00-0.5+0.5负相关程度增加r正相关程度增加（5）直线相关系数的取值范围是[-1,1]完全负相关完全正2800.40.71.0相关程度的三级划分法（大样本）：不相关

低度相关显著相关高度相关完全相关根据样本数据计算样本相关系数的公式：直线相关系数的计算直线相关系数一般用积差法公式测算从公式可以看出，r的符号决定于分子。

00.29直线相关的特点（1）两个变量是对等的，不必区分自变量和因变量；（2）只能计算出一个相关系数；（3）r只反映两个变量的直线关系密切程度，当r的绝对值很小，甚至为0，只表示它们之间没有直线相关关系，但有可能存在其它类型的相关关系。相关系数的平方称为判定系数（可决系数），用r2表示；可用于判断回归方程的拟合优度。直线相关的特点相关系数的平方称为判定系数（可决系数30案例研究：发生车祸次数与司机年龄有关吗？作为交通安全研究的一部分，美国交通部采集了每1000个驾驶执照发生死亡事故的车祸次数和有驾驶执照的司机中21岁以下者所占比例的数据，样本由42个城市组成，在一年间采集的数据及散点图如下：案例研究：发生车祸次数与司机年龄有关吗？作为交通安全研3121岁以下者所占比例（%）

21岁以下者所占比例（%）21岁以下者所占比例（%）21岁以下者所占比例（%）80.885100.039121.913152.81480.368101.014132.962162.80180.645100.493131.142163.62382.19101.926132.634162.94380.82112.091142.885172.62781.267111.849142.352174.191.082111.294142.89173.25691.433120.708141.443183.8390.338121.652141.643183.61490.835121.405152.623

90.926122.246153.224

每千个驾驶执照中发生车祸次数每千个驾驶执照中发生车祸次数每千个驾驶执照中发生车祸次数每千个驾驶执照中发生车祸次数21岁以下者所占比例（%）21岁以下者所占比例（%）21岁32EXCEL(三)相关系数的显著性检验1）检验总体X与Y之间的线性相关关系是否显著，即检验自变量X对因变量Y的线性影响是否显著；2）在一元线性回归中，等价于回归方程的显著性检验及回归系数的显著性检验；3）一般采用t检验法（大样本也可用z检验法）EXCEL(三)相关系数的显著性检验1）检验总体X与Y之间的33

相关系数的检验

为什么要检验？

样本相关系数是随抽样而变动的随机变量,相关系数的统计显著性还有待检验。检验的依据：

如果x与都服从正态分布，在总体相关系数的假设下，与样本相关系数r有关的t统计量服从自由度为n-2的t分布：

相关系数的检验为什么要检34确定显著性水平

，并作出决策若

t

>t

，拒绝H0；若

t

<t

，不能拒绝H0计算检验的统计量提出假设：H0：

；H1：

0检验步骤：当n≥50：确定显著性水平，并作出决策计算检验的统计量提出假设：H0：35拒绝原假设，认为总体的这两个变量（每千个驾驶执照中发生车祸的次数和有驾驶执照的司机中21岁以下者所占比例）之间线性相关显著。对于前例：拒绝原假设，认为总体的这两个变量（每千个驾驶执照中发生车36第二节一元线性回归分析一、回归分析的意义（一）回归分析的含义回归分析法是借助数学方程，揭示具有相关关系的变量之间数量变化规律的统计分析方法；回归分析中的数学方程称为回归方程。变量之间的数量变化规律，是指当自变量发生一定量变化时，平均说来因变量会发生多大量的变化。第二节一元线性回归分析一、回归分析的意义37之所以强调“平均”，是因为如果给定自变量一个值，因变量有若干值与之对应，这些值虽然表现出一定的随机性、波动性，但是又总是按一定的分布规律围绕因变量的均值（数学期望）上下波动，即对于自变量的某个确定值，因变量有一个平均值与之对应。

这样现象之间数量不确定的相关关系，从平均意义上说已转变为确定的函数关系，从而为研究不确定关系提供了可能。之所以强调“平均”，是因为如果给定自变量一个值，38（二）回归分析和相关分析的联系和区别联系（1）都用于分析变量间的关系；（2）相关分析是回归分析的前提，相关程度越高，回归分析效果越好；（3）同一例中相关系数和回归系数方向一致，可以互相推算；r是回归分析的一个基本统计量。（二）回归分析和相关分析的联系和区别联系（1）都用于分析39

区别（1）单纯的相关分析不必区分自变量和因变量；而回归分析必须区分，且因变量处在被解释的地位，自变量用于解释和预测因变量变化。（2）相关分析中x、y均为随机变量，回归分析中只有y为随机变量；（3）相关分析主要是描述变量之间有无相关关系、关系的方向、形态及密切程度；回归分析要通过回归方程揭示变量之间的数量变化规律。区别（1）单纯的相关分析不必区分自变量和因变量；而40（一）总体一元线性回归理论方程该式确切地反映了Y与X之间密切的相关关系，但又没有到Y由X唯一确定的地步。式中,是由于X的变化引起Y线性变化的部分；ε是除X的线性影响外的一切随机因素引起Y变化的部分（包括未列入模型但又共同影响Y的种种因素、X对Y的非线性影响以及Y变量的观测误差、随机误差等）。二、一元线性回归方程的确定（一）总体一元线性回归理论方程该式确切地反映了Y与X之间41总体回归理论方程是设想把所研究总体的每一个个体（X，Y）的值都测量到，利用其全部结果而建立回归方程，这事实上办不到。只能通过n组样本观测值得到样本一元线性回归经验方程。对式两边求数学期望，该式称为总体一元线性回归理论方程从平均意义上表达了Y与X的统计规律性。有：（二）样本一元线性回归经验方程总体回归理论方程是设想把所研究总体的每一个个体（X，Y）的值42—因变量的估计值（回归理论值、预测值）。

a—截距，回归直线的起始值，即自变量为0时因变量的回归估计值；从经济意义上理解，是在没有自变量的影响时，其它各种因素对因变量的平均影响。

b—回归系数（斜率），表示自变量x每变动一个单位引起因变量y的平均变动量。估计参数的最小平方法（最小二乘法）（LeastSquareMethod）按最小平方法估计方程参数，要求满足两个条件：若能满足第一个条件，第二个条件自然满足。—因变量的估计值（回归理论值、预测值）。a—截距，回43x

(xi,yi)

yab理想的回归线应该尽可能接近各个实际观察点。只要对上式中a、b求偏导，并令其为0，x(xi,yi)yab理想的回归44可以得到两个正规（标准）方程：

（1）样本回归直线必然通过数据散点中心（2）回归系数与相关系数的符号取决于x、y的协方差，且具有一定关系：可以得到两个正规（标准）方程：（1）样本回归直线必然通过数45“发生交通事故与年龄有关吗”例b表示有驾驶执照的司机中21岁以下者所占比例每增加1%，每千个驾驶执照中发生车祸的次数平均增加0.2867次。EXCEL“发生交通事故与年龄有关吗”例b表示有驾驶执照的司机中21岁46三、回归估计的标准差（一）回归估计标准差的概念和作用大样本条件下，分母可用n代替。该指标反映因变量实际值与回归估计值之间的平均差异程度，表明回归估计值对实际值的代表性强弱。其值越小，实际值与估计值的平均差异程度越小，估计值（或回归方程）的代表性越强，进行估计或预测的结果越准确。

三、回归估计的标准差（一）回归估计标准差的概念和作用大样47都是反映平均差异程度和表明代表性的指标一般标准差反映实际值和平均值的差异程度，表明平均值的代表性；回归估计标准差反映实际值和估计值的差异程度，表明估计值的代表性。（二）回归估计标准差与一般标准差的异同都是反映平均差异程度和表明代表性的指标（二）回归估计标准差与481、总离差的分解（三）回归估计标准差与相关系数的关系xyy{}}

离差分解图1、总离差的分解（三）回归估计标准差与相关系数的关系xyy{49y实际取值与其平均数之间的离差称为总离差。总离差来源于两个方面：一是由于自变量x对y的线性影响；一是除x以外的其他因素(包括x对y的非线性影响及测量误差等)对y的影响。对一个具体的观测值来说，总离差的大小可以通过该实际观测值与其均值之差来表示：总离差=剩余离差+回归离差↓↓↓y实际取值与其平均数之间的离差称为总离差。总离50对上式两端平方求和整理以后有：↓↓↓总离差平方和=剩余平方和+回归平方和

总离差平方和（SST）：反映因变量n个观察值与其均值的总离差

回归平方和（SSR）—可解释的平方和：反映自变量x的变化对因变量y取值变化的线性影响，即x与y之间的线性关系引起的y取值的变化。

残差（剩余）平方和（SSE）—不可解释的平方和：反映x的线性影响以外及x以外的其他因素对y取值的影响对上式两端平方求和整理以后有：↓↓↓512、判定系数及其意义说明观察值的总离差平方和中有多大的比例可以用回归直线来解释。即因变量的变动中由自变量做出解释的部分,或者说由自变量变化所引起因变量的变化在因变量的全部变化中所占的比例。定义为判定系数2、判定系数及其意义说明观察值的总离差平方和中有多大的52（1）取值范围：[0,1]（2）作用：反映回归直线的拟合程度，其值越

1，回归直线拟合效果越好；反之越差；（3）和相关系数的关系：r2＝(r）2，因此判定系数可间接衡量变量之间的线性相关程度。3、相关系数与回归估计标准差的关系或：相关系数直接说明变量间的线性关系密切程度，间接说明回归估计的精确程度；回归估计标准差直接说明回归估计的精确程度，间接说明变量间的线性关系密切程度。（1）取值范围：[0,1]3、相关系数与回归估计53第三节线性回归的显著性检验及回归预测一、回归系数的显著性检验（t检验）检验总体x与y之间是否具有线性关系，即检验总体自变量x对因变量y的影响是否显著。在一元线性回归分析中，等价于回归方程的显著性检验；但在多元回归分析中，回归方程显著，不等于每个回归系数都显著。检验的理论基础是回归系数的估计量的抽样分布。通常采用t检验法。第三节一、回归系数的显著性检验（t检验）检验总体x与54检验步骤H0:b=0；其意为总体回归系数显著为0，即总体自变量对于因变量的线性影响不显著，x与y之间没有线性关系，据以进行回归分析没有意义，样本回归方程无效；

H1:b

0；总体回归系数显著不为0，总体自变量对于因变量的线性影响显著，x与y之间存在线性关系，据以进行回归分析有意义，样本回归方程有效。1、提出假设：2、计算检验的统计量检验步骤H0:b=0；其意为总体回归系数显著为55式中，为回归估计标准差，为b的抽样平均误差（估计量的标准差）；3、确定显著性水平

和临界值，或计算P-值4、进行决策：

t

>t

（n-2)或P-值<

，拒绝H0；反之，不能拒绝H0。前例，在α=0.05的显著性水平下，可计算得：式中，为回归估计标准差，为b的抽样平均误差（估56拒绝H0，总体回归系数显著不为0，说明总体两变量（每千个驾驶执照中发生死亡事故的车祸次数和有驾驶执照的司机中21岁以下者所占比例）之间的线性影响关系是显著的，样本回归方程是有效的。1、

提出假设：二、回归方程的显著性检验（f检验）2、确定检验统计量：3、确定显著性水平

，找出临界值F

（1，n-2）或计算P-值；拒绝H0，总体回归系数显著不为0，说明总体两变量（每千个574、作出决策：若F

F

或P-值<

，拒绝H0；反之不能拒绝H0。

检验统计量中，分子的方差（回归平方和除以其自由度1）是x对y的线性影响所产生的；分母的方差（剩余平方和除以其自由度n-2）是除去x的线性影响外的其他因素及随机因素所产生的。分子越大，二者的比值F值就越大，说明x对y的线性影响就越大，变量间线性相关性越显著；若x对y无影响，则F=0，故F分布是以0为原点的右偏斜分布；检验是右侧检验。4、作出决策：若FF或P-值<，拒绝H0；反之不能58aF分布F

(k-1,n-k)0拒绝H0不能拒绝H0F如果y估计值=y平均值F=SSR/SSE

0Ｆ检验与t检验的一致性

在一元线性回归分析中，回归方程的检验等价于回归系数的检验。对于同一样本资料，Ｆ检验与t检验的结果完全一致，有：但多元回归中，二者有所不同（略）。EXCELaF分布F(k-1,n-k)0拒绝H0不能拒绝H0F如59对于前例，在α=0.05的显著性水平下，可计算得：

拒绝H0，总体回归系数显著不为0，说明总体两变量（发生死亡事故的车祸次数和司机中21岁以下者所占比重）之间的线性关系是显著的，所拟合的线性回归方程具有95％的置信概率。对于前例，在α=0.05的显著性水平下，可计算得：拒绝H60三、回归预测1、就是根据自变量x的一定值来估计或预测因变量y的可能值；经检验认为有意义的回归方程，可进行内插预测。2、估计或预测的类型点预测:给定x=xo，因变量y对应的点预测为：区间预测：在1-

置信水平下，因变量y对应的预测区间为三、回归预