统计学A第9章相关与回归

1、了解：了解：相关关系的概念、种类第第9章章 相关与回归分析相关与回归分析重点掌握：重点掌握：1.相关系数的计算及其意义相关系数的计算及其意义2.回归方程的建立和估计标准误回归方程的建立和估计标准误一般掌握一般掌握： 相关分析的内容、任务 相关表和EXCEL应用等第第1节节 相关的概念和种类相关的概念和种类第第2节节 直线相关分析直线相关分析第第3节节 直线直线回归分析回归分析第第4节节 估计标准误差估计标准误差第第5节节 回归方程的检验与预测回归方程的检验与预测第第1 1节节 相关的概念和种类相关的概念和种类1 变变量间的相互关系量间的相互关系 当一个或几个变量取一定的值时，另一个变量有确当一

2、个或几个变量取一定的值时，另一个变量有确定值与之对应，称这种关系为确定性的函数关系。函数定值与之对应，称这种关系为确定性的函数关系。函数关系是一种严格的依存关系，这种关系可用关系是一种严格的依存关系，这种关系可用y = f（x）的的方程表现。各观测点落在一条线上。方程表现。各观测点落在一条线上。 （1）函数关系函数关系（1）某种商品的销售额）某种商品的销售额(y)与销售量与销售量(x)之间的关系可表示为之间的关系可表示为y =px (p 为单价为单价)（2）圆的面积）圆的面积(S)与半径之间的关系可与半径之间的关系可表示为表示为S = R2 （3）企业的原材料消耗额）企业的原材料消耗额(y)与

3、产量与产量(x1)、单位产量消耗、单位产量消耗(x2)、原材料价格、原材料价格(x3)之间的关系可表示为之间的关系可表示为y = x1x2x3 xy3 当一个或几个变量取一定的值时，与之相对应的当一个或几个变量取一定的值时，与之相对应的另一个变量的值虽然不确定，但它仍然按某一规律在另一个变量的值虽然不确定，但它仍然按某一规律在一定的范围内变化，变量间的这种关系，称为具有不一定的范围内变化，变量间的这种关系，称为具有不确定性的相关关系。相关关系是一种不完全确定的统确定性的相关关系。相关关系是一种不完全确定的统计关系。计关系。（2）相关关系相关关系（1）变量间关系不能用函数关）变量间关系不能用函数

4、关系系 精精确表达确表达（2）一个变量的取值不能由另）一个变量的取值不能由另一一 个个变量唯一确定变量唯一确定（3）当变量）当变量 x 取某个值时，变量取某个值时，变量 y 的的取值可能有几个取值可能有几个（4）各观测点分布在直线周围）各观测点分布在直线周围 第第1 1节节 相关的概念和种类相关的概念和种类4相关关系的例子相关关系的例子1. 商品的消费量(y)与居民收入(x)之间的关系2. 商品销售额(y)与广告费支出(x)之间的关系3. 粮食亩产量(y)与施肥量(x1)、降雨量(x2)、 温度(x3)之间的关系4.收入水平(y)与受教育程度(x)之间的关系5. 人的身高(y)与人的体重(x)

5、之间的关系第第1 1节节 相关的概念和种类相关的概念和种类2 2相关的种类相关的种类（1）按相关的程度分按相关的程度分完全相关完全相关不完全相关不完全相关不相关不相关第第1 1节节 相关的概念和种类相关的概念和种类（2）按相关的形式分按相关的形式分线性相关线性相关非线性相关非线性相关（3）按影响因素的多少分按影响因素的多少分单相关单相关复相关复相关（1）按相关的方向分按相关的方向分正相关正相关负相关负相关第第1 1节节 相关的概念和种类相关的概念和种类3 3相关分析的主要内容（任务）：相关分析的主要内容（任务）： ( (1 1) ) 确定现象之间有无关系确定现象之间有无关系( (3 3) )

6、确定相关关系的密切程度确定相关关系的密切程度( (4 4) ) 相关系数的显著性检验相关系数的显著性检验( (2 2) ) 确定相关关系的类型确定相关关系的类型( (5 5) )对达到一定密切程度的相关关系建立适当的数学对达到一定密切程度的相关关系建立适当的数学模模 型型，以确定自变量与因变量之间数量变化的规律性；，以确定自变量与因变量之间数量变化的规律性；( (6 6) )测定数学模型的代表性大小并根据自变量数值对测定数学模型的代表性大小并根据自变量数值对因因 变变量的数量变化做出具有一定概率保证程度的推量的数量变化做出具有一定概率保证程度的推算算 和和预测。预测。广义的相关分析还包括回归分

7、析的内容：广义的相关分析还包括回归分析的内容：第第1 1节节 相关的概念和种类相关的概念和种类第二节第二节 直线相关分析直线相关分析一相关图表一相关图表 相关图表是相关分析的重要方法。通过相关图表是相关分析的重要方法。通过相关图表可以直观地判断现象之间呈现的相关相关图表可以直观地判断现象之间呈现的相关的形态和方向。的形态和方向。（一）（一） 相关表相关表简单相关表：根据总体单位的原始资料编制的相关表简单相关表：根据总体单位的原始资料编制的相关表分组相关表分组相关表单变量分组相关表单变量分组相关表双变量分组相关表双变量分组相关表有相关关系的两个变量中，只根据一有相关关系的两个变量中，只根据一个变

8、量进行分组，另一个变量不进行个变量进行分组，另一个变量不进行分组，只计算出次数和平均数。分组，只计算出次数和平均数。有相关关系的两个变量中，自变量和有相关关系的两个变量中，自变量和因变量都进行分组而编制的相关表。因变量都进行分组而编制的相关表。商店平方米年销售额（万元）11723682164389328166543558545129341622055671133668350469931554610151288115161,06712456758135841,1701435040815405650（二）相关图（散点图）（二）相关图（散点图）利用直角坐标系第一象限，把自变量置于横轴上，因变量置于纵

9、轴上，再将两变量相对应的变量值用坐标点形式描绘出来即可。第二节第二节 直线相关分析直线相关分析10按体重分组（千克）人数（人）每组平均身高（cm）45以下11514547.52415447.550911555052.512915852.555871605557.53816257.560251636062.5316762.5以上2170合计400400400名女大学身高与体重相关表名女大学身高与体重相关表第二节第二节 直线相关分析直线相关分析双变量分组相关表双变量分组相关表年维修费用（元）机床使用年限(年)合计2345689100011001190010001180090011270080012

10、360070011250060011240050011合计212231112第二节第二节 直线相关分析直线相关分析二相关系数二相关系数(correlation coefficient)相关系数是指在直线相关条件直线相关条件下，说明两个现象之间相两个现象之间相关关系密切程度关关系密切程度的统计分析指标。（一）相关系数的计算方法：（一）相关系数的计算方法：若相关系数是根据总体全部数据计算的，称为总体相若相关系数是根据总体全部数据计算的，称为总体相关系数，记为关系数，记为。yxxy2总体相关系数反映总体两个变量总体相关系数反映总体两个变量X和和Y的线性相关程度。的线性相关程度。 特点：特点：对于特定

11、的总体来说，X和Y的数值是既定的，总体相关系数是客观存在的特定数值。 )()(),(YVarXVarYXCov （9.1）协方差：协方差：Covariance；方差：；方差：Variance第二节第二节 直线相关分析直线相关分析0)(0)( , 0)(yyxxyyxx0)(0)( , 0)(yyxxyyxx0)(0)( , 0)(yyxxyyxx0)(0)( , 0)(yyxxyyxx协方差的意义协方差的意义xyxy如果散点主要分布在第和第象限，则0)(yyxx可以拟合一条从左到右向上向上的直线，说明变量x与与y存在正正相关。如果散点主要分布在第和第象限，则可以拟合一条从左到右向下向下的直线，

12、说明变量x与与y存在负负相关。0)(yyxx第二节第二节 直线相关分析直线相关分析)()(2222yynxxnyxxyn若相关系数是根据样本数据计算的，则称为样本相若相关系数是根据样本数据计算的，则称为样本相关系数，记为关系数，记为 r 特点：样本相关系数是根据从总体中抽取的随机样本的观测值计算出来的，是对总体相关系数的估计，它是个随机变量。 容易证明，样本相关系数是总体相关系数的一致容易证明，样本相关系数是总体相关系数的一致估计量估计量 。该公式是K.皮尔逊提出来的，故称皮尔逊相关系数。22)()()(yyxxyyxxr（9.2）（9.3）第二节第二节 直线相关分析直线相关分析如果定义：xx

13、Lxx2)(yyLyy2)(xyLyyxx)(相关系数可以表示为：yyxxxyLLLr（9.4）第二节第二节 直线相关分析直线相关分析 880 36.4 62 86 80 110 115 132 135 160 1.2 2.0 3.1 3.8 5.0 6.1 7.2 8.0 1 2 3 4 5 6 7 8生产费用 月产量序 号xy2x2yxy1.444.009.6114.4425.0017.2151.8464.00207.54384473966400121001322517424182252560010421474.4172.0248.0418.0575.0805.2972.01280.045

14、44.6相关系数的计算分析相关系数的计算分析第二节第二节 直线相关分析直线相关分析,54.207, 8,880, 4 .362xnyx6 .4544,1042142xyy根据计算结果可知：根据计算结果可知：则相关系数为：则相关系数为：2288010421484.3654.20788804.366.4544897.0说明产量和生产费用之间存在高度正相关。说明产量和生产费用之间存在高度正相关。)()(2222yynxxnyxxynr第二节第二节 直线相关分析直线相关分析年份年份销售额销售额y广告费广告费x年份年份销售额销售额广告费广告费1234567393.8419.14460.86544.116

15、68.29737.73859.9724926728932940645151389101112131068.81169.21250.71429.51725.92099.56436907138039471148【例【例9.2】在研究销售额与广告费的问题中，把销售额记为在研究销售额与广告费的问题中，把销售额记为y，把广告费记为，把广告费记为x。根据收集到的。根据收集到的113年的样本数据年的样本数据(xi ，yi)，i =1,2,，13，计算相关系数。计算相关系数。销售额与广告费数据销售额与广告费数据用用Excel计算相关数据计算相关数据第二节第二节 直线相关分析直线相关分析解：解：2222 yyn

16、xxnyxxynr用用PEARSON函数计算函数计算 998940923. 074485213898135 .1282777.160733231374485 .1282719.91456511322第二节第二节 直线相关分析直线相关分析（二）相关系数的性质（二）相关系数的性质（2）相关系数的取值范围在绝对值的）相关系数的取值范围在绝对值的 之间。之间。 其值大小反映两变量之间相关的密切程度。其值大小反映两变量之间相关的密切程度。（1）相关系数有正负号，分别表示正相关和负）相关系数有正负号，分别表示正相关和负 相关。相关。（3）相关系数）相关系数1r表明两变量完全相关；表明两变量完全相关；表明两

17、变量完全不相关。表明两变量完全不相关。0r10（4）当计算相关系数的原始数据较多（如）当计算相关系数的原始数据较多（如50项以项以 上）时，认为相关系数在上）时，认为相关系数在0.3以下为无相关或以下为无相关或 微弱相关；微弱相关； 0.3以上为有相关；以上为有相关；0.3-0.5为低度为低度 相关；相关；0.5-0.8为显著（中度）相关；为显著（中度）相关；0.8以上以上 为高度相关。为高度相关。第二节第二节 直线相关分析直线相关分析|r|=0 不存在线性关系；不存在线性关系； |r|1 完全线性相关完全线性相关0|r|t，表明相关系数在统计上是显著的，应，表明相关系数在统计上是显著的，应拒

18、绝拒绝H0的原假设，即认为两变量之间存在线性相的原假设，即认为两变量之间存在线性相关。关。 若若 t t(13-2)=2.201，拒绝，拒绝H0，销售额与广告费之间的相关关系显著。销售额与广告费之间的相关关系显著。006606.72998940923. 01213998940923. 02t第二节第二节 直线相关分析直线相关分析27第三节第三节 直线回归分析直线回归分析一回归分析一回归分析的概念的概念高尔顿遗传学的回归概念高尔顿遗传学的回归概念英国人类学家英国人类学家 F.Galton首次在首次在自然遗传自然遗传一书中，提出并阐一书中，提出并阐明了明了“相关相关”和和“相关系数相关系数”两个概

19、念，为相关论奠定了基础。两个概念，为相关论奠定了基础。其后，他和英国统计学家其后，他和英国统计学家 Karl Pearson对上千个家庭的身高、对上千个家庭的身高、臂长、拃长（伸开大拇指与中指两端的最大长度）做了测量，臂长、拃长（伸开大拇指与中指两端的最大长度）做了测量，发现：发现：也即高个子父代的子代在成年之后的身高平均来说不是更高，也即高个子父代的子代在成年之后的身高平均来说不是更高，而是稍矮于其父代水平，而矮个子父代的子代的平均身高不而是稍矮于其父代水平，而矮个子父代的子代的平均身高不是更矮，而是稍高于其父代水平。是更矮，而是稍高于其父代水平。Galton将这种趋向于种族将这种趋向于种族

20、稳定的现象称之稳定的现象称之“回归回归”。儿子身高（儿子身高（Y，英寸）与父亲身高（，英寸）与父亲身高（X，英寸）存在线性关系：，英寸）存在线性关系：33.730.516YX回归分析是对具有相关关系的两个或两个以上变量之回归分析是对具有相关关系的两个或两个以上变量之间的数量变化的一般关系进行测定，确立一个相应的间的数量变化的一般关系进行测定，确立一个相应的数学表达式（数学模型），近似地描述变量间的平均数学表达式（数学模型），近似地描述变量间的平均变化关系，以便从一个已知量来推测另一个未知量，变化关系，以便从一个已知量来推测另一个未知量，为估算预测提供一个重要的方法。为估算预测提供一个重要的方法

21、。回归的目的（实质）：回归的目的（实质）：由固定的自变量（independent variable）去估计因变量（dependent variable）的平均值。目前，“回归”已成为表示变量之间某种数量依存关系的统计学术语，并且衍生出“回归方程”“回归系数”等统计学概念。第三节第三节 直线回归分析直线回归分析二回归的种类二回归的种类（一）按自变量的个数分（一）按自变量的个数分一元回归多元回归（二）按回归线的形态分（二）按回归线的形态分线性回归非线性回归第三节第三节 直线回归分析直线回归分析回归模型的类型回归模型的类型一个自变量一个自变量两个及两个以上自变量两个及两个以上自变量回归模型回归模型多

22、元回归多元回归一元回归一元回归线性线性回归回归非线性非线性回归回归线性线性回归回归非线性非线性回归回归第三节第三节 直线回归分析直线回归分析31三简单线性回归方程三简单线性回归方程（一）简单线性方程式的一般形式（一）简单线性方程式的一般形式bxayc 当两变量的增长比率为常数时，它们之间就呈现为一种简单线性关系。（二）简单线性回归方程进行回归分析的前提（二）简单线性回归方程进行回归分析的前提 所分析的两个变量之间必须存在相关关系，且相关程度在显著相关以上。（三）对两变量进行简单线性回归分析的任务（三）对两变量进行简单线性回归分析的任务 设法在分散的、具有线性关系的相关点之间配合一条最优的直线，

23、这条直线就是估计回归线，它表明两变量之间具体的变动关系。第三节第三节 直线回归分析直线回归分析32配合估计回归线的方程称为回归方程。bxayc方程式为：自变量系数直线的斜率，又称回归直线的起点值，因变量的估计值:,:xbayc回归系数b的经济涵义：当自变量变动一个单位时，因变量的平均变动值。（四）配合直线回归方程的方法（四）配合直线回归方程的方法（9.6）第三节第三节 直线回归分析直线回归分析33用最小平方法配合回归直线的基本思想是：用最小平方法配合回归直线的基本思想是：在所有的相关点中，通过数学方法配合一条较为理想的直线，这条直线必须满足两点：2、原数列与回归线的离差平方和为最小值。最小值2

24、)(cyy1、原数列与回归线的离差之和为零。0)(cyy配合直线回归方程的过程就是求解方程系数a、b的过程，求解a、b的方法一般采用最小平方法。（9.7）（9.8）即即第三节第三节 直线回归分析直线回归分析最小值22)()(bxayyybxaycc通过求通过求a、b的一阶偏导可得到求解的一阶偏导可得到求解a、b的联立方程：的联立方程：2xbxaxyxbnay解联立方程得到：解联立方程得到：xxxyLLxxnyxxynxxyxxybnxbnyxbya2222)(（9.9）（9.10）第三节第三节 直线回归分析直线回归分析4544.6 74.4 172.0 248.0 418.0 575.0 80

25、5.2 972.0 1280.0104214 3844 7396 6400 12100 13225174241822525600207.54 1.44 4.00 9.61 14.44 25.00 37.21 51.84 64.00 880 36.4 62 86 80 110 115 132 135 160 1.2 2.0 3.1 3.8 5.0 6.1 7.2 8.0 1 2 3 4 5 6 7 8生产费用 月产量序 号2xxy2yxy根据根据资料配合生产费用依产量变化的回归方程：资料配合生产费用依产量变化的回归方程：第三节第三节 直线回归分析直线回归分析,54.207, 8,880,4 .3

26、62xnyx6.4544,1042142xyy22)(xxnyxxynb9 .124 .3654.20788804 .366 .454482nxbnya3 .5184 .369 .128880则回归方程为则回归方程为:xyc9.123.51 回归系数回归系数b的涵义的涵义:月产量每增加月产量每增加1000吨，生产费用平均增加吨，生产费用平均增加12.9万元。万元。计算得到：计算得到：第三节第三节 直线回归分析直线回归分析 根据中的数据，配合的回归方程 根据a和b的求解公式得0049.545258964. 073077.9865258964. 092307.5725 .1282777.16073

27、3231374485 .1282719.9145651132abab的回归方程为yc = 54.0049 + 0.5258964 x运用运用INTERCEPT函数函数 计算截距计算截距运用运用SLOPE函数函数 计算斜率计算斜率第三节第三节 直线回归分析直线回归分析运用运用INTERCEPT函数函数 计算截距计算截距运用运用SLOPE函数函数 计算斜率计算斜率第三节第三节 直线回归分析直线回归分析（五）用（五）用Excel进行回归分析进行回归分析第第1步：步：选择“工具工具”下拉菜单第第2步：步：选择“数据分析数据分析”选项第第3步：步：在分析工具中选择“回归回归”，然后选择“确定确定”第第4

28、步：步：当对话框出现时 在“Y值输入区域值输入区域”设置框内键入Y的数据区域 在“X值输入区域值输入区域”设置框内键入X的数据区域 在“置信度置信度”选项中给出所需的数值 在“输出选项输出选项”中选择输出区域 在“残差残差”分析选项中选择所需的选项 用用Excel进行回归分析进行回归分析第三节第三节 直线回归分析直线回归分析01niiyxxSnt1221)() 2(niiyxxxnSnt12220)()(1) 2(SUMMARY OUTPUT回归统计Multiple R0.99894092R Square0.997882968Adjusted R Square0.997690511标准误差13

29、.4986044观测值13Coefficients标准误差t StatP-valueLower 95%Upper 95%Intercept54.00498.12098856.650043.61096E-0536.130771.8791广告费X0.5258960.007303472.00664.6055E-160.50980.54197相关系数的显著性检验-t检验Excel的输出结果第三节第三节 直线回归分析直线回归分析系数 R square称为方程的确定系数，01之间，越接近1，表明方程的变量对y的解释能力越强。对于回归方程来说，总结了以下几个意义：1R square可以作为选择不同模型的标准

30、可以作为选择不同模型的标准。如果在拟合数据之前，不能确定数据到底是什么模型，那么可以对变量的不同数学形式进行拟合，然后看R square的大小，R square大的模型，说明这个模型对数据拟合的较好。2在数据的关系存在非线性可能情况下：在数据的关系存在非线性可能情况下：(a)不一定R square越大拟合越好，因为R square只是回归平方和占总平方和的比例。比如，在那四幅著名的图里面，R square都等于66%，并且都是线性拟合，但是他们的数据点完全不同，有些是因为特异案例的存在，致使数据拟合出来是线性的，而事实上并非如此。所以，应该在拟合之前观察散点图，然后去掉特异值.(b)如果一个模

31、型的R square很小，不一定代表数据之间没有关系，而很有可能是选择的模型不对，因为数据之间也许的其他的函数关系，比如对数关系或者指数关系。这意味着需要对数据作进一步的拟合。（当然，最好的方法应该是在数据拟合之前先观察散点图）。如果是线性模型，那么R square才是方程拟合优度的度量，R square越大，回归方程拟合数据越好，线性关系越强。3当自变量个数增加时，当自变量个数增加时，尽管有的自变量与y的线性关系不显著，R square也会增大。R square受自变量个数与样本规模影响。对于这点，采用Adjusted R square进行调整。4当想确定方程中的每一个自变量对y的边际解释能

32、力时，应该确定每个自变量的偏确定系数（partial coefficient of determination）。注意，偏确定系数反映的是新加入回归的变量所解释的百分比，而这百分比是以前一步回归所未能解释的部分为整体，而不是以y的总变化为整体。也就是说，x1与x2共同解释的y的贡献，已包含在x1解释的y的贡献里面。偏确定系数的意义是，用于判断自变量的重要性。但是，在遇到虚拟变量时，计算这个的意义不大。显著性水平显著性水平 显著性水平是估计总体参数落在某一区间内，可能犯错误的概率为显著性水平，用表示。显著性是对差异的程度而言的，程度不同说明引起变动的原因也有不同：一类是条件差异，一类是随机差异。

33、它是在进行假设检验时事先确定一个可允许的作为判断界限的小概率标准。估计总体参数落在某一区间内，可能犯错误的概率为显著性水平，用表示， 1- 为置信度或置信水平，其表明了区间估计的可靠性。Excel输出的部分回归结果第三节第三节 直线回归分析直线回归分析 670 82 90 100 114 140 144耐用消费品销售额（万元） 2820 340 380 450 470 560 620人均年收入（元）合计199019911992199319941995时间要求：分析两变量相关密切程度，若为显著相关以上，要求：分析两变量相关密切程度，若为显著相关以上， 则对两变量进行回归分析。则对两变量进行回归分

34、析。课堂练习：课堂练习：某地区人均年收入与耐用消费品销售额某地区人均年收入与耐用消费品销售额 资料如下：资料如下：第三节第三节 直线回归分析直线回归分析答案：相关系数 r = 0.98 b = 0.24 a = -1.13 yc = -1.13+0.24x回归系数b的涵义:人均年收入每增加一元,耐用消费品销售额平均增加0.24万元。第三节第三节 直线回归分析直线回归分析四四 回归系数与相关系数的关系回归系数与相关系数的关系因为：因为：22)(xxnyxxynbyxxyr222xxybyyxxyxLLbbr所以：所以：xxyyxyLLrrb即：即：（9.11）（9.12）r和b 都能判断现象之间

35、相关方向，而且是一致的，即当r(b)0正相关，r(b)F 拒绝H0；若FF 拒绝H0，所以销售额和广告费之间线性关系显著。【例9.7】根据例9.2资料对建立的回归方程进行检验95449.5184)113/(335529.20041/5875.944762212122nyyyynSSESSRFcic第五节第五节 回归方程的检验与预测回归方程的检验与预测方差分析dfSSMSFSignificance F回归分析1944762.59944762.595184.954474.6055E-16残差112004.3355182.2123总计12946766.92F=5184.95 F =0.5=4.75,

36、拒绝拒绝H0，线性关系显著线性关系显著第五节第五节 回归方程的检验与预测回归方程的检验与预测二二 回归系数的检验回归系数的检验3. 在一元线性回归中，等价于线性关系的显著性检验。略。1. 检验 x 与 y 之间是否具有线性关系，或者说，检验自变量 x 对因变量 y 的影响是否显著。2. 理论基础是回归系数b的抽样分布。第五节第五节 回归方程的检验与预测回归方程的检验与预测三三 利用回归方程进行估计和预测利用回归方程进行估计和预测（点估计）（点估计）2. 点估计值有ny 的平均值的点估计ny 的个别值的点估计3. 在点估计条件下，平均值的点估计和个别值的点估计是一样的，但在区间估计中则不同1. 对于自变量 x 的一个给定值x0 ，根据回归方程得到因变量 y 的一个估计值y0第五节第五节 回归方程的检验与预测回归方程的检验与预测5796.11052000525896. 00049.540y（一）（一）y 的平均值的点估计的平均值的点估计 利用估计的回归方程，对于自变量 x 的一个给定值 x0 ，求出因变量 y 的平均值的一个估计值E(y0) ，就是平均值的点估计。 在前面的例子中，假如我们要估计广