高级社会统计学第十一部分回归与相关

1、高级社会统计学高级社会统计学闵学勤 第十一部分 回归与相关(定距-定距变量)第一节第一节 回归研究的对象回归研究的对象一、回归定义 回归分析是探讨变量间数量关系的一种常用统计方法。它通过建立变量间的数学模型对变量进行预测和控制。回归分析不但适用于实验数据，还可以分析未作实验控制的观测数据或历史资料。当旨在分析变量之间的密切程度时，一般使用相关系数，倘若研究的目的是确定变量之间数量关系的可能形式，找出表达它们之间依存关系的合适的数学模型，并用这个数学模型来表示这种关系形式，则叫做回归分析（regression analysis)。第十一部分 回归与相关(定距-定距变量)二、散点图（二、散点图（S

2、cattergram）及回归方程）及回归方程 iiiiiinexyyxyxfyEbxayxxxfy:)()(:),(:21与回归线的关系每个真实总体线性回归方程或拟合线性回归方程一般多元回归方程月龄(x3)908070605040身高(x5,cm)13012011010090第十一部分 回归与相关(定距-定距变量)二、散点图（二、散点图（Scattergram） 期望值(x)1086420幸福指数(y,%)706050403020100幸福指数(y,%)期望值(x)1086420706050403020100-10ObservedQuadratic第十一部分 回归与相关(定距-定距变量)第二节

3、第二节 线性回归方程的建立与最小二乘法线性回归方程的建立与最小二乘法线性回归方程建立方法1、作散点图，判断两变量间是否大致呈一种线性 关系；2、设回归方程为 ；3、选定某种方法，如平均数法或最小二乘法等计 算方程中的a和b；4、将a，b值代入表达式，得到回归方程。bxay第十一部分 回归与相关(定距-定距变量)第二节第二节 线性回归方程的建立与最小二乘法线性回归方程的建立与最小二乘法所谓最小二乘法，就是如果散点图中每一点沿Y轴方向到直线的距离（即 ）的平方和最小，也即使误差的平方和最小，则在所有直线中这条直线的代表性就是最好。iiyy第十一部分 回归与相关(定距-定距变量)第二节第二节 线性回

4、归方程的建立与最小二乘法线性回归方程的建立与最小二乘法最小二乘法 10 9 8 7 6 5 4 3 2 1 1 2 3 4 5 6 7 8 9 10回归直线图示),(iiyx),(iiyxiiiyy第十一部分 回归与相关(定距-定距变量)第二节第二节 线性回归方程的建立与最小二乘法线性回归方程的建立与最小二乘法0, 0),(, ,)(),()(212bQaQbaQbaba，。ba，QbxaybaQbxayyyniiiiiiiii达最小值使其中求得同的就是从不根据最小二乘法原理的函数值是显然第十一部分 回归与相关(定距-定距变量)第二节第二节 线性回归方程的建立与最小二乘法线性回归方程的建立与最

5、小二乘法由最小二乘法推导可得P3382)()(xxyyxxbiiixbya第十一部分 回归与相关(定距-定距变量)第二节第二节 线性回归方程的建立与最小二乘法线性回归方程的建立与最小二乘法例：为了研究教育年限和职业声望之间的关系。设以下是八名抽样调查结果表 职业声望与受教育年限统计表 调查对象 x（年） y（声望） 1 12 70 2 16 80 3 9 50 4 19 86 5 21 90 6 10 65 7 5 44 8 12 75第十一部分 回归与相关(定距-定距变量)第二节第二节 线性回归方程的建立与最小二乘法线性回归方程的建立与最小二乘法解：先做散点图x(年）3020100y（声望）

6、100908070605040第十一部分 回归与相关(定距-定距变量)第二节第二节 线性回归方程的建立与最小二乘法线性回归方程的建立与最小二乘法xy：baxbyabyx92.204.32,04.321392.270,92.2200584708560,138104代入得回归方程将第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验一、线性回归模型的基本假定一、线性回归模型的基本假定ninyyDyDyDianceEqualyyyy。，。xx)()()()var(,)(,)(2121其方差都相等的所有子总体要求二不计的或者说误差是可以忽略可以认为是没有误差的

7、值的测量也可以是非随机变量可以是随机变量自变量一第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验一、线性回归模型的基本假定一、线性回归模型的基本假定。y，yy。yxyEy，E，y，E，y，EyE，yiiini值之间都没有关系各的数值的数值不影响即是统计独立的要求随机变量四其数学表达式为则称作线性假定都在一条直线上其均值的所有子总体如果三2121)()(,)()()()()(第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验一、线性回归模型的基本假定一、线性回归模型的基本假定例2，P343。y，正态分布的每

8、一个子总体都满足值还要求除了上述假定或要求外出于检验的需要五)(第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验二、回归方程的检验二、回归方程的检验（一）检验的原假设0:0:,)(10HHxyE，yxii设可写成对于总体线性检验的假因此指的是存在关系式存在线性关系和变量所谓总体变量第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验二、回归方程的检验二、回归方程的检验（二）线性回归的平方和分解图 线性回归变异分析示意图bxay)(yyi) (yyi)(yy y第十一部分 回归与相关(定距-定距变量)第三节第

9、三节 回归方程的假定与检验回归方程的假定与检验二、回归方程的检验二、回归方程的检验（二）线性回归的平方和分解211121121)(:)1()(, 1yyTSSE。，yy，yy，xy，EPRETSSynyyyTSSTSSniiiniiniinii即差就构成了每次估计的误之差计值值和估而每一个真实的的最佳估计值只能是对有关系时和因为当不知是的同时还是总偏差平方和第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验二、回归方程的检验二、回归方程的检验（二）线性回归的平方和分解。，RSS。Ey，xyRSS。yyRSSbxayyyyRSSRSSiiiinii又称

10、残差平方和释的误差仍然未能消除或未被解计之后为通过回归直线进行估值时所产生的总误差估计有关系后和反映了知道的程度偏离回归直线反映了观测值所确定由回归方程其中剩余平方和221)(, 2第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验二、回归方程的检验二、回归方程的检验（二）线性回归的平方和分解RSSRRSSTSSyyRSSRRSSRini即有回归平方和21) (, 3第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验二、回归方程的检验二、回归方程的检验（二）线性回归的平方和分解.,)2, 1 ()2(,),

11、2(),1 () 1(,0. 0:2222220性相关的即认为总体中是存在线则拒绝原假设如果可以推断统计量统计量可以证明的抽样为如果作无数次样本容量的总体中那么从设总体满足原假设FFnFnRSSRSSRFnRSSRSSRnTSSnH第十一部分 回归与相关(定距-定距变量)第三节第三节 回归方程的假定与检验回归方程的假定与检验二、回归方程的检验二、回归方程的检验（二）线性回归的平方和分解.,99. 58 .5799. 5)28 , 1 (8 .5772.176)28(28.1705272.176)(28.1705) ()05. 0(, 405. 02121回归直线有意义即可以认为所以拒绝原假设检

12、验对上例进行回归直线的例FFnRSSRSSRFyyRSSyyRSSRiiniini第十二章 线性回归第三节第三节 回归方程的假定与检验回归方程的假定与检验三、测定系数 在回归方程的方差分析中曾指出，回归平方和对总平方和的贡献越大，说明回归方程越显著，因而回归平方和在总平方和中所占的比例是评价回归效果的一个指标。而所以， 叫做测定系数，也叫作判定系数或可决系数总平方和回归平方和TSSRSSRyyyyrii222)()(2r第十二章 线性回归第三节第三节 回归方程的假定与检验回归方程的假定与检验三、测定系数 X的变异 Y的变异 测定系数示意图用测定系数 可解释两变量共变的比例，表明Y变量有 %是由变量X的变异引起的。2r2r2r第十一部分 回归与相关(定距-定距变量)第四节第四节 相相 关关一、相关系数一、相关系数例，P35622)()()(yyxxyyxxriiii第十一部分 回归与相关(定距-定距变量)第四节第四节 相相 关关二、相关系数的检验二、相关系数的检验8,)2(12,0:)(0:2010也可直接查附表检验外除了用可以证明出样本的相关系数并计算的抽样作无数次容量为的总体中如果从满足总体相关系数为零TntrnrtrnHHH第十一部分 回归