3.1《回归分析的基本思想及其初步应用》PowerPoint 演示文稿

1、选修选修2-31、两个变量的关系、两个变量的关系不相关不相关相关相关关系关系函数关系函数关系线性相关线性相关非线性相关非线性相关问题问题1：现实生活中两个变量间的关系有哪些？：现实生活中两个变量间的关系有哪些？相关关系：相关关系：对于两个变量，当自变量取值一定对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量时，因变量的取值带有一定随机性的两个变量之间的关系。之间的关系。.32 2、现实生活中存在着大量的相关关系。现实生活中存在着大量的相关关系。探索：水稻产量探索：水稻产量y y与施肥量与施肥量x x之间大致有何之间大致有何规律？规律？.410 20 30 40 5010

2、20 30 40 50500500450450400400350350300300发现：图中各点，大致分布在某条直线附近。发现：图中各点，大致分布在某条直线附近。探索探索2 2：在这些点附近可画直线不止一条，：在这些点附近可画直线不止一条， 哪条直线最能代表哪条直线最能代表x x与与y y之间的关系呢？之间的关系呢？x xy y施化肥量施化肥量水稻产量水稻产量施化肥量施化肥量x x 15 20 25 30 35 40 45 15 20 25 30 35 40 45水稻产量水稻产量y y 330 345 365 405 445 450 455 330 345 365 405 445 450 45

3、5散点图散点图.5最小二乘法：最小二乘法： y = bx+a(x,y)(x,y)称为样本点的中心称为样本点的中心。n n( (x x- - x x) )( (y y- - y y) )i ii ii i= =1 1b b = =n n2 2( (x x- - x x) )i ii i= =1 1a a = = y y - - b bx x. .n nn n1 11 1其其 中中 x x = =x x , ,y y = =y y . .i ii in nn ni i= =1 1i i= =1 1n niiiii=1i=1n n2 22 2i ii=1i=1x y -nxyx y -nxy=,=,

4、x-nxx-nx.61.2341.2351.230.080.081.23AyxByxyxyx、C、D、1 1、已知回归直线斜率的估计值为、已知回归直线斜率的估计值为1.231.23，样本点的，样本点的中心为（中心为（4,54,5）, ,则回归直线方程为（则回归直线方程为（ ）C练习：练习：.72 2、某考察团对全国、某考察团对全国1010个城市进行职工人均工资水个城市进行职工人均工资水平平x x（千元）与居民人均消费水平（千元）与居民人均消费水平y y（千元）统计调（千元）统计调查，查，y y与与x x具有相关关系，回归方程具有相关关系，回归方程y = 0.66x + 1.562，若某城市居民

5、人均消费水平为，若某城市居民人均消费水平为7.6757.675（千元（千元），估计该城市人均消费额占人均工资收入的百分），估计该城市人均消费额占人均工资收入的百分比约为比约为（ ）A A83% B83% B72%72%C C67% 67% D D66%66%A问题问题2：对于线性相关的两个变量用什么方法来刻：对于线性相关的两个变量用什么方法来刻划之间的关系呢？划之间的关系呢？2、最小二乘估计、最小二乘估计最小二乘估计下的线性回归方程：最小二乘估计下的线性回归方程：ybxa121()()()niiiniixXyYbXX aYbXnxxi其中：nyyi心。回归直线过样本点的中）称为样本点的中心，（

6、 yx心。回归直线过样本点的中）称为样本点的中心，（ yx心。回归直线过样本点的中）称为样本点的中心，（ yx心。回归直线过样本点的中）称为样本点的中心，（ yx心。回归直线过样本点的中）称为样本点的中心，（ yx心。回归直线过样本点的中）称为样本点的中心，（ yxnxxi其中：nxxi其中：nyyinyyi例例1 从某大学中随机选取从某大学中随机选取8名女大学生，其身高和体重数据如表名女大学生，其身高和体重数据如表1-1所示。所示。5943616454505748体重/kg170155165175170157165165身高/cm87654321编号求根据一名女大学生的身高预报她的体重的回归

7、方程，并预报一名身求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为高为172cm的女大学生的体重。的女大学生的体重。问题一：结合例问题一：结合例1得出线性回归模型及随机误差。并且得出线性回归模型及随机误差。并且区区分函数模型和回归模型。分函数模型和回归模型。解：解：1、选取身高为自变量、选取身高为自变量x，体重为因变量，体重为因变量y，作散点图：，作散点图：2.回归方程：回归方程：172.85849. 0 xy学学身身 高高 1 17 72 2c cm m女女 大大生生 体体 重重y y = = 0 0. .8 84 49 91 17 72 2 - - 8 85 5. .7 7

8、1 12 2 = = 6 60 0. .3 31 16 6( (k kg g) )探究：身高为172cm的女大学生的体重一定是60.316kg吗？如果不是，你能解析一下原因吗？由于所有的样本点不共线，而只是散布在某一直线的附近，由于所有的样本点不共线，而只是散布在某一直线的附近，所以身高和体重的关系可以用所以身高和体重的关系可以用线性回归模型线性回归模型来表示：来表示：注：随机误差注：随机误差e包含预报体重不能由身高的线性函包含预报体重不能由身高的线性函数解释的所有部分。数解释的所有部分。 2,:0,ybxaeE eD e线性回归模型ybxaey其中和为模型的， 是 与之间的误差。通常称为未知

9、参数随机误差。ybxaey其中和为模型的， 是 与之间的误差。通常称为未知参数随机误差。ybxaey其中和为模型的， 是 与之间的误差。通常称为未知参数随机误差。ybxaey其中和为模型的， 是 与之间的误差。通常称为未知参数随机误差。 2,:0,ybxaeE eD e线性回归模型函数模型与函数模型与“回归模型回归模型”的关系的关系函数模型：因变量函数模型：因变量y完全由自变量完全由自变量x确定确定回归模型：回归模型： 预报变量预报变量y完全由解释变量完全由解释变量x和随机误差和随机误差e确定确定问题二：在线性回归模型中，问题二：在线性回归模型中，e是用是用bx+a预报真实值预报真实值y的随机

10、误差，它是一个不可观测的量，那么应如何研的随机误差，它是一个不可观测的量，那么应如何研究随机误差呢？究随机误差呢？,1,2,. ,1,2,.iiiiiiiiybxa ineyyybxa ine1122nniii残差：一般的对于样本点（x ,y）,(x ,y ),.,(x ,y ),它们的随机误差为e其估计值为称为相应于点(x ,y )的残差。 结合例结合例1除了身高影响体重外的其他因素是不可测量的，不能希除了身高影响体重外的其他因素是不可测量的，不能希望有某种方法获取随机误差的值以提高预报变量的估计精度，但望有某种方法获取随机误差的值以提高预报变量的估计精度，但却可以估计预报变量观测值中所包含

11、的随机误差，这对我们查找却可以估计预报变量观测值中所包含的随机误差，这对我们查找样本数据中的错误和模型的评价极为有用，因此在此我们引入残样本数据中的错误和模型的评价极为有用，因此在此我们引入残差概念。差概念。,1,2,. ,1,2,.iiiiiiiiybxa ineyyybxa ine1122nniii残差：一般的对于样本点（x ,y）,(x ,y ),.,(x ,y ),它们的随机误差为e其估计值为称为相应于点(x ,y )的残差。,1,2,. ,1,2,.iiiiiiiiybxa ineyyybxa ine1122nniii残差：一般的对于样本点（x ,y）,(x ,y ),.,(x ,y

12、 ),它们的随机误差为e其估计值为称为相应于点(x ,y )的残差。问题三：如何发现数据中的错误？如何衡量随机模型的问题三：如何发现数据中的错误？如何衡量随机模型的拟合效果？拟合效果？(1)我们可以通过分析发现原始数据中的可疑数据，我们可以通过分析发现原始数据中的可疑数据，判断建立模型的拟合效果。判断建立模型的拟合效果。iiieybxa（1）计算（i=1,2,.n）残差分析（2）画残差图（1）查找异常样本数据（2）残差点分布在以O为中心的水平（3）分析残差图 带状区域，并沿水平方向散点的 分布规律相同。iiieybxa（1）计算（i=1,2,.n）残差分析（2）画残差图（1）查找异常样本数据（

13、2）残差点分布在以O为中心的水平（3）分析残差图 带状区域，并沿水平方向散点的 分布规律相同。残差图的制作和作用：残差图的制作和作用：制作：坐标纵轴为残差变量，横轴可以有不同的选择.n 横轴为编号：可以考察残差与编号次序之间的关系， 横轴为解释变量：可以考察残差与解释变量的关系，作用：判断模型的适用性若模型选择的正确，残差图中的点应该分布在以横轴为中心的带形区域.下面表格列出了女大学生身高和体重的原始数据以及相应的残差数据。下面表格列出了女大学生身高和体重的原始数据以及相应的残差数据。残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；坐标纵轴为残差变量，横轴可以

14、有不同的选择；若模型选择的正确，残差图中的点应该分布在以若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域横轴为心的带形区域；对于远离横轴的点，要特别注意对于远离横轴的点，要特别注意。身高与体重残差图异常点异常点错误数据模型问题 几点说明：几点说明： 第一个样本点和第第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。拟合数据；如果

15、数据采集没有错误，则需要寻找其他的原因。 另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。显然，显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。的值越大，说明残差平方和越小，也就是说模型拟合效果越好。在线性回归模型中，在线性回归模型中，R2表示解析变量对预报变量变化的贡献率。表示解析变量对预报变量变化的贡献率。 R2越接近越接近1，表示回归的效果越

16、好（因为，表示回归的效果越好（因为R2越接近越接近1，表示解析变量和预报变量，表示解析变量和预报变量的线性相关性越强）的线性相关性越强）。 如果某组数据可能采取几种不同回归方程进行回归分析，则可以通如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过过比较比较R2的值来做出选择，即选取的值来做出选择，即选取R2较大的模型作为这组数据的模型。较大的模型作为这组数据的模型。注：相关指数注：相关指数R R2 2是度量模型拟合效果的一种指标。在线性模型中，是度量模型拟合效果的一种指标。在线性模型中，它代表自变量刻画预报变量的能力。它代表自变量刻画预报变量的能力。（2）我们可以用）我们可以用相关

17、指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy 残差平方和。总偏差平方和问题四：若两个变量呈现非线性关系，如何解决？（分析例问题四：若两个变量呈现非线性关系，如何解决？（分析例2）例例2 一只红铃虫的产卵数一只红铃虫的产卵数y和温度和温度x有关。现收集了有关。现收集了7组观测数据列于表中：组观测数据列于表中：温度温度 xoC21232527293235产卵数产卵数 y/个个711212466115325（1 1）试建立产卵数）试建立产卵数y y与温度与温度x x之间的回归方程；并预测温度为之间的回归方程；并预测温度为2

18、828o oC C时产卵时产卵数目。数目。（2 2）你所建立的模型中温度在多大程度上解释了产卵数的变化？）你所建立的模型中温度在多大程度上解释了产卵数的变化？ 选变量选变量 解：选取气温为解释变量解：选取气温为解释变量x x，产卵数，产卵数 为预报变量为预报变量y y。画散点图画散点图假设线性回归方程为假设线性回归方程为：=bx+a选选 模模 型型分析和预测分析和预测当当x=28时，时，y =19.8728-463.73 93估计参数估计参数由计算器得：线性回归方程为由计算器得：线性回归方程为y=y=19.8719.87x x-463.73-463.73 相关指数相关指数R R2 2=0.74

19、64=0.7464所以，一次函数模型中温度解释了所以，一次函数模型中温度解释了74.64%的产卵数变化。的产卵数变化。050100150200250300350036912151821242730333639当当x=28时，时，y =19.8728-463.73 93方法一：一元函数模型方法一：一元函数模型 y= c1 x2+c2 变换变换 y= c1 t+c2 非线性关系非线性关系 线性关系线性关系问题问题选用选用y=c1x2+c2问题问题3 产卵数产卵数气温气温问题问题2如何求如何求c1、c2？ t=x2方法二，二元函数模型方法二，二元函数模型平方变换：平方变换：令令t=xt=x2 2，产

20、卵数，产卵数y y和温度和温度x x之间二次函数模型之间二次函数模型y=bxy=bx2 2+a+a就就转化为产卵数转化为产卵数y y和温度的平方和温度的平方t t之间线性回归模型之间线性回归模型y=bt+ay=bt+a温度温度21232527293235温度的平方温度的平方t44152962572984110241225产卵数产卵数y/个个711212466115325作散点图，并由计算器得：作散点图，并由计算器得：y y和和t t之间的线性回归方程为之间的线性回归方程为y=y=0.3670.367t t-202.54-202.54，相关指数，相关指数R R2 2=0.802=0.802将将t=xt=x2 2代入线性回归方程得：代入线性回归方程得： y=y=0.3670