数学：1.1《回归的基本思想及其初步应用》课件(新人教A版选修1-2)

1、一、复习回顾：一、复习回顾：1 1、求线性回归方程、求线性回归方程2 2、线性相关关系强弱的判断：、线性相关关系强弱的判断：相关系数相关系数r r例例1:1:从某大学中随机选取从某大学中随机选取8 8名女大学生名女大学生, ,其其身高和体重数据如下表身高和体重数据如下表, ,求根据女大学生求根据女大学生的身高预报体重的回归方程的身高预报体重的回归方程, ,并预报一名并预报一名身高为身高为172cm172cm的女大学生的体重的女大学生的体重. .线性回归模型：线性回归模型： y=0.849x-85.712+ey=0.849x-85.712+e身高、随机误差对体重有没有影响？身高、随机误差对体重有

2、没有影响？y = 0.8485x - 85.712010203040506070150155160165170175180身高体重二、新概念引入：二、新概念引入：n n1 1i i2 2i iT T) )y y( (y yS SS S1 1. .总总偏偏差差平平方方和和计算例计算例1 1中总偏差平方和中总偏差平方和 SSSST T=354=354思考：预报变量（体重）与实际值有偏思考：预报变量（体重）与实际值有偏差即总偏差平方和，这个偏差变化在多差即总偏差平方和，这个偏差变化在多大程度上与解释变量（身高）有关？在大程度上与解释变量（身高）有关？在多大程度上与随机变量有关？多大程度上与随机变量有

3、关？y = 0.8485x - 85.712010203040506070150155160165170175180身高体重n n1 1i i2 2i ii iE E) )y y( (y yS SS S作用作用：表示随机误差的效应：表示随机误差的效应 残差平方和：残差平方和：样本值与回归值差的平方和样本值与回归值差的平方和 2.2.残差：残差：样本值与回归值差即样本值与回归值差即i ii iy yy y例例1 SS1 SSE E=128.361=128.361y = 0.8485x - 85.712010203040506070150155160165170175180身高体重思考：若体重仅受

4、身高的影响，散点图又如何？思考：若体重仅受身高的影响，散点图又如何？3.3.回归平方和回归平方和：相应回归值与样本均值差的：相应回归值与样本均值差的平方和，即：平方和，即：n n1 1i i2 2i iR R) )y yy y( (S SS SSSSST T=SS=SSR R+SS+SSE E作用：表示解释变量的效应作用：表示解释变量的效应例例1 SS1 SSR R=225.639=225.639即刻画了预报变量的变化中由解释变量通过即刻画了预报变量的变化中由解释变量通过线性回归模型所引起的那部分变化程度线性回归模型所引起的那部分变化程度y = 0.8485x - 85.71201020304

5、0506070150155160165170175180身高体重注：当总偏差平方和相对固定时，残差平方注：当总偏差平方和相对固定时，残差平方和越小，则回归平方和越大，此时模型的拟和越小，则回归平方和越大，此时模型的拟合效果越好合效果越好 . .SSSST T=SS=SSR R+SS+SSE Ey = 0.8485x - 85.712010203040506070150155160165170175180身高体重4.4.有没有其他方法来刻划模型的拟合程度？有没有其他方法来刻划模型的拟合程度？相关指数：相关指数：n n1 1i i2 2i in n1 1i i2 2i ii i2 2) )y y(

6、y(y) )y y(y(y1 1R R1 1）R R2 2越大，说明残差平方和越小，回归平方越大，说明残差平方和越小，回归平方和越大，则模型拟合效果越好。和越大，则模型拟合效果越好。2 2）R R2 2表示解释变量对预报变量变化的贡献率表示解释变量对预报变量变化的贡献率3 3）R R2 211，模型拟合效果越好，表示解释变量，模型拟合效果越好，表示解释变量和预报变量的相关性越强。和预报变量的相关性越强。例例1 1 相关指数相关指数R R2 2=0.64,=0.64,说明了什么？说明了什么？解释变量对总效应约贡献了解释变量对总效应约贡献了64%64%，随机误差，随机误差贡献了剩余的贡献了剩余的3

7、6%36%。4 4）若采用了几种不同回归方程进行回归分）若采用了几种不同回归方程进行回归分析，通过比较析，通过比较R R2 2值作出选择，即选择值作出选择，即选择R R2 2大的大的模型作为这组数据的模型。模型作为这组数据的模型。问：有些时候，样本数据中难免混有错误问：有些时候，样本数据中难免混有错误数据，通过何种方法把它剔除？数据，通过何种方法把它剔除？5 5、残差分析：、残差分析： 判断原始数据中是否存在可判断原始数据中是否存在可疑数据，这方面的工作称为疑数据，这方面的工作称为残差分析。残差分析。步骤：步骤：1 1）计算每组数据的残差）计算每组数据的残差2 2）画残差图。纵坐标为残差，横坐

8、标为自）画残差图。纵坐标为残差，横坐标为自变量。变量。3 3）分析残差图）分析残差图4 4）找异常值）找异常值练：例练：例1 1作出残差分析作出残差分析即样本值减预测值即样本值减预测值) )y y( (y yi ii i-8-6-4-2024680123456789编号残差残差比较均匀地落在带状区域内，残差比较均匀地落在带状区域内，说明选用的模型比较合适。说明选用的模型比较合适。但第但第1 1个点与第个点与第6 6个点残差较大，需要分析。个点残差较大，需要分析。-2-20 02 2-4-4 0 05 5-5-5 0 05 5-5-5 0 0-50-50回归模型合理回归模型合理回归模型不是最好回

9、归模型不是最好回归模型不是最好回归模型不是最好回归模型不是最好回归模型不是最好例例1 1用身高预测体重要注意的问题：用身高预测体重要注意的问题：（1 1）回归方程所适用样本的总体）回归方程所适用样本的总体（2 2）回归方程所适用的时间性）回归方程所适用的时间性（3 3）回归方程所适用的范围）回归方程所适用的范围（4 4）回归方程得到的是预报变量可能取）回归方程得到的是预报变量可能取值的平均值值的平均值据据R2大小大小（作残差表或图作残差表或图）残差分析残差分析 据据 r 的大小判定相关性的大小判定相关性应应 用用(解释变量解释变量)e ea ab bx xy yn n1 1i in n1 1i

10、 i2 2i i2 2i ii in n1 1i ii i) )y y( (y y) )x x( (x x) )y y( (y y) )x x( (x xr r相关性判相关性判定定 公公 式式121()()()niiiniixxyyxxb bin n2 2i i2 2i i 1 1n n2 2i ii i 1 1( ( y yy y ) )R R1 1( ( y yy y ) )残差分析残差分析公式公式例例1 1 小结小结建立回归模型的步骤：建立回归模型的步骤：（1 1）明确研究对象，设好变量）明确研究对象，设好变量（2 2）画出散点图）画出散点图（3 3）选定回归方程类型）选定回归方程类型（

11、4 4）求回归方程中的参数）求回归方程中的参数（5 5）作残差图，进行残差分析）作残差图，进行残差分析例例2 2 关于关于x x与与y y有如下数据：有如下数据： 为了对为了对x x、y y两个变量进行统计分析，现有以两个变量进行统计分析，现有以下两种线性模型：下两种线性模型：y=6.5x+17.5y=6.5x+17.5，y=7x+17y=7x+17，试比较哪一个模型拟合的效果更好试比较哪一个模型拟合的效果更好. . 1 1）总偏差平方和）总偏差平方和= =回归平方和回归平方和+ +残差平方和残差平方和2 2）判断两个模型拟合程度：相关指数）判断两个模型拟合程度：相关指数R R2 23 3）如

12、何进行残差分析？）如何进行残差分析？4 4）求回归模型的步骤。）求回归模型的步骤。小结小结例例1 从某大学中随机选取从某大学中随机选取8名女大学生，其身高和体重数据如表名女大学生，其身高和体重数据如表1-1所示。所示。求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。的女大学生的体重。案例案例1：女大学生的身高与体重：女大学生的身高与体重解：解：1、选取身高为自变量、选取身高为自变量x，体重为因变量，体重为因变量y，作散点图：，作散点图：2、由散点图知道身高和体重有比较好的、由散点图知道身

13、高和体重有比较好的线性相关关系，因此可以用线性回归方程线性相关关系，因此可以用线性回归方程刻画它们之间的关系。刻画它们之间的关系。3、从散点图还看到，样本点散布在某一条、从散点图还看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以直线的附近，而不是在一条直线上，所以不能用一次函数不能用一次函数y=bx+a描述它们关系。描述它们关系。 我们可以用下面的我们可以用下面的线性回归模型线性回归模型来表示：来表示：y=bx+a+e，其中，其中a和和b为模型的未知参数，为模型的未知参数，e称为随机误差称为随机误差。思考思考P3产生随机误差项产生随机误差项e的原因是什么？的原因是什么？思考思考P3

14、产生随机误差项产生随机误差项e的原因是什么？的原因是什么？随机误差随机误差e e的来源的来源( (可以推广到一般）：可以推广到一般）：1、其它因素的影响：影响身高 y 的因素不只是体重 x，可能 还包括遗传基因、饮食习惯、生长环境等因素；2、用线性回归模型近似真实模型所引起的误差；3、身高 y 的观测误差。函数模型与回归模型之间的差别函数模型与回归模型之间的差别函数模型：abxy回归模型：eabxy可以提供选择模型的准则函数模型与回归模型之间的差别函数模型与回归模型之间的差别函数模型：abxy回归模型：eabxy 线性回归模型线性回归模型y=bx+a+e增加了随机误差项增加了随机误差项e，因变

15、量，因变量y的值由自变量的值由自变量x和和随机误差项随机误差项e共同确定，即共同确定，即自变量自变量x只能解析部分只能解析部分y的变化的变化。 在统计中，我们也把自变量在统计中，我们也把自变量x称为解析变量，因变量称为解析变量，因变量y称为预报变量。称为预报变量。例例1 从某大学中随机选取从某大学中随机选取8名女大学生，其身高和体重数据如表名女大学生，其身高和体重数据如表1-1所示。所示。求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。的女大学生的体重。案例案例1：女大学生的身高与体重：

16、女大学生的身高与体重解：解：1、选取身高为自变量、选取身高为自变量x，体重为因变量，体重为因变量y，作散点图：，作散点图：2、由散点图知道身高和体重有比较好的、由散点图知道身高和体重有比较好的线性相关关系，因此可以用线性回归方程线性相关关系，因此可以用线性回归方程刻画它们之间的关系。刻画它们之间的关系。3、从散点图还看到，样本点散布在某一条、从散点图还看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以直线的附近，而不是在一条直线上，所以不能用一次函数不能用一次函数y=bx+a描述它们关系。描述它们关系。 我们可以用下面的我们可以用下面的线性回归模型线性回归模型来表示：来表示：y=bx

17、+a+e，其中，其中a和和b为模型的未知参数，为模型的未知参数，e称为随机误差称为随机误差。例例1 从某大学中随机选取从某大学中随机选取8名女大学生，其身高和体重数据如表名女大学生，其身高和体重数据如表1-1所示。所示。5943616454505748体重/kg170155165175170157165165身高/cm87654321编号求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。的女大学生的体重。根据最小二乘法估计 和 就是未知参数a和b的最好估计，ab制表xi2xi yiyixi

18、7 8 合计654321i2iiixyxx ynni=1i=1 ， ， ， .例例1 从某大学中随机选取从某大学中随机选取8名女大学生，其身高和体重数据如表名女大学生，其身高和体重数据如表1-1所示。所示。5943616454505748体重/kg170155165175170157165165身高/cm87654321编号求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。的女大学生的体重。根据最小二乘法估计 和 就是未知参数a和b的最好估计，ab于是有b=12210.849niiinii

19、x ynx yxnx85.712aybx 所以回归方程是0.84985.712yx所以，对于身高为所以，对于身高为172cm的女大学生，由回归方程可以预报其体重为的女大学生，由回归方程可以预报其体重为 0.849 7285.71260.316()ykg( , )x y 称为样本点的中心探究探究P4：身高为身高为172cm的女大学生的体重一定是的女大学生的体重一定是60.316kg吗？吗？如果不是，你能解析一下原因吗？如果不是，你能解析一下原因吗？探究探究P4：身高为身高为172cm的女大学生的体重一定是的女大学生的体重一定是60.316kg吗？吗？如果不是，你能解析一下原因吗？如果不是，你能解

20、析一下原因吗？答：身高为答：身高为172cm的女大学生的体重不一定是的女大学生的体重不一定是60.316kg， 但一般可以认为她的体重在但一般可以认为她的体重在60.316kg左右。左右。函数模型与回归模型之间的差别函数模型与回归模型之间的差别函数模型：abxy回归模型：eabxy如何描述两个变量之间线性相关关系的强弱？如何描述两个变量之间线性相关关系的强弱？ 在数学3中，我们学习了用相关系数r来衡量两个变量之间线性相关关系的方法。相关系数相关系数r12211()().()()niiinniiiixxyyxxyy0.751, 1, 0.75, 0 25,0.25,rrr 当， 表明两个变量正相

21、关很强；当表明两个变量负相关很强；当.表明两个变量相关性较弱。相关关系的测度相关关系的测度（相关系数取值及其意义）对回归模型进行统计检验对回归模型进行统计检验思考思考P6：如何刻画预报变量（体重）的变化？这个变化在多大程度上如何刻画预报变量（体重）的变化？这个变化在多大程度上与解析变量（身高）有关？在多大程度上与随机误差有关？与解析变量（身高）有关？在多大程度上与随机误差有关？ 假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相假设身高和随机误差的不同不会对体重产生任何影响，那么所有人的体重将相同。同。在体重不受任何变量影响的假设下，设在体重不受任何变量影响的假设下，设8名女

22、大学生的体重都是她们的平均值，名女大学生的体重都是她们的平均值，即即8个人的体重都为个人的体重都为54.5kg。54.554.554.554.554.554.554.554.5体重/kg170155165175170157165165身高/cm87654321编号54.5kg在散点图中，所有的点应该落在同一条在散点图中，所有的点应该落在同一条水平直线上，但是观测到的数据并非如水平直线上，但是观测到的数据并非如此。此。这就意味着这就意味着预报变量（体重）的值预报变量（体重）的值受解析变量（身高）或随机误差的影响受解析变量（身高）或随机误差的影响。5943616454505748体重/kg1701

23、55165175170157165165身高/cm87654321编号 例如，编号为例如，编号为6的女大学生的体重并没有落在水平直线上，她的体重为的女大学生的体重并没有落在水平直线上，她的体重为61kg。解析。解析变量（身高）和随机误差共同把这名学生的体重从变量（身高）和随机误差共同把这名学生的体重从54.5kg“推推”到了到了61kg，相差，相差6.5kg，所以所以6.5kg是解析变量和随机误差的是解析变量和随机误差的组合效应组合效应。 编号为编号为3的女大学生的体重并也没有落在水平直线上，她的体重为的女大学生的体重并也没有落在水平直线上，她的体重为50kg。解析。解析变量（身高）和随机误差

24、共同把这名学生的体重从变量（身高）和随机误差共同把这名学生的体重从50kg“推推”到了到了54.5kg，相差，相差-4.5kg，这时解析变量和随机误差的组合效应为这时解析变量和随机误差的组合效应为-4.5kg。用这种方法可以对所有预报变量计算组合效应。用这种方法可以对所有预报变量计算组合效应。数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用21()niiyy表示总的效应，称为表示总的效应，称为总偏差平方和总偏差平方和。在例在例1中，总偏差平方和为中，总偏差平方和为354。5943616454505748体重/kg17015

25、5165175170157165165身高/cm87654321编号 那么，在这个总的效应（总偏差平方和）中，有多少来自于解析变量（身高）？那么，在这个总的效应（总偏差平方和）中，有多少来自于解析变量（身高）？有多少来自于随机误差？有多少来自于随机误差？ 假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归直线上。这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上“推推”开了开了。在例在例1中，残差平方和约为中，残差平方和约为128

26、.361。 因此，数据点和它在回归直线上相应位置的差异因此，数据点和它在回归直线上相应位置的差异 是随机误差的效应，是随机误差的效应，称称 为为残差残差。)iiyy(iiieyy=例如，编号为例如，编号为6的女大学生，计算随机误差的效应（残差）为：的女大学生，计算随机误差的效应（残差）为：61(0.849 16585.712)6.627对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号21()niiiyy称为称为残差平方和残差平方和，它代表了随机误差的效应。它代表了随机误差的效应。表示为：表示为： 由于解

27、析变量和随机误差的总效应（总偏差平方和）为由于解析变量和随机误差的总效应（总偏差平方和）为354，而随机误差的效应为，而随机误差的效应为128.361，所以解析变量的效应为，所以解析变量的效应为解析变量和随机误差的总效应（总偏差平方和）解析变量和随机误差的总效应（总偏差平方和） =解析变量的效应（回归平方和）解析变量的效应（回归平方和）+随机误差的效应（残差平方和）随机误差的效应（残差平方和）354-128.361=225.639 这个值称为这个值称为回归平方和。回归平方和。我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11(

28、)niiiniiyyRyy 残差平方和。总偏差平方和2221121()()()nniiiiiniiyyyyRyy总偏差平方和残差平方和回归平方和总偏差平方和总偏差平方和离差平方和的分解离差平方和的分解 （三个平方和的意义）总偏差平方和总偏差平方和(SST)q反映因变量的反映因变量的 n 个观察值与其均值的总离差个观察值与其均值的总离差回归平方和回归平方和(SSR)q反映自变量反映自变量 x 的变化对因变量的变化对因变量 y 取值变化的影响，取值变化的影响，或者说，是由于或者说，是由于 x 与与 y 之间的线性关系引起的之间的线性关系引起的 y 的的取值变化，也称为可解释的平方和取值变化，也称为

29、可解释的平方和残差平方和残差平方和(SSE)q反映除反映除 x 以外的其他因素对以外的其他因素对 y 取值的影响，也称为取值的影响，也称为不可解释的平方和或剩余平方和不可解释的平方和或剩余平方和样本决定系数样本决定系数 （判定系数 r2 ）回归平方和占总离差平方和的比例niiniiniiniiyyyyyyyySSTSSRr1212121221我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy 残差平方和。总偏差平方和显然，显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。的值越大，说

30、明残差平方和越小，也就是说模型拟合效果越好。在线性回归模型中，在线性回归模型中，R2表示解析变量对预报变量变化的贡献率表示解析变量对预报变量变化的贡献率。 R2越接近1，表示回归的效果越好（因为R2越接近1，表示解析变量和预报变量的线性相关性越强）。 如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值的值来做出选择，即来做出选择，即选取选取R2较大的模型作为这组数据的模型较大的模型作为这组数据的模型。总的来说：总的来说：相关指数相关指数R2是度量模型拟合效果的一种指标。是度量模型拟合效果的一种指标。在线性模型

31、中，它在线性模型中，它代表自变量刻画预报变量的能力代表自变量刻画预报变量的能力。我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()11()niiiniiyyRyy 残差平方和。总偏差平方和1354总计0.36128.361残差变量0.64225.639随机误差比例平方和来源表表1-3 从表从表3-1中可以看出，解析变量对总效应约贡献了中可以看出，解析变量对总效应约贡献了64%，即，即R2 0.64，可以叙述为，可以叙述为“身高解析了身高解析了64%的体重变化的体重变化”，而随机误差贡献了剩余的，而随机误差贡献了剩余的36%。 所以

32、，身高对体重的效应比随机误差的效应大得多。所以，身高对体重的效应比随机误差的效应大得多。表表1-4列出了女大学生身高和体重的原始数据以及相应的残差数据。列出了女大学生身高和体重的原始数据以及相应的残差数据。 在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用回归模型来拟合数据。是否可以用回归模型来拟合数据。残差分析与残差图的定义：残差分析与残差图的定义： 然后，我们可以通过残差然后，我们可以通过残差 来判断模型拟合的效果，判断原始来判断模型拟合的效果，判断原始数据中是否存在可疑数据，数据中是否存

33、在可疑数据，这方面的分析工作称为残差分析这方面的分析工作称为残差分析。12,ne ee 我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为编号，或身高数据，或体重估计值等，这样作出的图形称为残差图残差图。残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；坐标纵轴为残差变量，横轴可以有不同的选择；若模型选择的正确，残差图中的点应该分布在以若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域横轴为心的带形区域；对于远离横轴的点，要特别注意对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据 模型问题 几点说明：几点说明： 第一个样本点和第第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果