（教学课件）残差分析

1、2021/8/23精品精品 PPT 模板模板1回归分析的基本思想及其初步应用回归分析的基本思想及其初步应用2021/8/2321、求回归直线方程的步骤：、求回归直线方程的步骤：1111(2),nniiiixxyynn求均值（3）代入公式）代入公式1122211()(),(),.(1)nniiiiiinniiiixx yyxnxybxxxnxa y bxy （4）写出直线方程为）写出直线方程为y=bx+a,即为所求的回归直线方程。即为所求的回归直线方程。（1）画散点图）画散点图2021/8/233例例1 从某大学中随机选取从某大学中随机选取8名女大学生，其身高和体重数据如表名女大学生，其身高和体

2、重数据如表1-1所示。所示。编号12345678身高身高/cm 165 165 157 170 175 165 155 170体重体重/kg4857505464614359求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为求根据一名女大学生的身高预报她的体重的回归方程，并预报一名身高为172cm的女大学生的体重。的女大学生的体重。3 3、从散点图还看到，样本点散布在某一条直线的附近，而不是、从散点图还看到，样本点散布在某一条直线的附近，而不是在一条直线上，所以不能用一次函数在一条直线上，所以不能用一次函数y=bx+ay=bx+a描述它们关系。描述它们关系。思考思考产生随机误差项产

3、生随机误差项e e的原因是什么？的原因是什么？ 我们可以用下面的我们可以用下面的线性回归模型线性回归模型来表示：来表示：y=bx+a+ey=bx+a+e，其中，其中a a和和b b为模型的未知参数，为模型的未知参数，e e称为随机误差称为随机误差。2021/8/234思考思考产生随机误差项产生随机误差项e的原因是什么？的原因是什么？随机误差随机误差e e的来源的来源( (可以推广到一般）：可以推广到一般）：1、其它因素的影响：影响身高 y 的因素不只是体重 x，可能 还包括遗传基因、饮食习惯、生长环境等因素；2、用线性回归模型近似真实模型所引起的误差；3、身高 y 的观测误差。2021/8/2

4、355943616454505748体重/kg170155165175170157165165身高/cm87654321编号 假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散假设随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落点图中所有的点将完全落在回归直线上。但是，在图中，数据点并没有完全落在回归直线上。在回归直线上。这些点散布在回归直线附近，所以一定是随机误差把这些点从这些点散布在回归直线附近，所以一定是随机误差把这些点从回归直线上回归直线上“推推”开了开了。在例在例1中，残差平方和约为中，残差

5、平方和约为128.361。 因此，数据点和它在回归直线上相应位置的差异因此，数据点和它在回归直线上相应位置的差异 是随机误差的效应，是随机误差的效应，称称 为为残差残差。)iiyy(iiieyy=例如，编号为例如，编号为6的女大学生，计算残差为：的女大学生，计算残差为：61 (0.849 16585.712)6.627对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号21()niiiyy称为称为残差平方和残差平方和，表示为：表示为：类似于方差的定义类似于方差的定义2021/8/236表表1-4列出了女大学

6、生身高和体重的原始数据以及相应的残差数据。列出了女大学生身高和体重的原始数据以及相应的残差数据。 在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否线性相关，是否可以用回归模型来拟合数据。性相关，是否可以用回归模型来拟合数据。残差分析与残差图的定义：残差分析与残差图的定义： 然后，我们可以通过残差然后，我们可以通过残差 来判断模型拟合的效果，判断原始来判断模型拟合的效果，判断原始数据中是否存在可疑数据，数据中是否存在可疑数据，这方面的分析工作称为残差分析这方面的分析工作称为残差分析。12,ne ee 编号编号1234567

7、8身高身高/cm165165157170175165155170体重体重/kg4857505464614359残差残差-6.3732.6272.419-4.6181.1376.627-2.8830.382 我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为我们可以利用图形来分析残差特性，作图时纵坐标为残差，横坐标可以选为样本编号，或身高数据，或体重估计值等，这样作出的图形称为样本编号，或身高数据，或体重估计值等，这样作出的图形称为残差图残差图。2021/8/237残差图的制作及作用。残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；坐标纵轴为残差变量，横轴可以有不同

8、的选择；若模型选择的正确，残差图中的点应该分布在以若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域横轴为心的带形区域；对于远离横轴的点，要特别注意对于远离横轴的点，要特别注意。身高与体重残差图异常点 错误数据 模型问题 几点说明：几点说明： 第一个样本点和第第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。据；如果数据采集

9、没有错误，则需要寻找其他的原因。 另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。2021/8/238我们可以用我们可以用相关指数相关指数R2来刻画回归的效果，其计算公式是来刻画回归的效果，其计算公式是22121()1()1niiiniiyyRyy残 差 平 方 和。总 偏 差 平 方 和 R2越接近越接近1，表示回归的效果越好（因为，表示回归的效果越好（因为R2越

10、接近越接近1，表示解析变量和预报变量的线性相关性越强）。表示解析变量和预报变量的线性相关性越强）。 如果某组数据可能采取几种不同回归方程进行回归如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较分析，则可以通过比较R2的值来做出选择，即的值来做出选择，即选取选取R2较大的模型作为这组数据的模型较大的模型作为这组数据的模型。总的来说：总的来说：相关指数相关指数R2是度量模型是度量模型拟合效果拟合效果的一种指标。的一种指标。在线性模型中，它在线性模型中，它代表自变量刻画预报变量的能力代表自变量刻画预报变量的能力。2021/8/239例例 关于关于x与与y有如下数据：有如下数据： 有如

11、下的两个线性模型：有如下的两个线性模型：（1） ；（；（2） 试比较哪一个拟合效果更好。试比较哪一个拟合效果更好。x24568y30406050706.517.5yx717.yx22121()1()niiiniiyyRyy 21()niiiyy第一个好第一个好2021/8/2310一般地，建立回归模型的基本步骤为：一般地，建立回归模型的基本步骤为：（1）确定研究对象，明确哪个变量是解析变量，哪个变量是预）确定研究对象，明确哪个变量是解析变量，哪个变量是预报变量。报变量。（2）画出确定好的解析变量和预报变量的散点图，观察它们之）画出确定好的解析变量和预报变量的散点图，观察它们之间的关系（如是否存

12、在线性关系等）。间的关系（如是否存在线性关系等）。（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程则选用线性回归方程y=bx+a）.（4）按一定规则估计回归方程中的参数（如最小二乘法）。）按一定规则估计回归方程中的参数（如最小二乘法）。（5）得出结果后分析残差图是否有异常（个别数据对应残差）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），过存在异常，过大，或残差呈现不随机的规律性，等等），过存在异常，则检查数据是否有误，或模型是则检查数据是否有误，或模型是 否合适等。否

13、合适等。2021/8/2311案例案例2 一只红铃虫的产卵数一只红铃虫的产卵数y和温度和温度x有关。现有关。现收集了收集了7组观测数据列于表中：组观测数据列于表中：（1 1）试建立产卵数）试建立产卵数y与温度与温度x之间的回归方程；并之间的回归方程；并预测温度为预测温度为2828o oC C时产卵数目。时产卵数目。（2 2）你所建立的模型中温度在多大程度上解释了）你所建立的模型中温度在多大程度上解释了产卵数的变化？产卵数的变化？ 温度温度xoC21232527293235产卵数产卵数y/个个7112124661153252021/8/2312选变量选变量 解：选取气温为解析变量解：选取气温为解

14、析变量x，产卵数，产卵数 为预报变量为预报变量y。画散点图画散点图假设线性回归方程为假设线性回归方程为 ：=bx+a选选 模模 型型分析和预测分析和预测当当x=28时，时，y =19.8728-463.73 93估计参数估计参数由计算器得：线性回归方程为由计算器得：线性回归方程为y= =19.8719.87x-463.73-463.73 相关指数相关指数R2 2= =r2 20.8640.8642 2=0.7464=0.7464所以，一次函数模型中温度解释了所以，一次函数模型中温度解释了74.64%的产卵数变化。的产卵数变化。探索新知探索新知05010015020025030035003691

15、2151821242730333639方案1当当x=28时，时，y =19.8728-463.73 93线性模型线性模型2021/8/2313奇怪？奇怪？9366 ?模型不好？模型不好？2021/8/2314 y=bx2+a 变换变换 y=bt+a非线性关系非线性关系 线性关系线性关系方案2问题问题选用选用y=bx2+a ，还是还是y=bx2+cx+a ？问题问题3 产卵数产卵数气温气温问题问题2如何求如何求a、b ？合作探究合作探究 t=x2二次函数模型二次函数模型2021/8/2315方案2解答平方变换平方变换：令令t=x2，产卵数，产卵数y和温度和温度x之间二次函数模型之间二次函数模型y

16、=bx2+a就转化为产卵数就转化为产卵数y和温度的平方和温度的平方t之间线性回归模型之间线性回归模型y=bt+a温度温度21232527293235温度的平方温度的平方t44152962572984110241225产卵数产卵数y/个个711212466115325作散点图，并由计算器得：作散点图，并由计算器得：y y和和t t之间的线性回归方程为之间的线性回归方程为y=y=0.3670.367t t-202.54-202.54，相关指数，相关指数R R2 2= =r r2 20.8960.8962 2=0.802=0.802将将t=xt=x2 2代入线性回归方程得：代入线性回归方程得： y=

17、y=0.3670.367x x2 2 -202.54 -202.54当当x x=28=28时时，y y=0.367=0.36728282 2- -202.5485202.5485，且，且R R2 2=0.802=0.802，所以，二次函数模型中温度解所以，二次函数模型中温度解释了释了80.2%80.2%的产卵数变化。的产卵数变化。t2021/8/2316问题问题 变换变换 y=bx+a非线性关系非线性关系 线性关系线性关系2110c xyc问题问题如何选取指数函数的底如何选取指数函数的底?产卵数产卵数气温气温指数函数模型指数函数模型方案3合作探究合作探究对数对数2021/8/2317方案3解答

18、温度温度xoC21232527293235z=lgy0.851.041.321.381.822.062.51产卵数产卵数y/个个711212466115325xz当当x=28x=28o oC C 时，时，y 44 y 44 ，指数回归，指数回归模型中温度解释了模型中温度解释了98.5%98.5%的产卵数的的产卵数的变化变化由计算器得：由计算器得：z z关于关于x x的线性回归方程的线性回归方程为为z=0.118z=0.118x x-1.665 -1.665 ，相关指数相关指数R R2 2= =r r2 20.99250.99252 2=0.985=0.9850.118x-1.665 10y 对

19、数变换：在对数变换：在 中两边取常用对数得中两边取常用对数得令令 ，则，则 就转换为就转换为z z=bx+a=bx+a22111221lglg( 10 )lglg10lglg10lgc xc xycccc xc xc2110c xyc12lg,lg,zy ac bc2110c xyc2021/8/2318最好的模型是哪个最好的模型是哪个? 产卵数产卵数气温气温产卵数产卵数气温气温线性模型线性模型二次函数模型二次函数模型指数函数模型指数函数模型2021/8/2319比一比比一比函数模型函数模型相关指数相关指数R2线性回归模型线性回归模型0.7464二次函数模型二次函数模型0.802指数函数模型指数函数模型0.985最好的模型是哪个最好的模型是哪个?2021/8/2320总总 结结1122( ,),(,),.,(,),nnx yxyxy 对于给定的样本点对于给定的样本点两个含有未知参数的模型：两个含有未知参数的模型：(1)(2)( , )( , ),yf x ayg x b和其中其中a和和b都是未知参数。拟合效果比较的步骤为：都是未知参数。拟合效果比较的步骤为：（1）分别建立对应于两个模型