回归分析的基本思想

回归分析的基本思想第1页，课件共39页，创作于2023年2月3.1回归分析的基本思想及其初步应用（一）高二数学选修2-3

第2页，课件共39页，创作于2023年2月7/10/2023两个变量的关系不相关相关关系函数关系线性相关非线性相关现实生活中两个变量间的关系:相关关系：对于两个变量，当自变量取值一定时，因变量的取值带有一定随机性的两个变量之间的关系.函数关系中的两个变量间是一种确定性关系相关关系是一种非确定性关系函数关系是一种理想的关系模型相关关系在现实生活中大量存在，是更一般的情况第3页，课件共39页，创作于2023年2月表示有一组具体的数据估计得到的截距和斜率;a,b,y表示真实值;表示由真实值a,b所确定的值.表示由估计值所确定的值.第4页，课件共39页，创作于2023年2月这种方法称为回归分析.两个具有线性相关关系的变量的统计分析：（1）画散点图；（2）求回归直线方程(最小二乘法)：（3）利用回归直线方程进行预报；回归分析是对具有相关关系的两个变量进行统计分析的一种常用方法.为样本点的中心样本点：第5页，课件共39页，创作于2023年2月

2008年5月，中共中央国务院关于加强青少年体育、增强青少年体质的意见指出城市超重和肥胖青少年的比例明显增加.“身高标准体重”该指标对于学生形成正确的身体形态观具有非常直观的教育作用.“身高标准体重”从何而来？我们怎样去研究?创设情境：第6页，课件共39页，创作于2023年2月某大学中随机选取8名女大学生，其身高和体重数据如下表所示.编号12345678身高/cm165165157170175165155170体重/kg4857505464614359求根据女大学生的身高预报体重的回归方程，并预报一名身高为172cm的女大学生的体重.第7页，课件共39页，创作于2023年2月解：取身高为解释变量x，体重为预报变量y，作散点图：样本点呈条状分布，身高和体重有较好的线性相关关系，因此可以用回归方程来近似的刻画它们之间的关系.第8页，课件共39页，创作于2023年2月由得：故所求回归方程为：因此，对于身高172cm的女大学生，由回归方程可以预报其体重为：是斜率的估计值，说明身高x每增加1个单位时，体重y就增加0.849个单位，这表明体重与身高具有正的线性相关关系.如何描述它们之间线性相关关系的强弱？第9页，课件共39页，创作于2023年2月相关系数相关系数的性质(1)|r|≤1．(2)|r|越接近于1，相关程度越强；|r|越接近于0，相关程度越弱．注:b与r同号问题：达到怎样程度，x、y线性相关呢？它们的相关程度怎样呢？r第10页，课件共39页，创作于2023年2月相关系数ｒ＞０正相关；ｒ＜０负相关．通常：r∈[-1,-0.75]--负相关很强;r∈[0.75,1]—正相关很强;r∈[-0.75,-0.3]--负相关一般;r∈[0.3,0.75]—正相关一般;r∈[-0.25,0.25]--相关性较弱;对r进行显著性检验r第11页，课件共39页，创作于2023年2月某大学中随机选取8名女大学生，其身高和体重数据如下表所示.编号12345678身高/cm165165157170175165155170体重/kg4857505464614359求根据女大学生的身高预报体重的回归方程，并预报一名身高为172cm的女大学生的体重.故所求回归方程为：r=0.798表明体重与身高有很强的线性相关性，从而说明我们建立的回归模型是有意义的.认为她的平均体重的估计值是60.316kg.第12页，课件共39页，创作于2023年2月因为所有的样本点不共线，所以线性函数模型只能近似地刻画身高和体重之间的关系，即：体重不仅受身高的影响，还受其他因素的影响，把这种影响的结果用e来表示，从而把线性函数模型修改为线性回归模型：y=bx+a+e.其中，e包含体重不能由身高的线性函数解释的所有部分.第13页，课件共39页，创作于2023年2月线性回归模型其中a和b为模型的未知参数，e是y与之间的误差，通常e为随机变量，称为随机误差.均值E(e)=0，方差D(e)=σ2>0线性回归模型的完整表达式为：线性回归模型适用范围比一次函数的适用范围大得多.当随机误差e恒等于0时，线性回归模型就变成一次函数模型.即：一次函数模型是线性回归模型的特殊形式，线性回归模型是一次函数模型的一般形式.第14页，课件共39页，创作于2023年2月随机误差是引起预报值与真实值y之间的误差的原因之一，其大小取决于随机误差的方差.和为截距和斜率的估计值，它们与真实值a和b之间存在误差是引起预报值与真实值y之间的误差的另一个原因.第15页，课件共39页，创作于2023年2月随机误差e的主要来源：（1）用线性回归模型近似真实模型（真实模型是客观存在的，但我们并不知道到底是什么）所引起的误差.可能存在非线性的函数能更好的描述y与x之间的关系，但我们现在却用线性函数来表述这种关系，结果就产生误差，这种由于模型近似所引起的误差包含在e中.（2）忽略了某些因素的影响.影响变量y的因素不止变量x一个，可能还有其他因素，但通常它们每一个因素的影响可能都比较小，它们的影响都体现在e中.（3）观测误差.由于测量工具等原因，得到的y的观测值一般是有误差的，这样的误差也包含在e中.以上三项误差越小，则回归模型的拟合效果越好.第16页，课件共39页，创作于2023年2月在线性回归模型中，e是用预报真实值y的误差，它是一个不可观测的量，那么该怎样研究随机误差，如何衡量预报的精度？由于随机误差e的均值为0，故采用方差来衡量随机误差的大小.第17页，课件共39页，创作于2023年2月

假设1:身高和随机误差的不同不会对体重产生任何影响，54.554.554.554.554.554.554.554.5体重/kg170155165175170157165165身高/cm87654321编号54.5kg怎样研究随机误差？第18页，课件共39页，创作于2023年2月5943616454505748体重/kg170155165175170157165165身高/cm87654321编号

例如，编号为6的女大学生的体重并没有落在水平直线上，她的体重为61kg。解释变量（身高）和随机误差共同把这名学生的体重从54.5kg“推”到了61kg，相差6.5kg，所以6.5kg是解释变量和随机误差的组合效应。用这种方法可以对所有预报变量计算组合效应。数学上，把每个效应（观测值减去总的平均值）的平方加起来，即用表示总的效应，称为总偏差平方和。第19页，课件共39页，创作于2023年2月5943616454505748体重/kg170155165175170157165165身高/cm87654321编号

假设2:随机误差对体重没有影响，也就是说，体重仅受身高的影响，那么散点图中所有的点将完全落在回归直线上。怎样研究随机误差？第20页，课件共39页，创作于2023年2月

因此，数据点和它在回归直线上相应位置的差异是随机误差的效应，称为残差。例如，编号为6的女大学生，计算随机误差的效应（残差）为：对每名女大学生计算这个差异，然后分别将所得的值平方后加起来，用数学符号称为残差平方和，它代表了随机误差的效应。表示为：第21页，课件共39页，创作于2023年2月随机误差e的估计量样本点：相应的随机误差为：随机误差的估计值为：称为相应于点的残差.的估计量为称为残差平方和.第22页，课件共39页，创作于2023年2月残差分析在研究两个变量间的关系时，首先要根据散点图来粗略判断它们是否是线性相关，是否可以用线性回归模型来拟合数据.然后，可以通过残差来判断模型拟合的效果，判断原始数据中是否存在可疑数据.这方面的分析工作称为残差分析.第23页，课件共39页，创作于2023年2月0.382-2.8836.6271.137-4.6182.4192.627-6.373残差5943616454505748体重/kg170155165175170157165165身高/cm87654321编号下表为女大学生身高和体重的原始数据以及相应的残差数据：ˆe以纵坐标为残差，横坐标为编号，作出图形（残差图）来分析残差特性.第24页，课件共39页，创作于2023年2月

问题：如何发现数据中的错误？(1)我们可以通过分析发现原始数据中的可疑数据，判断建立模型的拟合效果。第25页，课件共39页，创作于2023年2月

残差图的制作和作用：制作：坐标纵轴为残差变量，横轴可以有不同的选择.

横轴为编号：可以考察残差与编号次序之间的关系，常用于调查数据错误.

横轴为解释变量：可以考察残差与解释变量的关系，常用于研究模型是否有改进的余地.作用：判断模型的适用性若模型选择的正确，残差图中的点应该分布在以横轴为中心的带形区域.问题：如何发现数据中的错误？第26页，课件共39页，创作于2023年2月残差图的制作及作用。坐标纵轴为残差变量，横轴可以有不同的选择；若模型选择的正确，残差图中的点应该分布在以横轴为心的带形区域；对于远离横轴的点，要特别注意。身高与体重残差图异常点错误数据模型问题

几点说明：第一个样本点和第6个样本点的残差比较大，需要确认在采集过程中是否有人为的错误。如果数据采集有错误，就予以纠正，然后再重新利用线性回归模型拟合数据；如果数据采集没有错误，则需要寻找其他的原因。另外，残差点比较均匀地落在水平的带状区域中，说明选用的模型计较合适，这样的带状区域的宽度越窄，说明模型拟合精度越高，回归方程的预报精度越高。第27页，课件共39页，创作于2023年2月我们可以用相关指数R2来刻画回归的效果，其计算公式是如何衡量预报的精度？显然，R2的值越大，说明残差平方和越小，也就是说模型拟合效果越好。

如果某组数据可能采取几种不同回归方程进行回归分析，则可以通过比较R2的值来做出选择，即选取R2较大的模型作为这组数据的模型。第28页，课件共39页，创作于2023年2月

1354总计0.36128.361残差变量0.64225.639随机误差比例平方和来源从上中可以看出，解析变量对总效应约贡献了64%，即R20.64，可以叙述为“身高解析了64%的体重变化”，而随机误差贡献了剩余的36%。所以，身高对体重的效应比随机误差的效应大得多。问题：如何衡量随机模型的拟合效果？下面我们用相关指数分析一下例1：第29页，课件共39页，创作于2023年2月

问题：结合例1思考：用回归方程预报体重时应注意什么？用身高预报体重时应注意的问题：1.回归方程只适用于我们所研究的样本的总体。2.我们建立的回归方程一般都有时间性。3.样本取值的范围会影响回归方程的适用范围。4.不能期望回归方程得到的预报值就是预报变量的精确值。涉及到统计的一些思想：模型适用的总体；模型的时间性；样本的取值范围对模型的影响；模型预报结果的正确理解。第30页，课件共39页，创作于2023年2月

一般地，建立回归模型的基本步骤为：（1）确定研究对象，明确哪个变量是解释变量，哪个变量是预报变量。（2）画出确定好的解释变量和预报变量的散点图，观察它们之间的关系（如是否存在线性关系等）。（3）由经验确定回归方程的类型（如我们观察到数据呈线性关系，则选用线性回归方程y=bx+a）.（4）按一定规则估计回归方程中的参数（如最小二乘法）。（5）得出结果后分析残差图是否有异常（个别数据对应残差过大，或残差呈现不随机的规律性，等等），若存在异常，则检查数据是否有误，或模型是否合适等。问题：归纳建立回归模型的基本步骤。第31页，课件共39页，创作于2023年2月

问题六：若两个变量呈现非线性关系，如何解决？（分析例2）例2

一只红铃虫的产卵数y和温度x有关。现收集了7组观测数据列于表中：温度xoC21232527293235产卵数y/个711212466115325（1）试建立产卵数y与温度x之间的回归方程；并预测温度为28oC时产卵数目。（2）你所建立的模型中温度在多大程度上解释了产卵数的变化？第32页，课件共39页，创作于2023年2月

选变量解：选取气温为解释变量x，产卵数为预报变量y。画散点图假设线性回归方程为：ŷ=bx+a选模型分析和预测当x=28时，y=19.87×28-463.73≈93估计参数由计算器得：线性回归方程为y=19.87x-463.73相关指数R2=r2≈0.8642=0.7464所以，一次函数模型中温度解释了74.64%的产卵数变化。050100150200250300350036912151821242730333639当x=28时，y=19.87×28-463.73≈93方法一：一元函数模型问题六：若两个变量呈现非线性关系，如何解决？（分析例2）第33页，课件共39页，创作于2023年2月

y=c1

x2+c2

变换y=c1

t+c2

非线性关系线性关系问题１选用y=c1x2+c2，还是y=c1x2+cx+c2？问题3

产卵数气温问题2如何求c1、c2？

t=x2方法二，二元函数模型问题六：若两个变量呈现非线性关系，如何解决？（分析例2）第34页，课件共39页，创作于2023年2月

平方变换：令t=x2，产卵数y和温度x之间二次函数模型y=bx2+a就转化为产卵数y和温度的平方t之间线性回归模型y=bt+a温度21232527293235温度的平方t44152962572984110241225产卵数y/个711212466115325作散点图，并由计算器得：y和t之间的线性回归方程为y=0.367t-202.54，相关指数R2=r2≈0.8962=0.802将t=x2代入线性回归方程得：y=0.367x2-202.54当x=28时，y=0.367×282-202.54≈85，且R2=0.802，所以，二次函数模型中温度解释了80.2%的产卵数变化。t问题六：若两个变量呈现非线性关系，如何解决？（分析例2）第35页，课件共39页，创作于2023年2月

产卵数气温变换y=bx+a非线性关系线性关系对数问题六：若两个变量呈现非线性关系，如何解决？（分析例2）方法三：指数函数模型第36页，课件共39页，创作于2023年2月

温度xoC21232527293235z=lgy0.851.041.321.381.822.062.51产卵数y/个711212466