回归分析的基本思想

回归分析的基本思想及其初步应用 2020 1 16 郑平正制作 3 1回归分析的基本思想及其初步应用 一 高二数学选修2 3 两个变量的关系 不相关 相关关系 函数关系 线性相关 非线性相关 现实生活中两个变量间的关系 相关关系 对于两个变量 当自变量取值一定时 因变量的取值带有一定随机性的两个变量之间的关系 函数关系中的两个变量间是一种确定性关系相关关系是一种非确定性关系 函数关系是一种理想的关系模型相关关系在现实生活中大量存在 是更一般的情况 表示有一组具体的数据估计得到的截距和斜率 a b y表示真实值 表示由真实值a b所确定的值 表示由估计值所确定的值 这种方法称为回归分析 两个具有线性相关关系的变量的统计分析 1 画散点图 2 求回归直线方程 最小二乘法 3 利用回归直线方程进行预报 回归分析是对具有相关关系的两个变量进行统计分析的一种常用方法 为样本点的中心 样本点 2008年5月 中共中央国务院关于加强青少年体育 增强青少年体质的意见指出城市超重和肥胖青少年的比例明显增加 身高标准体重 该指标对于学生形成正确的身体形态观具有非常直观的教育作用 身高标准体重 从何而来 我们怎样去研究 创设情境 某大学中随机选取8名女大学生 其身高和体重数据如下表所示 求根据女大学生的身高预报体重的回归方程 并预报一名身高为172cm的女大学生的体重 解 取身高为解释变量x 体重为预报变量y 作散点图 样本点呈条状分布 身高和体重有较好的线性相关关系 因此可以用回归方程来近似的刻画它们之间的关系 由 得 故所求回归方程为 因此 对于身高172cm的女大学生 由回归方程可以预报其体重为 是斜率的估计值 说明身高x每增加1个单位时 体重y就增加0 849个单位 这表明体重与身高具有正的线性相关关系 如何描述它们之间线性相关关系的强弱 相关系数 相关系数的性质 1 r 1 2 r 越接近于1 相关程度越强 r 越接近于0 相关程度越弱 注 b与r同号问题 达到怎样程度 x y线性相关呢 它们的相关程度怎样呢 r 相关系数 正相关 负相关 通常 r 1 0 75 负相关很强 r 0 75 1 正相关很强 r 0 75 0 3 负相关一般 r 0 3 0 75 正相关一般 r 0 25 0 25 相关性较弱 对r进行显著性检验 r 某大学中随机选取8名女大学生 其身高和体重数据如下表所示 求根据女大学生的身高预报体重的回归方程 并预报一名身高为172cm的女大学生的体重 故所求回归方程为 r 0 798 表明体重与身高有很强的线性相关性 从而说明我们建立的回归模型是有意义的 认为她的平均体重的估计值是60 316kg 因为所有的样本点不共线 所以线性函数模型只能近似地刻画身高和体重之间的关系 即 体重不仅受身高的影响 还受其他因素的影响 把这种影响的结果用e来表示 从而把线性函数模型修改为线性回归模型 y bx a e 其中 e包含体重不能由身高的线性函数解释的所有部分 线性回归模型 其中a和b为模型的未知参数 e是y与之间的误差 通常e为随机变量 称为随机误差 均值E e 0 方差D e 2 0 线性回归模型的完整表达式为 线性回归模型适用范围比一次函数的适用范围大得多 当随机误差e恒等于0时 线性回归模型就变成一次函数模型 即 一次函数模型是线性回归模型的特殊形式 线性回归模型是一次函数模型的一般形式 随机误差是引起预报值与真实值y之间的误差的原因之一 其大小取决于随机误差的方差 和为截距和斜率的估计值 它们与真实值a和b之间存在误差是引起预报值与真实值y之间的误差的另一个原因 随机误差e的主要来源 1 用线性回归模型近似真实模型 真实模型是客观存在的 但我们并不知道到底是什么 所引起的误差 可能存在非线性的函数能更好的描述y与x之间的关系 但我们现在却用线性函数来表述这种关系 结果就产生误差 这种由于模型近似所引起的误差包含在e中 2 忽略了某些因素的影响 影响变量y的因素不止变量x一个 可能还有其他因素 但通常它们每一个因素的影响可能都比较小 它们的影响都体现在e中 3 观测误差 由于测量工具等原因 得到的y的观测值一般是有误差的 这样的误差也包含在e中 以上三项误差越小 则回归模型的拟合效果越好 在线性回归模型中 e是用预报真实值y的误差 它是一个不可观测的量 那么该怎样研究随机误差 如何衡量预报的精度 由于随机误差e的均值为0 故采用方差来衡量随机误差的大小 假设1 身高和随机误差的不同不会对体重产生任何影响 怎样研究随机误差 例如 编号为6的女大学生的体重并没有落在水平直线上 她的体重为61kg 解释变量 身高 和随机误差共同把这名学生的体重从54 5kg 推 到了61kg 相差6 5kg 所以6 5kg是解释变量和随机误差的组合效应 用这种方法可以对所有预报变量计算组合效应 假设2 随机误差对体重没有影响 也就是说 体重仅受身高的影响 那么散点图中所有的点将完全落在回归直线上 怎样研究随机误差 例如 编号为6的女大学生 计算随机误差的效应 残差 为 随机误差 e的估计量 样本点 相应的随机误差为 随机误差的估计值为 称为相应于点的残差 称为残差平方和 残差分析 在研究两个变量间的关系时 首先要根据散点图来粗略判断它们是否是线性相关 是否可以用线性回归模型来拟合数据 然后 可以通过残差来判断模型拟合的效果 判断原始数据中是否存在可疑数据 这方面的分析工作称为残差分析 以纵坐标为残差 横坐标为编号 作出图形 残差图 来分析残差特性 问题 如何发现数据中的错误 1 我们可以通过分析发现原始数据中的可疑数据 判断建立模型的拟合效果 残差图的制作和作用 制作 坐标纵轴为残差变量 横轴可以有不同的选择 横轴为编号 可以考察残差与编号次序之间的关系 常用于调查数据错误 横轴为解释变量 可以考察残差与解释变量的关系 常用于研究模型是否有改进的余地 作用 判断模型的适用性若模型选择的正确 残差图中的点应该分布在以横轴为中心的带形区域 问题 如何发现数据中的错误 残差图的制作及作用 坐标纵轴为残差变量 横轴可以有不同的选择 若模型选择的正确 残差图中的点应该分布在以横轴为心的带形区域 对于远离横轴的点 要特别注意 身高与体重残差图 几点说明 第一个样本点和第6个样本点的残差比较大 需要确认在采集过程中是否有人为的错误 如果数据采集有错误 就予以纠正 然后再重新利用线性回归模型拟合数据 如果数据采集没有错误 则需要寻找其他的原因 另外 残差点比较均匀地落在水平的带状区域中 说明选用的模型计较合适 这样的带状区域的宽度越窄 说明模型拟合精度越高 回归方程的预报精度越高 如何衡量预报的精度 显然 R2的值越大 说明残差平方和越小 也就是说模型拟合效果越好 如果某组数据可能采取几种不同回归方程进行回归分析 则可以通过比较R2的值来做出选择 即选取R2较大的模型作为这组数据的模型 从上中可以看出 解析变量对总效应约贡献了64 即R20 64 可以叙述为 身高解析了64 的体重变化 而随机误差贡献了剩余的36 所以 身高对体重的效应比随机误差的效应大得多 问题 如何衡量随机模型的拟合效果 下面我们用相关指数分析一下例1 问题 结合例1思考 用回归方程预报体重时应注意什么 用身高预报体重时应注意的问题 1 回归方程只适用于我们所研究的样本的总体 2 我们建立的回归方程一般都有时间性 3 样本取值的范围会影响回归方程的适用范围 4 不能期望回归方程得到的预报值就是预报变量的精确值 涉及到统计的一些思想 模型适用的总体 模型的时间性 样本的取值范围对模型的影响 模型预报结果的正确理解 一般地 建立回归模型的基本步骤为 1 确定研究对象 明确哪个变量是解释变量 哪个变量是预报变量 2 画出确定好的解释变量和预报变量的散点图 观察它们之间的关系 如是否存在线性关系等 3 由经验确定回归方程的类型 如我们观察到数据呈线性关系 则选用线性回归方程y bx a 4 按一定规则估计回归方程中的参数 如最小二乘法 5 得出结果后分析残差图是否有异常 个别数据对应残差过大 或残差呈现不随机的规律性 等等 若存在异常 则检查数据是否有误 或模型是否合适等 问题 归纳建立回归模型的基本步骤 问题六 若两个变量呈现非线性关系 如何解决 分析例2 例2一只红铃虫的产卵数y和温度x有关 现收集了7组观测数据列于表中 1 试建立产卵数y与温度x之间的回归方程 并预测温度为28oC时产卵数目 2 你所建立的模型中温度在多大程度上解释了产卵数的变化 方法一 一元函数模型 问题六 若两个变量呈现非线性关系 如何解决 分析例2 问题六 若两个变量呈现非线性关系 如何解决 分析例2 问题六 若两个变量呈现非线性关系 如何解决 分析例2 产卵数 气温 变换y bx a非线性关系线性关系 对数 问题六 若两个变量呈现非线性关系 如何解决 分析例2 方法三 指数函数模型 问题六 若两个变量呈现非线性关系 如何解决 分析例2 最好的模型是哪个 显然 指数函数模型最好 问题六 若两个变量呈现非线性关系 如何解决 分析例2 课堂知识延伸 我们知道 刑警如果能在案发现场提取到罪犯的脚印 即将获得一条重要的破案线索 其原因之一是人类的脚掌长度和身高存在着相关关系 可以根据一个人的脚掌长度来来预测他的身高 我们还知道 在统计史上 很早就有人收集过人们的身高 前臂长度等数据 试图寻找这些数据之间的规律 在上述两个小故事的启发下 全班同学请分成一些小组 每组4 6名同学 在老师的指导下 开展一次数学建模活动 来亲自体