回归直线方程最小二乘法

1、回归直线方程最小二乘法第1页，共18页，2022年，5月20日，9点26分，星期二回归直线概念：散点图中心的分布从整体上看大致是一条直线附近，该直线称为回归直线 求出回归直线的方程我们就可以比较清楚地了解年龄与体内脂肪含量之间的相关性由此可以预测相应年龄段的脂肪含量那我们又该如何具体求这个回归方程呢？第2页，共18页，2022年，5月20日，9点26分，星期二方法汇总？1.画一条直线2.测量出各点与它的距离3.移动直线，到达某一位置使距离的和最小，测量出此时直线的斜率与截距，得到回归方程。1.选取两点作直线ps：使直线两侧 的点的个数基本相同。1.在散点图中多取几组点，确定出几条直线的方程2.

2、分别求出各条直线的斜率、截距的平均数3.将这两个平均数当成回归方程的斜率与截距。法一法四法二法三？第3页，共18页，2022年，5月20日，9点26分，星期二 上面三种方法都有一定的道理，但总让人感到可靠性不强. 回归直线与散点图中各点的位置用数学的方法来刻画应具有怎样的关系？ 第4页，共18页，2022年，5月20日，9点26分，星期二方法汇总1.画一条直线2.测量出各点与它的距离3.移动直线，到达某一位置使距离的和最小，测量出此时直线的斜率与截距，得到回归方程。1.选取两点作直线ps：使直线两侧 的点的个数基本相同。1.在散点图中多取几组点，确定出几条直线的方程2.分别求出各条直线的斜率、

3、截距的平均数3.将这两个平均数当成回归方程的斜率与截距。最小二乘法法一法四法二法三第5页，共18页，2022年，5月20日，9点26分，星期二求回归方程的关键如何使用数学方法来刻画“从整体上看，各点到此直线的距离最小”。假设两个具有线性相关关系的变量的一组数据:(x1, y1),(x2, y2),. (xn, yn)下面讨论如何表达这些点与一条直线y=bx+a之间的距离。第6页，共18页，2022年，5月20日，9点26分，星期二最小二乘法的公式的探索过程如下：1.设已经得到具有线性相关关系的变量的一组数据： （x1，y1），（x2，y2），（xn，yn）2.设所求的回归直线方程为Y=bx+a

4、，其中a，b是待定的系数。当变量x取x1，x2，xn时，可以得到 Yi=bxi+a（i=1，2，n）3.它与实际收集得到的yi之间偏差是 yi-Yi=yi-(bxi+a)（i=1，2，n）（x1，y1）（x2，y2）（xi ，yi ）yi-Yiy x这样，用这n个偏差的和来刻画“各点与此直线的整体偏差”是比较合适的。第7页，共18页，2022年，5月20日，9点26分，星期二因此用 表示各点到直线y=bx+a的“整体距离” (x1 ,y1)(x2 ,y2)(xi ,yi)yi-(bxi+a)第8页，共18页，2022年，5月20日，9点26分，星期二(x1,y1)(x2，y2)(xi，yi)(

5、xn，yn) 由于绝对值使得计算不方便，在实际应用中人们更喜欢用第9页，共18页，2022年，5月20日，9点26分，星期二(x1,y1)(x2，y2)(xi，yi)(xn，yn)这样，问题就归结为：当a，b取什么值时Q最小？即点到直线 的“整体距离”最小.第10页，共18页，2022年，5月20日，9点26分，星期二这样通过求此式的最小值而得到回归直线的方法，即使得样本数据的点到回归直线的距离的平方和最小的方法叫做最小二乘法.根据有关数学原理推导，a，b的值由下列公式给出第11页，共18页，2022年，5月20日，9点26分，星期二（yi-Yi）的最小值ni=1|yi-Yi|的最小值ni=1

6、（yi-Yi）2的最小值ni=1Q=(y1-bx1-a) 2+(y2-bx2-a) 2+(yn-bxn-a) 2当a，b取什么值时，Q的值最小，即总体偏差最小第12页，共18页，2022年，5月20日，9点26分，星期二求线性回归方程的步骤：(1)求平均数 ；(2)计算 与 yi 的乘积,再求 ；(3)计算 ；(4)将上述有关结果代入公式，写出回归 直线方程.xi13第13页，共18页，2022年，5月20日，9点26分，星期二年龄2327394145495053545657586061脂肪9.517.821.225.927.526.328.229.630.231.430.833.535.23

7、4.6根据最小二乘法公式，利用计算机可以求出其回归直线方程散点图回归直线第14页，共18页，2022年，5月20日，9点26分，星期二思考：将表中的年龄作为x代入回归方程，看看得出的数值与真实数值之间的关系，从中你体会到了什么？ x=27时，y=15.099%x=37时，y=20.901%可利用回归方程预测不同年龄段的体内脂肪含量的百分比。存在样本点不在直线上年龄2327394145495053545657586061脂肪9.517.821.225.927.526.328.229.630.231.430.833.535.234.6第15页，共18页，2022年，5月20日，9点26分，星期二（2012山东临沂二模，20,12）假设关于某设备的使用年限x和所有支出的维修费用y（万元），有如下表的统计资料：使用年限x23456维修费用y2.23.85.56.57.0若由资料可知y对x呈线性相关关系，试求：（1）线性回归直线方程（2）估计使用年限为10年时，维修费用是多少？y=1.23x+0.08 ；y=12.38第16页，共18页，2022年，5月20日，9点26分，星期二 回归直线方程特点存在样本点不在直线上的样本点只能表示线性相关关系回归直线方程的特点过定点（