简单线性回归精品课件

1、简单线性回归第1页，共75页，2022年，5月20日，5点59分，星期二本章内容 第一节 简单线性回归 第二节 线性回归的应用 第三节 残差分析 第四节 非线性回归 第2页，共75页，2022年，5月20日，5点59分，星期二双变量计量资料：每个个体有两个变量值 总体：无限或有限对变量值 样本：从总体随机抽取的n对变量值 （X1,Y1）, （X2,Y2）, , （Xn,Yn） 目的：研究X和Y的数量关系 方法：回归与相关 简单、基本直线回归、直线相关第一节 简单线性回归第3页，共75页，2022年，5月20日，5点59分，星期二 英国人类学家 F.Galton首次在自然遗传一书中，提出并阐明了

2、“相关”和“相关系数”两个概念，为相关论奠定了基础。其后，他和英国统计学家 Karl Pearson对上千个家庭的身高、臂长、拃长（伸开大拇指与中指两端的最大长度）做了测量，发现：历史背景：第4页，共75页，2022年，5月20日，5点59分，星期二 儿子身高（Y，英寸）与父亲身高（X，英寸）存在线性关系： 。 也即高个子父代的子代在成年之后的身高平均来说不是更高，而是稍矮于其父代水平，而矮个子父代的子代的平均身高不是更矮，而是稍高于其父代水平。Galton将这种趋向于种族稳定的现象称之“回归”第5页，共75页，2022年，5月20日，5点59分，星期二 “回归”已成为表示变量之间某种数量依存

3、关系的统计学术语，相关并且衍生出“回归方程”“回归系数”等统计学概念。如研究糖尿病人血糖与其胰岛素水平的关系，研究儿童年龄与体重的关系等。第6页，共75页，2022年，5月20日，5点59分，星期二线性回归的概念及其统计描述第7页，共75页，2022年，5月20日，5点59分，星期二直线回归的概念 目的：研究因变量Y对自变量X的数量依 存关系。特点：统计关系。 X值和Y的均数的关系， 不同于一般数学上的X 和Y的函数关系第8页，共75页，2022年，5月20日，5点59分，星期二 为了直观地说明直线回归的概念，以15名健康人凝血酶浓度（X）与凝血时间(Y)数据（表12-1）进行回归分析，得到图

4、12-1所示散点图（scatter plot） 第9页，共75页，2022年，5月20日，5点59分，星期二No.123456789101112131415X1.11.21.00.91.21.10.90.61.00.91.10.91.11.00.7Y141315151314161714161516141517第10页，共75页，2022年，5月20日，5点59分，星期二 在定量描述健康人凝血酶浓度（X）与凝血时间(Y)数据的数量上的依存关系时，将凝血酶浓度称为自变量(independent variable)，用 X 表示；凝血时间称为因变量(dependent variable)，用 Y 表

5、示第11页，共75页，2022年，5月20日，5点59分，星期二第12页，共75页，2022年，5月20日，5点59分，星期二 由图12-1可见，凝血时间随凝血酶浓度的增加而减低且呈直线趋势，但并非所有点子恰好全都在一直线上，此与两变量间严格的直线函数关系不同，称为直线回归（linear regression）,其方程叫直线回归方程，以区别严格意义的直线方程。回归是回归分析中最基本、最简单的一种，故又称简单回归。第13页，共75页，2022年，5月20日，5点59分，星期二样本线回归方程 为各X处Y的总体均数的估计。简单线性回归模型 第14页，共75页，2022年，5月20日，5点59分，星期

6、二1a 为回归直线在 Y 轴上的截距a 0，表示直线与纵轴的交点在原点的上方a 0，直线从左下方走向右上方，Y 随 X 增大而增大； b0，直线从左上方走向右下方，Y 随 X 增大而减小； b=0，表示直线与 X 轴平行，X 与Y 无直线关系b 的统计学意义是：X 每增加(减)一个单位，Y 平均改变b个单位 第16页，共75页，2022年，5月20日，5点59分，星期二回归模型的前提假设线性回归模型的前提条件是：线性(linear)独立(independent)正态(normal)等方差(equal variance)第17页，共75页，2022年，5月20日，5点59分，星期二 第18页，共

7、75页，2022年，5月20日，5点59分，星期二第19页，共75页，2022年，5月20日，5点59分，星期二残差(residual)或剩余值，即实测值Y与假定回归线上的估计值 的纵向距离 。求解a、b实际上就是“合理地”找到一条能最好地代表数据点分布趋势的直线。原则：最小二乘法(least sum of squares)，即可保证各实测点至直线的纵向距离的平方和最小回归参数的估计最小二乘原则 第20页，共75页，2022年，5月20日，5点59分，星期二 回归参数的估计方法 第21页，共75页，2022年，5月20日，5点59分，星期二本例：n=15 X=14.7 X2=14.81 Y=2

8、24 XY=216.7 Y2=3368第22页，共75页，2022年，5月20日，5点59分，星期二第23页，共75页，2022年，5月20日，5点59分，星期二第24页，共75页，2022年，5月20日，5点59分，星期二解题步骤第25页，共75页，2022年，5月20日，5点59分，星期二3、计算有关指标的值4、计算回归系数和截距5、列出回归方程第26页，共75页，2022年，5月20日，5点59分，星期二 此直线必然通过点( , )且与纵坐标轴相交于截距a 。如果散点图没有从坐标系原点开始，可在自变量实测范围内远端取易于读数的 值代入回归方程得到一个点的坐标，连接此点与点( , )也可绘

9、出回归直线。 绘制回归直线第27页，共75页，2022年，5月20日，5点59分，星期二总体回归系数的的统计推断样本回归系数b的标准误 第28页，共75页，2022年，5月20日，5点59分，星期二回归方程的假设检验 建立样本直线回归方程，只是完成了统计分析中两变量关系的统计描述，研究者还须回答它所来自的总体的直线回归关系是否确实存在，即是否对总体有 ？第29页，共75页，2022年，5月20日，5点59分，星期二第30页，共75页，2022年，5月20日，5点59分，星期二第31页，共75页，2022年，5月20日，5点59分，星期二1方差分析 第32页，共75页，2022年，5月20日，5

10、点59分，星期二Y的离均差，总变异残差回归的变异第33页，共75页，2022年，5月20日，5点59分，星期二数理统计可证明：第34页，共75页，2022年，5月20日，5点59分，星期二上式用符号表示为 式中 第35页，共75页，2022年，5月20日，5点59分，星期二第36页，共75页，2022年，5月20日，5点59分，星期二上述三个平方和，各有其相应的自由度 ，并有如下的关系： 第37页，共75页，2022年，5月20日，5点59分，星期二 如果两变量间总体回归关系确实存在，回归的贡献就要大于随机误差，大到何种程度时可以认为具有统计意义，可计算统计量F:第38页，共75页，2022年

11、，5月20日，5点59分，星期二式中第39页，共75页，2022年，5月20日，5点59分，星期二t 检验 第40页，共75页，2022年，5月20日，5点59分，星期二（1）方差分析第41页，共75页，2022年，5月20日，5点59分，星期二 方差分析表 第42页，共75页，2022年，5月20日，5点59分，星期二（2）t 检验参数的意义是：若自变量X增加一个单位，反因变量Y的平均值便增加 第43页，共75页，2022年，5月20日，5点59分，星期二注意：第44页，共75页，2022年，5月20日，5点59分，星期二总体回归系数 的可信区间 利用上述对回归系数的t检验，可以得到的1双侧

12、可信区间为第45页，共75页，2022年，5月20日，5点59分，星期二 本例b=-6.9802, 自由度=13，t0.05,13=2.16，Sb=0.78655, 代入公式（12-7）得参数的95%置信区间为 =（-8.6791 -5.2813） 第46页，共75页，2022年，5月20日，5点59分，星期二第47页，共75页，2022年，5月20日，5点59分，星期二第二 节 线性回归的应用（估计和预测） 第48页，共75页，2022年，5月20日，5点59分，星期二反映其抽样误差大小的标准误为第49页，共75页，2022年，5月20日，5点59分，星期二例12-1中，第一观测值X1=1.

13、1， 0.4994， 0.404， 代入（12.8）式获得第一观测点X1对应的 的标准误为 0.1599Y的总体均数的95%置信区间为 14.0957(2.16)(0.1599)（13.7502，14.4412） 第50页，共75页，2022年，5月20日，5点59分，星期二实测值实测值预测Y的均值Y的均值的标准误Y的均值的95%置信区间Y值的95%预测区间残差对象实测值 X实测值 Y预测值均值均值的标准误Y均值的95%CIY值的95%预测区间残差下限上限下限上限11.11414.09570.159913.750214.441212.961815.2297-0.095721.21313.397

14、70.215912.931313.864112.221214.5741-0.397731.01514.79370.130014.512815.074713.677715.90970.206340.91515.49170.143615.181515.802014.368016.6155-0.491751.21313.39770.215912.931313.864112.221214.5741-0.397761.11414.09570.159913.750214.441212.961815.2297-0.095770.91615.49170.143615.181515.802014.368016.

15、61550.508380.61717.58580.325616.882518.289216.296918.8747-0.585891.01414.79370.130014.512815.074713.677715.9097-0.7937100.91615.49170.143615.181515.802014.368016.61550.5083111.11514.09570.159913.750214.441212.961815.22970.9043120.91615.49170.143615.181515.802014.368016.61550.5083131.11414.09570.1599

16、13.750214.441212.961815.2297-0.0957141.01514.79370.130014.512815.074713.677715.90970.2063150.71716.88780.255316.336317.439315.675118.10050.1122第51页，共75页，2022年，5月20日，5点59分，星期二以上是给定某一X值时所对应的总体均数的置信区间。当同时考虑X的所有可能取值时，总体均数的点估计就是根据样本算得的回归直线 （1-）置信区间的上下限连起来形成一个弧形区带，称为回归直线的（1-）置信带（confidence band）。同样，因为其标准误

17、是X的函数，所以在均数（ ）点处置信带宽度最小，越远离该均数点，置信带宽度越大。 第52页，共75页，2022年，5月20日，5点59分，星期二图12-4中，左图显示位于最小二乘回归线上下两侧的两条弧形虚线为总体回归线的（1-）置信区带。右图的实线表示可能的总体回归线，它们落在弧形虚线所确定的置信带内。（1-）置信带的意义是：在满足线性回归的假设条件下，可以认为真实的回归直线落在两条弧形曲线所形成的区带内, 置信度为（1-） 第53页，共75页，2022年，5月20日，5点59分，星期二第54页，共75页，2022年，5月20日，5点59分，星期二第55页，共75页，2022年，5月20日，5

18、点59分，星期二以第一观测点数据（X1=1.1）点为例，该点预测值的标准差为 =0.52489182 第一数据点的预测区间为： 14.0957(2.16)(0.0.5249)=12.961815.2297当同时考虑X的所有可能取值时，个体Y值的95%预测区间形成一个带子，称为Y值的95%预测带，它比总体回归线95%置信带更宽。 图12-5和图12-6同时显示个体Y值的预测带与总体回归线的置信带，可见，在相同信度下，个体值预测带的曲线要比回归线置信带的曲线离回归直线更远。 第56页，共75页，2022年，5月20日，5点59分，星期二PICI第57页，共75页，2022年，5月20日，5点59分

19、，星期二决定系数(coefficient of determination) 定义为回归平方和与总平方和之比，计算公式为： 取值在0到1之间且无单位，其数值大小反映了回归贡献的相对程度，也就是在Y的总变异中回归关系所能解释的百分比。 第58页，共75页，2022年，5月20日，5点59分，星期二第59页，共75页，2022年，5月20日，5点59分，星期二第三节 残差分析 残差（residual）是指观测值Yi与回归模型拟合值之差 残差分析(residual analysis)旨在通过残差深入了解数据与模型之间的关系，评价实际资料是否符合回归模型假设，识别异常点等。 例如，第一数据点的残差e1

20、=14-14.0957=-0.0957，如此类推，计算出各数据点的残差值示于表12-2的第10列中。将第10列的残差减去其均数，除以其标准差，便得标准化残差。 第60页，共75页，2022年，5月20日，5点59分，星期二若以反因变量取值Yi为横坐标，以标准化残差为纵坐标，构成的散点图如图12-7所示。类似地，也可以自变量取值Xi为横坐标, 以标准化残差为纵坐标，构成的散点图。这类散点图统称为标准化残差图。 第61页，共75页，2022年，5月20日，5点59分，星期二图12-8给出的是以自变量取值为纵坐标，以残差为横坐标的残差图的常见类型。其中，图(e)显示残差呈随机分布；图(a)、(b )

21、 和(f)表示残差不满足方差齐性条件；图(c)显示存在非线性关系；图(d)显示有的点处于2倍标准差以外，可能是异常点。 第62页，共75页，2022年，5月20日，5点59分，星期二第63页，共75页，2022年，5月20日，5点59分，星期二第四节 非线性回归非线性回归要比线性回归更能充分地表达变量间的关系。当今线性回归之所以比非线性回归应用甚多，原因在于无论从数学理论还是计算方法，线性回归都比非线性回归模型简单得多。第64页，共75页，2022年，5月20日，5点59分，星期二通过自变量的变换实现线性化实践中有两类非线性关系，一类是通过自变量X的适当变换可线性化的，另一类是不可能通过自变量

22、X的变换实现线性化的 X数据变换不能线性化的关系第65页，共75页，2022年，5月20日，5点59分，星期二变换自变量实现线性回归步骤 1.将观测数据(Xi, Yi), i=1,2,n作散点图，观察散点分布特征类似于何种函数类型；2.按照所选定的函数进行相应的变量变换；3.对变换后的数据用常规最小二乘法（OLS）作线性模型的参数估计。4.一般拟合多个相近的模型，然后通过对各个模型的拟合优度评价挑选较为合适的模型。 第66页，共75页，2022年，5月20日，5点59分，星期二例12-2 为了研究某药物浓度与肾上腺素释放的量关系，选取10个给药物浓度水平，每种药物剂量水平上重复5次试验，观测结

23、果如表12-3所示。欲用合适的回归模型描述该药品剂量与反应的规律 第67页，共75页，2022年，5月20日，5点59分，星期二药物剂量（mg）肾上腺素释放量（pg/ml）1519.2614.2917.6018.3616.532021.2021.7820.7720.6523.382521.7722.6122.7021.1721.653023.4723.2221.7424.0224.053523.8825.3222.9024.8423.704025.2724.6924.6724.4825.244524.2024.9425.5225.0227.435027.9825.8826.6726.3125.

24、945527.4224.9126.4228.2425.496028.4127.0929.0428.8527.89第68页，共75页，2022年，5月20日，5点59分，星期二第69页，共75页，2022年，5月20日，5点59分，星期二由结果可见：在所拟合的三种模型中，以x对数函数回归的效果最佳，该模型拟合的残差均方最小，决定系数最大 模型名称回归方程MSEF值P值R2值简单线性1.91786212.480.00010.8157对数函数1.39592309.88.00010.8659二次函数2.72770135.050.00010.852第70页，共75页，2022年，5月20日，5点59分，星期二值得一提的是，本节只涉及对自变量X进行变换，然后以变换后的数据用标准最小二乘（OLS）法求解模型的参数估计与模型评价。当涉及到对反因变量y实施非线性变换 如Z=ln(Y) 时，因为OLS只保证变换后的Z，即ln(Y)的残差平方和最小，并不能保证原变量Y的残差平方和也最小,所以在此情况下，我们建议用统计软件来完成非线性拟合，例如,