数理统计：第四章 回归分析（Regression Analysis)

1、第四章回归分析（第四章回归分析（Regression Analysis)回归分析：回归分析：通过具有因果关系的一组观察数据（通过具有因果关系的一组观察数据（xixi，yiyi）或）或 (xi1(xi1， xi2,xi2, xim, yi xim, yi）,i,i, , ,n,n,建立线性（非线性）模型的多变建立线性（非线性）模型的多变量分析方法量分析方法主要概念与分析主要概念与分析: :第四章第四章4.1回归分析概述回归分析概述主要概念与分析主要概念与分析: : 回归分析分类回归分析分类: 主要问题主要问题: 一元线性回归模型一元线性回归模型(Linear Regression of One-

2、variable ) 第四章第四章4.1回归分析概述回归分析概述第四章第四章4.1回归分析概述回归分析概述一元线性回归模型一元线性回归模型(Linear Regression of One-variable ) P492一元线性回归一元线性回归(Linear Regression of One-variable ) 求解方法求解方法: 第四章第四章 4.2一元线性回归一元线性回归一元线性回归一元线性回归(Linear Regression of One-variable ) 求解方法求解方法: 第四章第四章 4.2一元线性回归一元线性回归一元线性回归一元线性回归(Linear Regressi

3、on of One-variable ) 求解方法求解方法: 第四章第四章 4.2一元线性回归一元线性回归第四章第四章 4.2一元线性回归一元线性回归一元线性回归一元线性回归(Linear Regression of One-variable ) 求解方法求解方法: P498第四章第四章 4.2一元线性回归一元线性回归一元线性回归一元线性回归(Linear Regression of One-variable ) 求解方法求解方法: P499一元线性回归一元线性回归(Linear Regression of One-variable ) 有关性质有关性质: 第四章第四章 4.2一元线性回归一元

4、线性回归第四章第四章 4.2一元线性回归一元线性回归一元线性回归一元线性回归(Linear Regression of One-variable ) 有关性质有关性质: 性质）与性质）与 2）的证明：）的证明： 性质）与性质）与 2）的证明：）的证明： 性质）与性质）与 2）的证明：）的证明： 性质）的证明：性质）的证明： 所以，当所以，当a=1,b=x时，性质时，性质4）成立。）成立。性质性质3） 的证明：的证明： 性质性质5）及其证明：）及其证明： 记记SE2=SSe , 则有：则有： 性质性质5）及其证明：）及其证明： 性质性质5）及其证明：）及其证明： 性质性质5）及其证明：）及其证明

5、： 性质性质6）及其证明：）及其证明： 则有：则有：SSt=SSr+SSe ,也可以记为也可以记为ST2=SR2+SE2性质性质6）及其证明：）及其证明： 性质性质6）各离差自由度分析）各离差自由度分析性质性质7）及其证明）及其证明性质性质1)概述概述 :性质性质7) 概述概述:性质性质7）及其证明）及其证明性质性质7）及其证明）及其证明性质性质7）及其证明）及其证明性质性质7）及其证明）及其证明性质性质8）及其证明）及其证明记记SR2=SSr, 则有：则有：性质性质8）及其证明）及其证明性质性质8）及其证明）及其证明一元线性回归方程及系数的假设检验一元线性回归方程及系数的假设检验: 第四章第

6、四章 4.2一元线性回归一元线性回归第四章第四章 4.2一元线性回归一元线性回归一元线性回归方程及系数的假设检验一元线性回归方程及系数的假设检验: 一元线性回归方程及系数的一元线性回归方程及系数的置信区间与假设检验置信区间与假设检验（英文教材）（英文教材）PP503P513一元线性回归方程及系数的一元线性回归方程及系数的置信区间与假设检验置信区间与假设检验（英文教材）（英文教材）一元线性回归方程及系数的一元线性回归方程及系数的置信区间与假设检验置信区间与假设检验（英文教材）（英文教材）P513P516Y Y与与X X线性相关的线性相关的R R检验：检验：H0：Y Y与与X X线性无关，线性无关

7、， H H1 1：Y Y与与X X线性相关线性相关第四章第四章 4.2一元线性回归一元线性回归 H0的否定域为的否定域为：K0=|r|ra(n-2)P110第四章第四章 4.2一元线性回归一元线性回归一元线性回归的应用：预测与控制一元线性回归的应用：预测与控制预测值。预测值。一元线性回归的应用：通过一元线性回归的应用：通过X X的变化预测的变化预测Y Y的变化区间的变化区间P111一元线性回归的应用：通过一元线性回归的应用：通过X X的变化预测的变化预测Y Y的变化区间的变化区间第四章第四章 4.2一元线性回归一元线性回归P112一元线性回归的应用：一元线性回归的应用：通过通过X X的变化预测

8、的变化预测Y Y的变化区间的变化区间第四章第四章 4.2一元线性回归一元线性回归一元线性回归的应用：一元线性回归的应用：通过通过X X的变化预测的变化预测Y Y的变化区间的变化区间第四章第四章 4.2一元线性回归一元线性回归P113一元线性回归的应用：一元线性回归的应用：通过通过X X的变化预测的变化预测Y Y的变化区间的变化区间一元线性回归的应用一元线性回归的应用: :通过通过X X的变化预测的变化预测Y Y的变化区间的变化区间( (英文教材英文教材) )P520一元线性回归的应用一元线性回归的应用: :通过通过X X的变化预测的变化预测Y Y的变化区间的变化区间( (英文教材英文教材) )

9、P521第四章第四章 4.2一元线性回归一元线性回归一元线性回归的应用一元线性回归的应用: :通过通过X X的变化预测的变化预测Y Y的变化区间的变化区间( (英文教材英文教材) )P521一元线性回归的应用：一元线性回归的应用：通过通过Y Y的变化控制的变化控制X X的变化范围的变化范围中文教材中文教材P117一元线性回归的应用：一元线性回归的应用：通过通过Y Y的变化控制的变化控制X X的变化范围的变化范围第四章第四章 4.2一元线性回归一元线性回归中文教材中文教材P117一元线性回归的应用：一元线性回归的应用：通过通过Y Y的变化控制的变化控制X X的变化范围的变化范围第四章第四章 4.

10、2一元线性回归一元线性回归第四章第四章 4.2一元线性回归一元线性回归一元线性回归一元线性回归预测的计算预测的计算中文教材中文教材P114一元线性回归一元线性回归预测的计算预测的计算第四章第四章 4.2一元线性回归一元线性回归中文教材中文教材P115一元线性回归一元线性回归预测的计算预测的计算第四章第四章 4.2一元线性回归一元线性回归P115一元线性回归一元线性回归预测的计算预测的计算第四章第四章 4.2一元线性回归一元线性回归P116一元线性回归一元线性回归预测的计算预测的计算第四章第四章 4.2一元线性回归一元线性回归P117一元线性回归一元线性回归预测的计算预测的计算第四章第四章 4.

11、2一元线性回归一元线性回归一元非线性回归：一元非线性回归：把非线性关系通过变换转为线性关系把非线性关系通过变换转为线性关系第四章第四章 4.3一元非线性回归一元非线性回归(Non-Linear Regression of One-variable ) P1181 1、双曲线：、双曲线：4.3一元非线性回归一元非线性回归一元一元非线性非线性回归：回归：把非线性关系通过变换转为线性关系把非线性关系通过变换转为线性关系P119由于由于 lnYlnY= =lnalna+b+blnxlnx一元一元非线性非线性回归：回归：把非线性关系通过变换转为线性关系把非线性关系通过变换转为线性关系第四章第四章 4.3

12、一元非线性回归一元非线性回归(Non-Linear Regression of One-variable ) P120 4、倒指数曲线：、倒指数曲线：Y=a*exp(b/x), 两边取自然对数，有两边取自然对数，有lnY=lna+b/x, 若若 u=lnY, c=lna, v=1/x, 有有 u=c+bv一元非线性回归一元非线性回归应用应用第四章第四章 4.3一元非线性回归一元非线性回归(Non-Linear Regression of One-variable ) 一元非线性回归一元非线性回归应用应用第四章第四章 4.3一元非线性回归一元非线性回归(Non-Linear Regression

13、 of One-variable ) 一元非线性回归一元非线性回归应用应用采用采用r r检验法检验回归方程的检验法检验回归方程的线性性线性性第四章第四章 4.3一元非线性回归一元非线性回归(Non-Linear Regression of One-variable ) 采用采用r r检验法检验回归方程的检验法检验回归方程的线性性线性性第四章第四章 4.3一元非线性回归一元非线性回归(Non-Linear Regression of One-variable ) 第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)多元线性回归方法：多元线性回归

14、方法：P126多元线性回归方法：多元线性回归方法：第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)X0=1,看作是常数项；看作是常数项；Xij看作是变量看作是变量xj的观察的观察值；值；要求：要求：nk, 即观察值次数大于变量即观察值次数大于变量个数。个数。P126第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)即即结结论论P127多元线性回归的主要性质：多元线性回归的主要性质：P128129P128129多元线性回归多元线性回归方程方程有效性与线性性的有效性与线性性的检验：检验：P

15、130131P130131多元线性回归多元线性回归方程方程回归系数的置信区间回归系数的置信区间：第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)补充补充多元线性回归多元线性回归方程中方程中E(Y)=y的置信的置信区间区间补充补充多元线性回归多元线性回归方程中方程中Y的的区间预测区间预测PI第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)多元线性回归多元线性回归方程方程 Utility(效用）效用）检验检验( (英文教材）英文教材）P581P565P566多元线性回归多元线性回归应用（

16、一）应用（一）尿汞含量尿汞含量i： 消光系数消光系数i：64 138 205 285 360第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)多元线性回归多元线性回归应用（一）应用（一）第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)多元线性回归多元线性回归应用（二）应用（二）第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)多元线性回归多元线性回归应用（二）应用（二）第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)多元线性回归多元线性回归应用（三）应用（三）第四章第四章 4. 4 多元线性回归多元线性回归(Multiple Linear Regression)第四章第四章 4. 4 多元线性回归多元线性回归(Multip