多元统计分析-回归分析

引例：消费支出与可支配收入的观测值一、一元线性回来模型一、一元线性回来模型定义：假设有两个变量x和y，x为自变量，y为因变量。则一元线性回来模型的基本结构形式为式中：a和b为待定参数；为各组观测数据的下标；为随机变量。（2.1）

记和分别为参数a与b的拟合值，则一元线性回来模型为（2.2）式代表x与y之间相关关系的拟合直线，称为回来直线；是y的估计值，亦称回来值。（2.2）

一般状况下的总体回来模型假定条件下的总体回来模型真实的总体回来直线与估计的样本回来直线样本回来直线是对总体回来直线的近似反映。回来分析的主要任务就是要接受适当的方法，充分利用样本所供应的信息，使得样本回来函数尽可能地接近于真实的总体回来函数。所估计的样本回来直线都不行能与真实的总体回来直线完全一样。观测值的散点图及其拟合直线①参数a与b的最小二乘拟合原则要求yi与的误差ei的平方和达到最小，即②依据取极值的必要条件，有（2.4）

（一）参数a、b的最小二乘估计

（2.3）

（2.5）

③

解上述正规方程组（2.4）式，得到参数a与b的拟合值一元线性回来模型检验的种类（二）一元线性回来模型的显著性检验实际意义检验参数估计值的符号和取值范围消费支出与可支配收入：如果估计出来的b小于0或大于1，收入支出统计检验检验样本回来方程的牢靠性拟合程度检验；相关系数检验；参数显著性检验(t检验)；回来方程显著性检验（F检验）计量检验假定条件是否满足序列相关检验异方差性检验1拟合优度检验所谓拟合程度，是指样本观测值聚集在样本回来直线四周的紧密程度。推断回来模型拟合程度优劣最常用的数量指标是判定系数（CoefficientofDetermination）总的离差平方和：在回来分析中，表示y的n次观测值之间的差异，记为

可以证明（2.9）（2.8）Q称为误差平方和，或剩余平方和U回来平方和

自不待言，各个样本观测点与样本回来直线靠得越紧，U在S中所占的比例就越大。因此，可定义这一比例为判定系数，即有：性质：1、具有非负性，分子分母均是不行能为负值2、判定系数的取值范围为3、判定系数是样本观测值的函数，它也是一个统计量。2相关系数的显著性检验X和Y之间真实的线性相关程度用总体相关系数ρ来表示由于总体未知，ρ无法计算，我们利用相本相关系数（1）计算样本相关系数r；（2）依据给定的显著性水平α和样本容量n，查相关系数表得到临界值r。（3）若|r|大于临界值，则X与Y有显著的线性关系，否则X与Y的线性相关关系不显著。3回来参数的显著性检验（t检验）依据样本估计的结果对总体回来参数的有关假设进行检验3、依据给定的显著水平α确定临界值，或者计算t值所对应的p值。4、做出推断。①方法：F检验法。②总的离差平方和：在回来分析中，表示y的n次观测值之间的差异，记为

可以证明（2.9）（2.8）4回来方程的显著性检验③统计量F

④F越大，模型的效果越佳。统计量F～F（1，n-2）。在显著水平α下，若F>Fα，则认为回来方程效果在此水平下显著。一般地，当F<F0.10(1,n-2)时，则认为方程效果不明显。（2.10）二、多元线性回来模型1多元线性回来模型的结构形式为（2.11）

式中：为待定参数；为随机变量。2多元线性回来模型的基本假定假如分别为的拟和值，则回来方程为

b0为常数，b1,b2,…bk称为偏回来系数。偏回来系数的意义是，当其他自变量都固定时，自变量每变更一个单位而使因变量平均变更的数值。（2.12）

3回来方程的估计:偏回来系数的推导过程:依据最小二乘法原理，的估计值应当使

由求极值的必要条件得

方程组（3.2.14）式经绽开整理后得（.2.13）

（.2.14）

方程组（2.15）式称为正规方程组。

引入矩阵

（.2.15)

则正规方程组（2.15）式可以进一步写成矩阵形式求解得引入记号（2.16）

正规方程组也可以写成回来模型的显著性检验①回来平方和U与剩余平方和Q：②回来平方和③剩余平方和为④F统计量为计算出来F之后，可以查F分布表对模型进行显著性检验。R=0.950，说明Y与自变量X1、X2之间的相关程度为95.0%。样本判定系数0.902说明Y的变动有90.2%可以由自变量X1和X2说明。三、非线性回来模型非线性关系线性化的几种状况对于指数曲线，令,可以将其转化为直线形式：，其中，；对于对数曲线，令，，可以将其转化为直线形式：；对于幂函数曲线，令，，可以将其转化为直线形式：其中，；对于双曲线，令，转化为直线形式：；对于S型曲线，可转化为直线形式：；对于幂乘积，只要令，就可以将其转化为线性形式其中，；对于对数函数和只要令，就可以将其化为线性形式例:表3.2.1给出了某地区林地景观斑块面积（area）与周长（perimeter）的数据。下面我们建立林地景观斑块面积A与周长P之间的非线性回来模型。表3.2.1某地区各个林地景观斑块面积（m2）与周长（m）

解:（1）作变量替换，令：，，将表3.2.1中的原始数据进行对数变换，变换后得到的各新变量对应的观测数据如表3.2.2所示。

表3.2.2经对数变换后的数据

（2）

以x为横坐标、y为纵坐标，在平面直角坐标系中作出散点图。很明显，y与x呈线性关系。图3.2.2林地景观斑块面积（A）与周