多元回归模型

1、多元线性回归分析1多元回归分析 多元回归分析是研究因变量对两个或两个以上解释变量的统计依赖关系。 多元回归模型是具有两个或两个以上解释变量的回归模型。2多元线性回归分析 很少有经济现象能够只用一个解释变量来解释。比如：消费水平、股票价格、工资水平、破产率、新生婴儿死亡率等等。因此，要解释这些复杂经济现象或经济相关现象，那么在建立回归模型的时候必须纳入多个解释变量，以充分反映多种因素对因变量的影响。3多元回归模型的一般形式总体回归函数的随机形式总体回归函数的确定形式4二元回归实例 研究美国非农业未偿还抵押贷款余额与个人收入和抵押贷款费用的关系。Y ：美国非农业未偿还抵押贷款余额(亿美元)。X2

2、：个人收入总水平(亿美元)。X3 ：抵押贷款费用（%）56矩阵X称为“数据矩阵”，是由k-1个解释变量的n组观测值加上n个常变量1构成。7经典正态线性回归模型基本假定89101112样本回归模型样本回归函数的随机形式样本回归函数的确定形式1314 最小二乘原理构造合适的估计量，使得残差平方和最小。估计方法：最小二乘法15OLS估计量的推导16171819202122232425最小二乘估计量的决定式26三变量模型回归系数的OLS估计量27偏回归系数的含义偏回归系数体现的是解释变量对因变量的净影响或直接影响。一元回归模型中的回归系数体现的是解释变量对因变量的总影响，包括直接影响和间接影响。28验

3、证偏回归系数的含义29最小二乘估计量的优良性质 高斯马尔可夫定理 在经典线性回归模型的假定条件下，最小二乘估计量，在所有无偏线性估计量中，具有最小方差，也就是说，它们是最优线性无偏估计量。 最优线性无偏估计量(BLUE) Best linear unbiased estimator 同时满足“线性”、“无偏”、“方差最小”三个优良性质的估计量。 30OLS估计量的精度方差和标准差31OLS估计量的方差的矩阵表达形式32三变量模型OLS估计量方差的代数公式33 OLS估计量的方差协方差矩阵对角线上的元素就是相应的回归系数估计量的方差，方差的正平方根即是标准差。其他位置上的元素，是回归系数估计量的

4、协方差。3435 随机干扰项的方差通常是未知的，因此，回归系数估计量真正的方差协方差矩阵也就不能确定。 通常用模型的回归标准误去替代随机干扰项的标准差，则可以得到回归系数估计量的样本方差协方差矩阵。根据此矩阵，可以得到回归系数估计量的样本方差和样本标准误。36OLS估计量的概率分布 知道了统计量的概率分布，并且根据样本数据能够计算出具体的统计值，从而可以很方便地进行回归系数的区间估计和假设检验。37检验一：回归系数显著性检验 检验单个回归系数的显著性。检验方法与双变量模型的回归系数显著性检验没有本质区别，但需要特别注意t统计量的自由度个数。38检验二：回归模型的拟合优度检验称为“多元判定系数”39“判定系数”的含义和性质判定系数度量了因变量的总变异在多大比例上可以由回归模型来解释，体现了回归模型对样本观测值的拟合优度，在一定程度上反映了模型的优良程度。判定系数在0到1之间。4041检验三：方程显著性检验（ F检验）把模型作为一个整体进行假设检验，检验模型中因变量与解释变量之间的线性关系是否显著成立。检验方案：42检验思路：方差分析对TSS的组成部分进行研究叫做方差分析。TSS自由度n-1ESS自由度k-1RSS自由度n-k43F检验的拒绝域4445多元回归模型假设检验的一般方法检验回归系数的某个线性约束是否成立。464748构造检验统