多元回归模型估计与假设检验

多元回归模型估计与假设检验第一页，共三十页，编辑于2023年，星期五4.1

二元线性回归模型：总体回归函数

非随机形式：随机形式：其中，B1是截距，B2、B3称为偏回归系数。B2

度量了在X3保持不变的情况下，X2变化1单位引起Y的平均变化量；B3

度量了在X2保持不变的情况下，X3变化1单位引起Y的平均变化量。

第二页，共三十页，编辑于2023年，星期五例如，

当X3保持不变时，X2每增加1单位，Y将平均地增加0.4单位；

当X2保持不变时，X3每增加1单位，Y将平均地减少5单位。

4.1

二元线性回归模型：总体回归函数第三页，共三十页，编辑于2023年，星期五也就是说，在多元回归中，偏回归系数反映了当模型中其他解释变量保持不变时，某个解释变量对被解释变量的条件均值的影响。

多元回归不但引入了多个解释变量，而且能够分离出每个解释变量对被解释变量的影响。

4.1

二元线性回归模型：总体回归函数第四页，共三十页，编辑于2023年，星期五1.回归模型是参数线性的，并且是正确设定的；2.随机误差项的条件均值为零；3.随机误差项的方差是常数（同方差）；4.所有解释变量都与随机误差项不相关；5.随机误差项不存在自相关。4.2

多元线性回归的若干假定进一步以上这些假定全部与第三章提到的一元回归模型的假定完全相同。第五页，共三十页，编辑于2023年，星期五

不同的是，多元回归有多个解释变量X，因而就多了以下这条对解释变量之间关系的假定：

6.解释变量之间不存在完全共线性，

就是说，解释变量之间不存在严格的线性关系。

4.2

多元线性回归的若干假定第六页，共三十页，编辑于2023年，星期五

如果X2与X3存在完全共线性，就无法估计偏回归系数B2、B3的值。换句话说，不能估计解释变量X2、X3各自对Y的影响，因为此时X2和X3不是两个独立的变量。实践中很难遇到完全共线性，但近似完全共线性的情况十分常见。如何处理这个问题，将在第八章《多重共线性》详细讨论。4.2

多元线性回归的若干假定第七页，共三十页，编辑于2023年，星期五4.3

多元回归参数的估计样本回归函数：

与一元回归一样，采用普通最小二乘法(OLS)去估计B1、B2、B3，从而得到它们的OLS估计量b1、b2、b3的值。

即最小化残差平方和

通过求导，可以算出b1、b2、b3分别为：第八页，共三十页，编辑于2023年，星期五特征1

b2和b3表达式的分母相同。特征2

b2和b3表达式是对称的，即x2，x3互换也可得到相应的表达式。4.3

多元回归参数的估计第九页，共三十页，编辑于2023年，星期五继而推导出各估计量的方差和标准差：其中，随机误差项的方差未知，因而采用其残差项的方差自由度=样本容量n-系数个数34.3

多元回归参数的估计第十页，共三十页，编辑于2023年，星期五多元回归OLS估计量的性质：与一元回归一样，在古典线性回归模型的基本假定下，多元回归OLS估计量也是最优线性无偏估计量（BLUE）4.3

多元回归参数的估计第十一页，共三十页，编辑于2023年，星期五

从以上这些讨论中不难发现，二元回归模型在许多方面是一元回归模型的直接推广，只不过估计公式略显复杂。

当推广到三元回归、四元回归…，那么计算公式将更加复杂。在这种情况下，必须使用矩阵代数，以简化各自表达式。

本课程不会涉及矩阵代数。4.3

多元回归参数的估计第十二页，共三十页，编辑于2023年，星期五4.4

估计多元回归的拟合优度：判定系数

与一元回归一样，多元回归的判定系数依然为：

其中，ESS为解释平方和，RSS为残差平方和，TSS为总体平方和（变异）。

判定系数R2度量了多元回归模型对Y变异的解释比例。也就是各解释变量X对被解释变量Y变异的联合解释比例。第十三页，共三十页，编辑于2023年，星期五一个例子:古董钟的拍卖价格Y：拍卖价格；X2：钟表年代；X3：竞标人数回归结果的解释：其他变量不变，钟表年代每增加1年，价格平均上升12.74马克；其他变量不变，竞标人数每增加1人，价格平均上升85.76马克；负的截距没有实际意义；判定系数R2相当高，约为0.89，说明两个变量联合解释了拍卖价格89%的变异。样本数据见课本38页表2-14EVIEWS输出结果见课本97页附录4A.4第十四页，共三十页，编辑于2023年，星期五与一元回归模型一样，多元回归模型也可以对每个参数分别进行显著性检验（单边或双边）。

当｜t｜大于5%显著水平所对应的临界值Z时，则拒绝H0，小于则不拒绝。

当然，也可以在EVIEWS输出结果里直接读取相应的p值，p值小于5%则拒绝H0，大于则不拒绝。4.7

参数的显著性检验—t检验第十五页，共三十页，编辑于2023年，星期五…4.7

参数的显著性检验—t检验…第十六页，共三十页，编辑于2023年，星期五4.8

模型的显著性检验—F检验与古典线性回归模型有关的一些检验：统计检验：利用统计原理对参数和模型的可靠性进行检验（拟合优度检验、参数的显著性检验、模型的显著性检验等）计量经济学检验：

计量经济学所特有的检验方法（多重共线性检验、异方差检验、自相关检验等）第十七页，共三十页，编辑于2023年，星期五与参数的显著性检验不同，模型的显著性检验的原假设H0是一个联合假设：即，所有偏回归系数同时为0（而不是单独为0）

这个假设表示所有的解释变量对被解释变量没有影响，等同于：4.8

模型的显著性检验—F检验第十八页，共三十页，编辑于2023年，星期五F分布,详见357页附录C.4；F分布表,详见388页表E-3F统计量：方差分析ANOVA变异来源自由度来自回归（ESS）k-1来自残差（RSS）n-k总计（TSS）n-1F统计量服从分子自由度为k-1、分母自由度为n-k的F分布n：样本容量；k：系数B的个数4.8

模型的显著性检验—F检验第十九页，共三十页，编辑于2023年，星期五F

分布n：分子自由度m：分母自由度第二十页，共三十页，编辑于2023年，星期五检验结果：

如果F值大于显著水平α的所对应的临界值则拒绝

小于则不拒绝。也可以直接读取p值，若p小于α，则拒绝H0

大于则不拒绝。F分布,详见357页附录C.4；F分布表,详见388页表E-34.8

模型的显著性检验—F检验第二十一页，共三十页，编辑于2023年，星期五EViews

回归结果第二十二页，共三十页，编辑于2023年，星期五4.9设定误差

从回归结果中可以看出，X2和X3无论是单独地、还是联合地都对拍卖价格有重要影响。

如果从模型中删除其中任何一个变量，都会导致模型的设定误差。

第7章《模型选择》将详细讨论模型的设定误差。注：查F分布表可知，当分子自由度为2、分母自由度为29时，5%显著水平的F临界值约为3.32Y：拍卖价格；X2：钟表年代；X3：竞标人数第二十三页，共三十页，编辑于2023年，星期五区别：这3个回归方程的截距都不同；一元回归的斜率系数与二元回归的斜率系数不同；二元回归的R2明显大于2个一元回归的R24.9设定误差Y：拍卖价格；X2：钟表年代；X3：竞标人数第二十四页，共三十页，编辑于2023年，星期五

由于自由度的原因，当增加回归模型的解释变量个数，判定系数R2就会越大。

因此，如果两个回归模型的解释变量个数不同，直接比较它们的判定系数R2就如同拿苹果和橘子比。那么，为了判断各个多元回归模型拟合优度的大小，就需要一根“统一的标尺”：校正的判定系数

（adjustedR-squared）4.10

校正的判定系数第二十五页，共三十页，编辑于2023年，星期五性质：如果,则

随着解释变量个数的增加，校正的判定系数越来越小于未校正的判定系数，这是对增加解释变量的“惩罚”。虽然未校正的判定系数总为正，但校正的判定系数

可能为负。推导过程见课本97页附录4A.34.10

校正的判定系数第二十六页，共三十页，编辑于2023年，星期五EVi