计量经济学-第4章多元回归分析

1、1,第四章 多元线性回归分析,计量经济学，高教出版社，2011年6月 王少平、杨继生、欧阳志刚等编著,2,多元线性回归模型 包含多个解释变量的线性回归模型,一元线性回归模型能合理地描述实际经济情况吗？ 现实经济情况往往体现：对一个经济变量的解释有多个因素，因此应该使用多个解释变量的多元回归分析。 如果一个模型确实存在多个解释变量，我们使用一元线性回归会产生设定偏误。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,3,4.1 多元线性回归模型的两个例子,一、例题1：CD生产函数 这是一个非线性函数，但取对数可以转变为一个对参数线性的模型 注意：“线性”的含义是指方程对参数

2、而言是线性的,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,4,二、 多元线性回归模型的一般形式,一般形式可以表述为如下的形式： 均值方程 线性回归方程与均值方程的联系,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,5,问题本质：,这部分是解释变量无法解释的随机噪声。并且被分解的这两部分是正交的，即这两部分没有信息的重叠。,多元线性回归方程将被解释变量分解成为两部分：,这部分是可以由解释变量来解释。,（2）,（1）,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,6,三、偏效应,解释变量的估计参数 表示 对被解释变量均值的偏

3、效应。 表示其他被解释变量均保持不变时， 变化一个单位，导致被解释变量均值变化 个单位。 为什么叫偏效应？这是因为它的含义恰好类似于高等数学中偏导数的含义。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,7,4.2 多元线性回归模型的OLS估计 一、回归系数的估计 1. 回归系数的OLS估计：一般形式,其样本回归函数为：,是OLS估计量,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,8,问题本质,OLS的估计思想：,（1）寻找参数估计量 ，使得样本回归函数与所有样本观测点的偏离最小，即残差平方和最小。,为什么不选择离差之和最小化或者离差绝对值之和

4、最小化呢？,因为离差之和会使正负误差抵消，而离差绝对值不便于数学上做优化处理，所以选择了离差平方和最小化作为优化目标，这也就是为什么这种估计方法被称为最小二乘法的原因。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,9,（2）优化目标,根据其一阶优化条件：,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,10,得到计算回归系数估计量的正规方程组：,注意：只有回归方程中包含常数项，由OLS估计所 得残差总和才一定为0。,含义：OLS估计所的残差与解释变量不相关。即残 差中不存在任何可解释的成份。,计量经济学，高教出版社2011年6月，王少平、杨继生、

5、欧阳志刚等编著,11,假定7：回归模型的解释变量之间不能存在完全的多重共线性。 “完全的多重共线性”：是指一个解释变量是其他解释变量的线性组合 。说明该解释变量所提供的信息与其他解释变量是完全重复的。 当存在完全共线性时，模型的参数不可识别。即任何方法都无法得到参数估计值，包括OLS。 存在不完全共线性时，可以得到参数估计值。OLS估计量是BLUE。但与没有多重共线性时相比，估计量的方差较大，估计精度下降。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,12,2. 回归系数的OLS估计：以二元回归模型为例,基于残差平方和的最小化，得到正规方程组：,计量经济学，高教出版社

6、2011年6月，王少平、杨继生、欧阳志刚等编著,13,由正规方程组求解，得到回归系数的估计量：,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,14,基于方差公式得到各回归系数估计量的方差：,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,15,例子：基于表4.1.1的数据估计中国宏观生产函数,Se： 0.7880 0.0902 0.0220 t值： -11.31367 7.3534 34.1171 p值： 0.0000 0.0000 0.0000,P值非常小，这表明各个解释变量对被解释变量有显著的解释作用。,回忆：P值是检验结论犯第一类“弃真”错误

7、的概率。 P值非常小的含义是什么呢？,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,16,二、随机误差项方差的估计,的无偏估计量可以表述为：,自由度为什么是N-(K+1)？ 多元回归模型的OLS估计中，我们基于正规方程 组中的K+1个约束估计了K+1个回归系数，所以损失 了K+1个自由度，独立的观测信息只剩下N-(K+1)个。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,17,三、判定系数的调整,总平方和等于解释平方和加上残差平方和,TSSESS+RSS,判定系数,后果：在回归模型中增加新的解释变量时， 只可能增加，而决不会下降。,缺陷： 只反

8、映拟合效果，不反映自由度损失。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,18,调整后的,调整思想： 对 进行自由度调整。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,19,1. 单个回归系数的显著性检验,如果随机误差项,是经典误差项，并且满足正态性假定 ：,用估计量的标准误替代标准差，统计量服从t分布。即：,注意：与一元回归的唯一区别是自由度。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,4.3 多元线性回归模型的假设检验,20,三、多参数的线性约束检验 1：模型的总体显著性检验,（5.4.3）,、,若随机误差项

9、满足,中至少一个不为0。,则在原假设成立情况下：有,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,21,F分布的密度函数,概 率 密 度,图4.3.3 F检验的判定规则,注意：总体显著性检验是单边的右侧检验 。 若统计量的统计值超过 ，则拒绝原假设,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,22,23,2：模型参数之间的线性约束检验：,例子：柯布道格拉斯生产函数 检验假设为：,1,这样的多参数单个线性约束，有两种检验方法.,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,24,本例中：,=5.9456。,p值为0.000

10、0,结论：拒绝规模报酬不变的原假设。,（1）t检验,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,25,（2）F检验：,无约束回归方程 将原假设中的约束条件带入回归方程，得到了所谓的“有约束回归方程” 。,将其RSS记为,，自由度为N-3。,将其RSS记为,，自由度为N-2。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,26,基于,和,，在原假设成立的情况下，有,如果原假设为真，我们会倾向于得到较小的值。,反之，我们会倾向于得到较大的值。,检验统计量,判定：若F值大于临界值，或p值小于显著性水平，则拒绝原假设。,计量经济学，高教出版社2011年

11、6月，王少平、杨继生、欧阳志刚等编著,27,中国生产函数的例子 ：,39.2330。,0.0279，,0.0700，,F检验统计值为：,该F统计值的p值为0.0000，所以，我们可以拒绝 中国经济规模报酬不变的原假设。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,28,基于,和,，在原假设成立的情况下，有,如果原假设为真，我们会倾向于得到较小的值。,反之，我们会倾向于得到较大的值。,检验统计量,判定：若F值大于临界值，或p值小于显著性水平，则拒绝原假设。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,3：参数的线性约束检验：F检验一般形式,29

12、,4：经济关系的结构稳定性检验：F检验的一个例子邹检验,例：中国宏观生产函数在1992年前后是否不同？,19781992年：,19932006年：,无约束回归：参数可以不同,受约束回归：参数不变,19782006年：,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,30,F检验统计量：,在原假设为真时，其分布为,本例中，邹检验结果：,P=0.0000。,结论：拒绝中国生产函数保持稳定的原假设。,待检验假设：,：原假设中约束条件至少有一个不成立。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,31,t检验与F检验的总结,t检验 优点：可作单侧检验 不

13、足：无法检验多个约束条件 F检验 优点：可检验多个约束条件 不足：无法进行单侧检验,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,32,4.6 多元回归分析实例：货币需求分析,货币需求的影响因素： 总收入和持有货币的机会成本,RM： 经过价格因素调整的货币供给量M2 RGDP： 经过价格调整后的实际GDP， IB：为长期债券利率（作为长期利率的替代变量） ID：为储蓄利率（作为短期利率的替代变量）,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,33,OLS估计结果：,t值 7.556 13.789 -7.970 0.896 p值(t统计量) 0.

14、000 0.000 0.000 0.374,0.926，,0.922， RSS0.0926。,总体显著性的F统计值213.235 p值(F统计量)0.000。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,34,图4.6.1 货币需求的实际观测值、拟合值和残差,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,35,一、回归结果的经济解释,1. 回归系数的经济解释 （1）lnRGDP 系数估计值1.296：总收入对货币需求有正向的影响（交易性需求）。 实际收入水平每增加一个百分点，实际货币需求相应地平均增加1.296个百分点。 系数估计值的t统计值为

15、13.789，其p值0.00，意味着我们可以拒绝 0的原假设.,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,36,（2）IB 系数估计值为-2.616：长期利率的上升会导致持有货币的机会成本增加，从而减少对货币的需求。 长期利率每上调一个基点（0.0001），货币需求平均下降0.02616，即0.02616个百分点。 系数估计值的t统计值为-7.970，其p值0.00， （3）ID 系数估计值的t统计值为0.896，其p值为0.374，意味着短期利率对于货币需求量的影响在统计上是不显著的。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,37,二

16、、残差及其正态性检验,在有限样本中，所有的统计推断都依赖于随机误差项的正态性假设，所以必须对误差项的正态性假设进行检验。 残差项的QQ图、直方图提供了最简单的图形观察的检验方式。 JB统计量的检验,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,38,JB正态性检验统计量,其中：S为残差序列的偏度；K为其峰度。 JB检验用来判定一个分布的偏度和峰度是否与正态 分布一致。（正态分布偏度为0，峰度为3）。,JB检验的原假设为：变量（这里就是残差）服从正态分布。,原假设成立时，JB检验统计量服从自由度为2的,分布，即,。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,39,货币需求方程残差的JB检验,偏度S-0.1117,峰度K2.8329,JB0.1783,p值为0.9147。 根据JB检验统计量的p值，我们不能拒绝残差序列 （进而误差项）服从正态分布的原假设。,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,40,三、参数线性约束的检验,货币需求方程： （4.6.1） 文献中通常会用长期利率与短期利率之差即变量IB-ID作为持有货币机会成本的度量指标。即模型（4.6.1）可以表述为：,（4.6.4）,计量经济学，高教出版社2011年6月，王少平、杨继生、欧阳志刚等编著,41,