回归模型的设定检验 计量经济学 EVIEWS建模课件

1、回归模型的设定检验回归模型的设定检验 计量经济学计量经济学 EVIEWS EVIEWS建模课件建模课件一、模型设定误差及其分析一、模型设定误差及其分析模型设定偏误的含义模型设定偏误主要有两大类:一是关于解释变量选取的偏误。主要包括漏选相关变量和多项选择无关变量二是关于模型函数形式选取的偏误。学习中可从如下三个方面来掌握：1.遗漏相关的变量遗漏相关的变量omitting relevant variables遗漏相关变量是指在设定模型时，漏掉了重要遗漏相关变量是指在设定模型时，漏掉了重要的相关解释变量，而采用这一遗漏了相关变量的模的相关解释变量，而采用这一遗漏了相关变量的模型进行估计，所带来的偏误

2、就称为遗漏相关变量偏型进行估计，所带来的偏误就称为遗漏相关变量偏误误omitting relevant variable bias。这类错误所造成的后果有如下两个方面：这类错误所造成的后果有如下两个方面：可能会产生局部估计量的有偏，或非一致性；可能会产生局部估计量的有偏，或非一致性； 估计的方差也会产生有偏的情况；估计的方差也会产生有偏的情况；例如： 设正确的模型为: Y=0+1X1+2X2+却对：Y=0+ 1X1+v 进行回归，得:2111iiixyx将正确模型的离差形式: iiiixxy2211代入到 回归的系数1的估计值中有:21121212121221112111)()(iiiiiii

3、iiiiiiixxxxxxxxxxyx (1)如果漏掉的X2与X1相关，那么上式中的第二项在小样本下求期望与大样本下求概率极限都不会为零，从而使得OLS估计量在小样本下有偏，在大样本下非一致。但是，这会出现多重共线性。 (2)如果如果X2与与X1不相关，那么不相关，那么1的估计满足的估计满足无偏性与一致性；但是，这时无偏性与一致性；但是，这时0的估计却是有偏的估计却是有偏的。随机扰动项的方差估计也是有偏的。的。随机扰动项的方差估计也是有偏的。 分析上式结果可知： 1的估计值的方差是1的方差的有偏估计，由 Y=0+ 1X1+v 得:2121)(ixVar而由 Y=0+1X1+2X2+ 得:)1

4、()()(22122212221222121xxiiiiiirxxxxxxVar如果X2与X1相关，显然有)()(11VarVar如果X2与X1不相关，也有)()(11VarVarWhy?2. 无关变量的误选无关变量的误选 (including irrevelant variables) 设 Y=0+ 1X1+v (*) 为正确模型，但却估计了 Y=0+1X1+2X2+ (*) 采用包含无关解释变量的模型进行估计带来的偏误，称为包含无关变量偏误including irrelevant variable bias。即设定模型时，多项选择了一个无关解释变量。这时由于2=0，那么(*)与(*)相同，

5、即可将(*)式视为以2=0为约束的(*)式，可以通过检验来确定。但是，如果将无关的变量纳入模型，那么进行OLS估计，虽然可得到无偏且一致的估计量，却会产生其估计量不具有最小方差性的性质。这也是因为：只有在X1与X2完全无关时，有可能：在X1与X2相关时， 。 )1 ()()(22122212221222121xxiiiiiirxxxxxxVar)()(11VarVar)()(11VarVar 3. 错误的函数形式错误的函数形式 (wrong functional form)eXAXY2121但却将模型设定为: vXXY22110例如，如果“真实的回归函数为: 中选取了错误函数形式并对其进行估计

6、时，带来的偏误称错误函数形式偏误wrong functional form bias。容易判断，这种偏误是全方位的。 显然，两者的参数具有完全不同的经济含义，且估计结果一般也是不相同的。 设定问题分析根底分部回归分析根本原理 对多元模型：Y=X+；将X分为两局部，即X=(X1，X2)；XT=(X1T，X2T)T，那么：Y=X11+X22+利用：B=(XTX)-1XTY公式可得正规方程为：(XTX)B=XTY即以分块矩阵表示为：YXYXbbXXXXXXXXT2T1212T21T22T11T1 该分块式正规方程可分为：方程：X1TX1b1+X1TX2b2=X1TY；方程：X2TX1b1+X2TX2

7、b2=X2TY；对这两个方程进行讨论，可以发现很多有用信息。具体分析如下：据方程1有：b1=(X1TX1)-1X1TY-(X1TX1)-1(X1TX2)b2因为X1TX2=0，所以有：b1=(X1TX1)-1X1TY据方程有：b2=(X2TX2)-1X2TY-(X2TX2)-1(X2TX1)b1即：b2=(X2TX2)-1X2TY；当X1与X2为相关矩阵即X1TX20时：据方程有：b1=(X1TX1)-1X1TY-(X1TX1)-1X1TX2b2将b1代入方程有：X2TX1(X1TX1)-1X1TY-(X1TX1)-1X1TX2b2+X2TX2b2=X2TYX2TX1(X1TX1)-1X1TY

8、- X2TX1(X1TX1)-1X1TX2b2+X2TX2b2=X2TY；移项并提公因式有：X2TI- X2TX1(X1TX1)-1X1TX2b2=X2TI-X1(X1TX1)-1X1TY设：I-X1(X1TX1)-1X1T=M1；即方程2变为：X2TM1X2b2=X2TM1Y；又M1是对称幂等矩阵； 估计b2的正规方程为：X2TM1TM1X2b2=X2TM1TM1Ye=Y-XB=Y-X(XTX)-1XTY=(I-X(XTX)-1XT)Y=MYM1Y是Y对X1回归后的残差；设：M1Y=eY1 M1X2是X2对X1回归后的残差；设:M1X2=e21即有正规方程：(e21Te21)b2=e21Te

9、Y1可见b2是eY1对e21的回归的参数解，即：b2=(e21Te21)-1e21TeY1这说明X2对X1的回归残差决定着Y 对X1的残差，其决定程度就是2。即在X1与X2相关时，b2反映的是扣除X1对X2的影响后的X2，对扣除X1影响后的Y的影响程度。可见当X1与X2无关时，对模型设定的影响不大，而大两者相关时，那么对模型的设定的影响就大了。应用分部回归分析模型设定问题 对常数项的分析 设:X1i为虚拟解释变量;X2为其它所有解释变量;则:Y对i的回归有：eY1YMIY；其中MI=I-iiT/NYjXXj对i的回归有：ej1Xj MIXj；eY1对ej1的回归：bj=(ej1Tej1)-1e

10、j1TeY1以一元模型Y0+1X为例分析如下：将其分为两个方程有：方程是Y0；方程是Y1X；那么有1的估计值b1为：b1=(e10Te10)-1e10TeY0 xy/x2即x和y的平均水平为零或过原点时的斜率，该系数说明X和Y都剔除常数项i的影响之后，X对Y的影响程度。局部估计量的方差局部估计量的方差 设f代表除k以外的其他变量，根据分部回归有：bk=(XkTMfXk)-1(XkTMfY)(ekfTekf)-1(ekfTeYf)Var(bk)=2(ekfTekf)-1=(XkTMfXk)-12如在一元模型中：Var(b1)=2(e10Te10)-1=(XTMIX)-12=2/x2而在多元模型中

11、，因为k变量的可决系数为：Rk2=1- (ekfTekf)/(XkTMIXk)所以有：Var(bk)=2(ekfTekf)-1=2/(1-Rk2)(XkTMIXk)=2/(1-Rk2)(xk2)=2/(1-Rk2)(n-1)Var(Xk)模型模型设定设定Model Specification Omission of Relevant忽略相关变量的情况分析 True:Y=X11+X22+；But use：Y=X1+b=(X1TX1)-1X1TY=(X1TX1)-1X1T(X11+X22+) =1+( X1TX1)-1X1TX22+ (X1TX1)-1X1T)E(b)=1+( X1TX1)-1X1

12、TX22当X1TX20时，b是无偏估计量Unbiased当X1TX20时，b是有偏估计量BiasedVar(b)=2(X1TX1)-1Var(b1)=2(X1TM2X1)-1 =2X1TIX2(X2TX2)-1X2TX1-1 =2X1TX1)-1X1TX2(X2TX2)-1X2TX1-1注：V0，有：V TX1TX2(X2TX2)-1X2TX1V=ST(X2TX2)-1S0，即(X2TX2)-1的正定，使得Var(b1)的分母为两个正数之差，这样与Var(b)的分母只差一个被减项，所以有:Var(b)Var(b1)这说明影响因素越多其参数估计量的方差越大。参加了无关变量的情况 True:Y=X

13、11+；But use: Y=X11+X22+；即2=0；E(|X)=0；E(b)=(1,2)T=(1,0)T其中：b1=(X1TX1)-1X1T(X11+)-(X1TX1)-1(X1TX2)b2E(b1)=1+( X1TX1)-1X1T-(X1TX1)-1(X1TX2)b2当X1TX20时，b是无偏估计量Unbiased当X1TX20时，因E(b2)=0，b1仍是无偏估计量Unbiased又Var(b1)=2(X1TX1)-1 Var(b1)=2(X1TM2X1)-1=2X1TIX2(X2TX2)-1X2TX1-1 =2X1TX1X1TX2(X2TX2)-1X2TX1-1 当X2TX10时，

14、Var(b1)= Var(b1) 当X2TX10时，有V0，使：V TX1TX2(X2TX2)-1X2TX1V=ST(X2TX2)-1S0即(X2TX2)-1是正定的，使：Var(b1)Var(b1)综合上述两种情况，可得如下结论：模型中解释变量多可保证其无偏性，但易损失其有效性；变量过少易损失其无偏性，保证其有效性。在现实的经济分析中，我们一遍认为无偏性更重要一些，所以影响因素要尽可能的全面。 F检验的证明检验的证明 F检验是考察X联合起来能否解释Y的检验，所以对于多元线性模型有：H0: 1=2=3=k=0F检验统计量为：1-k-nR-1kRF22注：R越大F值越大，越会拒绝H0；F值很大，

15、但t值很小，那么可能与多重共线性有关。R2=(TM)/(YTMY)=1-(eTe)/(YTMY)(eTe)/22(n-k-1)F(k,n-k-1)将多元模型改为如下形式：Y=0i+XJ+这里0为常数项，为k个实际解释变量的回归系数向量，X1=i为单位列向量，并将X2表示为XJ，其中J为：kkI0100010001000J根据分部回归可知，在该模型中是离差MIY对离差MIXJ的回归系数向量，即：MIYMIXJZ=Y设Z=(MIXJ)nk,Y=MIYYMYYMYRITIT2YMYZBZBRITTT2该模型的参数估计值为：B=(ZTZ)-1ZTY=(ZTZ)-1ZT(Z+) =(ZTZ)-1ZTZ+

16、(ZTZ)-1ZT=+(ZTZ)-1ZT由F检验的原假设H0: =0有：B=(ZTZ)-1ZT代入下式又离差回归方程的其分子为BTZTZB=TZ(ZTZ)-1ZTZ(ZTZ)-1ZT =TZ(ZTZ)-1ZT=T(I-MZ)又(I-MZ)=(Z(ZTZ)-1ZT)=k1-k-neeMTT kM-IT1-k-nk,1-k-nMkM-IFTTF且有即二、模型设定偏误的检验二、模型设定偏误的检验 T检验和检验和F检验的方法检验的方法 利用t 检验和F检验可以检验是否含有无关变量。 检验的根本思想:如果模型中误选了无关变量，那么其系数的真值应为零。因此，只须对无关变量系数的显著性进行检验。 t检验：检

17、验某1个变量是否应包括在模型中； F检验：检验假设干个变量是否应同时包括在模型中。 残差图示法残差图示法 1.一般残差图检验是否有相关变量的遗漏一般残差图检验是否有相关变量的遗漏残差数列残差数列变化图变化图用于检验函数形式的用于检验函数形式的设定偏误设定偏误a a趋同变化趋同变化 ：模型设定时可能遗模型设定时可能遗漏了一随着某解释漏了一随着某解释变量推移而持续上变量推移而持续上升的变量升的变量 b b循环变化：模循环变化：模型设定时可能遗漏型设定时可能遗漏了一随着某解释变了一随着某解释变量的推移而呈现循量的推移而呈现循环有规律变化的变环有规律变化的变量量 模型模型函数形式设定偏误时残差序列呈现

18、正函数形式设定偏误时残差序列呈现正负交替变化负交替变化 图示：图示：一元回归模型中，真实模型呈幂函数形式，但却选取了线性函数进行回归。 RESETRESET检验检验更准确更常用的一般性设定偏误判定方法是拉姆齐(Ramsey)于1969年提出的所谓RESET 检验regression error specification test。根本思想：如果事先知道遗漏了哪个变量，只需将此变量引入模型，估计并检验其参数是否显著不为零即可；但是在不知道遗漏了哪个变量时，需寻找一个替代变量Z，来进行上述检验。 RESET检验中，采用所设定模型中被解释变量Y的估计值的假设干次幂来充当该“替代变量。 例如例如，先估计 Y=0+ 1X1+v 得: 110XY3221110YYXY 再根据增加解释变量的F检验来判断是否增加这些“替代变量。 假设仅增加一个“替代变量，也可通过t检验来判断。 RESET检验也可用来检验函数形式设定偏误的检验也可用来检验函数形式设定偏误的问题。问题。 313212110XXXY因此，如果设定了线性模型，就意味着遗漏了相关变量X12