计量经济学的各种检验

1、整理ppt1经济计量学的几种检验整理ppt2多重共线性n .Multicollinearity arises because we have put in too many variables that measure the same thing.nAs the degree of multicollinearity increases, the regression model estimates of the coefficients become unstable and the standard errors for the coefficients can get wildly i

2、nflated. nMeasure :vif, tol=1/vif,condition index;etc.kXXrank )(整理ppt3多重共线性的后果n1.存在完全多重共线性时,参数的估计值无法确定,而且估计值的方差变为无穷大.n2.存在不完全多重共线性时,可以估计参数值,但是数值不稳定,而且方差很大.n3.多重共线性会降低预测的精度,甚至失效,增大零假设接受的可能性(t值变小).整理ppt4多重共线性的检测方法(1)样本可决系数法n如果样本的可决系数R-square 比较大，且回归系数几乎没有统计上的显著性，则可认为存在多重共线性。nTheil 提出了一个指标：多重共线性效应系数，存在

3、多重共线性。接近于线性；，则认为不存在多重共若该系数接近于数后的回归方程的可决系去掉指标10;);( 22212jjjpjxRRRRTheil整理ppt5Theil test resultsnSas 结果：n结果表明有多重共线性。19376. 0tcoefficien effects l9828. 0;9473. 0;9913. 0;9919. 02322212theiRRRR整理ppt6多重共线性检测方法（2）辅助回归检验法n若存在多重共线性，则至少有一个解释变量可精确或近似地表示为其余皆是变量的线性组合。n相应的检验统计量为：因；是造成多重共线性的原则可认为性；若显著则存在多重共线的可决系

4、数量的回归个自变量对其余解释变为第iiiiixiRpTpFpTRpRF;), 1()/()1 () 1/(222整理ppt7辅助回归检验结果nSas 结果：nKlein经验法则：若存在一个i,使得nR(i)-squareR-square,则认为多重共线性严重；本例中x1,x3有多重共线性。;9946. 0);01. 0(44.740;0186. 0);9278. 0(0186. 0;9946. 0);01. 0(99.739233212211RprobFRprobFRprobF整理ppt8多重共线性检验方法（3）样本相关系数检验法否则不存在；，则认为有多重共线性如果拒绝检验统计量：共线性严重。

5、进一步，共线性；较大，则认为存在多重如果之间的相关系数和两个变量0202);1(5 . 0();log(det()52(611(; 1)det(; 1)det(:,HppFGRpTFGRHRHRrrrxxaijijijji整理ppt9FG test resultsnfg=20.488013401 p=0.0001344625；n拒绝零假设，认为存在多重共线性。n具体那些变量之间存在多重共线性，除了上面提到的辅助回归的方法外，还有以下提到的条件数检验和方差膨胀因子法。整理ppt10多重共线性检验方法：（4）特征值分析法所用的检验统计指标n ; 为第k各自变量和其余自变量回归的可决系数. VIF1

6、0,有多重共线性;TOL=1/VIF;n条件指数: n条件数条件数: ;C20,共线性严重.12)1 (kkRVIF2kRminiiC minmaxC整理ppt11多重共线性的检验和补救n例一:进口总额和三个自变量之间回归;nSas 结果如下:Pearson Correlation Coefficients, N = 11 Prob |r| under H0: Rho=0n x1 x2 x3nx1 1.00000 0.02585 0.997260.99726nGDP 0.9399 .0001.0001nx2 0.02585 1.00000 0.03567n存蓄量 0.9399 0.9171nx

7、3 0.997260.99726 0.03567 1.00000n总消费 .0001 |t| InflationnIntercept 1 -10.12799 1.21216 -8.36 .0001 0nx1 1 -0.05140 0.07028 -0.73 0.4883 185.99747nx2 1 0.58695 0.09462 6.20 0.0004 1.01891nx3 1 0.28685 0.10221 2.81 0.0263 186.11002n发现x1的系数为负,和现实经济意义不符,出现原因就是x1 和x3之间的线性相关.整理ppt13补救措施n增加样本;岭回归或主分量回归;n至少

8、去掉一个具有多重共线性的变量;对具有多重共线性的变量进行变换.n对所有变量做滞后差分变换(一般是一阶差分),问题是损失观测值,可能有自相关.n采用人均形式的变量（例如在生产函数估计中）n在缺乏有效信息时,对系数关系进行限制,变为有约束回归(Klein,Goldberger,1955),可以降低样本方差和估计系数的标准差,但不一定是无偏的(除非这种限制是正确的).n对具有多重共线性的变量,设法找出其因果关系,并建立模型和原方程构成联立方程组.整理ppt14岭回归n岭回归估计: nK=0, b(k)=b即为OLSE;nK的选取: n即使b(k)的均方误差比b的均方误差小.YXkIXXkb1)()(

9、)()(minkbkbk整理ppt15岭迹图整理ppt16岭回归结果Obs _MODEL_ _TYPE_ _DEPVAR_ _RIDGE_k _PCOMIT_ _RMSE_ Intercept x1 x2 x3 y 1 MODEL1 PARMS y 0.48887 -10.1280 -0.051 0.58695 0.287 -1 2 MODEL1 RIDGEVIF y 0.00 方差膨胀因子方差膨胀因子 185.997 1.01891 186.110 1 3 MODEL1 RIDGE y 0.00 0.48887 -10.1280 -0.051 0.58695 0.287 1 4 MODEL1

10、 RIDGEVIF y 0.01 8.599 0.98192 8.604 -1 5 MODEL1 RIDGE y 0.01 0.55323 -9.1805 0.046 0.59886 0.144 1 6 MODEL1 RIDGEVIF y 0.02 2.858 0.96219 2.859 -1 7 MODEL1 RIDGE y 0.02 0.57016 -8.9277 0.057 0.59542 0.127 -1 8 MODEL1 RIDGEVIF y 0.03 1.502 0.94345 1.502 -1 9 MODEL1 RIDGE y 0.03 0.57959 -8.7337 0.061

11、 0.59080 0.120 -1 10 MODEL1 RIDGEVIF y 0.04 0.979 0.92532 0.979 -1 11 MODEL1 RIDGE y 0.04 0.58745 -8.5583 0.064 0.58591 0.116 -1 整理ppt17主分量回归n主分量回归是将具有多重相关的变量集综合得出少数几个互不相关的主分量.n两步:(1)找出自变量集的主分量,建立y与互不相关的前几个主分量的回归式.(2)将回归式还原为原自变量结果.n详见,方开泰;整理ppt18主分量回归结果Obs _MODEL_ _TYPE_ _DEPVAR_ _PCOMIT_ _RMSE_ Int

12、ercept x1 x2 x3 y 1 MODEL1 PARMS y 0.48887 -10.1280 -0.05140 0.58695 0.28685 1 2 MODEL1 IPCVIF y 1 0.25083 1.00085 0.25038 1 3 MODEL1 IPC y 1 0.55001 -9.1301 0.07278 0.60922 0.10626 14 MODEL1 IPCVIF y 2 0.24956 0.00095 0.24971 -15 MODEL1 IPC y 2 1.05206 -7.7458 0.07381 0.08269 0.10735 -1整理ppt19主分量回归

13、结果n由输出结果看到在删去第三个主分量（pcomit=1)后的主分量回归方程：nY=-9.1301+0.07278x1+0.60922x2+0.10626x3;n该方程的系数都有意义，且回归系数的方差膨胀因子均小于1.1；主分量回归方程的均方根误差（_RMSE=0.55) 比普通OLS方程的均方根误差（_RMSE=0.48887) 有所增大但不多。整理ppt20Sas 程序ndata ex01;ninput x1 x2 x3 y;nlabel x1=国内生产总值;nlabel x2=存储量;nlabel x3=消费量;nlabel y=进口总额;ncards;n149.3 4.2 108.1

14、15.9n161.2 4.1 114.8 16.4n171.5 3.1 123.2 19.0n175.5 3.1 126.9 19.1n180.8 1.1 132.1 18.8n190.7 2.2 137.7 20.4n202.1 2.1 146 22.7n212.4 5.6 154.1 26.5n226.1 5.0 162.3 28.1n231.9 5.1 164.3 27.6 n239.0 0.7 167.6 26.3n;nrun;nproc corr data=ex01;nvar x1-x3;nrun;n*岭回归*;nproc reg data=ex01 outest=ex012 gra

15、phics outvif;nmodel y=x1-x3/ridge=0.0 to 0.1 by 0.01;nplot/ridgeplot;nrun;nproc print data=ex012;run;n*主分量回归法*;nproc reg data=ex01 outest=ex103;nmodel y=x1-x3/pcomit=1,2 outvif;*pcomit表示删去最后面的1或2个主分量,用前面m-1或 m-2各主分量进行回归*;nrun;nproc print data=ex103;run;整理ppt21Sas 程序n/*theil test*/;nproc reg data=ex0

16、1;nequation3:model y=x1 x2;nequation2:model y=x1 x3;nequation1:model y=x2 x3;nrun;/*r-.9473;r3s=0.9828*/;ndata theil;nrsq=0.9919;r1s=0.9913;r2s=0.9473;r3s=0.9828;ntheil=rsq-(3*rsq-(r1s+r2s+r3s);put theil=;nrun;n/*辅助回归检验法*/;nproc reg data=ex01;nequation3:model x3=x1 x2;nequation2:model x2=x1 x3;nequa

17、tion1:model x1=x2 x3;nrun;n/*FG test*/;nproc corr data=ex01 outp=corr nosimple;var x1-x3;run;nproc print data=corr;run;ntitle 计算相关矩阵的行列式;nproc iml;nR=1.000 0.026 0.997,0.026 1 0.036,0.9152 0.6306 1;nd=det(R);nprint d;nrun;/*d=0.081371*/;ntitle 计算检验统计量及其p值;ndata fg;nn=11;p=3;d=0.081371;nfg=-(n-1-1/6*

18、(2*p+5)*log(d);df=p(p-1)/2;np=1-probchi(fg,df);nput fg= p=;nrun;/*fg=20.488013401 p=0.0001344625,拒绝零假设*/;整理ppt22异方差的检验和补救n nOLSE unbiased,inefficient;t, F test invalid; forecast accuracy decreased.nIf the model is well-fitted, there should be no pattern to the residuals plotted against the fitted va

19、lues. If the variance of the residuals is non-constant, then the residual variance is said to be heteroscedastic. matrix; positive diagonal a ,)(2isVar整理ppt23异方差的检测nThere are graphical and non-graphical methods for detecting heteroscedasticity. A commonly used graphical method is to plot the residua

20、ls versus fitted (predicted) values. nExample :grade:educated years;potexp:working years;exp2=potexp2;union:dummy variable.unionpotgradewage432102expexp)log(整理ppt24收入方程回归的结果n Dependent Variable: LNWAGE n Analysis of Variancen Sum of Meann Source DF Squares Square F Value Pr Fn Model 4 12.42236 3.105

21、59 14.06 |t|n Intercept 1 0.59511 0.28349 2.10 0.0384n GRADE 1 0.08354 0.02009 4.16 Fn Model 12 1.18881 0.09907 0.88 0.5731n Error 87 9.83078 0.11300nCorrected Total 99 11.01958n Root MSE 0.33615 R-Square 0.1079n Dependent Mean 0.20989 Adj R-Sq -0.0152n Coeff Var 160.15281n Parameter Standardn Varia

22、ble DF Estimate Error t Value Pr |t|n Intercept 1 -0.07767 0.98580 -0.08 0.9374n GRADE 1 -0.01220 0.12502 -0.10 0.9225n POTEXP 1 0.07784 0.07188 1.08 0.2819n EXP2 1 -0.00399 0.00409 -0.97 0.3325n UNION 1 0.64879 0.86160 0.75 0.4535n grade2 1 0.00220 0.00425 0.52 0.6065n exp4 1 -3.34378E-7 0.00000151

23、 -0.22 0.8256n exp3 1 0.00006170 0.00014192 0.43 0.6648n gx2 1 0.00011683 0.00011102 1.05 0.2955n gp 1 -0.00375 0.00494 -0.76 0.4498n gu 1 -0.05137 0.04430 -1.16 0.2494n pu 1 0.00193 0.06061 0.03 0.9746n eu 1 -0.00022185 0.00126 -0.18 0.8605n残差项平方对所有一阶,二阶及交叉项回归.n1.由左边的结果可知:n故同方差的假设未被拒绝.n2.Proc reg d

24、ata=aa;nModel y=x/spec;nRun;n可得到相同的结果。03.21)12(79.10205. 02nR整理ppt27布罗施-帕甘/戈弗雷检验怀特检验的特例（1）OLS残差额et和一个估计的干扰误差 n（2）用OLS将 对选中的解释变量进行回归，并计算解释平方和(ESS);n(3)在零假设下，有 n(4)一个更简单且渐进等价的做法是直接利用残差平方对选中的解释变量进行回归.在零假设(同方差)下,221ten22te)1(212kasyESS)1(22kasynR整理ppt28 Dependent Variable: rsqn Sum of MeanSource DF Squa

25、res Square F Value PrFModel 12 1.18881 0.09907 0.88 0.5731Error 87 9.83078 0.11300Corrected Total 99 11.01958 Root MSE 0.33615 R-Square 0.1079Dependent MeanDependent Mean 0.209890.20989 Adj R-Sq -0.0152BPG test results(1)2099.0122ten整理ppt29BPG test results(2)nDependent Variable: rsqadjustnAnalysis o

26、f Variancen Sum of Meann Source DF Squares Square F Value Pr FnModel 3 10.7041510.70415 3.56805 1.43 0.2386nError 96 239.41116 2.49387 Corrected Total 99 250.11531 Root MSE 1.57920 R-Square 0.0428 Dependent Mean 0.99997 Adj R-Sq 0.0129nCoeff Var 157.92443nESS=10.70415ESS=10.70415整理ppt30BPG test resu

27、lts(3)n*ESS=5.35 FnModel 3 0.47160 0.15720 1.43 0.2386nError 96 10.5479810.54798 0.10987nRoot MSE 0.33147 R-Square 0.0428R-Square 0.0428815.7)3(205.035.52099.0*9572.0*15480.10*0428.012122RSSRR整理ppt31戈德菲尔德-匡特(Goldfeld-Quandt)检验n按potexp的值将数据从小到大进行排列.n取前后个35个观测值分别回归.c=30;n回归的主要结果:nRSS1=6.39573;RSS2=7.2

28、517;RSS2/RSS1=1.13; 而 ;该比值不显著,不能拒绝同方差的原假设;n去掉的中间观测值的个数要适中,否则会降低功效,一般取观测值个数的1/3.84. 1)30,30(05. 0F整理ppt32补救措施-已知方差的形式n1.广义最小二乘法(GLS);n请参考讲义中的例子;n2.模型变换法,适用于函数型异方差;已知方差的函数形式;n3.加权最小二乘法(WLS);实质上是一种模型变换法;具体参见讲义中的例子;n 采用面板数据,增加信息量.整理ppt33未知方差的形式nFurnival(1961)提出了一种拟合指数进行不断的修正,最后找出最佳的权重(使得该指数值最小).整理ppt34处

29、理盲点-robust regressionn1.迭代加权最小二乘法(IRLS),Neter提出了2中加权函数, Huber and Bisquare,但是不易操作.SAS v8中常使用Proc NLIN迭代.n2.非参数回归.Proc Loess.n3.SAS v9.0中有一个过程Proc robustregnStata 中有一个比较好的命令:rreg直接进行鲁棒回归(robust),采用迭代过程.整理ppt35序列相关性(serial correlation)n nOLSE unbiased,but inefficient and its standard error estimators

30、are invalid;nBLUE of the Gauss-Markov Theorem no longer holds. nThe variance formulas for the least squares estimators are incorrect.nAR,MA,or ARMA forms of serial correlation.nTake the AR(1) for instance:stst, 0)(整理ppt36Dw 检验需要注意的地方n假定了残差是服从正态分布,而且是同方差;自变量是外生的,如果包含了内生滞后变量,就需要用修正的dh检验(proc autoreg).

31、n只适用于一阶自相关,对高阶或非线性自相关不适用.n样本容量至少为15.整理ppt37自相关检验的标准n德宾和沃森根据显著水平,n,k,确定了二个临界值du(上界),dl(下界);然后进行比较;n(1)ddu,不拒绝零假设;n(3)dlddu,无结论;n直观: ;d2,负自相关;d=2,无自相关;)1(2d整理ppt38Eg:Ice cream demand(Hildreth,Lu(1960)nCons:consumption of ice cream per head(pints);nIncome:average family income per week($);nPrice :price

32、 of ice cream(per pint);nTemp: average temperature(in Fahrenheit);nData:30 four-weekly obs from March 1951 to 11 July 1953;整理ppt39残差的散点图整理ppt40回归结果n Parameter Estimatesn Parameter StandardnVariable DF Estimate Error t Value Pr |t|nIntercept 1 0.19732 0.27022 0.73 0.4718nprice 1 -1.04441 0.83436 -1.2

33、5 0.2218nincome 1 0.00331 0.00117 2.82 0.0090ntemp 1 0.00346 0.00044555 7.76 .0001n Durbin-Watson D 1.021Durbin-Watson D 1.021n Number of Observations 30n 1st Order Autocorrelation 0.330整理ppt411.DW testn查表可得:在0.05的显著水平上,dl=1.21(N=30,k=3);du=1.65;n直接在回归的语句中加上一个dw选项;nDw=1.021 ;n因此拒绝零假设,认为有自相关;且显著一阶正相关

34、;n Parameter Estimatesn Parameter StandardnVariable DF Estimate Error t Value Pr |t|nresid 1 0.384540.38454 0.17029 2.26 0.03190.03198 . 3) 1 (205. 02R整理ppt46补救方法n1.已知rho时,采用广义差分变换.n2.未知rho时,先求相关系数,然后进行广义差分.n求相关系数的方法有:n(1)Cochrane-Orcutt迭代方法;n(2)Hildreth-Lu.n(3)Durbin 2 step.整理ppt47对严格外生回归元的序列相关的校正A

35、R(1)模型-可行的广义最小二乘法(FGLS)n采用估计的相关系数值n回归方程:nFGLS步骤:n1. .yt对做xt1,xt2,xtk回归,得到残差t. n2. t = t-1+et,求出相关系数的估计值n3.对上面的方程进行回归.常见的标准误,t统计量和F统计量都是渐进正确的.采用相关系数估计值的代价是FGLS有限样本性质较差,可能不是无偏的(数据弱相关时),但仍然是一致的.n尽管FGLS不是无偏的,不是BLUE,但是当序列相关的AR(1)模型成立时,比OLS更渐进有效2/121001100)1 (; 2),1 (.xtxxxxyttkktt整理ppt48区分科克伦-奥克特(Cochran

36、e-Orcutt)和普莱斯-温斯登(Paris-Winsten)估计nCo 估计省略了第一次的观测值,使用的是t = t-1+et 滞后项系数估计值,而Pw估计方法使用了第一次的观测值,见上面的回归式.n大体来说是否使用第一次的估计值并不会带来很大的差别,但是时间序列的样本很小,实际中还是有很大差别.n注意下面的估计结果中没有还原到原方程,还原时要写正确.n高阶序列相关的校正,类似于一阶的修正,广义的差分方法.整理ppt49Sas 程序ndata ice;ninput cons income price temp time;ncards;.;nproc reg data=ice;nmodel

37、cons=price income temp/dw;noutput out=ice1 p=consp r=resid;nrun;nsymbol1 i=none v=dot c=blue h=.5;nproc gplot data=ice1;nplot resid*time=1/vref=0;nrun;n/*BG test*/ndata tt1;nset ice1;nresid1=lag(resid);nrun;nproc reg data=tt1;nmodel resid=resid1/noint;nrun;/*rh0=0.40063,R-square=0.1541*/;ndata bgt;n

38、bg=29*0.1541;nchisq=cinv(0.95,1);nif bgchisq then t=1;else t=0;nput t=;nrun;/*t=0*/;整理ppt50Sas 程序n高阶的BG检验:n/*高阶BG test p=3*/;ndata tt2;nset ice1;nresid1=lag(resid);nresid2=lag(resid1);nresid3=lag(resid2);nrun;nproc reg data=tt2;nmodel resid=resid1 resid2 resid3/noint;nrun;/*R-square=0.1792*/;ndata b

39、gt2;nbg=(29-3)*0.1792;nchisq=cinv(0.95,3);nif bgchisq then t=1;else t=0;nput t= chisq= bg=;nrun;/*t=0,无高阶自相关*/;整理ppt51Sas 程序n/*yule-walker estimates*/;nproc autoreg data=ice;nmodel cons=price income temp/nlag=1 method=yw ;nrun;n* COCHRANE-ORCUTT;nproc reg data=ice;nmodel cons=price income temp/dw;no

40、utput out=tt p=chat r=res;nrun;nproc print data=tt;run;ndata tt; nset tt;nrelag=Lag(res);nrun;nproc print data=tt;run;nproc reg data=tt outest=b1;nmodel res=relag/noint;nrun;/*可算出rh0=0.40063*/;ndata pp;nset tt;nc1=lag(cons);nt1=lag(temp);ni1=lag(income);np1=lag(price);nrun;nproc print data=pp;run;nd

41、ata pp1;nset pp;nif _n_=1 then delete;nc2=cons-0.40063*c1;nt2=temp-0.40063*t1;ni2=income-0.40063*i1;np2=price-0.40063*p1;nrun;nproc print data=pp1;run;nproc reg data=pp1;nMODEL c2=t2 i2 p2/dw;nrun;n/*dw=1.541.65,因此不拒绝平稳性假设*/;整理ppt52Sas 程序n上页的科克伦-奥科特迭代只用了1次;n对小样本情况,迭代多次的仍然很难收敛,我做了三次迭代发现仍然不收敛;所以说多次迭代效

42、果和一次的效果相差不大.从理论上来说两者的渐进性一样.n大样本情况只需几步就可收敛;n/*下面采用fgls进行估计校正*/;ndata fgls;nset tt1;nif _n_=1 then int=sqrt(1-0.40063*0.40063);else int=1-0.40063;nif _n_=1 then cons1=cons*sqrt(1-0.40063*0.40063);else cons1=cons-0.40063*cons;nif _n_=1 then price1=price*sqrt(1-0.40063*0.40063);else price1=price-0.40063

43、*price;nif _n_=1 then income1=income*sqrt(1-0.40063*0.40063);else income1=income-0.40063*income;nif _n_=1 then temp1=temp*sqrt(1-0.40063*0.40063);else temp1=temp-0.40063*temp;nrun;nproc reg data=fgls;nmodel cons1=int price1 income1 temp1/noint;nrun;整理ppt53Sas 程序nproc autoreg data=ice;nmodel cons=price income temp/nlag=1 dwprob archtest;nrun;n估计方法缺省为yule-walker估计;又称为两步完全变换法;已知自回归参数下的GLS估计;n其他方法:在model /method=ML;ULS;ITYW;n分别为极大似然估计,无条件最小二乘估计,以及迭代yule-walker估计;自回归参数较大时ml方法uls(又称NLS)方法较好.n详见SA