计量经济学实验六-李子奈

实验六多元线性回归和多重共线性

—实验目的：掌握多元线性回归模型的估计方法、掌握多重共线性模型的识

别和修正。

二实验要求：应用指导书P245习题4T8案例做多元线性回归模型，并识别和

修正多重共线性。

三实验原理：普通最小二乘法、简单相关系数检验法、综合判断法、逐步回归

法。

四预备知识：最小二乘估计的原理、t检验、F检验、R?值。

五实验内容：

Y6.06.06.57.17.27.68.09.09.09.3

XI40.140.347.549.252.358.061.362.564.766.8

X25.54.75.26.87.38.710.214.117.121.3

X31089410810099991019793102

X4637286100107111114116119121

表中列出了被解释变量y及解释变量X1、X：、X3、x4的时间序列观测值。

(1)用OLS估计线性回归模型，并采用适当的方法检验多重共线形；

(2)用逐步回归法确定一个较好的回归模型。

六实验步骤：

6.1建立工作文件并录入数据，如图1所示

□GroupcGROUPOlWoMe:P245\Urt«edOEquation:E201Workfile:P245\UntitJedg||一0

Mew|Rroc|Otyct|joefnitSort|>aMpcae|/・|hOd|[佻w|Proc|8xc|Pnnt|Name|Ffeeze|Esttmate|Forecast]Stats|Reads]

obsYX1X2X3|MlDependentVariaMe.Y

obsYX1X2X3X4•MethodLeastSquares

20016000000401000055(X00010800006300000Date10/3V11Time13:33

Sample20012010

20026000000403000047(X00004000007200000

Includedobsevations:10

20036500000475000052(X00010800008600000

20047100000492000068(X00010000001000000EVanabteCoefficientStdErrorPrcb

20057200000523000073(X00099000001070000

20067.60000058.0000087(X0009900000111.00003.9144511952440200490201013

200780000006130000102(0001010000114.000000602630048378124567102581

2008900000062S0000141(00097000001160000-00890900037168239697800619

-0.0125980018171-0.69330905190

200990000006470000171C00093OOOOO1190000

00074060017612042M9806916

201093000006680000213(00010200001210000

R-squared0979655Meandependentvar7.570000

AdjustedRsqjared0963379SDdependentvar1233829

SEofregression0236114Akaikeinfocntenon0257B51

Sumsquaredre$»d0278750Schwarzcntenon0409144

Loglikelihood3710743F-statistic6018950

▼Durtxn-Watsonstat2213879Prob(F-statistic)0000204

4_____«.=I

图：图2

6.2用OLS估计模型

设定多元线性回归模型为：

Y=0。+仇X/0m2+03*3+0占4

用普通最小二乘法进行估计，点击主界面菜单Quick\EstimateEquation,

在弹出的对话框中输入：YCXIX2X3X4,点击确定即可得到回归结果，如图

2所示。

根据图2中的数据，可得到模型的估计结果为：

1

y=3.914451+0.060263X,+0.089090X2-0.012598X,+0.007406X4

(2.005)(1.246)(2.397)(-0.693)(0.420)

—2

R2=0.979655R=0.963379DW.=2.213879

F=60.18950RSS=0.278750

其中，括号内的数为相应的t检验值。从以上回归结果可以看出，拟合优度

很高，整体效果的F检验通过。但很明显，在5%的显著性水平下，模型中的各

参数均不通过检验，在10%的显著性水平下，也只有X2的系数通过检验。故认

为解析变量之间存在多重共线性c

6.3多重共线性模型的识别

6.3.1综合判断法

由模型的估计结果可以看出，R2=0.979655,R=0.963379,可决系数很

高，说明模型对样本的拟合很好；产=60.18950检验值比较大，相应的

P=0.(XX)2()4,说明回归方程显著，即各自变量联合起来确实对因变量Y有显著

影响；给定显著性水平a=0.05,但变量XI、X2、X3、X4系数的t统计量分别

为1.246、2.397、-0.693>0.420,相应的p值分别为0.2681、0.0619、0.5190、

0.6916,说明变量均对因变量影响不显著。综合上述分析，表明模型存在非常严

重的多重共线性。

6.3.2简单相关系数检验法

计算解析变量XI、X2、X3、X4的简单相关系数矩阵。

选中XI、X2、X3、X4,产生一个组，然后点击View\Correlation\Common

Sample,即可得出相关系数矩阵，如图3所示。再点击顶部的Freeze按钮，可

以得到一个Table类型独立的Object,如图4所示。

0Group：GROUP02Workfile：P245\UntWed口TableJABLHlWorkfileM45曲曲d旦,旦‘幽

1MMm帆t|卜出|San阕腼卜酬牺1喇AQC曲Kt|Pm帆昵Edt+HCe『:|InsX|Grid刑life：Camts+2

CorrelationMatrixCorrelationMatnx

X1X2X3ABCDE

XI10003000.87936313388760.956248A1X1X2X3X4

X20.8793631.WOOOO43M70507607642

X11.0000000.879363-0.3388760.956213

X3•0,338876Q3047051.000000-0.4135413

4X20.8793631.000000-0.30470507607H

X40.9562480760764-U13541I.OOODOO

5X3-0,338876-0.3347051.000000-0.413511

6M0.9562480.7607644413M11.0000M

▼1▼

—(m8一0

图3图4

由图3相关系数矩阵可以看出，各解析变量之间的相关系数较高，特别是

XI和X4之间的高度相关，证实解析变量之间存在多重共线性。

根据综合判别法与简单相关系数法分析的结果可以知道，本案例的回归变量

间确实存在多重共线性，注意，多重共线性是一个程度问题而不是存在与否的问

题。下面我们将采用逐步回归法来减少共线性的严重程度而不是彻底地消除它。

6.4多重共线性模型的修正

关于多重共线性的修正方法一般rr变量变换法、先验信息法、逐步回归法等,

2

这里仅仅采用逐步回归法来减少共线性的严重程度。

Stepl：运用OLS方法分别求Y对各解析变量XI、X2、X3、X4进行一元回归。

四个方程的回归结果详见图5——图8,再结合统计检验选出拟合效果好的一元

线性回归方程。

OEquation:EQ02^orfcfJIe:P245\UnthledoJ[Q|k3»|nEquation:EQO3Workfile:P245\Untitled

Wevk|Proc|ObjectjPrintName]Freeze]Estmate)Faecast)Stats|Resds|^ew]Rx)c]ot^ect|Pmt]Name|Freeze]Esgte]ForecMt]Stats]

DependentVanaWeYDependentVanaWeY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1336Date10/31/11Time1336

Sample20012010Sample20012010

Includedobservations10Includedobservations:10

VariableCoefficientStdErrort-StatisticProbVanabhCoefficientStdError(StatisticPiob

C09423070572960164463001387C5.4974550307504178776803000

X10122124001040S117367200000X2020540600269337.62651503001

R-squared0945112Meandependentvar7570000R-squared0879088Meandependentvar7.57JOOO

AdjustedR-squared0938251SDdependentvar1233829AdjustedR-squared0863974SDdependentvar1233829

S.Eofregression030S599Akaikeinfocntenon0650305S.E.ofregression0455057Akaikeinfocriterion1.44J070

Sumsquaredresid0.752024Schwarzcntenon0.710822Sumsquaredie$id1656618Schwarzcriterion1.50)587

Loglikelihood-1.251524F-statistic137.7507Loglikelihood-5200350F-stabstic58.15373

Durbin-Watsonstat1683709Prot(F-statistic)0.000003Dufbin-Watsorstat0612996Prob(F-statisiic)0.00)062

图5图6

OEquation:EQO5Workftle:P24S\Untitled-oJ©

OEquation:EQO4Morkfile:P245\Unthlsd'o||日

v>cw]Proc[U5)ect]PrmNa(ne|breeze]tsttnate]Stats|Prtn|Name|「recze]匚stimote|「orecoot]3tats]Roda]

DependentVanableYDependentVanaWeY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1336Date10/31/11Time1336

Sample.20012010Sample20012010

Includedobservations.10Includedobsewations10

VariableCoefficientStdError(-StatisticProbVariableCoefficientStdErrort-StatisticProb

C1709021795658721398M00648C2.0178070898099224675200548

X3-009510700T9695・119338602669X400550270008741629543200002

R-squared0.151119Meandependentvar7.570000R-squared0832047Meandependentvar7570000

AdjustedR-squared0.045009S.Ddependentvar1.233829AdjustedR-sqjared0811053SDdependentvar1.233829

S.Eofregression1205743Akakeinfocrrterion3388925SEoffegression0.536321Akaikeinfocriterion1.768688

Sumsquaredresid11.63052Schwarzcritenon3449442Sumsquaredfesid2301120Schwarzcriterion1.829205

Loglikelihood-1494462F-statist>c1.424170Loglikelihood-6843439F-slalistic3963246

Durbin-Watsonstat0G47123Pfot(F.$tatist»c)0266905Durbin-Watsonstat0.596061Prob(F-statistic)0.000234

图7图8

通过一元回归结果图5一—图8进行对比分析，依据调整可决系数E最大原

则，选择XI作为进入回归模型的第一个解析变量，形成一元回归模型。

Step2：逐步回归。将剩余解析变量分别加入模型，得到分别如图9——图11

所示的二元回归结果。

OEquation:EQ06Workfile:P245\UntitledOEquation:EQO7Workfile:P245\Untrtled

Proc|Object]Print|Name|Freeze|Estimate|ForecastStats|1^ew]Proc]Objeci|PmEstxnate|Forecast]Stats|Red

DependentVariableYDependentVanableY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1337Date10/31/11Time13:37

Sample20012010Sample.20012010

Includedobservations10Includedobservations.10

VariableCoefficientStdErrort-StatisticProbVanableCoefficientStdErrort-StatisticProb

c23228970626102371009200076c273761825000321.09503303097

X100818260015677521955300012X101192730011387104740200000

X20.0799190027340292318200222X3-00163890022178073898504840

R-squared0975284Meandependentvar7570000R-squared0949084Meandependentvar7570000

AdjustedR-squared0968222SDdependentvar1233829AdjustedR-squared0934536SDdependentvar1233829

SEofregression0219948Akaikeinfocntenon0052476SEofregression0315685Akaikeinfocritenon0775184

Sumsquaredresid0338641Schwarzcntenon0.143252Sumsquaredresid0697601Schwarzcriterion0866960

Loglikelihood2.737618F-slatistic1381058Loglikelihood-0875922F-statistic6521056

Durbin-Watsonstat2264141Prot<F-statistic)0000002Durbin-Watsonstat1556749Prob(F-statistic)0000030

图9图10

3

r

OEquation:EQO8Workfile:P245\Untitled

Proc]Object]Pmt]Name]Freeze]EstmateSUts]]

DependentVanableY

MethodLeastSquares

Date10/31/11Time13.37

Sample20012010

Includedobservations10

VariabieCoefficientStdErrort-StatisticProb

C08540730605660141015202013

X101466400036767398837400053

X4-00123120017656-069730005081

R-squared0948677Meandependent*/ar7.570000

AdjustedR-squared0934013S.Ddependent*ar1233829

SEoffo9roeeion0.316916Akoikoinfocritonon0783160

Sumsquaredresid0703180Schwarzcriterion0873926

Loglikelihood■0915750F-statisticM69517

Durbin-Watsonstat2066453Prob(F-statistic)0000031

图11

通过观察比较图9——图11所示结果，并根据逐步回归的思想，我们可以

看到，新加入变量X2的二元回归方程H=0.968222最大，并且各参数的检验显

著，因此，保留变量X2.

Step3：在保留变量XI、X2的基础上,继续进行逐步回归，分别得到图12

图13所示的回归结果。

□Equation:EQ09Workfile:P245\UntitedJEquation:cQlOWorktile：P24八Untitled|o||"J

Print]Name]Freeze|ForecastlSt词伙w]Proc]8)ecl]Rnnt]Name]Freeze]Estmate]Forest]Resid%]

DependentVariableYDependentVaiableY

MethodLeastSquaresMethodLeastSquares

Date10/31/11Time1341Date10/31/11Time1341

Sample20012010Sample20012010

Includedobservations10Includedobsewations10

VariableCoefficientStcErrort-StatisticProbVanabhCoefficientStdErrort-StatisticProb

40372851793154225150000653C2686345078480334229530C141

007930200158275.01057800024X100491400M362011265440*030

0079503002726529159510.0268X20095819003429127943270(314