多元线性回归模型的各种检验方法

对于形如 （1）种或几种检验：一、

对单个总体参数的假设检验：t

检验在这种检验中，我们需要对模型中的某个（总体）：

：

j

j

j

为某个给定的已知数。特别是，当

j

=0

时，称为参数的（狭义意义上的）显著性检验。如果拒绝

，说明解释变量

j

对被解释变量

被解释变量

具有显著的线性影响，估计值

才敢使j用；反之，说明解释变量

j

对被解释变量

不具有显

： ： j

j；（1）

给定虚拟假设

j

ˆ ˆ

E

ˆ ˆj j j jˆ ˆ（2）

计算统计量

ˆ ˆj jˆ ˆ(

)

C

，其中ˆ ˆj jj

jj

(X

TX)

j

j（3）

在给定的显著水平

下（

不能大于即

90%以下的前提下做结

t（

）分布的临界值

/2；（4）

如果出现

的情况，检验结论为拒绝

；反之，无法拒绝

。

检验方法的关键是统计量

j

j

j

必须服从已知的

知的

分布函数。什么情况或条件下才会这样呢？这需（1）

次观测的随机样

i

,

,

,

,i

i

:i

,

自

身

的

随

机

性

，

即

无

自

相

关

性

，

E

E

。i i j j（2）

条件期望值为

0。给定解释变量的任何值，误

差的期望值为零。即有E

,

,

,

（4）

同方差性。

,

,

,

（4）

同方差性。

,

,

,

模型中的解释变量是外生性的，也使得

E

。(3）

不存在完全共线性。在样本因而在总体中，的线性关系。

常数

。（5） 正态性。误差

满足

~

,

。在以上

5

个前提下，才可以推导出：

~

N

,

j j j

/

~

N j j j

/

~ j j j 由此可见， 检验方法所要求的条件是极为苛刻的。由此可见， 检验方法所要求的条件是极为苛刻的。二、

对参数的一个线性组合的假设的检验：j j：j j

。比如 法直接检验。设立新参数

。

无原虚拟假设等价于得出新模型：

：

。将

代入原模型后

（2）

检验方法检验虚拟假设

检验方法检验虚拟假设：

。

λ(XT

X)

λ

~

(

:

t

统计量为

λβ三、

对参数多个线性约束的假设检验：F

检验需要检验的虚拟假设为

：

q

q

,

,

。该假设对模型（1）施加了

q

个排除性约束。模型（1）在该约束下转变为如下的新模型：

q

q （3）为受约束（r）的模型。模型（3）也称为模型（1）的嵌套模型，或子模型。分别用

OLS

方法估计模型（1）和（2）后，可以计算出如下的统计量：

/

qF

r

关键在于，不需要满足t

量

F

就满足：

F

~

Fq

,

。利用已知的

F

分布函数，我们就可以拒绝或接受虚拟假设

：

,

,

q

q

了。所以，一般来讲，F

检验比

t

检验更先使用，用的更普遍，可信度更高。利用关系式

，r r

/

q

/

q F

r

)

四、

对回归模型整体显著性的检验：F

检验需要检验的虚拟假设为

：

,

,

。相当于前一个检验问题的特例， q

。嵌套模型变为。

r。

r

，

F

，

统计量变为：r

/

/

五、

检验一般的线性约束需

要

检

验

的

虚

拟

假

设

比

如

为

：

,,

。受约束模型变为：

F

F

再变形为： 。F

/qr

其中，

r i

i

i

i

六、

检验两个数据集的回归参数是否相等：皱（至庄）检验（1）

二者的

RSS

分别记为

和

。（2）

将两组样本数据合并，基于合并的样本数据，进行相同设定的回归，将回归的

RSS

记为

。（3）

计算下面的

F

统计量：F

（4）

如果F

F

，拒绝原假定。七、

非正态假定下多个线性约束的大样本假设检验：LM（拉格郎日乘数）检验F

检验方法需要模型（1）中的

满足正态性假定。

LM统计量。虚拟假设依然是

：

q

q

,,

。（ⅰ）将

~

（ⅰ）将

~

~

~

~保留残差~。即我们要进行了如下的回归估计

~

q

q（ⅱ）将

~对所有解释变量进行辅助回归，即进行如下回归估计

~

并得到

R-平方，记为

u

。

（ⅲ）计算统计量

。与 q

分布中适当的临界值（ⅳ）将 比较。如果

，就拒绝虚拟假设

；否则，就不能拒绝虚拟假设

。八、

对模型函数形式误设问题的一般检验：RESET如果一个多元回归模型没有正确地解释被解释变方面，拉姆齐（Ramsey，1969）的回归设定误差检验（regression

specilfication

error

test

,

RESET）是一种常用的方法。RESET

背后的思想相当简单。如果

:

,

。这时，性关系的形式也是多种多样的。RESET

则是在模型（1）中添加模型（1）的

OLS

拟合值的多项式，以侦察函数形式误设的一般形式。为了实施

RESET，我们必须决定在一个扩大的回归正确的答案，但在大多数应用研究中，都表明平方项和三次项很有用。令OLS

估计值。考虑扩大的模型（4）ˆ

ˆ

ˆ

ˆ

和都只是

的非线性函数。j 算

F

统计量。需要查F

,

分布表。拒绝

，模型（1）

)

)

)

（5）可以先检验

:

,

,

，作为对模型（1）的检验。也可以通过对检验

:

,

,

，作为对模型（5）的检验。九、利用非嵌套模型检验函数形式误设寻求对函数形式误设的其他类型（比如，试图决定某模型 非嵌套的，所以我们不能仅使用标准的F

检验。有两种不同的方法。一种方法由

Mizon

and

Richard

个综合模型，将每个模型作为一个特殊情形而包含其中，然后检验导致每个模型的约束。对于模型（

1）和模型（5）而言，综合模型就是（6）

)

)

（7）ˆˆ中计算

ˆˆ

的

t

t

检验拒绝或接受假定

（7）ˆˆ中计算

ˆˆ

的

t

t

检验拒绝或接受假定

:

。显著的

t

统计量就是拒绝模型（1）的证据。类似的，（8）ˆˆ中计算

ˆˆ

的

t

t

检验拒绝或接受假定

:

。以上两种检验方法可以用于检验任意两个具有相同的拟合值在模型（1）中应该是不显著的。因此，为了OLS

ˆˆ得到拟合值，并记为。在新模型ˆˆ

OLS

ˆˆ以得到拟合值，并记为。在新模型ˆˆ

的被解释变量的非嵌套模型。非嵌套检验存在一些问题。首先，不一定会出现一个明显好的模型。两个模型可能都被拒绝，也可能没有一个被拒绝。在后一种情形中，我们可