多元线性回归模型的统计检验专家讲座

第三节

多元线性回归模型统计检验

一、拟合优度检验二、方程显著性检验(F检验)

三、变量显著性检验（t检验）多元线性回归模型的统计检验第1页一、拟合优度检验

1、可决系数与调整可决系数类似于简单线性回归模型：TSS=ESS+RSS总离差平方和分解多元线性回归模型的统计检验第2页

可决系数该统计量越靠近于1，模型拟合优度越高。

问题：在应用过程中发觉，假如在模型中增加一个解释变量，R2往往增大。这就给人一个错觉：要使得模型拟合得好，只要增加解释变量即可。

不过，现实情况往往是，由增加解释变量个数引发R2增大与拟合好坏无关，R2需调整。多元线性回归模型的统计检验第3页

调整可决系数（adjustedcoefficientofdetermination）

在样本容量一定情况下，增加解释变量必定使得自由度降低，所以调整思绪是:将残差平方和与总离差平方和分别除以各自自由度，以剔除变量个数对拟合优度影响:其中：n-k为残差平方和自由度，n-1为总体平方和自由度。多元线性回归模型的统计检验第4页多元线性回归模型的统计检验第5页二、方程显著性检验(F检验)

方程显著性检验，意在对模型中被解释变量与解释变量之间线性关系在总体上是否显著成立作出推断。

1、方程显著性F检验

即检验模型Yi=

0+1X1i+2X2i++kXki+ii=1,2,,n中参数

j是否显著不为0。

可提出以下原假设与备择假设：H0：

0=1=2==k=0H1：

j不全为0多元线性回归模型的统计检验第6页F检验思想来自于总离差平方和分解式：

TSS=ESS+RSS

假如这个比值较大，则X联合体对Y解释程度高，可认为总体存在线性关系，反之总体上可能不存在线性关系。

所以,可经过该比值大小对总体线性关系进行推断。多元线性回归模型的统计检验第7页

依据数理统计学中知识，在原假设H0成立条件下，统计量

服从自由度为(k-1,n-k)F分布

给定显著性水平

，可得到临界值F

(k-1,n-k)，由样本求出统计量F数值，经过F

F

(k-1,n-k)或F

F

(k-1,n-k)来拒绝或接收原假设H0，以判定原方程总体上线性关系是否显著成立。多元线性回归模型的统计检验第8页对于中国居民人均消费支出例子：一元模型：F=285.92二元模型：F=2057.3给定显著性水平

=0.05，查分布表，得到临界值：一元例：F

(1,21)=4.32二元例：

F

(2,19)=3.52显然有F

F

(k-1,n-k)

即二个模型线性关系在95%水平下显著成立。多元线性回归模型的统计检验第9页

2、关于拟合优度检验与方程显著性检验关系讨论

由可推出：与F与同方向改变，增大，F统计量值也将增大。多元线性回归模型的统计检验第10页三、变量显著性检验（t检验）方程总体线性关系显著

每个解释变量对被解释变量影响都是显著

所以，必须对每个解释变量进行显著性检验，以决定是否作为解释变量被保留在模型中。这一检验是由对变量t检验完成。多元线性回归模型的统计检验第11页

1、t统计量

所以，可结构以下t统计量

由参数预计量分布性质可知，回归系数预计量服从正态分布：能够证实，该统计量服从自由度为n-kt分布，即：～t(n-k)多元线性回归模型的统计检验第12页

2、t检验设计原假设与备择假设：

H1：

i0

给定显著性水平

，可得到临界值t/2(n-k)，由样本求出统计量t数值，经过|t|

t/2(n-k)或|t|

t/2(n-k)来拒绝或接收原假设H0，从而判定对应解释变量是否应包含在模型中。

H0：

i=0

（i=1,2…k）

多元线性回归模型的统计检验第13页比如：教材P70:Y=6.4529+0.8287X+0.1768S(0.2161)(7.2174)(0.8424)R2=0.9984=0.998F=2838给定显著性水平α=0.05，t0.05/2(n-k)=t0.05/2(12-3)=t0.025(9)=2.262;F0.05(k-1,n-k

)=F0.05(3-1,12-3)=F0.05(2,9)=4.26即使，F

F

(k-1,n-k)，人均年纯收入Xt统计量：|t|

t/2(n-k)；不过,人均储蓄额S和常数项t统计量：|t|

t/2(n-k)所以，回归方程不能投入使用。多元线性回归模型的统计检验第14页在此，我们剔除不显著常数项，得以下回归结果：Y=0.8522X+0.1352S(24.739)(1.695)R2=0.9984=0.9982F=6274从上式可知，人均储蓄额S回归系数仍不显著。（原因，在下一章讲解）。在此，我们剔除人均储蓄额S进行回归，结果以下：Y=