多元线性回归模型及其假设条件

1、5.1 多元线性回归模型及其假设条件1 多元线性回归模型多元线性回归模型：yi b0 b1 x1i b2 x2ibpxpii ， i 1,2, n2 多元线性回归模型的方程组形式3 多元线性回归模型的矩阵形式4 回归模型必须满足如下的假设条件：第一、 有正确的期望函数。即在线性回归模型中没有遗漏任何重要的解释变量，也没有包含任何多余的解释变量。第二、被解释变量等于期望函数与随机干扰项之和。第三、随机干扰项独立于期望函数。即回归模型中的所有解释变量X j 与随机干扰项u 不相关。第四、解释变量矩阵X 是非随机矩阵，且其秩为列满秩的，即：rank (X) k,k n 。式中k 是解释变量的个数，n

2、 为观测次数。第五、随机干扰项服从正态分布。第六、随机干扰项的期望值为零。E u 022第七、随机干扰项具有方差齐性。ui (常数)第八、随机干扰项相互独立，即无序列相关。ui ,u jcov ui , u j =05.2 多元回归模型参数的估计建立回归模型的基本任务是：求出参数，b0，b1， ，bP的估计值，并进行统计检验。残差：eiyi y?i ；残差平方和：Q=n2eii12yiy?i11矩阵求解：X二X11X21X12X221X1nX2nXp1Xp2 , I?XpnYX1XXOn 1 2 yyYbpyn1yn要通过四个检验：经济意义检验、统计检验、计量经济学检验、模型预测检验。

3、7;5.4多元线性回归模型的检验2 一、R检验21 . R检验定乂2R检验又称复相关系数检验法。是通过复相关系数检验一组自变量X1,X2,刈与因变量y之间的线性相关程度的方法。Ry，X1X2xp,通常复相关系数与复可决系数检验中的“复”是相对于一元函数而言。复相关系数：自变量在两个以上，检验线性关系密切程度的指标，记为 用R表不。复可决系数：复相关系数的平方R2。在实际应用中，判别线性关系密切程度都是用R2检验，所以复可决系数 R2是模型拟合优度 指标，R2越接近于1,模型拟合越好。0WR2W1。2yi ?i一2yi y2 .复相关系数检验法的步骤1)计算复相关系数;2)3)判别。3.调整可决

4、系数2R是一个随自变量个数增加而递增的函数,所以，当对两个具有不同自变量个数但性质相根据回归模型的自由度n-m和给定的显著性水平值，查相关系数临界值表; 2.同的回归模型进行比较时，不能只用R作为评价回归模型优劣的标准，还必须考虑回归模 型所包含的自变量个数的影响。2R 消除了自变量个数不同的影响，可以用于不同自变量个数间模型的比较。4. R2检验的目的检验模型对原始数据的拟合程度，或对原始数据信息的解释程度。通过F统计量检验假设Ho:120是否成立的方法。回归方程的显著性检 m验是检验所有系数是否同时为0 ,2 . F统计量一2? y m 1y一y-. ，m-1是回归变差Yi ?i n m一

5、2?i y 的自由度，n-m 是剩余变差2yi ?i的自由度。F服从自由度为 m 1, n m的F分布。3 .回归效果不显著的原因1)影响y的因素除了一组自变量 x1,x2，xm之外，还有其他不可忽略的因素。2) y与一组自变量 x1，x2, ，xm之间的关系不是线性的。3) y与一组自变量 x1，x2,，xm之间无关。4) 解决办法分析原因另选自变量或改变模型的形式。三、t检验1 .检验目的回归系数的显著性检验是检验某个系数是否为0。2 . T统计量?C1统计假设H0： bi 0;统计量：tibi , SQ, cii是矩阵 XX 的第Sy,On mI个对角元素。ti是一个自由度为n-m的t分

6、布变量；统计检验判别：ti t。否定假设，系数bi 0。否则，接受假设bi 0。四、DW检验1 .序列相关的概念及对回归模型的影响序列相关是指数列的前后期相关。若时差为一期的序列相关，称为一节自相关。回归模型假设随机误差项之间不存在序列相关或自相关，即ui和uj互不相关，cov ui,uj 0,i j。若回归模型不满足这一假设，则称回归模型存在自相关。当模型中存在序列自相关时，使用OLS方法估计参数，将产生下列严重后果：(1 )估计标准误差S可能严重低估b的真实值。(2)样本方差S2可能严重低估D j.的真实值。(3)估计回归系数 ？可能歪曲的真实值。：i(4)通常的F检验和t检验将不再有效。

7、(5)根据最小二乘估计量所作的预测将无效。2 .序列相关的原因(1)惯性：变量的发展趋势。(2)偏误：模型设定有误，删去了一些必要变量。(3)蛛网现象：供给对价格的反应要迟一个时期。(4)其他原因：例如，现时消费取决于前期消费。3 .序列相关的检验方法D-W检验法。适用条件：序列相关是一阶自回归形式。注意：第一、 D W检验不适用于随机项具有tWj阶序列相关的检验。第二、D W检验有一段不能判断其正相关或负相关的范围。第三、对于利用滞后被解释变量做为解释变量的模型，该检验失效。(1) 一阶自相关的数学表达式，e e 1V(2) D-W检验给出了是否存在一阶自相关的结论。Tee id(3) 一阶

8、自相关系数p的估计值：？;更常用的是：？ 1 22et 24.消除序列相关的方法(1 ) 一阶差分法已知自相关的相关系数p=1 ，原回归模型:Vt1Xt U- UtUt 1Vt。令VtVt Vt1；XtXtXt 1；Vt1XtVt。广义差分法归模型：Vt1XtUtutUt 1Vt。令 VtVtXtXtXt1Xt广义最小二乘法做变换得到广义差分模型。P=pp, XPY,广义最小二乘估计量:? 1X? 1Y,Var? 1X2 Y X?v p用样本普通最小二乘残差的一阶自相关系数来估计。是模型中估计参数个数（含常数项）,T是样本容量。五、异方差1 .异方差及其检验方法（1）异方差性在观察点聚图上的直

9、观表示（对原始数据点而言）（2）异方差性的检验方法：（1）经济分析法。对数据分组，分别计算方差。（2）直观判断 法。对残差而百。（3）等级相关检验法。（4）戈里瑟检验。2 .消除异方差的基本方法（1 ）模型变换法是已知异方差与自变量关系的形式，对模型进行变换，利用方差的性质可以证明是等方差的。（2）加权最小二乘法11使用异方差性的权矩阵 w对模型进行变换。B? X w 1X X W 丫六、多重共线性1 .多重共线性：是指模型中解释变量间存在着一定的相关关系，没有满足独立性要求。2 .原因：（1）各经济变量间存在着内在联系。（2）各经济变量在时间上有共同增长的趋势。（3 ）在建立模型时引入了一些解释变量的滞后值作为新的解释变量。3 .解决办法：（1）经济分析的办法，找出引起多重共线性的变量，将他排除在外。（2）统计分析的方法，降维技术或者逐步回归的方法。（3）改变变量定义的形式。七、预测区间1 .估计标准误差 2V ?i n m2 点预测、预测误差的样本方差（1 ）点预测3（2）预