多元线性回归自相关问题

多元线性回归自相关问题1第1页，共32页，2023年，2月20日，星期四一、序列相关性的定义线性回归模型假设要求对任意都成立误差序列相关比较基本和重要类型——一阶自回归：其中满足2第2页，共32页，2023年，2月20日，星期四二、序列相关性的后果1、参数估计量是无偏的和一致的，但不再是BLUE的，是非有效。2、OLS估计量的方差是有偏的3、检验统计量不再生效，变量显著性检验失去意义。3、模型的预测失效。3第3页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（一）残差序列图分析如形成锯齿形或循环状，可断定残差序列存在相关4第4页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断分析误差序列相关残差分布图5第5页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断例7.1美国进口支出函数给出美国1968年到1987年期进口支出与个人可支配收入（PDI）数据，建立美国支出函数模型，检验残差序列的自相关性。绘出残差序列随时间变化的趋势绘出残差序列与其滞后项6第6页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（二）回归检验法首先应用OLS估计模型并求出ε的估计值即残差e，然后以et

为被解释变量，以各种可能的相关变量如等作为自变量进行线性拟合如：对各种拟合形式进行统计检验，选择显著的最优的拟合形式作为序列相关的具体形式。7第7页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（三）游程检验游程：为同一符号或属性（例如+或-)的一个不间断历程。如：记残差的符号(+或-),有

(+++++++)(-)(+++)(-----)(++++)

总共有20个残差构成了5个游程。其中一个7个正值的游程（其长度为7）。若游程太多，则意味着e在频繁地变换着符号，表明存在负的序列相关；如果游程太少，则意味着存在正的自相关。在残差是独立的假设下，史威德（Swed）和艾森哈特（Eisenhart）建立了游程检验的临界值。8第8页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（三）游程检验令N为观察值的总个数，N1表示+号（正的残差）的个数，N2表示-号（负的残差）的个数，k表示游程个数，在残差是独立的假设下，Swed-Eisenhart给出了游程检验的上下临界值，如果实际游程个数小于或等于下临界值，或是大于或等于上临界值，则可以拒绝零假设，说明所观察的序列是随机的实例7-2

利用游程检验判断美国抵押债务方程残差项的自相关性9第9页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（四）杜宾-瓦尔森(D-W)检验（适应于一阶自相关情况的检验）DW检验的原理对线性回归模型如果误差项有一阶自回归问题，那么其中的，是均值为0的独立同分布随机变量。

10第10页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断根据和的性质，有因此11第11页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断考虑与有密切关系的DW统计量12第12页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断检验误差序列正自相关性DW检验区域图

一阶自相关无法判断无一阶自相关性无法判断一阶负自相关实例7-3

利用杜宾-瓦尔森检验判断美国抵押债务方程残差项的自相关性13第13页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断DW检验序列相关性的主要不足：（1）D.W.统计量的扰动项在原假设下依赖于系数矩阵X；（2）回归方程右边如果存在滞后变量，D.W.检验不再有效；（3）仅仅检验残差是否存在一阶序列相关

14第14页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（五）相关图和Q统计量检验序列相关可以应用所估计回归方程残差序列的自相关和偏自相关系数以及Ljung-BoxQ统计量来检验序列相关。Q统计量的表达式为其中rj是残差序列的j阶自相关系数，T为样本容量，p为设定的滞后阶数。

15第15页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（五）相关图和Q统计量检验序列相关

p阶滞后的Q统计量的原假设是：序列不存在p阶自相关；备选假设为：序列存在序列相关。在实际检验中，通常会计算出不同滞后阶数的Q统计量、自相关系数和偏自相关系数。如果各阶Q统计量都没有超过临界值，则接受原假设，即不存在序列相关，并且此时各阶的自相关和偏自相关系数都接近于0；如果存在某一滞后阶数p，Q统计量超过设定的显著性水平的临界值，则拒绝原假设，说明残差存在p阶自相关。

16第16页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（五）相关图和Q统计量检验序列相关Eviews实现

View-ResidualTests-CorrelogramandQ-statistics17第17页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（五）序列相关LM检验LM检验原假设为：直到p阶滞后不存在序列相关，p为预先定义好的整数；备择假设为：存在p阶自相关检验过程：估计回归方程，并求出残差，对原始回归变量X和直到p阶的滞后残差作回归。LM检验通常给出两个统计量：F统计量和n×R2统计量。F统计量是对以上回归方程中所有滞后残差联合显著性的检验。n×R2统计量是Breusch-GodfreyLM检验统计量，是观测值个数n乘以以上方程的R2,一般地它服从渐近地χ2(p)分布。18第18页，共32页，2023年，2月20日，星期四三、序列相关性的发现和判断（五）序列相关LM检验在给定地显著性水平下，如果统计量大于临界值，则说明序列存在序列相关性，否则不存在序列相关性。Eviews实现

View-ResidualTests-CorrelogramandQ-statistics实例：美国的投资方程建立美国国内私人投资INV和GNP平减指数、利息率之间的方程，并检验序列相关性。19第19页，共32页，2023年，2月20日，星期四四、误差序列相关的处理和克服（一）一阶差分法（二）广义差分法（三）杜宾(Durbin)两步法（四）广义最小二乘法20第20页，共32页，2023年，2月20日，星期四（一）一阶差分法设线性回归模型为已知有很强的一阶自相关性，即

把滞后一期的观测值代入变量关系，得方程：可得21第21页，共32页，2023年，2月20日，星期四由于，因此令，可得因为，所以上式近似为

注意相当于DW趋于0。22第22页，共32页，2023年，2月20日，星期四（二）广义差分法设线性回归模型为已知有一阶自相关性，即

把滞后一期的观测值代入变量关系，得方程：23第23页，共32页，2023年，2月20日，星期四可得使根据可得如果记，所以上式为24第24页，共32页，2023年，2月20日，星期四（三）杜宾两步法从两变量模型的广义差分式整理后可得,25第25页，共32页，2023年，2月20日，星期四接受上述多元线性回归得到的估计值，利用广义差分变换，得到对它进行最小二乘估计，并把估计回归结果计算的和β1

，作为原模型参数的估计。26第26页，共32页，2023年，2月20日，星期四（四）广义最小二乘法广义最小二乘法的一般原理设线性回归模型为其中但

对进行分析

27第27页，共32页，2023年，2月20日，星期四（四）广义最小二乘法记得到其中误差向量满足对变换过的模型进行最小二乘估计，得参数估计28第28页，共32页，2023年，2月20日，星期四（四）广义最小二乘法

以误差序列一阶自相关问题为例设模型为其误差满足其中，是均值为0、独立同分布的随机变量，且方差为。

29第29页，共32页，2023年，2月20日，星期四（四）广义最小二乘法不同时期误差之间的协方差可以表示为：由于

30第30页，共32页，2023