(6)13.2自回归过程AR(p)

1、13.2 自回归过程自回归过程 AR( p )如果预测是分析的目的，那么，随机过程的元素 对它的过去的依赖性就很重要。这使我们能够利用已经收集的样本观测值的过去信息预测变量的未来值。存在这种依赖性的简单例子是自回归过程： yt = yt-1+ ut (13.2.1)便是这样一种过程，其中ut为白噪声。ty时间序列y1，y2 ，yn生成过程通常是未知的，它可能比简单自回归过程(13.2.1)更复杂，例如, yt不仅依赖yt-1，而且还依赖于yt-2等。更一般地，这个过程有以下形式： (13.2.2)其中ut为白噪声，(13.2.2)称为p阶自回归(Autoregressive)过程，记作AR(

2、p )。据此，(13.2.1)便是一阶自回归过程AR(1)。 1122tttptptyyyyu一、自回归过程的平稳条件一、自回归过程的平稳条件只有产生时间序列的随机过程是平稳的，用自回归模型进行预测才有意义。因此，我们首先应研究自回归过程的平稳条件。(一一) 一阶自回归过程一阶自回归过程对于一阶自回归过程(13.2.1)yt = yt-1 +ut = ut +(yt-2 +ut-1) = ut +ut-1 +2(yt-3 +ut-2) = ut +ut-1 +2 ut-2 +3 yt-3 = ut +ut-1 +2 ut-2 +3 ut-3 + (13.2.3)可以看到，一阶自回归过程(13.

3、2.1)可以表示成白噪声序列的线性组合。由于E(ut) = 0，所以E(yt) = 0，平稳条件1显然满足。对(13.2.3)两端取方差： V(yt) = (13.2.4)仅当|1时，(13.2.4)才有 (13.2.5)表明，只有当|1时，平稳条件2才成立。22461u221utV y由(13.2.3)有 (13.2.3) (13.2.6) 212kt kt kt kt ktyuuuu )1 ()(),(42224222kuukukukkttkttyyEyyCOV当|1时，(10.2.6)便有 (10.2.7)其中 。2221),(ykukkttyyCOV)(2yVty(10.2.7)式表明

4、， 仅与间隔时期数k有关，而与时间点t无关，平稳条件3成立。综上所述，对于一阶自回归过程(10.2.1)，只要系数的绝对值1，便是平稳过程。),(yyCOVktt(二二) p阶自回归过程阶自回归过程将(13.2.2)改写成 (13.2.8)引进算符多项式： (13.2.9)uyLLLttpp)1 (221LLLLppp2211)(则(13.2.8)可改写成： 或 (13.2.10)若(13.2.2)是平稳随机过程，则必定收敛，即yt可表示为白噪声的无穷加权和。可以证明 ，收敛的充要条件是算符多项式 的特征方程 (13.2.11) pttL yuuLytpt)(1)(1Lp)(Lp01)(332

5、21zzzzzppp的根全部在复平面上单位圆周之外，或所有根的模z1。即p阶自回归过程的平稳条件为 (13.2.12)z1和z2分别为实部和虚部。当 p = 1时，(13.2.11)写成 1- z = 0解方程得 ，12221zzz1z则平稳条件： 即1同前面的结论相同。11z为了研究方便，如果不作特殊说明，本章总是假定：1.所有自回归过程都是平稳过程。当发现时间序列是非平稳的，要清除非平稳性，一般采用差分法。只要对原始数据进行适当阶数的差分处理，便可消除非平稳性。2.自回归过程中每个元素的期望值都为0即E(yt)= 0。如果实际的时间序列的均值 ,则可对它进行中心化 ，中心化后的时间序列必然

6、有零期望值。0y )(yyt二、自回归过程的自相关函数二、自回归过程的自相关函数一阶自回归过程AR(1)的自相关函数，利用(13.2.7)可直接写出 (13.2.13)AR(p)的自相关函数由于 (13.2.14) kyykkkrr220),(),(yyCOVyyCOVrtktkttk将(10.2.2)代入(10.2.14)得 (10.2.15)0(),(),(),(22112211krrryyCOVyyCOVyyCOVrpkpkkktptpkttkttk当k = 0时， (13.2.16) 对AR(1)便有 (13.2.17)22211221120)()(upptptptttttrrruyy

7、yyEyEyVr2110urr再由(10.2.15)有 (13.2.18) rr011把(10.2.18)代入(10.2.17)整理得 (13.2.19)此结果与(10.2.5)相同。21201ur用 除(10.2.15)式两端，得 (13.2.20) (10.2.20)便是自回归过程AR(p)自相关函数的表达式(也称递推公式)。20yrpkpkkkk332211在自相关函数表达式(10.2.20)中，令k = 1,2,3,，p,则得一组方程式，称之为尤拉-沃克（Yule-Walker）方程： 1 =1+ 2 1 +3 2 + +p p-1 2 =1 1 + 2 +3 1 + +p p-2 3

8、 =1 2 + 2 1+3 + +p p-3 p =1 p-1 + 2p-2+3 p-3 + +p (13.2.21) 其矩阵表达式为：pppppppp3213213213122111211111(13.2.22) 简记为 或 (13.2.23)pppP1p中最后一个参数p称为偏自相关系数，序列p (p =1,2，3，)称为偏自相关函数。 pppP(10.2.20)式表示，当自回归模型的阶为p时，则偏自相关函数p+1及其后的值皆为零。例如，当自回归模型的阶数为2时，则3及其后的值皆为零。三、自回归过程三、自回归过程AR(p)的识别与估计的识别与估计对于自回归模型(13.2.2) (13.2.2

9、) t = p +1 , p +2 , , n矩阵形式为 (13.2.2)uyyyytptpttt2211UXYppp其中 yyyYnppp21pp21uuuUnpp21yyyyyyyyyXpnnnppppp212111(一一)自回归阶数自回归阶数 p已知的情况已知的情况我们可以将(13.2.2)看成因变量为yt，自变量为yt-1, yt-2, yt-p的线性回归模型，并可用OLS法得出参数估计值。对(13.2.2)应用最小二乘法，得参数估计应该指出，此时估计量虽然不是无偏的，却是一致估计量，还是可以接受的。YXXXppppp)(1(二二)自回归阶数自回归阶数 p未知的情况未知的情况自回归阶数

10、p未知的情况，关键是模型的识别，即如何确定阶数p，一旦p值确定下来就转化为自回归阶数p已知的情况,问题就解决了。我们这里只介绍偏自相关系数定阶法。这种方法是在自回归阶数k逐步增加的过程中，通过对偏自相关系数 的显著性检验来确定适当阶数p的方法。偏自相关系数中的第k个系数 我们用 表示。kkkk为了对 进行检验，必须知道OLS估计量 的抽样分布。可以证明，对于大样本来讲，如果自回归过程(AR)的阶数为p，那么，在kp时，偏自相关系数估计量 近似服从期望值为0，方差为 的正态分布,这里的n为样本容量。要判断在0.05显著性水平下 是否为0，只要考察 的数值是否落在下面的区间内： kkkkkk1nk

11、kkk1.96 1.9622,nnnn (13.2.25) 如果 落在这个区间内，则 不显著，即确认 =0，如果 落在此区间之外，则 显著，即确认 0。kkkkkkkkkkkk具体步骤如下：(1)先构造一个95%的置信区间 。(2)进行逐步回归第一步，考虑AR(1)，计算出 ；第二步，考虑AR(2)，计算出 ；第三步，考虑AR(3)，计算出 ；22,nn112233这样一步步作下去。如果只有 落在置信区间之外，其余皆落在区间内，则表明只有 0，因而p=1，产生样本随机过程AR(1)。如果 和 落在置信区间之外，其余皆落在区间之内，则表明 0， 0，所以p = 2，产生样本随机过程AR(2)。其余依此类推。111111221122例例13.2.1 （见课本337页）95%的偏相关系数置信区间2 . 0 , 2 . 02,2nnk1234567891011120.690.26-0.140.01-0.1950.09-0.110.04-0.180.07-0.06-0.16样本偏相关系数表 表13.2.2kk从表13.22可以看出，只有 和 落在区域以外 ，所以，