11时间序列模型new

1、第2章 时间序列模型时间序列分析方法由Box-Jenkins (1976) 年提出。它适用于各种领域的时间序列分析。时间序列模型不同于经济计量模型的两个特点是： 这种建模方法不以经济理论为依据，而是依据变量自身的变化规律，利用外推机制描述时间序列的变化。 明确考虑时间序列的非平稳性。如果时间序列非平稳，建立模型之前应先通过差分把它变换成平稳的时间序列，再考虑建模问题。 1随机过程、时间序列定义 2时间序列模型的分类 3自相关函数与偏自相关函数 4建模步骤（识别、参数估计、诊断检验） 5乘积季节模型（略） 6案例分析2.1 随机过程、时间序列为什么在研究时间序列之前先要介绍随机过程？就是要把时间

2、序列的研究提高到理论高度来认识。时间序列不是无源之水。它是由相应随机过程产生的。只有从随机过程的高度认识了它的一般规律。对时间序列的研究才会有指导意义。对时间序列的认识才会更深刻。自然界中事物变化的过程可以分成两类。一类是确定型过程，一类是非确定型过程。确定型过程即可以用关于时间t的函数描述的过程。例如，真空中的自由落体运动过程，电容器通过电阻的放电过程，行星的运动过程等。非确定型过程即不能用一个（或几个）关于时间t的确定性函数描述的过程。换句话说，对同一事物的变化过程独立、重复地进行多次观测而得到的结果是不相同的。例如，对河流水位的测量。其中每一时刻的水位值都是一个随机变量。如果以一年的水位

3、纪录作为实验结果，便得到一个水位关于时间的函数xt。这个水位函数是预先不可确知的。只有通过测量才能得到。而在每年中同一时刻的水位纪录是不相同的。随机过程：由随机变量组成的一个有序序列称为随机过程，记为x (s, t) , sS , tT 。其中S表示样本空间，T表示序数集。对于每一个 t, tT, x (, t ) 是样本空间S中的一个随机变量。对于每一个 s, sS , x (s, ) 是随机过程在序数集T中的一次实现。 x11, x21, , xT-11, xT1x12, x22, , xT-12, xT2: : : : : 样本空间x1s, x2s, , xT-1s, xTs 随机过程简

4、记为 xt 或 xt。随机过程也常简称为过程。随机过程一般分为两类。一类是离散型的，一类是连续型的。如果一个随机过程xt对任意的tT 都是一个连续型随机变量，则称此随机过程为连续型随机过程。如果一个随机过程xt对任意的tT 都是一个离散型随机变量，则称此随机过程为离散型随机过程。本书只考虑离散型随机过程。 连续型 严（强）平稳过程 随机过程 平稳的 离散型 宽平稳过程 非平稳的严（强）平稳过程：一个随机过程中若随机变量的任意子集的联合分布函数与时间无关，即无论对T的任何时间子集（t1, t 2, , tn）以及任何实数k, (ti + k) T, i = 1, 2, , n 都有 F( x(t

5、1) , x(t2), , x(tn) ) = F(x(t1 + k), x(t2 + k), , x(tn + k) )成立，其中F() 表示n个随机变量的联合分布函数，则称其为严平稳过程或强平稳过程。严平稳意味着随机过程所有存在的矩都不随时间的变化而变化。严平稳的条件是非常严格的，而且对于一个随机过程，上述联合分布函数不便于分析和使用。因此希望给出不象强平稳那样严格的条件。若放松条件，则可以只要求分布的主要参数相同。如只要求从一阶到某阶的矩函数相同。这就引出了宽平稳概念。如果一个随机过程m阶矩以下的矩的取值全部与时间无关，则称该过程为m阶平稳过程。比如 E x(ti) = E x(ti +

6、 k) = m , Varx(ti) = Varx(ti + k) = s 2 , Covx(ti), x(tj) = Covx (ti + k), x (tj + k) = s i j2 ,其中 m , s 2 和 s ij2 为常数，不随 t, (tT ); k, ( (tr + k) T, r = i, j ) 变化而变化，则称该随机过程 xt 为二阶平稳过程。该过程属于宽平稳过程。 如果严平稳过程的二阶矩为有限常数值，则其一定是宽平稳过程。反之，一个宽平稳过程不一定是严平稳过程。但对于正态随机过程而言，严平稳与宽平稳是一致的。这是因为正态随机过程的联合分布函数完全由均值、方差和协方差所

7、惟一确定。本书简称二阶平稳过程为平稳过程。时间序列：随机过程的一次实现称为时间序列，也用x t 或x t表示。 与随机过程相对应，时间序列分类如下， 连续型* （心电图，水位纪录仪，温度纪录仪） 时间序列 从相同的时间间隔点上取自连续变化的序列（人口序列） 离散型 一定时间间隔内的累集值（年粮食产量，进出口额序列）时间序列中的元素称为观测值。xt既表示随机过程，也表示时间序列。xt既表示随机过程的元素随即变量，也表示时间序列的元素观测值。在不致引起混淆的情况下，为方便，xt 也直接表示随机过程和时间序列。随机过程与时间序列的关系图示如下随机过程: x1, x2, , xT-1, xT,第1次观

8、测：x11, x21, , xT-11, xT1第2次观测：x12, x22, , xT-12, xT2: : : : :第n次观测：x1n, x2n, , xT-1n, xTn某河流一年的水位值，x1, x2, , xT-1, xT,，可以看作一个随机过程。每一年的水位纪录则是一个时间序列，x11, x21, , xT-11, xT1。而在每年中同一时刻（如t = 2时）的水位纪录是不相同的。 x21, x22, , x2n, 构成了x2取值的样本空间。例如，要记录某市日电力消耗量，则每日的电力消耗量就是一个随机变量，于是得到一个日电力消耗量关于天数t的函数。而这些以年为单位的函数族构成了一

9、个随机过程 xt, t = 1, 2, 365。因为时间以天为单位，是离散的，所以这个随机过程是离散型随机过程。而一年的日电力消耗量的实际观测值序列就是一个时间序列。自然科学领域中的许多时间序列常常是平稳的。如工业生产中对液面、压力、温度的控制过程，某地的气温变化过程，某地100年的水文资料，单位时间内路口通过的车辆数过程等。但经济领域中多数宏观经济时间序列却都是非平稳的。如一个国家的年GDP序列，年投资序列，年进出口序列等。为便于计算，先给出差分定义。差分：时间序列变量的本期值与其滞后值相减的运算叫差分。首先给出差分符号。对于时间序列x t ，一阶差分可表示为 x t - x t -1 =

10、D x t = (1- L) x t = x t - L x t (2.1)其中D 称为一阶差分算子。L 称为滞后算子，其定义是Ln x t = xt- n 。 二次一阶差分表示为， D2xt = D xt - D xt -1 = (xt - xt -1) (xt-1 - xt -2) = xt - 2 xt -1+ xt 2，或 D2xt = (1- L ) 2 xt = (1 2L + L 2 ) xt = xt 2 xt-1+ xt2 (2.2)k阶差分可表示为 xt - xt -k = Dk xt = (1- Lk ) xt = xt Lk xtk阶差分常用于季节性数据的差分。下面介绍

11、两种基本的随机过程（1） 白噪声（white noise）过程 白噪声过程：对于随机过程 xt , tT , 如果E(xt) = 0, Var (xt) = s 2 1也就是 | f1| 1解释如下：一阶自回归过程，xt = f 1 xt-1 + ut，可写为 (1- f1L) xt = ut xt = (1- f1 L)-1 ut 在 | f1| 1条件下，有xt = (1+ f1L + (f1 L) 2 + (f1 L) 3 +) ut 若保证AR(1)具有平稳性，必须收敛，即 f1必须满足|f1| 1。这是容易理解的，如果|f1| 1，发散，于是xt 变成一个非平稳随机过程。由（2.7）

12、式有 xt = ut + f1 ut-1 + f12 xt-2 = ut + f1 ut-1 + f12 ut-2 + （短记忆过程）因为ut 是一个白噪声过程，所以对于平稳的AR(1)过程 E(xt) = 0 Var (xt) = su2 + f12 su2 + f14su2 + = 上式也说明若保证xt平稳，必须保证 | f1| 1, | L2| 1（在单位圆外）或| l1| 1, | l2| 1 (2)下面利用上述平稳性条件分析AR(2) 过程中参数f 2，f 1的值域。由 (1) 式得l1 + l2 = += f 1 (3)l1 l2 = - = - f 2 (4)利用 (3)，(4)

13、 式得f 2 + f 1 = - l1 l2 + (l1 +l2) = 1 (1- l1) (1- l2 )f 2 - f 1 = - l1 l2 - (l1 +l2) = 1 (1+ l1) (1+ l2 )无论 l1, l2为实数或共轭复数，由 |l1| 1, |l2| 0，从而得f 2 + f 1 1 (5)f 2 - f 1 1 (6)由 (2) 和 (4) 式得 -1 f 2 0 时，L1, L2 为不等实数根。f2, f1的值位于过阻尼区（自相关函数呈指数衰减）。(3)当 f 12 + 4 f 2 0 时，z1, z2 为共轭复根。f 2, f 1的值位于欠阻尼区（自相关函数呈正弦

14、震荡衰减）。图1 平稳AR(2) 过程f1, f2取值域（阴影部分）例2 有AR(2) 模型xt = 0.7 xt -1 - 0.1 xt -2 + ut，试判别xt的平稳性。解：有3种方法。 += 0.6，-+= -0.8，= - 0.1，满足条件（5）（6）（7），所以xt是平稳的。由原式得 (1 - 0.7 L + 0.1 L2 ) xt = ut 。 特征方程为， (1 - 0.7 L + 0.1 L 2 ) = 0 (1 - 0.2 L) (1- 0.5 L) = 0特征方程的两个根是，L1 = 5，L2 = 2。因为两个根都在单位圆之外，所以xt是平稳的。从图1看，因为（f1, f

15、2）= (0.7, -0.1)，落在了AR(2) 过程的平稳域，落在了过阻尼区，所以xt为平稳过程。例3：有AR(2) 模型x t = 0.6 x t-1 - 0.1 x t-2 + ut ，试判别xt的平稳性。解： += 0.5，-+= -0.7，= - 0.1，满足条件（5）（6）（7），所以xt是平稳的。由原式得，(1 - 0.6 L + 0.1 L2 ) x t = ut ，特征方程为， (1 - 0.6 L + 0.1 L2 ) = 0因为特征方程中各项都是实数，所以其虚根必然是共轭的。 1- (0.3 - 0.1i ) L 1- (0.3 + 0.1i ) L = 0特征方程的两个

16、根是， 3 + i L1 = = = 3 + i， 3 L2 = = 3 - i， 3 - i因为两个根都在单位圆之外，所以xt是平稳的随机过程。从图1看，因为（f1, f2）= (0.6, -0.1)，落在了AR(2) 过程的平稳域，落在了欠阻尼区，所以xt为平稳过程。例4：有AR(2) 模型x t = 0.7 x t-1 + 0.6 x t-2 + ut ，试判别xt的平稳性。解： += 1.3，-+= -0.1，= 0.6，条件（5）不满足，所以xt是非平稳的。由原式得，(1 - 0.7 L - 0.6 L2 ) xt = ut ，特征方程为， (1 - 0.7 z - 0.6 z 2

17、) = 0(1 + 0.5 z ) (1- 1.2 z ) = 0特征方程的两个根是，z1 = -2，z2 = 0.83。因为一个根0.83在单位圆内，所以xt是一个非平稳的随机过程。从图1看，因为（f1, f2）= (0.7, 0.6)，落在了AR(2) 过程的非平稳域，所以xt为非平稳过程。对于一般的自回归过程AR (p)，特征多项式 F (L) = 1 - f1 L - f2 L2 - - fp Lp = (1 G1 L) (1 G2 L) . (1 Gp L)则xt 可表达为 xt = F -1 (L) ut = (+ +ut , (2.8)其中k1, k 2, , k p 是待定系数

18、。xt 具有平稳性的条件是 F -1 (L) 必须收敛，即应有| Gi | 1。由上式可看出一个平稳的AR(p)过程可以转换成一个无限阶的移动平均过程（p个无穷级数之和）。保证AR(p) 过程平稳的一个必要但不充分的条件是p个自回归系数之和要小于1，即 重新分析随机游走过程。因为 f1 = 1，所以随机游走过程是一个非平稳的随机过程。 图2.2 AR(1)过程 图2.3 MA(1)过程(2) 移动平均过程如果一个线性随机过程可用下式表达xt = ut + q 1 ut 1 +q 2 ut -2 + + q q ut q = (1 + q 1L + q 2 L2 + +q q Lq) ut =

19、Q(L) ut (2.9)其中q 1, q 2, , q q是回归参数，ut为白噪声过程，则上式称为q阶移动平均过程，记为MA(q) 。之所以称“移动平均”，是因为xt是由q +1个ut和ut滞后项的加权和构造而成。“移动”指t的变化，“平均”指加权和。 由定义知任何一个q 阶移动平均过程都是由q + 1个白噪声变量的加权和组成，所以任何一个移动平均过程都是平稳的。与移动平均过程相联系的一个重要概念是可逆性。移动平均过程具有可逆性的条件是特征方程。 Q(z) = (1 + q 1 z + q 2 z2 + + q q zq)= 0 (2.10)的全部根的绝对值必须大于1。 由 (2.9) 有Q

20、 (L)-1xt = ut。由于Q (L) 可表示为 Q (L) = (1 H1 L) ( 1 H2 L) (1 Hq L)所以有 Q (L)-1 =（+）, (2.11)mi为待定参数。可见保证MA(q)过程可以转换成一个无限阶自回归过程，即MA(q)具有可逆性的条件Q(L)-1收敛。对于 | L | 1，必须有|Hj| 1，j = 1，2，q成立。而Hj -1是特征方程Q (L) = (1 H1 L) ( 1 H2 L) (1 Hq L) = 0的根，所以MA(q)过程具有可逆性的条件是特征方程Q (L) = 0的根必须在单位圆之外。（因为x t =Q (L) ut是平稳的，如果变换成Q

21、(L)-1 xt = ut 后，变得不平稳，显然失去可逆性。）注意，对于无限阶的移动平均过程 xt = q i u t -i) = ut (1+q1 L + q2 L 2 + ) (2.12)其方差为 Var(xt) = q i2 Var (ut i) = su2 q i2 (2.13)很明显虽然有限阶移动平均过程都是平稳的，但对于无限阶移动平均过程还须另加约束条件才能保证其平稳性。这条件就是x t的方差必须为有限值，即 1, 或|q 1| 1。当|q1| 1时，MA(1)过程（2.14）应变换为 ut = (1+ q 1L) 1 xt = (1 - q 1L + q 12L2 - q 13L

22、3 + ) xt (2.15)这是一个无限阶的以几何衰减特征为权数的自回归过程。 对于MA(1)过程有 E(x t) = E(ut) + E(q 1 ut - 1) = 0 Var(xt) = Var(ut) + Var(q 1 ut 1) = (1+q 12 ) su2 自回归与移动平均过程的关系 一个平稳的AR(p)过程(1 - f1L - f2L2 - - fpLp ) xt = ut可以转换为一个无限阶的移动平均过程， xt = (1 - f1L - f2L2 - - fpLp )-1 u t = F (L)-1 ut 一个可逆的MA(p)过程 xt = (1 + q 1L + q 2

23、 L2 + +q q Lq ) ut = Q (L) ut可转换成一个无限阶的自回归过程， (1 + q 1L + q 2 L2 + +q q Lq)-1 xt = Q (L) -1 xt = ut 对于AR(p)过程只需考虑平稳性问题，条件是F (L) = 0的根（绝对值）必须大于1。不必考虑可逆性问题。对于MA(q)过程，只需考虑可逆性问题，条件是Q (L) = 0的根（绝对值）必须大于1，不必考虑平稳性问题。（3）自回归移动平均过程由自回归和移动平均两部分共同构成的随机过程称为自回归移动平均过程，记为ARMA(p, q), 其中p, q分别表示自回归和移动平均部分的最大阶数。ARMA(p

24、, q) 的一般表达式是 xt = f 1xt-1 + f 2xt-2 +f p xt-p + ut +q 1ut-1 + q 2 ut-2 + .+ q q ut-q (2.16)即 (1 - f 1L - f 2 L2 - - f p Lp ) xt = (1 + q 1 L + q 2 L2+ +q q Lq ) ut或 F (L) xt = Q (L) ut （2.17）其中 F (L) 和 Q (L) 分别表示L的p, q阶特征多项式。ARMA(p, q) 过程的平稳性只依赖于其自回归部分，即F (L) = 0的全部根取值在单位圆之外（绝对值大于1）。其可逆性则只依赖于移动平均部分，

25、即Q (L) = 0的根取值应在单位圆之外。 图2.4 ARMA(1,1) 过程 图2.5 ARIMA(1,1,1) 过程实际中最长用的是ARMA(1, 1)过程。 xt - f 1xt-1 = ut +q 1 ut - 1 (2.18)或（1 - f 1 L）xt =（1 + q 1 L）ut很明显只有当 1 f1 1和 1 q 1 1 时，上述模型才是平稳的，可逆的。（4）单整自回归移动平均过程 以上介绍了三种平稳的随机过程。对于ARMA过程（包括AR过程），如果特征方程F(L) = 0 的全部根取值在单位圆之外，则该过程是平稳的；如果若干个或全部根取值在单位圆之内，则该过程是强非平稳的。

26、例如， xt = 1.3 xt-1 + ut（特征方程的根 = 1/ 1.3 = 0.77）上式两侧同减 xt-1得 Dxt = 0.3 xt-1 + ut仍然非平稳。除此之外还有第三种情形，即特征方程的若干根取值恰好在单位圆上。这种根称为单位根，这种过程也是非平稳的。下面介绍这种重要的非平稳随机过程。假设一个随机过程含有d个单位根，其经过d次差分之后可以变换为一个平稳的自回归移动平均过程。则该随机过程称为单整自回归移动平均过程。伯克斯詹金斯积数十年理论与实践的研究指出，时间序列的非平稳性是多种多样的，然而幸运的是经济时间序列常常具有这种特殊的线性齐次非平稳特性（即参数是线性的，xt及其滞后项

27、都是一次幂的）。对于一个非季节性经济时间序列常常可以用含有一个或多个单位根的随机过程模型描述。考虑如下模型 F (L)Dd yt = Q (L) ut (2.19)其中F(L) 是一个平稳的自回归算子。即F (z) = 0 的根都大于1。Q (L)表示可逆的移动平均算子。若取 xt = Dd yt (2.20)则（2.19）可表示为 F (L) xt = Q (L) ut (2.21)说明yt 经过d 次差分之后，可用一个平稳的、可逆的ARMA过程xt 表示。 随机过程yt 经过d 次差分之后可变换为一个以F (L)为p阶自回归算子，Q (L)为q阶移动平均算子的平稳、可逆的随机过程，则称yt

28、 为（p, d, q）阶单整(单积)自回归移动平均过程，记为ARIMA (p, d, q)。这种取名的目的是与以后各章中的称谓相一致。ARIMA过程也称为综合自回归移动平均过程。其中F (L) Dd称为广义自回归算子。(2.19) 是随机过程的一般表达式。当p 0, d = 0, q 0 时，（2.19）变成ARMA (p, q)过程，d = 0, p = 0, q 0时，ARIMA过程变成AM(q)过程；而当 p = d = q = 0时，ARIMA过程变成白噪声过程。做Dd yt = xt的逆运算 yt = S d xt (2.22)其中S是无限累加（积分）算子。当d = 1 时，S xt

29、 定义如下 S xt = = (1 + L + L2 + )xt = (1 L)-1 xt = D-1 xt = yt. (2.23)则 S = (1 L)-1 = D-1 (2.24)单整与差分互为逆运算。 例5：以yt = yt-1 + xt, y0 = 0为例，xt中元素的逐步叠加，得到的是 yt 序列。而yt的差分运算得到的是xt序列。y1 = x1y2 = x2 + x1y3 = x3 +x2 + x1yt-1 = xt-1 + + x3 +x2 + x1yt = xt + xt-1 + + x3 +x2 + x1可见S是D的逆运算。(2.23)表明随机过程xt经过逐步叠加之后可以得到yt。每次叠加类似于连续函数的一次积分，这就是为什么称AR1MA过程为单整自回归移动平均过程。“单整”在这里就是积分的意思。现在容易理解，随机游走过程（2.3）就是由白噪声过程累加一次而得到的。给出若干具体的非平稳随机过程如下：1. ARIMA (0, 1, 1)过程Dyt = u t + q 1 u t 1 =（1 +