时间序列 第三章 ARMA模型的特性

1、第一节 线性差分方程 一、后移算子B定义为，从而 1tt BXX m tt m B XX 前面的MA(m)模型、AR(n)模型和ARMA(n,m)模型可 分别表示为： ( ) tt XB a ( ) tt B Xa ( )( ) tt B XB a 2 12 ( )1 n n BBBB 2 12 ( )1 m m BBBB 其中： 后移算子的性质: 二、线性差分方程 1111ttnt nttm t m XXXaaa ()() tt B XB a 2 12 ( )(1) n n BBBB 2 12 ( )1 m m BBBB ( )( ) t XC tI t 差分方程的通解为： 可写成 这里 这

2、里，C (t)是齐次方程通解，I(t) 是特解 。 三、 齐次方程解的计算 ( )0 t B X 12 ( )(1)(1)(1) n BG BG BG B 假定G1，G2，Gn是互不相同，则在时刻t的通解： 1122 ttt tnn XAGA GA G 其中Ai为常数（可由初始条件确定）。 无重根 考虑齐次差分方程 ( )0B 重根 设( )0B 1 0 G 21 01210 dt td XAAtA tAtG 有d个相等的根，可验证通解为 对一般情形， / 120 ( )(1)(1)(1)(1)d n BG BG BG BG B 因此，齐次方程解是由衰减指数项、多项式、衰 减正弦项，以及这些函

3、数的组合混合生成的。 / 1 0 01 ( ) dn tjt kjii ji C tGA tDG 齐次方程解便是 请看例题 定义：设零均值平稳序 列 ,0, 1, 2,. t X t 第二节第二节 格林函数格林函数(Greens function)和平稳性和平稳性 (Stationarity) 一、格林函数(Greens function) 能够表示为 0 (1) tjtj j XG a 则称上式为平稳序列 t X的传递形式，式中的加权系数 j G 称为格林（Green）函数，其中 0 1.G tt XG B a 格林函数的含义：格林函数是描述系统记忆扰动程度 的函数。 （1）式可以记为 其中

4、 0 j j j G BG B 式（1）表明具有传递形式的平稳序列可以由现在时刻以前 的白噪声通过系统“ ”的作用而生成， 是j个 单位时间以前加入系统的干扰项 对现实响应的权，亦 即系统对 的“记忆”。 0 j j j G BG B j G tj a tj a 二、AR（1）系统的格林函数 11 11 1121 2 111 () . . ttt ttt ttt ttt XXa XXa Xaa aa 由AR（1）模型 即： 1 0 j ttj j Xa 则AR(1)模型的格林函数 1 j j G 例例：下面是参数分别为0.9、0.1和-0.9的AR（1）系统对 t a扰动的记忆情况 。（演示试

5、验） 比较前后三个不同参数的图，可以看出： 取正值时，响应波动较平坦。 取负值时，响应波动较大。 越大，系统响应回到均衡位置的速度越慢，时 间越长。 三、格林函数与三、格林函数与AR（n）系统的平稳性）系统的平稳性 平稳性的涵义就是干扰项对系统的影响逐渐减弱， 直到消失，对于一个AR（n）系统，将其写成格林 函数的表示形式， 0 tjtj j XG a 如果系统是平稳的，则预示随着j，扰动的权 数 0 j G 对于AR(1)系统0 j G 即 1 0 j 这要求 1 1 上述条件等价于AR(1)系统的特征方程 1 0 的根在单位圆内(或方程( )0B 的根在单位圆外). AR（n）模型，即()

6、 tt B Xa 其中： 2 12 ( )1 n n BBBB 的平稳性条件为： ( )0B的根在单位圆外 12 12 ( )0 nnn n （或 的根在单位圆内）。 AR（n）系统的平稳性条件：）系统的平稳性条件： （请同学们观察平稳性AR(n)与非平稳性AR(n)的区别。） AR(1)的结论可以推广到AR(n) 图示如右图 几个例题 ARMA模型格林函数的通用解法 ( )( ) tt B XB aARMA(n,m)模型 且 ( ) tt XG B a 则 ( ) ( )( )B G BB * , 0 0, j j jn jn 令 * , 0 0, l l lm lm ( ) ( )( )B

7、 G BB 则 化为 * 000 jkl jkl jkl BG BB 比较等式两边B的同次幂的系数，可得 * 0 ,1,2,3,. l jljl j Gl 由上式，格林函数可从1l 开始依次递推算出。 例：求AR(2,1)系统的格林函数。 是零均值平稳序列，如果白噪声序列 t X t a 1 ttjtj j aXI X 第三节第三节 逆函数和可逆性（逆函数和可逆性（Invertibility） 能够表示为 一、逆函数的定义 设 则称上式为平稳序列 t X 式中的加权系数 1,2,. j Ij 称为逆函数。 可逆。 ARMA（n,m）模型逆函数通用解法 对于ARMA（n,m）模型的逆函数求解模型

8、格林函数 求解方法相同。 0 1 ( )1,1 jtj j I BI XI 令 二、ARMA模型的逆函数 的逆转形式 t X 1 ttjtj j aXI X ( ) tt aI B X 则平稳序列可表示为 由ARMA(n,m)模型( )( ) tt B XB a ( )( ) ( )BB I B 可得 仍由先前定义的 * j * l 和 ，则上式可化为 * 000 jlk jlk jlk BBI B 比较上式两边B的同次幂的系数，得到 * 0 j jkl k k I 即 * 1 ,1,2,. j jjkj k k IIj 可从 j I 1j 由此 开始推算出。 对于MA（m）模型的可逆性讨论与

9、AR（n）模型平稳 性的讨论是类似的，即： 12 12 .0 mmm m VVV k V 1 k V MA（m）模型的可逆性条件为其特征方程 的特征根 满足 ARMA(n,m)系统格林函数与逆函数的关系 在格林函数的表达式中，用用 j I j G 代替代替， 代替代替 代替代替， ，即可得到相对应的逆函数。 理论自协方差函数和自相关函数 对于ARMA系统来说，设序列的均值为零，则自协方差函数 ktt k E X X 第四节第四节 自相关函数与偏自相关函数自相关函数与偏自相关函数 自相关函数 0 k k 样本自相关函数的计算 在拟合模型之前，我们所有的只是序列的一个有限 样本数据，无法求得理论自

10、相关函数，只能求样本的自 协方差函数和自相关函数。样本自协方差有两种形式： * 1 1 ,0,1,2,.,1 N ktt k t k X XkN Nk 一、自相关函数 则相应的自相关函数为 11 22 0 11 1 1 NN tt ktt k kt kt k kNN tt tt X XX X N XX N * * 11 22 0 11 1 1 NN tt ktt k kt kt k kNN it tt X XX X NNk Nk XX N 1 1 ,0,1,2,.,1 N ktt k t k X XkN N 在通常情况下，我们采用第一种算法。 1 1、AR(nAR(n) )过程自相关函数过程自

11、相关函数ACFACF 1阶自回归模型阶自回归模型AR(1) Xt=Xt-1+ at 的k阶滞后自协方差自协方差为： 011 )( k kttktk XXE =1,2, 因此，AR(1)模型的自相关函数自相关函数为 k kk 0=1,2, 由由AR(1)的稳定性知的稳定性知| | |1，因此，因此，k k时，呈指数形时，呈指数形 衰减，直到零衰减，直到零。这种现象称为拖尾拖尾或称AR(1)有无穷记忆有无穷记忆 （infinite memory）。 注意注意， 0时，呈振荡衰减状。 Xt=1Xt-1+ 2Xt-2 + at 该模型的方差0以及滞后1期与2期的自协方差1, 2分别为 阶自回归模型阶自

12、回归模型AR(2) 2 22110 s 02112 12011 类似地,可写出一般的一般的k期滞后自协方差期滞后自协方差： 22112211 )( kktttktk rXXXE(K=2,3,) 于是,AR(2)的k 阶自相关函数阶自相关函数为： 2211 kkk (K=2,3,) 其中 :1=1/(1-2), 0=1 如果如果AR(2)AR(2)平稳，则由平稳，则由 1 1+ + 2 211知知| | k k| |衰减趋于零，呈拖尾状。衰减趋于零，呈拖尾状。 至于衰减的形式，要看至于衰减的形式，要看AR(2)AR(2)特征根的实虚性，特征根的实虚性，若为实根，则若为实根，则 呈单调或振荡型衰减

13、，若为虚根，则呈正弦波型衰减。呈单调或振荡型衰减，若为虚根，则呈正弦波型衰减。 一般地，n阶自回归模型阶自回归模型AR(n) Xt=1Xt-1+ 2Xt-2 + nXt-n + at k期滞后协方差为: nknkk tntnttKtk XXXXE 2211 2211 )( 从而有自相关函数 : 可见，无论无论k k有多大，有多大， k k的计算均与其到的计算均与其到n n阶滞后阶滞后 的自相关函数有关的自相关函数有关，因此呈拖尾状呈拖尾状。 如果如果AR(nAR(n) )是平稳的，则是平稳的，则| | k k| |递减且趋于零递减且趋于零。 1122 . kkknk n 其中：zi是AR(n)

14、特征方程(z)=0的特征根，由 AR(n)平稳的条件知，|zi|1时，时， k k0，即，即Xt与与Xt-k不相关，不相关，MA(1)MA(1)自自 相关函数是截尾的。相关函数是截尾的。 其自协方差系数自协方差系数为 一般地一般地，m阶移动平均过程阶移动平均过程MA(m) 相应的自相关函数自相关函数为 可见，当km时， Xt与与Xt-k不相关，即存在截尾现象， 因此，当当km时，时， k k=0是是MA(m)的一个特征的一个特征。 于是：可以根据自相关系数是否从某一点开始一直为可以根据自相关系数是否从某一点开始一直为0 0 来判断来判断MA(mMA(m) )模型的阶。模型的阶。 2222 12

15、 2 11 (1.)0 ()(.) 0 am ktt kakkm km k rE X Xkm km s s 当 当1 当 11 . tttmt m Xaaa 222 1112 0 10 (.)/(1.) 0 k kkkm kmm k r km r km 当 当1 当 二、二、偏自相关函数偏自相关函数 自相关函数自相关函数ACF(k)给出了给出了X Xt t与与X Xt-1 t-1的总体相关性，但总体 的总体相关性，但总体 相关性可能掩盖了变量间完全不同的隐含关系。相关性可能掩盖了变量间完全不同的隐含关系。 例如，在AR(1)随机过程中，Xt与Xt-2间有相关性可能主要 是由于它们各自与Xt-1

16、间的相关性带来的: 即自相关函数中包含了这种所有的“间接”相关。 与之相反，X Xt t与与X Xt-k t-k间的 间的偏自相关函数偏自相关函数(partial (partial autocorrelationautocorrelation，简记为，简记为PACF)PACF)则是消除了中间变量则是消除了中间变量X Xt-1 t-1， ， X Xt-k+1 t-k+1 带来的间接相关后的直接相关性，它是在已知序列值 带来的间接相关后的直接相关性，它是在已知序列值X Xt- t- 1 1， ，X Xt-k+1 t-k+1的条件下， 的条件下，X Xt t与与X Xt-k t-k间关系的度量。 间

17、关系的度量。 )()( 211 2 1 2 2 tttt XXEXXE 从Xt中去掉Xt-1的影响，则只剩下随机扰动项at，显然它 与Xt-2无关，因此我们说Xt与Xt-2的偏自相关系数偏自相关系数为零，记为 在AR(1)中， 0),( 2 * 2 tt XCorr 同样地，在在AR(n)过程中过程中，对所有的kn，Xt与Xt-k间的 偏自相关系数偏自相关系数为零。 AR(n)的一个主要特征是的一个主要特征是:kn时，时， k*=Corr(Xt,Xt-k)=0 即即 k*在在n以后是截尾的。以后是截尾的。 一随机时间序列的识别原则：一随机时间序列的识别原则： 若若XtXt的偏自相关函数在的偏自

18、相关函数在n n以后截尾，即以后截尾，即kn时，时， k*=0=0，而，而 它的自相关函数它的自相关函数 k是拖尾的，则此序列是自回归是拖尾的，则此序列是自回归AR(nAR(n) )序序 列。列。 对于一个k阶AR模型，有： 1122 1,2, jkjkjkkj k jk 由此得到Yule-Walker 方程，记为： 121 11 112 22 123 1 1 1 k k k k kkkk kk 已知时，由该方程组可以解出 k , 21 12 ,., kkkk 。遗憾的是，用该方程组求解时，需要知道自回归过程 的阶数。因此，我们可以对连续的k值求解Yule-Walker 方程。 对k=1，2，

19、3， 依次求解方程，得 111 1 2 12 21 22 2 1 1 1 1 11 1 上述 1221 1132 1231 121 112 123 1 1 1 1 1 k k kkkk kk k k kkk kk 序列为AR模型的偏自相关函数。 偏自相关性是条件相关，是在给定 121 ,., jjj k XXX 的条件下， j X 和 j k X 的条件相关。换名话说，偏自相关 j X函数是对 和 j k X 所解释的相关的度量。 121 ,., jjj k XXX 之间未被 由最小二乘原理易得， 1,2,.,kkkk 是作为 j X 关于 12 ,., jjj k XXX 线性回归的回归系数。 如果自回归过程的阶数为n，则对于kn应该有kk=0。 MA(1)过程可以等价地写成过程可以等价地写成a at t关于无穷序列关于无穷序列X Xt t，X Xt-1 t-1， ， 的线性组合的形式：的线性组合的形式： 2 2 1tttt XXX 或 tttt XXX 2 2 1 这是一个AR()过程，它的偏自相关函数非截尾但却 趋于零，因此MA(1)MA(1)的偏自相关函数是非截尾但却趋于零的偏自相关函数是非截尾但却趋于零 的。的。 注意注意: : 上式只有当|1时才有意义，否则意味着距Xt越远的X 值，对Xt的影响越大，显然不符合常理。 因此，我们把|mkm）