平稳时间序列的ARMA模型

1、第五讲（续）平稳时间序列的ARMA模型1平稳性有一类描述时间序列的重要随机模型受到了人们的广泛 关注，这就是所谓的平稳模型。这类模型假设随机过程在一 个不变的均值附近保持平衡。其统计规律不会随着时间的推 移发生变化。平稳的定义分为严平稳和宽平稳。定义1（严平稳）设电,t e T是一个随机过程，。是在不同的时刻t的随机变量，在不同的时刻，是不同的随机变量，任取n个值,K ,，和任 1 n意的实数h，则X ,K ,X分布函数满足关系式 1nF （x ,L , x ; t ,L t ） = F （x ,L , x ; t + h,L t + h）n 1 n 1 n n 1 n 1n则称x,t e T

2、 为严平稳过程。在实际中，这几乎是不可能的。由此考虑到是否可以把条件放宽，仅仅要求其数字特征（数学期望和协方差）相等。定义2 （宽平稳）若随机变量X, t e T）的均值（一阶矩）和协方差（二阶矩）存在，且满足：任取,e T，有 E(x* ；任取 t e t，t +* T，有E( X (t) - a)(X (t +t ) - a) = R (t )协方差是时间间隔的函数。则称,t eT)为宽平稳过程， 其中r(t )为协方差函数。2各种随机时间序列的表现形式白噪声过程(white noise,如图1)。属于平稳过程。yt =%,U广 IID(0, a 2)3210-1-2-3100 120 1

3、40 160 180 200 220 240 260 280 300图1白噪声序列（2=1）随机游走过程（random walk，如图11）。属于非平稳过程。网=yt_1 + ut,utIID(0, b2)105-0-5-1020406080 100 120 140 160 180 200图2随机游走序列（b2=1）2-1 -2DJPY220 240 260 280 300 320 340 360 380 400图3日元兑美元差分序列i|IIII|rin|IIII|IIII|IIri|IIII|IIII|i i i i |IIII|IIIi501001502002503002200200018

4、00160014001200图4深圳股票综合指数图5随机趋势非平稳序列（=0.1）图6随机趋势非平稳序列（=-0.1）图7对数的中国国民收入序列14图8 中国人口序列3 延迟算子延迟算子类似于一个时间指针，当前序列值乘以一个延 迟算子，就相当于把当前序列值的时间向过去拨了一个时刻， 记B为延迟算子，有土 = Bpx , Vp 1。特别Q-B)是差分算子。4.ARMA(p,q)模型及其平稳性和可逆性4.1模型类型及其表示在平稳时间序列的分析中，应用最广泛的是有限参数模 型。p阶自回归模型：用自己的过去和现在的随机干扰表X。X =8 X +8 X + L +8 X + a a是白噪声。t 1 t-

5、1 2 t - 2p t - p ttq阶移动平均模型：用现在和过去的随机干扰表x。X = a -0 a -0 a L -0 at t 1 t-1 2 t2q tqp阶自回归和q阶移动平均模型：自己的过去及过去和 现在的随机干扰表x。X 8 X 8 X -L 8 X = a -6 a -6 a -L -6 a t 1 t-12 t2p tp t 1 t-12 t2q tq其中a是白噪声序列。 t4.2平稳性X =8 X +8 X + L +8 X + a是平稳时间序列的反映 t 1 t1 2 t2p tp t吗？如果它是平稳时间序列的模型，回归系数应该满足何种条件呢？例设土是一阶自回归模型，即

6、Xt=, 1 Xt1 +at或(B)X = a ,其中(B) = 1 -81B1则x =工气（利用等比级数的通项和公式）1=aj=0=乙，ai t - j j=o如果1811 1，土=乙件.,a,的系数随着j的增加而 j=0趋于无穷大，这显然违背了 “远小近大”的原则，由此可见，平稳的充分必要条件是 区1 1，区1 1，X =10 jX + aJ =1X,的系数随着j的增加而趋于无穷大，这显然违背了 “远小 近大”的原则，由此可见，X, =1-。1的逆转形式存在的 充分必要条件为1011 1，iqiv 1的充分必要条件方程 1 -0 z = 0的根在单位圆外。1X = a -0 a -0 a

7、-L -0 a =0(B)a 可逆的充分必 t t 1 t1 2 t2q tqt要条件为，方程0(z) = 1 -01 z-02z2 -L -0 zq = 0的根在单位 圆外。Yq -0yq-1 -02Yq-2 -L -0 = 0的根在单位圆内2。2证明参看附录2。由于自回归模型X =8 X +8 X +8 X + L +8 X + a 稍微变形， t 1 t-1 2 t-2 3 t-3p t - p t就是用系统的现在和过去值表示随机干扰项，所以自回归模型自然可逆。4.4 ARMA（p，q）的平稳性和可逆性设时间序列X是ARMA（p,q）模型 tx -81 x 1 -82x 2 -l -8

8、x=a 0 a 0 a L 0 at 1 t-1 2 t-2q t-q令 (B) = 1 _B 弋B2 -L 7 Bp0(B) = 1 -0 B-0 B2 -L -0 Bq12q则模型记为 (B) X =0( B) a tt如果1. 主0, 0主0 ；(B)和0(B)无公共因子；(z) = 0和0(z) = 0的根在单位圆外。则x是自回归移动平均模型，平稳且可逆。它有传递形式 tX =暨)a ,由此可以认为，任何一个自回归滑动平均模型 t (B) t都可以用一个足够高阶的滑动平均模型逼近。逆转形式a =暨) X，可见任何一个自回归滑动平均模型都可以用一 t 0( B) t个足够高阶的自回归模型

9、逼近。5平稳时间序列的统计特征5.1总体的自相关函数和样本的自相关函数(看参考教材王燕，应用时间序列分析，中国人大出版社，2005)一、AR(p)模型的自相关函数AR(p)模型，自相关函数快速收敛于零，但不等于零“拖 尾”。又因为ARMA (p, q)模型(B)x = 0(B).,的可逆性， 即二/竺x，所以任何一个ARMA(p，q)模型都可以表t 0(B) tr示为一个足够高阶的AR(p)模型，所以ARMA(p，q)模 型与AR(p)模型有相同的统计特性。下面从可以从图18 到图25观察时间序列图与其自相关函数图的特点。图9白噪声序列的自相关函数Date- 03/1 G/04 Timm:23

10、Sample: 1 200Includc-d ob = Qnrslion =: 2DQAutoc：i：irrelatlonPa trial CorrelationPAC Q-5tat ProbI131 o 1 Q- 7 o 5191371G11 o 1 n- o o oo o n- o o 2 35 2 5 21 in 1 口 uooon .口口 =- =1=；171910卫口21222324252527口口丹 工|.匚|羽 -0 002 =0 059 - OB3 - 口5卫027 -LL0400 1 0 013 - age - D4B 口 口口0.1 112.S092LL1130.10341

11、541LL125B.ESE10.DB4-.IBE.B6B50.144LI.DG8S. 13870.149CI.D曲e.i96e0.224习 JZM7e.95990.2SG .37g.ooas0.342 .7Ein.Eg40.237=.6710.7960.374D.D1S10.9330.4S7LL0S711 09S0.S21=D：lO3311 .1290.600-.211 .1330.E7B .2511 13B0.743LI. DES12.6870.696-0.0S414.1860.6S414.9730.6S4-.S31B.5210.622-.BQ17.1220.E45 .IE17.2920.E

12、93-Ll.D417.6640.7260.17524.S390.374勺D3324.5790.429-.EB0.372-.口 D427.2230.33B .1727.2230.462图10白噪声序列的自相关函数图-420-220406080100 120 140 160 180 200图 11 人工模拟序列 Xt=0.65Xt_i+0.36Xt_2+at 图10.660DJ.66O64.S2720.3261.165106.363 147CL 013n 10.7340.097DJ.O61112.660.0005O 0940.026114.446 044-0.067T14.657 cuedZlO2

13、9114.920.000e0.067CL 066n 15.6990.090口 .13n 17.291O0.066-0.001117.940.00011O 036CLOJ7119.21I O 034口 .14MS.4613 CHO-0.095110.46 .口口14 .045-0.011T1S.9216915-0.069120.6916 169-0.130127.09 .口口17 196-0.0 J4135.491S 197-0.036T44.CH519 177-0.033T5O.S9 .口口200.1220.016T54.33210.042d：lO74T54.730.00022OJJIJ2i.

14、O02164.7323OJJT10.1 16T55.6924 006-0.161tGS.SCi0.00025O 066i.O03T56.6626 O65OJZU4T57.6627 032dZlO19T50. 100.0002SO O1 1sc rvst i o n 5: i 98o u o rrs iat I nP a rt la I Gorr&lationAC：口产 瑚Q- St atRrobSBB口IJ门口 oo .=.334u_u noo Doo/B9O123411123222S67222BQ.-22-口 .m 曰口=U JJSE3 n 064 . 03 I-O.QBi=IJ. U1F

15、-.口1口 -.IS LLO96 -.ep.3=l IJ. U03 o.cise-.3E IJ. 063 . ae i -.is0J362 0.03E.Z 0.030-0.1 Q -.320J361 O.QO3=0.0364 n5zrlclzmclS9EI口口二LJ33Ss!3qh34 rnew51L 匕常*; 1我111二，1H! p。注：偏自相关函数的概率意义是在给定X1,L ,X +1的条件 下，x和X的相关系数。ARMA（p,q）模型自相关和偏自相关均拖尾，但是快速收 敛到零。表1自相关和偏自相关特征表模型AR（p）MA（q）ARMA（P，q）自相关函数拖 尾截 尾拖 尾偏自相关函数截

16、 尾拖 尾拖 尾对一个实际时间序列，我们能掌握的是一段样本数据，所 以首先要利用样本数据估计模型的自相关函数和偏自相关函 数。【例】利用1997年1月一2002年12月到北京海外旅游 人数资料绘制自相关和偏自相关图，在这里去掉了 2003年的 数据是由于非典的流行使2003年到北京旅游的人数锐减，出 现奇异值，不具有一般性。如图17所示。403020611 16 21 26 31 36 41 46 51 56 61 66 71 76 81Number图171997年1 月2002年12月到北京海外旅游人数曲线图Autocorrelations:SARSAutoStand.LagCorr.Err

17、.-1 -.75 -.5 -.250.25 .5.751 Box-Ljung Prob.口，。，。，。，。，。，。，。，口1.587.115.。*.*25.892.0002.358.115.*.*35.657.0003.166.114.。* .37.775.0004.074.113.。*.38.205.0005.068.112.5 .38.573.0006.183.111.*41.281.0007.034.110.5 .41.377.0008.011.110.*.41.387.0009.095.109.。* .42.154.00010.253.108.*.*47.641.00011.427.1

18、07.*.*63.578.00012.660.106.*.*102.277.00013.386.105.*.*115.737.00014.179.104.*118.679.00015.038.103.5 .118.814.00016-.022.103.*.118.860.000Autocorrelations:SARSPlot Symbols:Autocorrelations * Two Standard Error Limits .图18 97年1月到02年12月到北京海外旅游人数自相关图图18显示滞后一期和滞后两期的自相关函数分别为 0.5874和0.35818,超过了两倍标准差，显著不为

19、零，以后的 自相关函数均显著为零，直到滞后期为周期的长度12时，自 相关函数出现了峰值，为0.66015,这是季节性时间序列的十 分典型的特征，该序列从自相关函数看长期趋势并不十分显 著。而且可能建立MA模型会产生过多的参数，于是可能适 应的AR模型。根据偏相关系数，如图19所示Partial Autocorrelations: SARS Pr-Aut- Stand.Lag Corr. Err. -1 -.75 -.5 -.250.25 .5.751口，。，。，。，。，。，。，。，口.587.118.。*.*.020.118.*.Plot Symbols:Autocorrelations *T

20、wo Standard Error Limits .3-.080.118.*。.4.003.118.*.5.064.118.。*.6.197.118.*.7-.255.118*。.8.036.118.。*.9.223.118.5*.10.248.118.*11.239.118.*12.391.118.*.*13-.305.118*.*。.14-.165.118.*。.15-.044.118.*。.16-.029.118.*。.图19 97年1月到02年12月到北京海外旅游人数偏自相关图偏自相关函数图19显示滞后期为1, 7, 12和13的偏自 相关函数分别为 0.5874、-0.2555、0.

21、39145 和-0.30474，显著 不为零，该时间序列的偏自相关函数显示该时间序列可能适 应的模型(1,B)(1*2B12)X =和(1,B %B7 ,2B12 ,3B13)X = a。我们模拟模型为(1-% B )(1-、B12) Xa。表2模型(1-% B )(1-、B12) Xa的参数估计表参数参数估计标准差t值p值e10.4959420.09480105.2314030.0000e120.7672140.076675610.0059730.0000R22.7398662.186436110.4004260.0000Standard error3.1740588Log likeliho

22、od-189.48646AIC384.97291 SBC表2显示，该模型为X = 22.739866 +391.80291att -,(1 0.4959428)(1 0.767214812)进一步对模型的适应性进行检验，回归系数均显著外，残差的自相关函数均落在两倍标准差内，可以认为残差序列 是白噪声序列，如图20所示。Auto- Stand.LagCorr.Err.-1 -.75 -.5 -.250.25.5.751Box-LjungProb.口，。，。，。，。，。，。，。，口1-.048.115.*。.175.6762.039.115.5.292.8643.040.114.。*.416.93

23、74.056.113.5.664.9565-.007.112.*.668.9856.112.111.5* .1.681.9477.028.110.。* .1.747.9728-.045.110.*。.1.917.9839.117.109.。* .3.083.96110.031.108.。* .3.167.97711-.037.107.*。.3.286.98612-.047.106.*。.3.485.99113.130.105.*.5.011.97514.025.104.5 .5.070.98515.017.103.*.5.096.99116.067.103.5 .5.517.993图20最终模

24、型残差的自相关函数图最终模型残差的白噪声检验结果表明残差序列可以视为 白噪声序列，模型是适应的。当模型通过了检验，我们可以 用该模型进行结构分析和预测分析了。3时间序列建模的方法为了对时间序列建模有一个较全面的了解，下面从样本 观测数据出发，介绍建立时间序列模型的基本步骤。Box-Jenkins方法是以序列的自相关函数和偏自相关函数 的统计特性为依据，找出序列可能适应的模型，然后对模型 进行估计。通常可以考虑的模型ARMA、ARIMA和乘积型 季节模型。（一）模型的识别对于一组长度为N的样本观测数据x ,x ,A ,X，首先要对12 N数据进行预处理，预处理的目的是实现平稳化，处理的手段 包括

25、差分和季节差分等。经过预处理的新序列能较好满足平 稳性条件。模型的识别包括差分阶数d、季节差分阶数D、模型阶数、 q、k和m的识别。识别的工具是自相关函数和偏自相关函数。 如果样本的自相关函数S(s)当s q时显著为零，则序列适应 的模型是MA(q )。如果样本的偏自相关函数8当s p时显ss.者为零，则序歹列适应的模型是 AR(p )。右样本的 自相关函数 和偏自相关函数均拖尾，并且按负指数衰减，则序列是 ARMA序列，这时应该从高阶到低阶拟合模型，从中选择最佳的。当自相关函数缓慢下降，或是具有季节变化，那么观测的 序列是具有趋势变动或季节变动的非平稳序列，则需要做差分或季节差分，如果差分后

26、的序列的样本的自相关函数和偏 自相关函数既不截尾又不拖尾，而在周期s的整倍数时出现峰 值，则序列遵从乘积型季节模型，否则遵从ARIMA模型。（二）模型的估计当模型的阶数确定之后，利用有效的拟合方法。如最小 二乘估计，极大似然估计等方法，估计模型各部分的参数。（三）诊断性检验模型选择检验所选择的模型是否能较好地拟合数据。它包括模型过 拟合和欠拟合检验。通过检验的结果，修改模型。时间序列 建模应该基于简约的原则，即用尽可能少的模型参数，对模 型做出尽可能精确估计。所以在选择模型时应该反复试探， 这是一个识别，建模，再识别，再建模的过程。附录1AR模型平稳的充分必要条件。由于中(B)X = a有X广

27、矗气、-.111设(B) = 0有,广？个根，则(B)可表示为 九九 九（B） = c（1一入B）（1一入B）L （1-人B），c为常数，不妨假设顽 ”11、。、 广 （B）气一 （1人B）（1人 B）L （1人 B）气 12p用待定系数法，有X = 1 a =勇1a （其中A是有限实数） t（B） t 1（1x B） t Ak再用等比级数通项和公式，有X = （B） at TOC o 1-5 h z _pA旗 kak=1(I kB)=乙(E岛)ak=1j=0= A j )a .j=0 k=1丈A j是把X,表示为白噪声的加权和的系数，根据前面 k=1， ，一 1 一。 、， 一,一.，的结论

28、，如果X =_at平稳，其充分必要条件为权系数绝对收敛，权系数绝对收敛的充分必要条件为所有人.的模小于一 111 1，所以其根 二，二,L，二的模大于1，即在单位圆外。k k k TOC o 1-5 h z 12p111兀,1，L , 1的模大于1，则%k ,L ,kp的模小于1。12p可见自回归模型的自回归多项式如果有在单位圆上的根，则可以称为时间序列是非平稳的，或存在趋势。附录2MA模型可逆的充分必要条件设时间序列X是m阶滑动平均模型，有X a 0 a 0 a L 0 a 0(B)a t t 1 t1 2 t2q tqt其中：0(B) If B 02B2 L 0 BqX 可逆的充分必要条件

29、是： t特征方程0(z) 10 z 0 z2 L 0 z 0的根在单位圆12q外。证：假设 0(z) 10 z 0 z2 L 0 z - 0 有 m 个根1,L，土，则 TOC o 1-5 h z v v 120(B) = 1 -01 B-02B2 -L -0 Bq=(1-七B)(1-七B)L (1-v B) HYPERLINK l bookmark124 o Current Document 故 a = 1 X =1Xt 0(B) t(1-v1 B)(1-v B)L (1-v B) t用待定系数法，有上式为：a = 1 X =寸CX (用等比级数通项和公式) t 0( B) t1 (1-vB

30、) t=& 2wBjXi=1 j=0=2(2s)xj=0 i=1(Cvj是加权和的权数)i ii=1可见，X = a -0 a -0 a 一L -0 a = 0(B)a 可逆的1 t1 2 t2q tq充分必要条件为2 (2 C vj)绝对收敛，2 (2 C vj)绝对收敛 iiiij=0 i=1j=0 i=1的充分必要条件为诸|vj小于1，故特征方程0(z) =1-1 z -02z2 -L -0 Zq =0 的根在单位圆外。附录三 ARIMA模型在SPSS中的实现1、定义时间第1步直旦亘旦14jjn白 fir如T J-ltd Tyipcrlltt .匚|.三uwsarsnsri： !4tl

31、aHcvarr何19.nxfrT l 匚211京 t&0316Jifl C-U4E.0419rrdiisjcist.Li620Lbh!j*xc luri.U5IBy ： Nit=B?20女bE%0日XSplit Eilt09245*lcl： uua0101*3 (hl： CiEf!Li1119.4TF,，,，11 unr0121BEO1B.B0口 0D139 60S.ffi13X1001411.7011.7014 0001515.BQ15.15.00u161心19.1G 0001713 5019.3017 ia17E017.321IB 00019IFi7.an19 00U2023.323.X2

32、0.00LI2121 4021.4021 0002224 502X.9022 2320 1020.10Z3.00ElIj! Ed让质胃虹rtlTie Stf-srphs UtilLHcs JiDidw tfelpW占已j whI 一 SPSS fiatiii Edit YEAR, net pericdicMONTH period 12Variables:varOKsarsPasteResetCancel13UDisplayA AulocorrelationsA Paitial dutocorrsldtionsT ransfexmNatural log transformDifferenceSeasonally difference:Current Pericdcity: 12HelpOptions. I9.6U11.703.6011.70019981JAM 1998019982FEB 199813