平稳时间序列的ARMA模型

1、第二讲 平稳时间序列的ARMA模型一、平稳ARMA模型二、ARMA模型的识别三、ARMA模型的估计和检验四、季节性模型（SARMA）五、参数稳定性与结构突变引言p把观测到的时间序列y0, y1, , yt视为随机过程的实现值，这种思路十分有用。p如，符号yt可用来表示t期的GDP，由于我们不能准确的预测GDP，因此，yt为随机变量。一旦我们得到了t期的GDP的值，yt就成为随机过程的实现值。p若知其概率分布，在观察到前t期的实现值后，则可对yt+1, yt+2, 等进行推断：求Et(yt+i|yt, , y1)等。p一般情况下，我们很难准确描述GDP等经济变量的（条件）概率分布，但是，理论经济

2、学家的任务就是推演出能够抓住真实数据生成过程本质的模型。23p例：假设美联储的货币供给目标 为每年以3%的速度增长，即 mt* = 1.03mt-1* n给定初始条件m0*，方程的特解为： mt* = (1.03)tm0* n假设美联储不能完全控制货币供给，但试图改变的量为理想的和实际的货币供给之差的%，即 mt = (mt*-mt-1) + t mt = (1.03)tm0* + (1- ) mt-1 + t （1）n其中，t表示货币供给中不能控制的部分，且一般假设t是白噪声过程。p注意：（1）式被称为线性随机差分方程；如果已知t 的分布，则可知mt的分布；如果已知前t期的值，可以依据（1）

3、式预测mt+1，的值引言41.1 移动平均过程（Moving Average Process）p考察在白噪声过程的基础上生成的随机过程： yt = + t （1.1） yt = + t + t-1 （1.2） yt = + t + 1t-1 + + qt-q （1.3）n（1.1）是均值为的白噪声过程n（1.2）称为一阶移动平均过程，记作MA(1)n（1.3）称为q阶移动平均过程，记作MA(q)p一阶移动平均过程MA(1)的性质n均值：一、平稳ARMA模型1()( )()tttE yEE5p一阶移动平均过程MA(1)的性质n方差：一、平稳ARMA模型2212222211()()()(2)(1)

4、ttttttttVar yE yEE n一阶自协方差：111222112122()()()()tttttttttttttCov y yEE n高阶自协方差均为零n因为MA(1)过程的均值、方差和协方差都不是时间的函数，因此MA(1)过程是协方差平稳过程6pq阶移动平均过程MA(q)的性质n均值：E(yt) = n方差：一、平稳ARMA模型22011222212()()(1)tttqt qqE yE nj阶自协方差：1111()()jttqt qtjtjqtj qE 21 122()1,2,0 jjjqqjjjqjq 7pq阶移动平均过程MA(q)的性质n由以上性质可以看出，对于任意的移动平均系

5、数值，MA(q)都是协方差平稳的p无限阶移动平均过程MA()nMA(q)过程可表示为：nMA()过程可表示为：一、平稳ARMA模型0qtjtjjy 0tjtjjy n可以证明：当MA()过程的系数满足绝对可加或平方可加的条件时，该无限序列是协方差平稳的。20jj0jj8一、平稳ARMA模型1.2 自回归过程（Auto-Regression Process）p一阶自回归过程，记作AR(1)，满足下面的差分方程 yt = c + yt-1 + tp其中， t是白噪声过程， 表示自回归系数， c称为漂移项（不是均值）p一阶自回归过程AR(1)的性质n系数的绝对值小于1，过程协方差平稳，AR(1)=M

6、A()22121()11()() /(1)ttttttycLLLcc 9p一阶自回归过程AR(1)的性质n均值：n方差：一、平稳ARMA模型()/(1)tE yc222012246222()()(1)/(1)ttttE yE n第j个自协方差：21221224222()()(1)/(1)jttttjtjtjjjE 10pp阶自回归过程，记作AR(p)，满足差分方程： yt = c + 1yt-1 + 2yt-2 + + pyt-p + t p可以证明：如果AR(p)过程的特征方程 zp- 1zp-1 - 2zp-2 - - p = 0p的根全部落在单位圆内，则AR(p)过程平稳，且可表示成无限

7、阶的移动平均过程。pAR(p)过程的性质n均值：一、平稳ARMA模型111()()()( )()/(1)ttptpttpE ycE yE yEE yc11pAR(p)过程的性质n漂移项c和均值的关系一、平稳ARMA模型11111111*11/(1)(1)()()()ttptptptptpptttptptttptptycyycyyyyyyyyyn任何漂移项非零的平稳过程都可以通过对序列先退均值（或其他确定性成分），然后建立ARMA模型研究。12pAR(p)过程的性质n第j个自协方差：一、平稳ARMA模型11111122()()()() ()()()ttptptttjtptpttjjjjpjpyy

8、yE yyEyyy n注意：-j = j；自协方差是一个p阶差分方程，其解的形式为1 122jjjjppgggn其中，(1, p)是p阶特征方程的p个根131.3 自回归移动平均(ARMA)过程pARMA(p,q)过程一、平稳ARMA模型10( )()( )pqtit ijtjijttycyLyL pARMA(p,q)过程的性质是自回归过程和移动平均过程的结合，其平稳性由自回归部分的系数决定，其可逆性由移动平均部分的系数决定一、平稳ARMA模型1.4 自回归与移动平均过程的关系p一个平稳的AR(p)过程可以转换为一个无限阶的移动平均过程14111(1)(1)( )ppttptpttLLyyLL

9、L p一个可逆的MA(q)过程可以转换为一个无限阶的自回归过程1111(1)(1)( )qtqtqqtttyLLLLyLy 一、平稳ARMA模型1.4 自回归与移动平均过程的关系p对于AR(p)过程，只需考虑平稳性，条件是反特征方程(L)=0的根在单位圆之外，不必考虑可逆性15111100pppppLLzzp对于MA(q)过程，只需考虑可逆性，条件是反特征方程(L)=0的根在单位圆之外，不必考虑平稳性111100qqqqqLLzz一、平稳ARMA模型1.5 Wold分解定理（MA()表示定理）p任何协方差平稳过程yt都可以被表示为16110ttttit iiyd p其中，为yt的均值，dt是y

10、t的线性确定性成分，如周期性成分、时间t的多项式等。t是白噪声过程，0=1，i满足绝对可加或平方可加条件。p在随后的分析中我们通常都认为yt不含任何确定性成分的随机过程，如果原序列含有均值或时间趋势项，首先要进行退势处理。17二、ARMA模型的识别2.1 自相关函数（ACF）p相关系数：p自相关系数n1阶自相关系数：nj阶自相关系数：p自相关函数：( , )/( )( )Cov x yVar x Var y1110(,)/()()/ttttCov y yVar y Var y0(,)/()()/ttjttjjCov y yVar y Var y001,/jjpMA(1)的自相关函数0211,/

11、(1)02jj18pMA(q)的自相关函数二、ARMA模型的识别1 12222212()1,2,(1)0 jjjqqjqjjqjq pAR(1)的自相关函数1,2,jjjpAR(p)的自相关函数n尤尔沃克(Yule-Walker)方程1122jjjpjp 1 122jjjjppggg192.2 偏自相关函数p在AR(1)中，yt与yt-2之间也相关，它们之间的相关性源于它们都和yt-1相关，在排除了yt-1的影响后， yt与yt-2之间的相关系数称为偏自相关系数。p偏自相关系数由下式表示 yt = 11yt-1 + ut yt = 21yt-1 + 22yt-2 + ut yt = k1yt-

12、1 + k2yt-2 + + kkyt-k + ut p不同模型的自相关图和偏自相关图的特征二、ARMA模型的识别20p识别过程n用EViews画出序列的样本相关图和样本偏相关图n判断序列的平稳性；如果序列为非平稳序列，则相关图衰减得很慢，此时需要对序列进行差分，然后对差分后的序列再判断其平稳性n根据样本相关图和偏相关图，对照理论模型的相关图和偏相关图初步确定p，q等的取值。实际确定过程可有多个模型形式，在模型估计之后再进行取舍选择。p一些序列的样本相关图和偏相关图如下二、ARMA模型的识别21二、ARMA模型的识别22二、ARMA模型的识别23p判断有无截截尾尾特征nACF截尾：MA模型nP

13、ACF截尾：AR模型p利用峰值峰值判断阶数nACF峰值：MA阶数nPACF峰值：AR阶数p峰值：显著不为零的样本自相关/偏自相关系数p正态假设下，样本自相关/偏自相关系数服从正态分布，一般超出2倍标准差范围即认为显著不为零二、ARMA模型的识别24三、ARMA模型的估计和检验3.1 模型的估计p可采用极大似然估计法，假定新息过程t是高斯白噪声过程，据此计算样本的似然函数，求其极大值即可。p对于自回归模型，如果给定初始值，也可以利用OLS估计参数值，它等同于条件极大似然估计。pEViews中ARMA模型的估计采用的是NLS方法p由于模型估计在软件中很容易实现，因此可以多选几个模型进行估计然后进行

14、筛选，筛选的过程即为模型的诊断检验过程25三、ARMA模型的估计和检验3.2 模型的诊断检验p估计的模型是否成立应从三个方面检查：模型参数估计量必须通过t检验 全部的特征根必须在单位圆以内 模型的残差序列必须通过Q检验 p在不同模型之间进行比较选择时可以从以下几个统计量入手：系数的t统计量 （是否显著）残差平方和 （是否最小）AIC和SC （是否最小）模型残差序列的Q统计量（是否显著）26三、ARMA模型的估计和检验pAIC和SC：最优滞后期选择pQ统计量：一组自相关系数是否显著不为零nLjung-Box(1978)Q统计量n原假设H0：所有rk=0n抽样分布：自由度为s的2分布nQ统计量可用

15、于检验模型残差是否为白噪声过程。注意：此时自由度应为s 参数个数。实践中，可能仅仅报告s自由度的结果。2ln()/2 /2ln()/ln( )/AICLogLTn TSCLogLTnTT 20(2)/()skkQT TrTk2728p例1：AR(1)模型估计n用电脑程序生成100个呈正态分布的随机数三、ARMA模型的估计和检验01(0,1),00.7ttttIINyyy，-5-4-3-2-1012310203040506070809010029三、ARMA模型的估计和检验30三、ARMA模型的估计和检验11212AICSCSSRQ(8)Q(16)Q(24)(1)0.7905(0.0624)2.

16、7072.73385.106.14(0.52)15.74(0.399)21.02(0.580)(2)0.7950(0.0642)-0.034(0.1141)2.7272.77985.066.19(0.402)15.66(0.335)20.88(0.528)(3)0.8081(0.0702)-0.019(0.073)2.7902.84680.168.29(0.218)14.20(0.435)19.35(0.623)11111212111212(1), (2)(3)tttttttttttyyyyyyy 31p例：生产物价指数(PPI)模型nppi序列非平稳；分析ppi的对数差分序列三、ARMA模型

17、的估计和检验32三、ARMA模型的估计和检验c1214AICSBCSSRQ(4)AR(1)0.003(3.82)0.603(9.69)-6.113-6.0750.02112.40.006AR(2)0.003(3.01)0.480(6.24)0.209(2.65)-6.143-6.0870.0207.890.019ARMA(1,1)0.001(2.26)0.871(14.88)-0.455(-4.41)-6.169-6.1130.0204.170.124ARMA(1,(1,4)0.002(2.35)0.765(9.37)-0.356(-3.39)0.302(3.70)-6.199-6.1250.

18、0191.410.235ARMA(2,1)0.001(2.22)0.950(3.95)-0.062(-0.35)-0.518(-2.33)-6.158-6.0830.0203.900.048ARMA(1,(4)0.004(3.47)0.539(7.97)0.287(3.60)-6.168-6.1120.0204.840.089四、季节性模型p许多经济序列都具有一定的季节性p一般处理季节数据的方法：季节调整（美国人口普查局用X-11，X-22方法）p使用公开的季节调整后的数据需要注意：n一般都做了统一的标准化处理，不利于单一序列建模n仍可能存在季节因素n最好一同识别和估计季节性和ARMA系数。p

19、推荐使用原始数据33四、季节性模型季节数据模型p纯季节数据模型pSARMA模型p季节数据模型的识别需要ACF和PACF，各种情形下的ACF和PACF特征见acf(sarma).wf13444444,| 1ttttttya yay 41144141(1)(1)(1)(1)(1)(1)ttttL yLLLL yL四、季节性模型例：美国货币供给的季节分析35-.03-.02-.01.00.01.02.03.04.05.061960196519701975198019851990199520002005Differenced LM1四、季节性模型36四、季节性模型37四、季节性模型3801144414

20、04014(1)(2) (1)(1)(3)(1)(1)ttttttttmmLL mmLL p三个模型的估计结果见Eviews工作文件：m1(sarma).wf1五、参数稳定性与结构突变5.1 结构性突变检验pARMA模型分析的一个重要假设：数据生成过程的结构是不变的。p1973年石油价格冲击，911事件，2008年金融危机对系数有显著影响吗？p邹检验（Chow test）n基本思想：如果数据生成过程没有出现结构突变，则用突变前数据和突变后数据拟合同一个ARMA模型，结果应该相差不大。n方法：以突变点为界将样本分成两个子样本，分别使用这两个子样本估计同一个ARMA模型，取两个模型的残差平方和SSR1和SSR2 39五、参数稳定性和结构突变n用整个样本估计该ARMA模型，得残差平方和SSRn构建F统计量n其中，n为ARMA模型中待估参数个数。理论上讲，如果模型不存在结构突变，则SSR1+SSR2应近似等于SSR，此时，F统计量的值应近似为0，所以F值越大，表明存在结构突变的可能性越大。pChow检验的替代性是：使用虚拟变量n加法方式引入：检验截距是否存在突变n乘