平稳时序模型ARMA

1、2.32.3 时间序列模型时间序列模型Stochastic Time Serial ModelStochastic Time Serial Model一、一、时间序列模型概述时间序列模型概述 二、二、平稳时间序列模型的平稳性条件模型的平稳性条件三、三、平稳时间序列模型的识别时间序列模型的识别四、四、平稳时间序列模型的估计时间序列模型的估计五、五、平稳时间序列模型的检验时间序列模型的检验六、六、ARIMA模型案例案例说明说明 严格从理论体系讲，本节内容属于时间序列分严格从理论体系讲，本节内容属于时间序列分析，但不属于我们所定义的狭义的计量经济学。析，但不属于我们所定义的狭义的计量经济学。 本节内

2、容一般不纳入计量经济学的课堂教学内本节内容一般不纳入计量经济学的课堂教学内容，供没有学习过应用数理统计或者经济预测容，供没有学习过应用数理统计或者经济预测课程的同学自学。课程的同学自学。 课件只提供一个简单的思路。课件只提供一个简单的思路。一、一、时间序列模型概述时间序列模型概述1、时间序列模型、时间序列模型 两类时间序列模型两类时间序列模型 时间序列结构模型：时间序列结构模型：通过协整分析，建立反映不同时间通过协整分析，建立反映不同时间序列之间结构关系的模型，揭示了不同时间序列在每个序列之间结构关系的模型，揭示了不同时间序列在每个时点上都存在的结构关系。时点上都存在的结构关系。 随机时间序列

3、模型：随机时间序列模型：揭示时间序列不同时点观测值之间揭示时间序列不同时点观测值之间的关系，也称为的关系，也称为无条件预测模型。无条件预测模型。 平稳时间序列模型包括：平稳时间序列模型包括：AR(p)、MA(q)、ARMA(p,q)。 平稳时间序列模型并不属于现代计量经济学。平稳时间序列模型并不属于现代计量经济学。2、随机时间序列模型的适用性、随机时间序列模型的适用性 用于无条件预测用于无条件预测 结构模型用于预测的条件：建立正确的结构模型，给定结构模型用于预测的条件：建立正确的结构模型，给定外生变量的预测值。外生变量的预测值。 无条件预测模型的优点。无条件预测模型的优点。 结构模型的简化形式

4、结构模型的简化形式 结构模型经常可以通过约化和简化，变换为随及时间序结构模型经常可以通过约化和简化，变换为随及时间序列模型。列模型。二、随机时间序列模型的平稳性条件二、随机时间序列模型的平稳性条件1 1、AR(p)AR(p)模型的平稳性条件模型的平稳性条件 随机时间序列模型的平稳性，可通过它所生成随机时间序列模型的平稳性，可通过它所生成的随机时间序列的平稳性来判断。的随机时间序列的平稳性来判断。 如果一个如果一个p p阶自回归模型阶自回归模型AR(p)AR(p)生成的时间序列生成的时间序列是平稳的，就说该是平稳的，就说该AR(p)AR(p)模型是平稳的；模型是平稳的； 否则，就说该否则，就说该

5、AR(p)AR(p)模型是非平稳的。模型是非平稳的。 考虑考虑p p阶自回归模型阶自回归模型AR(p)AR(p)tptptttXXXX2211pttpttttXXLXXLXLX,221ttppXLLL)1 (221)1 ()(221ppLLLL0)1 ()(221ppzzzzAR(AR(p p) )的特征方程的特征方程 可以证明，如果该特征方程的可以证明，如果该特征方程的所有根在单位圆所有根在单位圆外外（根的模大于（根的模大于1），则），则AR(p)模型是平稳的。模型是平稳的。容易得到如下平稳性条件容易得到如下平稳性条件tttXX11ttttXXX22111, 1, 122121121p1|2

6、1ptptptttXXXX2211必要条件 充分条件 2 2、MA(q)MA(q)模型的平稳性模型的平稳性 有限阶移动平均模型总是平稳的。有限阶移动平均模型总是平稳的。 qtqtttX110)()()()(11qtqtttEEEXE22111121322111122210),()(),()(),()1 (qqttqqqqttqqqttqtXXCovXXCovXXCovXVar当滞后期大于q时，X的自协方差系数为0。 3、ARMA(p,q)模型的平稳性模型的平稳性 ARMA(p,q)平稳性取决于平稳性取决于AR(p)的平稳性。的平稳性。 当当AR(p)AR(p)部分平稳时，则该部分平稳时，则该A

7、RMA(p,q)ARMA(p,q)模型是平模型是平稳的，否则，不是平稳的。稳的，否则，不是平稳的。qtqttptpttXXX11114 4、总结、总结 一个平稳的时间序列总可以找到生成它的平稳一个平稳的时间序列总可以找到生成它的平稳的随机过程或模型。的随机过程或模型。 一个非平稳的随机时间序列通常可以通过差分一个非平稳的随机时间序列通常可以通过差分的方法将它变换为平稳的，对差分后平稳的时的方法将它变换为平稳的，对差分后平稳的时间序列也可找出对应的平稳随机过程或模型。间序列也可找出对应的平稳随机过程或模型。 如果将一个非平稳时间序列通过如果将一个非平稳时间序列通过d d次差分，将次差分，将它变为

8、平稳的，然后用一个平稳的它变为平稳的，然后用一个平稳的ARMA(p,q)ARMA(p,q)模型作为它的生成模型，则该原始时间序列是模型作为它的生成模型，则该原始时间序列是一个一个自回归单整移动平均（自回归单整移动平均（autoregressive autoregressive integrated moving averageintegrated moving average）时间序列，记）时间序列，记为为ARIMA(p,d,q)ARIMA(p,d,q)。三、随机时间序列模型的识别三、随机时间序列模型的识别 所谓所谓随机时间序列模型的识别随机时间序列模型的识别，就是对于一个，就是对于一个平稳的

9、随机时间序列，找出生成它的合适的随平稳的随机时间序列，找出生成它的合适的随机过程或模型，即判断该时间序列是遵循一纯机过程或模型，即判断该时间序列是遵循一纯ARAR过程、还是遵循一纯过程、还是遵循一纯MAMA过程或过程或ARMAARMA过程。过程。 所使用的工具主要是时间序列的所使用的工具主要是时间序列的自相关函数自相关函数（autocorrelation functionautocorrelation function，ACFACF）及）及偏自偏自相关函数相关函数（partial autocorrelation partial autocorrelation functionfunction，

10、 PACF PACF ）。）。1 1、AR(p)AR(p)过程过程 自相关函数自相关函数ACFACFtptptttXXXX2211pkpkktptpttktkXXXXE22112211)(pkpkkkk22110k期滞后自协方差 k阶自相关函数 可见，无论可见，无论k k有多大，有多大， k k的计算均与其到的计算均与其到p p阶滞后的自阶滞后的自相关函数有关，因此呈拖尾状。相关函数有关，因此呈拖尾状。如果如果AR(p)AR(p)是平稳的，则是平稳的，则| | k k| |递减且趋于零递减且趋于零（可作为平稳性判断方法）（可作为平稳性判断方法）。 偏自相关函数偏自相关函数 自相关函数自相关函数

11、ACF(k)ACF(k)给出了给出了X Xt t与与X Xt-1t-1的总体相关性，的总体相关性，但总体相关性可能掩盖了变量间完全不同的隐但总体相关性可能掩盖了变量间完全不同的隐含关系。含关系。 与之相反，与之相反，X Xt t与与X Xt-kt-k间的间的偏自相关函数偏自相关函数(partial (partial autocorrelationautocorrelation，简记为，简记为PACF)PACF)则是消除了中则是消除了中间变量间变量X Xt-1t-1，X Xt-k+1t-k+1 带来的间接相关后的直带来的间接相关后的直接相关性，它是在已知序列值接相关性，它是在已知序列值X Xt-

12、1t-1，X Xt-k+1t-k+1的的条件下，条件下，X Xt t与与X Xt-kt-k间关系的度量。间关系的度量。 AR(p)AR(p)的一个主要特征是的一个主要特征是:kp:kp时，时， k k* *=Corr(=Corr(X Xt t,X,Xt-kt-k)=0)=0 ，即即 k k* *在在p p以后是截尾的。以后是截尾的。 随机时间序列随机时间序列AR(p)AR(p)的识别原则：的识别原则： 若若XtXt的偏自相关函数在的偏自相关函数在p p以后截尾，即以后截尾，即kp时，时， k*=0=0，而它的自相关函数，而它的自相关函数 k是拖尾的，则此是拖尾的，则此序列是自回归序列是自回归A

13、R(p)AR(p)序列。序列。18 AR(p)模型的自相关函数和偏自相关函数的计算看起来较为复杂，但是计量经济学软件都有自相关和偏相关函数的菜单，使用起来非常方便。 以Eviews软件为例，我们来看AR(p)模型的自相关函数和偏自相关函数。 19AR(1)模型模型xt=0.7xt-1+ut的自相关图和偏自相关图的自相关图和偏自相关图自相关图呈现出拖尾特征拖尾特征 偏自相关图在1阶以后呈现出截尾特征截尾特征2 2、MA(q)MA(q)过程过程 MA(q)模型的识别规则：模型的识别规则：若随机序列的自相关若随机序列的自相关函数截尾，即自函数截尾，即自q q以后，以后， k k=0=0（ kqkq）

14、；而它）；而它的偏自相关函数是拖尾的，则此序列是滑动平的偏自相关函数是拖尾的，则此序列是滑动平均均MA(q)MA(q)序列。序列。21MA(1)模型模型xt=ut+0.8ut-1的自相关图和偏自相关图的自相关图和偏自相关图偏自相关图呈现出拖尾特征拖尾特征 自相关图在1阶以后呈现出截尾特征截尾特征3 3、ARMA(p, q)ARMA(p, q)过程过程 ARMA(p,q)ARMA(p,q)模型的识别规则：模型的识别规则：若随机序列的自若随机序列的自相关函数和偏自相关函数都是拖尾的，则此序相关函数和偏自相关函数都是拖尾的，则此序列是列是ARMA(p,q)ARMA(p,q)序列。序列。 实际上，实际

15、上，ARMA(p,q)ARMA(p,q)过程的偏自相关函数，可过程的偏自相关函数，可能在能在p p阶滞后前有几项明显的尖柱（阶滞后前有几项明显的尖柱（spikesspikes），），但从但从p p阶滞后项开始逐渐趋向于零；而它的自阶滞后项开始逐渐趋向于零；而它的自相关函数则是在相关函数则是在q q阶滞后前有几项明显的尖柱，阶滞后前有几项明显的尖柱，从从q q阶滞后项开始逐渐趋向于零。阶滞后项开始逐渐趋向于零。23ARMA(1,1)模型模型xt=0.8xt-1+ut-0.3ut-1的自相关图和偏自相关图的自相关图和偏自相关图可以看出，可以看出，ARMA(1,1)模型的自相关图和偏自相关图均是模型

16、的自相关图和偏自相关图均是在在k=1达到峰值后呈现出按指数衰减的拖尾特征达到峰值后呈现出按指数衰减的拖尾特征。24ARMA(2,2)模型模型xt=0.8xt-1-0.3xt-2+ut-0.5ut-1+0.7ut-2的自相关图和偏自相关图的自相关图和偏自相关图可以看出，可以看出，ARMA(2,2)模型的自相关图和偏自相关图在模型的自相关图和偏自相关图在k=1、2达到两个峰值后达到两个峰值后按指数或正弦衰减按指数或正弦衰减。ARMA模型的识别原则的识别原则ARMAARMAACF拖尾q阶截尾拖尾PACFp阶截尾拖尾拖尾至于模型中的p和q阶具体取什么值，则要从低阶开始逐步试探，直到合适的模型为止。四、

17、随机时间序列模型的估计四、随机时间序列模型的估计 AR(p)AR(p)、MA(q)MA(q)、ARMA(p,q)ARMA(p,q)模型的估计方法较模型的估计方法较多，多，大体上分为大体上分为3 3类：类：最小二乘估计；最小二乘估计；矩估计；矩估计；利用自相关函数的直接估计利用自相关函数的直接估计。 下面有选择地加以介绍。下面有选择地加以介绍。 AR(p) AR(p)模型的模型的Yule WalkerYule Walker方程估计方程估计pkpkkk2211k=-kkppppppppp12112211211211此方程组被称为此方程组被称为Yule WalkerYule Walker方程组。该方

18、程方程组。该方程组建立了组建立了AR(p)AR(p)模型的模型参数模型的模型参数 1 1, , 2 2, , , p p与与自相关函数自相关函数 1 1, , 2 2, , , p p的关系。的关系。 12011102120112ppppppptptttXXX11pjiijjitE1,022pjiijji1,02 MA(q) MA(q)模型的矩估计模型的矩估计将将MA(q)模型的自协方差函数中的各个量用估计模型的自协方差函数中的各个量用估计量代替，得到：量代替，得到： qkqkkqkqkkqk当当当01)(0)1 (112222212221,q非线性方程组，用直接法非线性方程组，用直接法或迭代

19、法求解。常用的迭或迭代法求解。常用的迭代方法有线性迭代法和代方法有线性迭代法和Newton-RaphsanNewton-Raphsan迭代法。迭代法。 ARMA(p,q) ARMA(p,q)模型的矩估计模型的矩估计 在在ARMA(p,q)中共有中共有(p+q+1)个待估参数个待估参数 1, 2, p与与 1, 2, q以及以及 2，其估计量计算步，其估计量计算步骤及公式如下：骤及公式如下： 第一步第一步，估计，估计 1, 2, p 1211112112pqqq pqqq pq pq pqqqq p 第二步，第二步，改写模型，求改写模型，求 1, 2, q以及以及 2的估计值的估计值 tptpt

20、ttXXXX2211qtqtt2211ptpttttXXXXX2211qtqttttX2211构成一个构成一个MAMA模型。按照估计模型。按照估计MAMA模型参数的方法，模型参数的方法，可以得到可以得到 1 1, , 2 2, , , q q以及以及 2 2的估计值。的估计值。 qtqttptpttXXX1111 AR(p) AR(p)的最小二乘估计的最小二乘估计tptptttXXXX221121221112)() (nptptptttnpttXXXXSSj 00)(12211jtnptptptttXXXXX解该方程组，就可得到待估参数的估计值。解该方程组，就可得到待估参数的估计值。 五、模型

21、的检验五、模型的检验1 1、残差项的白噪声检验、残差项的白噪声检验 由于由于ARMA(p,q)ARMA(p,q)模型的识别与估计是在假设随模型的识别与估计是在假设随机扰动项是一白噪声的基础上进行的，因此，机扰动项是一白噪声的基础上进行的，因此，如果估计的模型确认正确的话，残差应代表一如果估计的模型确认正确的话，残差应代表一白噪声序列。白噪声序列。 如果通过所估计的模型计算的样本残差不代表如果通过所估计的模型计算的样本残差不代表一白噪声，则说明模型的识别与估计有误，需一白噪声，则说明模型的识别与估计有误，需重新识别与估计。重新识别与估计。 在实际检验时，主要检验残差序列是否存在自在实际检验时，主

22、要检验残差序列是否存在自相关。相关。 可用可用Q QLBLB统计量进行统计量进行 2 2检验：在给定显著性水平检验：在给定显著性水平下，可计算不同滞后期的下，可计算不同滞后期的Q QLBLB值，通过与值，通过与 2 2分布分布表中的相应临界值比较，来检验是否拒绝残差表中的相应临界值比较，来检验是否拒绝残差序列为白噪声的假设。若大于相应临界值，则序列为白噪声的假设。若大于相应临界值，则应拒绝所估计的模型，需重新识别与估计。应拒绝所估计的模型，需重新识别与估计。 2 2、AICAIC与与SBCSBC模型选择标准模型选择标准 在多组通过识别检验的（在多组通过识别检验的（p,qp,q）值选择最适当）值选择最适当的模型。的模型。 常用的模型选择的判别标准有：常用的模型选择的判别标准有：赤池信息法赤池信息法（Akaike information criterion，简记为，简记为AICAIC）与施瓦兹贝叶斯法（与施瓦兹贝叶斯法（Schwartz Bayesian criterion，简记为，简记为SBCSBC）：）：)ln()ln(2