平稳时间序列

§9.2随机时间序列分析模型一、时间序列模型的基本概念及其适用性二、随机时间序列模型的平稳性条件三、随机时间序列模型的识别四、随机时间序列模型的估计五、随机时间序列模型的检验经典计量经济学模型与时间序列模型确定性时间序列模型与随机性时间序列模型一、时间序列模型的基本概念及其适用性1、时间序列模型的基本概念

随机时间序列模型（timeseriesmodeling）是指仅用它的过去值及随机扰动项所建立起来的模型，其一般形式为

Xt=F(Xt-1,Xt-2,…,t)

建立具体的时间序列模型，需解决如下三个问题：

(1)模型的具体形式(2)时序变量的滞后期(3)随机扰动项的结构例如，取线性方程、一期滞后以及白噪声随机扰动项（t=t），模型将是一个1阶自回归过程AR(1)：Xt=Xt-1+t这里，t特指一白噪声。

一般的p阶自回归过程AR(p)是Xt=1Xt-1+2Xt-2+…+pXt-p+t(*)(1)如果随机扰动项是一个白噪声(t=t)，则称(*)式为一纯AR(p)过程（pureAR(p)process），记为Xt=1Xt-1+2Xt-2+…+pXt-p+t(2)如果t不是一个白噪声，通常认为它是一个q阶的移动平均（movingaverage）过程MA(q)：

t=t-1t-1-2t-2--qt-q该式给出了一个纯MA(q)过程（pureMA(p)process）。

将纯AR(p)与纯MA(q)结合，得到一个一般的自回归移动平均（autoregressivemovingaverage）过程ARMA（p,q）：

Xt=1Xt-1+2Xt-2+…+pXt-p+

t-1t-1-2t-2--qt-q

该式表明：（1）一个随机时间序列可以通过一个自回归移动平均过程生成，即该序列可以由其自身的过去或滞后值以及随机扰动项来解释。（2）如果该序列是平稳的，即它的行为并不会随着时间的推移而变化，那么我们就可以通过该序列过去的行为来预测未来。这也正是随机时间序列分析模型的优势所在。经典回归模型的问题：迄今为止，对一个时间序列Xt的变动进行解释或预测，是通过某个单方程回归模型或联立方程回归模型进行的，由于它们以因果关系为基础，且具有一定的模型结构，因此也常称为结构式模型（structuralmodel）。然而，如果Xt波动的主要原因可能是我们无法解释的因素，如气候、消费者偏好的变化等，则利用结构式模型来解释Xt的变动就比较困难或不可能，因为要取得相应的量化数据，并建立令人满意的回归模型是很困难的。有时，即使能估计出一个较为满意的因果关系回归方程，但由于对某些解释变量未来值的预测本身就非常困难，甚至比预测被解释变量的未来值更困难，这时因果关系的回归模型及其预测技术就不适用了。2、时间序列分析模型的适用性

例如，时间序列过去是否有明显的增长趋势，如果增长趋势在过去的行为中占主导地位，能否认为它也会在未来的行为里占主导地位呢？或者时间序列显示出循环周期性行为，我们能否利用过去的这种行为来外推它的未来走向？

●随机时间序列分析模型，就是要通过序列过去的变化特征来预测未来的变化趋势。使用时间序列分析模型的另一个原因在于：

如果经济理论正确地阐释了现实经济结构，则这一结构可以写成类似于ARMA(p,q)式的时间序列分析模型的形式。

在这些情况下，我们采用另一条预测途径：通过时间序列的历史数据，得出关于其过去行为的有关结论，进而对时间序列未来行为进行推断。例如，对于如下最简单的宏观经济模型：

这里，Ct、It、Yt分别表示消费、投资与国民收入。

Ct与Yt作为内生变量，它们的运动是由作为外生变量的投资It的运动及随机扰动项t的变化决定的。上述模型可作变形如下：两个方程等式右边除去第一项外的剩余部分可看成一个综合性的随机扰动项，其特征依赖于投资项It的行为。

如果It是一个白噪声，则消费序列Ct就成为一个1阶自回归过程AR(1)，而收入序列Yt就成为一个(1,1)阶的自回归移动平均过程ARMA(1,1)。二、随机机时间序序列模型型的平稳稳性条件件自回归移移动平均均模型（（ARMA）是是随机时时间序列列分析模模型的普普遍形式式，自回回归模型型（AR）和移移动平均均模型（（MA））是它的的特殊情情况。关于这几几类模型型的研究究，是时间序列列分析的的重点内内容：主要包括括模型的平平稳性分分析、模型的识识别和模型的估估计。1、AR(p)模型的的平稳性性条件随机时间间序列模模型的平平稳性，可通过它它所生成成的随机机时间序序列的平平稳性来来判断。如果一个p阶阶自回归归模型AR(p)生成成的时间间序列是是平稳的的，就说说该AR(p)模型是是平稳的的，否则，就说该AR(p)模型型是非平平稳的。考虑p阶阶自回归归模型AR(p)Xt=1Xt-1+2Xt-2+…+pXt-p+t(*)引入滞后算子子（lagoperator）L：LXt=Xt-1,L2Xt=Xt-2,…,LpXt=Xt-p(*)式式变换为为(1-1L-2L2-…-pLp)Xt=t记(L)=(1-1L-2L2-…-pLp),则称多多项式方方程(z)=(1-1z-2z2-…-pzp)=0为AR(p)的的特征方程程(characteristicequation)。可以证明明，如果该特特征方程程的所有有根在单单位圆外外（根的的模大于于1），，则AR(p)模型是是平稳的的。例9.2.1AR(1)模型型的平稳稳性条件件。对1阶自自回归模模型AR(1)方程两边边平方再再求数学学期望，，得到Xt的方方差由于Xt仅与t相关，因因此，E(Xt-1t)=0。如果该该模型稳稳定，则则有E(Xt2)=E(Xt-12)，从而上上式可变变换为：：在稳定条条件下，，该方差差是一非非负的常常数，从从而有||<1。而AR(1)的的特征方方程的根为z=1/AR(1)稳定定，即||<1，意意味着特特征根大大于1。。例9.2.2AR(2)模型的平平稳性。。对AR(2)模型方程两边边同乘以以Xt，，再取期期望得：：又由于于是同样地，，由原式式还可得得到于是方差差为由平稳性性的定义义，该方方差必须须是一不不变的正正数，于于是有1+2<1,2-1<1,|2|<1这就是是AR(2)的平稳稳性条条件，或称称为平稳域域。它是是一顶顶点分分别为为（-2,-1），（（2,-1），（（0,1）的三三角形形。对应的的特征征方程程1-1z-2z2=0的两个个根z1、z2满足：：z1z2=-1/2,z1+z2=-1/2AR(2)模型解出1，2由AR(2)的的平稳稳性，，|2|=1/|z1||z2|<1，则至至少有有一个个根的的模大大于1，不不妨设设|z1|>1，有于是|z2|>1。由2-1<1可推出出同样样的结结果。。对高阶阶自回回模型型AR(p)来说，多数数情况况下没没有必必要直直接计计算其其特征征方程程的特特征根根，但但有一些有有用的的规则则可用用来检检验高高阶自自回归归模型型的稳稳定性性：(1)AR(p)模型稳稳定的的必要要条件件是：1+2++p<1(2)由于i(i=1,2,p)可正可可负，，AR(p)模型稳稳定的的充分分条件件是：：|1|+|2|++|p|<1对于移移动平平均模模型MR(q)：Xt=t-1t-1-2t-2--qt-q其中t是一个个白噪噪声，，于是是2、MA(q)模型的的平稳稳性当滞后后期大大于q时，Xt的的自协协方差差系数数为0。因此:有限阶阶移动动平均均模型型总是是平稳稳的。由于ARMA(p,q)模型是是AR(p)模型与与MA(q)模型的的组合合：Xt=1Xt-1+2Xt-2+…+pXt-p+t-1t-1-2t-2--qt-q3、ARMA(p,q)模型的的平稳稳性而MA(q)模型总总是平平稳的的，因因此ARMA(p,q)模型的的平稳稳性取取决于于AR(p)部分的的平稳稳性。。当AR(p)部分平平稳时时，则则该ARMA(p,q)模型是是平稳稳的，，否则则，不不是平平稳的的。最后（1））一个个平稳稳的时时间序序列总总可以以找到到生成成它的的平稳稳的随随机过过程或或模型型；（2））一个个非平平稳的的随机机时间间序列列通常常可以以通过过差分分的方方法将将它变变换为为平稳稳的，，对差差分后后平稳稳的时时间序序列也也可找找出对对应的的平稳稳随机机过程程或模模型。。因此，，如果我我们将将一个个非平平稳时时间序序列通通过d次差差分，，将它它变为为平稳稳的，，然后后用一一个平平稳的的ARMA(p,q)模模型作作为它它的生生成模模型，，则我我们就就说该该原始始时间间序列列是一一个自回归归单整整移动动平均均（autoregressiveintegratedmovingaverage））时间间序列列，记记为ARIMA(p,d,q)。例如，，一个ARIMA(2,1,2)时时间序序列在在它成成为平平稳序序列之之前先先得差差分一一次，，然后后用一一个ARMA(2,2)模型型作为为它的的生成成模型型的。。当然，，一个ARIMA(p,0,0)过过程表表示了了一个个纯AR(p)平稳稳过程程；一一个ARIMA(0,0,q)表表示一一个纯纯MA(q)平平稳过过程。。三、随随机时时间序序列模模型的的识别别所谓随随机时时间序序列模模型的的识别别，就是对对于一一个平平稳的的随机机时间间序列列，找找出生生成它它的合合适的的随机机过程程或模模型，即判判断该该时间间序列列是遵遵循一一纯AR过过程、、还是是遵循循一纯纯MA过程程或ARMA过过程。。所使用用的工工具主要是是时间序序列的的自相关关函数数（autocorrelationfunction，ACF）及偏自相相关函函数（partialautocorrelationfunction，PACF）。1、AR(p)过程程(1)自相相关函函数ACF1阶自自回归归模型型AR(1)Xt=Xt-1+t的k阶滞后后自协方方差为：=1,2,…因此，，AR(1)模型的的自相关关函数数为=1,2,…由AR(1)的稳定定性知知||<1，因此此，k时，呈呈指数数形衰衰减，，直到到零。这种种现象象称为为拖尾或称AR(1)有无穷穷记忆忆（infinitememory）。注意，<0时，呈呈振荡荡衰减减状。。Xt=1Xt-1+2Xt-2+t该模型型的方差差0以及滞滞后1期与2期的自自协方方差1,2分别为为２阶自自回归归模型型AR(2)类似地地,可可写出出一般的的k期滞后后自协协方差差：(K=2,3,…)于是,AR(2)的k阶自相相关函函数为：(K=2,3,…)其中:1=1/(1-2),0=1如果AR(2)稳定定，则则由1+2<1知知|k|衰减减趋于于零，，呈拖拖尾状状。至于衰衰减的的形式式，要要看AR(2)特征征根的的实虚虚性，，若为实实根，，则呈呈单调调或振振荡型型衰减减，若若为虚虚根，，则呈呈正弦弦波型型衰减减。一般地地，p阶自回回归模模型AR(p)Xt=1Xt-1+2Xt-2+…pXt-p+tk期滞后后协方方差为为:从而有有自相关关函数数:可见，，无论k有多多大，，k的计算算均与与其１１到p阶滞滞后的的自相相关函函数有有关，因此此呈拖尾尾状。如果AR(p)是稳稳定的的，则则|k|递减减且趋趋于零零。其中：：1/zi是AR(p)特特征方方程(z)=0的特特征根根，由由AR(p)平平稳的的条件件知，，|zi|<1;因此，，当1/zi均为实实数根根时，，k呈几何何型衰衰减（（单调调或振振荡））；当存在在虚数数根时时，则则一对对共扼扼复根根构成成通解解中的的一个个阻尼尼正弦弦波项项，k呈正弦弦波衰衰减。。事实上上，自自相关关函数数是一p阶差差分方方程，，其通通解为为（2））偏自自相关关函数数自相关关函数数ACF(k)给出了了Xt与Xt-1的总体体相关关性，，但总总体相相关性性可能能掩盖盖了变变量间间完全全不同同的隐隐含关关系。。例如，，在AR(1)随机过过程中中，Xt与Xt-2间有相相关性性可能能主要要是由由于它它们各各自与与Xt-1间的相相关性性带来来的:即自相相关函函数中中包含含了这这种所所有的的“间间接””相关关。与之相相反，，Xt与Xt-k间的偏自相相关函函数(partialautocorrelation，，简记记为PACF)则是消消除了了中间间变量量Xt-1，…，，Xt-k+1带来的的间接接相关关后的的直接接相关关性，，它是是在已已知序序列值值Xt-1，…，，Xt-k+1的条件件下，，Xt与Xt-k间关系系的度度量。。从Xt中去掉掉Xt-1的影响响，则则只剩剩下随随机扰扰动项项t，显然然它与与Xt-2无关，，因此此我们们说Xt与Xt-2的偏自相相关系系数为零，，记为为在AR(1)中，同样地地，在AR(p)过过程中中，对所所有的的k>p，Xt与Xt-k间的偏自相相关系系数为零。。AR(p)的一一个主主要特特征是是:k>p时，k*=Corr(Xt,Xt-k)=0即k*在p以后是是截尾尾的。。一随机机时间间序列列的识识别原原则：：若Xt的偏自自相关关函数数在p以后截截尾，，即k>p时，k*=0，，而它它的自自相关关函数数k是拖尾尾的，，则此此序列列是自自回归归AR(p)序序列。。在实际际识别别时，，由于于样本本偏自自相关关函数数rk*是总体体偏自自相关关函数数k*的一个个估计计，由由于样样本的的随机机性，，当k>p时，rk*不会全全为0，而是是在0的上下下波动动。但但可以以证明明，当当k>p时，rk*服从如如下渐渐近正正态分分布:rk*~N(0,1/n)式中n表示样样本容容量。。因此，，如果果计算算的rk*满足需指出出的是是，我们就就有95.5%的把握握判断断原时时间序序列在在p之后截截尾。。对MA(1)过程2、MA(q)过程程可容易易地写写出它它的自协方方差系系数：于是，，MA(1)过过程的的自相关关函数数为：可见，，当k>1时，k>0，即Xt与Xt-k不相关关，MA(1)自相相关函函数是是截尾尾的。。MA(1)过程可可以等等价地地写成成t关于无无穷序序列Xt，Xt-1，…的线性性组合合的形形式：：或（*））(*)是一个个AR()过程，，它的的偏自自相关关函数数非截截尾但但却趋趋于零零，因因此MA(1)的偏偏自相相关函函数是是非截截尾但但却趋趋于零零的。。注意:(*)式只有有当||<1时才有有意义义，否否则意意味着着距Xt越越远的的X值，对对Xt的影影响越越大，，显然然不符符合常常理。。因此，，我们们把||<1称为MA(1)的可可逆性性条件件（invertibilitycondition）或或可逆逆域。。其自协方方差系系数为一般地地，q阶移动动平均均过程程MA(q)相应的的自相关关函数数为可见，，当k>q时，，Xt与Xt-k不相关关，即即存在在截尾尾现象象，因因此，，当k>q时时，k=0是是MA(q)的的一个个特征征。于是：：可以根根据自自相关关系数数是否否从某某一点点开始始一直直为0来判判断MA(q)模型型的阶阶。与MA(1)相仿，，可以以验证证MA(q)过程的的偏自自相关关函数数是非非截尾尾但趋趋于零零的。。MA(q)模型的的识别别规则则：若随机机序列列的自自相关关函数数截尾尾，即即自q以后后，k=0（（k>q）；；而它它的偏偏自相相关函函数是是拖尾尾的，，则此此序列列是滑滑动平平均MA(q)序列列。同样需需要注注意的的是：在实实际识识别时时，由由于样样本自自相关关函数数rk是总体体自相相关函函数k的一个个估计计，由由于样样本的的随机机性，，当k>q时，rk不会全全为0，而是是在0的上下下波动动。但但可以以证明明，当当k>q时，rk服从如如下渐渐近正正态分分布:rk~N(0,1/n)式中n表示样样本容容量。。因此，，如果计计算的的rk满足：：我们就有95.5%的把把握判判断原原时间间序列列在q之后截截尾。ARMA(p,q)的自相相关函函数，可以以看作作MA(q)的自相相关函函数和和AR(p)的自相相关函函数的的混合合物。。当p=0时，它它具有有截尾尾性质质；当q=0时，它它具有有拖尾尾性质质；当p、q都不为为0时，它它具有有拖尾尾性质质从识别别上看看，通通常：：ARMA(p，q)过程的的偏自自相关关函数数（PACF）可能在在p阶滞后后前有有几项项明显显的尖尖柱（（spikes），但但从p阶滞后后项开开始逐逐渐趋趋向于于零；；而它的自自相关关函数数（ACF）则是在在q阶滞后后前有有几项项明显显的尖尖柱，，从q阶滞后后项开开始逐逐渐趋趋向于于零。。3、ARMA(p,q)过过程四、随随机时时间序序列模模型的的估计计AR(p)、MA(q)、ARMA(p,q)模型型的估估计方方法较较多，，大体上上分为为3类类：（1））最小小二乘乘估计计；（2））矩估估计；；（3））利用用自相相关函函数的的直接接估计计。下面有有选择择地加加以介介绍。。结构阶数模型识别确定估计参数⒈AR(p)模型型的YuleWalker方程程估计计在AR(p)模型的的识别别中，，曾得得到利用k=-k，得到到如下下方程程组：：此方程程组被被称为为YuleWalker方程组组。该方程程组建建立了了AR(p)模模型的的模型型参数数1,2,,p与自相相关函函数1,2,,p的关系系，利用实实际时时间序序列提提供的的信息息，首先求得自自相关关函数数的估估计值值然后利用YuleWalker方程程组，，求解解模型型参数数的估估计值值由于于是从而可可得2的估计计值在具体体计算算时，，可用样样本自自相关关函数数rk替代。。⒉MA(q)模型型的矩矩估计计将MA(q)模型的的自协协方差差函数数中的的各个个量用用估计计量代代替，，得到到：首先求得自自协方方差函函数的的估计计值，，(*)是一个个包含含(q+1)个待估估参数数(*)的非线线性方方程组组，可可以用用直接法法或迭代法法求解。。常用的的迭代代方法法有线性迭迭代法法和Newton-Raphsan迭迭代法法。（1））MA(1)模模型的的直接接算法法对于MA(1)模型型，（（*））式相相应地地写成成于是或有于是有有解由于参参数估估计有有两组组解，，可根根据可可逆性性条件件|1|<1来判断选取取一组。（2）MA(q)模模型的迭代代算法对于q>1的MA(q)模型型，一般用用迭代算法法估计参数数：由（*）式式得第一步，给出的一组初值值，比如代入（**）式，计算算出第一次次迭代值（**）第二步，将第一次次迭代值代代入（**）式，计算算出第二次次迭代值按此反复迭迭代下去，，直到第m步的迭代值值与第m-1步的迭代值值相差不大大时（满足足一定的精精度），便便停止迭代代，并用第第m步的迭代结结果作为（（**）的近似解解。⒊ARMA(p,q)模型型的矩估计计在ARMA(p,q)中共有有(p+q+1)个个待估参数数1,2,,p与1,2,,q以及2，其估计量量计算步骤骤及公式如如下：第一步，估计1,2,,p是总体自相相关函数的的估计值，，可用样本本自相关函函数rk代替。第二步，改写模型，，求1,2,,q以及2的估计值将模型改写为：令于是(*)可以写成：：(*)构成一个MA模型。按照照估计MA模型参数的的方法，可可以得到1,2,,q以及2的估计值。。⒋AR(p)的最最小二乘估估计假设模型AR(p)的参数估计计值已经得得到，即有有残差的平方方和为：(*)根据最小二二乘原理，，所要求的的参数估计计值是下列列方程组的的解：即j=1,2,…,p(**)解该方程组组，就可得得到待估参参数的估计计值。为了与AR(p)模型的YuleWalker方程估计进进行比较，，将(**)改写成：j=1,2,…,p由自协方差差函数的定定义，并用用自协方差差函数的估估计值代入，上式式表示的方方程组即为为：或j=1,2,…,pj=1,2,…,p解该方程组组，得到：：即为参数的的最小二乘乘估计。YuleWalker方程程组的解比较发现，，当n足够大时，，二者是相相似的。2的估计值为为：需要说明的的是，在上述模型型的平稳性性、识别与与估计的讨讨论中，ARMA(p,q)模型中均未未包含常数数项。如果包含常常数项，该该常数项并并不影响模模型的原有有性质，因为通过过适当的变变形，可将将包含常数数项的模型型转换为不不含常数项项的模型。。下面以一般般的ARMA(p,q)模型为例说说明。对含有常数数项的模型型方程两边同同减/(1-1--p)，则可得到到其中五、模型的的检验由于ARMA(p,q)模型型的识别与与估计是在在假设随机机扰动项是是一白噪声声的基础上上进行的，，因此，如果估计的的模型确认认正确的话话，残差应应代表一白白噪声序列列。如果通过所所估计的模模型计算的的样本残差差不代表一一白噪声，，则说明模模型的识别别与估计有有误，需重重新识别与与估计。在实际检验验时，主要要检验残差差序列是否否存在自相相关。1、残差项项的白噪声声检验可用QLB的统计量进进行2检验：在给定显显著性水平平下，可计计算不同滞滞后期的QLB值，通过与与2分布表中的的相应临界界值比较，，来检验是是否拒绝残残差序列为为白噪声的的假设。若大于相应应临界值，，则应拒绝绝所估计的的模型，需需重新识别别与估计。。2、AIC与SBC模型选择择标准另外一个遇遇到的问题题是，在实实际识别ARMA(p,q)模型时，，需多次反反复偿试，，有可能存存在不止一一组（p,q）值都都能通过识识别检验。。显然，增加p与q的阶数，，可增加拟拟合优度，但却同时降降低了自由由度。因此，对可能的适适当的模型型，存在着着模型的““简洁性””与模型的的拟合优度度的权衡选选择问题。。其中，n为为待估参数数个数（p+q+可可能存在的的常数项）），T为可可使用的观观测值，RSS为残残差平方和和（Residualsumofsquares）。在选择可能能的模型时时，AIC与SBC越小越好好显然，如果果添加的滞滞后项没有有解释能力力，则对RSS值的的减小没有有多大帮助助，却增加加待估参数数的个数，，因此使得得AIC或或SBC的的值增加。。需注意的是是：在不同模型型间进行比比较时，必必须选取相相同的时间间段。常用的模型型选择的判判别标准有有：赤池信息法法（Akaikeinformationcriterion，简记为AIC）与施瓦兹贝叶叶斯法（SchwartzBayesiancriterion，，简记为SBC）：由第一节节知：中中国支出出法GDP是非非平稳的的，但它它的一阶阶差分是是平稳的的，即支支出法GDP是是I(1)时间间序列。。可以对经经过一阶阶差分后后的GDP建立立适当的的ARMA(p,q)模型。。记GDP经一阶阶差分后后的新序序列为GDPD1，该该新序列列的样本本自相关关函数图图与偏自自相关函函数图如如下：例9.2.3中国支出出法GDP的ARMA(p,q)模模型估计计。图形：样本自相相关函数数图形呈呈正弦线线型衰减减波，而而偏自相相关函数数图形则则在滞后后两期后后迅速趋趋于0。。因此可初步判判断该序序列满足足2阶自自回归过过程AR(2)。自相关函函数与偏自相关关函数的函数值：：相关函数数具有明明显的拖拖尾性；；偏自相关关函数值值在k>2以后后，可认为：：偏自相关关函数是是截尾的的。再次次验证了了一阶差差分后的的GDP满足AR(2)随机机过程。。设序列GDPD1的模型形形式为有如下YuleWalker方方程：解为：用OLS法回归归的结果果为：（7.91)(-3.60)r2=0.8469R2=0.8385DW=1.15有时，在在用回归归法时，，也可加加入常数数项。本例中加加入常数数项的回回