非平稳过程的时间序列分析.doc

第三章 非平稳过程的时间序列分析1 Brown运动及其性质 我们知道，平稳的时间过程可用ARMA模型或谱表示来近似表达。在统计上，可通过样本值推断出未知参数以及的估计，或给出它的谱密度估计。并可检验模型设定的合理性。但是，经济中仍有大量数据表现出趋势平稳性和非平稳性。如趋势平稳：GDP增长、货币增长等；差分平稳：股票、汇率、利率等的涨落。对非平稳的时间过程，沃尔德分解就不成立。参数估计所依据的极限定理也不能用。我们需要对非平稳的时间序列的描述引入新的工具和更一般的极限定理。它们与布朗运动有关。定义：布朗运动是一个连续时间的随机过程，。（r也可以是R或）如果满足条件：（1）具有概率1；（2）对，有正态分布：。称为正态性。（3）对，是相互独立的。称为独立增量性。注：布朗运动是物理的称谓，数学上叫维纳过程。它最早是由英国植物学家Robert.Brown在1827年观察花粉在水面上的运动时发现的一种现象。理论解释是爱因斯坦1905年首先从物理定律中导出。直到1918年，维纳在他的博士论文和后面一系列的论文中得到了布朗运动的精确数学表达和定义。从定义上看，布朗运动的本质是它的正态性和独立增量性。下面我们给布朗运动一个直观的物理解释：考虑粒子在直线上的随机游动，表示粒子在t时的位置。规定为出发点，且粒子转移的时间间隔为（离散化），转移的步长为。设随机变量表示在时刻是即第k次转移的方向：。那么，就可以表示成：。其中表示的整数部分，含义是在0，t时段进行了转移的次数。可以认为是相互独立的，且，。则，。现在令且。但要求的方差不能趋于0或。理由是，若，则几乎等于0，粒子几乎不动。又若，则意味着粒子在很短时间内远离出发点。这都不符合粒子运动的实际情况。所以，与之间的关系：若，则；若，则。这都不合适。合理的假设条件只能是，即，。则。再由中心极限定理，得： ，当。所以，只要转移时间与步长的平方成正比，当。就有，。又从该模型的物理背景，我们知道，粒子运动在不相交的时间区间是相互独立的。并且在任何时间段内随机游动的位置变化只依赖于时间的长度。因此，具有独立增量性和平稳性。综上所述，我们可以看出，布朗运动是与不衰减的随机游动紧密相关的。布朗运动轨道的连续性和不可微性的说明：从物理含义上看，布朗运动的轨道实质是在大量粒子中随机观察某一个粒子的轨迹。显然，轨迹应当是连续的。但是，粒子每一瞬间都受到介质中分子的碰撞，碰撞后的方向是任意的，而且速度为无穷。从概率含义上看，由，。所以，给定，几乎处处有连续。又对任意给定的，有， ，。此表明，布朗运动在任一点t 的导数为有限的概率为0。即几乎每条轨线上其导数都不存在。布朗运动的有限维分布：给定，欲求随机向量的分布。令。则独立，且。故有联合分布。由。即，。所以，。特别，那么，。所以，对任意，有。布朗运动的平方可和性：给定区间，将进行分割，记第n次分割时的最大子区间长为，如果，例如，取或等分。那么，。证明: 记，则，成立。又，。（由，和标准正态分布的4阶矩等于3。）故有：。所以，。即有，。所以，几乎处处成立。所以，。 利用布朗运动的平方可和性，可以构造一种新的积分形式。2 布朗运动的积分 由于给定，是连续函数，连续函数是黎曼可积的，于是，我们可以定义，这是一个随机变量。更一般，我们定义，。这是一个随机过程，称为布朗运动的关于时间的积分。 因为黎曼和中每个，所以，黎曼N项和的分布都是0均值的正态分布。因此，它的极限分布也是0均值的正态分布。为要得到的分布，我们来计算的方差和协方差。此与时点s和t有关。特别，我们有，。所以，且不再是布朗运动。因为不再具有独立增量性和平稳性，但仍保留了正态性，故是一个高斯过程。下面考虑如下形式的积分：，这里是连续可微函数。注意，这时积分的理念发生了本质性的变化，分割的不再是0 1区间，而是0 1上的布朗运动。进一步考虑随机过程和随机过程的连续二次可微函数的积分，即。特别，这就是伊藤定义的随机积分。问题是这种积分能不能像一般的RS积分的定义那样，存在一个不依赖分法和取法的求和极限？我们来考察积分的定义，是一个二阶矩过程，即。 引入的一组分点，记。于是得到的一组相应的分割：。类似于黎曼和，考察和式： ，其中。如果，收敛。那么该和式就满足RS积分的定义。但遗憾的是，我们知道，关于t是几乎处处不可微的，所以必不是有界变差的。即和式不收敛。又当任意取，n项和极限可能依赖于的取法，导致极限不存在。故上述和式没有意义。我们需要对和式和收敛方式加以限制。由布朗运动的性质知，是平方变差是可和的，于是，我们固定取左端点的值，把和式修正为：。并如果收敛，即和式均方收敛。则称均方收敛的极限为关于布朗运动的伊藤积分。更一般，称为关于布朗运动的伊藤积分。注：不是任意的二阶矩过程都可以“分割、加权、求和”的。为要使和式“合理”，布朗运动的独立增量性和正态一致性是非常重要的。此外，也可以选择其他的固定值。如，选择中点，则和式就是另一种形式的积分。选择左端点的理由是，随机积分是鞅。鞅是一类特殊的随机过程。它有许多好的性质，如鞅能分割，能保证不相交的时间段的不相关性（比独立增量性弱）。故鞅能积分。等等。暂不去管它。接下来的问题自然是如何求伊藤积分，这就是著名的伊藤公式。设是一个二次可微连续函数，记，定义“微分”：。注意，与一般函数的微分有所不同，这里还要加上一个二阶导数项，按理，增量部分应当是，又由于的平方可和性，故。为什么要加上一个二阶导数的“尾巴”？这种微分定义的合理性先不去管它。于是，两边积分就是：。由于，最后，得到如下的伊藤公式：看出，伊藤公式类似于一般积分的分部积分公式，通过伊藤公式，可把伊藤积分转化成普通可计算的R-S积分。请看例：例1如果，则。从而，由伊藤公式，。所以，当，即，那么，于是得：。这个公式后面经常用到。 例2如果，则。 例33 随机游动的弱收敛研究布朗运动的目的是因为各种随机游动时间序列的和式的极限会收敛到布朗运动或收敛到它的积分。定义：是一随机过程序列。称弱收敛到布朗运动，如果满足：（1）对的有限维分布族，即对任意的，随机向量的联合分布收敛到。（2）对任意，存在，使得当时，对一切，有： 。并简记成：。注：弱收敛的意思是，固定时间，是依分布收敛的。且收敛对时间是一致的。泛函中心极限定理：设序列，构造随机过程序列为：，则。它是普通中心极限定理的推广。注：当就是中心极限定理，当遍历就是泛函中心极限定理。证明：因为，又因为时，。且。所以，。又自然成立。注：取整的含义是次独立事件发生任意次的部分和，可理解为一次事件发生的概率。可以进一步推广到独立同分布的线性过程的任意次部分和的情况。，且。（一阶和条件成立）则，且。证明：由BN分解定理，这里，。因此，。由知，二阶矩平稳。这能保证。所以，。所以，。（细节部分自己完成。）特别，。这就回到前述的线性过程的CLT。因此，线性过程的任意部分和的弱收敛的泛函CLT是它的直接推广。 接下来讨论一类与随机游动有关的随机过程序列的弱收敛。 首先把连续函数空间扩大到所有右连续和有左极限的函数全体。在中定义距离：，。则构成距离空间。令g是上的连续泛函，且当。具体例子有：，（1）取上确界，； （2）取特定值，； （3）取积分值，； （4）取均方积分值，。等等。泛函连续映射定理：设和是上的随机过程，且对，是连续的。（注意不一定连续。）若，是上的连续泛函，则。这是随机变量连续映射定理的直接推广。有了上述准备，下面考虑随机游动，有关部分和的弱收敛。这些弱收敛在后面的单位根检验中有着基本的重要性。不在于记住公式，关键是理解。（1）证明：，这里令。设，即，那么，。注意到求和t从1到n 相当于r从0到1的n等分区间中任意取值，且相当于区间长。这是一个上的函数的黎曼和。即，。因为，又是连续泛函，由连续映射定理，可得：当，。比较过程，。有，。看出，随机游动部分和的极限性质与平稳过程部分和的极限性质有本质不同。这个部分和极限希望仔细阅读、体会。以下的部分和类似：（2）证明：。故得。（3）证明：（由）。（4）证明：先证一个引理，对序列，有公式：成立。，。两边再对求和，立得。记，那么，。 （CLT）; (LNT)。由SlutsekyTH和泛函CLT，有，。4 有均值、有趋势和有关联的随机游动的弱收敛随机过程可能是一个加上常数项的随机游动： ；也有可能是加上一个趋势项的随机游动： ；甚至有可能干扰是有关联的随机游动： 。先讨论有均值、有趋势的随机游动。这样的随机过程，如果c或c、d已知。那么，或就是一个普通的随机游动。的有关极限行为前面已处理过。问题是，当c或c、d未知，我们怀疑是一个加常数项或加趋势项的随机游动时，我们对c或c、d需要有一个估计或。然后令或，得到一个新的随机过程或。这样的随机过程是一个普通的随机过程吗？它的极限行为同普通的随机游动是一致的吗?我们将发现，由于或是样本的函数，不同类型的随机游动其极限行为是很不一样的。问题：一个布朗运动，选择什么常数c，能使成立？显然，。于是，定义： 为去均值（demeaned）的布朗运动。又，选择什么线性函数可以使得成立？同理，且，得出：。于是，定义： 为去线性趋势（detrended）简称去趋势的布朗运动。注：显见，。去均值或去趋势的布朗运动虽然不再是标准的布朗运动，但它们仍然是高斯过程。下面可以讨论有均值、有趋势的随机游动的弱收敛。设有随机过程序列的T次观测：。定义去均值的随机过程序列为： ，。定义去趋势的随机过程序列为： ，。这里是的OLS估计。现在考虑是随机游动，且令。那么，对于去均值的随机游动，因为，所以，。令，由前述结论，得：。同理，对带常数项的随机游动，去均值后，仍有：成立。对于去趋势项的随机游动，首先给出的估计：，于是，可得：令，则：，。，。又知，；，。，因此，有：，令，。同理，对带趋势项的随机游动，去趋势后，仍有：成立。一般， ，去均值、去趋势，或带常数、带趋势去均值、去趋势后，得、，有如下弱极限公式：（1）（2）（3）（4）证明：（1）与（3）类似，(2)与（4）类似，只证（3）和（4）。先证（4）。，这里令和用泛函连续映射定理。再证（3），所以，。注意到，如果是的OLS，那么，就是残差。所以，所以，。又由引理，注意到以下事实：当，； ；所以，（3）成立。注意，不等于0。最后，讨论有关联性随机干扰的随机游动的弱收敛。设。此时，之间不再是独立不相关的。这种类型的随机游动称为单位根过程，简记成过程。有时单位根过程与随机游动往往不加区别。但单位根过程的弱极限需要做一些更加细致的处理才能得到。我们知道是个平稳过程，如果，那么，是的长期方差，为的短期方差。特别，当，则。对单位根过程，依据BN分解定理和适当的附加条件，我们有如下的弱极限公式成立：（1）；（已证）（2）；证明：，由（1）、和LNT，立得（2）。注意，与的弱极限有所不同，一般。（3）；证明：。（4）证明： 。 （5）；证明： 。（6）；证明： 。一般的有，成立。（留作练习）单位根过程同样有去均值和去趋势的弱收敛定理，部分结果如下：（留作练习）（1）； 。（2）； 。（3）； 。小结 时间序列有四种非平稳的类型：，1 普通的随机游动，。2 去均值、去趋势的随机游动，。3 单位根过程， 。4 去均值、去趋势的单位根过程，。这四种类型的弱极限是有区别的。所以，在实际应用中要分别对待，不同的类型要用不同的检验方法，其中最一般的非平稳类型是第4类。判断数据属于那种类型对检验的效率很重要，但最重要的是要把有趋势的平稳过程与各种单位根过程区分开来。否则，估计就是误导的。5 趋势平稳与差分平稳的讨论大量宏观经济数据呈现出时间趋势性，从时间序列的观点看，产生时间趋势的原因有二种背景：1 确定性的时间趋势称为趋势平稳的。模型中有一定的经济含义，如折旧、货币贬值等，它们与时间有直接的关系。2 随机性的再生趋势（Resumption） 称为差分平稳的。在模型中称为漂移项，是一个不确定的偏移值。趋势平稳与差分平稳过程，仅从观察到的数据上看，由于与无法区别，所以在图形上没有明显区别。仅仅是差分平稳比趋势平稳波动要显得剧烈些。如图：但是，这两类过程有着本质的不同。如果我们不能加以区别，把这两类过程混同，在统计推断上就会犯很大的错误。我们从以下几方面的分析看它们的区别：1 未来预测的比较给，若趋势平稳，那么，。给定t时的信息，对未来的预测只能是，。若差分平稳，那么，。给定t时的信息，对未来的预测则是， 。特别，即，且。那么，趋势平稳：；差分平稳：。2 预测误差的比较因为对趋势平稳，所以，。对差分平稳，所以，。3 动态乘子比较对趋势平稳，有：，；对差分平稳，有：，。所以，冲击对趋势平稳没有长期效应，而对差分平稳则有长期效应。4 联立性比较考虑二个变量的趋势平稳过程：，。如果认为存在关联，那么，Y对X回归：，。如果，那么真值，。可以证明，的OLS是一致的和渐近正态的。（习题）现在考虑二个变量有漂移的差分平稳过程：，。同样，Y对X回归：，。那么，真值。且。由于是单位根过程，所以，一般也是一个单位根过程。我们知道，该过程的OLS是一致的，且极限分布是退化的。因此，通常建立在正态性基础上的显著性检验的方法失效。不过，在适当条件下，可以是平稳的，此时，和被称为有共积关系。（Conintegrated）共积性导致复杂过程的简约。在共积条件成立的情况下，的OLS就是一致的和渐近正态的。但有文献指出，两个完全不相关的单位根过程有良好的回归结果，称之为伪回归现象。 综上所述，面对一组有趋势性的数据，我们必须要区别它是趋势平稳还是差分平稳的。 如果是多组有趋势性的数据，还要区别单位根过程之间的关联是共积还是伪回归。 6 单位根检验数据是否存在单位根决定过程是否平稳，不平稳的过程是不能用前二章讲的办法直接去做估计的。为此，我们需要对数据做单位根检验。因为数据的单位根有4种类型，不同的类型检验的方法有所不同，拒绝的临界值也不一样，需要区别对待。先看简单的过程, 。则的OLS。对已知，。但当，方差为0，分布退化。，快速依概率收敛到1。这意味着太小了，是的高阶无穷小。事实上，依概率收敛到一个随机变量。1 单位根的检验如果，那么，。证明：。这里，是普通随机游动。由于的分布不依赖于任何未知参数，于是我们可用作为检验统计量，检验是否是单位根过程中的普通随机游动。称之为Dicky-Fuller检验。拒绝，认为不是普通随机游动。具体的，给定，当样本充分大，临界值，即，此意味与1相差很大，应当拒绝。给定，临界值是。又当样本比较少，如左右，5%的临界值调整到，10%的临界值调整到。当样本太少，误差很大，检验没有实际意义。注：临界值通过蒙特卡洛方法获取，有专门的表可查。 2单位根的检验如果，那么，t统计量： 。证明：，于是，在下，由普通随机游动的极限定理，。称之为Dicky-Fuller t检验。，当t值太小，则拒绝的假设。5%的临界值是，10%的临界值是。又当样本左右，5%的临界值调整仍是，10%的临界值调整到。可见，检验，临界值对样本容量不是很敏感的。所以，普通随机游动常用检验。注意，此t 值是单边的左侧检验。且的分布是非对称的，偏度向左。此意味着如果我们误用普通的t检验，易增大第二类错误。（假的接受了）3 有截距项的检验对加上常数项的随机游动，它与普通随机游动的极限行为是不一样的。一般情况下，无特别的理由，我们常设模型为，。如果我们依然假定真实过程为，。那么，从得到的OLS与从得到的OLS就不同，极限分布也不一样。我们需要把这两种随机游动区别开来。在的假设下，由去均值项的随机游动的极限定理， 。拒绝，表示统计量的值太小。5%的临界值是，10%的临界值是。又当样本左右，5%的临界值调整到，10%的临界值调整到。同检验相比，临界值更向左偏移了。 4有截距项的检验同理，考虑统计量：，这里，。在的假设下，得，=。5%的临界值是，10%的临界值是。同非截距项的t统计量相比，的分布也左移了。此外，临界值相对样本也变得更敏感，即收敛速度相对变慢。5 有时间趋势的检验 考虑有时间趋势的过程：，。将代入，得， ，即，。特别当时，则，这是一个带漂移的随机游动。如何检验？设是模型的OLS估计，是的OLS估计。那么，在真之下，可得到：所以，检验统计量太小，拒绝。 6有时间趋势的检验 同理，统计量，这里，。在之下，由去趋势随机游动的弱收敛定理，可得：太小的值拒绝，5%的临界值是，10%的临界值是。同统计量相比，分布与分布更加偏左。注：严格的讲，还应当检验联合假设。以区别真实的随机游动是还是。不过，不太重要。重要的是要区别带趋势的平稳过程和不平稳的带漂移的随机游动。7 增广的和检验（）考虑把随机游动推广到一般的单位根过程，这就意味着。把看成是的一个过程，待定：，。令，则。因此，这里，。再写成：。令，则有。比较，所以，且，称为多项式的单位根。因此，可对，。做OLS估计，并做假设检验。具体做法是，令，。则，再令， ，那么得到，。于是得到OLS，和。从而可得到，和。我们证明：。证明：令，由，所以，。这里，对角线上统计量分布的极限前面已经证明，非对角线上等于0的理由是，已证，。现在考虑，的极限。因为，极限存在