非平稳序列的随机分析

第四章非平稳序列的随机分析本章结构差分运算2.ARIMA模型3.Auto-Regressive模型4.异方差及差分齐性变换5.条件异方差模型6.时间序列的分解1.4.1时间序列的分解Wold分解定理HermanWold，(1908-1992),瑞典人1938年提出Wold分解定理。1960年提出偏最小二乘估计方法(PLS)Cramer分解定理HaraldCramer,

(1893-1985)，瑞典人，斯德哥尔摩大学教授，Wold的指导教师。Wold分解定理〔1938〕对于任何一个离散平稳过程它都可以分解为两个不相关的平稳序列之和，其中一个为确定性的，另一个为随机性的，不妨记作其中：为确定性序列，为随机序列，它们需要满足如下条件〔1〕〔2〕

〔3〕确定性序列与随机序列的定义对任意序列而言，令关于q期之前的序列值作线性回归其中为回归残差序列，。确定性序列，假设随机序列，假设ARMA模型分解确定性序列随机序列Cramer分解定理〔1961〕任何一个时间序列都可以分解为两局部的叠加：其中一局部是由多项式决定确实定性趋势成分，另一局部是平稳的零均值误差成分，即确定性影响随机性影响对两个分解定理的理解Wold分解定理说明任何平稳序列都可以分解为确定性序列和随机序列之和。它是现代时间序列分析理论的灵魂，是构造ARMA模型拟合平稳序列的理论根底。Cramer分解定理是Wold分解定理的理论推广，它说明任何一个序列的波动都可以视为同时受到了确定性影响和随机性影响的综合作用。平稳序列要求这两方面的影响都是稳定的，而非平稳序列产生的机理就在于它所受到的这两方面的影响至少有一方面是不稳定的。本章结构差分运算2.ARIMA模型3.Auto-Regressive模型4.异方差及差分齐性变换5.条件异方差模型6.时间序列的分解1.4.2差分运算本节结构差分运算的实质差分方式的选择过差分差分运算的实质差分方法是一种非常简便、有效确实定性信息提取方法Cramer分解定理在理论上保证了适当阶数的差分一定可以充分提取确定性信息差分运算的实质是使用自回归的方式提取确定性信息差分方式的选择序列蕴含着显著的线性趋势，一阶差分就可以实现趋势平稳序列蕴含着曲线趋势，通常低阶〔二阶或三阶〕差分就可以提取出曲线趋势的影响对于蕴含着固定周期的序列进行步长为周期长度的差分运算，通常可以较好地提取周期信息例4.1【例2.1】1964年——1999年中国纱年产量序列蕴含着一个近似线性的递增趋势。对该序列进行一阶差分运算考察差分运算对该序列线性趋势信息的提取作用

差分前后时序图原序列时序图差分后序列时序图例4.2尝试提取1950年——1999年北京市民用车辆拥有量序列确实定性信息差分后序列时序图一阶差分二阶差分例4.3差分运算提取1962年1月——1975年12月平均每头奶牛的月产奶量序列中确实定性信息差分后序列时序图一阶差分1阶－12步差分过差分

从理论上而言，足够屡次的差分运算可以充分地提取原序列中的非平稳确定性信息。但应当注意的是，差分运算的阶数并不是越多越好。因为差分运算是一种对信息的提取、加工过程，每次差分都会有信息的损失。在实际应用中差分运算的阶数得适当，应当防止过度差分的现象。例4.4假设序列如下

考察一阶差分后序列和二阶差分序列的平稳性与方差比较一阶差分平稳方差小二阶差分〔过差分〕平稳方差大本章结构差分运算2.ARIMA模型3.Auto-Regressive模型4.异方差及差分齐性变换5.条件异方差模型6.时间序列的分解1.4.3ARIMA模型本节结构ARIMA模型结构ARIMA模型性质ARIMA模型建模ARIMA模型预测疏系数模型季节模型ARIMA模型结构使用场合差分平稳序列拟合模型结构ARIMA模型族d=0ARIMA(p,d,q)=ARMA(p,q)P=0ARIMA(P,d,q)=IMA(d,q)q=0ARIMA(P,d,q)=ARI(p,d)d=1,P=q=0ARIMA(P,d,q)=randomwalkmodel随机游走模型(randomwalk)模型结构模型使用场合KarlPearson(1905)在《自然》杂志上提问：假设有个醉汉醉得非常严重，完全丧失方向感，把他放在荒郊野外，一段时间之后再去找他，在什么地方找到他的概率最大呢？这个醉汉的行走轨迹就是一个随机游走模型。传统的经济学家普遍认为投机价格的走势类似于随机游走模型，随机游走模型也是有效市场理论的核心。ARIMA模型的平稳性ARIMA(p,d,q)模型共有p+d个特征根，其中p个在单位圆内，d个在单位圆上。所以当时ARIMA(p,d,q)模型非平稳。例4.5ARIMA(0,1,0)时序图ARIMA模型的方差齐性时，原序列方差非齐性d阶差分后，差分后序列方差齐性ARIMA模型建模步骤获得观察值序列平稳性检验差分运算YN白噪声检验Y分析结束N拟合ARMA模型例4.6对1952年——1988年中国农业实际国民收入指数序列建模

一阶差分序列时序图一阶差分序列自相关图一阶差分后序列白噪声检验延迟阶数

统计量P值615.330.01781218.330.10601824.660.1344拟合ARMA模型偏自相关图建模定阶ARIMA(0,1,1)参数估计模型检验残差白噪声检验参数显著性检验延迟阶数统计量P值待估参数统计量P值63.630.60362.390.0223127.860.7262－<0.00011811.030.8552ARIMA模型预测原那么最小均方误差预测原理Green函数递推公式预测值例4.7ARIMA(1,1,1)模型为

且求的95％的置信区间预测值等价形式计算预测值预报方差与置信区间广义自相关函数为Green函数为方差为95%置信区间为例4.6续：对中国农业实际国民收入指数序列的预测

疏系数模型ARIMA(p,d,q)模型是指d阶差分后自相关最高阶数为p，移动平均最高阶数为q的模型，通常它包含p+q个独立的未知系数：如果该模型中有局部自相关系数或局部移动平滑系数为零，即原模型中有局部系数省缺了，那么该模型称为疏系数模型。疏系数模型类型如果只是自相关局部有省缺系数，那么该疏系数模型可以简记为为非零自相关系数的阶数如果只是移动平滑局部有省缺系数，那么该疏系数模型可以简记为为非零移动平均系数的阶数如果自相关和移动平滑局部都有省缺，可以简记为例4.8对1917年－1975年美国23岁妇女每万人生育率序列建模

一阶差分自相关图偏自相关图建模定阶ARIMA((1,4),1,0)参数估计模型检验模型显著参数显著季节模型简单季节模型乘积季节模型

简单季节模型简单季节模型是指序列中的季节效应和其它效应之间是加法关系简单季节模型通过简单的趋势差分、季节差分之后序列即可转化为平稳，它的模型结构通常如下

例4.9拟合1962——1991年德国工人季度失业率序列

差分平稳对原序列作一阶差分消除趋势，再作4步差分消除季节效应的影响，差分后序列的时序图如下

白噪声检验延迟阶数

统计量P值643.84<0.00011251.71<0.00011854.48<0.0001差分后序列自相关图差分后序列偏自相关图模型拟合定阶ARIMA((1,4),(1,4),0)参数估计模型检验残差白噪声检验参数显著性检验延迟阶数

统计量P值待估参数

统计量P值62.090.71915.48<0.00011210.990.3584-3.41<0.0001拟合效果图乘积季节模型使用场合序列的季节效应、长期趋势效应和随机波动之间有着复杂地相互关联性，简单的季节模型不能充分地提取其中的相关关系构造原理短期相关性用低阶ARMA(p,q)模型提取季节相关性用以周期步长S为单位的ARMA(P,Q)模型提取假设短期相关和季节效应之间具有乘积关系，模型结构如下

例4.10:拟合1948——1981年美国女性月度失业率序列

差分平稳一阶、12步差分差分后序列自相关图差分后序列偏自相关图简单季节模型拟合结果延迟阶数拟合模型残差白噪声检验AR(1,12)MA(1,2,12)ARMA((1,12),(1,12)

值P值

值P值

值P值614.580.00579.50.023315.770.00041216.420.088314.190.115817.990.0213结果拟合模型均不显著乘积季节模型拟合模型定阶ARIMA(1,1,1)×(0,1,1)12参数估计模型检验残差白噪声检验参数显著性检验延迟阶数

统计量P值待估参数

统计量P值64.500.2120-4.66<0.0001129.420.400223.03<0.00011820.580.1507-6.81<0.0001结果模型显著参数均显著乘积季节模型拟合效果图本章结构差分运算2.ARIMA模型3.Auto-Regressive模型4.异方差及差分齐性变换5.条件异方差模型6.时间序列的分解1.4.4

Auto-Regressive模型构造思想首先通过确定性因素分解方法提取序列中主要确实定性信息然后对残差序列拟合自回归模型，以便充分提取相关信息Auto-Regressive模型结构对趋势效应的常用拟合方法自变量为时间t的幂函数自变量为历史观察值对季节效应的常用拟合方法给定季节指数建立季节自回归模型例4.6续使用Auto-Regressive模型分析1952年－1988年中国农业实际国民收入指数序列。时序图显示该序列有显著的线性递增趋势，但没有季节效应，所以考虑建立如下结构的Auto-Regressive模型

趋势拟合方法一：变量为时间t的幂函数方法二：变量为一阶延迟序列值

趋势拟合效果图残差自相关检验检验原理回归模型拟合充分，残差的性质回归模型拟合得不充分，残差的性质Durbin-Waston检验〔DW检验〕假设条件原假设：残差序列不存在一阶自相关性

备择假设：残差序列存在一阶自相关性

DW统计量构造统计量DW统计量和自相关系数的关系DW统计量的判定结果正相关相关性待定不相关相关性待定负相关042例4.6续

检验第一个确定性趋势模型

残差序列的自相关性。DW检验结果检验结果检验结论检验结果显示残差序列高度正自相关。DW统计量的值P值0.13781.421.530.0001Durbinh检验

DW统计量的缺陷当回归因子包含延迟因变量时，残差序列的DW统计量是一个有偏统计量。在这种场合下使用DW统计量容易产生残差序列正自相关性不显著的误判

Durbinh检验例4.6续检验第二个确定性趋势模型

残差序列的自相关性。Dh检验结果检验结果检验结论检验结果显示残差序列高度正自相关。Dh统计量的值P值2.80380.0025残差序列拟合确定自回归模型的阶数参数估计模型检验例4.6续对第一个确定性趋势模型的残差序列进行拟合残差序列自相关图残差序列偏自相关图模型拟合定阶AR(2)参数估计方法极大似然估计最终拟合模型口径例4.6第二个Auto－Regressive模型的拟合结果三个拟合模型的比较模型AICSBCARIMA(0,1,1)模型：249.3305252.4976Auto－Regressive模型一：260.8454267.2891Auto－Regressive模型二：250.6317253.7987本章结构差分运算2.ARIMA模型3.Auto-Regressive模型4.异方差及差分齐性变换5.条件异方差模型6.时间序列的分解1.4.5异方差的性质异方差的定义如果随机误差序列的方差会随着时间的变化而变化，这种情况被称作为异方差异方差的影响无视异方差的存在会导致残差的方差会被严重低估，继而参数显著性检验容易犯纳伪错误，这使得参数的显著性检验失去意义，最终导致模型的拟合精度受影响。异方差直观诊断——残差图方差齐性残差图递增型异方差残差图异方差直观诊断——残差图递减型异方差综合型异方差异方差直观诊断——残差平方图原理残差序列的方差实际上就是它平方的期望。所以考察残差序列是否方差齐性，主要是考察残差平方序列是否平稳

例4.11直观考察美国1963年4月——1971年7月短期国库券的月度收益率序列的方差齐性。

一阶差分后残差图一阶差分后残差平方图异方差处理方法假设异方差函数具体形式，进行方差齐性变化假设不知异方差函数的具体形式，拟合条件异方差模型4.6方差齐性变换使用场合序列显示出显著的异方差性，且方差与均值之间具有某种函数关系

其中：是某个函数处理思路尝试寻找一个转换函数，使得经转换后的变量满足方差齐性转换函数确实定原理转换函数在附近作一阶泰勒展开求转换函数的方差转换函数确实定常用转换函数确实定在实践中，许多金融时间序列都呈现出异方差的性质，而且通常序列的标准差与其水平之间具有某种正比关系，即序列的水平低时，序列的波动范围小，序列的水平高时，序列的波动范围大。对于这种异方差的性质，最简单的假定为转换函数确实定例4.11续对美国1963年4月——1971年7月短期国库券的月度收益率序列使用方差齐性变换方法进行分析

假定函数变换对数序列时序图一阶差分后序列图白噪声检验延迟阶数LB统计量P值63.580.73371210.820.54411821.710.2452拟合模型口径及拟合效果图本章结构差分运算2.ARIMA模型3.Auto-Regressive模型4.异方差及差分齐性变换5.条件异方差模型6.时间序列的分解1.4.7条件异方差模型ARCH模型GARCH模型GARCH模型的变体EGARCH模型IGARCH模型GARCH-M模型AR-GARCH模型条件异方差模型的提出方差齐性变换为异方差序列的精确拟合提供了一个很好的解决方法，但要使用方差齐性变换必须得事先知道异方差函数的形式，而这通常是不可能的。实践中，在进行金融时间序列分析时，由于金融序列的标准差与水平之间通常具有某种正相关关系，所以异方差函数经常被假定为继而导致对数变换在进行金融时间序列分析时被普遍采用。但大量的实践证明这种假定太简单化了,对数变换通常只适用于方差随均值变化而变化的局部序列。异方差的特征千变万化,对数变换并不能将所有的异方差序列转换为方差齐性。本节介绍一种在宏观经济领域和金融领域被广泛采用的异方差处理方法：条件异方差模型。集群效应在宏观经济领域或者是金融领域，经常可以看到具有如下特征的时间序列：它们在消除确定性非平稳因素的影响之后，残差序列的波动在大局部时段是平稳的，但却会在某些时段波动持续偏高，在某些时段波动持续偏低，呈现出集群效应〔volatilitycluster〕。例4.12考察1926-1991年标准普尔500股票价值加权月度收益率序列的集群效应特征。时序图显示该序列没有显著的非平稳特征。序列围绕在零值附近波动，大局部时期波动范围在-0.1~0.1之间。但是在一些特殊时段：比方1930年前后、1940年前后、1975年前后、以及1990年前后，序列的波动大起大落。这就是集群效应特征。放大时序图进一步放大时序图，只考察1926-1935年这段时期的收益率波动情况，可以更清晰地看到一段时期波动持续偏小，一段时期波动持续偏大的显著集群特征集群效应的影响我们通常用方差来描述序列的波动，集群效应就意味着从整个序列观察期而言，序列的方差是根本齐性的，但在某一段或某几段时期方差却显著异于期望方差。这种序列波动特征给从事利率、汇率、通货膨胀率、股票价格指数等金融时间序列预测的研究人员带来了很大的困惑，因为基于方差齐性得到的置信区间在集群效应存在时是不准确的。他们对这些变量的预测能力随着时期的不同而有相当大的变化。对于资产持有者而言，他们并不关心资产收益率在所有时段的综合表现，他们关注的是在它们持有资产的这段时间，资产收益率会不会有大的波动。基于序列全程方差齐性的分析方法无法满足他们的分析需要，这时需要使用能考虑集群效应的新模型，即条件异方差模型。ARCH模型自回归条件异方差模型的全称是AutoregressiveConditionalHeteroskedastic，有时简称为条件异方差模型或ARCH模型。它是Engle于1982年在分析英国通货膨胀率序列时提出的残差平方自回归模型。ARCH模型构造原理在方差非齐的残差序列中，蕴含着某种相关信息，我们可以通过构造适当的模型，提取这些相关信息，以获得序列异方差波动特征。ARCH模型的结构对序列的水平建模对一个时间序列，我们通常关注两个最关键的条件统计量：〔1〕在历史信息情况下，该序列的条件水平前面学过的ARIMA模型，残差自回归模型，确定性因素分解模型等都属于对序列的水平进行建模。这些模型主要拟合并预测序列的平均水平会发生怎样的变化。

对序列的波动性建模因为水平只是一个点估计，无法给出估计精度，所以通常我们还需要关注序列的波动，估计出置信区间。所以对一个时间序列，我们还关注另一个关键的条件统计量是：〔2〕在历史信息情况下，该序列的条件波动以前我们求置信区间时，都假定残差序列方差齐性。这种假定在异方差场合就会出现问题。如果序列残差具有集群效应，且近期正处于大起大落的那段时期，那么这段时间的真实方差通常就比齐性方差大。这时，按照方差齐性的假定估计的95%的置信区间，它的真实置信水平一定低于95%。而ARCH模型就是要构造一个模型，利用历史信息，得到条件方差信息ARCH模型的完整结构当我们拿到一个观察值序列，完整的分析应该是水平和波动两方面都关注。我们通常会首先提取序列的水平相关信息，然后分析残差序列中蕴含的波动相关信息。这两方面的信息综合起来才是比较完整和精确的分析。所以使用ARCH模型提取异方差中蕴含的相关信息的完整结构为ARCH检验检验目的：要拟合ARCH模型，首先需要进行ARCH检验。ARCH检验是一种特殊的异方差检验，它不仅要检验序列具有异方差性，而且还要求这种异方差性是由某种自相关关系造成的，这种自相关关系，可以用残差序列的自回归模型进行拟合。常用的检验统计量PortmanteaQ检验〔Mcleod&Li,1983)拉格朗日乘子〔LM〕检验(Engle,1982)PortmanteaQ检验假设条件检验统计量检验结果拒绝原假设接受原假设LM检验拉格朗日乘子检验的构造思想是：假设残差序列方差非齐，且具有集群效应，那么残差平方序列通常具有自相关性。那么我们就可以尝试使用自回归模型〔模型〕拟合残差平方序列，于是方差齐性检验就可以转化为这个方程是否显著成立的检验。如果方程显著成立〔至少存在一个参数非零〕，那就意味着残差平方序列具有自相关性，可以用该回归方程提取自相关信息。反之，如果方差不能显著成立，那就意味着残差平方序列不存在显著的自相关性，不能拒绝方差齐性假定。所以拉格朗日乘子检验实际上就是残差平法序列自回归的方程显著性检验。LM检验假设条件检验统计量检验结果拒绝原假设接受原假设例4.12续对1926-1991年标准普尔500股票价值加权月度收益率序列进行ARCH检验，并拟合该序列的波动特征。对该序列进行方差齐性检验。Q检验和LM检验结果均显示残差平方序列具有显著的自相关性ARCH模型定阶与参数估计LM检验结果显示1阶至12阶ARCH模型均显著成立。这使得我们的定阶工作非常困难。不妨指定一个略微高一些的回归阶数，通过逐步回归的方法确定自变量的阶数。本例中尝试拟合模型ARCH(5)，逐步回归删除不显著的参数，最后得到的是模型是ARCH(3)条件方差与无条件方差原序列的无条件方差为0.00342，根据这个方差得到的置信区间为两条平行线〔黑色虚线〕。而ARCH(3)模型得到的条件方差那么根据序列的历史信息能及时进行调整，更能快速捕捉集群性特征，使得置信区间〔红线〕更准确。127GARCH模型产生背景Engle(1982)提出ARCH模型之后，在金融界引起强烈反响，以前不具有预报性的大量金融时序可以采用ARCH模型进行进一步信息提取，创造了实用的波动性分析和预测方法。ARCH模型的实质是使用误差平方序列的q阶移动平均拟合当期异方差函数值。由于移动平均模型具有自相关系数阶截尾性，所以ARCH模型实际上只适用于异方差函数短期自相关过程。但是在实践中，有些残差序列的异方差函数是具有长期自相关性的，这时如果使用ARCH模型拟合异方差函数，将会产生很高的移动平均阶数，这会增加参数估计的难度并最终影响ARCH模型的拟合精度。GARCH模型的结构为了修正这个问题，Engle的学生TimBollerslev在1985年提出了广义自回归条件异方差〔GeneralizedAutoregressiveConditionalHeteroskedastic，GARCH〕模型GARCH(p,q)模型的结构如下GARCH模型的实质GARCH模型实际上就是在ARCH模型的根底上，增加考虑了异方差函数的p阶自相关性。它可以有效地拟合具有长期记忆性的异方差函数ARCH模型是GARCH模型的一种特例ARCH(q)模型实际上就是p=0的GARCH(p,q)模型AR-GARCH模型对序列拟合GARCH模型有一个根本要求：为零均值，纯随机、异方差序列。有时回归函数不能充分提取原序列中的相关信息，可能具有自相关性，而不是纯随机的。这时需要对先拟合自回归模型，再考察自回归残差序列的方差齐性，如果异方差，对它拟合GARCH模型。这样构造的模型称为AR-GARCH模型模型结构GARCH模型拟合步骤回归拟合残差自相关性检验异方差自相关性检验ARCH模型定阶参数估计正态性检验例4.13分析拟合1979年12月31日—1998年12月31日外币对美元的日兑换率序列水平相关信息拟合回归模型拟合残差自相关性拟合ARCH检验Q检验和LM检验均显示残差序列拒绝方差齐性假定，残差平方序列具有显著的相关性。

模型定阶首先尝试构建ARCH(q)模型，当q=5时，模型拟合结果显示中的六个参数均显著。这意味着序列的波动具有长期相关性。如果用ARCH模型拟合可能需要很大的q值。所以应该尝试GARCH模型GARCH建模构建GARCH(1，1)模型日元对美元汇率序列拟合模型AR(1)-GARCH(1,1)模型波动性建模效果图残差的95%置信区间GARCH模型的评价GARCH模型类似于对条件方差构造ARMA模型，可以用更简洁的模型结构拟合波动率的长期影响GARCH模型的出现，为大量的金融序列提供了有效的分析方法，它是迄今为止最常用、最便捷的异方差序列拟合模型。但大量的使用经验显示，它也存在一些缺乏GARCH模型的缺乏它对参数的约束条件非常严格。无条件方差必须非负的要求，导致了参数非负的约束条件有条件方差必须平稳的要求，要求参数有界参数的约束条件一定程度上限制了GARCH模型的适用范围GARCH模型的缺乏它对正负扰动的反响是对称的。扰动项是真实值与预测值之差。如果扰动项为正，说明真实值比预测值大，对于投资者而言就是获得超预期收益。如果扰动项为负，说明真实值比预测值小，对