非平稳时间序列ppt课件

1、第五章非平稳序列的随机分析1;.2本章结构l单位根过程l差分运算l单位根检验lARIMA模型lAuto-Regressive模型l异方差的性质l方差齐性变化l条件异方差模型3单位根过程(unit Root Process)l平稳随机过程的特点 1.不同时刻均值相同,围绕常数均值波动,称为均值回复(mean reversion). 2.方差有界并且不随时间变化,是常数. 称为方差齐性4l平稳ARMA模型, 可表示为l此类模型的特点 3. 长期预测趋于无条件均值 4. 预测误差的方差有界 110,|tttiix 2(0,)tWN5序列分解 111111( )( )t lt lt lltltlttt

2、xe lx l 预测误差预测值)(),()( ),(11leVarxxxVarlxxxxEtttltttlt6l5. t时刻的扰动带来的影响随着时间的增加趋于0. 假设 t 时刻 改变一个单位, 那么未来时刻t+s 时, 改变多少? ttxt ststxxs0|,s0.ii 因为所以 的增加趋于7非平稳过程l多数经济变量的时间序列都有随着时间增加而增长的趋势, 不具有均值回复的特点. l两种刻画: 带趋势的平稳随机过程(前面已讲) 单位根过程8随机趋势过程l有一类随机过程, 如果再 t 时刻扰动项发生变化, 那么它的影响会一直存在下去,不会随着时间 t 增大会立刻衰减到0. 这样过程成为随机趋

3、势过程。 随机游动(走) 带常数项的随机游动 单位根过程9随机游走10112tttt. xx.Ex0,(x ),()/(t-s)h x (h)x,tttttttsxxVarttst其中是独立同分布的白噪声序列迭代有计算数字特征 步预报为没有明确的增长趋势 也不向某个长期均值回复10带常数项的随机游走10112tttt. xxt. Ex,(x ),()/(t-s)x (h)xtttttttsxxtVarttsth其中 是独立同分布的白噪声序列迭代有计算得包含一个确定性趋势和一个随机趋势11单位根过程l满足下面表达式的过程成为单位根过程其中单位根过程对时间序列的增量进行刻画，增量平稳，但水平变量不

4、平稳。11(1)( )ttttB xB 20(1)0,( )0.jju 根在单位圆外12单整序列l差分一次变为平稳过程，记为I(1)l平稳过程记为I(0)l如果差分n-1次不平稳，差分n次平稳，称为n阶单整的，记为I(n)13趋势平稳过程和单位根过程比较l预测比较 零假设成立时,对立假设成立时,0111:(),| 1ttttttHxxHxtxt01|,ttt stttxtxE xxsx x的影响是永久的|()()st sttE xxtsxt14预测均方误差的影响l带趋势的平稳过程l单位根过程st1111221s-1( )1ttstsstxx s 预测方差为1111t+s11111222211s

5、-1E|,1, ,sEY |Y Y(1)(1)(1)(1)t jtt jt jjtttt st sstxxjs 上式个式子求和有预测方差为1+15动态乘子的比较l趋势平稳过程 动态乘子: 趋势平稳过程满足 , 所以t+( )ttxBsttx20jj sslim0.ttx16sss-1s-1s-211111( )( )( )( )1ttttttttttt st sttt st sttt stssttxBxxxxxxxxxxxxBBBxxx 单位根过程所以17平稳化比较l对趋势平稳过程进行差分,得到不可逆的 MA模型,无法平稳化l 单位根去掉趋势项仍然不平稳,随机趋势 仍然存在18两种随机过程比较

6、l带趋势的平稳过程只有确定趋势;单位根过程具有随机趋势,有时也有确定趋势l趋势平稳过程去掉趋势项平稳;单位根过程差分后平稳l趋势平稳过程方差是常数,均值为时间函数;单位根过程方差是时间函数l趋势平稳过程对冲击的反应是暂时的;而单位根过程对冲击的反应是长久的195.2 差分运算l差分运算的实质l差分方式的选择l过差分20差分运算的实质l差分方法是一种非常简便、有效的确定性信息提取方法lCramer分解定理在理论上保证了适当阶数的差分一定可以充分提取确定性信息l差分运算的实质是使用自回归的方式提取确定性信息 diitiditdtdxCxBx0) 1()1 (21差分方式的选择l序列蕴含着显著的线性

7、趋势，一阶差分就可以实现趋势平稳 l序列蕴含着曲线趋势，通常低阶（二阶或三阶）差分就可以提取出曲线趋势的影响 l对于蕴含着固定周期的序列进行步长为周期长度的差分运算，通常可以较好地提取周期信息 22差分的方式小结差分的方式小结l对线性趋势的序列，一阶差分即可提取确定性信息，命令为D(X)；l对曲线趋势的序列，低阶差分即可提取序列的确定性信息，命令为 D(X,a)；l对具有周期性特点的序列，k步差分即可提取序列的周期性信息，命令为 D(X,0,k)。l对既有长期趋势又有周期性波动的序列，可以采用低阶k步差分的操作提取确定性信息，操作方法为D(X,a，k)。l非平稳序列如果经过差分变成平稳序列，则

8、我们称这类序列为差分平稳序列，差分平稳序列可以使用ARIMA模型进行拟合。23单位根检验单位根检验l对于单位根过程（差分平稳），每个随机冲击都具有长记忆性，方差趋于无穷大，其均值概念变得毫无意义；l对于趋势平稳过程，随机冲击只具有有限记忆能力，其影响会很快消失，由其引起的对趋势的偏离只是暂时的。对退势平稳序列，只要正确估计出其确定性趋势，即可实现长期趋势与平稳波动部分的分离。245.3 单位根检验l定义 通过检验特征根是在单位圆内还是单位圆上（外），来检验序列的平稳性l方法 DF检验 ADF检验 PP检验25DF检验l模型中不包含常数和趋势项l模型中包括常数项l模型中包含常数和趋势项 211(

9、0,)ttttxxIID211(0,)ttttxcxIID211(0,)ttttxctxIID26DF检验(Dickey-Fuller test)l假设条件 原假设：序列非平稳 备择假设：序列平稳l检验统计量 时 时110：H110：H11) 1 , 0()()(1111NSt渐近11)(111S27DF统计量l 时l 时，为区分传统的t分布，记1111) 1 , 0()()(1111NSt渐近1021011)()()()(1drrWrdWrWS极限28DF检验的等价表达l等价假设l检验统计量100110其中：HH( )S29 的临界值l零假设下, 不服从t分布,需要使用蒙特卡罗法估计临界值.

10、 例如随机产生100个随机数 , 在零假设 下可以计算 估计模型 , 得到一个估计 值. 重复很多次, 例如5000次,得到5000个的 值. 如果这5000个值,有95%的值大于-1.95,则临界值为-1.95. 小于此值,拒绝11 0 0,1tttxx,1,100tx t 1tttxx 30三种情况的 的临界值是不一样的l进行单位根检验必须选择合适的回归模型. 一个简单的原则,如果数据没有明显的趋势,则在回归模型中包括常数项;如果有明显的趋势,则在回归模型中既要包含常数项和时间趋势项31四个问题l数据生成过程未知,有可能包括滑动平均部分l可能包括不止一个滞后项,如果实际数据生成过程是AR(

11、p)模型,估计量和标准差是错误的lDF检验只考虑了一个单位根,可以考虑多与一个单位根的情况l很难判断合适包括常数项,何时包括时间趋势32l用（1）式检验单位根等价于先验认定被检验过程 xt 是一个零均值、无趋势项的AR(1)过程。因为只有当一个含有单位根的随机过程中不含有确定性变量，那么该过程的均值完全由初始值决定，所以x0 = 0。可见，只有在一个过程的均值为零时，使用（1）式检验单位根才是正确的。33l如果被检验的过程的均值非零，就应该首先减去这个均值，然后再用（1）式检验单位根。但实际中，被检验过程的均值一般是不知道的。所以，当不知被检验过程的均值是否为零，或不知其初始值x0是否为零时，

12、应该用(2)式检验单位根34l估计（2）式得到的 和DF的分布都不受 x0取值的影响。这一点太重要了。否则必须先知道x0 的值和DF分布才能进行单位根检验。35l 当真实的随机过程如（2）式时，就不能用（2）式检验单位根了。因为当 = 0时，xt是一个随机趋势非平稳过程。根据 c 的符号（正或负）分别呈向上或向下的固定趋势变化。当 0时，xt是一个以c / (- )为均值的平稳过程，不含有趋势分量。所以这种条件下，用（2）式检验单位根就没有办法包括零假设和备择假设所有可能结果,即不能包括退势平稳过程,就考虑(3)式36l数据由=1的（1）式生成，而DF检验式是（1）、（2）、（3）的DF分布的

13、蒙特卡罗模拟结果见下图37l可以看出检验式中随着和 t 项的加入，相应的DF分布或临界值逐渐向左移，即临界值相应变小。l（3）式中的 和DF的分布不受x0和c值的影响38针对第四个问题,Perron提出l1. 如果拒绝零假设,那么检验过程停止,该过 程是平稳过程 .不能拒绝,说明存在单位根,过程非平稳,那么回归模型中的时间趋势项是不是多余的参数呢?如果是,会导致检验的势降低,进入步骤2.10:0tttxctxH39l2. 使用统计量 ,检验零假设. F统计量 10:0tttxctxH3restrictedrestrictedrestricted()(un)/ r()/(Tk)jRSSRSSRS

14、S 40l对于检验式（3），若 =0不能被拒绝，但F 检验的零假设 = =0 被拒绝，这意味着 0，则xt是一个确定趋势加单位根过程。这时随机单位根过程完全被确定性趋势 t 所主导，对应于 的DF统计量渐近服从标准正态分布。这时应该查t 分布或标准正态分布临界值表。41l上述两种F 检验的结论是拒绝零假设H0：c = =0（对应（2）式）， = =0（对应（3）式）时，分别为c 0， =0； 0， =0。被检验的真实过程和检验式具有了相同的形式（非平稳过程且含有确定性成分）。此时称检验为准确检验（exact test），而利用DF统计量临界值的检验称作近似检验（similar test，含义是

15、可以用t 统计量检验）。42l如果拒绝零假设, 这时检验 , 临界值用 t 统计量,拒绝得出结论平稳,否则非平稳. 检验过程停止.l如果不能拒绝零假设,说明时间趋势项是多余的,进入第三步0:0H43l3.l如果拒绝零假设, 检验过程停止.该过程是个平稳随机过程.如果不能拒绝,说明存在单位根,过程非平稳,那么回归模型常数项是否是多余参数呢.进入步骤4.10:0tttxcxH44l4.使用统计量 , 如果不能拒绝,说明常数项是多余的,去掉采用情况1,进入步骤5; 如果拒绝零假设, 检验 , 采用t分布.拒绝表示平稳,不能拒绝表示非平稳. 过程停止 10:c0tttxcxH10:0H45l对于（2）

16、式也可能发生类似情形。当 =0被接受，F 检验的零假设c = =0被拒绝，这意味着 c0，于是非平稳单位根过程被随机趋势主导。对应于 的DF统计量渐近服从t分布。46l上述两种F 检验的结论是拒绝零假设H0：c = =0（对应（2）式）， = =0（对应（3）式）时，分别为c 0， =0； 0， =0。被检验的真实过程和检验式具有了相同的形式（非平稳过程且含有确定性成分）。此时称检验为准确检验（exact test），而利用DF统计量临界值的检验称作近似检验（similar test，含义是可以用t 统计量检验）。47l5.l不能拒绝,得出结论为非平稳,否则平稳. 10:0tttxxH48注意

17、l1. 只有当待检验d.g.p.中有非零漂移项（或趋势项），而相应DF（ADF）检验式中也含有漂移项（或趋势项）时，DF（ADF）统计量才渐近服从t 分布。比如d.g.p.中不含有趋势项，而相应DF（ADF）检验式中含有趋势项，这意味着应该使用DF分布的临界值。因为一般不敢保证对DF（ADF）检验式的设定完全与d.g.p.形式吻合，所以在实际中使用DF分布的临界值更安全些。49l2. Banerjee等认为，尽管当DF（ADF）检验式中含有漂移项或（和）趋势项，样本容量T时，使用t 分布临界值要好些，但在有限样本条件下，还是使用DF分布的临界值做单位根检验更好些。50l3. 当在检验式中不适当

18、地多加一些确定项（如漂移项，趋势项t 等），尽管真实的过程是平稳的，DF检验仍将以更大的概率接受原假设（非平稳），导致DF检验功效降低。l4. 对于检验式（1）、（2）、（3），DF检验临界值越来越向左移，说明检验式中增加确定项，使临界值变得越来越小（绝对值变得越来越大）。尽管d.g.p.是平稳的，但检验结果却很难拒绝原假设（非平稳）。51l5. 尽管增加多余参数会降低检出平稳序列的功效，当被检验过程的真实形式未知时，仍建议用（3）式（尽量多含确定性项）检验单位根。因为如果检验式中确定项（漂移项或趋势项）不足，将不能把原假设和备择假设的所有情形都包括在假设中。52 DF单位根检验式统计量说明1

19、yt = +t + yt-1 + utH0： =0DF若拒绝H0，yt为平稳过程。检验止。若接受H0，进入下一步，做F检验。2yt = +t + yt-1 + utH0： = =0F若拒绝H0，意味着 0，yt含时间趋势。继续做3a式检验。若接受H0，进一步做3 b式检验。3ayt = +t + yt-1 + utH0： =0t若拒绝H0，yt为退势平稳过程。检验止。若接受H0，yt为趋势非平稳过程。检验止。3byt = + yt-1 + utH0： =0DF若拒绝H0，yt为均值为的平稳过程。检验止。若接受H0： =0，进入下一步检验。4yt = + yt-1 + utH0： = =0F若拒

20、绝H0，意味着 0，yt为随机趋势非平稳过程。继续做5a式检验。若接受H0： = =0，进一步做5 b式检验。5ayt = + yt-1 + utH0： =0t若拒绝H0，yt为平稳过程。检验止。若接受H0，yt为随机趋势非平稳过程。检验止。5byt = yt-1 + utH0： =0DF若拒绝H0，yt为平稳过程。检验止。若接受H0，yt为随机游走过程。检验止。53例6.2l对1978年2002年中国农村居民家庭人均纯收入对数序列 和生活消费支出对数序列 进行检验 lntxlnty54例6.2 时序图55例6.2 输入序列的DF检验56例6.2 输出序列的DF检验57ADF检验lDF检验只适

21、用于AR(1)过程的平稳性检验 。为了使检验能适用于AR(p)过程的平稳性检验，人们对检验进行了一定的修正，得到增广检验（Augmented DickeyFuller），简记为ADF检验58ADF检验的原理l若AR(p)序列有单位根存在，则自回归系数之和恰好等于1 1010211111ppppp59ADF检验l等价假设l检验统计量1002110pHH其中：) (S60ADF检验的三种类型l第一种类型l第二种类型l第三种类型tptpttxxx11tptpttxxx11tptpttxxtx1161依情况1为例,另一种写法111p11111221111iii 11p11,10.()1,(), j1,

22、1ttptptttptpptpttptppptpptptpttttjjpxxxxxxxxxxxxxxp 存在单位根 则变形为继续下去62ADF检验11iii 111iii 111iii 11:1:tpttttpttttpttttxxxxxxxxx情况情况2情况63例6.2续l对1978年2002年中国农村居民家庭人均纯收入对数差分后序列 和生活消费支出对数差分后序列 进行检验 txlntyln64例6.2 序列的ADF检验txln65例6.2 序列的ADF检验tyln66PP检验lADF检验主要适用于方差齐性场合，它对于异方差序列的平稳性检验效果不佳lPhillips和 Perron于1988

23、年对ADF检验进行了非参数修正，提出了PP检验统计量。lPP检验统计量适用于异方差场合的平稳性检验，且服从相应的ADF检验统计量的极限分布 67PP检验统计量l其中：TtTtSlSlSlxxTZ221122222)()(21 ()()(TttT1212) 1 (ljTjtjttjTttSllwTT1111212)(2)2(11111)3(TttTxTx68例6.2续l对1978年2002年中国农村居民家庭人均纯收入对数差分后序列 和生活消费支出对数差分后序列 进行PP检验 txlntyln69例6.2 序列的pp检验txln70例6.2 序列的PP检验tyln71例6.2 二阶差分后序列的PP

24、检验725.3 ARIMA模型lARIMA模型结构lARIMA模型性质lARIMA模型建模lARIMA模型预测l疏系数模型l季节模型73ARIMA模型结构l使用场合 差分平稳序列拟合l模型结构tsExtsEVarEBxBtsstttttd, 0, 0)(,)(0)()()(2，74ARIMA 模型族ld=0ARIMA(p,d,q)=ARMA(p,q)lP=0ARIMA(P,d,q)=IMA(d,q)lq=0ARIMA(P,d,q)=ARI(p,d)ld=1,P=q=0ARIMA(P,d,q)=random walk model75随机游走模型( random walk)l模型结构l模型产生典故

25、 Karl Pearson(1905)在自然杂志上提问：假如有个醉汉醉得非常严重，完全丧失方向感，把他放在荒郊野外，一段时间之后再去找他，在什么地方找到他的概率最大呢？tsExtsEVarExxtsstttttt, 0, 0)(,)(0)(21，76ARIMA模型的平稳性lARIMA(p,d,q)模型共有p+d个特征根，其中p个在单位圆内，d个在 单 位 圆 上 。 所 以 当 时ARIMA(p,d,q)模型非平稳。l例5.5ARIMA(0,1,0)时序图0d77ARIMA模型的方差齐性l 时，原序列方差非齐性ld阶差分后，差分后序列方差齐性0d2110)()()0 , 1 , 0(txVar

26、xVarARIMAttt模型2)()()0 , 1 , 0(ttVarxVarARIMA模型78ARIMA模型建模步骤获获得得观观察察值值序序列列平稳性平稳性检验检验差分差分运算运算YN白噪声白噪声检验检验Y分分析析结结束束N拟合拟合ARMA模型模型79例5.7l已知ARIMA(1,1,1)模型为 且l求 的95的置信区间 ttBxBB)6 . 01 ()1)(8 . 01 (5 . 41tx3 . 5tx8 . 0t123tx80预测值l等价形式l计算预测值69. 5) 1 (8 . 0)2(8 . 1) 3(59. 58 . 0) 1 (8 . 1)2(46. 56 . 08 . 08 .

27、 1) 1 (1ttttttttttxxxxxxxxx12126 . 08 . 08 . 1)6 . 01 ()8 . 08 . 11 (tttttttxxxBxBB81计算置信区间lGreen函数值l方差l95置信区间36. 18 . 08 . 12 . 16 . 08 . 11212896. 4)1 ()3(22221eVar)75. 9 ,63. 1 ()3(96. 1) 3(,)3(96. 1) 3(eVarxeVarxtt82例5.6续：对中国农业实际国民收入指数序列做为期10年的预测 83疏系数模型lARIMA(p,d,q)模型是指d阶差分后自相关最高阶数为p，移动平均最高阶数为q

28、的模型，通常它包含p+q个独立的未知系数：l如果该模型中有部分自相关系数 或部分移动平滑系数 为零，即原模型中有部分系数省缺了，那么该模型称为疏系数模型。qp,11pjj1 ,qkk1 ,84疏系数模型类型l如果只是自相关部分有省缺系数，那么该疏系数模型可以简记为 为非零自相关系数的阶数l如果只是移动平滑部分有省缺系数，那么该疏系数模型可以简记为 为非零移动平均系数的阶数l如果自相关和移动平滑部分都有省缺，可以简记为),),(1qdppARIMAm),( ,(1nqqdpARIMA),( ,),(11nmqqdppARIMAmpp,1nqq,185季节模型l简单季节模型l乘积季节模型 86简单季节模型l简