ch5 非平稳序列的随机分析-1

1、第五章第五章 非平稳序列的随机分析非平稳序列的随机分析本章结构本章结构差分运算差分运算1.ARIMA模型模型2.Auto-Regressive模型模型3.异方差的性质异方差的性质4.方差齐性变换方差齐性变换5.条件异方差模型条件异方差模型6.5.1 差分运算差分运算v本节结构 差分运算的实质 差分方式的选择 过差分确定性趋势确定性趋势v所谓确定性趋势（deterministic trend），是指模型中含有明确的时间t变量，趋势可以有t的线性函数表示。例如：v确定性趋势模型又称“均值非平稳模型”、“趋势平稳模型”。v确定性趋势模型剔除趋势项即为平稳模型。如上例：ttxabtttxbta随机趋势

2、模型随机趋势模型v随机趋势模型常被称为单位根过程，模型中AR项含有成分（1-B），典型例子是随机游走模型。v随机趋势模型又称“差分平稳模型”，可以通过差分剔除趋势，使模型平稳化。如对随机游走模型：1tttxx趋势模型的比较趋势模型的比较v确定性趋势模型表现在均值的非平稳。v随机趋势模型中，每个随机干扰项对条件均值的影响是持久的。模型的方差非平稳。v对不同的非平稳模型，应使用不同的平稳化方法。v对于同一模型，两种趋势可能兼而有之。差分运算的实质差分运算的实质v差分方法是一种非常简便、有效的确定性信息提取方法vCramer分解定理在理论上保证了适当阶数的差分一定可以充分提取确定性信息v差分运算的实

3、质是使用自回归的方式提取确定性信息 diitiditdtdxCxBx0) 1()1 (差分方式的选择差分方式的选择v序列蕴含着显著的线性趋势，一阶差分就可以实现趋势平稳v序列蕴含着曲线趋势，通常低阶（二阶或三阶）差分就可以提取出曲线趋势的影响 v对于蕴含着固定周期的序列进行步长为周期长度的差分运算，通常可以较好地提取周期信息 例例5.1 【例2.1】1964年1999年中国纱年产量序列蕴含着一个近似线性的递增趋势。对该序列进行一阶差分运算 考察差分运算对该序列线性趋势信息的提取作用 1tttxxx差分前后时序图差分前后时序图v 原序列时序图v 差分后序列时序图例例5.2v尝试提取1950年19

4、99年北京市民用车辆拥有量序列的确定性信息差分后序列时序图差分后序列时序图v 一阶差分v 二阶差分例例5.3v 差分运算提取1962年1月1975年12月平均每头奶牛的月产奶量序列中的确定性信息 差分后序列时序图差分后序列时序图v 一阶差分v 1阶12步差分过差分过差分 v从理论上而言，足够多次的差分运算可以充分地提取原序列中的非平稳确定性信息。v但应当注意的是，差分运算的阶数并不是越多越好。因为差分运算是一种对信息的提取、加工过程，每次差分都会有信息的损失。v在实际应用中差分运算的阶数得适当，应当避免过度差分的现象 。例例5.4v假设序列如下 v考察一阶差分后序列和二阶差分序列的平稳性与方差

5、 ttatx102()0,(),(,)0,1tttt iE aVar aCov a ai 比较比较v 一阶差分 平稳 方差小v 二阶差分（过差分） 平稳 方差大111tttttaaxxx21122ttttttaaaxxx212)()(tttaaVarxVar22126)2()(ttttaaaVarxVar本章结构本章结构差分运算差分运算1.ARIMA模型模型2.Auto-Regressive模型模型3.异方差的性质异方差的性质4.方差齐性变换方差齐性变换5.条件异方差模型条件异方差模型6.5.2 ARIMA模型模型v本节结构 ARIMA模型结构 ARIMA模型性质 ARIMA模型建模 ARIM

6、A模型预测 疏系数模型 季节模型ARMA模型模型的定义的定义v具有如下结构的模型称为自回归移动平均模型，简记为v特别当 时，称为中心化 模型),(qpARMA01111200( )0( ),()0,()0,ttptpttqt qpqtttsstxxxEVarEstE xst ，00),(qpARMA系数多项式系数多项式v引进延迟算子，中心化 模型又可以简记为 v 阶自回归系数多项式v 阶移动平均系数多项式),(qpARMAttBxB)()(qqqBBBB2211)(pppBBBB2211)(ARIMA模型结构模型结构v使用场合 差分平稳序列拟合v模型结构tsExtsEVarEBxBtssttt

7、ttd, 0, 0)(,)(0)()()(2，ARIMA 模型族模型族v d=0ARIMA(p,d,q)=ARMA(p,q)v P=0ARIMA(P,d,q)=IMA(d,q)v q=0ARIMA(P,d,q)=ARI(p,d)v d=1,P=q=0ARIMA(P,d,q)=random walk model随机游走模型随机游走模型( random walk)v 模型结构v 模型使用场合 Karl Pearson(1905)在自然杂志上提问：假如有个醉汉醉得非常严重，完全丧失方向感，把他放在荒郊野外，一段时间之后再去找他，在什么地方找到他的概率最大呢？这个醉汉的行走轨迹就是一个随机游走模型。

8、传统的经济学家普遍认为投机价格的走势类似于随机游走模型，随机游走模型也是有效市场理论的核心。tsExtsEVarExxtsstttttt, 0, 0)(,)(0)(21，ARIMA模型的平稳性模型的平稳性v ARIMA(p,d,q)模型共有p+d个特征根，其中p个在单位圆内，d个在单位圆上。所以当 时ARIMA(p,d,q)模型非平稳。v 例5.5ARIMA(0,1,0)时序图0dARIMA模型的方差齐性模型的方差齐性v 时，原序列方差非齐性vd阶差分后，差分后序列方差齐性0d2110)()()0 , 1 , 0(txVarxVarARIMAttt模型2)()()0 , 1 , 0(ttVar

9、xVarARIMA模型ARIMA模型建模步骤模型建模步骤获获得得观观察察值值序序列列平稳性平稳性检验检验差分差分运算运算YN白噪声白噪声检验检验Y分分析析结结束束N拟合拟合ARMA模型模型例例5.6v对1952年1988年中国农业实际国民收入指数序列建模 一阶差分序列时序图一阶差分序列时序图一阶差分序列自相关图一阶差分序列自相关图一阶差分后序列白噪声检验一阶差分后序列白噪声检验延迟阶数 统计量P值615.330.01781218.330.10601824.660.13442拟合拟合ARMA模型模型v偏自相关图建模建模v 定阶 ARIMA(0,1,1)v 参数估计v 模型检验ttBxB)7076

10、6. 01 (99661. 4)1 (48763.56)(tVar残差白噪声检验残差白噪声检验参数显著性检验参数显著性检验延迟阶数延迟阶数统计量统计量P P值值待估参数待估参数t统计量统计量P P值值6 63.633.630.60360.60362.392.390.02230.022312127.867.860.72620.7262-5.58-5.580.0001181811.0311.030.85520.855221ARIMA模型预测模型预测v原则 最小均方误差预测原理 vGreen函数递推公式jdpjdpjj1122112111式中， ，0, 10, 0jjj0, 0jj预测值预测值)()

11、(111111tltltlltltltx)(let)( lxt22121)1 ()(0)(lttleVarleEltx那么 的真实值为：序列分解序列分解 111111( )( )t lt lt lltltltttxGGGGe lx l 预测误差预测误差预测值预测值1t12210(| ,)( )(| ,) ( )tt lttltt ltttiiE xx xx lVar xx xVar e lG例例5.7v已知ARIMA(1,1,1)模型为 且v求 的95的置信区间 ttBxBB)6 . 01 ()1)(8 . 01 (5 . 41tx3 . 5tx8 . 0t123tx预测值预测值v等价形式v计

12、算预测值69. 5) 1 (8 . 0)2(8 . 1) 3(59. 58 . 0) 1 (8 . 1)2(46. 56 . 08 . 08 . 1) 1 (1ttttttttttxxxxxxxxx12126 . 08 . 08 . 1)6 . 01 ()8 . 08 . 11 (tttttttxxxBxBB预报方差与置信区间预报方差与置信区间v广义自相关函数为vGreen函数为v方差为v95%置信区间为2( )( )(1)(1 0.8 )(1)1 1.80.dBBBBBBB 1211.80.61.21.80.81.362896. 4)1 ()3(22221eVar( (3) 1.96( (3

13、) ,(3) 1.96( (3)(1.63,9.75)ttxVar exVar e例例5.6续：续：对中国农业实际国民收入指数序列的预测对中国农业实际国民收入指数序列的预测 疏系数模型疏系数模型vARIMA(p,d,q)模型是指d阶差分后自相关最高阶数为p，移动平均最高阶数为q的模型，通常它包含p+q个独立的未知系数：v如果该模型中有部分自相关系数 或部分移动平滑系数 为零，即原模型中有部分系数省缺了，那么该模型称为疏系数模型。qp,11pjj1 ,qkk1 ,疏系数模型类型疏系数模型类型v 如果只是自相关部分有省缺系数，那么该疏系数模型可以简记为 为非零自相关系数的阶数v 如果只是移动平滑部

14、分有省缺系数，那么该疏系数模型可以简记为 为非零移动平均系数的阶数v 如果自相关和移动平滑部分都有省缺，可以简记为),),(1qdppARIMAm),( ,(1nqqdpARIMA),( ,),(11nmqqdppARIMAmpp,1nqq,1例例5.8v对1917年1975年美国23岁妇女每万人生育率序列建模 一阶差分一阶差分自相关图自相关图建模建模v定阶 ARIMA(1,4),1,0)v参数估计v模型检验 模型显著 参数显著ttBBxB433597. 026633. 011)1 (季节模型季节模型v简单季节模型v乘积季节模型 简单季节模型简单季节模型v简单季节模型是指序列中的季节效应和其它

15、效应之间是加法关系v简单季节模型通过简单的趋势差分、季节差分之后序列即可转化为平稳，它的模型结构通常如下 ttttITSxttdDBBx)()(例例5.9v 拟合19621991年德国工人季度失业率序列 差分平稳差分平稳v 对原序列作一阶差分消除趋势，再作4步差分消除季节效应的影响，差分后序列的时序图如下 白噪声检验白噪声检验延迟阶数 统计量P值643.840.00011251.710.00011854.480.00012差分后序列自相关图差分后序列自相关图模型拟合模型拟合v定阶 ARIMA(1,4),(1,4),0)v参数估计ttBBxBB4428132. 044746. 011)1)(1

16、(模型检验模型检验残差白噪声检验参数显著性检验延迟阶数 统计量P值待估参数 统计量P值62.090.71915.480.00011210.990.3584-3.410.00012t14拟合效果图拟合效果图乘积季节模型乘积季节模型v 使用场合 序列的季节效应、长期趋势效应和随机波动之间有着复杂地相互关联性，简单的季节模型不能充分地提取其中的相关关系 v 构造原理 短期相关性用低阶ARMA(p,q)模型提取 季节相关性用以周期步长S为单位的ARMA(P,Q)模型提取 假设短期相关和季节效应之间具有乘积关系，模型结构如下 tSStDSdBBBBx)()()()(例例5.10 :拟合拟合1948198

17、1年美国女性月度失业率序列年美国女性月度失业率序列 差分平稳差分平稳v一阶、12步差分差分后序列自相关图差分后序列自相关图简单季节模型拟合结果简单季节模型拟合结果延迟阶数拟合模型残差白噪声检验AR(1,12)MA(1,2,12)ARMA(1,12),(1,12) 值P值 值P值 值P值614.580.00579.50.023315.770.00041216.420.088314.190.115817.990.0213结果拟合模型均不显著222 设序列存在规则的周期（S），如果把原序列按周期重新排列，即可得到一个二维列联表。乘积季节模型乘积季节模型乘积季节模型() ( )() ( )SDdSsS

18、tstBBxBB 这里 表示不同周期的同一周期点上的相关关系； ()SDsStBX则表示同一周期内不同周期点上的相关关系。 ( )dtBX差分后序列自相关图差分后序列自相关图乘积季节模型拟合乘积季节模型拟合v模型定阶 ARIMA(1,1,1)(0,1,1)12v参数估计ttBBBx)77394. 01 (78978. 0166137. 011212模型检验模型检验残差白噪声检验参数显著性检验延迟阶数 统计量P值待估参数 统计量P值64.500.2120-4.660.0001129.420.400223.030.00011820.580.1507-6.810.0001结果模型显著参数均显著221

19、121乘积季节模型拟合效果图乘积季节模型拟合效果图例子例子 1990-1997工业生产总值工业生产总值1,0002,0003,0004,0005,0006,00019901991199219931994199519961997Y一步差分图和自相关图一步差分图和自相关图-1,500-10001,50019901991199219931994199519961997SDY一步和一步和12步差分图步差分图-1,500-10001,50019901991199219931994199519961997SDY一步和一步和12步差分自相关图步差分自相

20、关图乘积季节模型拟合乘积季节模型拟合v模型定阶 ARIMA(2,1,0)(1,1,0)12v参数估计12212(1 0.4133210.264518)(1 0.341582)ttxBBB21212(1 0.4133210.264518)(1 0.341582)ttBBBx模型检验模型检验残差白噪声检验残差白噪声检验模型检验模型检验系数显著性检验系数显著性检验21ARIMA(0,1,1)*(1,1,0)12乘积季节模型 从结构上看，它是季节模型与ARIMA模型的结合形式，称之为乘积季节模型。( , , )( ,)sSARIMA p d qP D Q常用的两个模型 ttaBBXBB)1)(1 ()

21、1)(1 (1212112ttaBBXB)1)(1 ()1 (1212112(0,1,1) (0,1,1)SSARIMA(0,0,1) (0,1,1)SSARIMA记为：本章结构本章结构差分运算差分运算1.ARIMA模型模型2.Auto-Regressive模型模型3.异方差的性质异方差的性质4.方差齐性变换方差齐性变换5.条件异方差模型条件异方差模型6.5.3 Auto-Regressive模型模型v构造思想 首先通过确定性因素分解方法提取序列中主要的确定性信息 然后对残差序列拟合自回归模型，以便充分提取相关信息 ttttSTxtptptta11Auto-Regressive模型结构模型结构

22、1, 0),(,)(, 0)(211iaaCovaVaraEaSTxitttttptptttttt对趋势效应的常用拟合方法对趋势效应的常用拟合方法v自变量为时间t的幂函数v自变量为历史观察值tkktttT10tktkttxxT110对季节效应的常用拟合方法对季节效应的常用拟合方法v给定季节指数v建立季节自回归模型ttSSlmtlmttxxT10例例5.6续续v 使用Auto-Regressive模型分析1952年1988年中国农业实际国民收入指数序列。v 时序图显示该序列有显著的线性递增趋势，但没有季节效应，所以考虑建立如下结构的Auto-Regressive模型 1, 0),(,)(, 0)

23、(, 3 , 2 , 1,211iaaCovaVaraEatTxitttttptpttttt趋势拟合趋势拟合v方法一：变量为时间t的幂函数v方法二：变量为一阶延迟序列值 1tx, 3 , 2 , 1,5158. 41491.66ttTt, 3 , 2 , 1,0365. 11txxtt趋势拟合效果图趋势拟合效果图残差自相关检验残差自相关检验v检验原理 回归模型拟合充分，残差的性质 回归模型拟合得不充分，残差的性质1,0),(jEjtt1,0),(jEjttDurbin-Waston检验（检验（DW检验）检验） v假设条件 原假设：残差序列不存在一阶自相关性 备择假设：残差序列存在一阶自相关性

24、0:0),(:010HEHtt0:0),(:010HEHttDW统计量统计量v构造统计量vDW统计量和自相关系数的关系nttntttDW12221)(12DWDW统计量的判定结果统计量的判定结果正相关相关性待定不相关相关性待定负相关04LdUd2Ld4Ud4例例5.6续续 v检验第一个确定性趋势模型 残差序列的自相关性。, 3 , 2 , 1,5158. 41491.66ttxttDW检验结果检验结果v检验结果v检验结论 检验结果显示残差序列高度正自相关。DW统计量的值P值0.13781.421.530.0001LdUdDurbin h检验检验 vDW统计量的缺陷 当回归因子包含延迟因变量时，

25、残差序列的DW统计量是一个有偏统计量。在这种场合下使用DW统计量容易产生残差序列正自相关性不显著的误判 vDurbin h检验21nnDWDh例例5.6续续v检验第二个确定性趋势模型 残差序列的自相关性。, 3 , 2 , 1,0365. 11txxtttDh检验结果检验结果v检验结果v检验结论 检验结果显示残差序列高度正自相关。Dh统计量的值P值2.80380.0025残差序列拟合残差序列拟合v确定自回归模型的阶数v参数估计v模型检验例例5.6续续v对第一个确定性趋势模型的残差序列 进行拟合, 2 , 1,5158. 41491.66ttxTxtttt残差序列自相关图残差序列自相关图模型拟合

26、模型拟合v定阶 AR(2)v参数估计方法 极大似然估计v最终拟合模型口径ttttttatx215848. 04859. 15158. 41491.69例例5.6v第二个AutoRegressive模型的拟合结果ttttttaxx114615. 0033. 1三个拟合模型的比较三个拟合模型的比较模型AICSBCARIMA(0,1,1)模型：249.3305252.4976AutoRegressive模型一：260.8454267.2891AutoRegressive模型二：250.6317253.7987ttBxB)70766. 01 (99661. 4)1 (ttttttatx215848.

27、04859. 15158. 41491.69ttttttaxx114615. 0033. 1本章结构本章结构差分运算差分运算1.ARIMA模型模型2.Auto-Regressive模型模型3.异方差的性质异方差的性质4.方差齐性变换方差齐性变换5.条件异方差模型条件异方差模型6.5.4 异方差的性质异方差的性质v异方差的定义 如果随机误差序列的方差会随着时间的变化而变化，这种情况被称作为异方差v异方差的影响 忽视异方差的存在会导致残差的方差会被严重低估，继而参数显著性检验容易犯纳伪错误，这使得参数的显著性检验失去意义，最终导致模型的拟合精度受影响。 )()(thVart异方差直观诊断异方差直观诊断残差图残差图v 方差齐性残差图v 递增型异方差残差图异方差直观诊断异方差直观诊断残差图残差图v 递减型异方差v 综合型异方差异方差直观诊断异方差直观诊断残