非平稳时间序列的随机分析

1、第四章第四章 非平稳序列的随机分析非平稳序列的随机分析 n时间序列的分解 n差分运算 nARIMA模型 nAuto-Regressive模型 n异方差的性质 n方差齐性变化 n条件异方差模型 4.1 时间序列的分解时间序列的分解 4.1.1 Wold分解定理 4.1.2 Cramer分解定理 引引 例例 4.1.1、Wold分解定理（1938） n对于任何一个离散平稳平稳过程 它都可以分解为两个 不相关的平稳序列之和，其中一个为确定性确定性的，另 一个为随机性随机性的，不妨记作 其中： 为确定性序列确定性序列， 为随机序列随机序列， 它们需要满足如下条件 （1） （2） （3） t x ttt

2、 Vx t V t 0j jtjt 0 2 0 , 1 j j ), 0( 2 WN t ov( ,)( ,)0, tsts CVE Vts 确定性序列与随机序列的定义确定性序列与随机序列的定义 n对任意序列 而言，令 关于q期之前的序列值 作线性回归 其中 为回归残差序列回归残差序列， 。 显然， ，且随着随着q的增大而增大的增大而增大，也就是 说 是非减的有界序列，它的大小可以衡量历史 信息对现时值的预测精度。 越小，说明预测得越 准确， 越大，说明预测得越差。 t y t y tqtqtt yyy 1210 t 2 )( qt Var 2 () qt Var y 2 q 2 q 2 q

3、对比对比43页页AR模型模型 n确定性序列确定性序列：若 n即说明序列随着时间的发展有很强的规律性很强的规律性。 n随机序列随机序列：若 n即说明序列随着时间的发展随机性很强随机性很强，预测 效果很差，此时称 是随机序列。 2 lim0 q q )(lim 2 tq q yVar t y 例如：例如：ARMA模型分解模型分解 tt B B x )( )( 确定性序列随机序列 nWold分解定理说明任何平稳序列平稳序列都可以分解为确确 定性平稳序列和随机平稳序列定性平稳序列和随机平稳序列之和。它是现代时间 序列分析理论的灵魂，是构造ARMA模型拟合平稳 序列的理论基础。 4.1.2、Cramer

4、分解定理（分解定理（1961） n任何一个时间序列（可适用于非平稳序列可适用于非平稳序列） 都可以分解为两部分的叠加：其中一部分是由多 项式决定的确定性趋势确定性趋势成分，另一部分是平稳的平稳的 零均值误差零均值误差成分，即 t x ttt x 确定性影响 随机性影响 例如：平稳ARMA t aB)( d j j jt 0 j 为常数系数 t a为一个零均值 白噪声序列 为延迟算子 对对Cramer分解定理的理解：分解定理的理解： nCramer 分解定理是Wold分解定理的理论推广，它 说明任何一个序列任何一个序列的波动都可以视为同时受到了确确 定性影响和随机性定性影响和随机性影响的综合作用

5、。平稳序列平稳序列要求 这两方面的影响都是稳定都是稳定的，而非平稳序列非平稳序列产生的 机理就在于它所受到的这两方面的影响至少有一方至少有一方 面是不稳定的面是不稳定的。 4.2 差分运算差分运算 n差分运算的实质 n差分方式的选择 n过差分 4.2.1、差分运算的实质、差分运算的实质 n得到观察值序列之后，无论采用确定性时序分 析方法还是随机时序分析方法，第一步都是要 提取序列中的确定性信息提取序列中的确定性信息。 n确定性时序分析方法：季节指数、长期趋势模 型、移动平均（消弱短期随机波动对序列的影 响）、指数平滑等（第五章）。 差分方法差分方法是一种非常简便、有效的确定性信息提取方 法（B

6、ox和Jenkins）。 nCramer分解定理在理论上保证了适当阶数的差分一 定可以充分提取确定性信息。 n离散序列的d阶差分就相当于连续变量的d阶求导， n在上述分解下， d阶差分就可充分提取时序中的确 定性信息。 t x t aB)( 0 d j j j t 0 , d dj j j tc c 为某一常数 n 展开1阶差分，有 n1阶差分实质上就是一个自回归过程自回归过程，它是用延迟一 期的历史数据 作为自变量来解释当期序列值的 变动状况，差分序列 度量的是1阶自回归过程中 产生的随机误差随机误差的大小。 n差分运算的实质是使用自回归的方式提取确定性信息自回归的方式提取确定性信息 d i

7、 it i d i t d t d xCxBx 0 ) 1()1 ( 11tttttt xxxxxx 1t x t x 1 1 ( 1) d iid tdt it i xC xx 随机误差随机误差 4.2.2 差分方式的选择差分方式的选择 1）序列蕴含着显著的线性线性趋势，一阶差分一阶差分就 可以实现趋势平稳 2）序列蕴含着曲线曲线趋势，通常低阶低阶（二阶或 三阶）差分就可以提取出曲线趋势的影响 3）对于蕴含着固定周期固定周期的序列进行步长为周步长为周 期长度的差分期长度的差分运算，通常可以较好地提取 周期信息 【例4.1】1964年1999年中国纱年产 量序列蕴含着一个近似线性的递增趋势。

8、对该序列进行一阶差分运算 考察差分运算对该序列线性趋势信息的提 取作用 1 ttt xxx 1 1）序列蕴含着显著的线性趋势）序列蕴含着显著的线性趋势 差分前后时序图差分前后时序图 n原序列时序图 n差分后序列时序图 序列蕴含着显著的线性趋势，序列蕴含着显著的线性趋势， 一阶差分就可以实现趋势平稳一阶差分就可以实现趋势平稳 2 2）序列蕴含着曲线趋势）序列蕴含着曲线趋势 n例4.2 尝试提取1950年1999年北京市 民用车辆拥有量序列的确定性信息 差分后序列时序图差分后序列时序图 n一阶差分n二阶差分 序列蕴含着显著的曲线趋势，序列蕴含着显著的曲线趋势， 二阶或三阶差分就可以实现趋势平稳二阶

9、或三阶差分就可以实现趋势平稳 3 3）蕴含着固定周期的序列）蕴含着固定周期的序列 n例4.3 差分运算提取1962年1月1975年12月 平均每头奶牛的月产奶量序列中的确定性信息 差分后序列时序图差分后序列时序图 1阶差分：提取线性递增趋势， 剩季节波动和随机波动。 序列还蕴含着固定周期，如何实现趋势平稳？序列还蕴含着固定周期，如何实现趋势平稳？ 思考：如果把每一时刻的观察 值与上年同期相应的观察值相 减，是否能将原序列的周期性 变化消除？（或实现平稳化）， 在经济上，就是考查与前期相 比的净增值，用数学语言来描 述就是定义季节差分算子。 定 义：季节差分可以表示为 1阶12步差分：提取 周期

10、信息。 4.3.34.3.3、过差分、过差分 n足够多次的差分运算可以充分地提取原 序列中的非平稳确定性信息 n但过度的差分会造成有用信息的无谓浪 费，从而降低估计的精度。 n假设序列如下 n考察一阶差分后序列和二阶差分序列 的平稳性与方差 tt atx 10 例4.4 过差分实质上是因为过多次的差分导致有效信息 的无谓浪费而降低了估计的精度。 n一阶差分一阶差分 n平稳平稳 n二阶差分二阶差分（过差分）（过差分） n平稳平稳 11 1 tt ttt aa xxx 21 1 2 2 ttt ttt aaa xxx 2 1 2 )()( ttt aaVarxVar 2 21 2 6 )2()(

11、tttt aaaVarxVar 4.3 ARIMA模型 nARIMA模型结构 nARIMA模型性质 nARIMA模型建模 nARIMA模型预测 n疏系数模型 n季节模型 4.3.1、ARIMA模型结构模型结构 n使用场合：差分平稳序列拟合 nARIMA（autoregressive integrated moving average求和自回归移动平均） nARIMA（p,d,q）模型结构 tsEx tsEVarE BxB ts sttt tt d , 0 , 0)(,)(0)( )()( 2 ， p pB BBB 2 21 1)(1; d d B 为平稳可逆ARMA（p,q）模型的自回归系数多

12、项式 （4.1） 对比对比63页页 q q BBBB 2 21 1)( 为平稳可逆ARMA（p,q）模型的移动平均系数多项式。 ( ) ( ) d tt B x B （4.1）简记为 t 其中，为零均值白噪声序列。 （4.2） ARIMA模型的实质就是差分运算与ARMA模型的组合。 即任何非平稳序列如果能通过适当阶数的差分实现差分 后平稳，此时可对差分后序列进行ARMA模型拟合了。 ARIMA 模型族模型族 nd=0 ARIMA(p,d,q)=ARMA(p,q) nP=0 ARIMA(P,d,q)=IMA(d,q) nq=0 ARIMA(P,d,q)=ARI(p,d) nd=1,P=q=0 A

13、RIMA(0,1,0)=random walk model 随机游走模型随机游走模型( random walk) n模型结构 n模型产生典故 nKarl Pearson(1905.07)在自然杂志上提问：假如有个 醉汉醉得非常严重，完全丧失方向感，把他放在荒郊野外， 一段时间之后再去找他，在什么地方找到他的概率最大呢？ n雷利爵士（1905.08）认为，最好去初始位置找他 tsEx tsEVarE xx ts sttt ttt , 0 , 0)(,)(0)( 2 1 ， 2、ARIMA模型的平稳性模型的平稳性 ( , , ):( )( ) d tt ARIMA p d qBxB 模型 p pB

14、 BBB 2 21 1)(1; d d B q qB BBB 2 21 1)( ( )( ) d BB 称为广义自回归系数多项式。 1 ( )( )11 p d d i i BBBB = 1 ( , , )p+d 11 p ARIMA p d q 模型的广义自回归系数多项式有 个根，其中p个根，.,在单位圆外，d个根在圆上。 n 自回归系数多项式 的根为特征根的倒数， 所以ARIMA(p,d,q)模 型共有p+d个特征根， 其中p个在单位圆内， d个在单位圆上。 n 所以当当 时时 ARIMA(p,d,q)模型模型 非平稳。非平稳。 n例4.5 ARIMA(0,1,0)时序图 0d 3、ARI

15、MA模型的方差齐性模型的方差齐性 n 时，原序列方差非齐性 nd阶差分后，差分后序列方差齐性 0d 2 )()( )0 , 1 , 0( tt VarxVar ARIMA模型 2 110 )()( )0 , 1 , 0( txVarxVar ARIMA ttt 模型如： 问题：问题：平稳平稳AR模型和可逆模型和可逆MA模型，它们是否具有方差齐性？模型，它们是否具有方差齐性？ 回顾：回顾：Cramer分解定理（分解定理（1961） n任何一个时间序列（可适用于非平稳序列可适用于非平稳序列） 都可以分解为两部分的叠加：其中一部分是由多 项式决定的确定性趋势确定性趋势成分，另一部分是平稳的平稳的 零

16、均值误差零均值误差成分，即 t x ttt x 确定性影响 随机性影响 例如：平稳ARMA t aB)( d j j jt 0 j 为常数系数 t a为一个零均值 白噪声序列 为延迟算子 离散序列的d阶差分就相当于连续变量的d阶求导， 在上述分解下， d阶差分就可充分提取时序中的确定 性信息。 注意：注意：防止出现过差分。 0 , d dj j j tc c 为某一常数 ARIMA模型结构模型结构 ARIMA（p,d,q）模型结构 tsEx tsEVarE BxB ts sttt tt d , 0 , 0)(,)(0)( )()( 2 ， p pB BBB 2 21 1)(1; d d B 分

17、别为平稳可逆ARMA（p,q）模型的自回归系数多项式 和移动平均系数。 注意：注意：ARIMA（p,q）的平稳性？方差齐性？）的平稳性？方差齐性？ ARMA（p,q）呢？）呢？ q qB BBB 2 21 1)( ARIMA模型建模步骤 获获 得得 观观 察察 值值 序序 列列 平稳性平稳性 检验检验 差分差分 运算运算 Y N 白噪声白噪声 检验检验 Y 分分 析析 结结 束束 N 拟合拟合 ARMA 模型模型 例4.6 n对1952年1988年中国农业实际国民 收入指数序列建模 d=read.csv(shouru.csv,head=F) shouru=ts(d,start=1952,end

18、=1988,freq =1) ts.plot(shouru,type=b) chafen=diff(shouru,differences=1) ts.plot(chafen) acf(chafen,10) 时序图和一阶差分序列时序图时序图和一阶差分序列时序图 Time 1955196019651970197519801985 100150200250 Time 1955196019651970197519801985 -20-100102030 0246810 -0.20.00.20.40.60.81.0 Lag ACF V1 246810 -0.20.00.20.4 Lag Partial

19、ACF Series chafen acf(chafen,10) pacf(chafen,10) Box.test(chafen, type=Ljung-Box,lag=6) data: chafen X-squared = 15.3304, df = 6, p-value = 0.01784 arima(chafen, order = c(0,0,1),method=ML) arima(x = chafen, order = c(0, 0, 1), method = ML) Coefficients: ma1 intercept 0.6710 4.9947 s.e. 0.1648 2.013

20、9 sigma2 estimated as 53.42: log likelihood = - 122.99, aic = 251.97 a= arima(chafen, order = c(0,0,1),method=ML) r=a$residuals Box.test(r,type=Ljung-Box,lag=6,fitdf=1) data: r X-squared = 3.6649, df = 5, p-value = 0.5986 2 14.99471 0.6710,53.42 tt B xB p=pt(4.0716,df=35,lower.tail = F)*2 p 1 0.0002

21、536605 (theta1的检验） p=pt(2.4801,df=35,lower.tail = F)*2 P 1 0.01809275 (截距项的检验） ( , , ):( )( ) 1 d tt ARIMA p d qBxB 模型 4、ARIMA模型预测模型预测 1122 *2 12 * .( ) 2 21( ) 1( )( ) ( )( ) 11.- ( ) ( )( ) t ttttt d d p d p d j ARMAx xB BBBB BBBBBB BBB 和模型一样， 也可以表示为随机扰动项的线性组合： 将代入得到： 若记 则有： 待定系数法，得到 的递推公式： 4、ARIMA模型预测 111 12212 11 . . p djjj p dj 000 =,=, ,1,0 jj j jqj jqj ， 式中， 预测值：线性最小方差预测原则预测值：线性最小方差预测原则 )()( 111111 tltltlltltlt x )(let)( l xt 22 1