平稳时间序列ARMA预测法

1、平稳时间序列预测法 ARMA模型的建立 1授课：XXX2021/3/10 目录 基本概念ARMA模型建模流程 2授课：XXX2021/3/10 平稳时间序列： 设时间序列来自一个随机过程，如果此随 机过程的随机特征不随时间变化，则我们 称过程是平稳的。 实际应用中一般要求平稳性为“宽平稳” 。 基本概念 3授课：XXX2021/3/10 宽平稳： 基本概念 )()( mtt yEyE ),cov(),cov( kmtmtkyt yyyy 4授课：XXX2021/3/10 如果时间序列式平稳的，我们就可以用具 有确定参数方程将时间序列模型化。并且 利用以往的序列对模型的参数进行估计。 ARMA模

2、型是一个研究平稳时间序列的模型 基本概念 5授课：XXX2021/3/10 白噪声序列： 序列由独立同分布的随机变量构成。 对所有 都有 基本概念 ts )()( ts yEyE 0),cov( ts yy 6授课：XXX2021/3/10 白噪声序列式最简单的平稳序列，在不同 点上的协方差为0。该特性称之为“无记忆 性”，意味着人们无法根据其过去的特点 推断其未来的特点，其变化没有规律可循 。 在时间序列的分析中，当模型的残差序列 为白噪声序列时，可认为模型达到了较好 的效果，剩余的残差中已没有可提取的信 息。 基本概念 7授课：XXX2021/3/10 自相关函数与偏自相关函数 自相关函数

3、 过程 的第j阶自相关系数即 ，自相关函数记为ACF(j) 。 基本概念 tY j0 j )()( ),cov( )( htt htt yDyD yy hACF 8授课：XXX2021/3/10 偏自相关函数 偏自相关系数 度量了消除中间滞后项影 响后两滞后变量之间的相关关系。偏自相 关函数记为PACF(j) 基本概念 * j 9授课：XXX2021/3/10 自相关函数和偏自相关函数的联系 2阶以上的偏自相关函数计算公式较为复杂 ，这里不再给出。可自行查阅相关书籍。 基本概念 * 11= *22 2211=(-) (1) 10授课：XXX2021/3/10 ARMA模型 自回归移动平均模型（

4、autoregressive moving average models,简记为ARMA模型） ，由因变量对它的滞后值以及随机误差项 的现值和滞后值回归得到。 包括移动平均过程（MA）、自回归过程（ AR）、自回归移动平均过程（ARMA）。 ARMA模型 11授课：XXX2021/3/10 AR（p）模型 自回归（AR）模型表示为： 其中为 为白噪音过程。 ARMA模型 tptpttt yyyy 2211 t 12授课：XXX2021/3/10 MA（q）模型 移动平均（MA）模型表示为： 其中为 为白噪音过程。 ARMA模型 qtqtttt y 2211 t 13授课：XXX2021/3/1

5、0 ARMA（p,q）模型 将AR模型与MA模型连起来： 其中为 为白噪音过程。 ARMA模型 qtqtt 2211 t tptpttt yyyy 2211 14授课：XXX2021/3/10 AR、MA模型的相互转化 结论一：平稳的AR(p)过程可以转化为一个 MA()过程，可采用递归迭代法完成转化 结论二：特征方程根都落在单位圆外的 MA(q)过程具有可逆性 平稳性和可逆性的概念在数学语言上是完 全等价的，所不同的是，前者是对AR过程 而言的，而后者是对MA过程而言的。 ARMA模型 15授课：XXX2021/3/10 以上三个模型都要满足一下条件： 第一，平稳性。序列时平稳的。 第二，残

6、差符合白噪声。 第三，AR的平稳与MA的可逆 ARMA模型 16授课：XXX2021/3/10 ARIMA模型 将ARMA模型推广到非平稳的序列，就是 ARIMA模型。 非平稳的序列通过若干次处理，如：取对 数，差分等可化为平稳的序列。 经过d阶差分后得到平稳序列的ARMA(p,q) 模型就是原序列的ARIMA(p,d,q)模型 ARMA模型 17授课：XXX2021/3/10 ARIMA的建模流程图： 建模流程 原始序列 周期 带周期成分 不带周期成分 平稳 差分 白噪声 结束 ARMA模型 18授课：XXX2021/3/10 周期性检验：谱分析 谱分析方法把时间序列 看成是由多种不 同频率

7、的规则波（正弦波或余弦波）迭加 而成。在频率域上比较不同频率波的方差 大小，从而找出波动的主要周期。对某一 时间序列 的谱分析，有两种方法： 一 是功率谱分析， 二是最大熵谱分析。 建模流程 t y t y 19授课：XXX2021/3/10 功率谱分析 在时域中, 如果假设标准化时间函数 自相 关系数为 则功率谱 与自相关系数 通过傅里叶变换可建立如下关系： 建模流程 t y )(h)(s )(h desh hint )( 2 1 )( dhehs hint )()( 20授课：XXX2021/3/10 功率谱估计法 第一步，计算样本自相关系数： 建模流程 hn t htt s xx s x

8、x hn h 1 )( 1 )( 21授课：XXX2021/3/10 功率谱估计法 第二步，计算功率谱： 建模流程 )cos)()(2)0( 1 1 m t L L m h hh m B S ),0( 2 1 ),0(1 mL mL BL m h h cos 2 1 2 1 )( 22授课：XXX2021/3/10 的最大值即为主要周期。 功率谱在分析时间序列的周期时存在如下 问题： (1)功率谱不能兼顾高频和低频段的需要; (2)某些短周期振动易在一些周期长度为它 们整数倍的长周期中表现出来,又混在长周 期中; (3)所取样本较短时,不利于谱的分辩, 可能得 出的周期与实际有偏离。 建模流程

9、 L S 23授课：XXX2021/3/10 SPSS中的功率谱分析： 观察谱周期图； 做Fisher峰值检验； 有效的峰值处就是周期； 建模流程 24授课：XXX2021/3/10 平稳性检验 一般地，以时间序列数据为依据的实证研 究工作都必须假定有关的时间序列时平稳 的，否则回导致谬误回归问题的出现。 先给出两种非平稳序列现象：d阶单整和协 整，这两类非平稳序列经过变换可以达到 平稳。 建模流程 25授课：XXX2021/3/10 d阶单整：是指非平稳序列经过d阶差分后 可以达到平稳。 协整：若两个或多个非平稳的变量序列， 其线性组合后的序列呈平稳，则称这些序 列见有协整关系。 建模流程

10、26授课：XXX2021/3/10 先来看一个随机游动过程： 为白噪声序列 可以看出： 期望是常数，方差却随时间变化，是非平 稳过程。 建模流程 ttt yy 1 t )()()( 0210 yEyEyE tt 2 0210 )()()(tyDyDyD tt 27授课：XXX2021/3/10 单位根过程： 其中 ， 是一个平稳过程，且 ， 可见，随机游动过程是单位根过程的一个 特例。 建模流程 ttt uyy 1 1 t u 0)( t uE sstt uuu ),cov( 28授课：XXX2021/3/10 单位根检验： 目前使用比较广泛的是Dickey-Fuller Test（ DF检验

11、）是Dickey和Fuller在20世纪70年代 到20世纪80年代的一系列文章中建立起来 的。他是基于参数的最小二乘估计，在单 位根过程中，有给定样本构造统计量，易 操作，可应用于多种不同形式。 建模流程 29授课：XXX2021/3/10 单位根检验： 1987年Engle提出了ADF(Augmented Dickey- Fuller)检验以修正DF检验中自相关问题， 并指出具有高阶自相关的序列应用ADF检 验。 ADF检验方法加入了漂移项与实践趋势项 ，更具科学性。 建模流程 30授课：XXX2021/3/10 DF检验的假设： 假设模型样本观测值来自模型 因此，在原假设成立时， 服从一

12、个随机 游动过程；在备择假设成立时， 服从一 个平稳的一阶自回归模型。 建模流程 ttt yy 1 1:; 1: 10 HH t y t y 31授课：XXX2021/3/10 在原假设成立的条件下，参数 的最小二 乘估计为： T为样本容量。 建模流程 T t t T t tt T y yy 1 2 1 1 1 32授课：XXX2021/3/10 接下来构造统计量： 和 其中 建模流程 )1( T T 2 1 ) 1 ( )1( 1 2 1 22 T t t T T T y T T t T t tTtT yy T 1 2 1 2 )( 1 1 33授课：XXX2021/3/10 对于上述两种检

13、验Dickey和Fuller分别给出 了检验的临界值，对于给定的样本容量T和 显著性水平，将样本观察值带入两个统计 量中，和临界值对比，如果统计量大于临 界值，则拒绝原假设 即认为 服 从平稳的一阶自回归模型。 建模流程 1: 0 H t y 34授课：XXX2021/3/10 利用Eviews做单位根检验： 建模流程 35授课：XXX2021/3/10 前面通过周期性检验确定周期，通过单位 根检验判断序列是否平稳。对平稳的序列 画出ACF和PACF图，判断是不是白噪声。 如果不是白噪声序列，则根据ACF和PACF 图尝试给ARMA模型进行初步定阶。 建模流程 36授课：XXX2021/3/1

14、0 自相关图与偏自相关图： 根据自相关系数和偏自相关系数画成的图 ，可以简单直观的从图中读出粗略信息。 下面介绍几种序列的大致图形。 建模流程 37授课：XXX2021/3/10 建模流程 38授课：XXX2021/3/10 建模流程 39授课：XXX2021/3/10 建模流程 40授课：XXX2021/3/10 建模流程 41授课：XXX2021/3/10 建模流程 42授课：XXX2021/3/10 建模流程 平稳的时间序列其自相关图和偏自相关图 应该很快的落入95%的置信区间。 43授课：XXX2021/3/10 建模流程 拖尾与结尾： 首先拖尾与结尾都是针对平稳的时间序列 。 拖尾：

15、是一种衰减的趋势，很快落入区间 内，通常呈衰减的正弦波或指数形式。 截尾：在某一阶后突然变得很小。 44授课：XXX2021/3/10 建模流程 模模 型型理论上的理论上的ACF理论上的理论上的PACF 白噪声序列全为0全为0 AR(p)拖尾p阶截尾 MA(q)q阶截尾拖尾 ARMA(p,q)拖尾（不截尾）拖尾（不截尾） 45授课：XXX2021/3/10 建模流程 截尾性检验： 对于自相关系数 对每一个 时，计算 ， 取 或 ，考察满足 或 k qk Mqqq , 21 M n 10 n %3.68)21 1 ( 1 2 q i ik n P %5.95)21 2 ( 1 2 q i ik

16、n P 46授课：XXX2021/3/10 建模流程 如果 时 都明显不为0，而 均近似于0，并满足上述不等式 相应的比例，则可近似的判定 是 阶截 尾，平稳的时间序列 为MA(q)模型。 k qk1 Mqqq , 21 q k t y 47授课：XXX2021/3/10 建模流程 截尾性检验： 对于偏自相关系数 类似地，可考察 可近似判定 为 阶截尾，平稳的时间序 列 为AR(p)模型。 k %3.68) 1 ( n P k %5.95) 2 ( n P k k p t y 48授课：XXX2021/3/10 建模流程 以上给出了两种定阶的方法，一种简便但 偏主观，一种复杂但较客观。 无论哪

17、种定阶方法都不是一蹴而就的，都 需要反复的分析与尝试。 如：每做完一次模型的建立，都需要进行 残差分析，看看残差是否是白噪声序列。 如果不是，说明模型没有提取完所有的序 列信息。 49授课：XXX2021/3/10 建模流程 利用信息准则定阶： 信息准则法在模型的选择中起到很重要的 作用，可以用于ARMA(p,q)模型的定阶，实 际上就是ARMA(p,q)模型的筛选。 这里给出两种准则：AIC准则和BIC准则。 50授课：XXX2021/3/10 建模流程 )( 2),(ln),( 2 qpqpnqpAIC ),(2qp ),(min),(jiAICqpAIC 51授课：XXX2021/3/1

18、0 建模流程 nqpqpnqpBICln)(),(ln),( 2 ),(2qp ),(min),(jiBICqpBIC 52授课：XXX2021/3/10 建模流程 利用准则的决策矩阵： 从中选出AIC(p,q)最小的最为最终ARMA(p,q) 模模 型型MA(0)MA(1)MA(q) AR(0)AIC(0,0)AIC(0,1)AIC(0,q) AR(1)AIC(1,0)AIC(1,1)AIC(1,q) AR(p)AIC(p,0)AIC(p,1)AIC(p,q) 53授课：XXX2021/3/10 建模流程 最终确定模型后，做残差的白噪声检验， 可从残差的ACF图中大致看出，如果残差各 阶基本都在95%的置信区间内，可判断为是 白噪声序列。 如果残差满足白噪声序列，说明平稳时间 序列的信息已经基本提取完。 最后利用