线性平稳时间序列分析ppt课件

1、 第三章 线性平稳时间序列分析本章构造n线性过程n自回归过程 AR(p)n挪动平均过程 MA(q)n自回归挪动平均过程 ARMA(p，q)n自相关系数和偏自相关系数线性平稳时间序列分析 在时间序列的统计分析中，平稳序列是一类重要的随机序列。在这方面曾经有了比较成熟的实际知识，最常用的是ARMA (Autoregressive Moving Average)模型。用ARMA模型去近似地描画动态数据在实践运用中有许多优点，例如它是线性模型，只需给出少量参数就可完全确定模型方式；另外，便于分析数据的构造和内在性质，也便于在最小方差意义下进展最正确预测和控制。线性过程 n方法性工具n 这些工具会使得时

2、间序列模型表达和分析更为简约和方便。n延迟算子n线性差分方程延迟算子定义：设B为一步延迟算子，假设当前序列乘以一个延迟算子，就表示把当前序列值的时间向过去拨一个时辰，即 BXt=Xt-1。性质：011101()(),()(1)( 1)tttttttnniiinintt nBB c Xc B Xc XcB XYXYBC BB XX 为任意常数线性差分方程 n线性差分方程n齐次线性差分方程)(2211thzazazazptpttt02211ptptttzazazaz齐次线性差分方程的解n特征方程n特征方程的根称为特征根，记作n齐次线性差分方程的通解n不相等实数根场所n有相等实根场所n复根场所022

3、11ppppaaap,21tpptttcccz2211tpptddtddtcctctccz111121)(tpptititttccececrz3321)(11220tttptpza za za z非齐次线性差分方程的解 n非齐次线性差分方程的特解n使得非齐次线性差分方程成立的恣意一个解n非齐次线性差分方程的通解 ztn齐次线性差分方程的通解 和非齐次线性差分方程的特解 之和tttzzz )(2211thzazazazptpttt tztz )(2211thzazazazptpttt一阶差分方程 P33n用递归替代法解差分方程：假设知y-1和的各期值n动态乘子 n动态乘子为输入对输出yt的影响，

4、依赖于j，即输入t和输出yt+j察看值之间的时间间隔。n当参数取不同的值，系统最后的形状也不同。0tjtjttyy或1tttyy11101tttttyy 一阶差分方程 P33n动态乘子(动态乘子为输入对输出yt的影响)n当01，动态乘子按几何方式衰减到零；当-11，动态乘子指数添加；当-1，动态乘子发散性振荡；n当1，动态系统发散；当=1，输入变量将对系统产生耐久性影响。0tjtjttyy或1tttyy11101tttttyy 线性过程定义：Xt称为线性过程，假设 ，其中 t是白噪声序列，系数序列Gj满足 。 系统是因果性的：假设系数序列Gj满足Gj=0, j0，即定理3.1：线性过程一定是平

5、稳过程，且是均方收敛的。tjtjjXG2jjG 0110tjtjttjXGGG线性过程的因果性在运用时间序列分析去处理实践问题时，所运用的线性过程是因果性的，即：用延迟算子表示： 21100tjtjttjjjXGGG 且 0jtjttjXG BG B条件：0jjG 线性过程的逆转方式n用t时辰及其以前时辰的Xt-j(j=0,1, )来表示白噪声t ，即：n 为Xt的逆转方式n其中 称为逆函数。n例： Xt=t -0.1t-1 是因果的，可逆的 11tttjtjjGB XXI X 111jjjGBI BI B ARMA模型nAR模型 (Auto Regression Model) nMA模型 (

6、Moving Average Model) nARMA模型 (Auto Regression Moving Average Model)AR(p)模型：p 阶自回归模型 AR(1)模型的背景 n假设时间序列是独立的，没有任何依赖关系，这样的资料所提示的统计规律就是事物独立的随机变动，系统无记忆才干。假设情况不是这样，资料之间有一定的依存性，那么最简单的关系就是后一时辰的行为主要与其前一时辰的行为有关，而与其前一时辰以前的行为无直接关系，即知Xt-1，Xt主要与Xt-1相关。用记忆性来说，就是最短的记忆，即一期记忆，也就是一阶动态性。 AR(1)模型：一阶自回归模型n描画这种关系的数学模型就是一

7、阶自回归模型，简记为AR(1)，即 11tttXX其中Xt为零均值(即中心化处置后的)平稳序列。1为Xt对Xt-1的依赖程度,t为随机扰动，普通为零均值的白噪声序列。 AR(1)的中心化变换n普通情形：n 此时n中心化：令Yt=Xt- ，Yt即为Xt的中心化序列，此时有11tttXcX101tcE X 0tE YAR模型平稳性的判别 n判别缘由nAR模型是常用的平稳序列的拟合模型之一，但并非一切的AR模型都是平稳的。 n判别方法n特征根判别法AR(1)模型的平稳性条件n平稳条件：对应齐次差分方程的特征根在单位圆内n特征方程：n特征根:11tttXcX101AR(1)模型平稳11平稳域调查以下模

8、型的平稳性：1(1)0.8tttXX1(2)1.1tttXX 序列的期望和方差如何求？AR(2)模型：二阶自回归模型n对于自回归模型来说，当Xt不仅与前期Xt-1有关，而且与Xt-2相关时，AR(1)模型就不再适用了。这时就需求用AR(2)模型。n中心化的AR(2)模型：n非中心化的AR(2)模型：n其中t为随机扰动，普通为零均值的白噪声序列。1122ttttXXX1122ttttXcXXAR(2)模型的平稳性条件n平稳条件：对应齐次差分方程的特征根在单位圆内n特征方程：n特征根:2120 2112421122ttttXcXXAR(2)模型平稳1AR(2)模型的平稳性条件n平稳域12221,1

9、1 ，且nAR(2)平稳性判别：n特征根n平稳域调查以下模型的平稳性：12(3)0.5ttttXXX12(4)0.5ttttXXX序列的期望和方差如何求？AR(p) 模型：普通自回归模型n中心化的AR(p)模型：n非中心化的AR(p)模型：112220,0,tttptpttstXXXXWNE Xst 阐明当前期的随机扰动与过去的序列值无关1122tttptptXcXXXAR(p) 的自回归系数多项式n引进延迟算子，中心化的AR(p)模型又可以简记为 n自回归系数多项式n对应齐次差分方程的特征多项式1122tttptptXXXX212( )( )1ttppB XBBBB 其中212( )1ppu

10、uuu 1212( )pppp 其根互为倒数AR模型平稳性判别方法n特征根判别nAR(p)模型平稳的充要条件是它的p个特征根都在单位圆内n根据特征根和自回归系数多项式的根成倒数的性质，等价判别条件是该模型的自回归系数多项式的根都在单位圆外MA(q)模型：q阶挪动平均模型MA模型：Moving Average ModelnAR模型：是系统在t时辰的呼应Xt仅与其以前时辰的呼应Xt-j有关，而与其以前时辰进入系统的扰动t-j无关。nMA模型：假设一个系统在t时辰的呼应Xt，与其以前时辰的呼应Xt-j无关，而与其以前时辰 进入系统的扰动t-j存在着一定的相关关系，这时需求建立的是MA模型。 MA(1

11、)模型：一阶挪动平均模型 n假设一个系统在t时辰的呼应Xt仅与其前一时辰进入系统的扰动t-1存在着一定的相关关系，描画这种关系的数学模型就是一阶挪动平均模型，记作MA(1)，即n 为常数，是序列均值；n t为零均值的白噪声序列；n 为挪动平均系数。11tttX n非中心化的MA(q)模型：n引进延迟算子， MA(q)模型又可以简记为： nq阶挪动平均系数多项式：21122,0,ttttqt qtXWN MA(q)模型：q阶挪动平均模型 ( )ttXB212( )1qqBBBB 11222212varvar1tttqt qqaX MA(q)模型的统计性质n常数均值：模型两边求期望可得n常数方差：

12、n【注】MA(q)模型一定为平稳模型。tEX21122,0,ttttqt qtXWN MA(q)模型的可逆性n可逆MA模型定义n假设一个MA模型可以表示成无穷阶的自回归模型，那么称该MA模型称为可逆的。n例：111220.5ttttttXX（）（ ）11 221 0.5ttttXBXB（）（ ）0011/ 1 221/ 1 0.50.50.5ttnntttt nnnB XB XBXX（）（ ）ARMA模型自回归挪动平均模型Autoregressive-Moving Average ModelARMA模型的背景n一个系统，假设它在t时辰的呼应 Xt 不仅与其以前时辰的呼应有关，而且还与其以前时辰

13、进入系统的扰动存在着一定的相关关系，那么这个系统就是自回归挪动平均系统，相应的模型记作ARMA模型。n在此模型下，一个影响系统的扰动t 被“牢记一定时期，从而影响系统的后继行为。正是系统的这种动态性，引起了时间序列中的依存关系，从而决议了序列中的依存关系不能用普通静态回归模型来描画，而只能用ARMA模型。ARMA(p,q)模型n非中心化的ARMA(p,q)模型： n n 其中i为自回归系数，i为挪动平均系数。n中心化的ARMA(p,q)模型111120,0,ttptpttqt qtstXcXXWNE Xst ARMA(p,q)模型的系数多项式n引进延迟算子，ARMA(p,q)模型又可以简记为

14、：np阶自回归系数多项式：nq阶挪动平均系数多项式：( )( )ttB XcBqqBBBB2211)(212( )1ppBBBB 1111ttptpttqt qXcXX AR、MA和ARMA之间的关系n ARMA(p,q)模型：n当p=0时，ARMA(p,q) 模型就退化为MA(q)模型；n当q=0时，ARMA(p,q) 模型就退化为AR(p)模型；nAR(p)模型和MA(q) 模型实践上是ARMA(p,q)模型的特例，它们统称为 ARMA(p,q) 模型；nARMA(p,q)模型的性质也正是AR (p)模型和MA(q)模型性质的有机组合。1111ttptpttqt qXcXX ARMA平稳域

15、与可逆域的定义n平稳域 i：(B)=0的根都在单位圆外n可逆域 j：(B)=0的根都在单位圆外n平稳可逆域ni,j：(B)=0和(B)=0的根都在单位圆外1111212212( )1( )1ttptpttqt qppqqXcXXBBBBBBBB 平稳与可逆性的阐明nARMA(p,q)模型的平稳条件n(B)=0的根都在单位圆外，完全由其自回归部分的平稳性决议n假设系统具有平稳性，阐明系统对某一时辰进入的扰动的记忆逐渐衰减，时间越远，它的影响作用越小，逐渐被完全忘掉。nARMA(p,q)模型的可逆条件n(B)=0的根都在单位圆外，完全由其挪动平均部分的可逆性决议n可逆性表示某一时辰的系统呼应对后继

16、时辰的呼应的影响呈递减形状，离该时辰时间越远，影响作用越小。n对于ARMA(p,q)模型来说，只需平稳且可逆才是有意义的。:( )( )ttARMAB XcB举例n问以下几个ARMA(1,1)模型能否平稳和可逆？ 111110.50.820.61.331.50.8ttttttttttttXXXXXX答：(1平稳可逆，2平稳不可逆，3可逆不平稳:( )( )ttARMAB XcBnARMA模型可以变形为：n定义：当Xt表示为n即称为ARMA(p,q)模型的传送方式，或 Xt的Worldn分解，称 Gj为Green函数或World系数。 0120( )( )1,1jtttjtjpBXG BG BB

17、cG其中00jtjtjtjjjXG BGARMA(p,q)模型的传送方式Green函数nGj是j个单位时间以前参与系统的冲击或扰动t 对如今影响的权重nGreen函数表示了系统对冲击t-j有多大的记忆，也即假设有单个t 参与系统， Green函数决议了系统将用多久时间可以恢复到它的平衡位置。00jtjtjtjjjXG BG:( )( )ttARMAB XB nARMA模型可以变形为：n定义：当Xt表示为n即称为ARMA(p,q)模型的逆转方式，称 Ij为模型的n逆函数。 000( )( ),1jtttjtjjjjBXI B XI B XBI BI BI 其中1ttjtjjXI XARMA(p,

18、q)模型的逆转方式举例nARMA(1,1)模型：Xt=0.6Xt-1+t-0.3t-1，写出模型的传送方式和逆转方式。n解：(1) 传送方式 100111 0.30.311 0.61 0.60.30.60.30.60.30.6tttjjttttjjjjttjjBBXBBBB (2) 逆转方式 110.60.3ttttXX 011011 0.60.311 0.31 0.30.30.30.30.3tttjttjjttjjjttjjBBXXBBXBBXXXXX ARMA(p,q)模型的统计性质n均值：n方差：借助于传送方式 n 0tE X112211tttptpttqt qXXXX 0=tjtjjX

19、G222000var=varvarjjtjtjtjjjjXGGGn自协方差：借助于传送方式 n自相关系数：0200jj kjkkjjG GG0=tjtjjXG002000()ktt kit ijt kjijijt it kjjkjijjE X XEGGEGGG G ARMA(p,q)模型的统计性质三种模型之间的转换n当三种模型：AR、MA和ARMA都具有平稳可逆性时，它们之间可以有如下的转换关系：nAR(p) MA ()nMA(q) MA ()nARMA(p, q) AR()或MA()ARMA模型的相关性n自相关系数 ACFn偏自相关系数 PACFAR(p)模型的自相关系数ACFn在模型两边同

20、乘Xt-k(k0)，再求期望，可得自协方差系数：n自相关系数的Yule-Walker方程：n设p阶差分方程特征根为 ，那么自相关系数满足1122,0kkkpkpk 1122tttptptXXXX1122,0kkkpkpk 12,1pi 1 122ttttppcccAR(p)的自相关系数ACF-拖尾例：调查如下AR模型的自相关图111212(1)0.8(2)0.8(3)0.5(4)0.5ttttttttttttttXXXXXXXXXX -可以验证，这四个模型都是平稳的n自相关系数按负指数单调收敛到零1(1)0.8tttXXn自相关系数呈现出正负相间的衰减1(2)0.8tttXX n自相关系数呈现

21、出“伪周期性12(3)0.5ttttXXXn自相关系数不规那么衰减12(4)0.5ttttXXXa MA(q)模型的自协方差系数n自协方差系数只与滞后阶数k相关，且q阶截尾。1122ttttqt qX 1111222212211,0 10, ktt kttqt qt kt kqt k qqq kkik iiE X XEkkqkq ，MA(q)模型的自相关系数ACF1122ttttqt qX 2222122112220121,0 10, 1, 0 1qq kkkik iiq kkik ikikqkkqkqk，10, kqkq，MA(q)模型的自相关系数(ACF) -q步截尾MA模型的自相关系数截

22、尾112tttX（）120.5tttX（ ）MA模型的自相关系数截尾124163525ttttX（ ）125254416ttttX（ ）ARMA模型的相关性n自相关系数ACF拖尾10.50.8ttttXX偏自相关系数(PACF)n背景：n延迟k相关系数：衡量的并不是Xt与Xt-k之间单纯的相关关系，它还遭到中间k-1个变量Xt-1,Xt-2, ,Xt-k+1的影响。n延迟k偏自相关系数就是指在给定中间k-1个随机变量Xt-1,Xt-2, ,Xt-k+1的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后，Xt-k对Xt影响的相关度量。偏自相关系数的定义n对于零均值平稳序列Xt，思索用Xt-

23、k,Xt-k+1, ,Xt-1对Xt的线性最小方差估计，即选择系数，使得下式最小：n kj为使得残差方差到达极小的k阶自回归模型的第j项系数。其中最后一个系数kk称为Xt的偏自相关系数。nkk是使在模型中曾经包含了Xt-1,Xt-2, Xt-k+1之后，再添加一期滞后Xt-k所添加的模型的解释才干，它是一种条件相关，是对Xt与Xt-k之间未被Xt-1,Xt-2, Xt-k+1所解释的相关的度量。21kktkjtjjE XXk阶自回归模型中的第k个系数1122112211112201122,tktktkkt kttt lktt lktt lkkt kt ltt ltt lktt lkkt kt ltt llklklkkl klklklkkl kXXXXX XXXXXXXXE X XE XXE XXEXl 即有 除以 ，可得 1偏自相关系数的计算1122,1lklklkkl kl 偏自相关系数的计算n滞后k偏自相关系数实践上就等于k阶自回归