平稳时间序列分析ARMA模型PPT教案

1、平稳时间序列分析平稳时间序列分析ARMA模型模型第1页/共100页tsExtsEVarExxxxtsstttptptpttt, 0, 0)(,)(0)(0222110，p)(pAR00)(pAR（一）AR模型定义第2页/共100页p101ttxy对于非中心化序列01122tttptptxxxx作变换则原序列即化为中心化序列1122tttptptyyyy所以，以后我们重点讨论中心化时间序列。第3页/共100页)(pARttxB)(ppBBBB2211)(AR模型的算子表示令则 模型可表示为（二）AR模型平稳性判别判别原因：AR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的 。

2、判别方法：特征根判别法，平稳域判别法。第4页/共100页1(1)0.8tttxx1(2)1.1tttxx 12(3)0.5ttttxxxttttxxx115 . 0)4(第5页/共100页1(1)0.8tttxx12(3)0.5ttttxxx第6页/共100页1(2)1.1tttxx ttttxxx115 . 0)4( 从时序图上可以看出，（1）（3）模型平稳，（2）（4）模型非平稳。第7页/共100页,21单位根都在单位圆内p特征根判别平稳域判别 AR(p)模型平稳的充要条件是它的p个特征根都在单位圆内。 根据特征根和算子多项式的根成倒数的性质，AR(p)模型平稳的充要条件是该模型的算子多项

3、式的根都在单位圆外。平稳域为：第8页/共100页;1 （四）两个常见模型的平稳性条件1、AR(1)模型平稳条件特征根为 ，平稳条件平稳域为1tttxx1第9页/共100页对1阶自回归模型AR(1)tttXX1方程两边平方再求数学期望，得到Xt的方差：)(2)()()(122122tttttXEEXEXE 由于Xt仅与t相关，因此，E(Xt-1t)=0。如果该模型稳定，则有E(Xt2)=E(Xt-12)，从而上式可变换为：第10页/共100页22201X在稳定条件下，该方差是一非负的常数，从而有 |1。 01)(zz的根为z=1/ AR(1)稳定，即 | 1，意味着特征根大于1。第11页/共10

4、0页221121121244 2211,12221，且由1122ttttxxx121122, 知 等价于121, 1平稳域第12页/共100页 2 + 1 = - 1 2 + (1 +2) = 1 (1- 1) (1- 2 ) 2 - 1 = - 1 2 - (1 +2) = 1 (1+ 1) (1+ 2 ) 无论 1, 2为实数或共轭复数，由 1 1, 2 0，从而得 2 + 1 1 2 - 1 1 且 -1 2 0 时，特征方程有不等实数根。2, 1的值位于过阻尼区（自相关函数呈指数衰减）。 (3)当 12 + 4 2 0 时，特征方程根为共轭复根。 2, 1的值位于欠阻尼区（自相关函数呈

5、正弦震荡衰减）。 第15页/共100页AR(2)模型的平稳性也可以如下讨论： 对AR(2)模型： ttttXXX2211方程两边同乘以Xt，再取期望得： )(22110ttXE222211)()()()(tttttttEXEXEXE第16页/共100页于是： 222110同样地，由原式还可得到：0211212011于是方差为 ：)1)(1)(1 ()1 (21212220由平稳性的定义，该方差必须是一不变的正数，于是有 1+21, 2-11, |2|1第17页/共100页(1)AR(p)模型稳定的必要条件是：121p(2)由于 可正可负，AR(p)模型稳定的充分条件是：(1, )iip 121

6、p第18页/共100页8 . 010.81 . 111.1 211i212i221210.5,0.5,1.5 23112312221210.5,1.5,0.5 模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)非平稳第19页/共100页p101)(110tptpttxxEExTtEExtt,0)(,t（三）平稳AR模型的统计性质1、均值如果AR(p)模型满足平稳性条件，则有根据平稳序列均值为常数，且 为白噪声序列，有推导出第20页/共100页, 2 , 1,jGjjtjjjpijtjiipijtjiipitiittGkBkBkBx001101)(1)(2、方差将平稳的AR(p)

7、模型表示成如下的传递形式其中系数 称为Green函数第21页/共100页pkpkjGGGkkkjjkkj, 0, 2 , 1110其中，ttttttBGBBGxxB)()()()(由待定系数法可得如下递推公式第22页/共100页函数为GreenGGxVarjjjt,)(202jtjjtGx0由平稳AR模型的传递形式两边求方差得第23页/共100页itiitiittBBx01011)(1, 1 , 0,1jGjj2122021021)()(jjtjjtVarGxVar平稳AR(1)模型的传递形式为Green函数为平稳AR(1)模型的方差为第24页/共100页也可用以下方法计算10110011,1

8、tttttExExExExE 将原过程改写为11()tttxx1112222111( )() ()( )2cov(,)()0( )ttttttttVar xVar xVarxVarxVar xVar x 221( )1tVar x所以第25页/共100页)()()()(11kttktptpkttkttxExxExxExxEktx1,k0)(kttxE1,kpkpkkk2211在平稳AR(p)模型两边同乘 ，再求期望根据得自协方差函数的递推公式第26页/共100页0111kkk212011,12121kkk递推公式：平稳AR(1)模型的方差为自协方差函数的递推公式为：第27页/共100页2011

9、2221 12 2tttttttE XE XXE XXEX2202222111(1)101122121kkk 利用11222ttttttEXEXX其中第28页/共100页21)1)(1)(1 (12211201122121220kkkk，所以，平稳AR(2)模型的协方差函数递推公式为第29页/共100页0kk1122kkkpkp （1）自相关系数的定义：01特别（2）平稳AR(P)模型的自相关系数递推公式：上述方程称为Yule-Walker方程。第30页/共100页1, 0kkk2110, 1221121kkkkkkAR(1)模型AR(2)模型第31页/共100页说明：在AR(1)模型中，即使

10、 没有直接出现在模型中， 和 也是相关的。因为所以， 是通过 与 相关的，这种间接相关出现在任何AR模型中。 与 的自相关系数 等于 与 的自相关系数 乘以 与 的自相关系 数 。即2tx2txtx1121tttxx2tx1txtx2txtx22tx1tx11txtx1221()第32页/共100页1( ),pkiiikc不能恒等于零pccc,211( )pkiiikc0（1）拖尾性（2）呈负指数衰减拖尾性说明 之前的每一个序列值 都会对 构成影响，但因为自相关系数呈负指数衰减，所以，间隔较远的序列值对现时值的影响很小，具有所谓的“短期相关性”。txtx12,ttxx第33页/共100页ttt

11、tttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (第34页/共100页1(1)0.8tttxx第35页/共100页1(2)0.8tttxx 第36页/共100页12(3)0.5ttttxxx第37页/共100页12(4)0.5ttttxxx 第38页/共100页 自相关函数ACF(k)给出了Xt与Xt-k的总体相关性，但总体相关性可能掩盖了变量间完全不同的相关关系。 例如，在AR(1) 中，Xt与Xt-2间有相关性可能主要是由于它们各自与Xt-1间的相关性带来的:)()(2112122ttttXXEXXE即自相关函数中包含

12、了这种所有的“间接”相关。第39页/共100页 与之相反，Xt与Xt-k间的偏自相关函数(partial autocorrelation，简记为PACF)则是消除了中间变量Xt-1，Xt-k+1 带来的间接相关后的直接相关性，它是在已知序列值Xt-1，Xt-k+1的条件下，Xt与Xt-k间关系的度量。第40页/共100页121,ktttxxxktxtx2,)()(11ktktktktttxxxxxExExExxExEkttktt定义：对于平稳AR(p)序列，所谓滞后k偏自相关系数就是指在给定中间k-1个随机变量 的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后， 对 影响的相关度量。用

13、数学语言描述就是第41页/共100页7、偏自相关系数的计算（1）直接利用回归方法计算 1112112221122ttttttttktktkkt ktxxxxxxxxx首先将序列中心化，作如下形式的回归滞后k偏自相关系数实际上就等于k阶自回归模型第个k回归系数的值。第42页/共100页注意到：11121122211(1)(1)ttttttttktk ktkkkt ktxxxxxxxxx所以， 即为剔除了中间k-1个随机变量的干扰之后， 与 的相关系数，即 与 的 偏自相关系数。kkt kxtxt kxtx第43页/共100页02211202112112011kkkkkkkkkkkkkkkkk（2

14、）利用Yule-Walker方程计算当 时，111当 时，1k 2k 12102212211220 第44页/共100页所以，011212122122201111011()11 ()1一般地：利用Cramer法则可得kkkDD第45页/共100页（3）利用Levinson递推公式计算11011,1101,1, 1,1kkkkkjkjjkkjjjkk20022222111111,1 1(1),() )kkkkkkkkkE xxx1,1,1,2,1kjkjkkkkjjk 第46页/共100页或写成11011,111,1, 1,11kkkkkjkjjkkjjjkk其中1,1,1,2,1kjkjkkk

15、kjjk 第47页/共100页定理的证明： Yule-Walker方程11 02 1121 120211220kkkkkkkkkkkkkkkkk 可写为1011121022120kkkkkkkkk第48页/共100页 利用归纳法，对k=1， Levinson递推公式显然成立。假设公式对k-1已经成立，即1,1101321,2210431,2234011,113310kkkkkkkkkkkkkkkk第49页/共100页10121121032212301,11210kkkkkkkkkk kkkkkk对k阶Yule-Walker方程作上述分块矩阵，记第50页/共100页121kkk 01211032

16、23011210kkkkkkkkkV121,1kkkk k1(1) (1)001010100kkkT 第51页/共100页则 是正交阵。有 1kT1111()(),TkkkTTT1111kkkkT V TV11121(,)TkkkkTk阶Yule-Walker方程可记为11111110()kkkkkTkkkkkVTT第52页/共100页111111110()kkkkkkkTkkkkkkVTT 所以，由（1）式11111111111111111111111111111() ()()()()()()()kkkkkkkkkkkkkkkkkkkkkkkkkkkkkkVTVVTVT TVTVTV1111

17、11111()()kkkkkkkT TITVTV注意到：-（1）-（2）-（3）第53页/共100页代入（2）式得，1111111110() ()()Tkkkkkk kkkkkkTVTV 111111011111() ()()()TkkkkkkkTkkkkkTVTTV所以，注意到：已经假定Levinson公式对k-1成立，即1111,11,21,1()(,)TkkkkkkV1111111121()() ()() ( ,)TTTTkkkkkkkTkTTTT 第54页/共100页111,11,10111,11,1111,11,1111,11,1(,)(,)(,)(,)(,)(,)1 (,)(,)T

18、kkkkkkkTkkkkTkkkkkTkkkk所以有再由（3）式得11111111()()kkkkkkkkVTV1,11,111,21,22,11,11,1kkkkkkkkkkk kkkk即第55页/共100页pkkk,0 AR(p)模型偏自相关系数P阶截尾，这是因为对于AR(p)模型01122tttptptxxxx 与 之间不存在直接相关。所以()t kxkptx 平稳AR(p)模型偏自相关系数的截尾性是AR模型所具有的一个重要特性，它可以帮助我们识别AR模型。第56页/共100页9、常用AR模型偏自相关系数公式1122ttttxxxAR(1)模型：AR(2)模型：1111,0,(2)kkk

19、11tttxx111122212222112021,1(),()1()0,(3)kkk 第57页/共100页ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (第58页/共100页1(1)0.8tttxx0.8,10,2kkkk第59页/共100页1(2)0.8tttxx 0.8,10,2kkkk第60页/共100页12(3)0.5ttttxxx2,130.5 ,20,3kkkkk 111121211 ( 0.5)3 2220.5第61页/共100页12(4)0.5ttttxxx 2,130.5,20,3kkkkk 第

20、62页/共100页q)(qMA0)(qMA112220( )0( ), ()0,ttttq t qqtttsxEVarEst ，（一）MA模型的定义具有如下结构的模型称为 阶移动平均模型，简记为特别当 时，称为中心化 模型第63页/共100页)(qMAttBx)(qqqBBBB2211)( 利用延迟算子，中心化 模型又可以简记为 其中， 是 阶移动平均系数多项式( )B 为了以后识别一个模型是否是移动平均模型MA(q)，下面讨论MA模型的统计性质第64页/共100页）（qtqttttEEx221122212211)1 ()()(qqtqttttVarxVar（1）常数均值（2）常数方差显然，

21、MA模型是平稳的。第65页/共100页q kqkkkqiikikqk , 01 ,)(0 ,)1 (212221MA(q)自协方差函数q 阶截尾第66页/共100页qkqkkqkqiikikk , 01 ,10 , 12211（4）MA模型的自相关函数MA(q)自相关系数q 阶截尾第67页/共100页2, 01, 10, 1211kkkk3, 02, 11, 10, 1222122221211kkkkk第68页/共100页零不会在有限阶之后恒为不恒为零kkq,1MA模型的偏自相关系数拖尾对于中心化的MA(q)模型，有112111111111111(, ,)()()(, ,)()()()()(t

22、 t ktt kttt kt kkkt ktt kt kt kttq t qt kt kq t k qtt kqt kt kq t k qtt kqE xxxxE x Ex xExVar xxxE xExEVar 11111)()tq t qt kq t k q 第69页/共100页212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx第70页/共100页112tttx（）120.5tttx（ ）可以看出（1）（2）自相关系数相同第71页/共100页124163525ttttx（ ）125254416ttttx（）可以看出（3）（4）自

23、相关系数相同第72页/共100页112tttx（）120.5tttx（ ）第73页/共100页124163525ttttx（ ）125254416ttttx（ ） 可以看出（1）和（2）的偏自相关系数相同， （3）和（4）的偏自相关系数相同。第74页/共100页212111162545)4(251654) 3(5 . 0)2(2) 1 (ttttttttttttttxxxx 由例3.6可以看出，不同的MA模型可能具有完全相同的自相关系数和偏自相关系数，为了利用自相关系数和偏自相关系数来识别MA模型，要求给定一个自相关函数能够对应惟一的MA模型，这就要求我们给模型增加约束条件，这个约束条称为件M

24、A模型的可逆性条件。第75页/共100页定义：若一个MA模型能够表示称为收敛的AR模型形式，那么该MA模型称为可逆MA模型。意义：可以保证一个自相关系数列唯一对应一个可逆MA模型。第76页/共100页1tttx11tttx21ttBx1ttBx11可逆, 1可逆, 1第77页/共100页11, ii1, iiMA(q)模型可逆的充要条件是：MA(q)模型的特征根都在单位圆内等价条件是算子多项式的根都在单位圆外第78页/共100页qkqkjIIIkkkjjkkj, 0, 2 , 1110其中，ttttttxxBIBxBIBx)()()()(利用待定系数法可得如下逆函数递推公式由若MA模型可逆，则

25、MA模型可表示为( )ttI B x( )ttI B x称为MA模型的可逆表示。第79页/共100页212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx第80页/共100页1(1)221tttx 不可逆1(2)0.50.51tttx 可逆05 . 0kktktx1,5 . 01kIkk逆函数为逆转形式为（可逆表示）第81页/共100页12221416(3)1,1525ttttx 可逆1( 1),331,0,1,0, 32nkkknnInkn 或013130338 . 0) 1(8 . 0) 1(nntnnnntnntxx1225252

26、5(4)141616ttttx 不可逆MA(2)可逆条件：12221( ,)1,1 (3)的逆函数为(3)的逆转形式为（可逆表示）第82页/共100页自回归与移动平均过程的关系 一个平稳的AR(p)过程 (1 - 1B - 2B2 - - pBp ) xt = ut可以转换为一个无限阶的移动平均过程， xt = (1 - 1B - 2B2 - - pBp )-1 u t = B)-1 ut 一个可逆的MA(q)过程 xt = (1 + 1B + 2 B2 + + q Bq ) ut = B) ut可转换成一个无限阶的自回归过程， (1 + 1B + 2 B2 + + q Bq)-1 xt =

27、B) -1 xt = ut第83页/共100页 对于MA(q)过程，只需考虑可逆性问题，条件是 B) = 0的根（绝对值）必须大于1，不必考虑平稳性问题。 对于AR(p)过程只需考虑平稳性问题，条件是 B) = 0的根（绝对值）必须大于1。不必考虑可逆性问题。第84页/共100页),(qpARMAtsExtsEVarExxxtsstttqpqtqttptptt, 0, 0)(,)(0)(00211110，00（一）ARMA模型的定义具有如下结构的模型称为自回归移动平均模型，简记为特别当 时，称为中心化 模型。),(qpARMA第85页/共100页),(qpARMAttBxB)()(qqqBBB

28、B2211)(pppBBBB2211)(利用延迟算子，中心化 模型又可以简记为其中， 是 阶自回归系数多项式 是 阶移动平均系数多项式( )B( )B第86页/共100页0)( B0)( BARMA(p,q)模型的平稳条件：P阶自回归系数多项式 的根都在单位圆外，即ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定。ARMA(p,q)模型的可逆条件：q阶移动平均系数多项式 的根都在单位圆外，即ARMA(p,q)模型的可逆性完全由其移动平滑部分的可逆性决定。第87页/共100页11)()(jjtjtttGBBx11)()(jjtjtttxIxxBB无穷阶MA模型无穷阶AR模型第88页/共100页1,110kGGGkjjjkjk1,110kIIIkjjjkjk,1,1,0,0,jjjjjpjqjpjq格林函数逆函数其中第89页/共100页ptEx101 )(02ikiiGGk020)0()()(jjjkjjGGGkk均值：自协方差函数：自相关系数：第90页/共100页例：求ARMA(1,1)过程的自协方差函数，自相关函数，偏自相关函数。1111tt