平稳时间序列模型的性质概述

1、第五章 平稳时间序列模型的性质第一节 自回归过程的性质第二节 移动平均过程的性质第三节 自回归移动平均过程的性质12/12/20211第一节 自回归过程的性质n一、一阶自回归过程AR(1)的性质n二、二阶自回归过程AR(2)的性质n三、p阶自回归过程AR(p)的性质12/12/20212一、一阶自回归过程AR(1)的性质n一阶自回归模型的形式为：tttxx11或ttxB1112/12/202131、平稳性和可逆性a.可逆性：一个有限阶的自回归模型总是可逆的，所以，ar(1)模型总是可逆的。B.平稳性：为满足平稳性， 的根必须在单位圆外，即应有：011B1112/12/202142.ar(1)过

2、程的自相关函数kkkktkttkttktkaatttttkxExxExxExxExEAR10111121202021211212120:) 1()()()(1)2()(:) 1 (解此差分方程有所以所以下过程的自协方差函数如12/12/202151,0)1(:010有时当因此它的自相关函数为kkkkk12/12/202162121261412111224121212221111221112122614121224121212222111201)1 ()()()(1)1 ()()()(:akakkktktktktktktktktttkttkaatttttttEExxEEExE方法证明上述结论还可

3、通过如下12/12/202171010且于是有kkk12/12/20218通过上述推导可看出，当过程平稳即通过上述推导可看出，当过程平稳即 时，时，AR(1)过程的自相关函数（过程的自相关函数（ACF）呈呈指数衰减。指数衰减。如果如果 ，那么所有的自相关系数都为正，那么所有的自相关系数都为正，并逐渐衰减。并逐渐衰减。如果如果 ， 自相关系数的符号以负号开始，自相关系数的符号以负号开始，并呈正、负交替逐渐衰减。并呈正、负交替逐渐衰减。0111110112/12/20219例例1，下面两图表分别是模拟生成的，下面两图表分别是模拟生成的249个数据个数据如下如下AR(1)过程趋势图和自相关图过程趋势

4、图和自相关图白噪声为正态其中或) 1 , 0(,85. 085. 0)85. 01 (11NaxxxBtttttt12/12/202110-6-4-202482848688909294969800例例1，模拟生成的，模拟生成的AR(1)过程过程趋势图趋势图12/12/202111例1：模拟生成的AR(1)过程自相关图:85. 085. 0)85. 01 (11其中或tttttxxxB呈指数衰减12/12/202112例例2，下面两图表分别是模拟生成的，下面两图表分别是模拟生成的249个数据个数据如下如下AR(1)过程趋势图和自相关图过程趋势图和自相关图白噪声为正态其中或) 1 , 0(,85.

5、 0)85. 0()85. 01 (11NxxxBtttttt12/12/202113-6-4-2024682848688909294969800Y例例2，模拟生成的，模拟生成的AR(1)过程趋势图过程趋势图12/12/202114例2：模拟生成的AR(1)过程自相关图:85. 0)85. 0()85. 01 (11其中或tttttxxxB呈正负交替指数衰减12/12/2021153.AR(1)过程的偏自相关函数（PACF）A.偏自相关函数的一般公式.) 1(0),cov(,:, 0)(.,112211121121间的偏自相关系数和也就是上式中的且为正态误差项个回归系数为第上式中则有间存在线性

6、关系与且假设来表示它一般用的相关性之间和的影响之后之间的随机变量和偏自相关函数指剔除掉在第二章我们已经知道kttkkjtttkitktkkktkktktktktktttttkkkttktttkttxxjxeeiexxxxxxxxxxxExxxxxxx12/12/202116kjkkjkjkjkjkkjkjkjjtktkkjttkjttkjttjtxxExxExxExxEjx221122112211:)()()()(,) 1(:所以于是有并求期望得乘上式两端将式可推导如下偏自相关函数的一般公12/12/202117即为偏自相关函数方程此方程称为我们有如下方程组对于kkkkkkkkkkkkkkkk

7、kkkWolYulekj,ker, 2 , 10221120211211201112/12/20211801210121031220111033112110110211022111111, 2 , 1法则可得由对于Gramerkk12/12/202119的一般公式上式即为偏自相关函数类推下去可得11111,132123111221132123111221kkkkkkkkkkkkkkk12/12/202120B.AR(1)过程的偏自相关函数0011,0121012102112110101100121012103122011103311111010011021102211111公式得及偏自相关函数

8、的一般由kk12/12/202121)2(0:1111kkk于是有如下结论上述结论说明：上述结论说明：AR (1)过程的偏自相关函数过程的偏自相关函数(PACF)在滞后一阶有一峰值，其符号取在滞后一阶有一峰值，其符号取决于决于 。滞后一阶以后。滞后一阶以后PACF截尾。截尾。112/12/202122另一种思路：n根据定义：偏自相关函数是指扣除Xt和Xt-k之间的随机变量Xt-1,Xt-2, Xt-k-1等影响之后的Xt和Xt-k之间的相关性。n对于p阶自回归过程，当sp时，xt与xt-s有直接的相关性；而sp时，两者没有直接的相关性。n因此，对于AR(p)过程，在模型的滞后阶数以内，通常有非

9、零的偏自相关系数；但在滞后阶数以外，偏自相关系数则为零。12/12/202123例1：模拟生成的AR(1)过程自相关图:85. 085. 0)85. 01 (11其中或tttttxxxB滞后一阶以后截尾12/12/20212485. 0)85. 0()85. 01 (11其中或tttttxxxB例2：模拟生成的AR(1)过程自相关图:滞后一阶以后截尾12/12/2021254.AR(1)过程的传递形式和格林函数12/12/202126二、二阶自回归AR(2)过程的性质二阶自回归模型的形式为：ttttxxx2111或ttxBB221112/12/202127B.平稳性：为满足平稳性， 的根必须在

10、单位圆外.1、平稳性和可逆性A.可逆性：ar(2)模型总是可逆的。01221BB12/12/2021282.AR(2)过程的自相关函数) 1(,) 1()()()()()2(221122112211kkxExxExxExxEARkkkkkktkttkttkttktk自相关函数为因而所以下过程的自协方差求得如12/12/202129呈混合指数衰减的显然此时可由如下初始条件求出其中常数于是解之得特征根为异实根即上述特征方程有两相如果程为上述差分方程的特征方ACFARbbbbkkk)2(,)24()24(24, 04) 1 (02112121121221122211122112, 122121212

11、/12/202130呈指数衰减的显然此时可由如下初始条件求出其中常数于是解之得特征征根为实根即上述特征方程有两重如果ACFARbbkbbkk)2(,)2)(2, 04)2(211212112112112, 122112/12/202131呈阻尼正弦波衰减的显然此时可由如下初始条件求出常数为复角为复根的模其中于是解之得特征根为共轭复根即上述特征方程有一对如果ACFARbbrtrbtrbiidckkk)2(,coscos2)4(, 04) 3(211212112122122112, 122112/12/202132通过上述推导可以如下结论，通过上述推导可以如下结论，在AR(2)过程的平稳性条件满足

12、时，如果特征方程的根为实根，即 时，AR(2)的自相关函数呈指数衰减。如果特征方程的根为复根，即 时，AR(2)的自相关函数呈阻尼正弦波衰减。042210422112/12/2021333.AR(2)过程的偏自相关函数21212011021102221111221111,)2(公式得由偏自相关函数的一般因为过程对于kkkAR12/12/20213400121012101221120211011201100121012103122011103312/12/202135另一种思路：直接根据定义12/12/202136通过上述证明可以得出如下结论：通过上述证明可以得出如下结论：.)2(,0,3,)2

13、(过程是滞后二阶截尾的因此时当过程对于ARkARkk12/12/202137例例1，下面两图表分别是模拟生成的，下面两图表分别是模拟生成的250个数据个数据如下如下AR(2)过程趋势图和自相关图过程趋势图和自相关图白噪声为正态其中或) 1 , 0(, 5 . 0, 3 . 05 . 03 . 0)5 . 03 . 01 (21212NaxxxxBBttttttt12/12/202138-4-202482848688909294969800例例1.模拟生成的模拟生成的AR(2)过程趋势图过程趋势图12/12/202139例例1.模拟生成的模拟生成的AR(2)过程过程自相关图自相关图05 . 00

14、3 . 021呈混合指数衰滞后二阶以后截尾12/12/202140例例2，下面两图表分别是模拟生成的，下面两图表分别是模拟生成的250个数据个数据如下如下AR(2)过程趋势图和自相关图过程趋势图和自相关图白噪声为正态其中或) 1 , 0(, 3 . 0, 5 . 03 . 05 . 0)3 . 05 . 01 (21212NxxxxBBttttttt12/12/202141-6-4-2024682848688909294969800例例2.模拟生成的模拟生成的AR(2)过程趋势图过程趋势图12/12/202142例例2.模拟生成的模拟生成的AR(2)过程过程自相关图自相关图03 . 005 .

15、 021呈混合指数衰减滞后二阶以后截尾12/12/202143例例3，下面两图表分别是模拟生成的，下面两图表分别是模拟生成的250个数据个数据如下如下AR(2)过程趋势图和自相关图过程趋势图和自相关图白噪声为正态其中或) 1 , 0(5 . 0, 15 . 0)5 . 01 (21212NxxxxBBttttttt12/12/202144-4-202482848688909294969800模拟生成的模拟生成的AR(2)过程趋势图过程趋势图12/12/202145模拟生成的模拟生成的AR(2)过程自相关图过程自相关图05 . 00121呈阻尼正弦波衰减滞后二阶以后截尾12/12/2021464

16、.AR(2)过程的传递形式和格林函数n（1）传递形式n（2）格林函数12/12/202147三、p阶自回归过程AR(p)的性质二阶自回归模型的形式为：tptptttxxxx2111或ttppxBBB221112/12/202148B.平稳性：为满足平稳性， 的根必须在单位圆外.1、平稳性和可逆性A.可逆性：ar(p)模型总是可逆的。01)(221ppBBBB12/12/202149对于高阶的自回归过程，其平稳性条件用其模型参数表示虽比较复杂，但都有最基本的一点：121q这是自回归过程平稳的必要条件之一。12/12/2021502.AR(p)的自相关函数ACF方程上式即为关系自相关函数有如下递推

17、因而时当其中所以下过程的自协方差求得如ker) 1(,0)(,0,) 1()()()()()()(221122112211WolYulekxEkkxxExxExxExxExxEpARpkpkkkkttpkpkkktktptktptkttkttktk12/12/202151.0),(:,.,2211212211的解是其中特征根它的解的形式为况下在具有相异根的情阶差分方程一个其实也就是的递推公式上式关于pppppjppjjjkgggp12/12/202152通过上述推导有如下结论：通过上述推导有如下结论：对于平稳过程，有对于平稳过程，有 |i|p时，上式分母行列式最后列是同一矩阵前面各列的线性组合

18、。于是当kp时,有kk=0。12/12/2021554.AR(p)模型的传递形式和格林函数n(1)传递形式n(2)格林函数12/12/202156例:考察如下AR模型的自相关和偏自相关ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (12/12/2021571(1)0.8tttxxACFPACF12/12/2021581(2)0.8tttxx ACFPACF12/12/20215912(3)0.5ttttxxxACFPACF12/12/20216012(4)0.5ttttxxx ACFPACF12/12/202161

19、第二节 移动平均过程的性质一、一阶移动平均过程MA(1)的性质二、二阶移动平均过程MA(2)的性质三、q阶移动平均过程MA(q)的性质12/12/202162一、一阶移动平均过程MA(1)的性质n一阶移动平均模型MA(1)的形式为：ttttBx)1 (111其中：xt为零均值平稳序列，t为零均值的白噪声。 12/12/2021631.MA(1)过程的平稳性和可逆性nA.平稳性：AR(1)过程总是平稳的。nB.可逆性：n为满足可逆性，(B)=11B=0 的根必的根必须在单位圆外，即有：须在单位圆外，即有：1112/12/202164注：以后对注：以后对MA(1)过程性质的讨论中，过程性质的讨论中

20、，都假定可逆性条件满足，即有：都假定可逆性条件满足，即有：|1|0,那么PACF都为负，且呈指数衰减；如果10t为白噪声滞后一阶截尾呈负指数衰减12/12/202175例2：模拟产生的250个数据的如下MA(1)过程的趋势图和自相关图：白噪声为正态其中) 1 , 0(85. 0)85. 0(1 ()85. 0(11NBxttttt12/12/202176-4-20248082848688909294969800Y12/12/202177Xt=t (0.85)t-1 =(1(0.85)B) t其中1=0.850呈正负交替指数衰减滞后一阶截尾12/12/2021784.MA(1)过程的逆转形式12

21、/12/202179二、二阶移动平均过程MA(2)的性质二阶移动平均模型MA(2)的形式为：tttttBBx)1 (2212211其中：xt为零均值平稳序列，t为零均值的白噪声。 12/12/2021801.MA(2)过程的平稳性和可逆性A.平稳性：MA(2)过程总是平稳的。B.可逆性：为满足可逆性, 的根必须在单位圆外。01)(221BBB12/12/2021812.MA(2)过程的自相关函数ACF22221222221222221122221120)1 ()()()()()()2(aaaatttttttEEEExEMA下过程的自协方差函数如12/12/20218220)()()()()1

22、()()()()(22112211224231222112222122121222121132211221111kExxEExxEEEExxEktktkttttkttkattttttttaaatttttttttt12/12/202183.)2(,202111)1 ()()2(222122221210滞后二阶截尾过程的自相关函数于是可得结论为过程的自相关函数所以MAkkkACFMAkk12/12/2021842.MA(2)过程的偏自相关函数(PACF)1 (21)2(1, 03,)2(22122221313321212222111有推公式利用偏自相关函数的递时当过程对于kkMA12/12/202

23、185对于MA(2)过程，我们有如下结论：如果其特征方程:11B2B2=0 的根是实数，则kk是两个衰减指数的和；如果其根是复数，则kk 是一衰减的正弦波。12/12/202186如下页所示相图和样本偏自关的样本自相关图它们的个值的序列态白噪声产生的为正和由例)()(,250)24.065.01 (12SPACFSACFBBxttt12/12/202187)()()24. 065. 01 ()2(2SPACFSACFBBxMAtt和样本偏自关相图的样本自相关图序列模拟滞后二阶截尾指数衰减(拖尾)12/12/202188如下页所示相图和样本偏自关的样本自相关图它们的个值的序列态白噪声产生的为正和

24、由例)()(,250)3 .085.01 (22SPACFSACFBBxttt12/12/202189滞后二阶截尾阻尼正弦波衰减(拖尾)()()3 . 085. 01 ()2(2SPACFSACFBBxMAtt和样本偏自关相图的样本自相关图序列模拟12/12/2021904.MA(2)过程的逆转形式12/12/202191三、q阶移动平均过程MA(q)性质为白噪声序列其中模型的一般形式为ttqqqtqttttBBBxqMA)1 ()(221221112/12/2021921.平稳性和可逆性nA.平稳性：有限阶移动平均过程MA(q)总是平稳的。 nB.可逆性：为满足可逆性，01)(221qqBB

25、BB的根必须在单位圆外。12/12/202193对于高阶的移动平均过程，其可逆性条件用其模型参数表示虽比较复杂，但都有最基本的一点：121q这是移动平均过程可逆的必要条件之一。12/12/2021942.MA(q)过程的自相关函数(ACF)qkqkxEqMAqkqkkakaqt0,2 , 1)()1 ()(,)(11222222120有过程可以证明对于12/12/202195qkqkqMAqqkqkkk0,2 , 11)(2222111的自相关函数为因而因而：MA(q)过程的自相关函数是滞后q阶截尾的。12/12/2021963.MA(q)过程的偏自相关函数（PACF）n要用明确的公式表示出M

26、A(q)过程的自相关函数是很困难的，但是从前面我们对MA(1)、MA(2)的讨论中，可以看出：MA(q)过程的偏自相关函数是由01)(221qqBBBB的根确定的，呈混合指数衰减或阻尼正弦波衰减。的根确定的，呈混合指数衰减或阻尼正弦波衰减。12/12/202197例:考察如下MA模型的相关性质212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx12/12/202198MA模型的自相关系数截尾n n 112tttx（）120.5tttx（ ）12/12/202199MA模型的自相关系数截尾n n 124163525ttttx（ ）125

27、254416ttttx（ ）12/12/2021100MA模型的偏自相关系数拖尾n n 112tttx（）120.5tttx（ ）12/12/2021101MA模型的偏自相关系数拖尾n n 124163525ttttx（ ）125254416ttttx（ ）12/12/2021102MA模型可逆性nMA模型自相关系数的不唯一性例中不同的MA模型具有完全相同的自相关系数和偏自相关系数212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx12/12/2021103可逆概念的重要性一个自相关系数列唯一对应一个可逆MA模型。n 1tttx11t

28、ttx21ttBx1ttBx11可逆, 1可逆, 112/12/2021104第三节 自回归移动平均ARMA(p,q)过程n一、 ARMA(1,1)的性质n二、ARMA(p,q)过程的性质12/12/2021105一、ARMA(1,1)的性质tqtpttttxBxBxxARMA)()() 1 , 1 (1111或模型的一般形式为无公共因子和为白噪声序列其中假定)()() 3 (0)() 2() 1 (:BBstaxEaqpstt12/12/20211061.ARMA(1,1)过程的平稳性和可逆性模型该模型就是如果模型该模型就是如果即的根必须在单位圆外为满足平稳性即的根必须在单位圆外为满足可逆性

29、) 1 (, 0) 1 (, 01,01)(,1,01)(,111111MAARBBBBpq12/12/20211072.ARMA(1,1)过程的ACF)()() 1 , 1 (111111111111tkttktkktkttkttkttktktttttxExExxxxxxxxxARMA对两边求期望得乘两端得用模型的一般形式得由12/12/2021108210112111211021121111111211211111101)()()()()()()()(0aaaatttttttatttttttttttkxExExExExExEk时有当于是其中时有当12/12/20211091221)1)(0

30、1,21111211111011kkkkkkkkk到通过整理计算最后可得得时当12/12/2021110n通过上式可以看出，ARMA(1,1)过程的自相关函数具有AR(1)过程和MA(1)过程的组合特性。n当k=1时，自相关系数有一峰值自相关系数有一峰值，并且是由1和1共同决定，。n当k2时，自相关系数仅取决于1即自回归部分对应的差分方程的根，呈指数衰减。12/12/20211113.ARMA(1,1)过程的PACFnARMA(1,1)过程的PACF和它的ACF一样，也是滞后一阶有一峰值滞后一阶有一峰值，一阶以后呈指数阶以后呈指数衰减衰减，不过指数衰减的形态由1和1共同决定，因此指数衰减的形态

31、比MA(1)过程PACF指数衰减形式更多12/12/2021112例1：模拟产生的250个数据的如下ARMA(1,1)过程的样本ACF和样本PACF：白噪声为正态其中即) 1 , 0(5 . 09 . 0)5 . 01 ()9 . 01 (5 . 09 . 01111NBxBxxttttttt12/12/2021113例例1.模拟生成的模拟生成的ARMA(1,1)过程的样本过程的样本ACF和样本和样本PACF05 . 009 . 011滞后一阶有一峰值之后呈指数衰减滞后一阶有一峰值之后呈指数衰减12/12/2021114例2：模拟产生的250个数据的如下ARMA(1,1)过程的样本ACF和样本

32、PACF：白噪声为正态其中即) 1 , 0(5 . 09 . 0)5 . 0(1 ()9 . 0(1 ()5 . 0()9 . 0(1111NaBxBxxttttttt12/12/2021115例例2.模拟生成的模拟生成的ARMA(1,1)过程的样本过程的样本ACF和样本和样本PACF05 . 009 . 011指数拖尾指数拖尾滞后一阶有峰值12/12/20211164.ARMA(1,1)过程的传递形式和逆转形式n（1）传递形式和格林函数：nxt=-1(B)(B)atn（2）逆转形式和逆函数n-1(B) (B) xt =at12/12/2021117二、ARMA(p,q)过程的性质tqtpqtqttptpttxBxBxxxqpARMA)()(),(1111或模型的一般形式为无公共因子和为白噪声序列其中假定)()() 3 (0),() 2() 1 (:BBstaxEaqpstt12/12/20211181.ARMA(p,q)的平稳性和可逆性的根必须在单位圆外为满足平稳性的根必须在单位圆外为满足可逆性模型对于01)(,01)(,),(11pppqqq