本时间序列分析第三章下ppt课件

1、时间序列分析时间序列分析第三章第三章 ARMA ARMA模型的特性模型的特性本章共有四节内容：本章共有四节内容：第一节第一节 格林函数和平稳性格林函数和平稳性第二节第二节 逆函数和可逆性逆函数和可逆性第三节第三节 自协方差函数自协方差函数第四节第四节 自谱自谱第三节第三节 自协方差函数自协方差函数一、自相关函数一、自相关函数2. 实际自相关函数与样本自相关函数实际自相关函数与样本自相关函数1.自相关函数的引入自相关函数的引入 3. 格林函数与自协方差函数之间的关系格林函数与自协方差函数之间的关系二、偏自相关函数二、偏自相关函数4. ARMA模型自协方差函数及其特点模型自协方差函数及其特点 一、

2、自相关函数一、自相关函数1. 自相关函数的引入自相关函数的引入 AR(1)模型：模型： Xt与与Xt-j虽不直接相关，但有一定的相关关系，这就是我虽不直接相关，但有一定的相关关系，这就是我们这一节将要给大家引见的自相关函数。们这一节将要给大家引见的自相关函数。tttaXX11问题：问题：Xt与与Xt-2能否有相关关系？有怎样的相关关系？能否有相关关系？有怎样的相关关系？怎样去度量这种相关关系？怎样去度量这种相关关系？对对MA(1)模型呢？模型呢？2. 实际自相关函数与样本自相关函数实际自相关函数与样本自相关函数Xt：零均值平稳时间序列；：零均值平稳时间序列；任何一个任何一个ARMA模型都可转化

3、为等价的零均值模型都可转化为等价的零均值ARMA模型。模型。 ), 0(2atNIDa1自协方差函数自协方差函数cov(Xt，Xt-k)假设假设Xt零均值平稳零均值平稳E(XtXt-k)=k 2实际自相关函数实际自相关函数 自协方差函数自协方差函数 cov(Xt，Xt-k)=kN1ktkttkXXN1kkkttkttXXVarXVarXXXktt0),(),cov(NttkttNktkkXXX12103样本自相关函数样本自相关函数注：样本数据也先进注：样本数据也先进展零均值化处置展零均值化处置 自相关函数自相关函数 由此可知，自相关函数和自协方差函数是关于由此可知，自相关函数和自协方差函数是关

4、于零点对称的。一个正态平稳过程零点对称的。一个正态平稳过程Xt可以被其均值和可以被其均值和协方差函数或等价地，均值、方差和自相关函数协方差函数或等价地，均值、方差和自相关函数完全刻划。完全刻划。一个平稳过程的自协方差函数具有以下性质：一个平稳过程的自协方差函数具有以下性质：000kkkkkkkk1104自协方差函数和自相关函数的性质自协方差函数和自相关函数的性质5协差阵协差阵 n2z3n2n1n3n122n111n212z03n2n1n3n0122n1011n210nP1111)(,covkttkttkXXEXX1;0002kkz(6) 对样本自相关函数的阐明对样本自相关函数的阐明N1ktkt

5、tkXXN1NttkttNktkkXXX1210NktkttkXXkN1*1kNttkttNktkkkNNXXXkNN1210* 这是由于后者的方差要小于前者；后者是正定序列，这是由于后者的方差要小于前者；后者是正定序列，协差阵为正定阵，对平稳序列而言，自协方差的正定性协差阵为正定阵，对平稳序列而言，自协方差的正定性是最本质的，经常是相关分析和参数估计的条件。是最本质的，经常是相关分析和参数估计的条件。ninjijjininjjtitjintnttntntttttllXXllXlXlXlXlXlXlLLL11111111211121),cov(),cov(),cov()var(设随机变量设随机

6、变量Xt，Xt-1，Xt-2，Xt-n+1的任一线性函数的任一线性函数为：为： 由于对平稳过程而言，有由于对平稳过程而言，有ijjiXX,cov1121ntntttXlXlXlL可利用协方差的运算法那么得到可利用协方差的运算法那么得到Lt的方的方差差ijjninjitllL11var 假设假设li不全为不全为0，那么上式必然大于，那么上式必然大于0方差方差大于等于大于等于0。所以所以Lt的方差为的方差为 0)(3210321301221011210321nnnnnnnnllllllllijjninjill11由于对恣意不全为零的常数由于对恣意不全为零的常数nlll,21有有 相应的，自协方差函

7、数和自相关函数也都是正相应的，自协方差函数和自相关函数也都是正定的。定的。 由此得知任何平稳过程的自协方差阵和自相关阵由此得知任何平稳过程的自协方差阵和自相关阵都是正定的。都是正定的。对普通的对普通的Xt，k步滞后自相关步滞后自相关k最令人称心的估计是最令人称心的估计是其中其中 k0，1，2，N；该式是自协方差该式是自协方差 的估计，称为样本自协方差函数，的估计，称为样本自协方差函数，相应的自相关估计称为样本自相关函数。相应的自相关估计称为样本自相关函数。0kkk)( )(11XXXXNktkNttkNttXXN120)(1例例1：Xt的样本数据如下：求其样本自协方差函数的样本数据如下：求其样

8、本自协方差函数和样本自相关函数和样本自相关函数Xt：47 64 23 71 38 64 55 41 59 48k0123协方差189.6-149.787.6-31.1相关系数-0.78956 0.462025 -0.16403计算步骤计算步骤1计算样本均值；计算样本均值；2对原序列对原序列Xt进展零均值化处置，得到进展零均值化处置，得到yt；3计算计算yt的样本自协方差函数的样本自协方差函数4计算计算yt的样本自相关函数的样本自相关函数 见见Excel文件文件内容回想内容回想 :对正态零均值平稳对正态零均值平稳Xt 1实际自协方差函数实际自协方差函数 :kkttkttXXEXX)(,cov2实

9、际自相关函数实际自相关函数 kkkttkttXXVarXVarXXXktt0),(),cov(3实际协差阵、实际自相关阵：对称性、正定性实际协差阵、实际自相关阵：对称性、正定性 n2z3n2n1n3n122n111n212z03n2n1n3n0122n1011n210nP11114样本自协方差函数和样本自相关函数样本自协方差函数和样本自相关函数N1ktkttkXXN1NttkttNktkkXXX1210NktkttkXXXXN1)(1 5样本自协方差函数是根据样本计算的实际自协方样本自协方差函数是根据样本计算的实际自协方差函数的估计值；样本自相关函数是根据样本计算的差函数的估计值；样本自相关函

10、数是根据样本计算的实际自相关函数的估计值。实际自相关函数的估计值。 它们具有它们具有“时间序列分析课程所特有的特点，与时间序列分析课程所特有的特点，与普通估计不同，计算时应特别留意。可利用普通估计不同，计算时应特别留意。可利用Excel一步一步步计算获得，也可经过其它公用软件计算得到。步计算获得，也可经过其它公用软件计算得到。 6要求大家掌握：要求大家掌握：ARMA模型的实际自协方差函数实际自相关模型的实际自协方差函数实际自相关函数的算法、方式和特点；函数的算法、方式和特点；任给一个时间序列某过程的样本实现计算任给一个时间序列某过程的样本实现计算其样本自协方差函数样本自相关函数其样本自协方差函

11、数样本自相关函数ARMA模型模型某随机过程某随机过程一个样本实现一个样本实现时间序列时间序列实际值实际值样本值样本值3. 格林函数与自协方差函数之间的关系格林函数与自协方差函数之间的关系例例1：求：求AR(1)的自协方差函数及自相关函数的自协方差函数及自相关函数结论：结论：AR(1)的格林函数即是的格林函数即是AR(1)的自相关函数的自相关函数1101121201kkakk1例例2：求：求MA(1)的自协方差函数及自相关函数的自协方差函数及自相关函数结论：结论：MA(1)的格林函数和的格林函数和MA(1)的自相关函数有的自相关函数有一样的特点一样的特点2k0)1 (k2a112a210)2(0

12、,1, 121110kk 那么：格林函数与自协方差函数之间究竟有怎那么：格林函数与自协方差函数之间究竟有怎样的关系？样的关系？ 从自协方差的定义出发，利用模型的传送方式从自协方差的定义出发，利用模型的传送方式来调查格林函数与自协方差函数之间的关系。来调查格林函数与自协方差函数之间的关系。0j2ajkjkGG0j2j0jjkjkGGG得到如下结论：得到如下结论：例例3：利用格林函数与自协方差函数之间的关系，重新：利用格林函数与自协方差函数之间的关系，重新计算计算AR(1)和和MA(1)的自协方差函数及自相关函数。的自协方差函数及自相关函数。 kk1)2(0,1, 121110kk0j2ajkjk

13、GG0j2j0jjkjkGGG即：格林函数和自协方差函数满足下面等式：即：格林函数和自协方差函数满足下面等式：例例4：计算：计算MA(q)的自相关函数。的自相关函数。 MA(q)的的Gj为：为：) 1(0, 1G22110qjGGGGjqq其自相关函数为：其自相关函数为：qkqkkqqkqkkkk012222122110j2j0jjkjkGGG4. ARMA模型自协方差函数及其特点模型自协方差函数及其特点 AR(1)： 1k1k011212a01MA(1)： 2k0)1 (k2a112a210有：有：kk1)2(0,1, 121110kk例例5：求：求AR(2)模型的自相关函数。模型的自相关函

14、数。22110211212011222110kkka21)21)(1 ()1 (22110211221222220kkkka21122112110kkkk例例6：对下面模型，求其各自的自相关函数：对下面模型，求其各自的自相关函数1tttaaX1tttaaX205 . 01121110kk205 . 01121110kk例例7：写出下面模型的自协方差函数并阐明其自：写出下面模型的自协方差函数并阐明其自相关函数的特点。相关函数的特点。1111ttttaaXX111122101122111110)1 (kkaa1121011221211101)21 (kkaa自相关函数是拖尾的。自相关函数是拖尾的。

15、我们对表我们对表3.1给出的数据计算其样本自相关函数给出的数据计算其样本自相关函数 1-15 16-30 31-45 46-60 61-70 47 44 50 62 68 64 80 71 44 38 23 55 56 64 50 71 37 74 43 60 38 74 50 52 39 64 51 58 38 59 55 57 45 59 40 41 50 54 55 57 59 60 36 41 54 48 45 54 53 23 71 57 48 49 35 50 55 34 57 45 45 35 40 25 57 54 58 59 50 45 表表3.1 化工过程一组化工过程一组7

16、0个依次产量的序列个依次产量的序列 取表中前取表中前10个数据，利用个数据，利用Excel计算得到计算得到r1为为-0.78956，利用利用Minitab计算该时间序列的前计算该时间序列的前18个样本自相关值，个样本自相关值，得如下结果：得如下结果： ACF -1.0 -0.8 -0.6 -0.4 -0.2 0.0 0.2 0.4 0.6 0.8 1.0 + - + - + - + - + - + - + - + - + - + - + 1 -0.390 XXXXXXXXXXX 2 0.304 XXXXXXXXX 3 -0.166 XXXXX 4 0.071 XXX 5 -0.097 XXX

17、6 -0.047 XX 7 0.035 XX 8 -0.043 XX 9 -0.005 X 10 0.014 X 11 0.110 XXXX 12 -0.069 XXX 13 0.148 XXXXX 14 0.036 XX 15 -0.007 X 16 0.173 XXXXX 17 -0.111 XXXX 18 0.020 Xacf-0.50-0.40-0.30-0.20-0.100.000.100.200.300.40 重要结论：重要结论：)2(0,1, 121110kk可以证明：可以证明：AR(p)AR(p)模型自相关函数都是拖尾的，模型自相关函数都是拖尾的，MA(q)MA(q)模型自模型

18、自相关函数相关函数q q步截尾，步截尾，ARMA(p,q)ARMA(p,q)模型的自相关函数拖尾。模型的自相关函数拖尾。ARMAARMA模型自相关函数的变化特点与格林函数一样，其本质是模型自相关函数的变化特点与格林函数一样，其本质是自相关函数自相关函数k k 也满足也满足ARAR部分的齐次差分方程。部分的齐次差分方程。此种性质称为截尾。对此种性质称为截尾。对MA(q)模型，自相关函数模型，自相关函数q步后截步后截尾，简称尾，简称q步截尾。步截尾。2. MA(1)模型：模型：1. AR(1)模型：模型： ，当，当 时，模型平稳，此时自时，模型平稳，此时自相关函数逐渐趋于零，其速度与自回归参数有关

19、。这种性质相关函数逐渐趋于零，其速度与自回归参数有关。这种性质称为拖尾。假设参数为正，呈指数衰减到零，假设参数为负，称为拖尾。假设参数为正，呈指数衰减到零，假设参数为负，正负交错衰减到零。正负交错衰减到零。kk11|1二、偏自相关函数二、偏自相关函数3. 偏自相关函数的概率意义偏自相关函数的概率意义1. 偏自相关函数的引入偏自相关函数的引入2. 偏自相关函数的普通定义偏自相关函数的普通定义4. 偏自相关函数的计算偏自相关函数的计算5. 利利YuleWolker方程计算方程计算1. 偏自相关函数的引入偏自相关函数的引入 对对MA(q)模型，其自相关函数是模型，其自相关函数是q步截尾的，这步截尾的

20、，这是是MA的特有标志，但的特有标志，但AR和和ARMA模型，其自相关模型，其自相关函数却都是拖尾的。函数却都是拖尾的。 能否有某种统计量能表达能否有某种统计量能表达AR的独有特性？有没的独有特性？有没有一种函数，对有一种函数，对MA模型是拖尾的，对模型是拖尾的，对AR模型却是截模型却是截尾的？回答是一定的，这就是我们将要引见的偏自相尾的？回答是一定的，这就是我们将要引见的偏自相关函数。关函数。用用kjkj记记k k阶回归表达式中的第阶回归表达式中的第j j个系数，个系数，kkkk就是最后就是最后一个系数。利用线性最小二乘估计得到其中的系数，即一个系数。利用线性最小二乘估计得到其中的系数，即对

21、对k k，可选择系数，可选择系数), 2 , 1(kjkj21)(kjjtkjtXXE 到达极小值的系数到达极小值的系数 k阶自回归中阶自回归中Xt-k的系数的系数称为偏自相关函数。称为偏自相关函数。kk2. 偏自相关函数的普通定义偏自相关函数的普通定义使得：使得：Xt：零均值平稳时间序列，由：零均值平稳时间序列，由Xt-1，Xt-2，Xt-k对对Xt做回归，做回归，tktkktktkteXXXX2211tktkktktktttttttteXXXXeXXXeXX2211222121111即有：即有： AR(1)：Xt只与只与Xt-1直接相关，与直接相关，与Xt-j(j1)不直接不直接相关，但其

22、自相关函数却是拖尾的。也即相关，但其自相关函数却是拖尾的。也即Xt与与Xt-2有有关系。这是由于关系。这是由于Xt与与Xt-1相关，而相关，而Xt-1又与又与Xt-2相关，相关， Xt由于由于Xt-1的缘故与的缘故与Xt-2相关。现实上，相关。现实上， Xt剔除剔除Xt-1的影响后与的影响后与Xt-2能够不相关。能够不相关。 剔除中间变量影响后的相关就是偏自相关。剔除中间变量影响后的相关就是偏自相关。)(,0pkkk3. 偏自相关函数的概率意义偏自相关函数的概率意义所以，对所以，对AR(P)模型，偏自相关函数模型，偏自相关函数p阶截尾。即阶截尾。即从另一角度来看，对从另一角度来看，对AR模型来

23、说，第模型来说，第k个偏自相个偏自相关系数就是关系数就是AR模型中模型中Xt-k的回归系数，那么对于的回归系数，那么对于AR(p)模型，有模型，有)(0,: )(,: )2(,: ) 1 (2211222222121111111pkaXXXXpARaXXXARaXXARkkppptptpptptptttttttt即，对即，对AR(P)模型，偏自相关函数模型，偏自相关函数p阶截尾。阶截尾。总的相关关系：总的相关关系： 直接相关间接相关直接相关间接相关 自相关函数是不思索能否有中间影响的自相关函数是不思索能否有中间影响的Xt间间的总的相关关系。的总的相关关系。 偏自相关函数是剔除中间影响后的相关，

24、是偏自相关函数是剔除中间影响后的相关，是一种直接相关关系，也即描画一种直接相关关系，也即描画Xt与与Xt-k之间部分之间部分的相关关系，也即是一种条件相关。的相关关系，也即是一种条件相关。4. 偏自相关函数的计算偏自相关函数的计算 5. 利用利用YuleWolker方程计算方程计算根据偏自相关函数的普通定义和极值原理，对根据偏自相关函数的普通定义和极值原理，对关于关于), 2 , 1(kjkj21)(kjjtkjtXXE求导，得到：求导，得到：kkkkkkkkk2121021201110最后得到：最后得到：kkkkkkkkk2121021201110将矩阵展开为方程组，即为将矩阵展开为方程组，

25、即为Yule-Walker方程。方程。), 2 , 1(1) 1(1211kjkjkkkjkkjkjkj对对k k1 1，2 2，3 3，依次求解依次求解Yule-WalkerYule-Walker方程，得到方程，得到212121121122111111111121121312211133111kkkkkkkkk2121021201110 一个一个p阶自回归过程，当阶自回归过程，当k小于或等于小于或等于p时，偏时，偏自相关函数自相关函数kk不为零，而当不为零，而当k大于大于p时，偏自相关时，偏自相关函数函数kk为零，即为零，即AR(p)过程的偏自相关函数是过程的偏自相关函数是p阶阶截尾的。截尾

26、的。 经过计算推导可以证明，经过计算推导可以证明，MA模型和模型和ARMA模模型的偏自相关函数都是拖尾的。型的偏自相关函数都是拖尾的。 根据根据MA模型的逆转方式可知，偏自相关函数模型的逆转方式可知，偏自相关函数有无穷多个；假设模型可逆，那么有无穷多个；假设模型可逆，那么PACF拖尾。拖尾。l对于平稳可逆的对于平稳可逆的ARMA过程：过程：l1ARMA(p,q)过程的过程的ACF会从滞后期会从滞后期q开开场衰减。即场衰减。即ACF满足满足AR部分的齐次线性差分部分的齐次线性差分方程，其方式将会按特征根所表示的方式变方程，其方式将会按特征根所表示的方式变化。化。l2 ARMA(p,q)过程的过程

27、的PACF会从滞后期会从滞后期p开场衰减。开场衰减。PACF会按照模型会按照模型 l 的的PACF系数的方式变化。系数的方式变化。1/(1.)qtqXBB第四节第四节 自谱自谱 目前国内外通常是从两种角度出发对时间序列进目前国内外通常是从两种角度出发对时间序列进展分析，一种是将时间序列看成是依时间顺序开展的展分析，一种是将时间序列看成是依时间顺序开展的数据列，根据序列前后期之间存在的相关关系对时间数据列，根据序列前后期之间存在的相关关系对时间序列进展更深层次的分析，这种分析称为时域分析。序列进展更深层次的分析，这种分析称为时域分析。另一种是从波的角度出发，将时间序列看成是不同的另一种是从波的角

28、度出发，将时间序列看成是不同的波的叠加，并经过研讨动摇的频率特征来刻划时间序波的叠加，并经过研讨动摇的频率特征来刻划时间序列的特性，这种分析称为时间序列的频域分析。列的特性，这种分析称为时间序列的频域分析。 在时域分析中，自相关函数是主要工具，是分在时域分析中，自相关函数是主要工具，是分析平稳时间序列析平稳时间序列Xt的统计规律的数字特征。的统计规律的数字特征。 在频域分析中，谱密度是主要工具，是分析平在频域分析中，谱密度是主要工具，是分析平稳时间序列稳时间序列Xt的统计规律的数字特征。的统计规律的数字特征。 两种分析方法相互补充，互不矛盾，也是相互两种分析方法相互补充，互不矛盾，也是相互验证

29、，是一致的。验证，是一致的。 时间序列分析方法：时间序列分析方法： 时域分析：在时间域用有限参数模型描画时间序列的时域分析：在时间域用有限参数模型描画时间序列的相关构造，并经过对模型的统计分析更进一步掌握序相关构造，并经过对模型的统计分析更进一步掌握序列的特性，主要工具是差分方程及自相关函数。列的特性，主要工具是差分方程及自相关函数。频域分析：在频率域中调查时间序列，将时间序列看频域分析：在频率域中调查时间序列，将时间序列看成是由不同频率的正弦、余弦波组成，并经过研讨动成是由不同频率的正弦、余弦波组成，并经过研讨动摇的频率特征来刻划时间序列的特性，主要工具是傅摇的频率特征来刻划时间序列的特性，主要工具是傅立叶变换及谱、谱密度。立叶变换及谱、谱密度。时域和频域是以不同的方式描写时间序列的特性，时域方时域和频域是以不同的方式描写时间序列的特性，时域方法直接分析观测到的依时间变化的数据，频域方法是将时法直接分析观测到的依时间变化的数据，频域方法是将时间序列看成是不同谐波的叠加，着重研讨动摇的频率特征。间序列看成是不同谐波的叠加，着重研讨动摇的频率特征。第四节第四节 自谱自谱本