时间序列模型归纳总结复习

1、时间序列模型归纳总结复习随机时间序列分析的几个基本概念一、随机过程 (Stochastic Process)定义 设(Q ,F,P )是概率空间，T是给定的参数集，如果对于任意 t T,都有一定义在(Q ,F ,P ) 上的随机变量X(t, 3 )与之对应，则称随机变量 族X(t,3 ),t T为随机过程。简记为X(t,),t T或Xt,t T 或 XT离散参数的随机过程也称为随机序列或(随机)时间序列。上述定义可简单理解成：随机过程是一簇随机变量Xt,t T，其中T表示时间t的变动范围，对每个固定的时刻 t而言，X是 一普通的随机变量，这些随机变量的全体就构成一个随机过程。当t=0, 1,

2、2,时，即时刻t只取整数时，随机过程Xt,t T可写成如下形式，Xt,t=0, 1, 2,。此类随机过程 X是离散时间t的随机函数，称它为随机序列或时间序列。对于一个连续时间的随机过程的等间隔采样序列，即Xt ,t=0, 1, 2,就是一个离散随机序列。二、时间序列的概率分布和数值特征1、时间序列的概率分布一个时间序列便是一个无限维的随机向量。一个无限维随机向量 X=(,X-1,X0,X1,)/的概率分布应当用一个无限维概率分布描述。 根据柯尔莫哥夫定理，一个时间序列的概率分布可以用它有限维分布簇来 描述。时间序列所有的一维分布是：，F-1( ) , F0( ) , F1( ),所有二维分布是

3、：Fij( , ) , i , j=0, 1, 2,(i 丰 j)一个时间序列的所有有限维分布簇的全体，称为该序列的有限维分布簇。2、时间序列的均值函数一个时间序列的均值函数是指：t EXtXdFt ( X )其中EXt表示在t固定时对随机变量 Xt的求均值，它只一维分布簇中的分布函数Ft( )有关。3、时间序列的协方差函数与自相关函数与随机变量之间的协方差相似，时间序列的 协方差函数 定义为：(t,s) E(Xtt) Xs s(Xt) Yss dFt,s(X,Y)其中Ft,s(X,Y)为(Xt, Xs)的二维联合分布。类似可以定义时间序列的自相关函数，即：(t,s)(t,s)/、. 一(t,

4、t)(S,S)时间序列的自协方差函数有以下性质：(1) 对称性：(t,s)(s,t)(2) 非负定性：对任意正整数 m和任意m个整数ki, k 2,。km,方阵人1k1,k2lk1，kmk2,k1k2,k2lk 2 ,kmllllkm ,k1k m ,k 2lk m ,k为对称非负定矩阵。时间序列的自相关函数同样也具有上述性质且有p (t,t)=1三、平稳随机过程平稳时间序列是时间序列分析中一类重要而特殊的随机序列，时间序列分析的主要内容是关于平稳时 间序列的统计分析。(一) 两种不同的平稳性定义：1、严平稳：如果对于时间t的任意n个值t1,t2,L ,tn和任意实数，随机过程Xt的n维分布满

5、足关系式:Xi,X2,L Xn；ti,t2 ,L tFn 0X2 ,L Xn；ti,t2则称Xt为严平稳过程。2、宽平稳：若随机过程Xt,t T的均值(一阶矩)和协方差存在，且满足(1) E Xtat T(2) E Xt k a Xt a k t,t k T则称 Xt,t T为宽平稳随机过程。通常说的平稳是指宽平稳。二者的联系：(I) 严宽：因为宽平稳要求期望和协方差存在，而严平稳要求概率分布存在，而不能断言二阶矩存在。(n)宽严，这是不言而喻的。(川)严平稳+ 二阶矩存在宽平稳。但反过来一般不成立。(W)对于正态过程来说，有：严平稳宽平稳(二) 平稳时间序列自协方差函数和自相关函数为了叙述方

6、便，常假定平稳时间序列Xt的均值为零，即 E Xt0。用以下记号表示平稳序列 Xt的自协方差函数，即k E Xt kEXtXt kEXt k XtEXt当EXt 0时相应地,Xt的自相关函数用以下记号kk；0平稳序列Xt的自协方差函数列和自相关函数列具有以下性质：(1)对称性：kk， kk ；(2)非负定性：对于任意正整数 m0 1Lm-11 11m-11C丄m-211 Lm-2mRmL LL LL L L Lm-1m-2L0m-1m-2 L 1为非负定对称方阵；(3)k 0, k 1 (三) 平稳序列的样本统计量(1 ) 样本均值时间序列无法获得多重实现，多数时间序列仅包含一次实现，对于一个

7、平稳序列用时间均值代替总体 均值。即Xt上式的估计是无偏的。(2)样本自协方差函数C1 n k彳Xt XXt k Xn t 11n k2XtX Xt k Xn k t 1第一式是有偏估计，第二式是无偏估计，但有效性不如第一式。其它概率性质和偏自相关函数的定义将在以后章节介绍。四、几类特殊的随机过程(序列)：1、纯随机过程：随机过程如果是由一个不相关的随机变量的序列构成的，则称其为纯随机过程。2、 白噪声序列(White noise )：如果时间序列 Xt满足以下性质：(1)E Xt0(2)E XtXs2t,s式中，当t丰S时,t,s 0, t,t 1。称此序列为白噪声序列，简称白噪声。白噪声是

8、一种最简单的平稳序列。(3) 独立同分布序列：如果时间序列Xt,t T中的随机变量 Xt,t=O, 1, 2,为相互独立的随机变量，而且X具有相同的分布，称这样的时间序列Xt ,t T为独立同分布序列。独立同分布序列是一种最简单的严平稳序列。一般说，白噪声序列与独立同分布序列是不同的两种序列，当白噪声序列为正态序列时，它也是独立同分布序列，此时称之为正态白噪声序列。(4) 独立增量随机过程：对于任意正整数n,任意ti T i 1,2,L ,n,t, t2 Ltn，随机变量Xt2 Xt1, Xt3 Xt2 ,L Xtn Xtn1相互独立。简单地讲，就是任意两相邻时刻上的随机变量之差(增量)是相互

9、独立的。(5) 二阶矩过程：若随机过程Xt,t T对每个t T, Xt的均值和方差存在，则称之为二阶矩过程。(6)正态过程：若 Xt,t T的有限维分布都是正态分布，则称Xt,t T为正态随机过程。主要介绍三种单变量模型：自回归( AR模型、移动平均(MA模型和自回归移动平均(ARMA模型。第一节自回归模型一、一阶自回归模型 AR(1)如果时间序列独立，就是说事物的后一时刻的行为主要与其前一时刻的行为毫无关系。这样的资料所揭示甲统计规律就是事物独立地随机变动，系统无记忆能力。如果情况不是这样，资料之间有一定的依存 性。后一时刻的行为主要与前一时刻的行为有关，而与其前一时刻以前的行为无直接关系，

10、即已知Xt-1 ；X主要与X-1相关。用记忆性来说，就是最短的记忆，即一期记忆，也就是一阶动态性。描述这种关系的数学模型就是一阶自回归模型。即XtiXt i at记作AR( 1)。其中X零均值平稳序列，a t为随机扰动。1、一阶自回归模型的特点X对Xt-i有线性相关关系a t为独立正态同分布序列E(qXtj)0, j 1,2,2、AR( 1)与普通一元线性回归的关系元线性回归YXi i一阶自回归Xt1Xt 1 at两个变量，Y为随机变量，X为确定性变量;一个变量，Xt为随机变量;E( i)at为白噪声序列,E佝)0；COV( ij)var( i)cov( X ii)E(atXt j)0, j0

11、,还可假定at为正态分布。主要区别：(1) 普通线性回归模型需要一组确定性变量值和相应的观测值；AR( 1)模型只需要一组随机 变量的观测值。(2) 普通一无线性回归表示的是一随机变量对另一个确定性变量的依存关系；而AR( 1)表示的是 一个随机变量对其自身过去值的依存关系。(3) 普通线性回归是在静态的条件下研究的；AR( 1)是在动态的条件下研究的。( 4) 二者的假定不同。(5) 普通回归模型实质是一种条件回归，而AR( 1)是无条件回归。主要联系：固定时刻t-1，且观察值Xt-1已知时，AR( 1)就是一个普通的一元线性回归。二、AR (1)模型的特例随机游动1、随机游动模型Xt Xt

12、 1 at2、模型的特性(1) 系统具有极强的一期记忆性，系统在 t-1 和 t 时刻的响应，除随机扰动外，完全一致，差异完全 是由扰动引起的。(2) 在时刻t-1时，系统的一步超前预测就是系统在t-1时的响应X-1，即X： Xt 1。(3) 系统行为是一系列独立随机变量的和，即Xtat jj0三、一般自回归模型 AR(n)Xt 1Xt1 2Xt 2 . nXt n d 其中：內为白噪声，EQtXt j) 0, j 1,2,。第二节 移动平均模型一、一阶移动平均模型 MA( 1 )如果系统的响应 Xt仅与其前一时刻进入系统的扰动a t存在一定的相关关系，则有 MA( 1)模型：Xt at 1a

13、t 1其中：at为白噪声。MA( 1)模型的基本假设为：(1)系统的响应X仅与其前一时刻进入系统的扰动at有一定的依存关系；(2) at 为白噪声。二、一般移动模型ma( m模型的形式:X t at1at 11at 2mat m其中：(1) Xt仅与ti , t 2，t m有关，而与 t j (j=m+1,m+2,)无关；(2) t为白噪声。第三节自回归移动平均(ARMA)模型、ARMA( 2， 1 )模型1 、 ARMA( 2， 1 )模型的形式：X t 1X t 12 X t 2 t 1 t 1其中：Xt与Xt 1 Xt2和t1有相关关系，t白噪声。2、ARMA( 2， 1 )模型的结构：

14、ARMA( 2， 1)模型是由一个 AR( 2)和一个 MA( 1)两部分构成。3、ARMA( 2， 1 )与 AR( 1 )的区别从模型形式看，ARM(2，1)比AR( 1)的项数多；从模型的动态性看，ARMA(2，1 )比AR (1)具有更长的记忆；从计算t 所需的资料看， ARM(A 2，1递归 地计算出来，0 通常取零；从参数估计来看，二、ARMA( n，n-1 )模型X t1Xt 1.n Xt nt1 t 1.ARMAn, n-1 )模型的基本假设为：t独立于需要用t期以前的t 1， t 2，这需要从初期开始ARMA(2, 1 )比 AR( 1)困难。n 1 t n 1t j (j=

15、n,n +1,)，从而 t独立于 Xt j (j=n+1,n+2,).三、ARMA(n, n-1) 模型的合理性为什么我们以 ARMA(n, n-1) 模型为一般形式来建立时序模型呢 ?难道一个 ARMA(n, n-1) 模型总可以描 述一个时间序列吗 ?对于平稳系统来说,这是毫无疑问的。之所以以ARMA(n, n-1) 为基本模型是因为下述理由：第一，AR、MA ARMA(n m)模型都是ARMA(n n-1)模型的特殊情形。第二，理论依据：用 Hilbert 空间线性算子的基本理论可以证明，对于任何平稳随机系统，我们都可以用一个ARMA(n n-1)模型近似到我们想要达到的程度；用差分方程

16、的理论也可以证明，对于n阶自回归,MA模型的阶数应该是 n-1。第三，从连续系统的离散化过程来看，ARMA(n n 1)也是合理的。在一个 n阶自回归线性微分方程和任意阶的移动平均数的形式下，如果一个连续自回归移动平均过程在一致区间上抽样，那么，这个抽样过 程的结果是 ARMA(n，n-1) 。【章节实验】利用 Eviews软件生成AR序列、MA序列和ARMA序列。第三章ARMA模型的特性本章为本书重点之一，主要掌握三类模型的格林函数形式、平稳性和可逆性条件、AFC和PAFC的形式和特点。第一节线性差分方程一、后移(Backshift) 算子:1. 定义：后移算子B定义为BXt Xt ,，从而

17、BmXt Xt m。2. 后移算子的性质：(1) 常数的后移算子为常数：Bc c(2) 分配律：(Bm Bn)Xt BmXt BnXt Xt m Xt n(3) 结合律：BmBnXt Bm(BnXt) BmXt n Xt m n(4) 后移算子B的逆为前移算子B 1Xt Xt 1(5) 对于1，无限求和得(1 B 2B2 3B3 .)Xt 1 B前面的MA(m濮型、AR(n)模型和ARMA(n,m模型可分别表示为：Xt(B)at(B)Xt at(B)Xt(B)at其中：(B)11B2B2 LnBn(B) 11B2B2 LmBm二、线性差分方程Xt1Xt 12Xt 2LnXt nat1at 12

18、at 2 Lmat m可将写成(B)Xt(B)q这里(B)1iB2B2LnBn(B)1iB2B2LmBm差分方程通解为：Xt C(t) I(t)这里，C (t)是齐次方程解，I (t)是特解。三、齐次方程解的计算无重根考虑齐次差分方程(B)Xt 0其中(B)(1 G1B)(1 G2B)L (1 GnB)假定G, G,，G是互不相同，则在时刻 t的通解：Xt AG； A2G； L AGn其中A为常数(可由初始条件确定)。重根 设(B)0有d个相等的根G。1，可验证通解为2d 1 tXt (Ao At AtLAd 1t)Go对一般情形，当 (B)的因式分解为(1 GB)(1 G2B)L (1 Gn

19、/B)(1 GoB)dd 1n/齐次方程解便是 Ck(t) GO Ajtj DiGit j 0i 1因此，齐次方程解是由衰减指数项G、多项式tj、衰减正弦项Dsin(2 n fot+F)，以及这些函数的组合混合生成的。上述过程中计算Gi并不方便，通常通过解方程n 1 n 12 n 2 . n 0得到其根为：i,i 1,2,., n。由于 n 1 n 12 n2 . n 0 的根与 11B 2B2 L nBn 0 的根互为倒数，因此i Gi。非齐次方程的特解通常情况下不容易得到，没有一个“万能钥匙” ，需要具体问题具体分析，只能对 一些具有特殊形式非齐次项的方程进行讨论。此处丛略。第二节 格林函

20、数 （Green s function）和平稳性 （Stationarity）一、格林函数 （Green s function）1）1、定义：设零均值平稳序列 Xt,t 0, 1, 2,. 能够表示为XtGjat jj0则称上式为平稳序列 Xt的传递形式，式中的加权系数Gj称为格林（Green）函数，其中G。1。2、 格林函数的含义：格林函数是描述系统记忆扰动程度的函数。式（ 1）可以记为Xt G B at（ 2）其中 G B G jB j 。j0式（1）表明具有传递形式的平稳序列Xt可以由现在时刻以前的白噪声通过系统GBGjBj”0的作用而生成，Gj是j个单位时间以前加入系统的干扰项 at

21、j对现实响应Xt的权，亦即系统对at j的记忆”。AR(1)系统的格林函数at1X1(a t 1) a t由 AR（ 1 ）模型XtXt即: Xtj1at j0则AR(1)模型的格林函数 Gj1j。如若11，则Gj随着j的增大而缓慢减小，表明系统的记忆例：下面是参数分别为0.9、0.1和-0.9较强；相反，若 10,则Gj随着j的增大而急剧减小，表明系统的记忆较弱的AR( 1)系统对扰动 t的记忆情况(三个序列由同一正态白噪声序列模拟生成)：-4-2-4102030405060708090100X 0.9X|iui|H|L.J.，!.j.r.uu.J.J.，!.p.J.，!r.10203040

22、5060708090100Xt 0.1Xt 1atXt0.9Xt 1 q比较前后三个不同参数的图，可以看出:1取正值时，响应波动较平坦。(2)1取负值时，响应波动较大。(3)由于Xtj21 at jat1at 11 at 2j 0at 1at 12at 2.其中 1j，因此AR( 1)模1越大，系统响应回到均衡位置的速度越慢，时间越长。at)2E(at2) 22aiE(Xt iat)如果序列Xt是平稳的，则有E(Xt2)E(X：)，由上式可得(112)E(Xt2)aE(Xt2)2a(112)由于E(Xt2)是非负的，所以2a(1 12)0，从而1，这就是AR( 1)模型的平稳性条件。利用滞后算

23、子B，AR( 1)模型可以写为(B)Xtat式中(B)11B，那么平稳性条件1就等价于(B)0的根在单位圆外型可用一个无限阶 MA来逼近，这说明 AR模型是一种长效记忆模型。三、AR系统的平稳性1、由平稳性的定义求 AR(1)系统的平稳性条件将AR (1)模型Xt1X11 at两边平方再取数学期望，得到E(Xt2) E( 1Xt112E(X：)12E(X：1)10的根落在单位圆内)。上述平稳条件可以推广到 AR(n)模型，即2(B)Xt at 其中：(B)11B 2B LnBn的平稳性条件为:(B)0的根在单位圆外(或nn 1n 212 L n 0的根在单位圆内)。2、由格林函数求 AR(1)

24、模型的平稳性条件该扰动的作用渐渐减对于AR(1)系统来说，其平稳性条件也可以由格林函数得出。如果系统受扰后,小,直至趋于零，即系统响应随着时间的增长回到均衡位置，那么，该系统就是平稳的。相对于格林函数来说，就是随着j fa,扰动的权数 Gj 0，由于Gj = 1j故必有j T8, 10 ,显然，这就是AR(1)系统平稳性条件。反过来，若1，则称AR(1)为渐近稳定的，也必是平稳的。11 时，Gj =1；当 1 =1 时，Gj =(-1)当 严1 时这时，虽然响应不回到其均衡位置，但仍是有界的，这时系统为临界稳定的，系统可能存在某种趋势 或季节性。当| 11时，j fa, Gj is,任意小的扰

25、动只要给定足够的时间，就会使系统响应正负趋于无穷，永远不会回到其均衡位置，这时系统便是不稳定的，当然是非平稳的。例：求AR(2)模型的平稳域解：特征方程()21120的根1 7*427 12 4 21亠 ， 222122, 1 2 1根据AR模型的平稳性的条件i1(i 1,2)21 21211 2 1 2 111 1 22112 ( 1 2)11 1 1 22 m1 1 1 1 1 2 1故AR( 2)模型的平稳域为1 2121 121 1由于1, 2是实数，1, 2必同为实数或共轭复数, 因此四、格林函数与 Wold 分解(Wold Decomposition)所谓Wold分解也叫正交分解，

26、其核心就是把一个平稳过程分解成不相关的随机变量的和。由于这一思想是由Wold引入(1938年)到时序分析中的，故叫做 Wold分解。他认为可以用线性空间来解释 ARMA莫型 的解。在n维线性空间Ln中，n个线性无关的向量 a1,a2,.an称为空间的一组 基。设 可由印?,线性 表示：k?a2 kn a其中ki由向量 和ai唯一确定，ki称为向量关于基ai的坐标。如果用线性空间的观点来看AR(1)模型的解Xt1 at jj0由于 at j 是相互独立的，可看作线性空间的基j ( 或无限维坐标轴 ) ，显然 X t系数Gj就是Xt对于at j的坐标，Xt就是Gj at j的正交向量的和。因而上式

27、也叫做 数叫 Wold 系数。格林函数和 Wold 系数是同一客体从不同角度观察的结果，二者是完全一致的。 解释，格林函数是系统解释。五、ARMA模型格林函数的通用解法ARMA (n ,m模型可由 at j 线性表示，其Wold 分解式，其系Wold 系数是线性空间(B)Xt(B)且Xt G(B)at则(B)G(B)(B)令*j , 0 jj0, j nn*l , 0 lml 0, l m则 (B)G(B)(B)化为* jk*j B jGk Bkl*Bj 0k 0l 0比较等式两边 B 的同次幂的系数，可得jGl j0由上式，格林函数可从思考：MA(m模型XtGjj 0,jl , l 1,2,

28、3,.l 1 开始依次递推算出。(B)at 的格林函数为, 1 j mjm例： ARMA(2， 1)系统的格林函数ARMA(2, 1)模型 Xt ,Xt ,其中：1和2是特征方程20的根；g1和g2是任意常数，其值由初始条件确定。这里2Xt 2 at可以看作是一个二阶差分方程，设该方程的解是XtGjat j (G j B )atj 0j 0将上式代入模型中：(1iB2B2)( GjBj)at (1iB)atj o(11B2B2)(G0 G1B G2B2 )q(11B)at(G G1B G2 B2 .1G0 B1GB? .2G0 B2 .)(11B )at利用比较系数法，B的同次幕必相等，于是：

29、B的指数：0:G011:G11G01G11 12：G21G12G00G21G12G03:G31G22G10G31G22G1jGj1Gj 12G j 2上式可以写成：Gj1Gj 12Gj 20即：11B2B2Gj0,j2上式为一关于Gj齐次差分方程的形式，其通解为Gjg1 1g2 2的初始条件是:Go 1G 1则 ARMA( 2，1)系统的格林函数为:GiARMA( 2, 1)模型的格林函数也可以通过下面的过程求得。根据Wold分解，平稳ARMA(2, 1)模型(11B 2B2)Xt(1可以写成Xt1B11B2B2 at1 11B 12Bat111B11 2J1 112BatBjatat jAR

30、(2)为ARMA(2，1 )模型的特殊形式，同样具有上述关系。 例：ARMA( n, n-1 )系统的格林函数与上面方法相同，ARMA(n，n-1 )系统的格林函数的隐式的递推式为:(1 1B2B2 . nBn)Gj 0,j n其中 G01G11G21.Gn 1,Gn由下列式子导出G0G1G2GnGn(1其最终解为:Gjgi1G01G112G01Gn 21Gn 12Gn2Gnn 1nGGo021B2B2g1 1 g2 2nBn)Gj0,.gn nn 1n 2i1 i其中：91929n 1例：ARMA（2, 1）系统的平稳性条件ARMA（ 2，1）的平稳性条件要求:时，Gj由 Gj g1 1j

31、g2 2j 得:1,20的根在单位圆内。由于ARM（ 2，1）的特征方程和AR（2）和形式一样（或者说和其移动平均项系数无关），因此其平稳域与AR( 2)系统的平稳域相同，都是:思考：MA模型的平稳性条件。第三节逆函数和可逆性（Invertibility所谓可逆性(Invertibility)是指移动平均模型可以用 AR模型表示。一、逆函数的定义设Xt是零均值平稳序列，如果白噪声序列at能够表示为atXtI jXt j称为逆函数。则称上式为平稳序列 Xt 的逆转形式，式中的加权系数 I j j 1,2,.、ARMA模型的逆函数1、ARM( n,m)模型逆函数通用解法对于ARMA( n,m)模型

32、的逆函数求解模型格林函数求解方法相同。令 I (B) 1I jXt j,I01，j1则平稳序列 Xt 的逆转形式 at XtI jXt j 可表示为j1at I (B) Xt由 ARMA(n,m模型 (B)Xt(B)q 可得(B)(B)I (B)仍由先前定义的 *j 和 l* ，则上式可化为* j * l k*jB jl* BlI kBkj 0 l 0 k 0比较上式两边B的同次幕的系数，得到j * jk Il kk0j* *即 I j*jk*I j k, j 1,2,.k1由此 I j 可从 j 1开始推算出。2、AR模型的逆函数对于 AR( 1 )模型X t1Xt1 at 有Xt1X t

33、1at则其逆函数I 1 1,Ij0 , j 2类似对于 AR( n)模型 X t1X t 12 X t 2 .n Xt n at 有Xt1Xt 12Xt 2.nXt nt其逆函数为1 1 11 2 21 nnI j 0 , jn 13、MA模型的逆函数对于ma( 1)模型Xt (11B)at，则(B) 1，(B) 11B，11BI B 1，即11B 1I1Bi2b2 . 1比较上式两边B的同次幕的系数得I01,111, 1 j11 j 1, j 2从而有lj1j, j1,2,.也可以用以下方法求 MA( 1)模型的逆函数由 Xt (11 B)at 得Xt(11B)11B12B2.XtatXt1

34、jXt jj 1即 Xtat(1jXt j)j 1可见 I j 1j与AR( 1)讨论相类似，上面推导所隐含的可逆性条件为1 1对于MA( m模型的可逆性讨论与 AR( n)模型平稳性的讨论是类似的，即:OVk 1的特征根Vk满ma ( m模型的可逆性条件为其特征方程 vm 1vm1 2vm 2足Vk 1下面所讲的逆函数与格林函数的关系也作为求逆函数的一种选择。三、 Gj 和 Ij 之间的关系对于AR( 1)模型和MA( 1)模型， 注意到格林函数 逆函数AR( 1 )：Gjj111Ij 0, j 1G01MA( 1)G11I j1jGj0, j 1可以看出，AR( 1 )的Gj和MA( 1

35、)的Ij形式一致，只是符号相反，参数互换。此对偶性对其它模 型仍然存在，如：ARMA(2， 1 )的格林函数为G0 1G1 1 1G2 G1 1 2Gj Gj 11 G j 22 , j 3ARMA( 1 ， 2)的逆函数为I 1 1 1I 2 I1 1 2I j I j 1 1 I j 2 2 , j 3综上可知，在格林函数的表达式中，用 打代替Gj， 代替， 代替，即可得到相对应的逆函数。四、关于armAI型平稳性与可逆性的说明通过上面的讨论可知，AR模型不存在可逆性性条件， MA莫型不存在平稳性条件。因此，对于 ARMA模 型的平稳性条件是针对其 AR系数而言，可逆性条件是针对其 MA系

36、数而言。只有同时满足平稳性可可逆性条件， ARMA模型才是有意义的。第四节 自协方差函数一、理论自协方差函数和自相关函数对于ARM/系统来说，设序列的均值为零，则自协方差函数k E XtXt k自相关函数二、样本自相关函数的计算在拟合模型之前，我们所有的只是序列的一个有限样本数据，无法求得理论自相关函数，只能求样本 的自协方差函数和自相关函数。样本自协方差有两种形式:N?k丄N t k 1?*丄N k N kt kXtXt k,k10,1,2,., N 1XtXt k,k0,1,2,., N 1则相应的自相关函数为?-k2NXtXt kt k 1 NXt2N t 1NXtXt kt k 1 N

37、Xt2t 1?0NXtXt kN tk1NN kXt2t 11 N-XtXtN k t k 1 -Xi2N t 1在通常的情况下，我们常采用第一种的计算方法。三、AR模型的自协方差函数和自相关函数(1) AR( 1)模型的自协方差函数和自相关函数AR( 1 )模型为:Xt1Xt 1at假设Xt为零均值序列。将上式两端乘以Xtk，并取期望，得E XtXt iiE Xt iXtk E QXt k当 k=0 时，有：E XtXtiE Xt XE atXt即:当k=1时，有XtXt11E Xt 1Xt 1E atXt1即:当k=2时，有XtXt1EXt1Xt 2E atXt 2依此类推，便有一般式:将

38、1代入0，有,相应的自相关函数为k/0，即、AR (n)自相关函数两边同乘以Xt取期望，得:模型的自协方差函数和自相关函数XtXt kkXt上式两边除以 01 Xt 1得到1Xt kXt2XtpXt nat2Xt kXtnXtkXt n，可得差分方程:Xt kat(k 0)(k 0)我们注意到，上式类似于过程Xt自身所满足的差分方程。假定将上式记为(B) k 0这里,(B) 11B LnBnn记(B)(1 GjB)j i则差分方程通解：k AG； A2G； L AG：这里，Gi1 , G21，Gn1是特征方程:(B) 11B LnBn=0的根。为了保证平稳性，则要求g 1。在实际应用中，如果假

39、定根是互异的，会出现两种情况：1. G是实根，这时在通解p ：中AG：随k增大等比例地衰减到零，我们常称之为指数衰减。2. G和G是一对共轭复根，导致在通解出现：kD sin(2 fk F)使得自相关函数呈衰减的正弦振荡，衰减系数D G Gj，频率f满足:2 f cos1Re(Gi) /D方差：当k=0时,01122 Ln n上式两边除以 0 X，并有 k2k，故方差X可以写成四、mA模型的自协方差函数和自相关函数(1) MA( 1)模型的自协方差函数和自相关函数：将 MA( 1)模型Xt at 1at 1两端同乘以Xt k取期望，得E XtXt kE atXtatiXt k当k=0时,当k=

40、1时,当k=2时,Gjat k0iEat iGj at k j j 0GjEj 0atat k jGE at atGiEatat kXtXtatatiEiEat katat k iatat iXtXtatat iiEatat 2GjE0iatiEiEiEat iat k ji GE at iat ki2EGiE at iat k iat iat kat iati2Eat iat k iat iat i2 i Eat iat 2XtXt 2可见，对于MA( i)atat 2模型来说iE atat 3iEat iat 22 :i E at iat 32 21 a2i a0, k 2i0, k 20

41、(1i2 L；）且(k1 k 12 k 2Lk 0)2m k ma,k,k1,2,L ,mm由此得出自相关函数是k1 k 1Lm k m,k1,2 ,L,m1 2 1 2k1m0 ,km对于MA（m过程，当滞后超出过程的阶数 m时自相关函数为零。换言之，滑动平均过程的自相关函数具有超出m步滞后的截尾性。（上述性质用来在 B-J建模过程中，识别 MA模型）五、偏自相关函数对于一个k阶AR模型，有:jk1 j 1k2 j 2 Lkk j kj 1,2,L ,k由此得到Yule-Walker 方程，记为：11 2Lk 1k1111 1Lk 2k22MMMLMMMk 1k 2k 3L1kkk或R k=

42、 p k当1 2i,k已知时，由该方程组可以解出k1 ,k2 ,kk。遗憾的是，用该方程组求解时，需要知道自回归过程的阶数。因此，我们可以对连续的k值求解Yule-Walker方程。对k=1 , 2, 3,依次求解方程，得ii i111222122111211111111221311211121133kk上述kk序列为AR模型的偏自相关函数。如果自回归过程的阶数为 n,则对于kn应该有kk=O。(1) 偏自相关性是条件相关，是在给定Xj 1,Xj 2,，Xj k 1的条件下，Xj和Xj k的条件相关。换名话说，偏自相关函数是对 Xj和Xj k之间未被Xj 1,Xj 2,，Xj k 1所解释的相

43、关的度量。(2) 由最小二乘原理易得，k1, k2,，kk是作为Xj关于Xj 1, Xj 2,，Xj k线性回归的回归系数。(3) 由(2)可得，对于AR(n)模型，当kn时，kk =0。(此性质用来在 B-J建模过程中，识别AR特征)(4) 对于任何平稳过程，都可以由Yule-Walker方程定义偏自相关函数，当然也都是作为自相关函数的函数。六、自回归和滑动平均过程之间的对偶性自回归和有限滑动平均过程之间存在对偶关系的特征：1. 在一个n阶平稳自回归模型中，at可表示为既往X的有限加权和，换言之，X可表为既往a的无限加权和：Xt1(B)at同样，在一个 m阶滑动平均模型中，Xt可表示为既往a

44、的有限加权和，换言之，at可表为既往X的无限加权和：1(B)Xt at2. .有限的MA过程具有在某点之外全为零的自相关函数，但由于它等价于一个无限阶的AR过程，因此其偏自相关函数无限伸延，且被衰减指数和(或)衰减正弦波所控制。与此相反，AR过程具有在某点之外全为零的偏自相关函数， 但是它的自相关函数无限伸延， 且有衰减指数和(或)衰减正弦波混合生成。3. 对于一个有限m阶自回归过程，其参数不必满足任何条件就能保证可逆性，然而，为满足平稳性，0 (B)=0的根必须都在单位圆外。与此相反，MA过程的参数不需要满足任何条件就能保证平稳性，然而，为满足可逆性(B)=0的根必须都在单位圆外。4. 滑动平均过程的谱与对应的自回归过程的谱存在互逆关系。七、本章小结零均值时间序列统计分析结果类别模型AR(n)MA(m)ARMA (n ,m)模型方程at(B)XtXt(B)at(B)Xt(B)at平稳性条件特征根全在单位圆内无条件平稳特征根全在单位圆内可逆性条件无条件可逆特征根全