时间序列修改后吉大

1、时间序列分析 (J.D.Hamilton)前言: 3.平稳ARMA 过程(p49-78),6.谱分析(p179-202),10.协方差-平稳向量过程(p305-336),21.异方差时间序列模型(p799-817).3. 平稳ARMA 过程3.0 概述(认识论,方法论,历史观,发展观)”回归模型”?”自回归模型”?它们联系 ?为什么用”回归”一词?它们的推广模型是什么?它们的应用背景是什么?*考虑 ”父-子身高的关系”X-父亲的身高,Y-儿子的身高,它们有关系吗?样的关系呢?不是确定的关系! 又不是没有关系!在同族中抽取n 对父-子的身高, 即有 n 对数据:(X1,Y1), (X2,Y2),

2、 ,(Xn,Yn).1kn.=Yka +bXk ,1kn.Yka +bXk + ek ,(0.1)*此为一元线性回归模型.ek-差异, 其他, 等等.*如果, 如果能到一个父系的长子身高序列, 即X1,X2,Xn, 显然,(X1,X2),(X2,X3),(Xn-1,Xn)是(n-1)对父-子身高数据,与(Xk,Yk)相比,这里的YkXk+1 ,=k=1,2,n-1.依同样论述有1kn.Xk +1 =a +bXkek ,+(0.2)*此为一元线性自回归模型(自变元 Yk 是因变元Xk 的延迟)回归英文翻译Regres(0.2),具体说来如下:*记-平均身高. 由(0.2)得Xk +1-bXkek

3、 -(注意=(b+1)-b)= a += a +(b-1) +b(Xk -)+ ek.记Wk = (Xk -)-第k 代长子身高与平均身高之差, c= a +(b-1),于是有Wk+1= c +bWkek.+(0.3)特别人们发现: 0b1.它表明:平均说来, 当父亲身高超过平均身高时,其子身高也会超过平均身高,但是,比父亲身高更靠近平均身高.有回归平均身高的趋向!稳定系统!*回归模型的推广: (线性模型)*增加自变元个数:比如, 儿子身高不仅与父亲还与母亲, 甚至于祖父母有关, 于是(0.1)式应推广为:1kn. (0.4)Yk= a +b1X1k + bpXpk +ek ,*此为p 元线性

4、回归模型.*向非线广:仍以父-子身高的关系为例, 它们的真实关系应是比(0.1)式更一般的形式:Yk(Xk )+ ek ,1kn.=(0.5)而(0.4)式 更一般的形式:Yk(X1k,Xpk )+ ek ,1kn.=(0.6)近年来, 又引出了比(0.6)式更广的模型:Yk =(X1k,Xpk )+s(X1k,Xpk )ek ,1kn.此为条件异方差回归模型.(0.7)*(0.7)式的更一般的形式:Yk =(X1k,Xpk ;ek ),1kn.(0.8)模型越复杂, 越近似真实情况, 也越难统计分析.* 应用背景:非常广泛!主要用于预报,控制,检测,管理.模型的获得方法有两类.3.1 期望,

5、平稳性,遍历性:确切说,是对(0.1)至(0.8)式中ek的最起码的假定,根据这些假定就可以引出随机过程和各种模型概念, 用它们近似描述ek(本来是说不清的).而且,对这些起码的假定, 也只是以最直观的方式, 而非严格的概率论观点, 加以介绍.*期望和随机过程随机过程: X(t);-t1 时.2201-1i(3.3.3)(3.3.4)(3.3.5)(3.3.5)式是一阶移动平均过程的基本特征!它表现为自协方差函数序列0,1,2,即0,1,0,0,0,.在 1 以后是截尾的,这一特征与0 和1 的具体取值并不密切,易见,所以,可用序列的自相关函数表述.* 自相关函数:k=k/0,k=0,1,(3

6、.3.6)这是因为k=k/0=k/00=1/21/2E(Y -)(Y -)/E(Y-) ,22 1/2) E(Y -t+ktt+kt它是Yt+k 和Yt 的相关系数,依平稳性它与t 无关, 但与k有关, 所以称函数, 又因是序列自身的关系, 所以称自相关函数.* 对于(3.3.1)的一阶移动平均过程而言, 由(3.3.4)和(3.3.5)知0=1, 1=/(1+ ), 当k1, =0.2k(3.3.7)可见, 自相关函数在 1 以后全为零(截尾)是一阶移动平均过程的本质性特征!* 以上内容不难推广到* q 阶移动平均过程:(MA(q)(见p58-59)模型Yt=+1t-1+qt-q+t,(3.

7、3.8)特征k=0, k=0,当kq.(3.3.12)即,它的自协方差函数在 q 步以后截尾.关于0, 1,q 的具体表达式为 =(1+ + + ) , =E )222222(3.3.10)012qt =( + + + ,2)(3.3.12)j=1,2,qjjj+1 1j+2 2-j表达了0, 1,q注意, 以上(3.3.10)和(3.3.10)式,和参数 , , 的相互依赖关系! 但是, 除非 q=1,一2212q ,般很难求解. 况且, 它们的解还有不唯一性问题, 此问题放在 3.7 节中解答.*例2(见 p59).3.4 自回归过程.(自回归序列AutoRegres-AR)*一阶自回归过

8、程(AR(1) (相当于概述)*实际背景:*定义:Yt-1t ,Yt=c +(3.4.1)t 与Yt-1,Yt-2,独立!其中t是白噪声序列,而且,t又被称为新息序列!所以, 在文献中,*求解:由(3.4.1)式反复迭代有: (不妨叫Yt=c+Yt-1 +t=c+(c+Yt-2 +t-1)+t)=c+c+2Y+ +t-2t-1t Y +(c+c)+( + )2=t-2tt-1 Y +(c+c+ c)+( + + )322=t-3tt-1t-2= Y +(c+c)+( + +)nn-1n-1=c+t-ntt-1t-n+1c+ c+)+( + + ) (当n)22(c+tt-1t-2=c/(1-)

9、+k .(3.4.2)k=0t-k*平稳性:显然, 上式成立的充分必要条件是:1. 即 (-1, 1)于是有名称: 区间(-1,1)为AR(1)模型的平稳域;(3.4.2)式的解为 AR(1)模型的平稳解;- AR(1)平稳序列;它也是MA()序列(见(3.3.13)式).均值函数:由(3.4.2)式和Et=0,有*Yt=c/(1-)=.(3.4.3)反复迭代法* 自相关函数: 在(3.3.18)式, 此时j= ,jj=0,1,于是 AR(1)的自协方差函数为k= /(1- )= ,2 j2j0AR(1)的自相关函数为j=0,1,(3.4.5)k=k/0= ,jj=0,1,(3.4.6)*回顾

10、模型 AR(1)(3.4.1)式Yt=c+Yt-1 +t,两边同取均值得=EYt=Ec+EYt-1 +Et=c+ =c/(1-).在(3.4.1)式两边同减上式 =c+ 得(Yt-)=(Yt-1-) +t.Wt=(Yt-), 它是Yt的中心化序列!记它满足中心化的AR(1)模型Wt=Wt-1 +t.以Wt-k(k1)同乘上式两边,(3.4.1)然后再同取均值得k=EWtWt-k=EWt-1Wt-k+EtWt-k=k-1,k=1,2, (3.4.15)其中用到t 与Wt-k 独立,和Et=0,即EtWt-k=EtEWt-k=0.由此可得 = .将 W =+ 两边平方后, 再同取均值得kWk0tt

11、-1t =EW = EW+E +2EW = + = /(1- ).222222220tt-1tt-1 t00记 L 为(一步)延迟算子(运算), 即 L = ,L W =W ,等等.2tt-1tt-2Wt=Wt-1 +t 可写成于是,模型推演方法:(不用(3.3.18)式)Wt=LWt +tWt-LWt =t 或者或者(1-L)Wt=t.(3.4.1)对上式进行形式上的L) = L =k .-1k kW =(1-ttk=0tk=0t-k其中(1-L)-1=kLk (1-L)kLk=1.k=0k=0以上推演方法, 不仅简便, 而且能推广到高阶情况!* 高阶推广:Yt=c+1Yt-1+t-p +t

12、 ,=c+1+p, Wt=1Wt-1+t-p +t ,(3.4.13)记代数运算(A)1.(对比 1, (A)是A 的谱半径)所说的暂叙到此.* 二阶AR 模型:(见 p64-66)(概述其难点所在)模型:Yt=c+1Yt-1 +2Yt-2+t,Wt=1Wt-1 +2Wt-2+t,(3.4.10)依前所述, 只要求得(3.4.10)式的解, 就不难获得 AR(2)模型的个项特征量. 要获得(3.4.10)式的解,就等价Wt的(3.3.13)式中的系数j(0jq),再取均值得E(Wt-1Wt-1-t-t-k=E(t+1t-1+qt-q)Wt-k即有k-1k-1 +pk-p=0,k=q+1,q+2

13、,(3.5.5)很有趣, 虽然ARMA(p,q)序列的自协方差序列不截尾, 但是它的线性组和序列t-1t-1 +pt-p 确在q 步后截尾. 由此又可找到0,1 ,p+q 和参数既可给出此模型的判别依据, , , , , , , 的依赖关系.(见第5 章)212p12q3.6 自协方差生成函数(谱表示)(移至第 6 章)3.7 可逆性:* 先举两个例子,首先看Wt=t+(1/2)t-1其中t为正态白噪声,即 tN(0, ).2(*)于是有EWt=0, EWt = +(1/2)2 =(1+(1/4) =(5/4) ,222221=EWtWt-1=E(t+(1/2)t-1)(t-1+(1/2)t-

14、2)=(1/2) .2再考查另一模型Zt=t+2t-1,(*)其中t为正态白噪声,即 tN(0, /4),2即,Et = = /4,222于是有EZt=0, EZt = +4 =5 =(5/4) ,222221=EZtZt-1=E(t+2t-1)(t-1+2t-2)=2 =(2/4) =(1/2) .222可见序列Wt和Zt有相同的均值,和相同的自协方差函数.而且它又是正态的(此条不可少!), 于是它们有完全相同的概率分布结构! 在理论和应用中都无法区分.出现此问题的根源在于: 模型(*)和(*)分别可写成Wt=(1+(1/2)L)t=1(L)t, Zt=(1+2L)t=2(L)t,1(L)=02(L)=0奇妙的是,和的根互为倒数! 因为,1(L)=0 的根是 2, 2(L)=0 的根是 1/2.具此,可以因为1(L)=0 的根是 2,它在使用模型(*),圆外!至此,可以回答第 3.3 节提到的不能唯一确定 MA(q)的系数问题了.具体地说, 就是将 MA(q)模型的系数多项式