自回归移动平均模型

第二章自回归移动平均模型一些金融时间序列的变动往往呈现出一定的平稳特征，由Box和Jenkins创立的ARMA模型就是借助时间序列的随机性来描述平稳序列的相关性信息，并由此对时间序列的变化进行建模和预测。第一节ARMA模型的基本原理ARMA模型由三种基本的模型构成：自回归模型(AR，Auto-regressiveModel)，移动平均模型(MA，MovingAverageModel)以及自回归移动平均模型(ARMA，Auto-regressiveMovingAverageModel)02.1.1自回归模型的基本原理AR模型的基本形式AR模型的一般形式如下：y=c+。y+。yH。y+£t1t-12t-2pt-pt其中，c为常数项，%,。2…。p模型的系数，8t为白噪声序列。我们称上述方程为p阶自回归模型，记为AR(p)。AR模型的平稳性此处的平稳性是指宽平稳，即时间序列的均值，方差和自协方差均与时刻无关。即若时间序列｛y』是平稳的，即E(y)=H,Var(y)=。2,Cov(y,y)=。2。ttttt-ss为了描述的方便，对式(2.1)的滞后项引入滞后算子。若yt=,］，定义算子“l”，使得y=Lx=xL称为滞后算子。由此可知，Lkx=x。ttt—1，tt—k对于式子(2.1)，可利用滞后算子改写为：y=c+。Ly+。Ly+・•,+。Lpy+8t1t2tptt移项整理，可得：(1-0L-。L-.••-。Lp)y=c+8AR(p)的平稳性条件为方程1-qL-%L2°^Lp=0的解均位于单位圆外。AR模型的统计性质AR模型的均值。假设AR(p)模型是平稳的，对AR(p)模型两边取期望可得：且y)=E(c+°y+°y+°y+8)TOC\o"1-5"\h\zt1t-12t-2pt-pt根据平稳序列的定义知，E(yt)=|i，由于随即干扰项为白噪声序列，所以E(8)=0，因此上式可化简为：(1—°—°——°)日=°所以，日=_7£0T—1-°-°°AR模型的方差。直接计算AR(p)模型的方差较困难，这里引入Green函数。AR(p)模型可以改写成如下形式：£y——古—t①(L)设气...人p为平稳AR(p)模型的反特征根，则0(L)=1项L顷L-顷Lp=rf(1-人L)TOC\o"1-5"\h\z12pii=1进一步，£tiit-jjt-jj=0i=1j=0iii=1j=0yU；…室k(")j£=E&2空Gi=1i其中，k.为常数，G=Yk£tiit-jjt-jj=0i=1j=0iii=1j=0对上式两边取方差，可得：var(y)=芝G2var(s)tjt-jj=0由于随机干扰项为白噪声序列，所以var(£t-「=6。因为Green函数是呈负指数下降，所以若G2V8，这说明平稳时间序列方差有界，且等于常数切G2^2。j=0j=0自协方差函数。假设将原序列已经中心化，则E(y,)=0，则对AR(p)模型等号两边同时乘以yt-Ek>1)，两边取期望得：E(yy)=8E(yy)+8E(yy)+...+8E(yy)+E(£y)tt—k1t-1t—k2t—2t—kpt—pt—ktt—k因为当期的随机干扰项与过去的时间序列值无关，所以：E(£y—-k)=0。因此，上式可以化为：r=8/+8r++8r其中二，表示*阶自协方差。2.1.2移动平均模型的基本原理MA模型的基本形式MA模型的一般形式如下：y=U+8+0&+0&+…+0&tt1t—12t—2qt—q其中，u为常数项，01，02-0p为模型的系数，8t为白噪声序列。我们称上述方程为q阶移动平均模型，记为MA(q)。2、MA模型的可逆性对于一个MA(q)模型：y—U+8+08+08+,…+08tt1t—12t—2qt—q将其写成滞后算子的形式：y—u=(1+01L+02L2+•••+0Lq)8若方程1+0]L+02L2+…+0卢=0的根全部落在单位圆外，则称MA模型是可逆的。可逆性可以保证MA模型可以改写成：V(L)(yt—u)—81即MA模型可以转化为AR模型，同时可以保证参数估计的唯一性。3、MA模型的数字特征均值当q<3时，对于一般的ma(q)模型：y—u+8+08+08+L+08tt1t—12t—2qt—q两边取期望，可得：E(y)—E(u+8+08+08+L+08)—utt1t—12t—2qt—q即一般的MA(q)模型的期望值即为模型中的常数项。方差对MA(q)模型，两边取方差：Var(y)=Var(u+8+08+08+...+08)=(1+02+02+...+02)b2TOC\o"1-5"\h\ztt1t—12t一2qt一q12q协方差函数r=E(yy)=E[(u+8+08+08+...+08)(u+8+08+08+...+08)]ktt—kt1t—12t—2qt—qt—k1t—k—12t—k—2qt—k—q化简可得：b2(1+02+02++02),k—012Pb2(0+00+...+00),0<k<qk1k+1q一kq0,k>q2.1.3自回归移动平均模型的基本原理1、ARMA模型的基本形式ARMA模型的一般形式如下：y=c+©y+©y+…+©y+8+08+08+…+08t1t—12t—2pt—pt1t—12t—2pt—q显然ARMA(p,q)模型可看成是AR(p)模型和MA(q)模型相结合的混合形式。2、ARMA模型的平稳性和可逆性对于一个ARMA(p,q)模型，y=c+。y+。y+…+。y+8+08+08+…+08t1t—12t—2pt—pt1t—12t—2pt—q将其写为滞后算子的形式：(1-蚌-。2L2—L-。Lp)y=c+(1+01L+02L+L+0L)8两边同时除以(1一。L—。L—L—。Lp)12pyt=日+w(L)81其中：c日=1-。-。—-01+0L+0L++0LW(L)=12q—)1—01—02—...—0p由此可以看出，ARMA模型的平稳性完全取决于AR（p）模型的参数，与MA（q）模型的参数无关。类似地，ARMA模型的可逆性完全取决于MA（q）模型的参数，与AR（p）模型的参数无关。3、ARMA模型的数字特征（1）期望对于一个一般的ARMA（p,q）模型两边同时取期望，化简得:'3')=1-01-02-•……—0p(2)自协方差函数TOC\o"1-5"\h\zr=E(yy)=印]EG8)(£G8)]ktt+kit—ijt+k—ji=0j=0=E[EGEG88]i=0j=0V^=b2芝GGii+ki=0第二节时间序列的相关性分析与平稳性2.2.1时间序列的自相关系数2.2.1.1自相关函数（ACF）1、AR3）的自相关函数在上一节中已经介绍了AR（p）模型的协方差函数满足下式：r=。r.+。r++。r由于自相关系数P=―，因此：kr0P=。P+。P++。Pk1k-12k-2pk-p该式表示自相关系数满足p阶差分方程。根据差分方程解的性质，上差分方程的通解可以写为：P(k)=^Pc*iii=1其中，ci为任意不全为0的常数，•：是滞后多项式的反特征根。根据平稳性的性质,■::::】。从自相关系数的一般形式可看出，：；：始终不为0，但是随着滞后阶数的增加，自相关系数慢慢逼近0，在图形上表现出一定的拖尾性。2、MA模型的自相关函数根据上一节推导的MA模型的自协方差函数的表达式，MA模型的自相关函数表示为:1,k=0P=£」1+哄+1++七巳,0<k<qkY1+02+02±.+02[0,k>q...P因此，当k>q时，自相关函数为0，也就是说MA（q）模型的自相关函数在q步以后是截尾的。3、ARMA模型的自相关函数根据ARMA模型的自协方差函数，不难得到ARMA模型的自相关函数：y\r—GGYii+kP=—^=-4=0kY0£G2ii=0由此可以看出，ARMA模型的自相关函数不具有截尾性。事实上，ARMA模型若满足可逆性，其形式相当于一个无穷阶的AR模型，因此自相关函数与AR模型一样具有拖尾性。2.2.1.2偏自相关函数（PACF）1、偏自相关函数的定义自相关函数上不能纯粹地表示」:与之间的相关性，两者的相关性还会受到「-:一、……「"的间接影响，为了单纯地表示「:与「土之间的相关性，这里引入偏自相关函数。偏自相关函数表示在固定J「_、「M「：……「—的情况下「:与之间的相关性。下面介绍偏自相关函数:上4的计算方法。设序列yt可由下回归方程估计：y=gy+gy++^y+^y+£tk1t-1k2t-2kk-1t-k+1kkt-kt根据回归方程的性质;•式中估计系数二:■:即为偏自相关函数。为了估计回归系数，采用OLS方法,即L=E(y-中y-中y-...-中y-中y)2达到最小。tk1t-1k2t-2kk-1t-k+1kkt-k对L关于各回归系数求偏导；可得到以下方程组：p*p+gp++gpTOC\o"1-5"\h\zk10k21kkk-1P*P+©P++©pk11k20…kkk-2p*p+^p++^pkk1k-1k2k-2kk0该方程组称为Yule-Wolker方程。根据自相关系数,求解Y-W方程即可得到偏自相关系数。2、AR(p)的偏自相关函数对于AR(p)模型；；*时；pkL=E((St+£(中j一甲kj)¥t—j-£tPkjyt-j))2j=i】=p+i由于二与序列的滞后项无关,因此：：；且当=(%,1<j<P气，0,p+1<j<k由此；AR(p)模型的偏自相关函数二:■:在k>p后等于0；即AR(p)模型的偏自相关函数具有截尾性。事实上；AR模型偏相关函数的截尾性也可直接从该模型的表达式看出°AR(p)模型实质上假设序列至多只与滞后p阶的值相关；因此偏自相关函数至多在p阶处非0。3、MA(q)和ARMA(p；q)的偏自相关函数由于MA(q)和ARMA(p；q)相当于无穷阶的AR模型；因此这两个模型的偏自相关函数均不具有截尾性；而是拖尾性。2.2.1.3ARMA模型自相关系数与偏自相关系数的估计与检验根据以上分析,不同ARMA模型自相关系数与偏自相关系数的表现存在明显的差异。表2.1给出了三类模型ACF与PACF的特征。表2.1ARMA类模型ACF与PACF的特征模型自相关系数偏自相关函数AR(p)拖尾p阶截尾MA(q)q阶截尾拖尾ARMA(p；q)拖尾拖尾因此；我们可以通过观察偏自相关函数来识别并确定AR模型的滞后阶数,通过自相关函数来识别并确定MA模型的滞后阶数q。那么对于给定的样本数据；如何估计样本ACF与PACF；并从统计角度检验两者是否为0呢？下面分别介绍ACF与PACF的估计与检验。1、样本ACF与PACF的估计与实现对于给定样本,只需估计样本的自协方差与方差,将两者相除即可得到样本ACF。具体而言,样本自协方差表示为：Yk=洁下£风-y)fri+t-y)i=i其中"表示样本均值。那么SACF二"：。对于PACF主要是利用Yule-Wolker方程求解。当滞后阶数较大时，Y-W方程直接计算较难，目前多采用递推算法来求解。2、样本ACF与PACF的显著性检验常用的检验方法主要包括两类：正态检验法和Portmanteau检验法。若序列满足独立性，则由统计渐进分布的有关定理可知，当样本个数充分大时，ACF和PACF均满足均值为0,方差1/T的正态分布，即<<■■：■■■二二，y二。因此若上.=，：*<：：：■*•二则可认为样本数据是独立的，即自相关系数和偏自相关系数均不显著异于0。该检验法即为正态检验法。Portmanteau检验法是联合检验法，即检验直到k阶的自相关系数是否同时为0。该检验法使用Q统计量进行检验。Q统计量具体形式为：Q=T(T+2)Zj=i其中T为样本容量，k为设定的滞后阶数。Q统计量服从•「土分布。当Q统计量超过设定的临界值时，就拒绝原假设，即序列至少存在k阶以内的自相关性。2.2.2时间序列平稳性检验建立ARMA的前提是序列是平稳的。检验平稳性常用的方法主要有三种：经验法、自/偏自相关系数法、单位根检验法。1、经验法经验法是通过观察图形的方式来初步判断时间序列是否平稳的。首先画出时间序列的图形，如果该图形围绕某一直线上下以较小的幅度波动，则该序列一般是平稳的，否则是不平稳的。2、自/偏自相关系数法由于ARMA模型的自/偏自相关系数要么是截尾的，要么是拖尾的，因此可以观察时间序列的自/偏自相关图，如果时间序列的自/偏自相关系数从某个滞后期开始均与0无差异，可以认为该时间序列是平稳的；若自/偏自相关系数衰减很慢，且与0存在明显的差异，则时间序列是非平稳的。3、单位检验法常用的单位根检验法主要包括DF检验法和ADF检验法。(1)DF检验法DF检验包括三种形式：七=叫_1+£t七=叫_i+c+£七y=Py+c+&+8其中，c为常数项，51表示线性趋势，随机干扰项独立同分布，且服从N（0,c2）。根据平稳性的概念，若序列yt是不平稳的，则回归系数臼企1。一般较易识别。因此判断序列yt是否平稳，主要是判断0是否为1。如果P=1，则说明序列存在单位根,是不平稳的，否则是平稳的。进一步，上述三个方程两边同时减去y，得：-1Ay=Xy+8Ay=Xy+c+8Ay=Xy+c+51+8其中，p=P-1，因此可以将DF检验的原假设和备择假设分别为：H:p=0H:p<0相应的统计量为：-'std（p）DF的形式与t统计量相似，但是该统计量并不服从t分布，Dickey和Fuller（1979）给出了利用蒙特卡罗模拟方法模拟的临界值，因此该检验称为DF检验。DF检验是左侧检验,且不同形式的方