FINTS第四章线性ARMA模型

1、金融时间序列模型第四章：平稳线性ARMA模型基本概念念随机过程程stochasticprocess设T是某个集集合，俗俗称足标标集，对对任意固固定tT，Yt是随机变变量，tT的全体 Yt；tT 称为T上的随机机函数。记为 Yt对每个固固定的t，Yt是随机变变量。通常T取取为：1）T=-,T=0,2)T=-2,-1,0,1,2,T=1,2,3,基本概念念平稳随机机过程（weakly stationary, covariancestationary,second order stationary）如果随机机序列二二阶矩有有界，并并且满足足以下条条件（1）对对任意整整数t，E(Yt)=，为常数；（2

2、）对对任意整整数t和和s，自自协方差差函数ts仅与t-s有有关，同同个别时时刻t和和s无关关。即ts=t-s=k 平稳时间间序列几个重要要的平稳稳过程和和模型白噪声过过程MA过程程AR过程程ARMA过程平稳过程程的参数数自协方差差和自相相关函数数偏自相关关函数白噪声过过程whitenoiseprocess随机过程程满足1）E(t)=0，对对所所有t2）E(t2)=2对所有t3）E(ts)=0,对对任意ts，或Cov(t,s)=0弱白噪声声随机过过程（Weaklywhitenoiseprocess），简简称白噪噪声。记记为tWN(0,2)白噪声过过程4）不同同时刻随随机变量量是相互互独立的的随机

3、变变量，并并且同分分布称为独立立白噪声声，记为为tI.I.D(0,2)如果再增增加一个个条件5）服从从正态分分布该过程为为高斯白白噪声（Gaussianwhitenoiseprocess）。滑动平均均模型Moving AverageModel1-阶滑滑动平均均模型其中1MA模型型和为参数或或系数。表达式1，是1阶滑滑动平均均模型，Yt是1-阶滑动动平均过过程。用用MA（1）表表示例如Yt=0.1+t0.3t1MA(1)另一种表表达方式式本质是一一个只包包括常数数项的回回归模型型，但残残差存在在自相关关。容易易知道MA(1)存在在一阶自自相关。q-阶滑滑动平均均模型定义其中t是白噪声声过程2q-

4、阶滑滑动平均均过程称和i, i=1,2,q为参数或或系数。表达式2，是q阶滑滑动平均均模型，Yt是q-阶滑动动平均过过程。用MA（q）表表示。注：q0q-阶滑滑动平均均模型和过程下面是几几个MA模型Yt=0.1+t0.2t10.1t2Yt=0.1+t0.3t1 0.21t20.1t3Yt=0.1+t0.3t4自回归模模型AutoregressiveModelt=c+1t-1+2t-2+pt-p+t其中t是白噪噪声过程程p0表达式3是P-阶自回回归模型型t为p-阶自回回归过程程 ,表表示为AR(p)C,1,p是未知参参数或系系数。3自回归滑滑动平均均混合模模型MixedAutoregressiv

5、eMovingAverageModelt=c+1t-1+2t-2+pt-p+t+1t -1+qt q其中t是白噪噪声过程程p0,q0表达式4是P-阶自回回归q阶滑动动平均混混合模型型t为p-阶自回回归q阶阶滑动平平均混合合过程,表示示为ARMA(p,q)C,1,p，1，q是未知参参数或系系数。4三类模型型参数特征征MA(1)参数数特点均值函数数：E（t）=自协方差差函数：0=(1+2)21=2k= 0,k1自相关函函数：1=/(1+2)，k=0,k1MA(q)的参参数特点点E（t）=0=(1+12+q2)2k=0,kq，k=0,kqMA过程程例下面是是一个MA(2)模型型,计算算它的自自相关函

6、函数，并并画图t=t+0.2t10.1t21（121）/（11222）（0.2+0.2*0.1）/(1+0.12+0.22)=0.22（2）/（11222）0.1/(1+0.12+0.22)=0.095MA过程程ACF图图基本结论论MA(q)过程的自自相关函函数q步截尾自回归过过程的参参数特点点均值函数数E(t)=c/(1-1-2+-p)自协方差差函数0=11+22+pp+2j=1j-1+2j-2+pj-pj=1,2,3,自相关函函数j=1j-1+2j-2+pj-pj=1,2,3,AR(1)过程程的参数数AR(1)参数数t=0.1+0.5t-1+tt=0.1-0.5t-1+t=0.1/(1-0

7、.5)=0.2=0.1/(1+0.5)j=0.5jj=(-0.5)jARMA过程参参数=c/(1-1-2+-p)j=1j-1+2j-2+pj-pjqj=1j-1+2j-2+pj-pjq偏自相关关函数一般的，偏相关关系数如如下定义义：Yt与Yt-k的偏相关关系数是是去掉Yt-1，Yt-2，。Yt-k+1的线性影影响后简简单相关关系数。用公式式表示如如下：*k=Corr(yt-E*(yt| yt-1，yt-2，。yt-k+1),yt-k)三种随机机过程偏偏自相关关函数的的特点根据定义义总有*1=1三类过程程的偏自自相关函函数和自自相关函函数MA（q）AR（p）ARMA（p，q）自相关函函数q步截尾

8、尾拖拖尾拖拖尾偏自相关关函数拖拖尾p步步截尾拖拖尾滞后算子子平稳条件件，可逆逆条件，模型间间变换滞后算子子滞后算子子(Lagoperators)或延迟迟算子（Backshift）滞后算子子，用L表示。有的书书上称为为延迟算算子，用用B表示示LYt=Yt-1滞后算子子(1)L(LYt)=L(Yt-1)=Yt-2,记为L2Yt= Yt-2,一般的的LkYt= Yt-k(2)与与乘法可可交换L(aYt)=a(LYt)(3)加加法可分分配L(Yt+Xt)=LYt+ LXt(4)对对常数列列的运算算等于他他自身Lc=c(5)1Yt=Yt(6)(1-L)-1=1+L+2L2+kLk当|p那么估计计的偏相相

9、关系数数近似服服从正态态分布N（0，1/T）所以近似似5%显著水平平下，如如果-2/T1/2*kp成立定阶1根据样样本自相相关函数数和样本本偏相关关函数定定阶一般要求求样本长长度大于于50,才能有有一定的的精确程程度。如如果某个个j之后后，所有有的样本本自相关关系数j在95置信区区间内，则自相相关函数数截尾。适合建建立MA模型；如果某某个j后后，所有有样本偏偏自相关关系数*j在95置信区区间内，则偏自自相关函函数截尾尾。适合合建立AR模型型；否则则都拖尾尾。适合合建立ARMA模型。AIC和和 BIC准则则评价模型型的优劣劣准则AIC和和BIC准则对自由度度进行调调整k是模型中中未知参参数的个个

10、数,et是估计出出的误差差Akaikesinformationcriterion赤赤池SchwartzBayesianinformationcriterion(SBC,SC,BIC)施瓦兹定阶：AIC准准则和BIC准准则不同的书书对AIC和BIC使用不同同的变形形。经常常使用的的有两种种AIC（p，q）=ln()+2(p+q)/TBIC（p，q）=ln()+(p+q)ln(T)/TT样本长度度，如果果有常数数项p+q被p+q+1代替，ln表示自然然对数。在ARMA模型中需需要选择择p和q，所以用p+q代替k。是对噪声声项方差差的估计计定阶：AIC准准则和BIC准准则AIC（p，q）=2lnL/

11、T+2(p+q)/TBIC（p，q）=-2lnL/T+(p+q)ln(T)/TLnL是模型的的对数似似然函数数值Q是与参数数无关的的量。因因为我们们只关心心使得AIC或BIC最小的值值，所以以忽略Q.带入对数数似然函函数表达达式中，可以发发现与前前面的AIC和BIC的表达是是一致的的。 AIC和和BIC判断步步骤（1）给给定滞后后长度的的上限P和Q，一般取取为T/10，ln（T），,或根据据样本ACF和和样本PACF判断。（2）假假设样本本区间1,T,把把样本区区间修改改到p+1,T。（3）对对任意一一对滞后后长度p=0，1，P，q=0，1，Q，分别别估计模模型ARMA（p，q）（4）带带入上

12、面面的公式式，计算算出AIC(p，q)和BIC(p，q)（5）最最小值对对应的p，q值值作为ARMA模型的的阶数。用AIC和BIC准则则确定阶阶数AIC准准则-MA(1)q0123P 0-7.415-7.455-7.426-7.3731-7.39-7.395-7.422-7.2722-7.433-7.383-7.174-7.221用AIC和BIC准则则确定阶阶数BIC-白噪噪声 q0123P 0-7.415-7.411-7.338-7.2391-7.346-7.251-6.998-7.0012-7.345-7.251-6.998-7.001AIC和和BIC准则选择滞后后长度存存在以下下缺陷：1

13、）选择择不同的的准则具具有主观观任意性性。不同同准则得得出矛盾盾的结论论。BIC准则的大大样本性性质比AIC好，但是是有限样样本情况况下很难难比较AIC和BIC的优劣。在实际确确定阶数数时，不不是一定定选择AIC,BIC最小的的，还有有考虑模模型的简简洁和残残差是否否是白噪噪声。2）选择择方法是是确定一一个滞后后长度的的上限P和Q，如果实实际的滞滞后长度度大于P或Q，那我们们就得不不到正确确的滞后后长度。极大似然然估计:以AR(1)为例t=c+t-1+t假设i.i.d.N(0,2)估计:=(c,2)已知: y1,y2,yTE(1)=c/(1-)E(1-)2=2/(1-2)极大似然然估计当1的观

14、测已已知时，2的条件分分布2=c+1+2（2|1= y1） N(c+y1,2)极大似然然估计Y1,Y2的联合分分布密度度函数，是条件件密度和和边际密密度相乘乘f2，Y1(y2，y1;)=f2|Y1(y2|y1;) f1(y1;)类似的，已知y1,y2，3的条件分分布极大似然然估计三者的联联合分布布f3，2，Y1(y3，y2，y1;)=f3|Y2，Y1(y3|y2，y1;) f2|Y1(y2|y1;) f1(y1;)一般给定定y1,y2,yt-1，t的条件分分布只和和yt-1有关极大似然然估计ft,Yt-1，,Y1(yt,yt-1，,y1;)= f1(y1;)ft|Yt-1(yt|yt-1;)极

15、大似然然估计估计：满满足下面面的条件件的解求解未知知参数的的方程是是非线性性的，如如果只关关心（2，T）的条件联联合分布布，得到到条件极极大似然然函数。极大似然然估计假设观测测值是y0, y-1,y-P+1, y1,yT假设01=q+1=0以初始值值y0, y-1,y-P+1和0，1，q+1为条件，对t1，2，T，对数条条件似然然函数是是使用对数数条件似似然函数数对每个个未知参参数求一一阶导数数，令其其等于0，这时时方程组组是线性性方程组组，易于于求解。模型的检检验检验残差差是否是是白噪声声过程1）画出出残差的的折线图图2）画出出残差的的ACF,PACF3)计算算统计量量QBox-Pierce

16、 Q-检验LjungandBox检验Q检验1）m主主观给定定，一般般在15到30之间，可令m=T1/22）H0：t是白噪声声过程3)当零假设设成立时时，统计计量Q渐进(asymptoticallydistributed)服从2（m-p-q），如果模型型中包括括常数项项，那么么Q渐进服从从2（m-1-p-q）4）Q检验的缺缺陷是，经常不不能拒绝绝零假设设。把不不是白噪噪声时，也误认认为是白白噪声。检验Q检验图图示真实临界界值计算值卡方分布临界界检验练习习例m=6，模型型中有常常数项，考虑下下面的几几个模型型，那个个模型是是合格的的模型？给出其其它几个个模型Q检验统统计量的的自由度度。(p+q)Q

17、自自由由度P-value(1,0)15.926-1-0-10.019(2,0)11.820.249(0,1)4.120.139(0,2)6.940.21(1,1)7.940.047模型选择择一个好模模型满足足的条件件每个解释释变量都都显著不不等于0.残差是白白噪声过过程具有最小小的AIC或BIC值值练习：从从下面的的几个模模型中选选择一个个最优模模型AR(1)AR(2)AR(3)ARMA(1,1)MA(2)10.170.210.30.19( 0.0000)(0.0004) (0.002)(0.0024)20.060.04(0.0005)(0.003)30.0005(0.44)10.050.48

18、(0.0007)(0.0034)20.06(0.009)AIC607.3592.5615598.4609.5BIC609.9594.3607596.6612.6Q(8) P-值0.00000.5670.660.69580.003Q(16)P-值0.0000.42410.780.89270.005预测基基本概念念事前预测测，事后后预测，模拟预预测假设收集集到N个个数据，使用1到T来来估计模模型.对对N时刻刻以后预预测事前前预测；对T到到N预测测事后预预测或样样本外预预测；对对1到T之间的的预测是是模拟，或拟和和。1TN预测基基本概念念h步预测测：预测测变量YT+h的取值，h0，称为为h-步步预测

19、假设时刻刻T之前前的所有有数值YT,YT-1,Y1预测估计计量：用用表表示基基于T时时刻之前前的观测测对YT+h的预测预测误差差估计量量：预测均方方误差，记为为MSE()预测最优预测测：选择择合适的的函数形形式，使使得预测测均方误误差最小小的预测测是最优优预测。可以证明明求YT+h基于YT,YT-1,，Y1，的条件期期望是使使均方误误差最小小的预测测，条件件期望表表示为：E（YT+h| YT,YT-1,，Y1）=预测值的的计算t=c+1t-1+2t-2+pt-p+不可能知知道T时时刻前的的所有观观测，观观测值是是YT,YT-1,Y1，所以是是近似预预测。假设参数数已知，实际只只能用估估计的参参

20、数代替替真实参参数。预测是递递推进行行预测值的的计算1步预预测2步预预测预测值的的计算一般预测测公式预测值的的计算AR（1）模型的h步预测t=c+t-1+t预测值的的计算MA(q)模型的h步预测预测值的的计算计算残差差的估计计值，假假设0,1,-q+1=0根根据下面面的公式式递推计计算：预测值的的计算ARMA（1，1）模模型的预预测t=c+1Yt-1+t+1t-1预测值的的计算残差的计计算与MA模型型类似，以ARMA(1,1)为例例。1=1-c-1Y0-10假设0=0，0已知。所所以实际际用的数数据个数数为T+1个；如果0未知，用用样本均均值代替替。2=2-c-1Y1-11T=T-c-1YT -1-1T -1ARIMA模型型预测ARIMA(0,1,1)预测置信信区间ARMA模型表表示成MA（）模型t-=t+1t-1+2t-2+h步预测是是在基于T时时刻前的的信息求条件期期望，结结果如下下：预测误差差： 预测方差差一步预测测方差等等于残