自回归移动平均模型

1、第二章 自回归移动平均模型一些金融时间序列的变动往往呈现出一定的平稳特征，由Box和Jenkins创立的ARMA模型就是借助时间序列的随机性来描述平稳序列的相关性信息，并由此对时间序列的变化进行建模和预测。第一节 ARMA模型的基本原理ARMA模型由三种基本的模型构成：自回归模型（AR，Auto-regressive Model），移动平均模型（MA，Moving Average Model）以及自回归移动平均模型（ARMA，Auto-regressive Moving Average Model）。2.1.1 自回归模型的基本原理1AR模型的基本形式AR模型的一般形式如下：其中，c为常数项，

2、 模型的系数，为白噪声序列。我们称上述方程为阶自回归模型，记为AR()。2AR模型的平稳性此处的平稳性是指宽平稳，即时间序列的均值，方差和自协方差均与时刻无关。即若时间序列是平稳的，即，。为了描述的方便，对式（2.1）的滞后项引入滞后算子。若，定义算子“L”，使得，L称为滞后算子。由此可知，。对于式子（2.1），可利用滞后算子改写为：移项整理，可得：AR()的平稳性条件为方程的解均位于单位圆外。3AR模型的统计性质（1）AR模型的均值。假设AR()模型是平稳的，对AR()模型两边取期望可得：根据平稳序列的定义知，由于随即干扰项为白噪声序列，所以，因此上式可化简为：所以，（2）AR模型的方差。直

3、接计算AR()模型的方差较困难，这里引入Green函数。AR()模型可以改写成如下形式：设为平稳AR()模型的反特征根，则。进一步，其中，为常数，称为Green函数，因为均在单位圆内，所以Green函数是呈负指数下降的。对上式两边取方差，可得：由于随机干扰项为白噪声序列，所以。因为Green函数是呈负指数下降，所以，这说明平稳时间序列方差有界，且等于常数。（3）自协方差函数。假设将原序列已经中心化，则，则对AR()模型等号两边同时乘以，两边取期望得： 因为当期的随机干扰项与过去的时间序列值无关，所以：。因此，上式可以化为：其中，表示阶自协方差。2.1.2 移动平均模型的基本原理1MA模型的基本

4、形式MA模型的一般形式如下：其中，为常数项，为模型的系数，为白噪声序列。我们称上述方程为阶移动平均模型，记为MA()。2、MA模型的可逆性对于一个MA()模型：将其写成滞后算子的形式： 若方程的根全部落在单位圆外，则称MA模型是可逆的。可逆性可以保证MA模型可以改写成：即MA模型可以转化为AR模型，同时可以保证参数估计的唯一性。3、MA模型的数字特征（1）均值当时，对于一般的MA（q）模型：两边取期望，可得：即一般的MA（q）模型的期望值即为模型中的常数项。（2）方差对MA（q）模型，两边取方差：（3）协方差函数 化简可得：2.1.3 自回归移动平均模型的基本原理1、ARMA模型的基本形式AR

5、MA模型的一般形式如下：显然ARMA(p,q)模型可看成是AR(p)模型和MA(q)模型相结合的混合形式。2、ARMA模型的平稳性和可逆性对于一个ARMA（p，q）模型，将其写为滞后算子的形式：两边同时除以其中：由此可以看出，ARMA模型的平稳性完全取决于AR（p）模型的参数，与MA（q）模型的参数无关。类似地，ARMA模型的可逆性完全取决于MA（q）模型的参数，与AR（p）模型的参数无关。3、ARMA模型的数字特征（1）期望对于一个一般的ARMA(p,q)模型两边同时取期望，化简得：（2）自协方差函数 第二节 时间序列的相关性分析与平稳性2.2.1 时间序列的自相关系数2.2.1.1 自相关

6、函数（ACF）1、AR（p）的自相关函数在上一节中已经介绍了AR（p）模型的协方差函数满足下式：由于自相关系数，因此：该式表示自相关系数满足p阶差分方程。根据差分方程解的性质，上差分方程的通解可以写为：其中，为任意不全为0的常数，i是滞后多项式的反特征根。根据平稳性的性质，i<1。从自相关系数的一般形式可看出，(k)始终不为0，但是随着滞后阶数的增加，自相关系数慢慢逼近0，在图形上表现出一定的拖尾性。2、MA模型的自相关函数根据上一节推导的MA模型的自协方差函数的表达式，MA模型的自相关函数表示为：因此，当k>q时，自相关函数为0，也就是说MA（q）模型的自相关函数在q步以后是截尾

7、的。3、ARMA模型的自相关函数根据ARMA模型的自协方差函数，不难得到ARMA模型的自相关函数：由此可以看出，ARMA模型的自相关函数不具有截尾性。事实上，ARMA模型若满足可逆性，其形式相当于一个无穷阶的AR模型，因此自相关函数与AR模型一样具有拖尾性。2.2.1.2 偏自相关函数（PACF）1、偏自相关函数的定义自相关函数k不能纯粹地表示yt与yt-k之间的相关性，两者的相关性还会受到yt-k+1、yt-k+2yt-1的间接影响，为了单纯地表示yt与yt-k之间的相关性，这里引入偏自相关函数。偏自相关函数表示在固定yt-k+1、yt-k+2yt-1的情况下yt与yt-k之间的相关性。下面

8、介绍偏自相关函数kk的计算方法。设序列yt可由下回归方程估计：根据回归方程的性质，式中估计系数kk即为偏自相关函数。为了估计回归系数，采用OLS方法，即达到最小。对L关于各回归系数求偏导，可得到以下方程组：该方程组称为Yule- Wolker方程。根据自相关系数，求解Y-W方程即可得到偏自相关系数。2、AR（p）的偏自相关函数对于AR(p)模型，kp时，L=E(t+j=1pj-kjyt-j-j=p+1kkjyt-j)2由于t与序列的滞后项无关，因此L2，且当由此，AR(p)模型的偏自相关函数kk在k>p后等于0，即AR(p)模型的偏自相关函数具有截尾性。事实上，AR模型偏相关函数的截尾性

9、也可直接从该模型的表达式看出。AR（p）模型实质上假设序列至多只与滞后p阶的值相关，因此偏自相关函数至多在p阶处非0。3、MA（q）和ARMA（p，q）的偏自相关函数由于MA（q）和ARMA（p，q）相当于无穷阶的AR模型，因此这两个模型的偏自相关函数均不具有截尾性，而是拖尾性。2.2.1.3 ARMA模型自相关系数与偏自相关系数的估计与检验根据以上分析，不同ARMA模型自相关系数与偏自相关系数的表现存在明显的差异。表2.1给出了三类模型ACF与PACF的特征。 表2.1 ARMA类模型ACF与PACF的特征模型自相关系数偏自相关函数AR（p）拖尾p阶截尾MA（q）q阶截尾拖尾ARMA（p，q

10、）拖尾拖尾因此，我们可以通过观察偏自相关函数来识别并确定AR模型的滞后阶数，通过自相关函数来识别并确定MA模型的滞后阶数q。那么对于给定的样本数据，如何估计样本ACF与PACF，并从统计角度检验两者是否为0呢？下面分别介绍ACF与PACF的估计与检验。1、样本ACF与PACF的估计与实现对于给定样本，只需估计样本的自协方差与方差，将两者相除即可得到样本ACF。具体而言，样本自协方差表示为：k=1T-kj=1T-kyj-y(yj+k-y)其中y表示样本均值。那么SACF=k/0。对于PACF主要是利用Yule- Wolker方程求解。当滞后阶数较大时，Y-W方程直接计算较难，目前多采用递推算法来

11、求解。2、样本ACF与PACF的显著性检验常用的检验方法主要包括两类：正态检验法和Portmanteau检验法。若序列满足独立性，则由统计渐进分布的有关定理可知，当样本个数充分大时，ACF和PACF均满足均值为0，方差1/T的正态分布，即kN(0,1/T)，kkN(0,1/T)。因此若k<1.96/T，kk<1.96/T，则可认为样本数据是独立的，即自相关系数和偏自相关系数均不显著异于0。该检验法即为正态检验法。Portmanteau检验法是联合检验法，即检验直到k阶的自相关系数是否同时为0。该检验法使用Q统计量进行检验。Q统计量具体形式为：Q=T(T+2)j=1kj2T-j其中T

12、为样本容量，k为设定的滞后阶数。Q统计量服从2(k)分布。当Q统计量超过设定的临界值时，就拒绝原假设，即序列至少存在k阶以内的自相关性。2.2.2 时间序列平稳性检验建立ARMA的前提是序列是平稳的。检验平稳性常用的方法主要有三种：经验法、自/偏自相关系数法、单位根检验法。1、经验法经验法是通过观察图形的方式来初步判断时间序列是否平稳的。首先画出时间序列的图形，如果该图形围绕某一直线上下以较小的幅度波动，则该序列一般是平稳的，否则是不平稳的。2、自/偏自相关系数法由于ARMA模型的自/偏自相关系数要么是截尾的，要么是拖尾的，因此可以观察时间序列的自/偏自相关图，如果时间序列的自/偏自相关系数从

13、某个滞后期开始均与0无差异，可以认为该时间序列是平稳的；若自/偏自相关系数衰减很慢，且与0存在明显的差异，则时间序列是非平稳的。3、单位检验法常用的单位根检验法主要包括DF检验法和ADF检验法。（1）DF检验法DF检验包括三种形式：其中，c为常数项，表示线性趋势，随机干扰项独立同分布，且服从。根据平稳性的概念，若序列yt是不平稳的，则回归系数1。一般>1较易识别。因此判断序列yt是否平稳，主要是判断是否为1。如果，则说明序列存在单位根，是不平稳的，否则是平稳的。进一步，上述三个方程两边同时减去，得：其中，因此可以将DF检验的原假设和备择假设分别为：相应的统计量为：DF=std()DF的形

14、式与t统计量相似，但是该统计量并不服从t分布，Dickey和Fuller（1979）给出了利用蒙特卡罗模拟方法模拟的临界值，因此该检验称为DF检验。DF检验是左侧检验，且不同形式的方程临界值是不同的。注意DF检验只有当时间序列为AR（1）过程时才有效。如果存在高阶滞后相关，那么将违背随机干扰项独立同分布的假设。因此，Dickey-Fuller提出来ADF检验来弥补DF检验的不足。（2）ADF检验假设时间序列存在p阶自相关，那么用p阶自回归方程来判断单位根，形式为：上式两边同时减去，通过整理可得：其中 ，上述检验形式是在DF检验方程中加入了yt的高阶滞后项，因此可以看成是DF检验的增广形式，简称ADF检验。与DF检验类似，ADF检验也存在三种形式，不难看出，当p=1时，ADF检验就是