第二章时间序列分析模型

第二章时间序列分析模型目录2.1时间序列的概念2.2稳定的时间序列模型2.3非稳定模型2.4时间序列模型辨识2.5白噪声过程和噪声序列2.6时间序列模型的应用2.1时间序列的概念2.1时间序列的概念

一个时间序列即为按照时间次序（它的时间间隔可以使年、季度、月、日或者小时）排列的随机序列：X1，X2，……，简记为{Xt，t∈T}，或者{Xt}，T为离散的指标集。我们用x1，x2，…，xn表示有限的时间序列X1，X2，……，Xn的观测样本，并记为{xt}，称{xt}为时间序列{Xt}的一次实现或者一条轨道。时间序列往往是以某一个系统的输出形式被记载，并且无法受某种输入的直接控制，它与作用于此系统的序列之间很难找到精确的一一对应的关系。1.时间序列2.1时间序列的概念扩展知识：随机过程事物的变化过程可分为两类：对于每一个固定的时刻t，变化的结果，一类是确定的，这个结果可用t的某个确定性函数来描述；另一类结果是随机的，即以某种可能性出现多个（有限多个或无限多个）结果之一。1.时间序列2.1时间序列的概念扩展知识：随机过程设E是随机试验，S是它的样本空间，如果对于每一个e，我们总可以依某种规则确定一时间t的函数：与之对应（T是时间t的变化范围），于是，对于所有的的e来说，就得到这族时间t的函数为随机过程，而族中每一个函数为这个随机过程的样本函数（或一次实现）。1.时间序列2.1时间序列的概念典型的时间序列1.时间序列2.1时间序列的概念典型的时间序列1.时间序列2.1时间序列的概念典型的时间序列1.时间序列2.1时间序列的概念典型的时间序列从经济统计的角度讲：时间序列是某一个指标在不同的时间上的不同数值按照时间先后顺序排成的序列。这个定义可以看出时间序列是由两个要素构成的：指标数值和时间。在实际中，我们可以遇到的许多数据比如：股票价格指数，GDP等。从概率统计意义上讲：时间序列是一组随机变量X(t)在一系列时刻t1，t2，……tN（t1<t2<……<tN）的一次样本实现Xt1，Xt2,……,XtN从这个定义可以看出，时间序列与通常统计分析不同，通常统计分析总是对一个随机变量独立地观察多次，得到这个随机变量的多个实现，然后再去分析和研究。1.时间序列2.1时间序列的概念典型的时间序列从系统意义上讲，时间序列是某一系统在不同时间下的相应。这个定义强调了时间序列中顺序的重要性，并且，这个顺序并不一定必须是时间顺序，它也可以代表温度、速度或者其他递增取值的物理量。例如，按照钢材承受的压力所造成的裂纹长度进行排列，也是一个时间序列。1.时间序列2.1时间序列的概念

时间序列分析的意义在于研究某一时间序列在长期变动过程中所存在的统计规律性，因此，对时间序列的分析有三个目的：理解所考虑的动态系统预测将来的事件通过干预来控制将来事件2.时间序列分析2.1时间序列的概念

为了处理随机时间序列的分析和预报，在数学上就是把给出的测量数据看作是随机过程X（t）的一个样本函数。通过对现实的分析，估计随机过程X（t）的总体特征，预测X（t）未来取值的概率分布。2.时间序列分析2.1时间序列的概念2.时间序列分析2.1时间序列的概念3.时间序列分析方法

方法主要有描述性分析方法和统计分析方法。所谓描述性分析方法是指通过直观地比较数据或观察时间序列，寻找序列的发展变化规律，比较直观但是有很大局限性。

统计分析方法是指通过统计学的各种方法研究研究时间序列的统计特性，进而发现其中的规律。主要包括时域分析方法和频域分析方法。2.1时间序列的概念3.时间序列分析方法

时域分析法一个时间序列实质上是一个随机序列，而序列值之间存在一定的相关关系，所谓的时域分析方法就是从序列自相关的角度分析序列的统计规律的方法。时域分析法的一般过程：观察序列样本选择拟合模型——根据序列值估计模型参数——检验模型的适用性（重复调整）——检验通过后对时间序列进行预测2.1时间序列的概念3.时间序列分析方法

时域分析法对于一维时间序列，可以从线性角度对其分为线性序列和非线性序列。线性序列常用的分析方法为自回归模型（AR）、滑动平均模型（MA）、自回归滑动平均模型（ARMA）模型。AR、MR是ARMA模型的特殊形式。非线性序列常用的参数建模方法为自回归条件异方差模型（ARCH）。该模型为扩展内容。2.1时间序列的概念3.时间序列分析方法

时域分析法从平稳性的角度出发，一维时间序列可以分为平稳序列和非平稳序列，平稳序列用ARMA，非平稳序列用求和自回归滑动平均模型（ARIMA）。目前考虑的模型都是参数模型，即假设模型的形式已知，需要通过数据估计该模型的未知参数，另一类估计方法为非参数估计方法，无需给定模型的具体形式，常见的估计方法有局部多项式。2.1时间序列的概念3.时间序列分析方法

频域分析方法

在工程技术及自然科学领域，根据观测数据来分析对象的周期性或者能量在频域上的分布是非常有意义的，这些结果并不能通过时域分析方法得到，因此需要对序列样本进行某种变换，使之变换到另一个空间里，并对变换后的数据进行分析，最常见的变换方法为傅里叶变换。通过对序列样本的傅里叶变化，可以把时域的数据变换到频域上，然后在频域上分析原序列的周期性等信息。这种方法为频域分析方法。2.1时间序列的概念3.平稳过程的判断

假定某个时间序列由某一随机过程生成，即假定时间序列{Xt}（t=1,2,…）的每一个数值都是从一个概率分布中随机得到的。如果经由该随机过程所生成的时间序列满足下列条件：均值E(Xt)=m是与时间t无关的常数；方差Var(Xt)=E[（Xt-m）2]=s2是与时间t无关的常数；协方差Cov(Xt,Xt+k)=gk是只与时期间隔k有关，与时间t无关的常数；则称经由该随机过程而生成的时间序列是（弱）平稳的。该随机过程便是一个平稳的随机过程。2.1时间序列的概念3.平稳过程的判断

严平稳过程：若对于时间t的任意n个值t1<t2<…<tn，此序列中的随机变量Xt1+s,Xt2+s,…,Xtn+s联合分布与整数s无关，即有：Ft1,t2,…tn(Xt1,Xt2…,Xtn)=Ft1+s,t2+s…+tn+s(Xt1+s,Xt2+s,…,Xtn+s)则称{Xt}为严平稳过程。此定义表明，严平稳的概率分布与时间的平移无关。2.1时间序列的概念3.平稳过程的判断

平稳序列的意义？而基于随机变量的历史和现状来推测其未来，则是我们实施经济计量和预测的基本思路。这就需要假设随机变量的历史和现状具有代表性或可延续性。所谓随机变量基本性态的维持不变也就是要求样本数据时间序列的本质特征仍能延续到未来。我们用样本时间序列的均值、方差、协（自）方差来刻画该样本时间序列的本质特征。一个平稳的时间序列指的是：遥想未来所能获得的样本时间序列，我们能断定其均值、方差、协方差必定与眼下已获得的样本时间序列等同。2.1时间序列的概念3.平稳过程的判断

平稳序列的意义？2.1时间序列的概念4.时间序列的分布、均值和协方差函数

（1）时间序列的概率分布随机过程是一族随机变量，类似于随机变量，可以定义随机过程的概率分布函数和概率密度函数。它们都是两个变量t,x的函数。如果我们能确定出时间序列的概率分布，我们就可以对时间序列构造模型，并描述时间序列的全部随机特征，但由于确定时间序列的分布函数一般不可能，人们更加注意使用时间序列的各种特征量的描述，如均值函数、协方差函数、自相关函数、偏自相关函数等，这些特征量往往能代表随机变量的主要特征。2.1时间序列的概念4.时间序列的分布、均值和协方差函数

（2）均值函数一个时间序列{Xt，t=0,±1,±2……}的均值函数指：即为{Xt}的均值函数。它实质上是一个实数列，被{Xt}的一维分布族所决定。均值表示随机过程在各个时刻的摆动中心。2.1时间序列的概念4.时间序列的分布、均值和协方差函数

（3）时间序列的自协方差函数（4）时间序列的自相关函数自相关函数描述了时间序列的{Xt}自身的相关结构。时间序列的自相关函数具有对称性，且有2.1时间序列的概念5.平稳序列的自协方差和自相关函数

若{Xt}为平稳序列，假定EXt=0，由于令s=t-k，于是我们就可以用以下记号表示平稳序列的自协方差函数，即：相应的，平稳序列的自相关函数记为：2.1时间序列的概念6.非平稳数据的处理

（1）总体线性的办法（1）对数坐标法：采用对数坐标，将指数函数化为线性函数例如：x=at，两边取对数lnx=tlna则lnx成为t的线性函数（2）平方根法：对幂函数有效若x（t）为二次函数，则当w（t）=，w（t）为线性函数但是，无论线性或者非线性函数都具有某种趋势，这种趋势使得平稳过程的第一个条件无法满足，即总体线性无法使均值保持稳定，也就不能得到平稳过程。2.1时间序列的概念6.非平稳数据的处理（2）取消趋势法采用差分的办法可以弥补总体线性法的不足Y（t）=w（t）-w（t-1）例如：二次函数w(t)=推导Y（t）=w（t）-w（t-1）=……（推导过程验算）再次差分，z（t）=y(t)-y(t-1)等于常数，可见，查分可以改变原有序列的性质。2.1时间序列的概念6.非平稳数据的处理（3）取消趋势法取消周期对于呈周期性变化的时间序列，称为季节时间序列。季节时间序列可以取消周期性的变化规律，形成时间序列整体到局部的一致。如{yt}为周期序列，则取消周期后的序列值为：zt=yt-yt-s,s为一周期中存在的时间点数。或者二次季节差分ut=zt-zt-s=yt-yt-s-yt-s+yt-2s2.1时间序列的概念6.非平稳数据的处理（3）取消趋势法2.1时间序列的概念6.非平稳数据的处理（3）取消趋势法用公式表示2.1时间序列的概念7.稳定序列的判断

时间序列分析的诸多方法都是建立在假定数据样本是来自平稳和各态历经的随机过程，在实际情况中，通常出现的是由均值、方差、自协方差三种因素造成的非平稳现象。2.1时间序列的概念7.稳定序列的判断1.时序图判断法根据平稳序列的均值、方差为常数的性质，可以观察时序图的特点：（1）始终在一个常数值上下随机波动；（2）波动强度随时间变化不大；（3）没有明显的趋势性和周期性。2.1时间序列的概念7.稳定序列的判断2.自相关系数检验法一个时间序列的样本自相关函数定义为：平稳序列的判定方式，随着k的增加，rk是否陡然下降，如果是，则序列已经平稳，否则，决定采取差分的方式。2.1时间序列的概念7.稳定序列的判断2.自相关系数检验法对于样本数列，其样本自相关系数会表现为两种情形：第一是随着延迟期数k的增加突然将为在0的周围小幅波动（截尾）；第二是随着延迟期数k的增加迅速衰减为在0附近小幅波动（拖尾）。2.1时间序列的概念7.稳定序列的判断2.自相关系数检验法2.1时间序列的概念7.稳定序列的判断2.自相关系数检验法平稳的序列的自相关图和偏相关图不是拖尾就是截尾。截尾就是在某阶之后，系数都为0，怎么理解呢，看上面偏相关的图，当阶数为1的时候，系数值还是很大，0.914.二阶长的时候突然就变成了0.050.后面的值都很小，认为是趋于0，这种状况就是截尾。再就是拖尾，拖尾就是有一个衰减的趋势，但是不都为0。自相关图既不是拖尾也不是截尾。以上的图的自相关是一个三角对称的形式，这种趋势是单调趋势的典型图形。2.2稳定的时间序列模型2.2稳定的时间序列模型1.线性滤波模型假定时间序列是一个白噪声（Whitenoise）序列，即序列中的各值相互独立，若时间序列{Xt}满足下列性质：2.2稳定的时间序列模型1.线性滤波模型一个白噪声过程经过一个线性滤波器产生一个以{Zt}序列为代表的过程，即：通常，是一个确定此过程水平的参数，是一个将{at转变为{zt}的线性算子或者滤波器。2.2稳定的时间序列模型2.自回归模型假定时间序列{zt}={zt，zt-1，zt-2……}是稳定的或者已经稳定化了的。（1）一阶自回归模型AR（1）如果一个时间序列的当前值可以用这个序列的前一时刻的值的线性函数再加一个随机噪声来表示，如：其中是需要估计的自回归参数，at满足零均值、独立正态分布。2.2稳定的时间序列模型2.自回归模型（1）一阶自回归模型AR（1）2.2稳定的时间序列模型2.自回归模型（2）自回归模型的特点回归参数的性质：（推导过程）相关特性：k>1（推导过程）记忆性。（推导过程）2.2稳定的时间序列模型2.自回归模型2.2稳定的时间序列模型2.自回归模型2.2稳定的时间序列模型2.自回归模型2.2稳定的时间序列模型2.自回归模型（3）高阶自回归模型AR（p）2.2稳定的时间序列模型3.滑动平均模型（MA）假定时间序列是由一个噪声过程生成的，序列{at}满足零均值、独立正态分布。即Eat=0E（atas）=2.2稳定的时间序列模型3.滑动平均模型（MA）（1）一阶滑动平均模型MA（1）2.2稳定的时间序列模型3.滑动平均模型（MA）（2）模型的特点记忆性可以看出，MA（1）成了一个无限的自回归过程，它无限地记忆了自己过去的所有值，只是时间越长，依赖关系越少，并且保证滑动平均系数||<12.2稳定的时间序列模型3.滑动平均模型（MA）（2）模型的特点协方差特性（推导过程）2.2稳定的时间序列模型3.滑动平均模型（MA）（3）高阶滑动平均模型如果序列的当前值与当前及前q个噪声值线性相关，即成为q阶的滑动平均过程，即为MA（q）。MA（q）的算子表达式为2.2稳定的时间序列模型4.自回归滑动平均模型（ARMA）2.3非稳定模型2.3非稳定模型1.随机走动模型2.3非稳定模型1.随机走动模型2.3非稳定模型2.带差分的自回归滑动平均模型2.3非稳定模型2.带差分的自回归滑动平均模型2.3非稳定模型2.带差分的自回归滑动平均模型2.3非稳定模型2.带差分的自回归滑动平均模型2.3非稳定模型3.季节模型有些时间序列的峰、谷呈现周期变化，为了分析、预报这类序列，可以用ARIMA模型的推广形式。2.3非稳定模型3.季节模型2.3非稳定模型3.季节模型2.3非稳定模型3.季节模型2.3非稳定模型3.季节模型2.3非稳定模型3.季节模型2.4时间序列模型的辨识2.4时间序列模型的辨识时间序列模型的建立过程大致可以分为三个阶段：选择模型结构模型参数估计模型检验2.4时间序列模型的辨识1.AR模型的辨识2.4时间序列模型的辨识1.AR模型的辨识2.4时间序列模型的辨识1.AR模型的辨识2.4时间序列模型的辨识1.AR模型的辨识2.4时间序列模型的辨识1.AR模型的辨识2.4时间序列模型的辨识1.AR模型的辨识2.4时间序列模型的辨识1.AR模型的辨识2.