平稳时间序列模型基本概念

1、平稳时间序列模型基本概念 3.1 时间序列的基本概念 一、随机过程 二、平稳时间序列 三、随机过程的特征描述 四、线性差分方程 平稳时间序列模型基本概念 一、随机过程 （一）随机过程的定义一）随机过程的定义 （二）随机过程与随机变量之间的关二）随机过程与随机变量之间的关系系 返回本节首页下一页上一页返回本节首页上一页 平稳时间序列模型基本概念 1.引言：事物的变化过程可分为两类：对 于每一个固定的时刻t，变化的结果， 一类是确定的，这个结果可用t的某 个确定性函数来描述； 另一类结果是随机的，即以某种可 能性出现多个（有限多个或无限多个） 结果之一。 （一）随机过程的定义 下一页返回本节首页上

2、一页 平稳时间序列模型基本概念 2.定义： 设E是随机试验，S是它的样本空间，如果对 于每一个e ，我们总可以依某种规则确定 一时间t的函数 与之对应（T是时间t的变化范围），于是，对于 所有的的e 来说，就得到这族时间t的函 数为随机过程，而族中每一个函数为这个随机过 程的样本函数（或一次实现）。 s TtteX),( s 平稳时间序列模型基本概念 该定义蕴涵的四种情况：该定义蕴涵的四种情况： 1、当e和t都是变量时，x(t)是一族时间的函数，它表 示一个随机过程； 2、当e给定，t为变量时， x(t)是一个时间t的函数， 称它为样本函数，有时也称为一次实现。 3、当t给定，e为变量时， x

3、(t)是一个随机变量。 4、当e、t均给定时， x(t) 是一个标量或者矢量。 平稳时间序列模型基本概念 ., ,),( 是一个随机过程则称一族随机变量 是一个随机变量为参数集若对于每个特定的 TtX XTTt t t ,tXT t 则随机过程可表示成当 , 2, 1, 0, 2, 1, 0tXt t 时随机过程可写为当 平稳时间序列模型基本概念 我们所要讨论的时间序列分析，只是对 平稳序列及其有关的随机序列进行统计分析， 而不是对所有的随机序列进行统计分析。 此类随机过程又称随机序列（random sequence)或时间序列（time series)。对于 一个连续时间的随机过程，通过等间

4、隔采 样，也是一个随机序列。 平稳时间序列模型基本概念 区别区别： 1、随机变量是定义在样本空间上的一个单值实函数，随、随机变量是定义在样本空间上的一个单值实函数，随 机过程是一族时间机过程是一族时间t的函数。的函数。 2、对应于一定随机试验和样本空间的随机变量与时间、对应于一定随机试验和样本空间的随机变量与时间t无无 关，而随机过程与时间密切相关。关，而随机过程与时间密切相关。 3、随机变量描述事物在某一特定时点上的静态，随机过、随机变量描述事物在某一特定时点上的静态，随机过 程描述事物发展变化的动态。程描述事物发展变化的动态。 （二）随机过程与随机变量之间的关系（二）随机过程与随机变量之间

5、的关系 下一页返回本节首页上一页 平稳时间序列模型基本概念 联系：联系： 1、随机过程具有随机变量的特性，同时还具有普通函数的 特性。 2、随机变量是随机过程的特例。一元随机变量可视为参数 集为单元素集的随机过程。 3、当随机过程固定某一个时刻时，就得到一个随机变量。 4、随机过程是N维随机向量、随机变量列的一般化，它是 随机变量X(t)的集合。 平稳时间序列模型基本概念 二、平稳时间序列 （一）两种不同的平稳性定义 （二）时间序列的分布、均值和协方差函数 （三）平稳序列的自协方差和自相关函数 （四）白噪声序列和独立同分布序列 （五）独立增量随机过程、二阶矩过程 （六）线性平稳序列 （七）偏自

6、相关函数 下一页返回本节首页上一页 平稳时间序列模型基本概念 （一）两种不同的平稳性定义 1.严平稳过程严平稳过程：若对于时间 t的任意n个值 t1t2=0，用X(t1,t2)表示随机变量X(t2)-X(t1),并称为X(t)在(t1,t2)上的 增量，如果对一切t1t2=0是一个独立增量过程。 马氏过程：从对过去记忆性角度来考虑的，简单的说，一阶马氏 过程表示：将来时刻tn的状态xn的统计特性仅取决于现在时刻tn-1 时刻的值xn-1。 下一页返回本节首页上一页 平稳时间序列模型基本概念 二阶矩过程二阶矩过程 定义：若一个随机过程X(t) ， ，如果对于一 切 ,总有 则称此过程为二阶矩过程

7、。宽平稳过程是二阶矩过程中的一 类。高斯过程也是二阶矩过程。高斯分布是指随机过程的各 有限维分布都是高斯分布，高斯分布的各阶矩都存在，故也 属于二阶矩过程。 Tt Tt )( 2 tXE 平稳时间序列模型基本概念 （六）线性平稳序列 1.时间序列的线性 运算 设Xt与Yt为两个时间序列，a，b为两个实数， 那么，zt=aXt+bYt t=0, 1, 2 为序列Xt与Yt的一种线性运算。 2.时间序列的延迟运算 设Xt为一时间序列，d为一正整数，那么， Yt=Xt-d t=0, 1, 2 为Xt的d步延迟运算。 下一页返回本节首页上一页 平稳时间序列模型基本概念 3.时间序列的线性与延迟联合运算

8、 yt=a0 xt+a1xt-1+ +apXt-p t=0,1,2为时间 序列线性与延迟联合运算。 当ai=1/p，i=0,1,2, 时，Yt即为对序列Xt 的移动平均序列。 4.时间序列的非线性运算 非线性运算的形式是多种多样的：如 yt=xt2+axt，yt=xt-1/(1+xt-2)2等。 平稳时间序列模型基本概念 5.平稳线性序列 设at为正态白 噪声序列，则称序列： jj jjtjt ax 2 注：可以证明， 为一宽平稳序列。 为线性平稳序列。 t x 平稳时间序列模型基本概念 （七）偏自相关函数 偏自相关函数：指扣除Xt和Xt+k之间的随机变 量Xt+1,Xt+2, Xt+k-1等

9、影响之后的Xt和Xt+k之间 的相关性。 偏自相关函数一般用 表示。 kk 偏自相关其实就是如下的条件相关： cov(Xt,Xt+k|Xt+1,Xt+2 Xt+k-1) 下一页返回本节首页上一页 平稳时间序列模型基本概念 三、随机过程的特征描述 （一）样本均值 （二）样本自协方差函数 （三）样本自相关函数（SACF） （四）样本偏自相关函数 下一页返回本节首页上一页 平稳时间序列模型基本概念 （一）样本均值 对时间序列的一次样本实现，需要用样 本均值代替总体均值 n t t x n x 1 1 可以证明， 是 的无偏、一致估计。x 下一页返回本节首页上一页 平稳时间序列模型基本概念 对于时间序

10、列的一次样本现，我们也 需要通过样本自协方差函数估计总体自协方 差函数。这里有两种形式： kn t kttk kn t kttk xxxx kn xxxx n 1 1 )( 1 ) 2( )( 1 ) 1 ( （二）样本自协方差函数 下一页返回本节首页上一页 平稳时间序列模型基本概念 通过证明有如下结论： 上述样本自协方差函数 都是总体自协方 差函数 的渐近无偏估计，且 比 的偏差 要大。但是， 比 的方差小，且在大样本情 况下（n很大），二者差别不大，因此我们 通常用 作为样本自协方差函数。 k k k k k k k k 平稳时间序列模型基本概念 由于当k相对于n而言较大时， 的偏比 更大

11、，因此，在时间序列分析时，一般 滞后期k最多取至n/4 k k 平稳时间序列模型基本概念 （三）样本自相关函数（SACF） 1.对给定的序列x1,x2, xn，样本自相关函 数定义为： n t t kn t ktt k k xx xxxx 1 2 1 0 )( )( 下一页返回本节首页上一页 平稳时间序列模型基本概念 （四）样本偏自相关函数（SPACF） 1.样本偏自相关函数有如下递推公式 (Durbin1960)： 11 1 1,1 1 111 1,1,1,1 1 1, 2, k kkjkj j kkk kjj j kjkjkkk kj jk 其 中 下一页返回本节首页上一页 平稳时间序列模

12、型基本概念 例如，根据上述递推公式，我们有： 222121 1222213 33 11221121 2 1 2 12 22 111 1 1 平稳时间序列模型基本概念 在过程是一个白噪声序列的假设下， n Var kk 1 ) ( 所以， 能作为检验白噪声过程假设的 准则区限。 n 2 平稳时间序列模型基本概念 四、线性差分方程 （一）线性差分方程 （二）关于线性差分方程基本定理 （三）n阶常系数线性差分方程的解 下一页返回本节首页上一页 平稳时间序列模型基本概念 （一）线性差分方程 ) 1 ()()()()( 1111 tfytaytaytay tntnntnt )2(0)()()( 1111

13、 tntnntnt ytaytaytay 1.n阶非齐次线性差分方程 2.n阶齐次线性差分方程 （1），（2）式中，ai(t)、f(t)为t的已知函数，且 an(t)、f(t)不同时为零，若 ai(t)为常数，则上述两式 即为常系数差分方程。 下一页返回本节首页上一页 平稳时间序列模型基本概念 （二）关于线性差分方程基本定理 定理1. 若y1(t)，y2(t)， ym(t)是n阶齐次 线性差分方程（2）的m个特解，则如下的 线性组合也是该差分方程的的特解： y(t)=c1y1(t)+c2y2(t)+ +cmym(t) 式中c1、c2cm为任意常数。 下一页返回本节首页上一页 平稳时间序列模型基

14、本概念 定理2. n阶齐线性齐次差分方程一定存在 n个线性无关的特解，若y1(t)，y2(t)， yn(t)为式（2）的n个线性无关的特解，则 （2）式的通解为： yc(t)=c1y1(t)+c2y2(t)+ +cnyn(t) 式中c1、c2cn为n个任意常数。 平稳时间序列模型基本概念 定理3. N阶非齐次线性差分方程（1）的 通解等于它的一个特解与它对应的齐次方 程（2）的通解之和。 平稳时间序列模型基本概念 （三）n阶常系数线性差分方程的解 1. n 阶常系数线性差分方程的一般形式 ) 3 ()( 1111 tfyayayay tntnntnt 其中：a1,a2, an为常数，且an不为

15、零，f(t)为t 的已知函数。 下一页返回本节首页上一页 平稳时间序列模型基本概念 （4）式为（3）式所对应的齐次方程。 ) 4 (0 1111 tntnntnt yayayay 平稳时间序列模型基本概念 2. 齐次线性差分方程的通解 设齐次方程（4）有特解：为非零常数, t t y 则： 0 1 1 1 nn nn aaa 称为方程（4）的特征方程，此特征方程的解称 为特征根。 平稳时间序列模型基本概念 （1） 若特征方程有一实特征根 ，其重数为m（m=n） 则： tmtt tt 1 , 为齐次方程的m个线性无关解。 平稳时间序列模型基本概念 （2）若特征方程有一对共轭复根 ),0(tan

16、:, ,2 sin;sin;sin cos;cos;cos ),2( 22 1 1 a b bar r k trtttrtr trtttrtr nkk ibaiba tktt tktt 由下式确定其中 个线性无关特解为齐次线性方程的 则其重数为 平稳时间序列模型基本概念 （3）将所得的n个线性无关特解组合，即得齐次 方程的通解： )()()()( 2211 tyctyctycty nnc 其中：c1,c2, cn为n个任意常数。 平稳时间序列模型基本概念 .065:1 12 的通解求差分方程例 ttt yyy 为任意常数 的通解为 于是所给方程其有两个特征根 特征方程为解 2121 21 2 ,32)( : , 3;2, 0)3)(2(65 : ccccty tt c 平稳时间序列模型基本概念 的通解求差分方程例0442 12 ttt yyy 为任意常数 于是方程的通解为故有重特征根 特征方程为解 2121 21 2