时间序列分析(全)ppt课件

1、目 录第一章 随机过程简介第二章 时间序列分析简介第三章 ARMA模型的特性第四章 平稳时间序列的建立第五章 平稳时间序列的预测第一章 随机过程简介一.随机过程实际的产生和开展 随机过程的研讨来源于消费、科研中的实践问题，其实际产生于二十世纪初期。特别是，在1929年由柯尔莫哥洛夫A.H.Kolmogorov奠定了概率论的数学根底之后，随机过程实际得到了更快、更深化的开展。二、随机过程的运用 现实上，在水资源科学、水利工程、土木工程、电气、通讯工程、经济管理、实际物理等学科领域，四处能找到运用随机过程的实例。 随着人们对自然景象的认识愈来愈深化，随机过程已被广泛地运用于自然、社会科学的各个领域

2、，大有 “水银泻地无孔不入 之势，并在研讨和处理实践课题的过程中起到了艰苦的作用。 第一节 随机过程的 根本概念及分类随机过程S.P的根本概念S.P的分类及几种重要S.P简介 S.P的根本概念S.P及其有穷维分布族S.P的数字特征多(两)个S.P的统计特性及复S.P1.1 S.P及其有穷维分布族 1、概念 (1) 实例 概率论主要研讨的对象是r.v.，即所研讨的随机实验的结果是可用一个或有限个r.v.描画的随机景象。随着科学技术的开展，有些随机景象仅用一个或有限个r.v.来描画是不够的，必需用无穷多个r.v.来描画。例如： (i) 某交换台在时段0, t内接到的呼唤次数是一个与 t 有关的r.

3、v.X t()，对于固定的t ， X t()是r.v.，它可取恣意的非负整数0，1，2，当 t 在0，上变化时，可得到一族无穷多个r.v.X t()， t 0，) 。 (ii) 思索某生物群体的开展过程。令X n()表示该群体第n代成员的个数，当n固定时， X n()是r.v.，它能够取值0, 1, 2, ，这时，需求研讨的是一列r.v. X n(), nZ+。 (iii)悬浮在液面的微粒，由于遭到分子的随机碰撞作杂乱无章的运动。令 X t()， Y t() 表示在 t 时辰微粒的位置，那么当 t 固定时，它是二维 r.v. 。在时段a, b观测微粒的运动，便得到一族无穷多个二维 r.v. X

4、 t()， Y t() ， t a, b，这就是物理学中的布郎运动。(2) 定义1.1 设(, F，P)是概率空间，TR，假设对恣意t T，都有(, F，P)上的一个r.v.与之对应，那么称r.v.族X t()， t T 是(, F，P)上的一个随机过程，可记为S.P.。T称为参数集，通常表示时间。 物了解释： X t()也可记作X(t，)， X t或X(t)，表示在时辰t 系统的形状。 X(t)的形状全体称为形状空间或相空间，记为E或I。 数学解释：可以为X t()， t T 是定义在T上的二元函数。当t 固定时， X t()是r.v.，当固定时， X t()是定义在T上的普通函数，称为随机

5、过程的样本函数或轨道，样本函数的全体称为样本函数空间。 有穷维分布函数族 (1) 定义1.2 给定随机过程X (t)， t T ，那么对任意nZ+和t1,t n T，随机向量X (t1) , X (t n ) 的分布函数称为X (t)， t T 的n维分布函数；这些分布函数的全体称为X (t)， t T 的有穷维分布函数族。(2) 有穷维分布函数族的性质(i) 对称性：对于参数t1,t n的恣意陈列(ii)相容性：当mn时 反之，可以证明：给定相容性和对称性的分布函数族F，一定存在概率空间及其上的随机过程，它的有穷维布函数族是F。这就是著名的柯尔莫哥洛夫(A. N. Kolmogorov)定理

6、(3) 有穷维特征函数族称为X (t)， t T 的n维特征函数；称为X (t)， t T 的有穷维特征函数族。 由于r.v.的特征函数与分布函数有一一对应关系，所以，可以经过S.P.的有穷维特征函数族来描画它的概率特性。1.2 随机过程的数字特征1、均值函数 定义1.3 对于随机过程X (t)， t T ，假设对恣意t T，EX(t)存在，那么称函数 由于随机过程X (t )， t T 是两个变量t 的函数，故可有两种取平均的方法。其一是固定 t 后，对X(t)=X(t )取平均，称为集平均或统计平均；其二是固定后，对样本函数x(t)取平均，称为时间平均。实际上通常用前者，运用上那么常用后者

7、。为S.P.的均值函数。2、自协方差函数、自相关函数与方差函数 定义1.4 对于随机过程X (t)， t T ，假设对恣意t T，EX(t)2存在，那么称函数为S.P.的自协方差函数。分别称为S.P.的自相关函数和方差函数。3、互协方差函数与相互关函数 定义1.6 对于S.P.X (t)， t T ， Y (t)， t T ，假设对恣意t T，EX(t)2 、 EY(t)2存在，那么称函数为S.P. X (t)， t T 与Y (t)， t T 的互协方差函数。称为S.P. X (t)， t T 与Y (t)， t T 的相互关函数。易知 定义1.7 假设CXY(s, t)=0，那么称S.P.

8、X (t)， t T 与Y (t)，t T 互不相关；假设对恣意的n,mZ+，随机向量(X(t1), X(t n)与(Y(s1),Y(s m) 相互独立，t1,t n；s1,s m T ，那么称S.P.X (t)， t T 与Y (t)，t T 相互独立。 易知S.P.X (t)， t T 与Y (t)，t T 相互独立它们互不相关，即CXY(s, t)=0，亦即RXY(s, t)=EX (s)EY (t)，反之不然。 S.P.X (t)， t T 与Y (t)，t T 称为是正交的，假设对恣意的s ， t T，有EX (s)Y (t)=0。1.3 S.P.的分类及几个重要的S.P.简介S.P

9、.的分类几个重要的S.P.简介一、随机过程的分类1、按参数集T及形状空间E离散与否分类可分成四类，如下表所示：类 别 1 2 3 4T离散 Y Y N NE离散 Y N Y N留意：这种分类是完备的， 但是其概率构造意义并不明确。2、按概率构造分类 (1) 独立随机过程 对于恣意n个不同的参数t1,t n T ， r.v. X(t1), X(t n)相互独立，这样的S. P.称为具有独立r.v. 的随机过程，简称独立随机过程。 (2) 独立增量过程 假设参数t1,t n T 满足t1 t2 t n ， r.v. 的增量 X(t 2) X(t1), X(t 3) X(t2) , , X(t n)

10、 X(tn1 ) 相互独立，这样的S. P.称为具有独立增量的随机过程，简称独立增量过程。这种分类也把S. P.分成四类如下： (3) 马尔可夫过程马氏过程 设参数t1,t n T 满足t1 t2 t n ， 假设那么称该过程为马尔可夫过程，简称“马氏过程。 马氏过程的特点：知如今，未来与过去无关。(4) 平稳随机过程 直观的说：该过程的统计特性不随时间的转移而变化，其严厉的定义及有关知识将在后面引见，简称平稳过程 二、几个重要的随机过程 1、独立增量过程 假设X (t) ， t T 是独立增量过程，那么对t1 t2 t n ， r.v. 的增量 X(t 2) X(t1), X(t 3) X(

11、t2) , , X(t n) X(tn1 ) 相互独立。 该过程也叫可加过程“。此时，限制T=0，且让X (0)=0，(a.e.)。于是，对于0=t0 t1 t2 0，该过程的增量X(t+) X(t)的概率分布仅依赖于 而与 t 无关，那么称其为齐次时齐独立增量过程，或称其具有平稳增量，即平稳独立增量过程。 关于独立增量过程有如下两个结论： 定理1 假设X (t) ， t T 是独立增量过程，且X (0)=0，(a.e.)，那么该过程必为马氏过程。 定理2 独立增量过程的有穷维分布族可由其一维分布和增量的分布所确定。2、正态过程 (1) 定义 假设过程X (t) ， t T 恣意有穷维分布都是

12、正态的，那么称该过程为正态过程或高斯(Gauss)过程。 由于对恣意nZ+, t1, , t n T ，随机向量(X(t1), X(t n) 是一个 n维正态随机向量，故第一章中关于正态随机向量的结论此处均可加以运用。现实上，它的概率密度是其中，x=(x1,x n )，m=(m(t1),m(t n)，正态过程的几个重要性质 (i) 正态过程的统计特性由它的均值函数m(t)及自协方差函数C(t i, t j)或相关函数R(t i, t j), i, j=1,n完全确定。 (ii) 对应于正态过程的任一n维随机向量，其互不相关性等价于相互独立性。 (iii) 正态过程的任正态性在线性变换下坚持不变

13、。 这一性质通知我们：假设随机系统是线性系统，那么当输入(鼓励)是正态过程时，其输出(呼应)仍是正态的。3、维纳(Weiner)过程 (1) 定义 随机过程W(t)，t 0 称为参数为2的维纳过程，假设它满足： (i) W (0) =0， (a.e.)； (ii) W (t)是独立增量过程； (iii)对任何s, t 0，W (t)W (s )N (0， 2 |t s| )。(2) 有关维纳过程的几个结论 (i) 维纳过程W ， t 0 是正态过程。当=1时，称它为规范维纳过程。 (ii) 维纳过程W (t) ，t 0 是马氏过程，其转移概率密度t s 0是 (iii)维纳过程W ， t 0

14、的均值函数、方差函数和相关函数分别是 1m(t)=EW(t)=0; 2D(t)=DW(t)=2; 3R(t1, t2)= 2 min (t1, t2).4、泊松(Poisson)过程 (1) 概念 随机效力系统 设N(t)表示在时间段0 ， t 到达效力机构的顾客数，那么 N(t) ， t 0 是随机过程。由于形状空间E=0，1，2，故N(t) ， t 0 称为计数过程。由于N(t)是时间段0 ， t 某事件发生的次数，从而N(t) ， t 0 也称为“事件流 (2) 假设 (i) 零初值： N(0)=0； (ii)增量平稳性：对恣意a, t 0，N(a+t) N(a)的概率与a无关，即PN(

15、t+t) N(t)=k=PN(t)=k=p k, k=0, 1, 2, ; (iii)增量独立性： (iv)单腾跃性：在时间段t内，某事件发生两次或两次以上的概率是t 的高阶无穷小，即PN(t )2=0(t )； (v) 随机性：对恣意的t 0，0p0(t)0，使得对恣意的t 0，有称为泊松过程的参数或强度。(3) 泊松过程的统计特性 (i) 均值函数：对恣意t 0，有 m(t)=EN(t)= EN(t)N(0)=t； (ii) 相关函数：对于0t1t2，有 R(t1, t2)=EN t1N t2= 2 t1t2 + t1，普通地，对恣意的t1, t2 0，有 R(t1, t2)= 2 t1t

16、2 + mint1, t2； (iii)协方差函数：对恣意的t1, t2 0，有 C(t1, t2)= R(t1, t2) m(t1) m(t2)= mint1, t2.(4) 泊松过程的几个重要结论 (i) 泊松过程是马氏过程； 对于泊松过程N(t) ， t 0 ，设W1，W2， 分别表示事件第一次，第二次， 出现的时间，那么称W i为事件第 i 次出现的等待时间， 而W n，n 1 为等待时间序列；设T n ，(n 1) ，表示事件第n 1 次出现到n 次出现之间的时间间隔，那么称T n ，n 1为到达时间间隔序列。 T1 T2 T3 Tn t 0 W1 W2 W3 Wn1 W n (ii

17、) 到达时间间隔序列独立同均值为1/的指数分布： 设T n，n 1为参数为的泊松过程的到达时间间隔序列，那么对恣意的n， (iii)等待时间W n服从参数为n, 的分布：设W n，n 1为参数为的泊松过程的等待时间序列，那么W n (n, )，其密度函数是四、复平稳过程 定义1.3 设 Z (t) ， t T 是复随机过程，其一、二阶矩存在，假设mZ(t)=EZ(t)=mZ复常数， t T，且RZ(t1, t2)仅与t1 t2有关，即那么称 Z (t) ， t T 是复平稳过程宽。复平稳过程的协方差函数它仅与t1 t2有关，可记为CZ()=CZ(t， t+)。第二节 平稳过程 在工程运用和大量

18、实践景象的实际分析研讨中常会遇到另一类过程。这类过程随着时间的推移其统计特性不发生任何变化。此类过程中，最重要的是“平稳过程。2.1 平稳过程概念 平稳过程实例严平稳过程宽平稳过程及其与 严平稳过程的关系复随机过程一、平稳过程实例 1、无线电设备中热噪声电压X(t)是由于电路中电子的热运动引起的，这种热扰动不随时间而变； 2、延续丈量飞机飞行速度产生的丈量误差X(t) ， 是由仪器震动、电磁波干扰、气候变化等要素引起的； 3、纺纱厂消费出的棉纱各处直径X(t)不同是由于纺纱机运转，棉条不匀、温湿度变化等要素引起的。 这类过程有一个共同的特点：所产生的随机景象的主要要素不随时间而变化。二、严平稳

19、过程定义1.1 设随机过程 X (t) ， t T 的有穷维分布函数族为F(x1,xn: t1,tn ), t1,tn T, n1 ，假设对n 和t1,tn T, 及ti+T的，有F(x1,xn: t1,tn )= F(x1,xn: t1 +,tn + ) (2.1)那么称 X (t) ， t T 是严平稳过程。严平稳过程的特点： (1) 假设有概率密度，那么式(2.1)等价于：f (x1,xn: t1,tn )=f (x1,xn: t1 +,tn + ); (2) 一维分布与 t 无关，二维分布仅与时间差有关，而与时间的起点无关； (3) 假设存在二阶矩，那么其均值函数是常数，相关函数或协方

20、差函数仅是时间差的函数。 严平稳过程的平稳性条件(4.1)过于严厉而在运用上往往难于实现。在工程技术中普通只需知道过程的一、二阶矩，就能处置和处理有关问题，于是就产生了仅与过程的一、二阶矩有关的平稳过程实际。这类过程的实际称为平稳过程的相关实际，它涉及的平稳过程称为宽平稳过程。三、宽平稳过程及其与严平稳过程的关系 定义1.2 设随机过程 X (t) ， t T 的一、二阶矩存在，且 (1) m(t)=EX(t)=m; (2.2) (2) R(t1, t2)=EX(t1)X(t2)=B(), =t2 t1 (2.3)那么称 X (t) ， t T 是宽弱平稳过程。阐明： (1) 宽平稳过程不一定

21、是严平稳过程； (2) 严平稳过程也不一定是宽平稳过程； (3) 对于正态过程而言，它的严平稳性与宽平稳性等价； (4) 定义1.2中的条件(2)可换为C(t1, t2)仅与=t2 t1有关。四、复平稳过程 定义1.3 设 Z (t) ， t T 是复随机过程，其一、二阶矩存在，假设mZ(t)=EZ(t)=mZ复常数， t T，且RZ(t1, t2)仅与t1 t2有关，即那么称 Z (t) ， t T 是复平稳过程宽。复平稳过程的协方差函数它仅与t1 t2有关，可记为CZ()=CZ(t， t+)。2.2 平稳过程相关函数的性质平稳过程自相关函数的性质平稳过程相互关函数的性质一、平稳过程自相关函

22、数的性质 设 X (t) ， t 是平稳过程，不失普通性，可假设其均值函数为零，其相关函数记为B() =R(t+,t)=EX(t+)X(t)性质1、B (0) 0；性质2、|B()| B (0)； 性质3、 B() 是偶函数： B() = B()；性质4、 B() 具非负定性：对2n个实数a1, a2, , an及1, 2, , n，有二、平稳过程相互关函数的性质性质5、 B()在( ， )上延续 B()在点=0处延续。性质6、周期平稳过程的自相关函数必为周期函数，且二者周期一样。性质1、BXY(0)= BYX(0)；性质2、BXY( )= BYX()；定义 设X(t) ， t T 、 Y(t) ， t T 是两个平稳过程，假设对 t、 T ，有EX(t+)Y(t)= BXY( )或EY(t+)X(t)= BYX( ) (4.8)那么称X(t) 与Y(t)平稳相关平稳联络。性质3、 |BXY( )|2 BX