《预测与决策教程 第2版》 课件 李华第4章 随机型时间序列分析方法

主要内容：

随机型时间序列预测概述随机型时间序列基本模型

ARMA模型的相关分析模型的识别ARMA序列的参数估计模型的检验与预报第四章随机型时间序列分析方法知识点1：随机型时间序列预测概述一、引例 ——7个不同类型的时间序列实例二、时间序列三种基本类型 ——平稳、非平稳、季节三、时间序列的几个基本概念 ——随机时间序列、平稳序列、白噪声序列四、随机型时间序列的基本模型 ——ARMA模型、求和自回归模型、季节性模型五、随机型时间序列预测方法的基本思想4.1随机型时间序列模型现实生活中，时间序列广泛存在于各个领域。在农业领域，我们观测全球粮食的产量与全球的粮食消费量等。一、引例1-农业图4.1全球粮食的供给与消费时序图

在社会领域，我们研究年度出生率、死亡率、事故发生率和各种犯罪率等。图4.2中国人口的出生率、死亡率和自然增长率变化时序图一、引例2-社会领域

在商业和经济领域，我们观测股票的日收盘价格、周利息率、月价格指数、季销售额和年利润等。图4.3深圳成指及成交量时序图一、引例3-商业和经济领域

在医学领域，我们测量脑电图和心电图，追踪、计算某种疾病的发病率等。图4.4疾病发病率时序图一、引例4-医学领域

在工程领域，我们观测声音、电信号和电压等。图4.5信号采样点时序图一、引例5-工程领域在地球物理领域，我们记录洋流，一个地区的海浪和地球噪音等。图4.6海浪信号时序图一、引例6-地球物流领域

在气象领域，我们观测每小时风速、每日温度和年降雨量等。图4.7月平均温度时序图一、引例7-气象领域

如此众多的时间序列，可将其归为三类：平稳时间序列、非平稳时间序列及季节性时间序列。图4.8卡车装配线末端每辆卡车的平均故障数时序图图4.8所示某年11月4日到1月10日卡车生产车间装配线末端检验出的每辆卡车的平均故障数时序图（平稳时间序列）二、时间序列的三种基本类型——平稳时间序列图4.9美国1871-1984年烟草生产量的年度数据时序图图4.9所示美国1871年—1984年烟草生产量时序图（非平稳时间序列）二、时间序列的三种基本类型——非平稳时间序列图4.10所示某地1935-1945年月平均气温时序图（季节性时间序列）。图4.10某地1935-1945年月平均气温时序图二、时间序列的三种基本类型——季节性时间序列随机时间序列是指这里对每个n，Xn都是一个随机变量。以下简称为时间序列。例1在统计研究中，常用按时间顺序排列的一组随机变量来表示一个随机事件的时间序列，简记为比如把北京市城镇居民1990-1999年每年的消费支出按照时间顺序记录下来，就构成了一个序列长度为10的消费支出（样本）时间序列（单位：亿元）：1686，1925，2356，3027，3891，4874，5430，5796，6217，6796三、时间序列的几个基本概念——时间序列定义4.1时间序列称为平稳的，如果它满足：

（1）对任一，，是与无关的常数；

（2）对任意的和，

其中和无关。称为时间序列的自协方差函数；

称为自相关函数。三、时间序列的几个基本概念——平稳序列平稳性定义中的两条，指时间序列的均值和自协方差函数不随时间的变化而变化。显然，不失一般性，对一个平稳时间序列，假设其均值为零。若不然，运用零均值化方法对序列进行一次平移变换，是一个零均值的平稳序列。三、时间序列的几个基本概念——平稳序列定义4.2

白噪声序列即序列的均值为0，方差为，且互不相关。三、时间序列的几个基本概念——白噪声序列白噪声序列是一种特殊的平稳序列。四、随机型时间序列基本模型本课程讨论随机型时间序列的几种常用模型。从实用观点来看，这些模型能够表征任何模式的时间序列数据。这几类模型是：1)自回归(AR)模型；2)移动平均(MA)模型；4)求和自回归移动平均(ARIMA)模型；5)季节性模型3)自回归移动平均(ARMA)模型；随机型时间序列预测方法的基本思想可以分为四个阶段：

第一阶段：根据建模的目的和数据模式，确定模型的基本类型。第二阶段：进行模型识别，即从一大类模型中选择出一类试验模型。第三阶段：将所选择的模型应用于所取得的历史数据，求得模型的参数。第四阶段：检验得到的模型是否合适。若合适，则可以用于预测或控制；若不合适，则返回到第二阶段重新选择模型。五、随机型时间序列预测方法的基本思想

图4.11时间序列分析建模流程合适不合适确定基本模型形式模型识别(选择一个试验性模型)参数估计(估计试验性模型参数)诊断检验利用模型预测五、随机型时间序列预测方法的基本思想小结：时间序列预测概述时间序列三种基本类型 ——平稳、非平稳、季节时间序列的几个基本概念 ——随机时间序列、平稳序列、白噪声序列随机型时间序列的基本模型 ——ARMA模型、求和自回归模型、季节性模型随机型时间序列预测方法的基本思想知识点1

随机性时间序列分析方法概述知识点2时间序列的基本模型知识点3

AR模型的相关分析知识点4

MA模型的相关分析知识点5

ARMA模型的相关分析知识点6

时间序列模型的识别知识点7

时间序列模型的参数估计知识点8

时间序列模型的检验4.1随机型时间序列模型

若是独立的，相互间没有任何依赖关系，其统计规律就是事物独立地随机变动。若随机变量之间有一定的依存性，最简单的，与相关，其中是白噪声序列，即（如一个患者服药）知识点2：时间序列的基本模型自回归模型(AutoRegressivemodel)的形式为：式中，为模型参数；为“因变量”，为“自”变量。是白噪声序列，即假定即随机影响与数据值无关。AR(p)反映了系统对自身过去状态的记忆一、自回归（AR）模型令AR()

模型可写为如：一阶模型二阶模型注：称为向后推移算子由模型AR(

)知，如果：（1）能够证明AR()的确是恰当的方程；（2）能够确定的数值；（3）能够确定模型参数那么，在AR(

)模型表达式中去掉随机影响项后就得到预测公式由此进行预测就很容易了。对于AR系统，系统在n时刻的响应

仅与其以前时刻的响应有关，而与其以前时刻进入系统的扰动无关。而若系统与其以前时刻的响应无关，而与进入系统的扰动存在一定的相关关系，那么这类系统为移动平均(MA）系统。二、移动平均（MA）模型其中

是白噪声序列。MA(

)记MA(

)模型可写成反映了系统对过去时刻进入系统的噪声的记忆如：一阶模型二阶模型例2.1一个关于产科医院的例子。设是第t天新住院的病员人数，且假设这个病员的人数构成的序列是白噪声序列。则某一天的住院病员人数与第二天的病员住院人数是无关的。再假设典型的情形：10％的病人住院一天，50％的病人住院两天，30％的病人住院三天，10％的病人住院四天。则第t天住院的病员人数

被引入了的表达式中。这样，它不仅直接影响到的值，并且对所有将来值都产生影响。AR(p)序列与MA(q)序列的差异：从对序列的影响来看，对AR(p)

序列（当前值）=自身过去值的线性组合+（当前值）

仅对

个的将来值产生影响。对MA(q)序列（当前值）=有限个过去值的线性组合+（当前值）三、自回归移动平均（ARMA）模型在建立一个实际时间序列模型时，可能既有自回归部分，又有移动平均部分，如：阶的自回归移动平均模型

反映了系统对自身过去状态及各时刻进入系统的噪声的记忆如：ARMA(1,1)ARMA(2,1)AR(

)MA()实际应用中、的值很少超过3。对ARMA(,)模型，总假定和（作为变量为

的多项式）无公共因子。四、ARMA模型的平稳与可逆性条件本段讨论上述三种模型参数的有关约束条件，即自回归模型的平稳性条件和移动平均模型的可逆性条件。1.AR(p)模型的平稳性条件如平方并取数学期望若平稳，的根在单位圆外。定义称多项式方程为模型的特征方程，它的个根称为模型的特征根。如果这

个特征根都在单位圆外，即，则称模型

是稳定的或平稳的。称上式为平稳性条件。1.AR(p)

模型的平稳性条件Note稳定的AR()

模型有一些很好的性质。如1）保证了的存在，从而，2)模型参数可以由相关函数惟一确定。例2.2求稳定域及逆算子。稳定域：稳定域：设

可负向趋于无穷，且有界。由于从而AR(1)

表明存在定义称多项式方程为模型的特征方程，它的个根称为模型的特征根。如果这

个特征根都在单位圆外，即，则称模型是可逆的。2.MA(q)

模型的可逆性条件的历史值对虽有影响，但随着时间的推移越来越小。否则，不合理。可逆性条件的直观解释：Note可逆的MA(

)

模型有一些很好的性质。如1）保证了的存在，从而，2)模型参数可以由相关函数唯一确定。若，的根均在单位圆外，且这两个特征多项式无公共因子，则称此模型为平稳可逆的自回归移动平均模型。3.ARMA(p,q)

模型的平稳可逆性条件如，ARMA(1,1)模型参数的平稳可逆域为小结：时间序列的基本模型我们把随机型时间序列分为三种基本类型：平稳、非平稳及季节性序列。后两种类型常常可以转化为第一种类型。平稳的时间序列的基本模型有三种：自回归(AR)模型、移动平均（MA）模型、自回归移动平均（ARMA）模型。

通常模型中的参数是需要满足一些条件的：模型的所有特征根均需在单位园外。主要内容：

随机型时间序列预测概述随机型时间序列基本模型

ARMA模型的相关分析模型的识别ARMA序列的参数估计模型的检验与预报第四章随机型时间序列分析方法/LH6/zh_CN/index.htm

4.2

ARMA模型的相关分析知识点1

随机性时间序列分析方法概述知识点2

时间序列的基本模型知识点3

AR模型的相关分析知识点4

MA模型的相关分析知识点5

ARMA模型的相关分析知识点6

时间序列模型的识别知识点7

时间序列模型的参数估计知识点8

时间序列模型的检验由此定义的自相关函数为：设是一个零均值的平稳时间序列，定义的自协方差函数为：ARMA模型的相关分析用乘上式两边，并取均值，则对于任意k>0，有一、AR(p)序列的自相关函数“拖尾”性

设满足AR(p)模型，我们称为AR(p)序列，即有：知识点3

AR(p)模型的相关分析因此又有（两边同除以）一、AR(p)序列的自相关函数如，取k=1,2，可求得AR(2)过程最初由G.Y.Yule在1921年用于描述单摆行为递推可求出自相关函数序列。问题：对于一般的AR(p)序列，其自相关函数序列是否随着k的增大，其绝对值越来越小？设该特征方程有p个不同的特征根，则线性微分方程的通解为【常微分方程】若其特征方程的根互不相同，则该差分方程的通解为【差分方程】被负指数函数所控制（平稳性条件）事实上，不管特征根是否有重根，式均成立。满足上式的序列称为“拖尾”的，即的尾部不全为0，但又被负指数函数所控制。由右图该序列的自相关函数可知，的尾部不全为0，但又被负指数函数所控制，故称该序列“拖尾”。例3.1

如序列，其值如下表所示时间1234567Xn0.4040241.4239482.0337712.4621422.3429311.8792721.568859时间891011121314Xn1.994431.687680.8438550.8353750.2056040.2603910.229003时间15161718192021Xn0.5278770.47358-0.59037-0.67663-0.5875-0.49507-0.62679

……

二、AR(p)模型中参数的计算已知模型参数，可求出自相关系数。反之，若已知自相关系数，也可以求出模型参数。这是参数估计的基础。取

可求得参数的估计值，称其为Yule-Walker方程，它是参数估计的基本方程。例3.2对于AR(1)和AR(2)，求模型参数。令令一般地，对于白噪声序列，其关键数值特征为。小结：AR模型的相关分析我们希望寻找AR模型的特征。发现该AR序列的自相关函数序列具有“拖尾性”。进一步，从自相关函数序列的关系式，可以得到模型参数与自相关函数的关系式，这样，就有可能通过对时间序列自相关函数的估计求得模型的参数。一、MA(q)序列的自相关函数

截尾性知识点4

MA(q)模型的相关分析注意到是白噪声序列，一、MA(q)序列的自相关函数即，在之后全为0。——截尾性（特有）二、MA(q)模型参数的估计取，亦可求出参数。小结：MA模型的相关分析AR序列的自相关函数具有“拖尾性”,而MA序列的自相关函数序列则具有“截尾性”。进一步，从自相关函数序列的关系式，可以得到模型参数与自相关函数的关系式，这样，就有可能通过对时间序列自相关函数的估计求得模型的参数。当

时（对所有的）一、ARMA(p,q)序列的自相关函数拖尾即，k>q时，对所有的i=0,1,2,…,q,知识点5

ARMA(p,q)模型的相关分析于是，时这样，ARMA(p,q)序列具有拖尾性。自相关函数具有拖尾性

ARMA序列，AR(p)序列自相关函数具有截尾性

MA(q)序列一、ARMA(p,q)序列的自相关函数在中，令得一方程组，从中求出。1）的求法2）及的求法令，为MA(q)序列。若已知自协方差函数，即可求出及。二、ARMA(p,q)模型参数的求法小结：ARMA模型的相关分析ARMA序列的自相关函数具有“拖尾性”

。而当k>q时，令，为MA(q)序列。这样，就可以通过对时间序列自相关函数的估计求得ARMA模型的参数。谢谢！主要内容：

随机型时间序列预测概述随机型时间序列基本模型

ARMA模型的相关分析模型的识别ARMA序列的参数估计模型的检验与预报第四章随机型时间序列分析方法/LH6/zh_CN/index.htm4.3模型的识别知识点1

随机性时间序列分析方法概述知识点2

时间序列的基本模型知识点3AR模型的相关分析知识点4

MA模型的相关分析知识点5

ARMA模型的相关分析知识点6

时间序列模型的识别知识点7

时间序列模型的参数估计知识点8

时间序列模型的检验一、偏自相关函数已介绍了AR(p)、MA(q)、ARMA(p,q)模型的自相关函数，MA(q)模型的自相关函数截尾，AR(p)与ARMA(p,q)模型均具有拖尾性质。这样，尚不足于识别序列的实在模型，还须寻找序列另外的统计特征。思路：对于AR(p)模型，设想用一个自回归过程拟合序列的观察数据。知识点6时间序列模型的识别若很小，则滞后变量附加在模型中毫无意义，即模型AR(k-1)比较合适，否则，就应包含在模型中，其相应的系数就是我们要寻找的另一个统计特征，称为偏自相关函数。一、偏自相关函数

是在模型中已经包含了滞后期较短的滞后值之后再增加一期滞后

所增加的模型的解释能力。换言之，偏自相关函数是对与之间未被所解释的相关的度量。求对各参数的偏导数，并令其为零，得方程组

满足上述方程组的序列称为的偏自相关函数。

偏自相关函数的定义选定k，考虑用对作最小方差估计，即选择系数，使达到最小。可以证明，MA(q)、ARMA(p,q)序列的偏自相关函数是拖尾的。AR(p)序列的偏自相关函数是“截尾”的。AR(p)序列的偏自相关函数根据定义，是把用线性表示时的系数。自然，对AR(p)序列，当k>p

时，，即特有！MA(q)、ARMA(p,q)序列的偏自相关函数ARMA序列的分类性质一览表二、ARMA序列的分类特征自相关函数（ACF）偏相关函数（PACF）拖尾截尾AR(p)拖尾截尾MA(q)拖尾拖尾ARMA(p,q)例依据：若的自相关函数截尾，可断言此序列是移动平均序列；若的偏自相关函数截尾，可断言此序列是自回归序列；若两者均拖尾，则为自回归移动平均序列。已知：时间序列的一段样本值问题：以样本值估计自相关函数和偏自相关函数；以所估计的数值特征判别序列属何种类型，并判断模型阶数；估计模型参数。三、模型识别核心：1）样本自相关函数和样本偏自相关函数的定义；2）如何根据样本的数值特征判别截尾性和拖尾性。

或1、样本自相关函数与样本偏相关函数当N远大于k时，两种定义值近似相等。而当N足够大时，为确定阶数只需对并不太大的k估计出自相关函数即可。2、

AR(p)模型的识别方法原理：的偏自相关函数在p步后截尾，即当k>p

时，由于样本的随机性，免不了有误差。当k>p时，样本偏自相关函数不会全为零，而是在零的上下波动。可以证明，当k>p时，服从渐近正态分布，即近似有判别：若由计算样本得到的满足或则可判断在k>p后截尾。实际上只要统计出k>p以后的，若数的4.5%，就可认为是截尾的。的个数不超过总例

下表是在卡车生产车间装配线末端从11月4日到1月10日45个工作日检验出的每辆卡车的平均故障数。1.21.51.542.71.952.43.442.831.7622.091.891.81.251.582.252.52.051.461.541.421.571.41.511.081.271.181.391.422.081.851.822.072.321.232.911.771.611.251.151.371.791.681.781.84

注：数据出自Burr的报告（1976，p.134）实际上当k>1以后所有，且在零值附近波动，我们可以认为于k=1后截尾。

从时序图可初步断定序列是平稳的。序列共有45个数据，故。时序图ACF和PACF图3、MA(q)模型的识别方法原理：的自相关函数在q步后截尾，即当k>q

时，由于样本的随机性，免不了有误差。当k>p时，样本自相关函数不会全为零，而是在零的上下波动。可以证明，当k>q以后，服从渐近正态分布，即近似有判别：若由计算样本得到的满足或则可判断在k>q

后截尾。实际上只要统计出k>q以后的，若的个数不超过总数的4.5%，就可认为是截尾的。4、ARMA(p,q)模型的识别方法若时间序列的样本自相关函数和偏自相关函数均不截尾，但较快地收敛到零，则序列很可能是ARMA序列。不过，这时其中的p、q比较难以判别。识别p、q，可以从低阶到高阶逐个取为(1，1)，(1，2)，(2，1)，(2,2)……等值进行尝试，直到选出合适的模型，定出阶数p,q。所谓合适，是指在选定p,q后进行参数估计，再根据所估计的参数对模型进行检验。如果检验合格，则模型合适。否则，继续尝试。小结：时间序列模型的识别识别依据：然而，我们所拥有的数据只是随机型时间序列的一个样本序列，可以计算出样本自相关函数及样本偏自相关函数，可根据其服从渐进正态分布的特性检验序列的自相关函数及偏自相关函数是否截尾。谢谢！主要内容：

随机型时间序列预测概述随机型时间序列基本模型

ARMA模型的相关分析模型的识别ARMA序列的参数估计模型的检验与预报第四章随机型时间序列分析方法/LH6/zh_CN/index.htm4.4

ARMA模型的参数估计知识点1

随机性时间序列分析方法概述知识点2

时间序列的基本模型知识点3AR模型的相关分析知识点4

MA模型的相关分析知识点5

ARMA模型的相关分析知识点6

时间序列模型的识别知识点7时间序列模型的参数估计知识点8

时间序列模型的检验

AR(p)、MA(q)、ARMA(p,q)模型的参数估计方法比较多，大体上分为3类：

（1）矩估计（2）最小二乘估计（3）极大似然估计我们只介绍矩估计方法。

知识点7

时间序列模型的参数估计

在AR(p)模型的识别中，曾得到利用，得到方程组：

称为YuleWalker方程组。该方程组建立了AR(p)模型的模型参数与自相关函数的关系。一、AR(p)模型的YuleWalker方程估计利用实际时间序列提供的信息，首先求得自相关函数的估计值然后利用YuleWalker方程组，求解模型参数的估计值由于

于是

从而可得

的估计值二、MA(q)模型的矩估计

将MA(q)模型的自协方差函数中的各个量用估计量代替，得到：

首先求得自协方差函数的估计值，(*)是一个包含(q+1)个待估参数的非线性方程组，可以用直接法或迭代法求解。(*)三、ARMA(p,q)模型的矩估计

在ARMA(p,q)中共有(p+q+1)个待估参数与以及

，其估计量计算步骤及公式如下：

是总体自相关函数的估计值，可用样本自相关函数代替。第一步，估计

第二步，改写模型，求以及

的估计值将模型改写为：

令于是(*)可以写成：(*)

构成一个MA模型。按照估计MA模型参数的方法，可以得到以及的估计值。

需要说明的是，在上述模型的平稳性、识别与估计的讨论中，ARMA(p,q)模型中均未包含常数项。

如果包含常数项，该常数项并不影响模型的原有性质，因为通过适当的变形，可将包含常数项的模型转换为不含常数项的模型。方程两边同减，则可得到其中以ARMA(p,q)模型为例。对含有常数项的模型小结：时间序列模型的参数估计时间序列模型有多种参数估计方法，可以利用相关的软件求得。最简单的为矩估计方法，即在ARMA模型的相关性分析所得到的模型自相关函数序列表达式中，将自相关函数以样本序列自相关函数替代，反求模型参数即可。

ARMA(p,q)模型的建立是一个反复适应的过程，从模型识别和参数估计开始，在进