第2章 平稳时间序列分析

1、第二章平稳时间序列分析本章结构n时间序列的基本概念n方法性工具 nARMA模型 n平稳序列建模n序列预测 2.1时间序列基本概念1.时间序列的概率分布 一个时间序列的概率分布可以用它有限维分布簇来描述 时间序列所有的一维分布是：时间序列所有的一维分布是： 所有二维分布是：所有二维分布是： 一个时间序列的所有有限维分布簇的全体，称为该序一个时间序列的所有有限维分布簇的全体，称为该序列的有限维分布簇。列的有限维分布簇。 101.,( ),( ),( ),.FFF( , ),0, 1, 2,.()ijFi jij 2.时间序列的均值函数 一个时间序列的均值函数是指：一个时间序列的均值函数是指：其中：

2、其中： 表示在表示在 固定时对随机变量固定时对随机变量 的求的求均值，它只与一维分布簇中的分布函数均值，它只与一维分布簇中的分布函数 有关。有关。( )tttEXxdF xtEXttX()tF 2.时间序列的协方差函数与自相关函数 协方差函数：,( , )()()( , )ttsstst st sE XXxydFx y 其中，其中， 为为 的二维联合分布。的二维联合分布。 自相关函数：自相关函数：( , )( , )/( , ) ( , )t st st ts s,( , )t sF x y(,)tsXX时间序列的自协方差函数有以下性质：时间序列的自协方差函数有以下性质：对称性：对称性： 非负

3、定性：非负定性：( , )( , )t ss t 111212122212,mmmmmmmk kk kk kk kk kk kk kk kk k 为对称非负定矩阵。为对称非负定矩阵。自相关函数同样也具有上述性质且有自相关函数同样也具有上述性质且有 。 对任意正整数对任意正整数 和任意和任意 个整数个整数 ，方阵，方阵mm12, ,.,mk kk( , )1t t2.2平稳时间序列n满足如下条件的序列称为严平稳序列n满足如下条件的序列称为宽平稳序列),(),(21,21,2121mtttmtttxxxFxxxFmm有，正整数，正整数Ttttmm,21TtskksttskkstTtEXTtEXtt

4、且，为常数，,),(),()3,)2,) 12n严平稳与宽平稳的关系 1.严平稳不等于宽平稳；严平稳不等于宽平稳；2.宽平稳不等于严平稳；宽平稳不等于严平稳；3.对于严平稳序列，如果其二阶距存在，对于严平稳序列，如果其二阶距存在，其必为宽平稳，反之则一般不成立；其必为宽平稳，反之则一般不成立；4.对于高斯序列，严平稳与宽平稳是等对于高斯序列，严平稳与宽平稳是等价的。价的。n平稳时间序列自协方差函数和自相关函数 设平稳时间序列的均值为零，即0tE X。 自协方差函数：自协方差函数：0kt kt kttttt kE XEXXEXEXEX X当时自相关函数：自相关函数：0kkn平稳序列的自协方差函数

5、有以下性质：平稳序列的自协方差函数有以下性质：对称性：对称性： 非负定性：非负定性：0k01m-110m-2m-1m-20m 为非负定矩阵。为非负定矩阵。自相关函数同样也具有上述性质。自相关函数同样也具有上述性质。 阶自协方差阵阶自协方差阵 有界性：有界性：kkmn平稳序列的样本统计量平稳序列的样本统计量 样本均值：时间序列无法获得多重实现，常用时间均值代替总体均值。11nttxxn上式的估计是无偏的。上式的估计是无偏的。 n样本自协方差函数样本自协方差函数11n kktt ktxxxxn11n kktt ktxxxxnk第一式是有偏估计，第二式是无偏估计，但第一式是有偏估计，第二式是无偏估计

6、，但有效性不如第一式。有效性不如第一式。2.3几类特殊的时间序列： 1. 白噪声序列（White noise）：如果时间序列满足以下性质：（1） 0tE a2,tst sE a a （2） 式中，当式中，当 时，时，,0,1t st t。称此序列为白噪声序列，称此序列为白噪声序列，简称白噪声。常记为简称白噪声。常记为:2(0,).taWNts2.独立同分布序列：如果时间序列,tX tT中的随机变量中的随机变量 为相互独为相互独立的随机变量，而且具有相同的分布，立的随机变量，而且具有相同的分布，称这样的时间序列为独立同分布序列。称这样的时间序列为独立同分布序列。3.3.正态序列：若正态序列：若,

7、tX tT正态分布，则称正态分布，则称的有限维分布都是的有限维分布都是,tX tT为正态序列。为正态序列。,0, 1, 2,.tX t 2.4 方法性工具 n差分运算n延迟算子n线性差分方程差分运算n一阶差分n 阶差分 n 步差分pk1tttxxx111tptptpxxxkttkxx延迟算子n延迟算子类似于一个时间指针，当前序列值乘以一个延迟算子，就相当于把当前序列值的时间向过去拨了一个时刻 n记 为延迟算子，有 1,pxBxtpptB延迟算子的性质n n n n n ，其中n 若10B为任意常数cxcxBcxcBttt,)()(111)(ttttyxyxBnttnxxBiniinnnBCB0

8、) 1()1 ()!( !ininCin2211,1.1BBB 用延迟算子表示差分运算n 阶差分 n 步差分pkitpiipptptpxCxBx0) 1()1 (tkkttkxBxx)1 ( 线性差分方程 n线性差分方程n齐次线性差分方程)(2211thzazazazptpttt02211ptptttzazazaz齐次线性差分方程的解n特征方程n特征方程的根称为特征根，记作n齐次线性差分方程的通解n不相等实数根场合n有相等实根场合n复根场合02211ppppaaap,21tpptttcccz2211tpptddtddtcctctccz111121)(tpptititttccececrz3321

9、)(非齐次线性差分方程的解 n非齐次线性差分方程的特解n使得非齐次线性差分方程成立的任意一个解n非齐次线性差分方程的通解n齐次线性差分方程的通解和非齐次线性差分方程的特解之和tttzzz tz )(2211thzazazazptpttt tz几个例题1(1)0.8ttyy1(2)1.2ttyy解解：（：（1）的特征方程：）的特征方程：0.80得特征值：得特征值：0.8.则齐次通解：则齐次通解：(0.8)tcc为两任意常数。为两任意常数。同理，（同理，（2）的通解：）的通解：(1.2)tc当任意常数为当任意常数为1时，（时，（1）、（）、（2）解的时间路径如）解的时间路径如下图：下图：c为两任意

10、常数。为两任意常数。几个例题0.00.20.40.60.81.0246810 12 14 16 18 20010203040246810 1214 1618 20几个例题12(3)0.20.35tttyyy12(4)0.70.35tttyyy解解：（：（3）的特征方程：）的特征方程：20.20.350得两个特征值：得两个特征值：0.7和和-0.5.则齐次通解：则齐次通解：12(0.7)( 0.5)ttcc12,cc为两任意常数。为两任意常数。几个例题同理，（同理，（4）的通解：）的通解：12(1.037)( 0.337)ttcc12,cc为两任意常数。为两任意常数。当任意常数为当任意常数为1时

11、，（时，（3）、（）、（4）解的时间路径如）解的时间路径如下图：下图：几个例题0.00.20.40.60.8246810 12 14 16 18 201.01.21.41.61.82.02.2246810 12 14 16 18 20几个例题12(5)1.60.9tttyyy12(6)1.61.1tttyyy-0.8-0.40.00.40.81.22468101214161820-4-202462468101214161820齐次线性差分方程特征根和解的敛散性关系1,i对 所 有 的 i,若解 是 收 敛 解 。1,i若 存 在 i,解 是 发 散 解 。2.5 ARMA模型的性质 nAR模型

12、（Auto Regression Model） nMA模型（Moving Average Model） nARMA模型（Auto Regression Moving Average model）AR模型的定义n具有如下结构的模型称为 阶自回归模型，简记为n特别当 时，称为中心化 模型tsExtsEVarExxxxtsstttptptpttt, 0, 0)(,)(0)(0222110，p)(pAR00)(pAR AR(P)序列中心化变换n称 为 的中心化序列 ，令p101ttxytytx自回归系数多项式n引进延迟算子，中心化 模型又可以简记为 n自回归系数多项式)(pARttxB)(ppBBBB

13、2211)(AR模型平稳性判别 n判别原因nAR模型是常用的平稳序列的拟合模型之一，但并非所有的AR模型都是平稳的 n判别方法n单位根判别法n平稳域判别法例2.1:考察如下四个模型的平稳性1(1)0.8tttxx1(2)1.1tttxx 12(3)0.5ttttxxxttttxxx115 . 0)4(例2.1平稳序列时序图1(1)0.8tttxx12(3)0.5ttttxxx例2.1非平稳序列时序图1(2)1.1tttxx ttttxxx115 . 0)4(AR模型平稳性判别方法n特征根判别nAR(p)模型平稳的充要条件是它的p个特征根都在单位圆内n根据特征根和自回归系数多项式的根成倒数的性质

14、，等价判别条件是该模型的自回归系数多项式的根都在单位圆外n平稳域判别 n平稳域,21单位根都在单位圆内pAR(1)模型平稳条件n特征根n平稳域1AR(2)模型平稳条件n特征根n平稳域2424221122211111,12221，且例2.1平稳性判别8 . 010.81 . 111.1 211i212i221210.5,0.5,1.5 23112312221210.5,1.5,0.5 模型特征根判别平稳域判别结论(1)平稳(2)非平稳(3)平稳(4)非平稳平稳AR模型的统计性质n均值n方差n协方差n自相关系数n偏自相关系数均值 n如果AR(p)模型满足平稳性条件，则有n根据平稳序列均值为常数，且

15、 为白噪声序列，有n推导出p101)(110tptpttxxEExTtEExtt,0)(,t ,0, 1, 2,.tx t 20(0,)tjtjtjxGWN txjG01G 设零均值平稳序列设零均值平稳序列能够表示为能够表示为则称上式为平稳序列则称上式为平稳序列的传递形式，式中的加权系数的传递形式，式中的加权系数称为称为Green函数，其中函数，其中。Green函数定义Green函数的含义Green函数可以从以下三个方面理解：函数可以从以下三个方面理解：（1）描述序列动态特性；）描述序列动态特性；（2）单位脉冲的响应函数）单位脉冲的响应函数(系统记忆扰动程度的函数系统记忆扰动程度的函数)； (

16、3) Wold正交分解的坐标。正交分解的坐标。?平稳序列的平稳序列的Green函数有什么特征函数有什么特征,0jjG Green函数递推公式n原理n方法n待定系数法n递推公式pkpkjGGGkkkjjkkj, 0, 2 , 1110其中，ttttttBGBBGxxB)()()()(方差n平稳AR模型的传递形式n两边求方差得函数为GreenGGxVarjjjt,)(202jtjjtGx0例2.2:求平稳AR(1)模型的方差n平稳AR(1)模型的传递形式为nGreen函数为n平稳AR(1)模型的方差itiitiittBBx01011)(1, 1 , 0,1jGjj2122021021)()(jjt

17、jjtVarGxVar协方差函数n在平稳AR(p)模型两边同乘 ，再求期望n根据n得协方差函数的递推公式)()()()(11kttktptpkttkttxExxExxExxEktx1,k0)(kttxE1,kpkpkkk2211例2.3:求平稳AR(1)模型的协方差n递推公式n平稳AR(1)模型的方差为n协方差函数的递推公式为0111kkk212011,12121kkk例2.4:求平稳AR(2)模型的协方差n平稳AR(2)模型的协方差函数递推公式为21)1)(1)(1 (12211201122121220kkkk，自相关系数n自相关系数的定义n平稳AR(P)模型的自相关系数递推公式0kk112

18、2kkkpkp 常用AR模型自相关系数递推公式nAR(1)模型nAR(2)模型0,1kkk2110, 1221121kkkkkkAR模型自相关系数的性质n拖尾性n呈复指数衰减1( )pkiiikc不能恒等于零pccc,211( )pkiiikc0例2.5:考察如下AR模型的自相关图ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1 (例2.5n自相关系数按复指数单调收敛到零1(1)0.8tttxx例2.5:1(2)0.8tttxx 例2.5:n自相关系数呈现出“伪周期”性12(3)0.5ttttxxx例2.5:n自相关系

19、数不规则衰减12(4)0.5ttttxxx 偏自相关系数n定义 对于平稳AR(p)序列，所谓滞后k偏自相关系数就是指在给定中间k-1个随机变量 的条件下，或者说，在剔除了中间k-1个随机变量的干扰之后， 对 影响的相关度量。用数学语言描述就是121,ktttxxxktxtx2,)()(11ktktktktttxxxxxExExExxExEkttktt偏自相关系数的计算n设中心化平稳序列 ，用连续k期滞后值对 作k阶自回归1122.tktktkkt ktxxxx2()()() ttt kktkkt kt kE xExxExE xExtx tx可证可证偏自相关系数的计算n滞后k偏自相关系数实际上就

20、等于k阶自回归模型第k个回归系数的值。n利用前面讲的方法，易得到以下方程组02211202112112011kkkkkkkkkkkkkkkkkYule-Walker方程组方程组偏自相关系数的计算对对k=1，2，3， 依次求解方程，得依次求解方程，得111121221222111111112211132123112111212311111kkkkkkkkkkkkk 偏自相关系数的截尾性nAR(p)模型偏自相关系数P阶截尾pkkk,0例2.5续:考察如下AR模型的偏自相关图ttttttttttttttxxxxxxxxxx2121115 . 0)4(5 . 0)3(8 . 0)2(8 . 0) 1

21、(例2.5n理论偏自相关系数n样本偏自相关图1(1)0.8tttxx0.8,10,2kkkk例2.5:n理论偏自相关系数n样本偏自相关图1(2)0.8tttxx 0.8,10,2kkkk例2.5:n理论偏自相关系数n样本偏自相关图12(3)0.5ttttxxx2,130.5,20,3kkkkk 例2.5:n理论偏自相关系数n样本偏自相关系数图12(4)0.5ttttxxx 2,130.5,20,3kkkkk MA模型的定义n具有如下结构的模型称为 阶移动平均模型，简记为n特别当 时，称为中心化 模型q)(qMA0)(qMA112220( )0( ),()0,ttttqt qqtttsxEVar

22、Est ，移动平均系数多项式n引进延迟算子，中心化 模型又可以简记为 n 阶移动平均系数多项式)(qMAttBx)(qqqBBBB2211)(MA模型的统计性质n常数均值n常数方差）（qtqttttEEx221122212211)1 ()()(qqtqttttVarxVarMA模型的统计性质n自协方差函数P阶截尾n自相关系数P阶截尾q kqkkkqiikikqk , 01 ,)(0 ,)1 (212221qkqkkqkqiikikk , 01 ,10 , 12211常用MA模型的自相关系数nMA(1)模型nMA(2)模型2, 01, 10, 1211kkkk3, 02, 11, 10, 122

23、2122221211kkkkkMA模型的统计性质n偏自相关系数拖尾MA模型的PACF不会在有限阶后为零例2.6:考察如下MA模型的相关性质212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxxMA模型的自相关系数截尾n n 112tttx（）120.5tttx（ ）MA模型的自相关系数截尾n n 124163525ttttx（ ）125254416ttttx（ ）MA模型的偏自相关系数拖尾n n 112tttx（）120.5tttx（ ）MA模型的偏自相关系数拖尾n n 124163525ttttx（ ）125254416ttttx（

24、）MA模型的可逆性nMA模型自相关系数的不唯一性n例2.6中不同的MA模型具有完全相同的自相关系数和偏自相关系数212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx可逆的定义n可逆MA模型定义n若一个MA模型能够表示称为收敛的AR模型形式(逆转形式），那么该MA模型称为可逆MA模型n可逆概念的重要性n一个自相关系数列唯一对应一个可逆MA模型。00,1tjtjjjI xII称为逆函数,可逆MA(1)模型n n 1tttx11tttx21ttBx1ttBx11可逆, 1可逆, 1MA模型的可逆条件nMA(q)模型的可逆条件是：nMA(q)

25、模型的特征根都在单位圆内n等价条件是移动平滑系数多项式的根都在单位圆外11i1i逆函数的递推公式n原理n方法n待定系数法n递推公式qkqkjIIIkkkjjkkj, 0, 2 , 1110其中，ttttttxxBIBxBIBx)()()()(例2.6续:考察如下MA模型的可逆性212111162545)4(251654)3(5 . 0)2(2) 1 (ttttttttttttttxxxx(1)(2)n n n逆函数n逆转形式不可逆1221tttx可逆15 . 05 . 01tttx05 . 0kktktx1,5 . 01kIkk(3)(4)n n n逆函数n逆转形式可逆1, 125165412

26、221ttttx, 1 , 0,23, 0133,) 1(1nnknnkIknk或013130338 . 0) 1(8 . 0) 1(nntnnnntnntxx不可逆11625162545221ttttxARMA模型的定义n具有如下结构的模型称为自回归移动平均模型，简记为n特别当 时，称为中心化 模型),(qpARMAtsExtsEVarExxxtsstttqpqtqttptptt, 0, 0)(,)(0)(00211110，00),(qpARMA系数多项式n引进延迟算子，中心化 模型又可以简记为 n 阶自回归系数多项式n 阶移动平均系数多项式),(qpARMAttBxB)()(qqqBBBB

27、2211)(pppBBBB2211)(平稳条件与可逆条件nARMA(p,q)模型的平稳条件nP阶自回归系数多项式 的根都在单位圆外n即ARMA(p,q)模型的平稳性完全由其自回归部分的平稳性决定nARMA(p,q)模型的可逆条件nq阶移动平均系数多项式 的根都在单位圆外n即ARMA(p,q)模型的可逆性完全由其移动平滑部分的可逆性决定0)( B0)( B传递形式与逆转形式n传递形式n逆转形式11)()(jjtjtttGBBx1,110kGGGkjjjkjk11)()(jjtjtttxIxxBB1,110kIIIkjjjkjkARMA(p,q)模型的统计性质n均值n协方差n自相关系数ptEx10

28、1 )(02ikiiGGk020)0()()(jjjkjjGGGkkARMA模型的相关性n自相关系数拖尾n偏自相关系数拖尾例2.7:考察ARMA模型的相关性n拟合模型ARMA(1,1): 并直观地考察该模型自相关系数和偏自相关系数的性质。 10.50.8ttttxx自相关系数和偏自相关系数拖尾性n样本自相关图n样本偏自相关图ARMA模型相关性特征模型自相关系数偏自相关系数AR(P)拖尾P阶截尾MA(q)q阶截尾拖尾ARMA(p,q)拖尾拖尾2.6平稳序列建模 n建模步骤n模型识别n参数估计n模型检验n模型优化n序列预测建模步骤平平稳稳非非白白噪噪声声序序列列计计算算样样本本相相关关系系数数模型

29、模型识别识别参数参数估计估计模型模型检验检验模模型型优优化化序序列列预预测测YN计算样本相关系数n样本自相关系数n样本偏自相关系数nttkntkttkxxxxxx121)()(DDkkk模型识别n基本原则选择模型拖尾P阶截尾AR(P)q阶截尾拖尾MA(q)拖尾拖尾ARMA(p,q)kkk模型定阶的困难n因为由于样本的随机性，样本的相关系数不会呈现出理论截尾的完美情况，本应截尾的 或 仍会呈现出小值振荡的情况n由于平稳时间序列通常都具有短期相关性，随着延迟阶数 ， 与 都会衰减至零值附近作小值波动n当 或 在延迟若干阶之后衰减为小值波动时，什么情况下该看作为相关系数截尾，什么情况下该看作为相关系

30、数在延迟若干阶之后正常衰减到零值附近作拖尾波动呢？ kkkkkkkkkk样本自相关系数和偏自相关系数截尾性的判定nQuenouille证明:在p阶自回归的假设下，n为观测值个数，当kp时， nnNkk,)1, 0(nBartlett证明：在q阶移动平均的假设条件下，n为观测值个数，当kq时，nEviews中上述分布近似为nnNqiik,)21 (1, 012样本自相关系数和偏自相关系数截尾性的判定nnNk,)1, 0(模型定阶经验方法n95的置信区间n模型定阶的经验方法n如果样本(偏)自相关系数在最初的d阶明显大于两倍标准差范围，而后几乎95的自相关系数都落在2倍标准差的范围以内，而且通常由非

31、零自相关系数衰减为小值波动的过程非常突然。这时，通常视为(偏)自相关系数截尾。截尾阶数为d。22Pr0.9522Pr0.95kkknnnn例2.5续n选择合适的模型ARMA拟合1950年1998年北京市城乡居民定期储蓄比例序列。序列自相关图序列偏自相关图拟合模型识别n自相关图显示延迟3阶之后，自相关系数全部衰减到2倍标准差范围内波动，这表明序列明显地短期相关。但序列由显著非零的相关系数衰减为小值波动的过程相当连续，相当缓慢，该自相关系数可视为不截尾 n偏自相关图显示除了延迟1阶的偏自相关系数显著大于2倍标准差之外，其它的偏自相关系数都在2倍标准差范围内作小值随机波动，而且由非零相关系数衰减为小

32、值波动的过程非常突然，所以该偏自相关系数可视为一阶截尾 n所以可以考虑拟合模型为AR(1)例2.8美国科罗拉多州某一加油站连续57天的OVERSHORT序列 序列自相关图序列偏自相关图拟合模型识别n自相关图显示除了延迟1阶的自相关系数在2倍标准差范围之外，其它阶数的自相关系数都在2倍标准差范围内波动。根据这个特点可以判断该序列具有短期相关性，进一步确定序列平稳。同时，可以认为该序列自相关系数1阶截尾n偏自相关系数显示出典型非截尾的性质。n综合该序列自相关系数和偏自相关系数的性质，为拟合模型定阶为MA(1) 例2.9n1880-1985全球气表平均温度改变值差分序列 序列自相关图序列偏自相关图拟

33、合模型识别n自相关系数显示出不截尾的性质n偏自相关系数也显示出不截尾的性质n综合该序列自相关系数和偏自相关系数的性质，可以尝试使用ARMA(1,1)模型拟合该序列参数估计n待估参数n 个未知参数n常用估计方法n矩估计n极大似然估计n最小二乘估计2pq211, ,pq 矩估计n原理n样本自相关系数估计总体自相关系数n样本一阶均值估计总体均值，样本方差估计总体方差111111( ,)( ,)pqp qpqp q 1niixxn2221221211xqp矩估计n原理 用样本矩（如样本均值，样本方差，样本自相关系数）代替相应的理论值，并求相应的方程得到参数的估计。AR(p)模型的矩估计n利用Yule-

34、Walker方程组 02211202112112011pppppppp用 代替 ，得到模型的系数估计。 kkAR(p)模型的矩估计11122111132221231111ppppppp在得到 后，利用下面的结果 12,.,pAR(p)模型的矩估计201 122.pp 得到 201122(1.)pp 例2.10:求AR(2)模型系数的矩估计nAR(2)模型nYule-Walker方程n矩估计（Yule-Walker方程的解）2112121112121112121221MA模型和ARMA的矩估计nMA模型和ARMA模型的矩估计比较复杂，所解方程是非线性方程，系数估计值有多重解，需要利用可逆性取舍。

35、例2.11:求MA(1)模型系数的矩估计nMA(1)模型n方程n矩估计11tttx2201111220111(1)1 12112411例2.12:求ARMA(1,1)模型系数的矩估计nARMA(1,1)模型n方程n矩估计1111ttttxx1111 112011 1211()(1)12 1122122112121,2,242,24,ccccccc对矩估计的评价n优点n估计思想简单直观n不需要假设总体分布n计算量小（低阶模型场合）n缺点n信息浪费严重n只用到了p+q个样本自相关系数信息，其他信息都被忽略n估计精度差n通常矩估计方法被用作极大似然估计和最小二乘估计迭代计算的初始值 极大似然估计n原

36、理n在极大似然准则下，认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数（即联合密度函数）达到最大的参数值 ,);(max),;,(21121kkxpxxL似然方程n由于 和 都不是 的显式表达式。因而似然方程组实际上是由p+q+1个超越方程构成，通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值 ( )Sln 0)(21ln21);(02)(2);(2422SxlSnxl对极大似然估计的评价n优点n极大似然估计充分应用了每一个观察值所提供的信息，因而它的估计精度高n同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质n缺点n需要假定总体分

37、布最小二乘估计n原理n使残差平方和达到最小的那组参数值即为最小二乘估计值 211111)(min)(min)(ntqtqtptpttxxxQQ条件最小二乘估计n实际中最常用的参数估计方法n假设条件n残差平方和方程n解法n迭代法nitititnitxxQ121112)(0,0 txt对最小二乘估计的评价n优点n最小二乘估计充分应用了每一个观察值所提供的信息，因而它的估计精度高n条件最小二乘估计方法使用率最高n缺点n需要假定总体分布例2.5续n确定1950年1998年北京市城乡居民定期储蓄比例序列拟合模型的口径 n拟合模型：AR(1)n估计方法：极大似然估计n模型口径tttxx169. 017.2

38、517.16)(2Var例2.8续n确定美国科罗拉多州某一加油站连续57天的OVERSHORTS序列拟合模型的口径 n拟合模型：MA(1)n估计方法：条件最小二乘估计n模型口径ttBx)82303. 01 (40351. 4929.2178)(2Var例2.9续n确定1880-1985全球气表平均温度改变值差分序列拟合模型的口径 n拟合模型：ARMA(1,1)n估计方法：条件最小二乘估计n模型口径119 . 0407. 0003. 0ttttxx016. 0)(2Var模型检验n模型的显著性检验n整个模型对信息的提取是否充分n参数的显著性检验n模型结构是否最简模型的显著性检验n目的n检验模型的

39、有效性（对信息的提取是否充分）n检验对象n残差序列n判定原则n一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息，即残差序列应该为白噪声序列 n反之，如果残差序列为非白噪声序列，那就意味着残差序列中还残留着相关信息未被提取，这就说明拟合模型不够有效假设条件n原假设：残差序列为白噪声序列n备择假设：残差序列为非白噪声序列0120,1mHm：mkmHk，：至少存在某个1, 01检验统计量nLB统计量221(2)() ( )mkkLBn nmnk例2.5续n检验1950年1998年北京市城乡居民定期储蓄比例序列拟合模型的显著性 n残差白噪声序列检验结果延迟阶数LB统计量P值检验结论65.

40、830.3229拟合模型显著有效1210.280.50501811.380.8361参数显著性检验n目的n检验每一个未知参数是否显著非零。删除不显著参数使模型结构最精简 n假设条件n检验统计量mjHHjj10:0:10)()(mntQamnTjjjj例2.5续n检验1950年1998年北京市城乡居民定期储蓄比例序列极大似然估计模型的参数是否显著 n参数检验结果检验参数t统计量P值结论均值46.120.0001显著6.720.0001显著1例2.8续:对OVERSHORTS序列的拟合模型进行检验 n残差白噪声检验n参数显著性检验检验参数t统计量P值结论均值3.750.0004显著10.600.0

41、001显著延迟阶数LB统计量P值结论63.150.6772模型显著有效129.050.61711例2.9续:对1880-1985全球气表平均温度改变值差分序列拟合模型进行检验 n残差白噪声检验n参数显著性检验检验参数t统计量P值结论16.340)进行预测。这种预测称为以t 为原点，向前步长为l的预测，预测值记为: , 预测误差记为: . ( )tx l( )te l预测函数形式n线性预测函数n预测方差最小原则0 ( )tit iix lC x( )( )min( )t lxttVare lVar e l预测函数形式+l00000 ( )()t litiitit iijt ijit iiijix

42、Gx lC xCGW 100( )( )()ltt ltit l il iit iiie lxx lGGW 预测函数形式n显然，要使预测方差最小，必须n此时，,0,1,2.il iWGi010 ( )( )tl it iiltit l iix lGe lG 预测函数形式n则有112200 ( )0var ( )var,1tlltit l iiiiE e le lGGl 序列分解 111111( )( )t lt lt lltltltttxGGGGe lx l 预测误差预测误差预测值预测值条件期望预测n一个更一般的预测形式是条件期望预测，在线性条件下，两者是一致的。在已知在已知 1,ttx x的

43、期望值称为的期望值称为 的条件下，的条件下， t lxt lx的条件期望，记为：的条件期望，记为： 1(|,)t lttE xx x()tt lE x或或线性条件下条件期望的性质11()()lltjtjjttjjjEa xa E x0() ( )0t ltt ltxlE xx ll0()00t ltt lelE el性质一：性质一：性质二：性质二：性质三：性质三：性质性质1表明：条件期望满足线性运算法则；性质表明：条件期望满足线性运算法则；性质2表明：现在或过去表明：现在或过去观察值的条件期望是其本身，未来取值的条件期望是其预测值；性观察值的条件期望是其本身，未来取值的条件期望是其预测值；性质

44、质3表明：现在或过去的残差的条件期望是它的估计值，未来残差的表明：现在或过去的残差的条件期望是它的估计值，未来残差的条件期望则为零。条件期望则为零。 序列分解 111111( )( )t lt lt lltltttltxGGGGe lx l 1220()( )() ( )tt lltt ltiiE xx lVar xVar e lGAR(p)序列的预测n预测值n预测方差n95置信区间)() 1()( 1plxlxlxtpt22121)1 ()(ltGGleVar12221112 ( )1tlx lzGG例2.14n已知某超市月销售额近似服从AR(2)模型（单位：万元/每月）n今年第一季度该超市

45、月销售额分别为：101，96，97.2万元n请确定该超市第二季度每月销售额的95的置信区间 12100.60.3,(0,36)tttttxxxN例2.14解：预测值计算n四月份n五月份n六月份12.973 . 06 . 010) 1 (233xxx432.973 . 0) 1 (6 . 010)2(333xxx5952.97) 1 (3 . 0)2(6 . 010)3(333xxx例2.14解：预测方差的计算nGREEN函数n方差01102112010.60.360.30.66GGGGGG6416.64)()3(96.48)()2(36)1 (222212032212032203GGGeVar

46、GGeVarGeVar例2.14解：置信区间n公式n估计结果)(96. 1)(,)(96. 1)(3333leVarlxleVarlx预测时期95置信区间四月份（85.36，108.88） 五月份（83.72，111.15） 六月份（81.84，113.35） 例2.5:北京市城乡居民定期储蓄比例序列拟合与预测图 MA(q)序列的预测n预测值n预测方差qlqllxqliiltit,)(qlqlleVarqlt,)1 (,)1 ()(222122121例2.15n已知某地区每年常驻人口数量近似服从MA(3)模型（单位：万）：n最近3年的常驻人口数量及一步预测数量如下：n预测未来5年该地区常住人口的95置信区间1212 . 06 . 08 . 0