平稳时间序列模型的建立

建模步骤1、建模流程（有限长度）时序样本一模型识别与定阶f模型参数估计f模型适用性检验一模型优化2、基本前提⑴平稳序列{&}⑵零均值序列昭0

流程图第一节时间序列的预处理一、平稳性检验二、纯随机性检验三、计算样本自相关函数四、关于非零均值的平稳序列本章所介绍的是对零均值平稳序列建立A/JMA模型，因此，在对实际的序列进行模型识别之前，应首先检验序列是否平稳，若序列非平稳，应先通过适当变换将其化为平稳序列，然后再进行模型识别.•序列的非平稳包括均值非平稳和方差非平稳.•均值非平稳序列平稳化的方法：差分变接.•方差非平稳序列平稳化的方法：对数变换、平方根变换等.•序列平稳性的检验方法和手段主要有：序列趋势图、自相关图、单位根检验、非参数检验方法等等.

4、平稳性检验一图检验方法（一）时序图检验-根据平稳时间序列均值、方差为常数的性质，平稳序列的时序图应该显示出该序列始终在一个常数值附近随机波动，而且波动的范围有界、无明显趋势及周期特征.（二）自相关图检验1=I-平稳序列通常具有短期相关性•该性质用自相关函数来描述就是随着延迟期数的增加,平稳序列的自相关函数会很快地衰减向零.1=I例题-检验1964-检验1964年平稳性1999年中国纱年产量序列的•蚀-检验1962年1月——1975年12月平均每头奶牛月产奶量序列的平稳性•廊-检验1949——1998年北京市每年最高气温序列的平稳性yearyearyearyear19G019651970197519801985199019952000例例1自相关图例例1自相关图139S139Snarkstwostandarderrors139S139SnarkstwostandarderrorsCovariance21741.10319869.67018336.94516679.64415119.82713234.76811822.36510355.4258597.1716977.22752S2.5893185.4581257.065-717.129-2356.762-3657.864-4675.021-5645.938-GGG2.959-7523.279-8300.856-90G8-912-9409.3751.000000.913920.843420.767190.695450.E08740.543780-476310.395430.320920.242060-146520.05782■•03298・.10840・.16825-.21503--259G9-.30G47・•34E04・•38180--41713・■43279AutocorrelationsCorrelation||CeiftIT®u*M*u*11ce**********^0^0111I|1|^u^u电电1|^u^u虫w1|^U^U^b^UW1■|^u^u1■I■*■■■电■水水*|<D»D<D#!*■■i■i■■■■■i■Lag1011121314151G17IS19蚀蚀自相关图markstwostandarderrorsmarkstwostandarderrors缈时序图timeCovariance10383.5889257.7348080.2896440.6435053.3144445.7133904.8904306.8274716.7615833.6557128.9467980.3338773.2347735.6396621.2695084.6213775.0043176.8492646.8592984.4583328.6594324.9285489.9336265.0326986.088Correiation1.000000.891570.778180.620270.486660.428150.376060.414770.454250.561810.686560•了68550.844910了44990.637670・489680.363550・305950.254910・287420.320570.416520.528710・603360.67280Cutocorrelations生iljiljQj&L|生WWW&Ll生WWW&1a生CEEECI^Lb2ill电a&DlDlIjlIjQjaljahi生电电E弟ni»mCCC邛iT®rprjirpilltlialatlitliCCC弟n»»dCCC生tijiijati>生CCC弟ni«DCWWW&didl1jCEC弟■!■»pCC生iijiijatij生wwa&lbidCCC弟■!■®mCCC弟iT®®T®C2W电Qj&1a生lIjlIj«11atL|生电电WCEE弟ii»>mCCC弟iT®niCEC弟2WWW4*<DtDWWWtii™«■•■■•niCEC弟iT®n«生iljiljQj&Lb«d■■•«Pn»生wwwCCE邛2WWa&1a*T*2WWW&DtDW电W.生WW«&1a生WWW4^allLag0110111213141516172124皴时序图time自相关图自相关图自相关图自相关图CovarianceCorre1ationAutocorrelations-1987G54321012345G7891234567890123452.569604・0-4499G0-0.00910780.4632040.059232・0.4214280.253512・0.0肘559-0.0083274-0-0572470.1489170.095461・0-2677990.2609690.0110G9・0.0692431.00000-.17511-.003540.180260.02305・-1G4000.0986G・■02629・■00324-.022280.057950.03715・-104220.101560.00431・■026眄1■--..111-11111-ww*1TTTt.|111-11岀出*11111-w*1rjirp.|1出1•叩|11111-1111-111-*■*■111-出■*11出*IB'T|1111-w*1111-11*1■片111****|markstwostandarderrors二、纯随机性检验(一)纯随机序列的定义•纯随机序列也称为白噪声序列，它满足如下两条性质(l)EXt=〃，V虫T（二）纯随机性检验检验原理

假设条件检验统计量判别原则应用举例1、检验原理Barlett^^•如果一个时间序列是纯随机的，得到一个观察期数为〃的观察序列，那么该序列的延迟非零期的样本自相关系数将近似服从均值为零，方差为序列观察期数倒数的正态分布1E〜N(O,—)n2、假设条件•原假设：延迟期数小于或等于碉的序列值之间相互独立Ho：Q]=02二…二几=°，如二1•备择假设：延迟期数小于或等于加期的序列值之间有相关性H]：至少存在某4）乙丰0,Vm>Lk<mk=lk=lk=lk=l3、检验统计量力2（加）力2（加）k=l•皿统计量mLB=n(nmLB=n(n+)〜^2(m)3333markstwostandarderrors4、判别原则•拒绝原假设-当检验统计量大于心伽分位点，或该统计量的P值小于Q时，则可以以1-Q的置信水平拒绝原假设，认为该序列为非白噪声序列•接受原假设-当检验统计量小于朮分位点，或该统计量的P值大于Q时，则认为在的置信水平下无法拒绝原假设，即不能显著拒绝序列为允随机岸列葩襪鬼

5、应用举例例4、标准正态白噪声序列纯随机性检验样本自相关图g0123456789012al111LCovariance1.005528-0.0010G47・0.036747-0.00625670.011938-0.025139-0.0144280.0088565・0.010179■0.0拠93-0.024882-0.0140210.035527g0123456789012al111LCovariance1.005528-0.0010G47・0.036747-0.00625670.011938-0.025139-0.0144280.0088565・0.010179■0.0拠93-0.024882-0.0140210.035527Correlation1.00000-.0010G・.036550.01187-.02500-.014350.00881・.01012・-02674-.02475-.013940.03533Autocorrelations|1^1||iT®•T®EmE•T®®T®EEiT®®T®EmiT®m]*!■i*1*!

■!!*检验结果由于P值显著大于显著性水平所以该序列不能拒绝纯随机的原假设.例5、对1950年一1998年北京市城乡居民定期储

蓄所占比例序列的平稳性与纯随机性进行检验year555531markstwostandarderrors555531markstwostandarderrors自相关图□0123456789012a111CovarianceCorrelationAutocorrelations-19876543210123456789130.72552321.58341118.29355714.68430310.08019310.9317179.3182408.9449754.9275411.842114-1.151434-2.369343-1.1302471.000000.702460.595390.477920.328070.355790.303270.291130.160370.05995-.03747-.07711-.0367911111i^b1®^pi®^p®•^p®!*******11ii-11■i-******11■■-*ak*TTvp11i■-*11i*i■*11I.**;11i也1■■111i^g]E帀®®T®EEiT®■T®EFE11I比比士出比比也.TTTFTTT.1212白噪声检验结果统计量检验延迟阶数量的值75.46<0.0001<0.0001

75.46三、计算样本相关函数•样本自相关函数•样本偏自相关函数四、关于非零均值的平稳序列非零均值的平稳序列有两种处理方法：设旺为一非零均值的平稳序列，且有E&冲・方法一:用样本均值元作为序列均值//的估计，建模前先对序列作如下处理：令_wt=xt-x然后对零均值平稳序列叫建模.・方法二在模型识别阶段对序列均值是否为零不予考虑，而在参数估计阶段，将序列均值作为一个参数加以估计.以一般的ARMA^g)为例说明如下：设平稳序列“的均值为“其适应性模型为ARMA(p,q),即：(Xt~“)—％(x?-l—小(Xt-P~“)-at~^\at-\~^2at-2OqQt-q将上式展开得：Xf一昭」竹Jr二％+吗-°1吗_1-°2坷一2恥r此时，所要估计的未知参数有毋旷1个.第二节模型识别与定阶一、模型识别二、模型定阶一、模型识别•基本原则Pk/XOkk选择模型拖尾P阶截尾AR(P)q阶截尾拖尾MA(q)拖尾拖尾ARMA(p,q)•零均值平稳序列模型识别的主要根据是序列的自相关函数(ACF)和偏自相关函数(PACF)的特征.•若序列斗的偏自相关函数九在Qp以后截尾，即时，九=0,而且它的自相关函数。拖尾，则可判断此序列是序列.・若序列“的自相关函数Pk在5以后幽啓5时，pk二0,而且它的偏自相关函数九拖尾，则可判断此序列是MAS）序列•.若序列旺的自相关函数、偏相关函数都呈拖

尾形态，则可断言此序列是ARMA序列•・若序列的自相关函数和偏自相关函数不但都不截尾，而且至少有一个下降趋势势缓慢或呈周期性衰减，则可认为它也不是拖尾的，此时序列是非平稳序列，应先将其转化为平稳序列后再进行模型识别.:、模型定阶模型定阶的困难・因为由于样本的随机性，样本的相关系数不会呈现出理论截尾的完美情况，本应截尾的A或必仍会呈现出小值振荡的情况・由于平稳时间序列通常都具有短期相关性，随着延迟阶数£Tco,A与血都会衰减至零值附近作小卷波疝/X当A或血在延迟若干阶之后衰减为小值波动时,什么情况下该看作为相关系数截尾，什么情况瞬撕蠶錢蘇干阶之后正常衰1、经验定阶方法样本相关系数的近似分布•Barlett介〜N（0,丄）n•QuenouilleQkk〜N0—）MTOOn95%的置信区间22、22、2222>0.95>0.95模型定阶的经验方法-如果样本（偏）自相关系数在最初的P阶明显大于两倍标准差范围，而后几乎95%的自相关系数都落在2倍标准差的范围以内，而且通常由非零自相关系数衰减为小值波动的过程非常突然•这时，通常视为（偏）自相关系数截尾•截尾阶数为p・⑴上海延中实业股票数据识别（一阶差分后）（2）平均每日生产汽车废品数据的识别（沪45）⑶美国女性失业月数据识别（差分后）⑴上海延中实业股票数据识别（_阶差分后）上海延中实业股份有限公司是上海首家向社会公开发行股票的企业.1985年1月底发行股票500万元，其中由上海延中复印工业公司出资30万元•上海延中实业股票收盘价基本反映了沪市股票的大致走向•总观测期n=619,先作出原序列的样本自相关函数和样本偏相关函数，其结果见表1和图1・表1延中股票的样本自相关和样本偏自相关函数值PkPk⑵美国女性失业月数据识别（差分后）美国1961年1月至1985年12月间女性失业月人数时间序列k12345678910—・41・06-・08.06-.09.07-.03,07-.06-•血SLE.06・07・07・07・07.07.07•刃.07•07■%—・41—・41.14—.04一.11—.02—r02-.01•065.06・06.06・0G・06・06■06.06•06LOn0.8-66-0.4-0.2-04).2-4).4--0.6■-0.8-1.0_115i..W!、i«1■A%LO?0.80,6040.2-k0-・0、2--04--0.6--0,8--L0-j.e-j.e-j.e-j.e(3)绿头苍蝇数据k1234Pk.0St.E..8.73-.09」4.04St.E..1a.fi«0.<i-Cl・4a.21LluFiCl・4a.21LluFi-a.4«山・<?568910.12.02,1-.04-.01-.09-.03-.12.07-.05.07-.08.11.11

⑷事故死亡率k12345Pk.8773•57.44.34St.E..5.36.87-.13.15.03.06St.E..7A70A0.4>20-•41.2.-0.4-・1J>kkkk67898.01-.08.38-38-.08-.14.04-.02.07.17.17⑸序列W15它是在卡车生产车间装配线末端最后检验时发现的故障卡车的日平均数，数据由45个日观测值组成k12345pk.8-.09St.E..8.19©kk.43.09,00.00-.16St.E..15.1515.15.15678910-.07-.21-JI-.05=00-.18.07.05-01.15”15.15.15,15pk」hk1.fl11<I>1样本ACF指数衰减,而样本PACF只在1步延迟处有单个大值，这些表明该序列很象是由AR(1)过程产生，2、残差方差图定阶法(1)基本思想•如果拟合的模型阶数与真正阶数不符合，则模型的残差平方和SSE必然偏大，残差方差将比真正模型的残差方差大。•如果是不足拟合，那么逐渐增加模型阶数，模型的残差方差会渐减少，直到残差方差达到最小。•如果是过度拟合，此时逐渐少模型阶数，模型残差方差分逐渐下降，直到残差方差达到最小。(2)残差方差的估计公式模型的剩余平方和实际观察值的个数-模型的参数个数注：式中“实际观察值个数”是指拟合模型时实际使用的观察值项数，即经过平稳化后的有效样本容量。设原序列有n个样本，若建立的模型中有含有自回归AR部分,且阶数为P，则实际观察值个数为n-p个。若没有AR部分，则实际观察值个数即为n个。模型的参数个数指模型中所含的参数个数，如：若是不带常数项的ARMA(p,q)模型，参数个数为p+q个，若带有常数项，则参数个数为p+q+1个。•用Eviews建立ARMA模型后，可直接得至！|

剩余平方和SSE(Sumsquaredresid)•输出结果中也可直接得到残差标准差：S.E.ofregression,此项的平方即为残差方差。因此，对不同的模型残差方差进行比较，直接比较此项既可。例：以磨轮剖面数据为例，分别建立适应性模型，输出结果见图示,从中选择最佳模型。DependentVariable:MLPMDependentVariable:MLPMMethod:LeastSquaresDate:11/10/03Time:22:#250Includedobservations:250afteradjustingendpointsConvergenceachievedafter7iterationsBackcast:-10VariableCoefficientStd.Errort-StatisticProb.C9.3995620.32556728.871360.0000MA(1)0.7841780.05485314.295950.0000MA(2)0.2773720.0568314.8B06570.0000R-squared0.431931Meandependentvar9.418800AdjustedR-squared0.427331S.D.dependentvar3.299021S.E.ofregression2.496530Akaikeinfocriterion4.679608Sumsquaredresid1539.468Schv^arzcriterion4.721866Loglikelihood-581.9510F-statistic93.90319Durbin-Watsonstat1.977248Prob(F-statistic)0.000000InvertedMARoots-.39-.35i-39+.35i

ConvergenceachievedafterBiterationsBackcast:1VariableCoefficientStd.Errort-StatisticProb.C9.3984310.37244825.234180.0000AR(1)0.4240430.0828915.1156660.0000MA(1)0.3617830.0853874.2370000.0000squared0.434789Meandependentvar9.402410AdjustedR-squared0.430194S.D.dependsntvar3.295451S.E.ofregression2.487587Akaikeinfocriterion4.672478Sumsquaredresid1522.270Schwarzcriterion4.714857Loglikelihood-578.723BF-statistic94.61794Durbin-VVatsoristat1.967171Prob(F-statistic)0.000000InvertedARRoots.42InvertedMARoots・.36三个模型残差方差比较£0K10DCSJPOQI6<0$1473.7261539.4681522.272502502502012222462482475.9907566.2075326.16303642.452.492.483、F检验定阶法1=基本思想(以一般情形和ARMA(p,q)模型为例)1=•先对数据拟合ARMA(P,q)模型(假设不含常数项),设其残差平方和为Q。，再对数据拟合较低阶的模型ARMA(p-m,q-s),设其残差平方和为Q】。•建立原假：冷_曲=0,(Pp_m+1=0・•・(pp=00_S+1=0,0q_s+2=°…0=°在原假设成立的条件下有:(Q—0)〜F(m+s,(n-p)-p-q)于是计算统计量F,在给定的显著性水平下（X。若F>F“则拒绝原假设，说明两模型差异是显著的，此时模型阶数存在升高的可能性。若FvFa，此不能拒绝原假设，说明两模型差异不显著,此时模型阶数存在降低的可能性。注：F检验定阶法的应用条件：两模型中有一个为合适模型。4、最佳准则函数定阶法•最佳准则函数法，即确定岀一个准则函数,该函数既要考虑某一模型拟合时对原始数据的接近程度，同时又要考虑模型中所含待定参数的个数。•建模时，使准则函数达到极小的是最佳模4.1赤池的AIC准则和BIC准则4.1.1AIC准则(Akaikeiformationcriterion)AIC准则是1973年由赤池(Akaike)提出，此准则是对FPE准则(用来判别AR模型的阶数是否合适)的推广，用来识别ARMA模型的阶数。•AIC准则函数为：AIC(M)=-2In(极大似然函数)+2MInL=-—In6-^-—(1+lnIn)2a2式中，M为模型中参数的个数。AIC的简化式为：AIC(M)=nln^t+2M式中：是残差方差的极大似然估计值。Eviews输出的Akaikeinfocriterion与上述形式略有羞别（参见Eviewshelp）,其定义为：A[c（m）=一2山（极大似然函数＞*2M_nn其中：n是实际观察值的个数。4.1.2BIC准贝！J•柴田(Shibata)1976年证明AIC有过分估计自回归参数的倾向，于是Akaike又提出了AIC方法的贝叶斯扩展，即BIC。•BIC准则函数为：BIC(M)=nln(y^+C—(Inn)式中：c为常数。余同前。4.2施瓦茨(Schwarz)的SC准则•此准则1978年由Schwarz提出，被称为SBC(Schwartz,sBayesiancriterion)o•准则函数：SBC(M)二-2In(极大似然函数+Mlnn简化式为：SBC(M)=nlnd~a+A/lnn•同样Eviews输出的结果与上形式略有差别，其定义为：5小八-21n(极大似然函数)Minn

SBC(M)=+nn准则函数使用注意=J«■»—1、当样本量趋于无穷时，用AIC准则挑选的最佳模型的阶数往往比真实模型阶数高，而用SBC=J«■»—2、样本量不是很大时，SBC准则的定阶效果不及AIC。第三节模型参数估计一、矩估计二、极大似然估计三、最小二乘估计一、矩估计•原理-样本自相关系数估计总体自相关系数Qi（0i，・・・00，・・・0/）=0i■Pp+qWwepO、…O）=Pp+q/\—jU=X=nn-样本一阶均值估计总体均值，样本方差估计总体方差/\—jU=X=nnl+dj+…+0;T八c八rr1+0：+・・・+0；

例1求AR⑵模型系数的矩估计A1?⑵模型Xt=松兀_]+02兀一2+EYule-Walker方程J°1二01+02°1[°2=0\P\+02•矩估计（WdW皿妙方程的解）01=02/\八01=02/\八202—01缈求胚4⑴模型系数的矩估计•MA(1)模型為二乞-命_1•方程”。二(1+群归；71―久Sc=>P]=——=7/=-Zo1+&1•矩估计g__1+Jl_40j1一2A

廊求ARMA(IJ)模型系数的矩估计•ARMANI）模型xt=0內—1+st•方程X二（01—。1）（1一力101）/o1+&；_2&]0]•矩估计p\Pi=•矩估计p\Pi=0\p\,c<-2,c>20i一A对矩估计的评价•优点-估计思想简单直观-不需要假设总体分布-计算量小（低阶模型场合）•缺点-信息浪费严重•只用到了p+q个样本自相关系数信息，其他信息都被忽略-估计精度差•大似然估计和最小一二、极大似然估计•原理-在极大似然准则下，认为样本来自使该样本出现概率最大的总体。因此未知参数的极大似然估计就是使得似然函数（即联合密度函薮）达到最大的参薮檯厶（01,02,…，灿；西，壬）=max炉（劝;0],02,…

似然方程dQlnQdp宀。dQlnQdp•由于和ln|。都不是p的显式表达式。因而似然方程组实际上是由p+q+1个超越方程构成，通常需要经过复杂的迭代算法才能求出未知参数的极大似然估计值对极大似然估计的评价•优点-极大似然估计充分应用了每一个观察值所提供的信息，因而它的估计精度高-同时还具有估计的一致性、渐近正态性和渐近有效性等许多优良的统计性质•缺点-需要假定总体分布三、最小二乘估计•原理-使残差平方和达到最小的那组参数值即为最小二乘估计值/X0(0)=min0(0)n=min工(旳一0內_]忙—-°\5一\06丿r=i条件最小二乘估计条件最小二乘估计条件最小二乘估计条件最小二乘估计•实际中最常用的参数估计方法•假设条件•假设条件xt=0,?<0・残差平方和方程〜孔72t0(0)=工6=工[“-工心"—1]i=\i=\i=\・解法-迭代法对最小二乘估计的评价•优点-最小二乘估计充分应用了每一个观察值所提供的信息，因而它的估计精度高-条件最小二乘估计方法使用率最高•缺点-需要假定总体分布•确定1950年一1998年北京市城乡居民定期储蓄比例序列拟合模型的口径-拟合模型：AR(1)-估计方法：极大似然估计-模型口径xt=25.17+0.69為_1+J%厂&)=16.17

确定美国科罗拉多州某一加油站连续57确定美国科罗拉多州某一加油站连续57天的OVERSHORTS序列拟合模型的口径-拟合模型：MA(1)-估计方法：条件最小二乘估计-模型口径Xt=-4.40351+(1—0.82303B)冇%厂(&；)=2178929•确定1880-1985全球气表平均温度改变值差分序列拟合模型的口径-拟合模型：ARMANI)-估计方法：条件最小二乘估计-模型口径xt=0.003+0.407兀]+st—0.9科_]=0.016第四节模型检验与优化一、模型检验二、模型的优化一、模型的检验1、模型的平稳可逆性检验•Eviews估计结果直接输出自回归部分所对应的差分方程的特征根:invertedARroot・•移动平均部分所对应的差分方程的特征方程的特征根：invertedMAroot.2、模型的显著性（适应性）检验・目的-检验模型的有效性（对信息的提取是否充分）•检验对象-残差序列•判定原则-一个好的拟合模型应该能够提取观察值序列中几乎所有的样本相关信息，即残差序列应该为白噪声序列.-反之，如果残差序列为非白噪声序列，那就意味着残差序列中还残留着相关信息未被提取，这就说明拟合模型不够有效.假设条件•原假设：残差序列为白噪声序列P\=Pi=・・・=pm=QNm>l•备择假设：残差序列为非白噪声序列H］：至少存在某馆人工°，^加n1，k<m检验统计量•M•M统计量LB-n(nLB-n(n+2)工(k=\〜才（加）•检验1950年一1998年北京市城乡居民定期储蓄比例序列拟合模型的显著性•残差白噪声序列检验结果延迟阶数LE统计量延迟阶数LE统计量65.8221210.21811.3P值检验结论0.3229拟合模型显著有效0.50500.83613、参数显著性检验•目的-检验每一个未知参数是否显著非零•删除不显著参数使模型结构最精简•假设条件H0H0:/3j=0oH「.0j工0VI<j<m•检验统计量T=yjn-m・检验1950年一1998年北京市城乡居民定期储蓄

比例序列极大似然估计模型的参数是否显著・参数检验结果检验参数t统计量P值结论均值46.12<0.0001显著ri6.72<0.0001显著

缈对OVERSHORTS序列的拟合模型进行检验残差白噪声检验延迟阶数LB统计量P值结论63.150.6772模型显著有效129.050.6171参数显著性检验检验参数t统计量P值结论均值-3.75<0.0004显著仇10.60<0.0001显著

蚀对1880-1985全球气表平均温度改变值差分序

列拟合模型进行检验・残差白噪声检验延迟阶数LB统计量P值结论65.280.2595模型显著有效1210.300.4247・参数显著性检验检验参数t统计量P值结论16.34<0.0001显著/ri3.50.0007显著二、模型优化•问题提出-当一个拟合模型通过了检验，说明在一定的置信水平下，该模型能有效地拟合观察值序列的波动，但这种有效模型并不是唯一的•优化的目的-选择相对最优模型

80706050403020蚀拟合某一化学序列raarkstwostandarderrorsraarkstwostandarderrorsraarkstwostandarderrorsraarkstwostandarderrors序列自相关图Autocorrelations1111出|]1********■11-******11♦**-11■*1平.11■**1■11*1■下1■111■*1下.11*1■*11■11■1■11■11■111■**■11*1■*■111-***■111■1