非线性时间序列

1、近代时间序列选讲:非线性时间序列页脚二.GARCH模型三.多元时间序列协整模型非线性时间序列非线性时间序列浅释1. 从线性到非线性自回归模型2.第二章.线性时间序列定义的多样性 非线性时间序列模型1.概述2. 非线性自回归模型3. 带条件异方差的自回归模型4. 两种可逆性5. 时间序列与伪随机数 第三章.马尔可夫链与AR模型1 .马尔可夫链2 . AR模型所确定的马尔可夫链3 .若干例子第四章.统计建模方法1 .概论2 .线性性检验3 . AR模型参数估计4 . AR模型阶数估计 第五章.实例和展望1 .实例2 . 展望第一章.非线性时间序列浅释1.从线性到非线性自回归模型时间序列xt是一串随

2、机变量序列， 它有广泛的实际背景，特别是在经济与金 融领域中尤其显著.关于它们的从线性与 非线性概念，可从以下的例子入手作一浅 释的说明.考查一阶线性自回归模型-LAR(l)：Xt=axt-i+et, t=l,2, (1. 1)其中ej 为 i. i. d.序列，且 Eet=O, Eet=CT2<<», 而且et与独立.反复使用(L 1) 式的递推关系，就可得到Xt=axt-i+et=et + axt-i=et + a et-i + axt-2)=et + aet-i + a2 xt-2 =et + aet-i + a et-2(1.2)I I n-1 n+,+ a et

3、-n+i +a xt-n.如果当n78时,(1.3)et+aet-i+a2et-2+ , +4 e t-n+i一Zuj=o°° a%t-j .(1.4)虽然保证以上的收敛是有条件的，而且要涉及到具体收敛的含义，但是，对以上的简单模型，不难相信，当|a|<l时， (L3)(L4)式成立.于是，当|a|<l时,模型LAR(l)有平稳解，且可表达为Xt=Lj=o°° aJet-j .(1.5)页脚通过上面叙述可见求LAR(l)模型的解有简便之优点，此其一.还有第二点，容易推广到LAR(p)模型.为此考查如下的p阶线 性自回归模型LAR(p)：xt=

4、aiXt-i+a2Xt-2+. +apXt-P+et, t=l,2,(1. 6)其中et为 ie i. d.序歹!),且 Eet=O, Eet=CT2<oo,而且et与xt-i, Xt-i,独立.虽然反复使用(L6)式的递推式,仍然可得到(1.2)式的类似结果，但是，用扩后的一阶多元AR模型 求解时，可显示出与LAR(l)模型求解的神 奇的相似.为此记0.(a a a 12p(1.7)10 -0A= , 、0 0 0 ,于是(1. 6)式可写成如下的等价形式:Xt=A Xt-i+ etU.(1.8)反复使用此式的递推关系，形式上仿照 (1.2)式可得Xt=AXt-i+etU=eJJ+ e

5、 t-i AU+A2x t-2二=etU+e t-iAU+e t-2A2U+ +et-n+iAn-1U+AnXw.如果矩阵A的谱半径(A的特征值的最大 模)九(A),满足如下条件%(A)<1,(1.10)由上式可猜想到(1. 8)式有如下的解：Xt=Zk-AkUet.k.(1.11)其中向量X的第一分量&形成的序列xj, 就是模型(1.6)式的解.由此不难看出，它有以下表达方式Xt=Lk=o°°(pket-k.其中系数S由(1.6)式中的8,(X2,.，4 确定，细节从略.不过，(L 11)式给了我们重要启发，即考虑形如Xt=Zk=o°°Y

6、ket-k, Zk=o0°Yk2 < 8, (L 12)的时间序列类(其中系数呼能保证(L 12) 式中的Xt有定义).在文献中，这样的序列 Xt就被称为线性时间序列.虽然以上给出了线性时间序列的定义, 以下暂时不讨论什么是非线性时间序列, 代之先讨论一阶非线性自回归模型NLAR(l),以便与LAR(l)模型进行比较分析.首先写出NLAR(l)模型如下xt=(p(Xt-i) +et, t=l,2, (1. 13)其中ej为i.i.d,序列，且Eet=O, Eet=CT2<oo,而且et与xi,Xt.2,独立，这些假定与 LAR(l)模型相同，但是，中区一1)不再是xi 的

7、线性函数，代之为非线性函数，比如(p(Xt-i) =xt-i/ a+bxt-i2).此时虽然仍可反复使用(1. 13)式进行迭代, 但是所得结果是Xt=(p (Xt-1) +et=et+ <p (Xt-i)=et+ <p ( et-i+ (p (Xt-2)=et+ (p ( et-i+ (p ( et-2+ <p (xt-3)二=et+(p ( et-i+ cp ( et-2+ +(p (xt n) ).(1. 14)根据此式，我们既不能轻易判断(P(Xl)函 数满足怎样的条件时，上式会有极限，也 不能猜测其极限有怎样的形式.对于P阶非线性自回归模型Xt=(p(Xt-1,Xt

8、-2, ,Xt-p) +et, t=l,2,(1. 15)仿照（1.6）至（L9）式的扩的方法,我们引入如下记号Xt-i,Xt-2,，Xt-p)三。（乙一，七一2，改_；、4页脚I 7(1. 16)我们得到与（L 15）式等价的模型Xt 二(XtJ +etU,(L 17)但是，我们再也得不出（1.9）至（L14）式的 结果，至此我们已将看出，从线性到非线性自回归模型有实质性差异，要说清楚它们, 并不是很简单的事情.从数学角度而言, 讨论线性自回归模型可借用泛函分析方法, 然而，讨论非线性自回归模型，则要借用 马尔可夫链的理论和方法.这也正是本讲 座要介绍的主要容.2.线性时间序列定义的多样性现

9、在简单叙述一下非线性时间序列定 义的复杂性，它与线性时间序列的定义有 关.前一小节中（1.12）式所显示的线性时 间序列，只是一种定义方式.如果改变对 系数呼的限制条件，就会给出不同的定义. 更为重要的是，在近代研究中，将U.12） 式中的i.i.d .序列a放宽为平稳鞅差序 列，这在预报理论中很有意义.无论引用哪一种线性时间序列定义, 都对相应的序列的性质有所研究，因为其 研究成果可用于有关的线性时间序列模型 解的特性研究.事实上，已经有丰富的成 果被载入文献史册.依上所述可知，由于线性时间序列定 义的多样性，必然带来非线性时间序列定 义的复杂性.这里需要强调指的是，对于非线性时间序列，几乎

10、没有文章研究它们 的一般性质，这与线性时间序列情况不同.于是人们要问，我们用哪些工具来研究非 线性时间序列模型解的特性呢？这正是本 次演讲要回答的问题.确切地说，我们将 介绍马尔可夫链，并借助于此来讨论非线 性自回归模型解的问题.第二章.非线性时间序列模型1.概论从(1. 12)式可见，一个线性时间序列a,被ej的分布和全部系数曲所决定.在此 有无穷多个自由参数，这对统计不方便，因 此人们更关心只依赖有限个自由参数的线 性时间序列，这就是线性时间序列的参数模 型.其中最常用的如ARMA模型.对于非线 性时间序列而言，使用参数模型方法几乎 是唯一的选择.由于非线性函数的多样性, 带来了非线性时间

11、序列模型的多样性.但 是，迄今为止被研究得较多，又有应用价 值的非线性时序模型，为数极少，而且主 要是针对非线性自回归模型.在介绍此类 模型之前，我们先对非线性时序模型的分 类作一概述.通用假定:kJ为i. i.d.序歹!,且E£t=O, 而且就与反-1, Xt-2,独立.可加噪声模型:(2. 1)Xt=(p(Xt-1, Xt-2)+端, t=l,2,其中(P()是自回归函数.当它仅依赖于有 限个未知参数时，记此参数向量为a,其相 应的1)模型常写成Xt=(p(Xt-i, Xt-2，；a) +加， t=l,2,-(2.2)否则，称1)式称为非参数模型.关于(2. 1)(2. 2)的模

12、型的平稳性，要在下一章讨论，但是，它有类似于线性AR 模型的几个简单性质，是重要的而且容易 获得的，它们是：E(xt|xt-i,Xt-2, )=E(p(Xt-i,xt-2, -)+811Xt-l f Xt-2, 二(p(Xti,Xt2,)+E(£t I Xt-1, Xt-2, )=(p(xt-i,Xt-2, )(2. 3)var xt | Xt-i, Xt-2 , =E xt-(p(Xt-i,)2I Xt-l 9 Xt-2 9 =Eet2|xt-i, Xt-2 ,二 Est2=q2. 4)P(xt<x|xt-i,Xt-2, =P (P(Xt-1, ) +£t<x

13、 I Xt-l, Xt-2, 二 P£t<X-(p(Xt-i, -) |xt-i,Xt-2, ) =F8 (x-(p(Xt-1, ).5)其中凡是琰的分布函数.带条件异方差的模型:Xt=(p(Xt-i,Xt-2, )+S (Xt-i,Xt-2,)£t,t=l,2,(2. 6)其中(P()和S()也有限参数与非参数型 之分，这都是不言自明的.另外，(2.6)式 显然不属于可加噪声模型.但是，它比下 面的更一般的非可加噪声模型要简单得多.这可通过推广(2.3)(2. 4)5)式看出,即有,E(Xt|xt-i,Xt-2,)=E(p(Xt-i,Xt-2,)+S (xt-iXt

14、-2, -)£tXt-1 9 Xt-2 9=(p(Xt-i, Xt-2,)+S(Xt-i, Xt-2, -OEtstlxt-Xt, =(p(xt-l,Xt-2, )3)'var xt I Xt-i, Xt-2 , =Ext-cp(xt-i, I Xt-l 9 Xt-2 ,=E S2 区-1 9 Xt-2 9Xt-2=S2(Xt-1, Xt-2,)Eet2| Xt-1,Xt-2页脚=S2(Xt-1, Xt-2,)。2.(2. 4)'Pxt<x|xt-i,Xt-2, =p(p(xt-i, )+S(Xt-i, - )et<x|xt-i, Xt-2 , =P

15、63;tx-(p(Xt.1,)/S(Xt.1,) =Fe(x-cp(Xt-i,)/S(Xt-i, ).(2. 5”一般非线性时序模型:Xt=|/(Xt-1, Xt-2, ； Ct, £t-i, )t=l,2,(2. 7)其中甲()也有参数与非参数型之区别，这也是不言自明的.显然,7)式既不是可加噪声模型，也不属于6)式的带条件异方差的模型.虽然，它可能具有条件异方 差性质.相反，后两者都是7）式的特殊 类型.虽说7）式是更广的模型形式，在 文献中却很少被研究.只有双线性模型作 为它的一种特殊情况，在文献中有些应用 和研究结果出现.现写出其模型于后，可 供理解其双线性模型的含义Xt2j

16、=i CljXt-j+Xj=i pj£t-j +Si=lPSj=lQ0ij£t-iXt-j.2.非线性自回归模型在前一小节中的1）和2）式就是非 线性自回归模型，而且属于可加噪声模型 类.在这一小节里，我们将介绍几种2） 式的常见的模型.函数后的线性自回归模型:f (xt) =aif(Xt-i) +a2f (xt-2)+. +apf (xt-P) +e(2. 8)t=l,2,其中f(.)是一元函数，它有已知和未知的 不同情况，不过总考虑单调增函数的情况,a=(ai,a2,，ap)。是未知参数.在实际应用 中，&是可获得量测的序列.当f(.)是已知函数时，任区)也是可

17、获得量测的序列，于是只需考虑yt=f(xj所 满足的线性AR模型yt二otiyt-i+a2yL2+ +Opyt-P+£t, t=l,2,-(2.9)此时可不涉及非线性自回归模型概念.在 宏观计量经济分析中，常常对原始数据先 取对数后，再作线性自回归模型统计分析, 就属于此种情况.这种先取对数的方法, 不仅简单，而且有经济背景的合理解释，它 反应了经济增长幅度的量化规律.虽然在 统计学中还有更多的变换可使用，比如 Box-Cox变换，但是，由于缺少经济背景的 合理解释，很少被使用.由此看来，当f(.) 有实际背景依据时，可以考虑使用7)式的模型.当f(.)是未知函数时，f(Xt)不是可

18、量测的序列，于是只能考虑(2. 8)模型.注l=if(.)是单调函数，可记它的逆变换函数为 f 1 (.),于是由8)模型可得xt= f 1 (aif (xt-i)+a2f (Xt-2)+. +Opf(Xt-p) +£t),9”此式属于7)式的特殊情况，此类模型很 少被使用.取而代之是考虑如下的模型xt=aif (xt-i) +a2f(Xt-2)+ +apf (xt-P) +et,(2. 10)其中f(.)是一元函数，也有已知和未知之 分，可不限于单调增函数.此式属于1) 式的特殊情况，有一定的使用价值.当(2.10)式中的f(.)函数是已知时, 此式还有更进一步的推广模型，xt=a

19、ifi(Xt-i, Xt-s) +a2f2(xt-i,，xt-s)+. +apfp(Xt-i, Xt-s) +£t,t=l,2,(2. 11)其中fk()(k=l,2,p)是已知的s元函 数.例如，以后将要多次提到的如下的模型：xt=ail (xt-i<0) xt-i+a2I (xt-i>0) xt-i+fit, t=l,2,-(2. 12)其中1(.)是示性函数.此模型是分段线性 的，是著名的TAR模型的特殊情况.为了有 助于理解它，我们写出它的分段形式：ax +s , x <0,-I 廿,2,好.产名，彳？ 0.请注意，(2.8)(2. 10)和(2.11)式具有一个共同的特征，就是未知参数都以线性形式出现在模型中.这一特点在统计建模 时带来极大的方便.此类模型便于实际应 用.但是，对于Xt而言不具有线性特性, 所以，讨论它们的平稳解的问题，讨论它 们的建模理论依据问题，都需要借助于马尔 可夫链的工具