平稳序列参数表征

1、平稳序列参数表征第1页，共80页，2022年，5月20日，7点1分，星期三第一节 平稳序列均值的估计若 为平稳序列，均值函数 与t无关，记为 。记 为序列 的容量为n的样本序列。第2页，共80页，2022年，5月20日，7点1分，星期三 回顾：当 为独立同分布序列时，根据大数定律和中心极限定理，可知 的极限性质。主要有：(1) 相合性 设 是独立同分布的随机变量序列,记 ，则,第3页，共80页，2022年，5月20日，7点1分，星期三 (2) 渐近正态性 设随机变量 相互独立，同分布，且 ,则当 时 的分布趋于标准正态分布，也就是 其中 是标准正态分布N(0,1)的分布函数第4页，共80页，2

2、022年，5月20日，7点1分，星期三 设 是平稳序列 的观测值， 均值函数 的点估计，由下式 表示出， 。第5页，共80页，2022年，5月20日，7点1分，星期三 一 相合性(consistency)定义1.1 设统计量 是 的估计，在统计学中有如下的定义： (1) 如果 ，则称 是 的无偏估计。 (2) 如果当 时， ，则称 是 的渐进无偏估计。 (3) 如果 依概率收敛到 ，就称 是 的 相合估计。 (4) 如果 几乎处处(a.s.)收敛到 ，就称 是 的强相合估计。第6页，共80页，2022年，5月20日，7点1分，星期三 定理1.1 设平稳序列 有均值 和自协方差函数 ，若以 作为

3、 的估计，那么(1) 是 的无偏估计,(2) 若 ，则 是 的相合估计。即当 时，有或(3) 如果 是严平稳遍历序列，则 是 的强相合估计。第7页，共80页，2022年，5月20日，7点1分，星期三 二 中心极限定理-渐近正态(Asymptotic Normality)回顾：如果 是独立同分布序列， 当 时，从中心极限定理知道 依分布收敛到 。利用这个结果可以给出 的置信度为0.95的渐近置信区间： 当标准差 未知和n较大时,可用样本标准差 代替 。可解决有关均值 的假设检验。第8页，共80页，2022年，5月20日，7点1分，星期三 定理1.2 若 其中 为正态白噪声序列，则 渐近正态N(0

4、,v)分布，记作 其中 第9页，共80页，2022年，5月20日，7点1分，星期三 定理1.3 设 是平稳过程 其中 , 是独立同分布的 ，则当 时， 依分布收敛到正态分布N(0,v)，记作 其中或者说 渐近正态分布 。第10页，共80页，2022年，5月20日，7点1分，星期三 注：定理1.3对求关于 的大样本近似置信区间是有用的，如果过程 是平稳Gauss过程，则对有限n, 的精确分布 如果 已知，则上式给出 的精确置信界，如果 未知，有观测值估计量则只能给出近似置信界。第11页，共80页，2022年，5月20日，7点1分，星期三 三 的模拟计算我们考虑标准正态白噪声 和AR(2)模型，

5、从计算机上产生n=1000个观测数据 对于n=1,2,1000分别计算出 ,同时还计算出 的相应样本均值 ，这时真值为 。 第12页，共80页，2022年，5月20日，7点1分，星期三 模拟计算1 当 时， n1030501000.19410.05160.05430.03390.30100.13700.17000.0495 n3005007001000-0.0226-0.0181-0.0140-0.0105-0.0700-0.0613-0.0508-0.0467第13页，共80页，2022年，5月20日，7点1分，星期三 模拟计算2 当 时， n1030501000.23650.12730.1

6、4650.06300.27750.15430.18490.0850 n3005007001000-0.0194-0.0143-0.0206-0.0069-0.0283-0.0205-0.0301-0.0102第14页，共80页，2022年，5月20日，7点1分，星期三第二节 自协方差与自相关函数 的估计一 估计方法根据零均值的平稳序列 的样本值序列 ,估计它的自协方差函数由两种简单方法： (1) (2.1) (2) (2.2)第15页，共80页，2022年，5月20日，7点1分，星期三 两种不同估计的差异(1) 是 的无偏估计，而 不是 的无偏估计(k=0例外),但当 时, 是渐近无偏的。(2

7、) 由(2.1)定义的样本自协方差函数能够使得样本自协方差矩阵 不仅是对称方阵，而且是非负定的。第16页，共80页，2022年，5月20日，7点1分，星期三 定理2.1 设 为零均值平稳序列， 是长度为n的样本， 如(2.1)定义，记 则对任意 ，有 (非负定)。第17页，共80页，2022年，5月20日，7点1分，星期三 注1：在定理2.1中，若 ，则对任意 ， (正定) a.s.注2：对于由(2.2)定义的 ，虽然 是 的无偏估计，但序列 并不像 具有正定性。第18页，共80页，2022年，5月20日，7点1分，星期三 例2.1：设 为平稳序列, 是长度为n=3的样本， 为非零实数，经计算

8、故样本协方差矩阵为取 ，则取 ，则故由(2.2)定义的样本协方差 为不定序列。第19页，共80页，2022年，5月20日，7点1分，星期三 当平稳序列 的均值 不为零时，我们用以下方法估计 的自协方差函数， (2.3) 式中 为 的样本均值。第20页，共80页，2022年，5月20日，7点1分，星期三 在 的估计方法确定后，相应的序列的自相关函数 用以下两种方法估计,即 (2.4) (2.5) 并且称 为样本自相关函数。第21页，共80页，2022年，5月20日，7点1分，星期三 二 的相合性定理2.2 设平稳序列的样本自协方差函数 和 由(2.1),(2.4)定义，则 (1) 分别是 的渐近

9、无偏估计。(2) 分别是 的弱相合估计,即 其中 表示依概率收敛。(3) 如果 是严平稳遍历序列,则对每个确定的k, 和 分别是 和 的强相合估计，即第22页，共80页，2022年，5月20日，7点1分，星期三 注：从这个定理知道，只要 是线性平稳序列，则样本自协方差函数 是渐近无偏估计，特别当 是AR(p),MA(q) 或ARMA(p,q)序列, 是 的渐近无偏估计。第23页，共80页，2022年，5月20日，7点1分，星期三 三. 的渐近分布1. 渐近方差定理2.3 若 为如下的平稳序列 式中 为独立同分布的随机序列，且 ，则(1) 与 的协方差有渐近表达式第24页，共80页，2022年，

10、5月20日，7点1分，星期三 (2) 样本自相关函数 和 的协方差有以下渐近表达式 注：当 为正态序列时， ,从而有第25页，共80页，2022年，5月20日，7点1分，星期三 2 渐近正态分布(中心极限定理)定理2.4 在定理1.6的相同条件下，令对于任意正整数k， 具有联合渐近正态分布，即其中，G为(k+1)阶对称方阵，其i行j列元素 为 第26页，共80页，2022年，5月20日，7点1分，星期三 类似地， 其中R为k阶对称方阵,其i行j列元素 为 （2.6）称(2.6)为Bartlett公式。第27页，共80页，2022年，5月20日，7点1分，星期三 该定理应用的例子：sample3

11、.1例2.2 （独立白噪声） 设 ，如果 ，则 ，由Bartlett 公式， 故，当n充分大时,有 第28页，共80页，2022年，5月20日，7点1分，星期三例:产生样本长度n=400的白噪声序列,样本自相关函数如下图(sample3.1)： 19/20=95%第29页，共80页，2022年，5月20日，7点1分，星期三第30页，共80页，2022年，5月20日，7点1分，星期三 例2.3 对MA(q)序列 ，利用定理知,如果白噪声是独立同分布的，只要mq，由Bartlett公式知,则 于是可作假设检验 ： 是MA(q)下，对mq有第31页，共80页，2022年，5月20日，7点1分，星期三

12、 检验： 使用： q=0,q=1,第32页，共80页，2022年，5月20日，7点1分，星期三 注: 一般地，常用 或 作为与 进行比较，以检验数据由MA(1)过程产生。第33页，共80页，2022年，5月20日，7点1分，星期三 例2.4 (一阶自回归过程) 对平稳AR(1)过程 用Bartlett公式，并注意到 ,则的渐近方差为 当i比较大时第34页，共80页，2022年，5月20日，7点1分，星期三 四. 随机模拟AR(2)模型：其中 为独立同分布正态白噪声。分别利用前100，500，900数据计算 ，结果如图:第35页，共80页，2022年，5月20日，7点1分，星期三 第36页，共8

13、0页，2022年，5月20日，7点1分，星期三 五. 遍历性(Erdogic)一个时间序列的期望和第j个自协方差视作如下意义上的总体平均，即平稳序列 的一个样本是 的一个实现，而不是某个特定时刻t的 的简单抽样，故不能直接引用统计中的大数定律的结果。第37页，共80页，2022年，5月20日，7点1分，星期三 对于从随机序列中得到的样本量为N的实现， ，可计算： 样本均值： (2.7) 样本协方差： (2.8) 它们不是一个总体平均而是一个时间平均。第38页，共80页，2022年，5月20日，7点1分，星期三 一个平稳过程被称作是关于均值遍历的，如果当 时，(2.7)依概率收敛于 。如果一个平

14、稳过程的自协方差满足 则 关于均值是遍历的。一个平稳过程，如果 对所有的j都成立，则称该过程是关于二阶矩遍历的。第39页，共80页，2022年，5月20日，7点1分，星期三 若 是一个正态平稳过程时，条件足可以保证关于所有阶矩的遍历性。物理上的解释： 时间平均=总体平均这一结果表明：求平稳序列的统计特征矩只需序列的一次实现，而不需要多次实现。第40页，共80页，2022年，5月20日，7点1分，星期三 例2.5： 一个平稳的但非遍历的过程设第i个实现 的均值 是由 分布生成的，其中 是独立于 的均值为0，方差为 的正态白噪声过程。第41页，共80页，2022年，5月20日，7点1分，星期三第4

15、2页，共80页，2022年，5月20日，7点1分，星期三 第三节 偏相关函数估计偏相关函数 的估计 的递推公式，第43页，共80页，2022年，5月20日，7点1分，星期三 定理3.1 设 为正态平稳序列，则(1) (2) (3) 当kp时， 的偏相关函数的估计为随机向量 为渐近独立且渐近分布为 ， 为M阶单位阵，M为大于1的任意给定的正整数。第44页，共80页，2022年，5月20日，7点1分，星期三第四节 模型的初步分析一. 独立序列的判别方法(白噪声)设 为独立同分布的随机序列，而且 , 从而 是白噪声序列。 第45页，共80页，2022年，5月20日，7点1分，星期三 1. 白噪声的正

16、态分布检验法 根据 的样本数据列 计算出样本自相关函数 ，它们的误差为 由Bartlett公式，可知其中H的第i行第j列的元素 为，于是有，第46页，共80页，2022年，5月20日，7点1分，星期三 于是对于 j=1,2,k,我们有取m=1时， ，即在 中约有68.3%的点值落在区间 内;取m=2时， ，即在 中约有95.44%的点落在区间 内;取m=3时， ，即在 中约有99.74%的点落在区间 内(称为 原则)。第47页，共80页，2022年，5月20日，7点1分，星期三 换一种角度，令 表示满足下面条件的j的个数(j=1,2,k), 对于原假设 ： 是独立白噪声下，对较大的n，应当有9

17、5%的 小于1.96，所以当取值大于0.05值，应当拒绝 是白噪声的假设。第48页，共80页，2022年，5月20日，7点1分，星期三 例4.1 (1) 样本长度n=400, ，取m=2,这时 第49页，共80页，2022年，5月20日，7点1分，星期三 也可取m=3的检验方法，则第50页，共80页，2022年，5月20日，7点1分，星期三 也可取m=1的检验方法，则第51页，共80页，2022年，5月20日，7点1分，星期三 例4.2 样本长度n=400, AR(1)序列第52页，共80页，2022年，5月20日，7点1分，星期三第53页，共80页，2022年，5月20日，7点1分，星期三

18、例4.3 样本长度n=400, MA(1)序列：第54页，共80页，2022年，5月20日，7点1分，星期三 二. 白噪声的 检验如果 是独立同分布的标准正态随机变量，它们的平方和 服从自由度为k的 分布对于独立同分布的白噪声 ，由样本自相关函数 的中心极限定理，当n充分大后， 近似服从k维标准正态分布，于是， 近似服从 分布，这里第55页，共80页，2022年，5月20日，7点1分，星期三 由于在原假设 下，所以当检验统计量的取值较大时应当拒绝原假设，否则没理由拒绝原假设 。具体地， 给定检验水平 ，查k个自由度的 分布表得到临界值满足 当实际计算结果 时，应当否定 是独立白噪声的原假设,当

19、 时，不能否定 是独立白噪声序列。第56页，共80页，2022年，5月20日，7点1分，星期三 例4.4 （例4.1的续）对于白噪声序列 ，有 故，不能否定原假设。第57页，共80页，2022年，5月20日，7点1分，星期三 对于AR(1)序列 有 故，否定原假设 。第58页，共80页，2022年，5月20日，7点1分，星期三 例4.5 对于AR(1)序列 样本数n=400,重复n=500，得到否定原假设 的比例为，(1) m=5, b0.00.10.20.30.50.70.80.9 p4.5%26%88.5%99.5%100%100%100%100%第59页，共80页，2022年，5月20日

20、，7点1分，星期三 (2) m=20, b0.00.10.20.30.50.70.80.9 p4%13.5%60%96.5%100%100%100%100%第60页，共80页，2022年，5月20日，7点1分，星期三 例4.6 MA(1)序列： ,样本数n=400,重复n=500，得到否定原假设 的比例为，(1) m=5, b0.00.10.20.30.50.70.80.9 p1.5%24%86.5%100%100%100%100%100%第61页，共80页，2022年，5月20日，7点1分，星期三 (2) m=20， b0.00.10.20.30.50.70.80.9 p2.5%11.4%6

21、1%97%100%100%100%100%第62页，共80页，2022年，5月20日，7点1分，星期三 注1. 上述讨论的问题叙述的依据虽然都基于 是独立同分布的白噪声假设，但在实际问题中，这个假设条件可以放宽，即对于假设 ： 是白噪声，一般都可采用上面的方法。注2.在实际问题中，k一般既不能取得过大，亦不能取得太小。一般地，若观测量较多，k可取 或 ，甚至更小；若观测量较小，m可取 。第63页，共80页，2022年，5月20日，7点1分，星期三 二. 周期分量与季节序列的判别方法例4.7：序列其中 为某个平稳线性序列.记 分别表示序列 的样本自协方差函数，于是有经计算，当 时，第64页，共8

22、0页，2022年，5月20日，7点1分，星期三 由平稳序列自相关协方差函数的相合性,当k很大时，有第65页，共80页，2022年，5月20日，7点1分，星期三 例4.8. 北京1990.1-2000.12年的气温序列sample3.5第66页，共80页，2022年，5月20日，7点1分，星期三 样本自相关函数 第67页，共80页，2022年，5月20日，7点1分，星期三 例4.9 序列：Sample3.6第68页，共80页，2022年，5月20日，7点1分，星期三 样本自协方差函数图第69页，共80页，2022年，5月20日，7点1分，星期三 三. 回归趋势与求和模型判别考虑序列包含一个(d-1)次多项式的趋势项，例如序列称上式中 为回归趋势项。并记 分别为 的样本均值，样本自相关函