非平稳模型估计

1、第四节 求和模型与季节模型 的处理方法一. 求和模型ARIMA的识别与拟合1. 求和模型的识别方法方法一 直接观察数据图形的方法：根据数据 画出数据曲线图，通过观察曲 线的形状，可初步判别是否需要拟合求和模型。 例：数据1 数据2 数据3 数据4 方法二. 数据样本自相关函数分析法：当序列含有趋势项时，序列的样本自相关函数 的尾部不衰减到零值，特别地，所含趋势项为多项式时， 将近似于常数为1的序列。 例：序列1 样本自相关函数： 序列2 序列2样本自相关函数 序列3 序列3的样本自相关函数 另外，还可从数据的来源判断使用求和模型的合理性。2. 判断求和模型ARIMA(p,d,q)的阶数d对AR

2、IMA(p,d,q)模型的研究焦点是对差分阶数d的判别。d的判别方法：(1) 用动态数据 的实际背景来确定。若数据围绕着某条曲线变化，而此曲线是近似线性的，则判断差分阶数d=1,若此曲线可由二次多项式近似，则判断阶数d=2,一般地，若该曲线可由d次t的多项式逼近，则可对原序列 作d次差分 ，而 可按平稳序列建模。 (2) 采用数据处理的方法：对原动态数据 分别作j次差分， ，连同原数据共有D+1套 动态数据，然后对每套数据求出样本自相关函数和样本 偏相关函数为 ,综合分析它 们的截尾性或拖尾性，最后判定为何种模型，再建立相 应的模型。 2. 求和模型的拟合步骤1：判断p值，对原数据进行d次差分

3、运算，即 (4.1) 例：当d=2时， 为 的二次差分序列，即， 步骤2：根据差分后的数据序列 按照前几节的方法，拟合AR、MA、ARMA模型，包括模型参数的估计以及对阶数p,q的估计，即 (4.2) 结合(4.1)和(4.2)，得到ARIMA(p,d,q)的拟合模型为， (4.3)步骤3：对拟合求和模型 的检验：即是检验 是否符合(4.2)的模型，亦是对拟合后的残差进行白噪声检验. 步骤3：对拟合求和模型 的检验：即是检验 是否符合(4.2)的模型，亦是 对拟合后的残差进行白噪声检验。 例：某国1960年至1993年GNP平减指数的季度时间序列。要求对序列进行模型识别。(sample12)

4、第一步：判断差分阶数d=1,对数据 进行一阶差分 第二步：对差分后序列进行ARMA模型拟合。观察样本自相关函数和偏相关函数，初步判断为AR模型。使用AIC定阶准则和最小二乘估计方法。判断阶数p=2, ,即 拟合后的残差图 第三步：拟合模型的检验：采用正态检验， 于是，拟合模型为： 二. 季节模型的识别与拟合季节ARMA模型： 其中T是周期， 是某个ARMA(p,q)模型的特征多项式，实际问题中T经常的取值是4，7或12。 星期一二三四五六日一周二周n+1周 上述表中的每一列都可以看成一个时间序列，将数据(4.5)的第j列零均值化 (4.6) 其中 (4.7)首先，用数据(4.6)建立模型： (

5、4.8)其中 在相隔T步上为白噪声序列，而相隔小于T步时是相关的，即其次， 仍为平稳序列，故需对 建立ARMA(p,q)模型， (4.9)其中 对季节内外为白噪声序列，将(4.9)代入(4.8),得到季节ARMA 模型， (4.10) 季节模型(4.10)实际上是一个ARMA(p+7P，q+7Q)模型，只是其中又很多的系数是零。季节模型的拟合方法：第一步：设 是数据 的样本自协方差函数，利用 拟合一个 模型： 要求这个模型通过模型检验；第二步：利用 拟合一个 模型：要求这个模型通过模型检验。于是， 为了得到更精确的估计，可将模型看作疏系数的ARMA模型，使用前几节的ARMA模型参数的极大似然估

6、计方法或最小二乘估计法估计模型(4.10)中的参数。 例：北京市1990.1-2000.12气温数据（sample6） 差分运算 观察序列tempx1的样本自相关函数和偏相关函数，建模ls tempx ar(1) ar(2) ma(1) ma(2) sar(12) sma(12) 残差检验 三. 乘积模型的拟合如果时间序列既具有趋势项又具有周期项，需采用乘积模型来拟合。在上例中如果每一列的数据需要经过差分后才能进行季节ARMA模型的拟合，模型将改写为， 称之为乘积模型 . 实际问题中，d和D的取值一般很小，例如：D=0或1。季节模型 实际上是一个乘积模型 。 一种简单的乘积模型： (4.11)

7、 其中T为某一正整数，表示周期。 为某一平稳可逆的ARMA(p,q)序列。(1)模型的拟合 在T和D已知时，首先对 进行差分变换 (4.12) 其中， 满足故，只需对 拟合形如(4.1)的求和模型，就可得到模型(4.11)的参数估计。(2) T和D的取值判断 a. T表示周期，它有较明显的物理背景，可根据数据的实际背景确定T的大小 b. D的确定，可使用逐步尝试的方法。即对D=1,2逐一尝试，并拟合(4.11),若模型检验通过，则确定该值为D的取值。 例：航空客流量数据。 数据的预处理： (1) xx=log(x) (2) cx=xx-5.542193 模型的建立：对数据cx: 对数据dcx进

8、行一次差分运算 对数据ddcx建立模型：使用最小二乘估计方法，得到ls ddcx ma(1) ma(2) ma(3) 模型的残差检验： 结论：客流量的模型为 另一种方法建模：观察序列ddcx的样本自相关函数和偏相关函数。ls d(log(x),1,12) ar(1) ar(2) ar(3) ma(1) sar(12) sma(12)ls ddcx ar(1) ar(2) ar(3) ma(1) sar(12) sma(12)ls d(log(x),1,12) ar(1) ar(3) ma(1) sar(12) sma(12)ls d(log(x),1,12) ar(3) ma(1) sar(1

9、2) sma(12)ls d(log(x),1,12) ar(3) ma(1) sar(12) sma(12) 1. 设 为零均值平稳序列，由它的长度为N=100的样本算得样本自相关函数 及样本偏相关函数 的前6个数值如下又知 ，试求：(1) 为哪种模型，并说明理由。(2) 对模型参数和白噪声方差给出矩估计。(3) 判断所建立的模型是否具有平稳性（或可逆性），并给出模型的传递形式（或逆转形式） k123456-0.8000.670-0.1580.390-0.3100.221-0.8000.0850.112-0.046-0.0610.038 2. 全国城镇居民储蓄额年数据序列 的建模。下表给出1

10、952年至1991年储蓄额年数据(亿元)8.612.214.316.922.427.925.147.351.139.231.435.644.852.357.759.862.361.064.573.385.194.1105.8114.6122.2135.1154.9202.6282.5354.1447.3572.6776.61057.81471.52067.62659.23734.85192.66790.9 第五节 疏系数自回归模型 的处理方法疏系数自回归模型： (5.1)其中， 为白噪声序列，且 ， 为未知的正整数足标值，为未知参数。这里不假定任何平稳性条件成立。 一. 参数估计令其中 表示矩

11、阵 的第s列矢量，它们的定义为 使用上述记号，(5.1)可简写为 (5.2）其中的P应比 大，但比样本长度n要小得多。于是，当 已知时，(5.2)式中参数的最小二乘估计为： 二. 足标 的估计取定足标上界P,根据数据 拟合如下模型： (5.3)满足 条件的(5.3)共有 个，使用前述的最小二乘估计法，获得这个疏系数自回归模型参数估计，继而得到 个 使用AIC准则： 或BIC准则：求出：或从而确定 的估计。第六节 回归与自回归混合模型 的处理方法一. 并联形式混合回归模型的拟合方法 (6.1) (6.2)其中， 为白噪声序列，且 , 参数 满足平稳性条件。 为非随机的可观测的自变元。比如：它们可

12、为多项式，三角函数等。 对(6.1)的统计分析可分为两种情况：一种是在(6.1)中残差项 的协方差阵给定的情况下，对回归系数 的统计分析；另一种是，已知 的模型具有AR形式，其阶数和参数未知，或阶数已知，而参数未知。 1. 模型回归系数 的估计考虑如下形式的回归模型： (6.3)其中 为非随机的可观测的自变元， 为未知的自回归系数矢量, 为零均值的残差，并假定它的协方差阵已知，记为 。 令于是(6.3)的矩阵形式为 (6.4) (1) 模型参数 的最小二乘估计： （6.5）性质：(I) 是 的无偏估计；(II) 误差 其协方差阵为 (2) 线性最小方差无偏估计线性最小方差无偏估计是线性无偏估计

13、类中方差阵最小的估计，记 。它必须具备如下三个条件：线性性质：即 ，H为矩阵；无偏性：即 ，等价于最小方差性：即对其他满足上述两条件的估计 都有， 经计算，线性最小方差无偏估计 为 (6.6)且最小方差为 (6.7) (3) 两种估计的比较 (I) 和 都是线性的，都是 的无偏估计；(II) 的优点是在计算时不需要知道 的协方差阵。(III) 线性最小方差无偏估计的优点是在不同的无偏估计中误差的方差最小。(IV) 当 时, 2. 并联混合模型的分步识别方法第一步： 根据所给数据，由(6.5)给出 的最小二乘估计，即第二步： 求出(6.2)的拟合残差序列，即将 视为 的样本值序列，用第一节方法对

14、它们进行自回归拟合，包括对模型参数、阶数的估计，以及对拟合模型的检验。 第三步 若检验通过，以此拟合模型作为对(6.2)式的拟合，连同上述对 的估计 完成对(6.1),(6.2)的拟合。 例：产生模型： 的n=500个样本值，拟合该时序数据。 模型的拟合：首先使用最小二乘估计方法对 进行传统的回归分析： 对回归后的残差进行自回归建模： 模型的检验：对拟合后的最终残差作白噪声检验，这里采用正态检验 16/20=80% 结论：拟合模型为： 二. 串联形式混合模型的拟合方法 (6.8)令 则(6.8)可简写为： (6.9) 于是 的最小二乘估计为 (6.10)残差项 的方差 的估计为， 当(6.8)

15、中的p未知时，可应用AIC准则确定适当的p值：p的估计 ，满足 例：由序列 , 为标准正态白噪声，产生n=500个样本值，拟合该数据 采用最小二乘估计得到： 残差的检验： 结论：拟合的模型为 三. 序列相关与ARMA模型1. 序列相关理论与检验涉及时间序列的回归模型，残差序列自相关较常见。模型形式： (6.11) (6.12)其中， 是t时刻所观测的解释变量向量； 为随机扰动项，称为非条件残差； 为改进的随机扰动项，称为一期提前(one-period-ahead)预测误差； 是前期已知变量向量，可包括 的滞后项； 为参数向量。 残差序列的自相关检验方法：1）. 相关图与Q统计量 即检验序列任意滞后期的自相关和偏相关系数与0有无显著差异。2）. LM(Lagrange Multiplier)检验 该检验可对包含ARMA误差项的模型残差序列进行高阶的自相关检验，并允许存在因变量的滞后项。检验假设为：其中，p=maxr,q 对(6.11)中的非条件残差建立辅助回归方程： (6.13)利用方程(6.13)的决定系数 构造LM检验统计量：其中，n是计算辅助回归时的样本数据的个数。在零假设下，LM统计量由渐进的 分布。对于给定的显著水平 和自由度