平稳过程的线性模型

平稳过程的线性模型第一页，共二十九页，2022年，8月28日随机信号的模型“模型”一词常用表示一些假设，这些假设可用于解释或描述组织或约束物理数据产生的内在规律。随机过程用模型表示可回溯到Yule(1972)的一种思想，这种思想就是强相关时间序列u(n)可用独立的随机序列作用于一个线性滤波器产生。通常假设激励是零均值，方差为常数的高斯分布的随机序列。这样的随机序列构成一个纯随机过程，通常指高斯白噪声

第二页，共二十九页，2022年，8月28日一般地，随机过程模型时域的关系可描述如下：第三页，共二十九页，2022年，8月28日3.1有理分式模型有里分式模型是应用最为普遍的线性模型，该模型的系统函数为有理式根据分子分母的具体情况，有理分式模型可以分为：AR模型——自回归模型MA模型——滑动平均模型ARMA模型——自回归滑动平均模型第四页，共二十九页，2022年，8月28日3.1.1ARMA模型（autoregressivemovingaverage）一类很重要的随机过程可以用有理传递函数建模。这类随机信号在实践中经常会出现。有理传递函数模型也通常用于其它类型的随机过程的近似表示。用有理传递函数表示的随机过程可以通过白噪声驱动具有有理传递函数的系统产生。第五页，共二十九页，2022年，8月28日ARMA(p,q)的系统函数H(z)为：可以看出，ARMA模型的系统函数H(z)既有极点，又有零点，故，ARMA模型又称为零-极点模型此为ARMA模型的差分方程第六页，共二十九页，2022年，8月28日这里是零均值，功率为的白噪声。这样的随机过程叫做自回归滑动平均（autoregressivemovingaverage--ARMA）。就是自回归参数，叫做动平均参数。为了明确地指出分子分母的阶数，我们叫这样的随机过程为ARMA(p,q)。有趣的是，如果ARMA过程x(n)作为滤波器的输入，我们就可将驱动噪声恢复出来。这个逆滤波器是ARMA的“分析滤波器”。第七页，共二十九页，2022年，8月28日下图表明ARMA过程是如何通过一个白噪声的输入产生的。

图ARMA(p,q)随机过程模型（这里p=q）习惯上将用于产生ARMA过程的系统H(z)叫做ARMA的“综合滤波器”。

第八页，共二十九页，2022年，8月28日3.1.2MA模型（movingaverage）如果去掉滤波器的自回归部分，即除外，其它所有的都等于0，并且假设，则输入和输出的关系为记作MA(q)，则产生MA(q)过程的系统的传递函数为则功率谱密度为这意味着功率谱可简记为第九页，共二十九页，2022年，8月28日传递函数B(z)称为MA过程的“综合滤波器”。它是一个q阶全零点滤波器。下图绘出了MA过程的模型。驱动噪声可以用时间序列x(k)作用于全零点滤波器，即分析滤波器恢复出来。

图MA(q)随机过程模型第十页，共二十九页，2022年，8月28日3.1.2AR模型（autoregressive）最后，如果去掉ARMA模型的滑动平均部分,即除外，所有的全为零，剩余部分叫做自回归模型，记为AR(p)。对于AR(p)过程有产生AR(p)过程的系统传递函数为则功率谱密度为这意味着功率谱可简记为第十一页，共二十九页，2022年，8月28日传递函数A(z)即为AR过程的综合滤波器，可以看出它是一个P阶的全极点滤波器。下图描述AR过程模型。则可以利用时间序列x(n)作用于滤波器来恢复驱动噪声，这个滤波器被称为分析滤波器。

图AR(p)随机过程模型第十二页，共二十九页，2022年，8月28日3.1.4三种模型系数间关系实际中，我们常常会关心谱的估计。这将在本书以后章节中介绍。功率谱估计问题是从随机过程单个样本的有限测量集来估计随机过程的功率谱。有两类重要谱估计方法：非参数法和参数法。非参数法不作有关过程的假设。而仅是建立在测量的基础上。这种方法同模型法比性能较差。参数法假设随机过程的模型（MA、AR、ARMA），谱估计以模型参数的推导为基础，这其中一个基本问题是：哪一个模型更合适，是MA、AR还是ARMA？第十三页，共二十九页，2022年，8月28日

Wold分解定理和Kolmogorov-Szego定理都给我们提供了随机过程不同有理传递函数模型间的重要关系。由Wold分解定理可知，AR模型或ARMA模型可用一个可能是无穷阶MA模型表示。Kolmogorov-Szego定理暗示MA模型或ARMA模型可用一个可能是无穷阶AR模型表示。这些结果是很重要的，因为如果模型选错，我们也可获得一个很好的近似。例如，如果我们正企图用AR模型建立一个ARMA(p,q)模型，只要你选择足够大的AR模型的阶数，那么结果仍然是可以接受的。第十四页，共二十九页，2022年，8月28日3.2平稳随机信号通过线性系统从前面的研究可以看出，三个模型都可以看作是白噪声通过一个线性系统的输出3.2.1平稳随机信号通过线性系统的定理设：x(n)通过一线性移不变系统h(n)后输出为y(n)则有：如果x(n)是确定性信号，则：如果x(n)是一平稳随机信号，则y(n)也是平稳随机信号。由于随机信号不存在傅立叶变换，所以需要从相关函数和功率谱的角度来研究随机信号通过线性系统的行为第十五页，共二十九页，2022年，8月28日1.相关卷积定理若则：也就是说，卷积的相关等于相关的卷积

两边求傅立叶变换：根据维纳—辛钦定理和相关定理（式），由上式得即输出自功率谱等于输入自功率谱与系统能量谱的乘积第十六页，共二十九页，2022年，8月28日2.输入输出互相关定理输入、输出序列的互相关等于输入自相关与系统单位抽样响应的卷积即输入输出序列互功率谱等于输入序列自功率谱与系统频率响应的乘积对实信号：（）（）第十七页，共二十九页，2022年，8月28日由式（）或（）可得系统幅度谱：或将式（）除以（）可得相位谱：这里系统频率响应为互相关和功率谱反映了随机序列通过线性系统前、后的关系。这种关系与系统有关，因而可以直接用来测量系统的特性。例如：测定系统频率响应和单位抽样响应。第十八页，共二十九页，2022年，8月28日3.均值定理输出随机序列的均值等于输入随机序列的均值与系统零频率（直流）响应的乘积，即证明（略）第十九页，共二十九页，2022年，8月28日白噪声激励线性模型根据谱分解定理，任何平稳随机信号x(n)都可以看成是白噪声w(n)激励一个因果稳定的可逆系统H(z)产生的输出，如图3.1所示：w(n)x(n)图3.1平稳随机信号模型第二十页，共二十九页，2022年，8月28日3.3AR模型的正则方程与参数计算什么是正则方程（normalequation)：就是在均方误差（MSE）最小准则下建立的模型参数与相关函数的关系。AR模型应用最为广泛：1）AR模型可借助线性方程获得2）三种模型在一定条件下可以互相转换3）实际可直接或经变换后采用AR模型第二十一页，共二十九页，2022年，8月28日尤勒-沃克(Yule-Walker)方程如前所叙述的那样,p阶AR模型的系统函数为而系统的输出可表示为:第二十二页，共二十九页，2022年，8月28日根据上式,可以得到均方误差与系统增益G以及AR系数的关系.由:,有:分别把各项代如上式.可得:第二十三页，共二十九页，2022年，8月28日在最小均方误差(MMSE)准则下,要使得预测值最佳地逼近x(n),参数ai的选择应使由式(3.3.8)可得:联立上面三式.可得即:第二十四页，共二十九页，2022年，8月28日可得AR模型的正则方程即尤勒-沃克(Yule-Walker)方程第二十五页，共二十九页，2022年，8月28日AR模型与线性预测讨论假定AR模型的系统增益G=1,激励白噪声的方差为待求量,则AR模型的系统函数为:第二十六页，共二十九页，2022年，8月28日(1)AR模型的逆滤波器是预测误差滤波器

第二十七页，共二十九页，2022年，8月2