矩阵分析作业

矩阵分析在信号处理中的应用班级：2010级专业硕士班在二十一世纪，人们普遍认为对人类社会发展最有影响的科学领域将是信息科学和生命科学。事实上，我们确实强烈感受到信息科学的飞速发展对我们日常生活方面的影响，信息科学的发展让世界变成了地球村。概括起来说，信息科学研究的是作为信息载体的信号的获取、存储、传输和处理。可见信号处理是信息科学的核心研究内容之一。信号处理在理论上涉及的范围极其广泛，并不断有新的分支出现。从所处理的信号的性质上来看，可分为确定性信号处理和随机信号处理。确定性信号处理研究的确定性信号的分析、线性滤波、重构，反卷积（线性失真补偿）等。除了大家比较熟悉的线性滤波器设计与实现理论、信号分析的各种快速变换算法等之外，还包括信号重构理论、多抽样率信号处理、小波分析等较新的学科分支。确定性信号处理时随机信号处理的重要理论基础之一。本文就是研究基于确定性信号处理的矩阵分析应用。平稳随机过程的功率谱估计方法可以分为经典谱估计方法和现代谱估计方法。经典谱估计的基本方法包括19世纪末由Schuster提出的周期图法和1949年Tukey根据维纳—辛钦定理提出的自相关法即BT法。现代谱估计方法主要是针对经典谱估计分辨率低和估计质量差提出的，因此也称作高分辨率谱估计。现代谱估计是基于随机信号的参数化模型表示的方法。在现代谱估计中，对未能得到的样本数据或未能估计出来的自相关函数，不是简单地当作零处理，而是与所得到的样本数据服从同一模型。根据谱表示定理，从功率谱等价的角度，规则过程可以用AR、MA或ARMA模型来描述。根据我们所学的信号与系统、数字信号处理等课程中系统的幅频特性与系统零、极点之间的关系，可以明确知道AR模型适合于具有尖峰但没有深谷的谱，MA模型适合于具有深谷但无尖峰的谱，ARMA模型是较通用的，对两种极端情况能够表示的模型。通过建立平稳随机过程的AR模型来获得功率谱估计的方法叫做AR谱估计。历史上，最早提出AR模型并用于时间序列建模的是Yule，他在1927年采用AR建模的方法研究太阳黑子的活动周期。Walker在1931年用最小二乘法建立了自回归模型参数与自相关函数关系的Yule-Walker方程。已知AR过程的前p+1个延迟的自相关函数，就可以解一组线性方程组来确定AR参数。Yule－Walker方程用矩阵形式表示：对于平稳过程，我们知道，自相关矩阵是非负定的，也就是说可能是正定的，也可能是半正定的。但对平稳非可预测过程，可以证明是正定的，即自相矩阵是满秩的。因此，由Yule－Walker方程可以唯一确定出AR系数。再由：可以确定白噪声的方差。一般将这两个方程用矩阵形式联立表示为：无论是p阶自相关矩阵，还是p+1阶自相关矩阵，它们在结构上都有特殊的性质，根据自相关函数的共轭对称性，它们是共轭对称的，即实平稳过程的自相关矩阵是对称的Toeplitz矩阵，而复平稳过程的自相关矩阵是共轭对称的Toeplitz矩阵。正是利用了自相关矩阵的共轭对称Toeplitz结构，Levinson提出了一种快速求解Yule—Walker方程的递推算法并由Durbin进行了改进，这种算法称为Levinson—Durbin算法。对于实际谱估计问题，过程的自相关函数是不可能精确知道的。一般只能得到过程的有限长度观测样本。最简单的AR模型参数估计方法是，在Yule—Walker方程中，用样本自相关函数估计代替自相关函数真值，并求解所得到的Yule－Walker近似方程，也就是说自相关法。具体地说，就是求解以下方程组：以及显然自相关矩阵估计是共轭对称的且具有Toeplitz结构，同时可以验证：因此，是正定的。所以，该方程组可用Levinson递推算结果求解，并且可以保证估计出来的AR模型的稳定性。另一种方法是协方差法。在自相关法中，预测误差功率的估计包含了一些不适当的项。协方差法与自相关法的唯一差别就是在估计预测误差功率时不取那些不适当的项。即前向线性预测误差功率估计为：其中：，，。由前向线性预测误差功率的极小化来估计AR模型的参数，即：为求这个二次函数极小化问题，求关于的导数，并令其等于零，可以得到：即：具体写出来就是：求解这个方程就可以得到。这个方程称为AR参数估计的协方差方程。对应的最小线性预测误差功率估计为：由于，因此，矩阵是共轭对称的，但不具备Toeplitz结构，方程的求解不再可以用Levinson算法。如果x(n)为非可预测过程，矩阵是正定的，因此，可以采用运算量较小的平方根法（Cholesky分解法）来求解。同时，利用由Toeplitz矩阵的乘积构成这一特点，还提出了其它更有效的求解方法。协方差法的缺点是理论上不能保证估计出的AR参数对应于一个稳定的AR模型。但其谱分辨率要优于自相关法。对于AR参数估计和AR功率谱估计的统计性能分析，是件很复杂、很困难的事。AR参数估计方法，AR参数估计值和AR功率谱估计都是样本数据的高度非线性函数，因此，要获得它们的偏差、方差等的一般解析表达式，几乎是不可能的。目前所能得到的仅是假设样本长度N很大情况下的一些近似结果，也即大样本渐近统计特性。在这种情况下，前面所介绍的各种AR参数估计方法都是十分接近的，也即它们有相同的渐近统计特性。设服从AR(p)模型，即其中的零点全部位于复平面的单位圆内，为零均值的独立同分布随机过程即纯白噪声过