信号处理中的数学方法期末试题答案.doc

1、 叙述卡享南洛厄维变换，为什么该变换被称为最佳变换，何为其实用时的困难所在，举例说明其应用。它经常用来处理随机变量信号，能使变换后的分量不相关，且使均方误差最小，所以常称作最佳变换。卡享南-洛厄维变换没有固定的变换矩阵，它依赖于给定的随机向量的协方差阵。正是这种变换的特点，也是它在实际使用时的困难所在，因为它需要依照不固定的矩阵求特征值和特征向量。卡享南-洛厄维变换应用在数据压缩技术中。特别是随着信息时代的发展到第三个阶段-大数据时代，海量的数据每时每刻扑面而来，按照最优化原则的数据压缩技术可以解决通讯和数据传输系统的信道容量不足问题。通过对信号作正交变换，根据失真最小的原则在变换域进行压缩。卡享南-洛厄维变换使这种变换消除了原始信号诸分量间的相关性，从而使数据压缩能遵循均方误差最小的准则实施。2、最小二乘法的三种表现形式是什么？以傅里叶级数展开为例说明其各自的优缺点。希尔伯特空间中线性逼近问题的求解方法称为最小二乘法。它有三种不同的表现形式：投影法、求导法和配方法。下面以傅里叶级数展开为例来说明。投影法：设为希尔伯特空间，为中的一组归一化正交元素，为中的某一元素。在子空间中求一元素，使得 (2-1)由于中的元素可表示为的线性组合，那么问题就转化为求系数，使得 (2-2)投影定理指出了最优系数应满足 (2-3)由此即得。也就是说，当且仅当取为关于归一化正交系的傅立叶系数时式(2-2)成立。求导法：记泛函 (2-4)为了便于使用求导法求此泛函的最小值，将它表为 (2-5)其中。于是最优的应满足即，或。配方法： (2-6) ，以上三种方法都称为最小二乘法。比较起来，从数学理论上讲，投影法较高深，求导法次之，配方法则属初等；从方法难度上讲，求导法最容易，投影法和配方法各有千秋；从结果看，配方法最好，因为它不仅求出了最优系数，而且由配方结果立即可知目标函数的极值。此外，配方法和投影法都给出了达到极小的充分和必要条件，但求导法给出的仅仅是极值的必要条件，如果是极值，还不知道是极大还是极小，故是不完整的。但我们不能简单的说这三种方法谁更好。因为它们实际应用时都有自己的局限性。例如投影法必须把所讨论的最优化问题放到某个希尔伯特空间的框架中去；求导法必须有可行的求导法则，如果未知的变元是向量，矩阵或函数，求导法就不那么直捷了；而配方法则是一种技巧性很强的方法，如果目标函数比较复杂，那么用配方法很相当困难。3、二阶矩有限的随机变量希尔伯特空间中平稳序列的预测问题的法方程称为关于平稳序列预测问题的yule-walker方程，试用投影法和求导法推导该方程。该方程的求解算法称为最小二乘算法，请对这些算法的原理予以描述。下面先介绍什么是随机序列的预测问题：若二阶矩有限的随机变量希尔伯特空间中的序列，记子空间 (3-1)现在的问题是，用中的元素 (3-2)来估计，并使得均放误差最小，也就是求系数使得 (3-3)这个问题就是随机序列的预测问题。下面从投影法和求导法对其进行推导：投影法：根据投影定理，应是在子空间中的投影，即满足 (3-4)根据空间中的正交性定义，上式即为 (3-5)这就是最佳预测的法方程。因为随机序列是平稳的，故式(3-5)可写作 (3-6)其中是该平稳序列的自相关，它满足。方程(3-6)即为Yule-Walker方程，它的分量形式为 (3-7)求导法： 我们先将式(3-3)改写为如下形式 (3-8)进一步推导有 (3-9)利用求导公式，应满足，即。最小二乘算法包括Durbin算法、Levision算法、Levision-Burg算法、托布利兹方程递推算法、Cholesky算法。下面对其算法予以介绍。Durbin算法： 设yule-walker方程的解为： (3-10)yule-walker方程可以写为： (3-11)解3-11方程的Durbin递推算法为：从式（3-12）开始，依次按照式(3-14)和式(3-13)进行递推运算。 (3-12) (3-13) (3-14)Levision算法：解方程（3-15）的递推算法是：从式(3-16)起始，依次按照(3-17)和(3-18)进行递推运算。 (3-15) ， (3-16) (3-17) (3-18)Levision-Burg算法：托布利兹方程递推算法：方程（3-19）的递推算法是：从式（3-20）起始，依次按照式（3-21）、（3-22）、（3-23）和（3-24）进行递推运算。 （3-19） (3-20) (3-21) (3-22) (3-23) (3-24)4、简述卡尔曼滤波以及由其衍生出的 EKF、 UKF 和粒子滤波的原理，指出卡尔曼滤波中Q 阵和 R 阵的确定方法以及对滤波结果的影响，并指出以上这些滤波算法可能的应用。考虑如下形式的线性最佳估计： (4-1)其中AK和KA为待求的矩阵。式(4-1)的含义是现时刻的最佳估计为前一时刻的最佳估计的基础上根据现时刻的观测值做线性修正。这个问题称为卡尔曼滤波。求解前，对噪声作如下假设：1、 噪声wl和vl都是零均值的白噪声序列，且它们互不相关。2、 噪声与过去的状态不相关。卡尔曼滤波算法如下：卡尔曼滤波器分为两个部分：时间更新方程和测量更新方程。时间更新方程负责及时向前推算当前状态变量和误差协方差估计的值，以便为下一个时间状态构造先验估计。测量更新方程负责反馈，它将先验估计和新的测量变量结合以构造改进的后验估计。时间更新方程也可视为预估方程，测量更新方程可视为校正方程。时间更新方程为(4-1)和（4-2）： (4-2)状态更新方程如下： (4-3) (4-4) (4-5)测量更新方程首先计算卡尔曼增益，接着便测量输出以获得，然后产生状态的后验估计。最后按产生估计状态的后验协方差。然后反复迭代整个过程。上一次计算得到的后验估计被作为下一次计算的先验估计。过程噪声的方差Q和测量噪声的方差R的选取的确是和你量测和系统噪声的相关统计特性有关，目前的理论做法是通过对实验数据（量测数据和系统建模）来进行估计，因为量测噪声的统计特性的建模的准确性，系统在不同的环境下表现不同等，都有影响。Q、R的选取是否和实际相符直接影响着滤波的精度,严重时还会导致滤波发散。EKF算法如下：EKF算法是一种近似方法，它将非线性模型在状态估计值附近作泰勒级数展开，并在一阶截断，用得到的一阶近似项作为原状态方程和测量方程近似表达形式，从而实现线性化同时假定线性化后的状态依然服从高斯分布，然后对线性化后的系统采用标准卡尔曼滤波获得状态估计。采用局部线性化技术，能得到问题局部最优解，但它能否收敛于全局最优解，取决于函数的非线性强度以及展开点的选择。假定定位跟踪问题的非线性状态方程和测量方程如下:在最近一次状态估计的时刻，对以上两式进行线性化处理，首先构造如下2个矩阵:UKF算法如下：传统的非线性滤波的方法主要是扩展卡尔曼滤波算法( EKF) ,但是该算法存在着精度不高、稳定性差、对目标机动反应迟缓等缺点. 近年来,提出了一种非线性滤波算法- Unscented卡尔曼滤波(UnscentedKalman Filter,即UKF). 它是根据Unscented变化和卡尔曼滤波相结合得到的一种算法. 这种算法主要运用卡尔曼滤波的思想,但是在求解目标后续时刻的预测值和量测值时,则需要应用采样点来计算. UKF通过设计加权点,来近似表示n维目标采样点,计算这些点经由非线性函数的传播,通过非线性状态方程获得更新后的滤波值 ,从而实现了对目标的跟踪. UKF有效地克服了扩展卡尔曼滤波的估计精度低、稳定性差的缺陷.无损卡尔曼滤波是一种新型的滤波估计算法。UKF以UT变换为基础，摒弃了对非线性函数进行线性化的传统做法，采用卡尔曼线性滤波框架，对于一步预测方程，使用无迹(UT)变换来处理均值和协方差的非线性传递，就成为UKF算法。UT变换如下：（1） 构造sigma点根据随机向量x的统计量 和，构造sigma点集：K为尺度参数，调整它可以提高精度。用这组采样点可以近似表示状态x的高斯分布。(2)对sigma点进行非线性变换对所构造出的点集进行非线性变换，得到变换后的sigma点集：变换后的点集Yi可近似地表示为的分布。(3)计算y的均值和方差对变换后的点集Yi进行加权处理，从而得到输出量y的均值和方差和分别为计算均值方差的加权：其中：。在均值和方差加权中需要确定、和的参数。粒子滤波算法如下：粒子滤波的思想基于蒙特卡洛方法(Monte Carlo methods)，它是利用粒子集来表示概率，可以用在任何形式的状态空间模型上。其核心思想是通过从后验概率中抽取的随机状态粒子来表达其分布，是一种顺序重要性采样法(Sequential Importance Sampling)。简单来说，粒子滤波法是指通过寻找一组在状态空间传播的随机样本对概率密度函数进行近似，以样本均值代替积分运算，从而获得状态最小方差分布的过程。这里的样本即指粒子,当样本数量N时可以逼近任何形式的概率密度分布。尽管算法中的概率分布只是真实分布的一种近似，但由于非参数化的特点，它摆脱了解决非线性滤波问题时随机量必须满足高斯分布的制约，能表达比高斯模型更广泛的分布，也对变量参数的非线性特性有更强的建模能力。因此，粒子滤波能够比较精确地表达基于观测量和控制量的后验概率分布，可以用于解决SLAM问题。应用情况：卡尔曼滤波利用目标的动态信息,设法去掉噪声的影响，得到一个关于目标位置的好的估计。所以在雷达系统中得到了应用，比如目标跟踪，虽然目标的位置、速度、加速度的测量值在任何时候都有噪声。利用卡尔曼滤波可以对对当前目标位置的滤波，也可以是对于将来位置的预测，也可以是对过去位置的估计。当然除了雷达目标跟踪，卡尔曼滤波及其衍生的滤波算法还应用于在交通管制领域中对车或人的视频监控等。EKF和UKF被广泛应用于导航、目标跟踪、信号处理和神经网络学习等多个领域。粒子滤波在经济学领域被应用在经济数据预测；在军事领域已经被应用于雷达跟踪空中飞行物，空对空、空对地的被动式跟踪；在交通管制领域它被应用在对车或人视频监控；它还用于机器人的全局定位。5、 什么是插值？有多少种插值，具体说明样条插值的原理， 举例说明其应用。在有的实际问题中，被逼近函数并不是完全知道的，只是知道其在一些采样点处的数值： (5-1)这时，希望用简单的或可实现的函数去拟合这些数据。如果恰能做到，那么这就为插值。插值有四种：多项式插值，有理插值，指数多项式插值和样条插值。样条插值是使用一种名为样条的特殊分段多项式进行插值的形式。样条插值可以使用低阶多项式样条实现较小的插值误差。样条插值分为线性插值、二次样条插值、三次样条插值等方式。样条插值中三次样条插值运用较多，二次样条插值讨论较少，但实际上二次样条插值的计算量比较少。 因为二次样条函数在连接点处具有一阶导数连续，计算量比三次样条插值函数小很多。下面具体介绍二次样条插值的原理。给定区间一个分割，二次样条函数 满足以下条件: 1、 在每个区间 上 是一个二次多项式； 2、 在每一个内 接点上具有直到一阶的连续导数；3、 在所有节点满足。 在每个小区间上是一个二次多项式，有3个系数，因此要确定 就要确定 个待定参数， 而由， 得到个方程；由得到n1个方程；由 S(xi)=S(xi+)(i =1,2,n1) 得到个方程，总共个方程，为了确定一个特定的样条插值函数，还需增加 1个条件，这个条件通常是在区间的两个端点处给出， 即边界条件。 边界条件根据实际问题的要求来确定，其类型很多， 常见的边界条件类型有：(1) 给定初始端点的一阶导数值； (2) 给定终端点的一阶导数值； (3) 给定初始端点的二阶导数值；(4) 给定终端点的二阶导数值 ；(5) 若插值函数为周期函数时， 此时 ，给定: 。针对上面第 1 种情况讨论二次样条插值问题，其他情况可以类似处理。给定初始端点的一阶导数值：。在区间内，已知 ，和，由 Her