自适应信号处理 课件 ch07最小二乘横向滤波自适应算法

自适应信号处理最小二乘横向滤波自适应算法第七章新工科建设：电子信息类系列教材01递归最小二乘算法递归最小二乘算法第6章讨论了线性最小二乘滤波的基本问题，本章将基于最小二乘准则下的横向滤波器介绍两种典型的自适应算法。首先给出一种最小二乘自适应横向滤波器的递推算法，该算法用1时刻滤波器抽头权向量的最小二乘估计来递推n时刻权向量的最新估计，这种算法称为递归最小二乘(RLS)算法。RLS算法的一个显著特点是它的收敛速度比一般的LMS算法快一个数量级，但是其性能的改善是以其计算的复杂性为代价的。接着，给出一种快速横向滤波(FTF)算法。FTF算法不同于RLS算法，它应用投影技术和向量空间法，通过引入横向滤波算子，利用算子的时间更新关系来实现FTF算法中的4个横向滤波器参数的更新，从而最终达到横向自适应滤波器参数更新的目的。1RLS算法的导出递归最小二乘算法第6章讨论了线性最小二乘滤波的问题及其所满足的正则方程，这里将探讨最小二乘的一种递归实现方式。该方法从给定的初始条件出发，通过应用新的数据样值中所包含的新的信息对旧的估计进行更新，因此其数据长度是可变的，数据的可变长度与当前观测时刻n相对应。而横向滤波器的阶数固定不变，也就是说，这里探讨的是如何通过固定阶数的线性横向滤波器，利用可变长度的数据u(l)，u(2)，(n)对期望响应d(1)，d(2)，d(n)进行递归最小二乘估计的问题。1RLS算法的导出递归最小二乘算法1RLS算法的导出递归最小二乘算法1RLS算法的导出递归最小二乘算法1RLS算法的导出递归最小二乘算法1RLS算法的导出递归最小二乘算法2RLS算法小结02RLS算法的收敛性RLS算法的收敛性1RLS算法的均值RLS算法的收敛性1RLS算法的均值RLS算法的收敛性2RLS算法的均方偏差RLS算法的收敛性2RLS算法的均方偏差RLS算法的收敛性3RLS算法的期望学习曲线RLS算法的收敛性3RLS算法的期望学习曲线RLS算法的收敛性3RLS算法的期望学习曲线03RLS算法与LMS算法的比较RLS算法与LMS算法的比较通过前面对RLS算法及其性能的介绍，下面将RLS算法与LMS算法进行比较，可得出以下结论。(1)比较RLS算法与LMS算法权向量迭代公式，可以看出RLS算法中的增益向量与LMS算法中的作用相似。但是从RLS算法增益向量的表示式可以看出，在该增益向量中与LMS算法中标量相当的是随而变的方阵。这说明RLS算法在不同时刻，权向量的每个元素的调整量均随新数据以不同的步长因子做调整，而不是统一地用同一因子来调整，这表征了RLS算法调整的精细性及利用新信息的充分性。RLS算法与LMS算法的比较(2)在平稳环境下，当迭代次数趋于无限时，RLS算法和LMS算法所得的权向量在统计平均的意义上一致；但是就收敛后的均方误差而言，LMS算法比RLS算法差得多。(3)RLS算法期望学习曲线经过2M次迭代后收敛，其收敛速度比LMS算法快一个数量级。(4)根据RLS算法公式可知，RLS算法每次迭代需要3A/2+3M+l次乘法、1次除法和2M2+2M次加减法，即每次迭代的运算量为而LMS算法每次迭代的运算量为0(M)，因此可以看出相比LMS算法，RLS算法的运算量显著增大。04最小二乘快速横向滤波算法最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器前面给出的递归最小二乘(RLS)算法的主要弊端是运算量大，本节将讨论最小二乘快速横向滤波(FTF)算法。该算法仍是基于最小二乘准则下的横向滤波器结构的，而且与RLS算法一样，滤波器的阶数固定，而FTF算法能够实现对横向滤波器的快速时间更新。其主要原因是FTF算法应用投影技术和向量空间法，通过引入横向滤波算子，利用算子的时间更新关系来实现FTF算法中的4个横向滤波器参数的更新，从而最终达到自适应横向滤波器参数更新的目的。FTF算法利用这种向量间的迭代取代了RLS算法的相关阵的迭代，从而减小了运算量，实现了快速自适应滤波的目的。最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法1FTF算法中的4个横向滤波器最小二乘快速横向滤波算法2横向滤波算子的时间更新上一节定义了组成FTF算法的4个分离的横向滤波器，由它们组合成FTF算法需分两步:(1)确定4个分离的横向滤波器的时间更新公式(2)确定4个分离的横向滤波器相互作用的方式，以便构成所希望的最小二乘自适应算法。而由上一节的讨论我们知道，4个横向滤波器的权向量的时间更新问题最终都归结为相应的横向滤波算子的时间更新问题。这里我们来推导横向滤波算子Ko-(m)和K(n)的时间更新公式。最小二乘快速横向滤波算法2横向滤波算子的时间更新为此，先考虑一般横向滤波算子的分解式。假定U是一个NxM矩阵，u是一个Nx1的列向量。U的M个列向量张成的M维子空间为U，U的投影矩阵是U的正交投影矩阵。将u附加到U的最后一列构成一个nx(M+1)的新矩阵，表示为[U]。由U的M+1个列向量作为基底向量张成的子空间为U，P是U的投影矩阵，H是对U，的正交投影矩阵。U，的横向滤波算子为K下面来推导横向滤波算子K的分解式。最小二乘快速横向滤波算法2横向滤波算子的时间更新最小二乘快速横向滤波算法2横向滤波算子的时间更新最小二乘快速横向滤波算法3FTF算法中的时间更新最小二乘快速横向滤波算法3FTF算法中的时间更新最小二乘快速横向滤波算法3FTF算法中的时间更新最小二乘快速横向滤波算法4FTF算法描述最小二乘快速横向滤波算法4FTF算法描述最小二乘快速横向滤波算法5FTF算法的性能最小二乘快速横向滤波算法5FTF算法的性能现用一个二阶横向自适应滤波器来作为未知系统的模型，或者说用二阶横向自适应滤波器对未知系统进行辨识。具体做法是:将u(m)加在自适应滤波器的输入端，以d(n)作为期望信号使自适应滤波器的输出成为d(n)的最小二乘估计，并假设N=0。显然自适应滤波器的两个权值w(n)和w(n)分别收于a=0。2和a=0。7。采用LMS算法得到的权值