自适应信号处理 课件 ch04改进型最小均方自适应算法

自适应信号处理改进型最小均方自适应算法第四章新工科建设：电子信息类系列教材01归一化LMS算法归一化LMS算法1第3章讨论的LMS算法中存在着失调与收敛速度的矛盾。在保证滤波器具有一定的失调性能的情况下，如何缩短收敛过程就成为一个值得研究的问题。本章将给出几种用于提高收敛速度、缩短收敛过程的改进型LMS算法。提高LMS算法收敛速度的基本思路主要有三种。（1） 采用不同的梯度估值。如LMS牛顿算法，它在估计梯度时釆用了输入向量相关矩阵的估值，使得收敛速度大大快于基本LMS算法，因为它在迭代过程中采用了更多的有关输入信号向量的信息。基于约束优化问题求解归一化LMS算法归一化LMS算法1（2） 对收敛因子（步长）选用不同方法。步长的大小决定着算法的收敛速度和稳态时失调量的大小。对于步长取常数值来说，收敛速度和失调量是一对矛盾量。而采用变步长的方法可以克服这一矛盾。自适应过程开始时，选用较大的步长以保证较快的收敛速度，然后让步长逐渐减小，以保证收敛后得到较小的失调量，如归一化LMS算法。（3） 釆用变换域分块处理技术。对用滤波器权向量来调整修正项的迭代方式，可以用变换域快速算法与分块处理技术来大大减小计算量，且能改善收敛特性，如频域内的快速块LMS算法。LMS牛顿算法在第3章己经介绍，下面分别来介绍归一化LMS算法和快速块LMS算法。基于约束优化问题求解归一化LMS算法归一化LMS算法1归一化LMS算法滤波器的结构形式与LMS算法滤波器完全一样，都是横向滤波器。在第3章讨论的基本LMS算法中，1次迭代中滤波器抽头权向量的修正项包含三项：步长参数日、抽头输入向量，估计误差。由于滤波器抽头权向量修正项与抽头输入向量成正比，因此，LMS算法的梯度噪声将被放大。釆用归一化LMS算法可以克服LMS算法的这一缺点。最陡下降算法的基本思想归一化LMS算法1在归一化LMS算法中，1次迭代中滤波器抽头权向量的修正项被抽头输入向量的平方欧氏范数归一化。本节将从约束优化问题的角度来导出归一化LMS算法。归一化LMS算法的基本思想遵循滤波器设计的最小化干扰原理。滤波器设计的最小化干扰原理为：自适应滤波器权向量从一次迭代到下一次迭代的过程中应以最小方式改变，而且受到更新的滤波器输出所施加的约束。最陡下降算法的基本思想归一化LMS算法1最陡下降算法的基本思想归一化LMS算法1最陡下降算法的基本思想归一化LMS算法1LMS算法权向量的修正项被抽头输入向量的平方欧氏范数归一化。相比于基本LMS算法权向量的迭代公式，则可以把归一化LMS算法视为变步长的LMS算法。由于归一化LMS算法在LMS算法随机梯度估计的基础上相对于抽头输入向量的平方欧氏范数进行了归一化，因此无论是对于不相关数据还是对于相关数据，归一化LMS算法都比基本LMS算法有更快的收敛速度。最陡下降算法的基本思想归一化LMS算法2归一化LMS算法小结归一化LMS算法2除归一化LMS算法外，还有两种改进型LMS算法：时域正交LMS(TDO-LMS)算法和修正LMS(MLMS)算法，都属于可变步长的LMS算法，可以缩短自适应收敛过程的时间。感兴趣的读者可参阅相关文献。归一化LMS算法小结02块LMS算法块LMS算法1块自适应滤波器图4-1给出了块自适应滤波器的结构框图。输入数据序列通过串-并转换器被分成长度为的块，产生的输入数据块被一次一块地加到长度为M的横向滤波器。在收集到每一块数据样值后进行滤波器抽头权值的更新，使得滤波器的自适应一块一块地进行，而不是像基本LMS滤波器那样一个一个样值地进行。块LMS算法1块自适应滤波器块LMS算法1块自适应滤波器块LMS算法2块LMS算法描述块LMS算法2块LMS算法描述块LMS算法2块LMS算法描述块LMS算法2块LMS算法描述块LMS算法3块LMS算法的收敛性块LMS算法4块LMS算法块长度的选择块LMS算法的块长度[存在三种可能的选择，每种选择都有各自的实际应用。这三种可能选择分别如下。(1)L=M，从计算复杂性来看，这是最佳选择。(2)L<M，这种情况具有降低处理延迟的好处。此外，由于块长度小于滤波器长度，因此此时还有自适应滤波器算法的计算效率优于LMS算法的优点。(3)L>M，会产生自适应过程的冗余运算，因为此时梯度向量的估计使用了比滤波器本身更多的信息。在大多数实际应用中，人们更多地使用L=M的块自适应滤波情况。03快速块LMS算法快速块LMS算法块LMS算法的关键问题在于如何釆用有效的计算方式来实现该算法。块LMS算法滤波器的输出运算为滤波器的抽头输入信号与抽头权值的线性卷积；块LMS算法权向量修正项的主要运算为滤波器抽头输入信号与误差信号的线性相关。而根据数字信号处理相关理论可知，快速变换(FFT)可以实现快速卷积和快速相关运算。因此，利用FFT在频域上可以完成块LMS算法。用这种方式实现的块LMS算法称为快速块LMS(FBLMS)算法。首先考虑线性卷积。利用FFT计算线性卷积有两种方法：重叠保留法和重叠相加法。其中重叠保留法更