毕业设计--自适应滤波器及其应用仿真

1、本科毕业设计（论文）自适应滤波器及其应用仿真*燕 山 大 学2013年6 月 本科毕业设计（论文）自适应滤波器及其应用仿真学 院：信息科学与工程学院专 业：电子信息工程 学生姓名：* 学 号：* 指导教师：* 答辩日期：2013.6.24 燕山大学毕业设计（论文）任务书学院：信息科学与工程学院 系级教学单位：电子与通信工程系 学号*学生姓名*专 业班 级题目题目名称自适应滤波器及其应用仿真题目性质1.理工类：工程设计 （ ）；工程技术实验研究型（ ）；理论研究型（ ）；计算机软件型（ ）；综合型（ ）2.文管理类（ ）；3.外语类（ ）；4.艺术类（ ）题目类型1.毕业设计（ ） 2.论文（

2、）题目来源科研课题（ ） 生产实际（ ）自选题目（ ） 主要内容自适应滤波器是信号处理中一个重要的环节，包括自适应滤波器结构和自适应滤波算法。课题主要研究常用的自适应滤波结构和三种经典的自适应滤波算法：最小均方误差(LMS)算法，归一化最小均方误差(RLS)算法和递归最小二乘(RLS)算法。在理论原理的基础上使用Matlab仿真工具对算法进行仿真分析。基本要求1 掌握自适应滤波的基本理论2 研究三种经典自适应滤波算法：LMS, RLS和NLMS算法的基本原理及性能3 学习掌握使用Matlab仿真软件并对算法进行仿真分析。参考资料1 郝金.自适应滤波器原理(第四版).西安工业出版社.20102

3、燕山大学数字图书馆.中国期刊全文数据库优秀硕博论文周 次第14周第58周第912周第1316周第1719周应完成的内容收集资料，熟悉课题内容，设计思路程序设计与调试程序设计、分析、调整、以及程序优化实验结果整理及总结论文书写，课题总结，答辩指导教师：*职称：副教授 2013年3月4 日系级教学单位审批：胡正平 2013年3月6 日摘要摘要自适应滤波器的研究是当今自适应信号处理中最为活跃的研究课题之一。因其具有很强的自学习、自跟踪能力和算法的简单易实现性等优点，使得它在噪化信号的检测增强，噪声干扰的抵消，通信系统的自适应均衡，图像的自适应增强复原以及未知系统的自适应参数辩识等方面都得到了广泛的应

4、用。自适应滤波器是指利用前一时刻的结果，自动调节当前时刻的滤波器参数，以适应信号和噪声未知或随机变化的特性，得到有效的输出。研究自适应滤波器可以去除输出信号中的噪声和无用信息，得到失真较小或者完全不失真的输出信号。本文介绍了自适应滤波器的理论基础，重点讲述了自适应滤波器的几种实现结构，然后重点介绍了三种自适应滤波算法:最小均方误差(LMS)算法,归一化最小均方误差(NLMS)算法和递推最小二乘(RLS)算法，并对LMS算法，NLMS算法和RLS算法性能进行了详细的分析。其中LMS算法结构简单，鲁棒性强，但其收敛速度很慢，NLMS算法是LMS算法的改进算法，而RLS收敛速度快，但其运算量很大。最

5、后本文对基于LMS算法，NLMS算法和RLS算法的自适应滤波器进行Matlab仿真应用。实验表明：在自适应信号处理中，自适应滤波信号占有很重要的地位，自适应滤波器应用领域广泛；另外LMS算法和RLS算法各有优缺点，LMS算法因其鲁棒性强特点而应用于自回归预测器，而RLS算法因其收敛速度快优点而应用于信号增强器中。关键词自适应滤波器； LMS算法； NLMS算法；RLS算法I 燕山大学本科生毕业设计（论文）AbstractThe adaptive filter is one of the most active research topic in adaptive signal processi

6、ng today. Because it has a strong self-learning, self-tracking capabilities and algorithms simple ease of implementation, etc., making it in the detection in the noise of the signal enhancement, noise offset, communication systems, adaptive equalization, adaptive image enhanced recovery and unknown

7、adaptive parameter identification have been widely used.Adaptive filter using the results of the previous time, automatically adjust the filter parameters for the current time to adapt to the characteristics of signal and noise is unknown or random variation, the effective output. Study the adaptive

8、 filter can remove noise and useless information output signal distortion smaller or completely losing the true output signal. This paper first introduces the theoretical basis of the filter, Secondly, to highlight several of the adaptive filter structure, and then focuses on three adaptive filterin

9、g algorithm minimum mean square error (LMS) algorithm, normalized least mean square(NLMS) algorithm and recursive least square (RLS ) algorithm, LMS algorithm simple structure, robustness, but its convergence is very slow, while the RLS convergence speed, but its computational complexity. Finally, e

10、xperiments show that: MATLAB simulation applications based on the LMS algorithm ,NLMS algorithm and RLS adaptive filter algorithm in adaptive signal processing, adaptive filtering signal occupies a very important position in the widespread applications of adaptive filters; LMS algorithm advantages a

11、nd disadvantages and RLS algorithm, LMS algorithm because of its strong robustness features used in autoregressive predictor, while the RLS algorithm is its fast convergence speed advantages applied to the signal enhancer.Keywords adaptive filter; LMS algorithm; NLMS algorithm; RLS algorithmII 目 录摘要

12、IAbstractII第1章 绪论11.1 课题研究背景及意义11.2 国内外发展现状与前景11.3 论文研究思路及主要工作2第2章 自适应滤波器的基础理论42.1 自适应滤波器的基本理论42.2 自适应滤波器的结构62.3 自适应横向滤波器72.3 本章小结8第3章 自适应滤波算法93.1最小均方误差(LMS)算法93.2最小均方误差(LMS)算法的性能分析113.3归一化最小均方误差(LMS)算法133.4归一化最小均方误差(LMS)算法的性能分析153.5递归最小二乘(RLS)算法153.6递归最小二乘(RLS)算法的性能分析183.7自适应算法的分析比较193.8 其他自适应滤波算法2

13、0 3.8.1 仿射投影法20 3.8.2 共轭梯度算法21 3.8.3 基于子带分解的自适应滤波算法213.9 本章小结22第4章 基于Matlab的自适应滤波器仿真244.1Matlab语言简介244.2基于LMS算法的自适应滤波器仿真254.3基于NLMS算法的自适应滤波器仿真294.4基于RLS算法的自适应滤波器仿真324.5本章小结34结论35参考文献36致谢38附录139附录245附录350附录455 III第1章 绪论 第1章 绪论1.1 课题研究背景及意义滤波技术在当今信息处理领域中占有相当重要的作用。滤波是从连续或离散的输入数据中去除噪音和干扰以提取有用信息的过程，所使用的装

14、置称为滤波器。滤波器实际上是一种选频系统，它对系统需要的频率给与很小的衰减，使其顺利通过，而对系统不需要的频率施加很大的衰减，尽可能地阻止这些不需要的频率通过。滤波器研究的目的就是考虑如何设计和制造最佳或最优的滤波器。伴随着信息数字化和通信事业的迅猛发展，自适应滤波技术在数字信号处理中的应用范围也日夜扩大。在数字信号处理中，数字滤波是语音和图像处理、模式识别、频谱分析等应用的一个基本处理算法。在很多场合，由于没法事先知道信号或者噪声的特性或者它们是随时间变化的，仅仅使用FIR和IIR两种具有固定滤波系数的滤波器无法实现滤波的最佳或最优化。在这种复杂情况下，必须设计自适应滤波器以跟踪信号和噪声的

15、变化。自适应滤波器是利用前一时刻已获得的滤波器参数来自动调节、更新当前时刻的虑波器参数，以适应信号和噪声的未知统计特性，从而实现最优滤波的。在未知统计特性的环境下处理观测信号，利用自适应滤波器的自动调节和跟踪特性可以获得令人满意的结果，其性能远远超过用一般通用方法设计的固定参数滤波器。1.2 国内外发展现状与前景自适应滤波算法的基本理论经过几十年的发展已日趋成熟，近几年来自适应滤波器的研究主要针对算法与硬件实现。算法研究主要是对算法速度和精度的改进，其方法大多采用软件C、MATLAB、FPGL等仿真软件对算法建模及修正。通常，自适应滤波器的硬件实现都是采用DSP通用处理器（如TI的TMS320

16、系列）。DSP采用改进的哈佛结构，具有独立的程序和数据空间，允许同时存取程序和数据，内置高速的硬件乘法器（MAC），增强的多级流水线。DSP具有的硬件乘法模块（MAC），专用的存储器及适用高速数1第1章 绪论 据运行的总线结构，使DSP器件具有高速的数据运算能力。目前，用DSP器件处理数字信号已成为电子领域的研究热点。在自适应信号处理领域，对于数据处理速度在几兆赫以内的，通用DSP也是首选。迟男等人在TMS320C32芯片上扩展EPROM和RAM，实现了30阶LMS自适应滤波器。使用的A/D转换器件为AD1674，最高采样频率为100KHZ。陆斌等人采用的TMS320C30数字信号处理器与IM

17、SA110专用滤波器并行处理的方法设计出了自适应滤波器并应用于直接序列的扩频接收系统1221。在数据处理速度只要求在几兆赫以内的应用场合，这些用DSP实现的自适应滤波器能很好的满足系统的实时要求。但随着信息化的进程加快和计算机科学与技术、信号处理理论与方法等的迅速发展，需要处理的数据量越来越大，对实时性和精度的要求越来越高。系统的功能越来越强大，但对数据传送与处理的速率要求也越来越高。常用的数字系统目标器件除了DSP以外还有专用集成电路（ASIC），专用标准电路模块（ASSP）和现场可编程门阵列（FPGA）。其中Hesener提出的用FPGA实现自适应滤波器的设想，并在FPGA上实现了处理速度

18、可达SM的8阶8位FIR滤波器。国内有一些关于自适应算法硬件实现的研究，但基本是针对自适应滤波器中的算法，如南开大学李国峰博士的博士论文用VHDL语言描述了正负数的运算问题和浮点数运算问题完成了基于FIR的LMS自适应滤波器的硬件设计和逻辑综合。1.3 论文研究思路及主要工作本文的主要研究思路如下：第一章：先阐明自适应滤波器的背景与研究意义，重点讲述了自适应滤波器的实用意义，然后探讨了目前国内外研究发展现状与前景。第二章：阐述自适应滤波器的基础理论，介绍了自适应滤波器的几种实现结构并重点讲述自适应横向滤波器中最常使用的横向滤波器结构。第三章：前述一章的基础上，详细讲述了三种自适应滤波算法，即最

19、小均（LMS）算法，归一化最小均方误差(NLMS)算法和递推最小二乘（RLS）算法，并且就这些算法进行了比较，另外还简要介绍了其他的自适应算法。第四章：基于前述三种算法，即LMS算法，NLMS算法和RLS算法的自适应滤波器进行MATLAB应用仿真实验，进一步通过实验表明自适应滤波器应用领域广泛，并且LMS算法和RLS算法各有优缺点，它们各有自己适用的范围。本文的主要工作如下：（1）阅读大量有关自适应滤波算法的中英文文献，并研究自适应滤波器的设计原理；（2）阅读大量有关MATLAB关于自适应滤波器设计方面的书籍，了解各种自适应滤波算法；（3）通过对两种最常见的自适的滤的算法LMS算法和RLS算法

20、的深入研究，了解它们各自的优缺点和各自的适用场合；（4）在MATLAB环境下，基于上述两种算法的自适应滤波器进行仿真实验，通过实验进一步论证之前提出的基础理论。 第2章 自适应滤波器的基础理论2.1 自适应滤波器的基本理论所谓自适应滤波，就是利用前一时刻已获得的滤波器参数等结果，自动地调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。所谓“最优”是以一定的准则来衡量的，最常用的三种准则是最小均方误差准则,归一化最小均方误差准则和最小二乘准则。最小均方误差准则是使误差的均方值最小，它包含了输入数据的统计特性，准则将在下面章节中讨论；最小二乘准则是使误差的平方

21、和最小，它也将在下面的章节中详细讨论。对信号处理而言，信号滤波是其共同特点，以便从观测信号中提取需要的信息。自适应滤波器有调整自己的能力，它的最大特点是时变性和自调整性。调整的目的是为了达到最优，或保持接近最优，也就是是滤波器输出中的噪声效应在某种准则下达到最小。实际中广泛应用的是线性自适应滤波器。需要注意的是，自适应的调整过程是时变的和非线性的。但是，当调整过程结束、自动调整过程不再进行时，如果自适应滤波器为线性系统，就称它为线性自适应滤波器。自适应滤波器的主要性能指标是收敛速率、失调、计算复杂度、结构模块化和数值特征。自适应滤波器由数字结构、自适应处理器和自适应算法三部分组成。数字结构是指

22、自适应滤波器中各组成部分之间的联系。自适应处理器是数字滤波器（FIR或IIR），所不同的是，这里的数字滤波器是参数可变的。自适应算法则用来控制数字滤波器参数的变化。自适应滤波器可以从不同的角度进行分类，按其数字结构可以分为开环自适应滤波器和闭环自适应滤波器；按自适应处理器（参数可变得数字滤波器）可以分为非递归自适应滤波器和递归自适应滤波器；按其自适应算法可以分为LMS自适应滤波器、NLMS自适应滤波器、RLS自适应滤波器等等。而在数字结构，自适应处理器和自适应算法中，自适应算法是核心，所以将在第三章中详细介绍三种常见的自适应算法，即LMS算法、NLMS算法和RLS算法，并对它们进行比较，另外简

23、要介绍其它的自适应算法即优化改进37第2章 自适应滤波器的基础理论 的自适应算法。自适应滤波器实际上是一种能够自动调整本身参数的特殊维纳滤波器，在设计时不需要预先知道关于输入信号和噪声的统计特性或者它们的变化规律，它能够在工作过程中逐步了解或估计出所需的统计特性，并以此为依据自动调整自身的参数，以达到最佳滤波效果。自适应滤波器的特性变化是由自适应算法通过调整可编程滤波器系数来实现的。一般而言，自适应滤波器由可编程滤波器(滤波部分)和自适应算法(控制部分)两部分组成。可编程滤波器即参数可调的滤波器，自适应算法对其参数进行控制以实现最佳滤波工作。可编程滤波器可以是FIR横式滤波器、IIR横式滤波器

24、以及格型滤波器。图2-1给出了自适应滤波器的一般结图2-1 自适应滤波器的结构图构原理图，其中输入信x(n)通过可编程滤波器后产生输出信号(或响应)y(n)，将其与参考信号d(n)进行比较，形成误差信号e(n)，并以此通过某种自适应算法对滤波器参数进行调整，最终使得e(n)的均方值最小。根据滤波器的输出端信号与输入端信号之间的函数关系，自适应滤波器可以分为线性自适应滤波器和非线性自适应滤波器。由于线性自适应滤波器和相应的算法具有结构简单、计算复杂性低的优点，分析和实现容易，而广泛应用于自适应信号处理系统中;非线性自适应滤波器具有更强的信号处理能力，在神经网络和模糊神经网络有着明显的优势，具有通

25、过监督学习逼近未知非线性输入输出映射的能力。但由于非线性自适应滤波器的计算较复杂，硬件实现比较困难，实际用得最多的仍然是线性自适应滤波器。线性自适应滤波器的结构可以是FIR型结构，也可以是IIR型结构。尽管IIR结构的滤波器能够以很小的复杂度来实现和FIR滤波器相同的功能，但IIR型滤波器在自适应处理过程中，极点移出单位圆之外时，就会使滤波器产生不稳定。所以在实际应用中一般都采用FIR型结构，主要是因为:FIR结构的自适应技术实现更容易，其权系数的修正就是滤波器性能的调整，同时 FIR结构的滤波器是绝对稳定的，具有更好的鲁棒性，这也更适合实时嵌入式应用。通常一个稳定的IIR滤波器总是可以用足够

26、多阶的FIR滤波器来近似代替，用FIR型结构作为自适应滤波器的结构具有广泛的应用空间。一个自适应的FIR滤波器的结构，可以是横截型结构，对称的横截型结构以及格型结构。其中横截型结构是大多数应用情况下所采用的最主要的自适应滤波器结构，它可应用所有FIR滤波器，具有形式简单，易于实现等特点，并可以用流水线提高性能;对称的横截型结构可满足符合对称性条件的FIR滤波器，具有权系数少，计算量小的特点，并可以用流水线提高性能，但收到对称性条件的约束;格型结构具有收敛速度快，稳定性好，对系数量化精度要求不高的特点，但计算量大，不容易实时实现，只能部分实现流水线。2.2 自适应滤波器的结构 自适应滤波器的结构

27、与算法有着密切的联系，因为自适应滤波器既要估计滤波器能实现期望信号的输出，又要估计滤波参数朝有利于目标方向的调整，并保证滤波器的稳定工作。同时，结构的选取不仅会影响到计算复杂度(即每次迭代的算术操作数)，还会对达到期望性能标准所需的迭代次数(自适应收敛的时间)产生影响。另外，不同的结构还有特定的应用场合，需要根据实际环境来选择相应的结构和算法。自适应滤波器根据其冲击响应的形式一般分为有限冲击响应自适应滤波器(FIR )、自适应格型滤波器和无限冲击响应自适应滤波器（IIR)三种结构。其中自适应FIR滤波器又称为横向滤波器;自适应格型滤波器基本单元的形状类似于FFT中的蝶形单元，系数隐含在反射系数

28、中，形式上相比横向滤波器要复杂一些;自适应递归滤波器具有IIR的结构形式，由于存在反馈，系统的稳定性和鲁棒性是设计自适应递归滤波器时需要注意的主要问题。2.3 自适应横向滤波器横向滤波器(transversal filter)，也称抽头延迟线滤波器或有限脉冲响应滤波器，它由图2-2所示的三个基本单元构成：(a)：单位延迟单元；(b)：乘法器；(c)：加法器。滤波器中延迟单元的个数确定了脉冲响应的持续时间。延迟单元个数(如图中N-1所示)，通常称为滤波器的阶数。滤波器中每个乘法器的作用是用滤波器系数(也称为抽头权值)乘以与其相连的抽头输入。于是，连接到第k个抽头输入u(n-k)的乘法器产生的输图

29、2-2 横向滤波器结构图出，其中，是抽头权值，k=0,1，N-1，星号表示复数共轭。这里假设抽头输入和抽头权值都是复数。滤波器中加法器的合并作用是对各个乘法器输出求和，并产生总的滤波器输出。对于图2-2所示的横向滤波器，其输出为 (2-1)上式叫做有限卷积和，因为它将滤波器的有限脉冲响应与滤波器输入u(n)卷积以便产生滤波器的输出y(n)。自适应横向滤波器是研究所有自适应滤波算法的基本结构，由于其结构简单、成本较低，也是工程领域最常用的一种自适应滤波器。2.3 本章小结本章描述了自适应滤波器相关的基础理论，包括自适应处理的概念及其与普通滤波器的区别，相比普通滤波器，它具有更强的自适应能力和跟踪

30、特性，能在随机变化的信号或者噪声的处理中达到滤波的相对最优，适应复杂的信号处理环境。紧接着介绍了自适应滤波器的一般结构，它主要由两部分构成：滤波结构和自适应算法。在滤波结构上，经典自适应滤波器选择横向滤波器进行滤波；自适应算法是自适应滤波器中最主要的部分，它决定了设计出的自适应滤波器的收敛速度、事变跟踪特性以及滤波误差等。在各种自适应滤波器的结构中，重点介绍了横向自适应滤波结构，它是经典滤波器采用的最多的滤波器结构。第3章 自适应滤波算法 第3章 自适应滤波算法3.1最小均方误差(LMS)算法该算法是一种广泛使用的理论算法,由其创始人Widrow和Hoff(1960)命名为最小均方(LMS,l

31、east-mean-aquare)算法。LMS算法是随机梯度算法族中的一员，该算法在随机输入维纳滤波器递归计算中使用确定性梯度。LMS算法的一个显著特点是它的简单性。此外，它不需要计算有关的相关函数，也不需要矩阵求逆运算。正是因为LMS算法的简单性，使得它成为其他线性自适应滤波算法的参照标准。LMS算法是线性自适应滤波算法。一般来说，它包含两个基本过程：1) 滤波过程(filtering process) 包括：(a)计算线性滤波器输出对输入的响应；(b)通过比较滤波器输出结果与期望信号产生估计误差信号。2) 自适应过程(adaptive process) 根据估计误差以最小均方准则自动调整滤

32、波器参数以达到最优滤波。这两个过程一起工作组成一个反馈环，如图3-1所示。首先，我们有一个横向滤波器(围绕它构造LMS算法)；该部件的作用在于完成滤波过程。图3-1 自适应横向滤波器框图其次，我们有一个对横向滤波器抽头权值进行自适应控制过程的算法，即图中标明的“自适应控制算法”部分。横向滤波器各部分的细节如图2-2所示。抽头输入u(n)，u(n-1)，u(n-N+1)为M×1抽头输入向量u(n)的元素，其中M-1是延迟单元的个数。相应的，抽头权值,为M×1抽头权向量的元素。通过LMS算法计算这个向量所得的值表示一个估计，当迭代次数趋近无穷时，该估计的期望值可能接近维纳解(对

33、于广义平稳过程)。在滤波过程中，期望相应与抽头输入向量一道参与处理。在这种情况下，给定一个输入，横向滤波器产生一个输出作为期望相应的估计。因此，我们可把估计误差定义为期望相应与实际滤波器输出之差。在如图2-2所示结构中，横向滤波器的输出为 (3-1)其中，为抽头权向量，为横向滤波器输入向量，T表示转置矩阵，n表示时间指数。这个式子就是有限脉冲响应滤波器的形式，为和的卷积。自适应算法使用误差信号 (3-2)为期望信号。使用输入向量和估计误差来更新自适应滤波器的标准最小化相关系数。自适应滤波器的控制机理是使用误差信号按照某种准则和算法对其权值系数进行调节，最终使自适应滤波的目标(代价)函数最小化，

34、以达到最优滤波状态。本节所用的标准是最小均方误差(MSE)即 (3-3)LMS算法的核心思想是用平方误差代替均方误差。算法的基本关系式是： (3-4)其中，是自适应步长，也称收敛因子，决定了收敛速度和稳定性。满足如下条件： (3-5)是R的最大特征值。R为输入矩阵的自相关函数 (3-6)综上所述，LMS算法的计算步骤如下：(1) 初始化：令所有权重唯一固定值或零。(2) 由现在时刻n的滤波器滤波系数矢量估值w(n)，输入信号矢量x(n)及期望信号d(n)，计算误差信号e(n):(3) 利用递归法计算滤波权值向量的更新值。 将时间指数增加1，回到第二步骤，重复上述计算步骤，一直到稳定状态为止。由

35、此可见，自适应LMS算法简单，它既不需要计算输入信号的相关函数，又不要求矩阵之逆。因而得到了广泛的应用。3.2最小均方误差(LMS)算法的性能分析LMS算法的性能准则是采用瞬时平方误差性能函数代替均方误差性能函数，其实质是以当前输出误差、当前参考信号和当前权系数求得下个时刻的权系数。其输出信号,输出误差及权系数的计算公式为： (3-7)k为迭代次数，M为滤波器的阶数。式中，表示参考信号的信号矢量： （3-8）、分别表示第时刻的输出信号与输出误差，W(k)表示k时刻权系数矢量。表示LMS算法步长收敛因子。自适应滤波器收敛的条件是： (3-9)其中是输入信号的自相关矩阵R的最大特征值。的选取必须在

36、收敛速度和失调之间取得较好的折中，既要具有较快的收敛速度,又要使稳态误差最小。它控制了算法稳定性和自适应速度，如果很小，算法的自适应速度会很慢；如果很大，算法会变得不稳定。由于LMS算法结构简单、计算量小、稳定性好，因此被广泛应用于系统辨识、信号增强、自适应波束形成、噪声消除以及控制领域等。在最小均方差(LMS)算法中，步长因子的取值对算法的性能有着非常重要的影响，这些影响包括：算法的稳定性、算法的收敛速度、算法的扰动和失调。以下我们针对在这三方面的影响分别进行讨论。为减小失调，需要设置较小的步长因子，这会使算法的收敛速度降低，这构成了一对矛盾。因此在考虑算法的总体性能时，必须在这两个性能之间

37、加以折中。从收敛速度的角度考虑，步长因子应该尽可能大，但较大的取值却会加重算法的失调。LMS算法采用瞬时的采样值对梯度进行估计，由于噪声的影响，总会是会伴随着估计的误差，这将对算法带来直接的影响。这些影响主要表现为算法的失调，而失调的严重程度，则和的取值存在直接关系。失调是指由于梯度估计偏差的存在，在算法收敛后，均方误差并不无穷趋近于最小值，而是呈现出在最小值附近随机的波动特性，而权值亦不无穷趋近于最优权值，而是在最优权值附近呈现随机的波动。关于LMS算法的收敛速度，将讨论两点：第一，对一个特定的信号环境，收敛速度和步长因子有何关系。第二，信号环境本身的特性，对收敛速度有何影响。从收敛速度的角

38、度考虑，步长因子应该尽可能大，再看信号环境，即的特性对算法收敛性能的影响如果当特征值的分布范围较大，即最大特征值和最小特征值之比较大时，公比的取值幅度也将比较大，算法的总的收敛速度将会变得比较慢。传统的LMS算法确实结构简单、计算量小且稳定性好，因此被广泛地应用于自适应控制、雷达、系统辨识及信号处理等领域。但是固定步长的LMS自适应算法在收敛速率、跟踪速率及权失调噪声之间的要求是相互矛盾的，为了克服这一缺点，人们研究出了各种各样的变步长LMS的改进算法。尽管各种改进算法的原理不同，但变步长LMS自适应算法基本上遵循如下调整原则：即在初始收敛阶段或未知系统参数发生变化时，步长应比较大，以便有较快

39、的收敛速度或对时变系统的跟踪速度；而在算法收敛后，不管主输人端干扰信号有多大，都应保持很小的调整步长以达到很小的稳态失调噪声。3.3归一化最小均方误差(LMS)算法LMS算法因其结构简单、稳定性好，一直是自适应滤波经典有效的算法之一，被广泛应用于雷达、通信、声纳、系统辨识及信号处理等领域。但此算法的缺点是收敛速度慢，如果为了加快收敛速度而增大步长因子，则会导致稳态误差增大，甚至引起算法发散。为了改善LMS算法的性能，人们提出了各种变步长LMS算法，归一化的LMS算法(NLMS)就是一种重要的变步长LMS算法，这种算法减轻了梯度噪声的放大问题，无论是对非相关还是相关数据，NLMS滤波器的收敛速率

40、都快于传统的LMS滤波器，但是NLMS算法的迭代步长与输人向量的自相关矩阵有关，在平稳环境中，迭代步长只会在滤波过程的开始阶段变化，在滤波算法稳定后不能达到一个小的步长，使得稳态误差增大。在上面研究的LMS算法滤波器的标准形式中，n+1次迭代中应用于滤波器抽头权向量的失调包含以下三项：步长参数u，它在设计者的控制之下。抽头输入向量，它由信息源提供。实数据的估计误差或者复数据的估计误差，他是n次迭代计算的结果。失调直接与抽头输入向量成正比。因此，当较大时，LMS滤波器遇到梯度噪声放大问题。为了克服这个困难，可使用归一化LMS滤波器。特别的，n+1次迭代时抽头权向量的失调相对于n次迭代时抽头输入向

41、量的平方欧氏范数进行“归一化”。就结构而言，归一化LMS滤波器与标准LMS滤波器完全一样，如图3.1所示，二者都是横向滤波器，其不同仅仅在于权值控制机理。M×1抽头输入向量产生输出，将其与期望相应相减得到估计误差，或误差信号。在对输入向量和误差信号组合作用的响应中，权值控制器将权值调整应用到横向滤波器。在大量迭代中，反复调整滤波器的权向量，直到滤波器达到稳定状态。我们可把归一化LMS滤波器看做对普通LMS滤波器所做的性能改进。计算归一化LMS算法M×1阶抽头权向量的递归结果如下： (3-10)式中,表示第次迭代滤波器旧的权向量，表示第次迭代滤波器新的权向量。为对一次迭代到下

42、一次迭代抽头权向量的增量变化进行控制而不改变向量的方向而定义的一个正的实数标度因子。式(3-10)清楚地表明使用“归一化”的原因：乘积向量相对于抽头输入向量的平方欧氏范数进行了归一化。比较归一化LMS滤波器的递归表达式(3-10)与传统LMS滤波器的递归表达式(3-4),可知如下观测结果：归一化LMS滤波器的自适应常数是无量纲的，而LMS滤波器的自适应常数有反向功率的量纲。设 (3-11)我们可以把归一化LMS滤波器看做时变步长参数的LMS滤波器。更重要的是，无论对于不相关数据还是相关数据，归一化LMS算法要比标准LMS算法可能呈现更快的收敛速度。在克服LMS滤波器梯度噪声影响方面,人们关心的

43、问题是归一化LMS算法自身所引起的问题,即当抽头输入向量较小时,不得不用较小的平方范数除以,以致有可能出现数值计算困难。为了克服这个问题，将式(3.10)递归表达式修改为 (3-12)其中，0.0001,是为了防止过小而引起步长较大,从而导致算法的发散。当=0时，式(3-12)变为(3-10)的形式。归一化最小均方误差(NLMS)算法的步骤如下：(1) 参数 M=抽头数(即滤波器长度)，=自适应常数,0其中，一般取02=误差信号功率=输入信号功率=均方偏差初始化参数：如果知道抽头权向量的先验知识，则用它来为抽头权向量选择适当的值；否则，令。(2) 对给定的=第n时间M×1抽头输入向量

44、，=第n时间步的期望响应，计算误差信号(3) 计算第步抽头权向量估计，直到稳定状态为止3.4归一化最小均方误差(LMS)算法的性能分析NLMS算法是基于LMS算法的改进算法，通过使用自适应变化的步长参数减小制约最小均方算法的梯度噪声放大问题。对于高斯信号来说，NLMS算法的收敛性能非常的接近传统LMS算法的收敛性，并没有非常明显的改善。但与传统LMS算法相比，NLMS算法在减小信号误差方面有一定的改进。基于NLMS算法的自适应滤波器可以是输出信号的误差明显减小，避免了基于传统LMS算法的自适应滤波器由于误差大而导致接收信号精度不高的缺点。归一化最小均方误差算法的迭代公式中，非常重要的一个参量是

45、归一化变步长参数，在算法中，均方偏差会随迭代次数指数减小，因此归一化LMS滤波器在均方误差意义下是稳定的，即收敛过程是单调的。3.5递归最小二乘(RLS)算法前面讨论的基于最小均方误差（MMSE）准则的自适应算法LMS算法收敛速度较慢，对非平稳性信号的适应性较差。为了克服上述缺点，可以采用最小二乘（LS）准则，在每时每刻，对所有已输入信号重估其误差，并使各误差的平方和最小。这是个在现有约束条件下利用了最多可利用信息的准则，是在一定意义上最有效、信号非平稳性能也最好的准则。理论和实验都表明，最小二乘估计的性能优于基于MMSE准则的算法。最小二乘滤波的基本算法是递归最小二乘（RLS）算法，这种算法

46、实际上是FIR维纳滤波器的一种时间递归实现，它是严格以最小二乘准则为依据的算法。它的主要优点是收敛速度快，所以在快速信道均衡、实时系统辨识和时间序列分析中得到了广泛的应用。其主要缺点是每次迭代需要的运算量很大，对于N阶横向滤波器，其计算量在N的平方次数量级。而LMS算法的运算量是在N数量级。归最小二乘法(RLS)算法是一种快速收敛的算法，该算法判决依据是直接处理接受数据，使其二次性能指数函数最小，而前面所述的LMS算法则是使平方误差的期望值最小。设计出的自适应滤波器，通过调节滤波器参数，使得基于过去的观测样本而得到的观测信号在某种意义上最逼近原信号。此时恢复误差 (3-13)另一方面，可以将视

47、作为的预测。因此可定义预测误差： (3-14)设计自适应滤波器的目的自然是希望使恢复误差最小。但是由于真实信号s(n)未知，故是不可观测的或无法计算的。与此相反，预测误差e(n)却是可观测的，它与恢复误差的关系为： (3-15) 而噪声序列n(n)是独立的，因此不可观测的恢复误差的最小化等价于可观测的预测误差e(n)的最小化。根据最小二乘法，的最佳值应使下列累计平方误差性能函数最小 (3-16) 式中，为遗忘因子，通常取01。由 (3-17)可得到等价关系式： (3-18)若令： (3-19) (3-20) 则式(3-18)可简写为： (3-21)假定是非奇异的，则： (3-22)这就是滤波器

48、滤波参数的公式，之所以记作，是因为随着时间而改变。式(3-20)叫做最佳滤波器系数的Yule-Walker 方程。依据式(3-22)来调整滤波器参数有两处不便。第一，需要矩阵求逆及矩阵乘法等运算，因而计算量大。第二，与预测误差之间也未建立任何关系，不能达到根据预测误差来调整滤波器参数的要求。预测误差由 (3-23)表示。注意到和式(3.23)，用式乘上式后得到：为了简化第一项的表达，并建立与之间的关系，一种合理的想法是认为时刻及其以前时刻的滤波器参数相同，即： 这样，利用式(3-20)及上述假定，就有 (3-24) 另一方面，为了简化的表达，一种合理的想法就是：认为遗忘因子。这相当于，只有本时

49、刻的结果被记忆下来，而将以前的各时刻的结果全部遗忘。从而，有下列的简化结果： （3-25）将式(3-24)代入(3-22)，则得 （3-26）式(3-26)描述了一个滤波器参数受其输入误差控制的自适应滤波算法，被称作递归最小二乘(RLS)。为了实现递推计算，还要解决逆矩阵的递推计算问题。为此，我们先引入一个著名的结果矩阵求逆引理。矩阵求逆引理：若是非奇异的，则： （3-27）由的定义式(3-22)，显然有 对它应用矩阵求逆引理，得： (3-28) 综上所分析，递归最小二乘法自适应滤波(RLS)算法如下所示算法初始化：3.6递归最小二乘(RLS)算法的性能分析RLS(递推最小二乘法)算法的关键是

50、用二乘方的时间平均的最小化锯带最小均方准则，并按时间进行迭代计算。对于非平稳信号的自适应处理，最合适的方法是采用最小二乘自适应滤波器。它使误差的总能量最小。RLS算法的优点是收敛速度快，其收敛性能与输入信号的频谱特性无关，但其缺点是计算复杂度很高，对于N阶的滤波器，RLS算法的计算量为O(N2)。为了对非平稳信号进行跟踪，RLS算法引入了数加权遗忘因子。该遗忘因子的引入，使RLS算法能够对非平稳信号进行跟踪。由于设计简单、性能最佳，其中RLS滤波器具有稳定的自适应行为而且算法简单，收敛性能良好。在最小二乘法(RLS)算法引入了的意义。统计量的计算是从零时刻开始的，如果不引入遗忘因子，所有采样点

51、数据对当前估计量估计的贡献是相等的，在时变条件下，这显然不合理，因为离当前时刻比较远的数据，其信道与当前信道时域相关度越低，而通过引入0到1之间的取值，可以令离当前时刻越远的采样数据对统计量估计的贡献越小，由此可以实现对时变信道的有效跟踪。另外，通过调节的大小，可以使算法适用于不同的信道时变速率环境。例如，信道时变速率较慢时可选用较大的，反之则选用较小的。3.7自适应算法的分析比较LMS算法确实结构简单、计算量小且稳定性好，因此被广泛地应用于自适应控制、雷达、系统辨识及信号处理等领域。它的主要限制是它的收敛速度慢，这归因于仅仅使用一阶信息，影响它的收敛速度的主要因素：步长因子，较小时，自适应速

52、率减慢，它等效于LMS滤波器有长的“记忆”。因此自适应后平均额外均方误差较小，这是因为滤波器使用大量的数据估计梯度向量。另一方面，当较大时，自适应速率相对较快，但以自适应后平均额外均方误差的增加为代价。在这种情况下较少数据进入估计，故滤波器误差性能恶化。因此参数的倒数可以看作LMS滤波器的记忆。这种固定步长的LMS自适应算法在收敛速率、跟踪速率及权失调噪声之间的要求也是相互矛盾的，LMS的收敛速度与调整步长有关，如果为了缩短响应时间而加大运算步长，过大的步长会使运算过程产生发散，不能跟踪目标。也就是说，步长增大可以使收敛速率加快，但是会使权失调噪声增大，跟踪速度减小，从而影响稳定性。为了克服这

53、一缺点，人们研究出了各种各样的变步长LMS的改进算法。尽管各种改进算法的原理不同，但变步长LMS自适应算法基本上遵循如下调整原则：即在初始收敛阶段或未知系统参数发生变化时，步长应比较大，以便有较快的收敛速度或对时变系统的跟踪速度；而在算法收敛后，不管主输入端干扰信号有多大，都应保持很小的调整步长以达到很小的稳态失调噪声。递推最小二乘法即RLS算法，是最小二乘法的递推形式引出一种自适应算法，它是严格以最小二乘方准则为依据的算法。其主要优点就是收敛速度快，其收敛性能与输入信号的频谱特性无关。主要缺点是每次迭代计算量很大(对于L阶横向滤波器，计算量数量级为)。RLS算法与LMS算法的基本差别如下：LMS算法中的步长参数被(即输入向量的相关矩阵的逆)代替这一改进对平稳环境下RLS算法的收敛性能有如下深刻的影响。指数加权因子的作用和的作用类似：RLS算法的收敛速度比LMS算法快一个数量级。RLS算法的收敛速度随着的变小而加快，但稳定性相对减弱。反之，收敛速度减慢，稳定性加强。3.8 其他自适应滤波算法3.8.1 仿射投影法仿射投影算法最早由K-Ozeki和T.Umedate提出，它是归一化最小均方误差(NLMS)算法的推广。仿射投影算法的性能介于LMS算法和RLS算法之间，其计算复杂度比RLS算法低。归一化最小均方误差(NLMS)算法是LMS算法的改进算法，它可以看