自适应滤波算法的研究

1、自适应滤波算法的研究第1章 绪论1.1 课题背景伴随着移动通信事业的飞速发展，自适应滤波技术应用的范围也日益扩大。早在20世纪40年代，就对平稳随机信号建立了维纳滤波理论。根据有用信号和干扰噪声的统计特性(自相关函数或功率谱)，用线性最小均方误差估计准则设计的最佳滤波器，称为维纳滤波器。这种滤波器能最大程度地滤除干扰噪声，提取有用信号。但是，当输入信号的统计特性偏离设计条件，则它就不是最佳的了，这在实际应用中受到了限制。到60年代初，由于空间技术的发展，出现了卡尔曼滤波理论，即利用状态变量模型对非平稳、多输入多输出随机序列作最优估计。现在，卡尔曼滤波器己成功地应用到许多领域，它既可对平稳的和非

2、平稳的随机信号作线性最佳滤波，也可作非线性滤波。实质上，维纳滤波器是卡尔曼滤波器的一个特例。在设计卡尔曼滤波器时，必须知道产生输入过程的系统的状态方程和测量方程，即要求对信号和噪声的统计特性有先验知识，但在实际中，往往难以预知这些统计特性，因此实现不了真正的最佳滤波。Widrow B等于1967年提出的自适应滤波理论，可使自适应滤波系统的参数自动地调整而达到最佳状况，而且在设计时，只需要很少的或根本不需要任何关于信号与噪声的先验统计知识。这种滤波器的实现差不多象维纳滤波器那样简单，而滤波性能几乎如卡尔曼滤波器一样好。因此，近十几年来，自适应滤波理论和方法得到了迅速发展。1自适应滤波是一种最佳滤

3、波方法。它是在维纳滤波，Kalman滤波等线性滤波基础上发展起来的一种最佳滤波方法。由于它具有更强的适应性和更优的滤波性能。从而在工程实际中，尤其在信息处理技术中得到广泛的应用。自适应滤波的研究对象是具有不确定的系统或信息过程。“不确定”是指所研究的处理信息过程及其环境的数学模型不是完全确定的。其中包含一些未知因数和随机因数。任何一个实际的信息过程都具有不同程度的不确定性，这些不确定性有时表现在过程内部，有时表现在过程外部。从过程内部来讲，描述研究对象即信息动态过程的数学模型的结构和参数是我们事先不知道的。作为外部环境对信息过程的影响，可以等效地用扰动来表示，这些扰动通常是不可测的，它们可能是

4、确定的，也可能是随机的。此外一些测量噪音也是以不同的途径影响信息过程。2这些扰动和噪声的统计特性常常是未知的。面对这些客观存在的各种不确定性，如何综合处理信息过程，并使某一些指定的性能指标达到最优或近似最优，这就是自适应滤波所要解决的问题。可见，自适应滤波算法的研究与实际状况有着密不可分的关系，具有重要的意义。1.2 国内外目前的研究状况最早人们根据生物能以各种有效的方式适应生存环境从而使生命力变强的特性引伸出自适应这个概念。自适应滤波器属于现代滤波器的范畴，它是40年代发展起来的自适应信号处理领域的一个重要应用。60年代，美国B.Windrow和Hoff首先提出了主要应用于随机信号处理的自适

5、应滤波器算法，从而奠定自适应滤波器的发展。所谓自适应滤波器，即利用前一时刻已获得的滤波器参数等结果，自动地调节现时刻的滤波器参数，以适应信号与噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应信号处理主要是研究结构可变或可调整的系统，它可以通过自身与外界环境的接触来改善自身对信号处理的性能。通常这类系统是时变的非线性系统，可以自动适应信号传输的环境和要求，无须详细知道信号的结构和实际知识，无须精确设计处理系统本身。自适应系统的非线性特性主要是由系统对不同的信号环境实现自身参数的调整来确定的。自适应系统的时变特性主要是由其自适应响应或自适应学习过程来确定的，当自适应过程结束和系统不再进行

6、时，有一类自适应系统可成为线性系统，并称为线性自适应系统，因为这类系统便于设计且易于数学处理，所以实际应用广泛。本文研究的自适应滤波器就是这类滤波器。自适应信号处理的应用领域包括通信、雷达、声纳、地震学、导航系统、生物医学和工业控制等。3自适应滤波器出现以后，发展很快。由于设计简单、性能最佳，自适应滤波器是目前数字滤波器领域是活跃的分支，也是数字滤波器研究的热点。主要自适应滤波器有：递推最小二乘(RLS)滤波器、最小均方差(LMS)滤波器、格型滤波器、无限冲激响应(IIR)滤波器。其中LMS滤波器和RLS滤波器具有稳定的自适应行为而且算法简单，收敛性能良好。将作为本文研究的重点。自适应滤波器是

7、相对固定滤波器而言的，固定滤波器属于经典滤波器，它滤波的频率是固定的，自适应滤波器滤波的频率则是自动适应输入信号而变化的，所以其适用范围更广。在没有任何关于信号和噪声的先验知识的条件下，自适应滤波器利用前一时刻已获得的滤波器参数来自动调节现时刻的滤波器参数，以适应信号和噪声未知或随机变化的统计特性，从而实现最优滤波。自适应滤波器是以最小均方误差为准则，由自适应算法通过调整滤波器系数，以达到最优滤波的时变最佳滤波器。设计自适应滤波器时，可以不必预先知道信号与噪声的自相关函数，在滤波过程中，即使噪声与信号的自相关函数随时间缓慢变化，滤波器也能自动适应，自动调节到满足均方误差最小的要求。自适应滤波器

8、主要由参数可调的数字滤波器和调整滤波器系数的自适应算法两部分构成自适应滤波器的一般结构。实际上，自适应滤波器是一种能够自动调整本身参数的特殊维纳滤波器，在设计时不需要实现知道关于输入信号和噪声的统计特性的知识，它能够在自己的工作过程中逐渐“了解”或估计出所需的统计特性，并以此为依据自动调整自己的参数，以达到最佳滤波效果。一旦输入信号的统计特性发生变化，它又能够跟踪这种变化，自动调整参数，使滤波器性能重新达到最佳。4第2章 自适应滤波的原理及应用2.1 引言在对随机信号处理过程中经常用到的是维纳滤波器和卡尔曼滤波器两种滤波器。维纳(Weiner)滤波，它根据平稳随机信号的全部过去和当前的观察数据

9、来估计信号的当前值，在最小均方差的条件下得到系统的传递函数或者冲击响应，它是一种最优线性滤波方法，参数是固定的，适用于平稳随机信号。卡尔曼滤波，它是依据当前时刻数据的观测值和前一时刻对该时刻的预测值进行递推数据处理的滤波算法。它自动调节本身的冲击响应特性，或者说，自动的调节数字滤波器的系数，以适应信号变化的特性，从而达到最优化滤波。它的参数是时变的，适用于非平稳随机信号。然而，只有对信号噪声的统计特性先验已知的情况下，这两种滤波器才能获得最优滤波。可是，在实际应用中，常常无法得到这些统计特性的先验知识；或者，统计特性是随时间变化的。因此，用维纳或卡尔曼滤波器实现不了最优滤波。在这种情况下，自适

10、应能够提供卓越的滤波性能。52.2 自适应滤波器的基本原理所谓自适应滤波，就是利用前一时刻己获得的滤波器参数等结果，自动的调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。自适应滤波器实质上就是一种能调节其自身传输特性以达到最优化的维纳滤波器。自适应滤波器不需要关于输入信号的先验知识，计算量小，特别适用于实时处理。由于无法预先知道信号和噪声的特性或者它们是随时间变化的，仅仅用FIR和IIR两种具有固定滤波系数的滤波器无法实现最优滤波。在这种情况下，必须设计自适应滤波器，以跟踪信号和噪声的变化。自适应滤波器是以最小均方误差为准则，由自适应算法通过调整滤波器系

11、数，以达到最优滤波的时变最佳滤波器。设计自适应滤波器时，可以不必预先知道信号与噪声的自相关函数，在滤波过程中，即使噪声与信号的自相关函数随时间缓慢变化，滤波器也能自动适应，自动调节到满足均方误差最小的要求。自适应滤波器主要由参数可调的数字滤波器和调整滤波器系数的自适应算法两部分构成自适应滤波器。参数可调数字滤波器可以是FIR滤波器或IIR数字滤波器，也可以是格形滤波器6图2-1示出了自适应滤波器的一般结构。 未知系统自适应滤波图2-1 自适应滤波原理图图中，为输入信号，为输出信号，为参考信号或期望信号，则是和的误差信号。自适应滤波器的滤波器系数受误差信号控制，根据的值和自适应算法自动调整。一个

12、自适应滤波器的完整规范是由如下三项所组成的：(1)应用 在过去十年中，自适应技术在更多的应用场合(比如回波消除、色散信道的均衡、系统辨识、信号增强、自适应波束形成、噪声消除一级控制领域等)取得了成功。研究自适应滤波器的各种应用本文会简单考虑一些应用例子。(2)自适应滤波器结构 自适应滤波器可以用许多不同结构来实现。结构的选取会营销到处理的计算复杂度(即每次迭代的算数操作数目)，还会对达到期望性能标准所需要的迭代次数产生影响。从根本上讲主要有两类自适应数字滤波器结构(这是根据其冲激响应的形式来划分的)，即有限长冲击响应(FIR)滤波器和无限长冲激响应(IIR)滤波器。FIR滤波器通常利用非递归结

13、构来实现，而IIR滤波器则利用递归结构来实现。自适应FIR滤波器结构：应用最广泛的自适应FIR滤波器结构是横向滤波器，也成为抽头延迟线，它利用正规直接形式实现全零点传输函数，二不采用反馈环节。对于这种结构，输出信号是滤波器洗漱的线性组合，它产生具有惟一最优解的二次均方误差函数。为了得到相对于横向滤波器结构来说更好的性能(这些性能是用计算复杂度、收敛速度和有限字长特征等来描述的)自适应IIR滤波器结构：自适应IIR滤波器采用得最多的结构是标准直接形式结构，因为它的实现和分析都很简单。然而，采用递归自适应滤波会存在一些内在的问题(这些问题是由结构决定的，比如要求对极点的稳定性进行监视)，而且收敛速

14、度很慢。为了克服这些问题，人们提出了不同的结构形式。(3)算法 其中算法是为了使某个预先确定的准则达到最小化，而自适应地调整滤波器系数的方法。算法是通过定义搜索方法(或者最小化算法)、目标函数和无偿信号的特性来确定的。算法的选择据定了整个自适应过程的几个重要因素，比如优解的存在性、有偏最优解和计算复杂度等。72.3 自适应IIR滤波器自适应滤波器出现以后，发展很快。由于设计简单、性能最佳，自适应滤波器是目前数字滤波器领域是活跃的分支，也是数字滤波器研究的热点。主要自适应滤波器有：递推最小二乘(RLS)滤波器、最小均方差(LMS)滤波器、格型滤波器、无限冲激响应(IIR)滤波器。其中RLS滤波器

15、具有稳定的自适应行为而且算法简单，收敛性能良好。实际情况中，由于信号和噪声的统计特性常常未知或无法获知，这就为自适应滤波器提供广阔的应用空间、系统辨识、噪声对消、自适应谱线增强、通信信道的自适应均衡、线性预测、自适应天线阵列等是自适应滤波器的主要应用领域。自适应有限冲激响应(FIR)滤波器由于其收敛性和稳定性十分简单，现已有相当完善的自适应算法，在信号处理领域，获得了广泛应用。但由于它是非递归结构，冲激响应为有限长，当用于较高精度匹配的实际物理系统时，所需阶次可能相当大，因而导致结构复杂，运算量大。自适应IIR滤波器是一个具有无限冲激响应的递归滤波器，它的一个最重要的优点是，与相同系数个数的自

16、适应FIR滤波器相比有更好的性能，这是因为输出的反馈使有限数量的系数产生了无限冲激响应，使得零点与极点模型滤波器的输出比起仅有零点的滤波器的输出能更有效地逼近期望响应信号。例如，一个有足够高阶数的自适应IIR滤波器可以精确地逼近一未知的零点与极点系数阔，而一个自适应FIR滤波器只能近似逼近这一系统。反之，要达到相同性能，IIR滤波器所需要的系数个数一般比FIR滤波器少得多，正是由于这一潜在的计算量的优势，近十年来，自适应IIR滤波器的研究一直非常活跃，出现了一批比较成熟的算法。可以预测，在许多应用中，自适应IIR滤波器将取代正被广泛使用的自适应FIR滤波器。8应该指出的是，与自适应FIR滤波器

17、相比，自适应IIR滤波器在减少计算量的同时也付出了一定的代价。由于反馈的存在，算法的收敛时间加大，其收敛性和稳定性分析都十分复杂，这是需要注意继续研究的问题。目前，在相同滤波性能条件下，自适应IIR滤波器的收敛性己可优于自适应FIR滤波器。根据误差的不同表示，自适应IIR滤波器又可分为两种形式：方程误差(Equation-Error)形式和输出误差(Output-Error)形式。在很大程度上方程误差自适应IIR滤波器在很像一个自适应FIR滤波器，他们之间的主要区别在与方程误差自适应IIR滤波器就是一个零点一极点模型，而自适应FIR滤波器是一个严格全零点模型。而输出误差形式的自适应IIR滤波器

18、的算法比方程误差IIR滤波器的算法要复杂的多。输出误差方法中的滤波器输出仅由观测输入来产生期望响应。2.4 自适应滤波器的应用近十几年来，自适应滤波理论和方法得到了迅速的发展，究其原因是因为自适应滤波器相比于其他一般的滤波器在滤波性能、设计实现的难易程度、对外部环境的复杂程度的适应能力和对系统先验统计知识的依赖程度等方面都显现出强大的优势。自适应滤波器具有很强的自学习、自跟踪能力和算法的简单易实现性，它在噪化信号的检测增强，噪声干扰的抵消，通信系统的自适应均衡，图象的自适应增强复原以及未知系统的自适应参数辩识等方面都有广泛的应用。在本节中，我们将讨论输入信号和期望信号的一些可能选择，并讨论这些

19、选择是如何与应用联系在一起的。2.4.1 信号增强器自适应滤波器的一个简单应用就是信号增强器，它被用来检测或增强淹没在宽度噪声中的窄带随机信号。对于信号增强的情况，信号受噪声的污染，而且与噪声相关的信号是可以得到的(即可测量的)。如果作为自适应滤波器的输入，而将受到噪声污染的信号作为期望信号，则当滤波收敛以后，其输出误差就是信号的增强形式。图2-2说明了一种信号增强的典型配置。9自适应滤波器+图2-2 信号增强。其中和是彼此相关的噪声函数2.4.2 系统辨识器 在系统辨识应用中，期望信号是未知系统受某个宽带信号激励时产生的输出，在大多数情况下，输入是白噪声信号。宽带信号同时也被用来作为图2-3

20、所示的自适应滤波器的输入。当输出MSE达到最小时，自适应滤波器就代表了未知系统的模型。2.4.3 信道均衡器 信道均衡器的作用是在信道通带内形成一个信道传输函数的逆，而在通带之外它的增益则很小或者为零。因而，由信道和均衡器级联组成的系统在通带内有基本均匀的振幅特性，而带外基本为零，相位响应在带内是频率的线性函数。如果条件满足，联合的冲激响应就是辛格函数，故符号间干扰可被消除。自适应调整也解决了信道本身未知、时变的特性所带来的困难。在信道均衡应用中，将发送的受信道失真影响的原始信号作为自适应滤波器的输入信号，而期望信号是原始信号的时延形式，如图2-4所示。通常情况下，输入信号的时延形式在接收端是

21、可以得到的，采用形式是标准的训练信号。当MSE达到最小时，就表明自适应滤波器代表了信道的逆模型(均衡器)。未知系统自适应滤波器自适应滤波器信道图2-3 系统辨识器图2-4 信道均衡器2.4.4 信号预测器最后，对于预测情形，期望信号是自适应滤波器输入信号的前向(有时可能是后向)形式，如图2-5所示。当滤波器收敛以后，自适应滤波器就代表了输入信号的模型，而且可以用来作为输入信号的预测器模型。自适应滤波器图2-5 信号预测器第3章 LMS自适应滤波算法分析3.1 引言LMS算法是1960年由Widrow和Hoff提出的最小均方误差(LMS)算法，LMS算法是基于估计梯度的最速下降算法的，由于采用粗

22、糙的梯度估计值得到的，从而其算法性能欠佳，应用范围受限，但是因为其具有计算量小、易于实现等优点而在实践中被广泛采用。典型的应用领域有系统识别、信号处理和自适应控制。LMS算法的基本原理是基于最速下降法，即沿着权值的梯度估值的负方向进行搜索，达到权值最优，实现均方误差最小意义下的自适应滤波。初始收敛速度、时变系统跟踪能力及稳态失调是衡量自适应滤波算法优劣的三个重要的技术指标。由于主输入端不可避免地存在干扰噪声，自适应滤波算法将产生参数失调噪声。干扰噪声越大，则引起的失调噪声就越大。减小步长因子产可降低自适应滤波算法的稳态失调，提高算法的收敛精度。153.2 最小均方差(LMS)算法LMS算法的判

23、据是最小均方误差，即理想信号与滤波器输出之差的平方值的期望值最小，并且根据这个判据来修改权系数由此产生的算法称为最小均方算法(LMS)。绝大多数对自适应滤波器的研究是基于由Widrow提出的LMS算法。这是因为LMS算法的设计和实现都比较简单，在很多应用场合都非常适用。16令阶FIR滤波器的抽头系数为，滤波器的输入和输出分别为和，则FIR横向滤波器方程可表示为：(3-1)令代表“所期望的响应”，并定义误差信号： (3-2) 采用向量形式表示权系数及输入和，可以将误差信号写作 (3-3)误差的平方为： (3-4)上式两边取数学期望后，得均方误差： (3-5)定义互相关函数向量： (3-6)和自相

24、关函数矩阵： (3-7)所以均方误差可表述为： (3-8)这表明均方误差是权系数向量的二次函数，它是一个凹的抛物形曲面，是具有唯一最小值的函数。调节权系数使均方误差为最小，相当于沿抛物形曲面下降找最小值。可以用梯度法来求该最小值。将式(3-8)对权系数求导数，得到均方误差函数的梯度： (3-9)令=0，即可以求出最佳权系数向量： (3-10)将代入式(3-8)，得最小均方误差： (3-11)利用式(3-11)求最佳权系数向量的精确解需要知道和的先验统计知识，而且还需要进行矩阵求逆等运算。Widrow和Hoff提出了一种在这些先验统计知识未知时求的近似值的方法，习惯上称之为Widrow-Hoff

25、 LMS算法。这种算法的根据是最优化方法中的最速下降法。根据这个最速下降法，“下一时刻” 权系数向量应该等于“现时刻”权系数向量加上一个负均方误差梯度的比例项，即 (3-12)式中的是一个控制收敛速度与稳定性的常数，称之为收敛因子。不难看出，LMS算法有两个关键：梯度的计算以及收敛因子的选择。精确计算梯度是十分困难的。一种粗略的但是却十分有效的计算的近似方法是：直接取作为均方误差的估计值，即 (3-13)式中的为： (3-14)将(4-14)代入式(4-13)中，得到梯度估值： (3-15)于是，Widrow-Hoff LMS算法最终为： (3-16)3.3 最小均方差(LMS)算法的性能分析

26、LMS算法的性能准则是采用瞬时平方误差性能函数|e(k)|2代替均方误差性能函数E|e(k)|2，其实质是以当前输出误差、当前参考信号和当前权系数求得下个时刻的权系数。其输出信号、输出误差及权系数的计算公式为：17 (3-17)为迭代次数，M为滤波器的阶数。表示第时刻的输入信号矢量式中，式中，表示参考信号的信号矢量： (3-18)、分别表示第时刻的输出信号与输出误差，W(k)表示时刻权系数矢量： (3-19)表示LMS算法步长收敛因子。自适应滤波器收敛的条件是： (3-20)其中是输入信号的自相关矩阵R的最大特征值。的选取必须在收敛速度和失调之间取得较好的折中，既要具有较快的收敛速度,又要使稳

27、态误差最小。它控制了算法稳定性和自适应速度，如果很小，算法的自适应速度会很慢；如果很大，算法会变得不稳定。由于LMS算法结构简单、计算量小、稳定性好，因此被广泛应用于系统辨识、信号增强、自适应波束形成、噪声消除以及控制领域等。在最小均方差(LMS)算法中，步长因子的取值对算法的性能有着非常重要的影响，这些影响包括：算法的稳定性、算法的收敛速度、算法的扰动和失调。以下我们针对在这三方面的影响分别进行讨论。为减小失调，需要设置较小的步长因子，这会使算法的收敛速度降低，这构成了一对矛盾。因此在考虑算法的总体性能时，必须在这两个性能之间加以折中。从收敛速度的角度考虑，步长因子应该尽可能大，但较大的取值

28、却会加重算法的失调。LMS算法采用瞬时的采样值对梯度进行估计，由于噪声的影响，总会是会伴随着估计的误差，这将对算法带来直接的影响。这些影响主要表现为算法的失调，而失调的严重程度，则和的取值存在直接关系。失调是指由于梯度估计偏差的存在，在算法收敛后，均方误差并不无穷趋近于最小值，而是呈现出在最小值附近随机的波动特性，而权值亦不无穷趋近于最优权值，而是在最优权值附近呈现随机的波动。关于LMS算法的收敛速度，将讨论两点：第一，对一个特定的信号环境，收敛速度和步长因子有何关系。第二，信号环境本身的特性，对收敛速度有何影响。从收敛速度的角度考虑，步长因子应该尽可能大，再看信号环境，即的特性对算法收敛性能

29、的影响如果当特征值的分布范围较大，即最大特征值和最小特征值之比较大时，公比的取值幅度也将比较大，算法的总的收敛速度将会变得比较慢。传统的LMS算法确实结构简单、计算量小且稳定性好，因此被广泛地应用于自适应控制、雷达、系统辨识及信号处理等领域。但是固定步长的LMS自适应算法在收敛速率、跟踪速率及权失调噪声之间的要求是相互矛盾的，为了克服这一缺点，人们研究出了各种各样的变步长LMS的改进算法。尽管各种改进算法的原理不同，但变步长LMS自适应算法基本上遵循如下调整原则：即在初始收敛阶段或未知系统参数发生变化时，步长应比较大，以便有较快的收敛速度或对时变系统的跟踪速度；而在算法收敛后，不管主输人端干扰

30、信号有多大，都应保持很小的调整步长以达到很小的稳态失调噪声。第4章 RLS自适应滤波算法分析4.1 引言最小二乘(LS，Least-square)算法旨在期望信号与模型滤波器输出之差的平方和达到最小。当每次迭代中接受到输入好的新采样值时，可以采用递归形式求解最小二乘问题，得到递归最小二乘(RLS，recursive least-square)算法。RLS算法能实现快速收敛，即使是在输入信号相关矩阵的特征值扩展比较大的情况下。当工作与变换环境中时，这类算法具有极好的性能，但其实现都以增加计算复杂度和稳定问题为代价。4.2 递归最小二乘(RLS)算法这一节主要介绍递归最小二乘法(RLS)算法是一种

31、快速收敛的算法，该算法判决依据是直接处理接受数据，使其二次性能指数函数最小，而前面所述的LMS算法则是使平方误差的期望值最小。设计出的自适应滤波器，通过调节滤波器参数，使得基于过去的观测样本而得到的观测信号在某种意义上最逼近原信号。此时，一方面，恢复误差： (4-1)另一方面，可以将视作为的预测。因此可定义预测误差： (4-2)设计自适应滤波器的目的自然是希望使恢复误差最小。但是由于真实信号未知，故是不可观测的或无法计算的。与此相反，预测误差却是可观测的，它与恢复误差的关系为： (4-3)而噪声序列是独立的，因此不可观测的恢复误差的最小化等价于可观测的预测误差的最小化。具体的，考虑到 (4-4

32、)的最小化。式中，为遗忘因子，通常取。由 (4-5)可得到等价关系式： (4-6)若令： (4-7) (4-8)则式(4-6)可简写为： (4-9)假定是非奇异的，则： (4-10)这就是滤波器滤波参数的公式，之所以记作，是因为随着时间而改变。式(5-8)叫做最佳滤波器系数的Yule-Walker 方程。依据式(5-10)来调整滤波器参数有两处不便。第一，需要矩阵求逆及矩阵乘法等运算，因而计算量大。第二，与预测误差之间也未建立任何关系，不能达到根据预测误差来调整滤波器参数的要求。(非平稳或时变)预测误差由 (4-11)表示。利用此公式，可以将式(5-7)的改写作 (4-12)注意到和式(5-1

33、1)，用式乘上式后得到： (4-13)为了简化第一项的表达，并建立与之间的关系，一种合理的想法是认为时刻及其以前时刻的滤波器参数相同，即： . 这样，利用式(5-7)及上述假定，就有 (4-14)另一方面，为了简化的表达，一种合理的想法就是：认为遗忘因子。这相当于，只有本时刻的结果被记忆下来，而将以前的各时刻的结果全部遗忘。从而，有下列的简化结果： (4-15)将式(4-13)和(4-14)代入(4-12)，则得 (4-16)式(4-15)描述了一个滤波器参数受其输入误差控制的自适应滤波算法，被称作递归最小二乘(RLS)。为了实现递推计算，还要解决逆矩阵的递推计算问题。为此，我们先引入一个著名

34、的结果矩阵求逆引理。矩阵求逆引理：若是非奇异的，则： (4-17)由的定义式(4-7)，显然有 (4-18)对它应用矩阵求逆引理，得： (4-19)综上所分析，递归最小二乘法自适应滤波(RLS)算法如下所示算法初始化：18For k=1 to n final do :(4-20)4.3 递归最小二乘(RLS)算法的性能分析RLS(递推最小二乘法)算法的关键是用二乘方的时间平均的最小化锯带最小均方准则，并按时间进行迭代计算。对于非平稳信号的自适应处理，最合适的方法是采用最小二乘自适应滤波器。它使误差的总能量最小。RLS算法的优点是收敛速度快，其收敛性能与输入信号的频谱特性无关，但其缺点是计算复杂

35、度很高，对于N阶的滤波器，RLS算法的计算量为O(N2)1,2为了对非平稳信号进行跟踪，RLS算法引入了数加权遗忘因子。该遗忘因子的引入，使RLS算法能够对非平稳信号进行跟踪。19由于设计简单、性能最佳，其中RLS滤波器具有稳定的自适应行为而且算法简单，收敛性能良好。这里讨论RLS算法收敛特性两个方面的问题：一是从均值的意义上讨论的收敛性；二是从均方值的意义上讨论误差的收敛性。为了讨论进行这样的讨论，必须对输入过程的类别作出规定。考虑随即机回归模型： (4-21)其中是零均值过程是均值为零,方差为的高斯白噪声序列。其中的收敛性对公式，其中。而可以写出： (4-22)当，满足： (4-23)将其

36、写成如下形式： (4-24)其中 (4-25)将式(4-22)和式(4-24)带入式(4-23)中得： (4-26)故 (4-27)假定输入过程呈各态历经的平稳随机过程，对于=1的情况，当n很大时，有 (4-28) 其中表示输入矢量的组合平相关矩阵，所以 (4-29)由此可见，当时，故滤波器的权矢量个估计是无偏的。还有的收敛性考虑到与的不相关性，所以根据矩阵迹的性质，加权矢量的均方误差又可写成 (4-30)其中由=(AT(n)(n)A(n)-1AT(n)(n)b(n)现令，则： (4-31)将式(5-31)带入式(5-30)中得因此 因为与的不相关，则上式变为： (5-32)对于时有采用这些近似则式(5-33)可划简为： (4-33)由式(4-30)可知 (4-34)根据自适应滤波器失调量的定义 (4-35) 在不加权的情况下， (4-36)在加权情况下， (4-37) 由此可见，在不加权情况下，失调量随时间增加而趋于0，这意味着输出的均方误差随时间的增长而趋于理论最小值，在指数加权的情况下， 失调量渐进于(4-38) 显然值越小，