[毕业设计 论文 精品]LMS及其改进算法研究 毕业设计及任务书

1、计算机与通信学院计算机与通信学院 本科生毕业论文 lmslms 及其改进算法研究及其改进算法研究 the study of lms algorithm and its improve algorithms 作 者： 学 号： 专 业：通信工程 班 级：通信 4 班 指导教师： 答辩时间：2010 年 6 月 毕业论文任务书毕业论文任务书 通信工程本科专业（通信工程本科专业（06 级）级） 题目：lms 及其改进算法研究 学生姓名： 班级：06 级通信 4 班 学号： 题目类型： 科学研究（k） 指导教师： 一一毕业论文题目简介毕业论文题目简介 近年来，自适应信号处理引起了人们显著的兴趣和关注。

2、微电子技术和 vlsi电路技术 的发展，极大地提高了数字信号处理的计算速度，从而进一步促进了这一方向的发展。该题 目要求学生首先研究现有的各种自适应信号处理方法，重点研究lms及其改进算法的原理及 优缺点，并能采用计算机语言来实现这些算法并进行性能比较和分析。 学生通过该题目的分析与研究，不仅可以学习自适应信号处理的理论基础，深入了解并 掌握lms及其改进算法的理论基础及实现方法，而且还可以提高学生解决实际问题的能力， 并为将来在这一领域的深入研究打下良好的理论基础。 二毕业论文的任务毕业论文的任务 1、查阅相关文献资料，要求在 10 篇以上，外文资料不少于 2 篇； 2、学习、研究 lms

3、及其改进算法，从理论上分析各种自适应滤波算法的优缺点，争取 提出改进算法。 3、利用计算机语言对 lms 及其改进算法进行仿真实现，并对它们的性能作以比较。 4、撰写毕业论文； 5、完成 1-3 万个字符的外文资料翻译。 三三毕业论文的主要内容、要求及技术指标毕业论文的主要内容、要求及技术指标 1、学习并掌握 lms 及其改进算法的基本原理和特点； 2、比较 lms 及其改进算法的优缺点； 3、 对 lms 及其改进算法给出相应的 matlab 或其它计算机语言的仿真。 4、 对仿真结果进行分析、比较，得出自己的结论。 四四毕业论文提交的成果毕业论文提交的成果 1. 毕业论文一份。 2. 完成

4、 10000-30000 个印刷符号的外文文献翻译稿一篇。 3. 完成毕业论文简介一份，要求 4 页，科技论文格式。 4. 刻制光盘一张； 五毕业论文的主要参考文献毕业论文的主要参考文献 1. 胡广书.数字信号处理理论、算法与实现.清华大学出版社，2004. 2. 姚天任，孙洪.现代数字信号处理.华中理工大学出版社，1999. 3. 陈后金，薛健，胡健等. 数字信号处理.高等教育出版社，2004. 4. 潘士先.谱估计和自适应滤波.北京航天航空大学出版社，1991. 5. 李勇，徐震等.matlab 辅助现代工程数字信号处理.西安电子科技大学出版社，2002. 6. 何振亚著. 自适应信号处理

5、. 科学出版社，2002 7. 沈福民著. 自适应信号处理.西安电子科技大学出版社，2001 六六各阶段时间安排（共各阶段时间安排（共 13 周）：周）： 设计内容设计内容周数周数起止日期起止日期完成情况完成情况教师签字教师签字 搜集参考资料，分析题目要求。1 周3.22-3.26 学习自适应信号处理的基础知识。2 周3.29-4.2 研究 lms 算法。3 周4.5-4.9 研究 lms 算法的各种改进算法。4 周4.12-4.16 研究 lms 算法的各种改进算法。5 周4.19-4.23 比较各种算法。6 周4.26-4.30 编程调试。7 周5.3-5.7 编程调试。8 周5.10-5

6、.14 编程调试。9 周5.17-5.21 撰写毕业论文。10 周5.24-5.28 撰写毕业论文。11 周5.31-6.4 修改毕业论文。12 周6.7-6.11 准备答辩。13 周6.14-6.18 2010 年年 3 月月 16 日日 摘摘 要要 因 lms 算法具有低计算复杂度、在平稳环境中的收敛性好、其均值无偏地收敛到 wiener 解和利用有限精度实现算法时的稳定性等特性，使 lms 算法成为自适应算法中应用 最广泛的算法。对 lms 算法及其改进算法进行了研究，探讨了步长因子对各种算法收 n 敛性、稳定性的影响。并用 matlab 对其学习曲线、收敛速度等进行了仿真分析。结果表

7、明，变步长的取值尤为重要，如果 （n）取较大值则具有较快的收敛速度，如果 n （n）取值很小，则 mlms 算法近似等效于 lms 算法。它们的自适应过程较快，性能有了 很大改进。 abstract because of low computational complexity, stable environment in the convergence of good, unbiased and its mean converges to the wiener solution and implementation algorithms using finite precision stab

8、ility and other characteristics, lms algorithm as adaptive algorithm in the application of the most a wide range of algorithms.we have a detailed study on lms algotithm and its complementary algotithm,disscused the step-sizes influent for the algorithms convergence speed and stability. and using mat

9、lab simulated the learning curve, convergence speed of lms algotithm.the result observed that the value of variable step-size （n）is very important,if it is a bigger may have a fast convergence speed,but if not ,the nlms algotithm can instead the lms algotithm in the characteristics. in addition , th

10、ey have a fast adaptive course and greatly progress in performance. keywords：lms algorithm，adaptive，nlms algorithm，variable step，matlab simulation. 目目 录录 第一章 绪论 .5 1.1 自适应滤波理论的发展 .5 1.2 自适应 lms 算法的发展 .6 1.2.1 lms 算法历史.6 1.2.2 lms 算法的现状.6 1.2.3 lms 算法的发展前景.6 第二章 自适应 lms 算法的研究 .8 2.1 概述 .8 2.2 lms 算法

11、.8 2.2.1 自适应收敛性.10 2.2.2 平均 mse学习曲线 .11 2.2.3 失调 .13 2.2.4 缩短收敛过程的方法 .14 第三章 lms 自适应滤波器的改进形式 .16 3.1 归一化 lms 算法.16 3.1.1 tdo-lms 算法.18 3.1.2 mlms 算法.19 3.2 泄露 lms 算法 .20 3.3 极性 lms 算法 .21 3.4 lms 算法梯度估计的平滑.21 3.5 解相关 lms 算法 .22 3.6 性能比较 .23 第五章 lms 算法的应用.24 5.1 lms 类均衡器.24 5.1.1 解相关 lms（decorrelatio

12、n lms,dlms）均衡算法.24 5.1.2 变化域解相关 lms 均衡算法 .24 5.2 自适应信号分离器 .25 5.3 自适应陷波器 .26 5.4 系统辨识或系统建模.26 第六章 仿真及其结果分析 .28 6.1 仿真思路.28 6.2 结果及分析.28 6.2.1 lms 及其改进算法.28 6.2.2 lms 自适应均衡器.31 6.2.3 自适应信号分离器 .33 6.2.4 自适应陷波器 .33 6.2.5 系统辨识或系统建模.33 结 论 .35 参考文献 .36 附录 英文原文及译文 .37 附录 仿真程序 .50 致 谢 .64 离散时间线性系统 自适应算法 s

13、x(n) y(n) - + e(n) d(n) d(n) 第一章第一章 绪论绪论 1.1 自适应滤波理论的发展 早在 20 世纪 40 年代，就对平稳随即信号建立了维纳滤波理论。根据有用信号和干扰噪 声的统计特性（自相关函数或功率谱） ，以线性最小均方误差估计准则所设计的最佳滤波器， 称为维纳滤波器。这种滤波器能最大程度地滤除干扰噪声，提取有用信号。但是，当输入信 号的统计特性偏离设计条件，则它就不再是最佳的了，这在实际应用中受到了限制。到 60 年代初，由于空间技术的发展，出现了卡尔曼滤波理论，即利用状态变量模型对非平稳、多 输入多输出随机序列作最优估计。现在，卡尔曼滤波器已成功地应用到许多

14、领域，它既可对 平稳的和非平稳的随机信号作线性最佳滤波，也可作非线性滤波。实质上，维纳滤波器是卡 尔曼滤波器的一个特例。 若设计卡尔曼滤波器时，必须知道产生输入过程的系统的状态方程和测量方程，即要求 对信号和噪声的统计特性有先验知识。但在实际中，往往难以预知这些统计特性，因此实现 不了真正的最佳滤波。 widrow b.等于 1967 年提出的自适应滤波理论，可使自适应滤波系统的参数自动地调整 而达到最佳状况，而且在设计时，只需要很少的或是根本不需要任何关于信号与噪声的先验 统计知识。这种滤波器的实现差不多像维纳滤波器那样简单，而滤波性能几乎如卡尔曼滤波 器一样好。因此，近十年来，自适应滤波理

15、论的方法得到了迅速发展。 图 1-1 自适应滤波器原理图 图 1-1 描述的是一个通用的自适应滤波估计问题，图中离散时间线性系统表示一个可编 程滤波器，它的冲击响应为 h(n)，或称其为滤波参数6。自适应滤波器输出信号为 y(n)，所 期望的响应信号为 d(n)，误差信号 e(n)为 d(n) 与 y(n)之差。这里，期望响应信号 d(n) 是根 据不同用途来选择的，自适应滤波器的输出信号 y(n)是对期望响应信号 d(n)进行估计的，滤 波参数受误差信号 e(n)的控制并自动调整，使 y(n)得估计值等于所期望的响应 d(n).因)( ny 此，自适应滤波器与普通滤波器不同，它的冲击响应或滤

16、波参数是随外部环境的变化而变化 的，经过一段自动调整的收敛时间达到最佳滤波的要求。但是，自适应滤波器本身有一个重 要的自适应算法，这个算法可以根据输入、输出及原参数量值，按照一定准则改变滤波参量， 以使它本身能有效地跟踪外部环境的变化。通常，自适应滤波器是线性的，因而也是一种线 性移变滤波器。当然，它可推广到自适应非线性滤波器。 在图 1-1 中，离散时间线性系统可以分为两类基本结构，其中一类为非递归型横向结构 的数字滤波器，它具有有限的记忆，因而称之为有限冲激响应（fir）系统，即自适应 fir 滤波器。另一类为递归型数字滤波器结构，理论上，它具有无限的记忆，因而称之为无限冲 激响应（iir

17、）系统，即自适应 iir 滤波器。对于上述两类自适应滤波器，还可以根据不同 的滤波理论和算法，分为结构不同的自适应滤波器，它们的滤波器性能也不完全相同。 1.2 自适应 lms 算法的发展 1.2.1 lms 算法历史 1955-1966 年期间美国通用公司在研制天线的过程中，为抑制旁瓣，由 windows 和 hoff 在 60 年代初提出了基本 lms 算法6。随后又发展出了归一化算法和加遗忘因子 lms 算法。 1977 年，makjoul 提出了格型滤波器，并由此发展出 lms 自适应格型滤波器算法。 herzberg、cohen 和 beery 提出了延时 lms（dlms）算法。2

18、002 年，尚勇，吴顺君，项海 格提出了并行延时 lms 算法。此外，还有复数 lms 算法、数据块 lms 算法等，在此就不 一一列举了。 1.2.2 lms 算法的现状 因 lms 算法具有低计算复杂度、在平稳环境中的收敛性好、其均值无偏地收敛到 wiener 解和利用有限精度实现算法时的稳定性等特性，使 lms 算法成为自适应算法中应用 最广泛的算法。由于 lms 算法的广泛应用，以及在实际条件下，为解决实际问题，基于 lms 算法的新 lms 类算法不断出现。 1.2.3 lms 算法的发展前景 因 lms 算法是自适应滤波器中应用最广泛的算法，所以可以说，自适应滤波的发展前 景也就是

19、 lms 算法的发展前景。它主要包括以下几个方面的应用： 1、系统辨识和建模(system identification and modeling)。自适应滤波器作为估计未知系 统特性的模型。 2、自适应信道均衡(adaptive channel equlization)。在数字通信中采用自适应信道均衡 器，可以减小传输失真，以及尽可能地利用信道带宽。 3、回波消除(echo cancellation)。在 2 线和 4 线环路电话系统中，线路间存在杂散电路 耦合，这些杂散导致阻抗不匹配，从而形成了信号的反射，也就是我们在线路两端听到的回 声。这种回波能对高速数据传输造成灾难性的后果。回波消除

20、就是预先估计一个回波，然后 用返回信号来减此回波，从而达到回波消除的目的。消除心电图中的电源干扰就是它的一个 具体应用。 4、线性预测编码（linear predictive coding） 。近年来，对语音波形进行编码，它可以 大大降低数据传输率。在接收端使用 lpc 分析得到的参数，通过话音合成器重构话音。合 成器实际上是一个离散的随时间变化的时变线性滤波器。时变线性滤波器既当作预测器使用， 又当作合成器使用。分析语音波形时作预测器使用，合成语音时作话音生成模型使用。 5、自适应波束形成（adaptive beaamforming） 。频谱资源越来越紧张，利用现有频谱 资源进一步扩展容量成

21、为通信发展的一个重要问题。智能天线技术利用阵列天线替代常规天 线，它能够降低系统干扰，提高系统容量和频谱效率，因此智能天线技术受到广泛关注。自 适应束波形成通过调节天线各阵元的加权幅度和相位，来改变阵列的方向图，使阵列天线的 主瓣对准期望用户，从而提高接收信噪比，满足某一准则下的最佳接收。在雷达与声纳的波 束形成中，自适应滤波器用于波束方向控制，并可在方向图中提供一个零点以便消除不希望 的干扰。 其应用还有噪声中信号的滤波、跟踪、谱线增强以及预测等。 z-1z-1 s z-1 ssss u(n) x(n-1)x(n-2)x(n-m+2)x(n-m+1) wh(0)wh(1) wh(2) wh(

22、m-2) wh(m-1) d(n) y(n) e(n) 第二章第二章 自适应自适应 lmslms 算法的研究算法的研究 2.1 概述 自适应算法中使用最广的是下降算法，下降算法的实现方式有两种：自适应梯度算法和 自适应高斯-牛顿算法。自适应高斯-牛顿算法包括 rls 算法及其变型和改进型，自适应梯度 算法包括 lms 算法及其变型和改进型2,6。 滤波器设计准则是使滤波器实际输出 y(n)与期望响应 d(n)之间的均方误差 j（n）为最小， 这称为最小均方误差（mmse）准则。 图 2-1fir 滤波器的自适应实现 图 2.1 为 fir 滤波器的自适应实现的原理图。所谓自适应实现是指；m 阶

23、 fir 滤波器的 抽头权系数 w0,w1,wm-1可以根据估计误差 e(n)的大小自动调节，使得某个代价函数最小6,7。 定义均方误差 j(n)为代价函数，因为滤波器在 n 时刻的估计误差 e(n)=d(n)-whx(n) (2-1) 所以代价函数 j(n)=e|e(n)|2=e|d(n)-wh(n)|2 (2-2) 由此可得 j(n)的梯度 j(n)=2 ex(n) h(n)w(n)-2ex(n)d(n) (2-3) 2.2 lms 算法 最陡下降算法不需要知道误差特性曲面的先验知识，其算法就能收敛到最佳维纳解，且 与起始条件无关6。但是最陡下降算法的主要限制是它需要准确测得每次迭代的梯度

24、矢量， 这妨碍了它的应用。为了减少计算复杂度和缩短自适应收敛时间许多学者对这方面的新算法 进行了研究。1960 年，美国斯坦福大学的 windrow 等提出了最小均方（lms）算法，这是 一种用瞬时值估计梯度矢量的方法，即 (2-4) 可见，这种瞬时估计法是无偏的，因为它的期望值 e 确实等于矢量。所以，按照自适应滤波器滤波系数矢量的变化与梯度矢量估计)(n )(n 的方向之间的关系，可以先写出 lms 算法的公式如下： （2-5a） （2-5b） 将式 e(n)=d(n)-y(n)和式（2-1）代入到上式中，可得到 =)()()()()(ndnxnwnxnxi h （2-6） 图 2-2 自

25、适应 lms 算法信号流图 由上式可以得到自适应 lms 算法的信号流图，这是一个具有反馈形式的模型，如图 2-2 所示。如同最陡下降法，我们利用时间 n=0 的滤波系数矢量为任意的起始值 w(0),然后开始 lms 算法的计算，其步骤如下。 （1） 由现在时刻 n 的滤波器滤波系数矢量估值，输入信号矢量 x(n)以及期望信号)(nw d(n)，计算误差信号： e(n)=d(n)- （2-7）)()(nwnx h （2） 利用递归法计算滤波器系数矢量的更新估值： （2-8）)()()() 1(nxnenwnw 将时间指数 n 增加 1，回到步骤（1） ，重复上述计算步骤，一直到达稳态为止。 由

26、此可见，自适应 lms 算法简单，它既不要计算输入信号的相关函数，又不要求矩阵之逆， 因而得到了广泛的应用。但是，由于 lms 算法采用梯度矢量的瞬时估计，它有大的方差， x(n)xh(n) i z-1i + - e(n) d(n) w(n+1)w(n) )()(2 )( )( )( 2 nxne nw ne n )()()( )( 2 1 )() 1( nxnenw nnwnw )()()()()() 1(nxnwndnxnwnw h 以致不能获得最优滤波性能3。下面我们来分析 lms 算法的性能。 2.2.1 自适应收敛性 自适应滤波器系数矢量的起始值 w(0)是任意的常数，应用 lms

27、算法调节滤波器系数具 有随机性而使系数矢量 w(n)带来非平稳过程。通常为了简化 lms 算法的统计分析，往往假 设算法连续迭代之间存在以下的充分条件： (1) 每个输入信号样本矢量 x(n)与过去全部样本矢量 x(k),k=0,1,n-1 是统计独立的， 不相关的，即有 ex(n)xh(k)=0; k=0,1,n-1 (2-9) (2) 每个输入信号样本矢量 x(n)与全部过去的期望信号 d(k), k=0,1,n-1 也是统计独立 的，即有 ex(n)d(k)=0; k=0,1,n-1 (2-10) (3) 期望信号样本 d(n)依赖于输入过程样本矢量 x(n)，但全部过去的期望信号样本是

28、独 立的。 (4)滤波器抽头输入信号矢量 x(n)与期望信号 d(n)包含着全部 n 的共同的高斯分布随即 变量。 通常，将基于上述基本假设的 lms 算法的统计分析称为独立理论（gendependence theory）6. 由式（2-6）可知，自适应滤波器在 n+1 时刻的滤波系数矢量 依赖与三个输入：) 1( nw （1） 输入过程的过去样本矢量 x(k), k=n,n-1,0; （2） 期望信号的以前样本值 d(k), k=n,n-1,0; （3） 滤波器系数矢量的起始值。)0( w 从上述基本假设（1）和（2）的观点来看，我们可发现滤波器系数矢量是与) 1( nw x(n+1)和 d

29、(n+1)独立无关。这点是很有用的，而且在后续分析中将被重复使用。 当然，有许多实际问题对于输入过程与期望信号并不满足上述基本假设。尽管如此， lms 算法的实践经验证明，在有足够的关于自适应过程结构信息的条件下，基于这些假设 所分析的结果仍可用作可靠的设计指导准则，技术某些问题带有依赖的数据样本。 为了分析问题，现在我们将系数误差矢量 w(n)代入式（2-6）的右边，得到 )()()()()() 1( 0 ndnxwnwnxnxinw h =)()()()()()()( 00 wnxnxndnxwnwnxnxi hh 式中，是最佳滤波系数矢量，w(n)是误差矢量。如将移至等式左边，则 0 w

30、 0 w -等于系数误差的跟新值，于是上式可写成) 1( nw 0 w w(n+1)= （2-11）)()()()()()()( 0 wnxnxndnxnwnxnxi hh 对于上式两边取数学期望，得到 )()()()()()()()1( 0 wnxnxndnxenwnxnxienwe hh = 0 )()()()()()()(wnxnxendnxenwenxnxei hh = （2-12）)()()( 0 rwpnweri 显然，上式中 r 为输入信号矢量 x(n)的相关矩阵，而 p 为输入信号矢量 x(n)与期望信号 d(n)的互相关矩阵。根据自适应滤波的正则方程的矩阵式，上式右边第二项应

31、等于零。由此 可简写成 （2-13） 我们可以看出，lms 算法与前述最陡下降算法有相同的精确数学表达式。因此，要使 lms 算法收敛于均值，必须使步长参数 满足下列条件： （2-14） 这里是相关矩阵 r 的最大特征值。在此条件下，当迭代计算次数 n 接近于时，自适应 max 滤波系数 w(n)近似等于最佳维纳解 w0. 2.2.2 平均 mse学习曲线 如前节所述，最陡下降算法每次迭代都要精确计算梯度矢量，使自适应横向滤波器权矢 量或滤波系数矢量 w(n)能达到最佳维纳解 w0 ，这时滤波器均方误差（mse）为最小，即式 中，是期望信号 d(n)的方差。 2 d （2-15） 学习曲线定义

32、为均方误差随迭代计算次数 n 的变化关系，如式（2-16）所描述的包含指 数项之和： （2-16） pwt d 2 min max 2 0 )()(1(nwerinwe )0()1 ()( 22 1 i n ii m i i vn 图 2-3 单条学习曲线 式中每个指数项对应于算法的固有模式，模式的数目等于滤波器加权数。显而易见，由 于上式中，故当 n,最陡下降算法均方误差 （）=min.但 lms 算法用瞬时11 i 值估计梯度存在误差的噪声估计，结果使滤波器权矢量估值只能近似于最佳维纳解，)(nw 这意味着滤波均方误差随着迭代次数 n 的增加而出现小波动地减少，最后，（）不)(n 是等于

33、min而是稍大于其值，如图 2-3 所示。如果步长参数 选用得越少，则这种噪化指 数衰减曲线上的波动幅度将减小，即学习曲线的平滑度越好6。 但是，对于自适应横向滤波器总体来说，假设每个滤波器 lms 算法用相同的步长 和 同等的起始系数矢量 w(0)，并从同一统计群体随机地选取各个平稳的各态历经的输入信号， 由此计算自适应滤波器总体平均学习曲线。 滤波器的均方误差 （2-17） 式中，称为滤波系数的误差矢量。为了求总体平均 rms，对式（2-17）两 0 )()(wnwnw 边取数学期望值，有 )()()( min nwrnwene h 由矩阵理论中等式，上式右边第二项可以可写成)()( tt

34、tt aabbetrabbae （2-18）)()()(nrktrnwrnwe h 式中 k(n)=，称之为滤波权系数误差的相关矩阵，因此，平均 rms 可以写)()(nwnwe h 出 （2-19）)()( min nrktrne 式中，k（n）可以递归地进行计算。 下面我们推导这个递归公式。首先把式（2-11）递归计算式写成 )()()()()()1( min nenxnwnxnxinw h 这里，。将上式与其共轭转置矩阵右乘，得到 0min )()()(wnxndne h )()()()()()()1()1(nxnxinwnwnxnxinwnw hhhh )()()( min nwrnw

35、n h )()()()()()()()( min 2 min 2 nxnwnxnxinenxnxne hhh )()()()()( min nxnxinwnxne h 对上式两边取数学期望，由于与 x(n)不相关，且认为与 x(n)也不相关，又)( min ne)(nw ，于是得到的递归计算公式：0 )min( n ee)()()(nwnwenk h (2-20)rnrkrtrrnknrknkn min 22 )()()()() 1(k 利用酉矩阵相似性变换法，有 (2-21a)rqqh 这里，是对角线矩阵所含的相关矩阵 r 的特征值，矩阵 q 是由这些特征值相关联的 特征矢量所确定的酉矩阵。

36、注意到矩阵是实值，并且令 （2-21b）)()(nxqnkq h 注意，这里 x(n)是一个对角线矩阵。加上酉矩阵性质,由式（2-21）得到iqq h （2-22） 因为是对角线矩阵，矩阵 x(n)的对角元素是，i=1,2,m,上式又可写成)(nxi （2-23）)()( 1 nxnrktr m i ii 其次，我们利用式（2-21）所描述的变换关系，将式（2-20）递归计算公式重新写成 （2-24） min 22 )()()()()1(nxtrnxnxnxnx 上式表明，只需要计算其对角线项元素，就可得到 ， ij m j jiiiii nxnxnxnx min 2 1 2 )()(2)()

37、1( i=1,2,m 当 n 趋于时，则与的极限相等，于是由上式与式（2-23）得到) 1( nxi)(nxi （2-25） 我们定义超量均方误差等于总体平均的均方误差 e()与最小均方误差之差值，)( ex min 即 = trrk() = （2-26） min )()(e ex 显然，如果能使总体平均 e(n)收敛于最终稳定值，当且仅当步长参数 必)( min ex 须满足下列条件： （2-27a） m i i m i i rktr 1 1 min 2 )( m i i m i i 1 1 min 2 m i i 1 2 0 )( )( )()( nxtr qnxqtr qnxqqtrnr

38、ktr h hh m i i 1 或 （2-27b） 这里，i=1,2,m 是相关矩阵 r 的特征值，m 是自适应滤波器横向抽头数或阶数。 i 当此条件被满足时，lms 算法是绝对收敛的，这是从均方值域保证稳定 的条件。如果将其与均方值域所讨论的稳定条件式（2-14）相比较看，由于仅是 max 中的一个最大值，所以，由式（2-27）所表示的稳定条件既是必要的又是充分的。 2.2.3 失调 在自适应滤波器中，失调（misnadjustment）m 是衡量其滤波性能的一个技术指标，它 被定义为总体平均超量均方误差值与最小均方误差值之比，即)( ex min m= （2-28） 把式（2-26）代入

39、上式中，得到 m= （2-29） 通常所用 值很小，因此，失调又可近似表示为 m= （2-30） 显而易见，自适应滤波器 lms 算法的稳态失调与步长 成正比。把算法的总体平均学 习曲线的时间常数写成的逆数，而平均特征值应等于 ，则滤波器 avmse) ( av 2 av 稳定失调 m 又可由式（2-29）写成 m= （2-31） 上面诸式表明： （1）失调为自适应 lms 算法提供了一个很有用的测度，比如 10失调意味着自适应算 法所产生的总体平均 mse 高于最小均方误差的增量值为 10； （2）失调是随滤波系数数目线性增加的； （3）失调可以做的任意小，只要选用大的时间常数，也就是小的步

40、长值即可。 avmse) ( 但是，滤波器自适应收敛过程需要长的时间，影响了滤波器自学习、自训练的速度，所以， 自适应滤波器 lms 算法的失调与自适应收敛过程之间存在着矛盾，如何缩短收敛过程，而且 有很小的失调，这是值得研究的问题。 2 2 0 rtr min )( ex e m i i m i i 1 1 2 m i i 1 2 1 av mse m av m 2 1 )(4 m k k m 1 1 2.2.4 缩短收敛过程的方法 根据自适应滤波器权系数调节的递归计算公式可以看出，lms 算法的迭代公式为 为了缩短收敛过程，概括起来可以从如下三个方面进行设计： 第一，采用不同的梯度估值，如

41、 lms 牛顿算法，它估计时采用了输入矢量相)(n 关函数的估值，使得收敛速度大大快于上述经典的 lms 算法，因为它在迭代过程中采用了 更多的有关输入信号矢量的信息。 第二，对收敛因子步长 选用不同方法。步长 的大小决定着算法的收敛速度和达到 稳态的失调量的大小。对于常数的 值来说，收敛速度和失调量是一对矛盾，要想得到较 快的收敛速度可选用大的 值，这将导致较大的失调量；如果要满足失调量的要求，则收 敛速度受到制约。因此，人们研究了采用变步长的方法来克服这一矛盾。自适应过程开始 时，取用较大的 值以保证较快的收敛速度，然后让 值逐渐减小，以保证收敛后得到较 小的失调量。现在已有不同准则来调整

42、步长 ，如归一化 lms 算法、时域正交化 lms 算 法等。 第三，采用变换域分块处理技术。对由滤波器权系数矢量调整的修正项中的乘积用变 换域快速算法与分块处理技术可以大大减少计算量，且能改善收敛特性，如频域 lms 算法、 分块 lms 算法等。 )()()( )( 2 1 )() 1( nxnenw nnwnw 第三章第三章 lms 自适应滤波器的改进形式自适应滤波器的改进形式 文献中已经提出了许多基于 lms 算法的改进的自适应算法。这些算法的共同特点是从 lms 算法出发，试图改进 lms 算法的某些性能，包括 lms 算法的收敛特性，减小稳态均 方误差，减小计算复杂度。 3.1 归

43、一化 lms 算法 如果不希望用与估计输入信号矢量有关的相关矩阵来加快 lms 算法的收敛速度，那么 可用变步长方法来缩短其自适应收敛过程，其中一个主要的方法是归一化 lms（normalized lms,缩写为 nlms）算法6-8，变步长 （n）的更新公式由式（2-8）写成 （3-1）)()()()()()()1(nwnwnxnennwnw 式中，表示滤波权系数矢量迭代更新的调整量。为了达到快速收敛的)()()()(nxnennw 目的，必须合适地选择变步长 （n）的值，一个可能的策略是尽可能多的减小瞬时平方误 差，即用瞬时平方误差作为均方误差 mse 的简单估计，这也是 lms 算法的基

44、本思想6。 瞬时平方误差可以写成 22 )()()()(nwnxndne t （3-2）)()()(2)()()()()( 2 nxnwndnwnxnxnwnd ttt 如果滤波权系数矢量的变化量，则对应的平方误差可以由上)()()(nwnwnw)( 2 ne 式得到 )()()(2 )()()()( )()()()(2)()( 22 nxnwnd nwnxnxnw nwnxnxnwnene tt tt （3-3） 在此情况下，瞬时平方误差的变化量定义为)( 2 ne )()()( 223 nenene （3-4）)()()()()()()(2nwnxnxnwnenxnw ttt 把 的关系代

45、入式（3-4）中，得到)()()()(nxnennw （3-5） 22222 )()()()()()()()(2)(nxnxnennxnxnenne tt 为了增加收敛速度，合适地选取 （n）使平方误差最小化，故将式（3-5）对变系数 （n）求偏导数，并令其等于零，求得 （3-6） 这个步长值 （n）导致出现负的值，这对应于的最小点，相当于平方误)( 2 ne)( 2 ne 差等于零。为了控制失调量，考虑到基于瞬时平方误差的导数不等于均方误差 mse)( 2 ne 求导数值，所以对 lms 算法的更新迭代公式作如下修正： （3-7） 式中， 为控制失调的固定收敛因子， 参数是为避免过小导致步长

46、值太大而设)()(nxnxt 置的。通常称式（3-7）为归一化 lms 算法的迭代公式。 为了保证自适应滤波器的工作稳定，固定收敛因子 的选取应满足一定的数值范围。 现在我们来讨论这个问题。首先考虑到下列关系： （3-8a）)()(rtrnxnxe t （3-8b） 然后对收敛因子的平均值应用更新 lms 的方向是 ,最后，将归一化 lms 算)()(nxne 法的更新公式与经典 lms 算法更新公式相比较，可以得到收敛因子 的上界不等式条件， 如下： （3-9） 或 20 显然， 由式（3-7）与（3-9）可构成归一化 lms 算法，其中，选择不同的 值10 可以得到不同的算法，当时，由式（

47、3-7）可以写成0 )()( 1 )( nxnx n t )()( )()( )()1(nxne nxnx nwnw t )()( )()( )()( )()( nxnxe nxxee nxnx nxne e tt 2rtr 1 2 )(0 rtrrtr n )()()()( )( )() 1( 2 nxnxnwnd nx nwnw t （3-10） 这种算法是 nlms 算法的泛化形式，其中随机梯度估计是除以输入信号矢量元素平方之和。 所以步长变化的范围比较大，可由较好的收敛性能。在此情况下，算法的归一化均方误差 （nmse）可由式（3-10）得到 （3-11） 得到最佳滤波权系数： （3-

48、12）prw 1 0 式中， （3-13a） （3-13b） 所以，自相关矩阵和互相关量都含有归一化因子，在稳定状态 x(n)和 d(n)时，假定自相关 矩阵存在可逆性。同时，我们由式（3-11）可以看出，当且仅当时，归一 r 0 )()(wnxnd t 化 lms 算法的均方误差可等于零。这需要对 d(n)用输入信号矢量线性组合进行精确地建模。 此时，最佳滤波权矢量变成合宜的线性权系数矢量。 0 w 当 =1 时，nlms 算法更新公式可以写成 （3-14） 由此可见 nlms 算法的特殊形式： （3-15） 或 （3-16） 这也表明等效步长是输入信号的非线性变量，它使变步长由大逐步变小了

49、，加速了收敛过 2 )( )()()( )( nx nxnwnd en t 2 )( )()( nx nxnx er t 2 )( )()( nx nxnd ep )()( )()(1 )()1(nxne nxnx nwnw t )()()()( )(1 )() 1( 2 nxnxnwnd nx nwnw t 2 1 )( )( )()()()() 1( nx nx nxnwndnwnw t 程。当然，nlms 算法的计算量较之 lms 算法稍有些增加。 下面我们介绍两个有趣的改进型 lms 算法一为时域正交（time-domain orthogonal） lms 算法，简称为 tdo-lms

50、 算法(mlms)，另一位修正 lms 算法6。它们都属于可变步 长的 lms 算法，可以缩短自适应收敛过程的时间。 3.1.1 tdo-lms 算法 时域正交算法是基于对平方误差取时间上的平均，即对 （3-17） 取最小值。按上式对权系数矢量取偏导数，并令其等于零，得到时域正交准则下序列 x(n) 对 d(n)进行线性估计的最佳权系数矢量，即 0 w （3-18a） 或 （3-18b） 这意味着用时域正交 lms 算法的权矢量更新运算公式，可对线性估计的权矢量作自适 应调整，使其逐步趋于最佳值。huffman 的 tdo-lms 算法的更新公式是 （3-19） 当 m 取足够大的值时，上式又

51、可近似成 （3-20） 这与上面讨论的归一化 lms 算法的权矢量更新公式相类似。 3.1.2 mlms 算法 修正 lms 算法是在 lms 算法中权矢量的校正量与梯度估计之间人为地引入一个时延， 利用现时刻的梯度估计代替前一时刻的梯度估计，有 （3-21） m n t m n nxnwnd m ne m nee 0 2 0 22 )()()( 1 1 )( 1 1 )( 0)()()()( 1 1 0 0 nxnxnwnd m m n t 0)()()( 1 1 0 0 m n t nxndnxw m , 2 , 1 , 0 );()()()( 1 2 ) 1() 1( )( ) 1()

52、1( )()( ) 1( nm mxmxmwmd m m mxmx mw mxmx mxmx mw t tt t )()()()( )()( )() 1(nxnxnwnd nxmx mwmw t t ) 1( 2 1 )() 1( nnwnw 称之为修正 lms 算法。这种算法乍看起来似乎存在矛盾，因为本身就是的) 1( n) 1( nw 函数，其实，它还是可解得。式（3-21）用瞬时梯度信息可表示为 （3-22）) 1() 1()() 1(nxnenwnw 将代入上式，有) 1() 1() 1() 1(nwnxndne t ) 1()1() 1() 1()() 1(nxnwnxndnwnw

53、t 整理后，得到 （3-23） 式中 （3-24a） ) 1()() 1() 1(nxnwndne t m （3-24b） 显然，自适应步长 是可变收敛因子，它随着输入信号功率的变) 1( n m ) 1() 1(nxnxt 化可加快收敛速度，从而使 mlms 算法的性能有了很大的改进，特别是在 选用的值较大 时。当然，如果 只取很小，则 mlms 算法近似等于 lms 算法。比较式（3-15）与（3- 23）可看出，mlms 算法与 nlms 算法特殊形式的更新公式很相似，变步长都取决于输入 信号功率，但不同的是信号和误差序列都差一个时延的相应值，随着迭代运算次数的增加 而趋于一致。因此，归

54、一化 lms 算法、时域正交 lms 算法及修正 lms 算法都是以输入 信号功率控制变步长 lms 算法，利用梯度信息调整滤波器权系数使其达到最佳值这一点完 全相同。但它们的自适应过程较快，性能有了很大改进。 输入信号功率与其相关矩阵 r 的特征值 有关，设 r 的特征矢量矩阵为 q， i 是 r 的 m 个特征矢量，则有 ,可写成 10lm qqqqqrq mm 或 (3-25) qrq t qqqqr 1 式中， 这表明变步长受 控制，与前述概念相一致。 i diag, 1 , 0li i 3.2 泄露 lms 算法 泄露 lms 算法的迭代公式如式（3-26）所示： （3-26） )(

55、)(2)() 1(nxnenwnw 式中， 为正值常数，需满足 （3-27） 10 通常取 近似为 1。若 =1，则泄露 lms 算法变为 lms 算法8。对于常规的 lms 算 法，当 突然变为零时，权矢量系数将不再发生变化而保持 变为零时的值。而对于泄露 ) 1() 1() 1()( ) 1()1()() 1( ) 1() 1(1 )() 1( nxnennw nxnxnwnd nxnx nwnw mm t t ) 1() 1(1 ) 1( nxnx n t m lms 算法，当 值变为 1 之后，滤波器的权矢量将逐渐变化，并最终变为 0 矢量。这个过 程称为泄露8。泄露 lms 算法在通

56、信系统的自适应差分脉冲编码调制（adpcm）中得到 应用，被用来减小或消除通道误差。另一方面，泄露 lms 算法也常用来在自适应阵列中消 除旁瓣效应。 实际上，在无噪声的条件下，泄露 lms 算法的性能并没有常规 lms 算法好，一下分 析都可以说明这一点。由式（3-27） ，有 )()()(2)() 1(nxndnxnwnw t = （3-28） )()(2)()()(2nxndnwnxnxi t 假定输入信号与权矢量是相互独立的，则 （3-29） pnwerinwe2)()2()1( 或者 （3-30） 若要保证上述算法的稳定，需要有 (3-31) 显然，上式明显与最佳权矢量由偏差。因此，

57、泄露 lms 算法是一种有偏的prwopt 1 lms 算法。 越接近于 1，偏差越小。可以证明，泄露 lms 算法的稳定性条件为 （3-32） 由于矩阵 是严格正定的，故没有零值的特征值。此外，泄露 lms 算法的 第 i 个权系数的时间常数为 （3-33） 式中，表示泄露 lms 算法第 i 个权系数的时间常数。显然，比 lms 算法的时间常 )(l i )(l i 数小，即可能以更快的速度收敛。 i 3.3 极性 lms 算法 在有些应用领域，尤其是在高速通信领域，实际问题对算法的计算量有很严格的要求， 因此，产生了一类称为极性（或符号）算法的自适应算法8。这种算法可以显著地减小自适 应

58、滤波器的计算量，有效地简化相应的硬件电路和程序计算。这类极性算法可以分为三种不 同的实现方式，即对误差取符号的误差极性算法（se） ，对输入信号取符号的信号极性算法 （sr）和对误差与输入信号二者均取符号的简单极性算法（ss） 。这三种算法的权矢量迭代 pnweirinwe 2)() 2 1 (2)1( pirnwe n 1 2 1 )(lim 2 1 1 1 min ir 2 1 i i l i )1 (2 1 )( 公式如式（3-34）所示。 （3-34） 在式（3-34）中，符号函数 sgn定义为 （3-35） 极性 lms 算法的主要优点是计算量小。显然，这种算法把一个数据样本的 n

59、比特运算 简化为一个比特的运算，即符号或极性的运算。另一方面，与基本 lms 算法相比，这种三 个在梯度估计性能上有所退化，这是由于其较粗的量化精度所引起的，并由此引起了收敛 速度的下降和稳态误差的增加。 3.4 lms 算法梯度估计的平滑 在迭代方程中，用带噪的瞬时梯度估值来替代梯度真值是 lms 算法的一个)(n )(n 显著缺点。如果使用连续几次梯度估值的平滑结果来替换这个瞬时值，则有可能改善 lms 算法的性能。有许多方法可以用于对一个时间序列进行平滑，归纳起来，可以分为线性平 滑和非线性平滑两类8。 设平滑 lms 梯度估计的自适应迭代算法为 （3-36）)(2)() 1(nbnwn

60、w 式中， （3-37） t m nbnbnbnb)()()()( 10 对于线性平滑，一种有效的平滑方法是邻域平均法，即 （3-38） 式中，n 表示参加平滑的梯度估值的样本点数。另一种有效地平滑方法是低通滤波法， 即利用低通滤波器来进行线性平滑。 （3-39）)()() 1()()()()(ninxneinxneinxnelpfnbi 式中，lpf表示低通滤波器。 对于非线性平滑处理，常采用中值滤波技术。b(n)矢量中的第 i 个元素为)(nbi (3-40) ni inxnemednb)()()( 或者 （3-41）)1() 1()()()(ninxnneinxnemednbi )(sg