自适应滤波器原理第四讲-NLMS算法

1、2022-5-8自适应信号处理1第四讲 归一化最小均方（NLMS)自适应滤波算法 Y.J.Pang自适应信号处理22022-5-8CONTENTnNLMS算法推导过程nNLMS算法稳定性nNLMS算法在回声消除中的应用自适应信号处理32022-5-8为什么归一化？如何归一化及归一化的稳定性回声消除应用仿射投影滤波器应用自适应信号处理42022-5-8为什么归一化？为什么归一化？由第五章的传统的LMS滤波器的标准形式)(*)()() 1(nenunwnw从上式可以看出n+1次迭代中应用于滤波器抽头权向量的失调为w(n+1)-w(n)由以下三点影响： 1.步长参数 u （由设计者控制） 2.抽头输

2、入向量u(n) （由信息源提供） 3.实数据的估计误差e（n）或复数据估计误差e*（n）（n次迭代计算的结果） 可知失调与抽头输入向量u（n）成正比。我们在调整滤波器的权向量使滤波器达到稳定状态的过程中，应当使权向量以最小方式改变，这样才能的得到最优解。当u（n）较大时，出现梯度噪声放大问题。归一化：n+1次迭代时对抽头权向量的失调相对于n次迭代时抽头输入向量u（n）的平方欧式范数进行归一化。自适应信号处理52022-5-84.1.归一化归一化LMS滤波器作为约束最优化问滤波器作为约束最优化问题的解题的解 （1）在结构上，归一化LMS滤波器与标准LMS滤波器完全一样，都是横向滤波器。区别在于权

3、值控制器的机理 ，如下图横向滤波器w(n）自适应控制算法+输出信号y（n）期望响应d（n）误差信号e(n）输入向量u（n）自适应横向滤波器框图自适应信号处理62022-5-8最小化干扰原理最小化干扰原理：归一化LMS滤波器设计准则表述为约束优化问题。即给定抽头输入向量u（n）和目标响应d（n），确定更新的抽头向量w（n+1），使得增量的欧式范数最小化，并受制于以下约束条件我们应用拉格朗日乘子法来解决这个约束优化问题。代价函数为 其中Re.表示取实部运算，约束对代价函数的贡献是实值的； 为复数拉格朗日乘子，*表示复共轭； 表示欧式范数的平方运算，其结果也是实值的。因此代价函数J（n）是实值的二次

4、函数，且表示为(1) )()1()1(nwnwnw(2) )()() 1(ndnunwH2)1(nw(3) )() 1()(*Re) 1()(2nunwndnwnJH)() 1()(*Re)() 1()() 1()(nunwndnwnwnwnwnJH自适应信号处理72022-5-8为了得到代价函数为最小的最优更新权向量，推到如下：第一步；代价函数对w（n+1）求导，得：令其为零，得最优解为第二步; 将第一步的结果带入式（2）得)(*)() 1(2) 1(*)(nunwnwnwnJ)(*21)() 1(nunwnw2)(21)()( )()(21)()( )()(*21)( )() 1()(nu

5、nunwnunununwnununwnunwndHHHHH自适应信号处理82022-5-8对 求解得其中是误差信号。第三步；由上两步的结果，表示增量变化的最优值。 故归一化LMS算法抽头权向量期望的递归结果为2)()(2nune)()()()(nunwndneH)(*)()(1)() 1() 1(2nenununwnwnw)(*)()(1)() 1(2nenununwnw自适应信号处理92022-5-8为了对一次迭代到下一次迭代抽头权向量的增量变化进行控制而不改变向量的为了对一次迭代到下一次迭代抽头权向量的增量变化进行控制而不改变向量的方向，引入了一个正的实数标度因子方向，引入了一个正的实数标

6、度因子 。故得到归一化抽头权向量的递归方程)(*)()()() 1(2nenununwnw以上便是解决了当u（n）较大时，造成的LMS滤波器的梯度噪声放大的问题。而当而当u（n）较小时，不得不用较小的平方范数除以）较小时，不得不用较小的平方范数除以 ，以致有可能出现数值计，以致有可能出现数值计算困难。故将递归方程修改为；算困难。故将递归方程修改为； )(*)()()() 1(2nenununwnw其中.0自适应信号处理102022-5-84.2归一化LMS滤波器的稳定性)()()(nvnuwndH)()(nwwn)(*)()()()1(2nenununn)()(2nEnD期望响应d（n）多重回

7、归模型控制 ，重写如下加权误差向量为 于是从w中减去式得到以均方偏差为基础，进行稳定性分析。对式两边取平方欧式范数，并取期望值得：)()(*)(Re2)()()() 1(2222nunenEnuneEnDnDu)()( )()()(nunnunwwnuHH其中是无干扰误差信号自适应信号处理112022-5-8由式看做 为变量的一元二次函数 则当满足如下条件归一化LMS滤波器在均方误差意义下是稳定的。)(/)()(/ )(*)(Re20222nuneEnunenuE最优步长参数为)(/)()(/)(*)(Re222nuneEnunenuEopt0u自适应信号处理122022-5-8特殊情况：复数

8、据 实数据)(/)()(/)(*)(Re222nuneEnunenuEopt)(/)()(/)()(Re222nuneEnunenuEopt为便于计算最优步长提出三个假设：假设一假设一：从一次迭代到下一次迭代的输入信号能量的波动足够小满足自适应信号处理132022-5-8)()()()()()()()()()(222222nuEneEnuneEnuEnenuEnunenEu从而得到简化的最优步长假设二假设二：无干扰误差信号与期望响应d（n）的多重回归模型干扰（噪声）v(n)无关第五章中，干扰信号e（n）与无干扰信号有关。)( )()()()()(2nuEnvnunuEnenuE)()()(nv

9、nune)()()(2neEnenuEopt)()(22neEnuEopt最优步长自适应信号处理142022-5-8假设三假设三：输入信号u（n）的谱内容在比加权误差向量每一个分量所占频带更宽的频带上基本上是平坦的，因此证实了如下近似：（低通滤波作用）)()( )()( )()()(2222nuEnDnuEnEnUnEnuET)()()(22neEnuEnDopt最优步长自适应信号处理152022-5-84.3回声消除中的步长控制 几乎所有的谈话都在存在回声的情况下进行。根据是否可察觉是有所涉及的时延决定。语音与回声之间时延较短，不容易察觉。（频谱失真频谱失真）时延较长，(超过几十毫秒)，就能

10、感觉到。现实生活中很常见；电话电路电话电路： 电路中的混合变换器的桥式电路，当平衡不好时，输入与输 出之间存在耦合现象，引起回声。免提电话免提电话： 啸叫声。这是由于麦克风得到了扬声器的语音信号和 机壳反射的回波信号。 听到自己的延迟的声音。经系统环绕-往返时间延迟造 成的 。 自适应信号处理162022-5-8回声消除中的步长控制扬声器-机壳-麦克风环境（LEM）横向滤波器w（n）自适应和步长控制器期望响应d（n）u（n）远处说话者的信号u(n)误差信号e（n）+合成回声y（n）回声消除器 回声控制系统的结构框图回声控制系统的结构框图自适应信号处理172022-5-8步长控制多重回归模型的干

11、扰v（n）误差e（n）增大步长参数的上界下降可能过大回声滤波器不稳定1.本地说话者语音信号导致的干扰。（双说话）2.永久的本地噪声（汽车内的背景噪声）3.需要长的滤波器长度，但不能满足的话，不能考虑全部脉冲响应，而不能建模的那部分系统的剩余回声成为本地噪声4.定点数字信号处理器中的定点计算的量化噪声。本地干扰大时，步长参数u可能很高（滤波器不稳定）本地干扰小时，步长参数u很小 （降低了滤波器收敛速率）因此应用时变步长参数因此应用时变步长参数u（n）来代替不变参数）来代替不变参数u自适应信号处理182022-5-8)()()()(22neEnuEnDnopt对最优步长的估计由上式可变为下列三个独

12、立的估计： 1.误差信号功率估计，即Ee2(n) 2.输入信号功率估计，即Eu2(n) 3.均方偏差的估计， 即D（n）（由于表征LEM环境的多重回归模型 参数w未知）（人工时延方法人工时延方法） （凸组合思想表示一阶递归凸组合思想表示一阶递归 ） _22_2)() 1()1 () 1(nxnxnxr取值一般在0.9,0.999 内如图中远端说话者信号被延迟了MD个样值。用自适应横向滤波器模型，故对应的人工时延的参数向量w为0，可令将自适应滤波器趋向均匀地将加权误差向量扩展到它的M个抽头上。将均方偏差近似为1-DM.,0,1,2,3.k )()(nwnkk)()(201nwnDDDMKkMM自

13、适应信号处理192022-5-8 本地激励引起的误差信号e（n）增大时，步长参数减小，稳定。系统卡滞，阻断了滤波器的自适应和延迟系数。用LEM的附加检测器来解决自适应信号处理202022-5-84.4 实数据时收敛过程的几何考虑)1()()1()()(nununununTsamplen权向量调整量用于n+1次迭代的归一化滤波器得1）调整量的方向与输入向量u（n）的方向一致。2）调整量的大小取决于输入向量u（n）与u（n-1）的样值相关系数。对实数据，该系数为 是所有权向量 的集合，它作用于输入向量u（n）以产生输出y（n），同理两个超平面的夹角就是输入向量u（n）和u（n-1）的夹角。由空间理

14、论可知，1n) 1()() 1()(cosnunununuT)(nw自适应信号处理212022-5-8a）当 （即输入向量u（n）与u（n-1）正交）时，归一化LMS滤波器收敛速度最快。b）当 =0 或180（ 输入向量u（n）与u（n-1）处于相同方向或相反方向）时，归一化LMS滤波器的收敛速度最慢。为防止b）让收敛速率基本上为常数，独立于输入向量u（n）与u（n-1）的夹角。我们使用放射投影滤波器。图（a）权值空间内，w（n+1）与w（n）的连线正交与图（b）正交于1nnn90自适应信号处理222022-5-8自适应信号处理232022-5-8自适应信号处理242022-5-8特点特点LM

15、S滤波器简易，稳定收敛速率慢自适应常数u有反功率量纲模型独立性，性能有鲁棒性归一化LMS滤波器减轻了当u（n）过大时梯度噪声收敛速率快于传统LMS自适应常数没有量纲的较LMS计算复杂均方意义上稳定收敛仿射投影自适应滤波器归一化LMS的推广收敛性最好计算难度大自适应信号处理252022-5-84.5仿射投影滤波器 )() 1() 1(nwnwnw 1-0,1,2.Nk )() 1()(knunwkndH归一化LMS滤波器为仿射投影自适应的一个特例，N=1,仿射投影自适应滤波器阶数为N个约束个数的约束最优准则。权值增量约束条件代价函数)() 1()(*Re)() 1()(102knunwkndnw

16、nwnJkNkN M 数据矩阵A(n),其埃尔米特转置为： AH(n)=u(n),u(n-1),.u(n-N+1) N 1期望响应向量，它的埃尔米特转置为： dH(n)=d(n),d(n-1,.d(n-N+1)自适应信号处理262022-5-8由上式重新写代价函数：) 1()()(Re()() 1()(102HNknwnAndnwnwnJ对权向量微分：)()() 1(2) 1(*)(nAnwnwnwnJ)(21)() 1(nAnwnwH令其为0得由式 得 ) 1()()(dnwnAnH由式 (n)A(n)A 21)()()(HnwnAndH移项并求12( ( )( )( ) ( ( )( )(

17、 )( )HA n Ane ne nd nA n w n自适应信号处理272022-5-8代入式 并为保证权向量迭代控制的方向不变引入步长参数得到所期望的仿射投影滤波器的更新方程如下)()()()()() 1(1nenAnAnAnwnwHH将公式)()()()(nwnAndne代入上式得)()()()( )()()()() 1(11ndnAnAnAnwnAnAnAInwHHHH定义投影算子定义投影算子P=)()()()(1nAnAnAnAHH自适应信号处理282022-5-8仿射投影自适应滤波器的稳定性分析以均方偏差D(n)的基础上，得到)()()()()()1(1nenAnAnAnnHH)(

18、)()()()()()(Re2 )()()()()() 1(112nwwnAnunenAnAnEnenAnAneEnDnDHHuHH)()()()()()()()(Re2011nenAnAneEnenAnAnuEHHHH若稳定须满足)()()()()()()()(Re11nenAnAneEnenAnAnuEHHHHopt最优步长自适应信号处理292022-5-8假设4：从一个迭代到下一次迭代，矩阵乘积A(n)AH(n)之逆的波动足够小以使得最优步长近似为)()()(Re2neEnenuEHopt假设5：无干扰误差向量与干扰误差向量不相关。在复数据中自适应信号处理302022-5-810210210210222)()()()()()()(NkNkNkNkoptkneEknuEknDkneEknuEneEnuE自适应信号处理312022-5-8仿射投影滤波器中的实际考虑1.在噪声环境下，(A(n)AH(n)）-1 可能发生计算困难.正则化(防止近端噪声过大防止近端噪声过大)()()()()() 1(1nenAnAnAnwnwHH)()()()()()