自适应信号处理

1、 第四章 自适应信号处理郑宝玉内内 容容v 最优滤波理论与最优滤波理论与Wiener滤波器滤波器v 梯度下降算法梯度下降算法v 横向横向LMS自适应滤波器自适应滤波器v 横向横向RLS自适应滤波器自适应滤波器v 自适应格型滤波器自适应格型滤波器v 自适应格自适应格-梯型滤波器梯型滤波器v 无限脉冲响应自适应滤波器无限脉冲响应自适应滤波器 v 盲自适应滤波器盲自适应滤波器v Kalman滤波器滤波器v 自适应滤波器的应用自适应滤波器的应用 维纳滤波维纳滤波 设信号设信号s(k)或或s(k)及观测过程及观测过程x(k)或或x(k)是广义平稳的是广义平稳的, 且已知且已知 其功率谱或自相关函数的知识

2、其功率谱或自相关函数的知识, 则基于观测过程则基于观测过程x(k)或或x(k), 按按 线性最小均方误差估计准则线性最小均方误差估计准则, 对信号对信号s(k)或或s(k)所作的最优估所作的最优估 计称为维纳滤波。计称为维纳滤波。特点特点: 参数固定参数固定, 适用于适用于平稳平稳随机情况下随机情况下 的最优滤波的最优滤波 , 且且实现简单实现简单。卡尔曼滤波卡尔曼滤波 设已知信号的动态模型测量方程设已知信号的动态模型测量方程, 则基于过程则基于过程x(k)及初始条件及初始条件, 按线性无偏最小方差递推估计准则按线性无偏最小方差递推估计准则,对状态对状态s(k)所作的最优估所作的最优估 计称为

3、卡尔曼滤波。计称为卡尔曼滤波。特点特点: 参数时变参数时变, 适用于适用于非平稳非平稳随机情况随机情况 下最优滤波且性能优越；下最优滤波且性能优越；维纳滤波与卡尔曼滤波维纳滤波与卡尔曼滤波 局限性局限性 只有在信号和噪声只有在信号和噪声统计特性先验已知统计特性先验已知的情况下的情况下,这两种滤波这两种滤波 器才能获得最优滤波。在实际应用中器才能获得最优滤波。在实际应用中,往往无法得到这些统往往无法得到这些统 计特性的先验知识计特性的先验知识, 或统计特性随时间而变或统计特性随时间而变, 这时就无法用这这时就无法用这 两种滤波器实现最优滤波。两种滤波器实现最优滤波。 Kalman滤波器滤波器Ka

4、lman滤波是滤波是Wiener滤波的发展滤波的发展, 它最早用于随机过程的它最早用于随机过程的参数估计参数估计, 后来很快在各种最佳滤波器和最佳控制中获得后来很快在各种最佳滤波器和最佳控制中获得极其广泛的应用。极其广泛的应用。 Kalman滤波器具有以下滤波器具有以下特点特点： 其数学公式用状态空间概念描述。其数学公式用状态空间概念描述。 其解是递推计算的。其解是递推计算的。 它提供了它提供了RLS类自适应滤波器的统一框架类自适应滤波器的统一框架 Kalman滤波器滤波器q Kalman滤波器问题滤波器问题的状态空间方程状态空间方程描述描述 )()()()()()(), 1() 1(21nn

5、nnnnnnnvxCyvxFx观测噪声向量过程噪声向量观测矩阵状态之间的转移的状态到描述系统在时间状态转移矩阵观测向量、待求的向量状态向量，不可观测的: )(: )(: )()1( : ), 1(: )(: )(21nnnnnnnnnvvCFyx(描述状态向量的过程方程)(描述观测向量的观测方程) Kalman滤波器（续）滤波器（续）假设：假设： 都是零均值的白噪声过程，相关矩阵伪都是零均值的白噪声过程，相关矩阵伪其它若, 0),()()(111knnknEHQvv其它若, 0),()()(222knnknEHQvv0)()(21nnEHvv)(),(21nn vv其中其中 为高斯噪声为高斯噪

6、声并假设状态的初始并假设状态的初始值值x(0)与v1(n)、v2(n)均不相关， v1(n)与v2(n)线性独立，即有)(),(21nn vv Kalman滤波器（续）滤波器（续）)()()(), 1(21nnnnnQQCF观测噪声相关矩阵过程噪声相关矩阵观测矩阵状态转移矩阵已知已知：Kalman滤波问题滤波问题可以叙述为：可以叙述为： 利用观测数据向量利用观测数据向量y(1),y(n)，求状态向量求状态向量 x(i)各各个分量的最小二乘估计个分量的最小二乘估计。 Kalman滤波器（续）滤波器（续）根据根据i和和n的不同关系，的不同关系，Kalman滤波问题又可进一步分滤波问题又可进一步分为

7、为滤滤 波问题波问题(i=n)、预测问题预测问题(in)和和平滑问题平滑问题 。具体如下：)1 (ni Kalman滤波器（续）滤波器（续）q 三个基本概念三个基本概念的估计值。求已知)(, )(,),1 (inxyy) )(,),1 (1( ) 1() 1( , )(,),1 (),( , )(,),1 ()()3(),( , )(,),1 ()()2()( , )(,),1 ()() 1 (1nnnnnniinniniinninnniyyyyyyyyyyyyyyyy数学符号：求一步预测：已知求已知：预测求已知：平滑求已知：滤波 Kalman滤波器（续）滤波器（续）)()()(1nnnyyq

8、 新息过程新息过程（innovation process）称 为 的新息过程向量,简称新息。)(ny)(n)()()()(,),1 ()(,) 1 (3)(,0)()(2)()(0)()(1nnnnnknknEnnknknEHHyyyyy可代表一一对应关系，：性质是个白噪声过程，：性质的新过程是不同于（正交），：性质新息过程 的相关矩阵定义为)(n)()(nnEHR矩阵而 NM )()() 1()(1nnnEnHdefRxG称为Kalman增益阵。若令 是状态向量 的一步预测向量，并用 表示预测状态误差向量，即) 1(,),1 (|)(1nnndefyyxx)(nx) 1,(nne)()()

9、1,(1nnnndefxxe矩阵则 MM ) 1,() 1,() 1,(nnnnEnnHdefeeK称为预测状态误差相关矩阵。预测状态误差相关矩阵可以利用Riccati差分方程)(), 1()(), 1() 1,(1nQnnnnnnnHFKFK递推计算，其中 矩阵 由下面的递推公式定义： MM )(nK) 1,()()() 1,() 1,()(nnnnnnnnnKCGFFK若定义 是利用已知的 求得的状态向量 的滤波估计，则 )( nx)(nx)(,),1 (nyy)( )()(nnnxxe定义为滤波状态误差向量，可以证明 )( )( )(nnEnHeeK因此， Riccati差分方程中的矩阵

10、 事实上是 滤波状态误差向量的相关矩阵。)(nK Kalman滤波器（续）滤波器（续）q Kalman滤波算法滤波算法经过推导，并将计算过程加以归纳，即可得到如下基于经过推导，并将计算过程加以归纳，即可得到如下基于一步预测一步预测Kalman滤波算法滤波算法：初始条件：初始条件： ) 1 ()(1xxEn HE) 1 () 1 ( ) 1 () 1 ( )0 , 1 (xxxxK输入观测向量过程：输入观测向量过程： 观测值y(1),y(n)已知参数：已知参数： 状态转移矩阵F(n+1,n) 观测矩阵=C(n) 过程噪声向量的相关矩阵=Q1(n) 观测噪声向量的相关矩阵=Q2(n) Kalman

11、滤波器（续）滤波器（续）q Kalman滤波算法滤波算法(续续)计算计算：n=1,2,3,12)()() 1,()()() 1,(), 1()(nnnnnnnnnnnHHQCKCCKFG)( )()()(1nnnnxCy)()()( ), 1() 1(11nnnnnnGxFx) 1,()()() 1,() 1,()(nnnnnnnnnKCGFKK)(), 1()(), 1(), 1(1nnnnnnnnHQFKFK Kalman滤波器（续）滤波器（续）例： 是一个时不变的标量随机变量， 为观测数据，其中 为白噪声。现用Kalman滤波器自适应估计 ，即考虑设计Kalman滤波器的问题。)(tx)

12、(tx)()()(tttvxy)(tv221)(1)(0)(1), 1()()()()() 1(0)() 1(0)()(vQCQFvxyxxxxxxnnnnnnnnnnnndttdt观测方程状态方程设计过程：(1)构造状态空间方程；(2)设计 的更新公式)(nx Kalman滤波器（续）滤波器（续）);2 , 3()2();1 , 2(),1 () 1 ()()0 , 1 ()()(1) 1,(), 1()( )()()( ) 1( ) 1,() 1,()(02222KgKgxxKggKKxygxxKKgvvPEnEnnnnnnnnnnnnnnnn Kalman滤波器（续）滤波器（续）结论结论

13、 Kalman滤波器是一种线性的离散时间有限维系统。 Kalman滤波器的关键性质是：它将使滤波后的状态 误差的相关矩阵的迹最小化。这意味着：Kalman滤 波器使状态向量的线性最小方差估计 Kalman滤波器已重构地解决了大量的控制问题和信 号处理问题LMS、RLS、Kalman算法比较算法比较（1）计算复杂度计算复杂度： LMSRLSKalman 相差不大相差不大（2）RLS算法是算法是“无激励无激励”状态空间模型状态空间模型下的下的Kalman滤波算法滤波算法)()()()()() 1(2/1nnnnnnHvxuyxx（3）收敛速率收敛速率： LMS： 越大，学习步长越大，收敛越快 RL

14、S： 越大， 遗忘作用越弱，收敛越慢 时变学习速率、时变遗忘因子 Kalman：无收敛问题，无收敛参数998. 097. 0)(n表表1 Kalman滤波算法与滤波算法与RLS滤波算法变量对照表滤波算法变量对照表Kalman算法算法RLS算法算法 参数名称参数名称变变 量量变变 量量 参数名称参数名称初始状态向量初始状态向量 s(0) w0抽头权向量抽头权向量状态向量状态向量 s(n)指数加权的抽头权向量指数加权的抽头权向量参考（观测）信号参考（观测）信号 y(n)期望响应期望响应观测噪声观测噪声 v(n)测量误差测量误差一步预测的状态向量一步预测的状态向量抽头权向量的估计抽头权向量的估计状态

15、预测误差相关阵状态预测误差相关阵 K(n)输入向量相关矩阵的逆矩阵输入向量相关矩阵的逆矩阵Kalman增量增量 g(n)增量向量增量向量新息新息先验估计误差先验估计误差( )初始条件初始条件初始条件初始条件 K(0)02/wn)(*2/ndn)(*02/ndn)(2/nnw)(1nP)(2/1nk)(*2/nn)(n0) 1 ( s0)0(w)0(1P),.,1( 1nyyns)()(2nEn内内 容容v 最优滤波理论与最优滤波理论与Wiener滤波器滤波器v 梯度下降算法梯度下降算法v 横向横向LMS自适应滤波器自适应滤波器v 横向横向RLS自适应滤波器自适应滤波器v 自适应格型滤波器自适应

16、格型滤波器v 自适应格自适应格-梯型滤波器梯型滤波器v 无限脉冲响应自适应滤波器无限脉冲响应自适应滤波器 v 盲自适应滤波器盲自适应滤波器v Kalman滤波器滤波器v 自适应滤波器的应用自适应滤波器的应用 系统辨识与均衡（如信道估计与均衡；系统辨识与均衡（如信道估计与均衡； 雷达和声纳波束形成雷达和声纳波束形成(beamforming); 噪声中信号的检测、跟踪、增强等；噪声中信号的检测、跟踪、增强等； 信号或时间序列的自适应预测；信号或时间序列的自适应预测； 语音和图像的自适应预测编码。语音和图像的自适应预测编码。自适应滤波器的应用自适应滤波器的应用设备设备( 待测待测 )自适应滤波器自适应滤波器(a) 辨识辨识系统输入u系统输出e- y+ d设备设备( 待测待测 )自适应滤波器自适应滤波器(b) 逆模型逆模型系统输入u系统输出e- y+ d延延 迟迟(c) 预测预测延延 迟迟自适应滤波器自适应滤波器随机信号u系统输出2ey -+ d系统输出1(d) 干扰消除干扰消除自适应滤波器自适应滤波器基本信号uey -+ d系统输出1参考信号用于预测编码和语音分析用于信道均衡和反卷积用于于噪声消除和波束形成用于系统辨识 Kalman滤波器（