第2章维纳滤波

1、第,2,章,维纳滤波,2.1,问题的提出,u,(,n,),线性离散时间滤波器,y,(,n,),h,(,n,),?,?,d,(,n,),?,e,(,n,),在给定的约束,条件以及最优,准则下来设计,最佳滤波器,离散形式维纳滤波问题示意图,要求,:,滤波器是离散时间滤波器；滤波器是线性的；滤波器为无限冲激响应（,IIR,）,滤波器，有限冲激响应滤波器可以看成是它的一个特例。,准则,:,最小均方误差（,MMSE,）准则。,维纳滤波器,:,输入信号和期望响应平稳且联合平稳时所得到的最佳滤波器。,本质：,给定一个输入信号，设计一个线性离散滤波器，对期望响应估计，使得其,估计误差的均方值为最小。,1,第,

2、2,章,维纳滤波,2.2,离散形式维纳滤波器的解,y,(,n,),为线性卷积和,w,0,w,1,w,2,?,表示，则滤波器的输出,单位冲激响应,h,(,n,),用,?,y,(,n,),?,?,w,k,u,(,n,?,k,),n,?,0,1,2,?,k,?,0,最小均方误差准则下的代价函数,J,?,E,e,2,(,n,),代价函数的梯度向量,?,J,?,k,J,?,k,?,0,1,2,?,?,w,k,进一步可求得,?,J,?,E,e,2,(,n,),?,e,(,n,),?,k,J,?,?,?,2,E,e,(,n,),?,w,k,?,w,k,?,w,k,?,?,2,E,u,(,n,?,k,),e,

3、(,n,),k,?,0,1,2,?,2,第,2,章,维纳滤波,置梯度为零,得,维纳滤波器最优解的一个充要条件,E,u,e,o,(,n,),k,?,1,2,(,n,?,k,),?,0,0,?,(,),e,o,(,n,),表示滤波器工作在最优条件下的估计误差。,式中,e,o,(,n,),正交于,正交原理,:,使均方误差代价函数达到最小值的充要条件是其相应的估计误差,用于估计期望响应的每个输入样本值。,充要条件之二,的推导,:,由正交原理出发,E,u,(,n,?,k,),e,o,(,n,),?,E,u,(,n,?,k,),d,(,n,),?,y,o,(,n,),?,?,E,u,(,n,?,k,),d

4、,(,n,),?,?,w,oi,u,(,n,?,i,),?,0,k,?,0,1,2,?,i,?,0,整理得,?,w,oi,E,?,u,(,n,?,k,),u,(,n,?,i,),?,?,E,?,u,(,n,?,k,),d,(,n,),?,k,?,0,1,2,?,i,?,0,定义,滤波器输入的自相关函数,E,?,u,(,n,?,k,),u,(,n,?,i,),?,?,r,(,i,?,k,),滤波器输入与期望响应的互相关函数,E,?,u,(,n,?,k,),d,(,n,),?,?,p,(,?,k,),?,因输入平稳，,故只与和,的差有关,3,第,2,章,维纳滤波,得到,维纳滤波器的另一个充要条件,

5、，即著名的,维纳,-,霍夫（,Wiener-Hopf,）方程,为,?,w,oi,r,(,i,?,k,),?,p,(,?,k,),k,?,0,1,2,?,?,i,?,0,2.3,离散形式维纳滤波器的性质,2.3.1,正交原理的几何解释,d,(,1,),e,o,(,1,),u,(,1,),y,o,样本空间,u,(,0,),正交原理的几何解释（二维的情况）,4,第,2,章,维纳滤波,2.3.2,正交原理推论,考察滤波器输出信号与估计误差之间的相关特性,?,?,E,y,(,n,),e,(,n,),?,E,?,w,k,u,(,n,?,k,),e,(,n,),?,?,w,k,E,u,(,n,?,k,),e

6、,(,n,),k,?,0,k,?,0,最优状态下，上式为,?,?,E,y,o,(,n,),e,o,(,n,),?,E,?,w,ok,u,(,n,?,k,),e,o,(,n,),?,?,w,ok,E,u,(,n,?,k,),e,o,(,n,),k,?,0,k,?,0,由正交原理,(,右端为零,),可得,y,n,),?,0,(,),E,),e,o,(,n,o,(,y,o,(,n,),正交。,u,(,n,),和滤波器的输出,),输入样本值,结论：维纳滤波器的估计误差,e,o,(,n,5,第,2,章,维纳滤波,2.3.3,最小均方误差,维纳滤波器的估计误差为,?,(,n,),e,o,(,n,),?,d

7、,(,n,),?,y,o,(,n,),?,d,(,n,),?,d,o,?,d,(,n,),?,d,n,),(,),),?,e,o,(,n,o,(,2,J,?,E,e,定义最小均方误差为,min,o,(,n,),?,(,n,),和,d,(,n,),为零均值，对式两边同时取方差，得,假定,d,o,2,2,?,d,?,?,d,?,?,J,min,o,2,2,即,J,min,?,?,d,?,?,d,?,o,2,2,?,?,?,式中：,的方差。,?,是其最优估值,d,d,(,n,),的方差，,d,是期望响应,d,o,(,n,),o,结论：维纳滤波器所得最小均方误差等于期望响应的方差与滤波器输出方差的差值

8、。,6,?,?,第,2,章,维纳滤波,2.4,横向滤波器的维纳解,2.4.1,横向滤波器的维纳,-,霍夫方程及其解,u,(,n,?,1,),u,(,n,),u,(,n,?,M,?,1,),u,(,n,?,M,?,2,),?,1,?,1,?,1,?,z,z,z,?,w,M,?,2,w,M,?,1,w,0,w,1,d,(,n,),?,?,e,(,n,),d,(,n,),?,?,?,?,?,?,横向滤波器结构示意图,),u,1,),?,u,(,n,?,M,?,1,),由级抽头延迟线级联而成，每个抽头的输入分别为,u,(,n,(,n,?,w,0,w,w,k,(,k,?,0,1,?,M,?,1,),。,

9、各抽头权值分别为,w,，构成一组权系数,1,?,M,?,1,7,第,2,章,维纳滤波,y,(,n,u,(,n,),，当前输出,d,(,n,),滤波器的当前输入值：,),，期望响应为,重写维纳,-,霍夫方程,M,?,1,w,oi,r,(,i,?,k,),?,p,(,?,k,),k,?,0,1,2,?,?,i,?,0,u,(,n,),n,?,?,1,),的相关矩阵为，则,定义横向滤波器的抽头输入,u,(,1,),?,u,(,n,?,M,r,(1),r,(,M,?,1),?,?,r,(0),?,r,(1),?,r,(0),r,(,M,?,2),T,?,?,R,?,E,u,(,n,),u,(,n,),

10、?,?,?,?,?,r,(,M,?,1),r,(,M,?,2),r,(0),?,?,u,(,n,),(,n,),u,(,n,?,1,n,?,?,1,),T,是抽头输入向量，矩阵对称。,式中：,?,u,),?,u,(,M,定义横向滤波器抽头输入与期望响应的互相关向量为，则,p,?,E,u,(,n,),d,(,n,),?,p,(,0,),p,(,?,1,),?,p,(,1,?,M,),T,?,1,Rw,p,，即维纳解为,w,?,R,p,则横向滤波器的维纳,-,霍夫方程式的矩阵表示形式为,o,?,o,T,式中：,是横向滤波器最优抽头权向量。,w,?,w,w,?,w,o,o,0,o,1,o,M,?,1

11、,8,第,2,章,维纳滤波,2.4.2,横向滤波器的误差性能,一、误差性能曲面,M,?,1,输出：,y,(,n,),?,?,w,k,u,(,n,?,k,),?,u,T,(,n,),w,(,n,),?,w,T,(,n,),u,(,n,),k,?,0,估计误差：,e,(,n,),?,d,(,n,),?,y,(,n,),?,d,(,n,),?,w,T,(,n,),u,(,n,),均方误差：,J,?,E,e,2,(,n,),?,E,d,(,n,),?,y,(,n,),2,?,E,d,(,n,),?,w,T,(,n,),u,(,n,),2,?,E,d,2,(,n,),?,w,T,(,n,),E,u,(,

12、n,),u,T,(,n,),w,(,n,),?,2,w,T,(,n,),E,d,(,n,),u,(,n,),2,T,T,?,?,?,w,(,n,),Rw,(,n,),?,2,w,(,n,),p,d,误差性能曲面：将代价函数相对于抽头权值的关系曲面。,9,第,2,章,维纳滤波,代价函数是抽头权值的二次函数；,如果矩阵是正定，误差性能曲面就是一个碗状曲面，且有唯一的最小值点,J,min,。,该点所对应的权值为滤波器最优权值，该点的梯度向量等于零,：,T,?,J,?,?,J,?,J,?,J,?,?,J,?,?,?,?,?,0,?,?,w,?,?,w,0,?,w,1,?,w,M,?,1,?,而,?,J

13、,?,2,Rw,(,n,),?,2,p,Rw,?,p,，与维纳,-,霍夫方程一致。,故可推出,o,10,第,2,章,维纳滤波,二、最小均方误差的其他,3,种表达式,?,(,n,),?,y,(,n,),d,最优条件下,o,o,T,y,(,n,),?,w,又,o,o,u,(,n,),2,2,T,T,?,?,?,E,d,(,n,),?,E,w,u,(,n,),u,(,n,),w,o,在零均值的假定条件下，得,?,o,o,d,o,T,?,w,T,E,u,(,n,),u,(,n,),w,o,o,T,?,w,o,Rw,o,2,T,T,T,?,1,?,d,?,w,p,?,p,w,?,p,R,p,进一步,?,

14、o,o,o,2,2,J,?,?,?,?,由,?,，得最小均方误差的,3,种表达式,min,d,d,o,2,2,T,2,T,?,1,J,min,?,?,d,?,w,T,Rw,?,?,?,p,w,?,?,?,p,R,p,o,o,d,o,d,11,第,2,章,维纳滤波,u,(,n,),?,sin(,2,?,n,N,例,2-1,如图所示的横向滤波器，该系统输入信号为,),，期望响应,d,(,n,),?,2,cos(,2,?,n,N,),J,min,。,试计算在均方误差意义下的最佳权向量,w,o,和最小均方误差,u,(,n,?,1,),u,(,n,),?,sin(,2,?,n,N,),?,1,z,d,(

15、,n,),?,2,cos(,2,?,n,N,),w,0,w,1,?,e,(,n,),?,(,n,),?,d,?,?,解：输入的自相关函数为,1,N,2,?,n,2,?,(,n,?,k,),2,?,k,r,(,k,),?,E,?,u,(,n,),u,(,n,?,k,),?,?,sin,sin,?,0,.,5,cos,k,?,0,1,N,n,?,1,N,N,N,输入与期望响应的互相关函数为,2,N,2,?,n,2,?,(,n,?,k,),2,?,k,p,(,?,k,),?,E,?,u,(,n,?,k,),d,(,n,),?,?,cos,sin,?,?,sin,k,?,0,1,N,n,?,1,N,N

16、,N,12,?,?,第,2,章,维纳滤波,由此可得输入自相关矩阵和互相关向量分别为,2,?,?,?,T,0,.,5,0,.,5,cos,2,?,?,?,?,?,r,(,0,),r,(,1,),?,?,T,N,?,?,p,?,p,(,0,),p,(,?,1,),?,0,?,sin,R,?,?,?,?,?,?,?,?,2,?,N,r,(,1,),r,(,0,),?,?,?,?,?,0,.,5,cos,?,0,.,5,N,?,?,T,2,?,2,?,?,?,w,?,2,cot,?,2,csc,由，,可求得,Rw,o,o,?,p,?,N,N,?,?,?,2,?,d,E,d,2,(,n,),2,，结合和

17、的结果，可得均方误差性能函数及其梯度向,可以求得,?,?,量为,2,?,?,?,2cot,2,?,?,?,?,N,?,2,T,J,min,?,?,d,?,p,w,o,?,2,?,?,0,?,sin,?,?,?,?,0,2,?,?,N,?,?,?,?,2csc,?,N,?,?,?,最佳权向量也可以通过置均方误差性能函数的梯度向量为,0,求得，见教材,13,页。,本题中最小均方误差为,0,，但它不是说任何问题中都为,0,，一般时候大于,0,。,13,第,2,章,维纳滤波,三、二次型误差性能曲面的性质,把误差性能函数重新表示为,2,J,?,?,d,?,w,T,Rw,?,2,w,T,p,2,?,?,d

18、,?,w,T,p,?,p,T,w,?,w,T,Rw,2,?,?,d,?,p,T,R,?,1,p,?,(,w,?,R,?,1,p,),T,R,(,w,?,R,?,1,p,),?,1,T,?,1,?,J,?,(,w,?,R,p,),R,(,w,?,R,p,),min,?,J,min,?,(,w,?,w,o,),T,R,(,w,?,w,o,),（该式表明最佳权向量与最小均方误差的对应关系）,为使误差性能曲面的表达式简单化，定义权偏差向量为,T,?,w,1,?,?,w,?,?,w,?,?,w,?,w,o,?,?,w,0,M,?,1,此时的二次型误差性能函数可以表示为,J,?,J,min,?,w,?,T

19、,R,w,?,14,第,2,章,维纳滤波,w,0,和,w,1,的横向滤波器。此时，误差性,为直观起见，考虑只有两个权值,能曲面是三维空间中的一个抛物面，如图所示。若用一组,J=C,的等值,平面来截取误差性能表面，并向权值平面投影，则可在权值平面上可,得到一组同心椭圆，这就是误差性能曲面的等高线图。椭圆的中心为,性能表面最低点的投影。,横向滤波器的二次误差性能曲面和等高,线,15,第,2,章,维纳滤波,相关矩阵,R,的特征分解与化为标准形,det,R,?,?,I,?,0,?,0,?,1,?,?,M,?,1,Q,?,?,q,0,q,1,?,q,M,?,1,?,0,?,?,?,0,0,?,?,0,?,?,?,0,1,?,Rq,n,?,?,n,q,n,R,?,Q,Q,T,?,?,?,?,?,?,?,?,?,?,0,0,?,?,M,?,1,?,?,误差性能表面的另一种