第4章 维纳滤波原理及自适应算法

1、1第第4 4章章 维纳滤波原理及自适应算法维纳滤波原理及自适应算法234.1 4.1 自适应横向滤波器及其学习过程自适应横向滤波器及其学习过程.1自适应横向滤波器结构自适应横向滤波器结构( )( )()()T11nu nu nu nM轾=-+臌uL( )nu( )u n4iw*wT011Mwww-=wL( )d n( )d n( )e n( )( )( )e nd nd n=-( )()( )( )1HT0Miid nw u ninn-*=-=w uuw5假设 由信号 与噪声 组成 如果 ，图1的系统称为滤波（filtering）； 如果 ，图1的系统称为预测（predicti

2、on）； 如果 ，图1的系统称为平滑 （smoothing）。( )( )( )unsnvn=+( )u n( )s n( )v n( )( )dns n=( )()00,0d ns nnn=+( )()00,0d ns nnn=+64.1.2自适应横向滤波器的学习过程和工作过程自适应横向滤波器的学习过程和工作过程实际的滤波器系统 通过控制开关K1和K2，使系统进入不同的工作模式 7 开关K1打向A1，K2打向A2，进入学习过程，求得最优权向量 开关K1打向B1，K2打向B2 ，进入工作过程，对输入信号进行滤波处理 求出滤波器权值的学习过程是最优滤波问题的关键 84.2 维纳滤波原理维纳滤波原

3、理4.2.1 4.2.1 均方误差准则及误差性能面均方误差准则及误差性能面已知估计误差( )( )( )( )( )( )( )HTe nd nd nd nnd nn*=-=-=-w uuw( )e n( )( )( ) ( )2EEJe ne n enw*=()() ()()()() ()() ()() ()HT2HHHH=EEEEEd nn d nnd nd nnn d nnn*轾轾-犏犏臌臌=-+w uuwuwwuwuuw定义 的平均功率为9定义： 的平均功率 ( )d n( )22Edd n=s( ) ( )En dn*=pu( )nu( )( )HEnn=Ruu( )2HHHdJ w

4、p ww pw Rw=-+s( )J w互相关向量的自相关矩阵：误差性能面或均方误差10对实系统，若M=1 ( )( )( )( )( )( )( )2200002200000200ddJJ wpwpwrwpwrww =-+=-+ss( )J w是开口向上的抛物线可选择权值w使 最小11 若M=2, 是抛物面( )J w( )J w 对于任何的M, 是M维的抛物面，具有唯一的全局极小值点。124.2.2 4.2.2 维纳维纳- -霍夫方程霍夫方程 R R是非奇异的是非奇异的 -最优权向量最优权向量 最小均方误差（最小均方误差（MMSEMMSE，Minimum Mean Minimum Mean

5、 Square ErrorSquare Error）准则）准则 -使误差的平均功率最小使误差的平均功率最小( )2HHHdJ wp ww pw Rw=-+s( )( )222JJ*轾= -+臌wwpRww1owRp-=( )J w的梯度( )22J0= -+=wpRw令oRwp= -维纳维纳-霍夫方程霍夫方程134.2.3 4.2.3 正交原理正交原理已知维纳-霍夫方程 改写成oRwp=o0-=Rwp( )( )( ) ( )( )( )( )HooHoEEEnnn dnnndn*-=-轾=-犏臌=Rwpuuwuuuw0( )( )( )Hooendnn*=- uw( ) ( )oEn en*

6、=u014 即 和 相互正交() ( )oE0,0,1,1u ni eniM*-=-L()u ni-( )oen( )( )( )ooend ndn=-( ) ( )( ) ( )HooooEE0dn enn en*=wu而( )odn( )oen和 也相互正交几何解释：154.2.4 最小均方误差最小均方误差( )2HHHdJ wp ww pw Rw=-+s( )( )( )( )( )2HHHminooooo2Ho2Hoo2HHoo2HHooEEdddddJJnnnnsssss*=-+=-=-=-轾轾=-犏犏臌臌wp ww pw Rwp ww Rwwuuww uw u16最小均方误差与最佳

7、权向量示意图 ( )2222minEdddJd nsss=-=-174.2.5 计算实例计算实例1：噪声中的单频信号估计：噪声中的单频信号估计观测信号( )( )2( )( )sinnu ns nv nv nNpj骣=+=+桫( )22Evvns=j)0, 2p( )22 (/4)2cosnd ns nNNpj骣= -=+桫( )22E2ddns=设期望信号为： u(n)是白噪声中的正弦信号, 是在 上均匀分布的随机初始相位，噪声 信号与噪声互不相关。18( )( )( )()( )( )H01E10rrnnrr轾犏=犏-臌Ruu( ) ( )( )( )TE01n d npp轾=-臌pu问题

8、：设计一个二维的维纳滤波器，使滤波器输出在最小均方误差意义下，逼近期望响应。oRwp=思路：求出R和p，根据 ，可求出w解：定义滤波器输入信号向量( )( )()T1nu nu n轾=-臌u19( )( )()T1nu nu n轾=-臌u( )( )()()()( ) ()( ) ()22Esinsin22E sinsinE12cosE2nmnr mv nv nmNNnmnv n v nmNNmv n v nmNppjjppjjp禳骣 骣镲 骣-骣镲镲=+-睚 琪镲桫桫桫桫镲镲铪禳骣镲-骣镲=+-睚 镲桫桫镲铪骣=+-桫( )22120cos0.5,0212cos,12vvmNr mmNpss

9、p骣+=+=桫=骣=桫20类似地()()()()()22Esin2cos222E sin2sin22Ecos2sinnmnpmv nmNNnmmNNnv nmNmNppjppjpjp禳 骣 骣镲-骣镲镲-=+-+睚镲桫桫桫镲镲铪禳 骣镲-骣镲 =+-睚镲 桫桫镲铪禳骣镲镲+-+睚镲桫镲铪骣= -桫,0,1m=2T2112cos222 0sin121cos22vvNNNpspps轾骣犏+犏轾桫骣犏犏=-犏犏桫骣臌犏+犏桫臌Rp212oo01224224422sin2sin4sin 22sin44sin44vvvvvNNNwwNNpppsppssss骣骣骣鼢珑+鼢珑鼢珑桫桫桫= -骣骣鼢珑+鼢珑鼢

10、珑桫桫Toooo01 ww轾=犏臌Rwpw由( )()2TT222010112122cos2sin22dvJwww wwNNspps=-+骣骣骣鼢珑=+鼢珑鼢珑桫桫桫wp ww Rw2222Tmino224222sin4sin22sin44vdvvNNJNppsspss骣骣鼢珑+鼢珑鼢珑桫桫=-=-骣+桫p w22 N=4 误差性能面T2omin220 2cot2csc 0vJNNpps轾骣骣鼢珑犏=-=鼢珑鼢珑犏桫桫臌wT2o0 02vs=-wT2omin0.5 2 76 2 7 1vJs轾=-=犏臌w234.2.6 4.2.6 计算实例计算实例2 2：信道传输信号的估计：信道传输信号的估计

11、考虑如下系统( )1v n( )2vn21s22s( )()( )111:1Hd nbd nv n=-+( )()( )22:1Hx nb x nd n=-+( )( )( )2u nx nvn=+ 和 分别是零均值，方差为 和 的白噪声过程 24 问题：如何设计维纳滤波器，使估计误差 在MMSE意义下最小。 ：产生语音信号的模型 ：传输信道( )e n1H2H25思路：维纳滤波问题，根据 求解解：o=Rwp( )()()( )( )( )010,101rrprrp*轾轾犏犏=犏犏-臌臌Rp()( ) ()( )( ) ()()()221E1E111xru n unx nvnx nvnr*=-

12、轾轾=+-+-=臌臌( )( ) ( )( )( ) ( )( )( )( ) ( )( ) ( )( )( )2222222220EEE0 xru n unx nvnx nvnx nx n vnxn vnvnrs*轾轾=+臌臌=+=+26( )( ) ( )( )( ) ( )()( )()( )() ( )()() ( )()()( )2222220EE1011E1E11110 xxxxpu n dnx nvnx nb x nrb rpu ndnx nvnx nb x nrb r*=轾轾=+-臌臌=-=-轾轾=-+-臌臌=-27令 其中 ，差分方程：( )( )( )12H zHz Hz=

13、( )11111Hzb z-=-( )21211Hzb z-=-( )()1212121 2121111H zbbzbb za za z-=-+()112abb= -+21 2abb=( )()()( )12112x na x na x nv n+-+-=系统H是2阶的AR模型28( )()()( )221122222110 10111xxxaarrraaaas+= -轾-+-犏臌T1o0.83610.7853-=-wRp2212120.8458,0.9458,0.27, 0.1bbss= -=假设( )( )()()( )()2222222EE110210.9486dxxd nx nb x

14、nbrb rs=-=+-=2Hmino0.1579dJs=-=p w(0)1.0997, (1)0.4997, (0)0.5270,p(-1)0.4458rrp= -得：294.3 4.3 维纳滤波器的最陡下降求解方法维纳滤波器的最陡下降求解方法维纳-霍夫方程的缺点：需要计算逆矩阵在估计出 后， 将固定，不具有自适应性 1-Rowow30自适应横向滤波器根据 ，修正 ，使 达到最小。( )e n( )e n( )nw31用迭代方法求最佳权向量()()1nnwww+=+ D( )()12JnmD= -ww( )()( )( )( )( )2HHHdJnnnnnwp wwpwRw=-+s( )()

15、( )( )()( )222JnJnnn*轾= -+犏臌wwpRww()( )( )1nnnwwpRw轾+=+-臌m-最陡下降算法32最陡下降算法仿真实例最陡下降算法仿真实例最陡下降算法的仿真步骤如下 步骤步骤1 1 模拟产生输入随机序列 u n初始化，0n =0.02m= 迭代次数 1000N =权向量 ( ) T000=w求出自相关矩阵1.09970.49970.49971.0997轾犏=犏臌R互相关向量T0.52700.4458=-p步骤步骤2 2 对 1,2,n=L权向量的更新： ()( )( )( )1nnnnm轾+=+-臌wwpRw代价函数： ( )()( )2HdJnns=-wp

16、 w步骤步骤3 3 令 1nn=+，转到步骤2。 344.4 LMS4.4 LMS算法算法 最陡下降法的不足： p和R 确定，迭代过程和结果就确定； 与输入信号变化无关，不具有自适应性。35LMSLMS算法原理算法原理最陡下降法中 若 和 联合各态历经 R R 和 p p 瞬时估计值为 ()( )( )1nnnwwpRw轾+=+-臌m( )( )( ) ( )HE Ennn dn*=Ruupu()()() ()H1111 NNiiiii diNN*=邋Ruupu( )( )( ) ( )H nnn dn*=Ruupu( )nu( )d n36-LMS 算法，Windrow等人1975年提出()

17、( )( )( )( ) ( )( )( ) ( )( )( )( )( ) ( )( )( )( )( )( )( ) ( )HH1nnpRnnn dnnnnnn dnnnnn dnd nnn enmmmmm*轾+=+-臌轾=+-犏臌轾=+-犏臌轾=+-犏臌=+wwwwuuuwwuuwwuwu37 注意： 最陡下降法中，p和R都是确定量，得到的w(n)是确定向量序列；( )( )( ) ( )( )( ) ( )( )( )( ) ( )()( ) ( )HH222222J nnn dnnnnndnnnn en*= -+= -+= -= -pRwuuuwuuwu( ) nwLMS算法中，u(n)和e(n)都是随机过程， 是随机向量； LMS算法是种随机梯度算法。38算法算法4.14.1（LMSLMS算法）算法）步骤步骤1 1 初始化，n=0 权向量： 估计误差： 输入向量：( ) 0w0=( )( )( )( )0000eddd=-=( )( )( )()( )TT0011000uuuMu轾=-+臌轾=臌uLL39步骤步骤2 2 权向量的更新： 期望信号的估计： 估计误差：0,1 ,2,n=L()( )( ) ( )1nnn enwwu*+=+m()() ()H111d nnnwu+=+()()()111e