[PPT课件]现代信号处理-维纳和卡尔曼滤波

1、 维纳滤波和卡尔曼滤波 2.1 引言引言 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.3 离散维纳滤波器的离散维纳滤波器的z域解域解 2.4 维纳预测维纳预测 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.1 引引 言言 在生产实践中，观测到的信号都是受到噪声干扰的。如何最大限度地抑制噪声，并将有用信号分离出来，是信号处理中经常遇到的问题。换句话说，信号处理的目的就是要得到不受干扰影响的真正信号。相应的处理系统称为滤波器。这里，只考虑加性噪声的影响，即观测数据x(n)是信号s(n)与噪声v(n)之和（如图2.1.1所示）, 即 x(n)=s(n)+v(n)（2.1.1

2、） 图 2.1.1 观测信号的组成 x(n)s(n)v(n)2.1 引引 言言 2.1 引引 言言 为了得到不含噪声的信号s(n)，也称为期望信号，若滤波系统的单位脉冲响应为h(n)（如图2.1.2所示）， 系统的期望输出用yd(n)表示，yd(n)应等于信号的真值s(n)；系统的实际输出用y(n)表示，y(n)是s(n)的逼近或估计，用公式表示为yd(n)=s(n)， y(n) = 。因此对信号x(n)进行处理，可以看成是对期望信号的估计，这样可以将h(n)看作是一个估计器，也就是说, 信号处理的目的是要得到信号的一个最佳估计。那么， 采用不同的最佳准则，估计得到的结果可能不同。 )( ns

3、h(n)x(n)s(n) v(n)y(n)图 2.1.2 信号处理的一般模型 2.1 引引 言言 假若已知x(n-1), x(n-2), , x(n-m)，要估计当前及以后时刻的信号值 , N0，这样的估计问题称为预测问题；若已知x(n-1), x(n-2), , x(n-m) ，要估计当前的信号值 ，称为过滤或滤波； 根据过去的观测值x(n-1), x(n-2), , x(n-m)，估计过去的信号值 , N1，称为平滑或内插。 )( ns)( Nns)( Nns2.1 引引 言言 维纳(Wiener)滤波与卡尔曼(Kalman)滤波就是用来解决这样一类从噪声中提取信号的过滤或预测问题, 并以

4、估计的结果与信号真值之间的误差的均方值最小作为最佳准则。维纳滤波器的求解，要求知道随机信号的统计分布规律（自相关函数或功率谱密度），得到的结果是封闭公式；维纳滤波的最大缺点是仅适用于一维平稳随机信号，这是由于采用频域设计法所造成的 。 2.1 引引 言言 1950年，伯特和香农给出了当信号的功率谱为有理谱时，由功率谱直接求取维纳滤波器传输函数的设计方法。 采用谱分解的方法求解，简单易行，具有一定的工程实用价值，并且物理概念清楚。 因此人们逐渐转向在时域内直接设计最佳滤波器的方法。 2.1 引引 言言 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.1 维纳滤波器时域求解的

5、方法维纳滤波器时域求解的方法根据线性系统的基本理论，并考虑到系统的因果性，可以得到滤波器的输出y(n), 0)()()()()(mmnxmhnhnxnyn=0, 1, 2, （2.2.2） 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法设期望信号为，误差信号及其均方值分别为 ：（2.2.） 2022)()()(| )()(| )(|mmnxmhndEnyndEneE（2.2.） )()()()()(nynsnyndne)(nd)(ne| )(|2neE2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法要使均方

6、误差为最小，须满足因此，上式说明，均方误差达到最小值的充要条件是误差信号与任一进入估计的输入信号正交，这就是通常所说的正交性原理。0)()(2| )(|*2nejnxEhneEj（2.2.5） 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法它的重要意义在于提供了一个数学方法，用以判断线性滤波系统是否工作于最佳状态。 下面计算输出信号与误差信号的互相关函数 0*0*)()()( )()()()()(jjnejnxEjhnejnxjhEnenyE(2.2.6) 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解

7、2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法假定滤波器工作于最佳状态，滤波器的输出yopt(n)与期望信号d(n)的误差为eopt(n)，把（2.2.5）式代入上式，得到 0)()(*nenyEoptopt(2.2.7) eopt(n)d(n)yopt(n)图 2.2.1 期望信号、 估计值与误差信号的几何关系 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.1 维纳滤波器时域求解的方法维纳滤波器时域求解的方法图2.2.1表明在滤波器处于最佳工作状态时， 估计值加上估计偏差等于期望信号， 即 )(e)()(optoptnnynd注意我们所研究的是随机信号，

8、图2.2.1中各矢量的几何表示应理解为相应量的统计平均或者是数学期望。再从能量的角度来看，假定输入信号和期望信号都是零均值, 应用正交性原理,则, 因此在滤波器处于最佳状态时， 估计值的能量总是小于等于期望信号的能量。 |2opt22dopteEy2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.2 维纳维纳霍夫方程霍夫方程将（2.2.5）式展开， 可以得到将输入信号分配进去， 得到0)()()()(0*mmnxmhndknxE)()()(0*kmrmhkrmxxdxk=0, 1, 2, 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.2 维纳维纳霍夫

9、方程霍夫方程对上式两边取共轭，利用相关函数的性质: 得到 ：上式称为维纳-霍夫（WienerHopf）方程。当h(n)是一个长度为M的因果序列(即h(n)是一个长度为M的FIR滤波器)时， 维纳-霍夫方程表述为)()()()()(0krkhmkrmhkrxxmxxxdk=0, 1, 2, （2.2.8）)()()()()(10krkhmkrmhkrxxMmxxxd2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 )()(*krkryxxy2.2.2 维纳维纳霍夫方程霍夫方程把k的取值代入(2.2.9)式， 得到：当k=0时，h1rxx(0)+h2rxx(1)+hMrxx(M-1)=

10、rxd(0)k=1时， h1rxx(1)+ h2rxx(0)+ hMrxx(M-2)= rxd(+1) k=M-1时， h1rxx(M-1)+ h2rxx (M-2)+hMrxx(0)= rxd(M-1) (2.2.10) 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.2 维纳维纳霍夫方程霍夫方程定义可以写成矩阵的形式， 即求逆，得到 ：)0()2() 1()2()0()0() 1() 1 ()0(xxxxxxxxxxxxxxxxxxxxrMrMrMrrrMrrrRhRRxxxdxdxxRRh1(2.2.11) 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域

11、解 TxdxdxdxdTMMrrrRhhhh),1(,),1 (),0(,212.2.2 维纳维纳霍夫方程霍夫方程（2.2.11）式表明已知期望信号与观测数据的互相关函数及观测数据的自相关函数时，可以通过矩阵求逆运算，得到维纳滤波器的最佳解。同时可以看到，直接从时域求解因果的维纳滤波器， 当选择的滤波器的长度M较大时， 计算工作量很大， 并且需要计算Rxx的逆矩阵，从而要求的存贮量也很大。2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 2.2.2 维纳维纳霍夫方程霍夫方程此外， 在具体实现时，滤波器的长度是由实验来确定的，如果想通过增加长度提高逼近的精度，就需要在新M基础上重新进

12、行计算。因此，从时域求解维纳滤波器，并不是一个有效的方法。 2.2 维纳滤波器的离散形式维纳滤波器的离散形式时域解时域解 若不考虑滤波器的因果性，（2.2.8）式可以写为 )()()()()(krkhmkrmhkrxxmxxxd设定d(n)=s(n)，对上式两边做Z变换，得到 Sxs(z)=Hopt(z)Sxx(z) )()()(zSzSzHxxxsopt（2.3.1）2.3 离散维纳滤波器的域解离散维纳滤波器的域解 Sxs(z)=Sss(z)Sxx(z)=Sss(z)+Svv(z) 假设信号和噪声不相关，即rsv(m)=0，则 （2.3.1）式可以写成 )()()()()()(zSzSzSz

13、SzSzHvvssssxxxsopt（2.3.2）显然，当噪声为0时，信号全部通过；当信号为0时， 噪声全部被抑制掉，因此维纳滤波确有滤除噪声的能力。2.3 离散维纳滤波器的域解离散维纳滤波器的域解 把信号的频谱用Pss(ej)表示，噪声的频谱用Pvv(ej)表示，那么非因果的维纳滤波器的传输函数Hopt(ej)的幅频特性如图2.3.1所示。 Hopt(ej)PSS(ej)Pvv(ej)0图 2.3.1 非因果维纳滤波器的传输函数的幅频特性 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 011)e (joptHPss(ej)0, Pvv(ej)=0 Pss(ej)0, Pvv(ej) 0

14、Pss(ej)=0, Pvv(ej) 0 然而实际的系统都是因果的。对于一个因果系统，不能直接转入频域求解的原因是由于输入信号与期望信号的互相关序列是一个因果序列，如果能够把因果维纳滤波器的求解问题转化为非因果问题，求解方法将大大简化。2.3 离散维纳滤波器的域解离散维纳滤波器的域解 假设x(n)的信号模型B(z)已知（如图2.3.2(a)所示），求出信号模型的逆系统B-1(z)， 并将x(n)作为输入，那么逆系统B-1(z)的输出(n)为白噪声。一般把信号转化为白噪声的过程称为白化，对应的滤波器称为白化滤波器。 图 2.3.2 x(n)的时间序列信号模型及其白化滤波器 B(z)(n)x(n)

15、B1(z)(n)x(n)2.3 离散维纳滤波器的域解离散维纳滤波器的域解 具体思路如图2.3.3所示。用白噪声作为待求的维纳滤波器的输入，设定1/B(z)为信号x(n)的白化滤波器的传输函数，那么维纳滤波器的传输函数G(z)的关系为： )()()(zBzGzH(2.3.3) 因此，维纳滤波器的传输函数H(z)的求解转化为G(z)的求解。 (n)x(n)G(z)y(n) s(n)(1zB图 2.3.3 维纳滤波解题思路 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解 假设待求维纳滤波器的单位脉冲响应为(n)，期望信号d(n)=s(n)，

16、系统的输出信号y(n)=s(n)，g(n)是G(z)的逆Z变换， 如图2.3.3所示。 kknkgngnnsny)()()()()( )(2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解kskskkskskkkkkrkrkgrkrkgkrkgkgrnsknkgnsknkgErnknrgkgEnsEknkgnsEneE222ss*22ss*222|)()()0()()()()(| )(|)0()()()()()()()()()()(| )(|)()()(| )(|(2.3.4) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 0)()(

17、krkgs -k (2.3.5) 因此g(n)的最佳值为 2)()(krkgsopt -k (2.3.6) 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解可以看出，均方误差的第一项和第三项都是非负数, 要使均方误差为最小，当且仅当 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2)()(zSzGsopt(2.3.7) 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解对上式两边同时做Z变换，得到：这样，非因果维纳滤波器的最佳解为： )()(1)()()(2optoptzBzSzBzGzHs(2.3.8) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 (2.3.9) 对上

18、式两边做Z变换，得到： 因此： )()()(1zBzSzSxss(2.3.10) 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解因为，且，根据相关卷积定理, 得到 ：)()()(1zBzSzSsxs)(*)()(nbnrnrsxs)(*)()(nnsns)(*)()(nbnnx2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解将上式代入(2.3.)式，并根据x(n)的信号模型，得到非因果的维纳滤波器的复频域最佳解的一般表达式 )()()()()(11)(12optzSzSzBzSzBzHxxxsxs(2.3.11) 假定信号与噪

19、声不相关，即当时，有： 0)()(nvnsE)()(*)()()(mrmnsnvnsEmrssxs)()()()(*)()()(mrmrmnvmnsnvnsEmrvvssxx2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解对上边两式做Z变换, 得到(2.3.12) (2.3.13) )()(zSzSssxs)()()(zSzSzSvvssxx把(2.3.12)式代入(2.3.10)式, 得到 )()()(1zBzSzSsss(2.3.14) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 )()()()()()(optzSzSzSzS

20、zSzHvvssssxxxs)()()()e ()e ()e ()e (jjjjoptvvssssvvssssPPPSSSH(2.3.15) 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解将（2.3.13）式和（2.3.14）式代入（2.3.11）式, 得到信号和噪声不相关时，非因果维纳滤波器的复频域最佳解和频率响应分别为(2.3.16) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解以下推出该滤波器的最小均方误差E|e(n)|2min的计算, 重新写出(2.3.4)式的最佳解 kssskrrneE22min2| )(|)0

21、(| )(|2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解根据围线积分法求逆Z变换的公式, rss(m)用下式表示: CmsssszzzSmrd)(j21)(1(2.3.17) 得出 CsssszzzSrd)(j21)0(1(2.3.18) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解由复卷积定理 zzzYzXnynxCnd1)(j21)()(*(2.3.19) 取y(n)=x(n), 有 zzzXzXnxCnd)(j21| )(|12(2.3.20) 2.3 离散维纳滤波

22、器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解因此 zzzSzSkrCssnsd)()(j21| )(|12(2.3.21) 把(2.3.18)式和(2.3.21)式代入(2.3.4)式， 得到 ：zzzSzSzSneEsssCd)()(1)(j21| )(|12min2(2.3.22) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解将（2.3.14）式代入上式， 得到 zzzSzHzSzzzBzSzBzSzSneEssoptssCsssssCd)()()(j21d)()()()(1)(j21|

23、 )(|1112min2(2.3.23) 因为实信号的自相关函数是偶函数，因此： )()(1zSzSssss)()(mrmrssss2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.1 非因果维纳滤波器的求解非因果维纳滤波器的求解假定信号与噪声不相关，Es(n)v(n)=0， 则 CxxvvssCssxxsssszzzSzSzSzzzSzSzSzSneEd)()()(j21d)()()()(j21| )(|1min2(2.3.24) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.2 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解 若维纳滤波器是一个因果滤波器， 要求

24、g(n)=0 n0 则滤波器的输出信号 0)()()()()( )(kknkgngnnsny(2.3.26) (2.3.25) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.2 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解估计误差的均方值 类似于（2.3.4）式的推导，得到 022202| )(|1)()()0(| )(|kskssskrkrkgrneE(2.3.27) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 )()(| )(|22nynsEneE2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解要使均方误差取得最小值， 当且仅当 )()(000)()(22op

25、tnunrnnnrngss(2.3.28) 令 0)()()()(nnsnnssznrznunrzS(2.3.29) (2.3.30) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 )(1)(ZT)(2optzSngzGsopt2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解又由（2.3.15）式得到 )()(1)(12optzBzSzGxs(2.3.31) 所以因果维纳滤波器的复频域最佳解为 )()()(11)()()(12optzBzSzBzBzGzHxsopt(2.3.32) 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解维

26、纳滤波的最小均方误差为: ksssskrkukrr)()()(1)0(*2022min2| )(|)0(| )(|kssskrrneEzzzSzSrsCsssd)()(1j21)0(12zzzBzSzBzSzSxsxsssCd)()()()(1)(j211122.3 离散维纳滤波器的域解离散维纳滤波器的域解 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解即维纳滤波的最小均方误差为: (2.3.33) zzzSzHzSneExsssCd)()()(j21| )(|1optmin22.3 离散维纳滤波器的域解离散维纳滤波器的域解 比较（2.3.23）式和（2.3.33）式，可以看出因果维纳滤

27、波器的最小均方误差与非因果维纳滤波器的最小均方误差的形式相同，但公式中的的表达式不同, 分别参见(2.3.11) 式和(2.3.32)式。)(optzH 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解前面已经导出， 对于非因果情况，kssskrrneE22min2| )(|)0(| )(|对于因果情况， 022min2| )(|)0(| )(|kssskrrneE比较两式，它们的第二项求和域不同，因为因果情况下，因此可以说明非因果情况的一定小于等于因果情况。在具体计算时在具体计算时, ,可以选择单位圆作为可以选择单位圆作为积分曲线，积分曲线， 应用留数定理，应用留数定理， 计算积分函数在

28、计算积分函数在单位圆内的极点的留数来得到。单位圆内的极点的留数来得到。 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 min2| )(|neEmin2| )(|neE 0k 2.3.2 因果维纳滤波器的求解因果维纳滤波器的求解通过前面的分析, 因果维纳滤波器设计的一般方法可以按下面的步骤进行： (1) 根据观测信号x(n)的功率谱求出它所对应的信号模型的传输函数，即采用谱分解的方法得到B(z)。具体方法为，把单位圆内的零极点分配给，单位圆外的零极点分配给，系数分配给。 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 )()()(12zBzBzSwxx)(zB)(1zB2w 2.3.2 因

29、果维纳滤波器的求解因果维纳滤波器的求解(2)求取其因果部分再做Z变换，即舍掉单位圆外的极点，得： (3) 积分曲线取单位圆，应用（2.3.32）式和（2.3.33）式，计算：)()(1zBzSIZTxs)()(1zBzSxs。 2.3 离散维纳滤波器的域解离散维纳滤波器的域解 min2opt| )(|)(neEzH和2.4 维维 纳纳 预预 测测 2.4.1 2.4.1 维纳预测的计算维纳预测的计算 在维纳滤波中，期望的输出信号，实际的输出为。在维纳预测中，期望的输出信号， 实际的输出。前面已经推导得到维纳滤波的最佳解为：)()()()()(optzSzSzSzSzHxxxdxxxs（2.4.

30、1） )()(nsnd)()(Nnsny)()(Nnsnd)()(nsny其中,是观测数据的功率谱；是观测数据与期望信号的互功率谱。)(zSxx)(zSxd2.4 维维 纳纳 预预 测测 2.4.1 维纳预测的计算维纳预测的计算互相关函数的傅里叶变换 ：)()()(*kndnxEkrxd（2.4.2） )(krxd 对应于维纳预测器， 其输出信号y(n)和预测误差信号e(n+N)分别为 )( )()()()()( )(0NnsNnsNnemNnxmhNnsnym（2.4.3） （2.4.4） 2.4.1 维纳预测的计算维纳预测的计算同理，要使预测误差的均方值为最小，须满足 0| )(|2khN

31、neE（2.4.5） 其中，hk表示h(k)。 2.4 维维 纳纳 预预 测测 观测数据与期望的输出的互相关函数rxyd(k)和互谱密度Sxyd(z)分别为 NxsxyzzSzSd)()(（2.4.6） （2.4.7） )()()()()()(*kNrkNnsnxEkndnxEkrxsxd2.4.1 维纳预测的计算维纳预测的计算这样，非因果维纳预测器的最佳解为 )()()()()(optzSzSzzSzSzHxxxsNxxxyd（2.4.8） 因果维纳预测器的最佳解为： )()()(11)()()(11)(1212optzBzSzzBzBzSzBzHxsNxyd（2.4.9） 2.4 维维 纳

32、纳 预预 测测 2.4.1 维纳预测的计算维纳预测的计算维纳预测的最小均方误差为 CxsssCxysszdzzSzHzSzdzzSzHzSNneEd)()()(j21)()()(j21| )(|1opt1optmin2从上面分析可以看出， 维纳预测的求解和维纳滤波器的求解方法是一致的。 2.4 维维 纳纳 预预 测测 （2.4.10） 2.4.2 2.4.2 纯预测纯预测 假设 ，式中 是噪声，且 ，期望信号为 ，此种情况称为纯预测。 假定维纳预测器是因果的，仍设s(n)与v(n)不相关，纯预测情况下的输入信号的功率谱及维纳预测器的最佳解分别为 )()()()()(12zBzBzSzSzSss

33、xsxx（2.4.11） （2.4.12） 2.4 维维 纳纳 预预 测测 )()(1)()()(11)(12optzBzzBzBzSzzBzHNxsN0)(nvE)()()(nvnsnx)(nv，Nns)( 2.4.2 纯预测纯预测纯预测器的最小均方误差为 CNNCNNCNxssszdzzBzzzBzBzBzdzzzBzBzBzBzzBzBzdzzzSzHzSNneE)()()()(j2)()()()()()(j21)()()(j21| )(|11212121optmin2（2.4.13） 2.4 维维 纳纳 预预 测测 2.4.2 纯预测纯预测应用复卷积定理 zzzYzXnynxCnd1)

34、(j21)()(*（2.4.14） 2.4 维维 纳纳 预预 测测 取y(n)=x(n) zzzXzXnxCnd)()(j21)(12（2.4.15） 2.4.2 纯预测纯预测将上式代入(2.4.13)式, 并考虑到b(n)是因果系统，得到 nnNnbnuNnbnbNneE)()()()(| )(|22min2 可以看到，随着N 增加， 也增加。这一点也容易理解，当预测的距离越远，预测的效果越差，偏差越大，因而 越大。 2.4 维维 纳纳 预预 测测 min2| )(|NneEmin2| )(|NneE )()(00222nnNnbnb)(1022nbNn2.4.3 2.4.3 一步线性预测的

35、时域解一步线性预测的时域解 已知x(n-1), x(n-2)，,x(n-p), 预测x(n)，假设噪声v(n)=0，这样的预测称为一步线性预测。设定系统的单位脉冲响应为h(n)，根据线性系统的基本理论，输出信号： pkknxkhnxny1)()()( )(令apk=-h(k)，则 pkpkknxanx1)()( （2.4.21） 2.4 维维 纳纳 预预 测测 2.4.3 2.4.3 一步线性预测的时域解一步线性预测的时域解预测误差 pkpkpkpkknxaknxanxnxnxne01)()()()( )()(（2.4.22） 2.4 维维 纳纳 预预 测测 其中, ap0=1, 要使均方误差

36、为最小值，要求：212)()(| )(|pkpkknxanxEneE（2.4.23） planeEpl, 2 , 10| )(|2 2.4.3 一步线性预测的时域解一步线性预测的时域解同维纳滤波的推导过程一样, 可以得到 （2.4.24） 把(2.4.22)式代入(2.4.24)式, 得到 pllkralrpkxxpkxx, 2 , 10)()(1（2.4.25） pllnxneE, 2 , 10)()(*2.4 维维 纳纳 预预 测测 由于预测器的输出 是输入信号的线性组合，参见（2.4.21)式, 得到 )( nx0)( )(*nxneE（2.4.26） 2.4.3 一步线性预测的时域解一

37、步线性预测的时域解(2.4.24)式说明误差信号与输入信号满足正交性原理， (2.4.26)式说明预测误差与预测的信号值同样满足正交性原理。 预测误差的最小均方值 pkxxpkxxpkpkkrarnxknxanxEnxneEnxnxneEneE11*min2)()0()()()()()()( )()(| )(|(2.4.27） 2.4 维维 纳纳 预预 测测 2.4.3 一步线性预测的时域解一步线性预测的时域解 将(2.4.25)式和(2.4.27)式联立， 得到下面的方程组： pkxxpkxxpkxxpkxxpllkralrneEkrar11min2, 2 , 10)()(| )(|)()0

38、(（2.4.28） 2.4 维维 纳纳 预预 测测 2.4.3 一步线性预测的时域解一步线性预测的时域解 将方程组写成矩阵形式 00| )(|1)0() 1()() 1()0() 1 ()() 1 ()0(min21neEaarprprprrrprrrpppxxxxxxxxxxxxxxxxxx（2.4.29） 2.4 维维 纳纳 预预 测测 这就是有名的Yule-Walker方程 2.4.3 一步线性预测的时域解一步线性预测的时域解Yule-Walker方程具有以下特点： (1) 除了第一个方程外，其余都是齐次方程; (2) 与维纳-霍夫方程相比，不需要知道观测数据x(n)与期望信号s(n)的

39、互相关函数。 2.4 维维 纳纳 预预 测测 2.4.3 一步线性预测的时域解一步线性预测的时域解Yule-Walker方程组有p+1个方程，对应地，可以确定apk,k=1, 2, , p和Ee2(n)min，共计p+1个未知数，因此可用来求解AR模型参数。这就是后面要介绍的AR模型法进行功率谱估计的原理，它再一次揭示了时间序列信号模型、功率谱和自相关函数描述一个随机信号的等价性。 2.4 维维 纳纳 预预 测测 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 卡尔曼滤波是用状态空间法描述系统的，由状态方程和量测方程所组成。卡尔曼滤波用前一个状态的估计值和最近一个观测数据来估计状态变量的当前值，

40、 并以状态变量的估计值的形式给出。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 卡尔曼滤波具有以下的特点： (1) 算法是递推的状态空间法采用在时域内设计滤波器的方法，因而适用于多维随机过程的估计；离散型卡尔曼算法适用于计算机处理。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 卡尔曼滤波具有以下的特点： (2) 用递推法计算，不需要知道全部过去的值，用状态方程描述状态变量的动态变化规律，因此信号可以是平稳的，也可以是非平稳的， 即卡尔曼滤波适用于非平稳过程。 (3) 卡尔曼滤波采取的误差准则仍为估计误差的均方值最小。 2.5.1 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和

41、量测方程 假设某系统k时刻的状态变量为xk，状态方程和量测方程（也称为输出方程）表示为 ：kkkkwxAx1(2.5.1a) kkkkvxCy(2.5.1b) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程说明：k表示时间，指第k步迭代时，相应信号的取值k输入信号白噪声vk输出信号的观测噪声白噪声Ak表示状态变量之间的增益矩阵，可以随时间发生变化Ck 表示状态变量与输出信号之间的增益矩阵，可以随时间变化2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程信号

42、模型如图2.5.1所示。z1Ak1Ckk1xk1xkvkyk2.5 卡尔曼卡尔曼(Kalman)滤波滤波 图 2.5.1 卡尔曼滤波器的信号模型 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程将状态方程中时间变量k用k-1代替，得到的状态方程和量测方程如下所示： 其中，xk是状态变量;k-1表示输入信号是白噪声; vk是观测噪声; yk是观测数据。 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 11kkkkwxAxkkkkvxCy 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程为了后面的推导简单起见，假设状态变量的增益矩阵A不随时间发生变化，

43、k,vk都是均值为零的正态白噪声，方差分别是Qk和Rk，并且初始状态与k,vk都不相关，i,j表示相关系数。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.1 卡尔曼滤波的状态方程和量测方程卡尔曼滤波的状态方程和量测方程用数学形式表示为：kjkvvkvkkkjkkkkRRvEvQQEjkjk,2,2, 0:, 0:其中 jkjkkj012.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法 卡尔曼滤波是采用递推的算法实现的，其基本思想是先不考虑输入信号k和观测噪声vk的影响，得到状态变量和输出信号（即观测数据）的估计值，再用输出信号

44、的估计误差加权后校正状态变量的估计值，使状态变量估计误差的均方值最小。 因此, 卡尔曼滤波的关键是计算出加权矩阵的最佳值。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法 当不考虑观测噪声和输入信号时，状态方程和量测方程为： 11 kkkkkkkkkxACxCyxAx(2.5.4) (2.5.5) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法显然，由于不考虑观测噪声的影响，输出信号的估计值与实际值是有误差的，用 表示 kykkkyyy(2.5.6) 为了提高状态估计的质量，用输出

45、信号的估计误差 来校正状态变量 。ky2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法如(2.5.7)所示：)()(111kkkkkkkkkkkkkxACyHxAyyHxAx(2.5.7) 其中，H Hk为增益矩阵，实质是一加权矩阵。2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法经过校正后的状态变量的估计误差及其均方值分别用 和Pk表示，把未经校正的状态变量的估计误差的均方值用 表示 kxkP2.5 卡尔曼卡尔曼(Kalman)滤波滤波 kkkxxx(2.5.8) (2.5.9) (2.5.1

46、0) )(TkkkkkxxxxEP)(TkkkkkxxxxEP 卡尔曼滤波要求状态变量的估计误差的均方值Pk为最小， 因此卡尔曼滤波的关键就是要得到Pk与H Hk的关系式，即通过选择合适的H Hk,使Pk取得最小值。 首先推导状态变量的估计值 和状态变量的估计误差 ， 然后计算 的均方值Pk ，并通过化简Pk ，得到一组卡尔曼滤波的递推公式。 kx kxkx 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法将（2.5.3）、 (2.5.5)式代入（2.5.7）式： kkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkvHxAC

47、HxACHIvHxCHxACHIxACvxCHxAyyHxAx)()()()()(1111111(2.5.11) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法同理，状态变量的估计误差 为： xkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkvHxxACHIvHCHIxxACHIvHACHxxACHxxAvHxACHxACHIxAxxx11111111111111111)()()()()()()()(2.5.12) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算

48、法卡尔曼滤波的递推算法由上式可以看出，状态变量的估计误差 由三部分组成， 可记为 ：xcbax其中 kkkkkkkkkkvHcCHIbxxACHIa111)()()(2.5.13b) (2.5.13c) (2.5.13d) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法那么，状态变量的估计误差的均方值Pk就由9项组成:)(,TTTTTTTTTTTcbcabcbaacabccbbaaEcbacbaExxEPkkk(2.5.14a) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法TkTkkkkk

49、kkkkvHcCHIbCHIAxxaTTT1TTTT11T)()()(2.5.14b) (2.5.14d) (2.5.14c) 其中 下面化简Pk的表达式，根据假设的条件，状态变量的增益矩阵A A不随时间发生变化，起始时刻为k0，则（2.5.2）式经过迭代， 得到： 00011)(kkllkkkklkAxAx令l=k-k0-j，得到 10010000)(kkjjkkkkkkjkAxAx2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法取k0=0，k=k-1，得到 jkjjkkkAxAx202011(2.5.15) 所以xk-1仅依赖于x0,0,

50、1,k-2,与k-1不相关，即： 0T11T11kkkkxexE(2.5.16) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 又据(2.5.7)式和(2.5.3)式， 得 )(2111111211kkkkkkkkkkxACvxCHxAx(2.5.17) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 所以 仅依赖于xk-1,vk-1，而与vk不相关，即 1kx0)()(T11T11kkkkkkxxvEvxxE0)()(T111T111kkkkkkxxExxE(2.5.18) (2.5.19)

51、 把（2.5.15）（2.5.19）式代入(2.5.14)式, Pk中的9项可以分别化简为: TT1TTT1111T)()()()()(kkkkkkkkkkkkkkkkkCHIAPACHICHIAxxxxACHIEaaET1TT11T)()()()(kkkkkkkkkkkCHIQCHICHICHIEbbE(2.5.20a) (2.5.20b) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法TTkkkkTkkkHRHHvvHEccE(2.5.20c) 0)(0)()(0)(0)()()(0)()(0)()()(TT1TTTTTT11TTT1TT

52、TT111TTT11TT11T111TkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkCHIvHEcbECHIAxxvHEcaEHvCHIEbcECHIAxxCHIEbaEHvxxACHIEacExxxxACHIEabE(2.5.20d) (2.5.20e) (2.5.20f) (2.5.20g) (2.5.20h) (2.5.20j) 2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法也就是说，Pk仅有其中的三项不为零， 化简成 TkkkkkkTkkkkkTkkkkkkkkkkTkkkkkkHRHCHIQAPAC

53、HIHRHCHIQCHICHIAPACHIccEbbEaaEPT11T1T1TTT)()()()()()(2.5.21) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 为了进一步化简Pk，推导未经误差校正的状态估计误差的均方值Pk，由下面推导结果可以看出，Pk是一对称矩阵，满足Pk=(Pk)T。 1T1T11TT1111T111111T111111T)()()()()(defkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkkQAPAEAxxxxEAxxAxxAExAxAxAxAExxxxEP(2.5.22) 2.5 卡尔曼

54、卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法将(2.5.22)式代入(2.5.21)式，即把Pk代入Pk, TTTTTTTT)()()(kkkkkkkTkkkkkkkkkkkkkkTkkkkkkkkkkkkkkkHRHPCHHCPPCHPHRHHPCHHCPPCHPHRHCHIPCHIP(2.5.23) 其中, 是正定阵. kTkkkRCPC2.5 卡尔曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法TSSRCPCkTkkk(2.5.24) 记令 T TTT)(kkkkkkPCPCCPU(2.5.25) 2.5 卡尔

55、曼卡尔曼(Kalman)滤波滤波 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法将上式代入（2.5.23）式，得 TTTT)(kkTkkkkkHSSHUHUUUHPP(2.5.26) 将(2.5.26)式后三项配对 1TTT1T1TT1TT1T1T)()()()()()(kkkkkkkkkkkkkkkPCPCPCCPPSUSHSUSHUSSUPSUSHSUSHP(2.5.27) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 第二项和第三项均与H Hk无关，第一项为一半正定阵，因此使Pk最小的Hk应满足 01)(TSUSHk(2.5.28) (2.5.29) 2.5.2 卡尔曼滤波的递推算法卡尔曼滤波的递推算法2.5 卡尔曼卡尔曼(Kalman)滤波滤波 1T1T11Top