第2章-维纳滤波和卡尔曼滤波课件

第二章维纳滤波和卡尔曼滤波2.1引言2.2维纳(Weiner)滤波器的离散时域解2.3离散维纳滤波器的z域解2.4维纳预测2.5卡尔曼(Kalman)滤波

10/1/2023115:38:36第二章维纳滤波和卡尔曼滤波2.1引言8/7/20232.1引言§2.1引言随机信号处理讨论的滤波问题：就是一个估计问题，或者说是从噪声中提取信号、抑制噪声。本章介绍维纳(Wiener)滤波器和卡尔曼(Kalman)滤波器。通常可以将观测数据x(n)表示为信号s(n)与噪声v(n)之和。x(n)=s(n)+v(n)（2.1.1）10/1/2023215:38:362.1引言§2.1引言x(n)=s(n)+v(滤波的目的：利用滤波系统h(n)取出有用信号s(n)，s(n)又称为期望信号，h(n)就是估计器。主要问题：设计滤波器h(n)，使滤波器输出y(n)是s(n)的一个最佳估计。采用不同的最佳准则，估计结果可能不同。这样的滤波，通信中称为波形估计；自动控制中，称为动态估计。2.1引言10/1/2023315:38:36滤波的目的：利用滤波系统h(n)取出有用信号s(n)，s(三种估计形式：(1)预测问题：已知x(n-1),x(n-2),…,x(n-m)，估计s(n+N),N≥0(2)过滤或滤波：已知x(n-1),x(n-2),…,x(n-m)，估计s(n)(3)平滑或内插:已知x(n-1),x(n-2),…,x(n-m)，估计s(n-N),N≥1维纳滤波WF与卡尔曼滤波KF：属于过滤或预测问题，采用最小均方误差准则(MMSE)为最佳准则。MMSE:MinimumMeanSquareError。2.1引言10/1/2023415:38:36三种估计形式：2.1引言8/7/2023415:38维纳滤波器与卡尔曼滤波器比较：名称已知数据需要计算计算结果适用条件求解方法提出年代维纳滤波器x(n-1),x(n-2),......相关函数H(z)或h(n)平稳解析形式40年代卡尔曼滤波器前一个估计值和最近的观察状态方程量测方程状态变量估计值平稳或非平稳递推算法60年代2.1引言10/1/2023515:38:36维纳滤波器与卡尔曼滤波器比较：名称已知数据需要计算计算结果适2.2维纳滤波器的离散形式—时域解§2.2维纳滤波器的离散形式—时域解2.2.1维纳滤波器时域求解的方法考虑到系统的因果性，即h(n)=0，n<0（2.2.2）设期望信号为d(n)，计算误差和均方误差为e(n)=d(n)－y(n)=s(n)－y(n)（2.2.３）（2.2.４）10/1/2023615:38:362.2维纳滤波器的离散形式—时域解§2.2维纳滤波器的下面求使均方误差最小的滤波器h(n)。定义h(j)－>hj，设hj=aj+jbj为复数，考虑复变量求导问题。定义求导符号：（2.2.７）维纳滤波的极小值问题变为：（2.2.8）2.2维纳滤波器的离散形式—时域解10/1/2023715:38:36下面求使均方误差最小的滤波器h(n)。定义求导符号：（2.展开(2.2.8)式:：(2.2.9)分别计算(2.2.9）每一项：2.2维纳滤波器的离散形式—时域解10/1/2023815:38:36展开(2.2.8)式:：(2.2.9)分别计算(2.2.9）整理上面结果，得：（2.2.14)因此，使均方误差最小的充要条件描述如下：E［x*(n-j)e(n)］=0j=0,1,2,…（2.2.15）结论：均方误差达到最小值的充要条件是误差信号与任一进入估计器的输入信号正交。这就是著名的正交性原理。正交性原理的重要意义：它提供了一个简便的数学方法，来判断线性滤波系统是否工作于最佳状态。2.2维纳滤波器的离散形式—时域解10/1/2023915:38:36整理上面结果，得：（2.2.14)因此，使均方误差最小的充假定滤波器工作于最佳状态，相应滤波器输出yopt(n)与估计误差为eopt(n)，则有(2.2.17)最佳状态下的信号关系(向量和几何表示)：2.2维纳滤波器的离散形式—时域解上式假定输入和期望信号为0均值。eopt(n)d(n)yopt(n)10/1/20231015:38:36假定滤波器工作于最佳状态，相应滤波器输出yopt2.2.2维纳—霍夫(Wiener-Hopf)方程重写正交性原理公式(2.2.15):对上式取共轭，利用ryx(-k)=r*xy(k)可得维纳－霍夫方程:(2.2.20)2.2维纳滤波器的离散形式—时域解10/1/20231115:38:362.2.2维纳—霍夫(Wiener-Hopf)方程对上式取特殊情况下的维纳－霍夫方程：h(n)是长度为M的因果序列，或h(n)是长度为M的FIR滤波器。(2.2.21)上式取M个k值，得M个方程：k=0：h0rxx(0)+h1rxx(1)+…+hM－1rxx(M-1)=rxd(0)k=1：h0rxx(1)+h2rxx(0)+…+hM－1rxx(M-2)=rxd(1)

k=M-1：h0rxx(M-1)+h1rxx(M-2)+…+hM－1rxx(0)=rxd(M-1)…2.2维纳滤波器的离散形式—时域解10/1/20231215:38:36特殊情况下的维纳－霍夫方程：h(n)是长度为M的因果序列，或维纳－霍夫方程(Wiener-Hopf)的矩阵形式：

(2.2.23)维纳滤波器的最佳解：(2.2.24)

存在问题：求维纳滤波器的时域因果解，需要矩阵求逆，计算量大(M3)，不是一个有效的方法。2.2维纳滤波器的离散形式—时域解10/1/20231315:38:36维纳－霍夫方程(Wiener-Hopf)的矩阵形式：(clc;closeall;clearall;%%信号产生%观测点数N=2000;n=linspace(0,1200,N);%信号d=2*sin(pi*n/128+pi/3);%噪声（方差1.25）v=sqrt(1.25)*randn(N,1);%观测样本值x=d'+v;2.2维纳滤波器的离散形式—时域解10/1/20231415:38:36clc;closeall;clearall;2.2维纳%%%%%%%%%%%%%%%%%%%%%%%%%%%设计维纳滤波器tic%观测信号自相关[C,lags]=xcorr(x,N,'biased');%自相关矩阵R_xx，N阶滤波器R_xx=toeplitz(C(N+1:end));%x,d互相关函数R_xdR_xd=xcorr(d,x,N,'biased');R_xd=R_xd(N+1:end);%维纳-霍夫方程Wopt=inv(R_xx)*R_xd';2.2维纳滤波器的离散形式—时域解10/1/20231515:38:36%%%%%%%%%%%%%%%%%%%%%%%%%%2.2%滤波y=filter(Wopt,1,x);%误差En=d-y';%结果figure,plot(n,d,'r:',n,y,'b-');legend('维纳滤波信号真值','维纳滤波估计值');title('期望信号与滤波结果对比');xlabel('观测点数');ylabel('信号幅度');figure,plot(n,En);title('维纳滤波误差曲线');xlabel('观测点数');ylabel('误差幅度');toc2.2维纳滤波器的离散形式—时域解10/1/20231615:38:36%滤波2.2维纳滤波器的离散形式—时域解8/7/2022.2.3估计误差的均方值假定所研究的信号都是零均值的，滤波器为FIR型，长度等于M，可以得到(2.2.25)2.2维纳滤波器的离散形式—时域解10/1/20231715:38:362.2.3估计误差的均方值(2.2.25)2.2维纳进一步化简得到说明：均方误差与h(n)是一个二次函数关系，因此存在极小值。当滤波器工作于最佳状态时，均方误差取得最小值。2.2维纳滤波器的离散形式—时域解10/1/20231815:38:36进一步化简得到说明：均方误差与h(n)是一个二次函数关系，例2.2.1设y(n)=x(n)+v2(n)，v2(n)是一白噪声，方差σ22=0.1。期望信号x1(n)的信号模型如图2.2.2（a）所示，其中白噪声v1(n)的方差σ21=0.27，且b0=0.8458。x(n)的信号模型如图2.2.2（b）所示，b1=-0.9458。假定v1(n)与v2(n)、x1(n)与y(n)不相关，并都是实信号。设计一个维纳滤波器，得到该信号的最佳估计，要求滤波器是一长度为2的FIR滤波器。2.2维纳滤波器的离散形式—时域解10/1/20231915:38:36例2.2.1设y(n)=x(n)+v2(n)，v2(n)是图2.2.2输入信号与观测数据的模型2.2维纳滤波器的离散形式—时域解10/1/20232015:38:36图2.2.2输入信号与观测数据的模型2.2维纳滤波器

解这个问题属于直接应用维纳-霍夫方程的典型问题，其关键在于求出观测信号的自相关函数和观测信号与期望信号的互相关函数。图2.2.3维纳滤波器的框图2.2维纳滤波器的离散形式—时域解10/1/20232115:38:36解这个问题属于直接应用维纳-霍夫方程的典型根据题意，画出维纳滤波器的框图，如图2.2.3所示。用H1(z)和H2(z)分别表示x1(n)和x(n)的信号模型，输入信号x(n)可以看作是v1(n)通过H1(z)和H２(z)级联后的输出，H1(z)和H２(z)级联后的等效系统用H(z)表示，输出信号y(n)就等于x(n)和v2(n)之和。因此求输出信号的自相关函数矩阵Ryy和输出信号与期望信号的互相关矩阵Ryd是解决问题的关键。相关函数矩阵由相关函数值组成，已知x(n)与v2(n)不相关，那么2.2维纳滤波器的离散形式—时域解10/1/20232215:38:36根据题意，画出维纳滤波器的框图，如图2.2.3所示。用H1(1)求出期望信号的方差。根据图2.2.2(a)，期望信号的时间序列模型所对应的差分方程为x1(n)=v1(n)-b0x1(n-1)这里，b0=0.8458,由于x1(n)的均值为零，其方差与自相关函数在零点的值相等。2.2维纳滤波器的离散形式—时域解10/1/20232315:38:36(1)求出期望信号的方差。根据图2.2.2(a)，期望(2)计算输入信号和输出信号的自相关函数矩阵。根据自相关函数、功率谱密度和时间序列信号模型的等价关系，已信号模型，就可以求出自相关函数。这里，信号模型为对应的差分方程为x(n)+a1x(n-1)+a2x(n-2)=v1(n)式中，a1=-0.1，a2=-0.8。由于v1(n)、v2(n)的均值为零，因此x(n)的均值为0。方程两边同乘以x*(n-m)，并取数学期望，得rxx(m)+a1rxx(m-1)+a2rxx(m-2)=0m＞0(1)rxx(0)+a1rxx(1)+a2rxx(2)=σ21

m=0(2)2.2维纳滤波器的离散形式—时域解10/1/20232415:38:36(2)计算输入信号和输出信号的自相关函数矩阵。根据自相关对方程（1）取m=1,2，得到rxx(1)+a1rxx(0)+a2rxx(1)=0 (3)rxx(2)+a1rxx(1)+a2rxx(0)=0 (4)方程（2）、（3）、（4）联立求解，得2.2维纳滤波器的离散形式—时域解10/1/20232515:38:36对方程（1）取m=1,2，得到rxx(1)+a1rxx(v2(n)是一个零均值的白噪声，它的自相关函数矩阵呈对角形，且 ，因此，输出信号的自相关Ryy为2.2维纳滤波器的离散形式—时域解10/1/20232615:38:36v2(n)是一个零均值的白噪声，它的自相关函数矩阵呈对角形，(3)计算输出信号与期望信号的互相关函数矩阵。由于两个信号都是实信号，故ryd(m)=E［y(n)d(n-m)］=E［y(n)x1(n-m)］=E［(x(n)+v2(n))x1(n-m)］=E［x(n)x1(n-m)］m=0,1根据图2.2.2系统H2(z)的输入与输出的关系,有x1(n)-b1x(n-1)=x(n)x1(n)=x(n)+b1x(n-1)这样ryd(m)=E［x(n)x1(n-m)］=E［x(n)(x(n-m)+b1x(n-1-m))］=rxx(m)+b1rxx(m-1)2.2维纳滤波器的离散形式—时域解10/1/20232715:38:36(3)计算输出信号与期望信号的互相关函数矩阵。由于两个信将m=0,m=1代入上式,得ryd(0)=rxx(0)+b1rxx(-1)=1-0.9458×0.5=0.5272ryd(1)=rxx(1)+b1rxx(0)=0.5-0.9458×1=-0.4458因此，输出信号与期望信号的互相关为求出输出自相关的逆矩阵,并乘以Ryd,可得维纳最佳解Wopt:2.2维纳滤波器的离散形式—时域解10/1/20232815:38:36将m=0,m=1代入上式,得ryd(0)=rxx(0)把Wopt代入（2.2.27）式，可计算出维纳滤波器达到最佳状态时均方误差，即均方误差有最小值E［|e(n)|2］min，2.2维纳滤波器的离散形式—时域解10/1/20232915:38:36把Wopt代入（2.2.27）式，可计算出维纳滤波器达到最佳2.3离散维纳滤波器的Z域解§2.3离散维纳滤波器的Z域解不考虑滤波器因果性的维纳－霍夫方程可以写为设定d(n)=s(n)，对上式两边做Z变换：Sxs(z)=Hopt(z)Sxx(z)不考虑因果性维纳滤波器(2.3.2)10/1/20233015:38:362.3离散维纳滤波器的Z域解§2.3离散维纳滤波器的Z进一步简化(2.3.2)：考虑期望信号和噪声不相关，rsv(m)=0Sxs(z)=S(s+v)s(z)=Sss(z)+Svs(z),

Sxs(z)=Sss(z)，Sxx(z)=Sss(z)+Svv(z)物理意义：噪声=0－>信号全部通过；信号=0－>噪声全部抑制(2.3.5)2.3离散维纳滤波器的Z域解10/1/20233115:38:36进一步简化(2.3.2)：考虑期望信号和噪声不相关，rsv(

讨论：(1)不考虑因果性的维纳滤波器Z域解非常简单。(2)如果考虑因果性，维纳滤波器在Z域不能直接求解。Bode和Shannon提出了白化滤波器的方法较好的解决了这个问题。

白化滤波器：对于具有有理谱的随机信号x(n)可用MA模型描述，并且B(z)已知，可以设计出逆滤波器B-1(z)。如果逆滤波器输入为x(n)，则逆滤波器输出为白噪声。2.3离散维纳滤波器的Z域解白化滤波器10/1/20233215:38:36讨论：(1)不考虑因果性的维纳滤波器Z域解非常简单。白

维纳滤波器求解思路：用白噪声作为待求滤波器G(z)的输入，假设1/B(z)为x(n)白化滤波器传输函数，那么维纳滤波器传输函数可以表示为(2.3.7)因此维纳滤波器的求解转化为G(z)的求解。2.3离散维纳滤波器的Z域解下面分两种情况讨论：非因果系统和因果系统。10/1/20233315:38:36维纳滤波器求解思路：用白噪声作为待求滤波器G(z)的输入，2.3.1非因果维纳滤波器的求解依据前面讨论的思路，下面的问题就是求解满足下列条件的g(n)或G(z)，其中为白噪声。G(z)或g(n)2.3离散维纳滤波器的Z域解10/1/20233415:38:362.3.1非因果维纳滤波器的求解G(z)或g(n)2.3(2.3.9)计算均方估计误差：使均方误差为最小的充要条件是：

-∞＜k＜∞(2.3.10)g(n)的最佳值：-∞＜k＜∞(2.3.11)2.3离散维纳滤波器的Z域解10/1/20233515:38:36(2.3.9)计算均方估计误差：使均方误差为最小的充要条G(z)的最佳值：(2.3.12)非因果维纳滤波器的最佳解为(2.3.13)考虑s(n)=s(n)*δ(n)和x(n)=ω(n)*b(n)，由相关卷积定理得：rxs(m)=rωs(m)*b(-m)(2.3.14)Sxs(z)=Sωs(z)B(z-1)(2.3.15)2.3离散维纳滤波器的Z域解10/1/20233615:38:36G(z)的最佳值：(2.3.12)非因果维纳滤波器的最佳解综合上面的结果，并考虑x(n)的MA模型，可得维纳滤波器的复频域最佳解的一般表达式(2.3.16)假定信号与噪声不相关，即E［s(n)v(n)］=0：rxs(m)=E{[s(n)+v(n)]×s(n+m)}=rss(m)rxx(m)=E{[s(n)+v(n)]×[s(n+m)+v(n+m)]}=rss(m)+rvv(m)∴

Sxs(z)=Sss(z)∴

Sxx(z)=Sss(z)+Svv(z)(2.3.17)(2.3.18)2.3离散维纳滤波器的Z域解10/1/20233715:38:36综合上面的结果，并考虑x(n)的MA模型，可得（2.3.19)非因果维纳滤波器的复频域最佳解：（2.3.20)（2.3.21)

说明：上述结果与(2.3.5)式一样，但获得的方法是不一样的。2.3离散维纳滤波器的Z域解10/1/20233815:38:36（2.3.19)非因果维纳滤波器的复频域最佳解：（2.3下面推导最小均方误差E[|e(n)|2]min。(1)用围线积分法求rss(0):(2.3.22)(2.3.23)2.3离散维纳滤波器的Z域解10/1/20233915:38:36下面推导最小均方误差E[|e(n)|2]min。(1)用围(2.3.25)(2.3.26)综合(1)和(2)得到:

(2.3.27)(2)计算

复卷积定理2.3离散维纳滤波器的Z域解10/1/20234015:38:36(2.3.25)(2.3.26)综合(1)和(2)得到:进一步简化：(2.3.28)考虑实信号自相关函数是偶函数以及信号与噪声不相关：(2.3.30)2.3离散维纳滤波器的Z域解10/1/20234115:38:36进一步简化：(2.3.28)考虑实信号自相关函数是偶函数以2.3.2因果维纳滤波器的求解若维纳滤波器是因果滤波器，

要求

g(n)=0 n＜0估计误差的均方值：

E［|e(n)|2］=E［|s(n)-y(n)|2］

(2.3.32)(2.3.31)2.3离散维纳滤波器的Z域解10/1/20234215:38:362.3.2因果维纳滤波器的求解g(n)=0 n＜0使均方误差取得最小值的充要条件：

(2.3.34)先计算：

(2.3.35)(2.3.36)2.3离散维纳滤波器的Z域解10/1/20234315:38:36使均方误差取得最小值的充要条件：(2.3.34)先计算：因果系统G(z)的最佳解：

(2.3.37)因果维纳滤波器的复频域最佳解：

(2.3.38)2.3离散维纳滤波器的Z域解10/1/20234415:38:36因果系统G(z)的最佳解：(2.3.37)因果维纳滤波器计算最小均方误差：

(2.3.39)2.3离散维纳滤波器的Z域解10/1/20234515:38:36计算最小均方误差：(2.3.39)2.3离散维纳滤波器结论:(1)因果维纳滤波器最小均方误差与非因果维纳滤波器最小均方误差的形式相同，但公式中的Hopt(z)的表达式不同。(2)非因果E[|e(n)|2]min一定小于等于因果E[|e(n)|2]min,，原因如下(3)具体计算时,可以选择单位圆作为积分曲线，应用留数定理，通过计算积分函数在单位圆内极点的留数来得到。

2.3离散维纳滤波器的Z域解10/1/20234615:38:36结论:(1)因果维纳滤波器最小均方误差与非因果维纳滤波器最因果维纳滤波器的设计步骤：(1)根据观测信号x(n)的功率谱求出对应的MA信号模型，即用谱分解的方法得到B(z)。(2)求 的Z反变换，取其因果部分再做Z变换。即舍掉单位圆外的极点，得(3)计算Hopt(z)，将积分曲线取单位圆计算E[|e(n)|2]min。2.3离散维纳滤波器的Z域解10/1/20234715:38:36因果维纳滤波器的设计步骤：2.3离散维纳滤波器的Z域解例2.3.1

已知

信号和噪声不相关，即rsv(m)=0，噪声v(n)是零均值、单位功率的白噪声(σ2v=1，mv=0)，求Hopt(z)和E[e(n)|2]min。解：(1)物理可实现，因果情况考虑因果稳定系统2.3离散维纳滤波器的Z域解10/1/20234815:38:36例2.3.1已知信号和噪声不相关，即rsv(m)=0考虑Sxs(z)=Sss(z)：2.3离散维纳滤波器的Z域解10/1/20234915:38:36考虑Sxs(z)=Sss(z)：2.3离散维纳滤波器的Z域计算最小均方估计误差：

2.3离散维纳滤波器的Z域解未滤波的均方误差

：10/1/20235015:38:36计算最小均方估计误差：2.3离散维纳滤波器的Z域解未滤(3)非物理可实现，非因果

2.3离散维纳滤波器的Z域解比较两种情况：非物理可实现的最小均方误差(0.3)小于物理可实现的均方误差(0.375)。

10/1/20235115:38:36(3)非物理可实现，非因果2.3离散维纳滤波器的Z域解2.4维

纳

预

测

§2.4维纳预测2.4.1维纳预测的计算观测数据：x(n)，x(n－1)，......维纳滤波：期望输出yd(n)=s(n)，实际输出y(n)=s(n)。维纳预测：期望输出yd(n)=s(n+N)，实际输出y(n)=s(n+N)。预测的可能性：可以从两个方面理解。(1)信号内部存在着关联性。数据前后的关联性越密切，预测越准确；如果完全无关联，则无法预测。(2)系统是有惯性的。即便输入无关联，系统输出却有关联。^^10/1/20235215:38:362.4维纳预测§2.4维纳预测^^8/7/2.4维

纳

预

测

预测器输出信号y(n)和误差信号e(n+N)的描述：

（2.4.3）

（2.4.4）

H(z)维纳预测器的目标使预测均方误差极小化：10/1/20235315:38:362.4维纳预测预测器输出信号y(n)和误差信号e(满足预测误差均方值最小的充要条件：（2.4.5）

2.4维

纳

预

测

yd(n)=s(n+N)10/1/20235415:38:36满足预测误差均方值最小的充要条件：（2.4.5）2.4维因果维纳预测器的最佳解:

（2.4.9）

非因果维纳预测器的最佳解：维纳预测器的最小均方误差：

结论：维纳预测器的求解和维纳滤波器的求解方法是一致的。

2.4维

纳

预

测

（2.4.8）

10/1/20235515:38:36因果维纳预测器的最佳解:（2.4.9）非因果维纳预测器的2.4.2纯预测(N步)

所谓纯预测就是不考虑噪声的预测。

N步纯预测：x(n)=s(n)+v(n)，v(n)=0，期望信号s(n+N),N＞0。2.4维

纳

预

测

因果纯预测：设s(n)与v(n)不相关。（2.4.11）（2.4.12）10/1/20235615:38:362.4.2纯预测(N步)2.4维纳预测因果纯预纯预测器最小均方误差：

（2.4.13）

2.4维

纳

预

测

10/1/20235715:38:36纯预测器最小均方误差：（2.4.13）2.4维纳预（2.4.15）

考虑到b(n)是因果系统：

结论：随着N增加，E[|e(n+N)|2]min也增加。这一点也容易理解，因为预测距离越远，预测效果越差，偏差越大。应用复卷积定理：2.4维

纳

预

测

10/1/20235815:38:36（2.4.15）考虑到b(n)是因果系统：结论：随着N增例2.4.1

已知

求:(1)最小均方误差下的s(n+N)；(2)E[|e(n+N)|2]min。

^解：(1)计算最佳预测输出

2.4维

纳

预

测

10/1/20235915:38:36例2.4.1已知求:^解：(1)计算最佳预测输出2.2.4维

纳

预

测

10/1/20236015:38:362.4维纳预测8/7/20236015:38:36(2)计算最小均方误差2.4维

纳

预

测

10/1/20236115:38:36(2)计算最小均方误差2.4维纳预测8/7/20讨论以上结果:(1)Hopt(z)=aN－>纯预测的维纳滤波器是一个线性比例放大器。(2)B(z)－>x(n)的MA模型x(n)=ω(n)+ax(n-1)(3)N＞0时，白噪声ω(n+N)对x(n)无影响。

当N=1时，x(n+1)=ax(n)=as(n)当N=2时，x(n+2)=ax(n+1)=a2s(n)

当N=N时，x(n+N)=ax(N+n-1)=aNs(n)…（2.4.19）

2.4维

纳

预

测

10/1/20236215:38:36讨论以上结果:x(n)=ω(n)+ax(n-1)(3)N(4)终值定理与所得估计值的物理意义

物理意义：一个信号的功率谱在单位圆上没有极点与信号均值等于0等价，因此对于功率谱在单位圆上没有极点的信号，要估计s(n+N)时，可认为ω(n+N)=0,N＞0，即仅需要考虑B(z)的惯性，这样估计出来的结果将有最小均方误差。^2.4维

纳

预

测

10/1/20236315:38:36(4)终值定理与所得估计值的物理意义物理意义：一个信号的2.4.3一步线性预测的时域解一步线性预测：噪声v(n)=0，由x(n-1),x(n-2)，…,x(n-p)预测x(n)一步线性预测的计算：设系统脉冲响应为h(n)，令apk=-h(k)，预测输出和预测误差为ap0=12.4维

纳

预

测

10/1/20236415:38:362.4.3一步线性预测的时域解ap0=12.4维纳预（2.4.23）

推导使均方误差最小的充要条件：

E［e*(n)x(n-l)］=0l=1,2,…,p

（2.4.24）

（2.4.25）

计算均方误差：

（2.4.26）

2.4维

纳

预

测

10/1/20236515:38:36（2.4.23）推导使均方误差最小的充要条件：E［e*(结论:(1)最小预测误差与输入信号、最佳预测输出正交。

(2)(2.4.25)所描述的p个方程是求解预测滤波器或预测系数的重要方程。计算最小均方预测误差

：2.4维

纳

预

测

10/1/20236615:38:36结论:(1)最小预测误差与输入信号、最佳预测输出正交。Yule-Walker方程2.4维

纳

预

测

10/1/20236715:38:36Yule-Walker方程2.4维纳预测8/7/2Yule-Walker方程的特点：(1)除了第一个方程外，其余都是齐次方程，因此容易求解。(2)与维纳-霍夫方程相比，不需要求x(n)与s(n)的互相关函数。(3)p+1个方程可以确定p个预测系数和最小均方误差。(4)该方程可以用来求解AR模型参数和进行功率谱估计。(5)该方程揭示了时间序列信号模型、功率谱和自相关函数在描述一个随机信号时的等价性。2.4维

纳

预

测

10/1/20236815:38:36Yule-Walker方程的特点：2.4维纳预测关于自相关矩阵Rxx的性质：(1)当x(n)为实数时，Rxx为对称矩阵，Rxx＝RxxT。当x(n)为复数时，Rxx为Hermitian矩阵，Rxx

＝RxxH。(2)Rxx任意对角线上的元素相同，Toeplitz矩阵。(3)Rxx为正定矩阵，特征值都大于零，所有主子式大于零。(4)对于复序列x(n)，注意本书自相关函数的定义方法：2.4维

纳

预

测

10/1/20236915:38:36关于自相关矩阵Rxx的性质：2.4维纳预测8/2.5卡尔曼(Kalman)滤波

§2.5卡尔曼(Kalman)滤波

卡尔曼滤波是用状态空间来描述系统，由状态方程和量测方程所组成。卡尔曼滤波器的特点：(1)算法是递推的，而且是在时域内设计滤波器，特别适合多维随机过程的估计；离散型卡尔曼算法适用于计算机处理。(2)观测数据可以是平稳的，也可以是非平稳的。(3)所采取的误差准则仍为估计误差的均方值最小(MMSE)。10/1/20237015:38:362.5卡尔曼(Kalman)滤波§2.5卡尔曼(Kal2.5.1卡尔曼滤波的状态方程和量测方程

(2.5.1a)(2.5.1b)其中：(1)k表示时间或第k步迭代；(2)ωk为输入信号向量(3)vk为观测噪声向量，是白噪声；(3)x－>状态向量，y－>输出信号向量；(4)A、C为随时间变化的增益矩阵。状态方程量测(输出)方程2.5卡尔曼(Kalman)滤波10/1/20237115:38:362.5.1卡尔曼滤波的状态方程和量测方程(2.5.卡尔曼滤波器信号模型和对应的状态方程、量测方程：

N×1N×NN×1N×1M×1M×NN×1M×12.5卡尔曼(Kalman)滤波10/1/20237215:38:36卡尔曼滤波器信号模型和对应的状态方程、量测方程：N×1N×卡尔曼滤波要解决的问题：已知：递推计算最小均方误差下xk的估计。对的基本假设：零均值高斯白噪声。(1)均值向量(2)自协方差矩阵和互协方差矩阵2.5卡尔曼(Kalman)滤波10/1/20237315:38:36卡尔曼滤波要解决的问题：对的基本假设：零均值高2.5.2卡尔曼滤波的递推算法

基本思想：先不考虑ωk和vk的影响，得到状态变量和输出信号的估计值，然后再用输出信号的估计误差(新息)来校正状态变量的估计值，使状态变量估计误差的均方值最小。(1)先考虑无观测噪声和输入信号时的状态方程和量测方程：(2.5.4)(2.5.5)2.5卡尔曼(Kalman)滤波(2.5.6)输出信号估计误差新息innovation10/1/20237415:38:362.5.2卡尔曼滤波的递推算法(2.5.4)(2.5.(2)观测噪声和输入信号对状态变量的影响，通过输出信号估计误差(新息)的校正来实现。(2.5.7)定义三个重要参量：Hk：增益矩阵加权矩阵(2.5.8)(2.5.9)(2.5.10)校正后状态变量估计误差未校正Xk估计误差均方矩阵2.5卡尔曼(Kalman)滤波10/1/20237515:38:36(2)观测噪声和输入信号对状态变量的影响，通过输出信号估计卡尔曼滤波要求：通过选择合适的Hk，使状态变量估计误差的均方值Pk最小。因此卡尔曼滤波的关键是求出Pk～Hk的关系式。分两步推导上述关系式：Step1推导状态变量的估计值和状态变量的估计误差;Step2计算的均方值Pk，并通过化简Pk，得到一组卡尔曼滤波的递推公式。2.5卡尔曼(Kalman)滤波10/1/20237615:38:36卡尔曼滤波要求：通过选择合适的Hk，使状态变量估计误差的均方Step1:推导状态变量的估计值和估计误差(2.5.11)(2.5.12)2.5卡尔曼(Kalman)滤波10/1/20237715:38:36Step1:推导状态变量的估计值和估计误差(2.5.11Step2计算校正的状态变量估计误差均方值Pk。首先将状态变量估计误差分解为三部分：然后计算状态变量估计误差的均方值Pk:2.5卡尔曼(Kalman)滤波10/1/20237815:38:36Step2计算校正的状态变量估计误差均方值Pk。然利用下面三个基本结论对Pk进行化简：(1)状态变量与输入信号不相关(2)状态变量估计误差与观测噪声不相关(3)状态变量估计误差与输入信号不相关2.5卡尔曼(Kalman)滤波10/1/20237915:38:36利用下面三个基本结论对Pk进行化简：2.5卡尔曼(Kalm对Pk的各项进行化简：

2.5卡尔曼(Kalman)滤波10/1/20238015:38:36对Pk的各项进行化简：2.5卡尔曼(Kalman)滤波2.5卡尔曼(Kalman)滤波10/1/20238115:38:362.5卡尔曼(Kalman)滤波8/7/20238115化简Pk并计算：2.5卡尔曼(Kalman)滤波10/