第六章维纳滤波器和卡尔曼滤波器

第６章维纳滤波器和卡尔曼滤波器6.1离散维纳滤波器的时域解6.2离散维纳滤波器的域解6.3维纳预测器6.4卡尔曼（Kalman）滤波器在实际应用中，有用信号往往会受到一些外界干扰，我们实际观察到的是受到噪声干扰了的信号。如何最大限度地抑制噪声，并将有用信号分离出来，是信号处理中经常遇到的问题。例如，在传输或测量信号时，由于信道噪声或者测量噪声，接收或测量到的数据将与不同。设噪声是加性的，即如果和的频谱是分离的，那么设计一个具有恰当频率特性的线性滤波器即能有效地抑制噪声并提取信号，这就是前面经典数字信号处理理论中详细讨论过的数字滤波器的设计问题。但是如果和的频谱互相重叠，或者和是随机信号，它们的频谱根本就不存在，问题就要复杂得多，这就是本章要讨论的内容。

为了从中提取或恢复原始信号，需要设计一种滤波器，对进行滤波，使滤波器的输出尽可能地逼近，成为的最佳估计，即。这种滤波器称为最佳滤波器。一般而言，这是信号的最佳估计问题。所谓最佳，使以一定的准则来衡量的。通常有四种准则：最大后验准则；最大似然准则；均方准则；线性均方准则。采用不同的最佳准则，估计得到的结果可能不同。6.1离散维纳滤波器的时域解维纳滤波器和卡尔曼滤波岂都是最佳滤波器，其最优准则是最小均方误差准则。维纳滤波器是根据当前和过去的观察值对当前的信号值进行估计，这是一个估计问题，估计问题按照不同情况可以分为以下三种。滤波（或过滤）。根据当前和过去的观察值对当前的信号值进行估计，使。预测（或外推）。根据过去的观察值估计当前或未来的信号值，使，其中。内插（或平滑）。根据过去的观察值过去的信号值，使，其中。

6.1.1维纳滤波器的时域求解方法维纳滤波器最初是一个线性时不变系统，最初是对连续时间信号以模拟滤波器的形式出现的，在这里我们只讨论离散维纳滤波器。设维纳滤波器的单位脉冲响应为，其输入信号为，输出信号。如图6-1所示。一个因果系统，必须是一个因果序列，即由图6-1可知（6-1）是对信号的最佳估计，用表示估计误差，则。可以看成是均值为零的随机变量，其方差就是估计的均方误差。设计维纳滤波器过程就是寻求使(6-2)最小的滤波器单位脉冲响应或系统函数的表达式。为了讨论方便，令则（6-3）式（6-1）可写成

（6-4）于是（6-5）

现在的问题是需要求的使最小的，将上式对各求偏导数，并令其等于零，得（6-6）即（6-7）上式说明，均方误差达到最小值的充要条件是误差信号与任一进入估计的输入信号正交，这就是数学上的正交性原理。也就是说满足正交性原理与满足最小均方误差的条件是等价的。将式（6-3）代回式（6-6）中，得（6-8）即（6-9）或（6-10）

上式称为维纳-霍夫（Wiener-Hopf）方程。从维纳-霍夫方程中解出，它就是在最小均方误差下的最佳。设是一个长度为N因果序列（即是一个长度N为的FIR滤波器），维纳-霍夫方程表述为（6-11）分别将代入式（6-11），得

（6-12）定义式（6-12）可以写成矩阵形式，即（6-13）对上式求逆。得（6-14）上式表明已知期望信号与观测信号的互相关函数及观测信号的自相关函数时，可以通过矩阵求逆运算，得到维纳滤波器的最佳解。但是，直接从时域求解因果维纳滤波器，当选择的滤波器长度N较大时，计算工作量很大，需要计算机的存储量也很大。如果在计算过程中想增加的长度N来提高逼近程度时，就需要的新N的基础上重新进行计算。因此，最小均方误差下的维纳滤波器，在时域里求解其FIR滤波器并不是一个有效的方法。6.1.2FIR维纳滤波器的均方误差下面让我们来研究FIR维纳滤波器的最小均方误差。由式（6-2）得

（6-15）可以看出，均方误差与滤波器的单位脉冲响应是一个二次函数关系。由于单位脉冲响应是，为N维向量，因此均方误差是一个超椭圆抛物形曲面，该曲面有极小点存在。当滤波器工作于最佳状态时，均方误差取得最小值。将式（6-14）代入式（6-15），得到最小均方误差为（6-16）

6.2离散维纳滤波器的z域解对于非因果维纳滤波器，有-（6-17）在最小均方误差准则下，有（6-18）对上式两边进行变换，得（6-19）所以，最佳滤波器系统函数为（6-20）因

假设信号与噪声不相关，即，则式（6-20）可写成（6-21）将代入上式，得非因果的维纳滤波器的频率特性为可见，决定于信号与噪声的功率谱密度，当噪声为零时，，，信号全部通过；当信号为零时，，，噪声被全部抑制掉，因此维纳滤波器确有滤出噪声的能力。非因果维纳滤波器的幅频特性如图6-2所示。

（6-22）当要求维纳滤波器的单位样本响应是一个物理可实现的因果序列时，所得到的维纳-霍夫方程式（6-11）将附有的约束条件。在此约束条件下，式（6-11）不能直接转入z域求解。这使得在要求满足因果条件下，求解维纳-霍夫方程成为一个非常困难的问题。下面我们将利用把进行白化的方法来求维纳-霍夫方程的域解。为此，先引入信号模型的概念。任何具有有理功率谱密度的随机信号都可以看成是由一白色噪声激励一物理网络所形成。也就是说对于随机信号，我们可以看成是由白噪声通过一网络所形成，如图6-3（a）所示。

白噪声的自相关函数为

由图6-3可知，的功率谱密度可表示为（6-23）

或（6-24）由于是一个最小相移系统的系统函数，故也是一个因果的最小相移系统，因此可用式（6-24）对进行白化。如图6-3（b）所示。设计维纳滤波器的过程就是求在最小条件下的最佳。我们将分解成两个串联的滤波器和，如图6-4所示。

因此，维纳滤波器的系统函数的求解转化为的求解。即（6-25）6.2.1非因果维纳滤波器的求解由图6-4可知（6-26）（6-27）对上式逐项求均值

代入原式得（6-28）可以看出，只有均方误差的第二项与有关，要使均方误差为最小，当且仅当（6-29）因此可得的最佳值为（6-30）其z变换为（6-31）

这样，非因果维纳滤波器的最佳解为（6-32）由于（6-33）所以（6-34）与前面所得结果相同。假定信号与噪声不相关，即当时，有

代入式（6-34），得（6-35）

将代入上式，得（6-36）

下面我们来推导非因果维纳滤波器的最小均方误差。由式（6-28）可得（6-37）利用帕塞伐尔（Parseval）定理可得（6-38）上式第一项是因为因而有上式第二项按帕塞伐尔定理

当时，有将式（6-33）代入式（6-38）得考虑到式（6-34），有（6-39）当信号与噪声不相关时，考虑到，可得

（6-40）去单位圆为积分围线，以代入上式得（6-41）由上式可以看出，维纳滤波器的最小均方误差即与输入信号的功率谱有关，也与噪声的功率频谱有关，仅当信号与噪声的功率谱不相覆盖时方为零。

6.2.2因果维纳滤波器的求解对于因果维纳滤波器，要求于是有(6-42)均方误差为（6-43）要使均方误差最小，必须有（6-44）

令

有（6-45）又由式（6-33）得到（6-46）所以（6-47）因果维纳滤波器的最小均方误差为利用帕塞伐尔定理，可得（6-48）

比较式（6-39）和式（6-48）因果维纳滤波器的最小均方误差和非因果维纳滤波的最小均方误差具有相同的形式，但二者的计算的表达式是不同的。例6-1已知，为希望得到的信号，为白噪声，且

求。解：由于噪声与信号不相关，得到，所以有

又因为，考虑到为因果稳定的系统，由单位圆内的零极点组成，由单位圆外的零极点组成，比较上两式得

1.因果情况

由于，得

令

的极点为0.8和2，考虑到因果性和稳定性，的收敛域必包含单位圆，取积分围线C为单位圆，因C内极点为0.8，根据留数定理，得所以利用式（6-48），考虑到，得

取单位圆为积分围线，上式等于单位圆内的极点的留数之和，即

滤波前的均方误差为

所以，通过维纳滤波器后均方误差下降了8/3倍。2.非因果情况令

取单位圆为积分围线，极点为0.8和0.5，利用留数定理，得可见，非因果维纳滤波器的均方误差（3/8）要比因果维纳滤波器的均方误差（3/10）要小。

6.3维纳预测器维纳滤波器是用观察到的的当前和全部过去数据来估计当前值。维纳预测器是用观察到的全部过去数据来估计当前或将来的值。使估计值与真值的均方误差最小。我们知道随机信号或的任一时刻的取值都是具有偶然性的，即使已知以前它们的全部取值，也不能精确确定当前的取值，更不能确定以后某个时刻的取值。但是我们可以利用数据前后的关联性，或者利用它们的某些统计特性来估计或预测当前和以后最可能的取值。对于随机信号，我们可以从它的自相关函数了解它在任意两点间的相关的程度，当我们已知其自相关函数以及在一个点及其全部过去的取值就可以估计或预测它在将来某一点的取值。但式这种预测是利用随机信号的统计规律作为依据的，因此是不能达到精确预测的，也就是说会存在一定的预测误差。维纳预测器是以均方误差为最小作为预测最优的标准。6.3.1维纳预测器的计算公式图6-5表示一个预测器的输入输出信号，其中是希望得到的输出即，而实际得到的输出的估计值。利用前面维纳滤波器估计当前值的结果，我们很容易推广它们用于预测，得到预测器的计算公式。主要的讨论目标仍是求出——预测器的传递函数，以及——预测的均方误差。维纳滤波器与维纳预测器的差别仅仅在于，前者所希望的输出为，后者为。实际的输出前者为，后者为。因而对于预测器有 （6-49）设计维纳预测器的问题就是求条件下的或的问题。为此，令，得

即 （6-50）或 （6-51）如果我们将所希望的输出用yd表示，则维纳滤波器的，因而有

而维纳预测器的，因而有

上式的Z变换为 （6-52）及 （6-53）下面我们仍然分成二种情况：因果的和非因果的维纳预测器，分别进行讨论。(1)非因果的维纳预测器非因果的维纳预测器是物理不可实现的系统，但它指出了预测器可能得到的最好结果。借用维纳滤波器的计算公式，在这里我们可以将其写成 （6-54）对于维纳滤波器对于维纳预测器 (N步预测)最小均方误差为 （6-55）这里。将式(6-52)和式（6-53）代入（6-54）和式（6-55），得 （6-56） （6-57）(2)因果的维纳预测器借用因果的维纳滤波器的公式，在这里我们将其写成

对于维纳滤波器，对于维纳预测器，故物理可实现的维纳预测器的传递函数应为 （6-58）最小均方误差的公式为

（6-59）将式(6-57)与式(6-59)比较可见，二者具有完全相同的形式，只是它们的有所不同，非因果的应按式(6-56)计算，后者应按式(6-58)计算。

6.3.2纯预测器纯预测是在情况下对的预测。因此对纯预测器，，从而有 （6-60）对于因果系统，有 （6-61）及

根据帕塞伐尔定理

取得

设是B(z)的逆Z变换，利用上式，得 （6-62）上式说明最小均方误差将随着N的增大而增大，即预测的距离越远，预测误差越大。

例6-2已知

求(1)使均方误差最小的 (2)最小均方误差 解：因为所以

由式(6-61)得因果的维纳预测器，应有因为

所以

对只取上式中的部分，得

再回到Z域，得所以 （6-63）预测器如图6-6所示最小均方误差为

结果说明N越大，误差越大，如果则没有误差。我们是把看成由白噪声通过产生的，而

故该信号模型可以用一个一阶差分方程来表达

即 （6-64）如图6-7所示。如图6-7所示。最佳预测就等于乘以当前的s(n)的取值，即有 （6-65）式(6-65)所示的结果，正是式(6-64)中的差分方程在条件下的解。因为按式(6-64)，有

又 所以 因此，式(6-65)的结果等于认为，因而仅由的惯性就能完全决定估计值。而实际上我们并没有假设时均为零。这个结果只能说明的影响就统计平均来讲等于零。实际上从式可知

的均值等于零，正说明的影响就统计平均来讲等于零。因此式(6-65)的结论具有普遍适用性，即对于任何的的纯预测问题均可适用。当，我们要估计时，只需要考虑系统的惯性而可认为，这样估计出来的结果将有最小均方误差。6.3.3一步线性预测器对于纯预测问题，有，于是一步线性预测问题是在给定过去p个样本基础上，预测当前值，则这就是一步线性预测公式，并常用下列符号表示 （6-66）式中p为阶数，，于是预测误差为 （6-67）均方预测误差为为了求得最小均方误差下的，令即 （6-68）或 （6-69）由式(6-69)可得于是

（6-70）用自相关函数表示，式(6-68)与式(6-70)变为 （6-71） （6-72）将上二式写成矩阵形式，并考虑到得 （6-73）式(6-73)就是有名的Yule-Walker方程，它是由个方程组成的，当已知，时，由(6-73)可以解得这个未知数。该方程与AR模型功率谱估计得到的方程式（5-28）是一致的，可以利用AR模型参数的求解方法求解，例如Levinson-Durbin算法。

6.4卡尔曼（Kalman）滤波器维纳滤波器与卡尔曼滤波器都解决以最小均方误差为准则的最佳线性过滤问题，但是，它们解决的方法有很大区别。维纳滤波是根据全部过去的观察数据来估计信号的当前值，它的解是以均方误差最小条件下所得到的系统的传递函数或单位样本响应的形式给出的。而卡尔曼滤波则不需要全部过去的观察数据，它只是根据前一个估计值和最近一个观察数据来估计信号的当前值。它是用状态方程和递推方法进行估计的，而它的解是以估计值(常常是状态变量的估计值)的形式给出的。从信号模型的建立来看，维纳滤波的信号模型是从信号与噪声的相关函数得到，而卡尔曼滤波的信号模型则是从状态方程和量测方程得到。为了得到卡尔曼过滤的信号模型，必须首先讨论状态方程和量测方程。

6.4.1离散状态方程及其解离散状态方程的基本形式是 （6-74）其中代表一组状态变量组成的多维状态矢量，而A，B都是矩阵，它们是由系统的拓扑结构、元件性质和数值所确定的。是激励信号。状态方程是多维一阶的差分方程。当已知初始状态，可用递推的方法得到它的解：

6-75）

其中第一项只与系统本身的特性A和初始状态有关，与激励无关，称为零输入响应；第二项只与激励和系统本身特性有关，而与初始状态无关，称为零状态响应。

令。当时，。由此可见，通过可将时的状态过渡到任何的状态。故称为过渡矩阵或转移矩阵。将代入式(6-75)，得 （6-76）这就是式(6-74)的解。当已知初始状态、激励以及A与B矩阵，即可求得。如果用表示起始点的值，则上式中的，即表明从初始状态开始递推。如果，则从开始递推，从而，有 （6-77）这里代表从状态到状态的过渡矩阵。如果，就得到一步递推公式：

由于，代入上式，得 （6-78）其中，因此式(6-78)就是式(6-74)。式(6-78)说明在k时刻的状态可以由它前一个时刻的状态来求得，即时刻以前各状态的影响都已记忆在中了。如果激励源为白噪声，即同时系统可以是时变的：，则式(6-78)可写成

为了书写方便，将变量k放在下标表示，则上式成为 （6-79）式(6-79)就是我们今后要用到的一步递推的状态方程。

6.4.2量测方程卡尔曼滤波是根据系统的量测数据(或称观察数据)，对系统的运动进行估计。所以除了状态方程以外，还需要量测方程。量测系统可以是时不变系统，也可以是时变系统。设量测数据和系统的各状态变量间作线性关系。如果用表示量测或观察到的信号矢量序列，则它与状态变量的关系可以写成 （6-80）这个包括信号的真值和噪声，其中是观察或量测时引入的误差，它是一个代表测量误差的随机向量。一般可以假定为均值为零的正态白色噪声。显然，的维数不一定与的维数相等，因为不一定能量测到所有需要的状态参数。称为量测矩阵，它是一个的矩阵(m为的维数，n为的维数)。的维数当然应该和的维数一致。

总上，我们观察或量测到的信号中包括信号真值与噪声，即 （6-81）实际上式(6-81)与维纳滤波中公式

在概念上是一回事，式(6-81)中的信号真值是一个多维矢量，它是状态变量各分量的线性组合： （6-82）并且把观察到的中的噪声分量看作测量误差。在维纳滤波中我们希望看到的估计值与真值有最小均方误差。在卡尔曼滤波中我们希望得到的估计矢量与有最小均方误差。有了也就得到了。这里信号所以要表示为状态变量的线性组合，是因为把待求的量表示为状态方程中的状态变量的线性组合有很多优点。由于状态方程是一个一阶多维的方程，可以用一步递推法求解，并且变量可以是多维的。卡尔曼滤波相对于维纳滤波计算上的很多优点，正是由于它利用了状态方程得到的。由以上的讨论可见，我们对所谓量测方程的概念也并不陌生。于是，对于卡尔曼滤波为什么要用量测方程与状态方程作为基础也不难理解。

此时卡尔曼滤波的量测方程与维纳滤波的信号方程完全相同，只是在符号表示上有所不同。实际上，卡尔曼滤波公式中的就是维纳滤波公式中的，它们都代表观察到的数据。

由量测方程与状态方程，即式(6-79)与(6-80)，可以得到卡尔曼滤波在多维时的信号模型如图6-8(a)所示；图6-8(b)表示一维时的信号模型。在图(b)中已将图(a)中的虚线框用传递函数A(z)表示。图(a)中的双线箭头代表多维矢量的传输方向。例6-3仍沿用前面维纳滤波中的例子，设，已知

求卡尔曼信号模型中的与。解：因为所以

即 变换到时域： 所以又，因为，所以。

6.4.3卡尔曼滤波器的递推算法卡尔曼滤波要解决的问题是要寻找在最小均方误差下的估计值。它的特点是可以用递推方法计算。具体地讲，设已知动态系统的状态方程和量测方程，它们分别为 （6-83） （6-84）式中：--维矩阵；--维矩阵，称为量测矩阵；---维状态向量；--维观测向量；--维均值为零的白噪声向量，过程噪声；--维均值为零的白噪声向量，量测噪声。假定：（1）与都是均值为零的正态白噪声，且与互不相关，即这里；--对称非负定阵--对称正定阵（2）初始状态为随机向量，它与、独立，其统计特性是给定的从状态方程及量测方程可知与是已知的，是测量到的数据，当然也是已知的。问题是如何从及来求得。如果没有与，则从式(6-83)及式(6-84)可以立即求得，也就不存在估计的问题。估计问题的出现正是因为信号与噪声迭加在一起，而要估计其中信号的真值。如果暂时不考虑与，此时按式(6-81)与(6-82)得到的与分别用与表示，则有 （6-85） （6-86）这里，为的估计值。我们是可以测量(或观察)到“实际观察值”，再将与的实际观察值作比较，它们的差用表示，有 （6-87）偏离而产生，显然是由于忽略了与所引起。也就是说，隐含了与的信息，或者说隐含了当前的(最新的)观察值的信息。如果我们将乘以某一

来修正原先的值，会得到更好地估计 （6-88）上式中的变量是多维的，因此，与真值的均方误差是一个误差方阵。如果我们能求得这个误差阵最小条件下的

，然后将此代入式(6-88)，则所得到的就是对的线性最优估计。现在来求均方误差阵最小条件下的

。用Pk表示均方误差阵，则有(见第一章)： （6-89）并令 （6-90）式(6-89)中， （6-91）假设都是均值为零的正态白噪声，且都是均值为零的正态白噪声，且互不相关，即 （6-92） （6-93）这里

在下面的推导中并设初始状态与均不相关。上面这些假设是符合一般实际情况的。为了求得Pk作为Hk的函数，先让我们求及。将式(6-83)与(6-84)代入式(6-88)，得 （6-94） （6-95）将式(6-95)以及前面这些假设式(6-90)，(6-91))代入式(6-89)，得均方误差阵Pk为

（6-96）在这九项中

又由于①互不相关，即

因此式(6-96)中第八项与第九项均为零。②按式(6-75)，得

由此可见，而与不相关，故有

按式(6-94)，得

由此可见，，而与及不相关，故有

因此式(6-96)中的第三项、第四项、第六项与第七项均为零。综上，式(6-96)中只有第一项，第二项和第五项不为零，即 （6-97）又因 （6-98） 由此可见，，而与及不相关，故有

因此式(6-96)中的第三项、第四项、第六项与第七项均为零。综上，式(6-96)中只有第一项，第二项和第五项不为零，即 （6-97）又因 （6-98） 把代入式(6-96)，得 （6-99）由于是正定阵，可写成

令 又由于 所以 于是 （6-100）

上式第二项与第三项均与Hk无关，而第一项为半正定矩阵，因此使Pk最小的Hk应满足条件：

即 （6-101）将式(6-101)代入式(6-100)，得最小均方误差阵为 （6-102）将式(6-101)代入式(6-88)，即可得均方误差阵最小条件下的的递推公式。综上所述，我们得到下列一组卡尔曼一步递推公式： （6-103） （6-104） （6-105） （6-106）由式(6-103)可见，当我们已知Hk，利用前一个的估计值与当前的量测值，就可以求得。如果Hk是按式(6-104)计算的，即满足最小均方误差阵的Hk，则将此Hk代入式(6-103)，就得到我们所要求的在最小均方误差阵条件下的。如果初始状态的系统特性已知，并令

又 将P0代入式(6-105)可求得，将代入式(6-104)可求得H1，将此H1代入式(6-103)可求得在最小均方误差条件下的，同时将代入式(6-106)又可求得P1；由P1又可求得，由又可求得H2，由H2又可求得，同时由H2与又可求得P2……；以此类推，这