第二章维纳滤波和卡尔曼滤波演示文稿

第二章维纳滤波和卡尔曼滤波演示文稿1现在是1页\一共有72页\编辑于星期四2优选第二章维纳滤波和卡尔曼滤波现在是2页\一共有72页\编辑于星期四平滑或内插：根据过去的观测值，估计过去的信号值。滤波：已知当前和过去的观测值，估计当前的信号。预测：已知过去的观测值，估计当前及以后时刻的信号值。

维纳滤波（Wiener）和卡尔曼滤波(Kalman)解决从噪声中提取信号的滤波或预测问题，并以估计的结果与真值之间的误差均方值最小作为最佳准则。

维纳滤波的思想是20世纪40年代初提出的，1949年正式以书的形式出版。卡尔曼滤波是20世纪60年代由卡尔曼提出的。现在是3页\一共有72页\编辑于星期四(1)维纳滤波根据估计信号的当前值，它的解以系统的系统函数或单位脉冲响应形式给出。这种系统常称为最佳线性滤波器。卡尔曼滤波用前一个估计值和最近一个观察数据来估计信号当前值，它用状态方程和递推的方法进行估计，它的解以估计值（常是状态变量值）形式给出。系统常称为线性最优估计器。(2)维纳滤波只适用于平稳随机过程；卡尔曼滤波适用于平稳和非平稳随机过程。(3)维纳滤波设计时要已知信号与噪声的统计分布规律。卡尔曼滤波设计时要求已知状态方程和量测方程。共同点：都解决最佳线性滤波和预测问题，都以均方误差最小为最优准则，平稳条件下它们得到的稳态结果一致。维纳滤波和卡尔曼滤波比较：不同点：现在是4页\一共有72页\编辑于星期四通信的信道均衡器在通信系统中，为了在接收端补偿信道传输引入的各种畸变，在对接收信号进行检测之前，通过一个滤波器对信道失真进行校正，这个滤波器称为信道均衡器。图2.1.3信道均衡器的结构示意来自于实际的对Wiener滤波器的几个应用实例：现在是5页\一共有72页\编辑于星期四

发送端发送序列系统辨识有一个系统是未知的，设计一个线性滤波器尽可能精确的逼近这个未知系统，Wiener滤波器实现一个统计意义上最优的对未知系统的逼近。

经信道传输后，接收端的滤波器输入信号，可能

包含畸变，加性噪声，多径效应

期望信号，

尽量确定Wiener滤波器系数，使尽可能逼近即，也就是使估计误差的均方值最小，（均方误差最小准则）现在是6页\一共有72页\编辑于星期四图2.1.4线性系统辨识的结构是Wiener滤波器的期望响应，使与间的估计误差的均方值最小。现在是7页\一共有72页\编辑于星期四最优线性预测通过一个随机信号已存在的数据来预测一个新值，这是一步前向线性预测问题。由的线性组合得到对的最优估计，相当于设计一个FIR滤波器对 进行线性运算，来估计期望响应，Wiener滤波器可以用于设计均方误差最小的最优预测器。阵列波束形成，图象编码现在是8页\一共有72页\编辑于星期四假设滤波系统是一个线性时不变系统，它的和输入信号都是复函数，设维纳滤波器设计的任务就是选择,使其输出信号与期望信号误差的均方值最小，实质是解维纳－霍夫方程。2.2维纳滤波器的离散形式－－时域解维纳滤波器时域求解的方法考虑系统的因果性，可得到滤波器的输出现在是9页\一共有72页\编辑于星期四设期望信号，误差信号及其均方误差分别为要使均方误差为最小，需满足：这里，表示，用，表示，。现在是10页\一共有72页\编辑于星期四由于是一标量，因此上式是一个标量对复函数求导的问题，等价于记则式可写为现在是11页\一共有72页\编辑于星期四得将上式展开由于现在是12页\一共有72页\编辑于星期四将如上各项代入表达式，整理得：因此等价于上式说明，均方误差达到最小值的充要条件是误差信号与任一进入估计的输入信号正交，这就是正交性原理。下面计算输出信号与误差信号的互相关函数现在是13页\一共有72页\编辑于星期四可见，在滤波器工作于最佳状态时，输出和误差信号也是正交的。假定滤波器工作于最佳状态，滤波器的输出与期望信号的误差为，则维纳-霍夫方程将展开，得整理得现在是14页\一共有72页\编辑于星期四对两边取共轭，并利用相关函数的性质,得此式称为维纳-霍夫(Wiener-Hopf)方程。解此方程可得到最优权系数，此式是Wiener滤波器的一般方程，根据权系数是有限个还是无限个可以分别设计IIR型和FIR型Wiener滤波器。FIR滤波器是一个长度为M的因果序列(即是一个长度为M的FIR滤波器)时，维纳-霍夫方程表述为把的取值代入上式，得现在是15页\一共有72页\编辑于星期四则维纳-霍夫方程可写成矩阵形式

时

时定义对上式求逆，得

时现在是16页\一共有72页\编辑于星期四

此式表明，已知期望信号与观测数据的互相关函数及观测数据的自相关函数时，可以通过矩阵求逆运算，得到维纳滤波器的最佳解。同时可以看到，直接从时域求解维纳滤波器，并不是一个有效的方法，当较大时，计算量很大，并需计算，从而要求存储量也很大。另外，具体实现时，滤波器的长度由实验确定，增加，需在新基础上重新计算。维纳-霍夫方程矩阵形式现在是17页\一共有72页\编辑于星期四2.2.3FIR型Wiener滤波器的最小均方误差

设所研究的信号是零均值的，滤波器为FIR型，长度等于M，则现在是18页\一共有72页\编辑于星期四将代入得:

现在是19页\一共有72页\编辑于星期四

经过了一个通信信道，信道的传输函数，在信道输出端加入了白噪声，通道模型如图，传输函数信道输出，假定与，与不相关，并都是实信号。在接收端设计一个长度为2的FIR结构的Wiener滤波器，目的是由恢复出。例:设期望响应是一个过程，参数，激励白噪声的方差，由白噪声驱动的产生该过程的传输函数为现在是20页\一共有72页\编辑于星期四时域求解Wiener滤波器很困难，用Z域求解。又因为实际的系统是因果的，维纳-霍夫方程有个的约束条件，所以不能直接转入Z域求解它的。这是因为输入信号与期望信号的互相关序列是一个因果序列。这里我们利用将加以白化的方法来求维纳-霍夫方程的Z域解(由波德(Bode)和香农(Shannon)首先提出的方法)。2.3离散维纳滤波的Z域解

是一个因果(物理可实现)的最小相位系统。把信号转化为白噪声的过程称为白化。白化滤波器现在是21页\一共有72页\编辑于星期四设计维纳滤波器的问题可转化为求的问题。非因果维纳滤波器的求解该信号为实信号。是的逆Z变换。现在是22页\一共有72页\编辑于星期四要使均方误差最小，当且仅当因此的最佳值为现在是23页\一共有72页\编辑于星期四两边取Z变换非因果维纳滤波器的最佳解为因为，且根据相关卷积定理，得两边取Z变换现在是24页\一共有72页\编辑于星期四代入假定信号与噪声不相关，即，有两边取Z变换，得代入表达式，得现在是25页\一共有72页\编辑于星期四代入式，非因果维纳滤波器的复频域最佳解非因果维纳滤波器的频率响应为幅频特性现在是26页\一共有72页\编辑于星期四推导滤波器的最小均方误差(信号不失真，因为没有噪声)有误差，误差是由于信号谱和噪声谱交叉造成。信噪比越小，越小噪声全部被抑制掉，因此维纳滤波器有滤除噪声的能力根据围线积分求逆Z变换的公式，得现在是27页\一共有72页\编辑于星期四同理由帕塞伐尔定理取有把，代入公式，得现在是28页\一共有72页\编辑于星期四将代入上式，得因为实信号的自相关函数是偶函数，即，因此假定信号与噪声不相关，即，则可见，维纳滤波的最小均方误差不仅与输入信号的功率谱现在是29页\一共有72页\编辑于星期四有关，而且与信号和噪声的功率谱的乘积有关。也就是说，最小均方误差与信号和噪声功率谱的重叠部分的大小有关。若维纳滤波器是一个因果滤波器，要求因果维纳滤波器的求解则滤波器输出估计误差的均方值类似于前面的推导，得现在是30页\一共有72页\编辑于星期四令又由于得要使均方误差最小，当且仅当现在是31页\一共有72页\编辑于星期四所以因果维纳滤波器的复频域最佳解为维纳滤波的最小均方误差为现在是32页\一共有72页\编辑于星期四非因果情况因果情况

由于取值不同，可说明非因果情况的一定小于等于因果情况。具体计算中，可选单位圆作为积分曲线，应用留数定理，计算积分函数在单位圆内的极点的留数来求得。现在是33页\一共有72页\编辑于星期四

因果滤波器的设计步骤：（1）根据观测信号的功率谱求出它所对应的信号模型的传输函数，即采用谱分解的方法得到。具体方法为。把单位圆内的极零点分配给，单位圆外的极零点分配给，系数分配给。（2）求的Z反变换，取其因果部分再做Z变换，即舍掉单位圆外的极点，得。（3）积分曲线取单位圆，应用和计算公式，计算和。现在是34页\一共有72页\编辑于星期四例:已知,信号和噪声不相关,即，噪声零均值，单位功率的白噪声，求和。解：根据白噪声特点得出，由信号和噪声不相关得两边取Z变换，代入已知条件，对进行功率谱分解：现在是35页\一共有72页\编辑于星期四

必须为因果稳定的系统，得分析物理可实现情况,令,现在是36页\一共有72页\编辑于星期四

的极点为0.8和2，考虑因果性，稳定性，仅取单位圆内的极点，为的Z反变换，应用留数定理，有取的因果部分现在是37页\一共有72页\编辑于星期四取单位圆为积分围线，上式等于单位圆内极点及的留数之和，即求现在是38页\一共有72页\编辑于星期四未经滤波器的均方误差（2）对于非物理可实现情况应用留数定理，有可以看出，非物理可实现情况的最小均方误差小于物理可实现情况的均方误差。现在是39页\一共有72页\编辑于星期四

已知：。P个以前时刻的观测值

估计：。当前，未来时刻的信号值。估计准则：均方误差最小。信号为什么是可以预测的？

①信号内部存在关联性。数据间关联越密切，预测愈准确；完全不关联，则无法预测。周期信号关联性强，从一个周期可完全无误地预测出以后的信号。2.4维纳预测现在是40页\一共有72页\编辑于星期四

白噪声：前后数据不相关，无法预测。平稳信号：均值为常数，自相关函数只与时间间隔有关，说明信号内部是关联的，可以预测。但预测越远时刻的信号，误差越大，因为关联性越差。

②系统具有惯性。

输入无关联信号，输出一个关联信号（非白色的信号）。表明系统是有惯性的。因此，随机信号之所以能够预测，在于信号存在某些统计上的规律，预测正是利用这些规律，因而不能做到精确预测，使预测误差等于0，但可从统计意义上做到最优。这里使预测具有有理谱密度现在是41页\一共有72页\编辑于星期四误差的均方值最小作为最优的标准。预测滤波：考虑实际获得的信号是带噪声干扰的，这时预测和滤波紧密相连，成为带滤波的预测。纯预测：不考虑噪声干扰的预测，或不带滤波的预测。维纳预测的计算

维纳滤波的最佳解为

维纳预测器，输出信号，预测误差现在是42页\一共有72页\编辑于星期四要使预测误差均方值为最小，需满足

非因果维纳预测器的最佳解为因果维纳预测器的最佳解为观测数据与期望输出的互相关函数和互功率谱密度为：现在是43页\一共有72页\编辑于星期四可见，维纳预测和维纳滤波器的求解方法是一致的。纯预测

假设，且，故，期望信号为，假定维纳预测器是因果的。维纳预测器的最小均方误差为因果纯预测器的最佳解为现在是44页\一共有72页\编辑于星期四应用帕塞伐尔定理：纯预测器的最小均方误差为取现在是45页\一共有72页\编辑于星期四

可见，随着N增加，也增加。预测距离越远，预测效果越差。例，已知，其中，求（1）最小均方误差下的；（2）。考虑是因果系统现在是46页\一共有72页\编辑于星期四解：对进行谱分解

求的Z反变换

应用Z变换的性质，得：现在是47页\一共有72页\编辑于星期四最小均方误差：它说明，N越大，误差越大。如果N＝0则没有误差。现在是48页\一共有72页\编辑于星期四又，将通过纯预测维纳滤波器，得根据的信号模型此时，可把纯预测的维纳滤波器看作一个线性比例放大器。当当当可得含义？现在是49页\一共有72页\编辑于星期四由此可见，的结果相当于认为时刻，，因而仅由的惯性就能完全决定估计值。此时从统计意义上讲，当时，白噪声信号对无影响。以上结论可推广，对于任何均值为零的，要估计 时，只需考虑的惯性，即可认为，这样估计出来的结果将有最小均方误差。现在是50页\一共有72页\编辑于星期四一步线性预测的时域解

表示一个信号的功率谱在单位圆上没有极点与信号均值等于零等价，因此对于功率谱在单位圆上没有极点的信号，要估计时，可认为，即仅需要考虑的惯性，这样估计出来的结果将有最小均方误差。一步线性预测：假设，已知，预测。终值定理时域求解利用正交原理。现在是51页\一共有72页\编辑于星期四令，则要使均方误差为最小值，要求预测误差其中系统,输出信号现在是52页\一共有72页\编辑于星期四同维纳滤波器的推导过程一样，可以得到代入可得由于预测器的输出是输入信号的线性组合，可得此式说明，误差信号与输入信号正交。此式说明，预测误差与预测的信号正交。现在是53页\一共有72页\编辑于星期四预测误差的最小均方值得联立方程组现在是54页\一共有72页\编辑于星期四写成矩阵形式除了第一个方程外，其余都是齐次方程与维纳-霍夫方程相比，不需要知道观测数据与期望信号的互相关函数。这就是著名的Yule-Walker方程。该方程组共P+1个方程，可确定和共P+1个未知数。可用Levinson-Durbin(莱文森-杜宾)递推算法求得。现在是55页\一共有72页\编辑于星期四则维纳-霍夫方程可写成矩阵形式定义现在是56页\一共有72页\编辑于星期四

是测量引入的白噪声，通过各的值估计。这类最优估计问题称为卡尔曼滤波。例如：对一个一阶AR模型，的输出状态进行估计。观测方程是2.5卡尔曼(Kalman)滤波

在信号处理，通信和现代控制系统中，需要对一个随机动态系统的状态进行估计，由一个测量装置对系统状态进行测量，通过记录的测量值对状态进行最优估计。卡尔曼滤波用前一个状态的估计值和最近一个观测数据来估计状态变量的当前值。现在是57页\一共有72页\编辑于星期四卡尔曼滤波的特点：（1）算法是递推的，时域内设计滤波器，适用于多维随机过程的估计；（2）用递推法计算，不需要知道全部过去的值。用状态方程描述状态变量的动态变化规律，因此，信号可以是平稳的，也可以是非平稳的；（3）误差准则仍为均方误差最小准则。现在是58页\一共有72页\编辑于星期四：时间，指第步迭代时，相应信号的取值假设某系统时刻的状态变量为，状态方程和量测方程（也称为输出方程），表示为卡尔曼滤波的状态方程和量测方程：第K步迭代时，状态变量与输出信号之间的增益：白噪声：第步迭代时，状态变量之间的增益矩阵，可以随时间变化（非平稳随机过程）矩阵，可随时间变化现在是59页\一共有72页\编辑于星期四图卡尔曼滤波器的信号模型其中，状态变量，表示输入信号，是白噪声观测噪声，观测数据状态方程中用代替，得状态方程和量测方程现在是60页\一共有72页\编辑于星期四为推导简化，假设A不随时间变化，都是均值为零的正态白噪声，方差分别为和。初始状态与都不相关，表示相关系数。即其中现在是61页\一共有72页\编辑于星期四

基本思想：先不考虑输入信号和观测噪声的影响，得到状态变量和输出信号（即观测数据）的估计值，再用输出信号的估计误差加权后校正状态