自适应滤波器课件

自适应滤波器导引IntroductionofAdaptiveFilter1h自适应滤波器导引IntroductionofAdapti内容提要最优滤波维纳滤波器卡尔曼滤波器自适应滤波自适应滤波原理最速下降法最小均方算法自适应滤波器的应用2h内容提要最优滤波2h学习要求了解（1）噪声和干扰（2）学习自适应滤波的意义掌握（1）维纳滤波的信号模型

（2）最小均方误差准则和正交原理（3）维纳－霍夫方程及其最优解的矩阵形式

（4）卡尔曼滤波的信号模型

（5）新息过程与卡尔曼递推公式

（6）自适应滤波原理

3h学习要求了解3h第一节

概述4h第一节概述4h噪声、干扰与信号随机信号或随机过程(randomprocess)是普遍存在的。噪声按功率谱密度划分可以分为白噪声（whitenoise）和色噪声（colornoise），我们把均值为零的白噪声叫纯随机信号（purerandomsignal）。任何其它随机信号都可看成是纯随机信号与确定性信号并存的混合随机信号，或简称为随机信号。5h噪声、干扰与信号随机信号或随机过程(randomproce白噪声白噪声的定义除了要求均值为零、功率谱密度为常数外，并没有对其应当服从哪种概率分布作出任何假设，常见有高斯白噪声、泊松白噪声、柯西白噪声等。根据中心极限定理，高斯白噪声是许多现实世界过程的一个很好的近似，并且能够生成数学上可以跟踪的模型。这些模型用得如此频繁，以至于加性高斯白噪声成了一个标准的缩写词：AWGN（AdditivewhiteGaussiannoise）。此外，高斯白噪声有着非常有用的统计学特性，因为高斯变量的独立性与不相关性等价。6h白噪声白噪声的定义除了要求均值为零、功率谱密度为常数外，并没白噪声白噪声的自相关函数为狄拉克δ函数：由于随机过程的功率谱密度是其自相关函数的傅里叶变换，而δ函数的傅里叶变换为常数，因此白噪声的功率谱密度是平坦的。7h白噪声白噪声的自相关函数为狄拉克δ函数：7h高斯白噪声(WhiteGaussianNoise)如果一个噪声，它的幅度分布服从高斯分布，而它的功率谱密度又是均匀分布的，则称它为高斯白噪声，如热噪声；MATLAB中的wgn函数可以生成高斯分布的随机白噪声序列，如

生成一个长度为50的实高斯白噪声列向量，功率为2dBW，y1=wgn(50,1,2)，8h高斯白噪声(WhiteGaussianNoise)如果一加性高斯白噪声

AdditivewhiteGaussiannoisexn=sin(2*pi*50*t)+randn(1,N);

randn是一种高斯分布的随机数发生函数y=awgn(x,snr)t=0:0.1:10;x=sawtooth(t);%Createsawtoothsignal.y=awgn(x,10);%AddwhiteGaussiannoise.plot(t,x,t,y)%Plotbothsignals.legend(‘Originalsignal’,‘SignalwithAWGN’);9h加性高斯白噪声

AdditivewhiteGaussia要区别干扰（interference）和噪声(noise)两种事实和两个概念。非目标信号（nonobjectivesignal）都可叫干扰。干扰可以是确定信号，如国内的50Hz工频干扰。干扰也可以是噪声，纯随机信号（白噪声）加上一个直流成分（确定性信号），就成了最简单的混合随机信号。干扰与噪声的区别10h要区别干扰（interference）和噪声(noise)两通常滤波器设计理论仅仅在频域设计一个特定频率响应的IIR和FIR滤波器，即在处理输入信号的过程中滤波器的参数是固定的；当环境发生变化时，仍然会有噪声通过滤波器。通常这类滤波器并非是适应我们需要的最优滤波器。学习自适应滤波的意义11h通常滤波器设计理论仅仅在频域设计一个特定频率响应的IIR和F自适应——系统根据当前自身的状态和环境调整自身的参数以达到预先设定的目标。自适应滤波器的系数是根据输入信号，通过自适应算法自动调整的。12h自适应——系统根据当前自身的状态和环境调整自身的参数以达到预NoiseCancelation13hNoiseCancelation13h

最优滤波估计误差定义为期望响应与滤波器输出之差。对滤波器的要求是使估计误差在某种统计意义下“尽可能小”。最优化滤波也称为维纳滤波。输入x(0),x(1),x(2),…线性离散时间滤波器H0,H1,H2,…输出y(n)+期望响应s(n){或d(n)}估计误差e(n)-+14h最优滤波估计误差定义为期望响应与滤波器输出之差。对滤波优化统计准则使某个代价函数或性能指标最小化，其中估计误差的均方值的计算简单，实际中使用最广泛使估计误差均方值最小化的准则称为最小均方误差（minimummeansquareerror,MMSE）准则滤波器的脉冲响应类型多用FIR型IIR滤波器在计算上更为简单一些FIR滤波器稳定性好。大多数应用中，更倾向于使用FIR滤波器最优滤波的滤波准则15h优化统计准则最优滤波的滤波准则15h线性最优滤波器两点约束

要使估计在统计优化准则——最小均方误差下得到最优化，对滤波器有两点约束：滤波器是线性的（一方面是为了使信号通过滤波器后不致发生“畸变”，另一方面是为了方便对滤波器的数学分析）；滤波器是离散时间的，这将使滤波器可以利用数字硬件或软件实现。由于FIR滤波器是IIR滤波器的特例，这里以IIR滤波器作为讨论对象。16h线性最优滤波器两点约束要使估计在统计优化最优化理论基础——正交原理定义代价函数为下列均方误差使代价函数最小的条件是实际上就是指，使代价函数最小化的充分必要条件是估计误差e(n)与输入信号x(0),x(1),∙∙∙,x(n)正交，这就是著名的正交原理。17h最优化理论基础——正交原理定义代价函数为下列均方误差17h维纳滤波与卡尔曼滤波的异同(1)维纳滤波和卡尔曼滤波都是解决线性滤波和预测问题的方法，并且都是以均方误差最小为准则的，在平稳条件下两者的稳态结果是一致的。(2)但是它们解决问题的方法有很大区别。(3)维纳滤波只适用于平稳随机过程，卡尔曼滤波就没有这个限制。18h维纳滤波与卡尔曼滤波的异同(1)维纳滤波和卡尔曼滤波都是解决关键词：维纳滤波19h关键词：维纳滤波19h关键词：卡尔曼滤波20h关键词：卡尔曼滤波20h关键词：自适应21h关键词：自适应21h第一节维纳滤波器

Wienerfilter

22h第一节维纳滤波器

Wienerfilter

22h简介设计维纳滤波器的过程就是寻求在最小均方误差(minimummeansquareerror,MMSE)下滤波器的单位脉冲响应或传递函数的表达式，其实质就是解维纳－霍夫（Wiener-Hopf）方程。这里只讨论因果可实现滤波器的设计。23h简介设计维纳滤波器的过程就是寻求在最小均方误差(minimu设有一个线性系统，它的单位脉冲响应是h(n)，当输入一个观测到的随机信号x(n)，简称观测值，且该信号包含噪声w(n)和有用信号s(n)，即则输出y(n)为

(1)(2)信号与系统24h设有一个线性系统，它的单位脉冲响应是h(n)，当输入一个观测我们希望滤波输出得到的信号与有用信号尽量接近，因此称y(n)为s(n)的估计值，用来表示，从而就有了维纳滤波器的系统框图，如图1。这个系统的单位脉冲响应h(n)也称为对于s(n)的一种估计器。图1维纳滤波器的输入输出关系维纳滤波器25h我们希望滤波输出得到的信号与有用信号尽量接近，因此称y(n)(3)

从图1的系统框图中估计到的信号和我们期望得到的有用信号可能不完全相同，这里用e(n)来表示真值和估计值之间的误差

e(n)显然是随机变量，维纳滤波和卡尔曼滤波的误差准则就是最小均方误差准则：维纳滤波器(4)26h(3)从图1的系统框图中估计到的信号和我们期望一、因果维纳滤波器设h(n)是物理可实现的，也即是因果序列：因此，从式(1)、(2)、(3)、(4)推导：

(5)(6)27h一、因果维纳滤波器设h(n)是物理可实现的，也即是因果序列：因此要使得均方误差最小，根据正交原理可得：即用相关函数来表达上式，则得到维纳－霍夫方程的离散形式：从维纳－霍夫方程中解出的h就是最小均方误差下的最佳(optimal)的h(n)，即hopt(n)，此时均方误差为最小：

(7)(8)(9)维纳-霍夫方程(10)28h因此要使得均方误差最小，根据正交原理可得：(7)(8)(9)二、有限冲击响应法求解维纳－霍夫方程

要得到最小均方意义下的线性最优IIR滤波器hopt(n)，现在转化为如何去求解维纳－霍夫方程的问题：设hopt(n)是一个因果序列且可以用有限长（N点长）的序列去逼近它，则维纳－霍夫方程发生变化……………(15)29h二、有限冲击响应法求解维纳－霍夫方程

要得到最小均方意义下的于是得到N个线性方程：写成矩阵形式有：维纳－霍夫方程的矩阵形式自相关矩阵互相关向量30h于是得到N个线性方程：维纳－霍夫方程的矩阵形式自相关矩阵互这样就得到维纳－霍夫方程简化矩阵形式：

(17)式中，H＝[h(0),h(1)…h(N-1)]′，是待求的单位冲击响应；维纳－霍夫方程的矩阵形式解只要Rxx是非奇异的，就可以求到H：

(18)求得hopt(n)后，这时的均方误差为最小：

(19)31h这样就得到维纳－霍夫方程简化矩阵形式：(17)式中，H＝[关于维纳滤波器的两个重要结论：（1）计算维纳滤波器最优权系数需要预知以下统计量：输入向量的自相关矩阵Rxx

输入向量与期望响应的互相关向量Rxs（2）维纳滤波器实际上是无约束优化(unconstrainedoptimization)最优滤波器问题的解32h关于维纳滤波器的两个重要结论：（1）计算维纳滤波器最优权系数

用有限长的h(n)来实现维纳滤波时，当已知观测值的自相关函数和观测值与信号的互相关函数时就可以按照式（18）在时域里求解；

但是当N比较大时，计算量很大，并且涉及到求自相关矩阵的逆矩阵问题时，时域求解已不能很好的解决问题。

新的问题：33h用有限长的h(n)来实现维纳滤波时，当已知观测值若信号s(n)与噪声w(n)互不相关，即则有解决办法之一：利用相关函数的性质34h若信号s(n)与噪声w(n)互不相关，即解决办法之一：利用则式（15）和式（19）化简为：(20)

(21)维纳－霍夫方程的简化形式35h则式（15）和式（19）化简为：(20)(21)维纳－霍例1已知x(n)=s(n)+w(n)且s(n)与w(n)统计独立，其中s(n)的自相关序列为w(n)是方差为1的白噪声，试用2阶（N=2）维纳滤波器来估计s(n)，并求最小均方误差。36h例1已知x(n)=s(n)+w(n)且s(n)与w(n)统计代入式（20）得解得：h(0)＝0.451，h(1)＝0.165。将上述结果代入式（21），求得最小均方误差：若要进一步减小误差可以适当增加维纳滤波的阶数，但相应的计算量也会增加。〖解〗依题意，已知信号的自相关和噪声的自相关函数分别为：

37h代入式（20）解得：h(0)＝0.451，h(1)＝0.1三、预白化法求解维纳－霍夫方程从上面分析知求解维纳－霍夫方程比较复杂。本节用波德（Bode）和香农（Shannon）提出的预白化法求解维纳－霍夫方程，得到系统传递函数H(z)。ClaudeShannonHendrikWadeBode38h三、预白化法求解维纳－霍夫方程从上面分析知求解维纳－霍夫方程随机信号都可以看成是由一白色噪声w1(n)激励一个物理可实现的系统或模型A(z)的响应，如图2所示。由于x(n)=s(n)+w(n)，图3在图2的基础上给出x(n)的信号模型。把这两个模型合并，最后得到维纳滤波器的信号模型，如图4所示，其中传递函数用B(z)表示。图3x(n)的信号模型图4维纳滤波器的输入信号模型信号模型图2s(n)的信号模型39h随机信号都可以看成是由一白色噪声w1(n)激励一个物理可实现令图2中输出信号s(n)的自相关函数为(22)则白噪声的自相关函数为它的z变换就等于Z变换

(23)40h令图2中输出信号s(n)的自相关函数为(22)则白噪声的同样，对图4所示的输入输出关系进行z变换得利用卷积性质还可以找到互相关函数之间的关系：两边z变换得到：(24)

(25)41h同样，对图4所示的输入输出关系进行z变换得(24)(25)

如果已知观测信号的自相关函数，（1）首先求它的z变换，（2）然后找到该函数的成对零点、极点，（3）取其中在单位圆内的那一半零点、极点构成B(z)，另外在单位圆外的零、极点构成B(z-1)。

这样就保证了B(z)是因果的，并且是最小相位系统。零极点分布与最小相位系统P.S.最小相位系统：零极点都在z平面单位圆内的因果系统称为最小相位系统。在具有相同幅频特性的同阶系统中，最小相位系统具有最小的延时。42h如果已知观测信号的自相关函数，零极点分布与最小相位系统P.

从图4可得

由于系统函数B(z)的零点和极点都在单位圆内，即是一个物理可实现的最小相位系统，则也是一个物理可实现的最小相移网络。

我们就可以利用式（26）对x(n)进行白化，即把x(n)当作输入，w1(n)当作输出，是系统传递函数。

(26)

滤波器输入信号x(n)的白化图4维纳滤波器的输入信号模型43h从图4可得(26)滤波器输入信号x(n)的(27)(a)(b)图5（a）维纳滤波问题（b）白化法求解模型白化法求解模型将图1重新给出，待求的问题就是最小均方误差下的最佳Hopt(z)，如图5(a)所示，为了便于求这个Hopt(z)，将图5(a)的滤波器分解成两个级联的滤波器：G(z)和44h(27)(a)(b)图5（a）维纳滤波问题（b）白化法求解1）对观测信号x(n)的自相关函数Rxx(m)求z变换得到Rxx(z)

；2）利用等式，找到最小相位系统B(z)；3）利用均方误差最小原则求解因果的G(z)，由于G(z)的激励源是白噪声，求解变得容易多了；4），即得到维纳－霍夫方程的系统函数解。白化法的步骤建立了上述的模型后，白化法求解维纳－霍夫方程步骤如下：45h1）对观测信号x(n)的自相关函数Rxx(m)求z变换得到下面我们分析步骤3求解因果的G(z)的过程。(28)按白化法求解模型有:均方误差为：由于

，代入上式，并且进行配方得：46h下面我们分析步骤3求解因果的G(z)的过程。(28)按白化均方误差最小也就是上式的中间一项最小，所以(30)注意，这里的g(m)是因果的。对该式求z变换，得到(31)表示对求单边z变换。维纳－霍夫方程的系统函数解由式（25）上式可以表示为(25)47h均方误差最小也就是上式的中间一项最小，所以(30)注意，这所以维纳-霍夫方程的系统函数解表示为：因果的维纳滤波器的最小均方误差为：

(33)利用帕塞伐尔(Parseval)定理，上式可用z域来表示：(34)*围线积分可以取单位圆。

(32)48h所以维纳-霍夫方程的系统函数解表示为：因果的维纳滤波器的最小【例2】已知图1中，且s(n)、w(n)统计独立，其中s(n)的自相关序列为是方差为1的单位白噪声，试设计一个物理可实现的维纳滤波器来估计，并求最小均方误差。，。，49h【例2】已知图1中步骤1：求z变换〖解〗依题意，已知50h步骤1：求z变换〖解〗依题意，已知50h步骤2：由于容易找到最小相位系统和白噪声方差51h步骤2：由于容易找到最小相位系统和白噪声方差51h步骤3：对括号里面求反变换，注意括号内的收敛域为取因果部分，也就是第一项，所以52h步骤3：对括号里面求反变换，注意括号内的收敛域为取因果部分，步骤4：最小均方误差为取单位圆为积分围线，有两个单位圆内的极点：0.8和0.5，求它们的留数和，所以53h步骤4：最小均方误差为取单位圆为积分围线，有两个单位圆内的第二节维纳滤波器的应用

ApplicationofWienerFilter

54h第二节维纳滤波器的应用

ApplicationofW诱发电位中的P300分量是受试者辨认靶刺激时，在头顶中缝区域内诱发出的300ms左右潜伏期的正向电位，它反映脑功能状态，尤其与认知心理过程关系密切。诱发电位(Evokedpotentials，EP)55h诱发电位中的P300分量是受试者辨认靶刺激时，在头顶中缝区域自1965年Sutton首次报告P300电位以来，引起了国内外学者的极大关注，P300作为反映认知功能的内源性成分已广泛用于神经科学、神经医学和认知心理学等方面的研究。56h自1965年Sutton首次报告P300电位以来诱发电位（EP）提取

作为一种EP，P300经常被淹没在很强的背景噪声中，如眼电、肌电、自发脑电等，所以它的提取有一定难度。已有很多方法用于提高EP的信噪比,它们可进一步用于从背景噪声中提取P300。基本的方法有两种：平均和滤波。前者包括相干平均、加权平均等，它们的主要特点是信噪比的提高与刺激次数的平方根成正比，但过多的刺激次数易导致神经疲劳，损失EP的动态变化及细节信息。57h诱发电位（EP）提取57h维纳滤波而滤波技术是抑制噪声，提高信噪比，降低刺激次数的有效方法。将维纳滤波应用于EP的提取：一定数量刺激平均后的EP作为已知信号s，不包括在求平均的刺激中的一次EP作为输入信号x，设计维纳滤波器输出逼近已知信号s：58h维纳滤波而滤波技术是抑制噪声，提高信噪比，降低刺激次数的有效与ICA结合考虑到维纳滤波器本身不能够有效处理EP与噪声在频域上的相叠成分，独立分量分析(Independentcomponentanalysis,ICA)是近年来发展起来的一种多道信号处理方法，它将多道观察信号按照统计独立的原则通过优化算法分解为若干独立成分，并可去除伪迹噪声，实现信号的增强和分析。研究表明，由头皮记录到的EP基本满足线性混合ICA模型，主要成分间相互独立。59h与ICA结合考虑到维纳滤波器本身不能够有效处理EP与噪声在频EP仿真信号提取结果比较60hEP仿真信号提取结果比较60h维纳滤波和FastICA结合提取P300整个提取过程的算法实现如下:(1)由一次刺激的P300及不包括此次刺激的少量其他P300平均值构造维纳滤波器，对所有参与提取的少量P300重复上述过程，并将滤波后的结果进行叠加平均，得到新的P300。(2)利用FastICA进行伪迹噪声与原始P300的分离。参考文献：李晓欧,张笑微,冯焕清.基于维纳滤波和快速独立分量分析的P300提取方法[J].数据采集与处理,2004,19(3):317-32261h维纳滤波和FastICA结合提取P300整个提取过程的算法实P300提取结果比较62hP300提取结果比较62h频谱比较Fz，Cz和Pz导联150次相干平均与17次刺激提取结果的频谱比较结论：将维纳滤波与FastICA结合，取得了较好的EP提取效果，同时由较少的刺激次数就可获得易于辨识和测量的P300，避免了过多刺激导致的神经疲劳及波形失真，是诱发电位少次提取的一种有效方法。63h频谱比较Fz，Cz和Pz导联150次相干平均与结论：将维纳滤第三节卡尔曼滤波

KalmanFiltering64h第三节卡尔曼滤波

KalmanFiltering64h维纳滤波器的局限计算维纳滤波器最优权系数需要预知以下统计量：（1）输入向量的自相关矩阵Rxx；（2）输入向量与期望响应的互相关向量Rxs；

若期望相应s(n)未知，则无法进行线性最优滤波。实时信号处理时，每到一个新的样本，维纳滤波器需使用以往所有数据重新计算全部自相关和互相关项，计算量很大。65h维纳滤波器的局限计算维纳滤波器最优权系数需要预知以下统计量：背景介绍：Kalman，匈牙利数学家。

卡尔曼滤波器源于他的博士论文和1960年发表的论文《ANewApproachtoLinearFilteringandPredictionProblems》（线性滤波与预测问题的新方法）。66h背景介绍：66h卡尔曼滤波器是维纳滤波理论的发展，具有如下特点：用状态空间概念描述：卡尔曼提出的递推最优估计理论，采用状态空间信号模型；递推计算维纳解：在算法采用递推形式，卡尔曼滤波能处理多维和非平稳的随机过程。卡尔曼滤波理论的提出，克服了维纳滤波理论的局限性，使其在工程上得到了广泛的应用，尤其在控制、制导、导航、通讯等现代工程方面。卡尔曼滤波67h卡尔曼滤波器是维纳滤波理论的发展，具有如下特点：卡尔曼滤波6前面分析了期望响应s(n)存在的情况下的线性最优滤波器，得到了Wiener滤波器。一个自然的问题是：若期望响应未知，又如何进行线性最优滤波呢？本节将从维纳滤波的信号模型引入到卡尔曼滤波的状态空间模型，来回答这个问题。要给出卡尔曼滤波的信号模型，先来讨论过程方程和观测方程。回顾68h前面分析了期望响应s(n)存在的情况下的线性最优滤波器，得到图11维纳滤波的信号模型图11是维纳滤波的模型，期望响应s(n)可以认为是由白噪声w1(n)激励一个线性系统A(z)的响应，即s(n)可以由以下差分方程表示则A(z)可表示为ARMA过程bj=0AR过程Wold分解定理69h图11维纳滤波的信号模型图11是维纳滤波的模型，期望响应一、状态方程和观测方程在卡尔曼滤波中，为了实现递推，假设响应和激励的时域关系可以用一阶AR过程逼近：在卡尔曼滤波中，期望响应s(n)被称为是状态变量(statevariable)，在k时刻的状态用S(k)表示，在k-1时刻的状态用S(k-1)表示。(52)70h一、状态方程和观测方程在卡尔曼滤波中，为了实现递推，假设响应激励信号w1(n)可用向量表示为W1(k)，称为过程噪声向量，激励和响应之间的关系用状态转移矩阵A(k)来表示，描述动态系统从时间n-1的状态到时间n的状态之间的转移，它应该是已知的。

有了这些假设后，我们给出状态方程：(53)上式的含义就是在k时刻的状态S(K)，可以由它的前一个时刻的状态S(k-1)来求得，即认为k-1时刻以前的各状态都已记忆在S(k-1)状态中了状态方程（stateequation）71h激励信号w1(n)可用向量表示为W1(k)，称

还是从维纳滤波的观测信号模型入手（图11的右图），观测数据和信号的关系为：

假设W2(k)是均值为零的白噪声的观测噪声向量，则观测向量X(k)与状态向量S(k)之间可表示为上式所表示的卡尔曼滤波一维信号模型和维纳滤波的信号模型是一致的。观测方程（measurementequation）72h还是从维纳滤波的观测信号模型入手（图11的右图）把式(54)推广就得到更普遍的多维观测方程(55)

上式中的C(k)称为量测矩阵，由于系统状态S(k)并不一定已知，该矩阵的意义就是：描述系统状态经过其作用，变成可观测的，要求它是已知的。假设X(k)是m×1的向量，S(k)是n×1的向量，则C(k)就是m×n的矩阵，W2(k)是m×1的向量。73h把式(54)推广就得到更普遍的多维观测方程(55)二、信号模型

有了状态方程和观测方程后，我们就能给出卡尔曼滤波的信号模型，如图12所示：图12

卡尔曼滤波的信号模型维纳滤波的信号模型74h二、信号模型

有了状态方程【例3】设卡尔曼滤波中观测方程为，已知信号的自相关函数的z变换为噪声的自相关函数为：信号和噪声统计独立。求卡尔曼滤波信号模型中的和。75h【例3】设卡尔曼滤波中观测方程为，已知信号的自相关函数的z变变换到时域得：因此又因为所以〖解〗根据等式：可以求得：76h变换到时域得：因此又因为所以〖解〗根据等式：可以卡尔曼滤波建立好了卡尔曼滤波的信号模型以及状态方程、观测方程后，要解决的问题就是要寻找在最小均方误差下信号S(k)的估计值。其基本思想是：采用信号与噪声的状态空间模型，利用前一时刻的估计值和现时刻的观测值来更新对状态变量的估计，求出现在时刻的估计值，从而寻求一套递推估计的算法。它适合于实时处理和计算机运算。77h卡尔曼滤波建立好了卡尔曼滤波的信号模型以及状态方程、观测方程一、卡尔曼滤波的一步递推法模型

把状态方程和观测方程重新给出：(56)(57)

上式中状态转移矩阵A(k)和量测矩阵C(k)是已知的，X(k)是观测到的数据，也是已知的，假设信号的上一个估计值已知，现在的问题就是如何来求当前时刻的估计值。

78h一、卡尔曼滤波的一步递推法模型

把状态方程和观测方程重新给出假设暂不考虑w1(k)与w(k)，此时得到的S(k)的估计和X(k)的估计分别用和表示，得：(58)(59)必然，观测值X(k)和估计值之间有误差，它们之间的差称为新息（innovation）：

(60)新息（innovation）一步预测79h假设暂不考虑w1(k)与w(k)，此时得到的S(

显然，新息的产生是由于我们前面忽略了W1(k)与W2(k)所引起的，也就是说新息里面包含了w1(k)与w(k)的信息成分。

因而我们用新息乘以一个修正矩阵H(k)，用它来代替式（56）的W1(k)来对S(k)进行估计：

由于H(k)是作用于新息的“增益”，因此被称为卡尔曼增益。(61)新息与状态方程80h显然，新息的产生是由于我们前面忽略了W1(k)与图13卡尔曼滤波的一步递推法信号模型一步递推法模型(59)(60)(61)预测修正预测:新息:修正:81h图13卡尔曼滤波的一步递推法信号模型一步递推法模型(二、卡尔曼滤波的递推公式

从图13容易看出，要估计出就必须要先找到最小均方误差下的修正矩阵H(k)，结合式(59)、(60)、(61)得：……….(62)新息82h二、卡尔曼滤波的递推公式从图13容易看出，

根据上式来求最小均方误差下的H(k)，然后把求到的H(k)代入式（61）则可以得到估计值

。

真值和估计值之间的误差为（计算过程略）：….(63)均方误差矩阵：τ表示对向量取共轭转置。(64)均方误差矩阵83h根据上式来求最小均方误差下的H(k)，然后把求误差计算ε(k)

为了计算均方误差矩阵ε(k)，需利用条件：W1(k)与W2(k)都是零均值的高斯白噪声，且它们互不相关，其协方差矩阵分别为S(k-1)与W1(k-1)不相关；与W1(k-1)及W2(k)不相关。84h误差计算ε(k)为了计算均方误差矩阵ε(k)为了计算方便，令状态估计的协方差矩阵找到和均方误差矩阵的关系：(65)(66)误差计算85h为了计算方便，令状态估计的协方差矩阵(65)(66)(68)把式（63）代入式（64），并且利用上述条件化简上式第一项和第二项与修正矩阵H(k)无关，第三项是半正定矩阵，86h(68)把式（63）代入式（64），并且利用上述条件化简上因此要使得均方误差最小，首先必须于是可以求得最小均方误差下的修正矩阵H(k)(69)

把上式代入递推法信号模型即可得均方误差最小条件下的

递推公式。相应的式(68)的第三项为零，得最小均方误差为：(70)87h因此要使得均方误差最小，首先必须于是可以求得最小均方误差下的综上所述，得到卡尔曼滤波的一步递推公式：(71)(72)(73)(74)卡尔曼滤波的一步递推公式如果初始状态的统计特性已知，并且令且矩阵A(k),C(k),Q(k),R(k)都是已知的，以及观测量X(k)是已知的，就能用递推法得到所有的和ε(k)。因此，应用Kalman滤波算法的关键就是，针对所研究的问题，建立相应的状态方程和观测方程。88h综上所述，得到卡尔曼滤波的一步递推公式：(71)(7将代入式（72）求得和代入式（74）求得将初始条件和代入式（73）求得；…依此类推。这样递推用计算机实现非常方便。将初始条件代入式（71）求得递推的过程89h将代入式（72）求得和代入式（74）求得将初始【例4】设卡尔曼滤波中观测方程为X(k)=S(k)+W2(k)，已知信号的自相关函数的z变换为噪声的自相关函数为信号和噪声统计独立，已知在k＝0时刻开始观测信号。试用卡尔曼滤波的公式求和，k＝0,1,2,3,4,5,6,7；以及稳态时的和。90h【例4】设卡尔曼滤波中观测方程为X(k)=S(k)+W2(〖解〗由例3的结果知把它们代入式(71)～(74)得（1）（2）

（3）（4）(5)

再把（2）和（3）联立，得到由于是一维情况，求逆把(1)代入(2)、(3)式，消去91h〖解〗由例3的结果知把它们代入式(71)～(74)得（1）初始条件为，k=0开始观测，利用等式（4）,（5）进行递推得：如果给定每个时刻的观察值就可以得到每一时刻的信号估计值，上面是递推过程，还没有达到稳态的情况。92h初始条件为，k=0开始观测，利用等式（4）,（5）进行递推得

假设到了某一时刻k-1，前后时刻的均方误差相等，也就是误差不再随着递推增加而下降，达到最小的均方误差了，即稳态情况，式(5)中的误差代入(5)式可以计算到稳态时的均方误差为即稳态时的修正矩阵代入式（4）得稳态时的信号估计：化到z域有：93h代入(5)式可以计算到稳态时的均方误差为即稳态将上述结果和维纳滤波的例题2的结果相比较：

发现当卡尔曼滤波达到稳态时，和维纳滤波的结果一致，原因就是它们两种滤波都是用的同样的估计原则：最小均方误差准则。

然而在卡尔曼滤波的过渡期间的信号估计结果和维纳滤波当然完全不同。94h将上述结果和维纳滤波的例题2的结果相比较：发现当维纳滤波与卡尔曼滤波的异同(1)维纳滤波和卡尔曼滤波都是解决线性滤波和预测问题的方法，并且都是以均方误差最小为准则的，在平稳条件下两者的稳态结果是一致的。95h维纳滤波与卡尔曼滤波的异同(1)维纳滤波和卡尔曼滤波都是解决维纳滤波与卡尔曼滤波的异同（2）但是它们解决问题的方法有很大区别：维纳滤波是根据全部过去观测值和当前观测值来估计信号的当前值，因此它的解形式是系统的传递函数或单位脉冲响应；卡尔曼滤波是用当前一个估计值和最近一个观测值来估计信号的当前值，它的解形式是状态变量值。卡尔曼滤波器的增益必须根据迭代法来确定，因此不可能像维纳滤波由一般的稳定解来求得。96h维纳滤波与卡尔曼滤波的异同（2）但是它们解决问题的方法有很大维纳滤波与卡尔曼滤波的异同（3）维纳滤波只适用于平稳随机过程，卡尔曼滤波就没有这个限制。设计维纳滤波器要求已知信号与噪声的相关函数，

设计卡尔曼滤波器要求已知状态方程和观测方程。97h维纳滤波与卡尔曼滤波的异同（3）维纳滤波只适用于平稳随机过程

目前，卡尔曼滤波器已经有很多不同的实现形式。卡尔曼最初提出的形式现在一般称为简单卡尔曼滤波器。除此以外，还有施密特扩展卡尔曼滤波器，信息滤波器以及平方根滤波器。

由于卡尔曼滤波的运算量比较大，软件实现不能满足实时性要求很高的应用，采用FPGA硬件可以实现实时卡尔曼滤波器。

卡尔曼滤波器的软硬件实现98h目前，卡尔曼滤波器已经有很多不同的实现形式。卡尔自动驾驶仪

动态定位系统

经济学

（宏观经济学，时间序列模型，

以及计量经济学）

惯性引导系统

雷达跟踪器

卫星导航系统

卡尔曼滤波器应用领域99h自动驾驶仪

动态定位系统

经济学（宏观经济学，时间序小结：卡尔曼滤波的实质是由量测值重构系统的状态向量。它以“预测—实测—修正”的顺序递推，根据系统的量测值来消除随机干扰，再现系统的状态，或根据系统的量测值从被污染的系统中恢复系统的本来面目。

100h小结：卡尔曼滤波的实质是由量测值重构系统的状态卡尔曼滤波特点：

卡尔曼滤波不需存储历史数据，就能够从一系列的不完全以及包含噪声的测量中，估计动态系统的状态。卡尔曼滤波是一种递归的估计，即只要获知上一时刻状态的估计值以及当前状态的观测值就可以计算出当前状态的估计值，因此不需要记录观测或者估计的历史信息。101h卡尔曼滤波特点：卡尔曼滤波不需存储历史数据，就能第四节自适应滤波器AdaptiveFilter102h第四节自适应滤波器AdaptiveFilter102h设计维纳滤波器时需要知道输入信号的统计特性，当信号统计特性偏离设计条件时，就不再是最优滤波器设计卡尔曼滤波器时必须知道产生输入过程的系统的状态方程和观测方程，即要求对信号和噪声的统计特性有先验知识，实际应用中往往难以预知自适应滤波可使滤波器参数自动调整达到最优状况，而在设计时，只需要很少或不需要关于信号和噪声的先验知识103h设计维纳滤波器时需要知道输入信号的统计特性，当信号统计特性偏正交性原理假设线性离散时间滤波器的输入x(n)和脉冲响应h(n)都是实数无穷序列，则输出y(n)假设滤波器输入和期望响应都已经是零均值，估计误差和误差均方值为为使均方误差最小，其梯度向量的所有元素应为零104h正交性原理假设线性离散时间滤波器的输入x(n)和脉冲响应h(将均方误差表达式代入由估计误差的定义可知代入前式有代价函数最小化应满足为了有所区别，将这个条件下的e(n)，表示为eo(n)105h将均方误差表达式代入为了有所区别，将这个条件下的e(n)，表正交原理：代价函数最小化的充分必要条件是估计误差e与输入x(0)，x(1)，x(2)，…正交对于最优滤波器有推论：最优滤波器的输出与估计误差也是正交的106h正交原理：代价函数最小化的充分必要条件是估计误差e与输入x(维纳滤波器维纳滤波器是根据信号和干扰的统计特性（自相关函数），以线性最小均方误差估计准则设计的最优滤波器设计维纳滤波器必须有输入信号统计特性的先验知识，这在实际中往往难以预知自适应滤波器用输入数据来学习所要求的统计特性，渐进收敛（均值意义上）到维纳解维纳滤波器理论非常重要107h维纳滤波器维纳滤波器是根据信号和干扰的统计特性（自相关函数）设输入信号、滤波器系数和期望输出都是实数108h设输入信号、滤波器系数和期望输出都是实数108h109h109h均方误差函数J是滤波器权系数H的二次方程，由此形成一个具有唯一最小值的多维超抛物曲面，通常称为误差性能曲面滤波器工作在最优状态，H应使J取最小值110h均方误差函数J是滤波器权系数H的二次方程，由此形成一个具有唯滤波器工作在最优状态下，有或者这就是著名的维纳－霍夫（Wiener-Hopf）方程若R是非奇异的，存在逆矩阵，则最优滤波器系数Ho为可得到代价函数最小值Jmin的表达式为111h滤波器工作在最优状态下，有111h例考虑一个二阶FIR滤波器，其抽头权系数为h0和h1，参考输入信号x(n)是方差为1的白噪声，期望信号是d(n)=b0x(n)+b1x(n-1)其中b0=0.3，b1=0.5，试绘制误差性能曲面和等均方误差MSE曲线（等高线）解：112h例考虑一个二阶FIR滤波器，其抽头权系数为h0和h1，参考输自适应算法分类维纳滤波的核心问题是求解维纳－霍夫方程，找出误差性能曲面上的最小点当信号平稳，误差性能曲面具有恒定形状。自适应滤波算法就是如何既快又稳定地从误差性能曲面上任意一点搜索到最小点随机梯度方法代价函数定义为均方误差最小二乘估计方法代价函数定义为最小加权误差平方和通常情况下，收敛速度相对较快，且对输入信号的功率谱密度不敏感，但存在计算复杂和数值稳定性不佳的问题113h自适应算法分类维纳滤波的核心问题是求解维纳－霍夫方程，找出误最速下降法利用均方误差的梯度信息来分析自适应滤波器的性能和追踪最优滤波状态。误差性能曲面上任一点的梯度向量，对应于均方误差J对滤波器系数hk的一阶导数，当前点到下一点的滤波系数的变化量恰好是梯度向量的负数。也就是说，最速下降法是在梯度向量的负方向上接连调整滤波系数，即滤波系数在误差性能曲面上以下降速度最快的路径移动，最终到达均方误差的最小点。114h最速下降法利用均方误差的梯度信息来分析自适应滤波器的性能和追按最速下降法调整滤波器权系数时，n+1时刻的系数向量w(n+1)可用递归表达式表示。其中正实常数μ称为收敛因子或步长，控制自适应速率和稳定性，μ越大则下降的速率越快根据前面的推导，有故最速下降法是一个含有反馈的模型，存在稳定性问题，可以证明算法的稳定条件是，其中的是R的最大特征值115h按最速下降法调整滤波器权系数时，n+1时刻的系数向量w(n+最小均方算法(leastmeansquare,LMS)实际应用中往往不知道输入向量的自相关矩阵R和输入向量与期望响应的互相关向量p的先验知识，因此无法计算梯度向量最小均方（LMS）算法是一种用输入向量和期望响应的瞬时值估计梯度向量的方法116h最小均方算法(leastmeansquare,LMS)对于固定的H值，梯度估计是无偏的最小均方算法的公式117h对于固定的H值，梯度估计是无偏的117h基本LMS算法步骤（1）初始化：H(0)=0;（2）由当前时刻的输入信号向量x(n)、期望响应d(n)、滤波器系数向量H(n)，计算误差信号e(n)（3）计算滤波器系数向量的更新估计值H(n+1)n增加1，返回步骤（1），直到稳态为止118h基本LMS算法步骤（1）初始化：H(0)=0;118h自适应噪声对消原始输入端用dj表示，dj=sj+n0n0是要抵消的噪声，并且与sj不相关，参考输入端用xj表示，xj=n1n1与n0相关，与sj不相关系统的输出用zj表示，zj=dj-yj假定sj，n0，n1是零均值的平稳随机过程119h自适应噪声对消119h输出信号的均方值由于sj与n0、n1不相关，sj与yj也不相关，则表示信号的功率。由上面的表达式可以看出，要是输出信号只包含有用信号，或者输出信号的均方值最小，就要求取得最小值，等价的条件就是要求取得最小值，即要求输出信号与有用信号的误差的均方值为最小。系统输出实例：lmsdemo120h输出信号的均方值由于sj与n0、n1不相关，sj与yj也不相Matlab实现N=5;%滤波器阶数w=zeros(N,1);%初始化滤波器权值u=0.0026;%步长因子y=zeros(length(t),1);fork=N:length(t)y(k)=n1(k-N+1:k)'*w;e(k)=d(k)-y(k);w=w+2*u*e(k).*n1(k-N+1:k);%更新endmatlab实例演示：lmsdemo121hMatlab实现N=5;自适应滤波器的应用自适应建模估计未知系统H(z)的模型W(z)的参数当自适应滤波器处于最优工作状态时，输出y(n)逼近所期望的响应d(n)，W(z)逼近H(z)典型应用：自校正调节器，自适应回声抵消自适应反向建模典型应用：自适应信道均衡器122h自适应滤波器的应用自适应建模122h自适应线性预测根据已知的前p次观测值来预测当前时刻的信号x(n)的估计值自适应干扰抵消使用与干扰信号相关而与有用信号不相关的信号作为参考输入，估计干扰信号，然后从信号中减去该估计，得到期望信号123h自适应线性预测123h总结：自适应滤波器完善了滤波器的理论体系，实现了对随机信号的处理；自适应滤波器的理论基础仍然是最优滤波；自适应滤波器采用了卡尔曼滤波相同的递推算法，但所需的先验知识更少。124h总结：自适应滤波器完善了滤波器的理论体系，实现了对随机信号的自适应滤波器导引IntroductionofAdaptiveFilter125h自适应滤波器导引IntroductionofAdapti内容提要最优滤波维纳滤波器卡尔曼滤波器自适应滤波自适应滤波原理最速下降法最小均方算法自适应滤波器的应用126h内容提要最优滤波2h学习要求了解（1）噪声和干扰（2）学习自适应滤波的意义掌握（1）维纳滤波的信号模型

（2）最小均方误差准则和正交原理（3）维纳－霍夫方程及其最优解的矩阵形式

（4）卡尔曼滤波的信号模型

（5）新息过程与卡尔曼递推公式

（6）自适应滤波原理

127h学习要求了解3h第一节

概述128h第一节概述4h噪声、干扰与信号随机信号或随机过程(randomprocess)是普遍存在的。噪声按功率谱密度划分可以分为白噪声（whitenoise）和色噪声（colornoise），我们把均值为零的白噪声叫纯随机信号（purerandomsignal）。任何其它随机信号都可看成是纯随机信号与确定性信号并存的混合随机信号，或简称为随机信号。129h噪声、干扰与信号随机信号或随机过程(randomproce白噪声白噪声的定义除了要求均值为零、功率谱密度为常数外，并没有对其应当服从哪种概率分布作出任何假设，常见有高斯白噪声、泊松白噪声、柯西白噪声等。根据中心极限定理，高斯白噪声是许多现实世界过程的一个很好的近似，并且能够生成数学上可以跟踪的模型。这些模型用得如此频繁，以至于加性高斯白噪声成了一个标准的缩写词：AWGN（AdditivewhiteGaussiannoise）。此外，高斯白噪声有着非常有用的统计学特性，因为高斯变量的独立性与不相关性等价。130h白噪声白噪声的定义除了要求均值为零、功率谱密度为常数外，并没白噪声白噪声的自相关函数为狄拉克δ函数：由于随机过程的功率谱密度是其自相关函数的傅里叶变换，而δ函数的傅里叶变换为常数，因此白噪声的功率谱密度是平坦的。131h白噪声白噪声的自相关函数为狄拉克δ函数：7h高斯白噪声(WhiteGaussianNoise)如果一个噪声，它的幅度分布服从高斯分布，而它的功率谱密度又是均匀分布的，则称它为高斯白噪声，如热噪声；MATLAB中的wgn函数可以生成高斯分布的随机白噪声序列，如

生成一个长度为50的实高斯白噪声列向量，功率为2dBW，y1=wgn(50,1,2)，132h高斯白噪声(WhiteGaussianNoise)如果一加性高斯白噪声

AdditivewhiteGaussiannoisexn=sin(2*pi*50*t)+randn(1,N);

randn是一种高斯分布的随机数发生函数y=awgn(x,snr)t=0:0.1:10;x=sawtooth(t);%Createsawtoothsignal.y=awgn(x,10);%AddwhiteGaussiannoise.plot(t,x,t,y)%Plotbothsignals.legend(‘Originalsignal’,‘SignalwithAWGN’);133h加性高斯白噪声

AdditivewhiteGaussia要区别干扰（interference）和噪声(noise)两种事实和两个概念。非目标信号（nonobjectivesignal）都可叫干扰。干扰可以是确定信号，如国内的50Hz工频干扰。干扰也可以是噪声，纯随机信号（白噪声）加上一个直流成分（确定性信号），就成了最简单的混合随机信号。干扰与噪声的区别134h要区别干扰（interference）和噪声(noise)两通常滤波器设计理论仅仅在频域设计一个特定频率响应的IIR和FIR滤波器，即在处理输入信号的过程中滤波器的参数是固定的；当环境发生变化时，仍然会有噪声通过滤波器。通常这类滤波器并非是适应我们需要的最优滤波器。学习自适应滤波的意义135h通常滤波器设计理论仅仅在频域设计一个特定频率响应的IIR和F自适应——系统根据当前自身的状态和环境调整自身的参数以达到预先设定的目标。自适应滤波器的系数是根据输入信号，通过自适应算法自动调整的。136h自适应——系统根据当前自身的状态和环境调整自身的参数以达到预NoiseCancelation137hNoiseCancelation13h

最优滤波估计误差定义为期望响应与滤波器输出之差。对滤波器的要求是使估计误差在某种统计意义下“尽可能小”。最优化滤波也称为维纳滤波。输入x(0),x(1),x(2),…线性离散时间滤波器H0,H1,H2,…输出y(n)+期望响应s(n){或d(n)}估计误差e(n)-+138h最优滤波估计误差定义为期望响应与滤波器输出之差。对滤波优化统计准则使某个代价函数或性能指标最小化，其中估计误差的均方值的计算简单，实际中使用最广泛使估计误差均方值最小化的准则称为最小均方误差（minimummeansquareerror,MMSE）准则滤波器的脉冲响应类型多用FIR型IIR滤波器在计算上更为简单一些FIR滤波器稳定性好。大多数应用中，更倾向于使用FIR滤波器最优滤波的滤波准则139h优化统计准则最优滤波的滤波准则15h线性最优滤波器两点约束

要使估计在统计优化准则——最小均方误差下得到最优化，对滤波器有两点约束：滤波器是线性的（一方面是为了使信号通过滤波器后不致发生“畸变”，另一方面是为了方便对滤波器的数学分析）；滤波器是离散时间的，这将使滤波器可以利用数字硬件或软件实现。由于FIR滤波器是IIR滤波器的特例，这里以IIR滤波器作为讨论对象。140h线性最优滤波器两点约束要使估计在统计优化最优化理论基础——正交原理定义代价函数为下列均方误差使代价函数最小的条件是实际上就是指，使代价函数最小化的充分必要条件是估计误差e(n)与输入信号x(0),x(1),∙∙∙,x(n)正交，这就是著名的正交原理。141h最优化理论基础——正交原理定义代价函数为下列均方误差17h维纳滤波与卡尔曼滤波的异同(1)维纳滤波和卡尔曼滤波都是解决线性滤波和预测问题的方法，并且都是以均方误差最小为准则的，在平稳条件下两者的稳态结果是一致的。(2)但是它们解决问题的方法有很大区别。(3)维纳滤波只适用于平稳随机过程，卡尔曼滤波就没有这个限制。142h维纳滤波与卡尔曼滤波的异同(1)维纳滤波和卡尔曼滤波都是解决关键词：维纳滤波143h关键词：维纳滤波19h关键词：卡尔曼滤波144h关键词：卡尔曼滤波20h关键词：自适应145h关键词：自适应21h第一节维纳滤波器

Wienerfilter

146h第一节维纳滤波器

Wienerfilter

22h简介设计维纳滤波器的过程就是寻求在最小均方误差(minimummeansquareerror,MMSE)下滤波器的单位脉冲响应或传递函数的表达式，其实质就是解维纳－霍夫（Wiener-Hopf）方程。这里只讨论因果可实现滤波器的设计。147h简介设计维纳滤波器的过程就是寻求在最小均方误差(minimu设有一个线性系统，它的单位脉冲响应是h(n)，当输入一个观测到的随机信号x(n)，简称观测值，且该信号包含噪声w(n)和有用信号s(n)，即则输出y(n)为

(1)(2)信号与系统148h设有一个线性系统，它的单位脉冲响应是h(n)，当输入一个观测我们希望滤波输出得到的信号与有用信号尽量接近，因此称y(n)为s(n)的估计值，用来表示，从而就有了维纳滤波器的系统框图，如图1。这个系统的单位脉冲响应h(n)也称为对于s(n)的一种估计器。图1维纳滤波器的输入输出关系维纳滤波器149h我们希望滤波输出得到的信号与有用信号尽量接近，因此称y(n)(3)

从图1的系统框图中估计到的信号和我们期望得到的有用信号可能不完全相同，这里用e(n)来表示真值和估计值之间的误差

e(n)显然是随机变量，维纳滤波和卡尔曼滤波的误差准则就是最小均方误差准则：维纳滤波器(4)150h(3)从图1的系统框图中估计到的信号和我们期望一、因果维纳滤波器设h(n)是物理可实现的，也即是因果序列：因此，从式(1)、(2)、(3)、(4)推导：

(5)(6)151h一、因果维纳滤波器设h(n)是物理可实现的，也即是因果序列：因此要使得均方误差最小，根据正交原理可得：即用相关函数来表达上式，则得到维纳－霍夫方程的离散形式：从维纳－霍夫方程中解出的h就是最小均方误差下的最佳(optimal)的h(n)，即hopt(n)，此时均方误差为最小：

(7)(8)(9)维纳-霍夫方程(10)152h因此要使得均方误差最小，根据正交原理可得：(7)(8)(9)二、有限冲击响应法求解维纳－霍夫方程

要得到最小均方意义下的线性最优IIR滤波器hopt(n)，现在转化为如何去求解维纳－霍夫方程的问题：设hopt(n)是一个因果序列且可以用有限长（N点长）的序列去逼近它，则维纳－霍夫方程发生变化……………(15)153h二、有限冲击响应法求解维纳－霍夫方程

要得到最小均方意义下的于是得到N个线性方程：写成矩阵形式有：维纳－霍夫方程的矩阵形式自相关矩阵互相关向量154h于是得到N个线性方程：维纳－霍夫方程的矩阵形式自相关矩阵互这样就得到维纳－霍夫方程简化矩阵形式：

(17)式中，H＝[h(0),h(1)…h(N-1)]′，是待求的单位冲击响应；维纳－霍夫方程的矩阵形式解只要Rxx是非奇异的，就可以求到H：

(18)求得hopt(n)后，这时的均方误差为最小：

(19)155h这样就得到维纳－霍夫方程简化矩阵形式：(17)式中，H＝[关于维纳滤波器的两个重要结论：（1）计算维纳滤波器最优权系数需要预知以下统计量：输入向量的自相关矩阵Rxx

输入向量与期望响应的互相关向量Rxs（2）维纳滤波器实际上是无约束优化(unconstrainedoptimization)最优滤波器问题的解156h关于维纳滤波器的两个重要结论：（1）计算维纳滤波器最优权系数

用有限长的h(n)来实现维纳滤波时，当已知观测值的自相关函数和观测值与信号的互相关函数时就可以按照式（18）在时域里求解；

但是当N比较大时，计算量很大，并且涉及到求自相关矩阵的逆矩阵问题时，时域求解已不能很好的解决问题。

新的问题：157h用有限长的h(n)来实现维纳滤波时，当已知观测值若信号s(n)与噪声w(n)互不相关，即则有解决办法之一：利用相关函数的性质158h若信号s(n)与噪声w(n)互不相关，即解决办法之一：利用则式（15）和式（19）化简为：(20)

(21)维纳－霍夫方程的简化形式159h则式（15）和式（19）化简为：(20)(21)维纳－霍例1已知x(n)=s(n)+w(n)且s(n)与w(n)统计独立，其中s(n)的自相关序列为w(n)是方差为1的白噪声，试用2阶（N=2）维纳滤波器来估计s(n)，并求最小均方误差。160h例1已知x(n)=s(n)+w(n)且s(n)与w(n)统计代入式（20）得解得：h(0)＝0.451，h(1)＝0.165。将上述结果代入式（21），求得最小均方误差：若要进一步减小误差可以适当增加维纳滤波的阶数，但相应的计算量也会增加。〖解〗依题意，已知信号的自相关和噪声的自相关函数分别为：

161h代入式（20）解得：h(0)＝0.451，h(1)＝0.1三、预白化法求解维纳－霍夫方程从上面分析知求解维纳－霍夫方程比较复杂。本节用波德（Bode）和香农（Shannon）提出的预白化法求解维纳－霍夫方程，得到系统传递函数H(z)。ClaudeShannonHendrikWadeBode162h三、预白化法求解维纳－霍夫方程从上面分析知求解维纳－霍夫方程随机信号都可以看成是由一白色噪声w1(n)激励一个物理可实现的系统或模型A(z)的响应，如图2所示。由于x(n)=s(n)+w(n)，图3在图2的基础上给出x(n)的信号模型。把这两个模型合并，最后得到维纳滤波器的信号模型，如图4所示，其中传递函数用B(z)表示。图3x(n)的信号模型图4维纳滤波器的输入信号模型信号模型图2s(n)的信号模型163h随机信号都可以看成是由一白色噪声w1(n)激励一个物理可实现令图2中输出信号s(n)的自相关函数为(22)则白噪声的自相关函数为它的z变换就等于Z变换

(23)164h令图2中输出信号s(n)的自相关函数为(22)则白噪声的同样，对图4所示的输入输出关系进行z变换得利用卷积性质还可以找到互相关函数之间的关系：两边z变换得到：(24)

(25)165h同样，对图4所示的输入输出关系进行z变换得(24)(25)

如果已知观测信号的自相关函数，（1）首先求它的z变换，（2）然后找到该函数的成对零点、极点，（3）取其中在单位圆内的那一半零点、极点构成B(z)，另外在单位圆外的零、极点构成B(z-1)。

这样就保证了B(z)是因果的，并且是最小相位系统。零极点分布与最小相位系统P.S.最小相位系统：零极点都在z平面单位圆内的因果系统称为最小相位系统。在具有相同幅频特性的同阶系统中，最小相位系统具有最小的延时。166h如果已知观测信号的自相关函数，零极点分布与最小相位系统P.

从图4可得

由于系统函数B(z)的零点和极点都在单位圆内，即是一个物理可实现的最小相位系统，则也是一个物理可实现的最小相移网络。

我们就可以利用式（26）对x(n)进行白化，即把x(n)当作输入，w1(n)当作输出，是系统传递函数。

(26)

滤波器输入信号x(n)的白化图4维纳滤波器的输入信号模型167h从图4可得(26)滤波器输入信号x(n)的(27)(a)(b)图5（a）维纳滤波问题（b）白化法求解模型白化法求解模型将图1重新给出，待求的问题就是最小均方误差下的最佳Hopt(z)，如图5(a)所示，为了便于求这个Hopt(z)，将图5(a)