随机信号的统计最优滤波技术

2023/8/18大连理工大学1第11章随机信号的统计最优滤波技术大连理工大学硕士研究生校管课程信号处理与数据分析电子信息与电气工程学部2023/8/18大连理工大学1

内容概要§11.1引言§11.2维纳滤波器的基本原理与方法§11.3维纳预测器（略）§11.4卡尔曼滤波器简介（略）§11.5统计最优滤波技术的应用举例2023/8/18大连理工大学2§11.1

引言2023/8/18大连理工大学311.1.1经典滤波器与统计最优滤波器信号滤波（filtering）根据输入信号x(t)在当前时刻和以前时刻的状态估计信号预测（prediction）根据输入信号x(t)在当前时刻和以前时刻的状态来估计其在未来某个时刻的状态。信号平滑（smoothing）或插值（interpolation）滤波器根据x(t)在t时刻以外的数据估计出x(t)在t时刻的数据。2023/8/18大连理工大学4滤波器的概念所谓滤波器实际上是一个信号处理的系统，可由模拟电路、数字电路或计算机程序等软硬件构成，其功能是允许某一部分频率的信号通过，而另一部分频率的信号则受到较大的衰减和抑制，从而达到抑制噪声提取信号的目的。滤波器的大致分类：模拟滤波器和数字滤波器；低通、高通、带通、带阻和全通滤波器；有源滤波器和无源滤波器；时变滤波器和时不变滤波器；线性滤波器和非线性滤波器。2023/8/18大连理工大学52023/8/18大连理工大学6经典滤波器和现代滤波器经典滤波器一般假定输入信号x(n)中的有用成分和希望去除的成分各自占有不同的频段；如果有用信号与噪声干扰等无用成分的频谱相互重叠时，经典滤波器就无能为力现代滤波器（统计最优滤波器）不依靠信号与噪声的频率差别来进行噪声拟制和信号提取；依据某些统计最优准则，从带噪声的观测信号中对与有用信号或信号的参数进行估计；维纳滤波器、卡尔曼滤波器、线性预测器和自适应滤波器等11.1.2两种主要的统计最优滤波器（1）维纳滤波器的概念是一类线性最优滤波器的统称；目的是从噪声中提取有用信号。根据滤波器输出信号与期望信号只差的均方值最小的最小均方误差准则，求得最优线性滤波器的系数2023/8/18大连理工大学72023/8/18大连理工大学8附：维纳生平简介诺伯特·维纳(NorbertWiener，1894-1964)是美国数学家，控制论的创始人。维纳1894年11月26日生于密苏里州的哥伦比亚，1964年3月18日卒于斯德哥尔摩。维纳在其70年的科学生涯中，先后涉足哲学、数学、物理学和工程学，最后转向生物学，在各个领域中都取得了丰硕成果，称得上是恩格斯颂扬过的、本世纪多才多艺和学识渊博的科学巨人。他一生发表论文240多篇，著作14本。他的主要著作有《控制论》(1948)、《维纳选集》(1964)和《维纳数学论文集》(1980)。维纳还有两本自传《昔日神童》和《我是一个数学家》。

2023/8/18大连理工大学9附：维纳生平简介（续）维纳是著名的神童。三岁半开始读书，生物学和天文学的初级科学读物就成了他在科学方面的启蒙书籍。七岁时，开始深入物理学和生物学的领域，甚至超出了他父亲的知识范围。1903年（9岁），他开始上学；1906年（12岁），高中毕业，同年9月入读塔夫斯学院修读数学；1909年（15岁）时他已取得学士学位，入读哈佛大学研究动物学。一年后他往康乃尔大学转读哲学。1912年，18岁的他取得哈佛大学数理逻辑的博士学位。2023/8/18大连理工大学10附：维纳生平简介（续2）维纳的主要成就：建立维纳测度；引进巴拿赫—维纳空间；阐述位势理论；发展调和分析；发现维纳—霍普夫方法；提出维纳滤波理论；开创维纳信息论；创立控制论2023/8/18大连理工大学11（2）卡尔曼滤波器的概念是一种以卡尔曼的名字命名的用于

线性时变系统的递归滤波器。将过去的测量估计误差合并到新的

测量误差中来估计将来的误差，可

以用包含正交状态变量的微分方程来描述。卡尔曼滤波器的首次实现是由施密特（Schmidt）完成的。卡尔曼在美国航空航天（NASA）研究中心访问时，发现卡尔曼滤波器对于解决阿波罗计划的轨道预测很有意义，并且后来在阿波罗飞船的导航电脑中实现上使用了这种滤波器。2023/8/18大连理工大学12附：卡尔曼生平简介鲁道夫·卡尔曼（RudolfEmilKalman）匈牙利裔美国数学家，1930年出生于匈牙利首都布达佩斯。1953年于麻省理工学院获得电机工程学士，翌年硕士学位。1957年于哥伦比亚大学获得博士学位。1964年至1971年任职斯坦福大学。1971年至1992年任佛罗里达大学数学系统理论中心（CenterforMathematicalSystemTheory）主任。1972起任瑞士苏黎世联邦理工学院数学系统理论中心主任直至退休。先居住于苏黎世和佛罗里达。2009年获美国国家科学奖章。

§11.2维纳滤波器的基本原理与方法2023/8/18大连理工大学132023/8/18大连理工大学14维纳滤波的基本思路设计维纳滤波器的过程，即是在最小均方误差准则下，寻求滤波器的单位脉冲响应，或系统传递函数。11.2.1因果维纳滤波器设线性离散系统的单位脉冲响应为h(n)，若h(n)是因果的,其输入信号x(n)是有用信号s(n)与观测噪声v(n)的线性组合维纳滤波器的任务是使输出y(n)是s(n)的估计。若h(n)是因果的，则输出的可以看作是由当前时刻的观测值与过去时刻的观测值x(n-1),x(n-2),…,的线性组合来估计的。2023/8/18大连理工大学152023/8/1816因果维纳滤波器（续）误差函数的最小均方误差准则表示为：

为了使均方误差达到最小，对上式相对于各h(m),m=0,1,…求偏导，并令导数为0，有用相关函数表示上式，则得到维纳-霍夫方程的离散形式大连理工大学2023/8/18大连理工大学17因果维纳滤波器（续）从维纳-霍夫方程中解出系统单位脉冲响应h(n)，这就是最小均方误差意义上的最优，并得到最小均方误差为11.2.2维纳—霍夫方程的求解（1）有限脉冲响应求解法设h(n)的序列长度为N，则求导，并令导数为0，有2023/8/18大连理工大学182023/8/18大连理工大学19整理，有由上式可以写出N个线性方程为（11.16）2023/8/18大连理工大学20写为矩阵形式，有或式中为待求维纳滤波器的单位脉冲响应。信号的自相关矩阵2023/8/18大连理工大学202023/8/18大连理工大学21信号与待估计信号的互相关矢量若自相关阵是非奇异的，则进一步求得最小均方误差为若已知自相关函数和互相关函数，则由式（11.16）或式（11.19）所示的维纳—霍夫方程就可以求解出最优系统的单位脉冲响应，从而在噪声中估计出有用信号，实现最优维纳滤波。（11.19）2023/8/18大连理工大学22实际上，维纳—霍夫方程的求解，可以采用类似于AR模型参数估计的方法（例如Levinson-Durbin算法）来求解。若信号和噪声满足互不相关的条件，即若：则有：这样，且2023/8/18大连理工大学23【例11.1】设广义平稳随机信号表示为。已知信号与噪声统计独立，且，是均值为0方差为1的白噪声。试：（1）设计一个的维纳滤波器来估计有用信号。（2）求该维纳滤波器的最小均方误差。解：（1）由已知条件，有和则2023/8/18大连理工大学24【例11.1】（续）由此解得：（2）将的值代入最小均方误差表达式，有若已知的值，则可以得到的估计值。如果增加维纳滤波器的阶数，则可以改善系统的估计精度，减小均方误差。2023/8/18大连理工大学25（2）预白化求解法（略）方法关键是利用预白化滤波器将输入信号x(n)转化为白噪声过程w(n),并进一步求解维纳-霍夫方程只要求得白化滤波器，就可以实现预白化，并进一步确定对输入信号的最优估计。随机信号x(n)可以看做白噪声激励一个线性系统所产生的响应。2023/8/18大连理工大学252023/8/18大连理工大学26设该线性系统的z域系统函数为其中，表示随机信号x(n)自功率谱密度函数的z域形式；和分别对应中极点、零点在单位圆内和单位圆外的部分。由于的零点和极点均在单位圆内，是一个物理可实现的最小相位系统，1/B(z)也是一个物理可实现的最小相位系统。把x(n)作为系统的输入，w(n)作为系统的输出，从而实现输入信号x(n)的预白化处理。2023/8/18大连理工大学27

虚线框的部分记为由上图有：

2023/8/18大连理工大学28均方误差为其中表示的单位脉冲响应将代入上式，使均方误差最小，等价于令于是有2023/8/18大连理工大学292023/8/18大连理工大学302023/8/18大连理工大学31【例11.2】参见书稿2023/8/18大连理工大学32【例11.3】2023/8/18大连理工大学33关于维纳滤波的说明维纳滤波从理论上完美地解决了在最小均方误差条件下的信号最佳估计问题。但是，从实际应用角度来看，却存在不足：为了得到维纳滤波器的单位冲激响应，必须知道观测信号的自相关函数与互相关函数。自相关函数可以利用观测信号进行估计。互相关函数则需要信号的更多的信息。及时得到上述两个相关函数，求解维纳—霍夫方程仍是比较复杂的过程。2023/8/18大连理工大学33§11.3

维纳预测器2023/8/18大连理工大学3411.3.1因果维纳预测器略2023/8/18大连理工大学3511.3.2N步纯预测器略2023/8/18大连理工大学3611.3.3一步线性维纳预测器略2023/8/18大连理工大学37§11.4

卡尔曼滤波器简介2023/8/18大连理工大学382023/8/18大连理工大学39卡尔曼卡尔曼（RudolfE.Kalman），匈牙利数学家；1930年出生于匈牙利首都布达佩斯。1953，1954年于麻省理工学院分别获得电机工程学士及硕士学位。1957年于哥伦比亚大学获得博士学位；1964—1971年任职斯坦福大学。1971—1992年任佛罗里达大学数学系统理论中心主任。1972起任瑞士苏黎世联邦理工学院数学系统理论中心主任.2009年获美国国家科学奖章。卡尔曼滤波器源于他的博士论文和1960年发表的论文《ANewApproachtoLinearFilteringandPredictionProblems》2023/8/18大连理工大学3911.4.1卡尔曼滤波器的基本原理卡尔曼滤波器（Kalmanfilter）可以认为是维纳滤波器的推广；它不仅可以适用于平稳过程，而且可以适用于非平稳过程；不仅可以用于线性滤波问题，还可以用于非线性控制问题，甚至可以用于多输入-多输出系统。其基本特点是在时域内分析，并且应用状态空间分析方法。2023/8/18大连理工大学402023/8/18大连理工大学41重要的量2023/8/18大连理工大学41重要的量2023/8/18大连理工大学42状态方程与观测方程（又称输出方程）其中：为状态矢量，是被估计的量；是输入信号；是观测数据；表示时刻的状态矩阵；表示系统白噪声；表示系统噪声影响各状态的程度；表示量测矩阵；为输入矩阵；为观测噪声。

噪声和为互不相关的0均值白噪声，满足：2023/8/18大连理工大学422023/8/18大连理工大学43卡尔曼滤波的基本思路与步骤卡尔曼滤波采用递推算法；第一步：先不考虑系统噪声的影响，由时刻的状态变量估计值估计状态变量和输出信号的初步估计值：这样，初步估计输出值与实测输出值的误差为：2023/8/18大连理工大学44第二步：用第一步得到的输出信号的误差加权后校正状态变量的估计值，即按照以下卡尔曼滤波方程求得滤波结果：式中，加权矩阵（增益矩阵）为：预测误差的方差矩阵定义为：可以证明：2023/8/18大连理工大学442023/8/18大连理工大学45其中时刻的误差方差矩阵定义为而它与的关系为卡尔曼滤波的关键：是计算加权矩阵的最佳值，使状态变量估计的误差最小。只要满足：就可以实现上述目标。2023/8/18大连理工大学452023/8/18大连理工大学46计算公式：计算流程2023/8/18大连理工大学462023/8/18大连理工大学47【例】假定随机信号是由一个0均值白噪声序列激励的一阶递归系统所产生的广义马尔可夫过程，其信号模型和观测模型为：和为统计独立的白噪声序列，有试描述最佳递推的运算过程。2023/8/18大连理工大学472023/8/18大连理工大学48【解】2023/8/18大连理工大学482023/8/18大连理工大学49卡尔曼滤波器的进一步分析卡尔曼滤波器的递推可以无限进行下去，但实际问题中，可能会发生发散，原因：（1）计算机字长所引起数据舍入误差的影响；常采用双精度运算或改用均方误差阵的平方根。（2）待估计过程模型不够精确；减小旧观测值的权重，而增加信观测值的权重。（3）由系统的不可观测性引起，即指系统的状态变量有隐含的，不能依据现有数据进行估计；2023/8/18大连理工大学49§11.5

统计最优滤波技术的应用举例2023/8/18大连理工大学502023/8/18大连理工大学511.维纳滤波提取诱发电位1在人的头皮表面，可以记录到两种脑电活动，即自发脑电图（electroencephalogram，EEG）和与一定刺激相关的脑电诱发电位（evoke