基本滤波算法-维纳滤波+卡尔曼滤波+自适应滤波说课讲解

1、基本滤波算法-维纳滤波+卡尔曼滤波+自适应滤波目录3.3.第一部分：维纳滤波原理及应用蒋芮 第二部分：常规Kalman滤波原理及应用王丹第三部分：Kalman滤波处理语音信号程谦1.1.2.2. 维纳滤波理论是由数学家N维纳(Norbert Wiener, 18941964)于第二次世大战期间提出的。这一科研成果是这一时期重大科学发现之一，他提出了线性滤波的理论和线性预测的理论，对通信工程理论和应用的发展起了重要的作用。维纳滤波就是为纪念他的重要贡献而命名的。 1.维纳滤波的背景1.维纳滤波的一般结构2.维纳霍夫方程求解mmnxmhnsEneE22)()()()(0)()()()(20jnxm

2、nxmhnsEmopt)()()(0mjRmhjRxxmoptxs0j)()()()()(jnxmnxEmhjnxnsEopt0j2.维纳霍夫方程求解3.维纳滤波的应用 维纳滤波在运动观测中的应用目录3.3.第一部分：维纳滤波原理及应用蒋芮 第二部分：常规Kalman滤波原理及应用王丹第三部分：Kalman滤波处理语音信号程谦1.1.2.2. 目录3.3.引言温度问题Kalman滤波的递推原理温度问题的Matlab实现1.1.2.2.目录3.3.引言温度问题Kalman滤波的递推原理温度问题的Matlab实现1.1.2.2. 引言温度问题因此，针对任意时刻，我们可以得到这个房间的两个温度值：1

3、、根据生活经验得到的估计值（系统预测值）；2、根据温度计得出来的测量值（系统测量值）。下面我们就可以用这两个值结合他们各自的噪声来估算出房间的实际温度。但究竟实际温度是多少？是相信自己的判断还是相信温度计的测量？相信那个比较多一些呢？kalman滤波器就给我们了一种判断。引言温度问题目录3.3.引言温度问题Kalman滤波的递推原理温度问题的Matlab实现1.1.2.2. Kalman滤波的递推原理Kalman滤波的递推原理 Kalman滤波的递推原理 Kalman滤波的递推原理 Kalman滤波的递推原理 Kalman滤波的递推原理 Kalman滤波的递推原理目录3.3.引言温度问题Kal

4、man滤波的递推原理温度问题的Matlab实现1.1.2.2. 温度问题的Matlab实现温度问题的Matlab实现温度问题的Matlab实现 目录3.3.第一部分：维纳滤波原理及应用蒋芮 第二部分：常规Kalman滤波原理及应用王丹第三部分：Kalman滤波处理语音信号程谦1.1.2.2.目录3.3.背景介绍背景介绍工程实现工程实现卡尔曼和维纳滤波比较卡尔曼和维纳滤波比较1.1.2.2.目录3.3.背景介绍工程实现工程实现卡尔曼和维纳滤波比较卡尔曼和维纳滤波比较1.1.2.2.背景介绍背景介绍目的：从带噪语音信号中尽可能提取干净语音信号，提高信噪比，改善语音质量 周围环境噪声干扰 传输媒介

5、电气设备背景介绍背景介绍-语音特性语音信号是非平稳信号，但在短时间内，其频谱是稳定的。即在短时间内可以用平稳随机过程方法来分析语音信号。语音信号是随机的，可以利用许多统计分析特征进行分析。但由于语音信号非平稳、非遍历，因此长时间时域统计特性对语音增强算法的意义不大。在高斯模型的假设中，认为傅立叶展开系数是独立的高斯随机变量，均值为零，而方差是时变的。在有限帧长时这种高斯模型是一种近似的描述。背景介绍背景介绍-噪声特性噪声通常可以定义为通信、测量以及其他信号处理过程中的无用信号成分。(1)周期性噪声其特点是频谱上有许多离散的线谱，主要来源于发动机等周期运转的机械设备。(2)脉冲噪声脉冲噪声表现为

6、时域波形中突然出现的窄脉冲，主要来源于爆炸、撞击、放电及突发性干扰。(3)宽带噪声宽带噪声的来源很多，热噪声、气流噪声及各种随机噪声源，量化噪声都可视为宽带噪声。宽带噪声与语音信号在时域和频域上完全重叠，只有在无声期间，噪声分量才单独存在。对于平稳的高斯噪声，通常可以认为是高斯白噪声。而不具有白色频谱的噪声，可以进行白化处理或者采取特殊的处理方法。如本文后面介绍的建模的方法。语音信号全极点模型语音信号全极点模型(Autoregressive model，AR模型)状态空间形式：卡尔曼模型卡尔曼模型带噪语音模型语音模型的假设语音模型的假设 卡尔曼模型卡尔曼模型卡尔曼模型卡尔曼模型卡尔曼模型卡尔曼

7、模型n-1时刻对n时刻状态的预测值n时刻结合观测值对真实状态的估计预测的误差协方差矩阵滤波估计的误差协方差矩阵卡尔曼增益框架框架采样分帧采样分帧卡尔曼滤波卡尔曼滤波组组 帧帧y(n) 参数估计参数估计语音分帧语音分帧滑动窗帧内估计加窗合帧目录3.3.背景介绍背景介绍工程实现卡尔曼和维纳滤波比较卡尔曼和维纳滤波比较1.1.2.2.m1=wavread(bingyu.wav);y=m1(1:10240*20);Fs=22050; x=y+0.6*randn(1,length(y);加载语音数据Fs为采样速率，可以听到的声音频率为20HZ20kHZ。根据奈奎斯特采样定理，采样速率为原信号频谱两倍即可

8、无失真恢复但人耳分辨率有限，一般取22050，44100为CD音质。figure(1);Fs=22050; plot(1:length(y(500:900)/Fs,y(500:900),r);hold on;plot(1:length(x(500:900)/Fs,x(500:900),g);原音频信号和加噪声后的信号00.0020.0040.0060.0080.010.0120.0140.0160.0180.02-3-2-10123 原 始 信 号加 噪 声 信 号Fs=22050; %信号采样频率bits=16; %信号采样位数N=256; %帧长 m=N/2; %每帧移动的距离lenth=

9、length(x); %输入信号的长度count=floor(lenth/m)-1; %处理整个信号需要移动的帧数p=11; %AR模型的阶数音频处理相关参数w=hamming(N); %汉明窗，汉明窗点数为256F=zeros(11,11); % 转移矩阵F(1,2)=1; F(2,3)=1;F(3,4)=1; F(4,5)=1; F(5,6)=1; F(6,7)=1; F(7,8)=1; F(8,9)=1;F(9,10)=1; F(10,11)=1; 定义窗函数和转移矩阵a=zeros(1,p); H=zeros(1,p); S0=zeros(p,1); P0=zeros(p); S=ze

10、ros(p); H(11)=1; s=zeros(N,1); G=H; P=zeros(p); 矩阵初始化置零y_temp=0; y_temp=cov(x(1:7680); x_frame=zeros(256,1); x_frame1=zeros(256,1); T=zeros(lenth,1);求测试噪声方差x_frame=x(r-1)*m+1:(r+1)*m);分帧for r=1:count x_frame=zeros(256,1); x_frame1=zeros(256,1); T=zeros(lenth,1); if r=1 a,VS=lpc(x_frame(:),p); else a

11、,VS=lpc(T(r-2)*m+1:(r-2)*m+256),p); end 采用LPC模型求转移矩阵参数一个语音的采样能够用过去若干个语音采样的线性组合来逼近。通过使线性预测得到的采样在最小均方误差意义上逼近实际语音采样，可以求取唯一的预测系数。该预测系数即为线性组合中的加权系数。这种线性预测技术最早用于语音编码中，被称为LPC语音信号可以看作是一个输入序列激励一个全极点的系统模型而产生的输出。if (VS-y_temp0) VS=VS-y_temp; else VS=0.0005; end 求测试噪声方差 F(p,:)=-1*a(p+1:-1:2); 求测试噪声方差for j=1:256

12、 if(j=1) S=F*S0; Pn=F*P*F+G*VS*G; else S=F*S; %时间更新方程 Pn=F*P*F+G*VS*G; end K=Pn*H*(y_temp+H*P*H).(-1); %卡尔曼增益 P=(eye(p)-K*H)*Pn; %测量更新方程 S=S+K*x_frame(j)-H*S; T(r-1)*m+j)=H*S; end 卡尔曼模型卡尔曼模型n-1时刻对n时刻状态的预测值n时刻结合观测值对真实状态的估计预测的误差协方差矩阵滤波估计的误差协方差矩阵卡尔曼增益对得到的每帧数据加窗 ss(1:256,r)=T(r-1)*m+1:(r-1)*m+256);sss(1

13、:256,r)= ss(1:256,r).*w;end%每一帧的处理结束合帧for r=1:count if r=1 s_out(1:128)=sss(1:128,r); else if r=count s_out(r*m+1:r*m+m)=sss(129:256,r); else s_out(r-1)*m+1):(r-1)*m+m)=sss(129:256,r-1)+sss(1:128,r); endend实验结果00.0020.0040.0060.0080.010.0120.0140.0160.0180.02-0.8-0.6-0.4-0.200.20.40.60.81 原 始 信 号维 纳

14、 滤 波00.0020.0040.0060.0080.010.0120.0140.0160.0180.02-0.8-0.6-0.4-0.200.20.40.60.81 原 始 信 号卡 尔 曼 滤 波 信 号实验结果原始音频加噪音频卡尔曼滤波维纳滤波目录3.3.背景介绍背景介绍工程实现卡尔曼和维纳滤波比较1.1.2.2.维纳滤波和卡尔曼滤波都是最小均方误差意义下的最优估计。维纳滤波虽然是最小均方误差意义下的最优估计，但只能在平稳条件的约束下。卡尔曼滤波突破了经典维纳滤波方法的局限性，在非平稳状态下也可以保证最小均方误差估计。本处假设语音信号为短时平稳信号，所以维纳滤波效果优于卡尔曼滤波效果。目

15、录第四部分：扩展卡尔曼滤波（EKF)与无迹卡尔曼滤波（UKF）原理及应用宋其岩第五部分：自适应滤波算法原理及应用李宏伟4 4. .5 5. .目录3.3.第一部分：扩展卡尔曼(EKF)滤波简介第二部分：无迹卡尔曼滤波（UKF）详细讲解第三部分：工程应用实例讲解及性能对比1.1.2.2.扩展卡尔曼滤波EKF 郝晓静 无迹卡尔曼滤波算法在目标跟踪中的研究 J. 西安 2012目录3.3.第一部分：扩展卡尔曼（EKF）滤波简介第二部分：无迹卡尔曼滤波（UKF）详细讲解第三部分：工程应用实例讲解及性能对比1.1.2.2. 由于扩展Kalman滤波算法是对非线性系统的方程或者观测方程进行泰勒展开并保留其

16、一阶近似项，所以这样就会引入线性误差，下面主要介绍无迹Kalman滤波（UKF），无迹Kalman滤波不采用EKF对非线性函数进行线性化的传统做法而是采用线性滤波框架，对于一步预测方程，使用无迹变换（UnscentedTransform,UT）来处理均值和协方差的非线性传递问题。与EKF不同的是UKF算法是对非线性函数的概率密度分布进行近似，用一系列已知样本来逼近状态的后验概率密度，可见UKF没有把高阶项忽略，所以对于非线性系统UKF有效地克服了扩展Kalman滤波（EKF）滤波精度低稳定性差的缺陷。田甜 基于无迹卡尔曼滤波的电力系统动态转台估计研究 J 北京 2014无迹卡尔曼滤波（UKF）

17、 一.基本原理： UKF的滤波原理，UKF是利用无迹变化在估计点附近确定采样点，用这些样本点表示的高斯密度近似状态的概率密度函数。 1.UT变换： UT变换为：在原状态分布中按某一规则选取采样点，是这些采样点的均值和协方差等于原状态分布的均值和协方差：将这些点代入非线性函数中，相应得到非线性函数值点集，通过这些点集求取变换后的均值和协方差。这样得到的非线性变换后的均值和协方差精度至少具有2阶精度（爱找泰勒序列展开）。对于高斯分布，可达到三阶精度。其采样点的选择是基于先验均值和先验协方差矩阵的平方根的相关列实现的。黄小平 卡尔曼滤波原理及应用 北京 电子工业出版社 Merwe R, Wan E.

18、 The Square-root Unscented Filter for State and Parameter-estimationC Proc. IEEE Int. Conf. Acoustic, Speech and Signal Process Simon Haykin. Adaptive Filter Theory. International Edition 1988 从以上推导中可以看出,无迹Kalman滤波在处理非线性滤波时没有做泰勒级数展开，然后再进行n阶近似，而是采用在估计点附近进行UT变换，使获得的Sigma点集的均值和协方差与原统计特性匹配，再直接对这些Sigma点击

19、进行非线性映射，从而近似得到状态概率密度函数。这种近似实质是一种统计近似而非解，这也就是UKF未进行泰勒级数展开但也存在误差的原因。目录3.3.第一部分：扩展卡尔曼（EKF）滤波简介第二部分：无迹卡尔曼滤波（UKF）详细讲解第三部分：工程应用实例讲解及性能对比1.1.2.2. MATLAB程序目录第四部分：扩展卡尔曼滤波（EKF)与无迹卡尔曼滤波（UKF）原理及应用宋其岩第五部分：自适应滤波算法原理及应用李宏伟4 4. .5 5. .目录基本自适应滤波算法1.1.自适应滤波算法的收敛性2.2.变步长自适应滤波3 3. .解相关自适应滤波4 4. .变换域自适应滤波5 5. .目录基本自适应滤波

20、算法1.1.自适应滤波算法的收敛性2.2.变步长自适应滤波3 3. .解相关自适应滤波4 4. .变换域自适应滤波5 5. . 维纳滤波与卡尔曼滤波的不足： 参数固定，不能动态调整 要求输入平稳随机信号 需要确定信号统计参数基本自适应滤波算法 自适应滤波： 参数可变，可以根据输入信号实时调整 适用于非平稳随机信号 不需要先验统计参数 具有学习和跟踪性能基本自适应滤波算法基本自适应滤波算法x1jx2jxNjdjejyjw1w2wN10( )( ) ()Mmy nw m x nm( )( )( )e nd ny n2min ( ) ( )E e nW mLMS自适应滤波器TTjjjyX WW X矩

21、阵形式TT01112, ,MjjjNjWw wwXxxx令jjjjjjjXWdWXdydeTT101( )( ) ()MMjiijmiy nw m x nmyw x222( )() () jjjTjjJ jE eE dyE dW X定义代价函数基本自适应滤波算法min JW高西全,丁玉美. 数字信号处理-时域离散随机信号处理. 西安:西安电子科技大学出版社, 2002.使用梯度下降法寻找最优权系数：期望使用瞬时值代替时，称为瞬时梯度，为真实梯度向量的无偏估计随机梯度下降法：用梯度的无偏估计值代替准确值基本自适应滤波算法2 ()2 TjjjjjjJE XdW XE X e 2()2Tjjjjjj

22、JXdW XX e 11()2jjjWWJ1jjjjWWe X随机梯度自适应滤波的程序设计思路基本自适应滤波算法1jjjjWWe Xjjjedy00,0.0W=TjjyXW21()jjJdyNc工程背景：二维圆周运动轨迹追踪物体沿着单位圆做圆周运动，x与y方向上的观测信号中混有方差分别为0.1与0.2的噪声，假设两个方向上运动过程独立。信号模型：e_x=cos(theta); e_y=sin(theta);no_x=normrnd(0,sqrt(0.1),1,N); no_y=normrnd(0,sqrt(0.2),1,N);m_x=e_x+no_x; m_y=e_y+no_y;基本自适应滤波

23、算法的工程实现基本自适应滤波算法的工程实现0.21jjjjWWe X基本自适应滤波算法的工程实现0.1目录基本自适应滤波算法1.1.自适应滤波算法的收敛性2.2.变步长自适应滤波3 3. .解相关自适应滤波4 4. .变换域自适应滤波5 5. .LMS自适应滤波算法的收敛性222TTT2TT() 2 ( = 2jjjjjjjjjdxxxE eE dyE dE d XWW E X XWE dR WW R W22jxxdxR WR 0:j 令22=0 xxdxR WR1optxxdxWR R1()()(I) jjjjTjjjjjdxxxjxxjxxoptE WE WE e XE WE dW XXE

24、 WE RR WRE WR WHxxRQQ令1010()()()()HHjoptjoptjHoptjHjoptoptQ E WWIQ E WWIQ E WWE WWQ IQWW lim0|1| 11,2,jijIiNm ax01 /高西全,丁玉美. 数字信号处理-时域离散随机信号处理. 西安:西安电子科技大学出版社, 2002.max0.6LMS自适应滤波算法的收敛性 迭代步长对梯度下降法收敛性的影响LMS自适应滤波算法的收敛性目录基本自适应滤波算法1.1.自适应滤波算法的收敛性2.2.变步长自适应滤波3 3. .解相关自适应滤波4 4. .变换域自适应滤波5 5. .归一化LMS自适应滤波算

25、法Sigmoid函数变步长自适应滤波算法1jjjjjWWe XjTjjXX02,02(1e)jejmax0, 0李方伟,张浩. 一种新的变步长LMS自适应滤波算法及其仿真J. 重庆邮电大学学报(自然科学版),2009,(05):591-594.变步长自适应滤波算法1.2,2目录基本自适应滤波算法1.1.自适应滤波算法的收敛性2.2.变步长自适应滤波3 3. .解相关自适应滤波4 4. .变换域自适应滤波5 5. .解相关自适应滤波算法1jjjjWWZjjjjE e Xe Z1jjjZXrX111TjjTjjX XrXXjjTjjeZ X解除输入变量之间的相关性，提高LMS算法的收敛速度。A r

26、obust echo canceler for acoustic environments. IEEE Trans. Circuits and Systems, II, 1997, 44:389-398.解相关自适应滤波算法解相关自适应滤波算法目录基本自适应滤波算法1.1.自适应滤波算法的收敛性2.2.变步长自适应滤波3 3. .解相关自适应滤波4 4. .变换域自适应滤波5 5. .基于频域的自适应滤波将输入信号和期望信号分别形成N点数据块，然后做N点离散傅立叶变换，权系数每N个样点更新一次。 基于余弦变换域的自适应滤波算法余弦变换能够较好地近似理想正交变换，基于余弦变换域的LMS自适应滤波

27、算法不仅减小了输入信号的自相关程度，明显提高了收敛速度，减小了权失调噪声，而且该算法的计算量也大大减小。 基于小波变换域的自适应滤波算法对自适应滤波器的输入信号进行正交变换，利用小波的时频局部特性，将输入向量正交分解到多尺度空间 。减小了自适应滤波器输入向量自相关阵的谱动态范围，大大增加了算法的收敛步长，提高了收敛速度和稳定性。基于分数阶傅立叶域的自适应滤波算法信号在分数Fourier域上的表示同时融合了信号在时域和频域的信息，是一种时频分析工具和旋转算子。基于分数阶傅里叶变换域的自适应滤波利用前一时刻已获得的滤波器参数等结果，自动调节现时刻的滤波器参数，以适应信号和噪声未知的或随时间变化的统计特性，从而实现最优滤波。变换域自适应滤波算法齐林,周丽晓. 变换域自适应滤波算法的研究J. 郑州大学学报(理学版),2007,(01):61-66.变换域自适应滤波算法1TXTTjjTjjTTjjTjTjTjTjjjjTjTjXddYWXedYWWe X解除输入变量之间的相关性，提高LMS算法的收敛速度。2(1e)jej冯存前,张永顺. 变步长频域快速自适