自适应信号处理

2023/2/1大连理工大学12023/2/1大连理工大学1第14章自适应信号处理大连理工大学硕士研究生校管课程信号处理与数据分析电子信息与电气工程学部邱天爽2013年12月2023/2/1大连理工大学2

内容概要§14.1自适应滤波的基本概念§14.2横向自适应滤波器与最小均方算法§14.3自适应滤波器的递归最小二乘算法§14.4自适应滤波器的应用2023/2/1大连理工大学3§14.1

自适应滤波的基本概念2023/2/1大连理工大学441.自适应滤波的基本概念自适应滤波器是一种能够根据输入信号自动调整自身特性并能进行数字信号处理的数字滤波器，本质特点是具有自学习和自调整即所谓自适应的能力。2023/2/1大连理工大学52023/2/1大连理工大学5自适应滤波器的原理图图中，x(n)、y(n)和d(n)表示时刻n的输入信号、输出信号和参考信号；e(n)表示时刻n的期望信号。自适应滤波器的参数受误差信号控制，并根据e(n)的值自动调整,使之适合下一时刻n+1的输入x(n+1),使输出信号y(n+1)更加接近期望信号d(n+1)，并使误差信号e(n+1)进一步减小。2023/2/1大连理工大学62023/2/1大连理工大学6自适应滤波器的发展20世纪40年代初期，N.维纳首先应用最小均方准则设计最佳线性滤波器，用来消除噪声、预测或平滑平稳随机信号。60年代初期，R.E.卡尔曼等发展并导出处理非平稳随机信号的最佳时变线性滤波设计理论。维纳、卡尔曼等滤波器都是以预知信号和噪声的统计特征为基础，具有固定的滤波器系数。因此，仅当实际输入信号的统计特征与设计滤波器所依据的先验信息一致时，这类滤波器才是最佳的。否则，这类滤波器不能提供最佳性能。2023/2/1大连理工大学72023/2/1大连理工大学770年代中期，B.维德罗等人提出自适应滤波器及其算法，发展了最佳滤波设计理论。以最小均方误差为准则设计的自适应滤波器的系数可以由维纳-霍夫方程解得。

B.维德罗提出的一种方法，能实时求解自适应滤波器系数，其结果接近维纳－霍夫方程近似解。这种算法称为最小均方算法或简称LMS法。这一算法利用最陡下降法，由均方误差的梯度估计从现时刻滤波器系数向量迭代计算下一个时刻的系数向量。2023/2/1大连理工大学82023/2/1大连理工大学8Bernard.Widrow（维德罗）ProfessorEmeritus,ElectricalEngineeringDepartment,StanfordUniversityResearchfocuseson:adaptivesignalprocessing,adaptivecontrolsystems,adaptiveneuralnetworks,humanmemory,andhuman-likememoryforcomputers.Applicationsinclude:signalprocessing,prediction,noisecancelling,adaptivearrays,controlsystems,andpatternrecognition.

2023/2/1大连理工大学9§14.2

横向自适应滤波器与最小均方算法2023/2/1大连理工大学102023/2/1大连理工大学101.横向自适应滤波器的结构横向自适应滤波器（单输入结构）2023/2/1大连理工大学112023/2/1大连理工大学11横向自适应滤波器（多输入结构）2023/2/1大连理工大学122023/2/1大连理工大学12自适应滤波器的数学描述2023/2/1大连理工大学132023/2/1大连理工大学132023/2/1大连理工大学142023/2/1大连理工大学142023/2/1大连理工大学152023/2/1大连理工大学152.自适应滤波器的性能函数称均方误差函数为自适应滤波器的性能函数：当与为平稳随机过程时，性能函数为的二次函数，超抛物面，碗口向上，有唯一最小值。该最小值所对应的最佳权矢量对应于维纳滤波器的权矢量。2023/2/1大连理工大学162023/2/1大连理工大学16二次型性能表面的搜索目标：找出性能函数的最小值，并由此得到这个最小值所对应的最佳权矢量。方法：在数学上是利用导数求取曲线和曲面的极值问题。梯度：对于性能函数来说，需要求其梯度，再根据二次型的性质，当梯度值为0时，即对应着性能函数的最小值。

2023/2/1大连理工大学172023/2/1大连理工大学17

最佳权矢量与最小均方误差对性能函数求梯度，有令上式为0，可得：上式称为维纳—霍夫方程，与维纳滤波器有相同的形式和意义。故自适应滤波器的最佳权矢量由称为维纳权矢量。最佳权矢量需要迭代实现，或称为梯度搜索。2023/2/1大连理工大学182023/2/1大连理工大学18最小均方误差将最佳权矢量的表达式代入性能函数表达式，有进一步简化，有：2023/2/1大连理工大学192023/2/1大连理工大学193.梯度搜索常用的方法：牛顿法2023/2/1大连理工大学202023/2/1大连理工大学202023/2/1大连理工大学212023/2/1大连理工大学212023/2/1大连理工大学222023/2/1大连理工大学224.梯度搜索常用的方法：最速下降法最速下降法是一种古老而又非常有用的方法，它通过迭代寻找极值。从几何上来说，它使系统的均方误差沿其梯度反方向下降，最终达到，并使权矢量为。2023/2/1大连理工大学232023/2/1大连理工大学23最速下降法的推导梯度矢量表示为：这样，最速下降法表示为：其中，为正值，称为收敛因子或迭代步长。将性能函数在处进行一阶泰勒展开，有：表明，上式满足，随着迭代的进行，当时，性能函数趋于。2023/2/1大连理工大学242023/2/1大连理工大学24最速下降法的迭代公式最速下降法的稳定因素：收敛因子的选取；自相关矩阵的特性。收敛因子的选取条件：其中，为自相关矩阵的最大特征值。2023/2/1大连理工大学252023/2/1大连理工大学25最速下降法的优缺点优点：算法简单，易于实现；缺点：需要大量的迭代。2023/2/1大连理工大学262023/2/1大连理工大学265.自适应滤波器的最小均方（LMS）算法LMS算法的思路在最速下降法中，如果能够每一步迭代都得到准确的梯度值，且适当选择了收敛因子，则算法肯定收敛于维纳解。但是在实际应用中，梯度需要估计，权矢量要根据数据不断更新。LMS算法是一种以期望响应与滤波器输出信号之间误差均方值最小为准则的自适应滤波器。是一种梯度最速下降法，其特点是简单，不需要计算相关矩阵。2023/2/1大连理工大学272023/2/1大连理工大学27LMS算法原理两个过程：滤波过程：自适应滤波器计算其对输入的响应，并与期望比较，得到误差信号。自适应过程：系统估计误差自动调整滤波器的参数。二者构成一个反馈环。2023/2/1大连理工大学282023/2/1大连理工大学28LMS算法的推导横向滤波器结构自适应滤波器的误差信号为：其中：2023/2/1大连理工大学292023/2/1大连理工大学29LMS算法的梯度估计LMS算法的梯度估计是以误差信号的每一次迭代的瞬时平方值替代其均方值，即：经整理，有：用梯度估值代替梯度真值，有LMS算法迭代公式2023/2/1大连理工大学302023/2/1大连理工大学30LMS算法的流程图2023/2/1大连理工大学312023/2/1大连理工大学316.LMS算法的性能分析评价LMS算法的收敛性梯度估计是无偏的收敛特性：只要满足收敛条件，则LMS算法能够稳定收敛。收敛条件的变形：2023/2/1大连理工大学322023/2/1大连理工大学32最佳权矢量自适应学习曲线2023/2/1大连理工大学332023/2/1大连理工大学33稳态误差由于LMS算法的调整项为一随机过程，故当时，在附近随机波动，这样：失调系数用于测量LMS算法在均方意义上对最优解的逼近程度，定义为：2023/2/1大连理工大学342023/2/1大连理工大学347.LMS算法的改进LMS自适应滤波器的主要优点：收敛性能稳定，算法比较简单LMS自适应滤波器固有的缺点：一般来说不能从任意初始点出发通过最短的路径到达极值点；当输入信号自相关阵R的特征值在数值上分散性较大时，这种方法的性能趋于恶化，可能出现收敛缓慢甚至发散的问题。2023/2/1大连理工大学352023/2/1大连理工大学35归一化LMS算法（NLMS）为了确保对自适应滤波器的稳定收敛，出现了对收敛因子进行归一化的NLMS算法。这种算法的归一化收敛因子表示为：通常用时间平均替代统计方差，即这样，迭代算法变为：其中，为正值小常数，避免分母为0.2023/2/1大连理工大学362023/2/1大连理工大学36泄漏LMS算法对于LMS算法，若在迭代过程中收敛因子突然变为0，则权系数将不在变化，迭代不能完成。泄漏LMS算法依靠泄漏解决了这个问题：一旦收敛引自变为0，权系数的迭代仍然可以依靠泄漏进行。泄漏LMS算法的收敛条件为：2023/2/1大连理工大学372023/2/1大连理工大学37极性LMS算法其中，符号函数定义为特点：计算量小。可能引起收敛速度下降和问题误差增加。2023/2/1大连理工大学382023/2/1大连理工大学38解相关LMS算法LMS算法收敛慢的主要原因是输入信号各元素有一定的相关性。对其解相关可以改善收敛速度。定义与相关系数：，其值越大，相关性越大。自适应公式：其中：2023/2/1大连理工大学392023/2/1大连理工大学39块LMS算法有些实际问题要求自适应滤波器的阶数很高，例如在电话系统的回波抵消中，阶数达到8000阶。采用块LMS自适应算法，可以有效减小计算复杂度。块自适应算法每次处理一个数据块，滤波器的系数每块更新一次，而在每块的处理过程中保持不变。2023/2/1大连理工大学402023/2/1大连理工大学40变换域LMS算法变换域LMS自适应算法的思路是通过正交变换，改善输入信号自相关阵最大/最小特征值之比，从而改善收敛速度。2023/2/1大连理工大学41§14.3

自适应滤波器的递归最小二乘算法2023/2/1大连理工大学422023/2/1大连理工大学421.最小二乘法（略）一种典型的根据观测数据推断未知参量的数据处理方法。其基本思想是使实际观测值与计算值之间的平方乘和最小。线性组合器2023/2/1大连理工大学432023/2/1大连理工大学43线性最小二乘原理2023/2/1大连理工大学442023/2/1大连理工大学442.递归最小二乘（RLS）自适应滤波器准则：是典型的根据观测数据推断未知参量的方法；思路：是最小二乘方法的一种递归形式；使实际观测值与计算值之差的平方和最小。2023/2/1大连理工大学45LS自适应算法最小二乘自适应滤波器在其运行的每一个时刻都使系数的平方误差达到最小，其代价函数为：式中，称为遗忘因子。2023/2/1大连理工大学452023/2/1大连理工大学462023/2/1大连理工大学46由代价函数可以得到以下三个结论：代价函数E(n)是n的函数，即在迭代的每一步均发生变化，以反映新数据样本的影响；使E(n)最小的最优准则为加权最小二乘法；当时，使E(n)最小的最优准则为普通最小二乘法2023/2/1大连理工大学472023/2/1大连理工大学472023/2/1大连理工大学482023/2/1大连理工大学482023/2/1大连理工大学492023/2/1大连理工大学49递归最小二乘（RLS）算法2023/2/1大连理工大学502023/2/1大连理工大学50应用中需要注意的问题计算复杂度问题算法的初始化有效字长效应实际应用中，由于受到有效字长效应的影响，RLS算法原有的准确的数学关系受到影响，可能会导致数值不稳定。2023/2/1大连理工大学51§14.4

自适应滤波器的应用2023/2/1大连理工大学522023/2/1大连理工大学521.自适应滤波器的4种基本应用结构自适应预测结构期望信号与输入信号同源，自适应预测器根据的过去值对输入的当前值进行预测；常用于信号编码和噪声削弱中。2023/2/1大连理工大学532023/2/1大连理工大学53自适应系统辨识或建模结构宽带信号作为自适应系统和位置系统的公共输入信号。自适应过程结束时，自适应滤波器的传递函数与位置系统的相同。在控制方面广泛应用。2023/2/1大连理工大学542023/2/1大连理工大学54自适应均衡器（或逆模拟器）结构自适应滤波器试图将其传递函数模拟成位置系统传递函数的倒数（或逆），从而由一个受慢时变系统和嘉兴噪声影响的信号中恢复原始信号。广泛应用于通信、地震勘探、控制等领域。2023/2/1大连理工大学552023/2/1大连理工大学55自适应噪声抵消结构期望信号是受噪声污染的信号，而自适应滤波器的输入是与相关的噪声。自适应滤波器的输出要尽可能与逼近，使系统输出尽量逼近。2023/2/1大连理工大学562023/2/1大连理工大学562.自适应噪声的应用举例自适应噪声抵消提取胎儿心电信号2023/2/1大连理工大学572023/2/1大连理工大学57说明：胎儿心电监测具有重要意义。胎儿的心电信号淹没在母体的心电信号中。其中：为胎儿心电信号，为母体心电信号，为噪声。2023/2/1大连理工大学582023/2/1大连理工大学58采用自适应噪声抵消系统，以母体胸导得到的母亲心电信号作为参考信号，以母体腹壁信号作为原始信号输入，则可以有效消除母体心电信号对胎儿心电信号的影响，从而提取出较为纯净的胎儿心电信号。2023/2/1大连理工大学592023/2/1大连理工大学59心电图中工频干扰的抑制工频干扰一般可以采用窄带滤波（限波）器来抑制。若工频频率有漂移，则最好采用自适应噪声抵消系统来消除工频干扰。2023/2/1大连理工大学602023/2/1大连理工大学60心电图中工频干扰抑制结果2023/2/1大连理工大学612023/2/1大连理工大学61心电图中高频电刀干扰的消除2023/2/1大连理工大学622023/2/1大连理工大学62自适应谱线增强自适应谱线增强（ALE）是一种在宽带噪声中检测较弱正弦信号或窄带信号的方法。2023/2/1大连理工大学632023/2/1大连理工大学63自适应谱线增强结果左图是输入信号为单一正弦波加上白噪声；右图是噪声消除谱线增强后的结果。2023/2/1大连理工大学642023/2/1大连理工大学64自适应谱线增强