最优估计与滤波课件

最优估计与滤波教材-----无参考书-----1、最优估计及其应用

贾沛璋、朱征桃编著科学出版社1984年2、现代控制理论基础谢绪恺编著辽宁人民出版社1980年

3、随机信号处理与控制基础罗传翼编著化工出版社2002年4、随机信号估计与系统控制徐寿宁编著北京工业大学出版社2001年最优估计与滤波教材-----无1第一章绪论二、本课程的基本要求一、本课程的任务和意义1、首先解决系统控制的数学模型问题(参数估计)2、解决随机系统最优控制中的状态估计问题

总学时36学时，实验10学时。1、要求能够实时采集一个系统的输入输出数据，并能够利用离线和在线的算法估计系统参数。2、利用MATLAB软件进行卡尔曼滤波的仿真实验。第一章绪论二、本课程的基本要求一、本课程的任务和2一、系统控制的数学模型问题系统辨识法机理推导法优点：参数具有物理意义缺点：数学模型复杂(高阶)，在对系统机理了解不多的情况下,不适用优点：数学模型简单实用，不需要对系统机理了解缺点：参数不具有物理意义一、系统控制的数学模型问题系统辨识法机理推导法优点：参数具有3被测系统估计器等价系统uye_计算机系统辨识原理数据采集数据采集yu被测系统估计器等价系统uye_计算机系统辨识原理数据采集数据4二、随机系统最优控制中的状态估计问题1、状态可测、无随机干扰2、状态不可测、无随机干扰确定性系统的最优控制随机系统的最优控制状态不可测,有随机干扰二、随机系统最优控制中的状态估计问题1、状态可测、无随机干扰5BA∫C–R-1BTPrBuKKXu1、状态可测2、无随机干扰状态反馈1、确定性系统的最优控制(状态可测，无随机干扰）--------有限时间的二次型最优控制已知状态方程BA∫C–R-1BTPrBuKKXu1、状态可测2、无随机干6求解：性能指标边界条件固定，自由约束条件无约束时，用最小值原理1、作哈密顿函数求解：性能指标边界条件固定，自由约束条件无约束时，用最小值原72、建立极值条件由于开集所以即移项得左乘得3、建立正则方程﹛状态方程伴随方程R、B都是已知矩阵，故只要求得λ

，就可求出u*，为求λ必须解正则方程（1）（2）2、建立极值条件由于开集所以即移项得左乘得3、建立正则方程﹛8为了利用线性状态反馈的办法达到最优控制的目的，通常希望将λ表达为X的线性函数即简记为对（4）求导得代入正则方程得﹛（3）（4）（5）（6）（7）（8）（9）（10）将（4）（5）将(7)→(6)即也即(10)式就是著名的里卡提矩阵微分方程，解这个矩阵微分方程就可解出P.为了利用线性状态反馈的办法达到最优控9解里卡提矩阵微分方程必须要有边界条件,这个边界条件可由推出,由(3)式可知由于必有解出P→解出λ→解出u*,最后得4、解里卡提方程解里卡提矩阵微分方程必须要有边界条件,这个边界条件可由10BA∫C–R-1BTPrBuKu状态观测器1、状态不可测2、无随机干扰K-----状态估计值2、确定性系统的最优控制(状态不可测，无随机干扰）--------有限时间的二次型最优控制BA∫C–R-1BTPrBuKu状态观测器1、状态不可测2、11BA∫C–R-1BTPrBuKKu卡尔曼滤波器（状态估计器）1、状态不可测2、有随机干扰随机干扰3、随机系统的最优控制（状态不可测，有随机干扰）随机干扰BA∫C–R-1BTPrBuKKu卡尔曼滤波器1、状态不可测12补充随机过程简介§X-1随机过程例1阶跃响应曲线族（连续型）阶跃响应曲线的测试补充随机过程简介§X-1随机过程例13例2射击运动员训练成绩分布图（离散型）k···············k···············例2射击运动员训练成绩分布图（离散型）k······14§X-2随机过程的统计描述

由于随机过程在每一个时刻都是随机变量，所以，对于随机变量的所有描述方法也适用于随机过程。一、分布函数和概率密度函数族给定一个随机过程{X(t)，t∈T}，对于每一固定时刻t∈T，都是一个随机变量，都存在一维分布函数；对于每n个固定时刻t1,t2,…，tn∈T，都是n个随机变量，都存在

n维联合分布函数，即

如果上述分布函数是连续可微的，则可以定义随机过程{X(t)，t∈T}的一维概率密度函数和

n维联合概率密度函数，即

§X-2随机过程的统计描述15

由于上述时间t∈T和t1，t2，…，tn是任意的，故与一般的随机变量不同的是，上述函数既是随机变量取值(实值函数)的函数，也是时间的函数。对于任意有限个时刻t1，t2，…，tn∈

T，上述分布函数和概率密度函数的集合(n=l，2，…)分别称为有限维概率分布函数族和有限维概率密度函数族，简称为有限维分布和有限维密度函数。它们全面地描述了随机过程。二、数学期望函数和方差函数

从理论上来说，只有当n维分布函数族(或概率密度函数族)对所有的n(n=l，2，3,…)都已知，随机过程才完全被确定。但与随机变量相类似，对于实际生活中的随机过程，除了较特殊的情况外，往往较难求n(n=1，2，3，…)维分布函数族或概率密度函数族。人们往往更多地使用数学期望、方差等数字特征来描述随机过程。它们尽管不能像有限维分布那样全面描述随机过程，但也能分别描述随机过程各方而的重要特征，而且比较容易求出。

随机过程{X(t)，t∈T}在每一时刻都是随机变量，该随机变量的数学期望μX(t)=E[X(t)],t∈T

是时间的函数，定义为该随机过程的数学期望函数(均值函数)，简称为期望函数，它表示随机过程{X(t)，t∈T}的所有样本的某种概率平均.

由于上述时间t∈T和t116与一维概率密度有关的数字特征均值函数均方值函数方差函数与一维概率密度有关的数字特征均值函数均方值函数方差函数17与二维概率密度有关的数字特征自相关函数协方差函数与二维概率密度有关的数字特征自相关函数协方差函数18随机过程的数学期望函数随机过程{X(t)，t∈T}每一时刻的方差即

定义为该随机过程的方差函数,它表示随机过程{X(t)，t∈T}

对于数学期望函数μX(t)的偏离程度。随机过程的数学期望函数随机过程{X(t)，t∈T}每19同样，可定义随机过程的其他几个数字特征，如均方值函数（均值函数为零时的方差函数）不同随机过程的方差函数同样，可定义随机过程的其他几个数字特征，如均方值函数（均值函20三、协方差函数随机过程{X（t），T∈T}在某两个固定时刻t1和t2的状态之间的关系可用这两个时刻状态的协方差来描述，即

这里的t1和t2的函数CX(t1，t2)，tl，t2∈T称为随机过程{X（t），T∈T}的协方差函数。例图(a)中，对于大部分样本，都有三、协方差函数随机过程{X（21在图(b)中则不存在上述关系，故由式(1-1)，对于图中相同的时间间隔，t1~t2，有通常，称图(a)的过程X(t)相关性强，意思是不同时刻的状态之间联系强；而称图(b)的过程y(t)相关性弱，意思是不同时刻的状态之间联系弱。相关性的强弱也可以理解为随机样本的变化是缓慢还是激烈。同理，通常t1和t2越接近，则协方差函数的值越大，t1和f2时刻状态的联系越密切；反之，当t1和t2远离时，通常协方差函数趋于零或很小。例:随机过程的任意两个状态x(t1)与x(t2)相互独立，试求协方差函数。

解两个独立随机变量的联合概率密度函数等于各自的概率密度函数之积，即故协方差函数为

在图(b)中则不存在上述关系，故由式22依概率收敛于1依概率收敛于123四、相关函数综上所述，协方差函数CX(t1,t2)表示了随机过程{X(t)，t∈T}两状态间的统计依赖程度。特别地，当t1=t2=t，则式(1．1)为即同一时刻的协方差函数就是方差函数.协方差函数CX(t1,t2)可写为上式中的定义为随机过程{X(t)，t∈T}的相关函数四、相关函数综上所述，协方差函数24五、二阶矩过程与相关理论

上述数字特征中最重要的是数学期望函数μX(t)和相关函数

RX(t)(或协方差函数)，其他的数字特征都可以由它们算出。随机过程的数学期望函数称为过程的一阶矩，方差函数、协方差函数和相关函数称为过程的二阶矩。如果随机过程{X(t)，t∈T}的一、二阶矩存在(即其值有限)，则称该随机过程为二阶矩过程。从二阶矩过程的数学期望函数和相关函数出发讨论过程的性质，而允许不涉及它的n(n=l，2，…)个时刻的n维分布，这种理论称为随机过程的相关理论

五、二阶矩过程与相关理论25最优估计与滤波ppt课件26六、互协方差函数和互相关函数

设X(t)和Y(t)，t是定义在同一样本空间S和同一参数集T上的随机过程，则称{X(t)，Y(t)，t∈T}为二维随机过程。对于二维随机过程{X(t)，Y(t)，t∈T}除了X(t)和Y(t)各自的数字特征外，最重要的表示X(t)和Y(t)之间统计依存关系的数字特征是X(t)和Y(t)的互相关函数即六、互协方差函数和互相关函数27和X（t）和Y（t）的互协方差函数即上式可变形为

即互协方差函数与互相关函数之差是一个与t1，t2有关的数，如果X（t）和Y（t）之一为零均值，则二者相等。互相关函数和互协方差函数表示了随机过程X（t）在t1时刻的状态和Y（t）在t2时刻的状态之间的统计依存关系。如果对任意时刻t1，t2，…，tm。和t’1,t’2,…,t’n,(m，n为任意正整数)，由随机过程X（t）和Y（t）的状态所构成的随机变量的概率密度函数满足则称X（t）和Y（t）是相互独立的随机过程.和X（t）和Y（t）的互协方差函数即上式可变形为28§X-3正态随机过程

二阶矩过程中，最重要也是最简单的就是正态随机过程。一、正态随机向量

为了讨论正态随机过程，首先需要复习概率论中学过的正态随机向量。例：在概率论中曾讨论过二维正态随机向量

后一个式子表示其样本。设Xl和X2的期望分别为μ1和μ2，方差分别为和，X1和X2的相关系数ρ为

则其概率密度函数为(1-9)§X-3正态随机过程29为了使形式更简单，设法用矩阵形式来表示上式。X的协方差矩阵为为了使形式更简单，设法用矩阵形式来表示上式。X的协方差矩阵30一般地，如果n维随机向量X=（x1x2…xn)T的概率密度函数为

且Cov(X)正定，则称X为n维正态随机向量，记作X~N[μx，Cov(X)]要注意的是，尽管这里有n个随机标量，但却只涉及一、二阶矩。正态随机向量的概率密度函数式(1.13)与正态随机标量的概率密度即

(1.13)具有类似的形式。

一般地，如果n维随机向量X=（x1x2…x31二、正态随机向量的某些性质

n维正态随机向量有如下性质n维正态随机向量的m(m<n)个分量构成的随机向量也是正态随机向量，且其期望向量和协方差矩阵分别为二、正态随机向量的某些性质的m(m<n)个分量32三、正态随机向量过程

如果n维向量随机过程的概率密度函数为则称X(t)为正态随机向量过程或简写为三、正态随机向量过程的概率密度函数为则称X(t)为正33§X-4平稳随机过程

一般地，如果对于任意的和任意实数h，当n维随机向量与随机向量

具有相同的概率分布函数，则称随机过程{X(t)，t∈T}是平稳随机过程，简称为平稳过程(严)一、平稳过程§X-4平稳随机过程一般地，如果对于34平稳过程和非平稳过程平稳过程和非平稳过程35

对于期望函数缓慢变化的非平稳过程，有时可以把它用低通滤波器分解为缓慢变化的确定性曲线(称为趋势曲线)和平稳过程之和(如下图)，以便于分析。

分析平稳过程比分析非平稳过程容易得多，在信号处理与控制领域遇见的基本上也是平稳过程，不少实际非平稳过程也可以处理成平稳过程。对于期望函数缓慢变化的非平稳过程，有时可以36二、广义平稳过程显然，平稳过程X(t)的期望函数是常数即E[X(t)]

=常数而自相关函数为其中第2个等号利用了X(t)的平稳性。上式仅是时间差t2--t1的函数，记作

满足式以上两式的过程，即期望函数为常数而自相关函数仅是时间差的函数的过程称为广义平稳过程或宽平稳过程，而把一般定义的平稳过程称为严平稳过程。由于通常只讨论二阶矩过程，所以一般讨论广义平稳过程已经足够了。

广义平稳过程并不一定是严平稳过程，但对于正态过程来说，由于正态过程由其期望函数和自相关函数唯一地确定，故广义平稳过程如果是正态的，则也必是严平稳过程。

二、广义平稳过程显然，平稳过程X(t)的期望函数是常37对于两个平稳过程X(t)和Y(t)，如果它们的互相关函数仅是时间差的函数，即

则称X(t)和Y(t)是广义平稳相关的或广义联合平稳的。能否把某一实际生活中的随机过程看做是平稳过程，主要靠经验和实验。对于两个平稳过程X(t)和Y(t)，如果它们的互相关函数仅是38三、各态历经过程

如果平稳过程X(t)的统计平均值即期望值与其任一样本的时间平均值相等，即

则称X(t)的期望值具有遍历性。上面的横线表示时间平均。类似地，如果平稳过程X(t)的自相关函数与其任一样本相应的时间平均值相等，即

则称X(t)的自相关函数具有遍历性。例:随机相位正弦波，一个样本的时间平均为三、各态历经过程如果平稳过程X(t39

在实践中经常需要求出某一实际平稳过程的期望函数(常数)和自相关函数(仅是时间差的函数)。等于例3中的自相关函数，故其自相关函数具有遍历性。期望值和自相关函数都具有遍历性的平稳过程称为各态历经过程。两个各态历经过程X(t)和Y(t)的互相关函数也可以用样本的时间平均来计算.

能否把某个实际平稳过程看做是各态历经的，主要靠经验和实验，即看它的任一样本能否按整体的概率分布经历所有可能的状态，亦即能否从一个样本得到整体的全部统计信息。大量的现实过程都可以近似地看做是各态历经过程。除了上面的一些例子以外，近似的各态历经过程还有：某地的历年降水量、心电图、脑电图、电机的电枢电流、机械振动或振动噪声、电力系统的负荷、地质勘探的地震回波曲线，等等。在实践中经常需要求出某一实际平稳40最优估计与滤波ppt课件41四、平稳过程自相关函数的性质平稳过程的自相关函数具有一系列重要的性质。(1)显然有

即平稳过程X(t)的自相关函数在原点的值等于其均方值。如果X(t)为零均值，则自相关函数在原点的值等于X(t)的方差，即(2)平稳过程X(t)的自相关函数是偶函数，即证:证毕四、平稳过程自相关函数的性质平稳过程的自相关函数具有一系列重42(3)对任意的τ,有证:对任一样本，有取期望由性质1，上式为上式中的正负号表示无论取正号或负号，不等式都成立。故证毕(3)对任意的τ,有证:对任一样本，有取期望由性质1，上式为43

(4)如果对于平稳过程X(t)的任一样本和任意的t都有x(t+T)=x(t)，则称X(t)为周期性平稳过程。容易证明，周期性平稳过程的自相关函数也具有周期性，即

(5)平稳过程X(t)，t∈T的自相关函数是非负定的，即对任意的t1，t2，…，tn∈T和任意实值函数g(t)，都有

(6)当两个时刻的间隔充分大时，实际非周期性平稳过程X(t)的状态通常相互独立。由三段知，这时X(t)的协方差函数(与自相关函数一样也仅是时间差τ的函数)为则由2.2节可知，这时有即趋于期望值的平方。如果进一步，X(t)是零均值的，则上式为

(4)如果对于平稳过程X(t)的任一样本和任意44由以上性质，通常实际非周期性平稳信号的自相关函数大体如下图

五、平稳过程互相关函数的性质

与自相关函数的性质类似可证，两个平稳过程X(t)和Y(t)的互相关函数有如下性质。(1)平稳过程X(t)和Y(t)的互相关函数RXY(τ)既不是τ的奇函数，也不是τ的偶函数，而有由以上性质，通常实际非周期性平稳信号的自相关函数大体如下图45最优估计与滤波ppt课件46六、相关函数应用实例

自相关函数和互相关函数是平稳过程最基