系统辨识-概述及非参数辨识课件

系统辨识本章的主要内容1.系统辨识概述2.非参数辨识3.

最小二乘法参数估计4.最小二乘法参数估计的递推算法5.适应性递推最小二乘法估计算法6.最小二乘法参数估计算法的改进方法7.系统辨识实际应用中的几个问题系统辨识本章的主要内容1.系统辨识概述1.1概述

对于自动控制系统的分析和设计来说，建立受控对象的数学模型是必不可少的。建立所研究的对象的数学模型，主要有两个途径。一个是借助于基本物理定律，即利用各个专门学科领域提出来的关于物质和能量的守恒性和连续性原理，以及系统结构数据，推导出系统的数学模型。这种建立模型的方法称为数学建模法或称解析法。但是，对很大一类工程系统，如化工过程，由于其复杂性，很难用解析法推导出数学模型。有时只能知道系统数学模型的一般形式及其部分参数，有时甚至连数学模型的形式也不知道。这时，只能通过系统的运行或试验，得到关于系统的有关数据，然后通过计算处理，建立起系统的数学模型(模型结构和参数)。这种建立数学模型的方法即为系统辨识的方法。1.1概述系统辨识定义：辨识是在输入输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。

辨识的三大要素：

（1）数据：能观测到的系统的输入输出数据；

（2）模型类：寻找的模型范围——模型结构；

（3）等价准则：辨识的优化目标，衡量模型接近实际系统的标准。通常表示为一个误差的泛函（多用L2范数）：

因观测到的数据含噪声，故辨识建模，是一种实验统计方法，是系统输入输出特性在确定的准则下的一种近似描述。系统辨识定义：输入输出数据系统的输入输出数据是由对系统的观测而得,这些变化着的输入输出数据“必然”表现出系统的动态和静态特性和行为。这是能利用测量数据进行辨识建模的着眼点,是辨识的基础。一般在辨识中假定系统的输入输出数据是可直接测量的,但扰动/噪声是不可测量的。输入输出数据由于被控系统受各种内外环境因素的影响,实际测量到的输入输出数据都含有一定的扰动和误差,因此辨识建模实际上是一种实验统计的方法,它所获得的模型仅仅是实际系统的外部特性等价的一种近似描述.若不考虑系统和测量数据所受到的扰动和误差的影响,实际上系统辨识和建模将仅仅是一个非常简单的方程求解、函数优化、函数逼近、或数据拟合问题,而不会形成为一个相对独立的学科.输入输出数据中隐含的扰动和误差,是进行辨识困难性的关键.由于被控系统受各种内外环境因素的影响,实际测量到的输入输出数模型类系统辨识中,首要的问题是根据辨识的目的及对被辨识系统的先验知识或了解,确定系统所属的模型类.模型的确定不唯一,受辨识目的、辨识方法等因素影响,根据具体情况、具体需要选择不同的模型类.在控制领域内,常用的模型类有:参数模型或非参数模型Non-parametricmethodstrytoestimateagenericmodel(stepresponses,impulseresponses,frequencyresponses,neuralnetworkmodel)Parametricmethodsestimateparametersinauser-specifiedmodel(transferfunctions,state-spacematrices)模型类线性的或非线性的连续的或离散的确定的或随机的时变的或定常(时不变)的集中参数的或分布参数的频率域或时间域的等等.本课程主要研究随机线性定常离散系统的参数模型辨识问题.线性的或非线性的值得指出的是,由于建模的目的是模型在系统分析、预报、优化和控制系统设计中的实际应用,太复杂、太精确的模型往往使得所建立的模型在实际中应用的困难性大得多.因此并不是所建立的模型越复杂、越精确就越好,而是其精确性和复杂性与实际可用性、可操作性的一种折中.值得指出的是,由于建模的目的是模型在系统分析、预报、优化和控等价准则等价准则是辨识问题中不可缺少的三大要素之一,它是用来衡量所建立的模型接近实际系统的标准,是用来优化模型的目标,建立具体辨识算法的关键.等价准则通常被表示成某种误差的泛函,如实际系统与模型的输出误差。因此,等价准则也称为误差准则、准则函数值、损失函数或代价函数等.等价准则并不唯一,受辨识目的、辨识方法等因素影响,可以选择不同的等价准则.等价准则一般等价准则可记作其中f((k))是某种误差(k)的正定函数.在系统辨识中的参数估计领域,为便于求等价准则的最优化以及便于理解和度量系统与模型的距离(误差),通常用得最多的函数f(·)为平方函数,即f((k))=2(k)(2)一般等价准则可记作其中f((k))是某种误差(k)的正随着对系统的认识的深入,对所辨识的模型的需求多样性,或系统本身的复杂性,近年来,在控制界已经开始深入研究鲁棒辨识和结构辨识方法.鲁棒辨识方法主要是通过引入能提高模型鲁棒性的不同的辨识准则函数及相应的求解方法,来实现鲁棒辨识.如随着对系统的认识的深入,对所辨识的模型的需求多样性,或系统本l1辨识和H∞辨识,是目前两类较受关注的鲁棒辨识算法.结构辨识方法主要是在准则函数中引入对结构复杂性的惩罚项,并进行反复辨识比较,以同时获得结构辨识和参数估计的效果.如在线性系统的阶次辨识中,其误差准则函数为如下参数模型误差准则函数与阶次惩罚项之和其中n为线性系统阶次,c为惩罚系数。(AkaikeInformationCriterion，1973)AIC方法的贝叶斯扩展，即BIC（BayesInformationCriterion）l1辨识和H∞辨识,是目前两类较受关注的鲁棒辨识算法.其中n支持向量回归方法是近年出现的能很好地解决结构辨识,提高辨识模型的鲁棒性的新型辨识方法,其准则函数很好地将结构辨识与提高鲁棒性结合起来对于不同的辨识对象与环境,不同的辨识目的,所取的等价准则(函数)的不同,因此由此衍生的相应辨识算法和辨识结果将具有不同的性质.作为辨识方法的使用者,要对此有充分的了解,才能选取适当的等价准则或相应的辨识算法,得到所需的辨识模型.支持向量回归方法是近年出现的能很好地解决结构辨识,提高辨识模系统辨识的步骤和参数估计前面给出了系统辨识的定义,现在我们讨论辨识步骤.Step1.明确辨识目的.

明确模型应用的最终目的是很重要的,因为它将决定模型的类型、精度要求、准则函数以及采用什么辨识方法等问题.辨识目的主要取决于模型的应用.在控制领域,辨识模型应用有以下几个方面：系统辨识的步骤和参数估计验证理论模型.要求：零极点、结构(阶次及时延)、参数都准确；设计常规控制器.要求：动态响应特性、零极点、时延准确；应选择便于分析的模型类.设计数字控制器.要求：动态响应特性、时延准确；应选择便于计算机运算的模型类.设计仿真/训练系统.要求：动态响应特性准确；便于模拟实现的模型类.验证理论模型.预报预测.要求：动态响应特性、时延准确；应选择便于计算机运算的模型类.监视过程参数,实现故障诊断.要求：参数准确；应选择能直观体现被监视过程参数的模型类.系统的定量与定性分析.要求：静态关系准确；模型简单,便于人脑判断.预报预测.Step2.先验知识.在进行辨识之前,要通过一些手段取得对系统的尽可能多的了解,粗略地掌握系统的一些先验知识,如:是否为非线性、时变或定常、集中参数或分布参数,系统的阶次、时间常数、静态增益、延迟时间,以及噪声的统计特性等.这些先验知识对模型类的选择和实验设计起着指导性的作用.Step2.先验知识.Step3.确定模型类和辨识准则函数.

根据辨识目的和系统的先验知识,确定系统的模型类和辨识准则函数.确定模型类,主要包括模型的描述形式,模型的阶次等等.确定辨识准则函数,相应地包括确定具体辨识方法.Step3.确定模型类和辨识准则函数.Step4.实验设计.

设计原则：在明确目的与要求,以及模型用途后,在安全的前提下,尽可能地激励系统；保持输入输出关系；适当解耦根据系统的先验知识和系统的实际情况,主要设计(决定和选择)辨识实验的输入信号(信号类型、幅度和频带等)、采样周期、辨识时间(数据长度)、开环或闭环辨识、Step4.实验设计.离线或在线辨识等.Step5.实验.根据所设计的实验方案,确定输入信号(或称激励信号),进行实验并检测与记录输入输出数据.Step6.数据的预处理.输入输出数据通常都含有直流成分以及我们在建模中不关心的某些低频段或高频段的成分.因此,为使所辨识的模型不受这些成分的影响,我们可对这些数据进行预处理.若处理得好,就能显著提高辨识的精度和辨识模型的可用性.离线或在线辨识等.Step7.模型参数的估计.当模型结构确定之后,就需进行基于系统输入输出数据的模型参数的估计.参数估计的方法则很多,本课程将详细介绍常用的最小二乘类算法.Step7.模型参数的估计.Step8.模型验证.模型验证是系统辨识中不可缺少的步骤之一.若模型验证不合格,则必须返回到Step3重新进行上述辨识步骤.但是,目前模型验证还没有一般普遍的方法可遵循,它和模型结构问题密切相关.Step8.模型验证.由上述辨识过程的诸步骤可知,参数估计是指在确定好系统的模型结构和结构参数(如系统的阶次等)后,基于辨识的准则函数,由系统的输入输出数据确定所选定的模型的待定参数.因此,参数估计可以认为是系统辨识的一个主要分支.本课程主要介绍讨论系统辨识中的参数估计部分。由上述辨识过程的诸步骤可知,参数估计是指在确定好系统的模型结系统辨识的发展历程系统辨识是20世纪60年代开始迅速蓬勃发展起来的一门学科。这是因为在当时自动控制理论发展到了很高的水平，经典控制论被更有前途的现代控制理论所超越。与此同时，工业大生产的发展，也要求将控制技术提到更高的水平。现代控制理论的应用是建立在已知受控对象的数学模型这一前提下的，而在当时对受控对象数学模型的研究相对较为滞后。现代控制理论的应用遇到了确定受控对象合适的数学模型的各种困难。因此，建立系统数学模型的方法——系统辨识，就成为应用现代控制理论的重要前提。在另一方面，随着计算机科学的飞速发展，计算机为辨识系统所需要进行的离线计算和在线计算提供了高效的工具。在这样的背景下，系统辨识问题便愈来愈受到人们的重视，成为发展系统理论，开展实际应用工作中必不可少的组成部分。

系统辨识的发展历程国际自动控制联合会(IFAC)自1967年起每三年召开一次“辨识和系统参数估计”专业性国际学术讨论会，这表明它是十分活跃和受到重视的学科之一。系统辨识在许多领域得到了成功的应用。目前，单变量线性系统辨识的理论和方法，已趋于成熟阶段，多变量线性系统的辨识尚有待于进一步提高。另外，关于连续时间模型、非线性系统模型和分布参数模型等的辨识方法，以及模糊逻辑，神经网络，小波变换等方法在系统辨识中的应用等方面的讨论，目前正方兴未艾。系统辨识--概述及非参数辨识课件系统辨识当前发展的新热点：非线性系统辩识(机器人)结构辨识鲁棒辨识快时变与有缺陷样本的辩识生命、生态系统的辩识辩识的专家系统与智能化软件包的开发基于模糊理论、神经网络、小波变换的辩识方法系统辩识与人工智能、人工生命、图象处理、网络技术和多媒体技术的结合系统辨识当前发展的新热点：系统辨识的应用领域在应用方面,系统辨识不仅在工业系统、过程和设备的系统分析、优化和控制上有着广泛的应用领域,而且是各种农业、经济和社会等领域建立数学模型必不可少的建模工具.系统辨识的应用领域在应用方面,系统辨识不仅在系统辨识在工业系统上的主要应用领域有:(1)用于控制系统的分析和设计.利用系统辨识的方法建立被控系统的数学模型之后,以此模型为基础可以用于分析系统的性能、动态或静态响应特性来改进系统的结构和参数,也可以用于计算机仿真,还可以据此设计出比较合理的控制系统.系统辨识在工业系统上的主要应用领域有:(2)

用于在线控制.系统辨识还可用于在线实时地建立被控系统的数学模型,并依此不断自动调整控制器的参数,以获得较好的控制效果(自适应控制).(3)

用于系统预报预测.系统辨识用于预报预测的基本思想是,在模型结构确定的条件下,建立系统的数学模型,并依此来预报预测系统的输出.(4)

用于智能学习系统.任何基于归纳与统计的智能学习系统的理论基础为在线建模,即系统辨识。(2)

用于在线控制.(5)

用于系统监测和故障诊断.许多复杂生产过程,比如飞机、核反应堆、大型工厂动力装置及大型转动机械装置等,希望经常监视和检测可能出现的故障,以便及时排除故障.通过系统辨识建立这些生产过程或设备的数学模型,并且不断收集系统的信息,推断过程的动态特性的变化情况.然后,根据过程特性的变化情况来判断故障是否已经发生、何时发生、故障类型和大小、故障的位置等.总之,系统辨识在现代工业化生产过程中的作用越来越重要,应用领域亦越来越广泛.(5)

用于系统监测和故障诊断.目前,系统辨识算法已经有了不少的商品化的软件包,并集成在相应的商品化控制设备和系统中.如,目前流行的工业控制软件,以及集散控制系统中,都必定包含有常用的辨识算法模块,如最小二乘类算法、随机逼近法等.目前,系统辨识算法已经有了不少的商品化的软件包,并集成在相应作为工程技术人员,对相应的辨识模型和算法要有充分的了解,这便于正确选择相应的辨识算法商品化的控制系统和软件模块.目前商品化的工业控制计算机系统,如集散计算机控制系统、工业控制机等都可选装系统辨识方面的计算机软件模块(控件).在计算机仿真领域,目前较流行的Matlab软件也提供系统辨识工具箱供选用.作为工程技术人员,对相应的辨识模型和算法要有充分的了解,这便1.2非参数辨识

白噪声与有色噪声在控制领域,许多情形下系统受到外界或内在的随机干扰因素.这些随机因素一般不可测量,不可预先知道,而且给系统有时带来负面的效果,人们将它们形象地称为噪声。噪声其实亦为随时间变化的随机变量,即亦为随机过程。噪声的描述、分析、产生(仿真)与应用在控制领域中非常重要,其主要应用场合为:描述系统所受到的外界或内在的随机干扰,并基于该描述分析随机系统的系统响应和性能,并设计、优化系统.1.2非参数辨识白噪声与有色噪声在进行系统仿真、实验时,甚至在实际控制过程中,用于产生系统的随机信号输入,或模拟系统所受到的随机干扰因素.噪声过程根据相关统计特性,可以分为白噪声过程有色噪声过程下面逐一作简介.在进行系统仿真、实验时,甚至在实际控制过程中,用于产生系统的A.白噪声如果一个零均值、平稳随机过程的谱密度为常数,我们称之为白噪声(由白色光联想而得).白噪声wt有以下特点:E(wt)=0谱密度为常数,频谱宽度无限,即Sw()=2自相关函数为脉冲函数,即Rw()=2()其中()为Dirac函数,即A.白噪声无记忆性.即t时刻的数值与t时刻以前的过去值无关,也不影响t时刻以后的将来值.从另一意义上说,即不同时刻的随机信号互不相关.白噪声的用途:作为系统输入时,有Rwy()=g(),=0,1,2,…,即为系统的单位脉冲响应.作为被辨识系统输入时,可以激发系统的所有模态,可对系统充分激励.作为被辨识系统输入时,可防止数据病态,保证辨识精度.在辨识过程中,以输出估计误差是否具有白色性来判断辨识方法的优劣,也可用来判断模型的结构和参数是否合适.可用于产生有色噪声.无记忆性.即t时刻的数值与t时刻以前的过去值无关,也不影响tB.有色噪声有色噪声是指每一时刻的噪声和另一时刻的噪声相关,因而其谱密度也不再是常数.在工业生产实际中,白噪声在物理上是不存在的,常见的往往是有色噪声.有色噪声的表示定理:设平稳噪声序列e(t)的谱密度Se()是的实函数,则必定存在一个渐近稳定的线性环节,使得在输入为白噪声序列的情况下,环节的输出是谱密度为Se()的平稳噪声序列e(t).对离散时间平稳序列,也有类似的有色噪声的表示定理. 白噪声线性环节有色噪声(成形滤波器){w(k)}H(z-1){e(k)}B.有色噪声 白噪声线性环节控制系统辨识常用的输入激励信号在对控制系统进行系统辨识建模时，需要在被控系统的输入端施加预先设计并产生好的输入激励信号，以使被控系统产生输出响应并测取之。由于系统辨识是基于所测取的系统输入输出数据而展开的，因此所测取的输入输出数据要能充分反映系统的静力学与动力学特性，即数据要充分丰富。输入输出数据充分丰富，关键是所设计的输入激励信号要充分丰富。控制系统辨识常用的输入激励信号输入激励信号可以为确定性信号，也可以为随机信号。常用的确定性输入激励信号阶跃信号方波信号三角波信号单频/多频正弦信号单频正弦信号的频带较窄，信号一般不满足充分丰富这一辨识的基本原则/条件。脉冲信号输入激励信号可以为确定性信号，也可以为随机信号。常用的随机输入激励信号白噪声信号相关（有色）噪声信号伪随机（M）序列常用的随机输入激励信号伪随机二位式序列（PRBS）周期性拟白噪声序列。具有类似于白噪声的自相关函数，同时又是一个周期性重复的函数，即是一个确定性函数，因此称为伪随机信号。构造伪随机信号的方法：最大长度二位式序列信号（M序列）。M序列可用线性反馈（模2加法）移位寄存器产生，也可以利用数字计算机编程产生。一般说来，一个N级移位寄存器除各级都为0的状态以外，总共有(2N-1)种组合状态。因此当一个N级移位寄存器所产生的输出序列长度为(2N-1)时，称为最大长度序列或M序列。伪随机二位式序列（PRBS）构造伪随机信号的C1C2C3C4

输出移位脉冲四级移位寄存器框图模2加4阶M序列：111100010011010。。。。。特点：1）周期性，周期长度为2N-1(N为阶次)，是N个移位寄存器所能表示的最多状态数。C1C2C3C4输出移位脉冲四级移位寄存器框图模2加4阶M3）M序列中某种状态连续出现的段称为游程。一个周期中有2N-1个游程，游程长度为1—N，但出现的概率是随机的。长度为1的游程有2N-2个，长度为2的游程有2N-3个，长度为3的游程有2N-4个，以此类推，最后，长度为N的游程有1个。2）在一个周期中1的个数比0的个数多1（例中有8个1，7个0）4阶M序列：111100010011010。。。。。4阶M序列中长度为1的游程有4个，长度为2的游程有2个，长度为3的游程有1个，长度为4的游程有1个。3）M序列中某种状态连续出现的段称为游程。一个周期中3）M序列具有“移位相加”的性质，即如果将一个M序列和其延迟了r个码以后的序列按模2相加，则所得的新序列是延迟了q个码的原来那个M序列。其中r、q是满足的正整数。例如M序列{111100010011010}延迟r=13个码后得序列{110001001101011}，把这两个序列按模2相加得新序列{001101011110001}，它相当于延迟了10个码的原序列。3）M序列具有“移位相加”的性质，即如果将一个M序列5）若约定逻辑“1”状态相当于电平“-a”，逻辑“0”相当于电平“a”，并设移位寄存器基本时钟周期为Δ，则M序列的自相关函数RM(τ)为RM(τ)=a2τ=i*N,i=0,1,2,… RM(τ)=-a2/Nτ=i*N+k,i=0,1,2,…,k=1,2,…N-15）若约定逻辑“1”状态相当于电平“-a”，逻辑“0”相当于应用：

将M序列作为扰动信号有以下好处：

1幅值可取a,-a，容易选择，且当N充分大时，均值约等于0。2在一个周期内，自相关函数RM(τ)近似为δ函数，因此，以M序列为输入的线性系统，其互相关函数序列等于脉冲响应序列（N大于过渡过程时间）。应用：

随机离散系统的输入输出方程表示正如在前面系统辨识概论中指出的,系统辨识主要是考虑在有噪声污染或随机因素干扰的情况下,通过观测到的系统输入输出数据来辨识建模.因此,受到噪声污染或随机因素干扰的被控对象与检测/测量环节组成的辨识系统的结构图如下图所示。随机离散系统的输入输出方程表示从该结构图可知,在系统辨识中,被辨识对象受到的噪声及干扰不仅来源于被控对象的内部过程,还来自于对系统的输入输出的检测/测量环节。从该结构图可知,在系统辨识中,被辨识对象受到的噪声及干扰不仅实际上,对于仅输入输出可测量的被辨识对象,由于其所受到的过程噪声和测量噪声的统计特性难于分离及分别讨论,因此,一般将被辨识对象所搜到的所有过程噪声和测量噪声等效并合并到被控对象的输出端,如下图所示。实际上,对于仅输入输出可测量的被辨识对象,由于其所受到的过程对如上图所示的SISO定常随机连续线性系统的输入输出方程可表示为或A(z-1)y(k)=B(z-1)u(k)+v(k)(2)其中v(k)为系统所受的所有内外扰动和测量误差等在输出端的综合反映,并用一随机过程来加以建模.对于随机离散系统(2)中随机扰动项v(k),在系统辨识和自适应控制领域,一般有如下假定:对如上图所示的SISO定常随机连续线性系统的输入输出方程可表假设1在系统辨识和自适应控制中,一般都假设随机扰动为零均值的平稳随机序列.因此,根据随机过程理论,对随机离散系统(2)及平稳随机序列v(k),有如下结论:任一平稳随机序列都可由一平稳白噪声序列和一有限阶的,稳定的线性滤波器生成因此,对随机离散系统(2)的平稳的随机扰动v(k),我们还有如下假设:假设1在系统辨识和自适应控制中,一般都假设随机扰动为零均值假设2对随机离散系统(2),平稳的随机扰动v(k)可由如下有限阶的稳定线性滤波器C(z-1)和白噪声序列w(k)来建模v(k)=C(z-1)w(k)(3)其中w(k)为白噪声过程;C(z-1)为一有限阶的,稳定的线性滤波器,并可表示为如下首一多项式假设2对随机离散系统(2),平稳的随机扰动v(k)可由如下故,随机离散系统(1)又可表示为或A(z-1)y(k)=B(z-1)u(k)+C(z-1)w(k)(5)随机离散线性系统模型(4)又常记为如下受控自回归滑动平均(ControlledAuto-RegressiveMovingAverage,XARMA)模型.故,随机离散系统(1)又可表示为或即y(k)=C(z-1)w(k)自回归模型(Auto-RegressiveModel,AR模型).即A(z-1)y(k)=w(k)顺便指出,在统计回归分析及系统辨识领域中,常用的数学模型还有:滑动平均模型(MovingAverageModel,MA模型)即即顺便指出,在统计回归分析及系统辨识领域中,常用的数学模型即A(z-1)y(k)=C(z-1)w(k)受控自回归(ControlledAuto-Regressive,XAR)模型.自回归滑动平均(ARMA)模型即A(z-1)y(k)=B(z-1)u(k)+w(k)即自回归滑动平均(ARMA)模型即在系统辨识与自适应控制领域,一般还有如下关于噪声的统计特性的假定.假设3除特别指出的外,随机序列w(k)为同分布的零均值白噪声,即E[w(k)]=0,E[w2(k)]=2.在系统辨识与自适应控制领域,一般还有如下关于噪声的统计特性的1.2非参数辨识非参数模型辨识法(也称经典辨识法)得到的模型是非参数模型。它在假设系统是线性的前提下，不必事先确定模型的具体结构，可以用于任意复杂的系统的辨识，在工程上有广泛的应用。非参数模型通常的表现形式是以时间或频率为自变量的实验曲线。通过适当的数学处理，也可以把它们转换成参数模型，如传递函数等。非参数模型辨识法即辨识系统的频率响应、阶跃响应和脉冲响应等。

常见的非参数模型辨识的方法有瞬态响应分析法，频率响应法，相关分析法和谱分析法等。一般说来，由于工业现场存在有噪声干扰，阶跃响应法所建立的数学模型精度低。并且由于这些方法在测试时必须使被辨识对象由正常运行状态转入试验状态，从而影响生产。1.2非参数辨识一般说来，由于工业现场存

相关分析法抗干扰能力强，辨识精度高，并且可以在线辨识，从而成为在工业中较为广泛应用并且有效的辨识方法。它既可以用来辨识非参数模型，以得到被辨识系统的频率响应或脉冲响应。另外也可以与最小二乘法相结合，构成相关分析——最小二乘两步法。

相关函数是随机过程的一个统计量，它可以描述一个信号的未来值与当前值或者一个信号的未来值与另一个信号的当前值之间的依赖关系。设x(t)为平稳随机过程，则x(t)与x(t+τ)是该随机过程的任意两个随机变量，定义自相关函数：其中是的二维联合分布概率密度。相关分析法抗干扰能力强，辨识精度高，并且可以若x(t)和y(t)为联合平稳随机过程，则类似可以定义互相关函数其中是的二维联合分布概率密度。对于具有各态历经性的平稳随机过程，以上所求的数学期望值，可以用样本函数在整个时间轴上的平均值代替，即成立若x(t)和y(t)为联合平稳随机过程，则类似可以定义互相关各态历经含义：随机过程中的任一实现都经历了随机过程的所有可能状态.因此,我们无需(实际中也不可能)获得大量用来计算统计平均的样本函数,而只需从任意一个随机过程的样本函数中就可获得它的所有的数字特征,从而使“统计平均”化为“时间平均”,使实际测量和计算的问题大为简化。

事实上，各态历经的条件是比较宽的，工程上碰到的平稳过程大多数均为各态历经的。在实践中，我们通常不直接验证平稳过程是否满足各态历经的条件，而事先假定所研究的平稳过程具有各态历经性，看所得的结论是否与实际相符合，如果不符合再修改假设，另作处理。因此，我们今后都认为所讨论的随机过程为各态历经的平稳过程。各态历经含义：随机过程中的任一实现都经历了随机过程的设x(t)为实平稳随机过程,则它的自相关函数R()=E[x(t)x(t+)]具有下列主要性质:虽然x(t)是个随机过程,但R(