研究生《数理统计》完整课件讲义

1、研究生数理统计与随机过程课程讲义第二部分随机过程讲授：杨力绪绪 论论 随机过程是一连串随机事件动态关系的定量随机过程是一连串随机事件动态关系的定量描述，即一连串的随机变量。随机过程论以概率描述，即一连串的随机变量。随机过程论以概率论为基础，是概率论的深入和发展。概率论研究论为基础，是概率论的深入和发展。概率论研究的是有限个至多可数个随机变量，随机过程论研的是有限个至多可数个随机变量，随机过程论研究的是一族无穷多个随机变量。随机过程理论目究的是一族无穷多个随机变量。随机过程理论目前已成为自然科学、社会科学、工程技术各领域前已成为自然科学、社会科学、工程技术各领域研究随机现象、建立数学模型的重要工

2、具。研究随机现象、建立数学模型的重要工具。第一章第一章 随机过程基本概念随机过程基本概念 随机过程概念随机过程概念 随机过程的概率分布随机过程的概率分布 随机过程的数字特征随机过程的数字特征 随机微积分随机微积分1.1 1.1 随机过程及其概率分布随机过程及其概率分布 一一、随机过程概念随机过程概念 在客观世界中，许多随机事件的演变在客观世界中，许多随机事件的演变过程可用一连串的随机变量过程可用一连串的随机变量X Xn n或时间或时间t t的随的随机函数机函数X(tX(t) )来描述。来描述。 定量描述的几个引例：定量描述的几个引例： 例例1.1. 某人打靶，第某人打靶，第n n次打中的环数次

3、打中的环数X Xn n，nTnT=1,2,3,=1,2,3, 。 例例2.2. 西安地区从西安地区从20122012年开始，第年开始，第n n年的年的降雨量降雨量X Xn n，nTnT=1,2,3,=1,2,3, 。 例例3.3. 某超市在时段某超市在时段tt1 1,t ,t 内到来的顾内到来的顾客人数客人数X(tX(t) )，tTtT=t=t1 1,t,t2 2 。 例例4.4. 某电路中，一电子元件某电路中，一电子元件 t t 时刻的时刻的热噪声电压热噪声电压X(tX(t) )，tTtT=0,+=0,+) )。 在上述几个例子中，在上述几个例子中，X(tX(t) )（或（或X Xn n）具

4、有以下）具有以下两个特征：两个特征： 1）对于固定的对于固定的t t0 0T T，X(tX(t0 0) )是随机变量，是随机变量，称之为称之为X(tX(t) )在在t t0 0的的状态状态。对于不同的对于不同的t tT T，X(tX(t) )是不同的随机变量，即是不同的随机变量，即X(tX(t) )是是t t的的随机函数随机函数。 2）对于任意的）对于任意的t tT T，随机变量，随机变量X(tX(t) )的观测的观测值值x(tx(t) )是是t t的函数，称之的函数，称之为为样本函数样本函数。x(tx(t) )的图的图形称为形称为样本曲线样本曲线 。 定义定义1. .设设是某随机试验的样本空

5、间，是某随机试验的样本空间，T T是一个无限的实数集合，是一个无限的实数集合， X(,tX(,t) )是一个定义是一个定义在在和和T T上的二元实函数。若函数上的二元实函数。若函数X(,tX(,t) )对每对每个固定的个固定的t t0 0TT，X(,tX(,t0 0) )是随机变量，且对每是随机变量，且对每个固定个固定0 0,X(,X(0 0,t),t)是是t t的函数的函数，则称随机，则称随机变量族变量族X(,t),tTX(,t),tT 为为随机过程随机过程。可简记为。可简记为X(t),tTX(t),tT ，或，或X(t),tTX(t),tT 。 定义中的实数集合定义中的实数集合T T称为称

6、为参数集合参数集合。当。当T T为整数集合时，称为整数集合时，称X(n),nX(n),nT T 为为随机序列随机序列。随机序列可记为随机序列可记为X Xn n, ,n nT T，或或X Xn n。如例。如例1 1、例例2 2中的随机过程都是随机序列。中的随机过程都是随机序列。 对于对于t tT T ，随机变量，随机变量X(tX(t) )所有可能的值所有可能的值构成的集合称为构成的集合称为状态空间状态空间。所有样本函数构。所有样本函数构成的集合称为成的集合称为样本空间样本空间。随机试验的样本空。随机试验的样本空间与随机过程的样本空间本质上是一样的。间与随机过程的样本空间本质上是一样的。 状态空间

7、与样本空间是两个不同的概念。状态空间与样本空间是两个不同的概念。如例如例1 1中的的状态空间为中的的状态空间为0,1,2,100,1,2,10。由。由状态空间中的状态空间中的1111个数字排成的每一个无穷数个数字排成的每一个无穷数列都是一个样本函数。比如无穷数列列都是一个样本函数。比如无穷数列 1,0,7,2,5,6,8,3,10,4,0,9,1,0,7,2,5,6,8,3,10,4,0,9,是一个样本函数，这样的所有无穷数列构成是一个样本函数，这样的所有无穷数列构成的集合就是样本空间。的集合就是样本空间。 随机过程按参数集合和状态空间可分为随机过程按参数集合和状态空间可分为四类：四类： （）

8、参数离散、状态离散过程参数离散、状态离散过程。如例如例1 1中的中的X Xn n,n,n=1,2,3,=1,2,3,。 （）参数离散、状态连续过程参数离散、状态连续过程。如例如例2 2中的中的X Xn n,n,n=1,2,3,=1,2,3,。 （）参数连续、状态离散过程参数连续、状态离散过程。如例如例3 3中的中的X(t),ttX(t),tt1 1,t,t2 2 。 （）参数连续、状态连续过程参数连续、状态连续过程。如例如例4 4中的中的X(t),t0,+X(t),t0,+) )。 二、有限维分布族二、有限维分布族 在在X(t),tTX(t),tT 中，每个随机变量中，每个随机变量 X(tX(

9、t) )的分布函数的分布函数F(x,tF(x,t) )都都称为称为X(t),tTX(t),tT 的的一维一维分布函数分布函数。任意。任意n n个随机变量个随机变量X(tX(t1 1),X(t),X(t2 2),),X(tX(tn n) )的联合分布函数的联合分布函数F(xF(x1 1,x,xn n;t;t1 1,t,tn n) )称称为为X(t),tTX(t),tT 的的n n维分布函数维分布函数。所有所有n n维分布维分布函数构成的集合，称为函数构成的集合，称为X(t),tTX(t),tT 的的n n维分维分布函数族布函数族。 例例5.5.设设 X(tX(t)=A+Bt,t)=A+Bt,t0

10、,+0,+) )，其中，其中A,A,B B是两个相互独立的标准正态随机变量。试求是两个相互独立的标准正态随机变量。试求此随机过程的一维分布和二维分布。此随机过程的一维分布和二维分布。 解解. .依题意依题意 X(tX(t) )为正态随机变量，且为正态随机变量，且 EX(t)=EA+tEBEX(t)=EA+tEB=0,=0, DX(t DX(t)=DA+t)=DA+t2 2DB=1+tDB=1+t2 2, ,故故X(tX(t) )N(0,tN(0,t2 2) )。即得一维分布。即得一维分布。 对于对于t t1 1,t,t2 20,+)0,+)，因，因X(tX(t1 1) )N(0,tN(0,t1

11、 12 2),),X(tX(t2 2) )N(0,tN(0,t2 22 2), ), 协方差协方差 COVX(tCOVX(t1 1),X(t),X(t2 2)=EX(t)=EX(t1 1)-0X(t)-0X(t2 2)-0)-0 =EA+t =EA+t1 1BA+tBA+t2 2BB =1+t =1+t1 1t t2 2。故故X(tX(t1 1),X(t),X(t2 2) )的联合分布为二维正态分布，的联合分布为二维正态分布，协方差矩阵为协方差矩阵为二维分布密度函数为二维分布密度函数为其中其中 ，遂得所求二维分布。，遂得所求二维分布。 222121211111ttttttCexp21),;,(

12、121212121xCxCttxxf21xxx 例例6. 设设 ， 。其中。其中A A的分布律为的分布律为 A A 1 2 31 2 3 P P 1/3 1/3 1/31/3 1/3 1/3 （1 1）求一维分布函数）求一维分布函数 ; ; （2 2）求二维分布函数）求二维分布函数 。tAtXcos)(t)2;(),4;(xFxF)3, 0;,(21xxF 解解. .（1 1） 的分布律为的分布律为一维分布函数一维分布函数)4(X)4(X222223p313131.223, 12232, 32222, 3122, 0)4()4;(xxxxxXPxF 服从单点分布，其分布函数服从单点分布，其分布

13、函数 （2 2） , ,二维随机变量二维随机变量 的分布律为的分布律为0)2(X0, 10,0)2;(xxxF2)3(,)0(AXAX)2,(AA)2,(AA)21,1()1 ,2()23, 3(P313131o4D3D2D1D1x2xO二维分布函数为二维分布函数为.),( , 1),( , 32),( , 31),( , 02,)3, 0 ;,(4213212211212121DxxDxxDxxDxxxAxAPxxF1.2 1.2 随机过程的数字特征随机过程的数字特征 一、均值函数与方差函数一、均值函数与方差函数 设设 。对。对 ， 的数学期望的数学期望 和方差和方差 都是都是 的函数，分别

14、称为的函数，分别称为均值函数均值函数和和方差函数方差函数，记作，记作 ， , ,),(TttXTt)(tX)(tEX)(tDXt)()(tEXtmX)()(tDXtDX.Tt Tt 均值函数均值函数 与方差函数与方差函数 的的斯蒂斯蒂尔吉斯积分尔吉斯积分( (Stieltjes integral) )表示：表示：其中其中 是是 的分布函数。的分布函数。 和和 的几何意义：的几何意义： (1) (1) 是所有样本函数的平均函数是所有样本函数的平均函数, , );()()(txxdFtEXtmX),;( )()()(2txdFtmxtDXtDXX);(txF)(tX)(tmX)(tDX)(tmX)

15、(tDX)(tmX它的图形是平面上的一条固定曲线，即所有它的图形是平面上的一条固定曲线，即所有样本曲线的样本曲线的均值曲线均值曲线，所有样本曲线都在这，所有样本曲线都在这条曲线附近波动。条曲线附近波动。 (2) (2) 表示所有样本曲线在表示所有样本曲线在 时刻与时刻与均值曲线的均值曲线的平均偏离程度平均偏离程度。)(txs )(tmsXsto)(tDXt 标准差函数：标准差函数： ， 均方值函数：均方值函数： 。 二二、协方差函数与相关函数协方差函数与相关函数 对于对于 , 与与 的协方差的协方差 是是 的二元函数，称之的二元函数，称之 )()()(tDXtDtXX)()(2tmtDXX2)

16、()(tXEtXTtt21,)(1tX)(2tX)(),(21tXtXCOV21,tt为为协方差函数协方差函数，记作，记作 ，即，即 。 协方差函数协方差函数 表示随机过程在不表示随机过程在不同状态同状态 的的相关程度相关程度。 的绝的绝对值越大，对值越大， 的相关程度越高。相关的相关程度越高。相关程度的统一标准可用相关系数程度的统一标准可用相关系数),(21ttCX)()()()(),(221121tmtXtmtXEttCXXX),(21ttCX)(),(21tXtX),(21ttCX)(),(21tXtX)()(),(),(212121tDtDttCttXXX来衡量。来衡量。 协方差函数可

17、表示为协方差函数可表示为其中其中 是是 的二元函数，称之的二元函数，称之为为相关函数相关函数（自相关函数自相关函数），），记作记作 对于状态连续过程，协方差函数、相关对于状态连续过程，协方差函数、相关),()()()(),(212121tmtmtXtXEttCXXX)()(21tXtXE21,tt).()(),(2121tXtXEttRX函数的积分表达式分别为函数的积分表达式分别为 注：注：均值函数和相关函数是最基本的两均值函数和相关函数是最基本的两个数字特征个数字特征。随机过程的其他数字特征均可。随机过程的其他数字特征均可有他们来表示：有他们来表示：.),;,(),(2121212121dx

18、dxttxxfxxttRX ,),;,()()(),(212121221121dxdxttxxftmxtmxttCXXX 例例1. 设随机初相位简谐波设随机初相位简谐波其中其中 为正常数，为正常数， 在在 上服从均上服从均),()(),(),(212121tmtmttRttCXXXX),(),(),()(2tmttRttCtDXXXX, )(),()(2tmttRtXXX).,()(ttRtXX),cos()(0tatXt0,a2 , 0匀分布。求匀分布。求 解解. . 的分布密度为的分布密度为由定义由定义 ),(tmX),(tDX),(21ttRX).,(21ttCX.2 , 0, 02 ,

19、 0,21)(xxxf)cos()()(0taEtEXtmXdxxfxta)()cos(0dxxta21)cos(200. 0)sin(2200 xta)()(),(2121tXtXEttRX)cos()cos(2010tataEdxxfxtaxta)()cos()cos(2010).(cos2)(cos2)(cos212)cos()cos(212021202102022020102ttadxttxttadxxtxta 例例2.2. 设随机过程设随机过程 的的样本空间只有两个样本函数样本空间只有两个样本函数其概率分布为其概率分布为,cos)(1tatx.cos)(2tatx),(),(ttX)

20、.(cos2)()(),(),(1202212121ttatmtmttRttCXXXX.2)(),()(22atmttRtDXXX试求其均值函数和相关函数。试求其均值函数和相关函数。 解解. 由题意，由题意， 可表示为可表示为其中随机变量其中随机变量 的分布律为的分布律为)(tXPta costa cos3231),cos()(tatXt)(tXP03231所以所以,cos331)cos(32cos)cos()()(tatatatEatEXtmX)()(),(2121tXtXEttRX)cos()cos(21tataE 注：注： 也可表示为也可表示为 的分布律为的分布律为.coscos31)c

21、os)(cos(32coscos2122121ttatatatata)(tX,cos)(tAtXtAAPaa3231 三三、二阶矩过程和正态过程二阶矩过程和正态过程 若随机过程的一阶矩、二阶矩存在，若随机过程的一阶矩、二阶矩存在，则称此过程为则称此过程为二阶矩过程二阶矩过程。从二阶矩过程。从二阶矩过程的均值函数和相关函数出发讨论随机过程的均值函数和相关函数出发讨论随机过程的性质，而允许不涉及它的有限维分布，的性质，而允许不涉及它的有限维分布，这种理论称为随机过程的这种理论称为随机过程的相关理论相关理论。若随。若随机过程的有限维分布为正态分布，则称此机过程的有限维分布为正态分布，则称此 过程为过

22、程为正态过程正态过程。 正态过程是二阶矩过程正态过程是二阶矩过程，它在，它在工程技工程技术中有重要的应用术中有重要的应用。正态过程正态过程 的的 维分布密度为维分布密度为其中其中n),()(21exp)2(11212XXnmxCmxCf,),(),(),(),(1111nnXnXnXXttCttCttCttCC),(TttX 和和 为为 的均值函的均值函数和协方差函数。数和协方差函数。,1nxxxRxxn,1,)()(1nXXXtmtmmTttn,1),(TttX)(tmX),(21ttCX 四四、相关函数的性质相关函数的性质 1.1.对称性对称性： 2.2.非负定性非负定性：其中其中 为任意

23、复数。为任意复数。 证：).,(),(1221ttRttRXX. 0),(11jknknjjkXzzttRnzz,1jknknjjkjknknjjkXzztXtXEzzttR1111)()(),( 注注：协方差函数也具有上述两个性质。协方差函数也具有上述两个性质。.0)()()(2111knkkjnjjknkkztXEztXztXE 1.3 1.3 两个随机过程的联合两个随机过程的联合 分布和数字特征分布和数字特征 工程技术中经常需要同时考虑两个或工程技术中经常需要同时考虑两个或两个以上随机过程的统计特性。如线性系两个以上随机过程的统计特性。如线性系统中输入的随机信号统中输入的随机信号 和输出

24、的随机信和输出的随机信号号 。 一一、两个随机过程的联合分布两个随机过程的联合分布 设设 ， 是同一参数是同一参数)(tX)(tY),(TttX),(TttY集合上的两个随机过程。对于集合上的两个随机过程。对于 ， 个随机变量个随机变量 的联合分布函数的联合分布函数 称为称为 与与 的的 m m + + n n 维联维联合分布函数合分布函数。,11mtt Tn,nm),(,),(1mtXtX)(,),(1nYY),;,;,;,(1111nnnmyyttxxF)(,)(,)(,)(1111nnmmytYytYxtXxtXP),(TttX),(TttY 若记若记 x , y , t ，则记则记 (

25、x, y, t,) = , (x, t) ,mxx1nyy1mtt1n1F),;,;,;,(1111nnnmyyttxxFXF),;,(11mmXttxxF (y,) 。 若若 (x, t, y,) = (x, t) (y,)，则称则称 ， 是是相互独立随相互独立随机过程机过程。 定理定理1.1.若若 ， 是状是状态连续过程，则二者相互独立的充要条件是态连续过程，则二者相互独立的充要条件是YF),;,(11nnYyyFFXFYF),(TttX),(TttY),(TttX),(TttY (x, t, y,) = (x, t) (y,)，其中其中 (x, t, y,)、 (x, t)、 (y,)

26、分别为分别为 与与 的联合分布密度、的联合分布密度、边缘分布密度。边缘分布密度。 二、二个随机过程的联合数字特征二、二个随机过程的联合数字特征 与与 的联合数字的联合数字特征主要有一下两个。特征主要有一下两个。fXfYffXfYf),(TttX),(TttY),(TttX),(TttY 互协方差函数互协方差函数 ： 互相关函数互相关函数 ： 由定义知由定义知当两个过程相互独立时，当两个过程相互独立时， 。若。若)()()()(),(221121tmtYtmtXEttCYXXY)()(),(2121tYtXEttRXY).()(),(),(212121tmtmttRttCYXXYXY0),(21

27、ttCXY ，则称则称与与 不相关不相关。 定理定理2.2.若两个随机过程相互独立，则若两个随机过程相互独立，则这两个随机过程不相关。这两个随机过程不相关。 1.4 1.4 复值随机过程复值随机过程 复值随机过程在工程技术中应用不是复值随机过程在工程技术中应用不是太多，建议学生自学。太多，建议学生自学。, 0),(21ttCXYTtt21,),(TttX),(TttY1.5 1.5 随机微积分随机微积分 在随机过程在随机过程 中，中， 是参是参 数数 的随机函数。本节主要介绍随机函数的随机函数。本节主要介绍随机函数 在一种均方意义下的微分和积分。包在一种均方意义下的微分和积分。包括均方极限、均

28、方连续、均方导数、均方括均方极限、均方连续、均方导数、均方积分。积分。),(TttX)(tXt)(tX 一一、均方极限均方极限 定义定义1.1. 设设 是一随机序是一随机序列，列， 是一随机变量。且是一随机变量。且 ， 。若。若 , 则称则称 均方收敛均方收敛于于 。并称。并称 是是 的的均方均方极限极限，记为，记为 。, 2 , 1,nXnX2nXE2XE0lim2XXEnnnXXXnXXXmilnn 定理定理1.1.若若 ， , ,则则 。 证明：证明： ，而，而根据许瓦兹（根据许瓦兹（Schwarz）不等式，有）不等式，有XXmilnnYXmilnn1 YXP1 YXP02YXE.2)(

29、)(2222XXEXXYXEYXEXXYXEYXEnnnnnn ，于是于是故故 ，即，即 。 均方极限的几个性质：均方极限的几个性质：22XXEYXEXXYXEnnnn222222XXEXXEYXEYXEYXEnnnn0).(n02YXE1 YXP （1 1）若若 ，则，则 。 证：证： （2 2）若）若 ， ，则，则 。 注：注：在（在（2 2）的条件下，不能得到）的条件下，不能得到 。XXmilnnEXEXnnlim02XXEXXEEXEXnnn).(nXXmilnnYYmilnn)()(limXYEYXEmnmnXYYXmilmnmn)( （3 3）若）若 则则 （4 4）若）若 。则。

30、则 。 （5 5） 存在的充要条件是存在的充要条件是 。，XXmilnn.)(bYaXbYaXmilnnn,limaann2EXaXXamilnn)(，YYmilnnnnXmil0)(mnmnXXmil二、均方连续二、均方连续 在下述讨论中，随机过程的参数集合都在下述讨论中，随机过程的参数集合都是连续的区间。是连续的区间。 定义定义2. 2. 设设 是随机过程，若是随机过程，若对固定的对固定的 ，有，有即即 ，则称，则称 在在 均方连续均方连续。 ),(TttXTt 0，0)()(lim200tXtXEtt)()(00tXtXmiltt)(tX0t 注：注： 在在 上均方连续的充要条件上均方连

31、续的充要条件是是 。 定理定理2.2.设设 是随机过程，则是随机过程，则 在在 上均方连续的充分必要条件是相上均方连续的充分必要条件是相关函数关函数 在在 上连续。上连续。 证明证明. . 必要性：设必要性：设 ， 。则由均方极限性质。则由均方极限性质（2 2）知）知 )(tXT),()(0tXttXmiltTt ),(TttX)(tXT),(21ttRX),(Tttt)()(00tXtXmilttTt 0即即 。 充分性：设充分性：设 ， ，则，则 即即 。),(),(lim00210201ttRttRXXtttt),(),(lim00210201ttRttRXXttttTt 00),(),

32、(2),()()(00020ttRttRttRtXtXEXXX. )(0tt )()(00tXtXmiltt).()()()(lim00210201tXtXEtXtXEtttt 三三、均方导数均方导数 定义定义3.3.设设 是随机过程。对是随机过程。对 ，若均方极限，若均方极限存在，则称存在，则称 在在 均方可导均方可导，并称此，并称此极极限为限为 在在 的的均方导数均方导数，记作，记作 。),(TttXTt 0ttXttXmilt)()(000)(tX0t)(0tX )(tX0t 若对于任意若对于任意 ，均方导数，均方导数 存存在，则称在，则称 在在 上上均方可导均方可导，并称随机，并称随机

33、过程过程 为为导数过程导数过程。 定理定理3.3.设设 是随机过程，则是随机过程，则 在在 均方可导的充要条件是存在均方可导的充要条件是存在Tt)(tX )(tXT),(TttX),(TttX)(tXTt .)(), (), (),(),(lim21212121ttttttRttRttRttRXXXXtttt）（ 证明证明. . 必要性：设必要性：设 在在 均方可均方可导，即存在均方极限导，即存在均方极限由均方极限的性质（由均方极限的性质（2 2）知，极限）知，极限存在，即存在极限存在，即存在极限 。)(tXTt.)()(0ttXttXmilttttXtXtttXtXEtttt2211)()(

34、)()(lim21）（ 充分性：设极限充分性：设极限 存在，则存在，则）（22211)()()()(lim21tttXtXtttXtXEtttt21111)(),(),(2),(lim21ttttRttRttRXXXtttt)(),(),(),(),(2-212121ttttttRttRttRttRXXXX22222)(),(),(2),(ttttRttRttRXXX即即 由均方极限的性质由均方极限的性质（5 5）知，均方极限）知，均方极限存在。定理证完。存在。定理证完。，0)()()()(. .221121tttXtXtttXtXmi lttttttXttXmi lt)()(. .0）（，）

35、（）（）（02- 均方导数的几个性质：均方导数的几个性质： （1 1）均方可导必均方连续。）均方可导必均方连续。 （2 2） 。 （3 3） 。 （4 4）若）若 是随机变量，则是随机变量，则 。 （5 5） 。)( )()()(tmtEXtXEtmXX2121221),(),(ttttRttRXXX0X)()( )()(tYbtXatbYtaX （6 6）若）若 是可微函数，则是可微函数，则 。四、均方积分四、均方积分 定义定义4.4.设设 是一随机过是一随机过程，程， 是一随机变量。若对于是一随机变量。若对于 的任的任意分割：意分割： 以及任以及任意意 ，恒有，恒有)(tf)()()()(

36、 )()(tXtftXtftXtf,),(battXA,ba，bttttann110,1kkktt其中其中 ，则称，则称 在在 上上均方可积均方可积，并称，并称 为为 在在 上的上的均均方积分方积分。记为。记为 。 定理定理4.4.若若 存在，则存在，则 存在，且存在，且,)(110AttXmilnkkkkikknktt1max)(tX,baA)(tX,badttXba)(2121),(dtdtttRbabaX dttXba)( 。 均方积分的几个性质：均方积分的几个性质： （1 1）均方连续必均方可积。）均方连续必均方可积。 （2 2） 。 （3 3）设）设 是函数，则是函数，则 dtdtt

37、tRdttXEbabaXba1212),()( dttmdttXEbaXba)()(),(tf,bat .),()()()()(121212dtdtttRtftfdttXtfEXbababa （4 4） 。 （5 5）设）设 是函数，则是函数，则 。 （6 6）设）设 在在 上均方连续，则上均方连续，则在在 上均方可导，且上均方可导，且 。dttYddttXcdttdYtcXbababa)()()()(),(tf,batdttfXXdttfbaba)()()(tX,ba,)()(dttXtYta,bat ,ba)()(tXtY （7 7） 。 （8 8） 。 广义均方积分：广义均方积分： ，

38、， 。dttXdttXdttXbccaba)()()()()()(aXbXdttXbadttXtfmildttXtfbaab)()()()(dttXtfmildttXtfbaba)()()()(dttXtfdttXtfdttXtf)()()()()()(00第二章第二章 平稳过程平稳过程 平稳过程是一类统计特性不随时间推平稳过程是一类统计特性不随时间推移而改变的随机过程，它在通讯、无线电移而改变的随机过程，它在通讯、无线电技术、自动控制等领域有着重要应用。本技术、自动控制等领域有着重要应用。本章主要介绍平稳过程的基本概念、相关函章主要介绍平稳过程的基本概念、相关函数、各态历经性、谱密度、谱分解

39、、线性数、各态历经性、谱密度、谱分解、线性系统中的平稳过程等。系统中的平稳过程等。2.1 2.1 平稳过程概念平稳过程概念 在自然界中有一类随机过程，其特征在自然界中有一类随机过程，其特征是产生随机现象的主要因素不随时间的推是产生随机现象的主要因素不随时间的推移而变化。移而变化。 例如，无线电设备中热噪声电压例如，无线电设备中热噪声电压 是由电路中电子的热运动引起的，这种热是由电路中电子的热运动引起的，这种热扰动不随时间而变。扰动不随时间而变。 )(tU 又如，海浪在充分成长期的瞬时高度又如，海浪在充分成长期的瞬时高度 是一个随机初相位简谐波，它的不确是一个随机初相位简谐波，它的不确定性是由初

40、相位引起的，初相位是一个随定性是由初相位引起的，初相位是一个随机变量，不随时间而变。机变量，不随时间而变。 再如，飞机飞行过程中，连续测量其再如，飞机飞行过程中，连续测量其飞行速度，所产生的测量误差飞行速度，所产生的测量误差 主要是主要是由仪器振动、气流变化、电磁干扰等因素由仪器振动、气流变化、电磁干扰等因素引起的，这些主要因素都不随时间而变。引起的，这些主要因素都不随时间而变。 )(tH)(t 在上述随机过程中，由于产生随机现在上述随机过程中，由于产生随机现象的主要因素不随时间而变，随机过程的象的主要因素不随时间而变，随机过程的统计特性不随时间的推移而变，这类随机统计特性不随时间的推移而变，

41、这类随机过程就称为平稳过程。过程就称为平稳过程。 定义定义1.1.设设 是随机过程，是随机过程，若对于任意若对于任意 ，及使，及使 的任意的任意 ， 维分布函数满足维分布函数满足 ),(TttXTttn,1,1tTtnn则称则称 为为平稳过程平稳过程，或者说随机，或者说随机过程过程 是是平稳平稳的。的。 若随机序列若随机序列 是平稳的是平稳的，则称它是则称它是平稳序列平稳序列。 ，),;,(),;,(1111nnnnttxxFttxxF),(TttX),(TttX, 2 , 1,nXn 下面讨论平稳过程的数字特征，为方下面讨论平稳过程的数字特征，为方便起见，仅考虑过程是状态连续的。便起见，仅考

42、虑过程是状态连续的。 如果平稳过程如果平稳过程 的一阶矩的一阶矩和二阶矩存在，那么对任意和二阶矩存在，那么对任意 和固定和固定 ，有，有),(TttXTt Tt 0dxtxxftmX),()(，)(),(00tmdxtxxfX即平稳二阶矩过程的均值函数为常数，记即平稳二阶矩过程的均值函数为常数，记作作 。另外，对任意。另外，对任意 以及使以及使得得 的任意的任意 ，有，有即平稳二阶矩过程的相关函数仅与即平稳二阶矩过程的相关函数仅与Xm，Ttt21,2121212121),;,(),(dxdxttxxfxxttRX Ttt21，),(),;,(2121212121 ttRdxdxttxxfxxX

43、21, tt的间隔的间隔 有关。即有关。即 与与 无无关，为关，为 的一元函数。记作的一元函数。记作 。 协方差函数与方差函数：协方差函数与方差函数： 。)(XR，)()()()(),(),(2XXXXXXXCmRtmtmttRttCXXXXXXDmRtmttRtD22)0()(),()(12tt ),(ttRXt 一个明显的几何特征：所有样本曲线一个明显的几何特征：所有样本曲线 都在一条水平直线都在一条水平直线 附近上附近上下波动。波动的标准差为下波动。波动的标准差为 。)(txs Xms XXDsot)(txs Xms 定义定义2.2.设随机过程设随机过程 的一的一阶矩、二阶矩存在。若满足

44、阶矩、二阶矩存在。若满足则称则称 为为弱平稳过程弱平稳过程，或者说，或者说随机过程随机过程 是是弱平稳弱平稳的。的。 注注：（1 1）平稳）平稳 弱平稳。弱平稳。),(TttX，XXmtm)(，)(),(XXRttR),(TttX),(TttX （2 2）正态过程的平稳与弱平稳等价。）正态过程的平稳与弱平稳等价。 （3 3）在相关理论中，平稳指的就是弱）在相关理论中，平稳指的就是弱平稳。平稳。 例例1设设 是一列两两是一列两两不相关的随机变量，且不相关的随机变量，且 ， 。试讨论该随机序列的平稳性。试讨论该随机序列的平稳性。 解：解：, 2, 1, 0,nXn0nEX2nDX，0)(nXEXn

45、m即即 为常数，为常数， 与与 无关，无关，仅与仅与 有关。故有关。故 为平稳为平稳序列。其称为序列。其称为离散白噪声离散白噪声。 例例2 2设随机初相位简谐波设随机初相位简谐波. 0, 00,),(),(2mmmnnCmnnRXX)(nmX),(mnnRXnm, 2, 1, 0,nXn，)cos()(0tatXt其中其中 为正常数，为正常数， 在在 上服从上服从均匀分布。试讨论此随机过程的平稳性。均匀分布。试讨论此随机过程的平稳性。 解解：由由1.21.2例例1 1中的计算得中的计算得即即均值函数为常数，相关函数仅与时间间均值函数为常数，相关函数仅与时间间隔有关。故此过程为平稳过程。隔有关。

46、故此过程为平稳过程。0,a2 , 0，XXmtm 0)(，)(cos2),(02XXRattR 例例3 3电报信号电报信号 是是只取只取 或或 的电流随机信号。对于固定的电流随机信号。对于固定的的 。在。在时段时段 内正负号化的次数内正负号化的次数 服服从从参数为参数为 的泊松分布。试讨论电报信号的泊松分布。试讨论电报信号的平稳性。的平稳性。 解：解：电报信号的样本曲线如下：电报信号的样本曲线如下：，)(tXtII，t21)()(ItXPItXP,tt)(N均值函数为均值函数为 。当当 时，相关函数为时，相关函数为 )(txtoII02121)()()(IItEXtmX0)()(),(tXtX

47、EttRX)()()()()(2222ItXtXPIItXtXPI02022)(12)(mmmNPImNPIemIemImmmm0220122)!2()()!12()(当当 时，同理可得：时，同理可得：于是，相关函数为于是，相关函数为故此电报信号是平稳过程。故此电报信号是平稳过程。ememImmmm020122)!2()()!12()(.!)(2202eIenInn0.),(22eIttRX，22),(eIttRX2.2 2.2 相关函数的性质相关函数的性质 一、自相关函数的性质一、自相关函数的性质 （1 1） 。 （2 2） 。 证：证： 0)()0(2tEXRX)0()(XXRR)()()

48、()()(tXtXEtXtXERX)()(22tEXtEX 。 （3 3） 。 （4 4） 。 注：注：平稳过程的协方差函数也具有上平稳过程的协方差函数也具有上述几个性质。述几个性质。 定理定理1.1.设设 是平稳过程，是平稳过程，则则 在在 上均方连续的充要条件是相上均方连续的充要条件是相) 0() 0() 0(XXXRRR)()(XXRR0)(11jkjknknjXzzttR),(TttX)(tXT关函数关函数 在在 连续。此时，连续。此时， 必在必在 上连续。上连续。 注注：（：（1 1） 在在 上均方连续的充上均方连续的充要条件是要条件是 在在 上连续。上连续。对于平稳过程，这个条件就

49、变成对于平稳过程，这个条件就变成 在在 连续。连续。（2 2）此时此时 必在必在 上连上连续。因续。因 ，故对于，故对于 ，有，有)(XR0)(tXT),(21ttRX),(Tttt)(XR0)(XRT)(XRT) 0 ()(lim0XXRRT0)()()(0tXtXtXE)()(0XXRR)()()()(0tXtXEtXtXE202)()()(tXtXEtEX) 0 ()(2) 0 () 0 (0XXXXRRRR. )(00即即 。所以。所以 在在 上上连续连续。 二、互相关函数的性质二、互相关函数的性质 定义定义1 1：设设 是是两个平稳过程，若互相关函数两个平稳过程，若互相关函数与与 无

50、关无关 ，则称，则称 与与 平稳相关平稳相关。记作。记作 。)()(lim00XXRR)(XRT,),(TttX),(TttY),(ttRXYt),(TttX),(TttY),()(ttRRXYXY 当当 时，互协方差函时，互协方差函数数 也与也与 无关，无关，记作记作 。 两个性质：两个性质： （1 1） 。 （2 2） 。 注：注： 也具有上述两个性质。也具有上述两个性质。 )(),(XYXYRttRYXXYXYmmRttC)(),(t),()(ttCCXYXY)()(XYXYRR) 0() 0()(YXXYRRR)(XYC 2.3 2.3 各态历经性各态历经性 讨论平稳过程的均值函数和相

51、关函数讨论平稳过程的均值函数和相关函数的近似计算问题。内容包括平稳过程的各的近似计算问题。内容包括平稳过程的各态历经性概念、各态历经定理、各态历经态历经性概念、各态历经定理、各态历经定理的应用。定理的应用。 一、各态历经性概念一、各态历经性概念 近似计算近似计算 和和 的自然想法：的自然想法：Xm)(XR 其中其中 是是 个样本函数。但在个样本函数。但在实际中，这种想法往往很难实现。实际中，这种想法往往很难实现。 根据平稳过程样本函数的几何意义，根据平稳过程样本函数的几何意义，考虑考虑能否利用一个样本函数能否利用一个样本函数 在一个有在一个有限时段限时段 上的实验结果来近似计算：上的实验结果来

52、近似计算： , )(1)(100nkkXtxntEXm, )()(1)()()(10000nkkkXtxtxntXtXER)(,),(1txtxnn)(tx, 0T事实上，只要平稳过程具有所谓的各态历事实上，只要平稳过程具有所谓的各态历经性就可以做到。经性就可以做到。 定义定义1.1.设设 是平稳过是平稳过程，若均方极限程，若均方极限,)(1)(0dttxTtEXmTX.)()(1)()()(0dttxtxTtXtXERTX),(ttX存在，则称此均方极限为存在，则称此均方极限为 的的时间平均时间平均，记为，记为 。若均方极限若均方极限存在，存在，则称此均方极限为则称此均方极限为 的时间相关函

53、数时间相关函数，记作记作 。 dttXTmilTTT)(21),(ttX)(tX,)()(21dttXtXTmilTTT),(ttX)()(tXtX 注注：（：（1 1）时间平均）时间平均 是一个随是一个随机变量，它是机变量，它是 在在 上所上所对应的所有随机变量的平均结果。时间对应的所有随机变量的平均结果。时间相关函数相关函数 是是 的一个随机函的一个随机函数，它是数，它是 在在 上所上所对应的对应的 的所有随机函数的平均结果。的所有随机函数的平均结果。（2 2）相对于时间平均）相对于时间平均 和时间相关和时间相关)(tX)(tXt)()(tXtX)()(tXtXt)(tX函数函数 ，也称均

54、值函数，也称均值函数 和相和相关函数关函数 分别为分别为空间平均空间平均和和空间相关空间相关函数函数。 定义定义2.2.设设 是平稳过是平稳过程，若程，若 ，则称此平稳过，则称此平稳过程具有程具有数学期望的各态历经性数学期望的各态历经性（遍历性遍历性）。）。若若 ，则称此平稳过，则称此平稳过Xm),(ttX1)(XmtXP1)()()(XRtXtXP)()(tXtX)(XR程具有程具有相关函数的各态历经性相关函数的各态历经性（遍历性遍历性）。）。 数学期望的各态历经性和相关函数的各数学期望的各态历经性和相关函数的各态历经性统称为态历经性统称为平稳过程的各态历经性平稳过程的各态历经性。 例例1

55、1设随机初相位简谐波设随机初相位简谐波其中其中 为正常数，为正常数， 在在 上服从均匀分上服从均匀分布。试讨论此随机过程的各态历经性。布。试讨论此随机过程的各态历经性。，)cos()(0tatXt0,a2 , 0 解解：由由2.12.1中例中例2 2讨论知，此随机过讨论知，此随机过程是平稳过程，且程是平稳过程，且 。时间平均时间平均 ，0Xm02cos2)(aRXTTTTTTTTTdttTamildtttTamildttaTmiltXcos)cos(2sin)sin(cos)cos(2)cos(21)(0000时间相关函数时间相关函数.0)sin(limcos)cos(21limcos000X

56、TTTTmTTadttTadttataTmiltXtXTTT)cos()cos(21)()(000dttTamilTTT)22cos()cos(40002. )()cos(202XRa故此平稳过程具有各态历经性。故此平稳过程具有各态历经性。 例例2 2设设 ，其中，其中不服从单点分布和两点分布，且不服从单点分布和两点分布，且 存存 在。试讨论此过程的各态历经性。在。试讨论此过程的各态历经性。 解解. . 均值函数和相关函数为均值函数和相关函数为 即此过程是平稳过程。时间平均和时间相关即此过程是平稳过程。时间平均和时间相关,)(XtXtX2,EXEX，XXmEXtm)(. )(),(2XXREX

57、ttR函数为函数为因为因为 不服从单点分布和两点分布，所以不服从单点分布和两点分布，所以都不成立。故此平稳过程不具有数学期望和都不成立。故此平稳过程不具有数学期望和相关函数的各态历经性。相关函数的各态历经性。TTTXXdtTmiltX,21)(TTTXdtXTmiltXtX.21)()(22，1)(XmtXP1)()()(XRtXtXPX 二、各态历经定理二、各态历经定理 在平稳过程的相关理论中，各态历经定在平稳过程的相关理论中，各态历经定理是近似计算均值函数和相关函数的理论依理是近似计算均值函数和相关函数的理论依据。据。 定理定理1.1.设设 是平稳过程，是平稳过程，则则 的充要条件是的充要

58、条件是 。),(ttX1)(xmtXP0)( )21 (1lim220dmRTTXXTT 证：考虑考虑 的均值和方差的均值和方差)(tXdttEXTdttXTmilEtXETTTTTT)(21lim)(21)(,21limXTTXTmdtmT2222)(21lim)()()(XTTTmdttXTEtXEtXEtXD令令 则则 .)(41lim)()(41lim)()(41lim221122221212221212XTTTTXTXTTTTTXTTTTTmdtdtttRTmdtdttXtXETmdtdttXtXTE ),(21211t),(21212t.2121212121),(),(221221

59、112121ddtddtddtddttt21202202222122221212122)(481lim)(81lim),(),()(41lim)(2XTXTTXDXTXDXTmdRdTmddRTmddttRTtXD1t2tTTTTT2T2T2T212oo于是于是.)()21 (1lim)()21 (1lim)()2(21lim2022222202222202222TXXTXTXTXTXTdmRTTmdRTTmdRTT1)(xmtXP1)()(tXEtXP0)(tXD. 0)()21 (1lim202222TXXTdmRTT 推论推论. .设设 是平稳过程，是平稳过程，若若 ，则，则 。 注：注

60、：上述推论表明当时间间隔无限增大上述推论表明当时间间隔无限增大时两个状态相关程度无限减弱的平稳过程具时两个状态相关程度无限减弱的平稳过程具有数学期望的各态历经性。有数学期望的各态历经性。 例例3 3设随机过程设随机过程 ),(ttX0)(limXC1)(xmtXP,sincos)(00tBtAtX.t其中其中 为正常数，为正常数， 为相互独立的随机变为相互独立的随机变量，且量，且 。试讨论。试讨论此此过程是否具有数学期望的各态历经性。过程是否具有数学期望的各态历经性。 解解. . 均值函数均值函数相关函数相关函数0BA, 0EBEA02DBDA,0sincos)(00XXmtEBtEAtm)(