应用随机过程PPT课件

1、1 应用随机过程应用随机过程 Applied stochastic processesApplied stochastic processes 衣衣 娜娜 TelTel：1825412136018254121360 Email Email： 2定义定义l一般来说，把一组(族) 随机变量随机变量定义为随机过程。 l随机过程是概率论的继续和发展，被认为是概率论的动力学动力学部分。概率论研究对象为：随机变量；随机过程研究对象为：随时间演变的随机现象。XX(t)3起源与发展起源与发展l随机过程是随机数学的一个重要分支，产生于20世纪初对物理学的研究，如吉布斯、波尔兹曼、庞加莱等人对统计力学的研究。l1

2、907年前后，马尔科夫(Markov)研究了一系列有特定相依性的随机变量，后人称之为Markov链链；1923年维纳给出布朗布朗(Brown)运动运动的数学定义，这一过程成为一个重要的研究课题。l一般理论的研究通常认为开始于20世纪30年代：1931年，柯尔莫哥洛夫柯尔莫哥洛夫(Kolmogorov)概率论的解析方法，1934年辛钦辛钦(Khinchine)发表了平稳过程的相关理论，这两篇著作奠定了马尔科夫过程与平稳过程的理论基础。1953年，杜布杜布(Doob)出版了名著随机过程论，系统且严格地叙述了随机过程基本理论。 4应用与研究方法应用与研究方法l天气预报、统计物理、天体物理、运筹决策、

3、经济数学、安全科学、人口理论、可靠性及计算机科学、金融等很多领域都要经常用到随机过程的理论来建立数学模型。l主要研究方法可以分为两大类：l一类是概率方法，其中用到轨道性质和随机微分方程等；l另一类是分析的方法，其中用到测度论、微分方程、半群理论、希尔伯特空间等。 5学习内容学习内容u第一章第一章 预备知识预备知识u第二章第二章 随机过程的基本概念和基本类型随机过程的基本概念和基本类型u第三章第三章 Poisson过程过程u第五章第五章 Markov链链u第七章第七章 Brown运动运动6第第1章章 预备知识预备知识1.1 概率空间概率空间1.2 随机变量和分布函数随机变量和分布函数1.3 数字

4、特征、矩母函数与特征函数数字特征、矩母函数与特征函数1.4 条件概率、条件期望和独立性条件概率、条件期望和独立性1.5 收敛性收敛性7 1. 可以在相同的条件下重复地进行可以在相同的条件下重复地进行; 2. 每次试验的可能结果不止一个每次试验的可能结果不止一个,并且能事并且能事先明确试验的所有可能结果先明确试验的所有可能结果; 3. 进行一次试验之前不能确定哪一个结果进行一次试验之前不能确定哪一个结果会出现会出现. 在概率论中在概率论中,把具有以下三个特征的试验称把具有以下三个特征的试验称为为随机试验随机试验.1.1 概率空间概率空间一、随机试验：一、随机试验：8二、样本空间二、样本空间： 随

5、机试验随机试验 E 的所有可能结果组成的集合的所有可能结果组成的集合称为称为 E 的的样本空间样本空间, 记为记为 . 样本空间的元素样本空间的元素 , 即试验即试验E 的每一个结果的每一个结果, 称称为为样本点样本点.例例 从一批产品中从一批产品中,依次任选三件依次任选三件,记录出现正品与记录出现正品与次品的情况次品的情况.,. NNN NND NDN DNN NDD DDN DND DDD .,次次品品正正品品记记DN9.),(-, 2 , 1,32;1.,1元素为事件中的为可测空间，代数，为则称为则、若；，则、若、。若满足：某些子集组成的集合族是是它的样本空间是随机试验设FFFFAnFA

6、FAFAFFEnnn三、三、 -代数代数(事件域事件域)10 首先，应该包括样本空间首先，应该包括样本空间 和空集和空集 ； 其次应该保证事件经过并、交、差、补各种运其次应该保证事件经过并、交、差、补各种运算后仍然是事件，即其算后仍然是事件，即其对事件的运算有封闭性对事件的运算有封闭性。（交的运算可以通过并与对立来实现；差的运算可（交的运算可以通过并与对立来实现；差的运算可通过对立与交来实现）通过对立与交来实现） -代数代数从直观上讲就是从直观上讲就是一个样本空间中某些一个样本空间中某些子集组成的集合类子集组成的集合类， -代数中应该有哪些元素？代数中应该有哪些元素？ 常见常见 -代数代数：1

7、,;A A F11 设R.由所有半无限区间 生成-代数（即包括集族 的最小-代数）称为R上的Borel -代数，记为B(R),其中的元素称为Borel集合。类似的可定义Rn上的Borel -代数，记为B(Rn)。四、四、Borel -代数代数(, )x(, ),xxR12五、事件概率五、事件概率的概率。为事件称为概率空间，上的概率，是则称时、若；、任意。若满足：实值函数上的是定义在为可测空间设AAPPFFPAPAPjiAAPAPFAFPFiiiiji)(),(),(, )()(,31)(2; 1)(0 ,1)(,),(1113六、性质六、性质 1、 2、 ； 3、 ； 4、 ； 5、 6、 B

8、PAPBA11iiiiAPAPP(AB)+P(AB) = P(A)+P(B)； ( )ABP BAP BP A11,1,( )lim();nnnnnnnAAAAnAAP AP A即且11,1,( )lim();nnnnnnnAAAA nAAP AP A即且1411limlim suplimlim infnnnnnkn knnnnnkn k A AA A AA七、上极限与下极限七、上极限与下极限 上极限中的元素属于无限个集合，但同时也有可能上极限中的元素属于无限个集合，但同时也有可能“不不”属于属于“无限个无限个”集合，而下极限中的元素属于无限集合，而下极限中的元素属于无限个集合，同时只个集合，

9、同时只“不不”属于属于“有限个有限个”集合。集合。 上极限下极限 上极限：下极限：00:,nnnnA 00:,nnnnA 15例：例：S1=S3=S5=.=0,1 ； S2=S4=S6=.=0 ，注：一个集合序列的上极限是它们的可数并，注：一个集合序列的上极限是它们的可数并，也就是也就是包含包含这些集合的最小集合。这些集合的最小集合。 一个集合序列的下极限是这些集合的可数一个集合序列的下极限是这些集合的可数交，也就是交，也就是包含在包含在所有集合里的最大集合。所有集合里的最大集合。 上极限上极限= 0,1，下极限下极限=0。161.2 1.2 随机变量和分布函数随机变量和分布函数一、分布函数一

10、、分布函数.x),x)()x()(x)(RxR ,P)F,( 的分布函数为随机变量称函数上的随机变量。是，则称）（都有实数的函数，如果对于任意于实数集上，取值是定义在是概率空间设XXPFFXFXX17基本性质基本性质： (1) F(x) 单调不降；单调不降； (2) 有界：有界：0 F(x) 1，F()=0，F(+ )=1； (3) 右连续右连续. (4)18 xxkkpxXPxF)(分布函数分布函数分布列分布列kkxXPp 离散型随机变量分布列与分布函数的关系离散型随机变量分布列与分布函数的关系xttfxFxfxFXd)()()(, )(密度函数的分布函数连续型随机变量密度函数与分布函数的关

11、系连续型随机变量密度函数与分布函数的关系19二、联合分布与边际分布二、联合分布与边际分布20联合分布唯一确定边际密度联合分布唯一确定边际密度, ,反之不成立反之不成立. .此例两个密度函数显然不同，密度函数非零区域相同此例两个密度函数显然不同，密度函数非零区域相同. .边际密度如下边际密度如下: : 反反之之 , 01,0 ,yxyxyxf 反反之之 , 01,0 ,2121,yxyxyxg21 X X边际密度边际密度: : 利用密度函数的轮换对称性利用密度函数的轮换对称性, ,可得可得Y Y边际密度也相同边际密度也相同均为均为1/2 + 1/2 + y y . .101011 22, ( )

12、 1, 012, 1, 01 2xyfx ydyxydyxxg x ydydyxx22三、常见分布三、常见分布232425一、数学期望一、数学期望 1d ( )()iiixf x dxEXX PxdF xxP XxdF xP xXxx1.3.1 数字特征数字特征1.3 1.3 数字特征、矩母函数与特征函数数字特征、矩母函数与特征函数连续型随机变量离散型随机变量二、随机变量函数的期望二、随机变量函数的期望 g ddYXE YE g Xg x Pg xF x26三、矩三、矩1、普通普通k k阶矩阶矩2、k k阶绝对矩阶绝对矩3、k k阶中心矩阶中心矩 kkE Xx dF x kkEXx dF x

13、kkEXEXxEXdF x 物理上，一阶矩是重心，二阶矩是转动惯量物理上，一阶矩是重心，二阶矩是转动惯量; ; 二阶中心矩为方差，方差表示稳定性。二阶中心矩为方差，方差表示稳定性。注注: :222()()() () .Var XEXEXE XE X27四、四、n维随机向量维随机向量1,nXX1,nF xx1,ng xx111,nnnE g XXg xx dF xx 是n维随机向量，分布函数为 ，若 为n维Borel函数，则：11111,nnkkkknnnE XXXXdF xx 特别地：11,nnXXkk的称为 阶矩. 28 cov, =X YE XEXYEYE XYE X E Ycovcovc

14、orrvar() var( )XYX,YX,YX,YXY （）（）（）五、协方差与相关系数五、协方差与相关系数随机变量X与Y的协方差协方差为：随机变量X与Y的相关系数相关系数为：29六、性质六、性质oo2oooo1( )Var( )0;2()(),Var()Var();3()()( );4,()() ( ),Var()Var()Var( )5()2cov(, );6cov,cov(, ).E CCCE CXCE XCXCXE XYE XE YX YE XYE X E YXYXYVar XYVarXVarYX YaX bYabX Y，；（）=相互独立301.3.2 矩母函数矩母函数 设随机变量X

15、的分布函数为F(x)，则X的矩矩母函数母函数定义为：()( )()(d)d( )( ) ()itXtXtxXtxtxiitE eePeF xe f x dxe P XxX是连续型的；X是离散型的.当矩母函数存在时，它唯一地决定分布当矩母函数存在时，它唯一地决定分布.泊松分布： 正态分布：exp (1)te2 2exp2tt31例：设X与Y是独立的正态随机变量，且 求X+Y的分布.221122(,),(,)XNYN ()( )( )( )t X YX YtXtYXYtE eE eE ett2 22 2121222( ),( )ttttXYtete而，分析：分析：2 22 212122221212

16、22()()2( )( )( )=eettttXYXYttttt所以， X+Y服从正态分布.322( )( ),( ),( ).tXtXnntXtE XetE X etE X e矩母函数可用来推导随机变量的各阶矩矩母函数可用来推导随机变量的各阶矩矩母函数与各阶矩关系：矩母函数与各阶矩关系：令t=0,得到( )(0).nnEX331.3.3 特征函数特征函数()( )()( )( ) ()iitXitXitxXitxitxiitE eeP de dFxef x dxeP XxX的特征函数定义如下：X是连续型的；X是离散型的.34 特征函数与分布函数一一对应； 设Y=aX+b，Y的特征函数是： 两

17、个相互统计独立的随机变量和的特征函数等于各个随机变量特征函数的积 ； 特征函数与随机变量的数字特征的关系：)()(0)(kktkXEit特征函数的性质：特征函数的性质：( )()ibtYteat1212XXXX 3536371.4 1.4 条件概率、条件期望和独立性条件概率、条件期望和独立性1.4.1 1.4.1 条件概率条件概率条件概率：条件概率：设E为随机试验，为其样本空间，A、B为任意两个事件，若P(B)0, 则事件A关于事件B的条件概率为：|P ABP A BP B（）（）（ ）全概率公式与贝叶斯公式全概率公式与贝叶斯公式设 是的一个分割，且使得nB()0,1,2,iP Bi则（1）对

18、任意事件A，有 )|)(1iiniBAPBPAP（）（2）对任意事件A ，若 ，有0）（AP)|)|)|(1iiniiiiBAPBPBAPBPABP（）（）（38条件密度函数条件密度函数 如果有联合概率密度函数f(x,y)，给定Y=y时X的条件概率密度函数条件概率密度函数定义为：( , )( | )( , )df x yf x yf x yx391.4.2 1.4.2 条件期望条件期望给定Y=y时，X的条件分布条件分布定义为：(|)(|)( |, )()( |iiiYx P Xx YyE X YyxdF x yxf xf x yxdxy dxfy( | )|( | )xF x yP Xx Yy

19、f x y dx给定Y=y时，X的条件期望条件期望定义为：40条件期望的性质条件期望的性质 E(X|Y)表示随机变量Y的函数，是一个随机变量，当Y=y时E(X|Y)的取值为E(X|Y=y) ； E(X|Y)的数学期望为(重期望公式)：它具有数学期望的一切性质：1()() ()jjiE E X YE X YyP YyEXE c YcE aXbY ZaE X ZbE Y Z (, ) (, )E E g X Y YE g X Y41注：注：X在在Y=y的条件下的条件期望的条件下的条件期望E(X|Y=y) 是是y的函数的函数,它是一个变量它是一个变量, 这不同于无条件期望这不同于无条件期望E(X)

20、, 不仅在于计算公式上，还在于含义上不仅在于计算公式上，还在于含义上. 如：如：X表示中国成年人的身高表示中国成年人的身高, 则则EX表示中国表示中国成年人的平均身高成年人的平均身高. 若用若用Y表示中国成年人的足长，表示中国成年人的足长，则则E(X|Y=y)表示足长为表示足长为y的中国成年人的平均身高的中国成年人的平均身高. 我国公安部门研究获得：我国公安部门研究获得： E(X|Y=y) =6.876y，若测得案犯留下的足印长为若测得案犯留下的足印长为25.3cm,则可推算出案则可推算出案犯的身高约犯的身高约174cm。42例例: 设随机向量(X,Y)的联合分布率为 1 2 3 1 2XY1

21、316191929118求E(X|Y)的分布率，E(X) 以及E E(X|Y) .解：解： 先求E(X|Y)的可能取值215(1)(1)4iE X YiP Xi Y2111(2)(2)7iE X YiP Xi Y43故E(X|Y)的分布率为()E X Y( ()()()jjP E X YE X YyP Yy54117434971816541174125( ()497183618E E X Y1172512181818EX 从而 E(X) =E E(X|Y). 214(3)(3)3iE X YiP Xi Y44例例: 设数Y在区间(0,1)上随机地取值,当观察到Y=y(0y1)时, 数X在区间(

22、y,1)上随机取值. 求X的概率密度fX(x)， ， .其它, 010, 1)(yyfY 对于任意的y(0y0,由由第二引理该事件连续五次成功出现无穷多次的概第二引理该事件连续五次成功出现无穷多次的概率为率为1.随机过程实例随机过程实例53 设设X1，X2相互独立，其分布函数分别为相互独立，其分布函数分别为F1(x), F2(x), X= X1+ X2 ,则则121211211221( )()()( )()( )()( )()( )XFxP XXxP XXx Xt dF uF xt dF uFFxFFx1.4.3 1.4.3 独立随机变量和的分布独立随机变量和的分布54卷积的性质：卷积的性质：

23、1221(1) ()( )()( )FFxFFx(2) ()( )()( )F GHxFG Hx(3) ()( )()( )()( )FGHxFGxFHx(4) 设Xk,k=1,2, ,n,是独立同分布F(x)的随机变量，1,1,2,nnkkSXnSn的分布函数记为Fn(x),则其中：1( )()( ), 1,2,3,nnF xFFxn00,0( )1,0 xF xx551.5 1.5 收敛性收敛性如果如果 随机变量序列随机变量序列 以概率以概率1收敛于收敛于X，或，或称称 几乎处处收敛于几乎处处收敛于X，记作，记作 1limXXPnn则称则称nXnX. .a snXX56如果如果 对于任意给

24、定的正数对于任意给定的正数 ，有，有 随机变量序列随机变量序列 依概率收敛于依概率收敛于X，记作，记作 nX则称则称00|limXXPnnXXPn57如果如果对于所有的对于所有的 有有存在随机变量存在随机变量X，有，有 随机变量序列随机变量序列 以以p次均方收敛次均方收敛于于X. 若若p=2称为称为均方收敛均方收敛，记作：，记作： 使得使得 nXnX| pnE X| pEX lim| 0pnnEXX. .l.i.mm snnnXXXX 或58设设 是是 的分布函数列，如果存在一个的分布函数列，如果存在一个单调不减函数单调不减函数 ，使在，使在 的所有的所有连续点连续点x上上有有则称随机变量序列

25、则称随机变量序列 依分布收敛依分布收敛于于X，记作，记作 nX( )nF x)(xF)(xF)()(limxFxFnnLnXX nX称函数列称函数列 弱收敛于弱收敛于 .( )nF x)(xF59以概率以概率1 收敛收敛依概率收敛依概率收敛均方收敛均方收敛依分布收敛依分布收敛几种收敛性的关系几种收敛性的关系 均方收敛与以概率均方收敛与以概率1收敛不存在确定的关系。收敛不存在确定的关系。 注注60从而从而 . 0lim XXPnn 22XXEXXPnn 证证 由马尔科夫不等式由马尔科夫不等式,对对 有有 0 证明证明 随机变量序列随机变量序列Xn均方收敛均方收敛于于X, 则一定则一定依概率收敛依

26、概率收敛于于X.61本章作业本章作业l设XB(n,p), 求X的特征函数g(t), 及EX，EX2，VarX；l设X和Y的联合概率函数为： 求 .21XE eY1,0,02( , )20,xyyexyf x y 其它62第第2 2章章 随机过程的基本概念和基本类型随机过程的基本概念和基本类型 2.1 基本概念基本概念 2.2 有限维分布与有限维分布与Kolmogorov定理定理 2.3 随机过程的基本类型随机过程的基本类型63自然界变化的过程可以分为自然界变化的过程可以分为确知过程确知过程和和随机过程随机过程两大类两大类每次观测所得结果都相同，都是时间每次观测所得结果都相同，都是时间t的一的一

27、个确定的函数，具有确定的变化规律。个确定的函数，具有确定的变化规律。每次观测所得结果都不同，都是时间每次观测所得结果都不同，都是时间t的不的不同函数，观测前又不能预知观测结果，没同函数，观测前又不能预知观测结果，没有确定的变化规律。有确定的变化规律。确知确知过程过程随机随机过程过程2.1 2.1 基本概念基本概念64电话站在时刻电话站在时刻 t 时以前接到的呼叫次数时以前接到的呼叫次数例例1一般情况下它是一个随机变数一般情况下它是一个随机变数X ，并且，并且依赖时间依赖时间t，即随机变数，即随机变数X(t)，t 0,24。例例2研究某一商品的销售量研究某一商品的销售量一般情况下它是一个随机变数

28、一般情况下它是一个随机变数X ，并且，并且依赖时间依赖时间t，即随机变数，即随机变数X(t)，t =1,2, 。直观背直观背景景及例子及例子65顾客来到服务站要求服务。顾客来到服务站要求服务。用用X(t)表示表示 t 时刻的队长，用时刻的队长，用Y(t) 表示表示 t 时刻时刻到来的顾客所需的等待时间，则它们都是随到来的顾客所需的等待时间，则它们都是随机过程。机过程。一个醉汉在路上行走，以概率一个醉汉在路上行走，以概率 p前进一步，以概率前进一步，以概率1-p后退一步（假设步长相同）。以后退一步（假设步长相同）。以X(t)记他记他 t 时刻时刻在路上的位置，则在路上的位置，则X(t), t0就

29、是（直线上的）随机就是（直线上的）随机游动。游动。例例3排队模型排队模型例例4随机游走随机游走66随机过程定义随机过程定义说明说明 参数集参数集T：可离散可连续可某集合：可离散可连续可某集合, 如果如果 T 为向量集合，则随机过程称为随机场；为向量集合，则随机过程称为随机场； 随机序列或时间序列：随机序列或时间序列：X(n), n = 0, 1, 或或X(n), n0； 随机过程是随机变量的集合。随机过程是随机变量的集合。67 当当 t 固定，固定，固定时，固定时， X(t) 是一个是一个确定值确定值； 当当 t 固定，固定，可变时，可变时， X(t) 是一个是一个随机变量随机变量； 当当 t

30、 可变，可变，固定时，固定时， X(t) 是一个确定的是一个确定的样本路样本路径或样本函数径或样本函数； 当当 t 可变，可变，可变时，可变时， X(t) 是一个随机过程随机过程。符号含义符号含义 随机过程随机过程 可看成定义在积集可看成定义在积集 上的二元函数上的二元函数 , tX TT68X(t1,)X(t2,)X(t,1)X(t,2)X(t,3)t1t2tn图示图示69状态状态时刻时刻连续型随机过程连续型随机过程连续连续连续连续连续随机序列连续随机序列连续连续离散离散离散型随机过程离散型随机过程离散离散连续连续离散随机序列离散随机序列离散离散离散离散随机过程的分类随机过程的分类70随机过

31、程的分布函数随机过程的分布函数2.22.2有限维分布与有限维分布与KolmogorovKolmogorov定理定理 l随机过程的一维分布：随机过程的一维分布： l随机过程的二维分布：随机过程的二维分布： l随机过程的随机过程的n维分布：维分布： )(),(xtXPxtF TttxtXxtXPxxFtt 21221121,)(,)(),(21TtttxtXxtXxtXPxxxFnnnntttn,)(,)(,)(),(21221121,2171l有限维分布族：随机过程的所有一维分布，二维分有限维分布族：随机过程的所有一维分布，二维分布，布，n维分布等的全体称为维分布等的全体称为X(t), t T的

32、有限维的有限维分布族分布族有限维分布族有限维分布族 12, ,1212(,), , ,1nt ttnnFx xxt ttT n72定理定理2. 1 (Kolmogorov存在定理存在定理) 设一分布函数族满足对称性和相容性，则设一分布函数族满足对称性和相容性，则必存在一个随机过程必存在一个随机过程X(t),tT，使得这个分，使得这个分布函数族恰好是布函数族恰好是X(t) 的有限维分布族。的有限维分布族。有限维分布族的性质有限维分布族的性质 对称性对称性:121212, ,12(,)(,)nnjjjntttjjjt ttnFxxxFx xx相容性相容性:1112,1, ,1(,)(,)mmnmt

33、tttmt ttmFxxFxx 731.袋中放有一个白球，两个红球，每隔单位时间从袋中袋中放有一个白球，两个红球，每隔单位时间从袋中任取一球，取后放回，对每一个确定的任取一球，取后放回，对每一个确定的 t 对应随机变量：对应随机变量：试求这个随机过程的一维分布函数族。试求这个随机过程的一维分布函数族。分析分析先求概率密度例题例题 74所以所以解解:3tte)(tX3231P75随机过程的数字特征随机过程的数字特征均值函数均值函数说明说明二阶矩过程二阶矩过程 如果对任意的如果对任意的tT, EX2(t)存在，则称过程存在，则称过程X(t),tT为二阶矩过程为二阶矩过程.76协方差函数协方差函数(

34、 , )( )( )( )( ),XXXs tEX ssX tts tT方差函数方差函数( )var( )( , )XDtX tt t自相关函数自相关函数( , )( )( ),XRs tE X s X ts tT( , )( , )( )( )XXXXs tRs tst公式公式自相关系数自相关系数( , )( , )( )( )XXXXs ts tDsDt77 互协方差函数互协方差函数( , )( )( )( ( )( ),XYXYs tEX ssY tts tT互相关函数互相关函数( , )( ) ( ),XYRs tE X s Y ts tT互不相关互不相关( , )0XYs t78小小

35、 结结X(t)X(t)、Y(t)均值函数均值函数协方差函数协方差函数自相关函数自相关函数互协方差函数互协方差函数互相关函数互相关函数自相关系数自相关系数79 2.设随机过程设随机过程 ， ，C为常数，为常数，R服从服从0,1区间上的均匀分布。区间上的均匀分布。 求其均值函数、自相关函数和协方差函数求其均值函数、自相关函数和协方差函数 。CtRtX)(), 0(t解：解：其均值函数为其均值函数为CtCRtECRtEtEXtX2)()()()(自相关函数为自相关函数为22222)(231)()()()()()()(),(CtsCstCRECsCtRstECCRsCRtstRECRtCRsEtXsX

36、EtsRX例题例题 8012)4)()()4()2)(2()2()(2()()()()()(),(22ststRstERstEstRststREtRtsRsECtCRtCsCRsEttXssXEtsXX协方差函数为协方差函数为81di i . . 故故X(t)N(0, 1+t2),随机过程随机过程X(t), t 0的一维的一维概率密度概率密度:解：解： 因因Y, Z为正态随机变量且相互独立，则其线为正态随机变量且相互独立，则其线性组合性组合X(t)也是正态随机变量，也是正态随机变量，22( )()0var ( )var()varvar1XXtE YZtEYtEZtYZtYtZt 3.设设X(t

37、)=Y+Zt, t0，Y, Z 服从服从N(0, 1),Y,Z相互独相互独立，求立，求X(t), t0的一、二维概率密度族的一、二维概率密度族.222221()1( )expexp,022(1)22 (1)txxf xttt82)1)(1 (1)()(),(),(22tssttDsDtstsXXXXstststZYZtZYsYEZtYZsYEtstXsXEtsXX1001)()()()()()(),(220, 1)1)(1 (21)1 (21exp)1)(1)(1 (21),(2222221221222221,tstxtsxxsxtsxxfts 随机过程随机过程X(t), t0的二维概率密度的

38、二维概率密度83 作业：作业：P31 2.4 ，2.5.842.3 2.3 随机过程的基本类型随机过程的基本类型 2.3.1 平稳过程（时间平移）平稳过程（时间平移）2.3.2 独立增量过程（时间增量）独立增量过程（时间增量）85 如果一个过程是平稳过程，则它的性质不如果一个过程是平稳过程，则它的性质不随时间的推移而变化，只与变量之间的时间间随时间的推移而变化，只与变量之间的时间间隔有关，而隔有关，而与所考察的起始点无关与所考察的起始点无关。2.3.1 2.3.1 平稳过程平稳过程 平稳过程根据限制条件的严格程度分为平稳过程根据限制条件的严格程度分为严严平稳过程平稳过程和和宽平稳过程宽平稳过程

39、。86如果随机过程 X(t), tT对任意的t1,tnT和任意的h(使得ti+hT)有，(X(t1+h), X(tn+h)与(X(t1), , X(tn)具有相同的联合分布，记为严平稳过程严平稳过程 11(),()( ),( ),nnX thX thX tX td则称X(t), tT为严平稳过程。有限维分布关于时间是平移不变的有限维分布关于时间是平移不变的87如果随机过程X(t), tT的所有二阶矩都存在，并且EX(t)=m, 协方差函数(s, t)只与时间差t-s有关，则称X(t), tT为宽平稳过程或二阶平稳过程。宽平稳过程宽平稳过程 注注: ； (-t)=(t), (0)=var(X(t

40、), |(t)|(0); (t)具有非负定性： 。0s ttsts,11()0nnijijija att88严平稳过程不一定是宽平稳过程，严平稳过程不一定是宽平稳过程， 因为严平稳因为严平稳的过程不一定有二阶矩，但当严平稳过程二阶的过程不一定有二阶矩，但当严平稳过程二阶矩存在时，则它一定是宽平稳过程。矩存在时，则它一定是宽平稳过程。 宽平稳过程不一定是严平稳过程，但对于正态宽平稳过程不一定是严平稳过程，但对于正态过程，两者是等价的。过程，两者是等价的。当参数当参数 t 仅取整数时，称为仅取整数时，称为平稳序列平稳序列。严平稳和宽平稳的关系严平稳和宽平稳的关系 89 设设Xn,n=0, 1,是互

41、不相关的随机变量序列是互不相关的随机变量序列,且且EXn=0,Var(Xn)= 20,讨论其平稳性讨论其平稳性. mnmnXEXmn02故其均值函数为常数故其均值函数为常数,其协方差函数其协方差函数 (n,m)只与只与m-n有关有关, 所以它是平稳随机过程。所以它是平稳随机过程。平稳白噪声序列平稳白噪声序列 解解: 因为因为EXn=0,90 设 ,n=0,1,是互不相关的随机变量序列,且有相同的均值m和方差2,设 为任意k个实数，讨论序列 的平稳性. 滑动平均序列滑动平均序列 n12,ka aa1211,0, 1,nnnkn kXaaan 解解:12()nkEXm aaa令 ，则由 的两两互不

42、相关性知： jjmj11111121 1(, )()()()()0-1,(),.0,nknknkn knknkkknnEXm aaXm aaE aaaaka aaak 若若故Xn ,n=0,1,为平稳序列.91设设 ，则，则 的是平稳过程。的是平稳过程。( )cos(),(0,2 ),0X tatU ( ),X t tR201 ( )cos()02E X tatd其协方差函数为其协方差函数为22202220()( )cos( ()cos()cos()cos()2cos(2)2coscos42E X tX tE attattdaatd例题例题证明证明: 其均值为其均值为所以，所以， 是平稳过程。

43、是平稳过程。( ),X t tR92 遍历性是指统计结果在时间和空间上的统一性，遍历性是指统计结果在时间和空间上的统一性，表现为时间均值等于空间均值。例如要得出一个城表现为时间均值等于空间均值。例如要得出一个城市市A、B两座公园哪一个更受欢迎，有两种办法。两座公园哪一个更受欢迎，有两种办法。 第一种办法是在某一个时点考察两个公园的人第一种办法是在某一个时点考察两个公园的人数，人数多的为更受欢迎公园；第二种办法，随机数，人数多的为更受欢迎公园；第二种办法，随机选择一名市民，在一年的时间里考察他去两个公园选择一名市民，在一年的时间里考察他去两个公园的次数，去得多的为更受欢迎公园。如果这个两个的次数

44、，去得多的为更受欢迎公园。如果这个两个结果始终一致，则表现为遍历性。结果始终一致，则表现为遍历性。 遍历性问题遍历性问题 93 如果按照数学期望的定义来计算平稳过程如果按照数学期望的定义来计算平稳过程X(t)的数字特的数字特征，就需要预先确定征，就需要预先确定X(t)的一族样本函数或一维、二维分布的一族样本函数或一维、二维分布函数，这实际上是不易办到的。函数，这实际上是不易办到的。 平稳过程的统计特性是不随时间的推移而变化的平稳过程的统计特性是不随时间的推移而变化的，于是，于是我们自然希望在一个很长时间内观察得到的一个样本曲线，我们自然希望在一个很长时间内观察得到的一个样本曲线，可以作为得到这

45、个过程的数字特征的充分依据。可以作为得到这个过程的数字特征的充分依据。 各态遍历定理将证实：对平稳过程而言，只要满足一些各态遍历定理将证实：对平稳过程而言，只要满足一些较宽的条件，则较宽的条件，则均值和自相关函数等可以用一个样本函数均值和自相关函数等可以用一个样本函数在整个时间轴上的平均值来代替在整个时间轴上的平均值来代替。各态遍历定理提供了根。各态遍历定理提供了根据实验记录确定平稳过程的均值和自相关函数的理论依据据实验记录确定平稳过程的均值和自相关函数的理论依据和方法。和方法。遍历性定理的必要性遍历性定理的必要性94 设设 为一平稳过程为一平稳过程( (或平稳序列或平稳序列) )，若若( )

46、,X tt 1lim2TTTXX t dtmT或或 1lim21NNkNXX kmN则称则称 X 的均值的均值具有遍历性。此处极限为均方意义，具有遍历性。此处极限为均方意义，即即 21lim02TTTEX t dtmT平稳过程遍历性定义平稳过程遍历性定义95如果如果 1( )lim()()( )2TTTX tm X tm dtT 或或 1( )lim()()( )21NNkNX km X kmN 则称则称X的协方差的协方差具有遍历性。若一个随机过程的具有遍历性。若一个随机过程的均值和协方差函数都具有遍历性，则称均值和协方差函数都具有遍历性，则称随机过程随机过程具有遍历性。具有遍历性。96（1）

47、设）设X=Xn,n=0, 1, 2, 是平稳序列，其是平稳序列，其协方差函数为协方差函数为 ，则，则X有遍历性的充要条件是有遍历性的充要条件是( ) t101lim( )0NNttN（2）设）设X=Xt,-t+ 是平稳过程，则是平稳过程，则X有遍历有遍历性的充要条件是性的充要条件是201lim(1) ( )02TTdTT 均值遍历性定理均值遍历性定理97 2222221lim21lim()41lim()()41lim()4varTTTTTTTTTTTTTTTTEX t dtmTEX tm dtTEX tmX sm dtdsTts dtdsTXEXEX 证明证明( (连续时间连续时间) )首先计

48、算 的均值和方差，记X 12TTTXX t dtT则有 1limlimlim2TTTTTTTEXEXEXE X tdtmT进而98在上述积分中做变换tsvts 则变换的Jacobi行列式的值为1111112J: 22DTvT 于是积分区域变为所以有99222222(2)22222020111lim()( )4421lim( )81lim( )(2)41lim( )(2)21lim( )(1)2TTTTTDTTTTTTTTTTTTts dtdsd dvTTddvTTdTTdTdTT 故关于均值的遍历性定理就化为上式极限是否趋于零的问题，定理得证。100设设 ，则，则 的均值有遍历性。的均值有遍历

49、性。( )cos(),(0,2 ),0X tatU ( ),X t tR例题例题证明证明: 已证已证 是平稳过程是平稳过程.( ),X t tR20220222201(1) ( )2(1)cos()22sin(2)cos()24TTTdTTadTTaTadTT 又又22222sin(2)1112 sin(2)cos(2)240 ()aTaTTTTTT所以，所以， 的均值有遍历性的均值有遍历性.( ),X t tR101练习：练习：已知随机电报信号已知随机电报信号 | |( )0,( ).XE X tRe 问问X(t)是否是关于均值遍历的是否是关于均值遍历的. . 2220111lim(1)li

50、m022TTTTeedTTTT 解：解：所以所以X(t)是关于均值遍历的是关于均值遍历的. . 2201lim(1)( )2TXXTRdTT 102推论推论1：若：若( ) t dt 则均值遍历性定理成立。则均值遍历性定理成立。1( )( )2T 证明：因为，当证明：因为，当 时，有时，有02T220020011( )(1)( )(1)2211( )( )0TTTddTTTTddTT 均值有遍历性的充分条件均值有遍历性的充分条件( (连续时间连续时间) )103推论推论2：对于平稳序列而言，若：对于平稳序列而言，若( )0 ()tt 则均值遍历性定理成立。则均值遍历性定理成立。101lim(

51、)lim(1)0NNNNN 10,( )NNNxN y 11limlimNNNNNNNNyyyxxx此处令此处令证：因为当证：因为当 ，由，由Stoltz定理定理( )0 tt 时，均值有遍历性的充分条件均值有遍历性的充分条件( (离散时间）离散时间）Stoltz定理定理104协方差函数遍历性定理协方差函数遍历性定理设设X=Xt,-t+ 是平稳过程，其均值函数为零，是平稳过程，其均值函数为零，则协方差函数有遍历性的充要条件是则协方差函数有遍历性的充要条件是2211101lim(1)( ( )( )02TTBdTT ，其中其中111( ) () () () ( ).BE X tX tX tX t

52、 注：注：X的协方差函数的协方差函数 具有遍历性，等价于随机过程具有遍历性，等价于随机过程均值具有遍历性。均值具有遍历性。( ) ( )()( )Y tX tmX tm105 一个平稳过程一个平稳过程X(t)，只要满足上述两条件，只要满足上述两条件，便可以从一次试验所得到的样本函数便可以从一次试验所得到的样本函数x(t)来求得该来求得该过程的均值和自相关函数的估计。即：若样本函过程的均值和自相关函数的估计。即：若样本函数数x(t)在有限区间在有限区间-T，T，只要，只要T足够大，便有足够大，便有 1lim( ),2TXTTx t dtT 1( )( )().2TXTx tmx tm dtT 遍

53、历性定理的价值遍历性定理的价值106 对任意实数对任意实数 h及任意及任意t1 , t2有有 对任一正整数对任一正整数n及任意及任意 随随机变量机变量,21intttTt 2( )( )( )( )( )()nnX tX tX tX tX tX t2131,相互独立，则称相互独立，则称X(t),tT为为独立增量过程独立增量过程。过程过程增量增量1122()( )()( )dX thX tX thX t2.3.2 2.3.2 独立增量过程独立增量过程 则称则称X(t),tT为为平稳增量过程平稳增量过程。兼有独立增量和平稳增量的过程称为兼有独立增量和平稳增量的过程称为平稳独立增量过程平稳独立增量过

54、程。107作业作业P31 2.2, 2.3, 2.6.108dtsttsttABdsBtAsYtXEstRtsBAtBtYtAtXXY)(sin()cos( )(cos()sin()sin(221)sin()sin()()(),(,.20,),sin()(),sin()(42020则有：设随机变量上均匀分布的，为为常数，其中：考虑两个随机过程例109. 0)(cos(21)cos()sin()(sin()(sin)(cos(220202得第二项积分用倍角公式降幂，第一项积分用倍角公式tsABdtttsdttsAB110)()()()()()(),()()()()()()()()(tYtXsYs

55、XEtWsWEtsRtttEYtEXtYtXEtEWtWYXW设设X(t)为信号过程，为信号过程，Y(t)为噪声过程，为噪声过程，W(t)=X(t)+Y(t)，求求W(t)的的均值函数和相关函数。均值函数和相关函数。( )( )( ) ( ) ( )( )( ) ( )( )( )( ) (t) ( )( ) ( ) ( )( , )( , )( , )( , )XXYYXYE X s X tX s Y tY s X tY s Y tE X s X tE X s YE Y s X tE Y s Y tRs tRs tRs tRs t111 例例3随机过程随机过程X(t)=tY,t (- ,+

56、),Y为非为非0随机变随机变量，量，E(Y2)+ ,讨论讨论X(t)平稳性。平稳性。 解解：)()(),(2YEttYttYEttRX )(YtEtYEtXE )(22222 YEtYtEtXE当当E(Y)E(Y) 0 0时，时，X(t)X(t)不是平稳过程。不是平稳过程。当当E(Y)E(Y)=0=0时，假设时，假设E(YE(Y2 2) )=Var=Var(Y)(Y) = =0 0，则，则PY=0=1PY=0=1，与已知矛盾！，与已知矛盾！)(),(2YEttttRX 与与t t有关。有关。所以，所以，X(t)X(t)不是平稳过程。不是平稳过程。112例例4、设状态连续，时间离散的随机过程、设

57、状态连续，时间离散的随机过程 Xn=sin2 nY，n=1,2,YU(0,1),试证明试证明Xn为平稳过程。为平稳过程。解：解：)2sin(1022nydyXEn02sin10ynydXEn00021)2(2cos2cos21)(2sin2sin),(1010mmydymnymyydmnnyXXEmnnRmnnX只与只与m有关，所以有关，所以 Xn为平稳序列。为平稳序列。113第第3 3章章 Poisson过程过程3.1 Poisson Poisson过程过程3.2 与与PoissonPoisson过程相联系的若干分布过程相联系的若干分布3.3 PoissonPoisson过程的推广过程的推广

58、114 1798年入巴黎综合工科学校深造年入巴黎综合工科学校深造. 在毕业时，在毕业时，因优秀的研究论文而被指定为讲师因优秀的研究论文而被指定为讲师, 受到拉普拉受到拉普拉斯、拉格朗日的赏识斯、拉格朗日的赏识. 法国数学家法国数学家. 1781 年年6月月21日生于法国卢瓦日生于法国卢瓦雷省的皮蒂维耶，雷省的皮蒂维耶，1840年年4月月25日卒于法国索镇日卒于法国索镇. 泊松的科学生涯开始于研究微分方程及其在摆的运动和声泊松的科学生涯开始于研究微分方程及其在摆的运动和声学理论中的应用学理论中的应用. 他工作的特色是应用数学方法研究各类力学他工作的特色是应用数学方法研究各类力学和物理问题，并由此

59、得到数学上的发现和物理问题，并由此得到数学上的发现. 他对积分理论、行星他对积分理论、行星运动理论、热物理、弹性理论、电磁理论、位势理论和概率论运动理论、热物理、弹性理论、电磁理论、位势理论和概率论都有重要贡献都有重要贡献. 1800年毕业后留校任教，年毕业后留校任教，1802年任副教授年任副教授, 1806年接替傅年接替傅里叶任该校教授里叶任该校教授. 1808年任法国经度局天文学家年任法国经度局天文学家,1809年任巴黎年任巴黎理学院力学教授理学院力学教授. 1812年当选为巴黎科学院院士年当选为巴黎科学院院士.115(0-1)分布分布 随机变量随机变量 X 只可能有两个值只可能有两个值:

60、 0 和和 1，其概率分布其概率分布为为：qpXPpXP1) 0( ,) 1(pqXDpXE)( ,)(二项分布二项分布 随机变量随机变量 X 为为n重贝努利试验中事件重贝努利试验中事件A发生的次数，则发生的次数，则 X B (n, p)，概率分布为：，概率分布为：knkqpknkXP)(npqXDnpXE)( ,)(复习复习116泊松分布泊松分布 随机变量随机变量X 的所有可能取值为的所有可能取值为0, 1, 2, ，而取各个值的概率为而取各个值的概率为则随机变量则随机变量X 服从参数为服从参数为 的的泊松分布泊松分布，简记，简记为为P( )。)0( , 2 , 1 , 0 ,!e为常数kk