随机过程第二章-PPT课件

1、1第2章 随机过程的基本概念2.1 随机过程的定义2.2 随机过程的分类和举例2.3 随机过程的有限维分布函数族2.4 随机过程的数字特征2.5 两个随机过程的联合分布和数字特征2.6 复随机过程2.7 几类重要的随机过程第2章 随机过程的基本概念2.1 随机过程的定义2.2 随机过程的分类和举例2.3 随机过程的有限维分布函数族2.4 随机过程的数字特征2.5 两个随机过程的联合分布和数字特征2.6 复随机过程2.7 几类重要的随机过程2.1 随机过程的定义例2.11 当t(t0)固定时，电话交换站在0,t时间内收到的呼叫次数是随机变量，记为X(t).X(t)服从参数为t的Poisson分布

2、，其中是单位时间内平均收到的呼叫次数,且0.如果t从0变到+， t时刻前收到的呼叫次数需用一族随机变量X(t), t 0, +来表示,则该随机现象就是一个随机过程.对电话交换站做一次实验，便可得到一个呼叫系数时间函数(即呼叫次数关于时间t的函数) x1(t)，如图2-1所示.2.1 随机过程的定义2.1 随机过程的定义定义2.1.1 设(, F ,P)是一个概率空间，T是一个实的参数集，定义在和T上的二元函数X(,t)，如果对于任意固定的t T ， X(,t)是(, F ,P)上的随机变量，则称X(,t), , t T 为该概率空间上的随机过程，简记为X(t), t T .2.1 随机过程的定

3、义定义2.1.2 设X(t), t T 是随机过程，则当t固定时， X(t)是一个随机变量,称之为X(t), t T 在t时刻的状态.随机变量X(t)(t固定，t T )所有可能的取值构成的集合,称为随机过程的状态空间，记为S.定义2.1.3 设X(t), t T 是随机过程，则当 固定时， X(t)是定义在上T不具有随机性的普通函数，记为，x(t),称为随机过程的一个样本函数。其图像成为随机过程的一条样本曲线（轨道或实现）。2.1 随机过程的定义例2.1.3 设X(t)=Vcost,t+其中为常数，V服从区间0,1上的均匀分布，即 (1) 画出X(t) ,t+的几条样本曲线；(2) 求 时随

4、机变量X(t)的概率密度函数;(3)求 时X(t)的分布函数 2.1 随机过程的定义解 (1)取 则 取V=0,则x(t)=0;取V=1，则x(t)=cost都是的确定函数，即随机过程的样本函数,如图2-3所示(略)。2.1 随机过程的定义(2) 当t=0时，X(0)=V，故X(0)的概率密度函数就是V的概率密度函数，即当 时 ，故 的概率密度函数为2.1 随机过程的定义当 时 ，故 的概率密度函数为当 时 ，故 的概率密度函数为2.1 随机过程的定义(3) 当 时， ，不论V取何值,均有 ，因此， ，从而 的分布函数为第2章 随机过程的基本概念2.1 随机过程的定义2.2 随机过程的分类和举

5、例2.3 随机过程的有限维分布函数族2.4 随机过程的数字特征2.5 两个随机过程的联合分布和数字特征2.6 复随机过程2.7 几类重要的随机过程2.2 随机过程的分类和举例随机过程可以根据参数集和状态空间是离散集还是连续集分为四大类。1、离散参数、离散状态的随机过程 这类过程的特点是参数集是离散的，同时固定t T，X(t)是离散型随机变量即其取值也是离散的。例2.2.1(贝努利过程) 考虑抛掷一颗骰子的试验，设Xn是第n(n1)次抛掷的点数,对于n=1,2,的不同值， Xn是不同的随机变量,因而Xn, n1构成一随机过程，称为贝努利过程,其参数集T=1,2,，状态空间S=1,2,3,4,5,

6、6.2.2 随机过程的分类和举例例2.2.2 设有一质点在x轴上作随机游动，在t=0时质点处于x轴的原点O，在t=1,2,时质点可以在x轴上正向或反向移动一个单位，作正向移动一个单位的概率为p，作反向移动一个单位的概率为q=1-p，在t=n时，质点所处的位置为Xn，则Xn,n=1,2,为一随机过程，其参数集T=0,1,2, ，状态空间S=,-2,-1,0,1,2,。 2.2 随机过程的分类和举例2、离散参数、连续状态的随机过程这类过程的特点是参数集是离散的，对于固定的tT，X(t)是连续性随机变量。例2.2.3 设Xn，n=,-2,-1,0,1,2,是相互独立同服从标准正态分布的随机变量，则X

7、n，n=,-2,-1,0,1,2,为一随机过程，其参数集T=,-2,-1,0,1,2,，状态空间S=(,+) 2.2 随机过程的分类和举例3、连续参数、离散状态的随机过程 这类过程的特点是参数集是连续的，而对于固定的tT，X(t)是离散型随机变量。例2.2.4 设X(t)表示在期间0,t内到达服务点的顾客数，对于t0 ,+的不同值， X(t)是不同随机变量，因而X(t)，t0构成一随机过程，其参数集T= 0 ,+ ，状态空间S=0,1,2,.2.2 随机过程的分类和举例4、连续参数、连续状态的随机过程 这类过程的特点是参数集是连续的，而对于固定的tT，X(t)是连续型随机变量。例2.2.5 设

8、X(t) =Acos(t+),t0,是常数,服从区间-,上的均匀分布，则X(t),t+是一随机过程，其参数集T= (,+) ，状态空间S=-A,A.第2章 随机过程的基本概念2.1 随机过程的定义2.2 随机过程的分类和举例2.3 随机过程的有限维分布函数族2.4 随机过程的数字特征2.5 两个随机过程的联合分布和数字特征2.6 复随机过程2.7 几类重要的随机过程2.3 随机过程的有限维分布函数族定义2.3.1 设X(t), t T 是一个随机过程，对于任意固定的t T, X(t1),X(t2)是以随机变量，称 F(t;x)=P(X(t)x),xR,tT为随机过程X(t), t T 的一维分

9、布函数；对于任意固定的t1,t2T ， X(t1),X(t2)是两个随机变量，称 F(t1,t2;x1,x2)=P(X(t1)x1, X(t2)x2), x1,x2R, t1,t2T为随机过程的二维分布函数；2.3 随机过程的有限维分布函数族 一般地，对于任意固定的t1,t2,tnT, X(t1),X(t2), X(tn)是n个随机变量，称F(t1,t2,tn;x1,x2,xn)=P(X(t1)x1, X(t2)x2, X(tn) xn), xiR, tiT,i=1,2,n 为随机过程X(t), t T 的n维分布函数。2.3 随机过程的有限维分布函数族定义2.3.2 设X(t), t T 是

10、一随机过程，其一维分布函数，二维分布函数，n维分布函数，的全体 F=F(t1,t2,tn;x1,x2,xn), xiR, tiT,i=1,2,n,nN 称为随机过程X(t), t T 的有限维分布函数族。 容易看出，随机过程的有限维分布函数族具有对称性和相容性 2.3 随机过程的有限维分布函数族1、对称性 设i1,i2,in是1,2,n的任一排列，则事实上，2.3 随机过程的有限维分布函数族2、相容性设mn,则事实上2.3 随机过程的有限维分布函数族定义2.3.3 设X(t), t T 是一随机过程，对于任意固定的t1,t2,tnT ,X(t1),X(t2), X(tn)是n个随机变量，称 u

11、iR,tiT,i=1,2,n,j= 为随机过程X(t), t T 的n维特征函数.2.3 随机过程的有限维分布函数族 称 为随机过程X(t), t T 的有限维特征函数族 例2.3.1 设X(t)=A+Bt,t0,其中A和B是相互独立的随机变量，分别服从正态分布N(0,1)，试求随机过程X(t), t 0 的一维和二维分布. 2.3 随机过程的有限维分布函数族解 先求一维分布. 是正态随机变量，因为 EX(t)=EA+tEB=0 DX(t)=DA+t2DB=1+t2所以X(t)服从正态分布N(0,1+t2),从而X(t), t 0的一维分布为 X(t) N(0,1+t2), t 0再求二维分布

12、， ，从而2.3 随机过程的有限维分布函数族 又A,B相互独立同服从正态分布，故(A,B)服从二维正态分布，从而(X(t1),X(t2)也服从二维正态分布。 EX(t1)=0，EX(t2)=0 DX(t1)=1+t12, DX(t2)=1+t22 cov(X(t1),X(t2)=EX(t1),X(t2)-EX(t1)EX(t2) = E(A+Bt1)(A+Bt2) =1+t1t2故(X(t1),X(t2)的均值向量为0=(0,0)，协方差矩阵为2.3 随机过程的有限维分布函数族 所以随机过程X(t), t 0的二维分布为 (X(t1),X(t2)N(0,B),t1,t202.3 随机过程的有限

13、维分布函数族例2.3.2 令X(t)=Acost,t+,其中A是随机变量，其分布律为 P(A=i)= , i=1,2,3试求(1) 随机过程X(t),t+的一维分布函数(2) 随机变量X(t),t+的二维分布函数2.3 随机过程的有限维分布函数族解 (1)先求 .由于 ，因此的可能取值为 ，并且2.3 随机过程的有限维分布函数族 于是再求 。由于 因此 只能取0值，于是2.3 随机过程的有限维分布函数族 (2) 因为2.3 随机过程的有限维分布函数族 所以第2章 随机过程的基本概念2.1 随机过程的定义2.2 随机过程的分类和举例2.3 随机过程的有限维分布函数族2.4 随机过程的数字特征2.

14、5 两个随机过程的联合分布和数字特征2.6 复随机过程2.7 几类重要的随机过程2.4 随机过程的数字特征1、随机过程的均值函数设X(t), t T 是一随机过程， 是一个随机变量，如果EX(t)存在，记为mx(t)，则称mx(t) ,tT为 X(t), t T 的均值函数.若果X(t), t T 的一维分布函数为F(t;x),那么 tT 随机过程的均值函数mx(t)在t时刻的值表示随机过程在t时刻所处状态取值的理论平均值，当tT时， mx(t)在几何上表示一条固定的曲线。2.4 随机过程的数字特征2、随机过程的方差函数设X(t), t T 是一随机过程， 是一随机变量，如果DX(t)存在，记

15、为DX(t),则称DX(t)，t T为 X(t), t T 的方差函数。显然 DX(t)=DX(t)=EX(t)- mx(t)2, t T随机过程的方差函数DX(t)在t 时刻的值表示随机过程在t 时刻所处状态取值离开均值的偏差程度，当t T 时， DX(t)表示一个普通的函数。2.4 随机过程的数字特征3、随机过程的协方差函数设X(t), t T 是一随机过程 ,X(s),X(t)是两个随机变量，如果cov(X(s),X(t)存在，记为Cx(s,t),则称Cx(s,t),s,tT 为X(t), t T 的协方差函数. 显然 Cx(s,t)=cov(X(s),X(t)=E(X(s)- mx(s

16、)(X(t)- mx(t) =EX(s)X(t)- mx(s) mx(t) , t T 2.4 随机过程的数字特征 随机过程的协方差函数Cx(s,t)在s,tT时刻的绝对值表示随机过程在时刻s,t所处状态的线性联系的密切程度，若Cx(s,t)的绝对值较大，则在两个时刻s,t的状态X(s),X(t)线性联系较密切；若Cx(s,t)的绝对值较小，则在两个时刻s,t的状态X(s),X(t)线性联系不密切4、随机过程的相关函数设X(t), t T 是一随机过程， ，X(s),X(t)是两个随机变量，如果EX(s),X(t)存在，记为Rx(s,t),则称Rx(s,t), s,tT 为X(t), t T

17、的相关函数.2.4 随机过程的数字特征5、随机过程的均方值函数设X(t), t T 是一随机过程， 是一随机变量，如果EX(t)2存在，记为x(t)，则称x(t),tT为 X(t), t T 的均方值函数. 2.4 随机过程的数字特征6、随机过程数字特征的关系随机过程X(t), t T 的协方差函数、相关函数和均值函数的关系为 Cx(s,t)= Rx(s,t)-mx(s)mx(t) ， s,tT 在协方差函数的定义式中，取s=t，则随机过程的方差函数和协方差函数的关系为 DX(t)= Cx(t,t), tT 类似地，均值函数和相关函数的关系为 x(t)= Rx(t,t), tT 2.4 随机过

18、程的数字特征 从上述关系可以看出，均值函数和相关函数是随机过程的两个本质数字特征，其它的数字特征可以通过本质的数字特征获得.另外，随机过程的均值函数称为随机过程的一阶矩，均方值函数称为随机过程的二阶矩.显然，相关函数、协方差函数、方差函数也是随机过程的一种二阶矩。2.4 随机过程的数字特征例2.4.1 设X(t)=Acost+Bsint,t+,其中A,B是相互独立，且都服从正态分布N(0,2)的随机变量，是实常数.试求X(t), t+的均值函数和相关函数. 解 mX(t)=EX(t)=EAcost+Bsint =(EA)cost+(EB)sint=0 t+2.4 随机过程的数字特征RX(s,t

19、)=EX(s)X(t) =E(Acoss+Bsins)(EAcost+Bsint) = (EA2)coss cost+(EAB)(sins cost+coss sint) + (EB2)sins sint =2 cos(t-s) s,t+2.4 随机过程的数字特征例2.4.2 设X(t)=acos(t+), t+,其中a和是常数，是服从0,2上均匀分布的随机变量，求 X(t), t+的数字特征解 由于的概率密度函数为2.4 随机过程的数字特征 于是 2.4 随机过程的数字特征 2.4 随机过程的数字特征例2.4.3 设X(t)=A+Bt, t+,其中A,B是相互独立的随机变量，且均值为0，方差

20、为1,求X(t), t+的数字特征。解 mX(t)=EX(t)=EA+Bt=EA+tEB=0, t+ RX(s,t)=E(A+Bs)(A+Bt) =EA2+(s+t)EAB+stEB2 =1+st, t+2.4 随机过程的数字特征 CX(s,t)= Rx(s,t)-mx(s)mx(t)=1+st , t+ DX(t)= CX(t,t)=1+t2 , t+ X(t)= RX(t,t)= 1+t2 , t+第2章 随机过程的基本概念2.1 随机过程的定义2.2 随机过程的分类和举例2.3 随机过程的有限维分布函数族2.4 随机过程的数字特征2.5 两个随机过程的联合分布和数字特征2.6 复随机过程

21、2.7 几类重要的随机过程2.5 两个随机过程的联合分布和数字特征1、二维随机过程的联合分布函数定义2.5.1 设X(t), t T 和Y(t), t T 是两个随机过程，称X(t), Y(t)，t T 为二维随机过程.定义2.5.2 对于任意m1,n1,t1,t2,tmT ,(X(t1), X(t2), X(tm), )是m+n维随机变量,称为二维随机过程X(t), Y(t)，t T 的m+n为分布函数。2.5 两个随机过程的联合分布和数字特征 二维随机过程X(t), Y(t)，t T 作为一个整体，就有m+n(任意)维分布函数而X(t), t T 和Y(t), t T 都是随机过程，分别也

22、有m(任意)维分布函数将他们分别记为FX(t1,t2,tm;x1,x2,xm),2.5 两个随机过程的联合分布和数字特征定义2.5.3 称FX(t1,t2,tm;x1,x2,xm),分别为二维随机过程X(t), Y(t)，t T 关于X(t), t T 和关于Y(t), t T 的m维边缘分布函数和n维边缘分布函数.如果对于任意m1,n1,t1,t2,tmT ，有那么称随机过程X(t), t T 和Y(t), t T 相互独立.2.5 两个随机过程的联合分布和数字特征2、二维随机过程的数字特征定义2.5.4 设X(t), Y(t)，t T 是二维随机过程， X(s),Y(t)是两个随机变量，如

23、果EX(s)Y(t)存在，记为RXY(s,t),则称RXY(s,t), s,tT 为X(t), Y(t)，t T 的相关函数.如果cov(X(s),X(t)存在，记为CXY(s,t),则称CXY(s,t), s,tT 为X(t), Y(t)，t T 的互协方差函数.显然 CXY(s,t)= RXY(s,t)- mX(s)mY(t) , s,tT 2.5 两个随机过程的联合分布和数字特征定义2.5.5 设X(t), t T 和Y(t), t T 是两个随机过程，如果 CXY(s,t)= 0或RXY(s,t)= mX(s)mY(t) ， s,tT 则称X(t), t T 和Y(t), t T 不相

24、关.定理2.5.1 设X(t), t T 和Y(t), t T 相互独立，则X(t), t T 和Y(t), t T 不相关.第2章 随机过程的基本概念2.1 随机过程的定义2.2 随机过程的分类和举例2.3 随机过程的有限维分布函数族2.4 随机过程的数字特征2.5 两个随机过程的联合分布和数字特征2.6 复随机过程2.7 几类重要的随机过程2.6 复随机过程定义2.6.1 设X(t), t T 和Y(t), t T 是定义在同一概率空间上的两个是随机过程，令Z(t)=X(t)+jY(t), t T ,则称Z(t)，t T 为复随机过程.定义2.6.2 设Z(t)，t T 为复随机过程.称

25、mZ(t)=EZ(t), t T ,为Z(t)，t T 的均值函数.称 ,t T ,为Z(t)，t T 的方差函数.称CZ(s,t)=cov(Z(s),Z(t)= s,t T 为Z(t)，t T 的协方差函数.称2.6 复随机过程 s,t T,为 Z(t)，t T 的相关函数.称 ，t T，为Z(t)，t T的均方值函数.显然，复随机过程的数字特征之间有下列关系和结论： mZ(t)= mX(t)+jmY(t), t T DZ(t)= DX(t)+ DY(t), t T DZ(t)= CZ(t,t) t T CZ(s,t)=RZ(s,t)- , s,t T Z(t)= RZ(t,t), t T

26、2.6 复随机过程定义2.6.3 设Z1(t)，t T 和Z2(t)，t T 是两个复随机过程，称 s,t T为Z1(t)，t T 和Z2(t)，t T 的互协方差函数，称 s,t T为Z1(t)，t T 和Z2(t)，t T 的互相关函数.2.6 复随机过程例2.6.1 设 ， t+，其中0是正常数，n为固定的正整数，X1,X2,Xn,1, 2, n是相互独立的实随机变量，且 kU0,2,k=1,2,n.求Z(t)，t+的均值函数和相关函数.2.6 复随机过程解 2.6 复随机过程 又于是第2章 随机过程的基本概念2.1 随机过程的定义2.2 随机过程的分类和举例2.3 随机过程的有限维分布

27、函数族2.4 随机过程的数字特征2.5 两个随机过程的联合分布和数字特征2.6 复随机过程2.7 几类重要的随机过程2.7 几类重要的随机过程1、二阶矩过程定义2.7.1 如果随机过程X(t), t T 的一二阶矩存在(有限)，则称X(t), t T 是二阶矩.从二阶矩过程的均值函数和相关函数出发讨论随机过程的性质，而允许不涉及它的有限维分布，这种理论称为随机过程的相关理论.由二阶矩过程的定义，二阶矩过程的均值函数和相关函数总是存在的，进而它的其它数字特征也都存在.2.7 几类重要的随机过程定理2.7.1 设X(t), t T 是二阶矩过程，则相关函数RX(s,t)具有下列性质：(1) 共轭对

28、称性：(2) 非负定性：即对于任意n1,任意t1,t2,tnT 和任意的复数 有 2.7 几类重要的随机过程2、正态过程定义2.7.2 设X(t), t T 是一随机过程，如果对于任意n1和任意t1,t2,tnT ,(X(t1), X(t2), X(tn)是n维正态随机变量，则称X(t), t T 为正态过程或高斯过程.显然，正态过程是二阶矩过程，它的有限维分布由它的均值函数和协方差函数完全确定.2.7 几类重要的随机过程例2.7.1 设X(t)=Acost+Bsint,t+,其中A,B相互独立，且都服从正态分布N(0,2)的随机变量，是实常数.试证明X(t), t+是正态过程了，并求它的有限

29、维分布.2.7 几类重要的随机过程证明 由于A,B相互独立，且都服从正态分布N(0,2)，因此(A,B) N(0,2E)(E是二阶单位矩阵).对于任意n1和任意t1,t2,tnT ，由于 X(t1)=Acost1+Bsint1 X(t2)=Acost2+Bsint2 X(tn)=Acostn+Bsintn即2.7 几类重要的随机过程 因而(X(t1), X(t2), X(tn)是二维正态随机变量(A,B)的线性变换，所以(X(t1), X(t2), X(tn)是n为正态随机变量，故X(t), t T 是正态过程. 由于X(t), t T 是正态过程，且EX(t)=0,因而(X(t1), X(t

30、2), X(tn)N(0,B), t1,t2,tnT .其中2.7 几类重要的随机过程 2.7 几类重要的随机过程3、正交增量过程定义2.7.3 设X(t), tT是一二阶矩过程，如果对于任意的t1t2 t3t4T,有则称X(t), tT为一正交增量过程.对于正交增量过程，若T取为有限区间a,b,则对于任意的astb，有特别地，当X(a)=0时，有 2.7 几类重要的随机过程定理2.7.2 设X(t), ta,b是正交增量过程，且X(a)=0,则(1)(2) X(t)是单调不减函数. 2.7 几类重要的随机过程4、独立增量过程定义2.7.4 设X(t), tT是一随机过程，如果对于任意的n3和

31、任意t1t2 tnT, X(t2)-X(t1), X(t3)-X(t2), X(tn)-X(tn-1)是相互独立的随机变量，则称X(t), tT是独立增量过程.如果对于任意s0)的Wiener过程，如果：(1) W(0)=0；(2) W(t),t0是平稳的独立增量过程.(3) 2.7 几类重要的随机过程定理2.7.4 设W(t),t0是参数为2的Wiener过程，则(1)(2)定理2.7.5 Wiener过程是正态过程.2.7 几类重要的随机过程6、Poisson过程 Poisson过程是一类直观意义很强,而且极为重要的过程,其应用范围很广,遍及各个领域，公用事业、生物学、物理学、电子通信工程等很多方面的问题都可用Poisson过程物理模拟.考虑一个来到某“服务点”要求服务的“顾客流”,顾客到服务点的到达过程可认为是Poisson过程.当抽象的“服务点”和“顾客流”有不同的含义时，便可得到不同的Poisson过程.例如,某电话交换台得电话呼叫,交换台就是服务点，所有的呼叫依先后次序构成一顾客流.2.7 几类重要的随机过程1)计数过程定义2.7.6 称实随机过程N(t),t0为计数过程，如果N(t)代表到时刻t所发生的随机事件数.从定义2.7.6出发，计数过程N(t),t0应该满足下列条件(1) N