随机过程的一般概念.ppt

12 随机过程概念及统计特性,一、随机过程的定义,二、随机过程的分类,三、随机过程的概率分布,四、二维随机过程,随机过程,引言 现实世界中的许多现象是随时间的进展而变化与发展的，这些现象通常称为过程。可分为两类： (1)确定性的变化过程：例如 (2)不确定的变化过程：例如,如果质点在一个随机的力（它由各种随机因素形成）的作用下，那么质点运动的位置也是随机的。,如何描述这样的变化过程： 1. 如果对其变化过程的全过程做一次观察,得到一个位置与时间关系的函数x1(t ),若再次观察，又得到函数x2(t ), ,因而得到一族函数.,2. 如果在时刻t观察质点的位置x(t ),则x(t )是一个随机变量,这样对于每个时刻t便得到一个随机变量X(t ),于是我们就得到一族随机变量X(t),t0,（最初始时刻为t=0）,它描述了此随机的运动过程.,一、随机过程的定义 1.定义1 设E是一随机实验,样本空间为=，参数 T(-,+),如果对每个 ,总有一个确定的时间函数X(,t)与之对应,这样对于所有的 ,就得到一族时间t的函数,我们称此时间t的函数族为随机过程,而族中每一个函数称为这个随机过程的样本函数。,我们称这种随时间的进展而变化与发展的随机现象为随机过程。,定义2：设E是一随机实验，样本空间为=，参数T(-,+),如果对任意t T ，有一定义在上的随机变量X(,t)与之对应,则称X(,t),t T为随机过程，简记为X(t),t T 或X(t),也可记为X(t).,注释：(1) 随机过程X(t),t T是定义在T上的二元函数，因此可以从两个角度去理解, 因而有如上的两个定义。,在理论分析往往用随机变量族的描述方式， 在实际测量和处理中往往采用样本函数族的描述方式。,(3)从定义2的角度上看，随机过程是有限维随机变量的推广.,(2)通常将随机过程X(t),t T 解释为一个物理系统， X(t)表示系统在时刻t所处的状态,X(t)的所有可能状态所构成的集合称为状态空间，记为I，对于给定的 t0 T，及x I,X(t0)=x 说成是在时刻t0，系统处于状态x.,2.随机过程的例,（4）随机过程X(t),tT中参数t通常解释为时间集，便于理解，符合实际。但参数t可以表示为其它的量，例如序号，距离等等.,例2 测量运动目标的距离.,测量存在随机误差.,例1:(分枝过程)两个个体（第0代）可能生产 0,1,2个子女形成第一代，每一个子女再生子女，他们合在一起形成第二代，等等，假定第n代的个体数目为Xn，则Xn, n=0,1,2.是随机过程。,例3 某城市的120急救电话台接收呼叫.,例4 抛掷一颗骰子的试验.,伯努利过程或伯努利随机序列,例5:(热噪声电压)电子元件或器件由于内部微观粒子（如电子）的随机热骚动所引起的端电压称为热噪声电压，在无线电通讯技术中，接收机在接收信号时，机内的热噪声电压要对信号产生持续的干扰，为要消除这种干扰（假设没有其他干扰因素），就必须考虑热噪声电压随时间变化的过程，现以电阻的热噪声电压为例说明这种变化过程的描述方法，我们通过某种装置对电阻两端的热噪声电压进行长时间的测量，并把结果记录下来，作为一次试验结果，便得到一个电压-时间函数（即电压关于时间t的函数）V1(t),如图.,它在任一确定时刻的 值是随机变量.,一次测得的电压时间 函数是一个样本函数.,二、随机过程的分类,1按状态和时间是可列集还是连续集分类： (1). 连续型随机过程:T是连续集,且tT,X(t)是连续型随机变量,则称过程X(t),tT为连续型随机过程. (2).离散型随机过程:T是连续集，且tT,X(t)是离散型随机变量，则称过程X(t),tT为离散型随机过程。 (3).连续型随机序列: T是可列集,且tT,X(t)是连续型随机变量，则称过程X(t),tT为连续型随机序列.,(4).离散型随机序列:T是可列集, 且tT, X(t)为离散型随机变量, 则称过程X(t),tT为离散型随机序列。通常T取为T =0,1,2或T =0, 1，2,此时随机序列常记成Xn,n=0,1,或 Xn,n0。,2按分布特性分类： 依照过程在不同时刻状态的统计依赖关系分类。例如：独立增量过程，马尔可夫过程，平稳过程等。,1n维分布函数： 设X(t),tT是随机过程，对于任意整数n1及T中任意n个不同的参数t1,t2，tn，称随机向量（X(t1),X(t2),X(tn)）的分布函数,为随机过程X(t),tT的n维分布函数.,三、随机过程的概率分布,变化n及t1,t2，tn所得到的有限维分布函数的 全体,称为X(t),tT的有限维分布函数族。,当n=1时,得到一维分布函数F(x;t)=PX(t)x, 一维分布函数的全体F(x;t), tT称为一维分布函数族.,2随机过程的数字特征, 函数,为X(t),tT的均方值函数.,为X(t),tT的方差函数.,为X(t),tT的协方差函数.,为X(t),tT的均值函数., Rx(s,t)=EX(s)X(t)为X(t),tT的自相关函数， 简称相关函数,3.诸数字特征的关系：,例6: 设随机过程 X(t)=Ycost+Zsint,t0,其中Y,Z是相互独立的随机变量，且E(Y)=E(Z)=0, D(Y)=D(Z)= 2，求X(t),t0均值函数 x(t)和自相关函数Rx(s,t)。,解: x(t)=EX(t)=EYcost+Zsint,因为Y与Z相互独立,于是,=costE(Y)+sint E(Z)=0,解: 的概率密度为,于是,例7: 考虑随机过程 X(t)=acos(t+),t(-,+) 其中a和是常数，是在（0，2）上服从均匀分布的 随机变量，通常称此随机过程为随机相位正弦波，求随机 相位正弦波的均值函数，方差函数和自相关函数.,例8: 设随机过程X(t)=Y+Zt, tT=(-,+),其中 Y，Z是相互独立的服从N(0,1)的随机变量，求 X(t),-t+的一，二维概率密度。,解: tT，由正态分布的性质知X(t)服从正态分布:,EX(t)=E(Y)+tE(Z)=0,DX(t)=D(Y)+t 2 D(Z)=1+t 2,所以一维概率密度为,又由正态分布的性质知，对于任意 s,tT， (X(s),X(t)服从二维正态分布而,EX(s)= EX(t)=0；DX(s)=1+s2 ,DX(t)=1+t2,所以二维概率密度为,其中=x(t1, t2).,四、二维随机过程 1定义： X(t)、Y(t)为定义在同一样本空间和同一参数集T上的随机过程，对于任意tT，若(X(t),Y(t)是二维随机变量，则称(X(t),Y(t),tT为二维随机过程。,2有限维分布函数和独立性 (1)(X(t),Y(t),tT为二维随机过程,对于任意的正整数n和m，以及任意的t1,t2,tn；t1, t2,tmT ，称n+m元函数,F(x1,x2,xn；y1,y2,ym；t1,t2,tn；t1,t2,tm) =PX(t1)x1, X(tn) xn；Y(t1) y1,Y(tm) ym 为(X(t),Y(t),tT的n+m维分布函数， 类似的可定义有限维分布函数族。,（2）若对于任意的正整数n和m，以及任意的t1,t2,tn； t1, t2,tmT，任意的x1,x2,xn；y1,y2,ym R,有,F(x1,x2,xn；y1,y2,ym；t1,t2,tn；t1,t2,tm) =FXX(t1)x1, X(tn) xn FYY(t1) y1,Y(tm) ym,称X(t)与Y(t)相互独立，其中FX，FY分别为X(t)，Y(t)的有限维分布函数.,3二维随机过程的数字特征 (1) 互相关函数: 称 RXY(s,t)=EX(s)Y(t) 为(X(t),Y(t),tT的互相关函数.,若对于任意的s,tT, RXY(s,t)=0,称X(t)与Y(t)正交.,(2)互协方差函数：,称为(X(t),Y(t),tT的互协方差函数.,显然,若X(t),Y(t)相互独立，且二阶矩存在， 则X(t),Y(t)不相关.,若对于任意的s,tT,有CXY(s,t)=0, 称X(t),Y(t)不相关.,例9: 设有两个随机过程X(t)=Ucost+Vsint和 Y(t)=Usint +Vcost，其中U和V独立,E(U)=E(V)=0,E(U2)=E(V2)=C2. 求互相关函数RXY(s，t)的表达式.,解:,例10: 设X(t)为信号过程,Y(t)为噪声过程，令 W(t)=X(t)+Y(t)，则 (1) W(t)的均值函数为,注：两个随机过程的之和的自相关函数为各个随机过程的相关函数与它们的互相关函数之和。若两个随机过程的均值函数均恒为零，且互不相关时，有 RW(s,t)= Rx(s,t)+RY(s,t),W(t)= X(t)+ Y(t).,(2) 其自相关函数为,RW(s,t)=EX(s)+Y(s)X(t)+Y(t),=RX(s,t)+RXY(s,t)+RYX(s,t)+RY(s,t),五、复随机过程 1定义： X(t)、Y(t)为定义在同一样本空间和同一参数集T上的实随机过程，则称Z(t)=X(t)+iY(t)为复随机过程。,2随机过程的数字特征,为Z(t),tT的均值函数.,为均方值函数.,为方差函数.,为协方差函数.,为自相关函数，简称相关函数,10.3 高斯过程（正态过程）,一、定义： 设X(t)为随机过程，如果对任意的正整数n及任意t1,t2,tnT，n 维随机变量(X(t1),X(t2),X(tn)服从n维正态分布，则称X(t)为正态过程。,二、正态过程的性质：对任意的正整数n及任意t1,t2,tnT，n 维随机变量(X(t1),X(t2),X(tn)的分布由其相应的均值及协方差矩阵完全确定，所以X(t)和CX(s,t)完全确定了X(t)的有限维分布，也就确定了它的全部统计特性。因而有：,正态过程是二阶矩过程。 记其均值函数为X(t),协方差函数为CX(s,t)。,1X(t),tT为正态过程，其统计特性由X(t)和CX(s,t)确定。,2X(t)为正态过程，则X(t)是严平稳过程X(t)是宽平稳过程。,证明：“” 因高斯过程是二阶矩过程，由严平稳过程性质，显然成立。 “”由已知：X(t)=X，Rx(t,t+)只与有关。 由严平稳过程定义，对任意的正整数n及任意t1,t2,tnT, t1+h,t2+h,tn+hT,要证：（X(t1),X(t2), X(tn)）与（X(t1+h),X(t2+h), X(tn+h)）同分布（*）。 而正态过程的分布由X及Rx(s,t)决定，X为常数。,即(*)式成立。,3 X(t)为正态过程它的任意有限多个随机变量的任意线性组合是正态随机变量。,4 X(t)为正态过程，S(t)非随机（为普通的确定信号），则Y(t)=X(t)+S(t) 是正态过程。,证明：任意aiR，t1,t2,tnT,a1Y(t1)+ a2Y(t2)+ +anY(tn) = a1X(t1)+ a2X(t2)+ anX(tn) + a1S(t1)+ a2S(t2)+ anS(tn),为一维正态随机变量。,由性质3：则Y(t)=X(t)+S(t) 是正态过程。,事实上，由多维正态的性质1， n维正态随机变量的充要条件是其任意一维线性组合为一维正态随机变量，显然成立。,5 X(t)，tT为正态过程且均方可微，则其导数 也是正态过程。,6 X(t)，tT为正态过程且均方可积，则 也是正态过程。,N（0，1/4),例2：设随机过程X(t)=Ucos0t+Vsin0t,t0. 0为常数，U,V是两个相互独立的正态随机变量，且E(U)=E(V)=0,E(U2)=E(V2)=2.试证：X(t)为正态过程，并求其一、二维概率密度. 解：（1）证X(t)为正态过程：只须证X(t)的任意有限多个随机变量的任意线性组合是一维正态随机变量。 对任意正整数n， 0t1t2tn, 及任意a1,a2,anR,即：W是两相互独立的正态随机变量的线性组合，所 以W是一维正态随机变量，于是X(t)为正态过程。,（2）求一维概率密度. 对确定的t0,X(t)为正态随机变量且 EX(t)=E(U)cos0t+E(V)sin0t=0， DX(t)=D(U)(cos0t)2+D(V)(sin0t)2=2， 于是X(t)的一维概率密度为：,（3）求二维随机变量(X(t1),X(t2)概率密度. t1,t20, EX(t1)=EX(t2)=0， cov(X(t1),X(t2)=EX(t1),X(t2) =E(Ucos0t1+Vsin0t2)(Ucos0t1+Vsin0t2) =E(U2cos0t1cos0t2)+E(V2sin0t1sin0t2)+0 =2cos0(t2t1），,U,V相互独立，且E(U)=E(V)=0,E(U2)=E(V2)=2.,于是,二维正态随机变量(X(t1),X(t2)的均值和协方差矩阵分别为： =(0,0),具体写：,一、独立增量过程,二、泊松过程的数学模型,三、维纳过程的数学模型,10.3独立增量过程,一、独立增量过程 1定义 设X(t),t0为一随机过程,对于0st,称随机变量X(t)-X(s)为随机过程在区间s,t上的增量. 若对于任意的正整数n2及任意的0t0t1t2tn,n个增量 X(t1)-X(t0)，X(t2)-X(t1)，X(tn)-X(tn-1) 相互独立，称X(t),t0为独立增量过程。,2定义:若对于任意的实数s, t 和0s+ht+h, X(t+h)X(s+h)与X(t)X(s)具有相同的分布,(即X(t)X(s)的分布只与t-s有关）则称增量具有平稳性,并称相应的独立增量过程为齐次独立增量过程或时齐的。,证明: 记Y(t )=X(t)-X(t),当X(t)具有独立增量时， Y(t )也具有独立增量；,于是可知对于任意的s,t0,协方差函数可表示为：,同理，当0ts时，有,3独立增量过程的性质,独立增量过程X(t),t0在X(0)=0的条件下,X(t)的协 方差函数为,且Y(0)=0,EY(t )=0, DY(t)= EY2(t ).所以，当0st 时，有,1. 问题的提出,下列事件随时间的推移迟早会重复出现.,(1) 自电子管阴极发射的电子到达阳极; (2) 意外事故或意外差错的发生; (3) 要求服务的顾客到达服务站.,二、泊松过程,2. 问题的分析与求解,将电子、顾客等看作时间轴上的质点,电子到达阳极、顾客到达服务站等事件的发生相当于质点出现.因此研究的对象可以认为是随时间推移,陆续地出现在时间轴上的许多质点所构成的随机的质点流.,泊松过程,一个计数过程N(t), t0如果满足以下条件，则被称为参数的泊松过程 独立增量过程（即独立时间段上的事件发生的个数是独立的） 无后效性 平稳过程（在任意一段时间内发生的事件个数的分布是不变的）平稳性 在一小段时间h内发生一个事件的概率为h+o(h)。 在一小段时间h内发生多于一个事件的概率为o(h) 被称为泊松过程的速率,37,普通性,定理：N(t)，t0是一个速率为的泊松过程。 Y表示一段时间t0内事件发生的个数，则 证明：定义 ， 取h0 代入初始条件 ，得到,38,参数为t的泊松分布,对时间t+h时n个事件发生的情况Pn(t+h)，三种情况 时间t时已经发生了n个事件， t,t+h)这段时间没发生事件 时间t时发生了n-1个事件，t,t+h)这段时间发生了1个事件 时间t 时发生了n-k个事件， t,t+h)这段时间发生了k个事件，k1 取h0， 初始条件 ，迭代求解得到,39,定理： N(t)，t0是一个速率为的泊松过程。令0s，N(tn-1+s)-N(tn-1)=0 所以，Pns=PN(tn-1+s)-N(tn-1)=0=PN(s)=0=e-s,40,指数分布,定理： N(t)，t0是一个计数过程，事件发生间隔记为n。如果n为独立同分布的随机变量，且服从参数的指数分布，则N(t)是一个泊松过程。,41,总结： 1. 泊松过程从时间0到时间t发生的事件个数是参数t的泊松分布 2. 事件发生间隔n是指数分布泊松过程,则t时间内，平均发生的事件数是多少？,3 泊松流的性质,泊松流的合成与分解 定理3 设N1(t)与N2(t)分别是参数为1与2的泊松流，且N1(t)与N2(t)相互独立，则合成流N1(t)+N2(t)是参数为1+2的泊松流,定义1: 过程N(t),t0 取非负整数，若它满足下列条件 (1) N(0)=0； (2) N(t)是独立增量过程； (3) 对任意0st, N(t)-N(s)服从参数为(t-s)的泊松分布,从条件(3)：泊松过程的均值函数为,表示单位时间内质点出现的平均个数,故称为此过程的强度。,称过程N(t),t0为具有参数0的泊松过程。,3泊松过程的数字特征 设N(t),t0是泊松过程,则 EN(t)=t；DN(t)=t；,证明：,例1.设X(t)是强度为的泊松过程，定义Y(t)=X(t+L)-X(t),其中L0为常