概率论与随机过程：第6章 2独立增量过程

1、平稳随机过程 引言引言一、严平稳随机过程 1 1定义定义：设X(t),tT是随机过程,如果对于任意的常数h和任意正整数n,及任意的n维随机向量(X(t1),X(t2),X(tn)和(X(t1+h),X(t2+h),X(tn+h)具有相同的分布,则称随机过程X(t),tT具有平稳性,并同时称此过程为严平稳过程。 平稳过程的参数集T,一般为(- ,+),0,+, 0,1,2,0,1,2,以下如无特殊说明，均认为参数集T=(-,+). 当定义在离散参数集上时,也称过程为严平稳时间序列。 例例. 设设Xn,n0是独立同分布的随机变量序列,且XnU(0,1),n=1,2, 讨论Xn,n0是否为严平稳时间

2、序列并求E(Xn)与E(Xn Xm),n、m=0,1,2,. 解：解：设设U(0,1)的分布函数为F(x),则对任意的正整数k,任意0n1 n2 nk , 及 knnnXXX,21的分布函数均为 kjjkxFxxxF121)(),(可见，满足定义条件，故Xn,n0是严平稳时间序列。因为XnU(0,1)，且相互独立，所以 E(Xn)=1/2， mnmnmnXEXEmnXEXXEmnnmn4141121)()()()(2 hnhnhnkXXX ,212 2严平稳过程的数字特征严平稳过程的数字特征定理定理 如果X(t),tT是严平稳过程，且对任意的tT，EX2(t)+,则有(1)EX(t)=常数，t

3、T；(2)EX(s)X(t)只依赖于t-s,而与s,tT的具体取值无关。证：(1)由Cauchy-Schwarze不等式 EX(t)2EX2(t)+,所以EX(t)存在。 在严平稳过程的定义中，令h=-t,由定义X(t)与X(0)同分布，所以EX(t)= E EX(0)为常数。一般记为X. (2) 由Cauchy-Schwarze不等式 EX(s)X(t)2 EX2(s)EX2(t)+, 所以EX(s)X(t)存在。 在严平稳过程的定义中，令h=-s, 由定义(X(s),X(t)与(X(0),X(t-s)同分布，即有EX(s)X(t)= EX(0)X(t-s) 即Rx(t,t+)=EX(0)X

4、()=Rx() 所以，Rx(s,t)只依赖于t-s,而与s,tT的具体取值无关。 进而，Cx()=EX(t)-x xX(t+)-x x=Rx()-x x2只与有关； x x2=Cx x(0)=Rx x(0)-x x2 为常数.二、二、( (弱弱) )平稳过程平稳过程1 1 定义定义 设X(t),tT是二阶矩过程,如果 (1) EX(t)=x x(常数)，tT； (2) 对任意的t,t+T, Rx x()=EX(t)X(t+)只依赖于。则称X(t),tT为宽平稳过程,简称为平稳过程. 特别地，当T为离散参数集时，若随机序列Xn(t)满足E(Xn n2)0,讨论其平稳性. 解: 因为EXn=0,

5、mnmnXXEmn02 故其均值函数X(n)=0为常数,其自相关函数 RX(n,m)只与m-n有关,所以它是平稳时间序列。 00Nnkn kkE Ya E X证： 0012,0, 1, 2,1 0, 1, 2,0, 1, 2,kNnkn kkNnXkYa XnNa aaY n 例 ：设是例中的随机序列， 作，其中 是自然数，而是常数. 证明：是平稳序列,Ynn mRn nmE Y Y又相关系数00NNkn kjn mjkjEa Xa X00NNkjn kn mjkja a E XXnnY它与 无关，所以是平稳序列。2 00Nkm kkm k Na a 例3:随机相位正弦波X(t)=acos(0

6、t+) ，a, 0为常数，是在(0,2)上服从均匀分布的随机变量,则X(t)是平稳过程，并求其自相关函数. 解: 由假设,的概率密度为 其它0202/1)( f于是,X(t)的均值函数为 0)cos(2)cos()(2000 dtataEtXE dttatXtXE)(cos)cos(2)()(02002 20020022)2(coscos4dtda 02cos21a 与t无关，可见X(t)为平稳过程，其自相关函数为 02cos21)(aRX 41 ,2, ,0,1,2,!0kX tIIP X tIt tN t tN t teP N t tkkkX t 例 ：考虑随机电报信号，信号由只取或的电流

7、给出。而正负号在区间内变化的次数是随机的，且假设服从泊松分布，即： 其中是单位时间内变号次数的数学期望，试讨论的平稳性. 高斯过程（正态过程） 一、定义： 设X(t)为随机过程，如果对任意的正整数n及任意t1,t2,tnT，n 维随机变量(X(t1),X(t2),X(tn)服从n维正态分布，则称X(t)为正态过程。 正态过程是二阶矩过程。 记其均值函数为X(t),协方差函数为CX(s,t)。 二、正态过程的性质： 对任意的正整数n及任意t1,t2,tnT，n 维随机变量(X(t1),X(t2),X(tn)的分布由其相应的均值及协方差矩阵完全确定，所以X(t)和CX(s,t)完全确定了X(t)的

8、有限维分布，也就确定了它的全部统计特性。因而有：1X(t),tT为正态过程，其统计特性由X(t)和CX(s,t)确定。 反之，可以证明，T=0,+) ),给定(t)和非负二元函数C(s,t)，则存在正态过程X(t)，使X(t)=(t)，CX(s,t)=C(s,t)。 定义定义：设随机过程X(t),tT，且对任意正整数n2，任意n个不同的t1,t2,tnT，随机变量X(t1),X(t2),X(tn)相互独立，则称此过程为独立随机过程。2正态过程X(t),tT为独立随机过程对任意的s,t,st时，协方差函数CX(s,t)=0.证明：正态过程X(t),tT为独立随机过程X(t1),X(t2),X(t

9、n)相互独立的CX(s,t)=0, st 3 X(t)为正态过程它的任意有限多个随机变量的任意线性组合是正态随机变量。 事实上，由正态的性质， n维正态随机变量的充要条件是其任意一维线性组合为一维正态随机变量，显然成立。4.正态过程X(t)与确定性信号S(t),tT之和仍为正态过程。 因为： 5X(t)为正态过程，则X(t)是严平稳过程X(t)是宽平稳过程。 证明：“” 因高斯过程是二阶矩过程，由严平稳过程性质，显然成立。 “”由已知：X(t)=X，Rx(t,t+)只与有关。 由严平稳过程定义，对任意的正整数n及任意t1,t2,tnT, t1+h,t2+h,tn+hT,要证：（X(t1),X(

10、t2), X(tn)）与（X(t1+h),X(t2+h), X(tn+h)）同分布（*）。 而正态过程的分布由X及Rx(s,t)决定，X为常数。 ),(),(hthtRttRjiXjiX ),(),()()(),(),(2jiXXjiXjXiXjiXjiXttCttRtththtRhthtC 即(*)式成立。 例：设随机过程X(t)=Ucos0t+Vsin0t,t0. 0为常数，U,V是两个相互独立的正态随机变量，且E(U)=E(V)=0,E(U2)=E(V2)=2.试证：X(t)为正态过程，并求其一、二维概率密度.解：（1）证X(t)为正态过程：只须证X(t)的任意有限多个随机变量的任意线性

11、组合是一维正态随机变量。 对任意正整数n， 0t1t2tn, 及任意a1,a2,anR, .sincos)(10101BVAUVtaUtatXaWniiiniiiniii 即：W是两相互独立的正态随机变量的线性组合，所以W是一维正态随机变量，于是X(t)为正态过程。 （2）求一维概率密度. 对确定的t0,X(t)为正态随机变量且 EX(t)=E(V)cos0t+E(V)sin0t=0， DX(t)=D(V)cos20t+D(V)sin20t=2， 于是X(t)的一维概率密度为： 22221);( xetxf （3）求二维概率密度. t1,t20, EX(t1)=EX(t2)=0， cov(X(

12、t1),X(t2)=EX(t1),X(t2) =E(Ucos0t1+Vsin0t2)(Ucos0t1+Vsin0t2) =E(U2cos0t1cos0t2)+E(V2sin0t1sin0t2)+0 =2cos0(t1-t2)， 于是,二维正态随机变量(X(t1),X(t2)的均值和协方差矩阵分别为： =(0,0) 12202022,coscosttC ),(,|21),;,(21212/12121列向量是所以xxxxeCttxxfCxx 225( ), ,(0,)( )X tA BtCt tA B CNX t 例 ：设其中是相互独立,且都服从正态分布的随机变量， 试证明是正态过程,并求它的均值

13、函数和自相关函数。( )X t解：是正态过程121122, ,( )( )( )nnnu uu uX tu X tu X t对任意一组数 服从一维正态分布1212, ,( ), ( ),( )nnt ttT X tX tX tn对任意一组实数服从 维正态分布21122111( )( )( )nnnnnii ii iiiiu X tu X tu X tAuButCut而, ,( , , )ABCABC因为是相互独立的正态变量，故是三维正态变量， ( )X t所以是正态过程2111, ,nnnii ii iiiiAuBututA B CC是的线性组合，因此它服从一维正态分布，续续下面计算均值函数和

14、自相关函数:( )( )( )()()()0,E AE BE CE ABE ACE BC因为2222()()()E AE BE C2( )XtE ABtCt故2( )( )( )0E AE B tE C t1212( , )( , )XXCt tRt t221122()()E ABtCtABtCt2221 212(1)t tt t续续独立增量过程 引言引言 一、独立增量过程1 1定义定义 设X( (t) ),t0为一随机过程,对于0st,称随机变量X(t)-X(s)为随机过程在区间s,t ) )上的增量. 若对于任意的正整数n及任意的0t0 0t1 1t2 20的泊松过程，若它满足下列条件(1

15、) N(0)=0；(2) N(t)是独立增量过程；(3) 对于任意的s,t0, N(t+s)-N(s)服从参数为t的泊松分布 , 2 , 1,!)()( kkteksNstNPkt 从条件(3)：泊松过程的均值函数为 ttN )( ,表示单位时间内质点出现的平均个数,故称为此过程的强度。 ttNE)(令N(s,t)=N(t)N(s),0s0的泊松过程,若它满足下列条件(1) N(0)=0；(2) N(t)是独立增量过程；(3) N(t)满足: tttttNP 1),( ttttNP 2),( 定理: 定义2与定义3是等价的。 2 2泊松过程的数字特征泊松过程的数字特征 设N(t),t0是泊松过

16、程,则 EN(t)=t；DN(t)=t；).,min(),(tstsCN 3泊松过程的定理泊松过程的定理 设N(t),t0为泊松过程，N(t)表示到t时刻时质点出现的个数,W1，W2，.分别表示第一个，第二个，质点出现的时间,Tn(n1)表示从第n1个质点出现到第n个质点出现的时间间隔. T1T2Tk0 W1 W2 Wk-1 Wk t 通常称 Wn为第n个质点出现的等待时间,Tn为第n个时间间隔,它们都是随机变量。 定理定理1 1. 设N(t)，t0是具有参数的泊松过程,Tn,n1,2,.是对应的时间间隔序列,则随机变量序列Tn,n=1,2,.为独立的且均服从参数为的指数分布。证明：(1)先确

17、定T1的分布. 为此首先注意到事件T1t发生当且仅当在时间间隔0,t内没有质点出现,因而 tetNPtTP 0)(1所以, T1具有参数为的指数分布。 (2)为求T2的分布,先求T1的条件下T2的条件分布,由独立增量性有 sTtssPsTtTP 112,0内内无无质质点点出出现现在在 内内无无质质点点出出现现在在tssP , tetssNP 0),( 所以,可得T2也是一个具有参数为的指数分布的随机变量且T2独立于T1,重复同样的推导可得定理。 下面求等待时间Wn分布，注意到第n个质点出现在时间t或之前当且仅当到时间t已出现的质点数至少是n， 即 njjtnjtentNPtWP!)()( 上式

18、对t求得，得Wn的概率密度是 000!1)(1ttntetfntWn 定理定理2.2.设Wn , n=1,2,是与泊松过程N(t),t0对应的一等待时间序列，则Wn服从参数为n与的分布，其概率密度为 000!1)(1ttntetfntWn 注意，定理1的逆命题也成立 定理定理3.3. 如果相继出现的两个质点的时间间隔是相互独立，且服从同一指数分布，则质点流构成了强度为的泊松过程。例.设X(t)是强度为的泊松过程，定义Y(t)=X(t+L)-X(t),其中L0为常数，求Y(t),RY(s,t). 解： Y(t)=EY(t)=EX(t+L)-X(t)= (t+L)- t= L； RY(s,t)=C

19、Y(s,t)+ Y(s) Y(t), 对任意0s0的位移的横坐标，且设W(0)=0。由于微粒的运动是受到大量随机的、相互独立的分子碰撞的结果，于是:(1) 假设位移W(t)-W(s)服从正态分布。(2) W(t)具有独立增量，同时W(t)的增量具有平稳性。1 1维纳过程的定义维纳过程的定义 给定过程W(t),t0，如果它满足(1)具有平稳的独立增量；(2)对任意的ts0，W(t)-W(s)服从正态分布N(0,2(t-s)；(3)W(0)=0. 则称此过程为维纳过程，下图展示了它的一条样本曲线。 2 2维纳过程的性质维纳过程的性质 (1).(1). 维纳过程 W(t)，t0为正态过程(每一个有限维分布均为正态分布)。 证明: 对于任意正整数n和任意时刻t1,t2,tn(0t1t2tn)以及任意实数u1，u2，un，记 则则nkuankiik, 2 , 1, nnnnnnnkkktwatwatwatwatwatwatwatwu 111232212111 nkkkktwtwatwa2111 它是独立正态随机变量之和，所以它是正态随机变量，由正态分布的性质知(W(t1)，W(t2)，W(tn)服从n维正态分布，因此W(t)为正态过程。 (2). (2). 维纳过程的均值函数自协差