第三章几种重要的随机过程

1、 第三章第三章 几种重要的随机过程几种重要的随机过程 第一节第一节 独立过程和独立增量过程独立过程和独立增量过程 第二节第二节 正态过程正态过程 第三节第三节 维纳过程维纳过程 第四节第四节 泊松过程泊松过程 定义定义3.1.1 对任意的正整数对任意的正整数 n 及任意的及任意的 , 21 Tttt n TttX ),( 为为独立过程独立过程. . 相互独立相互独立, ,称随机过程称随机过程 随机变量随机变量 )(,),(),( 21n tXtXtX 第一节第一节 独立过程和独立增量过程独立过程和独立增量过程 一、独立过程一、独立过程 独立随机过程的有限维分布由一维分布确定独立随机过程的有限维

2、分布由一维分布确定注注 n k kkknnn xtFxxttF 1 11 );(),;,( Ex.1 高斯白噪声高斯白噪声 实值时间序列实值时间序列 的的 NnnX ),( ,)(0,)( 2 n XDnXE 自相关函数为自相关函数为 2 0,; (, ) ,. mn R m n mn 称称 为为离散白噪声离散白噪声( (序列序列).). NnnX ),( 两两不相两两不相 关序列关序列. . 又若又若X(n)都服从正态分布都服从正态分布, ,称称 是是 高斯白噪声高斯白噪声序列序列. . NnnX ),( 对于对于n维正态随机变量有维正态随机变量有 相互独立相互独立 不相关不相关 故故高斯白

3、噪声序列高斯白噪声序列是独立时间序列是独立时间序列. . 若过程若过程 是正态过程是正态过程, ,且且 RttX ),( , 0)( tXE ts ts tstsR , 0, )(),( 2 高斯白噪声高斯白噪声是典型的是典型的随机干扰数学模型随机干扰数学模型, , 普遍存在于电流的波动普遍存在于电流的波动, ,通信设备各部分的通信设备各部分的 波动波动, ,电子发射的波动等各种波动现象中电子发射的波动等各种波动现象中. . 称其为称其为高斯白噪声过程高斯白噪声过程，它是独立过程，它是独立过程. . 如金融、电子工程中常用的线性模型如金融、电子工程中常用的线性模型 自回归模型（自回归模型（AR

4、(p)） tptptt XXX 11 理想模型要求残差序列理想模型要求残差序列t是是(高斯高斯)白噪声白噪声. 二、独立增量过程二、独立增量过程 定义定义3.1.2 称称 , T=0,)为为独立增独立增 量过程量过程, 若对若对 , 及及t0=0t1t20, X(t+h) X(s+h) 与与 X(t) X(s) 有相同的分布函数有相同的分布函数, ,称称X(t),t0是是平稳独立平稳独立 增量增量过程过程. 0 tss+ht+h 增量增量 的分布仅与的分布仅与有关有关, ,与起始与起始 点点 t 无关无关, ,称称X(t),t0的增量具有的增量具有平稳性平稳性( (齐性齐性).). )() (

5、tXtX 注注 Ex.2 若若X(n),nN+是独立时间序列是独立时间序列, ,令令 n k XkXnY 0 0)0(, )()( 则则Y(n), nN+是独立增量过程是独立增量过程. . 又若又若X(n), n=1,2, 相互独立同分布相互独立同分布, ,则则 Y(n), nN+ 是平稳独立增量过程是平稳独立增量过程. . 证证 若若n1n2nm 21 00 12 )()()()( n k n k kXkXnYnY )()1( 21 nXnX )()1()()( 3223 nXnXnYnY )()1()()( 11mmmm nXnXnYnY X(n),nN+ 相互独立相互独立各增量相互独立各

6、增量相互独立. 性质性质3.1.1 X(t),t0是平稳独立增量过程是平稳独立增量过程, X(0)=0, 则则 1）均值函数）均值函数 m(t)= m t (m 为常数为常数); 2）方差函数）方差函数 D( t )= 2t (为常数为常数); 3）协方差函数）协方差函数 C(s, t)=2min(s,t). 分析分析 因均值函数和方差函数满足因均值函数和方差函数满足 , )()()(tmsmtsm )()()(tDsDtsD 命题命题：若：若 ),()()(tysytsy .(1)(tyty 可证得可证得1)和和2). 则对任意实数则对任意实数 t, 有有 )()()()(),(smsXtm

7、tXEtsC 证证3) )()( )()(tmsmsXtXE )()( )( )()()(tmsmsXsXsXtXE X(t) X(s) 与与X(s)相互相互 独立独立. stmsXE sXEsXtXE 22 )( )()()( )()( 2222 ststmsmsmsstm 一般一般, C(s, t)=2min(s,t). 性质性质3.1.2 独立增量过程的有限维分布由独立增量过程的有限维分布由 一维分布和增量分布确定一维分布和增量分布确定. 分析分析 对于独立增量过程对于独立增量过程X(t ),t0,任取的任取的 t1 t2 tnT, Y1= X(t1), Y2 =X(t2)X(t1),

8、, Yn =X(tn)X(tn-1) 相互独立性相互独立性, 利用特征函数法可证明结论利用特征函数法可证明结论. 思考题：思考题： 1. 白噪声过程是否一定是独立过程？白噪声过程是否一定是独立过程？ 2. 独立过程是否是独立增量过程？反之？独立过程是否是独立增量过程？反之？ 1定义 为n维正态分布，其密度函数为 也称高斯过程。 则称 设)(tX,Rt是一随机过程， 对 任 意 正 整 数 n 及Rttt n , 21 ， 随机变量)( 1 tX,)( 2 tX,)( n tX的联合分布函数 ),( 2121nn xxxtttf； 1 /21/2 11 exp() C () (2 )|C|2 n

9、 xmxm 第二节第二节 正态过程正态过程 其中 n x x x x 2 1 )( )( )( 2 1 n tm tm tm m 11121 21222 12 C( , )C( , )C( , ) C( , )C( , )C( , ) C C( , )C( , )C( , ) n n nnnn t tt tt t t tt tt t t tt tt t 且 )()( ii tXEtm C( , ) ( )( ) ( )( ) ijiijj t tE X tm tX tm tC( , ) ji t t C为协方差矩阵，为协方差矩阵， 注由正态过程的n维概率密度表达式知，正态过程 的统计特性，由它

10、的均值函数 及自协方差 函数 完全确定。 )(tm 12 C( ,)t t Ex.3 证 可得 设)(tX,Rt是一个独立的正态过程， 若 21 tt ，)( 1 tX与)( 2 tX相互独立， 121212 C( ,)( )( )( ) ( )t tE X t X tm t m t 0)()()()( 2121 tmtmtEXtEX 注注逆命题也成立。 一、维纳过程的数学模型及应用一、维纳过程的数学模型及应用 维纳过程是英国植物学家罗伯特维纳过程是英国植物学家罗伯特.布朗布朗 在观察漂浮在液面的花粉运动在观察漂浮在液面的花粉运动布朗运布朗运 动规律时建立的随机游动数学模型动规律时建立的随机游

11、动数学模型. 第三节第三节 维纳过程维纳过程 维纳过程应用广泛：电路理论、通信维纳过程应用广泛：电路理论、通信 和控制、生物、经济管理等和控制、生物、经济管理等. 维纳过程的研究成果应用于计量经济学，维纳过程的研究成果应用于计量经济学， 使其方法论产生了一次飞跃，成功地应用使其方法论产生了一次飞跃，成功地应用 于非平稳的经济过程，如激烈变化的金融于非平稳的经济过程，如激烈变化的金融 商品价格的研究。商品价格的研究。 二、定义 则称或布朗运动过程。 当1时，称为标准维纳过程。特别 三、维纳过程的分布三、维纳过程的分布 1.一维分布一维分布： W( t ) N(0,2t)； 2. 增量分布增量分布

12、： W( t) W( s)N(0,2|ts|); 设设ts ，因因W(0)=0, 且且W( t )是平稳独立增量是平稳独立增量 过程，故过程，故 有相同分布有相同分布N(0,2(ts). )()()()(sWsstWsWtW )()0()(stWWstW 与与 3. 维纳过程是维纳过程是正态过程正态过程. 证证 设维纳过程设维纳过程 W( t ),t0的参数是的参数是2， , 21n tttn 及及任取任取 ),()( 1 kkk tWtWX ),(, 0( 1 2 kkk ttNX 则则 相互独立，且有相互独立，且有 nkt, 2 , 1, 0 0 kk XXXtW 21 )( )( )(

13、)( 2 1 n tW tW tW 11111 00111 00011 00001 n X X X 2 1 正态随机正态随机 向量的线向量的线 性变换服性变换服 从正态分从正态分 布布。 四、维纳过程的数字特征四、维纳过程的数字特征 1. EW(t)=0; DW(t)= 2t 2. C(s, t)=R(s,t)=2min(s,t) 维纳过程是维纳过程是 平稳独立增平稳独立增 量过程量过程 下证 C(s, )W(s)W( )tEt W(s)D 2s 同理 故 2 C(s, )min(s, )tt 3 对任意 n ttt, 21 ， 21 0tt n t 维纳过程)(tX有 )()( 1 ii t

14、XtX)(, 0( 1 2 ii ttN，ni, 2 , 1 证由于增量 )()( 1 ii tXtX，ni, 2 , 1 是相互独立的正态变量。 所以 )()( 1 ii tXtXE 0)()( 1 ii tXEtXE )()( 1 ii tXtXD)()( 2 1 ii tXtXE )()()(2)( 1 2 1 2 iiii tXtXtXtXE )()()(2)( 1 2 1 2 iiii tXEtXtXEtXE i t 2 1 2 2 i t 1 2 i t ii tt 1 )( 1 2 ii tt 4具有马氏性 证 因此 所以 因)(tX是维纳过程 增量)()(sXstX与时刻 s

15、以前的状态 )(X (s0)独立， xsXastXP)(|)(，)(X，s0 xsXxasXstXP)(|)()(，)(X，s0 xsXxasXstXP)(|)()( xsXastXP)(|)( 所以维纳过程是马氏过程。 例4 试求 的协方差函数。 且 解 设)(tW，0t是一个维纳过程， 0)0(W)()(tWltW（0l常数） 12 C( , )t t)()( 11 tWltWE)()( 22 tWltW )()(tWltWE )()( 21 ltWtWE )()( 21 tWltWE )()( 21 tWtWE ),min( 21 2 ltlt),min( 21 2 ltt ),min(

16、 21 2 tlt ),min( 21 2 tt )(tm0 )()( 21 ltWltWE 当 21 tt 时，可得 当 21 tt ，可得 所以 一、计数过程与泊松过程一、计数过程与泊松过程 在天文，地理，物理，生物，通信，医学，在天文，地理，物理，生物，通信，医学， 计算机网络，密码学等许多领域，都有关于随计算机网络，密码学等许多领域，都有关于随 机事件流的机事件流的计数问题，计数问题，如：如： 盖格记数器上的粒子流；盖格记数器上的粒子流； 电话交换机上的呼唤流；电话交换机上的呼唤流； 计算机网络上的（图象，声音）流；计算机网络上的（图象，声音）流； 编码（密码）中的误码流；编码（密码）

17、中的误码流； 第四节第四节 泊泊 松过程松过程 交通中事故流；交通中事故流； 细胞中染色体的交换次数，细胞中染色体的交换次数， 均构成以时间顺序出现的事件流均构成以时间顺序出现的事件流 A1,A2, 定义定义3.4.1 随机过程随机过程N(t), t0称为称为计数过计数过 程程(Counting Process),如果如果N(t)表示在表示在(0, t)内内 事件事件A 出现的总次数出现的总次数. 计数过程应满足：计数过程应满足： (1) N( t )0; ; (2) N( t ) 取非负整数值；取非负整数值； (3) 如果如果s t，则，则N( s )N( t )； (4) 对于对于s 0；

18、 (4) PN(h)2=o(h). 称称N( t ),t0)是参数是参数( (或速率或速率, ,强度强度) )为为的的 齐次泊松过程齐次泊松过程. . EX.1 在数字通信中误码率在数字通信中误码率是重要指标，是重要指标， 设设N( t ), t0为时间段为时间段0, t)内发生的误码次内发生的误码次 数数, N( t ), t0是计数是计数过程过程, 而且满足而且满足 (1) 初始时刻不出现误码是必然的初始时刻不出现误码是必然的, 故故N(0)=0; (2) 在互不相交的区间在互不相交的区间 nnn tttttttt 211211 0), ,),), 0 出现的误码数互不影响出现的误码数互不

19、影响, 故故N( t )独立增量过程独立增量过程. 在系统稳定运行的条件下在系统稳定运行的条件下, 在相同长度区间在相同长度区间 内出现内出现k个误码概率应相同个误码概率应相同, 故可认为故可认为N( t )是是 增量平稳过程增量平稳过程. N( t ), t0是平稳独立增量过程；是平稳独立增量过程； (3) 认为认为t时间内出现一个误码的可能性时间内出现一个误码的可能性 与区间长度成正比是合理的与区间长度成正比是合理的,即有即有 PN( t)=1= t +o( t), 0； (4) 假定对足够小的假定对足够小的t时间内时间内,出现两个以出现两个以 上误码的概率是关于上误码的概率是关于t的高阶

20、无穷小也是合的高阶无穷小也是合 理的理的, 有有 PN( t)2=o( t). 定理定理3.4.1 齐次泊松过程齐次泊松过程N( t ),t0在时间在时间 间隔间隔(t0, t0+t)内事件出现内事件出现n 次的概率为次的概率为 终上所述终上所述,可用可用Poisson过程数学模型描述通过程数学模型描述通 信系统中误码计数问题信系统中误码计数问题. . 可认为可认为 N( t ), t0是强度为是强度为的泊松计数的泊松计数过程过程. ), 2 , 1 , 0( , ! )( )()( 00 ne n t ntNttNP t n 定理证明反之亦然定理证明反之亦然, ,得泊松过程的等价定义：得泊松

21、过程的等价定义： 定义定义3.4.2 设计数过程设计数过程 N(t),t0 满足下述条满足下述条 件：件： (1) N(0)=0； (3) 对一切对一切0st , N(t) N(s) P(ts), ,即即 ), 2 , 1 , 0( , ! )( )()( )( k e k st ksNtNP st k (2) N(t)是独立增量过程是独立增量过程； 注注 有有 )0()()(kNtNPktNP ),2,1,0( , ! k e k t t k 问题问题 若若N(t)的一维分布是泊松分布的一维分布是泊松分布, 能否能否 推出第推出第(3)条成立条成立? EX.2 设设N( t ), t0是参数

22、为是参数为的泊松过程的泊松过程, 事件事件A在在(0,)时间区间内出现时间区间内出现n次，试求次，试求: : PN(s)=k N()=n, 0kn, 0s s 0 R(s,t)=EN(t)N(s)= EN(s)N(t) N(s)+ N(s) = EN(s)N(t) N(s)+E N2(s) =EN(s)EN(t) N(s)+E N2(s) stssssts 22 )()( tsststmsmtsRtsC 2 )()(),(),( C(s,t)=min(s,t) R(s,t)=min(s, t)+2st. 一般地有一般地有 ( ) 0 ( )( ) iuX tiun X n guE eeP X

23、tn 泊松过程的特征函数为泊松过程的特征函数为 1 iu X g (u)expt(e) 0 () ! n iunt n t e e n exp tiu ete 0 () ! iun t n te e n exp(1) iu t e 1) 令令Y(t)=N1(t) N2(t)，t0,求求Y(t)的均值函的均值函 数和相关函数数和相关函数. 2) 证明证明 X(t)=N1(t) +N2(t), t 0, 是强度是强度 为为1+2的泊松过程的泊松过程. 3) 证明证明 Y(t)=N1(t) N2(t)，t 0,不是泊松不是泊松 过程过程. EX.3 设设N1(t)和和N2( t )分别分别是强度为是

24、强度为1和和2 的相互独立的泊松过程的相互独立的泊松过程, ,)()()()(1 2121 ttNEtNEtm Y ）解解 )()()()(),( 2121 tNtNsNsNEtsRY )()()()( )()()()( 1221 2211 tNsNEtNsNE tNsNEtNsNE )()( )()(),(),( 12 21 21 tNEsNE tNEsNEtsRtsR NN ststtsstts 21 2 22 2 11 2),min(),min( .2)(),min()( 21 2 2 2 121 ststts 2) 根据泊松分布的可加性知根据泊松分布的可加性知 X(t)=N1(t) +

25、N2(t), t0, 3) X(t)=N1(t) N2(t)的特征函数为的特征函数为 1212 ( )exp() iuiu X utetet 独立和的独立和的 特征函数特征函数 由分布函数与特征函数的一一对应的惟一性由分布函数与特征函数的一一对应的惟一性 定理知定理知X(t)不是泊松过程不是泊松过程. 服从参数为服从参数为1+2的泊松分布的泊松分布. 自证自证问题问题:如何证明如何证明? 2. 时间间隔与等待时间的分布时间间隔与等待时间的分布 t W1W2W3W4 N(t) 轨道是跃度为轨道是跃度为 1 的阶梯函数的阶梯函数 用用Tn表示事件表示事件A第第n1次出现与第次出现与第n次出现的次出现的 时间间隔时间间隔. . n i in TW 1 有有 1iii TWW 和 Wn为事件为事件A第第n 次出现的次出现的等待时间等待时间( (到达时间到达时间).). 定理定理3.4.2 设设Tn, n1是参数为是参数为的泊松过的泊松过 程程N(t), t0 的时间间隔序列，的时间间隔序列， 则则Tn, n1