随机过程的概念与基本类型

1、第二章第二章 随机过程的随机过程的 概念与基本类型概念与基本类型 随机过程的例子随机过程的例子 以以X(t)表示某电话交换台在时间段表示某电话交换台在时间段0,t内接到内接到 的呼叫次数，则的呼叫次数，则X(t)，t0,)是随机过程；是随机过程； 以以X(t)表示某地区第表示某地区第t天的最高气温，则天的最高气温，则X(t)， t=0,1, 是随机过程；是随机过程； 以以X(t)表示某固定点处在时刻表示某固定点处在时刻t的海面相对于的海面相对于 平均海平面的高度，则平均海平面的高度，则X(t)，t0,)是随是随 机过程；机过程； X(t)=acos(t+)， t（- ,)，其中，其中a，是是

2、常数，常数，是随机变量。则是随机变量。则X(t)，t （- ,) 是随机过程是随机过程 2.1 随机过程的一般概念随机过程的一般概念 定义定义2.1 设设( , F, ,P)为概率空间，为概率空间，T是参数集。是参数集。 若对任意若对任意 t T ，有，有随机变量随机变量X(t, e)与之对应，与之对应， 则称则称随机变量族随机变量族 X(t, e)， t T 是是( , F, ,P)上上 的随机过程，简记为的随机过程，简记为 X(t)，t T 或或 Xt，t T 。 X(t)的所有可能的取值的集合称为状态空间或的所有可能的取值的集合称为状态空间或 相空间，记为相空间，记为I。 2.1 随机过

3、程的基本概念 从数学上看，从数学上看，随机过程随机过程 X(t, e)， t T 是定是定 义在义在T上的二元函数上的二元函数。 对固定的对固定的t t，X(t, e) 是是( , F, ,P)上的上的随机变量；随机变量； 对固定的对固定的e，X(t, e) 是定义在是定义在T上的普通函数，上的普通函数， 称为称为随机过程的一个样本随机过程的一个样本函数或样本轨道。函数或样本轨道。 2.1 随机过程的基本概念 按参数按参数T和状态空间和状态空间I分类分类 （1 1）T和和I都是离散的都是离散的 （2 2）T是连续的，是连续的，I是离散的是离散的 （3 3）T是离散的，是离散的，I是连续的是连续

4、的 （4 4）T和和I都是连续的都是连续的 按按Xt 的概率特性分类的概率特性分类 正交增量过程正交增量过程 独立增量过程独立增量过程 马尔可夫过程马尔可夫过程 平稳随机过程平稳随机过程 一维随机变量一维随机变量 e X(e) 二维随机变量二维随机变量 e （X(e)， Y(e)） 。 n维随机变量维随机变量 e （X1(e)， X2(e)，,Xn(e)） 随机序列 e （X1(e)， X2(e)，, ） 随机过程 e （X(t,e)， tT ） 随机变量族随机变量族 (t ,e) xt(e)=x(t, e) x x (ti,e) t1 t2 t3 2.2 随机过程的分布和数字特征随机过程的分

5、布和数字特征 随机过程随机过程 X(t)，t T 的有限维的有限维分布函分布函 数族数族 其中其中 是是n维随机变量维随机变量 ( (X(t1), X (t2), , X (tn) )的联合分布函数的联合分布函数 1,),( 2121, 1 nTtttxxxF nntt n F F ),( 21, 1 ntt xxxF n 例：X(t)=tV,-t ,其中V为随机变量。 P(V=1)=0.6,P(V=-1)=0.4, 求F1.5 (x), F2 (x), F1.5,2 (x1,x2), 2.2 随机过程的分布律和数字特征 有限维分布函数族的性质有限维分布函数族的性质 (1) (1)对称性对称性

6、 其中其中 是是 的任意排列的任意排列 (2) (2)相容性相容性 m 0，Y, Z相相 互独立，互独立，EY=EZ=0，DY=DZ= 2。求求 X(t), t0的的均值函数和协方差函数。均值函数和协方差函数。 解解 0)sin()cos( )sin()cos()()( EZtEYt tZtYEtEXtm X )()( )()()()( )()()()(),( tXsXE tEXsEXtXsXE tEXtXsEXsXEtsBX 2.2 随机过程的分布律和数字特征 )cos( )sin()sin()cos()cos( )sin()sin( )(sin)cos()cos( )()sin()sin(

7、 )()cos()sin( )()sin()cos()()cos()cos( )sin()sin( )cos()sin( )sin()cos()cos()(cos( )sin()cos()(sin()cos( 2 22 2 2 2 2 ts tsts DZts EYEZtsDYts ZEtsYZEts YZEtsYEts ZtsYZts YZtsYtsE tZtYsZsYE )cos( )sin()sin()cos()cos( )sin()sin( )(sin)cos()cos( )()sin()sin( )()cos()sin( )()sin()cos()()cos()cos( )sin()

8、sin( )cos()sin( )sin()cos()cos()(cos( )sin()cos()(sin()cos( 2 22 2 2 2 2 ts tsts DZts EYEZtsDYts ZEtsYZEts YZEtsYEts ZtsYZts YZtsYtsE tZtYsZsYE )cos( )sin()sin()cos()cos( )sin()sin( )(sin)cos()cos( )()sin()sin( )()cos()sin( )()sin()cos()()cos()cos( )sin()sin( )cos()sin( )sin()cos()cos()(cos( )sin()c

9、os()(sin()cos( 2 22 2 2 2 2 ts tsts DZts EYEZtsDYts ZEtsYZEts YZEtsYEts ZtsYZts YZtsYtsE tZtYsZsYE )cos( )sin()sin()cos()cos( )sin()sin( )(sin)cos()cos( )()sin()sin( )()cos()sin( )()sin()cos()()cos()cos( )sin()sin( )cos()sin( )sin()cos()cos()(cos( )sin()cos()(sin()cos( 2 22 2 2 2 2 ts tsts DZts EYEZ

10、tsDYts ZEtsYZEts YZEtsYEts ZtsYZts YZtsYtsE tZtYsZsYE 2.2 随机过程的分布律和数字特征 设设X(t)=Y+Zt, t0，Y, Z N(0, 1) 求求X(t), t0的一、二维概率密度族。的一、二维概率密度族。 解解 因因Y, Z为正态随机变量，则其线性组合为正态随机变量，则其线性组合 X(t)也是正态随机变量，也是正态随机变量， di i . . ondistributi identical tindependen 22 22 ( )()0 ( )()1 ( , ) ( ) ( )( )( ) () () 1 0 01 X X XXX

11、m tE YZtEYtEZ D tD YZtDYt DZt Bs tE X s X tm s m t E YZsYZtE YZYs YZtZ st stst X(t)N(0, 1+t2) 2.2 随机过程的分布律和数字特征 随机过程随机过程X(t), t 0的一维概率密度的一维概率密度 2 2 2 2 2 1() ( )exp 22 1 exp,0 2(1) 2 (1) t x f x x t t t 2.2 随机过程的分布律和数字特征 0, 1 )1)(1 ( 2 1)1 (2 1 exp )1)(1)(1 (2 1 ),( 2 2 2 22 21 2 2 1 2 222 21, ts t

12、x ts xx s x ts xxf ts 随机过程随机过程X(t), t0的二维概率密度的二维概率密度 2.2 随机过程的分布律和数字特征 设设 X(t)，t T ， Y(t)，t T 是两个随是两个随 机过程，二阶矩函数存在，定义机过程，二阶矩函数存在，定义 二阶矩过程二阶矩过程 一、二阶矩函数存在一、二阶矩函数存在 定义定义2.4 互互协方差函数协方差函数 互相关函数互相关函数 显然有关系式显然有关系式 Tts tEYtYsEXsXEtsBXY , )()()()(),( TtstYsXEtsRXY, , )()(),( TtstmsmtsRtsB YXXYXY , , )()(),()

13、,( 2.2 随机过程的分布律和数字特征 设设X(t)为信号过程，为信号过程，Y(t)为噪声过程，为噪声过程， W(t)=X(t)+Y(t)，求求W(t)的的均值函数和相均值函数和相 关函数。关函数。 解解 )()()()( )()(),( )()()()( )()()()( tYtXsYsXE tWsWEtsR tmtmtEYtEX tYtXEtEWtm W YX W 2.2 随机过程的分布律和数字特征 ( )( )( ) ( ) ( )( )( ) ( ) ( )( )( ) (t) ( )( ) ( ) ( ) ( , )( , )( , )( , ) XXYYXY E X s X tX

14、 s Y t Y s X tY s Y t E X s X tE X s Y E Y s X tE Y s Y t Rs tRs tRs tR s t 2.3 复随机过程复随机过程 定义定义2.5设设 Xt，t T ， Yt，t T 是取是取 实值的两个随机过程，对实值的两个随机过程，对t T ，Zt = Xt + iYt，则称，则称 Zt，t T 是是复随机过程复随机过程。 均值函数均值函数 方差函数方差函数 )()()(timtmiEYEXEZtm YXtttZ )()( | )(|)( 2 tmZtmZE tmZEtD ZtZt ZtZ 2.3 复随机过程 相关函数相关函数 协方差函数协

15、方差函数 显然有关系式显然有关系式 tsZ ZZEtsR),( )()(),(tmZsmZEtsB ZtZsZ )()(),(),(tmsmtsRtsB ZZZZ 2.3 复随机过程 设设 Xt，t T ， Yt，t T 是两个复随机是两个复随机 过程，定义过程，定义 互相关函数互相关函数 互协方差函数互协方差函数 显然有关系式显然有关系式 tsXY YXEtsR),( )()(),(tmYsmXEtsB YtXsXY )()(),(),(tmsmtsRtsB YXXYXY 2.3 复随机过程 复随机过程的复随机过程的协方差函数协方差函数具有性质具有性质 (1)共轭对称性共轭对称性 (2)非负

16、定性非负定性 1, 2 , 1, 0),( 1, nnICaTt aattB ii ji n ji ji ),(),(stBtsB 2.3 复随机过程 设设复随机过程复随机过程 X1, X2, , Xn独立，独立，w1, w2, , wn为参数，为参数， 求求 Zt, t 0 的均值函数的均值函数m(t)和相关函数和相关函数R(s, t) 解解 ), 0(, 0, 2 1 kk n k tiw kt NXteXZ k 0 )( 1 1 n k k tiw n k tiw kt EXe eXEEZtm k k 0 )( 1 1 n k k tiw n k tiw kt EXe eXEEZtm k

17、 k 2.3 复随机过程 11 () ,1 ()2 1 ()2 1 ( , ) kk kl k k nn iw siw t Stkk kk n i w s w t kl k l n iws t k k n iws t k k R s tE Z ZEX eX e E X X e E Xe e 时间增量时间平移 正交增量过程 EX2 EX=0，EX2 宽平稳随机过程 独立增量过程严平稳随机过程 平稳独立增量过程 维纳过程泊凇过程高斯过程 增量服从正态分布增量服从泊凇分布有限维联合变量服从 正态分布 马尔可夫过程 时间记忆 2.4 几种重要的随机过程几种重要的随机过程 2.4 几种重要的随机过程几种

18、重要的随机过程 定义定义2.6设设 X(t)，t T 是随机过程，且是随机过程，且 EX(t)=0, EX2(t) + ，若对任意的若对任意的t1 t2 t3 t4 T,有有E(X(t2)- -X(t1)(X(t4)- -X(t3)=0，则则 称称 X(t)，t T 为正交增量过程。为正交增量过程。 不相关不相关 t t1 1 t t2 2 t t3 3 t t4 4 定理：定理：设设T=a,b , 规定规定X(a)=0, 若若 Xt，t T 是是正交增量过程，则正交增量过程，则 ),(min(),(),( 2 tstsRtsB XXX 2.4 几种重要的随机过程 证证:对于对于astb 同理

19、对于同理对于a t s b , 有有 于是于是 )()(0 )()()()()( )a ()()()( )()(),( )()(),(),( 22 2 ss sXEsXtXaXsXE XtXaXsXE tXsXEtsR tmsmtsRtsB XX X XXXX )(),( 2 ttsB XX ),(min(),(),( 2 tstsRtsB XXX )()(0 )()()()()()( )()()()()()( )()(),( )()(),(),( 22 2 ss aXsXEsXtXaXsXE aXsXsXtXaXsXE tXsXEtsR tmsmtsRtsB XX X XXXX 2.4 几种

20、重要的随机过程 定义定义2.7设设 X(t)，t T 是随机过程，是随机过程，对对 任意正整数任意正整数n和和t1t2tn T, 随机变量随机变量 X(t2)- -X(t1)，X(t3)- -X(t2), , X(tn)- -X(t tn n-1 -1) 是相互独立的，是相互独立的，则称则称 X(t)，t T 是独立是独立 增量过程增量过程或或可加过程。可加过程。 定理：定理：若若 Xt，t T 是独立是独立增量过程，增量过程， 且且EX(t)=0，EX2(t)+ ，则则 Xt，t T 是是 正交正交增量过程。增量过程。 2.4 几种重要的随机过程 事实上，对事实上，对t1t2 t3t4 T,

21、由独立增量性，由独立增量性， 有有 E(X(t2)- -X(t1)(X(t4)- -X(t3) = EX(t2)- -X(t1)EX(t4)- -X(t3) =0 2.4 几种重要的随机过程 定义定义2.8设设X(t), t T是独立是独立增量过程增量过程， 若任意若任意st, 随机变量随机变量X(t)- -X(s)的分布仅的分布仅 依赖于依赖于 t- -s，则称，则称X(t), t T是平稳独立是平稳独立 增量过程。增量过程。 维纳过程和泊松过程是维纳过程和泊松过程是平稳独立平稳独立增量过程增量过程 定义定义2.9 设设 X(t)，t T 为随机过程，为随机过程， 若对任意正整数若对任意正整

22、数n及及t1 t20，且条件分布且条件分布 PX(tn) xn|X(t1)=x1, X(tn- -1)=xn- -1 = PX(tn) xn|X(tn- -1)=xn- -1， 则称则称 X(t)，t T 为马尔可夫过程。为马尔可夫过程。 若若t1,t2,tn- -2表示过去，表示过去，tn- -1表示现在，表示现在，tn 表示将来，马尔可夫过程表明：在已知表示将来，马尔可夫过程表明：在已知 现在状态的条件下，将来所处的状态与现在状态的条件下，将来所处的状态与 过去状态无关。过去状态无关。 定义定义2.12 设设 X(t)，t T 是是随机过程，随机过程， 对任意常数对任意常数 和正整数和正整

23、数n， t1,t2, tn T, , t1+ + , t2+ + ,tn+ + T， 若若(X(t1), X(t2), , X(tn)与与 (X(t1+ + ), X(t2+ + ), X(tn+ + ) 有相同的联合分布，则称有相同的联合分布，则称 X(t)，t T 为严平稳过程，也称狭义平稳过程。为严平稳过程，也称狭义平稳过程。 6.1 平稳平稳随机过程的概念随机过程的概念 定义定义2. 13 设设 X(t)，t T 是是随机过程，随机过程， 并满足：并满足： (1)(1)X(t)，t T 是二阶矩过程；是二阶矩过程； (2)(2)对任意对任意t T ，mX(t)= =EX(t)= =常数

24、；常数； (3)(3)对任意对任意s, t T ， RX(s, t)= =EX(s)X(t)= =RX(t- -s)， 则称则称 X(t)，t T 为宽平稳过程，也称为宽平稳过程，也称 广义平稳过程，简称平稳过程。广义平稳过程，简称平稳过程。 若若T为离散集，为离散集，称称平稳过程平稳过程 Xn，n T 为平稳序列。为平稳序列。 6.1 6.1 平稳随机过程的概念平稳随机过程的概念 设设Xn,n=0, 1, 2,是实的互不相关是实的互不相关 随机变量序列，且随机变量序列，且EXn=0，DXn = 2 ，试讨论随机序列的平稳性，试讨论随机序列的平稳性。 解解 因为因为EXn=0， 所以所以Xn,n=0, 1, 2,是平稳随机序列。是平稳随机序列。