随机过程的定义

1、例1.（随机徘徊）无限制地抛掷一枚硬币， 并按照每次抛掷结果是正面或反面， 让一个粒 子从初始位置0点出发，在直线上分别向右或向左走一步。问：抛掷了 n次后，粒子恰走到 m的概率。事实上，由于粒子是从初始位置0点出发的，因此，当nv |m|时，粒子是不可能走到 m的，而"抛掷了 n次后，粒子恰走到 m”意味着：在n次走动中，恰好向左走了 “ m步；2而向右走了 n-m步此即n次抛掷中恰有 n-m次掷得正面；有匸巴次掷得反面因2 2 2、n 袖 1此，这就需要m与n同为奇偶数。所求概率为Cn 2-（当n|m|且m与n同为奇偶数时）,2n否则概率为0。综上所述，研究一个随机试验，就是要有

2、一个三元组：（Q, F , P）,它称为概率空间，其中Q是全体可能结果组成的集合；F是全体可观测事件（可以合理地给出概率的事件）组成的事件族；而P应该看成一个整体，而不是单个概率值，即P是F上定义的一个取值于0,1区间的函数。同时，加法公理应该满足，而且必然事件的概率应该为1。随机过程的定义： 研究对象是随时间演变的随机现象。n )例2 .以X （t）表示电话交换台在时间间隔0, t内接到的呼叫的次数，X =、X（t）,t 一 0是一随机过程。例3 独立地连续掷一骰子，设X-为第n次独立地掷一骰子所出现的点数，则 X-,n 一 1 为一相互独立同分布的随机序列 （过程），其指标集为 T = 1

3、, 2, 3，;状态空间为S= 1 , 2, 3, 4, 5, 6；如果把序列 3, 2, 3, 4, 6, 5, l , 3,称为Xn 的一条轨道，它表示第 1 , 3, 8次掷得“ 3”点，第2次掷得“ 2”点，第4次掷得“ 4”点, 第5次掷得“ 6”点，.且此时X n有均值为E X n = 3.5,方差为D（ X n） = 17.5, n= 1 , 2,协方差为 Cov( Xi , Xj) = 0, i工j.定义1设(Q , F, P)是一个概率空间，一族随机变量X =fx(t),tT?称为一个随机过程，其中T称为指标集，对 T中的每个t，X(t)是一个随机变量 X(t，3 )，对每个

4、固定的3 , ：X(t/ ) : t T ?是一个定义在T上，和X(t)有同样取值范围的实值函数，称之为随机过程 X的一条(样本)轨道.对所有固定的t, X的全体可能的取值，称为X的状态空间，对离散随机变量的随机过程，状态空间都可认为是正整数集，因为任何可数集与一正整数集是一一对应的.把全体状态编号，以其编号代表状态就行了。我们常常把t解释为时间一般来说， T是一个无限集合，如果它是可数集合，如 T = 0, 1 , 2,，此时称X为离散参数的随机过程，或随机序列，当 T = 0 , + a)或(汽 + m)则称X为连续参数的随机过程。X的全体有限维联合分布族称为X的概率分布。例4 .在上例中

5、，如果根据每次掷得的点数决定一个粒子在平面格点上作如下运动：如 果掷得1, 2, 3, 4点，则分别向上、下、左、右移动1步，如果掷得“ 5”或“ 6”，点，则不动。如果粒子从原点(0, 0)出发，记在第n步粒子所在位置为(X(n) , y(n)，则我们就得到 两个随机过程 X(n) ; n= 0, l，以及 Y(n) ; n = 0, I，.这个随机模型称为 2-维随 机徘徊。例5无限制地抛掷一枚硬币，并按照每次抛掷结果是正面或反面，让一个粒子在直线上分别向右或向左走一步。如果我们要研究，这样走下去，最终随机运动的趋向等问题，就需 要将无穷多步粒子各自所在的位置作为一个整体来考虑，找出它取值

6、的统计规律。为此，我们先要考虑无限制地抛掷硬币所得结果这一随机序列，因为它完全决定了粒子的走法。假设每次抛掷得到正面的概率是p，这个试验的全部可能的结果组成的集合是' 1 - ' ' - ' 1，'弗 2 , , ' n ,: n = 0,1； n - 1,2 -(其中“ 1 ”表示正面，“0”表示反面)。于是，我们就有了概率空间(Q , F , P).若将第n步粒子所在的位置记为 Sn,那么，在 这里我们就需要研究一连串随机变量之间的动态关系，即同时研究Sn : n = 1,2 ?这无穷个随机变量作为整体时，它取值的统计规律。 令1,0,若第n

7、次抛掷出现正面其它情形由于随机徘徊是按照硬币的抛掷结果或向右或向左走一步, 机变量序列 Zn满足P(Zn= 1) = P,iH因此，我们可引入一独立随P(Zn= 1)= 1 P (n = l, 2,)显然nSn= Sn1+ Zn= S° 十二 Z kk 1注意到Zn与2Xn 1是同分布的，于是nSn =So '2Xk -1 ,a 0,1k丄显然，这里的X 1 ,X 2，是一列同分布的随机变量序列：P(Xn= 1) = p,P(Xn= 0) = 1- p (n = l, 2,)又因为各次抛掷是独立的，我们有P Xn1=a2 ,X nkk=ak =PXni=aii=1可见:Xn,

8、n又是相互独立的， 所以，fXn,n_仃是一列相互独立同分布的序列 (简记为i. i. d.序列).上述这样的随机序列 1xn,n _ 1是一个最简单的随机过程，称之为贝努利序列。我们称Xn的取值范围S= 0, 1为随机过程 X =：Xn,n 1的状态空间.对每一个固定的蛍"，X=xn,nK 1就是一个取值为0”或“ I”的无穷序列，称之为X的一条轨道(或样本轨道)。X的一条典型的样本轨道如图2所示.我们称S二Sn,n _ Q-为随机徘徊，它的一条轨道是一个取值为整数的无穷序列，它的状态空间是全体整数.它的与图2相对应的一条轨道如图3所示。1.91.®0.B0.G在例1中，

9、我们已经给出了一个随机变量Xn的概率分布(这里X0=0):因为上面的概率就是：n个相互独立的随机事件工、=1 ,(i = 1,2,，n)中恰好有 丄上2n k n ：k n -kP Xn =k pq（q= I - p，n = 1，2，）个发生的概率这是因为Xn要到达状态k，所需的步数n不可能小于| k |，故n>| k |。若记Nn ：和N：;分别表示在前n步中正面和反面的出现次数，则显然有Xn 二 Nn Nn1两式相加，可得 N=丄n Xn2因此X n = k 二 N n 二-n Xn2注意到2Nn二n Xn必为偶数，因此，若n为偶数，则X.也为偶数；若n为奇数,则Xn也为奇数。P X

10、n=k = Pix 0n'2Mi -1 =ki 4M i表示n次抛掷中正面恰好出现n k次的概率，故只有当2n> |k|nnn -k且n与k的奇偶性相同时，此概率才为非零，即等于 P Xn二k二Cn2 p 2 q 2rnx同理，一般地，对初始状态为 X； = x的简单随机徘徊 X； = x+送Zi ，类似可 Iz 丿 n * _x n4k_x n _k 七P（X：=k）=Cn 2 p 2 q 2, 若n k-x|且n与k -x同为奇偶数n0,其它情形例6对简单随机徘徊 X=Xn,n_ -，求出经过，n= 4步，Xn = 2的概率。解由上式知P X4 一2 =C- p 1 - p

11、3=4p 1 - p 3下面我们来考察 x的最重要的统计特征一一有限维联合分布，这里我们先讨论简单的情形（2维的情形），我们要求的概率是P Xn 二r,xm =s 二P Xn =r,xm Xn =s rz nm=P送乙=r,2：乙<i =1i=a 出m -n "s -r2m-nn T=Cn 2n -rm -n "s -rp 21 -m -n -s r在前面我们已经看到：随机徘徊 X是一列相互独立的随机变量的部分和序列。于是，它在 个互不相交的区间 n1 ,m1 , n2 ,m2，,ns,ms上的增量分别为mim2msXmi - Xm 二 '、Zi, Xm2 一

12、 X % 二 '、Zj,X叫一 X.s 二-Zji空1书i主2卅i仝s书它们各自是S组相互独立的随机变量的和，因此它们也相互独立. 而且对任意S个互不相交的区间，都有上述的独立性。随机过程的这种性质称为独立增量性。定义2. 设X =Xn,n _ 1是一个随机过程，如果它在任意 s个互不相交的区间上 的增量X m Xn1 , X m2 X n2，,Xms - X%都相互独立，称随机过程 X为一个独立 增量过程.又如果对任意的n>0,都有xm .n - xm （n>0）对一切m同分布，则称X为一个 时齐的独立增量过程.显然，简单随机徘徊就是一个时齐的独立增量过程。对独立增量过程

13、，容易知道有如下的结论：命题1设X =Xn,n 是一个独立增量过程，我们增补定义 X 0=0，则全部随机 变量Xm -Xn , （m > n）的概率分布 P Xm - Xn =Zj ； j -1,2就决定了随机过程 X的 概率分布.如果 X还是时齐的，则全部随机变量 Xn （n>0）的分布就决定了随机过程 X的 分布.在物理学中，很多确定性现象遵从如下演变原则：由时刻t0系统或过程所处的状态，可以决定系统或过程在时刻t - 10所处的状态，而无需借助于t。以前系统或过程所处状态的历史资料。例如，我们考虑一在直线上作对称随机徘徊的粒子，以Xn表示粒子在时刻n时的位置，则其状态空间为Z

14、（全体整数组成的集合），若在n时刻粒子位于i （即Xn = i），那么，粒子 在下一时刻n + 1，或者以0.5的概率跳到i + I，或者以0.5的概率跳到i 1在这一模型 中，最有趣的现象是：粒子在n+ 1时刻的位置：只依额于它在n时刻的位置，而不依赖于它在n时刻前的位置。这一性质就是所谓的Markov性（这个名字由它的首创者俄国数学家Markov而得名）。具有 Markov性的随机过程称为 Markov过程，它是一类广泛适用于各种 领域的重要的随机过程。定义3.一随机过程X =、Xn,n 一 0/称为一个离散参数的 Markov链，如果Xn S , n= 1, 2, 3，），其中S为一一个

15、有限或可数集合 （称为此Markov链的状态空间），并且对 任意的i, j,i0,in4 S,都有P Xn 厂 j|X 0=i 0 ,X 1=i1 , Xn 4 = in -1 , Xn二 P Xn 1 二 j|Xn称条件概率 PXn 厂 j|Xn =i ）为该Markov链的（一步）转移概率；并记为pij （n），若Pj (m与n无关，则称Markov链为齐次的。例7.(随机徘徊)对简单随机徘徊 X = Xn,n _ 0：其状态空间为 S=Z，由Xn的定义nXn()二 X o ()' Zk()k 4其中Zk,k _0?若为独立同分布随机变量序列，满足P Zk二1= p，P Zk二-1

16、 =1 - p = q，这里Xn表示一个粒子分别以概率 p、q向右与向左走一步。 前面所讲简单对称随机徘徊就是这里 p=0.5的情况。由于 X 0 ,X 1，Xn都是Z 0 ,Z 1，Zn的部分和，因此，它们和Zn彳相互独立，故P Xn 1二 P Zn 1=P Zn 1二 P Zn 1二 j|X 0 =i 0 ,X 1 二 i 1 , ,Xn / in，Xn =iXn = j|X 0 " 0 ,X 1 二 i 1, ,Xn 厂 in,Xi =j i|X 0 二 i 0 ,X 1 二 i1 , ,Xz 二 in，Xn =i iP,j -i 1j “ -1其它从而:二 in_1 , Xn

17、 = i故简单随机徘徊=j|X 0 =i 0 ,X 1 二 i1, ,XnJ n 1 二 j|Xn "齐次Markov链且:P,Pijq,0j =i 1j =i -1其它Pij例& (两端反射壁的随机徘徊)，在上例中，如果在位置a与b(a<b)分别设立一个反射壁,Pb,j =0,(j = b)0,(j式a);pb,b A=1_01一-01q0P0000q0P00 . <-00q0P一000q0P0一-10 一C,A,B,pa,a 1 - 1,pa即当粒子到达 a与b时，下一步以概率 1分别反射到a+1与b-1，于是粒子运动仍然是 Markov链，其它统计规律和例7

18、相同，只是D四种牌子的牙膏根据市场调例7 4（品牌选择）市场上销售查表明，可近似地认为，消费者购买哪一种品牌的牙膏，仅与他前一次购买的 品牌有关，而与这之前购买的品牌无关记xo为某消费者最初所购买的牙膏的品牌，XI , x2,分别表示他在这之后各轮所购买的牙膏的品牌，贝UIx”，72> 0I为一 MEm儿ov链，其状态空间为 S= IA，月，C, D 6，它的转移概率矩阵可 以从市场调查中获得，比如说为在这个问题中，我们感兴趣的是这四种品牌的牙膏的市场占有率随时间的推 移而发生的变化情况，关于它，我们在以后将作具体的讨论.例7。5 （赌博模型，两端吸收壁随机徘徊）设某赌徒有赌本i（3 > 1）元，其对手有赔本oi >0元，每赌一次该赌徒均以夕的概率赢一元，以g = 1夕的概率输一元赌博一直到两赌徒中有一人破产才告结束，因此，赢的赌徒最终有总赌资"兀， 求该赌徒的破产概率.解 记A为赌徒有赌本i元而最终破产的概率.求此概率的关键是给出下面的事件关系式，其方法称为首步分析法：、Aj = 1有赌本i元而最终破产1若记B=1该赌徒第1次赌赢9，则由上述关系式及全概率公式，我们可得这是一个差分方程，且它有边界条件一一加二尸（有赔本0元而最终破产）=1久=尸（有赔