随机过程--★【汉魅HanMei―课程讲义】

1、1,随 机 过 程,2,关键词： 随机过程 状态和状态空间 样本函数 有限维分布函数 均值函数 方差函数 自相关函数自协方差函数 互相关函数互协方差函数 正态过程 独立增量过程 泊松过程 维纳过程,第十章 随机过程及其统计描述,3,1 随机过程的概念,随机过程被认为是概率论的“动力学”部分，即它的研究对象是随时间演变的随机现象，它是从多维随机变量向一族(无限多个)随机变量的推广。 给定一随机试验E，其样本空间S=e，将样本空间中的每一元作如下对应，便得到一系列结果：,4,一维、二维或一般的多维随机变量的研究是概率论的研究内容，而随机序列、随机过程则是随机过程学科的研究内容。从前面的描述中看到，

2、它的每一样本点所对应的，是一个数列或是一个关于t的函数。,5,例1：抛掷一枚硬币的试验，样本空间是S=H,T，现定义：,6,7,8,9,例5：考虑抛掷一颗骰子的试验：,10,随机过程的分类： 随机过程可根据参数集T和任一时刻的状态分为四类，参数集T可分为离散集和连续集两种情况，任一时刻的状态分别为离散型随机变量和连续型随机变量两种： 连续参数连续型的随机过程，如例2，例3 连续参数离散型的随机过程，如例1，例4 离散参数离散型的随机过程，如例5 离散参数连续型的随机过程，,11,2 随机过程的统计描述,12,例1：抛掷一枚硬币的试验，定义一随机过程：,13,例1：抛掷一枚硬币的试验，定义一随机

3、过程：,14,15,(二) 随机过程的数字特征,16,17,18,19,续,20,21,(三) 二维随机过程的分布函数和数字特征,22,23,24,3 泊松过程及维纳过程,25,独立增量过程的性质：,26,27,(一) 泊松分布,28,29,续,30,证毕,31,32,33,34,35,36,定理一：强度为的泊松流(泊松过程)的点间间距是相互独立的随 机变量，且服从同一指数分布 定理二：如果任意相继出现的两个质点的点间间距是相互独立， 且服从同一个指数分布： 这两个定理刻画出了泊松过程的特征，定理二告诉我们，要确定一个计数过程是不是泊松过程，只要用统计方法检验点间间距是否独立，且服从同一个指数

4、分布。,则质点流构成强度为的泊松过程,37,(二) 维纳过程,维纳过程是布朗运动的数学模型 以W(t)表示运动中一微粒从时刻t=0到时刻t0的位移的横坐标，且设W(0)=0。由于微粒的运动是受到大量随机的、相互独立的分子碰撞的结果，于是: 粒子在时段(s,t上的位移可看作是许多微小位移的 和，根据中心极限定理，假设位移W(t)-W(s)服从正态分布是合理的。 (2) 由于粒子的运动完全由液体分子不规则碰撞而引起的，这样，在不相重叠的时间间隔内，碰撞的次数、大小和方向可假设相互独立，即W(t)具有独立增量，同时W(t)的增量具有平稳性。,38,39,40,41,关键词： 无后效性(马尔可夫性)

5、齐次马尔可夫链 n步转移概率 n步转移概率矩阵 C-K方程 马氏链的有限维分布律 遍历性 极限分布(平稳分布),第十一章 马尔可夫链,42,1 马尔可夫过程及其概率分布,马尔可夫性(无后效性) 过程(或系统)在时刻t0所处的状态为已知的条件下，过程在时刻tt0所处状态的条件分布与过程在时刻t0之前所处的状态无关。 通俗地说，就是在已经知道过程“现在”的条件下，其“将来”不依赖于“过去”。,43,证毕！,44,由上例知，泊松过程是时间连续状态离散的马氏过程， 维纳过程是时间状态都连续的马氏过程。 时间和状态都离散的马尔可夫过程称为马尔可夫链，简称马氏链， 记为：Xn=X(n),n=0,1,2,参

6、数集T=0,1,2,， 记链的状态空间为：,45,46,Xm+1的状态,47,例2：(0-1传输系统) 如图所示，只传输数字0和1的串联系统中，设每一级的传真率为p，误码率为q=1-p。并设一个单位时间传输一级，X0是第一级的输入， Xn是第n级的输出(n1)，那么Xn,n=0,1,2是一随机过程， 状态空间I=0,1，而且当Xn=i为已知时，Xn+1所处的状态的概率分布只与Xn=i有关，而与时刻n以前所处的状态无关，所以它是一个马氏链，而且还是齐次的，它的一步转移概率和一步转移概率矩阵 分别为：,48,例3：一维随机游动。设一醉汉Q(或看作一随机游动的 质点)在直线上的点集I=1,2,3,4

7、,5作随机游动， 且仅在1秒、2秒等时刻发生游动，游动的概率规则 是：如果Q现在位于点i(1i5)，则下一时刻各以 的概率向左或向右移动一格，或以 的概率 留在原处；如果Q现在处于1(或5)这一点上，则下 一时刻就以概率1移动到2(或4)这点上，1和5这 两点称为反射壁，这种游动称为带有两个反射壁的 随机游动。,49,解：以Xn表示时刻n时Q的位置，不同的位置就是Xn的不同 状态；而且当Xn=i为已知时，Xn+1所处的状态的概率分布 只与Xn=i有关，而与Q在时刻n以前如何到达i完全无关， 所以Xn,n=0,1,2 是一马氏链，且是齐次的。 它的一步转移概率矩阵为： 如果把1这点改为吸收壁，即

8、Q一旦到达1这一点，则永远留在点1时，此时的转移概率矩阵为：,50,例4：排队模型 设服务系统由一个服务员和只可以容纳两个人的等候室组成。服务规则为：先到先服务，后来者需在等候室依次排队，假设一个需要服务的顾客到达系统时发现系统内已有3个顾客，则该顾客立即离去。 设时间间隔t内有一个顾客进入系统的概率为q，有一接受服务的顾客离开系统(即服务完毕)的概率为p,又设当t充分小时，在这时间间隔内多于一个顾客进入或离开系统实际上是不可能的，再设有无顾客来到与服务是否完毕是相互独立的。,51,现用马氏链来描述这个服务系统： 设Xn=X(nt)表示时刻nt时系统内的顾客数，即系统的状态。Xn,n=0,1,

9、2是一随机过程，状态空间I=0,1,2,3,且如前例2、例3的分析可知，它是一个齐次马氏链，它的一步转移概率矩阵为：,52,例5：有甲、乙两袋球，开始时,甲袋有3只球,乙袋有2只球；以后,每次任取一袋,并从袋中取出一球放入另一袋(若袋中无球则不取)。Xn表示第n次抽取后甲袋 的球数，n=1,2,.Xn,n=1,2,是一随机过程， 状态空间I=0,1,2,3,4,5,当Xn=i时，Xn+1=j的概率只与i有关，与n时刻之前如何取到i值是无关的，这是一马氏链，且是齐次的,一步转移概率矩阵为：,53,例6：某计算机机房的一台计算机经常出故障，研究者每隔15分钟观察一次计算机的运行状态，收集了24个小

10、时的数(共作97次观察)，用1表示正常状态，用0表示不正常状态，所得的数据序列如下： 11100100111111100111101111110011111111100011 01101111011011010111101110111101111110011011 111100111 设Xn为第n(n=1,2,97)个时段的计算机状态，可以认为它是一个齐次马氏链. 求(1)一步转移概率矩阵; (2)已知计算机在某一时段(15分钟)的状态为0，问在此条件下，从此时段起，该计算机能连续正常工作45分钟(3个时段)的条件概率.,54,解: (1) 设Xn为第n(n=1,2,97)个时段的计算机状态，

11、 可以认为它是一个齐次马氏链，状态空间I=0,1， 96次状态转移情况是： 00：8次； 01：18次； 10：18次； 11：52次； 因此一步转移概率可用频率近似地表示为：,55,56,57,58,2 多步转移概率的确定,59,证毕！,60,61,62,从0出发，经4步 首次回到0状态,63,续,64,65,3 遍历性,66,67,68,齐次马氏链在什么条件下才具有遍历性？如何求出它的 极 限分布？ 有限链的遍历性的充分条件：,69,70,例1：一质点在1,2,3三个点上作随机游动，1和3是 两个反射壁，当质点处于2时，下一时刻处于1,2,3 是等可能的。写出一步转移概率矩阵，判断此链是

12、否具有遍历性，若有，求出极限分布。,71,例2：一质点在1,2,3三个点上作随机游动，1和3是 两个反射壁，当质点处于2时，下一时刻转移到1和3 的概率各为。写出一步转移概率矩阵，判断此链是 否具有遍历性，若有，求出极限分布。,72,例3：一质点在1,2,3三个点上作随机游动，1和3是两个 吸收壁，当质点处于2时，下一时刻转移到1和3的 概率各为。写出一步转移概率矩阵，判断此链是 否具有遍历性? 若有，求出极限分布。,73,例4：设有6个球(2个红球,4个白球)随机平分放入甲, 乙两个盒中.今每次从两盒中各任取一球并进行交换. 表示开始时甲盒中的红球数,Xn(n0)表示经n次交换 后甲盒中的红

13、球数. (1)求此马氏链的初始分布; (2)求一步转移概率矩阵; (3)计算 ; (4)判断此链是否具有遍历性，若有，求出极限分布。,74,75,76,关键词： (宽)平稳过程 时间均值 时间相关函数 各态历经性 谱密度,第十二章 平稳随机过程,77,1 平稳随机过程的概念,78,79,80,81,82,83,84,85,续,86,87,2 各态历经性,如何根据实验记录确定平稳过程的均值和自相关函数呢？ 按照数学期望和自相关函数的定义，需要时，一个平稳 过程重复进行大量观察，获得一族样本函数 用统计实验方法，均值和自相关函数近似地为：,88,平稳过程的统计特性不随时间的推移而变化， 根据这一特点，能否通过在一个很长时间内观察得到的 一个样本曲线来估计平稳过程的数字特征呢？ 本节给出的各态历经定理证实，只要满足某些条件， 那么均值和自相关函数实际上可以用一个样本函数在整个 时间轴上的平均值来代替。,89,90,91,92,93,94,95,96,97,98,99,续,100,证毕！,101,102,见下页,103,104,各态历经定理的重要价值在于它从理论上给出了如下保证：一个平稳过程X(t)，若0t+，只要它满足各态历经性条件，便可以根据“以概率1成立”的含义，从一次试验所得到的样本函数