随机过程学课件：第一章 介绍

1、11随机过程22教材或参考书An Introduction to Stochastic Processes 随机过程引论（英文版）Edward P.C. KaoBasic Stochastic Processes 随机过程基础 Zdzisilaw Brzeniak; Tomasz Zastawniak随机过程刘次华 编华中科技大学出版社应用随机过程林元烈清华大学出版社33课程大纲第一章：概率论与随机过程介绍第二章： 泊松过程第三章：马尔柯夫链第四章：连续时间的马尔柯夫链第五章：布朗运动与鞅44第一章：介绍简要回顾一下概率论中与本课程有关的基本概念：随机试验、样本空间、事件、概率、随机变量等随机

2、过程的概念、分类55随机试验试验结果事先不能准确预言，三个特征:可以在相同条件下重复进行；每次试验结果不止一个，可预先知道试验所有可能结果；每次试验前不能确定那个结果会出现。样本空间随机试验所有可能结果组成的集合，记为事件样本空间的子集A称为事件集合运算6古典概率随机试验中一切可能结果是有限多个；每个结果出现的可能性是相等的；则事件A发生的概率可表示为7几何概率计算无穷个基本事件的情形；样本点具有均匀分布的性质；设用L() 作为区域大小的量度，而区域中任意可能出现的小区域A的量度用L(A)表示；则事件A（或某一区域）发生的概率表示为8统计概率用于计算前两种随机概率概括不了的随机事件概率；用事件

3、的频率近似地去表达事件的概率；若在同样的条件下，将随机试验独立的重复做n次，事件A出现了nA次，则事件A的频率是当试验次数n增大时，其中大量的频率聚集在一个常数周围;这个常数是客观存在的，反映了事件A出现可能性的大小，我们认为这个常数就是事件的概率。99规定一个随机试验，所有样本点之集合构成样本空间 ，在样本空间中一个样本点或若干个样本点之适当集合F称为集合类或域，F中的每一个集合称为事件。并不是所有的的子集都能方便地定义概率，要有限制。例如：掷骰子， =1,2,3,4,5,6 F=,1, , 6,1,2, 6,6,1,2,3, , F=, 小点,大点，小点=1,2,3；大点=4,5,6 但在

4、F=,1 , 大点上定义概率就有问题。101011111212定义： 设（,F）为可测空间 ，P是定义在F上的集函数，若满足：0P(A) 1， ;P()=1;若A1,A2,.,Ak两两互斥，则称P为可测空间（,F）的一个概率测度，简称概率； 称（,F,P）为一个概率空间；F为事件域，A为事件，P(A)为事件A的概率。1313例：U0,10,1区间上的均匀分布： =0,1 ，F=B0,10,1区间上的Borel域， U0,1的概率P定义为： 令A为 0,1上全体有理数，AC为0,1上全体无理数。 1）证明 2）证明 P(A)=0， P(AC)=11414条件概率在事件B已发生这一条件下，事件A发

5、生的概率。全概率公式：若有N个互斥事件Bn（n=1,2,N），它的并集等于整个样本空间，则1515设事件A1，A2，An构成一个完备事件组，概率P(Ai)0,i=1,2,n,对于任何一个事件B，若P(B)0, 有贝叶斯公式独立事件独立的等价命题：1）A，B独立； 2） A，BC独立； 3）P(A/B)=P(A)； 4） P(A/BC)=P(A)思考：独立与互斥的关系16事件A1，A2，An看作是导致事件B发生的“因素”，P(Ai )是在事件B已经出现这一信息得知前Ai出现的概率，通常称为先验概率。在试验中事件B的出现，有助于对导致事件B出现的各种“因素”发生的概率作进一步探讨，公式给出的P(A

6、iB)是在经过试验获得事件B已经发生这个信息之后，事件Ai发生的概率，称为后验概率。后验概率依赖于试验中得到的新信息的具体情况（比如事件B发生还是事件B补发生），并且给出在获得新信息之后，导致B出现的各种因素Ai发生情况的新知识，因此贝叶斯公式又称为后验概率公式或逆概率公式。 先验概率与后验概率1717随机变量定义：设（，F，P）是概率空间，X=X(e)是定义在上的实函数，如果对任意实数x，e:X(e) x F，则称X(e)是F上的随机变量（X也称为F可测的）。1818事件随机变量离散型随机变量：只取有限个数值或可列无穷多个值。连续型随机变量：从原样本空间到新样本空间的映射是某一个范围，是一段

7、（或几段）实线（也可能是整个坐标轴），随机变量可以取值于某一区间中的任一数。1919分布函数（一个描述随机变量取值的概率分布情况的统一方法）性质：F(x)是非降函数；0F(x) 1；Px1Xx2=F(x2)-F(x1)F(x)是右连续。2020概率密度函数：分布函数的导数性质： ； ； 对离散型随机变量，其概率密度可以用 函数来表示：2121离散型随机变量的概率分布用分布列描述01分布二项分布泊松分布连续型随机变量的概率分布用概率密度描述均匀分布正态分布指数分布22随机变量函数的分布在给定某任意的随机变量X，以及它的概率分布函数FX(x)，希望进一步求出给定的随机变量的某些可测函数（如Y=g(

8、X)）的概率分布函数。Y的概率分布函数公式为如果上式右端概率的导数对于y处处存在，那么这个导数就给出了随机变量Y的概率密度23（一）g(x)是可导的单调函数，其反函数为x=g-1(y)。若g(x)是单调上升函数，则有：两边求导得：同理，若g(x)是单调下降函数，则有：综合两种情况，对任意的单调可导函数g(x)，有：24（二）若g(x)是不是单调函数，其反函数有多个值，即对一个y，有多个x与之对应。若一个y值有两个x值，x1=h1(y)和x2=h2(y)与之对应，可证：同理，若一个y值有n个x值，x1=h1(y)，xn=hn(y)与之对应，则有：例：X为0,2上的均匀分布，求Y=cos(X)的概

9、率密度。2525n维随机变量及其分布函数设（ ，F，P）是概率空间，X=X(e)（X1(e),Xn(e)）是定义在上的n维空间Rn中取值的向量函数。如果对于任意X=(X1,Xn) Rn，e:X1(e) x1,Xn(e) xn F，则称X=X(e)为n维随机变量。称为X=(X1,X2,Xn)的联合分布函数26边际分布若二维联合分布函数中有一个变元趋于无穷，则其极限函数便是一维分布函数，对于这种特殊性质，我们称其为边际分布。对于任意两个随机变量X,Y，其联合分布函数为FXY(x,y)，则分别称F1(x)和F2(y)为FXY(x,y)关于X和关于Y的边际分布函数。离散型随机变量（X，Y）边际分布函数

10、计算如下连续型随机变量（X，Y）边际分布函数计算如下27相互独立的随机变量设X，Y是两个随机变量，若对任意实数x，y有则称X，Y为相互独立的随机变量。若X，Y为相互独立随机变量，则有联合密度边际密度边际密度联合密度2828条件分布条件概率条件分布函数两边对x微分2929全概率公式（续）设A1, A2, An是样本空间的一个划分，事件B=Xx，根据全概率公式，有：即：两边求导得：这两个公式称为分布函数和概率密度的全概率公式。3030随机变量的数字特征统计平均与随机变量的数学期望随机变量函数的期望值方差协方差相关系数独立与不相关31统计平均与数学期望设离散随机变量X，它可能取4个值x1，x2，x3

11、，x4，做试验n次，计算X的算术平均可得：P(X=xk)对于离散型随机变量可以用 函数来表示其概率密度随机变量数学期望定义3232随机变量函数的期望值已知随机变量X的数学期望值，求随机变量函数Y=g(X)的数学期望，对于多维随机变量33设X1,X2, ,Xn为随机变量，求随机变量函数Y=a1X1+a2X2+anXn的数学期望。N维随机变量的数学期望34已知随机变量X1和X2，求随机变量函数YaX1+bX2的数学期望加权和的期望等于加权期望的和求数学期望是线性运算数学期望的线性运算不受独立条件限制3535已知随机变量X1和X2，求随机变量函数Yg1(X1)g2(X2)的数学期望假设两个随机变量X

12、1和X2相互独立，则有3636K阶原点矩（moments），k阶中心矩随机变量X，若E|X|k，称EXk为k阶原点矩。离散随机变量连续随机变量又若EX存在，且E|X-EX|k ，称为X的k阶中心矩。离散随机变量连续随机变量3737一阶原点矩就是随机变量的数学期望，数学期望大致的描述了概率分布的中心。说明： E|X|，即是要求xk的出现顺序对随机变量的统计特性没有影响。注意：数学期望要求E|X|。例：设随机变量X的分布律为：可以求得， E|X|=，其期望值不存在（如果没有此条件， EX=-ln2 ）。3838中心化的两个随机变量X-EX，Y-EY的互相关矩称为随机变量X和Y的协方差，协方差是描述

13、随机现象中，随机变量X和Y概率相关的程度。引入一个描述两个随机变量相关程度的系数XY称为归一化的协方差系数或相关系数。3939若XY0，则称随机变量X和Y不相关。若两个随机变量X和Y的联合矩满足则称随机变量X和Y统计独立4040统计独立不相关统计独立不相关设Z是一个随机变量，具有均匀概率密度令X=sinZ，Y=cosZ，求随机变量X和Y是否相关，是否独立？4141条件期望示性函数（Indicator function）离散随机变量的条件期望设（X,Y）为两个离散型随机变量，称P(X=xi|Y=yj)= P(X=xi,Y=yj)/ P(Y=yj)为给定Y=yj时，X的条件分布律。称为给定Y=yj

14、时，X的条件数学期望4242条件期望（续）定义：记称E(X|Y)为X关于Y的条件期望。 思考： E(X|Y)是一个随机变量，其概率分布如何求？连续随机变量的条件期望设（X,Y）的条件密度函数为其条件期望为4343条件期望（续）定义：两个随机变量 X,Y，如果P(X=Y)=1，称 X,Y几乎处处相等，记为X=Y a.s.（almost surely)。条件期望的基本性质：4444条件期望（续）由性质1，令 X=IA，则有：此公式也称为全概率公式。设X与Y为相互独立的随机变量，其分布分别为FX(x)和FY(y)，证明Z=X+Y的分布FZ(z) = FX(x)*FY(y)（卷积） 。N个相互独立的随

15、机变量序列的和的分布（或概率密度），为这N个随机变量的分布（或概率密度）的N重卷积。 4545生成函数定义：设an为数字序列，称该序列的Z-变换为an的生成函数，记为：定义：设X为离散随机变量，令an =PX=n ，称PX(z)=ag(z)=E(zX)为X的生成函数，|z|1。卷积性质4646生成函数47特征函数48特征函数49拉氏变换傅里叶变换要求函数在(-, )绝对可积，对不满足这一性质的函数，可以用拉氏变换，拉氏变换的性质和傅氏变换类似。5050随机变量与随机过程在每次试验的结果中，以一定的概率取某个事先未知，但未确定的数值。在实际应用中，我们经常要涉及到在试验过程中随时间t而改变的随机

16、变量。例如，接收机的噪声电压，此外，还包括生物群体的增长问题；电话交换机在一定时间段内的呼叫次数；一定时期内的天气预报；固定点处海平面的垂直振动；等等5151在第Wi次试验中测量获得的噪声电压Xt是一个样本函数52525353定义设（,F,P）是概率空间，T是给定的参数集，若对每个tT，由一个随机变量X(t,e)与之对应，则称随机变量族X(t,e),t T是（,F,P）上的随机过程。随机过程X(t,e),t T可以认为是一个二元函数。对固定的t，X(t,e)是（,F,P）上的随机变量；对固定的e， X(t,e)是随机过程X(t,e),t T的一个样本函数。5454有限个随机变量统计规律联合分布

17、函数随机过程统计规律有限维分布函数族设XT=X(t),tT是随机过程，对任意n1和t1,t2, ,tn T，随机向量(X(t1),X(t2), ,X(tn)的联合分布函数为这些分布函数的全体称为XT=Xt,t T的有限维分布函数。5555设XT=X(t),tT是随机过程，如果对任意tT，EX(t)存在，则称函数为XT的均值函数，反映随机过程在时刻t的平均值。若对任意tT，E(X(t)2存在，则称XT为二阶矩过程，而称为XT的协方差函数，反映随机过程在时刻t和s时的线性相关程度。为XT的方差函数，反映随机过程在时刻t对均值的偏离程度。为XT的相关函数，反映随机过程在时刻t和s时的线性相关程度。数

18、字特征5656对于二阶矩随机过程，其协方差函数和相关函数一定存在，且有如下关系：例题设随机过程其中，Y和Z是相互独立的随机变量，且EY=EZ0，DY=DZ=2，求X(t)的均值函数和协方差函数。5757两个随机过程之间的关系互协方差函数互相关函数定义：设X(t),tT，Y(t), tT是两个二阶矩过程，则称为X(t),tT与Y(t), tT的互协方差函数，称为X(t),tT与Y(t), tT的互相关函数。58两个随机过程X(t),tT与Y(t), tT的互不相关定义互协方差函数与互相关函数之间的关系例题2.8：设X(t)为信号过程，Y(t)为噪声过程，令W(t)=X(t)+Y(t)，求W(t)

19、的均值函数和相关函数。例题2.7设有两个随机过程X(t)=g1(t+)和Y(t)=g2(t+)，其中g1(t)和g2(t)都是周期为L的周期方波，是在(0,L)上服从均匀分布的随机变量，求互相关函数RXY(t,t+)的表达式。59复随机过程定义：设Xt, tT，Yt, tT是取实数值的两个随机过程，若对任意tT其中 ，则称Zt, tT为复随机过程。复随机过程的数字特征函数均值函数方差函数相关函数协方差函数相互之间的关系60复随机过程的性质复随机过程XT,tT的协方差函数B(s,t)具有性质：（1）对称性（埃米特性）：（2）非负定性，对任意ti T及复数ai，i=1,2, ,n，n1，有说明：1

20、. 如果函数f(s,t)具有非负定性，那么它必具有埃米特性。2. 若f(s,t)为一非负定函数，则必存在一个二阶矩过程（并可要求它为正态过程）以给定的f(s,t)为协方差函数。61两个复随机过程Xt，Yt的互相关函数定义为互协方差函数定义为例题2.9设随机过程 ，其中X1,X2, ,Xn是相互独立的，且服从N(0,k2)的随机变量，w1,w2, ,wn是常数，求Zt,t0的均值函数m(t)和相关函数R(s,t)。6262随机过程的几种基本类型二阶矩过程正交增量过程独立增量过程马尔可夫过程正态过程维纳过程平稳过程鞅6363二阶矩过程6464定义：设X(t),tT是零均值的二阶矩过程，若对任意的t

21、1t2t3t4 T，有则称X(t)是正交增量过程。例题设X(t),tT是正交增量过程，T=a,b为有限区间，且规定X(a)=0，当astb时，求其协方差函数。正交增量过程6565定义：设X(t),tT是随机过程，若对任意的正整数n和t1t2tn T，随机变量X(t2)-X(t1),X(t3)-X(t2), ,X(tn)-X(tn-1)是互相独立的，则称X(t),tT是独立增量过程。特点：独立增量过程在任一个时间间隔上过程状态的改变，不影响任一个与它不相重叠的时间间隔上状态的改变。独立增量过程6666正交增量过程独立增量过程定义依据：不相重叠的时间区间上增量的统计相依性互不相关相互独立正交增量过

22、程独立增量过程正交增量过程独立增量过程二阶矩存在，均值函数恒为零6767定义：设X(t),tT是独立增量过程，若对任意st，随机变量X(t)-X(s)的分布仅依赖于t-s，则称X(t),tT是平稳独立增量过程。例题：考虑一种设备一直使用到损坏为止，然后换上同类型的设备。假设设备的使用寿命是随机变量，令N(t)为在时间段0,t内更换设备的件数，通常可以认为N(t)，t0是平稳独立增量过程。平稳（stationary）独立增量过程6868定义：设X(t),tT是随机过程，若对任意正整数n及t1,t2, ,tnT，(X(t1),X(t2), ,X(tn)是n维正态随机变量，则称X(t),tT是正态过

23、程或高斯过程。特点：正态过程只要知道其均值函数和协方差函数，即可确定其有限维分布。独立和不相关是等价的。正态过程69二维正态随机变量：讨论随机变量X1,X2的联合概率密度函数称X1,X2为二维正态随机变量。其中为X1和X2的相关函数。对于上述二维随机变量，其边际密度可表示为边际分布为一维正态分布 ，70二维正态分布的协方差矩阵：二维正态分布的协方差矩阵的性质：二维正态随机变量的联合密度的矩阵表示其中1、 实对称；2、正定阵3、其逆矩阵可表示为71n维正态随机变量的定义：若n维随机变量的联合密度函数为则称 为n维正态随机变量，其中C为n维实对称正定阵。记为72协方差矩阵73协方差矩阵的性质1、 实对称；2、正定阵：74当C正定时， 可显式得到；当C非负定时，|C|可以等于0， C-1不存在，