《随机过程》全册配套课件

《随机过程》全册配套课件随机过程

Stochasticprocesses引言本课程的研究对象

概率论主要是以一个或有限个随机变量为研究对象的.随着科学技术的不断发展,人们发现几乎一切可观察现象都具有随机性.必须对一些随机现象的变化过程进行研究.即需要研究无穷多个随机变量随机过程是概率论的深入和发展.它是研究客观世界中随机演变过程的规律性的学科.随机过程的理论与方法在自动控制、雷达与通信、生物工程、天文气象、地质能源、社会科学及工程技术、经济管理等许多领域有着极为广泛的应用。课程任务掌握随机过程的基本概念.掌握随机过程的基本理论和分析方法.具备处理随机现象的思想与方法.具有应用随机过程的理论和方法来分析问题和解决问题的能力.基本内容

随机过程基本概念随机分析平稳过程马尔科夫过程（链）

教材《随机过程》张卓奎陈慧婵西安电子科技大学出版社2003《随机过程同步学习指导》张卓奎陈慧婵西安电子科技大学出版社2004参考教材1.《随机过程》毛用才胡奇英西安电子科技大学出版社1998

2.《随机过程理论》

周荫清电子工业出版社第二版20063.《Anintroductiontostochasticprocesses》EdwardP.C.kaoThomson2003BasicConceptsProbability

随机试验

(RandomExperiment)结果事先不确定outcomeisunknown;可重复reproducible

样本空间(SampleSpace):S所有可能结果的全体thesetofallpossibleoutcomes

事件(Events):E

样本空间的某子集anysubsetofS概率(Probability):

P

在样本空间S中，实值函数P满足：;

；对于任何互斥事件，有则称P为E的概率。概率的性质：

(1)

;

(2)Monotonicity:若,(3)

(4)Subadditivity:布尔不等式：

(5)(6)Continuityforbelow:若单调递增，则

(7)Continuityforabove:若单调递减，则条件概率乘法公式全概率公式Bayes公式——与之间的关系Example:在多项选择题考试中，学生要么知道答案，要么去猜答案。令学生知道答案的概率为p，不知道答案的概率为1-p，假设猜对答案的概率为1/m，其中m为选择项数。问：学生答对问题时，他知道答案的概率为多少？解：令C,K分布为学生答对问题和确实知道答案的事件。相互独立(Independent)独立与互斥独立的两个事件不一定互斥，也即两个事件独立则可能交集不空互斥的两个事件不一定独立，也即交集为空的两个事件不一定独立随机变量：样本空间里的实值函数分布函数（distributionfunction）：描述随机变量的分布

性质:(1)非减函数nondecreasingfunction；

(2)

(3)扩展到n-维随机变量(randomvariable)及其分布随机变量离散型：概率密度函数分布函数连续型

概率密度函数扩展到2维X,Y联合分布函数X与Y的分布函数典型离散型随机变量：BernouliRandomVariableBinomialRandomVariable n个独立事件successfailExample已知一台机器制造出来的产品，废品率为0.1，并且产生废品的事件是独立的。问：三个产品中最多有一个为废品的概率是多少？解：离散型随机变量：GeometricRandomVariablePoissonRandomVariable当二项随机变量中参数n很大，p很小时，二项随机变量可以近似看作是Poisson随机变量。连续型随机变量：典型连续型随机变量：UniformRandomVariableExponentialRandomVariable

连续型随机变量：GammaRandomVariable

Gamma函数

连续型随机变量：NormalRandomVariable

随机变量的数字特征1.期望(Expectation)定义

加权平均例：掷一个色子的期望E(X)练习：试求前面所讲几个典型随机变量的期望离散型连续型定理：X是一随机变量，F(x)为分布函数，y=g(x)是连续函数，若存在，则推论：如果a，b为常数，则

2.方差(Variable)3.协方差(Covariance)不相关：若Cov(X,Y)=0独立随机变量是不相关的，其逆不真。4.矩母函数

(MomentGeneratingFunction)ThemomentsofX性质：X,Y是独立变量小结

第一章随机过程的基本概念●

随机过程的定义及其有限维分布函数族●

随机过程的数字特征●

几类重要的随机过程

重点随机过程的定义、数字特征、正态过程、

Poisson过程．要求（1）准确理解随机过程的定义，熟悉研究随机过程的方法．

(2)熟练求出样本函数、有限维分布、数字特征、特征函数．难点有限维分布和Poisson过程．例1.

考察[0，t0]时间内某网站收到的访问次数Ｘ(t０),

则Ｘ(t０)是一个随机变量．

如果要长时间内该网站的访问次数,

则需要让t变化起来,即t趋于无穷大,则

Ｘ(t)是一族随机变量．

此时Ｘ(t)是与时间有关系的随机变量，称

{Ｘ(t),t∈［0,∞）}是随机过程．§1

随机过程的定义其中Ａω为常数，φ服从[0,2π]上的均匀分布.若要观察任一时刻t的波形，则需要用一族随机变量Ｘ(t)描述.

则称｛Ｘ(t)，t∈[0

，+∞)｝为随机过程．例２.

具有随机初位相的简谐波由于初位相的随机性，在某时刻t＝t0，Ｘ(t0)是一个随机变量．例３.生物群体的增长问题.以Ｘt表示在时刻t某种

生物群体的个数,则对每一个固定的t,Ｘt是一

个随机变量．

如果从t＝０开始每隔24小时对群体的个数观察一次，则对每一个t，Ｘt是一族随机变量．也记为Ｘn，n＝０，１，….则称{Ｘt,t＝０,１,2,….}是随机过程．例4.

在天气预报中,以Xt表示某地区第t次统计所得到的最高气温,则Xt是一个随机变量.为了预报该地区未来的气温,要让t趋于无穷大,则可得到一族随机变量:Xt,t=0,1,2,…，

称{Ｘt，t＝０，１，2，….，}是随机过程．以上4个例子的共同特点是:对某参数集中的任意一个参数t,就有一个随机变量X(t)与之对应.随机过程定义若对每一t∈T,均有定义在(Ω,F,P)上的一个

随机变量X(ω,t),(ω∈Ω)与之对应,则称X(ω,t)为(Ω,F,P)上的一个随机过程(S.P.)记{X(ω,t),ω∈Ω,t∈T},

简记{X(t),t∈T},或X(t).设(Ω,F,P)为一概率空间,T为一参数集,TR,

T称为参数集或参数空间,t称为参数,一般表示时间或空间.

参数集通常有以下形式:⑴T={0,1,2,…}或T={…-2,-1,0,1,2,…}⑵T=[a,b],其中a可以为－∞,b可以为+∞.当参数集为形式⑴时,随机过程X(t)也称为随机序列1.X(ω,t),实质上为定义在T×Ω上的二元单值函数.

2.对每一个固定的t,X(t)为一随机变量，称之为{X(t),t∈T}在t时刻的状态.该随机变量所有可能取值的集合,称为随机过程的状态空间.记为S.3.对每一个确定的ω0∈Ω,X(ω0,t)是定义在T上的普通函数.记为x(ω0,t),称为为随机过程的一个样本函数.也称轨道或实现.样本函数的图形称为样本曲线．说明:

设{X(ω,t),ω∈Ω,t∈T}为一S.P.

tX(t)tt0状态X(t0)=4状态X(t0)=5样本曲线x1(t)x1(t)x2(t)样本曲线x2(t)状态空间S={0,1,2,….},T=[0,+∞)例1的样本曲线与状态状态空间S=[-A,A],参数集T=[-∞,+∞]tX(t)样本曲线x1(t)样本曲线x2(t)t0状态X(t0)状态X(t0)例2的样本曲线与状态t0状态X(t0)=18状态X(t0)=25样本曲线x1(t)样本曲线x2(t)例3的样本曲线与状态状态X(t0)=40样本曲线x3(t)X(t)t10203040506070024…状态空间S={0,1,2,….},T=[0,24,……)4.根据参数集与状态空间离散与否,随机过程可分为●离散参数,离散状态的随机过程(例3)●离散参数,连续状态的随机过程(例4)●连续参数,离散状态的随机过程(例1)

●连续参数,连续状态的随机过程(例2)

参数集为离散的随机过程也称为随机序列，或时间序列．§2随机过程的有限维分布函数族设{X(t),t∈T}是S.P.1.一维分布函数对任意t∈T,X(t)为一随机变量.称其分布函数

F

(t;x)=P(X(t)≤x),x∈R为随机过程{X(t),t∈T}的一维分布函数.2.二维分布函数对任意固定的t1,t2∈T,X(t1),X(t2)为两个随机变量.称其联合分布函数

F

(t1,t2;x1,x2)=P(X(t1)≤x1,X(t2)≤x2),

x1,x2∈R为随机过程{X(t),t∈T}的二维分布函数.

对任意固定的t1,t2,…,tn∈T,X(t1),X(t2),…,X(tn)为n个随机变量.称其联合分布函数

F

(t1,t2,…,tn;x1,x2,…,xn)=P(X(t1)≤x1,X(t2)≤x2…X(tn)≤xn)x1x2,…,xn∈R为随机过程{X(t),t∈T}的n维分布函数.3.n维分布函数

称随机过程{X(t),t∈T}的一维分布函数,二维分布函数,…,n维分布函数,…,的全体为随机过程的有限维分布函数族.有限维分布函数族定义注:有限维分布函数族能够描述随机过程的统计特性.有限维分布函数族的性质

对称性相容性设m<n,则注:随机过程的统计特性还可以用另一种工具描述,即随机过程的有限维特征函数族(后面补充介绍)本节内容举例例1.设随机过程X(t)=Vcosωt,t∈(-∞,+∞),其中ω为常数,V服从[0,1]上的均匀分布.⑴确定{X(t),t∈(-∞,+∞)}的两个样本函数.⑵求t=0,t=3π/4ω时,随机变量的概率密度函数.⑶求t=π

∕2ω

时X(t)的分布函数.

解(1)取V=1/2,1/3分别得到两个样本函数(2)(3)例2

设随机过程X(t)=A+Bt,t≥0,其中A,B是相互独立的随机变量,且都服从标准正态分布N(0,1).求该随机过程的一维和二维分布解对任意的t≥0,X(t)=A+Bt,有题意知X(t)是正态分布.又E[X(t)]=0,D[X(t)]=1+t2所以S.P.的一维分布为X(t)～N(0,1+t2)又对任意的t1≥0,t2≥0,X(t1)=A+Bt1～N(0,1+t12),X(t2)=A+Bt2～N(0,1+t22),

(定理正态变量的线性变换是正态变量)

page24定理1.5.3(3)由A,B独立知,(A,B)服从二维正态分布所以(X(t1),X(t2))也服从二维正态分布所以协方差矩阵为而(X(t1),X(t2))的均值向量为μ=(0,0)所以该S.P.的二维分布为例3.其中A具有以下概率分布试求(1)该S.P.的一维分布函数(2)该S.P.的二维分布函数解作业1.利用重复掷硬币的试验定义一个随机过程

出现正面与反面的概率相等.⑴求X(t)的一维分布函数F(1/2;x),F(1;x).⑵求X(t)的二维分布函数F(1/2,1;x1,x2).§3

随机过程的有限维特征函数族1.Stieltjes积分定义

设f(x),g(x)是定义在[a,b]上的两个有界函数,对[a,b]的任一划分a=x0<x1<…<xn=b,记△=max{△xk}任取ξk∈[xk-1,xk],k=0,1,…,n.作和若极限存在,且与[a,b]的分法及ξk的取法无关.则称此极限为f(x)对函数g(x)在[a,b]上的Stieltjes积分.简称S积分.也称f(x)对g(x)在[a,b]上S可积.记设f(x),g(x)是定义在(-∞,+∞)上的两个函数,若在任意有限区间[a,b]f(x)对

g(x)在[a,b]S可积,且存在则称此极限为f(x)对g(x)在无穷区间(-∞,+∞)上的Stieltjes积分.记关于Stieltjes积分有如下性质⑴当g(x)为跳跃函数,且在xi(i=1,2,…)具有跃度pi时有⑵当g(x)存在导数g´(x)时,有利用Stieltjes积分可以统一离散型r.v.与连续型r.v.(或随机变量的函数)的数学期望定义.如下

定义设随机变量X的分布函数为F(x),若则X的期望为并有以下结论(1)设r.v.X的分布函数为F(x),y=g(x)是连续函数,若则r.v.Y=g(X)的期望为(2)一般设r.v.(X1,…,Xn)的联合分布函数为F(x1,x2,…,xn),g(x1,x2,…,xn)为连续函数.若则r.v.Y=g(X1,X2,…,Xn)的数学期望存在.且定义设随机变量X的分布函数F(x),则称为随机变量X的特征函数.2.随机变量的特征函数其中u为实参变量,为复随机变量对任意实数u,有|ejux|=1.故E[ejux]总存在.(1)特征函数总是存在的.关于特征函数的几点说明(2)特征函数的性质(证明page17)ⅰⅱⅲ若Y=aX+b,a,b为常数,则ⅳⅴ

若X与Y相互独立,Z=X+Y,则

(可推广到n个相互独立随机变量)是非负定的.ⅵ即对任意的n,任意复数Zk,任意实数uk(k=1,2,…,n),有ⅶ

设随机变量X的n阶原点矩(即E[Xk])存在,

则存在k(k≤n)阶导数,且有(3)一些重要分布的特征函数单点分布P(X=c)=1,c常数.则二项分布k=0,1,…,n.0<p<1,q=1-p.则特征函数Poisson分布k=0,1,2,…,

λ>0则特征函数均匀分布r.v.X～U(a,b],密度函数为则特征函数正态分布r.v.X～N(µ,σ2),密度函数为则特征函数特别X～N(0,1)时指数分布r.v.X服从参数为λ(>0)的指数分布,概率密度为则特征函数(4)随机变量的分布函数与其特征函数相互唯一确定.定义(多元特征函数)设n维随机变量X=(X1,X2,…,Xn)的联合分布函数为F(x1,x2,…,xn),则称为n维随机变量X的特征函数.也称多元特征函数多元特征函数具有与一元特征函数类似的性质

n维随机变量的特征函数与其联合分布函数是一一对应的特征函数应用举例:定义(随机过程的有限维特征函数族)设{X(t),t∈T}是一个S.P.对于任意固定的t1,t2,…,tn

∈T,X(t1),X(t2),…,X(tn)是n个随机变量,称为S.P.{X(t),t∈T}的n维特征函数.(ui∈R,i=1,2,…,n)为随机过程的有限维特征函数族§4随机过程的数字特征有限维分布函数族虽然能够完整描述随机过程的统计特征,但是在实际中很难得到.因此,如同随机变量一样,也用数字特征来表征随机过程.即将随机变量的数字特征推广到随机过程中.但要注意其区别:随机过程的数字特征不再是确定的数,而是确定的时间的函数.1.均值函数对任意的t∈T,若E[X(t)]存在,则称E[X(t)]为S.P.X(t)的均值函数.记mX(t)

即

mX(t)=E[X(t)]t∈T设{X(t)}是一S.P.2.方差函数设{X(t)}是一S.P.对任意的t∈T,若D[X(t)]=E[X(t)-mX(t)]2存在,则称D[X(t)]为S.P.X(t)的方差函数.记DX(t).即

DX(t)=E[X(t)-mX(t)]2

t∈T3.协方差函数设{X(t)}是一S.P.对任意的s,t∈T,若

Cov(X(s),X(t))=E[X(s)-mX(s)][X(t)-mX(t)]存在,则称Cov(X(s),X(t))为S.P.X(t)的协方差函数.记

CX(s,t).

即

CX(s,t)=E[X(s)-mX(s)][X(t)-mX(t)]

s,t∈T4.相关函数设{X(t)}是一S.P.对任意的s,t∈T,若E[X(s)X(t)]存在,则称E[X(s)X(t)]为S.P.X(t)的相关函数.(自相关函数)记RX(s,t).即

RX(s,t)=E[X(s)X(t)]s,t∈T显然mX(t)=0时,CX(s,t)=RX(s,t)5.均方值函数设{X(t)}是一S.P.对任意的t∈T,若E[X(t)]2存在,则称E[X(t)]2为S.P.X(t)的均方值函数.记ΦX(t).即

ΦX(t)=E[X(t)]2

t∈T随机过程的数字特征有如下关系CX(s,t)=RX(s,t)-mX(s)mX(t)s,t∈T

DX(t)=CX(t,t)t∈TΦX(t)=RX(t,t)t∈T所以最关键的数字特征是均值函数与相关函数本节内容举例设S.P.X(t)=acos(ωt+Θ).a,ω常数,Θ~U[0,2π]

求该过程的均值函数,相关函数,方差函数.

解2.

设S.P.X(t)=Acosωt+Bsinωtt≥0,ω为常数.A,B相互独立,同服从正态分布N(0,σ2)

求该过程的均值函数和相互函数.解§5

两个随机过程的联合分布和数字特征在实际问题中,有时需要同时考虑两个或者两个以上的随机过程.例如:一个线性系统的输入信号和输入噪声两者可能同为随机过程.同时考虑一个线性系统的随机输入和随机输出的关系等.定义

设{X(t),t∈T}和{Y(t),t∈T}是两个随机过程.则称

{X(t),Y(t),t∈T}是二维随机过程.二维过程的概率分布与数字特征有以下定义定义

设{X(t),Y(t),t∈T}是二维随机过程.定义设{X(t),Y(t),t∈T}是二维S.P.则对任意s,t∈T,X(s)

Y(t)是两个随机变量.(1)

若E[X(s)Y(t)]存在,则称

E[X(s)Y(t)]=RX,Y(s,t)

为该二维S.P.的互相关函数(2)

若cov(X(s),Y(t))=E[(X(s)-mX(s))(Y(t)-mY(t))存在,则称

cov(X(s),Y(t))=CXY(s,t)

为该二维S.P.的互协方差函数显然有CXY(s,t)=RXY(s,t)-mX(s)mY(t)

定义设{X(t),t∈T},{Y(t),t∈T}是二个

S.P.若

CXY(s,t)=0

或RX,Y(s,t)=mX(s)mY(t)s,t∈T,则称S.P.{X(t),t∈T}与S.P.{Y(t),t∈T}不相关.结论若S.P.{X(t),t∈T}和S.P.{Y(t),t∈T}相互独立,

则{X(t),t∈T}和{Y(t),t∈T}不相关§6.复随机过程及其数字特征定义

设{X(t),t∈T}和{Y(t),t∈T}是定义在同一概率空间(Ω,F,P)上的两个

实随机过程.令

Z(t)=X(t)+jY(t)t∈T

则称{Z(t),t∈T}是复随机过程.定义设{Z(t),t∈T}是复S.P.对任意t∈T,

称mZ(t)=E[Z(t)]

为复S.P.的均值函数

称DZ(t)=D[Z(t)]=E|Z(t)-mZ(t)|2

为复S.P.的方差函数

称ΦZ(t)=E|Z(t)|2

为复S.P.的均方值函数.

对任意的s,t∈T,称RZ(s,t)=E[Z(s)Z(t)]

为复S.P.的相关函数.

称CX(s,t)=cov(Z(s),Z(t)]=E[(Z(s)-mz(s))(Z(t)-mz(t))]

为复S.P.的协方差函数.由以上定义可得(1)mZ(t)=mX(t)+jmY(t)t∈T(2)DZ(t)=DX(t)+DY(t)t∈T(3)CX(s,t)=RZ(s,t)-mZ(s)mZ(t)s,t∈T反映两个复随机过程之间相关程度的数字特征(1)互协方差函数

设{Z1(t),t∈T},{Z2(t),t∈T}是两个复S.P.(2)互相关函数举例设其中ω0为正常数,n为固定正整数,是相互独立的实随机变量,且Φk～U[0,2π],求S.P.{Z(t),t∈R}的均值函数和相关函数.k=1,2,…,n.§7几类重要的随机过程之前按照参数和状态对随机过程进行了简单的分类.随机过程可以按照不同的标准进行分类.本讲按照随机过程所具有的一些性质,介绍几类重要的随机过程:◆

二阶矩过程◆正态过程◆正交增量过程◆独立增量过程◆

Wiener过程◆Poisson过程1.二阶矩过程定义

若S.P.{X(t),t∈T}的一、二阶矩存在，则称Ｓ.Ｐ.{X(t),t∈T}是二阶矩过程．注二阶矩过程的均值函数与相关函数一定存在可利用均值函数和相关函数讨论二阶矩阵过程的性质.(下章内容)二阶矩过程的相关函数具有以下性质

定理设{X(t),t∈T}是二阶矩过程,则相关函数RX(s,t)有(1)共轭对称性

RX(s,t)=RX(t,s)

(2)非负定性对任意t1,t2,…,tn∈T,任意复数

λ1,λ2,…,λn有证明(1)RX(s,t)=E[X(s)X(t)]=E[X(s)X(t)]=RX(t,s)(2)

2.正态过程补充:n维正态随机变量分布及性质

正态过程定义设{X(t),t∈T}是S.P.,若对任意的n≥1

及t1,t2,…,tn∈T,{X(t1),X(t2),…,X(tn),}是n维正态随机变量,

则称S.P.{X(t),t∈T}为正态过程或高斯过程注意

若{X(t),t∈T}是一族正态随机变量,

但{X(t),t∈T}不一定是正态过程.

(2)正态过程的有限维分布由其均值函数与相关函数完全确定.(3)正态过程是二阶矩过程.举例独立的r.v.，且都服从正态分布N(0,σ2),ω是常数．设S.P.试证明该过程是正态过程，并求它的有限维分布．,其中A,B为相互3.正交增量过程定义设{X(t),t∈T}是二阶矩过程，若对任意的

t1<t2

≤

t3<

t4∈T

都有则称S.P.{X(t),t∈T}是一正交增量过程.注:这里<X,Y>=E[XY]可视为内积

若T取为有限区间[a,b],对

特别的，当X(a)=0时，有

定理设{X(t),t∈[a,b]}是正交增量过程,

且X(a)=0,则(2)ΦX(t)是单调不减函数(1)4独立增量过程设{X(t),t∈T}是一是S.P.如果对是相互独立的随机变量，则称{X(t),t∈T}是独立增量过程．以及有如果对于任意s<t∈T,X(t)-X(s)的分布仅依赖于t-s，而与s,t本身取值无关，则称{X(t),t∈T}为平稳增量过程．如果S.P.{X(t),t∈T}既是平稳增量过程，又是独立增量过程，则称{X(t),t∈T}

为平稳的独立增量过程．定理

独立增量过程的有限维分布函数由其一维分布函数和增量分布函数确定．

证明思路

由于随机变量的分布函数与特征函数一一对应.

只需证独立增量过程的有限维特征函数由其一维特征函数和增量特征函数确定．证明n维随机变量的的特征函数为令则①代入①式由题意知Y1,Y2,…,Yn独立由Y1Y2,…,Yn的独立性证毕５Wiener过程(布朗运动)称实S.P.{W(t),t≥0}是参数为σ2的Wiener过程,如果是平稳的独立增量过程．补充说明：布朗运动描述浸没（或悬浮）在液体或者气体中微小颗粒的运动，该现象由英国植物学家RobertBrown首次发现；Dr.Einstein与1905年做出解释：微粒运动是由大量分子的连续碰撞造成的；自1918年开始，Dr.Wiener发表一系列论文对布朗运动进行数学描述；布朗运动是量子力学、概率统计、金融证券等研究中最重要的随机过程：例如：上证综合指数受到每笔成交的撞击而上下波动，在短时间内不考虑消息面的影响时，可用布朗运动进行近似描述Wiener过程示意图：1.微粒受空气分子碰撞引起的布朗运动：2.五个微粒受空气分子碰撞引起的布朗运动：定理设

{W(t),t≥0}是参数为σ2的Wiener过程.则证明(1)

由定义,显然成立.(2)由(1)易知有对s≥0,t≥0,不妨设s≤t,则独立性定理Wiener过程是正态过程．证明设{W(t),t≥0}是参数为σ2的Wiener过程.

则对任意的n≥1,以及任意的{W(t1),W(t2),…,W(tn)}是n维随机变量由Wiener过程的定义知相互独立所以是n维正态随机变量.又由于所以是n维正态变量.所以{W(t),t≥0}是正态过程.作业2.1设X(t)=Asin(ωt+Φ),Y(t)=Bsin(ωt+Φ+ψ),t∈R,其中A,B,ω,ψ为实常数，Φ服从U[0,2π],求RXY(s,t)作业2.2设{W(t),t≥0}是参数为σ2的Wiener过程，求下列过程的协方差函数：{W(t)+At,t≥0},其中A为常数；{W(t)+Xt,t≥0},其中X服从N(0,1),且与{W(t)，t≥0}相互独立下周上课前提交电子版至邮箱:gaosc@６Poisson过程计数过程

称实随机过程{N(t),t≥0}是计数过程，如果N(t)表示直到t时刻为止发生的某随机事件数．性质①②N(t)是非负整数③④表示时间间隔t-s内发生的随机事件数．实例1.电话交换台的呼叫次数2.放射性裂变的质点数3.发生故障而不能工作的机器数4.通过交通路口的车辆数5.来到某服务窗口的顾客数………..以上实例中的呼叫,质点,机器,车辆,顾客等也统一叫做随机点Poisson过程定义若计数过程{N(t),t≥0}

满足是平稳的独立增量过程服从参数是λt

的Poisson分布,即则称计数过程{N(t),t≥0}是参数(强度,比率)为λ

的Poisson过程.定理设{N(t),t≥0}

是参数为λ

的Poisson

过程，则证明1)由定义,显然有又对s≥0,t≥0,不妨设s≤t,则有是独立增量平稳性由定义Poisson过程的等价定义称计数过程{N(t),t≥0}是参数为λ的Poisson过程，如果：等价性证明见教材56①②③④Poisson过程的到达时间与到达时间间隔分布设{N(t),t≥0}是参数为λ

的Poisson过程，则N(t)表示时间区间[0,t)内到达的随机点数.到达时间(序列)表示第i个随机点的到达时刻,则称为Poisson过程的到达时间序列.到达时间间隔(序列)它表示第n-1个随机点与第n个随机点的到达时间间隔,则称为Poisson过程的到达时间间隔(序列)显然有关于Poisson过程中的这两个序列的概率分布,有以下结论定理

(到达时间间隔分布)设{N(t),t≥0}

是参数为λ

的Poisson过程，是其到达时间间隔序列，则是相互独立同服从参数为λ的指数分布．证明独立性由于poisson过程是平稳的独立增量过程所以相互独立.下证同分布T1,T2的独立性平稳性T1,T2…Tn的独立性平稳性得证定理(到达时间序列分布)设{N(t),t≥0}是参数为λ的Poisson过程,则其到达时间服从Γ分布,密度为证明的分布函数第n个随机点的到达时刻再求导数所以到达时间序列的密度函数为本题目还可以用特征函数证明,见教材Poisson过程中到达时间的条件分布问题:

设{N(t),t≥0}是参数为λ

的Poisson过程，如果在[0，t)内仅有一个随机点到达,τ是其到达时间,则该随机点的到达时间τ服从怎样的概率分布?如果在[0，t)内仅有一个随机点到达，则该随机点的到达时间τ服从[0,t]上的均匀分布.即事实上,s<t时,有更一般有以下问题设{N(t),t≥0}

是参数为λ

的Poisson过程,如果在[0,t)内有n个随机点到达，则n个到达时间服从怎样的概率分布??定理

设{N(t),t≥0}

是参数为λ

的Poisson过程,如果在[0,t)内有n个随机点到达，则n个到达时间和n个相互独立同服从[0,t]上的均匀分布的随机变量U1,U2,…,Un的顺序统计量即证明例假设乘客按照参数为λ的Poisson过程来到一个火车站乘坐某次火车，若火车在时刻t启动，试求在[0,t]内到达火车站的乘客等待时间总和的数学期望．7.复合poisson过程定义设{N(t),t≥0}是参数为λ

的Poisson过程,{Yk.k=1,2,…}是一列独立同分布的随机变量,且与{N(t),t≥0}独立称{X(t),t≥0}为复合Poisson过程.若将N(t)表示[0,t)内的随机点数,Yk表示第k个随机点所携带的某种(能)量,则总量为即{X(t),t≥0}为复合Poisson过程定理设{X(t),t≥0}为复合Poisson过程.则⑴{X(t),t≥0}的一维特征函数为其中f(u)是Yn(n=1,2,…)的特征函数⑵若证明⑴由特征函数的定义可得X(t)的特征函数为Yn与N(t)独立Yn独立同分布⑵由于特征函数与矩有关系则对X(t)的特征函数求导数所以所以例1

设移民到某地区定居的户数是一Poisson过程，平均每周有2户定居，即λ=2.如果每户的人口数是随机变量一户4人的概率为1/6，一户3人的概率为1/3，一户2人的概率为1/3，一户1人的概率为1/6，且每户的人口数是相互独立的，求在五周内移民到该地区的人口数的数学期望和方差．和中出现第ｋ次事件设是两个相互独立的Poisson过程，它们在单位时间内发生事件的平均数分别为λ1和λ２.设代表第一过程中出现第ｋ次事件所需的时间，代表第二过程所需的时间．试求：(1)第一过程中出现第一次事件先于第二过程出现第一次事件的概率，即(2)作业1解题思路:考虑两个随机变量的联合密度函数,再计算有关的概率某中子计数器对到达计数器的粒子只是每隔一个记录一次，假设粒子是按照比率4个每分钟的Poisson过程到达，令T是两个相继被记录粒子之间的时间间隔（单位：分钟）试求：1）T的概率密度；

2）作业2解题思路:由poisson过程是平稳的独立增量过程.可知相继被记录的时间间隔是独立同分布的.

设有两个相互独立的、强度分别为和的Poisson过程和，试证在过程中两个相邻事件间，过程出现k个事件的概率为作业3证明思路:平稳过程主要内容严平稳过程与宽平稳过程的定义平稳过程相关函数的性质平稳过程的各态历经性平稳过程的谱分析平稳过程是一类统计特性不随时间而发生改变的随机过程.平稳过程在实际中有广泛的应用,在通讯,雷达等随机信号处理中有重要的作用.研究对象更为特殊的二阶矩过程—宽平稳过程§1平稳过程的定义定义(严平稳过程)设X={X(t),t∈T}是随机过程,如果对任意的n≥1,则称X={X(t),t∈T}是严平稳过程.说明1.严平稳过程的有限维分布不随时间的推移而改变易知

其一维分布函数与时间t无关.

其二维分布函数与仅与时间间隔有关.2.若二阶矩存在的过程是严平稳过程,则其均值函数是常数,相关函数是时间间隔的函数.3.通常用定义判断一个过程的严平稳性是困难的.在实际中,若产生随机过程的主要物理条件在时间进程中不变,则过程可看作是严平稳的.例如工作在稳定状态下的接收机,其输出噪声可认为是严平稳的.此时若要测量噪声的统计特性,则在任何时候测量都可得到相同结果.4.严平稳过程也叫狭义平稳过程或强平稳过程.由于随机过程有限维分布有时候无法确定,以下给出在理论与应用上更重要的另一种平稳过程概念.定义(宽平稳过程)设X={X(t),t∈T}是二阶矩过程,如果则称X={X(t),t∈T}为宽平稳过程,简称平稳过程.宽平稳过程也叫广义平稳过程或弱平稳过程.以后说到平稳过程指宽平稳过程===1.

严平稳过程不一定是宽平稳过程.2.

宽平稳过程也不一定是严平稳过程.注意一般情况下但对二阶矩过程严平稳过程一定是宽平稳过程.

但对正态过程宽平稳性与严平稳性是等价的.定理若{X(t),t∈T}是正态过程,

则{X(t),t∈T}是严平稳过程的充要条件是{X(t),t∈T}是宽平稳过程.预备知识证明(充分性)设{X(t),t∈T}是宽平稳过程.{X(t),t∈T}的有限维特征函数即特征函数不随时间的推移而改变.所以{X(t),t∈T}是严平稳过程必要性显然.例1

设S(t)是周期为T的可积函数.令X(t)=S(t+Θ)

t∈(-∞,+∞),Θ～U[0,T].称{X(t),-∞<t<+∞}

为随机相位周期过程,试讨论它的平稳性.它是平稳过程例2

设{Xn,n=1,2,…}是随机变量序列.例3设{X(t),t≥0}是只取±1两个值的随机过程,其符号的改变次数是一参数为λ的Poisson过程{N(t),t≥0},且对任意的t≥0,P(X(t)=－1)=P(X(t)=1)=1/2.试讨论{X(t),t≥0}的平稳性.例4

设{Y(t),t≥0}是正态过程.且例:设是参数为的Wiener过程，令其中为常数，试证明：是严平稳过程.

因此，是宽平稳过程.

所以为n维正态随机变量，因此是正态过程.所以是严平稳过程.§2平稳过程相关函数的性质

一般用数字特征描述随机过程比用分布函数相对简便.

对于平稳过程,描述其统计特性的数字特征是相关函数.1.(自)相关函数的性质定理设{X(t),t∈T}是平稳过程,则其相关函数有性质:证明

(1)若{X(t),t∈T}是周期平稳过程,即则其相关函数也是周期函数,且周期相同也为T0.特别2.联合平稳的平稳过程及其互相关函数的性质定义设{X(t),t∈T},{Y(t),t∈T}是两个平稳过程.若对任意的s,t∈T,有则称{X(t),t∈T},{Y(t),t∈T}为联合平稳的平稳过程.此时若令Z(t)=X(t)+Y(t),问Z(t)是否为平稳过程?定理设{X(t),t∈T},{Y(t),t∈T}为联合平稳的平稳过程.则其互相关函数RXY(s,t)具有如下性质(1)(2)(3)证明(1)证明(2)证明(3)推论(2)

设{X(t),t∈T},{Y(t),t∈T}为实联合平稳的平稳过程.则其互相关函数RXY(s,t)满足(1)

设{X(t),t∈T},{Y(t),t∈T}为联合平稳的平稳过程.则其互协方差函数CXY(s,t)也满足第五章马尔可夫过程马尔可夫过程是前苏联数学家A.A.Markov首先提出和研究的一类随机过程.经过世界各国几代数学家的相继努力,至今已成为内容十分丰富,理论上相当完整,应用也十分广泛的一门数学分支.它的应用领域涉及计算机、通讯、自动控制、随机服务、可靠性、生物、经济、管理、气象、物理、化学等.马尔可夫

(1856年6月14日——1922年7月20日）马尔可夫对数学的最大贡献是在概率论领域作出的．十九世纪后二十年，他主要是沿着切比雪夫开创的方向，致力于独立随机变量和古典极值理论的研究，从而改进和完善了大数定律和中心极限定理．二十世纪初，他的兴趣转移到相依随机变量序列的研究上来，从而创立了以他命名的著名概率模型——马尔可夫链．王梓坤院士(1929年—)江西吉安人,1952年大学毕业后，被分派到天津南开大学数学系任教,曾任北京师范大学校长,是一位对我国科学和教育事业作出卓越贡献的数学家和教育家，也是我国概率论研究的先驱和学术带头人之一。

1954年，他以优异的成绩考取了赴苏研究生。踏进世界著名学府－莫斯科大学，在这个学府世界概率论的奠基人柯尔莫哥洛夫(Kolmogorov)院士正领导看一个强有力的概率研究集团。柯尔莫高洛夫慧眼识英才，非常信赖这位由中国选派的年轻人的能力，把他选作自己的研究生，去攻概率论的中心问题随机过程理论。当时中国近代数学才刚刚起步，大学也没有概率课程。此时苏联的概率论水平已届于世界最前列。王梓坤也根本不知道什么是概率，可他的研究方向又恰恰被定为概率论，

著有《概率论基础及其应用》、《随机过程论》、《生灭过程与马尔科夫链》等9部数学著作．马尔可夫过程的定义马尔可夫链的转移概率与概率分布齐次马尔可夫链状态的分类转移概率的稳定性能本章主要内容一马尔可夫过程的定义1．马尔可夫性通俗地说，就是在知道过程现在的条件下，其将来的条件分布不依赖于过去，则称具有马尔可夫（Markov)性。定义设是一个随机过程，如果在t0时刻所处的状态为已知，它在时刻

所处状态的条件分布与其在t0

之前

所处的状态无关。2.马尔可夫过程定义设的状态空间为S,的条件分布函数恰好等于3.马尔可夫链定义参数集和状态空间都是离散的马尔可夫过程称为马尔可夫链。注只讨论马尔可夫链的状态空间为有限或可列无限.则马尔可夫性可表示为特别对取T={0,1,2,···}的马尔可夫链，记为或此时的马尔可夫性为或今后,记二马尔可夫链的转移概率与概率分布1.转移概率定义设是马尔可夫链,称条件概率经过k步转移,于n+k时到达状态j的条件概率).在n时的k步转移概率.n时的k步转移概率矩阵.特别

当k=1时，定义称可数维的矩阵为随机矩阵，如果显然，在n时的k步转移概率矩阵是一随机矩阵.特别k＝０时，约定２.Chapman-kolmogorov方程定理(C-K方程)或矩阵形式（解决了k步转移概率与一步转移概率间的关系）证明系统在n时从状态i的出发,经过k+m步转移,于n+k+m时到达状态j,可以先在n时从状态i出发，经过k步转移于n+k时到达某种中间状态l,再在n+k时从中间状态l出发经过m步转移于n+k+m时到达最终状态j,而中间状态l要取遍整个状态空间S.C-K方程的直观意义：定理

马尔可夫链的k步转移概率由 其一步转移概率所完全确定.若取m=1,则由C-K方程的矩阵形式:得分量形式1）初始分布为马尔可夫链的初始分布3.马尔可夫链的分布称第i个分量为的(行)向量为马尔可夫链的初始分布向量.即2）有限维分布定理马尔可夫链的有限维分布由其初始分布和一步转移概率所完全确定.证明又因为马尔可夫链的k步转移概率由一步转移概率所完全确定.所以马尔可夫链的有限维分布由其初始分布和一步转移概率所完全确定.3）绝对分布为马尔可夫链的绝对分布称第j个分量为的(行)向量为马尔可夫链的绝对分布向量.即绝对分布、初始分布和n步转移概率有如下关系：或矩阵形式4.齐次马尔可夫链定义是一马尔可夫链,如果其一步转移概率恒与起始时刻n无关，记为为齐次(时间其次或时齐)马尔可夫链.否则，称为非齐次马尔可夫链.为方便，一般假定时间起点为零．即显然对齐次马尔可夫链，k步转移概率也与起始时刻n无关．记为相应的k步与一步转移概率矩阵分别记为定理的有限维分布由其初始分布和一步转移概率所完全确定例１(天气预报问题)如果明天是否有雨仅与今天的天气(是否有雨)有关，而与过去的天气无关.并设今天下雨、明天有雨的概率为a，今天无雨而明天有雨的概率为b，又假设有雨称为0状态天气，无雨称为1状态天气.Xn表示时刻n时的天气状态，则是以为状态空间的齐次马尔可夫链.其一步转移概率矩阵为５.马尔可夫链举例

例2(有限制随机游动问题)

设质点只能在{0，1，2，···，a}中的各点上作随机游动，移动规则如下：ii+1i-101a-1a设Xn表示质点在n时刻所处的位置，则其一步转移概率矩阵为例3

设一个坛子中装有m个球，它们或是红色的，或是黑色的，从坛子中随机的摸出一球，并换入一个相反颜色的球.其一步转移概率矩阵为为状态空间的齐次马尔可夫链.设经过n次摸换,坛中黑球数为Xn,则例４设是具有三个状态0，1，2的齐次马尔可夫链，其一步转移概率矩阵为初始分布试求：解作业设是状态空间为{a,b,c}的齐次马氏链.其一步转移概率矩阵为三齐次马尔可夫链状态的分类1.状态的属性定义引理1证明定义2引理2证明系统从状态i出发,首次到达状态j的平均转移步数定义3下面的引理给出di

与

hi二者的关系引理3证明定义4例1：在直线上，如果质点每次向前、向后移动1步的概率都是1/3，向后移动2步的概率也是1/3，试证明每个状态都是非周期的。例2：在直线上，如果质点每次向前移动1步的概率都是p，向后移动5步的概率是q=1-p，试证明每个状态的周期都是6。定义5引理4证明引理5证明引理6证下面用反正法证明:则从状态j出发最终不能到达j的概率为:2.状态属性的判断定理1(Doeblin公式)证明思路上极限存在下极限存在相等证明(找上界)(有上界必有上极限)(找下界)(不等式左边对固定的N′

有下界,从而有下极限)推论1推论2定理2定理3定理4证明推论证明定理5证明定理6证明所以,i,j或者同为常返态,或者同为非常返态.下面考虑当i,j同为常返态时的情况:所以,i,j或者同为零常返态,或者同为正常返态.下面证明当i,j同为正常返态时,周期相同所以,i,j或者同为正常返非周期状态(遍历态),

或者同为正常返周期状态,且周期相同.作业：3.状态空间的分解定义引理7(有关闭集的判定和性质)证明(1)用数学归纳法引理8证明引理9设C是闭集,则当且仅当其中任何两个状态互通时,C为不可约的.证明推论齐次马尔可夫链是不可约的充要条件是它的任何两个状态互通特别关于有限状态的马尔可夫链有下面结论定理7(1)有限齐次马尔可夫链所有非常返状态集D不可能是闭集.(2)有限齐次马尔可夫链不可能存在零常返状态.(3)不可约的有限齐次马尔可夫链的所有状态都是

正常返状态.证明定理8证明由以上的分析,可以得到状态空间的分解定理定理9齐次马尔可夫链的状态空间S可唯一地分解成有限个或可列无限多个互不相交的状态子集的并.即其中D是所有非常返状态构成的状态子集.所有常返状态构成的不可约闭集.每个状态子集中的状态有着相同的状态类型:(即或者均为零常返,或者均为正常返非周期,或者均