2022年随机过程知识点

1、学习必备精品知识点第一章：预备知识 1.1概率空间随机试验 ，样本空间 记为 。定义 1.1设 是一个集合， f 是 的某些子集组成的集合族。如果（1）f；（2）a若f ，aa则f；（3）若naf ， 21n，则1nnaf；则称 f 为代数 (borel 域)。(, f) 称为 可测空间， f 中的元素称为事件。由定义易知：.216,)5)4(111faaaifafbafbafiiniiniii，则，）若（；则若（；定义 1.2 设(, f) 是可测空间，p() 是定义在f上的实值函数。如果1121,31210,)1(iiiijiapapaajiaapapfa有时，当）对两两互不相容事件（；）

2、（；任意则称 p是f,上的概率，（pf，）称为 概率空间 ，p(a) 为事件 a的概率 。定义 1.3设（pf，）是概率空间，fg，如果对任意gaaan,21，,2, 1n有：,11niiniiapap则称g为独立事件族 。 1.2 随机变量及其分布随机变量x， 分布函数)(xf， n 维随机变量或 n 维随机向量， 联合分布函数，ttxt,是独立 的。1.3随机变量的数字特征定义 1.7设随机变量x的分布函数为)(xf，若)(|xdfx，则称)(xe)(xxdf为 x的数学期望 或 均值 。上式右边的积分称为lebesgue-stieltjes积分。方差，eyyexxebxy为 x、y 的协

3、方差 ，而dydxbxyxy为 x、y的相关系数。若,0xy则称 x、y 不相关。（ schwarz 不等式） 若,22eyex则.222eyexexy 1.4 特征函数、母函数和拉氏变换定义 1. 10 设随机变量的分布函数为f（x） ，称( )(),jtxjtxg te ee dfxt为 x 的特征函数精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 1 页，共 19 页 - - - - - - - - -学习必备精品知识点随机变量的特征函数具有下列性质：(1)(0)1,( )1, ()( )gg tgtg t1 ( 2 ) g (t)在,上一致连

4、续。 （3）( )(0)()kkkgi e x(4)若12,nxxx是相互独立的随机变量，则12nxxxx的特征函数12( )( )( )( )ng tg t gtgt，其中( )ig t是随机变量xi的特征函数，1,2,in. 定义 1 . 11 设12(,)nxxxx是 n 维随机变量，t = (12,nt tt) ,r则称121( )( ,)()exp()nitxnkkkg tg t tte eeit x, 为 x 的特征函数 。定义 1.12设 x是非负整数值随机变量，分布列,2, 1,kxxppkk则称)()(xdefsespkkksp0为 x的母函数 。 1.5 n维正态分布定义

5、1.13 若 n 维随机变量),(21nxxxx的联合概率密度为)()(21exp)2(1),()(12/2/21tnnnaxbaxbxxxfxf式中，),(21naaaa是常向量，nnijbb)(是正定矩阵，则称x为 n 维正态随机变量或服从n 维正态分布，记作),(banx。可以证明，若),(banx，则x的特征函数为21exp),()(21tibtiatttgtgn为了应用的方便，下面，我们不加证明地给出常用的几个结论。性质 1 若),(banx则nlbbaxeklxxkklk,2, 1,)(。性质2 设),(banx，xay，若baa正定，则),(baaaany。即正态随机变量的线性变

6、换仍为正态随机变量。性质 3 设),(4321xxxxx是四维正态随机变量，4, 3, 2, 1,0)(kxek，则)()()()()()()(3241423143214321xxexxexxexxexxexxexxxxe 1.6 条件期望给定 y=y 时， x 的条件期望定义为dxyxxfyxxdfyyxe)|()|()|(由此可见除了概率是关于事件y=y 的条件概率以外，现在的定义与无条件的情况完全一样。e(x|y=y) 是 y 的函数， y 是 y 的一个可能值。若在已知y 的条件下，全面地考虑x 的均值，需要以y 代替 y，e(x|y) 是随机变量y 的函数，也是随机变量，称为x 在

7、y 下的条件期望。条件期望在概率论、数理统计和随机过程中是一个十分重要的概念，下面我们介绍一个极其有用的性质。性质若随机变量x 与 y 的期望存在，则)()|()|()(ydfyyxeyxeexey-(1) 如果 y 是离散型随机变量，则上式为精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 2 页，共 19 页 - - - - - - - - -学习必备精品知识点yyypyyxexe)|()(如果 y 是连续型，具有概率密度f(x) ，则（ 1）式为dyyfyyxexe)()|()(第二章随机过程的概念与基本类型2.1 随机过程的基本概念定义 2.1

8、设（pf，）是概率空间 ,t是给定的参数集,若对每个t t，有一个随机变量x(t,e)与之对应，则称随机变量族),(ttetx是（pf，）的 随机过程 ,简记为随机过程),(tttx。t称为参数集，通常表示时间。通常将随机过程),(ttetx解释为一个物理系统。x(t)表示在时刻t所处的状态。x(t)的所有可能状态所构成的集合称为状态空间或相空间，记为i。从数学的观点来说，随机过程),(ttetx是定义在t上的二元函数。 对固定的t，x(t,e)是定义在t上的普通函数，称为随机过程),(ttetx的一个 样本函数 或轨道 ，样本函数的全体称为样本函数的空间。 2.2 随机过程的函数特征tx=x

9、(t),tt 的有限维分布函数族。有限维特征函数族： 1,:),(2121,1nttttgnnttn其中：)(exp),(121,1knkkntttxiegn定义 2.3 设tx=x(t),tt 的均值函数deftmx)()(txe，tt。二阶矩过程，协方差函数：t,)()(),()(2ttmtxedefttbtdxxx相关函数：),(tsrx)()(txsxe定义 2.4设x(t),tt ，y(t),tt是两个二阶矩过程，互协方差函数，互相关函数。 2.3 复随机过程定义2.5设,ttxt，,ttyt是取实数值的两个随机过程，若对任意tttttiyxz，其中1i，则称,ttzt为复随机过程

10、定理2.2复随机过程,ttxt的协方差函数),(tsb具有性质（1）对称性：),(),(stbtsb；（2）非负定性2.4 几种重要的随机过程一、正交增量过程定义 2.6 设tt ,是零均值的二阶矩过程，若对任意的,4321tttt有公精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 3 页，共 19 页 - - - - - - - - -学习必备精品知识点式03412tttt，则称t正交增量过程。tstsrts,min,2二、独立增量过程定义 2.7 设tt ,是随机过程， 若对任意的正整数n和,21nttt随机变量12312,nntttttt是互相

11、独立的，则称tt ,是独立增量过程，又称可加过程。定义 2.8 设tt ,是平稳独立增量过程，若对任意, ts随机变量st的分布仅依赖于st，则称tt ,是平稳独立增量过程。三、马尔可夫过程定 义2.9设tttx,为 随机 过程， 若对 任意正 整 数n及nttt,21,0,)(1111nnxtxxtxp，且其条件分布1111,|)(nnnnxtxxtxxtxp=11|)(nnnnxtxxtxp，(2.6) 则称tttx,为马尔可夫过程。四、正态过程和维纳过程定义 2.10 设tttx,是 随 机过程， 若对任意 正 整数n和tttt,21,(,21txtx,ntx)是n维正态随机变量，则称t

12、ttx,是正态过程或高斯过程。定义 2.11 设ttw),(为随机过程，如果（1）0)0(w；（2）它是独立、平稳增量过程；（3）对ts,，增量0, |,0)()(22stnswtw，则称ttw),(为维纳过程，也称布朗运动过程。定理 2.3 设ttw),(是参数为2的维纳过程，则（1）任意t),(,|,0)(2tntw；（2）对任意tsa, ),min()()()()(2atasawtwawswe, 特别：tstsrw,min,2。五、平稳过程定 义2.12 设tttx,是 随 机 过 程 ， 如 果 对 任 意 常 数和 正 整 数,n当nntttt,11时，nttt,21与nttt,21

13、有相同的联合分布，则称tttx,为严平稳过程，也称 狭义平稳过程 。定义 2.13 设tttx,是随机过程，如果（1）tttx,是二阶矩过程；（2）对于任意ttmt,常数；（3）对任意的strtsrts,，则称tttx,为广义平稳过程，简称精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 4 页，共 19 页 - - - - - - - - -学习必备精品知识点为平稳过程 。若 t 为离散集，则称平稳过程tttx,为平稳序列 。第三章泊松过程.1 泊松过程的定义和例子定义 3.1计数过程定义 3.2称计数过程 0),(ttx为具有参数0 的泊松过程，若

14、它满足下列条件(1) x(0)= 0 ；(2) x(t) 是独立增量过程；(3) 在任一长度为t 的区间中，事件a 发生的次数服从参数t 0 的泊松分布，即对任意 s,t0，有) 1.3(),2, 1 ,0( ,!)()()(nntensxtsxpnt注意，从条件(3)知泊松过程是平稳增量过程且ttxe)(。由于，ttxe)(表示单位时间内事件a 发生的平均个数，故称为此过程的 速率 或强度 。定义 3.3称计数过程0),(ttx为具有参数0 的泊松过程， 若它满足下列条件(1) x(0)= 0 ；(2) x(t) 是独立、平稳增量过程；(3) x(t) 满足下列两式：)(2)()(),( 1

15、)()(hotxhtxphohtxhtxp(3.2) 定理 3.1定义 3.2 与定义 3.3 是等价的。3.2 泊松过程的基本性质一、数字特征设0),(ttx是泊松过程，stmsmtsrtsbtstxsxetsrttxdtttxetmxxxxxxx)()(),(),() 1()()(),()()()()(2一般泊松过程的有),min(),(tstsbx。有特征函数定义，可得泊松过程的特征函数为)1(exp)()(iutiuxxeteeug二、时间间隔与等待时间的分布nw为第 n 次事件 a 出现的时刻或第n 次事件 a 的等待时间，nt是第 n 个时间间隔，它们都是随机变量。定理 3.2设0

16、),(ttx是具有参数的泊松分布，)1(ntn是对应的时间间隔序列，则随机变量),2, 1(ntn是独立同分布的均值为/1的指数分布。定理3.3设 1,nwn是与泊松过程0),(ttx对应的一个等待时间序列，则nw服从参数为n 与的分布，其概率密度为0,00,)!1()()(1ttntetfntwn三、到达时间的条件分布精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 5 页，共 19 页 - - - - - - - - -学习必备精品知识点定理 3.4设0),(ttx是泊松过程，已知在0,t内事件 a 发生 n 次，则这 n 次到达时间nwww21与

17、相应于n 个 0,t上均匀分布的独立随机变量的顺序统计量有相同的分布。3.3 非齐次泊松过程定义 3.4称计数过程( ),0x tt为具有跳跃强度函数( ) t的非齐次泊松过程，若它满足下列条件：(1) (0)0x；(2) ( )x t是独立增量过程；(3) ()( )1( )( )()( )2( )p x thx tt ho hp x thx to h非齐次泊松过程的均值函数为：0( )( )txmts ds定理3.5设( ),0x tt是具有均值函数0( )( )txmts ds的非齐次泊松过程，则有()( )exp, (0)!()( )()( )xxntstxxmmnnp x tsx t

18、nmtsmt或( )exp( )!( )xntxmtnp x tnm上式表明()( )p x tsx tn 不仅是t的函数，也是s的函数。3.4 复合泊松过程定义3.5 设0),(ttn是强度为的泊松过程，,.2, 1,kyk是一列独立同分布随机变量，且与0),(ttn独立，令,0)()(1tktxytnk则称0),(ttx为复合泊松过程。定理 3.6设, 0)()(1tktxytnk是复合泊松过程，则（1） 。0),(ttx是独立增量过程；（2）x(t) 的特征函数1)(exp)()(ugtugytx，其中)(ugy是随机变量1y的特征函数；是事件的到达率。（3）若,)(21ye则.)(,)

19、(211ytetxdytetxe第 4 章马尔可夫链4.1 马尔可夫链的概念及转移概率一、马尔可夫键的定义定义1设有随机过程,tnxn，若对于任意的整数tn和任意的iiiin 110,，条件概率满足,11110011nnnnnnnnixixpixixixixp则称,tnxn为马尔可夫链，简称马氏链 。二、转移概率定义 2 称条件概率精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 6 页，共 19 页 - - - - - - - - -学习必备精品知识点1( )|ijnnpnp xjxi为马尔可夫链,tnxn在时刻 n 的一步转移概率，其中iji,，简

20、称为转移概率。定义3若对任意的iji,，马尔可夫链,tnxn的转移概率)(npij与 n 无关， 则称马尔可夫链是齐次的，并记)(npij为ijp。定义 4称条件概率) 1,0,(|)(nmijiixjxppmnmnij为马尔可夫链,tnxn的 n 步转移概率 ，定理1设,tnxn为马尔可夫链，则对任意整数nln0,0和iji,，n 步转移概率)(nijp具有下列性质：.)4(;)3(;)2(;)1()()1()()()()()(121111nnnnjkkkikikiknijiklnkjliknijppppppppppppnn定义 5设,tnxn为马尔可夫链，称)(,)(0ijjxpnpjxp

21、pnjj和为,tnxn的初始概率 和绝对概率 ，并分别称,ijpj和),(ijnpj为,tnxn的初始分布和绝对分布，简记为jp和)(npj。定理2设,tnxn为马尔可夫链，则对任意ij和1n，绝对概率)(npj具有下列性质：pnpnpppnppnpnpppnpttnttiiijijiinijij)1()()4()0()()3() 1()()2()()1 ()()(定理 3设,tnxn为马尔可夫链，则对任意iiiin,21和1n，有nniiiiiiiiinnppppixixixp1211,22114.2 马尔可夫链的状态分类一、状态分类假设,0nxn是齐次马尔可夫链，其状态空间0,1,2,i，

22、转移概率是, ,ijpi ji, 初始分布为, ,jpi ji。定 义4.6 如 集 合( ):1,0niin np非 空 ， 则 称 该 集 合 的 最 大 公 约 数()( ). . :0niidd ig c d n p为状态i的周期。如1d就称i为周期的，如1d就称i为非周期的。（若对每一个不可被d整除的n，有( )niip=0，且d是具有此性质的最大正整数，则称d为状态i的周期。）引理 4.1 如i的周期为d，则存在正整数m ，对一切mn，有()0ndiip。定义对,sji记( 0 )( 1 )100,|ijijffp xj xi精品学习资料 可选择p d f - - - - - -

23、- - - - - - - - 第 7 页，共 19 页 - - - - - - - - -学习必备精品知识点( )0,1,2,1|,2nijnkfp xj xj knxin（4.15 ）()nijijn tff称( )nijf是系统在0 时从i出发经过n步转移后首次到达状态j的概率，而()ijf则是在 0 时从i出发，系统在有限步转移内不可能到达状态j的概率。我们将( )nijf和ijf统称为首达概率 （又称首中概率） 。引理（1）( )0nijijffnji,（2）首达概率可以用一步转移概率来表示：11 21121( )nnnijiii iijij ijijfp pp定义 4.7 若iif

24、=1，则 称状态i为常返的； 若iif1，则 称状态i为非常返的 。定义 4.8 如i，则称常返态i为正常返的；如i，则称常返态i为零常返的，非周期的正常返态称为遍历状态。从状态是否常返，如常返的话是否正常返，如正常返的话是否非周期等三层次上将状态区分为以下的类型：1)11iiiiiiiiffd非常返态(零常返态(= )状态常返态()有周期()正常返态(0， 若有0|)()(|limexexpnn，则称二阶矩随机序列( )nxe依概率收敛于二阶矩随机变量x(e) ，记作xxpn。4、均方收敛设有二阶矩随机序列nx和二阶矩随机变量x，若有0|lim2xxenn(6.3) 成立，则称nx均方收敛，

25、记作xxsmn.。注：(6.3)式一般记为l.i.mnxxx或.nl i mxx。5、依分布收敛设有二阶矩随机序列nx和二阶矩随机变量x，若nx相应的分布函数列( )nfx，在 x 的分布函数f(x) 的每一个连续点处，有)()(limxfxfnn则称二阶矩随机序列nx依分布收敛于二阶矩随机变量x，记作xxdn精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 13 页，共 19 页 - - - - - - - - -学习必备精品知识点对于以上四种收敛定义进行比较，有下列关系：(1) 若xxsmn.，则xxpn(2) 若xxean.，则xxpn(3) 若

26、xxpn，则xxdn定理 2 二阶矩随机序列nx收敛于二阶矩随机变量x的充要条件为0|lim2mnnxxe定理 3设,nnnxyz都是二阶矩随机序列，u 为二阶矩随机变量，nc为常数序列，a，b，c 为常数。令xmxiln. .，ymyiln. .，zmzi ln. .，cmciln.。则（1）ccmci lnnnlim. .；（2）umui l . .；（3）cuucmi ln)(. .；（4）byaxbyaxmi lnn)(. .；（5）. .limnnnmxi lexexe；（6）).)(.(lim,mnmnmnymi lmxileyxeyxe；特别有|. .|lim222nnnmxi

27、lexexe。定理 4 设nx为二阶矩随机序列，则nx均方收敛的充要条件为下列极限存在lim,mnmnxxe。二、均方连续定义设有二阶矩过程),(tttx，若对0tt，有2000lim|()( ) | 0hex thx t，则称( )x t在0t点均方连续 ，记作000.()( )hl i m x thx t。若对 t 中一切点都均方连续 ，则称( )x t在 t 上均方连续 。定理（均方连续准则）二阶矩过程),(tttx在 t 点均方连续的充要条件为相关函数处连续在点),(),(21ttttrx。推论若相关函数),(21ttrx在),(tttt上连续，则它在tt 上连续三、均方导数定义 7

28、设),(tttx是二阶矩过程，若存在一个随机过程)(tx，满足20()( )lim|( ) |0hx thx texth( )x tt则称在 点均方可微，记作0( )()( )( ).hdx tx thx txtl i mdth( )( )xtx tt并称为在 点的均方导数。类似的有22)(dtxdtx或称精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 14 页，共 19 页 - - - - - - - - -学习必备精品知识点12112211212212012120(,)(,)( ,)( ,)limxxxxhhrth thrth trtthrtth

29、hh h为),(21ttrx在12( ,)t t的广义二阶导数，记为21212),(ttttrx定理 6 均方可微准则二阶矩过程),(tttx在t点均方可微的充要条件为相关函数),(),(21ttttrx在点的广义二阶导数存在。推论1 二阶矩过程),(tttx在 t 上均方可微的充要条件为相关函数),(21ttrx在),(tttt上每一点广义二阶可微。推论 2 若),(21ttrx在),(tttt上每一点广义二阶可微，则( )xdmtdt在 t 上以及1212121212( ,),( ,),( ,)xxxrt trt trtttttt在tt上存在，且有121212111212122222121

30、2121221( )( )(1)( );( ,)(2)( )( )( )( ) ;( ,)(3)( )()( )( ) ;( ,)( , )(4)( )( ) xxxxxdmtde x te x tdtdtrt te x tx te x t x tttrt te x t x te x t x tttrt trt te x tx tt ttt四、均方积分定义 8 如果0n时，ns均方收敛于s，即20lim|0nne ss，则称( )( )f t x t在 , a b上均方可积，并记为101( )( ).( )( )()nnbiiiiaisf t x t dtl i mf tx ttt( )( )

31、 , f t x ta b称此为在区间上的均方积分。定理 7（均方可积准则）( )( )f t x t在区间 , a b上均方可积的充要条件为121212( )()( ,)bbxaaf tf trt tdt dt存在。特别的， 二阶矩过程( )x t在 , a b上均方可积的充要条件为12( ,)xrt t在 , , a ba b上可积。定理 8设( )( )f t x t在区间 , a b上均方可积，则有(1) ( )( )( )( )bbaaef t x t dtf t e x tdt特别有( )( )bbaaex t dte x tdt(2) 111222121212( )( )( )(

32、 )( ) ( )( , )bbbbxaaaaef tx t dtf tx tdtf tf t rt tdt dt特别的有21212|( )|( ,)bbbxaaaex t dtrt tdt dt。精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 15 页，共 19 页 - - - - - - - - -学习必备精品知识点定理 9设二阶矩过程),(tttx在 , a b上均方连续，则( )( ),()tay txdatb在均方意义下存在，且随机过程),(tttx在 , a b上均方可微，且有( )( )y tx t。推论设( )x t均方可微，且( )

33、xt均方连续，则( )( )( )tax tx axt dt特别有( )( )( )tax tx axt dt 4 平稳过程的各态历经性定义 9 设( ),x tt为均方连续的平稳过程，则分别称11( )l.i.m( ),( )()l.i.m( )()22ttttttx tx t dtx t x tx t x tdttt为该过程的时间均值和时间相关函数。定义 10设( ),x tt是均方连续的平稳过程，若( )pr.1( )x te x t，即1l.i.m( )2txttx t dtmt以概率 1 成立，则称该平稳过程的均值具有各态历经性。若( )()pr.1 ( )()x t x te x

34、t x t，即1l.i.m( )()( )2txttx t x tdtrt以概率 1 成立，则称该平稳过程的相关函数具有各态历经性。定义 11 如果均方连续的平稳过程( ),x ttt的均值和相关函数都具有各态历经性，则称该平稳过程为具有各态历经性或遍历性。定理10设( ),x tt是均方连续的平稳过程，则它的均值具有各态历经性的充要条件为2221lim1( )022txxttrmdtt(6.9) 定理6.11 设( ),x tt为均方连续的平稳过程，则其相关函数具有各态历经性的充要条件为2211121lim1()( )022txttbrdtt(6.15) 其中111()( )()()()be

35、 x t x tx tx t(6.16) 定理 6.12 对于均方连续平稳过程( ),0x tt，等式01l.i.m( )txtxdmt以概率 1 成立的充要条件为1lim1( )02txttbdtt若( )x t为实平稳过程，则上式变为精品学习资料 可选择p d f - - - - - - - - - - - - - - 第 16 页，共 19 页 - - - - - - - - -学习必备精品知识点01lim1( )0txtbdtt定理6.13 对于均方连续平稳过程( ),0x tt，等式01l.i.m( )()( )txtx t x tdtrt以概率 1 成立的充要条件为21111lim

36、1()( )0txttbrdtt其中1()b与（ 6.16）式相同。若( )x t为实平稳过程，则上式变为211101lim1()( )0txtbrdtt第七章平稳过程的谱分析7.1 平稳过程的谱密度设)(tx是均方连续随机过程，作截尾随机过程tttttxtxt| ,0|),(因为txt均方可积，故存在傅式变换( ,)( )( )iti txtttftxt edtxt edtt .(7.4) 利用帕塞伐公式及傅式反变换，可得2221( )( ),2txtxt dtxt dtftdt定义 7.1设ttx),(为均方连续随机过程，称221( )2limttext dttt为)(tx的平均功率，称21( ),2limxxtseftt为)(tx的 功率谱密度 ，简称 谱密度 。当