随机过程知识点汇总情况

1、第一章随机过程的基本概念与基本类型.随机变量及其分布1 随机变量 X，分布函数F(x) P(X x)离散型随机变量X的概率分布用分布列Pk P(X Xk)分布函数F(x)Pk连续型随机变量X的概率分布用概率密度f(x)分布函数F(x)2. n维随机变量X (XX2, ,Xn)其联合分布函数F (x) F(Xi,X2, ,Xn)P(X!Xi , X 2 X2 , X nxn ,)离散型联合分布列连续型联合概率密度3 .随机变量的数字特征数学期望：离散型随机变量 X EXXkPk连续型随机变量XEXxf (x) dx方差：DX E(X EX)2 EX2 (EX)2反映随机变量取值的离散程度协方差(

2、两个随机变量 X,Y ): Bxy E(X EX )(YEY)E(XY) EX EYBxy则称X,Y不相关。4 特征函数g(t) E(eitX) 离散 g(t)itXke Pk连续g(t)e'tx f (x)dx重要性质：g(0)1 , g(t) 1, g( t) g(t) , g(0)ikEXk相关系数(两个随机变量 X, Y ) : xy , ,JDX J DY独立 不相关5 常见随机变量的分布列或概率密度、期望、方差0 1分布 P(X 1) p,P(X 0) q EXDXpq二项分布P(X k) C；pkqnkEX npDXnpq泊松分布P(X k) eEX k!DX均匀分布略正

3、态分布N(a, 2) f (x)12 e(x a)22 2EXDX指数分布f(x) 0e ，X 00,X 0EXDX &6.N维正态随机变量 X (Xi,X2,Xn)的联合概率密度X N(a, B)f(Xi,X2, ,Xn) n1(2 )2一 e)p |B卩l(x a)T B 1(x a)2a (ai, a2, an), x(Xi,X2, ,Xn) , B (bj)nn 正定协方差阵二.随机过程的基本概念1随机过程的一般定义设(， P)是概率空间，T是给定的参数集，若对每个t T,都有一个随机变量 X与之对应, 则称随机变量族 X(t,e),t T是(， P)上的随机过程。简记为 X(

4、t),t T 。含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。当t固定时，X(t,e)是随机变量。当e固定时，X(t,e)时普通函数，称为随机过程的一个样本 函数或轨道。分类：根据参数集 T和状态空间I是否可列，分四类。也可以根据X(t)之间的概率关系分类,如独立增量过程，马尔可夫过程，平稳过程等。2.随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。随机过程X(t),t T的一维分布，二维分布，n维分布的全体称为有限维分布函数族。随机过程的有限维分布函数族是随机过

5、程概率特征的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征 来取代。(1) 均值函数 mX(t) EX(t) 表示随机过程 X(t),t T在时刻t的平均值。(2) 方差函数 Dx(t) EX(t) mx(t)2表示随机过程在时刻t对均值的偏离程度。Bx(s,t)E(X(s) mx(s)(X(t) mx(t)(3) 协方差函数且有Bx(t,t) Dx(t)EX(s)X(t) mx(s)mx(t)(4) 相关函数 Rx (s,t) E X(s)X(t)(3)和(4)表示随机过程在时刻 s , t时的线性相关程度。(5) 互相关函数： X(t),t T ,

6、Y(t),t T是两个二阶距过程，则下式称为它们的互协方差函数。BxY(s,t)E(X(s) mx (s)(Y(t) mY(t)，那么RxY(s,t)EX(s)Y(t)，称为互相关函数。EX(s)Y(t) mx(s )叫(0若 EX(s)Y(t)mx (s)mY (t)，则称两个随机过程不相关。3 复随机过程Zt Xt jYt均值函数mz(t)EXt jEYt方差函数Dz(t)E| ZtmZ(t)E(ZtmZ (t)(ZtmZ(t)Bz(s,t)E(Zsmz(s)(Ztmz (t)协方差函数相关函数 RZ(s,t)EZsZtEZsZt mZ(sm(t)4常用的随机过程(1)二阶距过程：实(或复

7、)随机过程X(t),t T，若对每一个t T ,都有EX(t)2( 阶距存在)，则称该随机过程为二阶距过程。(2)正交增量过程：设 X(t),t T是零均值的二阶距过程，对任意的ti t2 t3 t4 T，有E(X(t2) X(tJ)(X(t4) X(t3)0，则称该随机过程为正交增量过程。2其协方差函数 Bx(s,t) Rx(s,t)x(min(s,t)(3)独立增量过程：随机过程 X(t),t T ，若对任意正整数n 2，以及任意的 ti t2tn T ,随机变量 X(t2) X(ti),X(t4) X(t3), ,X(tn) X (t n l)是相互独立的，则称X(t),t T是独立增量

8、过程。进一步，如 X(t),t T是独立增量过程，对任意 s t，随机变量X(t) X(s)的分布仅依赖于t s，则称 X(t),t T是平稳独立增量过程。(4)马尔可夫过程:如果随机过程X(t),tT具有马尔可夫性，即对任意正整数n及tit2tn T，P(X(tJ X1, ,X(tn 1)Xn 1)0 ,都有PX(tn) Xn X(ti)X1)X (t n 1 )xn 1PX (t n )X n X (t n 1 )xn 1，则则称 X(t),t T是马尔可夫过程。(5)正态过程：随机过程X(t),t T，若对任意正整数n 及 t1 ,t2, ,tn T ，(X(tJ,X(t2)X(tn)是

9、n维正态随机变量，其联合分布函数是n维正态分布函数，则称X(t),t T是正态过程或高斯过程。(6) 维纳过程：是正态过程的一种特殊情形。设W(t), t为实随机过程，如果， W(0) 0;是平稳独立增量过程；对任意 s,t增2 2量W(t) W(s)服从正态分布，即 W(t) W(s)N(O, t s)0 。则称W(t), t为维纳过程，或布朗运动过程。另外：它是一个 Markov过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。它在任何有限时间上的变化服从正态分布，其方差随时间区间

10、的长度呈线性增加。(7) 平稳过程：严(狭义)平稳过程：X(t),t T ，如果对任意常数 和正整数n及t2, ,tn T， tl ,t2 , ,tn T，( X(ti),X(t2) X(tn)与(X(ti ), X& ) X(tn )有相 同的联合分布，则称 X(t),t T是严(狭义)平稳过程。广义平稳过程：随机过程X(t),t T，如果 X (t ),t T是二阶距过程；对任意的t T，mx(t) EX(t)常数；对任意 s，t T，Rx (s,t) EX(s)X(t) Rx (t s)，或仅与时间 差t s有关。则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平

11、稳过程。第二章泊松过程一.泊松过程的定义(两种定义方法)1,设随机计数过程X(t),t 0，其状态仅取非负整数值，若满足以下三个条件，贝U称：X(t),t T是具有参数 的泊松过程。X(0)0 ；独立 增量过程，对任意正整 数n ,以及任 意的ti t2tn T X(t2) X(ti), X(t3) X(t2), ,X(tn) X(t.i )相互独立，即不同时间间隔的计数相互独立；在任一长度为 t的区间中，事件A发生的次数服从参数t 0的的泊松分布，即对任意 t,s 0,有 P X(t s) X(s) nt( t)nn 0,1,LEX(t) t,EX(t)，表示单位时间内时间A发生的平均个数，

12、也称速率或强度。 t2,设随机计数过程X(t),t 0，其状态仅取非负整数值，若满足以下三个条件，贝y称：X(t),t 0是具有参数 的泊松过程。X(0)0 ;独立、平稳增量过程；P X(t h) X(t) 1 h o(h)P X(t h) X(t) 2 o(h) 。第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同时发生，也称为单跳性。二.基本性质1,数字特征mx(t)EX(t)t DX(t)Rx(s,t)s( tt( s1)1)Bx(s,t)Rx(s,t) mx(s)mx(t)min (s,t)推导过程要非常熟悉2, Tn表示第n 1事件A发生到第n次

13、事件发生的时间间隔,Tn,n是时间序列，随机变量 Tn服从参数为 的指数分布。概率密度为f (t)e t,t0, t0，分布函数FTn(t)0,t 0均值t 01为 ETn -证明过程也要很熟悉到达时间的分布三非齐次泊松过程到达强度是t的函数X(0)0 ;独立增量过程；X(th)X(t)(t)ho(h)。性。t均值函数 mx(t)EX(t)0(s)dsX(th)X(t)o(h)不具有平稳增量定理： X(t),t 0是具有均值为mx (t)(s)ds的非齐次泊松过程，则有P X(t s) X(t) nmx(ts)mx exp mx(t s) mx (t)四复合泊松过程设 N(t),t 0是强度为

14、的泊松过程，Yk,k 1,2,L 是一列独立同分布的随机变量，且与N (t)N (t),t 0独立，令X(t)Yk 则称 X(t),t 0为复合泊松过程。k 12重要结论： X(t),t 0是独立增量过程；若E(Yi ) ，则EX(t)tE(Yi)，DX(t)tE(Yi2)第五章马尔可夫链泊松过程 是时间连续状态离散的马氏过程，维纳过程 是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为 马尔可夫链。马尔可夫过程的特性：马尔可夫性或无后效性。即：在过程时刻to所处的状态为已知的条件下，过程在时刻t t。所处状态的条件分布与过程在时刻t。之前所处的状态无关。也就是说，将来只与现在 有

15、 关， 而 与 过 去 无 关。 表 示 为 PX(tn)XnX(ti)Xi,X(tn l)Xni PX(tn)XnX(tnl)Xni一.马尔可夫链的概念及转移概率1 定义：设随机过程Xn, n T，对任意的整数n T和任意的i°,ii,L儿i I，条件概率满足P Xn iini X0i°,Xiii, L,Xnin PXni in iXnJ ，则称 X., n T 为马尔可夫链。马尔可夫链的统计特性完全由条件概率P Xn 1 in 1 Xn in所决定。2 转移概率 P Xn 1 j|Xn i相当于随机游动的质点在时刻 n处于状态i的条件下，下一步转 移到j的概率。记为Pi

16、j(n)。则Pij(n) P Xn 1 j Xn i称为马尔可夫链在时刻 n的一步转移概率。若齐次马尔可夫链，则Pj(n)与n无关，记为Pj。P Pji,j I I1,2丄称为系统的一步转移矩阵。性质：每个元素Pj 0，每行的和3. n步转移概率 p (n)= PXm iPj(n)i,j I I 1,2, L 称为 n步转移矩阵。重要性质：(n)PjPikPkjI(nl)称为CK方程,证明中用到条件概率的乘法公式、马尔可夫性、齐次性。掌握证明方法: P(n) PnPj(n)P Xmnj Xm iP XmP Xmi,Xmn jiP Xmi, X m l k, Xm n jP Xm iP Xm i

17、,Xml k,XmnTP Xm i,Xml kj P Xm i,Xml kipknl)(m l) Pi(k)(m)p："k IP Xm说明n步转移概率矩阵是一步转移概率矩阵的n次乘方。4. Xn,n T是马尔可夫链，称PjP Xoj为初始概率，即0时刻状态为j的概率；称pj(n) P Xnj为绝对概率，即n时刻状态为j的概率。PT(0)Pl, P2,L 为初始概率向量,PT( n)pn), p2(n)丄为绝对概率向量。定理： Pj (n)Pi p(n)矩阵形式：PT (n) PT (0) P(n) Pj(n)p (n 1)pji Ii I定理：P X1 i1, X2 i2,L , X

18、n inpi pii1 L pin九说明马氏链的有限维分布完全由它的初i I始概率和一步转移概率所决定。二.马尔可夫链的状态分类1 周期：自某状态出发，再返回某状态的所有可能步数最大公约数，即d GCD n: 口丁 0若d 1，则称该状态是周期的；若 d 1，则称该状态是非周期的。2 首中概率：fij(n)表示由i出发经n步首次到达j的概率。3. fijfij(n)表示由i出发经终于(迟早要)到达 j的概率。n 14 .如果fii 1，则状态i是常返态；如果 fii 1，状态i是非常返(滑过)态。,则称i是正常返态；若5. infH(n)表示由i出发再返回到i的平均返回时间。若n 1；状态i是

19、非常返充要条件是(n)ii0则称i是零常返态。非周期的正常返态是遍历状态。6 状态i是常返充要条件是 p(n)iin 07 .称状态i与j互通，i j,即ij且j i。如果ij，则他们同为常返态或非常返态，；若i,j同为常返态，则他们同为正常返态或零常返态，且i , j有相同的周期。18 .状态i是遍历状态的充要条件是 lim p(n)0。一个不可约的、非周期的、有限状态的马尔可ni夫链是遍历的。9 要求：熟悉定义定理，能由一步转移概率矩阵画出状态转移图，从而识别各状态。三状态空间的分解1. 设C是状态空间I的一个闭集，如果对任意的状态 i C，状态j C，都有Pj 0 (即从i出发经一步转移

20、不能到达 j )，则称C为闭集。如果C的状态互通，则称 C是不可约的。如果状态空间不 可约，则马尔可夫链 Xn, n T不可约。或者说除了C之外没有其他闭集，则称马尔可夫链Xn,n T不可约。2. C为闭集的充要条件是：对任意的状态 i C ,状态j C，都有p(n) 0。所以闭集的意思是自C的内部不能到达 C的外部。意味着一旦质点进入闭集C中，它将永远留在 C中运动。如果pii 1，则状态i为吸收的。等价于单点i为闭集。3 .马尔可夫链的分解定理：任一马尔可夫链的状态空间|，必可唯一地分解成有限个互不相交的子集D,Ci,C2,L CnL的和，每一个Cn都是常返态组成的不可约闭集；Cn中的状态

21、同类，或全是正常返态，或全是零常返态，有相同的周期，且fj 1。D是由全体非常返态组成。分解定理说明：状态空间的状态可按常返与非常返分为两类，非常返态组成集合D，常返态组成一个闭集 C。闭集C又可按互通关系分为若干个互不相交的基本常返闭集Ci,C2,L CnL。含义：一个马尔可夫链如果从D中某个非常返态出发，它或者一直停留在D中，或某一时刻进入某个基本常返闭集Cn，一旦进入就永不离开。一个马尔可夫链如果从某一常返态出发，必属于某个基本常返闭集Cn ,永远在该闭集Cn中运动。4 .有限马尔可夫链：一个马尔可夫链的状态空间是一个有限集合。性质：所有非常返态组成的集合不是闭集；没有零常返态；必有正常

22、返态；状态空间I D G C2 L Cn , D是非常返集合， G,C2丄Cn是正常返集合。不可约有限马尔可夫链只有正常返态。四.P)的渐近性质与平稳分布1 为什么要研究转移概率pjn)的遍历性？研究p(n)当n时的极限性质，即P Xn j|X0 i的极限分布，包含两个问题：一是 lim p(n)是否存在；二是如果存在，是否与初始状态有关。这一类问题称作遍历性定理。如果对i, j I，存在不依赖于i的极限lim pjn)Pj 0，则称马尔可夫链具有遍历性。一个不可约的马尔可夫链，如果它的状态是非周期的正常返态，则它就是一个遍历链。具有遍历性的马尔可夫链，无论系统从哪个状态出发，当转移步数n充分

23、大时，转移到状态 j的概率都近似等于 Pj，这时可以用Pj作为p(n)的近似值。2 研究平稳分布有什么意义？判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的，可以通过讨论lim p(n)来解决，n但求极限时困难的。所以，我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链。一 个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布，且平稳分布即极限分布nim Pj(n)=丄,j I。j3 Xn, n 0是齐次马尔可夫链，状态空间为 I，一步转移概率为 Pij，概率分布 j, j I称为马尔可夫链的平稳分布，满足iPiji I4 定理：不可约非周期马尔可夫链是正常返的充

24、要条件是存在平稳分布，且此平稳分布就是极限分 布丄，j I。 推论：有限状态的不可约非周期马尔可夫链必存在平稳分布j5 在工程技术中，当马尔可夫链极限分布存在，它的遍历性表示一个系统经过相当长时间后达到平 衡状态，此时系统各状态的概率分布不随时间而变，也不依赖于初始状态。6 对有限马尔可夫链，如果存在正整数k，使p(k) 0，即k步转移矩阵中没有零元素，则该链是遍历的。第六章平稳随机过程一定义(第一章)严平稳过程：有限维分布函数沿时间轴平移时不发生变化。宽平稳过程：满足三个条件：二阶矩过程EX(t)2;均值为常数EX(t)常数；相关函数只与时间差有关，即 RX (t, t) E X(t)RX(

25、)。宽平稳过程不一定是严平稳过程，而严平稳过程一定是宽平稳过程。二联合平稳过程及相关函数的性质1 定义：设X(t),t T和X(t),t T是两个平稳过程，若它们的互相关函数E X(t)及E Y(t)X(t )仅与时间差 有关，而与起点t无关，则称X(t)和Y(t)是联合平稳随机过程。即，RxY(t,t ) E X(t) )Rxy()Ryx(") E Y(t)Ryx()当然，当两个平稳过程联合平稳时，其和也是平稳过程。2 相关函数的性质： Rx(0)0 :Rx()Rx()，对于实平稳过程， Rx()是偶函数。Rx( )1 Rx(0)非负定。若 X(t)是周期的，则相关函数 Rx()也

26、是周期的，且周期相同。如果X(t)是不含周期分量的非周期过程，X(t)与X(t)相互独立，贝y |imRx() mxmX。联合平稳过程 X(t )和 Y(t)的互相关函数，Rxy( )Rx (0) Ry (0) , Ryx( )Rx (0) R, (0)；Rxy( )Ryx( )。 X(t)和Y(t)是实联合平稳过程时，则，Rxy( ) Ryx()。三随机分析略 四平稳过程的各态历经性1 T1时间均值X(t) Li.TX(t)dt时间相关函数；X(t)X(t ) bim* ；X(t) dt2 如果：；X(t)；EX(t) mx(t)以概率1成立，则称均方连续的平稳过程的均值有各态历经性。如果：

27、X(t)X(t ) EX(t) Rx()以概率1成立，则称均方连续的平稳过程的相关函数有各态历经性。如果均方连续的平稳过程的均值和相关函数都有各态历经性，则称该平稳过程是各态历经的或遍 历的。一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的；另一方面也表明EX(t)与EX(t)X(t)必定与t无关，即各态历经过程必是平稳过程。3讨论平稳过程的历经性，就是讨论能否在较宽松的条件下，用一个样本函数去近似计算平稳过程 的均值、协方差函数等数字特征，即用时间平均代替统计平均。只在一定条件下的平稳过程，才具有各态历经性。4.均值各态历经性定理：均方连续的平稳过程的均值具有各态历经的充要条

28、件是1 2T | | 2Tim 2 2t(1 2T)( Rx( ) mx )d 05 相关函数各态历经性定理：均方连续的平稳过程的相关函数具有各态历经的充要条件是lim T 2T第七章；（1 启【B（ 1）平稳过程的谱分析Rx( )2d 0B( 1)EX(t)X(t)X(t1)X(t1)一平稳过程的谱密度推导过程:X(t), tT随机过程X(t),t为均方连续过程，作截尾处理XT(t)八11亠L 1，由于XT（t）均方0, tT可积，所以存在FT,得F（ ,T）XT(t)e j tdt；X(t)e j rdt，利用 paserval 定理及 IFT 定义得XT2(t)dtT 2TX2(t)dt

29、2F( ,T) d该式两边都是随机变量，取平均值，这时不仅要1 2 Ijm 亓E f( ,T)对时间区间T,T取，还要取概率意义下的统计平均，即1 T211 I2ljmE - tx dt Ijm 厂 E -|f( ,t)d定义ljmE12TT 2X (t)dt为X(t),平均功率。SX (可以推出当F(,T)为 X(t),功率谱密度，简称谱密度。X(t),是均方连续平稳过程时，有X2(t)Ijm 2 2dtIjm 齐 tE X (t) E X (t)Rx (0)SX ()d说明平稳过程的平均功率等于过程的均方值，或等于谱密度在频域上的积分。2 平稳过程的谱密度和相关函数构成FT对。Rx()Sx

30、( )ejSx()Rx ( )e j d若平稳随机序列Xn,n0,1,2,L ，则其谱密度和相关函数构成FT对Rx(n)Sx ()ejndSx( )Rx(n)e j nn二.谱密度的性质1 Sx()是 Rx()的 FT。Sx ()Rx()e j d如果X(t),是均方连续的实平稳过程,有Rx()Rx() , Sx()是也实的非负偶函数，则Sx( )2Rx( )cos( )dRx()Sx( )cos()dsx ()是的有理分式，分母无实根。2 .谱密度的物理含义，Sx()是一个频率函数，从频率域来描绘x(t)统计规律的数字特征,而 x(t)是各种频率简谐波的叠加，Sx ()就反映了各种频率成分所

31、具有的能量大小。3 计算可以按照定义计算,也可以利用常用的变换对(t)12a2 2acos( 0 ) (0)(o)sin( o )(0)o)Rx( ) ej 0sx(0)Rx(T)Sx()ejTsin 01,0,三窄带过程及白噪声过程的功率谱密度1 .窄带随机过程：随机过程的谱密度限制在很窄的一段频率范围内。2 白噪声过程：设 X(t), t为实值平稳过程，若它的均值为零，且谱密度在所有的频率范围内为非零的常数，即 SX( ) N0，则称 X(t), t为白噪声过程。是平稳过程。其相关函数为 Rx( ) No ()。表明在任意两个时刻ti和t2 , X(ti)和X(t2)不相关，即白噪声随时

32、间的变换起伏极快，而过程的功率谱极宽，对不同输入频率的信号都有可能产生干扰。四联合平稳过程的互谱密度互谱密度没有明确的物理意义，引入它主要是为了能在频率域上描述两个平稳过程的相关性。1 .互谱密度与互相关函数成FT对关系Rxy()12Sxy( )ejdSXY ( )RXY( )e 'dRyx()12Syx ( )e'dSYX ( )RYX ( )e jd2 性质SXY()SXY ()SXY()的实部是的偶函数，虚部是的奇函数，Sx ()也是。2SxY()Sx ()SY()；若 X (t)和 Y(t)相互正交，有Rxy ( )0，则Sxy()SYX ()0五平稳过程通过线性系统1

33、系统的频率响应函数H()(也可以写成 H(j ) 般是一个复值函数，是系统单位脉冲响应的FT。.t1. tH ( ) h(t)e j tdth(t)H ( )ej td22.系统输入X(t)为实平稳随机过程，贝U输出Y(t)也是实平稳随机过程。即输出过程的均值为常数,相关函数是时间差的函数。且有Ry( ) Rxy( ) h( ) Rx( ) h( ) h()说明输出过程的相关函数可以通过两次卷积产生。Rxy( )Rx( ) h()的应用：给系统一个白噪声过程X(t)，可以从实测的互相关资料估计线知 脉 冲 响 应Rx( ) No ()Rxy( )Rx( ) h()No ( u)h(u)du N

34、°h()，从而h()Rxy()No3 输入输出谱密度之间的关系2Sy( ) H( ) Sx()|2 H( ) H( )H()称为系统的频率增益因子或频率传输函数。有时，采用时域卷积的方法计算输出的相关函数比较烦琐，可以先计算输出过程的谱密度，然后反FT计算出相关函数。Rx( )$y()另外 Rxy ( ) Rx ( ) h()，所以 SXY ( 补充：排队轮平均间隔时间=总时间/到达顾客总数 平均到达率=到达顾客总数/总时间H()仇()Ry()H( )Sx( ) , Syx( ) HDsx()平均服务时间=服务时间总和/顾客总数平均服务率=顾客总数/服务时间总和当顾客到达符合泊松过程时，顾客相继到达的间隔时间T必服从负指数分布。对于