随机过程知识点汇总

1、第一章 随机过程的基本概念与基本类型一随机变量及其分布1随机变量， 分布函数离散型随机变量的概率分布用分布列 分布函数连续型随机变量的概率分布用概率密度 分布函数2n维随机变量其联合分布函数离散型 联合分布列 连续型 联合概率密度随机变量的数字特征数学期望：离散型随机变量连续型随机变量方差：反映随机变量取值的离散程度协方差（两个随机变量）：相关系数（两个随机变量）：若，则称不相关。独立不相关特征函数离散连续重要性质：，常见随机变量的分布列或概率密度、期望、方差分布二项分布泊松分布均匀分布略正态分布指数分布维正态随机变量的联合概率密度，正定协方差阵二随机过程的基本概念随机过程的一般定义设是概率空

2、间，是给定的参数集，若对每个，都有一个随机变量与之对应，则称随机变量族是上的随机过程。简记为。含义：随机过程是随机现象的变化过程，用一族随机变量才能刻画出这种随机现象的全部统计规律性。另一方面，它是某种随机实验的结果，而实验出现的样本函数是随机的。当固定时，是随机变量。当固定时，时普通函数，称为随机过程的一个样本函数或轨道。分类：根据参数集和状态空间是否可列，分四类。也可以根据之间的概率关系分类，如独立增量过程，马尔可夫过程，平稳过程等。随机过程的分布律和数字特征用有限维分布函数族来刻划随机过程的统计规律性。随机过程的一维分布，二维分布，维分布的全体称为有限维分布函数族。随机过程的有限维分布函

3、数族是随机过程概率特征的完整描述。在实际中，要知道随机过程的全部有限维分布函数族是不可能的，因此用某些统计特征来取代。（）均值函数表示随机过程在时刻的平均值。（）方差函数表示随机过程在时刻对均值的偏离程度。（）协方差函数且有（）相关函数(3)和(4)表示随机过程在时刻，时的线性相关程度。（）互相关函数：，是两个二阶距过程，则下式称为它们的互协方差函数。，那么，称为互相关函数。若，则称两个随机过程不相关。复随机过程均值函数方差函数协方差函数相关函数常用的随机过程（）二阶距过程：实（或复）随机过程，若对每一个，都有（二阶距存在），则称该随机过程为二阶距过程。（2）正交增量过程：设是零均值的二阶距过

4、程，对任意的，有，则称该随机过程为正交增量过程。 其协方差函数（3）独立增量过程：随机过程，若对任意正整数，以及任意的，随机变量是相互独立的，则称是独立增量过程。 进一步，如是独立增量过程，对任意，随机变量的分布仅依赖于，则称是平稳独立增量过程。（4）马尔可夫过程：如果随机过程具有马尔可夫性，即对任意正整数及，都有，则则称是马尔可夫过程。（5）正态过程：随机过程，若对任意正整数及，（）是n维正态随机变量，其联合分布函数是n维正态分布函数，则称是正态过程或高斯过程。（6）维纳过程：是正态过程的一种特殊情形。设为实随机过程，如果，；是平稳独立增量过程；对任意增量服从正态分布，即。则称为维纳过程，或

5、布朗运动过程。另外：它是一个Markov过程。因此该过程的当前值就是做出其未来预测中所需的全部信息。 维纳过程具有独立增量。该过程在任一时间区间上变化的概率分布独立于其在任一的其他时间区间上变化的概率。它在任何有限时间上的变化服从正态分布，其方差随时间区间的长度呈线性增加。（7）平稳过程：严（狭义）平稳过程：，如果对任意常数和正整数及，（）与（）有相同的联合分布，则称是严（狭义）平稳过程。广义平稳过程：随机过程，如果是二阶距过程；对任意的， ；对任意，或仅与时间差有关。则满足这三个条件的随机过程就称为广义平稳过程，或宽平稳过程，简称平稳过程。第二章 泊松过程一泊松过程的定义（两种定义方法），设

6、随机计数过程，其状态仅取非负整数值，若满足以下三个条件，则称：是具有参数的泊松过程。；独立增量过程，对任意正整数，以及任意的相互独立，即不同时间间隔的计数相互独立；在任一长度为的区间中，事件发生的次数服从参数的的泊松分布，即对任意，有，表示单位时间内时间发生的平均个数，也称速率或强度。，设随机计数过程，其状态仅取非负整数值，若满足以下三个条件，则称：是具有参数的泊松过程。；独立、平稳增量过程；。第三个条件说明，在充分小的时间间隔内，最多有一个事件发生，而不可能有两个或两个以上事件同时发生，也称为单跳性。二基本性质，数字特征推导过程要非常熟悉，表示第事件发生到第次事件发生的时间间隔，是时间序列，

7、随机变量服从参数为的指数分布。概率密度为，分布函数均值为证明过程也要很熟悉到达时间的分布略三非齐次泊松过程到达强度是的函数；独立增量过程；。不具有平稳增量性。均值函数定理：是具有均值为的非齐次泊松过程，则有四复合泊松过程设是强度为的泊松过程，是一列独立同分布的随机变量，且与独立，令则称为复合泊松过程。重要结论：是独立增量过程；若，则，第五章马尔可夫链泊松过程是时间连续状态离散的马氏过程，维纳过程是时间状态都连续的马氏过程。时间和状态都离散的马尔可夫过程称为马尔可夫链。马尔可夫过程的特性：马尔可夫性或无后效性。即：在过程时刻所处的状态为已知的条件下，过程在时刻所处状态的条件分布与过程在时刻之前所

8、处的状态无关。也就是说，将来只与现在有关，而与过去无关。表示为 一马尔可夫链的概念及转移概率1定义：设随机过程，对任意的整数和任意的，条件概率满足，则称为马尔可夫链。马尔可夫链的统计特性完全由条件概率所决定。2转移概率 相当于随机游动的质点在时刻处于状态的条件下，下一步转移到的概率。记为。则称为马尔可夫链在时刻的一步转移概率。若齐次马尔可夫链，则与无关，记为。 称为系统的一步转移矩阵。性质：每个元素，每行的和为1。3步转移概率= ；称为步转移矩阵。重要性质： 称为方程，证明中用到条件概率的乘法公式、马尔可夫性、齐次性。掌握证明方法： 说明步转移概率矩阵是一步转移概率矩阵的次乘方。4是马尔可夫链

9、，称为初始概率，即0时刻状态为的概率；称为绝对概率，即时刻状态为的概率。为初始概率向量，为绝对概率向量。定理：矩阵形式： 定理： 说明马氏链的有限维分布完全由它的初始概率和一步转移概率所决定。二马尔可夫链的状态分类1周期：自某状态出发，再返回某状态的所有可能步数最大公约数，即。若，则称该状态是周期的；若，则称该状态是非周期的。2首中概率：表示由出发经步首次到达的概率。3表示由出发经终于（迟早要）到达的概率。4如果，则状态是常返态；如果，状态是非常返（滑过）态。5表示由出发再返回到的平均返回时间。若，则称是正常返态；若，则称是零常返态。非周期的正常返态是遍历状态。6状态是常返充要条件是；状态是非

10、常返充要条件是。7称状态与互通，。如果，则他们同为常返态或非常返态，；若，同为常返态，则他们同为正常返态或零常返态，且，有相同的周期。8状态是遍历状态的充要条件是。一个不可约的、非周期的、有限状态的马尔可夫链是遍历的。9要求：熟悉定义定理，能由一步转移概率矩阵画出状态转移图，从而识别各状态。三状态空间的分解1设是状态空间的一个闭集，如果对任意的状态，状态，都有（即从出发经一步转移不能到达），则称为闭集。如果的状态互通，则称是不可约的。如果状态空间不可约，则马尔可夫链不可约。或者说除了之外没有其他闭集，则称马尔可夫链不可约。2为闭集的充要条件是：对任意的状态，状态，都有。所以闭集的意思是自的内部

11、不能到达的外部。意味着一旦质点进入闭集中，它将永远留在中运动。 如果，则状态为吸收的。等价于单点为闭集。3马尔可夫链的分解定理：任一马尔可夫链的状态空间，必可唯一地分解成有限个互不相交的子集的和，每一个都是常返态组成的不可约闭集；中的状态同类，或全是正常返态，或全是零常返态，有相同的周期，且。是由全体非常返态组成。 分解定理说明：状态空间的状态可按常返与非常返分为两类，非常返态组成集合，常返态组成一个闭集。闭集又可按互通关系分为若干个互不相交的基本常返闭集。 含义：一个马尔可夫链如果从中某个非常返态出发，它或者一直停留在中，或某一时刻进入某个基本常返闭集，一旦进入就永不离开。一个马尔可夫链如果

12、从某一常返态出发，必属于某个基本常返闭集，永远在该闭集中运动。4有限马尔可夫链：一个马尔可夫链的状态空间是一个有限集合。性质：所有非常返态组成的集合不是闭集；没有零常返态；必有正常返态；状态空间，是非常返集合，是正常返集合。不可约有限马尔可夫链只有正常返态。四的渐近性质与平稳分布1为什么要研究转移概率的遍历性？ 研究当时的极限性质，即的极限分布，包含两个问题：一是是否存在；二是如果存在，是否与初始状态有关。这一类问题称作遍历性定理。如果对，存在不依赖于的极限，则称马尔可夫链具有遍历性。 一个不可约的马尔可夫链，如果它的状态是非周期的正常返态，则它就是一个遍历链。 具有遍历性的马尔可夫链，无论系

13、统从哪个状态出发，当转移步数充分大时，转移到状态的概率都近似等于，这时可以用作为的近似值。2研究平稳分布有什么意义？判别一个不可约的、非周期的、常返态的马尔可夫链是否为遍历的，可以通过讨论来解决，但求极限时困难的。所以，我们通过研究平稳分布是否存在来判别齐次马尔可夫链是否为遍历链。一个不可约非周期常返态的马尔可夫链是遍历的充要条件是存在平稳分布，且平稳分布即极限分布=。3是齐次马尔可夫链，状态空间为，一步转移概率为，概率分布称为马尔可夫链的平稳分布，满足4定理：不可约非周期马尔可夫链是正常返的充要条件是存在平稳分布，且此平稳分布就是极限分布。 推论：有限状态的不可约非周期马尔可夫链必存在平稳分

14、布。5在工程技术中，当马尔可夫链极限分布存在，它的遍历性表示一个系统经过相当长时间后达到平衡状态，此时系统各状态的概率分布不随时间而变，也不依赖于初始状态。6对有限马尔可夫链，如果存在正整数，使，即k步转移矩阵中没有零元素，则该链是遍历的。第六章 平稳随机过程一定义（第一章）严平稳过程：有限维分布函数沿时间轴平移时不发生变化。宽平稳过程：满足三个条件：二阶矩过程；均值为常数常数；相关函数只与时间差有关，即。宽平稳过程不一定是严平稳过程，而严平稳过程一定是宽平稳过程。二联合平稳过程及相关函数的性质1定义：设和是两个平稳过程，若它们的互相关函数及仅与时间差有关，而与起点无关，则称和是联合平稳随机过

15、程。 即， 当然，当两个平稳过程联合平稳时，其和也是平稳过程。相关函数的性质：；，对于实平稳过程，是偶函数。非负定。若是周期的，则相关函数也是周期的，且周期相同。如果是不含周期分量的非周期过程，与相互独立，则。联合平稳过程和的互相关函数，；。和是实联合平稳过程时，则，。三随机分析略四平稳过程的各态历经性时间均值时间相关函数如果以概率成立，则称均方连续的平稳过程的均值有各态历经性。如果以概率成立，则称均方连续的平稳过程的相关函数有各态历经性。如果均方连续的平稳过程的均值和相关函数都有各态历经性，则称该平稳过程是各态历经的或遍历的。一方面表明各态历经过程各样本函数的时间平均实际上可以认为是相同的；

16、另一方面也表明与必定与无关，即各态历经过程必是平稳过程。讨论平稳过程的历经性，就是讨论能否在较宽松的条件下，用一个样本函数去近似计算平稳过程的均值、协方差函数等数字特征，即用时间平均代替统计平均。只在一定条件下的平稳过程，才具有各态历经性。均值各态历经性定理：均方连续的平稳过程的均值具有各态历经的充要条件是相关函数各态历经性定理：均方连续的平稳过程的相关函数具有各态历经的充要条件是第七章平稳过程的谱分析一平稳过程的谱密度推导过程：随机过程为均方连续过程，作截尾处理，由于均方可积，所以存在FT，得，利用paserval定理及IFT定义得该式两边都是随机变量，取平均值，这时不仅要对时间区间取，还要

17、取概率意义下的统计平均，即定义为平均功率。为功率谱密度，简称谱密度。可以推出当是均方连续平稳过程时，有说明平稳过程的平均功率等于过程的均方值，或等于谱密度在频域上的积分。平稳过程的谱密度和相关函数构成FT对。若平稳随机序列，则其谱密度和相关函数构成FT对二谱密度的性质是的FT。如果是均方连续的实平稳过程，有，是也实的非负偶函数，则是的有理分式，分母无实根。谱密度的物理含义，是一个频率函数，从频率域来描绘统计规律的数字特征，而是各种频率简谐波的叠加，就反映了各种频率成分所具有的能量大小。计算可以按照定义计算，也可以利用常用的变换对等三窄带过程及白噪声过程的功率谱密度窄带随机过程：随机过程的谱密度

18、限制在很窄的一段频率范围内。白噪声过程：设为实值平稳过程，若它的均值为零，且谱密度在所有的频率范围内为非零的常数，即，则称为白噪声过程。是平稳过程。其相关函数为。表明在任意两个时刻和，和不相关，即白噪声随时间的变换起伏极快，而过程的功率谱极宽，对不同输入频率的信号都有可能产生干扰。四联合平稳过程的互谱密度互谱密度没有明确的物理意义，引入它主要是为了能在频率域上描述两个平稳过程的相关性。互谱密度与互相关函数成对关系性质的实部是的偶函数，虚部是的奇函数，也是。；若和相互正交，有，则。五平稳过程通过线性系统系统的频率响应函数（也可以写成）一般是一个复值函数，是系统单位脉冲响应的FT。系统输入为实平稳

19、随机过程，则输出也是实平稳随机过程。即输出过程的均值为常数，相关函数是时间差的函数。且有说明输出过程的相关函数可以通过两次卷积产生。的应用：给系统一个白噪声过程，可以从实测的互相关资料估计线性系统的未知脉冲响应。因为，从而输入输出谱密度之间的关系称为系统的频率增益因子或频率传输函数。有时，采用时域卷积的方法计算输出的相关函数比较烦琐，可以先计算输出过程的谱密度，然后反FT计算出相关函数。另外，所以，补充：排队轮 平均间隔时间=总时间/到达顾客总数 平均服务时间=服务时间总和/顾客总数 平均到达率=到达顾客总数/总时间 平均服务率=顾客总数/服务时间总和一当顾客到达符合泊松过程时，顾客相继到达的间隔时间必服从负指数分布。对于泊松分布，表示单位时间平均到达的顾客数，所以表示顾客相继到达的平均间隔时间。服务时间符合负指数分布时，设它的概率密度函数和分布函数分别为 其中表示单位时间能够服务完的顾客数，为服务率；而表示一个顾客的平均服务时间。二排队模型的求解把系统中的顾客数称为系统的状态。若系统中有个顾客，则称系统的状态是。瞬态和稳态：考虑在t时刻系统的状态为的概率，它是随时刻t而变化的，用表示，称为系统的瞬