数理统计与随机过程PPT学习教案

1、会计学1 数理统计与随机过程数理统计与随机过程 第1页/共69页 第2页/共69页 热噪声电压热噪声电压: 电子元件或器件由于内部微观粒子电子元件或器件由于内部微观粒子 (如电子如电子)的随机运动所引起的端电压称为热噪声电压的随机运动所引起的端电压称为热噪声电压 ,它在任一确定时刻它在任一确定时刻 t 的值都是一随机变量的值都是一随机变量, 记为记为V(t) 。不同时刻对应不同的随机变量。当时间在某个区。不同时刻对应不同的随机变量。当时间在某个区 间间, 如如0, )上变化时，热噪声电压表现为一族随机上变化时，热噪声电压表现为一族随机 变量变量,记为记为 V(t), t0。 第3页/共69页

2、在无线电通讯技术中，接收机在接收信号时，机在无线电通讯技术中，接收机在接收信号时，机 内的热噪声电压要对信号产生持续的干扰，为消除这内的热噪声电压要对信号产生持续的干扰，为消除这 种干扰，就必须掌握热噪声电压随时间变化的过程。种干扰，就必须掌握热噪声电压随时间变化的过程。 为此，我们通过某种装置对元件为此，我们通过某种装置对元件( (或器件或器件) )两端的热噪两端的热噪 声电压进行长时间的测量，并把结果自动记录下来。声电压进行长时间的测量，并把结果自动记录下来。 电压电压时间时间函数函数v1(t) , t 0 (如图如图10-1)。 这个这个电压电压时间时间函数在试验前是不可能预先确知的函数

3、在试验前是不可能预先确知的 ，只有通过测量才能得到。，只有通过测量才能得到。 图图10- -1 如果在相同条件下独如果在相同条件下独 立地再进行一次测量，得立地再进行一次测量，得 到的记录可能是不同的。到的记录可能是不同的。 第4页/共69页 事实上，在相同条件下每次测量都将产生不同事实上，在相同条件下每次测量都将产生不同 的的电压电压时间时间函数。这样，不断独立地一次次重复函数。这样，不断独立地一次次重复 测量，就得到一族不同的测量，就得到一族不同的电压电压时间时间函数，这族函函数，这族函 数从另一角度规划了热噪声电压。数从另一角度规划了热噪声电压。 第5页/共69页 随机过程：依赖于一个变

4、动参量的一族随机变量。随机过程：依赖于一个变动参量的一族随机变量。 设设 T 是一个无限实数集。我们把依赖于参数是一个无限实数集。我们把依赖于参数 t T 的一族的一族 (无限多个无限多个) 随机变量收集在一起，称为随机变量收集在一起，称为随随 机过程机过程，记成记成 X(t), t T 。 这里，对每一个这里，对每一个t T，X(t) 都是一个随机变量都是一个随机变量 。 T 称为称为参数集参数集。常把。常把 t 看作为时间，称看作为时间，称 X(t) 为为 t 时时 刻刻 过程的过程的状态状态，称，称 X(t1)x (实数实数) 为为t t1 时过程时过程处处 于状态于状态 x。 对于一切

5、对于一切 t , X(t) 所有可能取得一切值的全所有可能取得一切值的全 体称为随机过程的体称为随机过程的状态空间状态空间。 第6页/共69页 对随机过程对随机过程 X(t)，t T 进行一次试验进行一次试验 (即在即在 T上上 进行一次全程观测进行一次全程观测)，其结果是，其结果是 t 的函数，记为的函数，记为x(t)， tT， 称它为随机过程的一个称它为随机过程的一个样本函数样本函数或或样本曲线样本曲线。 所有不同的试验结果构成一族所有不同的试验结果构成一族 (可以只包括有限个，可以只包括有限个， 如本节例如本节例1) 样本函数。样本函数。 随机过程可以看作是多维随机变量的延伸。随机随机过

6、程可以看作是多维随机变量的延伸。随机 过程与其样本函数的关系就像数理统计中总体与样本过程与其样本函数的关系就像数理统计中总体与样本 的关系一样。的关系一样。 依照上面的说法，热噪声电压的变化过程依照上面的说法，热噪声电压的变化过程(t)， t是一随机过程，它的状态空间是是一随机过程，它的状态空间是(- -, +)，一次，一次 观测到的观测到的电压电压时间时间函数就是这个随机过程的一个样函数就是这个随机过程的一个样 本函数。本函数。 第7页/共69页 在以后的叙述中，为简便起见：常以在以后的叙述中，为简便起见：常以 X(t)，t 表示随机过程。在上下文不致混淆的情形下，一表示随机过程。在上下文不

7、致混淆的情形下，一 般略去记号中的参数集般略去记号中的参数集 T。 第8页/共69页 例例1 抛一枚硬币试验，样本空间是抛一枚硬币试验，样本空间是 S=H,T，定义，定义 , ).( 出现 出现cos )( ， ， ， t Tt Ht tX 其中其中 P(H) = P(T)=1/2。对任意。对任意 固定的固定的 t, X(t)是一定义在是一定义在S上的上的 随机变量；对不同的随机变量；对不同的 t， X(t)是是 不同的随机变量不同的随机变量(见图见图10-2)， 所以所以 X(t)， t (- -, +) 是是 一族随机变量，即是随机过程一族随机变量，即是随机过程 。 作一次试验，若出现作一

8、次试验，若出现H，样本函数，样本函数 x1(t) = cos t ；若出现；若出现T，样本函数，样本函数 x2(t)=t。故，随机过程对应的。故，随机过程对应的 一族样本函数仅包含两个函数一族样本函数仅包含两个函数: cos t, t 。显然，这。显然，这 个随机过程的状态空间为个随机过程的状态空间为(- -, +)。 图图10-2 第9页/共69页 例例2 考虑考虑 式中式中 , , 是正常数，是正常数， 是在是在(0,2(0,2 ) )上服从均匀分布的上服从均匀分布的 随机变量。随机变量。 显然，对任一固定的时刻显然，对任一固定的时刻 t1, X(t1) = cos( t1+ )是一个随机

9、变量。因而，由是一个随机变量。因而，由(1.1)式确定的式确定的 X(t)是一是一 随机过程，通常称它为随机过程，通常称它为随机相位正弦波随机相位正弦波。其状态空间。其状态空间 是是- , 。在。在(0, 2)内随机地取一数内随机地取一数 i , 相应的样本函相应的样本函 数是数是 图图10-3中画出了这个随机过程的两条样本曲线。中画出了这个随机过程的两条样本曲线。 (1.1) )(),(),cos(tttX ).2, 0(),cos()( i ii ttx 图图10-3 第10页/共69页 例例3 在测量运动目标的距离时，存在随机误差。若在测量运动目标的距离时，存在随机误差。若 以以 (t)

10、表示在时刻表示在时刻 t 的测量误差，则它是一个随机的测量误差，则它是一个随机 变量。当目标随时间变量。当目标随时间 t 按一定规律运动时，测量误按一定规律运动时，测量误 差差 (t) 也随时间也随时间 t 而变化。换句话说而变化。换句话说, (t)是依赖于是依赖于 t 的一族随机变量，亦即的一族随机变量，亦即 (t), t0是一随机过程，是一随机过程， 状态空间是状态空间是(- -, +)。 第11页/共69页 例例4 设某市设某市120急救电话台不断地接到用户的呼叫，急救电话台不断地接到用户的呼叫， 若以若以X(t)表示时间间隔表示时间间隔 (0, t内接到的呼叫次数，则它内接到的呼叫次数

11、，则它 是一个随机变量，且对不同的是一个随机变量，且对不同的 t0, X(t)可能是不同可能是不同 的随机变量。故，的随机变量。故，X(t), t 是一随机过程，状态是一随机过程，状态 空间是空间是0, 1, 2, 。 例例5 考虑掷一颗考虑掷一颗骰子骰子试验。试验。 (1). 设设Xn是第是第 n 次次(n1)掷的点数，对于掷的点数，对于n=1, 2, 的的 不同值不同值, Xn是不同的随机变量，因而是不同的随机变量，因而Xn, n1 构成一随机过程构成一随机过程, 称为伯努力过程称为伯努力过程, 或伯努力随或伯努力随 机序列。状态空间都是机序列。状态空间都是1, 2, 3, 4, 5, 6

12、。 (2). 设设Xn是前是前n次掷出的最大点数，则次掷出的最大点数，则Xn, n 1也也 是一随机过程。状态空间是是一随机过程。状态空间是1, 2, 3, 4, 5, 6。 第12页/共69页 随机过程可依其在任意时刻的状态是连续型随机随机过程可依其在任意时刻的状态是连续型随机 变量或离散型随机变量而分成变量或离散型随机变量而分成连续型随机过程连续型随机过程或或离散离散 型随机过程型随机过程。 热噪声电压、例热噪声电压、例2和例和例3是连续型随机过程，例是连续型随机过程，例1, 例例4和例和例5是离散型随机过程。是离散型随机过程。 随机过程还可依时间随机过程还可依时间(参数参数)是连续或离散

13、进行分是连续或离散进行分 类。当时间集类。当时间集T是有限或无限区间时，称是有限或无限区间时，称X(t), t T 为为连续参数随机过程连续参数随机过程 (以下如无特别指明，随机过程以下如无特别指明，随机过程 总是指连续参数而言的总是指连续参数而言的)；如果；如果T是离散集合，例如是离散集合，例如 T= 0, 1, 2, ，则称，则称X(t), tT为离散参数随机过为离散参数随机过 程或随机序列，此时常记成程或随机序列，此时常记成 Xn, n =0,1,2, 等，如等，如 例例5。 第13页/共69页 有时，为了适应数字化的需要，实际中也常有时，为了适应数字化的需要，实际中也常 将连续参数随机

14、过程转化为随机序列处理。例如将连续参数随机过程转化为随机序列处理。例如, 我们只在时间集我们只在时间集T=t, 2t, , nt, 上观察上观察 电阻的热噪声电压电阻的热噪声电压(t)，这时就得到一个随机序这时就得到一个随机序 列列V1, V2, ,Vn, ，其中，其中Vn=V(nt)。 显然，当显然，当t充分小时，这个随机序列能够近充分小时，这个随机序列能够近 似地描述连续时间情况下的热噪声电压。似地描述连续时间情况下的热噪声电压。 需注意的是：参数需注意的是：参数 t 虽然通常解释为时间，但虽然通常解释为时间，但 它也可以表示其它的量。诸如：序号、距离等。它也可以表示其它的量。诸如：序号、

15、距离等。 如例如例5中，假定每隔一个单位时间掷中，假定每隔一个单位时间掷一次一次骰子骰子，则，则 第第n次掷出的点数次掷出的点数 Xn就相当于就相当于 t=n时时骰子骰子出现的点出现的点 数。数。 第14页/共69页 10.2 随机过程的统计描述随机过程的统计描述 随机过程在任一时刻的状态是随机变量，随机过程在任一时刻的状态是随机变量， 由此可以利用随机变量由此可以利用随机变量(一维或多维一维或多维)的统计描述的统计描述 方法来描述随机过程的统计特征。方法来描述随机过程的统计特征。 10.2.1 随机过程的分布函数族随机过程的分布函数族 给定随机过程给定随机过程 X(t), t T ，对每个固

16、定的，对每个固定的 t T, 随机变量随机变量 X(t)的分布函数一般与的分布函数一般与 t 有关，记为有关，记为 .,)(),(RxxtXPtxFX 称其为随机过程称其为随机过程 X(t), t T 的的一维分布函数一维分布函数， 称称Fx(x, t), t T为为一维分布函数族一维分布函数族。 第15页/共69页 一维分布函数族刻画了随机过程在各个时刻的一维分布函数族刻画了随机过程在各个时刻的 统计特征。为描述随机过程在不同时刻状态之间的统计特征。为描述随机过程在不同时刻状态之间的 相关关系，一般要对任意相关关系，一般要对任意 n个个(n=2, 3, ) 不同时刻不同时刻 t1, t2,

17、, tnT, 引入引入 n 维随机变量维随机变量 (X(t1), X(t2), , X(tn), 其联合分布函数记为其联合分布函数记为 ., 2, 1, ,)(,)(,)( ),;,( 2211 2121 niRx xtXxtXxtXP tttxxxF i nn nnX 对固定的对固定的n, 称称FX(x1, x2, , xn; t1, t2,tn), tiT为随机过程为随机过程X(t), t T的的 n 维分布函数族。维分布函数族。 第16页/共69页 当当n充分大时，充分大时，n 维分布函数族能近似地描述维分布函数族能近似地描述 随机过程的统计特征。显然，随机过程的统计特征。显然，n 取得

18、愈大，则取得愈大，则n维维 分布函数族描述随机过程的特征也愈趋于完善。一分布函数族描述随机过程的特征也愈趋于完善。一 般地般地,可以指出可以指出(科尔莫戈罗夫定理科尔莫戈罗夫定理): 有限维分布函有限维分布函 数族，数族，即即FX(x1, x2, , xn; t1, t2, , tn), n=1, 2, , tiT完全地确定了随机过程的统计特征。完全地确定了随机过程的统计特征。 上一节，我们曾将随机过程按其状态或时间的上一节，我们曾将随机过程按其状态或时间的 连续或离散进行了分类。然而，随机过程本质的分连续或离散进行了分类。然而，随机过程本质的分 类方法乃是按其分布特征进行分类的。具体地说：类

19、方法乃是按其分布特征进行分类的。具体地说： 就是依照过程在不同时刻的状态之间的特殊统计依就是依照过程在不同时刻的状态之间的特殊统计依 赖方式，抽象出一些不同类型的模型。如：赖方式，抽象出一些不同类型的模型。如：独立增独立增 量过程、马尔可夫过程、平稳过程量过程、马尔可夫过程、平稳过程等。我们将在以等。我们将在以 后的章节中对它们作不同程度的介绍。后的章节中对它们作不同程度的介绍。 第17页/共69页 10.2.2 随机过程的数字特征随机过程的数字特征 随机过程的分布函数族能完善地刻画随机过程随机过程的分布函数族能完善地刻画随机过程 的统计特征。但是，人们在实际中，根据观察往往的统计特征。但是，

20、人们在实际中，根据观察往往 只能得到随机过程的部分资料只能得到随机过程的部分资料(样本样本)，用它来确定，用它来确定 有限维分布函数族是困难的，甚至是不可能的。因有限维分布函数族是困难的，甚至是不可能的。因 而，像引入随机变量的数字特征那样，有必要引入而，像引入随机变量的数字特征那样，有必要引入 随机过程的基本数字特征随机过程的基本数字特征均值函数均值函数和和相关函数相关函数等等 。这些数字特征在一定条件下是便于测量的。这些数字特征在一定条件下是便于测量的。 第18页/共69页 给定随机过程给定随机过程 X(t), t T，固定，固定 t T, X(t) 是一随机变量，它的均值一般与是一随机变

21、量，它的均值一般与 t 有关，记为有关，记为 (2.1),()( tXEt X 称称 X(t)为随机过程为随机过程X(t)，t T的的均值函数均值函数。 注意注意, X(t)是随机过程的所有样本函数在时刻是随机过程的所有样本函数在时刻 t 的函数值的平均，通常称这种平均为的函数值的平均，通常称这种平均为集平均集平均或或统统 计平均计平均, 以区分第十二章中引入的时间平均概念以区分第十二章中引入的时间平均概念 。 均值函数均值函数X(t)表示了表示了 随机过程随机过程 X(t)在各个时刻在各个时刻 的摆动中心，如图的摆动中心，如图10-4所所 示。示。 第19页/共69页 其次，把随机变量其次，

22、把随机变量X(t)的二阶原点矩和二阶中的二阶原点矩和二阶中 心矩分别记作心矩分别记作 (2.2) ),()( 22 tXEt X )3(2 ,)()( )()()( 2 2 .ttXE tXVartDt X XX 并分别称它们为随机过程并分别称它们为随机过程X(t), t T的的均方值函数均方值函数 和和方差函数方差函数。方差函数的算术平方根。方差函数的算术平方根 X(t)称为随机称为随机 过程的过程的标准差函数标准差函数，它表示随机过程，它表示随机过程X(t)在时刻在时刻 t 对对 于均值于均值X(t)的平均偏离程度。见图的平均偏离程度。见图10-4。 第20页/共69页 又，又， 对任意对

23、任意 t1, t2T，把随机变量，把随机变量X(t1)和和X(t2)的二的二 阶原点混合矩记作阶原点混合矩记作 (2.4) ),()(),( 2121 tXtXEttR XX 并称它为随机过程并称它为随机过程X(t)，t T的的自相关函数自相关函数，简，简 称称相关函数相关函数。记号。记号RXX(t1,t2)在不致混淆时，常简记在不致混淆时，常简记 成成RX(t1,t2)。 类似地，将类似地，将X(t1)和和X(t2)的二阶混合中心矩记成的二阶混合中心矩记成 (2.5) ),()()()( )(),(),( 2211 2121 ttXttXE tXtXCovttC XX XX 并称为随机过程并

24、称为随机过程X(t), t T的的自协方差函数自协方差函数，简称，简称 协方差函数协方差函数。CXX(t1,t2)也常简记为也常简记为CX(t1,t2)。 第21页/共69页 由多维随机变量数字特征的知识可知，自相由多维随机变量数字特征的知识可知，自相 关函数和自协方差函数是可划随机过程自身在两关函数和自协方差函数是可划随机过程自身在两 个不同时刻的状态之间统计依赖关系的数字特征个不同时刻的状态之间统计依赖关系的数字特征 。 现把现把(2.1) (2.5)式定义的诸数字特征之间的式定义的诸数字特征之间的 关系简述如下：关系简述如下： 由由(2.2)和和(2.4)式知式知 (2.6) ).,()

25、( 2 ttRt XX 由由(2.5)式展开，得式展开，得 (2.7) ).()(),(),( 212121 ttttRttC XXxX 特别地，当特别地，当t1=t2=t时，由时，由(2.7)式，得式，得 (2.8) ).(),(),()( 22 tttRttCt XXXX 第22页/共69页 由由(2.6) (2.8)式可知，以上诸数字特征中最主要式可知，以上诸数字特征中最主要 的是均值函数和自相关函数。的是均值函数和自相关函数。 从理论的角度来看，仅仅研究均值函数和自相关从理论的角度来看，仅仅研究均值函数和自相关 函数当然是不能代替对整个随机过程的研究的，但是函数当然是不能代替对整个随机

26、过程的研究的，但是 由于它们确实刻画了随机过程的主要统计特征，而且由于它们确实刻画了随机过程的主要统计特征，而且 远较有限维分布函数族易于观察和实际计算，因而对远较有限维分布函数族易于观察和实际计算，因而对 于应用课题而言于应用课题而言, 它们常常能够起到重要作用。据此它们常常能够起到重要作用。据此, 在随机过程的专著中都着重研究了所谓二阶矩过程。在随机过程的专著中都着重研究了所谓二阶矩过程。 随机过程随机过程X(t)， t T，如果对于每一个，如果对于每一个t T， 二阶矩二阶矩EX2(t)都存在，那么称它为都存在，那么称它为二阶矩过程二阶矩过程。 第23页/共69页 二阶矩过程的相关函数总

27、存在。事实上，由于二阶矩过程的相关函数总存在。事实上，由于 EX2(t1), EX2(t2)存在，根据柯西存在，根据柯西施瓦兹不等式施瓦兹不等式( 参见第四章习题参见第四章习题33)，有，有 .,),()(|)()(| 212 2 1 22 21 TtttXEtXEtXtXE 即知：即知：RX(t1,t2)=EX(t1)X(t2)存在。存在。 在实际中，常遇到一种特殊的二阶矩过程在实际中，常遇到一种特殊的二阶矩过程 正态过程。正态过程。随机过程随机过程X(t), t T称为正态过程，称为正态过程， 如果对任意如果对任意 n1及任意及任意 t1, t2, , tnT, (X(t1), X(t2)

28、, , X(tn)服从服从 n 维正态分布维正态分布。由第四章由第四章3、4知知 ，正态过程的全部统计特征完全由它的均值函数，正态过程的全部统计特征完全由它的均值函数 和自协方差函数和自协方差函数(或自相关函数或自相关函数)所确定。所确定。 第24页/共69页 例例1 设设A, B是两个随机变量是两个随机变量, 求随机过程求随机过程X(t)=At+B, t T=(- -, +)的均值函数和自相关函数。如果的均值函数和自相关函数。如果A, B 相互独立，且相互独立，且 AN(0,1), BU(0,2)，问，问 X(t) 的均值的均值 函数和自相关函数又是怎样的？函数和自相关函数又是怎样的？ 解解

29、 X(t)的均值函数和自相关函数分别为的均值函数和自相关函数分别为 .,)( )()()(),( 21 2 21 2 21 212121 TttBEABEttAEt t BAtBAtEtXtXEttRX 当当AN(0,1)时，时，EA=0，EA2=1；当；当BU(0,2) 时，时，EB=1，EB2=4/3；又因；又因A、B独立时，有独立时，有 EAB=EAEB=0。故。故 ., 3/4),(, 1)( 212121 Tttt tttRt XX ,)()(BEAtEBAtEtXEt X 第25页/共69页 例例2 求求10.1例例2中随机相位正弦波的均值函数、中随机相位正弦波的均值函数、 方差函

30、数和自相关函数。方差函数和自相关函数。 其他. , 0 ,20, 2 1 )( f , 0 2 1 )cos( )cos()()( 2 0 dwt tEtXEt X 由定义，得由定义，得 解解 由假设，知由假设，知的概率密度为的概率密度为 第26页/共69页 ,cos 2 )cos()2cos( 4 2 1 )cos()cos( )cos()cos()()(),( 2 2 0 1221 2 2 0 21 2 21 2 2121 X dtttt dtt ttEtXtXEttR . 2 ),()(),( 2 2 ttRtttR XXX 2 X 自相关函数自相关函数 特别地，特别地，令令t1=t2=

31、t, 即得方差函数即得方差函数 其中其中 = t2- -t1。 第27页/共69页 例例3 设设 X(t) = Acos t + Bsin t, tT= =(- -, +)，其，其 中中A, B相互独立，且均是服从正态分布相互独立，且均是服从正态分布N(0, 2) 的随的随 机变量，机变量， 是实常数。证明是实常数。证明: X(t)是正态过程，并求是正态过程，并求 其均值函数和自相关函数。其均值函数和自相关函数。 解解 由题设，由题设，A, B是相互独立的正态变量，所以是相互独立的正态变量，所以(A, B) 是二维正态变量。对任意一组实数是二维正态变量。对任意一组实数t1, t2, , tnT

32、, X(ti)=Acosti+Bsinti, i=1, 2, , n 都是都是A, B的线性组合。于是，根据第四章的线性组合。于是，根据第四章4, n维正维正 态变量的性质态变量的性质3。 。, (X(t 1), X(t2), ,X(tn)是是n维维正态变正态变 量量。因为因为n, ti是任意的，由定义，是任意的，由定义，X(t)是正态过程。是正态过程。 第28页/共69页 另由题设，有另由题设，有E(A)=E(B)=E(AB)=0, E(A2)=E(B2)= 2. 由此，可算得由此，可算得X(t)的均值函数和自协方差函数的均值函数和自协方差函数(或自或自 相关函数相关函数)分别为：分别为：

33、X(t) = EAcost+Bsint=0, CX(t1,t2) = RX(t1,t2) = E(Acost1+Bsint1) (Acost2+Bsint2) = (cos t1 cos t2)E(A2)+(sin t1 sin t2)E(B2) + (cos t1 sin t2+ sin t1 cos t2)E(AB) = 2(cost1cost2+sint1sint2) = 2cos(t2- -t1). 第29页/共69页 10.2.3 二维随机过程的分布函数和数字特征二维随机过程的分布函数和数字特征 实际问题中，我们有时必须同时研究两个或两实际问题中，我们有时必须同时研究两个或两 个以上

34、随机过程及它们之间的统计联系。例如：某个以上随机过程及它们之间的统计联系。例如：某 地在时段地在时段(0, t内的最高温度内的最高温度X(t)和最低温度和最低温度Y(t)都是都是 随机过程，需研究它们的统计联系。又如：输入到随机过程，需研究它们的统计联系。又如：输入到 一个系统的信号和噪声可都是随机过程，这时，输一个系统的信号和噪声可都是随机过程，这时，输 出也是随机过程。我们需要研究输出与输入之间的出也是随机过程。我们需要研究输出与输入之间的 统计联系等等。对于这类问题，我们除了对各个随统计联系等等。对于这类问题，我们除了对各个随 机过程的统计特征加以研究外，还必须将几个随机机过程的统计特征

35、加以研究外，还必须将几个随机 过程作为整体研究其统计特征。过程作为整体研究其统计特征。 第30页/共69页 设设 X(t), tT 和和Y(t), tT 是同一参数空间是同一参数空间 上的两个不同的随机过程，称上的两个不同的随机过程，称(X(t),Y(t), tT 是是 二维随机过程。二维随机过程。 设设 (X(t),Y(t), tT 是二维随机过程，如果对是二维随机过程，如果对 任意正整数任意正整数n, m，任意数组，任意数组 t1, t2, tn T， t1, t2, , tm T，称，称n+m 维随机变量维随机变量 (X(t1), X(t2), X(tn), Y(t1), Y(t2),Y

36、(tm) 的分布函数的分布函数 F(x1, x2, xn; t1, t2, tn: y1, y2,ym ;t1, t2, , tm) 为随机过程为随机过程X(t)与与Y(t)的的n+m维联合分布函数。维联合分布函数。 第31页/共69页 如果对任意正整数如果对任意正整数n, m，任意数组，任意数组 t1, t2, tn T; t1, t2, , tm T，n维随机变量维随机变量 (X(t1), X(t2), X(tn) 与与 m维随机变量维随机变量(Y(t1), Y(t2),Y(tm)相互独相互独 立，则称随机过程立，则称随机过程X(t)和和 Y(t)是是相互独立的相互独立的。 第32页/共6

37、9页 关于数字特征，除关于数字特征，除X(t), Y(t)的均值和自相关函的均值和自相关函 数外，在应用课题中感兴趣的是数外，在应用课题中感兴趣的是X(t)和和Y(t)的二阶混的二阶混 合原点矩，记作合原点矩，记作 并称它为并称它为X(t)和和Y(t)的的互相关函数。互相关函数。 类似地，还有如下定义的类似地，还有如下定义的X(t)和和Y(t)的的互协方差互协方差 函数函数 如果对任意的如果对任意的 t1, t2T，恒有，恒有 则称随机过程则称随机过程X(t)和和Y(t)是是不相关的不相关的。 (2.9) ,),()(),( 212121 TtttXtXEttRXY (2.10) ,),()(

38、),( )()()()(),( 212121 221121 T.ttttttR ttYttXEttC YXXY YXXY (2.11) , 0),( 21 ttCXY 第33页/共69页 由第四章由第四章3可推知，两个随机过程如果是相可推知，两个随机过程如果是相 互独立的互独立的, 且它们的二阶矩存在且它们的二阶矩存在, 则它们必然不相则它们必然不相 关。反之关。反之, 从不相关一般并不能推断出它们相互独从不相关一般并不能推断出它们相互独 立。立。 当同时考虑当同时考虑 n(n2)个随机过程或个随机过程或 n维随机过程维随机过程 时时, 我们可类似地引入它们的多维分布，以及均值我们可类似地引入

39、它们的多维分布，以及均值 函数和两两之间的互相关函数函数和两两之间的互相关函数 (或互协方差函数或互协方差函数)。 第34页/共69页 在许多应用问题中，经常要研究几个随机过程在许多应用问题中，经常要研究几个随机过程 之和之和 (例如，将信号和噪声同时输入到一个线性系例如，将信号和噪声同时输入到一个线性系 统的情形统的情形) 的统计特征。现考虑三个随机过程的统计特征。现考虑三个随机过程 X(t), Y(t)和和Z(t)之和的情形，令之和的情形，令 W(t)=X(t)+Y(t)+Z(t). 显然，均值函数显然，均值函数 而而W(t)的自相关函数可以根据均值运算规则和相关的自相关函数可以根据均值运

40、算规则和相关 函数的定义得到，函数的定义得到， ).()()()(tttt ZYXW ).,(),(),( ),(),(),( ),(),(),( )()(),( 212121 212121 212121 2121 ttRttRttR ttRttRttR ttRttRttR tWtWEttR XZXY WW ZZZYZX YZYYYX XX 第35页/共69页 此式表明：几个随机过程之和的自相关函数可此式表明：几个随机过程之和的自相关函数可 以表示为各个随机过程的自相关函数以及各对随机以表示为各个随机过程的自相关函数以及各对随机 过程的互相关函数之和。过程的互相关函数之和。 如果上述三个随机过

41、程是两两不相关的，且各如果上述三个随机过程是两两不相关的，且各 自的均值函数都为零，则由自的均值函数都为零，则由(2.11)是可知诸互相关函是可知诸互相关函 数均等于零，此时数均等于零，此时W(t)的自相关函数简单地等于各的自相关函数简单地等于各 个过程的自相关函数之和，即个过程的自相关函数之和，即 特别地，令特别地，令t1=t2=t, 由由(2.12)式，得式，得W(t)的方差函数的方差函数( 此处即均方值函数此处即均方值函数)为为 (2.12) ).,(),(),(),( 21212121 ZZYYXX ttRttRttRttRWW ).()()()()( 22222 ttttt ZYXW

42、W 第36页/共69页 10.3 泊松过程及维纳过程泊松过程及维纳过程 泊松泊松 (Poission) 过程及维纳过程及维纳 (Wiener) 过程是两个过程是两个 典型的随机过程，在随机过程理论和应用中都占重典型的随机过程，在随机过程理论和应用中都占重 要地位，都属于要地位，都属于独立增量过程独立增量过程。下面首先介绍独立。下面首先介绍独立 增量过程。增量过程。 给定二阶矩过程给定二阶矩过程X(t), t 0, 称称X(t)- -X(s), 0st 为随机过程在区间为随机过程在区间(s, t上的增量。如果对任意正整数上的增量。如果对任意正整数 n 和任意和任意 0t0 t1 t2 tn, n

43、个增量个增量 X(t1)- -X(t0), X(t2)- -X(t1), , X(tn)- -X(tn-1) 相互独立，则称相互独立，则称X(t), t 0为为独立增量过程独立增量过程。 直观地说：直观地说： 就是在互不重叠的区间上，状态的增就是在互不重叠的区间上，状态的增 量相互独立。量相互独立。 第37页/共69页 对于独立增量过程，可以证明：在对于独立增量过程，可以证明：在 X(0)=0 的条的条 件下件下, 过程的有限维分布函数族可以由增量过程的有限维分布函数族可以由增量 X(t)- -X(s) (0st)的分布所确定。的分布所确定。 特别地，若对任意的实数特别地，若对任意的实数 h

44、和和 0 s+ h t+ h, X(t + h)- -X(s + h) 与与 X(t)- -X(s) 具有相同的分布，则称具有相同的分布，则称 增量具有平稳性。增量具有平稳性。这时，增量这时，增量 X(t)- -X(s) 的分布函数的分布函数 实际上只依赖于时间差实际上只依赖于时间差 t - - s (0st)，而不依赖于，而不依赖于t和和 s 本身本身 (事实上，令事实上，令h=- -s即知即知)。 当增量具有平稳性时，称相应的独立增量过程当增量具有平稳性时，称相应的独立增量过程 是是齐次的齐次的或或时齐的时齐的。 第38页/共69页 在在 X(0)=0 和方差函数和方差函数 DX(t) 已

45、知条件下，可计算已知条件下，可计算 独立增量过程独立增量过程X(t), t 0的协方差函数的协方差函数CX(s, t)。 记记 Y(t)= X(t)- -X(t)。首先注意到：当。首先注意到：当 X(t) 具有独具有独 立增量时立增量时, Y(t)也具有独立增量也具有独立增量; 其次其次注意到注意到: Y(0)=0, EY(t)=0，且方差函数，且方差函数 DY(t)= EY2(t)= DX(t)。利用。利用 这些性质，当这些性质，当 0st 时，就有时，就有 ).( )0()()()()0()( )0()()()()0()( )()(),( 2 sD YsYEsYtYEYsYE YsYsYt

46、YYsYE tYsYEtsC X X 故，对任意故，对任意s, t0，协方差函数可用方差函数表示。，协方差函数可用方差函数表示。 (3.1) ).,(min(),( tsDtsC XX 第39页/共69页 10.3.1 泊松过程泊松过程 考虑下列随时间推移迟早会重复出现的事件：考虑下列随时间推移迟早会重复出现的事件： (1). 自电子管阴极发射的电子到达阳极；自电子管阴极发射的电子到达阳极； (2). 意外事故或意外差错的发生；意外事故或意外差错的发生； (3). 要求服务的顾客到达服务站。要求服务的顾客到达服务站。 此处此处“顾客顾客”与与“服务站服务站”的含义是相当广泛的含义是相当广泛 的

47、。如的。如: “顾客顾客”可以是电话的呼叫，可以是电话的呼叫， “服务站服务站” 是是120急救台；急救台； “顾客顾客”可以是联网的个人电脑，可以是联网的个人电脑， “服务站服务站”是某网站的主页是某网站的主页; “顾客顾客”可以是等待可以是等待 起飞的飞机，起飞的飞机， “服务站服务站”是机场跑道是机场跑道等。等。 第40页/共69页 为建立一般模型，我们把电子、顾客等看作为建立一般模型，我们把电子、顾客等看作 时间轴上的质点，电子到达阳极、顾客到达服务时间轴上的质点，电子到达阳极、顾客到达服务 站等事件的发生相当于质点出现。于是，抽象地站等事件的发生相当于质点出现。于是，抽象地 说，我们

48、研究的对象将是随时间推移，陆续出现说，我们研究的对象将是随时间推移，陆续出现 在时间轴上的许多质点所构成的随机的质点流。在时间轴上的许多质点所构成的随机的质点流。 以以N(t), t 0表示在时间间隔表示在时间间隔(0, t内出现的质内出现的质 点数。点数。N(t), t 0是一状态取非负整数、时间连是一状态取非负整数、时间连 续的随机过程，称为续的随机过程，称为计数过程计数过程。 第41页/共69页 计数过程计数过程的样本函数如图的样本函数如图10- -5所示，图中所示，图中t1, t2, 是质点依次出现的时刻。是质点依次出现的时刻。 图图10- -5 将增量将增量 N(t)- -N(t0)

49、 记成记成 N(t0, t), 0 t0 0 称为过程称为过程 N(t) 的强度，而的强度，而 当当 时是关于时是关于t的高阶无穷小；的高阶无穷小； (3). 对于充分小的对于充分小的t, (4). N(0)=0。 (3.3) ),(1),(),( 1 tottttNPtttP )( t 0 t (3.4) , )(),(),( 22 jj j tjtttNPtttP 第43页/共69页 我们把满足条件我们把满足条件(1) (4)的计数过程的计数过程N(t), t 0 称作称作强度为强度为 的泊松过程的泊松过程。相应的质点流，即质点。相应的质点流，即质点 出现的随机时刻出现的随机时刻 t1,

50、t2, 称作称作强度为强度为 的泊松流的泊松流。 以下首先来求增量的分布律以下首先来求增量的分布律 (3.2)。对于泊松。对于泊松 过程，注意到过程，注意到 =1，结合条件，结合条件(2)和和(3)，有，有 (3.5) ).(1 ),(),(1),( 2 10 tt tttPtttPtttP k k 0 0 ),( k k ttP 第44页/共69页 下面就泊松过程来计算概率下面就泊松过程来计算概率(3.2)。 首先确定首先确定P0(t0, t)。为此，对。为此，对t 0，考虑，考虑 ，0),(0),( 0),(),( 0),(),( 0 0 00 ttt，NttNP tttNttNP ttt

51、NPtttP 0 由条件由条件(1)和和(3.5)式，上式可写成式，上式可写成 )(1),( 0),(0),(),( 0 0 ttttP tttNPttNPtttP 0 00 ).(),(),(),( 000 ttttPttPtttP 000 或 第45页/共69页 用用t 除上式两边，并令除上式两边，并令 ，即得，即得P0(t0, t)满满 足的微分方程足的微分方程 0 t (3.6) ).,( ),( 0 0 0 0 ttP dt ttdP 因为因为N(t0, t0)=0，故，故P0(t0, t0)=1。把它看作初始条。把它看作初始条 件即可从方程件即可从方程 (3.6) 解得解得 (3.

52、7) .,e),( 0 )( 0 0 0 ttttP tt ).(),(),(),( 000 ttttPttPtttP 000 或 第46页/共69页 再来计算再来计算Pk(t0, t), k1。根据并事件概率公式。根据并事件概率公式 和条件和条件(1)，有，有 .),(),( ),(),(),( 0 0 00 jkttNPjtttNP ktttNttNPktttNP k j 由由(3.2) (3.5)式，并注意到式，并注意到 , 2),(),(),(),( 22 0 kttttPttPtttP j j k j jkj 上式可表示成上式可表示成 . 1),(),()( ),()(1 ),(),

53、(),( 01 0 0 00 ktttPtt ttPtt ttPtttPtttP k k k j jkjk 第47页/共69页 将此式适当整理后，两边除以将此式适当整理后，两边除以t，并令，并令 ， 可得到可得到 Pk(t0, t) 满足的满足的微分微分- -差分方程差分方程 0 t (3.8) .),(),( ),( 00-1k0k 0k ttttPttP dt ttdP ， 又因又因 N(t0, t0) = 0，故有初始条件，故有初始条件 (3.9) . 10),( 00 kttP k ， . 1),(),()( ),()(1 ),(),(),( 01 0 0 00 ktttPtt ttP

54、tt ttPtttPtttP k k k j jkjk 在在(3.8)与与(3.9)中令中令k=1, 利用求出的利用求出的P0(t0, t), 可解出可解出 .)(),( )( 0001 0 ttettttP tt ， 第48页/共69页 如此重复，即逐次令如此重复，即逐次令 k=2, 3, ，就得到，就得到(t0, t 时间段内出现时间段内出现 k 个质点的概率为个质点的概率为 (3.10)., 2, 1, 0, ! )( ),(),( )( 0 0 0 0k 0 ktte k tt kttNPttP tt k ， 由上式易见：增量由上式易见：增量 N(t0, t) = N(t) - - N

55、(t0)的概率分的概率分 布是参数为布是参数为 (t- -t0) 的泊松分布的泊松分布, 且只与时间差且只与时间差 t- -t0 有关。所以，强度为有关。所以，强度为 的的泊松分布是一齐次的独立泊松分布是一齐次的独立 增量过程。增量过程。 第49页/共69页 在一些文献中，泊松过程也用另一种形式定义。在一些文献中，泊松过程也用另一种形式定义。 若计数过程若计数过程 N(t), t 0 满足下列三个条件：满足下列三个条件： . .过程过程是独立增量过程；是独立增量过程； . .对任意对任意 t t00，N(t)- -N(t0) 服从参数为服从参数为 (t -t0) 的的 泊松分布泊松分布; .

56、N(0)=0, 则称则称N(t), t 0是强度为是强度为 的泊松过程。的泊松过程。 从前面的推导不难看到：从条件从前面的推导不难看到：从条件(1)(4)可推出可推出 。反之。反之, 在在中令中令 t- -t0= t，并利用并利用e- t的泰勒 的泰勒 展开式，就能得到条件展开式，就能得到条件(2)、(3)。由此可知：定义泊。由此可知：定义泊 松过程的两组条件是等价的。松过程的两组条件是等价的。 第50页/共69页 由由(3.10)式，式， t t00，可知，可知 ).()()()()( 000 tttNtNDtNtNE 特别地，令特别地，令t0=0，由于假设，由于假设N(0)=0，可推出泊松

57、过，可推出泊松过 程的均值函数和方差函数分别为程的均值函数和方差函数分别为 (3.11) .)()( ttDttNE N ， 从从(3.11)可看到可看到: =EN(t)/t，即泊松过程的强度，即泊松过程的强度 ( 常数常数)等于单位时间间隔内出现的质点数的期望值。等于单位时间间隔内出现的质点数的期望值。 第51页/共69页 泊松过程的协方差函数，则可由泊松过程的协方差函数，则可由(3.1), (3.11) 式直接推得：式直接推得： . 0,),min(),(tststsC N . 0,),min()()(),( 2 tstssttNsNEtsRN 相关函数相关函数 第52页/共69页 若条件

58、若条件(3.3)式中的强度为非均匀的，即式中的强度为非均匀的，即 是是 时间时间 t 的函数的函数 = (t), t0。则称泊松过程为非齐。则称泊松过程为非齐 次的。对于非齐次泊松过程，用类似的方法，可次的。对于非齐次泊松过程，用类似的方法，可 得得 .)(1)(),( ;)()( ;, 2, 1, 0, 0 , ! )( )()( ),min( 0 ),min( 0 0 0 )( 0 0 0 ddtsR dtNE ktt k ed ktNtNP tsts N t d k t t t t 下面介绍与泊松过程有关的两个随机变量，下面介绍与泊松过程有关的两个随机变量， 即等待时间和点间间距，以及它

59、们的概率分布。即等待时间和点间间距，以及它们的概率分布。 第53页/共69页 在一些实际问题中，在一些实际问题中，观察观察质点时，质点时，通常通常不是对不是对 时间间隔时间间隔 (t1, t2 内出现的质点进行计数内出现的质点进行计数, 而是对达到而是对达到 一定数量的质点所需要的时间进行计时。一定数量的质点所需要的时间进行计时。 例如：例如： 为研究含某放射性元素的物质，常对它发射出来为研究含某放射性元素的物质，常对它发射出来 的粒子作如下计时试验。的粒子作如下计时试验。 设质点设质点(或事件或事件)依次重复出现的时刻依次重复出现的时刻 t1, t2, tn, 是一强度为是一强度为 的泊松流，的泊松流，