随机过程的基本概念以统计特性学习教案

1、会计学1随机过程的基本概念以统计随机过程的基本概念以统计(tngj)特性特性第一页，共49页。2随机变量随机变量(su j bin lin) 与时间与时间(shjin)无关无关 随机随机(su j)过程过程 与时间相关与时间相关 第2页/共49页第二页，共49页。31.1 随机过程随机过程(guchng)的基本概念及统计特性的基本概念及统计特性 自然界事物自然界事物(shw)的变化分为两大类：确定性过程和随机过程。的变化分为两大类：确定性过程和随机过程。确定性过程：确定性过程： 1 1）每次试验得到的观测）每次试验得到的观测 过程都相同。过程都相同。 2 2）具有确定形式）具有确定形式(xng

2、sh)(xngsh)的变化的变化 过程，或可用一个时过程，或可用一个时 间间t t的确定函数表示。的确定函数表示。随机过程：随机过程： 1 1）每次试验得到的观测）每次试验得到的观测 过程都不同。过程都不同。 2 2）没有确定的变化形式）没有确定的变化形式 或不能用一个时间或不能用一个时间t 的确定函数表示。的确定函数表示。正弦信号正弦信号示波器的噪声电压示波器的噪声电压第3页/共49页第三页，共49页。4一一 定义定义(dngy) 1.1.接收机噪声电压接收机噪声电压(diny)(diny)观测方式：对相同接收机同时观测方式：对相同接收机同时观测观测从试验可知，每次得到的结果从试验可知，每次

3、得到的结果(ji gu)不同，且变化的规律不同，且变化的规律不能用一个确定的函数来描述不能用一个确定的函数来描述噪声电压的起伏波形噪声电压的起伏波形 第4页/共49页第四页，共49页。52 2、观察具有随机振幅、观察具有随机振幅 或随机相位或随机相位 的电压波形的电压波形0( )cos()V tAtA若若A A和和 为常数，为常数， 是（是（0 0，2 2）的随机取值的随机变）的随机取值的随机变量，电压波形为量，电压波形为0随机相位随机相位(xingwi)(xingwi)信号信号 第5页/共49页第五页，共49页。60( )cos()V tAt若 和 为常数， 是随机取值的随机变量，电压波形为

4、0A随机随机(su j)(su j)振幅信号振幅信号 第6页/共49页第六页，共49页。7 样本函数：样本函数： ， ， ， ，都是，都是 时间的函数，称为样本函数。时间的函数，称为样本函数。 )(1tx)(2tx)(3tx)(txn 随机性：一次试验，随机过程必取一个样随机性：一次试验，随机过程必取一个样 本函数，但所取的样本函数带有本函数，但所取的样本函数带有 随机性。因此，随机过程不仅是随机性。因此，随机过程不仅是 时间时间t 的函数，还是可能结果的的函数，还是可能结果的 函数，记为函数，记为 ，简写成，简写成 。 ),( tX)(tX第7页/共49页第七页，共49页。8=3 3 、随机

5、过程的定义、随机过程的定义( , )X t定义定义1 1：设随机试验设随机试验E E的样本空间为的样本空间为S=S= ，对其每一个元素，对其每一个元素 都以某种法则确定一个样本函数都以某种法则确定一个样本函数 ，由全，由全部元素部元素 所确定的所确定的一族样本函数一族样本函数 称为随机过程，简称为随机过程，简记为记为 。 )3 , 2 , 1(ii),(itX)(tXS第8页/共49页第八页，共49页。9S定义定义2 2 ：设有一个过程：设有一个过程X(t) X(t) ，若对于每一个固定的时刻，若对于每一个固定的时刻 ， 是一个随机变量是一个随机变量(su j (su j bin linbin

6、 lin) )，则，则X(t)X(t) 称为随机过程。称为随机过程。 ( , )jX t第9页/共49页第九页，共49页。10随机过程的一般表征随机过程的一般表征 随机过程随机过程),(tX样本函数集合样本函数集合( ,),1,2,iX ti 为了简便起见，随机过程常省略代表试验结果的为了简便起见，随机过程常省略代表试验结果的参量参量。随机过程常用大写字母。随机过程常用大写字母 表示，样表示，样本函数常用小写字母本函数常用小写字母 表示，表示，k表表示第示第k个样本函数。个样本函数。12( ),( ),( )kx tx tx t)(),(tYtX样本变量集合样本变量集合 随机过程随机过程),(

7、tX( ,),1,2,iX ti第10页/共49页第十页，共49页。11 上面两种随机过程的定义，从两个角度描述了随机上面两种随机过程的定义，从两个角度描述了随机过程。具体的说：过程。具体的说： 作观测时，常用定义作观测时，常用定义1，这样通过观测的试验样本，这样通过观测的试验样本(yngbn)来得到随机过程的统计特性；来得到随机过程的统计特性； 对随机过程作理论分析时，常用定义对随机过程作理论分析时，常用定义2，这样可以把随，这样可以把随机过程看成为机过程看成为n维随机变量，维随机变量， n越大采样时间越小，所得越大采样时间越小，所得到的统计特性越准确。到的统计特性越准确。 第11页/共49

8、页第十一页，共49页。12随机过程随机过程 四种不同情况下的理解：四种不同情况下的理解： 一个随机过程一个随机过程 一个确知的时间函数一个确知的时间函数一个随机变量一个随机变量一个确定值一个确定值t 1 和和 都是变量都是变量t2 是变量而是变量而 固定固定3 固定而固定而 是变量是变量 t4 和和 都固定都固定 t( , )X t第12页/共49页第十二页，共49页。13二二 随机过程的分类随机过程的分类 1 按随机过程的时间和状态来分类按随机过程的时间和状态来分类 连续型随机过程连续型随机过程：对随机过程任一时刻：对随机过程任一时刻 的取值的取值 都是连续型随机变量。都是连续型随机变量。

9、1t)(1tX 离散型随机过程离散型随机过程：对随机过程任一时刻：对随机过程任一时刻 的取值的取值 都是离散型随机变量。都是离散型随机变量。 1t)(1tX第13页/共49页第十三页，共49页。14 离散随机序列：随机过程的时间离散随机序列：随机过程的时间t只能取只能取某些时刻，如某些时刻，如 ， 2 ，.，n ，且这，且这时得到的随机变量时得到的随机变量 是离散型随机变是离散型随机变量，即时间和状态是离散的。相当于采样量，即时间和状态是离散的。相当于采样后再量化。后再量化。 t t t )(tnX 连续随机序列：随机过程的时间连续随机序列：随机过程的时间t只能取只能取某些时刻，如某些时刻，如

10、 ， 2 ，.，n ，且这，且这时得到的随机变量时得到的随机变量 是连续型随机变是连续型随机变量，即时间是离散的。相当于对连续型随量，即时间是离散的。相当于对连续型随机过程的采样。机过程的采样。t t t )(tnX 第14页/共49页第十四页，共49页。15状态状态时刻时刻连续型随机过程连续型随机过程连续连续连续连续连续随机序列连续随机序列连续连续离散离散离散型随机过程离散型随机过程离散离散连续连续离散随机序列离散随机序列离散离散离散离散随机过程按时间和状态随机过程按时间和状态(zhungti)的分类的分类第15页/共49页第十五页，共49页。162 按样本函数的形式来分类按样本函数的形式来

11、分类 不确定的随机过程：随机过程的任意样本不确定的随机过程：随机过程的任意样本函数的值不能被预测。例如接收机噪声电压函数的值不能被预测。例如接收机噪声电压波形。波形。 确定的随机过程：随机过程的任意样本函确定的随机过程：随机过程的任意样本函数的值能被预测。例如，样本函数为正弦信数的值能被预测。例如，样本函数为正弦信号。号。 第16页/共49页第十六页，共49页。17 3 按概率分布的特性按概率分布的特性(txng)来分类来分类高斯随机过程高斯随机过程(guchng)瑞利随机过程瑞利随机过程(guchng)对数正态随机过程对数正态随机过程(guchng)马尔可夫随机过程马尔可夫随机过程(guch

12、ng) 4 按统计按统计(tngj)特性来分类特性来分类平稳随机过程平稳随机过程非平稳随机过程非平稳随机过程 5 按随机过程在频域的带宽分类按随机过程在频域的带宽分类宽带随机过程宽带随机过程窄带随机过程窄带随机过程白噪声白噪声有色噪声有色噪声第17页/共49页第十七页，共49页。18三三 随机随机(su j)过程的概率分布过程的概率分布 随机过程是一族时间函数，在一次具体试验中、随机过程是一族时间函数，在一次具体试验中、函数族中哪一个函数（样本）出现时是服从某种概函数族中哪一个函数（样本）出现时是服从某种概率率(gil)分布的，因而对随机信号不能采用通常的对分布的，因而对随机信号不能采用通常的

13、对确定性信号的表述方法，而必须用概率确定性信号的表述方法，而必须用概率(gil)统计，统计，即统计特性的描述方法。即统计特性的描述方法。1、概率密度函数或概率分布函数的描述方法是全面、概率密度函数或概率分布函数的描述方法是全面(qunmin)、 完整的描述方法。完整的描述方法。2、数字特征（期望、方差、相关函数）的描述方法、数字特征（期望、方差、相关函数）的描述方法 是的宏观、概括的描述方法。是的宏观、概括的描述方法。 统计特性的描述方法分为两个大类：统计特性的描述方法分为两个大类：第18页/共49页第十八页，共49页。19无无穷大情况的自然推广。穷大情况的自然推广。第19页/共49页第十九页

14、，共49页。20一维概率分布函数一维概率分布函数 随机过程随机过程X(t)X(t)在任意在任意t ti i T T的取值的取值X(tX(t1 1) )是一维随机变量。是一维随机变量。概率概率PX(tPX(t1 1)x)x1 1 是取值是取值x x1 1，时刻，时刻t t1 1的函数，记为的函数，记为F Fx x(x(x1 1;t;t1 1) ) =PX(t=PX(t1 1)x)x1 1 ，称作随机过程，称作随机过程X(t)X(t)的一维分布函数。的一维分布函数。 随机变量：随机变量：( )XFxP Xx随机过程：随机过程：( , )( )XFx tP X tx若若 的偏导数存在，连续随机过程概

15、率密度的偏导数存在，连续随机过程概率密度函数为函数为( , )( , )XXFx tfx tx( , )XFx t一维概率密度函数一维概率密度函数 一维概率分布和概率密度只描述了任意一个时刻的统计一维概率分布和概率密度只描述了任意一个时刻的统计特征，仅仅描述了各个孤立点时刻统计特性，不能反映特征，仅仅描述了各个孤立点时刻统计特性，不能反映随机过程在不同时刻状态之间的联系。随机过程在不同时刻状态之间的联系。随机过程统计特性：概率分布函数随机过程统计特性：概率分布函数 概率密度函数概率密度函数第20页/共49页第二十页，共49页。21二维概率分布函数二维概率分布函数(hnsh) FX(x1,x2;

16、t1,t2)=PX(t1)x1, X(t2)x2 为了描述在任意两个时刻为了描述在任意两个时刻t1t1和和t2t2的状态间的内在联系的状态间的内在联系, ,可以引入可以引入二维随机变量二维随机变量X(t1),X(t2)X(t1),X(t2)的分布函数的分布函数(hnsh)FX(x1,x2(hnsh)FX(x1,x2；t1,t2)t1,t2)，它是二随机事件，它是二随机事件X(t1)x1X(t1)x1和和X(t2)x2X(t2)x2同时出现的概率，同时出现的概率，即即称为随机称为随机(su j)(su j)过程过程X(t)X(t)的二维分布函数。的二维分布函数。 若若F FX X(x(x1 1,

17、x,x2 2;t;t1 1,t,t2 2) )对对x x1 1，x x2 2的二阶混合偏导存在，即的二阶混合偏导存在，即 21212122121),;,(),;,(xxttxxFttxxfXX为随机过程为随机过程X(X(t) )的二维概率密度。的二维概率密度。 二维概率密度函数二维概率密度函数注意：注意：X(X(t1 1) )及及X(X(t2 2) )为同一随机过程上的随机变量。为同一随机过程上的随机变量。 二维分布比一维分布包含可更多的信息，但仍不二维分布比一维分布包含可更多的信息，但仍不 能完整的反应出随机过程的全部统计特性。能完整的反应出随机过程的全部统计特性。第21页/共49页第二十一

18、页，共49页。22n 维概率分布函数和概率密度函数维概率分布函数和概率密度函数12121122( ,; , , )( ),( ),( )XnnnnFx xx t ttP X tx X txX txnnnXnnnXxxxtttxxxFtttxxxf2121212121),;,(),;,( 随机过程随机过程 在任意在任意n个时刻个时刻 的取值的取值)(tXnttt,21)(,),(),(21ntXtXtX)(,),(),(21ntXtXtX)(tX 构成构成n维随机变量维随机变量 即为即为n维空间的随机矢量维空间的随机矢量X。类似的，可以定义随。类似的，可以定义随 机过程机过程 的的n维分布函数和

19、维分布函数和n维概率密度函数为维概率密度函数为 显然，显然，n越大随机过程的越大随机过程的n n维分布律描述的特性维分布律描述的特性也越趋完善，理论上说，可以无限增加也越趋完善，理论上说，可以无限增加n ，使，使 n 维维分布律更加全面地反应分布律更加全面地反应X(X(t) )的统计特性，但实际上，的统计特性，但实际上，n 越大分析处理会变得越复杂。越大分析处理会变得越复杂。第22页/共49页第二十二页，共49页。23性质：性质： 1212( ,; , , ,)0XninFx xx t ttt12( ,; , ,)1XnFt tt 1212( ,; , ,)0Xnnfx xx t tt1212

20、12n( ,; , , )1Xnnnfx xx t tt dx dxdx重121212nm1212( ,; , , )( ,; , ,)XnnmmnXmmfx xx t tt dxdxdxfx xxt tt 重若若 统计独立，则有统计独立，则有 )(,),(),(21ntXtXtX12121122( ,; , ,)( ; )(; )(; )XnnXXXnnfx xx t ttfx tfx tfx t第23页/共49页第二十三页，共49页。24四四 随机过程随机过程(guchng)的数的数字特征字特征随机变量随机变量(su j bin lin)的数字特征（期望、方差、的数字特征（期望、方差、相关

21、系数）相关系数） 通常是确定值。通常是确定值。随机过程的数字特征（期望、方差、相关函数）随机过程的数字特征（期望、方差、相关函数） 通常是确定性函数。通常是确定性函数。 随机过程的数字特征的计算方法随机过程的数字特征的计算方法:先把时间先把时间(shjin)t固定，然后用随机变量的固定，然后用随机变量的分析方法来计算。分析方法来计算。 第24页/共49页第二十四页，共49页。251 数学数学(shxu)期望期望（均值函数）（均值函数） ( )( )( , )XmtE X txf x t dx 显然，显然， 是某一个平均函数，随机过程是某一个平均函数，随机过程的诸样本的诸样本(yngbn)在它的

22、附近起伏变化，如在它的附近起伏变化，如图所示：图所示： )(tmX随机随机(su j)(su j)过程的均值过程的均值是时间是时间t t的函数，称为均值函的函数，称为均值函数。数。物理意义：如果随机物理意义：如果随机(su (su j)j)过程表示接收机的输出过程表示接收机的输出电压，那么它的数学期望就电压，那么它的数学期望就是输出电压的瞬时统计平均是输出电压的瞬时统计平均值。值。 第25页/共49页第二十五页，共49页。26 统计均值是对随机过程中所有样本函数在时间统计均值是对随机过程中所有样本函数在时间t t的所有的所有取值进行概率加权平均，所以又称为集合平均。它反映了取值进行概率加权平均

23、，所以又称为集合平均。它反映了样本函数统计意义下的平均变化规律，是所有样本函数在样本函数统计意义下的平均变化规律，是所有样本函数在各个时刻各个时刻(shk)(shk)摆动的中心。摆动的中心。第26页/共49页第二十六页，共49页。272 2 均方值和方差均方值和方差 随机过程随机过程 在任一时刻在任一时刻t的取值是一个随的取值是一个随机变量机变量 。我们把。我们把 二阶原点矩称为随机二阶原点矩称为随机过程的过程的均方值均方值，把二阶中心矩记作随机过程的，把二阶中心矩记作随机过程的方差方差。即。即： )(tX)(tX22222( )( )( ; )( )( )( )( ) XXXXtE Xtx

24、fx t dxtD X tE X tmt222( )( )( )XXtE Xtmt且且 方方差、均方值都是时间差、均方值都是时间t的函数，描述了随的函数，描述了随机过程诸样本函数围绕数学期望的分散程度。机过程诸样本函数围绕数学期望的分散程度。)(tX第27页/共49页第二十七页，共49页。28物理意义：物理意义：如果如果 表示噪声电压，则表示噪声电压，则均方值均方值 表示消耗在单位电阻上的瞬表示消耗在单位电阻上的瞬时功率统计平均值。时功率统计平均值。方差方差 表示消耗在单位电阻上的瞬时交表示消耗在单位电阻上的瞬时交流功率统计平均值。流功率统计平均值。 )(tX)(2tXE)(tXD标准差：标准

25、差： 2( )( )( )XXD X ttt=实际应用中，标准差用它作为描述随机过实际应用中，标准差用它作为描述随机过程散布程度的指标。程散布程度的指标。第28页/共49页第二十八页，共49页。29方差方差22( )( )( ) XXtE X tmt22( )( )XE Xtmt)(tx-单位电阻上的电压单位电阻上的电压2( ) 1x t-消耗在单位电阻上的瞬时功率消耗在单位电阻上的瞬时功率-消耗在单位电阻上的瞬时交流功率消耗在单位电阻上的瞬时交流功率2 ( )( ) 1xx tm t-消耗在单位电阻上的瞬交流功率的消耗在单位电阻上的瞬交流功率的 统计平均值统计平均值2( ( )( )1xE

26、x tm t消耗在单位电消耗在单位电阻上的总的平阻上的总的平均功率均功率平均交流平均交流功率功率平均直流平均直流功率功率第29页/共49页第二十九页，共49页。303 自相关自相关(xinggun)函数函数 数学期望和方差是描述随机过程在各个孤立点时刻的重数学期望和方差是描述随机过程在各个孤立点时刻的重要数字要数字(shz)(shz)特征。它们反应不出来整个随机过程不同特征。它们反应不出来整个随机过程不同时间的内在联系。时间的内在联系。 比较具有相同数学期望比较具有相同数学期望(qwng)(qwng)和方差的两个随机过程。和方差的两个随机过程。 第30页/共49页第三十页，共49页。31 自相

27、关函数用来描述自相关函数用来描述随机过程任意两个时刻状随机过程任意两个时刻状态之间的内在联系，通常态之间的内在联系，通常用用 描述。描述。 ),(21ttRX121212121212( , )( )( )( ,; , )XXRt tE X t X tx x fx x t t dx dx 描述了整个描述了整个(zhngg)随机随机过程任意两个不同时刻的过程任意两个不同时刻的内在关系：线性相关性内在关系：线性相关性若若 则则12ttt212( , )( , )( )( )( )XXRt tRt tE X t X tE Xt第31页/共49页第三十一页，共49页。32自相关函数的物理意义自相关函数的

28、物理意义1212( , )( )( )XRt tE X t X t自相关函数可正可负，其绝对值越大，表示相关性越自相关函数可正可负，其绝对值越大，表示相关性越 强。一般说来，时间相隔越远，相关性越弱，自相关强。一般说来，时间相隔越远，相关性越弱，自相关 函数的绝对值也越弱，当两个时刻重合时，其相关性函数的绝对值也越弱，当两个时刻重合时，其相关性 应是最强的，所以应是最强的，所以 最大。最大。( , )XRt t反映不同随机过程的波形变化反映不同随机过程的波形变化第32页/共49页第三十二页，共49页。334 自协方差函数自协方差函数(hnsh) 若用随机过程的两个若用随机过程的两个(lin )

29、不同时刻之间不同时刻之间的二阶混合中心矩来定义相关函数，我们称之为的二阶混合中心矩来定义相关函数，我们称之为自协方差函数，简称协方差函数。用自协方差函数，简称协方差函数。用 表表示，它反映了任意两个示，它反映了任意两个(lin )时刻的起伏值之时刻的起伏值之间相关程度。间相关程度。 ),(21ttKX)()(),(2121tXtXEttKX1122( )( )( )( )XXE X tmtX tmt112212( )( )( )( )XXX tmtX tmtdx dx 中中心心化化自自相相关关函函数数第33页/共49页第三十三页，共49页。34自协方差和自相关函数的关系自协方差和自相关函数的关

30、系 112212111212211212( )( )( )( )( )( )( ) ( )( ) ( )( )( , )( , )( )( )XXXXXXXXXXE X tmtX tmtE X t X tmt E X tmKt tRt ttE X tmt mtmt mt自协方差和方差的关系自协方差和方差的关系 221( , )( )(,) )XXXKt tKt tE X tmt2( )( )XXtDtttt21令令则则自相关系数自相关系数 121212112212( ,)( ,)(,)( , )(,)( )()XXXXXXXKt tKt tttKt tKtttt第34页/共49页第三十四页，共

31、49页。35随机过程的随机过程的不相关不相关和和独立独立以及以及正交正交的关系：的关系：121212( , )( , )( )( )XXXXKt tRt tmt mt如果如果 , 则称则称 和和 是是不相关不相关的。的。如果如果 , 则称则称 和和 是是正交正交的。的。)(2tX0),(21ttKX1( )X t0),(21ttRX1( )X t)(2tX如果如果 则称随机则称随机过程在过程在 和和 时刻的状态是相互时刻的状态是相互独立独立的。的。),(),(),(22112121txftxfttxxfXXX1t2t正交正交独立独立不相关不相关充分条件充分条件正态随机过程正态随机过程第35页/

32、共49页第三十五页，共49页。36例：求随机相位正弦波例：求随机相位正弦波 的数字期的数字期望，方差及自相关函数。式中，望，方差及自相关函数。式中， 为常数，是为常数，是区间区间0， 上均匀分布的随机变量。上均匀分布的随机变量。 0( )sin()x tt02解：由题可知解：由题可知(k zh)： 000( ) ( )sin()sincoscossin xm tE x tEtEtt数学数学(shxu)期望期望0000sincos cossin sincos cossin EtEtt Et E22001cos cos( )cos02Efddsin 0E同理( )0 xm t第36页/共49页第三

33、十六页，共49页。37方方差差(fn ch)22222( )( )( )( )( )xxxxttm ttE x t 200011sin ()1 cos(22 )1 cos(22 )22EtEtEt0011cos(2)cos2 sin 2sin 2 2EtEt0011cos2cos2 sin 2sin 2 2t Et Esin2 cos2 0EE21( )2xt第37页/共49页第三十七页，共49页。3812120 10 20 10 20 20 10 20 1012( , )( )( )sin()sin()1cos(2 )cos()211cos()cos()22XRt tE X t X tEtt

34、Etttttttt自相关自相关(xinggun)函函数数第38页/共49页第三十八页，共49页。39( )X tVt例例 设随机过程设随机过程 ，其中，其中V V是在（是在（0 0，1 1）是均）是均 匀分布的随机变量，求过程匀分布的随机变量，求过程X X（t t）的均值和自相）的均值和自相 关函数。关函数。第39页/共49页第三十九页，共49页。40 ( )( )( )XE g xg x fx dx10( )( )( )2XVtE X xxfx dxvtfv dvvtdv1212121 21 201( ,)( )3VR t tvt vt fv dvv t t dvt t解解 由于由于X和和V

35、之间有确定的函数关系之间有确定的函数关系x=vt，使用求随机变，使用求随机变 量函数的期望值运算的规则：量函数的期望值运算的规则：有有相关函数：相关函数：第40页/共49页第四十页，共49页。41例例 设随机振幅信号为设随机振幅信号为 其中其中 为常数，为常数，V是标准正态随机变量。是标准正态随机变量。 求该随机信号的均值、方差、相关函数和协方求该随机信号的均值、方差、相关函数和协方 差函数。差函数。tVtX0sin)(0第41页/共49页第四十一页，共49页。4200( )( ) sinsin 0XmtE X tE VttE V解解tVtDtXDtX02022sin)(sin)()(212120 10 20 10 2( , )( )( )sinsinsinsinXRt tE X t X ttt E Vtt2010221121sinsin)()()()(),(tttmtXtmtXEttKXXX第42页/共49页第四十二页，共49页。43五五 随机过程的特征函数随机过程的特征函数1 一维特征函数一维特征函数 随机过程随机过程 在任一特定时刻在任一特定时刻t的取值是的取值是一维随机变量，其