第二讲 随机过程的基本概念以统计特性

1、随机信号分析随机信号分析教学教学组组随机过程随机过程 随机信号分析随机信号分析教学教学组组2主要内容：主要内容： v随机过程的基本概念及其统计特性随机过程的基本概念及其统计特性 v连续时间随机过程的微分和积分连续时间随机过程的微分和积分 v随机过程的平稳性和遍历性随机过程的平稳性和遍历性 v联合平稳随机过程联合平稳随机过程v马尔可夫链马尔可夫链 随机信号分析随机信号分析教学教学组组31.1 随机过程的基本概念及统计特性随机过程的基本概念及统计特性 自然界事物的变化分为两大类：自然界事物的变化分为两大类：确定性确定性过程过程和和随机随机过程过程。确定性过程：确定性过程： 1 1）每次试验得到的观

2、测）每次试验得到的观测 过程都相同。过程都相同。 2 2）具有确定形式的变化）具有确定形式的变化 过程，或可用一个时过程，或可用一个时 间间t的确定函数表示。的确定函数表示。随机过程：随机过程： 1 1）每次试验得到的观测）每次试验得到的观测 过程都不同。过程都不同。 2 2）没有确定的变化形式）没有确定的变化形式 或不能用一个时间或不能用一个时间t 的确定函数表示。的确定函数表示。正弦信号正弦信号示波器的噪声电压示波器的噪声电压随机信号分析随机信号分析教学教学组组4一一 定义定义 1.1.接收机噪声电压观测方式：对相同接收机同时观测接收机噪声电压观测方式：对相同接收机同时观测05010015

3、0200-505050100150200-505050100150200-505050100150200-505从试验可知，每次得到的结果不同，且变化的规律从试验可知，每次得到的结果不同，且变化的规律不能用不能用一个一个确定的函数来描述确定的函数来描述噪声电压的起伏波形噪声电压的起伏波形 随机信号分析随机信号分析教学教学组组52 2、观察具有随机振幅、观察具有随机振幅 或随机相位或随机相位 的电压波形的电压波形0( )cos()V tAtA若若A A和和 为常数，为常数， 是（是（0 0，2 2）的随机取值的随机变）的随机取值的随机变量，电压波形为量，电压波形为0随机相位信号随机相位信号 随机

4、信号分析随机信号分析教学教学组组60( )cos()V tAt若 和 为常数， 是随机取值的随机变量，电压波形为0A随机振幅信号随机振幅信号 随机信号分析随机信号分析教学教学组组7 样本函数：样本函数： ， ， ， ，都是，都是 时间的函数，称为样本函数。时间的函数，称为样本函数。 )(1tx)(2tx)(3tx)(txn 随机性：一次试验，随机过程必取一个样随机性：一次试验，随机过程必取一个样 本函数，但所取的样本函数带有本函数，但所取的样本函数带有 随机性。因此，随机过程不仅是随机性。因此，随机过程不仅是 时间时间t 的函数，还是可能结果的的函数，还是可能结果的 函数，记为函数，记为 ，简

5、写成，简写成 。 ),( tX)(tX随机信号分析随机信号分析教学教学组组8随机变量随机变量 与时间无关与时间无关 随机过程随机过程 与时间相关与时间相关 随机信号分析随机信号分析教学教学组组9=3 3 、随机过程的定义、随机过程的定义( , )X t定义定义1 1：设随机试验设随机试验E E的样本空间为的样本空间为S=S= ，对其每一个元素，对其每一个元素 都以某种法则确定一个样本函数都以某种法则确定一个样本函数 ，由全部，由全部元素元素 所确定的所确定的一族样本函数一族样本函数 称为随机过程，简记称为随机过程，简记为为 。 )3 , 2 , 1(ii),(itX)(tXS随机信号分析随机信

6、号分析教学教学组组10S定义定义2 2 ：设有一个过程设有一个过程X(tX(t) ) ，若对于每一个固定的时刻，若对于每一个固定的时刻 ， 是一个随机变量，则是一个随机变量，则X(tX(t) ) 称为随机过程。称为随机过程。 (1,2,3)jtj ( , )jX t随机信号分析随机信号分析教学教学组组11随机过程的一般表征随机过程的一般表征 随机过程随机过程),(tX样本函数集合样本函数集合( ,),1, 2,iXti 为了简便起见，随机过程常省略代表试验结果的为了简便起见，随机过程常省略代表试验结果的参量参量。随机过程常用大写字母。随机过程常用大写字母 表示，样表示，样本函数常用小写字母本函

7、数常用小写字母 表示，表示，k表表示第示第k个样本函数。个样本函数。12( ),( ),( )kx tx tx t)(),(tYtX样本变量集合样本变量集合 随机过程随机过程),(tX(,),1, 2,iXti随机信号分析随机信号分析教学教学组组12 上面两种随机过程的定义，从两个角度描述上面两种随机过程的定义，从两个角度描述了随机过程。具体的说：了随机过程。具体的说： 作观测时，常用作观测时，常用定义定义1，这样通过观测的试验，这样通过观测的试验样本来得到随机过程的统计特性；样本来得到随机过程的统计特性； 对随机过程作理论分析时，常用对随机过程作理论分析时，常用定义定义2，这样，这样可以把随

8、机过程看成为可以把随机过程看成为n维随机变量，维随机变量， n越大采样越大采样时间越小，所得到的统计特性越准确。时间越小，所得到的统计特性越准确。 随机信号分析随机信号分析教学教学组组13随机过程随机过程 四种不同情况下的理解：四种不同情况下的理解： 一个随机过程一个随机过程 一个确知的时间函数一个确知的时间函数一个随机变量一个随机变量一个确定值一个确定值t 1 和和 都是变量都是变量t2 是变量而是变量而 固定固定3 固定而固定而 是变量是变量 t4 和和 都固定都固定 t( , )X t随机信号分析随机信号分析教学教学组组14二二 随机过程的分类随机过程的分类 1 按随机过程的时间和状态来

9、分类按随机过程的时间和状态来分类 连续型随机过程连续型随机过程：对随机过程任一时刻：对随机过程任一时刻 的的 取值取值 都是连续型随机变量。都是连续型随机变量。 1t)(1tX 离散型随机过程离散型随机过程：对随机过程任一时刻：对随机过程任一时刻 的取值的取值 都是离散型随机变量。都是离散型随机变量。 1t)(1tX随机信号分析随机信号分析教学教学组组15 离散随机序列：随机过程的时间离散随机序列：随机过程的时间t只能取只能取某些时刻，如某些时刻，如 ， 2 ，.，n ，且这，且这时得到的随机变量时得到的随机变量 是离散型随机变是离散型随机变量，即时间和状态是离散的。相当于采样量，即时间和状态

10、是离散的。相当于采样后再量化。后再量化。 t t t )(tnX 连续随机序列：随机过程的时间连续随机序列：随机过程的时间t只能取只能取某些时刻，如某些时刻，如 ， 2 ，.，n ，且这，且这时得到的随机变量时得到的随机变量 是连续型随机变是连续型随机变量，即时间是离散的。相当于对连续型随量，即时间是离散的。相当于对连续型随机过程的采样。机过程的采样。t t t )(tnX 随机信号分析随机信号分析教学教学组组16状态状态时刻时刻连续型随机过程连续型随机过程连续连续连续连续连续随机序列连续随机序列连续连续离散离散离散型随机过程离散型随机过程离散离散连续连续离散随机序列离散随机序列离散离散离散离

11、散随机过程按时间和状态的分类随机过程按时间和状态的分类随机信号分析随机信号分析教学教学组组172 按样本函数的形式来分类按样本函数的形式来分类 不确定的随机过程：随机过程的任意样本不确定的随机过程：随机过程的任意样本函数的值不能被预测。例如接收机噪声电压函数的值不能被预测。例如接收机噪声电压波形。波形。 确定的随机过程：随机过程的任意样本函确定的随机过程：随机过程的任意样本函数的值能被预测。例如，样本函数为正弦信数的值能被预测。例如，样本函数为正弦信号。号。 随机信号分析随机信号分析教学教学组组18 3 按概率分布的特性来分类按概率分布的特性来分类高斯随机过程高斯随机过程瑞利随机过程瑞利随机过

12、程对数正态随机过程对数正态随机过程马尔可夫随机过程马尔可夫随机过程 4 按统计特性来分类按统计特性来分类平稳随机过程平稳随机过程非平稳随机过程非平稳随机过程 5 按随机过程在频域的带宽分类按随机过程在频域的带宽分类宽带随机过程宽带随机过程窄带随机过程窄带随机过程白噪声白噪声有色噪声有色噪声随机信号分析随机信号分析教学教学组组19三三 随机过程的概率分布随机过程的概率分布 随机过程是一族时间函数，在一次具体试验中、随机过程是一族时间函数，在一次具体试验中、函数族中哪一个函数（样本）出现时是服从某种概率函数族中哪一个函数（样本）出现时是服从某种概率分布的，因而对随机信号不能采用通常的对确定性信分布

13、的，因而对随机信号不能采用通常的对确定性信号的表述方法，而必须用统计特性的描述方法。号的表述方法，而必须用统计特性的描述方法。1、概率密度函数概率密度函数或概率分布函数的描述方法是全面、或概率分布函数的描述方法是全面、 完整的描述方法。完整的描述方法。2、数字特征数字特征（期望、方差、相关函数）的描述方法（期望、方差、相关函数）的描述方法 是的宏观、概括的描述方法。是的宏观、概括的描述方法。 统计特性的描述方法分为两个大类：统计特性的描述方法分为两个大类：随机信号分析随机信号分析教学教学组组20 当仪器记录随机过程当仪器记录随机过程X(t)的变化过程时候，一般不可能的变化过程时候，一般不可能也

14、没有必要连续的记录全部过程，而只要记下也没有必要连续的记录全部过程，而只要记下X(t)在确定时在确定时刻刻t1, t2, , tn上的量。上的量。 由随机过程的定义可知，在确定由随机过程的定义可知，在确定t值上，随机过程变为随值上，随机过程变为随机变量，仪器记录的结果是机变量，仪器记录的结果是n维随机变量维随机变量X(t1),X(t2),X(tn)，如果说记录时间间隔如果说记录时间间隔t= ti-ti-1相当小相当小( (n足够大足够大) )时，多维随时，多维随机变量机变量 X(t1), X(t2) , X(tn) 可以足够完整表示出随机过程可以足够完整表示出随机过程X(t)。 在一定近似程度

15、上，可以通过研究多维随机变量来代替在一定近似程度上，可以通过研究多维随机变量来代替对随机过程的研究，且对随机过程的研究，且n取值越大，代替的越精确。当取值越大，代替的越精确。当n时，随机过程的概念可以作为多维随机变量的概念在维数无时，随机过程的概念可以作为多维随机变量的概念在维数无穷大情况的自然推广。穷大情况的自然推广。随机信号分析随机信号分析教学教学组组21一维概率分布函数一维概率分布函数 随机过程随机过程X(tX(t) )在任意在任意t t1 1 T T的取值的取值X(tX(t1 1) )是一维随机变量。是一维随机变量。概率概率PX(tPX(t1 1)x)x1 1 是取值是取值x x1 1

16、，时刻，时刻t t1 1的函数，记为的函数，记为F Fx x(x(x1 1;t;t1 1) ) =PX(t=PX(t1 1)x)x1 1 ，称作随机过程，称作随机过程X(tX(t) )的一维分布函数。的一维分布函数。 随机变量：随机变量：( )XFxP Xx随机过程：随机过程：( , )( )XFx tP X tx若若 的偏导数存在，连续随机过程概率密度函的偏导数存在，连续随机过程概率密度函数为数为( , )( , )XXFx tfx tx( , )XFx t一维概率密度函数一维概率密度函数 一维概率分布和概率密度只描述了任意一个时刻的统计一维概率分布和概率密度只描述了任意一个时刻的统计特征，

17、仅仅描述了各个孤立点时刻统计特性，不能反映特征，仅仅描述了各个孤立点时刻统计特性，不能反映随机过程在不同时刻状态之间的联系。随机过程在不同时刻状态之间的联系。随机过程概率特性：概率分布函数随机过程概率特性：概率分布函数 概率密度函数概率密度函数随机信号分析随机信号分析教学教学组组22二维概率分布函数二维概率分布函数 FX(x1,x2;t1,t2)=PX(t1)x1, X(t2)x2 为了描述在任意两个时刻为了描述在任意两个时刻t t1 1和和t t2 2的状态间的内在联系的状态间的内在联系, ,可以引入二维随机变量可以引入二维随机变量X(tX(t1 1),X(t),X(t2 2)的分布函数的分

18、布函数F FX X(x(x1 1,x,x2 2；t t1 1,t,t2 2) )，它是二随机事件，它是二随机事件X(tX(t1 1)x)x1 1 和和X(tX(t2 2)x)x2 2 同时出同时出现的概率，即现的概率，即称为随机过程称为随机过程X(tX(t) )的二维分布函数。的二维分布函数。 若若F FX X(x(x1 1,x,x2 2;t;t1 1,t,t2 2) )对对x x1 1，x x2 2的二阶混合偏导存在，即的二阶混合偏导存在，即 21212122121),;,(),;,(xxttxxFttxxfXX为随机过程为随机过程X(X(t) )的二维概率密度。的二维概率密度。 二维概率密

19、度函数二维概率密度函数注意：注意：X(X(t1 1) )及及X(X(t2 2) )为同一随机过程上的随机变量。为同一随机过程上的随机变量。 二维分布比一维分布包含可更多的信息，但仍不二维分布比一维分布包含可更多的信息，但仍不 能完整的反应出随机过程的全部统计特性。能完整的反应出随机过程的全部统计特性。随机信号分析随机信号分析教学教学组组23n 维概率分布函数和概率密度函数维概率分布函数和概率密度函数12121122( ,; , , )( ),( ),( )XnnnnFx xx t ttP X tx X txX txnnnXnnnXxxxtttxxxFtttxxxf2121212121),;,(

20、),;,( 随机过程随机过程 在任意在任意n个时刻个时刻 的取值的取值)(tXnttt,21)(,),(),(21ntXtXtX)(,),(),(21ntXtXtX)(tX 构成构成n维随机变量维随机变量 即为即为n维空间的随机矢量维空间的随机矢量X。类似的，可以定义随。类似的，可以定义随 机过程机过程 的的n维分布函数和维分布函数和n维概率密度函数为维概率密度函数为 显然，显然，n越大随机过程的越大随机过程的n n维分布律描述的特性维分布律描述的特性也越趋完善，理论上说，可以无限增加也越趋完善，理论上说，可以无限增加n ，使，使 n 维维分布律更加全面地反应分布律更加全面地反应X(X(t)

21、)的统计特性，但实际上，的统计特性，但实际上，n 越大分析处理会变得越复杂。越大分析处理会变得越复杂。随机信号分析随机信号分析教学教学组组24性质：性质： 1212( ,; , , ,)0XninFx xx t ttt12( ,; , ,)1XnFt tt 1212( ,; , ,)0Xnnfx xx t tt121212n( ,; , , )1Xnnnfx xx t tt dx dxdx重121212nm1212( ,; , , )( ,; , ,)XnnmmnXmmfx xx t tt dxdxdxfx xxt tt 重若若 统计独立，则有统计独立，则有 )(,),(),(21ntXtXt

22、X12121122( ,; , ,)( ; )(; )(; )XnnXXXnnfx xx t ttfx tfx tfx t随机信号分析随机信号分析教学教学组组25四四 随机过程的数字特征随机过程的数字特征随机随机变量变量的数字特征的数字特征（期望、方差、相关系数）（期望、方差、相关系数） 通常是通常是确定值确定值。随机随机过程过程的数字特征的数字特征（期望、方差、相关函数期望、方差、相关函数） 通常是通常是确定性函数确定性函数。 随机过程的数字特征的计算方法随机过程的数字特征的计算方法:先把时间先把时间t固定，然后用随机变量的分析方法固定，然后用随机变量的分析方法来计算。来计算。 随机信号分析

23、随机信号分析教学教学组组261 数学期望（均值函数）数学期望（均值函数） ( )( )( , )XmtE X txf x t dx 显然，显然， 是某一个是某一个平均函数平均函数，随机过，随机过程的诸样本在它的附近起伏变化，如图所示：程的诸样本在它的附近起伏变化，如图所示： )(tmX随机过程的均值是时间随机过程的均值是时间t的函的函数，称为数，称为均值函数。均值函数。物理意义物理意义：如果随机过程表示：如果随机过程表示接收机的输出电压，那么它的接收机的输出电压，那么它的数学期望就是输出电压的瞬时数学期望就是输出电压的瞬时统计平均值。统计平均值。 随机信号分析随机信号分析教学教学组组27 统计

24、均值是对随机过程中统计均值是对随机过程中所有样本函数所有样本函数在时间在时间t的所的所有取值进行概率加权平均，所以又称为有取值进行概率加权平均，所以又称为集合平均集合平均。它反。它反映了样本函数统计意义下的平均变化规律，映了样本函数统计意义下的平均变化规律，是所有样本是所有样本函数在各个时刻摆动的中心。函数在各个时刻摆动的中心。随机信号分析随机信号分析教学教学组组282 2 均方值和方差均方值和方差 随机过程随机过程 在任一时刻在任一时刻t的取值是一个随的取值是一个随机变量机变量 。我们把。我们把 二阶原点矩称为随机过二阶原点矩称为随机过程的程的均方值均方值，把二阶中心矩记作随机过程的，把二阶

25、中心矩记作随机过程的方差方差。即即： )(tX)(tX22222( )( )( ; )( )( )( )( ) XXXXtE Xtx fx t dxtD X tE X tmt222( )( )( )XXtE Xtmt且且 方差、均方值都是时间方差、均方值都是时间t的函数，描述了随的函数，描述了随机过程诸样本函数围绕数学期望的分散程度。机过程诸样本函数围绕数学期望的分散程度。)(tX随机信号分析随机信号分析教学教学组组29物理意义：物理意义：如果如果 表示噪声电压，则表示噪声电压，则均方值均方值 表示消耗在单位电阻上的瞬表示消耗在单位电阻上的瞬时功率统计平均值。时功率统计平均值。方差方差 表示消

26、耗在单位电阻上的瞬时交表示消耗在单位电阻上的瞬时交流功率统计平均值。流功率统计平均值。 )(tX)(2tXE)(tXD标准差：标准差： 2( )( )( )XXD X ttt=随机信号分析随机信号分析教学教学组组30方差方差22( )( ( )( ) XXtE X tm t22( )( )XE X tm t)(tx-单位电阻上的电压单位电阻上的电压2( ) 1x t-消耗在单位电阻上的瞬时功率消耗在单位电阻上的瞬时功率-消耗在单位电阻上的瞬时交流功率消耗在单位电阻上的瞬时交流功率2 ( )( )1xx tm t-消耗在单位电阻上的瞬交流功率的消耗在单位电阻上的瞬交流功率的 统计平均值统计平均值

27、2( ( )( ) 1xE x tm t消耗在单位电消耗在单位电阻上的总的平阻上的总的平均功率均功率平均交流平均交流功率功率平均直流平均直流功率功率222( )( )( )XXE Xttmt 随机信号分析随机信号分析教学教学组组313 自相关函数自相关函数 数学期望和方差是描述随机过程在各个孤立点数学期望和方差是描述随机过程在各个孤立点时刻的重要数字特征。它们反应不出来整个随机过时刻的重要数字特征。它们反应不出来整个随机过程不同时间的内在联系。程不同时间的内在联系。 比较具有相同数学期望和方差的两个随机过程。比较具有相同数学期望和方差的两个随机过程。 随机信号分析随机信号分析教学教学组组32

28、自相关函数用来描述自相关函数用来描述随机过程任意两个时刻状随机过程任意两个时刻状态之间的内在联系，通常态之间的内在联系，通常用用 描述。描述。 ),(21ttRX121212121212( , )( )( )( ,; , )XXRt tE X t X tx x fx x t t dx dx 描述了整个随机过程描述了整个随机过程任任意两个不同时刻意两个不同时刻的内在关的内在关系：线性相关性系：线性相关性若若 则则12ttt212( , )( , )( )( )( )XXRt tRt tE X t X tE Xt随机信号分析随机信号分析教学教学组组33自相关函数的物理意义自相关函数的物理意义121

29、2( , )( )( )XRt tE X t X t自相关函数可正可负，其绝对值越大，表示相关性越自相关函数可正可负，其绝对值越大，表示相关性越 强。一般说来，时间相隔越远，相关性越弱，自相关强。一般说来，时间相隔越远，相关性越弱，自相关 函数的绝对值也越弱，当两个时刻重合时，其相关性函数的绝对值也越弱，当两个时刻重合时，其相关性 应是最强的，所以应是最强的，所以 最大。最大。( , )XRt t反映不同随机过程的波形变化反映不同随机过程的波形变化随机信号分析随机信号分析教学教学组组344 自协方差函数自协方差函数 若用随机过程的两个不同时刻之间的二阶若用随机过程的两个不同时刻之间的二阶混合中

30、心矩来定义相关函数，我们称之为混合中心矩来定义相关函数，我们称之为自协自协方差函数方差函数，简称，简称协方差函数协方差函数。用。用 表表示，它反映了任意两个时刻的起伏值之间相关示，它反映了任意两个时刻的起伏值之间相关程度。程度。 ),(21ttKX)()(),(2121tXtXEttKX1122( )( )( )( )XXE X tmtX tmt112212( )( )( )( )XXX tmtX tmtdx dx 中中心心化化自自相相关关函函数数随机信号分析随机信号分析教学教学组组35自协方差和自相关函数的关系自协方差和自相关函数的关系 112212121212211212( )( )( )

31、( )( )( )( ) ( )( ) ( )( )( , )( , )( )( )XXXXXXXXXXE X tmtX tmtE X t X tmt E X tmKt tRt ttE X tmt mtmt mt自协方差和方差的关系自协方差和方差的关系 221( , )( )(,) )XXXKt tKt tE X tmt2( )( )XXtDtttt21令令则则自相关系数自相关系数 121212121122( ,)( ,)(,)( )()( , )(,)XXXXXXXKt tKt tttttKt tKt t随机信号分析随机信号分析教学教学组组36随机过程的随机过程的不相关不相关和和独立独立以及

32、以及正交正交的关系：的关系：121212( , )( , )( )( )XXXXKt tRt tmt mt如果如果 , 则称则称 和和 是是不相关不相关的。的。如果如果 , 则称则称 和和 是是正交正交的。的。)(2tX0),(21ttKX1( )X t0),(21ttRX1( )X t)(2tX如果如果 则称随机则称随机过程在过程在 和和 时刻的状态是相互时刻的状态是相互独立独立的。的。),(),(),(22112121txftxfttxxfXXX1t2t正交正交独立独立不相关不相关充分条件充分条件正态随机过程正态随机过程期望至少一个为期望至少一个为0随机信号分析随机信号分析教学教学组组37例：求随机相位正弦波例：求随机相位正弦波 的数字期的数字期望，方差及自相关函数。式中，望，方差及自相关函数。式中， 为常数，是为常数，是区间区间0， 上均匀分布的随机变量。上均匀分布的随机变量。 0( )sin()x tt02解：由题可知：解：由题可知： 000( ) (