数据通信原理第03章随机过程课件

1、数据通信原理第数据通信原理第03章随机过程章随机过程数据通信原理数据通信原理第第3章章 随机过程随机过程数据通信原理第03章随机过程2主要内容主要内容3.1 随机过程的基本概念随机过程的基本概念3.2 平稳随机过程平稳随机过程3.3 高斯随机过程高斯随机过程3.4 平稳随机过程通过线性系统平稳随机过程通过线性系统3.5、数据通信原理第03章随机过程33.1 随机过程的基本概念随机过程的基本概念什么是随机过程？什么是随机过程？ 随机过程是一类随时间作随机变化的过程随机过程是一类随时间作随机变化的过程，它不能用确切的时间函数描述。可从两种不同它不能用确切的时间函数描述。可从两种不同角度看：角度看：

2、u角度角度1：对应不同随机试验结果的时间过程对应不同随机试验结果的时间过程的集合。的集合。u角度角度2：随机过程是随机变量概念的延伸。随机过程是随机变量概念的延伸。数据通信原理第03章随机过程4角度角度2：随机过程是随机变量概念的延伸。：随机过程是随机变量概念的延伸。在任一给定时刻在任一给定时刻t1上，每一个样本函数上，每一个样本函数 i (t)都是一个都是一个确定的数值确定的数值 i (t1)，但是每个但是每个 i (t1)都是不可预知的。都是不可预知的。在一个固定时刻在一个固定时刻t1上，不同样本的取值上，不同样本的取值 i (t1), i = 1, 2, , n是一个随机变量，记为是一个

3、随机变量，记为 (t1)。因此，我们又可以把因此，我们又可以把随机过程随机过程看作是在时间进程中处看作是在时间进程中处于不同时刻的于不同时刻的随机变量的集合随机变量的集合。数据通信原理第03章随机过程5随机过程的描述与数字特征随机过程的描述与数字特征3.1.1 随机过程的分布函数随机过程的分布函数3.1.2随机过程的数字特征随机过程的数字特征数据通信原理第03章随机过程63.1.1随机过程的分布函数随机过程的分布函数设设 (t)表示一个随机过程，则它在任意时刻表示一个随机过程，则它在任意时刻t1的值的值 (t1)是一个随机变量，则：是一个随机变量，则：随机过程随机过程 (t)的的一维分布函数一

4、维分布函数：若上式中的偏导存在的话，随机过程若上式中的偏导存在的话，随机过程 (t)的的一维一维概率密度函数概率密度函数：)(),(11111xtPtxF1111111),(),(xtxFtxf数据通信原理第03章随机过程7随机过程随机过程 (t) 的的二维分布函数二维分布函数：若上式中的偏导存在的话，随机过程若上式中的偏导存在的话，随机过程 (t)的的二维概二维概率密度函数率密度函数：221121212)(,)() ,;,(xtxtPttxxF2121212221212),;,(),;,(xxttxxFttxxf数据通信原理第03章随机过程8随机过程随机过程 (t) 的的n维分布函数：维分布

5、函数：随机过程随机过程 (t) 的的n维概率密度函数：维概率密度函数：nnnnnxtxtxtPtttxxxF)(,)(,)(),;,(22112121n21n21n21nnn21n21nx)tx()tx(xxttxxFttxxf，；，；，数据通信原理第03章随机过程93.1.2 随机过程的数字特征随机过程的数字特征均值（数学期望）：均值（数学期望）：在任意给定时刻在任意给定时刻t1的取值的取值 (t1)是一个随机变量，其是一个随机变量，其均值均值式中式中 f (x1, t1) (t1)的概率密度函数的概率密度函数 由于由于t1是任取的，所以可以把是任取的，所以可以把 t1 直接写为直接写为t，

6、 x1改改为为x，这样上式就变为，这样上式就变为dxtxxftE),()(1111111),()(dxtxfxtE数据通信原理第03章随机过程10 (t)的均值的均值 是时间的确定函数，常记作是时间的确定函数，常记作a ( t )，它表示随它表示随机过程的机过程的n个样本函数曲线的摆动中心个样本函数曲线的摆动中心 :dxtxxftE),()(1a (t )数据通信原理第03章随机过程11方差方差方差常记为方差常记为 2( t )。 这里也把任意时刻这里也把任意时刻t1直接写成了直接写成了t 。因为。因为所以，所以，方差等于均方值与均值平方之差，它表示随机方差等于均方值与均值平方之差，它表示随机

7、过程在时刻过程在时刻 t 对于均值对于均值a ( t )的偏离程度。的偏离程度。2)()()(tatEtD )()()(2)(2222222tatEtatEtatEtattatEtD212)(),(tadxtxfx均方值均值平方数据通信原理第03章随机过程12相关函数相关函数 式中，式中， (t1)和和 (t2)分别是在分别是在t1和和t2时刻观测得到的时刻观测得到的随机变量。可以看出，随机变量。可以看出，R(t1, t2)是两个变量是两个变量t1和和t2的确的确定函数。定函数。2121212212121),;,()()(),(dxdxttxxfxxttEttR 数据通信原理第03章随机过程1

8、3协方差函数协方差函数 式中式中 a ( t1 ) a ( t2 ) 在在t1和和t2时刻得到的时刻得到的 (t)的均的均值值 f2 (x1, x2; t1, t2) (t)的二维概率密度函数。的二维概率密度函数。 12112211222121212( ,) ( )( ) ( )( )( )( )(,; ,)B t tEta tta txa txa tfx x t tdx dx 数据通信原理第03章随机过程14相关函数和协方差函数相关函数和协方差函数之间的关系之间的关系若若a a( (t t1 1) = ) = a a( (t t2 2) )，则，则B(tB(t1 1, , t t2 2) =

9、 ) = R(tR(t1 1, , t t2 2) )()(),(),(212121tatattRttB数据通信原理第03章随机过程15互相关函数互相关函数 式中式中 ( (t t) )和和 ( (t t) )分别表示两个随机过程。分别表示两个随机过程。因此，因此，R(tR(t1 1, , t t2 2) )又称为又称为自相关函数自相关函数。 )()(),(2121ttEttR数据通信原理第03章随机过程16主要内容主要内容3.1 随机过程的基本概念随机过程的基本概念3.2 平稳随机过程平稳随机过程3.3 高斯随机过程高斯随机过程3.4 平稳随机过程通过线性系统平稳随机过程通过线性系统3.5、

10、数据通信原理第03章随机过程173.2.1 平稳随机过程的定义平稳随机过程的定义 定义：若一个随机过程定义：若一个随机过程 (t)的任意有限维分布函数的任意有限维分布函数与时间起点无关，也就是说，对于任意的正整数与时间起点无关，也就是说，对于任意的正整数n和所有实数和所有实数 ，有，有 则称该随机过程是在严格意义下的平稳随机过则称该随机过程是在严格意义下的平稳随机过程，简称程，简称严平稳随机过程严平稳随机过程。),(),(21212121nnnnnntttxxxftttxxxf；数据通信原理第03章随机过程18严平稳随机过程的性质：严平稳随机过程的性质：该定义表明，平稳随机过程的统计特性不随时

11、间该定义表明，平稳随机过程的统计特性不随时间的推移而改变，即的推移而改变，即它的一维分布函数与时间它的一维分布函数与时间t无关：无关： 而而二维分布函数只与时间间隔二维分布函数只与时间间隔 = t2 t1有关：有关：)(),(11111xftxf);,(),;,(21221212xxfttxxf数据通信原理第03章随机过程19严平稳随机过程的数字特征：严平稳随机过程的数字特征： 可见，（可见，（1）其均值与）其均值与t无关，为常数无关，为常数a； （2）自相关函数只与时间间隔）自相关函数只与时间间隔 有关。有关。adxxfxtE1111)()()();,()()(),(21212211121R

12、dxdxxxfxxttEttR 数据通信原理第03章随机过程20结论：结论：把同时满足（把同时满足（1）和（）和（2）的过程定义为）的过程定义为广义平稳广义平稳随机过程随机过程。显然，严平稳随机过程必定是广义平稳的，反之显然，严平稳随机过程必定是广义平稳的，反之不一定成立。不一定成立。 在通信系统中所遇到的信号及噪声，大多数可视在通信系统中所遇到的信号及噪声，大多数可视为平稳的随机过程。因此，研究平稳随机过程有为平稳的随机过程。因此，研究平稳随机过程有着很大的实际意义。着很大的实际意义。数据通信原理第03章随机过程21提出问题：提出问题： 我们知道，随机过程的数字特征（均值、相关我们知道，随机

13、过程的数字特征（均值、相关函数）是对随机过程的所有样本函数的统计平均，函数）是对随机过程的所有样本函数的统计平均，但在实际中常常很难测得大量的样本，这样，我们但在实际中常常很难测得大量的样本，这样，我们自然会提出这样一个问题：自然会提出这样一个问题： 能否从一次试验而得到的一个样本函数能否从一次试验而得到的一个样本函数x(t)来来决定平稳过程的数字特征呢决定平稳过程的数字特征呢?数据通信原理第03章随机过程223.2.2 各态历经性各态历经性问题的提出：能否从一次试验而得到的一个样本函问题的提出：能否从一次试验而得到的一个样本函数数x(t)来决定平稳过程的数字特征呢来决定平稳过程的数字特征呢?

14、回答是肯定的。回答是肯定的。平稳过程在满足一定的条件下具有平稳过程在满足一定的条件下具有一个有趣而又非常有用的特性，称为一个有趣而又非常有用的特性，称为“各态历经性各态历经性”（又称（又称“遍历性遍历性”）。）。具有各态历经性的过程，其数字特征（均为统计平具有各态历经性的过程，其数字特征（均为统计平均）完全可由随机过程中的任一实现的时间平均值均）完全可由随机过程中的任一实现的时间平均值来代替。来代替。 数据通信原理第03章随机过程23各态历经性条件各态历经性条件设：设：x(t)是平稳过程是平稳过程 (t)的任意一次实现（样本），的任意一次实现（样本），则则其时间均值和时间相关函数分别定义为：其

15、时间均值和时间相关函数分别定义为： 如果平稳过程使下式成立如果平稳过程使下式成立则称该则称该平稳过程具有各态历经性。平稳过程具有各态历经性。2/2/2/2/)()(1lim)()()()(1lim)(TTTTTTdttxtxTtxtxRdttxTtxa)()(RRaa数据通信原理第03章随机过程24“各态历经各态历经”的含义的含义：随机过程中的任一次实现都经历了随机过程的所随机过程中的任一次实现都经历了随机过程的所有可能状态。有可能状态。具有各态历经的随机过程一定是平稳过程，反之具有各态历经的随机过程一定是平稳过程，反之不一定成立。不一定成立。在通信系统中所遇到的随机信号和噪声，一般均在通信系

16、统中所遇到的随机信号和噪声，一般均能满足各态历经条件。能满足各态历经条件。数据通信原理第03章随机过程25 例3-1 设一个随机相位的正弦波为设一个随机相位的正弦波为其中，其中，A和和 c均为常数；均为常数； 是在是在(0, 2)内均匀分布的内均匀分布的随机变量。试讨论随机变量。试讨论 (t)是否具有各态历经性。是否具有各态历经性。【解】(1)先求先求 (t)的统计平均值：的统计平均值：数学期望数学期望)cos()(tAtc2021)cos()()(dtAtEtac20)sinsincos(cos2dttAcc2200coscossinsin20ccAtdtd 数据通信原理第03章随机过程26

17、【解】【解】自相关函数自相关函数0)(cos2212)(cos2)(cos22)(cos)(cos2)cos()cos()()(),(1222012212212122212121ttAdttAttAttttEAtAtAEttEttRccccccc数据通信原理第03章随机过程27 【解】令【解】令t2 t1 = ，得到，得到 可见，可见， (t)的数学期望为常数，而自相关函数与的数学期望为常数，而自相关函数与t 无无关，只与时间间隔关，只与时间间隔 有关，所以有关，所以 (t)是广义平稳过程。是广义平稳过程。)(cos2),(221RAttRc数据通信原理第03章随机过程28【解】【解】 (2)

18、 求求 (t)的时间平均值的时间平均值220)cos(1limTTcTdttATa22)(cos)cos(1lim)(TTccTdttAtATR22222)22cos(cos2limTTTTcccTdttdtTAcAcos22数据通信原理第03章随机过程29【解】结论：【解】结论：比较统计平均与时间平均，有比较统计平均与时间平均，有因此，因此，随机相位余弦波是各态历经的。随机相位余弦波是各态历经的。)()(,RRaa数据通信原理第03章随机过程303.2.3 平稳过程的自相关函数平稳过程的自相关函数定义：设定义：设 (t)为实平稳随机过程，则它的自相关函数为实平稳随机过程，则它的自相关函数为：

19、为：自相关函数可以用来描述平稳随机过程的数字特征，自相关函数可以用来描述平稳随机过程的数字特征，还可以与平稳随机过程的频谱特性产生联系。还可以与平稳随机过程的频谱特性产生联系。( ) (t) (t+ )RE数据通信原理第03章随机过程313.2.3 平稳过程的自相关函数平稳过程的自相关函数平稳过程自相关函数的性质平稳过程自相关函数的性质u1、 (t)的平均功率的平均功率u2、 的偶函数的偶函数u 3、 R( )的上界的上界即自相关函数即自相关函数R( )在在 = 0有最大值。有最大值。)()0(2tER)()( RR)0()(RR数据通信原理第03章随机过程323.2.3 平稳过程的自相关函数

20、平稳过程的自相关函数平稳过程自相关函数的性质平稳过程自相关函数的性质u4、 (t)的直流功率的直流功率u5、 表示平稳过程表示平稳过程 (t)的交的交流功率。当均值为流功率。当均值为0时，有时，有 R(0) = 2 。 22a)()(tER2)()0( RR数据通信原理第03章随机过程333.2.4 平稳过程的功率谱密度平稳过程的功率谱密度定义：对于任意的确定功率信号定义：对于任意的确定功率信号f (t)，它的功率谱，它的功率谱密度定义为密度定义为式中，式中，FT ( f )是是f (t)的截短函数的截短函数fT (t) 所对应的频所对应的频谱函数。谱函数。TfFmi lfPTTf2)()(数

21、据通信原理第03章随机过程34对于平稳随机过程对于平稳随机过程 (t) ，可以把，可以把f (t)当作是当作是 (t)的一个的一个样本；某一样本的功率谱密度不能作为过程的功率谱样本；某一样本的功率谱密度不能作为过程的功率谱密度。过程的功率谱密度应看作是对所有样本的功率密度。过程的功率谱密度应看作是对所有样本的功率谱的统计平均，故谱的统计平均，故 (t)的功率谱密度可以定义为的功率谱密度可以定义为TfFEmi lfPEfPTTf2)()()(数据通信原理第03章随机过程35功率谱密度的计算功率谱密度的计算-维纳维纳-辛钦关系辛钦关系 非周期的功率型确知信号的自相关函数与其功非周期的功率型确知信号

22、的自相关函数与其功率谱密度是一对傅里叶变换。这种关系对平稳随机率谱密度是一对傅里叶变换。这种关系对平稳随机过程同样成立，即有过程同样成立，即有 简记为简记为dePRdeRPjj)(21)()()()()(fPR数据通信原理第03章随机过程36在维纳在维纳-辛钦关系的基础上，可以得到以下结论：辛钦关系的基础上，可以得到以下结论：1、对功率谱密度进行积分，可得平稳过程的总功、对功率谱密度进行积分，可得平稳过程的总功率：率： 上式从频域的角度给出了过程平均功率的计算法。上式从频域的角度给出了过程平均功率的计算法。dffPR)()0(数据通信原理第03章随机过程37在维纳在维纳- -辛钦关系的基础上，

23、可以得到以下结论：辛钦关系的基础上，可以得到以下结论：2 2、各态历经过程的任一样本函数的功率谱密度等于、各态历经过程的任一样本函数的功率谱密度等于过程的功率谱密度。也就是说，每一样本函数的谱过程的功率谱密度。也就是说，每一样本函数的谱特性都能很好地表现整个过程的的谱特性。特性都能很好地表现整个过程的的谱特性。【证】【证】因为各态历经过程的自相关函数等于任一样因为各态历经过程的自相关函数等于任一样本的自相关函数，即本的自相关函数，即 两边取傅里叶变换：两边取傅里叶变换：即即式中式中 )()(RR )()(RRFF)()(fPfPf)()(fPR )(RfPf数据通信原理第03章随机过程38在维

24、纳在维纳-辛钦关系的基础上，可以得到以下结论：辛钦关系的基础上，可以得到以下结论：3、功率谱密度、功率谱密度P ( f )具有非负性和实偶性，即有具有非负性和实偶性，即有 这与这与R( )的实偶性相对应。的实偶性相对应。 0)(fP)()(fPfP数据通信原理第03章随机过程39例3-2 求随机相位余弦波求随机相位余弦波 (t) = Acos( ct + )的自相的自相关函数和功率谱密度。关函数和功率谱密度。【解】在在例3-1中，我们已经考察随机相位余弦波是中，我们已经考察随机相位余弦波是一个平稳过程，并且求出其相关函数为一个平稳过程，并且求出其相关函数为 因为平稳随机过程的相关函数与功率谱密

25、度是一因为平稳随机过程的相关函数与功率谱密度是一对傅里叶变换，即有对傅里叶变换，即有 cARcos2)(2)()(PR数据通信原理第03章随机过程40例3-2 求随机相位余弦波求随机相位余弦波 (t) = Acos( ct + )的自相的自相关函数和功率谱密度。关函数和功率谱密度。【解】以及由于有以及由于有所以，功率谱密度为所以，功率谱密度为平均功率为平均功率为 )()(cosccc)()(2)(2ccAP2)(21)0(2AdPRS数据通信原理第03章随机过程41主要内容主要内容3.1 随机过程的基本概念随机过程的基本概念3.2 平稳随机过程平稳随机过程3.3 高斯随机过程高斯随机过程3.4

26、 平稳随机过程通过线性系统平稳随机过程通过线性系统3.5、数据通信原理第03章随机过程42 3.3 高斯随机过程（正态随机过程）高斯随机过程（正态随机过程）3.3.1 定义：如果随机过程定义：如果随机过程 (t)的任意的任意n维（维（n =1,2,.）分布均服从正态分布，则称它为正态过）分布均服从正态分布，则称它为正态过程或高斯过程。程或高斯过程。u n维正态概率密度函数表示式为：维正态概率密度函数表示式为：式中式中 12121/2/21211(,.,.,)1(2).1exp()()2nnnnnnnjjkkjkjkjkfxxxtttBxaxaBB ；22)(),(kkkkkatEtEa数据通信

27、原理第03章随机过程43式中式中 |B| 归一化协方差矩阵的行列式，即归一化协方差矩阵的行列式，即 |B|jk 行列式行列式|B|中元素中元素bjk的代数余因子的代数余因子 bjk 为归一化协方差函数，即为归一化协方差函数，即 11121221112nnnnbbbbbbB kjkkjjjkatatEb)()(数据通信原理第03章随机过程44 3.3.2 高斯随机过程的重要性质高斯随机过程的重要性质1、高斯过程的、高斯过程的n维分布只依赖各个随机变量的均值、维分布只依赖各个随机变量的均值、方差和归一化协方差。方差和归一化协方差。2、广义平稳的高斯过程也是严平稳的。、广义平稳的高斯过程也是严平稳的

28、。 因为，若高斯过程是广义平稳的，即其均值与因为，若高斯过程是广义平稳的，即其均值与时间无关，协方差函数只与时间间隔有关，而与时时间无关，协方差函数只与时间间隔有关，而与时间起点无关，则它的间起点无关，则它的n维分布也与时间起点无关，故维分布也与时间起点无关，故它也是严平稳的。所以，高斯过程若是广义平稳的，它也是严平稳的。所以，高斯过程若是广义平稳的，则也严平稳。则也严平稳。数据通信原理第03章随机过程45 3.3.2 高斯随机过程的重要性质高斯随机过程的重要性质3、如果高斯过程在不同时刻的取值是不相关的，、如果高斯过程在不同时刻的取值是不相关的，即对所有即对所有j k，有，有bjk =0，则其概率密度可以简化，则其概率密