二随机变量到随机过程

1、2022-2-281随机变量到随机过程随机变量到随机过程4.1.1 随机过程的定义 自然界中变化的过程可分为两大类： 确定性过程：就是事物的变化过程可以用一个（或几个）时间t的确定的函数来描绘。 随机过程：就是事物变化的过程不能用一个（或几个）时间t的确定的函数来加以描述。 4.1 从随机变量到随机过程从随机变量到随机过程（1）贝努里实验贝努里实验: :其样本空间只有其样本空间只有两个两个样本点，即样本点，即只有两个可能结果只有两个可能结果: : 和和 。 在在掷币实验掷币实验中，贝努里随机变量中，贝努里随机变量 可以表示为可以表示为: : A( )X1( )0X正面表示基本可能结果正面随机过

2、程例子A有概率有概率若若重复重复在在t = n (n=1, 2, )时刻上，时刻上，独立独立进行相进行相( )1,( )0,1P Xp P Xqpq 同的掷币实验同的掷币实验,12( ),( ),( ),nXXX构成一随机变量构成一随机变量序列序列n01 1 2 3 4 5 6 7 8 9 10( )nX则有则有 其概率其概率 ( )nX( , )1,( , )0,1P X np P X nqpq10tn正面时刻正面( , )X nn01 1 2 3 4 5 6 7 8 9 10n01 1 2 3 4 5 6 7 8 9 101( ,)Xn2( ,)Xn所有随机变量序列的集合就是随机信号。所有

3、随机变量序列的集合就是随机信号。每一个随机变量序列称为每一个随机变量序列称为一个样本一个样本，也叫也叫一个实现一个实现。 观察电阻上的噪声电压，可能有不同的波形。观察电阻上的噪声电压，可能有不同的波形。 每一个波形称为每一个波形称为样本函数样本函数，也叫，也叫一个实现一个实现。 所有波形的集合就是随机信号。所有波形的集合就是随机信号。（2）时间连续时间连续的随机现象的随机现象定义定义1 1：设随机试验设随机试验E E的样本空间的样本空间 ，若对于，若对于每个元素每个元素 ，总有一个确知的时间函数，总有一个确知的时间函数 与它对应与它对应 。 对于所有的对于所有的 ，就可以得，就可以得到到一簇时

4、间一簇时间t的函数的函数，称它为随机过程。簇中的，称它为随机过程。簇中的每一个函数称为样本函数每一个函数称为样本函数 。 SSS),(tXTtTt随机过程的定义随机过程的定义x1(t)x2(t)xn(t)ttt样本空间S1S2Sn(t)tk随机过程的定义随机过程的定义定义定义2 2：若对于每个特定的时间若对于每个特定的时间 ， 都是随机变量，则称都是随机变量，则称 为随机过程，为随机过程， 称为随机过程称为随机过程 在在 时刻的状态。时刻的状态。 ), 2 , 1(iti),(itX),(tX),(itXitt )(tX随机过程的定义随机过程的定义（1）在任意给定时刻，随机信号是一个随机变量在

5、任意给定时刻，随机信号是一个随机变量 随机信号随机信号可视为许多可视为许多随机变量随机变量的的集合集合；X(t,1)X(t,2)X(t,3)X(t,4)X(t1,)X(t2,)X(tn,)X(t,)t随机信号的随机信号的表征表征n01 1 2 3 4 5 6 7 8 9 10n01 1 2 3 4 5 6 7 8 9 101( ,)X n2( ,)X n(9, )X(1, )XX(t,1)X(t,2)X(t,3)X(t,4)X(t,)t（2）随机信号可视为所有）随机信号可视为所有样本函数样本函数的的集合集合n01 1 2 3 4 5 6 7 8 9 10n01 1 2 3 4 5 6 7 8

6、9 101( ,)X n2( ,)X n 一个时间函数族一个时间函数族 一个确知的时间函数一个确知的时间函数一个随机变量一个随机变量一个确定值一个确定值t 1 和和 都是变量都是变量t2 2 是变量而是变量而 固定固定3 固定而固定而 是变量是变量 t4 和和 都固定都固定 t理解理解( , )X t（1）时间离散、取值离散时间离散、取值离散 D.R.Seq.例例：贝努里贝努里r.s.n01 1 2 3 4 5 6 7 8 9 10( , )X n4.1.2 随机过程的分类和举例随机过程的分类和举例例例：一脉冲信号发生器传送的信号：一脉冲信号发生器传送的信号1202t1 X t0T02T04T

7、03T（2）时间连续、取值离散时间连续、取值离散 D.R.P.例例：正弦型信号：正弦型信号( )sin()X tAwtt( )X tR,.V.wA常数R,.V.A w常数R,.V.Aw常数t( )X tt( )X t（3）时间连续、取值连续时间连续、取值连续 C.R.P.例例：每隔单位时间对噪声电压抽样：每隔单位时间对噪声电压抽样n02 1 2 3 4 5( )X n（4）时间离散、取值连续时间离散、取值连续 C.R.Seq.按照样本函数的形式分类 可预测过程：对于任一条样本函数的未来取值可由过去值准确预测。 不可预测过程：对于样本函数的未来取值不可由过去值准确预测。按照随机过程的分布函数特性

8、分类 按照这种分类法，最重要的就是平稳随机过程，其次是高斯过程、马尔可夫过程、独立增量过程等等。Brown运动运动随机游动随机游动Poisson过程过程Markov过程过程ARMA（自回归滑动平均（自回归滑动平均)状态空间模型状态空间模型 典型随机过程典型随机过程例例1 设具有随机初始相位的正弦波 ttwAtX,cos0其中A与w0是正常数，在20 ，之间服从均匀分布。判断X(t)是否为一随机过程。解：(1) 固定时间t，X(t)是随机变量， ttX ，是一族随机变量(2) 对随机变量做一次试验得到一个结果， twAtX0cos是随时间变化的函数，即样本函数。X(t)是一随机过程。是一随机过程

9、。( ; ) ( )XF x tP X tx一维概率分布函数一维概率分布函数定义：定义： 一维概率密度函数一维概率密度函数定义：定义： ( ; )( ; )XXdfx tF x tdx2.一阶（维）概率分布和密度函数一阶（维）概率分布和密度函数4.2 随机过程的统计特性随机过程的统计特性4.2.1 随机过程的概率分布1. 一维概率分布二维概率分布函数二维概率分布函数定义：定义： 二维概率密度函数二维概率密度函数定义：定义： 12121122( , ; , ) ( ), ( )XF x x t tP X tx X tx21212121212( ,; , )( ,; , )XXfx x t tF

10、x x t tx x 分析随机过程分析随机过程本质上本质上就是分析相应的随机变量就是分析相应的随机变量 二维概率分布和密度函数二维概率分布和密度函数 构成构成n维随机变量维随机变量 即为即为n维空间的随机矢量维空间的随机矢量X。类似的，可以定义。类似的，可以定义随机过程随机过程 的的n维分布函数和维分布函数和n维概率密度函维概率密度函数为数为 随机过程随机过程 在任意在任意n个时刻个时刻 的取值的取值)(tXnttt,21)(,),(),(21ntXtXtX)(,),(),(21ntXtXtX)(tX)(,)(,)(),;,(22112121nnnnXxtXxtXxtXPtttxxxFnnnX

11、nnnXxxxtttxxxFtttxxxf2121212121),;,(),;,(n维概率分布维概率分布1. 数学期望数学期望 dxtxxftXEtmX);()()( 显然，显然， 是某一个平均函数，随机过程是某一个平均函数，随机过程的诸样本在它的附近起伏变化，如图所示：的诸样本在它的附近起伏变化，如图所示： )(tmX4.2.2 随机过程的数字特征随机过程的数字特征分布函数或概率密度函数虽然能够较全面地描述随机过程分布函数或概率密度函数虽然能够较全面地描述随机过程的统计特性的统计特性, 但在实际工作中，有时不易或不需求出分布函但在实际工作中，有时不易或不需求出分布函数和概率密度函数，而用随机

12、过程的数字特征来描述随机数和概率密度函数，而用随机过程的数字特征来描述随机过程的统计特性，更简单直观。过程的统计特性，更简单直观。t1t2t3t4 随机过程随机过程 在任一时刻在任一时刻t的取值是一个的取值是一个随机变量随机变量 。我们把。我们把 二阶原点矩称为随二阶原点矩称为随机过程的均方值，把二阶中心矩记作随机过机过程的均方值，把二阶中心矩记作随机过程的方差。即：程的方差。即： )(tX)(tX)(tXdxtxfxtXEtXX);()()(222)()()()()(222tmtXEtXEtXDtXX222)()()(tmtXEtXX且且2. 均方值和方差均方值和方差 物理意义：如果物理意义

13、：如果 表示噪声电压，则表示噪声电压，则均方值均方值 和方差和方差 分别表示消耗在单分别表示消耗在单位电阻上的瞬时功率统计平均值和瞬时交流位电阻上的瞬时功率统计平均值和瞬时交流功率统计平均值。功率统计平均值。 )(tX)(2tXE)(tXD标准差或均方差：标准差或均方差： )()(ttXDX 均值、方差和样本函数的关系均值、方差和样本函数的关系方差表示随机过程在时刻方差表示随机过程在时刻t对于均值对于均值a(t)的偏离程度。的偏离程度。 相同均值方差的两个随机过程相同均值方差的两个随机过程3. 自相关函数自相关函数均值和方差都只与随机过程的一维概率密度函数有关，因而它们描述均值和方差都只与随机

14、过程的一维概率密度函数有关，因而它们描述了随机过程在各个孤立时刻的特征。为了描述随机过程在两个不同时了随机过程在各个孤立时刻的特征。为了描述随机过程在两个不同时刻状态之间的联系，刻状态之间的联系， 还需利用二维概率密度引入新的数字特征。还需利用二维概率密度引入新的数字特征。 自相关函数用来描述随机过程任意两个时刻的自相关函数用来描述随机过程任意两个时刻的状态之间的内在联系状态之间的内在联系，通常用，通常用 描述。描述。 ),(21ttRX)()(),(2121tXtXEttRX 21212121),;,(dxdxttxxfXxx 若用随机过程的若用随机过程的两个不同时刻之间的二阶两个不同时刻之

15、间的二阶混合中心矩混合中心矩来定义相关函数，我们称之为自协来定义相关函数，我们称之为自协方差。用方差。用 表示，它反映了任意两个时表示，它反映了任意两个时刻的起伏值之间相关程度。刻的起伏值之间相关程度。 12( ,)XCt t12( ,)XCt t)()()()(1111tmtXtmtXEXX211111)()()()(dxdxtmtXtmtXXX 4. 自协方差函数自协方差函数比较自协方差和自相关函数的关系比较自协方差和自相关函数的关系 )()()()(),(111121tmtXtmtXEttCXXX )()()()()()()()(21121121tmtmtXEtmtXEtmtXtXEXX

16、XX)()(),(2121tmtmttRXXX比较自协方差和方差的关系比较自协方差和方差的关系 212( , )( , )( )( ) XXXCt tCt tE X tmt)()(2ttXDXttt21令令则则例例 ：求随机相应正弦波求随机相应正弦波 的数学的数学期望，方差，自相关函数及一维概率密度。期望，方差，自相关函数及一维概率密度。式中，式中， 为常数，是区间为常数，是区间0， 上均匀分布的上均匀分布的随机变量。随机变量。 0( )sin()x tt02解：由题可知：解：由题可知： 000( ) ( )sin()sincoscossin xm tE x tEtEtt（1）0000sinc

17、os cossin sincos cossin EtEtt Et E22001cos cos( )cos02Efddsin 0E同理同理( )0 xm t（2）方差）方差22222( )( )( )( )( )xxxxttm ttE x t 200011sin ()1cos(22 )1cos(22 )22EtEtEt0011cos(2)cos2 sin2sin2 2EtEt0011 cos2cos2 sin2sin2 2t Et E可知可知 sin2 cos2 0EE21( )2xt0 20 101211cos()cos()22tttt（3）自相关函数）自相关函数12( , )xR t t12

18、 ( ) ( )E x t x t1200sin()sin()Ett122100001cos(2 )cos()2Etttt（4）一维概率密度）一维概率密度在在0,2范围内，范围内，每个每个x=sin(w0t+)对应两个值：22-0tw2320tw和和 xfxftxf2211,所以由于 twxx01arcsin twxx02arcsin 22111xxx其它, 01,11,2xxtxf1.随机信号的随机信号的nm维维联合概率分布和密度函数联合概率分布和密度函数 两个不同两个不同r.s.X(t)与与Y(t)之间的之间的联联合合概率特性。概率特性。 对随机信号对随机信号X(t)任取任取 时，获得时，

19、获得n个个随机变量随机变量 ; ;nttt,.,21)(),.,(),(21ntXtXtX 对随机信号对随机信号Y(t)任取任取 时，获得时，获得m个个随机变量随机变量 。msss,.,21)(),.,(),(21msYsYsY随机过程随机过程联合特性联合特性t1t2t3tns1s2s3sm定义定义n nmm维维联合概率联合概率分布分布函数为函数为: : 定义定义n nmm维维联合概率联合概率密度密度函数为函数为: :11111111( ,; ,; , ; ,)( );( ); ( ); ( )XYnmnmnnmmFxx yy tt ssP X txX tx Y syY sy1111()111

20、111( ,; ,; , ; ,)( ,.,; ,.,; ,., ; ,.,).XYnmnmn mXYnmnmnmfxx yy tt ssFxx yy tt ssxx yy 两个不同随机信号两个不同随机信号X(t)与与Y(t)的的联合联合矩特性矩特性 互相关函数互相关函数定义为定义为: :1 2( , )XYR t t互协方差函数互协方差函数定义为定义为: 12( , )XYCt t1212( , )( )( )XYXYRt tmt m t12( ) ( )E X t Yt1122( )( )( )( )XYEX tmtY tm t2. 随机信号的随机信号的互相关函数互相关函数与与互协方差函数

21、互协方差函数互相关系数互相关系数定义为定义为: 1 21 212( , )( , )( ) ( )XYXYXYC t tt ttt21,tt(1)正交正交: 对于任意时刻对于任意时刻 ,都有都有 则称则称X(t)与与Y(t)正交。正交。1 21 2( , )( , ) 0XYYXR t tR t t 成 立(2) 线性无关线性无关: : 对于任意时刻对于任意时刻 , ,都有都有 21,tt1212( , )( , )0XYYXCt tCt t成立 则称则称X(t)与与Y(t)线性无关。线性无关。3. 两个随机信号两个随机信号正交正交、线性无关线性无关与与统计独立统计独立（3）统计独立统计独立:

22、 :对于对于X(t)和和Y(t)的任一组随机的任一组随机 变量变量, ,都有都有11111111( ,; , ,)( ,; ,)(,; ,)XYnnnmXnnYnmFxxyy tt ssFxx ttFyy ss成立则称则称X(t)与与Y(t)彼此统计独立。彼此统计独立。 两个随机信号的两个随机信号的正交正交、线性无关线性无关与与统计独立统计独立三者三者关系关系与两个随机变量间的完全与两个随机变量间的完全相同相同。1.两个随机信号两个随机信号统计独立统计独立，它们必然是，它们必然是线性无关线性无关的的；2.两个随机信号两个随机信号线性无关线性无关，不一定不一定互相互相独立独立；3.在两个随机信号

23、中在两个随机信号中任一均值为零任一均值为零时，时，线性无关线性无关 性性与与正交性正交性是等价的；是等价的；4.在两个随机信号的互相关和互协方差同时在两个随机信号的互相关和互协方差同时不为零不为零 时，它们时，它们不是线性无关不是线性无关的，也的，也不是相互正交不是相互正交的。的。 统计独立性，线性无关性和正交性的关系统计独立性，线性无关性和正交性的关系(a)一般情况下一般情况下 统统 计计 独独 立立线线 性性无无 关关 相相 互互 正正 交交 任一随机信号任一随机信号 均值为零均值为零 当当 和和 均为均为高斯随机信号高斯随机信号时时: :( )X t( )Y t 统计独立性统计独立性和和

24、线性无关性线性无关性是等价的；是等价的； (b)高斯随机信号高斯随机信号 线线 性性 无无 关关 统统 计计 独独 立立 进一步，且有进一步，且有一个均值为零一个均值为零时时: : 独立性独立性、线性无关性线性无关性和和正交性正交性三者是等价的。三者是等价的。(c)高斯随机信号，且高斯随机信号，且 有一个均值为零有一个均值为零 线线 性性 无无 关关 统统 计计 独独 立立 相相 互互 正正 交交1. 一维特征函数一维特征函数 随机过程随机过程 在任一特定时刻在任一特定时刻t的取值是的取值是一维随机变量，其特征函数为一维随机变量，其特征函数为:)(tX dxtxfeeEtuCXjuxtjuXX

25、);()();()(其反变换为：其反变换为： duetuCtxfjuxXX);(21);( 0);()();()(unXnnnnutuCjdxtxfXxtXEn阶矩阶矩4.2.3 随机过程的特征函数随机过程的特征函数12121122( ,; , )exp( )( )xC u u t tEju x tju x t 212121)(),;,(2211dxdxttxxfeXxuxuj()1 12 2121212121221( ,; , )( ,; , )(2 )j u xu xxfx x x t tC u u t t edu du其反变换为：其反变换为： 1212121212( , )( ,; ,

26、)Rx t tx x fx x x t t dx dx 0212121221),;,(uuXuuttuuC2. 二维特征函数二维特征函数4.3.1、 随机过程的连续性随机过程的连续性 1. 预备知识：预备知识：对于确定性函数对于确定性函数 ，若若)(xf0)()(lim00 xfxxfx则则 在在 处连续。处连续。)(xf0 x4.3 随机过程的微分与积分随机过程的微分与积分2. 随机过程随机过程 连续性定义连续性定义 如果随机过程如果随机过程 满足满足 )(tX)(tX0)()(lim20tXttXEt则称则称 依均方收敛意义下在依均方收敛意义下在t点连续，简点连续，简称随机过程称随机过程

27、在在t t点均方连续，记为：点均方连续，记为：)(tX)(tX)()(0tXttXl.i.mt3. 随机过程随机过程 的相关函数连续，则的相关函数连续，则 连续连续)(tX)(tX)()(2tXttXE),(),(),(),(ttRtttRtttRttttRXXXX 因此，如果对因此，如果对 时刻，函数时刻，函数 在在 点上连续，则随机过程点上连续，则随机过程 必在点必在点t上连续。上连续。 21,tt),(21ttRXttt21)(tX4. 随机过程随机过程 均方连续，则其数学期望连续均方连续，则其数学期望连续 )(tX证证：2222YEYEYEY)()()()(22tXtTXEtXttXE

28、 由均方连续的定义由均方连续的定义 ，则不等式左端趋，则不等式左端趋于于0，那么不等式的右端也必趋于，那么不等式的右端也必趋于0（均值的（均值的平方不可能小于平方不可能小于0） 0 t)()(tXttXY设设即：即： 0)()()()( tXEttXEtXttXE 注意注意 为确定性函数，由预备知识，可为确定性函数，由预备知识，可知连续。知连续。 )(tXE)(lim)(lim00ttXEttXEtt 可将此结果写成可将此结果写成求极限和求数学期望的次序可以交换求极限和求数学期望的次序可以交换预备知识：预备知识： 对于确定性函数对于确定性函数,一阶可导一阶可导: 如果如果 存在，则存在，则 在

29、在t处处可导，记为可导，记为 。 ttfttft )()(lim0)(tf)(tf 4.3.2、 随机过程的导数随机过程的导数二阶可导：二阶可导：若若 hktsfktsfthsfkthsfkh),(),(),(),(lim00 存在，则存在，则 二阶可导，记为二阶可导，记为 ),(tsftstsf ),(2 通常意义下的导数通常意义下的导数随机过程X(t)的导数可定义为极限ttXttXdttdXtXt)()(lim)()(0如果该极限对过程X(t)的任意一个样本函数都存在，则)(tX具有导数的通常意义。如果极限在均方意义下存在，则X(t)具有均方意义下的导数。1. 随机过程可导的定义随机过程可

30、导的定义如果随机过程如果随机过程 满足满足 )(tX0)()()(lim20tXttXttXEt则称则称 在在t时刻具有均方导数时刻具有均方导数 ，表示为，表示为 )(tX)(tXttXttXmi ldttdXtXt)()(. .)()(0 均方意义下的导数均方意义下的导数（1）随机过程导数的数学期望等于其数学）随机过程导数的数学期望等于其数学期望的导数期望的导数 )()(tXEdtddttdXE证明：证明： )()(lim)(0ttXttXEdttdXEt ttmttmttXttXEXXtt)()(lim)()(lim00dttdmtmXX)()(2. 数字特征数字特征（2）随机过程导数的相

31、关函数等于可微随机）随机过程导数的相关函数等于可微随机过程的相关函数的混合偏导数过程的相关函数的混合偏导数 2121221),()()(ttttRtXtXEX证明：证明： )()(.)()(lim222211110021ttXttXttXttXEtt)()(.)()(lim222211110021ttXttXttXttXEtt2121211221221100),(),(),(),(lim21ttttRtttRtttRttttRXXXXtt21212),(ttttRX)()(21tXtXE？)()(21tXtXE)(lim)()()(220121ttXttXtXEtXtXEt)()(lim221

32、0ttXttXtXEt ttXtXEttXtXEt21210)()(limtttRtttRXXt21210lim，221tttRX，？)()(21tXtXE121tttRX，例例1. 随机过程X(t)的数学期望为 ttmXsin5相关函数为212)(5 . 0213,ttXettR求随机过程 tXtY的均值与相关函数 tdttdmtmXYcos521)(5 . 0221212212123,ttettttRttRttXY1. 预备知识预备知识 对于确定性函数对于确定性函数 ，)(xf baniiixfdxxf10)(lim)( 其中其中 ，1 iiixxx nixi,.,2 , 1,max 4.

33、3.3、 随机过程的积分随机过程的积分 定区间积分：定区间积分：badttXY)(abt2. 随机过程的三种积分随机过程的三种积分变上限随机过程积分：变上限随机过程积分： tadXtY)()(at（1 1）定区间随机过程积分的数学期望等于）定区间随机过程积分的数学期望等于随机过程数学期望的积分。随机过程数学期望的积分。 badttXEYE)(niiittXmilE10)(. .niiittXEmil10)(. .badttXE)(baXdttm)(证明证明：求积分和求期望可以互换顺序。求积分和求期望可以互换顺序。niiibattXmildttXY10)(. .)(3.定区间随机过程积分的数字特征定区间随机过程积分的数字特征(2) 定区间随机过程积分的均方值等于