哈工程随机信号1

1、随机信号分析Random Signal Analysis哈尔滨工程大学信息与通信工程学院主讲：张雅彬1掌握概率空间的基本概念；随机变量及其函数的概率分布函数、概率密度函数、特征函数的定义和性质；具有计算随机变量数字特征的能力；了解极限定理和随机序列的收敛。2掌握随机过程的基本概念随机过程的基本概念；随机过程的平稳性、遍历性随机过程的平稳性、遍历性的概念、判别方法和主要性质；平稳过程平稳过程的相关函数性质的相关函数性质，熟练掌握平稳随机过程数字特征的相关运算，熟练掌握高斯随高斯随机变量、高斯随机过程的概念和性质机变量、高斯随机过程的概念和性质，熟悉相应的表示方法、参数含义及相关运算。教学教学基本

2、要求基本要求23掌握随机过程的功率谱密度、互谱密度的概念和主要性质随机过程的功率谱密度、互谱密度的概念和主要性质；了解随机过程的有理谱分解定理，熟练掌握白噪声过程的概念白噪声过程的概念和性质和性质，熟悉相应的表示方法、参数含义及相关运算。4掌握线性系统的基本理论，熟练运用时域分析法和频域分析法，掌握系统输出的平稳性及其统计特性的计算系统输出的平稳性及其统计特性的计算，白噪声通白噪声通过线性系统的分析，等效噪声带宽的定义过线性系统的分析，等效噪声带宽的定义，掌握随机信号通过非线性系统的重要结论。教学教学基本要求基本要求3 第一章 概率论1、概率空间、条件概率空间、概率空间、条件概率空间 全概率公

3、式、贝叶斯公式的应用，统计独立的含义全概率公式、贝叶斯公式的应用，统计独立的含义2、随机随机变量及随机变量变量及随机变量函数的分布函数的分布 关键是在各种函数变换条件下求出相应的雅可比因子关键是在各种函数变换条件下求出相应的雅可比因子3、随机变量的数字特征随机变量的数字特征（1）熟练掌握数学期望、方差、各阶矩的定义和运算性质熟练掌握数学期望、方差、各阶矩的定义和运算性质（2）明确变量之间统计独立、不相关、正交应满足的条件，明确变量之间统计独立、不相关、正交应满足的条件， 差别和联系差别和联系4、随机变量特征函数的定义和性质随机变量特征函数的定义和性质 灵活应用随机变量与矩的关系灵活应用随机变量

4、与矩的关系5、高斯随机变量高斯随机变量41.1 概率空间的概念概率空间的概念1随机试验随机试验E 满足满足下列三个条件的试验称为下列三个条件的试验称为随机试验随机试验 (1)在相同条件下可重复进行；在相同条件下可重复进行； (2)试验的结果不止一个，所有可能的结果试验的结果不止一个，所有可能的结果能事先能事先明确；明确； (3)每次试验前不能确定会出现哪一个结果。每次试验前不能确定会出现哪一个结果。2样本点样本点s随机试验中每一个可能的结果。随机试验中每一个可能的结果。3样本空间样本空间S随机试验随机试验E的所有基本事件组成的集合称为的所有基本事件组成的集合称为样本空间。样本空间。5( :)S

5、s sE是试验 中可能结果AS 随机事件是若干个样本点所构成的集合随机事件是若干个样本点所构成的集合 As事件事件A A在这次试验中在这次试验中发生发生了了不可能事件不可能事件、必然事件必然事件、和事件和事件、积事件积事件、差事件差事件、互不相容（互斥互不相容（互斥）、）、逆事件（对立）逆事件（对立）4随机事件随机事件A 在在研究某随机问题时，要通过试验研究某随机问题时，要通过试验E去观察现象（或事去观察现象（或事件），而所观察的现象往往是由件），而所观察的现象往往是由S中的若干样本点所构成的集中的若干样本点所构成的集合，合，称为随机事件称为随机事件。61.1 概率空间的概念概率空间的概念A(

6、A)SAnPn中所含样本点数中所含样本点数 性质性质 （归一性）， 若 两两互不相交， （有限可加性）0(A)1P( )1P S ()0P 11(A )(A )nnkkkkPP1AAn71.1 概率空间的概念概率空间的概念1.1.1古典概率古典概率(A)A(A)( )LPL SS的量度的量度 性质性质 （归一性）， 若 两两互不相交， （可列可加性）0(A)1P( )1P S ()0P 11(A )(A )nnkkkkPP1AAn81.1 概率空间的概念概率空间的概念1.1.2 几何几何概率概率1频数和频率频数和频率2概率概率事件事件A A发生的概率统计定义发生的概率统计定义( )limAnn

7、P An事件的频率可以刻画事件发生的可能性大小，但是频率具有随机事件的频率可以刻画事件发生的可能性大小，但是频率具有随机波动性，对于相同的试验次数波动性，对于相同的试验次数 ，事件，事件A发生的频率可能发生的频率可能不同不同，n n越越小，这种波动小，这种波动越大越大， n n越大越大，波动越小，波动越小，当当n n趋于趋于无穷时，频率趋无穷时，频率趋于一个稳定的值，可以把这个稳定的值定义为事件于一个稳定的值，可以把这个稳定的值定义为事件A发生的概率。发生的概率。91.1 概率空间的概念概率空间的概念1.1.3 统计概率统计概率概率的公理化定义概率的公理化定义 （归一性）， 若 两两互不相交，

8、 ( )1P S ()0P 11(A )(A )nnkkkkPP1AAn100(A)1P1.1 概率空间的概念概率空间的概念1.1.3 统计概率统计概率3概率空间概率空间规定一个试验的所有样本点集合构成了规定一个试验的所有样本点集合构成了样本空间样本空间S，在在S中一个或若干个样本点的适当中一个或若干个样本点的适当集合集合 ，称为，称为事件域事件域， 中中每一个集合称为每一个集合称为事件事件。若若 ，则，则 就是事件就是事件A的的概率概率。称称 为为概率空间概率空间。FFAF(A)P( , )SPF小结小结: 随机试验随机事件基本事件样本空间样本点古典概率几何概率概率公理化定义概率空间频数频率

9、概率111.1 概率空间的概念概率空间的概念1.1.3 统计概率统计概率1.2 条件概率与统计独立条件概率与统计独立1.2.1 条件概率条件概率设设A、B为随机试验为随机试验E 的两个事件，的两个事件，在事件在事件B已已发生发生的的条件下，事件条件下，事件A发生发生的概率的概率为为()(),( )0( )P ABP A BP BP B()() ( )() ( )P ABP A B P BP B A P A 0()1P A B()1P S B 11(A)(A)nnnnPBPB若若 两两两两互斥互斥，1AAn ( )0P A ( )0P B 前提前提 或或 121.2 条件概率与统计独立条件概率与

10、统计独立1.2.2 全概率公式全概率公式设有设有N个个互斥互斥事件事件 ，它们的和为整个，它们的和为整个S，满足：满足： （互斥性互斥性） （完备性完备性）则则 （全概率公式全概率公式） (1,2,.,)nB nN,1,2,.,ijBBijN 1NnnBS1( )() ()NnnnP AP A B P B计算计算复杂复杂事件事件A 发生的概率，发生的概率，A可以在可以在 发生的条件下发生，发生的条件下发生，当当 不易不易求，但容易找到求，但容易找到S的的划分划分且且 和和 易知易知。由由因及果因及果(1,2,.,)nB nN( )P A()nP B()nP A B131.2 条件概率与统计独立

11、条件概率与统计独立1.2.3 贝叶斯公式贝叶斯公式设有设有N个个互斥互斥事件事件 ，为样本空间为样本空间S的一个划的一个划分分，且且 ， 1() ()(),1,2,.,() ()nnnNnnnP B P A BP B AnNP B P A B(1,2,.,)nB nN()0(1,2,.,)nP BnN（贝叶斯（贝叶斯公式公式）我们把事件我们把事件A 看作某一过程的结果看作某一过程的结果，把，把 看作看作该过程该过程的若干个的若干个原因。原因。根据根据历史资料，每一原因发生的历史资料，每一原因发生的概率概率 已知，已知，而且而且每一原因对结果的影响每一原因对结果的影响程度程度 已知，已知，若若已

12、知已知事件事件A 已经发生，求此时是由已经发生，求此时是由第第n个个原因引起的概率原因引起的概率(1,2,.,)nB nN()nP B()nP A B()nP B A先验概率先验概率转移转移概率概率后后验验概率概率贝叶斯公式是基于贝叶斯公式是基于结果推测结果推测某种某种起因的可能性起因的可能性141.2 条件概率与统计独立条件概率与统计独立1.2.4 统计独立统计独立 两事件统计两事件统计独立独立（以下任一公式可作为判断公式）以下任一公式可作为判断公式）()( )P A BP A()( )P B AP B()( ) ( )P ABP A P B理解理解：两两事件互斥事件互斥：两事件在样本空间上

13、没有交集，两事件在样本空间上没有交集，即即 。 是集合范畴的是集合范畴的概念概念两事件统计独立两事件统计独立：一：一个事件发生，不影响另一事件是否发生个事件发生，不影响另一事件是否发生。 是概率范畴的概念是概率范畴的概念AB 151.2 条件概率与统计独立条件概率与统计独立1.2.4统计独立统计独立 2. 2. 三三事件统计独立161.3 随机变量及其概率分布函数随机变量及其概率分布函数1.3.1 随机变量随机变量 1. 1. 引言引言 原样本空间（不同样本类型） 新样本空间（统一样本类型）171.3 随机变量及其概率分布函数随机变量及其概率分布函数1.3.1 随机变量随机变量 2. 2. 定

14、义定义设随机试验E的样本空间为S=s，如果对于每一个sS，有一个实数X(s)与之对应，这样就得到一个定义在S上的单值函数X(s)，称X(s)为随机变量，简记为X。3. 3. 表示表示181.3 随机变量及其概率分布函数随机变量及其概率分布函数1.3.2 离散型随机变量及其分布离散型随机变量及其分布列列 1. 1. 特点特点全部可能取值是有限个或可列无限多个。可以写出每一个可能取值的概率值2. 2. 概率表示概率表示分布列分布列,1,2,.nnP Xxpn3. 3. 性质性质 X x1 x2 . xn pk p1 p2 . pn 0,1,2,.npn1nnp 191.3 随机变量及其概率分布函数

15、随机变量及其概率分布函数1.3.3 连续型随机变量及其密度函数连续型随机变量及其密度函数 1. 1. 特点特点无限多个可能取值，且连续地占据着整个取值区间。2. 2. 概率表示概率表示密度函数密度函数（1）定义（2）性质 P aXbP XbP Xa( )bXaP aXbfx dx概率密度函数概率密度函数( )0Xfx ( )1Xfx dxPX 问题：有没有 的约束条件( )1Xfx 201.3 随机变量及其概率分布函数随机变量及其概率分布函数1.3.4分布函数及其性质分布函数及其性质 1. 1. 定义定义设设X X为随机变量，为随机变量， 为实数，为实数，定义定义 为为X X的概率分的概率分布

16、函数，简称分布函数。布函数，简称分布函数。 x( )F xP Xx( )( )XXP aXbFbFa21按 的定义，当ab时，( )XFx1.3 随机变量及其概率分布函数随机变量及其概率分布函数1.3.4分布函数及其性质分布函数及其性质 2.2.离散型随机变量分布函数、概率密度离散型随机变量分布函数、概率密度 22,( )()iXiii x xFxpU xx( )()Xiiifxpxx1,0( )0,0 xU xx1.3 随机变量及其概率分布函数随机变量及其概率分布函数1.3.4分布函数及其性质分布函数及其性质 3.3.分布函数分布函数性质性质( )XFx（1）（2）（3）0lim( )( )

17、XXxaFxFa ( )1XF ()0XF 为非负、单调递增函数为非负、单调递增函数231.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.1 二维分布函数及其基本性质二维分布函数及其基本性质1、定义2、性质24一、二维分布函数二维分布函数1.4 多维随机变量及其分布函数多维随机变量及其分布函数251.4.1 二维分布函数及其基本性质二维分布函数及其基本性质1.4 多维随机变量及其分布函数多维随机变量及其分布函数二、二、离散型概率分布函数1、概率表示2、性质3、（X、Y）的联合分布函数261.4.1 二维分布函数及其基本性质二维分布函数及其基本性质1.4 多维随机变量及其分布函数多

18、维随机变量及其分布函数三、连续型分布函数三、连续型分布函数1、（、（X、Y）的联合概率密度函数）的联合概率密度函数2、（X、Y）的）的联合分布数联合分布数271.4.1 二维分布函数及其基本性质二维分布函数及其基本性质1.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.2 边沿分布边沿分布二维二维情况情况28( )( ,)( , )( )( , )( , )xXyYFxF xf u v dudvFyFyf u v dudv 连续型( )( ,)( )( , )iiXijxxjYijyyiFxF xpFyFyp 离散型1.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.2

19、 边沿分布边沿分布二维二维情况情况29（X、Y）的概率分布表）的概率分布表1.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.2 边沿分布边沿分布（连续型随机变量）（离散型随机变量）301.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.2 边沿分布边沿分布三维以上情况31由联合分布能够决定边沿分布由联合分布能够决定边沿分布由边沿分布不能决定联合分布由边沿分布不能决定联合分布1.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.3 相互独立的随机变量与条件分布相互独立的随机变量与条件分布321.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.3 相

20、互独立的随机变量与条件分布相互独立的随机变量与条件分布331.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.3 相互独立的随机变量与条件分布相互独立的随机变量与条件分布341.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.3 相互独立的随机变量与条件分布相互独立的随机变量与条件分布35二.条件分布和条件密度函数1.定义B事件条件下1.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.3 相互独立的随机变量与条件分布相互独立的随机变量与条件分布36二.条件分布和条件密度函数2.离散型条件分布3.连续型条件分布a.B事件是b.B事件是,|ijijijjjP X

21、x YypP Xx YyP YypYy( , )|( )XYYFx yP Xx YyFyYy( , )( | )( )XYX YYfx yfx yfy1.4 多维随机变量及其分布函数多维随机变量及其分布函数1.4.3 相互独立的随机变量与条件分布相互独立的随机变量与条件分布374.随机变量相互独立1.5 随机变量函数的分布随机变量函数的分布本节讨论的问题1.4节讨论381.5 随机变量函数的分布随机变量函数的分布1.5.1 一维随机变量函数的分布一维随机变量函数的分布1、单调函数的情况单调函数示意图 )(xgy yxxy0( )( )YXdxfyfxdy概率密度非负性39概率相等：( )( )

22、XYfx dxfy dy1.5 随机变量函数的分布随机变量函数的分布2、非单调函数的情况（1）一对二值401.5 随机变量函数的分布随机变量函数的分布2、非单调函数的情况（2）一对多值11( )()()YXXnnfyfxJfxJ)(11yhx )(yhxnn/kkJdxdy其中其中雅可比雅可比(Jacobi)(Jacobi)41 42 已知已知 求求1.5 随机变量函数的分布随机变量函数的分布2(,),XXXN mYaXb( )Yfy 1.11 已知已知 求求2(0,1),XNYX( )Yfy 1.12已知已知求求1,( )20,Xxfx ，其它( )YfysinYX1.5 随机变量函数的分布

23、随机变量函数的分布1.5.2 二维随机变量函数的分布二维随机变量函数的分布仅讨论单值变化的情况431.5 随机变量函数的分布随机变量函数的分布441.5 随机变量函数的分布随机变量函数的分布451.5 随机变量函数的分布随机变量函数的分布（1）（2）（3）（4）461.5 随机变量函数的分布随机变量函数的分布1.5.4 多维随机变量函数的分布多维随机变量函数的分布仅讨论单值变化的情况471.6 随机变量的数字特征随机变量的数字特征1.6.1 数学期望数学期望一、定义、定义随机变量全部可能取值的加权和，权重就是各可能取值出现的概率。离散随机变量离散随机变量条件：级数绝对收敛条件：级数绝对收敛连续随机变量连续随机变量条件：积分绝对可积条件：积分绝对可积