第1章概率论基础

随机信号分析

RandomSignalAnalysis郑植通信学院办公室：科B-224Tel-mail:zz@随机信号分析2课程简介课程名称：随机信号分析课程性质：专业基础课课时：48学时先修课程：概率论、信号与系统等后续课程：通信原理、信号检测与估计成绩考核：平时＋期中考试＋期末考试注：平时包括作业、随堂测练随机信号分析3课程简介教材：《随机信号分析》第4版李晓峰等编著电子工业出版社随机信号分析4课程简介参考资料《随机信号分析》赵淑清等编著哈尔滨工业大学出版社《随机过程及应用》朱庆棠编著电子科技大学出版社

随机信号分析5课程简介内容安排：概率论基础第一章概率论基础随机信号的基础理论：第二章随机信号第三章平稳性与功率谱密度第四章各态历经性与随机实验随机信号的应用第五章随机信号通过线性系统第六章带通随机信号

随机信号分析6学习方式课堂教学课堂讨论师生互动课后作业随机信号分析75个希望：课前预习，提出问题；认真听课，做好笔记；课后复习，独立完成作业；整理疑问，积极讨论；总结提高，不断进步！随机信号分析8第一章概率论基础复习、总结概率论的基本知识补充一些新的知识点：利用冲激函数表示离散与混合型随机变量的概率密度函数随机变量的条件数学期望特征函数瑞利与莱斯分布随机变量的基本实验方法（自学）随机信号分析9第一章概率论基础1.1概率公理与随机变量1.2多维随机变量与条件随机变量1.3随机变量的函数1.4数字特征与条件数学期望1.5特征函数1.6典型分布1.7随机变量的仿真与实验随机信号分析101.1概率公理与随机变量随机现象 在一定条件下，对某种现象进行实际观察时，所得结果不能预先完全地确定，而只能是多种可能结果中的一种，这种现象称为随机现象。定义：随机试验（RandomExperiment）对随机现象做出的观察与科学实验。随机信号分析111.1概率公理与随机变量定义随机实验的样本点ξi

一个随机实验所有可能的“基本结果”又称为样本点，记为ξi（i=1,2,……）定义随机实验的样本空间Ω(SampleSpace)

随机试验所有的基本可能结果构成的集合称样本空间，常表示为：

Ω={随机实验的全部基本实验结果}={ξ:ξ为随机实验的基本实验结果}随机信号分析121.1概率公理与随机变量定义事件

事件（Event）是试验中“人们感兴趣的结果”构成的集合，是Ω的子集。各种不同的事件的总体构成一个事件集合，称为事件域。

e.g.不可能事件，空集φ，不包含任何样本点随机信号分析131.1概率公理与随机变量定义概率 事件是随机的。赋予事件一个出现可能性的度量值，称为概率（Probability）。“可能性的度量值”是“宏观”意义下（即大数量的情形下）的比例值，由相对频率（Relativefrequency）来计算:随机信号分析141.1概率公理与随机变量概率公理：任何事件A的概率满足：非负性：任取事件A

，归一性：可加性：若事件A、B互斥，即则随机信号分析151.1概率公理与随机变量事件概率的基本性质：

随机信号分析161.1概率公理与随机变量条件事件：条件概率（Conditionalprobability），随机信号分析171.1概率公理与随机变量事件A与B独立（Independent）等价地定义为：多个事件彼此独立，随机信号分析181.1概率公理与随机变量事件的最基本运算：（参见教材）随机信号分析19例1.1掷硬币实验：一次投掷与相继两次投掷硬币，观察出现正面或反面结果的试验。分析：投掷硬币实验1为一次投掷观察硬币正、反面出现，其样本空间其中，H表示正面出现，T表示反面出现随机信号分析20例1.1事件域：显然，随机信号分析21例1.1续投掷硬币实验2为连续二次投掷观察硬币正、反面出现，其样本空间有四种可能结果其中，s0

＝（正，正），s1

＝（正，反），s2

＝（反，正）和s3

＝（反，反），这里的s0

＝（正，正）＝（前一次投掷出现正，后一次投掷出现正），……

显然，P0=1/4，P1=1/4，P2=1/4，P3=1/4随机信号分析22例1.2一列N个格子，将一只小球随机放入其中任一格子。求：（1）小球放入第k号格子的概率?（2）前k个格子中有小球的概率？解：因为是等概的，显然，又各个格子是互斥的，于是随机信号分析231.1概率公理与随机变量几个基本公式链式法则：随机信号分析241.1概率公理与随机变量全概率公式(TotalProbability)完备事件组或分割（Partition）： 事件组 ，满足：

1）

2）全概率公式：任取事件B随机信号分析251.1概率公理与随机变量贝叶斯（Bayes）公式：任取事件B

先验概率：转移概率：后验概率：随机信号分析26例1.3在二元传输或检测中，先验概率分别为，若传输可靠性为80%，问收到“1”时，真正发送的消息是什么？解：根据贝叶斯公式0X10Y1随机信号分析271.1.2随机变量举例1正弦信号发生器：正弦信号发生器或各种正弦振荡电路产生的波形是如下的函数形式其中A是振幅，Ω是角频率，Θ是初相。随机信号分析28举例1续s0s1…Si

样本空间为Ω＝{s0,s1,s2…}随机信号分析29举例2投掷骰子样本空间Ω

＝{ξ1，ξ2，…，ξ6}事件样本点值域空间出现“1”点面ξ11出现“2”点面ξ22………………出现“6”点面ξ66随机信号分析30举例2续通过映射关系，一个样本点对应一个值，样本空间Ω映射成随机变量X（r.v.X）。r.v.X={1,2,3,4,5,6}值域空间123456随机信号分析311.1.2随机变量定义：随机变量在样本空间Ω上定义一个单值实函数X(ξ)，则称为随机实验E中的随机变量，简记为r.v.X。并规定：用的概率来描述的概率特性，记为称它为X的分布函数（Distributionfunction），或称为累积分布函数（Cumulativedistributionfunction）。随机信号分析32随机变量映射1.1.2随机变量Ωξ1·ξ2·ξi·X(·)X2XiX1样本空间随机变量X(ξ)随机变量值域…随机信号分析331.1.2随机变量随机变量的分类连续随机变量（C.r.v.）离散随机变量（D.r.v.）混合随机变量随机信号分析341.1.2随机变量r.v.的研究只能从统计学角度进行随机信号分析35举例3例：

显然

注意：D.r.v的概率分布函数是阶跃的，阶跃的高度等于r.v.在该点的概率。随机信号分析36举例3续概率分布函数F(x)pk…xkx3x2x1xp1P1＋P21随机信号分析37随机变量概率分布函数的性质性质1：极限特性性质2：右连续性

随机信号分析38随机变量概率分布函数的性质性质3：区间概率特性性质4：单调非减性随机信号分析391.1.2随机变量定义：概率密度函数（Probabilitydensityfunction） 随机变量X的概率密度函数（或）定义为：注：若FX(x)连续，则fX(x)存在；若FX(x)有间断点，则引入δ(x)，故fX(x)总是存在。随机信号分析40举例3续例：显然所以随机信号分析41举例3续概率密度函数x1x2x3xkpk…f(x)xp1p2p3随机信号分析42举例3续对于分布律为的离散型随机变量，其分布函数形如：密度函数为式中，取值位置对应自变量的偏移量，取值概率对应前面的幅值。随机信号分析43随机变量概率密度函数的性质性质1：区间概率特性性质2：非负性

随机信号分析44随机变量概率密度函数的性质性质3：归一性性质4：与FX(x)的关系随机信号分析451.1概率公理与随机变量随机变量不同于普通变量表现在两点上：变量可以有多个取值，并且永远不能预知它到底会取哪个值；变量取值是有规律的，这种规律用概率特性来明确表述；因此，凡是讨论随机变量就必然要联系到它的取值范围与概率特性。随机信号分析461.1概率公理与随机变量在描述随机变量的概率特性时：分布函数指明直到x处的累积概率；密度函数适用于连续取值部分。离散变量X，常采用分布律；随机信号分析47第一章概率论基础1.1概率公理与随机变量1.2多维随机变量与条件随机变量1.3随机变量的函数1.4数字特征与条件数学期望1.5特征函数1.6典型分布1.7随机变量的仿真与实验随机信号分析481.2多维随机变量与条件随机变量定义在某些情况下，随机实验的基本可能实验结果ξ经过两个或两个以上的实函数映射，得到两个或两个以上的随机变量，比如，这些随机变量组成的向量称为n维随机变量（或向量）：随机信号分析49n维随机变量（或向量）1.2多维随机变量与条件随机变量Ωξ1·ξ2·ξi·X1(·)X2(·)…Xi(·)X1(ξ)多维映射X2(ξ)Xi(ξ)…

…随机信号分析501.2多维随机变量与条件随机变量二维随机变量的概率分布函数 二维随机变量Z的概率分布函数是其分量随机变量X与Y

的联合概率分布函数。其定义为： 这里，X或Y的概率分布函数或称为的边缘概率分布函数。

随机信号分析51二维随机变量的概率分布函数yx{X≤x,Y≤y}随机信号分析52联合概率分布函数FXY(x,y)的性质性质1：区间概率特性性质2：极限取值特性

随机信号分析53联合概率分布函数FXY(x,y)的性质性质3：单调递增性性质4：边缘概率分布随机信号分析54二维随机变量的概率密度函数fXY(x,y)定义：二维随机变量的概率密度函数 二维随机变量Z的概率密度函数，就是其分量随机变量X和Y的联合概率密度函数或简称二维概率密度函数。 这里，X或Y的概率密度函数或称为的边缘概率密度函数(marginalprobabilitydensityfunction)。随机信号分析55二维随机变量概率密度函数fXY(x,y)性质性质1：区间概率特性性质2：非负性随机信号分析56二维随机变量概率密度函数fXY(x,y)性质性质3：归一性性质4：边缘概率特性随机信号分析57二维随机变量概率密度函数fXY(x,y)性质D.r.v联合分布律来描述，密度函数由多维冲激函数组成，形如联合分布函数由多维阶跃函数组成，形如随机信号分析58多维随机变量类似的，对于多维随机变量n维联合概率分布函数和密度函数分别为：随机信号分析591.2多维随机变量与条件随机变量给出观察系统工作情况的样本空间Ω和随机向量(X1,X2)的联合样本空间SJ，并指出Ω和SJ中事件的对应关系；计算(X1,X2)的概率密度函数。随机信号分析601.2多维随机变量与条件随机变量Ω随机信号分析611.2多维随机变量与条件随机变量随机信号分析621.2多维随机变量与条件随机变量随机信号分析631.2多维随机变量与条件随机变量x2F(x1,x2)x1(1,0)(0,0)(0,1)(1,1)0.00020.010.021随机信号分析641.2多维随机变量与条件随机变量随机信号分析651.2多维随机变量与条件随机变量随机信号分析66例1.8二维正态分布二维正态分布的二维概率密度函数为:

求f(x)

与f(y)。随机信号分析67例1.8续解：指数部分可写成随机信号分析681.2多维随机变量与条件随机变量它们是一维正态分布随机信号分析691.2多维随机变量与条件随机变量条件事件形如：随机信号分析701.2多维随机变量与条件随机变量条件随机变量的概率分布与密度函数：对于点事件随机信号分析711.2多维随机变量与条件随机变量全概率公式：

贝叶斯公式：链式公式:随机信号分析72随机变量的独立性Independence

及其判决条件定义：两个随机变量统计独立统计独立的充要条件

随机信号分析73随机变量的独立性及其判决条件k个随机变量统计独立的判别条件随机信号分析741.2多维随机变量与条件随机变量例1.8二维正态分布Normal/Gaussian求（1）f(y|x);

（2）X与Y之间的独立性。随机信号分析751.2多维随机变量与条件随机变量解：（1）

条件分布是一维正态分布（2）X与Y独立的充要条件是：随机信号分析761.2多维随机变量与条件随机变量例1.9二维均匀分布求：随机信号分析771.2多维随机变量与条件随机变量解：根据例1.6的结果，由定义有，任意给定，条件事件服从均匀分布，比如即条件事件服从均匀分布.随机信号分析781.2多维随机变量与条件随机变量显然，X与Y不独立随机信号分析79第一章概率论基础1.1概率公理与随机变量1.2多维随机变量与条件随机变量1.3随机变量的函数1.4数字特征与条件数学期望1.5特征函数1.6典型分布1.7随机变量的仿真与实验随机信号分析801.3随机变量的函数变换随机信号分析81一元函数变换若Y=g(X)，且存在反函数X=h(Y)，且h’(Y)存在，则：其中，a=min{g(-∞,+∞)},b=max{g(-∞,+∞)}随机信号分析82一元函数变换证明：假如Y=g(X)单调递增xyyh(y)随机信号分析83一元函数变换假如Y=g(X)单调递减综上，xyyh(y)随机信号分析84举例例：r.v.X与Y满足线性关系式：Y=aX+b，其中X~N(mX,σX2)是高斯随机变量，a,b为常数。试求r.v.Y的概率密度函数。解答： 由题可知随机信号分析85举例续随机信号分析86结论：若随机变量Y=aX+b，（a≠0），则X和Y的概率密度函数满足以下关系：随机信号分析87举例例：（非单调函数）r.v.X的p.d.f为fX(x)，求随机变量Y=X2的p.d.f

fY(x)。解答：xy随机信号分析88举例续随机信号分析891.3随机变量的函数变换?随机信号分析901.3随机变量的函数变换随机信号分析91二元变换例1.12已知r.v.X,Y的分布函数Fx(x)，FY(y)和Fx,y(x,y)，求U=min(X,Y)与V=max(X,Y)的分布函数。随机信号分析92二元变换随机信号分析93二维变换证明：略随机信号分析94随机信号分析95举例例：已知r.v.(X1,X2)的联合概率密度函数为fX(x1，x2)，求Y＝X1＋X2的p.d.f。解答：

思路：Step1：如何建立已知fX(x1，x2)和fY(y)之间的关系？Step2：一维变换？二维变换？Step3：构造二维变换，Y1=Y,Y2=?√变换！随机信号分析96举例续随机信号分析97举例续随机信号分析98举例续随机信号分析991.3随机变量的函数变换（1）标称20kΩ的电阻的，该概率是0.5。（2）两个标称10kΩ的电阻串联，可认为，该概率是0.75。随机信号分析1001.3随机变量的函数变换随机信号分析1011.3随机变量的函数变换随机信号分析1021.3随机变量的函数变换随机信号分析1031.3随机变量的函数变换r≥0(Rayleigh)随机信号分析104第一章概率论基础1.1概率公理与随机变量1.2多维随机变量与条件随机变量1.3随机变量的函数1.4数字特征与条件数学期望1.5特征函数1.6典型分布1.7随机变量的仿真与实验随机信号分析1051.4.1数学期望（或统计平均）定义1.1：随机变量X的统计平均E[X]，数学期望（Expectation），或统计（集）平均（Ensembleaverage），或均值（Mean），也简记作mXC.R.VD.R.V

一般地随机信号分析1061.4.1数学期望（或统计平均）随机向量的统计平均E[X]随机信号分析1071.4.1数学期望（或统计平均）随机信号分析1081.4.2矩与联合矩（JointMoment）原点矩 随机变量X的k阶原点矩通常记为，其定义为C.r.vD.r.v

随机信号分析1091.4.2矩与联合矩中心矩 随机变量X的k阶中心矩通常记为，其定义为 当k＝2时，

μ2称为方差(Variance)，σ称为标准差(standarddeviation)随机信号分析1101.4.2矩与联合矩联合（混合）原点矩 随机变量的（k+r）阶联合原点矩通常记为，定义为： 当k=r=1时， 称为的相关矩(correlation)。随机信号分析1111.4.2矩与联合矩联合中心矩(momentofinertia)

随机变量的（k+r）阶联合中心矩通常记为，定义为 当k=r=1时， 称为的互协方差(Covariance)。随机信号分析1121.4.2矩与联合矩相关系数(CorrelationCoefficient)|ρ|＝1，线性相关ρ=0，不相关0<ρ≤1，正相关－1≤ρ<0

，负相关随机信号分析113举例3.9例3.9

随机变量和线性相关，并有关系 。试证明，和的相关系数。随机信号分析114举例3.9续证明：随机信号分析115举例例：若X与Y统计独立，讨论X与Y的相关性。解答：随机信号分析116举例续所以X与Y不相关(uncorrelated)。随机信号分析117举例例：若X与Y不相关，讨论X与Y的统计独立性。解答：例如： 显然，X与Y不独立。随机信号分析118举例续随机信号分析119正交性(orthogonality)随机变量和满足下述条件时，称两个随机变量和正交，即随机信号分析120举例讨论正交性与不相关之间的关系。解：随机信号分析121独立性、正交和不相关之间的关系一般地，统计独立互不相关相互正交任一随机变量均值为0(a)正态分布除外随机信号分析122独立性、正交和不相关之间的关系高斯（正态）随机变量互不相关统计独立随机信号分析123独立性、正交和不相关之间的关系高斯（正态）随机变量，且有一个均值为零互不相关统计独立相互正交随机信号分析1241.4.4条件数学期望(Conditionalexpectation)随机信号分析1251.4.4条件数学期望随机信号分析1261.4.4条件数学期望在一定条件下的数学期望，称为条件数学期望（或条件均值）。以二维为例，定义如下：对于离散型随机变量，是y的函数，即随机信号分析1271.4.4条件数学期望如果该函数的自变量为Y，则是一个新的随机变量。对它求平均有:

称为全期望公式。随机信号分析1281.4.4条件数学期望随机信号分析1291.4.4条件数学期望随机信号分析1301.4.4条件数学期望随机信号分析1311.4.4条件数学期望随机信号分析1321.4.4条件数学期望随机信号分析1331.4.4条件数学期望随机信号分析1341.4.4条件数学期望随机信号分析1351.4.5重要不等式随机信号分析1361.4.5重要不等式随机信号分析137第一章概率论基础1.1概率公理与随机变量1.2多维随机变量与条件随机变量1.3随机变量的函数1.4数字特征与条件数学期望1.5特征函数1.6典型分布1.7随机变量的仿真与实验随机信号分析1381.5特征函数(CharacteristicFunction)

特征函数、矩发生函数和概率发生函数在分析随机变量和向量的各种问题中有着非常重要的意义，特别是在分析独立随机变量、向量和的概率与矩特性时，应用它们是十分方便的。在分析特征函数、矩发生函数和概率发生函数时，我们特别强调了变换分析技术。由此建立了傅立叶变换、Z变换等分析随机信号与系统的概率、矩特性的关系式，从而形成随机信号概率与矩特性的变换分析理论与技术。随机信号分析139一、特征函数及概率密度函数的傅立叶变换定义1.2

随机变量，其特征函数定义为

式中，v为确定的实变量。1.5特征函数随机信号分析1401.5特征函数

若随机变量的概率密度函数为，则其特征函数为: c.r.v. d.r.v.随机信号分析141

定理1.4

随机变量X的概率密度函数与其特征函数之间是一对傅立叶变换，

或 式中，表示傅立叶变换对。

随机信号分析142随机变量概率密度函数与特征函数关系傅立叶变换将ω换为-v将x

换为-x

傅立叶反变换随机信号分析143举例例:

随机变量的特征函数为,求其概率密度函数。。解法1：随机信号分析144举例-续解法2：qp01随机信号分析145例1.20求二项分布Binomial的特征函数。解：首先令

，其中是独立同分布的，服从0－1分布，且所以：其中q=1-p。故随机信号分析146例1.21例:

随机变量X为参数是λ的指数分布Exponential，求其特征函数。解：

随机信号分析147举例例:

若r.v.X1,X2