随机信号分析基础课件

1、 随机信号分析基础主要内容概述随机信号的概率表示随机信号的数字特征随机信号的功率谱密度离散时间随机信号随机信号的遍历性几种常见的随机信号随机信号数字特征的估计2.1 概述2.1.1基本概念 随机信号通常可看成是一个随机变量随时间变化的过程，可用一个含两个变量的函数 表示，其中 参数集, 样本集。1. 样本：当 和 都固定时为一个确定的数。2. 样本随机变量：当 固定为 时，各次试验的观测值表示为 。3. 样本函数： 上的一个函数集， 确定，随时间变化的函数一个实现。4. 随机信号 ：一族（或无限多个）随机变量的集合，它是某种随机试验的结果，而试验出现的样本函数是随机的。2.1 概述例2-1 随

2、机相位正弦信号： ，其中及 为常数，为 间均匀分布的随机变量。 当 取不同的值时，得到一系列不同的确定性随机信号（因为 一旦确定，由信号的过去值便可以准确预测其未来值）。通常又将此随机信号称为谐波过程（谐波信号）。2.1 概述2.1.2 随机信号分类1）样本空间连续随机序列随机过程（随机函数）离散离散参数链连续参数链离散连续参数集2）按 取值实数、复数分实、复随机信号3）一维及多维随机信号2.2 随机信号的概率表示 随机信号随着样本数目的增多，呈现一定的统计规律：一个是其各阶概率密度与分布特性 ，二是数字特征即均值以及各阶矩。2.2.1 概率分布函数及概率密度函数2.2.2 随机信号的阶数及其

3、平稳性2.2 随机信号的概率表示 2.2.1 概率分布函数及概率密度函数 1.概率分布函数 F(x) 表示X(t)小于等于 x 的概率,记为 性质： 1) ； 2)极值性： 3)单调递增性: 。 2.2 随机信号的概率表示2. 连续随机信号的概率密度函数性质： 1) 非负性 2) 归一性 3) 与概率的关系 的概率为2.2 随机信号的概率表示3. 离散随机信号的概率密度函数 只具有若干个离散值，可用概率描述其分布规律 : 表示 的概率, 离散信号的概率密度函数可以表示为：4. 概率密度函数的变换 随机变量X(t) 输入一个系统，输出是Y(t)，即变换 , X(t) 的概率密度函数为 。则Y(t

4、)的概率密度函数为2.2 随机信号的概率表示证明：1.设 是单调递增函数， 两边对y求导数:2.设 是单调递减函数， 两边对y求导数 由1和2 ，得2.2 随机信号的概率表示例2-2 随机相位正弦信号 ， 是 均匀分布，求：p(x).解： (注意：同一个X，有两个 值)2.2 随机信号的概率表示5.多维随机变量的概率分布 对于多个随机变量 其联合概率分布函数及联合概率密度函数分别是： 若则称N个随机变量是统计独立。2.2 随机信号的概率表示 2.2.2 随机信号的阶数及其平稳性1.阶数 一个随机信号为一个两变量函数 ，不同试验得到不同样本函数，不同样本随机变量之间的统计特性实际上是一个多维随机

5、变量的概率分布问题，即随机信号的阶数。一阶随机信号：某一时刻 的样本 取值的概率分布规律 二阶随机信号： 时刻样本 的联合分布规律 高阶随机信号： 时刻，样本随机变量 联合分布概率2.2 随机信号的概率表示2. 平稳随机信号统计特性与起始时间无关，仅与时间间隔有关的信号。定义21：称X(t)为严（强）平稳随机信号，若下式成立 定义22：称X(t)为一阶平稳随机信号，若 定义23：称X(t)为二阶平稳随机信号，若定义24：具有一、二阶平稳的随机信号称为广义平稳信 号。 强平稳必为广义平稳，反之不一定成立。2.3 随机信号的数字特征2.3.1 均值、方差、协方差，自相关和互相关 函数、自协方差和互

6、协方差函数2.3.2 平稳随机信号的自相关函数和互相关函数的性质2.3 随机信号的数字特征 2.3.1 均值、方差、协方差，自相关和互相关函数，自协方差和互协方差函数 1.一阶原点矩-均值函数(集合均值) 2.二阶原点矩均方值函数 集合意义下的瞬时功率，某时刻样本随机变量的平均功率。 3.二阶中心矩方差函数 反映信号在均值上的起伏程度。2.3 随机信号的数字特征4.自相关函数若信号平稳，则与起始时间无关，记为随机信号为平稳随机信号的充要条件： 1） 的均值为常数： 2） 的自相关函数： 3） 信号的瞬时功率：2.3 随机信号的数字特征5.自协方差函数6.互相关函数和互协方差函数 互相关函数：

7、广义平稳时： 互协方差函数：2.3 随机信号的数字特征 2.3.2 平稳随机信号的自相关函数 和互相关函数的性质1.复信号自相关函数和自协方差函数的性质 对称性 极值性以 为例来说明： 2.3 随机信号的数字特征对于实信号： 对称性 极值性2.自相关函数与自协方差函数之间的关系 1)平稳信号 2)对于零均值信号 3) 时， 的自相关函数退化为二阶原点矩（均方值）2.3 随机信号的数字特征例：判别下列的相关矩阵的正确性（A） （B）（C） （D）答案：（B）2.3 随机信号的数字特征4) 时， 的自协方差函数退化为方差5) 时 即：2.3 随机信号的数字特征3.互相关函数与互协方差函数的关系 对

8、称性： 证： 两者的关系： 2.3 随机信号的数字特征例2-3 求 的均值、自相关函数。 2.3 随机信号的数字特征自相关函数2.3 随机信号的数字特征例2-4 为常数， 为相互独立的随机变量 ，且 试讨论 的平稳性。解： 2.3 随机信号的数字特征方差： 均值，方差为常数，与起始时间无关，为一个广义平稳随机信号。2.4 随机信号的功率谱密度2.4.1 维纳辛钦定理2.4.2 功率谱密度性质2.4 随机信号的功率谱密度 由于随机信号不是周期和平方可积的，因此须从极限意义上来讨论。取 在有限时间 内的一段记为 , 频谱为： 能量谱： 非有限，只能从功率谱密度来考虑 定义： 的功率谱密度函数为：

9、2.4 随机信号的功率谱密度 2.4.1维纳辛钦定理 广义平稳随机信号功率谱与自相关函数的关系：证：2.4 随机信号的功率谱密度 （由于平稳性） 令可得： 2.4 随机信号的功率谱密度（证毕）2.4 随机信号的功率谱密度 2.4.2 功率谱密度性质1）对称性对实信号 ，由 ,所以有 实、偶对于复信号有 且为实函数，但非偶证明：由共轭对称性有： 下面证明非偶性：2.4 随机信号的功率谱密度由此，可以证得 为非偶函数2）非负性：3）极限性： 时，由于 表示瞬时功率，有功率谱积分而得，故称 为功率谱。 判别下列表达式为实信号功率谱的正确表达式为：（B）2.4 随机信号的功率谱密度4）谱分解定理 为

10、的有理函数，则 可分解为： 为一仅在 左半平面有零点和极点的有理函数，为可实现的因果、稳定的函数。注意：互谱密度和功率谱不同，不再是实的、偶的，有 1） 2） 3） 2.4 随机信号的功率谱密度例2-5 , ,求PSD。 解：2.5 随机序列的数字特征2.5.1 随机序列的数字特征2.5.2 随机序列的功率谱密度2.5.3 随机信号的比较-独立,不相关,正交,相干性2.5 随机序列的数字特征 2.5.1 随机序列的数字特征 1)均值(一阶矩) 2)二阶原点矩(均方值) 3)方差(二阶中心矩) 4)自相关函数 5)自协方差函数2.5 随机序列的数字特征对于平稳随机序列的充要条件: 1) ,与n无

11、关； 2) 3)例2-6 ,A, f为常数， 判断 的平稳性。 解： 2.5 随机序列的数字特征均方值： 所以x(n)为平稳序列。 2.5 随机序列的数字特征 2.5.2 随机序列的功率谱密度 设广义平稳序列 则： 其功率谱为： 离散时间随机信号的维纳辛钦定理： 2.5 随机序列的数字特征随机序列的功率谱主要性质如下：1） 周期性，可做FS分解， 正是各次谐波的系数。 2）信号的瞬时功率： 3）谱分解定理： 令 为平方幅度函数，可分解为： ,之中 为零极点在单位圆内的因果稳定系统, 为零极点在单位圆外的有理函数。 2.5 随机序列的数字特征因此随机序列功率谱的计算过程如下： 1）先对 作Z变换

12、 2）令 例2-7 设一平稳时间序列的自相关函数为： 求其功率谱 解：2.5 随机序列的数字特征2.5.3 随机信号的比较独立,不相关,正交,相干性1)独立-随机过程x(t)和y(t)统计独立。 (联合概率密度函数）2）不相关随机过程x(t)和y(t)统计不相关。若对于所有 , 它们的互协方差函数2.5 随机序列的数字特征3）正交性对于所有 ，互相关函数恒等于零。 统计独立意味着统计不相关，反之一般不成立。两个高斯随机过程统计独立=统计不相关。 若x(t)与y(t)均值为零，则统计不相关与正交等价2.5 随机序列的数字特征4）相干性 为 的 倍的放大或缩小，相差一个固定相位 是 在时间上延迟

13、的结果。 与 互为相干信号，相干拷贝。相干信号的互相关系数为：若 的互相关系数对于某个 等于1，则 y(t)为x(t)的相干信号，且延迟 ，若则 超前 2.5 随机序列的数字特征5)由维纳-辛钦定理知： 自相关 自功率谱密度 互相关 互功率谱密度IFTFT相关性强相关性弱功率谱陡峭的 平坦，相关性强功率谱平坦的 陡峭，相关性弱2.6 随机信号的遍历性2.6.1 总集意义上的数字特征与时间意义上的数字特征2.6.2 平稳随机信号的遍历性2.6 随机信号的遍历性 2.6.1 总集意义上的数字特征与时间意义上的数字特征 前面讨论的是某时刻上对所有样本进行统计的数字特征总集意义上的数字特征。 若信号是

14、平稳的，在时间轴上，对样本函数所有时间的取值计算统计特征时间意义上的数字特征 1) 时间均值 连续信号： 离散信号： 2.6 随机信号的遍历性2) 时间均方值 连续信号： 离散信号：3）时间自相关性： 连续信号： 离散信号： 同理可定义时间意义上的方差，自协方差等。2.6 随机信号的遍历性例2-8 ，求时间均值，自相关函数。解： 2.6 随机信号的遍历性2.6.2平稳随机信号的遍历性 人们发现，一般平稳随机过程具有“各态历经性”，即如存在一个持续时间足够长的平稳随机过程的样本函数，在其时间历程中经历了随机过程的各种可能状态，那么，这一段足够长的样本函数已包含了所有其它样本函数的可能信息，因此，

15、可设想将这一持续时间足够长的样本函数分成n段，构成n个时间历程t的样本函数，不难看出，由这n个样本函数得到的总集平均统计特性和这一时间的样本函数的时间统计平均特性是一样的，辛钦证明了这一点。各态历经性有严格意义和广泛意义下的定义：2.6 随机信号的遍历性定义1 （严格遍历性（或各态历经性） 随机信号的各种时间数字特征（时间足够长）依 概率1收敛于相应的总集数字特征严格遍历随机信号。定义2 （广义遍历性） 随机信号的时间均值和自相关函数等于总集均值和自相关函数广义遍历随机信号2.6 随机信号的遍历性1）连续信号：2）离散信号：2.6 随机信号的遍历性例2-9 设 ，其中 是平稳随机信号， 为与

16、无关的随机变量 , ，讨论 的遍历性解：2.6 随机信号的遍历性2.6 随机信号的遍历性2.7 几种常见的随机信号白噪声限带白噪声高斯随机信号高斯马尔可夫随机信号马尔可夫随机序列2.7 几种常见的随机信号1.白噪声 随机性很强的平稳信号，其特点为均值为零，功率谱为常数。 连续 或 离散 对应的自相关函数：白谱2.7 几种常见的随机信号=同理 ，对应离散白噪声 ，可由付氏反变换导出：2.7 几种常见的随机信号2.限带白噪声 连续离散有2.7 几种常见的随机信号3.高斯随机信号 概率密度函数是正态分布(高斯分布)一阶： 方差： 为其均值。高阶：2.7 几种常见的随机信号协方差矩阵：主对角线上为：

17、方差，或 正定2.7 几种常见的随机信号4.高斯马尔可夫随机信号（又称指数型平稳 高斯信号） 具有指数型自相关函数的平稳高斯信号 ， 为常数。5.马尔可夫随机序列 如果一个随机序列 ，其任意时刻的样本随机变量的条件概率密度函数具有如下特性： 称 为马尔可夫序列。2.7 几种常见的随机信号由上式可导出：（1）马氏序列的联合概率密度可用初始概率密度 与条件概率密度 表示： 2.7 几种常见的随机信号(2)若条件概率密度与起始时间无关平稳马氏序列。对于正态马氏序列(即 与 均为正态分布的马氏序列)，自相关函数满足： 若这一序列还是平稳的，有 2.7几种常见的随机信号例2-11 高斯马尔可夫信号 的自

18、相关函数为 ，试求其一阶、三阶概率密度函数， ， 解： 一阶： 三阶：2.7 几种常见的随机信号 将 代入上式即得 2.8 随机信号数字特征的估计 2.8.1 估计质量偏差、均方差、有效性、一 致性 2.8.2 随机信号均值及方差的估计 2.8.3 自相关函数的估计 2.8.4 fisher 信息与cramer-rho 不等式 2.8.5 线性最小均方误差估计 2.8.6 最小二乘估计 2.8.7 最大似然估计（Maximum Likehood, ML） 2.8.8 贝叶斯（Bayes）估计2.8 随机信号数字特征的估计 用有限观察序列估计信号的各阶统计特性， 估计质量即统计估计的基本问题。

19、2.8.1 估计质量偏差、均方差、有效性、一致性 1.估计的偏差 估计量为（可以是均值、方差、自相关函数等）。估计值为 ,若： -无偏估计 (2.8.1) -有偏估计 (2.8.2) -渐进无偏估计 (2.8.3)2.8 随机信号数字特征的估计2.估计的均方差估计的方差: (2.8.4) 值小表示估计较集中均值附近。均方差: (2.8.5) 将 代入得: (2.8.6)2.8 随机信号数字特征的估计3.有效估计估计中均方差最小的一个，即估计量 中，若 (2.8.7)则称 为有效估计。4.一致估计 若： (2.8.8)意味着偏差、方差均趋于0 （2.8.6），则称 为一致估计。 2.8 随机信号

20、数字特征的估计定义： ， 为 的弱一致估计，以概率收敛于真值。 以概率1收敛于真值，强一致估计。2.8.2 随机信号均值及方差的估计 1.均值的估计 对平稳随机序列 -无偏估计 若子样本 互不相关，则为一致估计。 2.8 随机信号数字特征的估计证明： 所以是无偏的。2.8 随机信号数字特征的估计方差：所以 是一致估计。2.8 随机信号数字特征的估计2.方差的估计 分两种情况讨论：1) 已知， 可证明是无偏的，并且是一致估计。 2) 未知，估计值为 方法：-有偏，渐近无偏 方法： -无偏 2.8 随机信号数字特征的估计证明：对于方法1：其中， 2.8 随机信号数字特征的估计有偏，渐近无偏对于方法

21、：所以无偏2.8 随机信号数字特征的估计 2.8.3 自相关函数的估计 对平稳随机序列，由 个观察值 估计自相关函数 -直接法和FFT法。 1.自相关函数的直接估计法对于每一个固定时延 ； 范围内可利用的数据只有 个。(注意:自相关函数的偶对称性, 长度为 )2.8 随机信号数字特征的估计 1)估计的偏差 2.8 随机信号数字特征的估计2.8 随机信号数字特征的估计设矩形窗： 显然： 所以，正是矩形窗函数将数据截成有限长而影响了谱估计质量。 2.8 随机信号数字特征的估计2)估计的方差 2.8 随机信号数字特征的估计当x(n)为零均值高斯随机信号时 上式： 将(1)(2)代入(0)中2.8 随

22、机信号数字特征的估计当时又因为所以是一致渐进无偏估计 。若定义可证明 为无偏估计，但非一致，方差性很差 2.8 随机信号数字特征的估计2.自相关函数的间接估计法FFT法 两个序列（N长）卷积后的长度为2N-1，所以用DFT计算卷积，至少须补N-1个零，现补N个零Fourier变换后 则对 式两边做付氏变换有2.8 随机信号数字特征的估计维纳辛钦定理2.8 随机信号数字特征的估计 可以由FFT计算，因此可用FFT计算自相关函数。具体步骤为：1)对 补N个零，得 即2)计算3)作逆DFT，即2.8 随机信号数字特征的估计从离散信号、离散谱的周期性可知，相对于产生以0对称到N对称的平移，如下图所示4

23、)对 中 的点左移2N点（一个周期）得-N-100N2N-12.8 随机信号数字特征的估计3.自协方差函数的估计 与自相关函数的估计原理一样，有估计的偏差为： 2.8 随机信号数字特征的估计 2.8.4 fisher 信息与cramer-rho 不等式 由2.8.2 和2.8.4式分别得到估计的偏差和方差，从前面的自相关函数的估计分析可以看到：分析估计的均值一般困难不大，要精确分析估计的方差比较困难，因此实际情况通常希望通过找到方差的下限来估计的性能。克拉美-罗下界是估计方差的一种下界。定理：若 是参数 的一个无偏估计, 是观察值x的条件先验概率密度函数，且其对参数 的偏导 存在，则该估计的方差存在一个下界： 2.8 随机信号数字特征的估计通常： ，称为fisher信息量， 增大，方差越小，描述从观察数据能够得到 的信息测度。证明：2.8 随机信号数字特征的估计2.8 随机信号数字特征的估计2.8 随机信号数