第五章 离散随机信号特征的估计

11第五章离散随机信号特征的估计/bgs/szxh/ppt/pgj.pdf22基本要求熟练掌握随机信号数字特征的估计方法掌握自相关函数的非参数估计法掌握功率谱密度函数的经典估计算法及改进算法掌握常用的几种概率密度函数估计方法33

通信过程中，接收信号受到随机噪声的污染，因此是一个随机信号。在这种情况下无法精确的测定信号的参量，只能对其作出尽可能精确地估计。显然，信号参量的估计要用统计方法，即统计估计理论。

按照某种估计准则获得所需估计量后，通常要对估计量的质量进行评价，这就需要弄清楚估计量的主要性质。我们知道，估计量是观测量的函数，而观测量是随机变量，所以估计量也是随机变量。

回顾评价各种估计量性质的统计方法(设待估计参数a为未知确定性量)4455充分估计意味着，在通过观测样本估计统计量时，样本包含的关于待求统计量的信息没有任何丢失。66讨论：72024/3/2675.1随机信号数字特征的估计

5.2自相关函数的非参数估计主要内容5.3功率谱的经典估计

5.4

概率密度函数估计

85.1随机信号数字特征的估计均值的估计估计质量(考虑无偏性和一致性)8无偏估计9方差的估计9一致估计可以证明是无偏一致估计10而10有偏,但渐进无偏估计

但若均值的真实值未知，就要用均值的估计值代替，有

1111是否存在无偏估计?令则无偏估计注:方差估计的一致性证明从略1212132024/3/26135.1随机信号数字特征的估计

5.2自相关函数的非参数估计

主要内容5.3功率谱的经典估计

5.4

概率密度函数估计

14直接估计法145.2自相关函数的非参数估计非参数估计:不同时间间隔对应自相关函数的值都要进行估计，

对每一个延迟m都估计一个参数估计:假设自相关函数有解析式,然后估计解析式的参数对于样本序列，其自相关函数因此当数据总长度为N时，

自相关函数的估计为1515注：关于估计的方差涉及到随机变量的四阶矩，比较困难。因此，我们只以高斯型随机过程为例进行分析。估计质量有偏,但渐进无偏估计若要满足无偏，可令

可以证明当时，估计的方差趋于零估计的渐进无偏性一致估计1616所以，当时，上式方差是趋于零的。

因此

1717有偏,但渐进无偏估计无偏估计18存在问题：估计的计算工作量太大18通过引入快速傅里叶变换减少计算量改进方法：其他相关函数的估计自协方差函数估计互相关函数估计19互协方差函数估计相关技术的应用

a.从噪声中检测信号

19判断信号是否存在,则设

20若没有信号的先验知识，但已知它是周期性的，就可以对观测序列作自相关b.估计两个相似信号间的时间延迟c.系统的辨识

20m足够大时,可判断信号是否存在，估计信号的周期利用互相关函数和互谱之间的关系来测试系统的单位冲激响应函数。212024/3/26215.1随机信号数字特征的估计

5.2自相关函数的非参数估计主要内容5.3功率谱的经典估计

5.4

概率密度函数估计

随机信号通过线性系统分析225.3功率谱的经典估计22基本估计法自相关法对N个点的数据按前面介绍的方法得到自相关函数的估计,然后作傅立叶变换，即可得到功率谱估计.维纳-辛钦定理周期图法周期谱：对接收序列进行离散傅里叶变换,再取其幅频特性平方再乘以作为功率谱的估计,即23通过计算可以直接证明两条途径所得结果是一致的.23估计质量渐进无偏估计均值2424方差2525262627`272828改进（1）平均若各段数据相互独立，则求平均值后估计值的均值仍等于每段估计的均值，估计值的方差是每段估计值的1/K数据平分成K段分别估计功率谱取平均整体谱估计2929（2）平滑估计自相关函数加窗平滑离散傅立叶变换谱估计互谱的估计导致分辨率降低与功率谱的估计一样，两种途径：渐进无偏，非一致估计估计质量也与功率谱的估计一样。302024/3/26305.1随机信号数字特征的估计

5.2自相关函数的非参数估计主要内容5.3功率谱的经典估计

5.4

概率密度函数估计

随机信号通过线性系统分析31基本概念参数空间统计量点估计值315.4概率密度函数估计3232最大似然参数估计用最大似然法（MaximumLikelihood，ML）估计即要计算似然函数的最大值3333显然要求由于对数函数的单调性，定义对数似然函数为最大似然估计是渐进无偏估计最大似然估计是渐进一致估计最大似然估计是渐进有效的，达到了Cramer-Rao下界最大似然估计当时，服从高斯分布343435由贝叶斯理论35最大后验概率估计最大后验概率（MaximumaPosterioriProbability,MAP）估计是的最大值点。从而贝叶斯推论前提：已知样本集合和参数概率密度函数的先验信息，

目的是为了计算条件概率密度函数3636样本间统计独立讨论当在尖峰处可以近似为常数时，进一步退化为最大似然估计。理论上，当时，三种方法估计结果相同。

，贝叶斯推理退化为最大后验概率估计。形成尖锐的凸峰时，我们就称之为增量函数，这时有在某一点3737最大熵估计

混合模型EM(期望值最大)算法对于概率密度函数

，熵定义为未知但已知相关约束（均值、方差等）的情况下，最大熵估计就是针对给定约束条件使熵最大。3838的最大似然估计为由于y未知，所以要寻找使对数似然函数对y期望的最大值。具体算法：初始化：E阶段M阶段dot=t+1until3939概率密度函数的非参数估计一维概率密度函数的非参数估计基本思想

将x轴划分为长度为h的区间，样本x落在某个区间的概率就是这个区间的估计值。如果样本总数为N，落到某一区间的点数为kN，则相应的概率为N越大,h越小估计值越接近真实值直方图法估计概率密度函数40当

时，近似值收敛于真实值P。相应的概率密度函数在整个区间内认为是常量，近似等于40

Parzen窗法与一维类似，将l维空间划分为超立方体，边长为h，体积为hl。定义窗函数：则表示落在边长为h，中心为x的超立方体内的点数当窗函数满足时，称为Parzen窗。41无偏估计k近似密度估计

Parzen估计：认为点x周围的体积固定，通过统计落在以x为中心的超立方体内的点数实现估计。

k近似估计：假设点数固定，调整包含k个点的x周围的体积V(x)来实现。渐进无偏，一致估计4242朴素贝叶斯分类器问题：

为了保证估计的准确性，样本数量N