张旭东《现代信号分析和处理》第2章-1 估计理论_第1页
张旭东《现代信号分析和处理》第2章-1 估计理论_第2页
张旭东《现代信号分析和处理》第2章-1 估计理论_第3页
张旭东《现代信号分析和处理》第2章-1 估计理论_第4页
张旭东《现代信号分析和处理》第2章-1 估计理论_第5页
已阅读5页,还剩41页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

第2章:估计理论基础

统计推断:估计和假设检验估计理论:经典估计,贝叶斯估计估计方法:点估计和区间估计

a.是一个随机变量

b.估计器设计依赖于样本数据的概率密度函数(PDF)的假设

估计器例

n=0,1,2,…N-1是零均值白噪声,估计A

一个直观的估计器为

a.这个估计器怎样接近于真实值A.b.有没有更好的估计器,怎样设计好的估计器?

估计器性能的其他描述估计器性能的方差描述几个常用估计量

均值估计

方差估计

自相关估计

互相关估计

Cramer-Rao下界

最小方差无偏估计器(MVU),它的最好估计性能.

注:本讲义对经典估计部分如下表示等价

(定理一继续)

最大似然估计(MLE)

最实用的估计器,有良好的渐近特性例得就是MLEMVU就是MLE概率密度函数估计问题MLE渐近特性

MLE逼近于一个无偏的,最小方差可达的MVU估计器对于一般的PDF,MLE可以通过迭代计算2.4Bayesian估计

最小均方Bayesian估计

最小均方误差为

在计算时,经常利用关系式矢量情况例因此

随机参数估计的Cramer-Rao界·高斯情况

Baysian估计

零均值情况

一般Bayesian估计

解一致性条件:2.5线性贝叶斯估计器

线性估计器

·这组关系式可以直接联系到Wiener滤波问题

·线性Bayesian估计与高斯分布下的Bayesian估计是一致的,在高斯分布下,线性估计可达最优

附注高斯分布在随机信号处理中有特殊的地位,高斯分布时,线性估计是真正的最优估计,因此,对于高斯分布,线性系统是适用的。这些概念推广到时间波形的估计也是适用的。对于非高斯分布,真正的最优系统是非线性系统,当线性系统的简化实现不能满足性能要求时,人们要回到贝叶斯估计的源头,寻找对“后验期望”或“最大后验概率”的更加精确的逼近实现。附注(续)建立在均方误差最小和“Hit-Miss”准则下的“后验期望”和“最大后验概率”方法只是贝叶斯理论的两个常用准则下的结果,在不同应用中,利用对专门问题的研究,提出新的风险函数和误差准则,发展新的贝叶斯估计方法,仍是将统计方法用于各种新问题时,一个有价值的研究方向。2.6最小二乘估计最小二乘问题(LS)

线性模型估计问题线性模型:估计允许模型存在误差,且误差平方和最小:解为:误差和:例

假设有一个多变量系统,输出为用线性模型逼近

正则化最小二乘估计正则化LS解为2.7EM算法(期望最大算法)设一个完备数据集存在完备数据集到观测数据(不完备集)的映射以完备数据集的条件数学期望代替对数似然函数为使积分进行,待估计参数使用猜测值,构成迭代EM算法步骤1

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论