第四章-估计与检测理论课件

2023/1/41统计信号分析与处理机电学院通信工程系2009年10月

2022/12/201统计信号分析与处理机电学院通信工程系2023/1/42第四章参数估计与信号检测2022/12/202第四章参数估计与信号检测2023/1/43第四章参数估计与信号检测4.1引言与导学4.2参数估计初步4.3最大似然估计4.4线性最小均方估计4.5最小二乘估计4.6信号检测基础4.7判决准则4.8检测性能及其蒙特卡罗仿真2022/12/203第四章参数估计与信号检测4.2023/1/44信号检测与估计理论是许多现代信号处理系统设计的基础，这些系统包括雷达、声呐、通信、语言处理、图像分析、生物医学、自动控制、地震处理等，所有这些系统都有两个共同的问题：其一是需要在接收的数据或波形中判断是否有需要的信号，称为信号的检测问题；其二是在检测到信号后需要估计信号的某些参数，如信号的到达时间、频率、相位等，称为信号参数的估计问题。由于接收的数据或波形总是混杂着噪声，噪声是随机过程，因此，信号检测与估计理论需要应用随机过程的理论。本章在引言和导学之后首先介绍估计理论，在4.2节介绍贝叶斯估计，在此基础上介绍最大似然估计、线性最小均方估、最小二乘估计，这分别是4.3、4.4、4.5节的内容。从4.6节开始我们转入另一个环节----假设检验的基本概念的介绍，并在4.7节讨论判决准则的相关问题，最好在4.8节用检测性能及其蒙特卡罗仿真结束全部的讨论。4.1引言与导学2022/12/204信号检测与估计理论是许2023/1/45所谓估计理论就是从含有噪声的数据中估计信号的某些特征参量的理论和方法。例如信号中的谐波恢复下面通过一个简单的例子来说明估计的基本方法。4.2参数估计初步2022/12/205所谓估计理论就是从含有2023/1/462022/12/2062023/1/472022/12/2072023/1/482022/12/2082023/1/492022/12/2092023/1/4102022/12/20102023/1/4112022/12/20112023/1/4124.3最大似然估计当被估计量为未知常量时，不能采用贝叶斯方法，可以采用比较简单的最大似然估计。最大似然估计可以简便地实现复杂估计问题的求解，而且，当观测数据足够多时，其性能也是非常好的。因此，最大似然估计在实际中得到了广泛应用。2022/12/20124.3最大似然估计2023/1/4132022/12/20132023/1/4142022/12/20142023/1/4152022/12/20152023/1/4162022/12/20162023/1/4172022/12/20172023/1/4182022/12/20182023/1/4194.4线性最小均方估计对于随机参数的估计，在4.2节介绍了最小均方估计，最小均方估计是被估计量的条件均值，这个条件均值通常都是观测的非线性函数，估计器实现起来比较复杂。条件均值的计算需要用到被估计量的概率密度，如果并不知道概率密度，而只知道的一、二阶矩特性，并且希望估计器能用线性系统实现，这时可以采用线性最小均方估计。2022/12/20194.4线性最小均方估计2023/1/4202022/12/20202023/1/4212022/12/20212023/1/4224.5最小二乘估计前面介绍的几种估计方法中，最小均方估计、最大后验概率估计需要知道被估计量的先验概率密度，最大似然估计需要知道似然函数，线性最小均方估计需要知道被估计量的一、二阶矩，如果这些概率密度或矩未知，就不能采用这些方法，这时可以采用最小二乘估计。最小二乘估计对统计特性没有做任何假定，因此，它的应用非常广泛。2022/12/20224.5最小二乘估计2023/1/4232022/12/20232023/1/4242022/12/20242023/1/4254.6信号检测基础在实际中经常需要根据观测波形对几种可能的情况进行判决，如在雷达信号检测中，根据雷达接收机输出的波形作出目标存在与否的判断。由于存在一定的环境杂波干扰以及雷达接收机内部的噪声，微弱的雷达回波信号总是淹没在杂波和噪声中（我们把杂波和噪声统称为噪声），因此，雷达信号的检测问题就是从含有噪声的数据（观测）中判断是否有目标回波信号存在。在数字通信系统中，数字0和数字1是用两个不同信号来表示的，信号在信道中传输会叠加上信道噪声，通信信号的检测就是从含有噪声的数据（观测）中区分两种不同的信号。2022/12/20254.6信号检测基础2023/1/4262022/12/20262023/1/4272022/12/20272023/1/4282022/12/20282023/1/4292022/12/20292023/1/4302022/12/20302023/1/4312022/12/20312023/1/4324.7判决准则假设检验的实质就是对观测空间进行划分，划分观测空间必须遵循一定的最优准则，前面已经介绍了最大后验概率准则，本节继续介绍贝叶斯准则、最小错误概率准则、极大极小准则和纽曼-皮尔逊（Neyman-Pearson）准则。2022/12/20324.7判决准则假2023/1/4334.7.1贝叶斯准则2022/12/20334.7.1贝叶斯准则2023/1/4342022/12/20342023/1/4354.7.2极大极小准则2022/12/20354.7.2极大极小准则2023/1/4362022/12/20362023/1/4372022/12/20372023/1/4384.7.3纽曼-皮尔逊（Neyman-Pearson）准则在许多信号检测问题中，如雷达系统，要确定代价因子和先验概率是非常困难的，前面介绍的几种准则就不能采用，这时可以采用纽曼-皮尔逊准则，这一准则是在约束虚警概率恒定的情况下使漏警概率最小（或检测概率最大）。2022/12/20384.7.3纽曼-皮尔逊（Neym2023/1/4392022/12/20392023/1/4402022/12/20402023/1/4412022/12/20412023/1/4422022/12/20422023/1/443欢迎提出问题！2022/12/2043欢迎提出问题！2023/1/444中期考核测试1、请举例说明优化算法的本质是搜索计算？（20分）2、举例说明贝叶斯推断的基本框架及其求解思路。（20分）3、如图所示，如何理解参数空间到信号空间的映射？举例说明。（20分）2022/12/2044中期考核测试1、请举例说明优化算法的2023/1/4452022/12/20452023/1/446统计信号分析与处理机电学院通信工程系2009年10月

2022/12/201统计信号分析与处理机电学院通信工程系2023/1/447第四章参数估计与信号检测2022/12/202第四章参数估计与信号检测2023/1/448第四章参数估计与信号检测4.1引言与导学4.2参数估计初步4.3最大似然估计4.4线性最小均方估计4.5最小二乘估计4.6信号检测基础4.7判决准则4.8检测性能及其蒙特卡罗仿真2022/12/203第四章参数估计与信号检测4.2023/1/449信号检测与估计理论是许多现代信号处理系统设计的基础，这些系统包括雷达、声呐、通信、语言处理、图像分析、生物医学、自动控制、地震处理等，所有这些系统都有两个共同的问题：其一是需要在接收的数据或波形中判断是否有需要的信号，称为信号的检测问题；其二是在检测到信号后需要估计信号的某些参数，如信号的到达时间、频率、相位等，称为信号参数的估计问题。由于接收的数据或波形总是混杂着噪声，噪声是随机过程，因此，信号检测与估计理论需要应用随机过程的理论。本章在引言和导学之后首先介绍估计理论，在4.2节介绍贝叶斯估计，在此基础上介绍最大似然估计、线性最小均方估、最小二乘估计，这分别是4.3、4.4、4.5节的内容。从4.6节开始我们转入另一个环节----假设检验的基本概念的介绍，并在4.7节讨论判决准则的相关问题，最好在4.8节用检测性能及其蒙特卡罗仿真结束全部的讨论。4.1引言与导学2022/12/204信号检测与估计理论是许2023/1/450所谓估计理论就是从含有噪声的数据中估计信号的某些特征参量的理论和方法。例如信号中的谐波恢复下面通过一个简单的例子来说明估计的基本方法。4.2参数估计初步2022/12/205所谓估计理论就是从含有2023/1/4512022/12/2062023/1/4522022/12/2072023/1/4532022/12/2082023/1/4542022/12/2092023/1/4552022/12/20102023/1/4562022/12/20112023/1/4574.3最大似然估计当被估计量为未知常量时，不能采用贝叶斯方法，可以采用比较简单的最大似然估计。最大似然估计可以简便地实现复杂估计问题的求解，而且，当观测数据足够多时，其性能也是非常好的。因此，最大似然估计在实际中得到了广泛应用。2022/12/20124.3最大似然估计2023/1/4582022/12/20132023/1/4592022/12/20142023/1/4602022/12/20152023/1/4612022/12/20162023/1/4622022/12/20172023/1/4632022/12/20182023/1/4644.4线性最小均方估计对于随机参数的估计，在4.2节介绍了最小均方估计，最小均方估计是被估计量的条件均值，这个条件均值通常都是观测的非线性函数，估计器实现起来比较复杂。条件均值的计算需要用到被估计量的概率密度，如果并不知道概率密度，而只知道的一、二阶矩特性，并且希望估计器能用线性系统实现，这时可以采用线性最小均方估计。2022/12/20194.4线性最小均方估计2023/1/4652022/12/20202023/1/4662022/12/20212023/1/4674.5最小二乘估计前面介绍的几种估计方法中，最小均方估计、最大后验概率估计需要知道被估计量的先验概率密度，最大似然估计需要知道似然函数，线性最小均方估计需要知道被估计量的一、二阶矩，如果这些概率密度或矩未知，就不能采用这些方法，这时可以采用最小二乘估计。最小二乘估计对统计特性没有做任何假定，因此，它的应用非常广泛。2022/12/20224.5最小二乘估计2023/1/4682022/12/20232023/1/4692022/12/20242023/1/4704.6信号检测基础在实际中经常需要根据观测波形对几种可能的情况进行判决，如在雷达信号检测中，根据雷达接收机输出的波形作出目标存在与否的判断。由于存在一定的环境杂波干扰以及雷达接收机内部的噪声，微弱的雷达回波信号总是淹没在杂波和噪声中（我们把杂波和噪声统称为噪声），因此，雷达信号的检测问题就是从含有噪声的数据（观测）中判断是否有目标回波信号存在。在数字通信系统中，数字0和数字1是用两个不同信号来表示的，信号在信道中传输会叠加上信道噪声，通信信号的检测就是从含有噪声的数据（观测）中区分两种不同的信号。2022/12/20254.6信号检测基础2023/1/4712022/12/20262023/1/4722022/12/20272023/1/4732022/12/20282023/1/4742022/12/20292023/1/4752022/12/20302023/1/4762022/12/20312023/1/4774.7判决准则假设检验的实质就是对观测空间进行划分，划分观测空间必须遵循一定的最优准则，前面已经介绍了最大后验概率准则，本节继续介绍贝叶斯准则、最小错误概率准则、极大极小准则和纽曼-皮尔逊（Neyman-Pearson）准则。2022/12/20324.7判决准则假2023/1/4784.7.1