信号检测与估计课件第三章

1、国家重点实验室国家重点实验室第三章第三章 信号的统计检测理论信号的统计检测理论国家重点实验室国家重点实验室3.1 3.1 引言引言 信号的统计检测理论主要研究在受噪声干扰的随机信号中，信号的统计检测理论主要研究在受噪声干扰的随机信号中，信号的有无或信号属于哪个状态的最佳判决的概念、方法信号的有无或信号属于哪个状态的最佳判决的概念、方法和性能和性能。 数学基础：统计判决理论，又称数学基础：统计判决理论，又称假设检验理论假设检验理论。 二元信号的最佳检测准则、信号状态的判决方法和检测性二元信号的最佳检测准则、信号状态的判决方法和检测性能的分析；能的分析；M元信号的最佳检测、参量信号的复合假设检元信

2、号的最佳检测、参量信号的复合假设检验、序列检测、验、序列检测、码间串扰信道的检测、软输出信号检测、码间串扰信道的检测、软输出信号检测、MIMO检测及多用户检测检测及多用户检测。国家重点实验室国家重点实验室3.2 3.2 统计检测理论的基本概念统计检测理论的基本概念基本要求：基本要求：充分理解统计检测理论的模型充分理解统计检测理论的模型理解几个判决概率的基本概念理解几个判决概率的基本概念国家重点实验室国家重点实验室 一、二元信号检测模型一、二元信号检测模型信源信源信源的输出称为假设信源的输出称为假设将信源的输出将信源的输出(假设假设)以一定的以一定的概率关系映射到整个观察空间中概率关系映射到整个

3、观察空间中接收端所有可能观测量的集合接收端所有可能观测量的集合将观察空间进行合理划分将观察空间进行合理划分,使每个观测量使每个观测量对应一个假设判断的方法对应一个假设判断的方法判决规则判决规则观察空观察空间间概率转移机构概率转移机构3.2 .1 3.2 .1 统计检测理论的基本模型统计检测理论的基本模型国家重点实验室国家重点实验室Example3.1SourceTransition mechanismr1H0HObservationSpacen0+2+121414111HpHrR-2-1414102100HpHrRnrHnrH1:1:012141410-1+1 NpnR=-2,-1,0,1,2

4、国家重点实验室国家重点实验室0R0R1R0H成立1H成立二、二元信号检测二、二元信号检测 判决域判决域二元信号的检测问题，可归结为对观察空间的划分问题，即按照二元信号的检测问题，可归结为对观察空间的划分问题，即按照一定的准则，将观察空间一定的准则，将观察空间R分别划分为分别划分为R0和和R1两个子空间。两个子空间。国家重点实验室国家重点实验室思考思考:如果如果n是均值为零的、方差为是均值为零的、方差为 2n的高斯随机变量的高斯随机变量11HRpHr00HRpHr应服从何种分布？应服从何种分布？22212121exp211nnHrrHRp22212021exp210nnHrrHRp国家重点实验室

5、国家重点实验室三、三、MM元信号检测模型元信号检测模型信源信源信源的输出称为假设信源的输出称为假设将信源的输出将信源的输出(假设假设)以一定的以一定的概率关系映射到整个观察空间中概率关系映射到整个观察空间中接收端所有可能观测量的集合接收端所有可能观测量的集合将观察空间进行合理划分将观察空间进行合理划分,使每个观测量使每个观测量对应一个假设判断的方法对应一个假设判断的方法判决规则判决规则观察空观察空间间概率转移机构概率转移机构国家重点实验室国家重点实验室0RMR1R0H成立1H成立M元信号检测元信号检测 判决域判决域MH成立国家重点实验室国家重点实验室判决假设0H1H00HH10HH01HH11

6、HH0H1H二元信号判决结果二元信号判决结果判决假设0H1H00HHP10HHP01HHP11HHP0H1H二元信号判决概率二元信号判决概率3.2 .2 3.2 .2 统计检测的结果和判决概率统计检测的结果和判决概率国家重点实验室国家重点实验室3.2 .2 3.2 .2 统计检测的结果和判决概率统计检测的结果和判决概率问问 题：题：如何根据接收信号的统计特性，计算判决概率？如何根据接收信号的统计特性，计算判决概率？国家重点实验室国家重点实验室Ex3.2 Ex3.2 考虑以下二元信号假设检验问题考虑以下二元信号假设检验问题: :nAxHnxH:10其中其中n是均值为零是均值为零,方差为方差为2的

7、高斯随机变量的高斯随机变量,且不同且不同采样时刻的加性噪声之间是相互统计独立的采样时刻的加性噪声之间是相互统计独立的.3.2 .2 3.2 .2 统计检测的结果和判决概率统计检测的结果和判决概率接收端根据接收信号判决时，会出现四种事件，每种事件对应一个判决概率接收端根据接收信号判决时，会出现四种事件，每种事件对应一个判决概率00HH10HH01HH11HH11HHP00HHP01HHP10HHP国家重点实验室国家重点实验室四种判决概率的计算：四种判决概率的计算：根据通信原理的结果，若信源两个假设等概发送，最佳判决门限根据通信原理的结果，若信源两个假设等概发送，最佳判决门限为为 A/2，即若接收

8、信号大于，即若接收信号大于A/2，判决信源发送，判决信源发送A；若接收信号小于；若接收信号小于A/2，则判决信源发送，则判决信源发送0。3.2 .2 3.2 .2 统计检测的结果和判决概率统计检测的结果和判决概率nAxHnxH:10接收信号接收信号x的统计特性可以描述为：的统计特性可以描述为：2221212exp21AxHxp2221202exp21xHxp国家重点实验室国家重点实验室四种判决概率的计算：四种判决概率的计算：根据通信原理的结果，若信源两个假设等概发送，最佳判决门限为根据通信原理的结果，若信源两个假设等概发送，最佳判决门限为 A/2，即若接，即若接收信号大于收信号大于A/2，判决

9、信源发送，判决信源发送A；若接收信号小于；若接收信号小于A/2，则判决信源发送，则判决信源发送0 。3.2 .2 3.2 .2 统计检测的结果和判决概率统计检测的结果和判决概率dxHxpdxHxpHHPRA002000dxHxpdxHxpHHPRA102001dxHxpdxHxpHHPRA112111dxHxpdxHxpHHPRA012110,2:1AR2,:0ARdxHxpHHPiRjji10100HHPHHP11110HHPHHP国家重点实验室国家重点实验室3.3 Bayes Criterion(贝叶斯准则贝叶斯准则)基本要求：基本要求：充分理解平均代价充分理解平均代价(Average R

10、isk)的概念的概念贝叶斯准则的判决表达式贝叶斯准则的判决表达式判决性能分析判决性能分析贝叶斯准则的基本原理：在划分观察空间时，使平均风险最小贝叶斯准则的基本原理：在划分观察空间时，使平均风险最小国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则通信系统中，二元信号的平均解调错误概率：通信系统中，二元信号的平均解调错误概率： 101010PPPPPe可看出，检测性能，不仅与两种错误判决概率有关，还与信源发送可看出，检测性能，不仅与两种错误判决概率有关，还与信源发送0和和1的的先验概率有关先验概率有关另外，每做出一种判断，人们要付出的代价也是

11、不同的另外，每做出一种判断，人们要付出的代价也是不同的如何综合考虑上述各种因素来设计好的检测方法？如何综合考虑上述各种因素来设计好的检测方法？贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使使平均代价最小平均代价最小的检测准则。的检测准则。国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则问题：问题：代价因子如何定义？代价因子如何定义？平均代价如何计算？平均代价如何计算？如何获得最小的平均代价？如何获得最小的平均代价？国家重点实验室国家重点实验室3.3.1 3

12、.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则1. 代价因子的定义代价因子的定义对于二元信号统计检测，共有四种事件发生，即对于二元信号统计检测，共有四种事件发生，即00HH01HH11HH10HH00c10c11c01cijc表示假设表示假设Hj为真时，判决假设为真时，判决假设Hi成立所付出的代价成立所付出的代价注：一般假设注：一般假设0010cc1101cc国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则2. 平均代价的计算平均代价的计算平均代价平均代价C将由两部分构成，一是信源发送将由两部分构成，一是信源发送H0假设时

13、，假设时，判决判决所付出的代价所付出的代价C(H0 )二是信源发送二是信源发送H1假设时，判决所付出的代价假设时，判决所付出的代价C(H1 ) 1100HCHPHCHPC 101010PPPPPe国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则2. 平均代价的计算平均代价的计算对于二元信号统计检测，有四种事件发生，即对于二元信号统计检测，有四种事件发生，即00HH01HH11HH10HH00c10c11c01c因此，因此，011000000HHPcHHPcHC111110011HHPcHHPcHC国家重点实验室国家重点实验室3.3.1 3

14、.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则2. 平均代价的计算平均代价的计算由由011000000HHPcHHPcHC111110011HHPcHHPcHC 1100HCHPHCHPC111110011011000000HHPcHHPcHPHHPcHHPcHPC国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则3. 平均代价取到最小值的条件平均代价取到最小值的条件111110011011000000HHPcHHPcHPHHPcHHPcHPCiRjjidxHxpHHPdxHxpcdxHxpcHPdxHxpcdxHxpcHP

15、CRRRR101011110110100000国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则3. 平均代价取到最小值的条件平均代价取到最小值的条件dxHxpcdxHxpcHPdxHxpcdxHxpcHPCRRRR101011110110100000011RjRjdxHxpdxHxp1RjdxHxpdxHxpcdxHxpcHPdxHxpcdxHxpcHPCRRRR00001111011010000011国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则3. 平均代价取到最小值的条件平均

16、代价取到最小值的条件dxHxpcdxHxpcHPdxHxpcdxHxpcHPCRRRR00001111011010000011合并合并 dxHxpcdxHxpccHPdxHxpcdxHxpccHPCRRRR00001111011110100001001dxHxpccHPHxpccHPHPcHPcCR0000100111011111010合并合并国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则3. 平均代价取到最小值的条件平均代价取到最小值的条件dxHxpccHPHxpccHPHPcHPcCR0000100111011111010010HP

17、c111HPc和和是两项固定值。是两项固定值。0111011HxpccHP0000100HxpccHP因此，给定信道特性和先验信息，平均代价因此，给定信道特性和先验信息，平均代价C的大小完全由判决区域的大小完全由判决区域R0确定。确定。把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域，而把其余的观察值区域，而把其余的观察值x值划分给值划分给R1，即可保证平均代价最小。即可保证平均代价最小。国家重点实验室国家重点实验室3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则4. 贝叶斯判决准则贝叶斯判决准则dxHxpccHPHxpccHPHPcH

18、PcCR0000100111011111010把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域，而把其余的观察值区域，而把其余的观察值x值划分给值划分给R1，即可保证平均代价最小。即可保证平均代价最小。000100111011HxpccHPHxpccHP判决判决H0假设成立假设成立000100111011HxpccHPHxpccHP判决判决H1假设成立假设成立110110010001ccHPccHPHxpHxp判决判决H0假设成立假设成立110110010001ccHPccHPHxpHxp判决判决H1假设成立假设成立贝贝叶叶斯斯判判决决准准则则国家重点实验室国家重

19、点实验室贝叶斯准则基本思路贝叶斯准则基本思路:根据给定的代价计算平均代价根据给定的代价计算平均代价按照平均代价最小划分观察空间按照平均代价最小划分观察空间,得到判决准则得到判决准则对判决表达式进行化简对判决表达式进行化简3.3.1 3.3.1 平均代价的概念和贝叶斯准则平均代价的概念和贝叶斯准则国家重点实验室国家重点实验室3.3.2 3.3.2 贝叶斯检测的进一步说明贝叶斯检测的进一步说明11011001000110ccHPccHPHxpHxpHH贝叶斯判决准则贝叶斯判决准则 01HxpHxpxldef定义为似然比函数定义为似然比函数1101100100ccHPccHPdef定义为判决门限定义

20、为判决门限 10HHxl是一维随机变量，称为检验统计量是一维随机变量，称为检验统计量 xl不依赖于假设的先验概率，也与代价因子无关，适用于不同先验概率和不同不依赖于假设的先验概率，也与代价因子无关，适用于不同先验概率和不同代价因子的最佳信号检测。代价因子的最佳信号检测。国家重点实验室国家重点实验室3.3.2 3.3.2 贝叶斯检测的进一步说明贝叶斯检测的进一步说明11011001000110ccHPccHPHxpHxpHH利用贝叶斯判决准则进行检测的基本步骤：利用贝叶斯判决准则进行检测的基本步骤：步骤步骤1：计算两个似然函数，构建似然比：计算两个似然函数，构建似然比步骤步骤2：根据两个假设的先

21、验概率和代价因子，计算判决门限：根据两个假设的先验概率和代价因子，计算判决门限步骤步骤3：利用上式，形成贝叶斯检测基本表达式：利用上式，形成贝叶斯检测基本表达式步骤步骤4：化简：化简国家重点实验室国家重点实验室贝叶斯检测小结贝叶斯检测小结(1)(1)贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使条件下，使平均代价最小平均代价最小的检测准则。的检测准则。贝叶斯准则基本思路贝叶斯准则基本思路:根据给定的代价计算平均代价根据给定的代价计算平均代价按照平均代价最小划分观察空间按照平均代价最小划分观察空间,得到判决准则得到判决准

22、则对判决表达式进行化简对判决表达式进行化简国家重点实验室国家重点实验室对于二元信号统计检测，共有四种事件发生，即对于二元信号统计检测，共有四种事件发生，即00HH01HH11HH10HH00c10c11c01cijc表示假设表示假设Hj为真时，判决假设为真时，判决假设Hi成立所付出的代价成立所付出的代价注：一般假设注：一般假设0010cc1101cc贝叶斯检测小结贝叶斯检测小结(2)(2)国家重点实验室国家重点实验室由由011000000HHPcHHPcHC111110011HHPcHHPcHC 1100HCHPHCHPC111110011011000000HHPcHHPcHPHHPcHHPc

23、HPCiRjjidxHxpHHP011RjRjdxHxpdxHxp1RjdxHxpdxHxpccHPHxpccHPHPcHPcCR0000100111011111010把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域，而把其余的观察值区域，而把其余的观察值x值划分给值划分给R1，即可保证平均代价最小。即可保证平均代价最小。贝叶斯检测小结贝叶斯检测小结(3)(3)国家重点实验室国家重点实验室贝叶斯检测小结贝叶斯检测小结(4)(4)dxHxpccHPHxpccHPHPcHPcCR0000100111011111010把使被积函数取负值的观察值把使被积函数取负值的观察值

24、x值划分给值划分给R0区域，而把其余的观察值区域，而把其余的观察值x值划分给值划分给R1，即可保证平均代价最小。即可保证平均代价最小。000100111011HxpccHPHxpccHP判决判决H0假设成立假设成立000100111011HxpccHPHxpccHP判决判决H1假设成立假设成立11011001000110ccHPccHPHxpHxpHH贝叶斯判决准则贝叶斯判决准则国家重点实验室国家重点实验室贝叶斯检测小结贝叶斯检测小结(5)(5)11011001000110ccHPccHPHxpHxpHH利用贝叶斯判决准则进行检测的基本步骤：利用贝叶斯判决准则进行检测的基本步骤：步骤步骤1：计

25、算两个似然函数，构建似然比：计算两个似然函数，构建似然比步骤步骤2：根据两个假设的先验概率和代价因子，计算判决门限：根据两个假设的先验概率和代价因子，计算判决门限步骤步骤3：利用上式，形成贝叶斯检测基本表达式：利用上式，形成贝叶斯检测基本表达式步骤步骤4：化简：化简国家重点实验室国家重点实验室3.3.3 3.3.3 贝叶斯检测例题贝叶斯检测例题Ex3.1 Ex3.1 在二元数字通信系统中在二元数字通信系统中, ,假设为假设为HH1 1时时, ,信源输出为常值信源输出为常值正电压正电压m, ,假设为假设为H H0 0时时, ,信源输出输出零电平信源输出输出零电平, ,信号在传输过信号在传输过程中

26、迭加了噪声程中迭加了噪声n(t),每种信号的持续时间为每种信号的持续时间为T, T, 请请: :(1) (1) 若接收端对接收信号若接收端对接收信号x(tx(t) )在在(0,T)(0,T)时间内进行时间内进行1 1次采样次采样, ,给出给出对应的贝叶斯检测准则对应的贝叶斯检测准则(2) (2) 若接收端对接收信号若接收端对接收信号x(tx(t) )在在(0,T)(0,T)时间内进行时间内进行N N次独立采样次独立采样, ,给出给出 对应的贝叶斯检测准则对应的贝叶斯检测准则. .上述两种情况下上述两种情况下, ,噪声采样值噪声采样值n ni i是均值为零是均值为零, ,方差为方差为 的高斯噪声

27、的高斯噪声2国家重点实验室国家重点实验室解：一次采样时解：一次采样时步骤步骤1：计算两个似然函数，构建似然比：计算两个似然函数，构建似然比nxH:0nmxH:1由于由于n是高斯分布随机变量，因此在是高斯分布随机变量，因此在H0假设下，观察信号假设下，观察信号x也服从高斯分布，也服从高斯分布，且均值为零，方差为且均值为零，方差为 ,在在H1假设下，观察信号假设下，观察信号x服从均值为服从均值为m，方差为，方差为的高斯分布。的高斯分布。 2222202exp21xHxp22212exp21mxHxp国家重点实验室国家重点实验室步骤步骤2：根据两个假设的先验概率和代价因子，计算判决门限根据两个假设的

28、先验概率和代价因子，计算判决门限1101100100ccHPccHP步骤步骤3：形成贝叶斯检测基本表达式：形成贝叶斯检测基本表达式1001HHHxpHxp102222222exp212exp21HHxmx步骤步骤4：化简：化简102222expHHmxx2ln210mmxHH国家重点实验室国家重点实验室解：解：N次采样时次采样时步骤步骤1：计算两个似然函数，构建似然比：计算两个似然函数，构建似然比NinxHi, 2 , 1,:0NinmxHi, 2 , 1,:1由于由于n是高斯分布随机变量，因此在是高斯分布随机变量，因此在H0假设下，第假设下，第i次采样值次采样值xi服从高斯分布，服从高斯分布

29、，且均值为零，方差为且均值为零，方差为 ,在在H1假设下，第假设下，第i次采样值次采样值xi服从均值为服从均值为m，方差为，方差为的高斯分布。的高斯分布。 2222202exp21iixHxp22212exp21mxHxpiiNiimxHp122212exp21xNiixHp122202exp21x国家重点实验室国家重点实验室步骤步骤2：根据两个假设的先验概率和代价因子，计算判决门限根据两个假设的先验概率和代价因子，计算判决门限1101100100ccHPccHP步骤步骤3：形成贝叶斯检测基本表达式：形成贝叶斯检测基本表达式1001HHHpHpxx10122212222exp212exp21H

30、HNiiNiixmx国家重点实验室国家重点实验室步骤步骤4：化简：化简10122212222exp212exp21HHNiiNiixmx1021222expHHNiiimxxln2221210HHNiimxNm2ln2110NmmxHHNii2ln12110mNmxNHHNii国家重点实验室国家重点实验室Ex3.2 考虑以下信号检测问题考虑以下信号检测问题:NinxHNinxHiiii, 2 , 1,:, 2 , 1,:1100其中其中n1i是均值为零是均值为零,方差为方差为21的高斯随机变量的高斯随机变量, n0i是均值是均值为零为零,方差为方差为 的高斯随机变量的高斯随机变量,且不同采样时

31、刻的加性且不同采样时刻的加性噪声之间是相互统计独立的噪声之间是相互统计独立的.请给出上述问题的贝叶斯检测准则请给出上述问题的贝叶斯检测准则.20国家重点实验室国家重点实验室解：解：N次采样时次采样时步骤步骤1：计算两个似然函数，构建似然比：计算两个似然函数，构建似然比NinxHii, 2 , 1,:00NinxHii, 2 , 1,:11由于由于n是高斯分布随机变量，因此在是高斯分布随机变量，因此在H0假设下，第假设下，第i次采样值次采样值xi服从高斯分布，服从高斯分布，且均值为零，方差为且均值为零，方差为 ,在在H1假设下，第假设下，第i次采样值次采样值xi服从均值为服从均值为0，方差为，方

32、差为的高斯分布。的高斯分布。 20212022002exp21iixHxp2122112exp21iixHxp NiixHp12122112exp21xNiixHp12022002exp21x国家重点实验室国家重点实验室步骤步骤2：根据两个假设的先验概率和代价因子，计算判决门限根据两个假设的先验概率和代价因子，计算判决门限1101100100ccHPccHP步骤步骤3：形成贝叶斯检测基本表达式：形成贝叶斯检测基本表达式1001HHHpHpxx 101202201212212exp212exp21HHNiiNiixx步骤步骤4：化简：化简10122120102121expHHNiiNx10122

33、0212021lnln210NxHHNii国家重点实验室国家重点实验室步骤步骤4：化简：化简101220212021lnln210NxHHNii如果如果2021102021202112lnln210NxHHNii如果如果2021102021202112lnln201NxHHNii国家重点实验室国家重点实验室3.3.4 3.3.4 贝叶斯检测性能分析贝叶斯检测性能分析贝叶斯检测准则是一种平均代价最小的判决准则，按照贝叶斯贝叶斯检测准则是一种平均代价最小的判决准则，按照贝叶斯检测准则，能获得平均代价到底等于多少？检测准则，能获得平均代价到底等于多少？问题问题1：利用贝叶斯检测准则进行检测，平均检测

34、错误概率如何计算？利用贝叶斯检测准则进行检测，平均检测错误概率如何计算？问题问题2：上述两个问题的关键在于，如何计算四种事件的检测概率？上述两个问题的关键在于，如何计算四种事件的检测概率？计算基本原则：根据化简后的最简判决表示式进行计算。计算基本原则：根据化简后的最简判决表示式进行计算。国家重点实验室国家重点实验室3.3.4 3.3.4 贝叶斯检测性能分析贝叶斯检测性能分析 0101HxpHxpxorHxpHxpx 0101lnlnlnlnHxpHxpxorHxpHxpx xlorxl根据最终的统计量来计算各种判决概率根据最终的统计量来计算各种判决概率最终统计量最终统计量国家重点实验室国家重点

35、实验室3.3.4 3.3.4 贝叶斯检测性能分析贝叶斯检测性能分析计算基本原则：根据化简后的最简判决表示式进行计算。计算基本原则：根据化简后的最简判决表示式进行计算。计算步骤：计算步骤：步骤步骤1：推导贝叶斯检测准则的最简表示形式推导贝叶斯检测准则的最简表示形式 10HHxl步骤步骤2：根据最简表示形式，计算各种假设下，统计量的概率密度函数根据最简表示形式，计算各种假设下，统计量的概率密度函数1Hlp0Hlp步骤步骤3：计算判决概率计算判决概率10HHP01HHPdlHlpHHP110dlHlpHHP001国家重点实验室国家重点实验室Ex3.5 Ex3.5 考虑以下二元信号假设检验问题考虑以下

36、二元信号假设检验问题: :NinAxHNinxHiiii, 2 , 1,:, 2 , 1,:10其中其中ni是均值为零是均值为零,方差为方差为2的高斯随机变量的高斯随机变量,且不同且不同采样时刻的加性噪声之间是相互统计独立的采样时刻的加性噪声之间是相互统计独立的.请请(1) 给出上述问题的贝叶斯检测准则给出上述问题的贝叶斯检测准则.(2) 当当N=1时时, 计算判决概率计算判决概率 和和 .01HHP11HHP(3) 当当N1时时, 计算判决概率计算判决概率 和和 .01HHP11HHP国家重点实验室国家重点实验室解：解：N次采样时次采样时步骤步骤1：计算两个似然函数，构建似然比：计算两个似然

37、函数，构建似然比NinxHi, 2 , 1,:0NinAxHi, 2 , 1,:1由于由于n是高斯分布随机变量，因此在是高斯分布随机变量，因此在H0假设下，第假设下，第i次采样值次采样值xi服从高斯分布，服从高斯分布，且均值为零，方差为且均值为零，方差为 ,在在H1假设下，第假设下，第i次采样值次采样值xi服从均值为服从均值为A，方差为，方差为的高斯分布。的高斯分布。 2222202exp21iixHxp22212exp21AxHxpiiNiiAxHp122212exp21xNiixHp122202exp21x国家重点实验室国家重点实验室步骤步骤2：根据两个假设的先验概率和代价因子，计算判决门

38、限根据两个假设的先验概率和代价因子，计算判决门限1101100100ccHPccHP步骤步骤3：形成贝叶斯检测基本表达式：形成贝叶斯检测基本表达式1001HHHpHpxx10122212222exp212exp21HHNiiNiixAx国家重点实验室国家重点实验室步骤步骤4：化简：化简10122212222exp212exp21HHNiiNiixAx1021222expHHNiiiAxxln2221210HHNiiAxNA2ln2110NAAxHHNiidefHHNiiANAxN2ln12110国家重点实验室国家重点实验室性能分析：性能分析：统计量统计量defHHNiiANAxN2ln1211

39、0NiidefxNl11假设假设H0条件下，统计量条件下，统计量l为高斯分布，均值和方差分别为：为高斯分布，均值和方差分别为：0111010NiNiinNEHxNEHlE NlElEHlVar22022202exp2NlNHlp国家重点实验室国家重点实验室性能分析：性能分析：统计量统计量defHHNiiANAxN2ln12110NiidefxNl11假设假设H1条件下，统计量条件下，统计量l为高斯分布，均值和方差分别为：为高斯分布，均值和方差分别为：AnANEHxNEHlENiNii111111 NlElEHlVar22122212exp2AlNNHlp国家重点实验室国家重点实验室性能分析：性

40、能分析：统计量统计量defHHNiiANAxN2ln12110NiidefxNl11dlNlNHHP222012exp2lNu duuHHPN2exp212012ln2ANANQNQ2lnANANQ222NAd 2lnddQ国家重点实验室国家重点实验室性能分析：性能分析：统计量统计量defHHNiiANAxN2ln12110NiidefxNl11dlAlNNHHP222102exp2AlNuduuHHPAN2exp212102ln112ANANQANQ2ln1ANANQ2ln1ddQ222NAd 国家重点实验室国家重点实验室duuHHPAN2exp212102ln1ddQ2ln11011ddQ

41、HHPHHP国家重点实验室国家重点实验室Ex3.6 Ex3.6 设二元假设检验的观测信号模型为设二元假设检验的观测信号模型为: :NinxHNinxHiiii, 2 , 1,1:, 2 , 1,1:10其中其中ni是均值为零是均值为零,方差为方差为2/12 的高斯随机变量的高斯随机变量,若两若两种假设先验等概的种假设先验等概的,且代价因子为且代价因子为c00=1, c10=4, c11=2, c01=3.给出上述问题的贝叶斯检测准则和平均代价给出上述问题的贝叶斯检测准则和平均代价C.国家重点实验室国家重点实验室解：解：步骤步骤1：计算两个似然函数，构建似然比：计算两个似然函数，构建似然比Nin

42、xHi, 2 , 1,1:0NinxHi, 2 , 1,1:1由于由于n是高斯分布随机变量，因此在是高斯分布随机变量，因此在H0假设下，第假设下，第i次采样值次采样值xi服从高斯分布，服从高斯分布，且均值为且均值为1，方差为，方差为 ,在在H1假设下，第假设下，第i次采样值次采样值xi服从均值为服从均值为-1，方差为，方差为的高斯分布。的高斯分布。 22222021exp21iixHxp222121exp21iixHxpNiixHp1222121exp21xNiixHp1222021exp21x国家重点实验室国家重点实验室步骤步骤2：根据两个假设的先验概率和代价因子，计算判决门限根据两个假设的

43、先验概率和代价因子，计算判决门限323141101100100ccHPccHP步骤步骤3：形成贝叶斯检测基本表达式：形成贝叶斯检测基本表达式1001HHHpHpxx101222122221exp2121exp21HHNiiNiixx国家重点实验室国家重点实验室步骤步骤4：化简：化简101222122221exp2121exp21HHNiiNiixx102122211expHHNiiixxln242110HHNiix2ln2101HHNiixdefHHNiiNNxN43ln2ln12101国家重点实验室国家重点实验室计算平均代价：计算平均代价：统计量统计量NiidefxNl11假设假设H0条件下

44、，统计量条件下，统计量l为高斯分布，均值和方差分别为：为高斯分布，均值和方差分别为：11111010NiNiinNEHxNEHlE NlElEHlVar220222021exp2lNNHlpdefHHNiiNNxN43ln2ln12101国家重点实验室国家重点实验室平均代价计算：平均代价计算：统计量统计量NiidefxNl11假设假设H1条件下，统计量条件下，统计量l为高斯分布，均值和方差分别为：为高斯分布，均值和方差分别为：11111111NiNiinNEHxNEHlE NlElEHlVar221222121exp2lNNHlpdefHHNiiNNxN43ln2ln12101国家重点实验室国

45、家重点实验室性能分析：性能分析：统计量统计量NiidefxNl11dllNNHHP2220121exp21lNuduuHHPN12012exp211ln21112NNQNQNNQln21224Nd 2ln1ddQdefHHNiiNNxN43ln2ln12101国家重点实验室国家重点实验室01001HHPHHP2ln1ddQdllNNHHP2220121exp2国家重点实验室国家重点实验室性能分析：性能分析：统计量统计量NiidefxNl11dllNNHHP2221021exp21lNuduuHHPN12102exp211ln212NNQNQNNQln22lnddQ224Nd defHHNiiN

46、NxN43ln2ln12101国家重点实验室国家重点实验室dllNNHHP2221021exp22lnddQ2ln111011ddQHHPHHP2ln1ddQ01001HHPHHPdllNNHHP2220121exp2111110011011000000HHPcHHPcHPHHPcHHPcHPCc00=1, c10=4, c11=2,c01=3.国家重点实验室国家重点实验室贝叶斯检测小结贝叶斯检测小结(1)(1)dxHxpccHPHxpccHPHPcHPcCR0000100111011111010把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域，而把其余的观察值区

47、域，而把其余的观察值x值划分给值划分给R1，即可保证平均代价最小。即可保证平均代价最小。000100111011HxpccHPHxpccHP判决判决H0假设成立假设成立000100111011HxpccHPHxpccHP判决判决H1假设成立假设成立11011001000110ccHPccHPHxpHxpHH贝叶斯判决准则贝叶斯判决准则国家重点实验室国家重点实验室贝叶斯检测小结贝叶斯检测小结(2)(2)11011001000110ccHPccHPHxpHxpHH利用贝叶斯判决准则进行检测的基本步骤：利用贝叶斯判决准则进行检测的基本步骤：步骤步骤1：计算两个似然函数：计算两个似然函数步骤步骤2：根

48、据两个假设的先验概率和代价因子，计算判决门限：根据两个假设的先验概率和代价因子，计算判决门限步骤步骤3：形成贝叶斯检测基本表达式：形成贝叶斯检测基本表达式步骤步骤4：化简：化简国家重点实验室国家重点实验室贝叶斯检测小结贝叶斯检测小结(3)(3)计算判决概率的基本原则：根据化简后的最简判决表示式进行计算。计算判决概率的基本原则：根据化简后的最简判决表示式进行计算。计算步骤：计算步骤：步骤步骤1：推导贝叶斯检测准则的最简表示形式推导贝叶斯检测准则的最简表示形式 10HHxl步骤步骤2：根据最简表示形式，计算各种假设下，统计量的概率密度函数根据最简表示形式，计算各种假设下，统计量的概率密度函数1Hl

49、p0Hlp步骤步骤3：计算判决概率计算判决概率10HHP01HHPdlHlpHHP110dlHlpHHP001国家重点实验室国家重点实验室3.4 派生贝叶斯准则派生贝叶斯准则(Generalized Bayes Criterion)基本要求：基本要求：掌握最小平均错误概率准则和最大后验概率准则掌握最小平均错误概率准则和最大后验概率准则理解极小化极大准则和奈曼理解极小化极大准则和奈曼-皮尔逊准则的应用范围皮尔逊准则的应用范围和基本原理和基本原理国家重点实验室国家重点实验室3.4.1 最小平均错误概率准则最小平均错误概率准则(Minimum mean prob. of error criterio

50、n)01100cc应用范围应用范围11001cc101010HHPHPHHPHPC平均错误概率平均错误概率此时此时,平均代价最小即转化为平均错误概率最小。平均代价最小即转化为平均错误概率最小。111110011011000000HHPcHHPcHPHHPcHHPcHPC国家重点实验室国家重点实验室3.4.1 最小平均错误概率准则最小平均错误概率准则dxHxpccHPHxpccHPHPcHPcCR000010011101111101001100cc11001ccdxHxpHPHxpHPHPCR000110把使被积函数取负值的观察值把使被积函数取负值的观察值x值划分给值划分给R0区域，而把其余的观

51、察值区域，而把其余的观察值x值划分给值划分给R1，即可保证平均代价最小。即可保证平均代价最小。0011HxpHPHxpHP判决判决H0假设成立假设成立0011HxpHPHxpHP判决判决H1假设成立假设成立国家重点实验室国家重点实验室3.4.1 最小平均错误概率准则最小平均错误概率准则100110HPHPHxpHxpHH最小平均错误概率判决准则最小平均错误概率判决准则01100cc11001cc若若，且两个假设的先验概率等概，且两个假设的先验概率等概最小平均错误概率准则转化为最小平均错误概率准则转化为0110HxpHxpHH最大似然检测准则最大似然检测准则国家重点实验室国家重点实验室3.4.1

52、 最小平均错误概率准则最小平均错误概率准则Ex3.7 Ex3.7 在闭启键控通信系统中，两个假设下的观察在闭启键控通信系统中，两个假设下的观察信号模型为：信号模型为：若两个假设的先验概率相等，且若两个假设的先验概率相等，且采用最小平均错误概率准则，试确定判决表示式，采用最小平均错误概率准则，试确定判决表示式，并求最小平均错误概率并求最小平均错误概率上述情况下上述情况下, ,噪声噪声n n是均值为零是均值为零, ,方差为方差为 的高斯噪声的高斯噪声2nAxHnxH:1001100cc11001cc国家重点实验室国家重点实验室defHHAAx2ln210dxxHHP222012exp212lndd

53、QduuHHPA2exp212102ln1ddQ由例由例3.5，知，知由于由于1010101HHPHPHHPHPPe2212121dQdQ2dQ22Ad 国家重点实验室国家重点实验室3.4.2 最大后验概率准则最大后验概率准则(Maximum a posteriori prob. criterion)11010010cccc应用范围应用范围11011001000110ccHPccHPHxpHxpHH贝叶斯判决准则贝叶斯判决准则100110HPHPHxpHxpHH形式上于最小平均错误概率准则相同形式上于最小平均错误概率准则相同问题：可写成上述判决表达式形式的，是否一定可以获得最小平均错误概率？问

54、题：可写成上述判决表达式形式的，是否一定可以获得最小平均错误概率？国家重点实验室国家重点实验室100110HPHPHxpHxpHH001110HxpHPHPHxpHHdxxXxPHPHdxxXxPdxxXxHP111dxHxpHdxxXxP11 dxxpdxxXxP因此，当因此，当dx很小时，有很小时，有xHPdxxXxHP11 xpHPHxpdxxpdxHPHxpxHP11111国家重点实验室国家重点实验室100110HPHPHxpHxpHH001110HxpHPHPHxpHH xpHPHxpdxxpdxHPHxpxHP11111 111HPxpxHPHxp 000HPxpxHPHxp 00

55、011110HxpHPxpxHPHPHPxpxHPHHxHPxHPHH0110最大后验概率检测准则：最大后验概率检测准则：国家重点实验室国家重点实验室贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使使平均代价最小平均代价最小的检测准则。的检测准则。11011001000110ccHPccHPHxpHxpHH100110HPHPHxpHxpHH最小平均最小平均错误概率错误概率判决准则判决准则xHPxHPHH0110最大后验最大后验概率检测概率检测准则准则01100cc11001cc11010010cccc等概等概0

56、110HxpHxpHH最大似然最大似然判决准则判决准则贝叶斯及派生检测准则贝叶斯及派生检测准则(1)符合最小平均错误概率准则的一定符合符合最小平均错误概率准则的一定符合最大后验概率检测准则，反之不成立。最大后验概率检测准则，反之不成立。国家重点实验室国家重点实验室贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，贝叶斯检测，给定各种判决代价因子，且已知各假设的先验概率条件下，使使平均代价最小平均代价最小的检测准则。的检测准则。11011001000110ccHPccHPHxpHxpHH贝叶斯及派生检测准则贝叶斯及派生检测准则(2)信源先验信源先验概率未知概率未知信源先验概率及信源

57、先验概率及代价因子均未知代价因子均未知极小化极大准则极小化极大准则奈曼皮尔逊准则奈曼皮尔逊准则国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则(Minimax criterion)应用范围应用范围假设的先验概率未知，判决代价因子给定假设的先验概率未知，判决代价因子给定目的目的尽可能避免产生过分大的代价，使极大可能代价最小化。尽可能避免产生过分大的代价，使极大可能代价最小化。国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则(Minimax criterion)在先验概率未知的情况下在先验概率未知的情况下,平均代价的性质？平均代价的性质？ 平均代价是先验概率

58、的函数平均代价是先验概率的函数.在先验概率未知的情况下在先验概率未知的情况下,进行检测的方法是进行检测的方法是:先假设一个先验概率先假设一个先验概率p1g,然后按照贝叶斯准则进行检测然后按照贝叶斯准则进行检测为尽可能降低代价为尽可能降低代价,需设计一种先验概率的假设方法，使由此需设计一种先验概率的假设方法，使由此 得到的检测准则的代价值与先验概率无关得到的检测准则的代价值与先验概率无关.国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则一、几种表示符号定义一、几种表示符号定义0100011RRdefFdxHxpdxHxpHHPP0110RdefMdxHxpHHPP001111

59、PHPHPPdefdef虚警概率虚警概率漏警概率漏警概率国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则二、先验概率未知的情况下，平均代价的性质二、先验概率未知的情况下，平均代价的性质先验概率未知时，由于贝叶斯判决门限是先验概率先验概率未知时，由于贝叶斯判决门限是先验概率P1的函数，的函数，因此漏警概率和虚警概率也是先验概率因此漏警概率和虚警概率也是先验概率P1的函数的函数111110011011000000HHPcHHPcHPHHPcHHPcHPC先验概率和代价因子已知时，平均代价为先验概率和代价因子已知时，平均代价为代价因子已知，先验概率未知时，平均代价是先验概率代价因

60、子已知，先验概率未知时，平均代价是先验概率P1的函数的函数 11111001101100000111HHPcHHPcPHHPcHHPcPPC1001RdefFdxHxpHHPP0110RdefMdxHxpHHPP国家重点实验室国家重点实验室3.4.3 极小化极大准则极小化极大准则二、先验概率未知的情况下，平均代价的性质二、先验概率未知的情况下，平均代价的性质 11111001101100000111HHPcHHPcPHHPcHHPcPPC 011HHPPPdefF 101HHPPPdefM 111101111010011111PPcPPcPPPcPPcPPCMMFF 1110111111001