第二章信号检测理论与准则

2023/2/612023/2/61SignalDetectionandEstimation2023/2/622023/2/62课程内容非高斯白噪声中的检测4绪论1信号检测理论与准则2高斯白噪声中的检测3信号参量估计5波形估计62023/2/632023/2/63信号检测理论与准则假设检验1双择检测及其最佳准则2M元信号检测及其最佳准则362023/2/6441.1、假设检验（HypothesisTest）（1/6）假设检验理论已知信号S(t)有M个状态（M个假设,Hypotheses）对接收的信号（样本值，samples）进行处理（在时间范围[0,T]）根据某个准则，作出判决哪个为真，且可得到此判决为正确的概率。假设检验是进行判决的及其重要的统计工具之一。2023/2/652023/2/651.1、假设检验（2/6）假设检验理论的简单数学模型Source（源）概率转移机制（ProbabilisticTransitionMechanism）观测空间（ObservationSpace）

判决准则（DecisionRule）

2023/2/662023/2/661.1、假设检验（3/6）1.Source（源）称源的输出为假设（Hypotheses）若有M个可能的输出，则标记为M个假设例子：数字通信系统：发“1”：H1发“0”：H0雷达系统：目标出现：H1没有目标：H0医疗诊断：出现某种疾病：H1没有疾病：H0语音识别：发言者的国籍：Hi发言者的性别：Hj2023/2/672023/2/671.1、假设检验（4/6）2概率转移机制（ProbabilisticTransitionMechanism）基于特定概率原则（law），生成观测空间中的点3观测空间（ObservationSpace）2023/2/682023/2/68例：一个独立随机变量n加在源输出上，该随机变量的概率密度为：观测空间（ObservationSpace）在本课程中都假设观察空间是有限维的，这也是经典检测理论研究的范畴。这里观察空间为：{-2,-1,0,1,2}1.1、假设检验（5/6）2023/2/692023/2/694.判决准则（DecisionRule）建立一个判决规则，使得观察空间中的任意点都对应一个特定的假设。1.1、假设检验（6/6）2023/2/6102023/2/610信号检测理论与准则4假设检验1双择检测及其最佳准则2M元信号检测及其最佳准则362023/2/6112.双择检测(BinaryHypothesisTest)问题：

问题提出（1/2）2023/2/611信息传输系统，信息发送端只有两种状态(假设,Hypothesis）

H1和H0发端收端问题：如何根据x(t)判定发端的状态是H1还是H0？2023/2/6122.双择检测问题：问题提出（2/2）2023/2/612问题分析在接收到x(t)的条件下，可以作出两种判决：付出代价（Cost）！可能出错目标：确定某种判决方法，使得由于错判引入的平均代价最小。问题：如何确定输入空间的划分，使得平均代价最小？2023/2/6132.双择检测问题：可以利用的条件（1/2）2023/2/613条件１：代价因子定义：Cij表示假设Hj为真，却选择了假设Hi的代价，称为代价因子（costfactor）。对于双择检测，有显然：C00C01C11C10H0H1D0D12023/2/6142.双择检测问题：可以利用的条件（2/2）2023/2/614条件2：先验概率和条件3：噪声的统计特性条件4：信号的波形和2023/2/6152.双择检测问题：平均风险（1/3）2023/2/615平均风险(risk)（一）：给定x(t)给定X,判为D1的平均代价给定X,判为D0的平均代价定义2023/2/6162.双择检测问题：平均风险（2/3）2023/2/616平均风险（二）:给定Hi给定H0，判决的平均代价给定H1，判决的平均代价判决的平均风险2023/2/6172.双择检测问题：平均风险（3/3）2023/2/617可以证明，两种平均风险是一致的判决方法与R的关系判决方法设计的核心思想是：min{R}2023/2/6182.1、贝叶斯准则(BayesCriterion)（1/8）2023/2/618已知条件代价因子：噪声分布：思路一：先验概率：信号波形:判决方法：2023/2/6192.1、贝叶斯准则(BayesCriterion)（2/8）2023/2/619即：整理后，有利用概率乘法公式考虑到：需要计算后验概率，实用性差！计算似然函数，实用性好！似然比LikelihoodFunction/likelihoodRatio似然比门限2023/2/62020

思路二：总的平均风险：寻求一种对样本空间的划分，使得R最小，Rmin=RB，这个判决准则即成为贝叶斯准则(Bayescriterion)2023/2/621212.1、贝叶斯准则(BayesCriterion)（4/8）

总的平均风险：如n维的似然函数已知，即：则：带入R中，有：前两项为常数2023/2/6222/6/2023222.1、贝叶斯准则(BayesCriterion)（5/8）

要使总的平均风险R最小，即使积分项：

最小。对于一元函数f(x),要使最小，需选取R1为使f(x)为负的区域的并集

232/6/2023232.1、贝叶斯准则(BayesCriterion)（6/8）所以：

即Bayes准则，使总的平均风险最小化讨论：C10（虚警代价）上升门限上升C01（漏检代价）上升门限下降与思路一的结论一致2023/2/6242.1、贝叶斯准则(BayesCriterion)（7/8）2023/2/624讨论：贝叶斯意义下的最佳判决系统变为计算似然比的系统。物理概念：2023/2/6252.1、贝叶斯准则(BayesCriterion)（8/8）2023/2/625实现形式其中：似然函数比（似然比）可以根据信号波形和噪声分布计算判决门限根据已知条件事先计算2023/2/6262023/2/626补充、假设检验中的两种错误概率(1/3)第一类错误概率（虚警概率，ProbabilityofFalseAlarm）：雷达探测系统中称为虚警概率通信系统中表征发送0，接收判决为1的错误概率2023/2/6272023/2/627补充、假设检验中的两种错误概率(2/3)第二类错误概率（漏警概率,ProbabilityofMissDetection）：雷达探测系统中称为漏警概率通信系统中表征发送1，接收判决为0的错误概率2023/2/6282023/2/628补充、假设检验中的两种错误概率(3/3)总的错误概率：雷达探测系统中，通常通信系统中,通常29例子：设是统计独立、方差为的高斯随机变量。在假设下，其均值为；在假设下，其均值为,且,求似然比和等效判决量在两种假设下，条件概率密度函数（似然函数）为似然比判决式2023/2/62023/2/630例子(续)：考虑到指数函数是单调函数，取对数，有2023/2/6302023/2/6例子(续)：等效判决量这里。于是，对观测空间划分是一个平面：实现形式：2023/2/6312023/2/632讨论：考察测量次数与错误概率之间的关系由于mx是n个相互独立高斯随机变量的线性组合，也是高斯分布的随机变量，在H1和H0下的的均值分别为a1和a0，方差为两种错误概率为这里标准正态分布函数：Q函数2023/2/62023/2/633讨论：结论：随着观测次数的增加，判决的错误概率可以降低。2023/2/6342.2、最小错误概率与最大后验准则（1/5）已知条件先验概率：P(H1)，P(H0)正确判决的代价为0，错误判决的代价为1于是2023/2/634与Bayes的区别Bayes判决式2023/2/635总的平均风险平均错误概率在数字通信系统中，通常假设2023/2/635最小化Bayes风险变成了最小化平均错误概率，称为最小错误概率准则。2.2、最小错误概率与最大后验准则（2/5）2023/2/6362.2、最小错误概率与最大后验准则（3/5）2023/2/636已知条件代价因子条件部分可知：准则导出由Bayes准则：最小错误概率准则最大后验概率准则：-先验概率：-信号波形:-噪声分布：2023/2/6372.2、最小错误概率与最大后验准则（4/5）2023/2/637准则的含义意义：在收到x的条件下，比较两个假设的后验概率，判定为后验概率较大者。2023/2/6382023/2/638由概率乘法公式，有物理含义：观察和比较x和Hi的联合概率：P(x,H0)

和P(x,H1)

判决规则：如果P(x,H1)

≥P(x,H0),则判决H1为真，记为D1如果P(x,H1)＜P(x,H0),则判决H0为真，记为D02023/2/6392.2、最小错误概率与最大后验准则（5/5）2023/2/639讨论：最大后验概率准则是贝叶斯准则的特例。最大后验概率准则是从信息论的观点来研究最佳判决系统。后验概率反映了获得观测矢量x后所获得的信息。后验概率越大，假设越可能出现。后验概率难以计算，通常需要转换实现形式2023/2/6402023/2/6402.3、假设检验中的最大似然检测最大似然准则适用条件先验概率未知代价因子部分已知信号波形已知噪声分布已知

如果可假设(通信系统）与MAP准则的区别2023/2/6412.4、极大极小化（minimax）准则（1/9）2023/2/641已知条件代价因子部分已知：准则导出由Bayes准则：先验概率：信号波形:噪声分布：与MAP的区别不宜假设等概，雷达2023/2/6422.4、极大极小化（minimax）准则（2/9）2023/2/642贝叶斯风险和先验信号的关系2023/2/6432023/2/643

当当2.4、极大极小化（minimax）准则（3/9）由于R非负且不恒为0，R是P(H1)的非线性函数，其在P(H1)取值区间[0,1]内某点达到极值！2023/2/6442.4极大极小化（minimax）准则（4/9）2023/2/644一个例子：2023/2/6452.4、极大极小化（minimax）准则（5/9）2023/2/645随机假定门限的实际风险分析由于不知道P(H1)，随机假定其为，此时，对应的判决门限为此时，有门限固定！为常数！为常数！2023/2/6462.4极大极小化（minimax）准则（6/9）2023/2/646

当当门限相同贝叶斯准则因贝叶斯准则具有最小风险门限不同2023/2/6472.4、极大极小化（minimax）准则（7/9）2023/2/6472023/2/6482.4、极大极小化（minimax）准则（8/9）2023/2/648极大极小化准则的实质当假设H1和H0的先验概率未知时，寻求最大可能风险的极小化，等效于从贝叶斯解中寻求最不利的先验概率。判决准则避免极大风险实际风险为最大贝叶斯风险2023/2/6492.4、极大极小化（minimax）准则（9/9）2023/2/649特点：选择最不利先验概率的贝叶斯准则；两类错误的平均代价相等。即，满足极大极小化准则的风险实现形式2023/2/650例子：二元通信系统通常采用如下代价因子如果采用极大极小化准则，求最不利先验信息极大极小化风险为由Bayes平均风险的定义最不利先验概率2023/2/651例：设一次采样信号可表示为x=s+nH0:x=nH1:x=1+nn为零均值，方差为的高斯随机变量。设代价因子用极大极小准则求和最不利先验概率。【解】：似然函数2023/2/652例：利用极大极小化准则的求解条件例：由于2023/2/6532.5纽曼-皮尔逊准则（Neyman-PearsonCriterion）(1/8)问题的提出：错判的代价和先验概率未知（雷达探测目标时），怎样确定门限？准则：设定虚警概率一定的条件下，使检测概率最大。即：2023/2/6542.5纽曼-皮尔逊准则（N-P准则）(2/8)问题建模：条件极值问题构造代价函数考虑到为常数，有我们的目标：2023/2/655拉格朗日乘数门限的确定回顾：在总的平均风险R中，若令（条件）则56纽曼-皮尔逊准则（N-P准则）就是满足上述条件下的贝叶斯准则！也是似然比准则的特例！2.5纽曼-皮尔逊准则（N-PCriterion）（4/8）门限的确定如何确定？已知虚警概率一定设似然函数已知于是，有2023/2/6572.5纽曼-皮尔逊准则（N-PCriterion）（5/8）例：一次采样的样本是零均值，方差的高斯分布随机变量。有两种假设：0或者1；若令，按N-P准则确定和【解】2023/2/6582.5纽曼-皮尔逊准则（N-PCriterion）（6/8）则似然比：由Pf定义可得：2023/2/6592.5纽曼-皮尔逊准则（N-PCriterion）（7/8）于是从而检测概率2023/2/6602.5纽曼-皮尔逊准则（N-PCriterion）（8/8）实现计算似然比即：每采集一个样本，计算并与比较，做出判决。2023/2/6612.6小结：双择检测的准则（1/6）基本问题对的个观测样本，向量统一的检测原则：似然比检测统一的检测器结构2023/2/662似然比门限2.6小结：双择检测的准则（2/6）不同的准则，所需要的先验信息和确定门限的方法不同。Bayes准则：最小错误概率和最大后验概率（MAP）准则2023/2/663先验信息：先验概率P(Hi)代价因子Ci,j似然函数先验信息：似然函数先验概率P(Hi)C0,0=C1,1=0C0,1=C0,1=1(最小错误概率)C0,1=C0,1(MAP)2.6小结：双择检测的准则（3/6）最大似然（ML）准则在MAP准则中，，则极大极小（minmax）准则在Bayes风险（最小风险）中，改变P(Hi)，找出最大的风险（极大）2023/2/664先验信息：似然函数代价因子Ci,jC0,0=C1,1=02.6小结：双择检测的准则（4/6）纽曼-皮尔逊（N-P）准则虚警概率已知，2023/2/665先验信息：似然函数C0,0=C1,1=02.6小结：双择检测的准则（5/6）讨论：似然比判别的理解似然函数似然比2023/2/666发端源输出状态为H1，可能出现观测空间X中的任何一个样本，但出现该样本的可能性为发端源输出状态为H0，可能出现观测空间X中的任何一个样本，但出现该样本的可能性为可能性的比较。2.6小结：双择检测的准则（6/6）门限的作用代价因子的作用2023/2/667C00C01C11C10H0H1D0D12023/2/6682023/2/668信号检测理论与准则4假设检验1双择检测及其最佳准则2M元信号检测及其最佳准则363.1M元信号检测的Bayes准则(1/5)问题描述数字通信中QPSK调制，s(t)有4种可能的状态，M=4256-QAM调制，s(t)有256种可能的状态，M=256数学模型设接收机接收信号加噪声s(t)有M种状态：,对应M种假设2023/2/669M择1的假设检验问题！3.1M元信号检测的Bayes准则(2/5)问题：由x(t)的N个样本值，判决哪一个假设为真。问题求解设先验概率已知，且满足完备性条件每次实验有且仅有一个Hi为真。代价因子Cij：已知Hj为真，判为Hi为真的代价作Di判决的总风险判决准则：时，作Dk判决。2023/2/6703.1M元信号检测的Bayes准则(2/5)已知观测样本x，Hj的后验概率已得到下的判决已得到，做Di判决的代价为作Di判决的风险为：判决准则：选择Ci中最小的Ck对应的Dk作为判决2023/2/671实际中计算困难！3.1M元信号检测的Bayes准则(3/5)利用概率乘法公式如果已知概率密度函数（pdf）则：2023/2/6