模式识别实验一(最小贝叶斯决策及ROC曲线)概要

1、实验一实验原理1. 最小错误率贝叶斯决策规则：对于两类问题，最小错误率贝叶斯决策有如下判决规则：P( 11 X)P( 21 X),则X 1；反之，则 X2。由于先验概率P( i)可以确定，与当前样本X无关，所以决策规则也可整理成下面的形式：若l(x)X|B ") ，则X -1,否则X -20P(X®2) P®1)2. 平均错误率决策边界把X轴分割成两个区域，分别称为第一类和第二类 的决策区域.样本在中但属于第二类的错误概率和样本在中但属于第一类的错误概率就是出现错误的概率，再考虑到样 本自身的分布后就是平均错误率：t:P(e)二 J-P( 21 x) p(x)dx

2、 t P( 1 |x) p(x)dxt:=p(x| 2)P('2)dx t P(X| 1)P( Jdx3此实验中的判决门限和平均错误率(1) 判决门限假设随机脉冲信号f中0的概率为,高斯噪声信号n服 从，信号叠加时的放大倍数为a，叠加后的信号为s 二 f * a n。由最小错误率贝叶斯决策可得：ffP(1)P(X| 1). P(，2)P(X| 2)22化简计算得：t _ a2沁一2匚(lnU P。)np0)2a(2) 平均错误率由上述积分式可计算。二、实验内容1、已知均值和方差，产生高斯噪声信号，计算其统计特性实验中利用MATLAB产生均值为0,方差为1的高斯噪声信号，信号 统计分布的

3、程序和结果如下：泸生高斯噪声并统计其特性x=0;%均值为0y=1;%方差为1n=normrnd(x,y,1 1000000);%产生均值为0,方差为1的高斯噪声 m仁m ea n(n)%高斯噪声的均值v1=var( n); %高斯噪声的方差figure(1)plot(n(1:400); title('均值为0,方差为1的高斯噪声');figure(2)hist(n,10000); title('高斯噪声的统计特性');得到 m1= -4.6534e-005 ； v1= 0.9971。高斯噪声的统计特性2已知随机脉冲信号中0和1的出现概率，产生该随机脉冲信号，分析

4、其统计特性实验中利用MATLAB产生随机脉冲信号，信号统计分布的特性程序 及结果如下：%随机脉冲信号及其统计特性p=u nidrnd(10000,1,1000000)%产生1至U 100000之间均匀分布的随机序列 p0=0.4;f=p>(p0*10000);%设置门限，此时0的概率为0.4,1的概率为0.6m2=mea n(f);v2=var(f);figure©);stairs(f(1:400);title('随机脉冲信号');axis(0 400 -0.2 1.2);figure(4)hist(f,-0.2:0.01:1.2);title('随机脉

5、冲序列的统计特性');得到：m2=0.5995;V2=0.2401随机脉冲信号050100150 2即 290300350400随机脉冲序列的统计特性f|IIIII iIIIIII-0 44)2002040.60.811.2143在随机脉冲信号中叠加高斯噪声信号， 在不同的参数设置下分析其 统计特性用MATLAB将两个信号叠加，并分析其统计特性，具体程序及结果如下：%随机脉冲信号叠加高斯噪声信号及其统计特性 a=5;%取随机信号的幅度为5s=f*a+n;%对高斯噪声信号和随机脉冲序列进行叠加m3=mea n( s)%信号的均值v3=var(s); %信号的方差subplot(2,1,1

6、);stairs(s(1:400)%绘制部分叠加信号title('叠加后的信号');subplot(2,1,2);hist(s,1000)%绘图分析叠加后信号的统计特性title('叠加后信号的统计特性')得到 m3=2.9994;v3二 6.9964;10g .I|11 蠡加后信号的统计特性05010015020025D3003504004000300020001000°505104依据最小错误概率贝叶斯决策原理，确定判决门限，完成信号检测，计算两类错误率设判决门限为t,平均错误率为e,利用MATLAB计算t和e,具体程序和结果如下：%确定判决门限，

7、完成信号检测，计算两类错误率a=5;p0=0.4%第一类先验概率为0.4t=(aA2 -2*v1*(log(1-p0)-log(p0)/(2*a); %利用贝叶斯决策计算判别门限 s1=s>t%执行判决e仁 sum(f-s1)=-1)/(1000000*p0);% 计算虚警率 e2=sum(f-s1)=1)/(1000000*(1-p0);% 计算漏检率 e=e1*p0+e2*(1-p0);%计算平均错误率得到：判决门限t=2.4189,平均错误率e=0.0060。5改变判决门限，绘制ROC曲线在MATLAB中调用ROC函数，程序及绘制的曲线如下所示:(1)利用贝叶斯最小错误概率绘制RO

8、C曲线Smi n=min (si);Smax=max(s1);o=(s1-Smin)/(Smax-Smin);%对 s 进行归一化处理 tpr,fpr,thresholds=roc(f,o);%调用 roc 函数 plotroc(f,o); %绘制 ROC 曲线title('ROC 曲线')oROC曲线0 10.20 30.4 OS 0 60.70 启 0 91False Positive Rate8- o7- o.6- oamDC世>一1一5©1一 pn3 o.2 O-(2)改变判决门限，令t=1.8, 2.0, 2.2, 2.4, 2.6, 2.8得到的平均

9、错误概率分别为 e=0.0148,0.0099,0.0071, 0.0060,0.0068, 0.0068 数据表明，贝叶斯决策平均错误率理论上是最小错误概率。6改变随机脉冲信号与高斯噪声的参数，重复以上实验(1)其他条件不变，改变高斯噪声的均值，取均值 =2,方差=14504003503002502001501005003-2-1 D 12345 B 7高斯嗓声的统计特性播加后的信号15II1i'III|訂:WWOWWIMEIIIIII'050100150200250300350400蟲抑后信号的统计特性篇Ct2>話口 亠(D己一均值为鮎方差为1的ROC曲线0 10.2

10、0.3040.50.60.70.80.91False Positive Rate由上例得到：均值为1,方差为2时，t= 2.4188 , e=0.1353。当其他条件不变时，高斯白噪声均值判决门限，从而决定平均错误率 由此可看出，高斯噪声的均值对最小错误率贝叶斯决策的判决门限有 影响，均值越大，判决门限越大，对平均错误率影响越大。(2)其他条件不变，改变高斯噪声的方差，分别取方差=05、2,用matlab绘制ROC曲线如下图所示：awu a>一一 sod養加后的信号101 1 1 1 1 1 050100150200250300350400歪加后信号的统计特性600040002000均值

11、为0,方差为0.5的ROC曲线0.1U.20.3U.40.50.6 U.Z 0.80.91False Positive Rate300020001000均值为0,方差为2的ROC曲线0 1020.3040 506070 8091False Positive Rate当方差=0.5时，判决门限t=2.4797基本不变，平均错误率e几乎接近 于0;当方差=2时，判决门限t=2.1760,变化不大，但平均错误率 e=0.1028,明显大大增大。由此可看出，高斯噪声的方差对最小错误 率贝叶斯决策的判决门限影响较小， 对平均错误率的影响很大，方差 越大，平均错误率也越大。(3) 其他条件不变，改变随机脉

12、冲中 01的概率，分别取P0=O3,09得到的ROC曲线如下图所示：P0=03时：蠢加后的信号050100150200260300350400蠡加后信号的统计特性4000300020001000此时，判决门限t=2.3303,平均错误率e=0.0056pO=O3的ROC曲线a-e-'EH<DZ一一Qd 卷2 18 7 fi- O.QOL5o.0.1Q IIIIIIII100.10 20.3040 50 60 70.B091False Positive RateP0=0.9 时:蠡加后信号的统计特性6000 I1l此时，判决门限t=2.9401,平均错误率e=0.0035po=o.

13、&的尺oc曲线0.10.20.30.40 60 607 Q.B 0.91Falsa Positiva Rata&017 6 5 4 3 o.O 00.O.皿一啊住卫工一七如Bd en先验概率对判决门限和平均错误率均有影响。(4 )其他条件不变，改变信号叠加时的放大倍数，分别取放大倍数 得到的ROC曲线如下图所示：9o.5O-.3.201020.40.50.6070.30.91False Positive Rate沪呂的RO匚曲线7O.4o0.10.20.30.40.50.60.70.80.91False Positive Rate当a =2时，判决门限变t=0.7969,平均错误率e=0.1539;当a=8时, 判决门限t= 3.9492,平均错误率e= 3.7000e-005由此可看出，放大倍 数对判决门限和平均错误率均有影响， 且放大倍数越大，判决门限越 大，平均错误率越小。三、误差分析由实验原理中的平均错误率积分式可得理论上的平均错误率，下面 通过matlab计算理论上的平均错误率。程序和结果如所示：%误差分析t=(-10