模式识别练习题

1、第四章习题解1.设一维两类模式满足正态分布，它们的均值和方差分别为， 比=0, ；=2,2=2,二=2, p(x) -Np , )，窗函数 P( 3 1)= P( 3 2), 取0-1损失函数，试算出判决边界点，并绘出它们的概率密度函数曲 线；试确定样本-3 , -2 , 1, 3, 5各属哪一类。解：已知由Bayes最小损失判决准则:112 (x)如果 P(X!)P(X2)_ P ( 2)(兀21 -打2 )P ® J(扎2 '11 ),则判X 1 ,否则判2 2x (X2)x11佗(x) =exp =exp()%8 8 2x 11 xlnexp()In 弓2 = ln 1

2、 = 02 2如果x ，则判x1，否则判x2。-3 , -2 属于 3 1 ； 1, 3, 5 属于 3 2。2 .在图像识别中，假定有灌木丛和坦克两种类型，分别用 和3 2表示，它们的先验概率分别为 0.7和0.3，损失函数如表所示 现在做了四次试验，获得四个样本的类概率密度如下：p(x/ 1): 0.1 , 0.15 , 0.3 , 0.6p(x/ 2): 0.8 , 0.7 , 0.55 , 0.3(1) 试用贝叶斯最小误判概率准则判决四个样本各属于哪个类型;（2）假定只考虑前两种判决，试用贝叶斯最小风险准则判决四个样本各属于哪个类型；（3）将拒绝判决考虑在内，重新考核四次试验的结果。l

3、l2（X）如果 P（x1）P（X2）PC '2)PC '1)，则判x1，否则判表型损失判决3 13 2“（判为3 1）0.52.0口2 （判为3 2）4.01.0«3 （拒绝判决）1.51.5解：（1）两类问题的Bayes最小误判概率准则为由已知数据，12=0.3/0.7=3/7X1：V1 12(X1)=0.1/0.8<“2=3/7Xr 3 2X2：V1 12(X2)=0.15/0.7<12=3/7X23 2X3：V1 12(X3)=0.3/0.55>12=3/7X33 1X4：V1 12(X4)=0.6/0.3>刊2=3/7X43 1样本样本

4、样本样本（2）不含拒绝判决的两类问题的 Bayes最小风险判决准则为112 (X)如果 P（x'1）P（X2）P C '2)( ' 21 - ' 2 )P ( '1 )(12 一 11 )，则判X1，否则判由已知数据，刊2=0.3 ( 2 - 1 )/0.7(4 - 0.5 ) =3/24.5 ,样本 X1：v 112 (X1) =1/812=6/49 - Xv 3 1样本X2：T112 (X2) =3/14> 12=6/49X3 1样本X3：T1 12 (X3) =6/11> -12=6/49 .X33 1样本X4：T1 12 (X4)=6

5、/312=6/49X43 1(3)含拒绝判决的两类问题的 Bayes最小风险判决准则为R( jx)=禹2t 认】ji z!j =1,2, 3if R( ：|x) = min R(: j | x) then x 三估，i = 3时为 拒绝判 决 j 占2 ,3其中条件风险：2R(：r 1 x) » t，c- j，i)PC，i |x), j =1,2,3i 土后验概率:2pc，i iX)二 p(xp(/ p(x)二 p(x打)pc 打)/p(xr，i)pc 'i)i z12r (Ct j | x)=送 丸(OtjCOjpCxlCOjP (Wi ), j =，2, 3记v(4.7-

6、1)则，含拒绝判决的两类问题的Bayes最小风险判决准则为if r( : j | x) = min r (: j | x) then x 三j , i = 3时为拒 绝判决 j =£2 ,3对四个样本逐一列写下表，用(4.7-1)式计算r(r|x) 样本xi：13 23i)"pcX 31) P( 3p(X| 3 2) F( 3r (W | x)类型1)=2)=损.1 97=0.070.8 93=0.24失判决«1 (判0.52.00.5*0.07+2*0.24=0.515为3 1)5 (判4.01.04*0.07+1*0.24=0.52为3 2)«3 (

7、拒绝判决)1.51.51.5*0.07+1.5*0.24二0.465因为r(“|xi)=0.465最小，所以拒绝判决; 样本X2：7化3 21 3 J3 1)P(3p(x| 3 2)P( 3r(w|x)类型1)=2)=0损59.7=0.100.7 93=0.2失51判决0(10.52.00.5*0.105+2*0.21= 0.4725(判为31)4.01.04*0.105+1*0.21=0.63(判为32)«31.51.51.5*0.105+1.5*0.21=0.47(拒25绝判决）因为r（g|X2）=0.4725最小，所以判X w i,即灌木丛，或拒绝判决;样本X3：w 2I w

8、i)PfX'fw i)p( wp(X| w 2)F( wr(Gj|x)类型1)=2)=(损 97=0.20.55 2.3=0.16失15判决«10.52.00.5*0.21+2*0.165= 0.435（判为w1)4.01.04*0.21 + 1*0.165=1.005（判为w2)«31.51.51.5*0.21 + 1.5*0.165=0.56（拒25绝判决）因为r（i| X3）=0.435最小，所以判X3 w 1,即灌木丛; 样本X4：13 23i)"pX 3 1) P( 3P(x| 3 2) R 3r(®|x)类型1)=2)=损.6 97=

9、0.420.3 93=0.09失判决«1 (判0.52.00.5*0.42+2*0.09= 0.39为3 1）«2 (判4.01.04*0.42+1*0.09=1.77为3 2）«3 （拒绝判决）1.51.51.5*0.42+1.5*0.09=0.765因为r（i| X4）=0.39最小，所以判x< 31,即灌木丛=(-1，0)'卩 2=(1，0)'3.假设两类二维正态分布参数为 J1 先验概率相等。（1）令龙1二龙2 = 1，试给出判决规则;1 -1 / 22) 令-1 / 2 1解：Bayes最小误判概率似然比判决规则为l （-,P（X

10、WP®2）1I12（X）= >廿12 = =1如果P（X2）P（1），则判X，否则判X2。相应的负对数似然比判决规则为女口果-In l2（x） =ln p（X | 2） Tn P（x | 囲）£In 兔=Tn 1=0，贝y 判 x"，否则判X1 1 1 _ P(x 丨®) =nr2exp (x 片)Zi (x 出)对于正态分布(2二)|0|21 1 -In(x) In | J I _ln | 二(x - 7 )( x 一 叫)一(x 一 心)x - 心2(1)由已知,- 1p(x| J exp2- 1 p(x| J exp-1'1(XiX2

11、丿X2丿2 2-11(X1 1)X2) exp 1-° 2 二)'I(Xi(1X21°丿22"丄exp一(“1)X2-In l12 (x)二 ln p(x | ，2) -InP(x | J = (XiI 2 n2 2-1)-(X1 -1) =4X1故，如果X1：°则判x 1否则判x(2)1 /2-1 /2= 3/4= 3/4广 11/2L4(1-1/211-1/24(11 /2 A=工=02 1311/21 >J 2><-1/21 3J/211/2-1 /2111仝+1、4' 1-1 / 2 A1Q -1 "4

12、' 1 1 / 2、 _1 '2< X2丿311/21 1 X221 X23<1/21 1 X2In I12 (x)二x2 / 21 _1X2 / 2:仅十门卜十1/< J2X1 131 X2 丿 |x11x1 -1-X2X2-2( X1 1)(X1 1 X2/2) X2(X2)-(£ 1)(X1 -1 X232/2) -X2(勺-X2)24(2 X1 - 玄？)x1 (2 - x2) : 0 then x 三eIse x 三门 2if ( x1 <0)and( x2 : 2) or ( x1 - 0)and( x2 2) then . 1 e

13、lse x ：- . 2Bayes 判决函数为 d(x)=1.5-x。3if即，故,4 .在目标识别中，假定类型，1为敌方目标，类型，2为诱饵(假 目标)，已知先验概率 PC 1)=0.2和P( 2)=0.8，类概率密度函数 如下：x, 0 _ x :： 1x -1,1 _ x :： 2p( x p2-x, 1_x_2p(x|r) = 3-x, 2_x_30, 其它0, 其它x=1.5 属P（2）:：:P（）则（1）求贝叶斯最小误判概率准则下的判决域，并判断样本 于哪一类；I /P（ X 31）丨12（X）=解：（1）应用贝叶斯最小误判概率准则如果P（小2）112(1.5)=1 <P(2

14、)P( i)=4,故 x=1.5 属于 25.设在三维空间中一个类别分类问题拟采用二次曲面。如欲采用广义线性方程求解。试向其广义样本向量与广义权向量的表达式，其维数是多少？答：设次二次曲面为逢彳 +42 +去理+必02 +EX03 +必巧+ g& +方衍+/巧+擁=0故广义权向量：广义样本向量： 一一维数为9。1 1/21 & =1 1/2 16 .设两类样本的类内离散矩阵分别为 ' 1 -1/21=1 -1/2 1试用fisher准则求其决策面方程。01J答:41r05 0 1p10W =s-ffla)=l 0 0.5-2-1L1,因此w0应为由于两类样本分布形状是相同的 (只是方向不同) 两类均值的中点'心一W川匸二厂。下图中的绿线为最佳线性分界面。7. 已知有两类数据，分别为叫：(L 0), (2, 0), (1. 1)Dgl (一 h Q)p (Qi 1), ( 1, 1)试求：该组数据的类内及类间离散矩阵，及I答：第一类的均值向量为1r 6-51亠 1r2 fSi =-，S3 =-1 9-5 6i3 31 2<8. 设一个二维空间中的两类样本服从正态分布，其参数分别为fl 01丿，先验概率叭讪习©