模式识别题目及答案

1、一、 (15分)设有两类正态分布的样本集，第一类均值为巴=(2,0 )T，方差11/2T1-1/2工=|,第二类均值为“ =(2,2 )，方差'=先验概率1/211-1/21P(©1)=P(©2)，试求基于最小错误率的贝叶斯决策分界面。解 根据后验概率公式 p(ax) = p(x "i) p9i) ,(2)p(x)1T ,及正态密度函数 p(x©i)=172exp-(x- i) 1i (x Ni)/2 ,i=1,2。 (2) n/2F|ii|基于最小错误率的分界面为p(x|o1) p(©1) = p(x|02) p(o2) ,(2)两边

2、去对数，并代入密度函数，得T -LT -1(x 3)1 1(x - 3)/2 ln1 1=(x L)12(x %)/2 ln12(1) (2)二 一 4/3-2/3 1,-4/32/31由已知条件可得|工卜工21,工1 =334/3 一二=1/34/3-2 )T设x=(x1，x2),把已知条件代入式(1),经整理得x1x2 -4x2 -x1 +4 =0 ,(5, )(15设两类样本的类内离散矩阵分别为1121/21-1/2TTS211/21;各类样本均值分别为21,0),匕=(3,2),试用fisher准则求其决策面方程，并判断样本x = (2,2 )T的类别。2 0解：S=S1+S2 = .

3、|0 2(2,)(6,)投影方向为 w* =S，(Ji -)= 1/20-2 = -1_ 01/2, lt-2,IL-1阈值为 y0 = W*T (口1+.4)/2 - 1-1 -1 I -3,1给定样本的投影为y=MTx=I2 2匚Y<y0,属于第二类（3）-1（15分）给定如下的训练样例实例x0x1x2t（真实输出）11111212013101-14112-1用感知器训练法则求感知器的权值，设初始化权值为W0=W1=W2=0；1第1次迭代Wxlp5tP）y（P）AW0001111100000012011000000101-11-10-1-10-1112-11000(4')2第

4、2次迭代-10-11111-111101012011000010101-11-10-1-1111121T000(2')3第3和4次迭代-1111111-1111020120110000201C1-11-10T-12-1112-1-1000-12-111111000=12-112011000-12*1101-1-10004、 （15分）i. 推导正态分布下的最大似然估计；ii. 根据上步的结论，假设给出如下正态分布下的样本1 , 1 . 1 , 1 . 0 1 ,）0 人该0必9的值和方差两个参数。1 设样本为 K=x1, x2 , - xN1T 1正态密度函数 p(x i)1/2 ex

5、p-(x-i)，(x-i)/2(2)n2二 Zi则似然函数为1(。= p(K | 8) = p(Xi,X2,，xn | 0)N=n p(xkl )k 4N对数似然函数H ( 8) =£ In p(xkk 1最大似然估计?Ml = argmax 1( 9)en=argmax 21n p(xk | 0)e km1 N对于正态分布?ML = X xk ,N心1 N2根据1中的结果用ml =£ xk=1N kj(2)(2)1 N然l =5、(xk")2(2)N w1 N，；%l = '、 (xk -?)2=0.00404(5)N k 二(5)5、 (15分)给定样

6、本数据如下：(-6,-6 )T, (6,6 )T(1) 对其进行PCA变换(2) 用(1)的结果对样本数据做一维数据压缩解(1) PCA变换1求样本总体均值向量 N= (-6,-6 )T + (6,6 )T = (0,0 )T2 求协方差矩阵 R= (-6,-6 )T(-6,-6 )+ (6,6)T(6,6)/236 36(2)36 363 求特征根，令 3636 = 0 ,得,72 % = 0。(1 )3636 九由rQ =九%，得特征向量6 I 6.2 16|-672 J(2)要做一维压缩，就是向最大特征根对应的特征向量做投影，得-672 , 642(5)六、 (10 分)已知 4 个二维

7、样本：Xi = (0,0 )T, X2 = (0,1 )T, X3 = (1,2)T,X4 = (4,3 )T。试用层次聚类把样本分成 2类。解：1初始将每一个样本视为一类，得 Gi°=xi, G：=X2, G0=R, G0=“计算各类间的距离，得到距离矩阵D0 , (2 )D0G10 = X1G0 =dG；=X3G屋X4G10 =小01娓5G； =510加2x/5G3 = X3痣V20而G4 =X45245Tic02将最短距离1对应白类G° =x , G20 =X2合并为一类，得到新的分类：(4)_1_0_0_1_0_1_0G2=Gi,G2, G3XG3, G4KG41计

8、算各类间的欧式距离，得到距离矩阵D (2 )D1g；2=G10,gGg3=g；g：=g：Gkg°,g2)0石2V5g3 =g；近0而g4 =g)2M而0100103将距离最小两类G；2 =G10,G0和G3 =G；合并为一类，得到新的分类G123 =G1,G2,G3 , G4 =G4(2 )聚类结束，结果为1 :X1,X2, X32X47、 (10 分)已知 4 个二维样本：X1 = (0,0 )T, x2 = (1,0)T, x3 = (6,4 )T,X =(7,5 )T , X5 =(10,9)T。取K=3,用K均值算法做聚类解：1 K=3 ,初始化聚类中心，Z1(1) = X1

9、 = (0,0) , z2(1)=x3 = (6,4),Z3(1) = X5= (10,9 )T(2)2 根据中心进行分类，得 =X1,X2, 2=X3,X4, ®3=X5(2)3 更 新 聚 类 中 心，Z1(2)=(刈+X2)/2 = (1/2,0 )T ,Z2(2) =(X3+X4)/2 = (6,4 )T + (7,5)T = (13/2,9/2 )T , Z3(2)=X5= (10,9)T(4)4根据新的中心进彳T分类，得 以=X1,X2 , ©2 =X3,X4 , %=X5,分类已经不再变化，因此最后的分类结果为期=X1,X2,82 =必？4 , ©3=X5(2 )0.2 n J0.20.218、 (10分)设论域X =X1,X2,X3,X4,给定X上的一个模糊关系 R,其模糊矩阵 为1 0.8 0.80.8 1 0.85 R = 0.8 0.85 1 I _0.2 0.2 0.2(1) 判断该模糊矩阵式模糊相似矩阵还是模糊等价矩阵(2) 按不同