模式识别题目及答案

(15分)设有两类正态分布的样本集，第一类均值为V("方差[= 1,第二类均值为七=()2方差£2= 1 ，先验概率P(3)二P(3)，试求基于最小错误率的贝叶斯决策分界面。解根据后验概率公式P(31X)=P(x解根据后验概率公式P(31X)=P(x3)P(3)P(x) ，(2')及正态密度函数P(x|3i)=[药£|1/2exp[-(x-R)t£-1(x-R)/2]ii i(25)基于最小错误率的分界面为P(X3)P(①)=P(X3)P(3),1 1两边去对数，并代入密度函数，得(2,)-(x-(x一日)t£t(x一旦)/2-In£I=-(x一旦)t£-1(x一旦)/2-In£I1 1 1 111 2 2 2 121(1)(2,)由已知条件可得|£1|=|£由已知条件可得|£1|=|£2|,£-1=4/3，£-1=24/3(2,)(5，)设x=(x,x)T，把已知条件代入式(1(5，)12 2(15分)设两类样本的类内离散矩阵分别为s，(15分)设两类样本的类内离散矩阵分别为s，各类样本均值分别为人=(H)T，试用fisher准则求其决策面方程并判断样本x=( )T的类别。解：S解：S=S+S=1 2(2，)投影方向为…S-1(W阈值为J投影方向为…S-1(W阈值为J=w*t(n+n)/2=[-1-1]-21/2-2=-3-1-1(4，)(6')给定样本的投影为J=攻*TX=b21-1=—4<j,属于第二类 （3'）-1 0三、（15分）给定如下的训练样例实例X0x1x2t（真实输出）11111212013101—14112-1用感知器训练法则求感知器的权值，设初始化权值为攻=攻=攻=0；0121第1次迭代wX（P）t（P）y（P）AW0001111100000012011000000101-11-10-1-10-1112-1-1000（4’）2第2次迭代-10-11111-111101012011000010101-11-10-1-11-1112-1-1000（2'）3第3和4次迭代-11-11111-111102012011000020101-11-10-1-12-1112-1-100t)-12-111111000-12-112011000-12-1101-1-1000四、 （15分）i. 推导正态分布下的最大似然估计；ii. 根据上步的结论,假设给出如下正态分布下的样本{1,1.1,1.01,0.9,0.99}，估计该部分的均值和方差两个参数。1设样本为K={X1,X2,…，xN},1(1(55)正态密度函数p（X|3j=—exp[-(x-0)t£t(正态密度函数p（X|3j=—exp[-(x-0)t£t(x-0)/2] (25)1/2则似然函数为l(口)=p(KI])=p(x,x，…,xI])1 2N』p(xI口)kk=1(2′)对数似然函数H（口）=Xlnp（xI口）kk=1(2′)最大似然估计八口 =argmaxl(1)ML□=argmax£Inp(xI□)□kTk(25)对于正态分布0ml=Nz*kk=1八O2ML!⑵)k=12根据1中的结果0=—^X=1MLNkk=1八O2ML=1"X-0)2=0.00404Nkk=1(55)TOC\o"1-5"\h\z五、 （15分）给定样本数据如下：（ ）T，（ ）T对其进行PCA变换用（1）的结果对样本数据做一维数据压缩解（1）PCA变换1求样本总体均值向量0（ ）T+6 ）T=（ ）T八 / 、/ 、/ 、/ 、…36362求协方差矩阵R （ ）K ）+（ ）K ）]/2= （25）36363求特征根，令36-九363636-九=03求特征根，令36-九363636-九=0,得'=72(15)由叫二九件得特征向量2=1小，-6则PCA为叱,Q]-6-6^2-6J2即i，Q]-1(25)（2）要做一维压缩，就是向最大特征根对应的特征向量做投影，得(5')六、（10六、（10分）已知4个二维样本：\二（)T,X=( )T,X=( )T,23X4=（ ）3试用层次聚类把样本分成2类。解：1初始将每一个样本视为一类，得解：1初始将每一个样本视为一类，得G；={xi},G0={X}，22G0={X}，G0={X}33 44计算各类间的距离，得到距离矩阵D0，（2'）D0Go={X1}G0={x}2 2G0={x}3 3G0={x}4 4Go={X1}01星5G0={x}2 2102^/5G0={x}3 3褥V20G0={x}4 452巡回0TOC\o"1-5"\h\z2将最短距离1对应的类G0={x}，G0={x}合并为一类，得到新的分类： （4,）1122G1={G0,G0}，G1={G0}，G1={G0}

12 1 2 3 3 4 4计算各类间的欧式距离，得到距离矩阵D1（2'）D1G1={G0,G0}12 1 2G1={G0}3 3G1={G0}4 4G1={G0,G0}12 1 20霹2^/5G1={G0}3 3&0师G1={G0}4 42下03将距离最小两类G：2={Gi0Go}和G3={Go}合并为一类，得到新的分类TOC\o"1-5"\h\zG2={G0,G0,G0},G2={G0}123 1 2 3 4 4聚类结束,结果为3={X,X,X}，3={X} (2')1 123 2 4七、（10分）已知4个二维样本：％=（ ）T,%=（ ）T,%=（ ）T,1 23%=（ ）5%=（ ，.取K=3,用K均值算法做聚类45解:1 K=3,初始化聚类中心，z⑴=%=（ ）T,11z（1）=%=（6,）4T,z（1）=%=（10,）T9 （2’）23 352根据中心进行分类，得%={%「%2}，3={%,%}，3={%}

2 34 3 5(2')3更新聚类中心z(2)=(%+%)/2=(1 12),Tz(2)=(%+%)/2=( )t+( )t=(2 34(4’),)T9，/z(22)=%=(10,)T354根据新的中心进行分类，得3={%,%},3={%,%},3={%}，分类已经不再1 12 2 34 3 5变化，因此最后的分类结果为3={%,%}，3={%,%},3={%} (2’)1 12 2 34 3 5八、(10分)设论域X={%,%,%,%}，给定X上的一个模糊关系R，其模糊矩阵为1234■1 0.8 0.8 0.2_ 0.8 1 0.85 0.2"-0.8 0.85 1 0.20.2 0.2 0.2 1判断该模糊矩阵式模糊相似矩阵还是模糊