模式识别作业.

1、学院：仪器科学与光电工程学院班级：测试计量技术1班姓名：曹文峰学号：20121100242013年8月10号 贝叶斯决策理论应用一、 原始测量数据假定某个局部区域细胞识别中正常（）和非正常（）两类先验概率分别为：正常状态：=0.9；异常状态：=0.1。现有一系列待观察的细胞，其观察值为：-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531-2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682-1.5799 -1.4885 -0

2、.7431 -0.4221 -1.1186 4.2532 类条件概率分布正态分布分别为（-2，0.25）（2,4）。决策表为(表示的简写)，=6, =1，=0。试对观察的结果进行分类。二、 识别原理方法最小风险贝叶斯决策可按下列步骤进行：1. 在已知，及给出待识别的的情况下，根据贝叶斯公式计算出后验概率： 2. 利用计算出的后验概率及决策表，按下式计算出采取决策的条件风险： 3. 对2中得到的个条件风险值（）进行比较，找出使条件风险最小的决策，即：，则就是最小风险贝叶斯决策。三、 程序清单试验程序和曲线如下，分类结果在运行后的主程序中：实验主程序如下：x=-3.9847 -3.5549 -1.

3、2401 -0.9780 -0.7932 -2.8531 -2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752 -3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682 -1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532;pxw1=normpdf(x,-1,0.25);pxw2=normpdf(x,2,4);Pw1=0.9;Pw2=0.1;%计算后验概率Pwx1=pxw1*Pw1./(pxw1*Pw1+pxw2*Pw2);Pwx2=1-Pwx1;%计算条件风险loss11=0;lo

4、ss12=6;loss21=1;loss22=0;R1=loss11*Pwx1+loss12*Pwx2;R2=loss21*Pwx1+loss22*Pwx2;%类别判断for i=1:4 for j=1:6 if R1(i,j)<R2(i,j) Y(i,j)=1; else Y(i,j)=2; end endend%结果显示display('1表示该点属于第一类，2表示该点属于第二类');Y四、 运行结果实验结果如下：1表示该点属于第一类，2表示该点属于第二类Y = 2 2 1 1 1 2 2 2 2 2 2 2 2 2 1 2 2 2 1 1 1 1 1 2线性判别函数

5、应用1、 原始数据依据实验基本原理和基本方法，对下面表1样本数据中的类别和计算最优方向，画出最优方向的直线，并标记出投影后的点在直线上的位置。选择决策边界，实现新样本xx1=(-0.7,0.58,0.089)，xx2=(0.047,-0.4,1.04)的分类。设某新类别数据如表2所示，用自己的函数求新类别分别和、分类的投影方向和分类阀值。表1 Fisher线性判别实验数据类别12345678910x1-0.4-0.31-0.38-0.15-0.350.17-0.011-0.27-0.065-0.12x20.580.270.0550.530.470.690.550.610.490.054x30.

6、089-0.04-0.0350.0110.0340.1-0.180.120.0012-0.063x10.831.1-0.440.0470.28-0.390.34-0.31.10.18x21.61.6-0.41-0.450.35-0.48-0.079-0.221.2-0.11x3-0.0140.480.321.43.10.110.142.2-0.46-0.49表2 新类别实验数据类别12345678910x11.580.671.04-1.49-0.411.391.2-0.920.45-0.76x22.321.581.012.181.213.611.41.441.330.84x3-5.8-4.78

7、-3.63-3.39-4.732.87-1.89-3.22-4.38-1.962、 识别原理1. 基本原理：一般情况下，我们总可以找到某个方向，使得这个方向的直线上，样本的投影能分开的最好，而Fisher法所要解决的基本问题就是找到这条最好的、最易于分类的投影线。先从d维空间到一维空间的一维数学变换方法。假设有一集合包含N个d维样本，其中个属于类的样本记为子集，个属于类的样本记为。若对的分量做线性组合可得标量，这样便得到N个一维样本组成的集合，并可分为两个子集和。的绝对值是无关紧要的，它仅使乘上一个比例因子，重要的是选择的方向，从而转化为寻找最好的投影方向，是样本分开。2. 基本方法：先定义几

8、个基本参量：（1） 各类样本均值向量（2） 样本类内离散度矩阵和总类内离散度矩阵（3） 样本类间离散度矩阵我们希望投影后，在低维空间里个样本尽可能的分开些，即希望两类均值越大越好，同时希望各类样本内部尽量密集，即越小越好。因此，我们定义Fisher准则函数为但不显含，因此必须设法将变成的显函数。由式子从而得到，采用Lagrange乘子法求解它的极大值对其求偏导，得，即从而我们很容易得到忽略比例因子，得 这就是我们Fisher准则函数取极大值时的解。3、 程序清单1） Fisher准则函数算法：其中w为我们要找到的投影方向，w1、w2是我们的样本、，s1、s2是相应样本的类内离散度矩阵，sw是总

9、类内离散度矩阵，m1、m2是相应样本均值。在进行分别和、分类的投影方向和分类阀值时，将对应的s1、s2；sw；m1、m2以及输出坐标换成相应的样本符号。由于代码除此之外均相同，没有必要再重复列出，只需在运行时修改上述值即可。注意：在画出w时（即），由于样本的不同，输出系数应作相应的调整。如：、时，plot3(30*x,30*x*w(2,:)/w(1,:),30*x*w(3,:)/w(1,:),'k');、时，plot3(x,x*w(2,:)/w(1,:),x*w(3,:)/w(1,:),'k');、时，plot3(5*x,5*x*w(2,:)/w(1,:),5*

10、x*w(3,:)/w(1,:),'k');实验主程序如下：clear;w1=-0.4 0.58 0.089;-0.31 0.27 -0.04;-0.38 0.055 -0.035;-0.15 0.53 0.011;-0.35 0.47 0.034; -0.17 0.69 0.1;-0.011 0.55 -0.18;-0.27 0.61 0.12;-0.065 0.49 0.0012;-0.12 0.054 -0.063;w2=0.8 1.6 -0.014;1.1 1.6 0.48;-0.44 -0.41 0.32;0.047 -0.45 1.4;0.28 0.35 3.1; -

11、0.39 -0.48 0.11;0.34 -0.079 0.14;-0.3 -0.22 2.2;1.1 1.2 -0.46;0.18 -0.11 -0.49;w3=1.58 2.32 -5.8;0.67 1.58 -4.78;1.04 1.01 -3.63;-1.49 2.18 -3.39;-0.41 1.21 -4.73; 1.39 3.61 2.87;1.2 1.4 -1.89;-0.92 1.44-3.22;0.45 1.33 -4.38;-0.76 0.84 -1.96; xx1=-0.7 0.58 0.089;xx2=0.047 -0.4 1.04;s1=cov(w2,1);%样本类

12、间离散度S1m1=mean(w2);%样本均值m1s2=cov(w3,1);%样本类间离散度S2m2=mean(w3);%样本均值m2sw=s1+s2;%总类内离散度Sww=inv(sw)*(m1-m2)'%Fisher准则函数w*h1=figure(1);for i=1:1:10%打印样本 plot3(w2(i,1),w2(i,2),w2(i,3),'r*'); hold on; plot3(w3(i,1),w3(i,2),w3(i,3),'bo');end;figure(2)%画出fisher判别函数xmin=min(min(w2(:,1),min(w3(:,1);xmax=max(max(w2(:,1),max(w3(:,1);x=xmin-1:(xmax-xmin)/100:xmax;plot3(5*x,5*x*w(2,:)/w(1,:),5*x*w(3,:)/w(1,:),'k');hold on;%将样本投影到fisher判别函数上y1=w'*w2'%y