模式识别实验报告

1、实 验 报 告实验课程名称： 模式识别 姓名： 王宇 班级： 20110813 学号： 2011081325 实验名称规范程度原理叙述实验过程实验结果实验成绩图像的贝叶斯分类K均值聚类算法神经网络模式识别平均成绩折合成绩注：1、每个实验中各项成绩按照5分制评定，实验成绩为各项总和2、平均成绩取各项实验平均成绩3、折合成绩按照教学大纲要求的百分比进行折合2014年 6月实验一、 图像的贝叶斯分类一、实验目的将模式识别方法与图像处理技术相结合，掌握利用最小错分概率贝叶斯分类器进行图像分类的基本方法，通过实验加深对基本概念的理解。二、实验仪器设备及软件HP D538、MATLAB三、实验原理概念：阈

2、值化分割算法是计算机视觉中的常用算法，对灰度图象的阈值分割就是先确定一个处于图像灰度取值范围内的灰度阈值，然后将图像中每个像素的灰度值与这个阈值相比较。并根据比较的结果将对应的像素划分为两类，灰度值大于阈值的像素划分为一类，小于阈值的划分为另一类，等于阈值的可任意划分到两类中的任何一类。最常用的模型可描述如下：假设图像由具有单峰灰度分布的目标和背景组成，处于目标和背景内部相邻像素间的灰度值是高度相关的，但处于目标和背景交界处两边的像素灰度值有较大差别，此时，图像的灰度直方图基本上可看作是由分别对应于目标和背景的两个单峰直方图混合构成。而且这两个分布应大小接近，且均值足够远，方差足够小，这种情况

3、下直方图呈现较明显的双峰。类似地，如果图像中包含多个单峰灰度目标，则直方图可能呈现较明显的多峰。上述图像模型只是理想情况，有时图像中目标和背景的灰度值有部分交错。这时如用全局阈值进行分割必然会产生一定的误差。分割误差包括将目标分为背景和将背景分为目标两大类。实际应用中应尽量减小错误分割的概率，常用的一种方法为选取最优阈值。这里所谓的最优阈值，就是指能使误分割概率最小的分割阈值。图像的直方图可以看成是对灰度值概率分布密度函数的一种近似。如一幅图像中只包含目标和背景两类灰度区域，那么直方图所代表的灰度值概率密度函数可以表示为目标和背景两类灰度值概率密度函数的加权和。如果概率密度函数形式已知，就有可

4、能计算出使目标和背景两类误分割概率最小的最优阈值。假设目标与背景两类像素值均服从正态分布且混有加性高斯噪声，上述分类问题可以使用模式识别中的最小错分概率贝叶斯分类器来解决。以与分别表示目标与背景的灰度分布概率密度函数，与分别表示两类的先验概率，则图像的混合概率密度函数可用下式表示为 式中和分别为 、是针对背景和目标两类区域灰度均值与的标准差。若假定目标的灰度较亮，其灰度均值为，背景的灰度较暗，其灰度均值为，因此有 现若规定一门限值对图像进行分割，势必会产生将目标划分为背景和将背景划分为目标这两类错误。通过适当选择阈值，可令这两类错误概率为最小，则该阈值即为最佳阈值。把目标错分为背景的概率可表示

5、为 把背景错分为目标的概率可表示为 总的误差概率为 为求得使误差概率最小的阈值，可将对求导并令导数为零，可得 代换后，可得 此时，若设，则有 若还有的条件，则 这时的最优阈值就是两类区域灰度均值与的平均值。上面的推导是针对图像灰度值服从正态分布时的情况，如果灰度值服从其它分布，依理也可求出最优阈值来。一般情况下，在不清楚灰度值分布时，通常可假定灰度值服从正态分布。在实际使用最优阈值进行分割的过程中，需要利用迭代算法来求得最优阈值。设有一幅数字图像，混有加性高斯噪声，可表示为 此处假设图像上各点的噪声相互独立，且具有零均值，如果通过阈值分割将图像分为目标与背景两部分，则每一部分仍然有噪声点随机作

6、用于其上，于是，目标和可表示为 迭代过程中，会多次地对和求均值，则 可见，随着迭代次数的增加，目标和背景的平均灰度都趋向于真实值。因此，用迭代算法求得的最佳阈值不受噪声干扰的影响。四、实验步骤及程序1、实验步骤（1）确定一个初始阈值，可取为 式中，和为图像灰度的最小值和最大值。（2）利用第k次迭代得到的阈值将图像分为目标和背景两大区域，其中 （3）计算区域和的灰度均值和。（4）计算新的阈值，其中 （5） 如果小于允许的误差，则结束，否则，转步骤（2）。 2、实验源程序I=imread('1.jpg');Im=rgb2gray(I); subplot(121),imhist(Im

7、);title('Ö±·½Í¼')ZMax=max(max(I);ZMin=min(min(I);TK=(ZMax+ZMin)/2;bCal=1;iSize=size(I);while(bCal) iForeground=0; iBackground=0; ForegroundSum=0; BackgroundSum=0; for i=1:iSize(1) for j=1:iSize(2) tmp=I(i,j); if(tmp>=TK) iForeground=iForeground+1; ForegroundS

8、um=ForegroundSum+double(tmp); else iBackground=iBackground+1; BackgroundSum=BackgroundSum+double(tmp); end end end ZO=ForegroundSum/iForeground; ZB=BackgroundSum/iBackground; TKTmp=double(ZO+ZB)/2); if(TKTmp=TK) bCal=0; else TK=TKTmp; endenddisp(strcat('µü´úºóµ

9、ÄãÐÖµ£º',num2str(TK);newI=im2bw(I,double(TK)/255);subplot(121),imshow(I)title('ԭͼÏñ')subplot(122),imshow(newI)title('·Ö¸îºóµÄͼÏñ')五、实验结果与分析1、实验结果 图1 原图像

10、以及其灰度直方图 图2 原图像以及分割后图像2、实验结果分析迭代后的阈值：94.8064实验中将大于阈值的部分设置为目标，小于阈值的部分设置为背景，分割结果大体上满足要求。实际过程中在利用迭代法求得最优阈值后，仍需进行一些人工调整才能将此阈值用于实验图像的分割，虽然这种方法利用了图像中所有像素点的信息，但当光照不均匀时，图像中部分区域的灰度值可能差距较大，造成计算出的最优阈值分割效果不理想。具体的改进措施分为以下两方面：一方面，在选取图片时，该图片的两个独立的峰值不够明显，因此在分割后产生误差，应改进选择的图片的背景和物体的对比度，使得分割的效果更好；另一方面，实验程序中未涉及计算最优阈值时的

11、迭代次数，无法直观的检测，应在实验程序中加入此项，便于分析。实验二、K均值聚类算法一、实验目的将模式识别方法与图像处理技术相结合，掌握利用K均值聚类算法进行图像分类的基本方法，通过实验加深对基本概念的理解。二、实验仪器设备及软件HP D538、MATLAB、WIT三、实验原理K均值聚类法分为三个步骤：初始化聚类中心1、根据具体问题，凭经验从样本集中选出C个比较合适的样本作为初始聚类中心。2、用前C个样本作为初始聚类中心。3、将全部样本随机地分成C类，计算每类的样本均值，将样本均值作为初始聚类中心。初始聚类1、按就近原则将样本归入各聚类中心所代表的类中。2、取一样本，将其归入与其最近的聚类中心的

12、那一类中，重新计算样本均值，更新聚类中心。然后取下一样本，重复操作，直至所有样本归入相应类中。判断聚类是否合理1、 采用误差平方和准则函数判断聚类是否合理，不合理则修改分类。循环进行判断、修改直至达到算法终止条件。2、 聚类准则函数误差平方和准则函数（最小平方差划分）3、 单样本改进：每调整一个样本的类别就重新计算一次聚类的中心i=1,2,.c 只调整一个样本四、实验步骤及程序1、实验步骤理解K均值算法基本原理，编写程序实现对自选图像的分类，并将所得结果与WIT处理结果进行对比。K均值算法步骤：1、 给定类别数C和允许误差，2、 初始化聚类中心3、 修正 0其他 i=1,2,.,c;j=1,2

13、,.N4、 修正聚类中心5、 计算误差如果则结束，否则转（3）2、实验源程序clcclearticRGB= imread ('Water lilies.jpg'); %¶ÁÈëÏñimg=rgb2gray(RGB);m,n=size(img);subplot(2,2,1),imshow(img);title(' ͼһ ԭͼÏñ')subplot(2,2,2),imhist(img);title(&

14、#39; ͼ¶þ ԭͼÏñµÄ»Ò¶ÈÖ±·½Í¼')hold off;img=double(img);for i=1:200 c1(1)=25; c2(1)=125; c3(1)=200;%Ñ¡ÔñÈý¸ö³õʼ¾Û

15、92;àÖÐÐÄ r=abs(img-c1(i); g=abs(img-c2(i); b=abs(img-c3(i);%¼ÆËã¸÷ÏñËػҶÈÓë¾ÛÀàÖÐÐĵľàÀë r_g=r-g; g_b=g-b; r_b=r-b; n_r=fin

16、d(r_g<=0&r_b<=0);%Ñ°ÕÒ×îСµÄ¾ÛÀàÖÐÐÄ n_g=find(r_g>0&g_b<=0);%Ñ°ÕÒÖмäµÄÒ»¸ö¾ÛÀàÖÐÐ

17、96; n_b=find(g_b>0&r_b>0);%Ñ°ÕÒ×î´óµÄ¾ÛÀàÖÐÐÄ i=i+1; c1(i)=sum(img(n_r)/length(n_r);%½«ËùÓеͻҶÈÇóºÍÈ¡Æ&

18、#189;¾ù£¬×÷ΪÏÂÒ»¸öµÍ»Ò¶ÈÖÐÐÄ c2(i)=sum(img(n_g)/length(n_g);%½«ËùÓеͻҶÈÇóºÍÈ¡Æ

19、9;¾ù£¬×÷ΪÏÂÒ»¸öÖмä»Ò¶ÈÖÐÐÄ c3(i)=sum(img(n_b)/length(n_b);%½«ËùÓеͻҶÈÇóºÍÈ¡&

20、#198;½¾ù£¬×÷ΪÏÂÒ»¸ö¸ß»Ò¶ÈÖÐÐÄ d1(i)=abs(c1(i)-c1(i-1); d2(i)=abs(c2(i)-c2(i-1); d3(i)=abs(c3(i)-c3(i-1); if d1(i)<=0.001&&d2(i)<=0.001&&d3(i)<=0.001

21、R=c1(i); G=c2(i); B=c3(i); k=i; break; endendR G Bimg=uint8(img);img(find(img<R)=0;img(find(img>R&img<G)=128;img(find(img>G)=255;tocsubplot(2,2,3),imshow(img);title(' ͼÈý ¾ÛÀàºóµÄͼÏñ') subplot(2

22、,2,4),imhist(img);title(' ͼËÄ ¾ÛÀàºóµÄͼÏñÖ±·½Í¼') 五、实验结果与分析1.WIT结果 图3 WIT聚类分析系统分析界面 图4 WIT聚类分析系统分析结果聚类类别数 3聚类中心 R=18.8709 G=93.3122 B=190.678迭代次数 256运行时间 60.159ms2、K均值聚类结果 图5 K均值聚类

23、分析结果聚类类别数 3聚类中心 R =19.9483 G =94.4184 B =192.3320迭代次数 8运行时间 2.278493 seconds小结：K均值聚类方法和WIT系统操作后对应的聚类中心误差较小，分别是19.9483 94.4184 192.3320和 18.8709 93.3122 190.678。说明K均值聚类分析方法误差较小，但是相较于WIT系统分析的时间，K均值聚类时间较长，迭代次数较多。实验三、神经网络模式识别一、实验目的掌握利用感知器和BP网进行模式识别的基本方法，通过实验加深对基本概念的理解。二、实验仪器设备及软件HP D538、MATLAB三、实验原理设计线性

24、可分实验线性分类器原理：已知一样本集，如果有一个线性分类器能把每个样本正确分类，则称这组样本集为线性可分的，否则称为线性不可分的。如果样本集是线性可分的，则必然存在一个线性分类器能把每个样本正确分类。贝叶斯分类器是在错误率或风险下为最优的分类器。线性分类器针对错误率或者风险是“次优”的，但对于所采用的准则函数是最优的。线性分类器的设计步骤：1、 有一已知类别的样本集H2、 确定一准则函数J3、 利用最优化技术求出准则函数极值解设计线性分类器对线性可分样本集进行分类，样本数目10个以上，训练及分类步骤齐全，记录分类器训练的迭代次数和训练时间。奇异样本对网络训练的影响奇异样本：该样本向量同其他样本

25、向量比较起来特别大或特别小时，网络训练所花费的时间将很长。设计实验考察奇异样本对感知机训练的影响，比较有无奇异点时的训练时间及迭代次数，设计解决此问题的方案并实验验证。分类线性不可分样本利用线性分类器对线性不可分样本进行分类，考察训练时间及迭代次数。BP法分类原理：根据样本希望输出与实际输出之间的平方误差最小，利用梯度下降法，从输出层开始，逐层修正权系数。一般为三层前馈神经网络，激励函数为Sigmoid函数。前向传播阶段：输入层 输入节点：图像特征分量值 输出节点：隐层 输入节点： 输出节点：输出层 输入节点： 输出节点：反向传播阶段：利用梯度下降法令误差函数最小激励函数f的导数： 利用反向传

26、播使某一隐层节点受所有输出层节点影响1、BP采用S函数，输出不宜设为1或0，可设为0.9或0.1。2、权系数初始化：不应将初始值设为相同，否则在学习过程中始终不变，可设为随机值。3、步长的选择：应设为可变步长，以防止震荡。4、局部最小问题：BP算法是非线性优化算法，初始值设置不当，可能陷入局部极小。 5、前馈网络结构：输入节点数为模式维数，输出节点数一般为类别数，隐层节点数尚无明确方法，实验确定。利用BP网对该样本集进行分类，考察训练时间及迭代次数并作对比。四、实验步骤及程序1、实验步骤感知器实验：1、设计线性可分实验，要求训练样本10个以上 2、奇异样本对网络训练的影响 3、以线性不可分样本

27、集训练分类器BP网实验：利用BP网对上述线性不可分样本集进行分类2、实验源程序（1）感知器close all;clear;clc;tic;%PΪÊäÈëʸÁ¿P=-5 -7 -4 -1 0 -5 4 2 -4 -2 1 4 4 3 1 -2;0 -5 4 2 -4 1 4 1 -1 -3 -1 7 -2 -3 5 -5;%TΪĿ±êʸÁ¿T=1 0 1 1 0 1 1 0 1 0 0 1

28、 0 0 1 0;figure,plotpv(P,T);%»æÖÆ´ý·ÖÀàÊý¾Ýµãͼnet=newp(minmax(P),1);%´´½¨¸ÐÖªÆ÷Éñ¾­ÍøÂçlinehandle=plotpc(net.IW1,net.b1

29、);E=1;n=0;%ѵÁ·¸ÐÖªÆ÷Éñ¾­ÍøÂçwhile(sse(E) net,y,E=adapt(net,P,T); n=n+1; perf(n)=sse(E); linehandle=plotpc(net.IW1,net.b1,linehandle);drawnow;endtoc%»æÖÆÎó²îÇú&

30、#207;ßfigure,plot(perf);%»æÖÆÎó²î±ä»¯ÇúÏß（2）奇异点clear;clc;tic;%PΪÊäÈëʸÁ¿P=-3 -1 -5 4 2 -4 -2 1 4 3 1 -3;5 2 1 4 1 -1 -3 -1 -2 -4 5 -6;%TΪĿ

31、7;êʸÁ¿T=1 1 1 1 0 1 0 0 0 0 1 0;figure,plotpv(P,T);%»æÖÆ´ý·ÖÀàÊý¾Ýµãͼnet=newp(minmax(P),1);%´´½¨¸ÐÖªÆ÷Éñ¾­Í&

32、#248;Âçlinehandle=plotpc(net.IW1,net.b1);E=1;n=0;%ѵÁ·¸ÐÖªÆ÷Éñ¾­ÍøÂçwhile(sse(E) net,y,E=adapt(net,P,T); n=n+1; perf(n)=sse(E); linehandle=plotpc(net.IW1,net.b1,linehandle);drawnow;endtoc%»æ

33、ÖÆÎó²îÇúÏßfigure,plot(perf);%»æÖÆÎó²î±ä»¯ÇúÏß（3）BP网络close all;clear;clc;tic;%PΪÊäÈëʸÁ¿P=-5 -7 -4 -1 0 -5 4 2 -4 -2 1 4

34、 4 3 1 -2;0 -5 4 2 -4 1 4 1 -1 -3 -1 7 -2 -3 5 -5;%TΪĿ±êʸÁ¿T=1 0 1 0 0 1 1 0 1 0 0 1 0 0 1 0;figure,plotpv(P,T);%»æÖÆ´ý·ÖÀàÊý¾Ýµãͼnet=newff(minmax(P),5,5,1,'tansig&