第八章图像识别.ppt

1,第八章图像识别,信息与通信工程学院张洪刚zhhg,2,模式识别和模式的概念,感知：从环境获取信息,3,计算机模式识别,模式识别：使计算机模仿人的感知能力，从感知数据中提取信息（判别物体和行为）的过程。,姚明ROCKETS11,概念,4,模式识别的意义,数字化感知数据：来源丰富、数量巨大,概念,5,模式识别的难点,感知数据：非结构化（像素、声波等）,概念,6,模式与模式类,样本(sample,object)：一类事物的一个具体体现，对具体的个别事物进行观测所得到的某种形式的信号。模式(pattern)：表示一类事物，如印刷体A与手写体A属同一模式。B与A则属于不同模式。样本是具体的事物，而模式是对同一类事物概念性的概括。模式类与模式联合使用时，模式表示具体的事物，而模式类则是对这一类事物的概念性描述。模式识别是从样本到类别的映射。,概念,模式确定性和随机性,以人脸为例确定性结构关系：眼睛、鼻子、嘴器官形状：眼睛形状、鼻子形状、嘴形状肤色：色调随机性结构关系：距离、角度器官形状：大小、形状参数不同肤色：不同肤色，不同饱和度和光洁度,7,定义：模式类,模式(x):具有某些量化测量值或者特征模式类(vi)：Acollectionof“similar”(notnecessarilyidentical)objectsInter-classvariabilityIntra-classvariability模式类的统计特性相似性-先验概率：P(vi)类条件概率密度：p(x|vi),8,Theletter“T”indifferenttypefaces,Charactersthatlooksimilar,9,模式识别的基本问题,（1）特征如何提取？-特征产生（2）最有效的特征是那些特征？-特征选择（3）对特定任务，如何设计分类器？-分类器设计（4）分类器设计后，如何评价分类器？分类错误率是多少？-分类器评价,10,模式识别方法的分类,（1）监督与非监督模式识别A、监督模式识别利用先验知识和训练样本来设计分类器。B、非监督模式识别利用特征向量的相似性来自动进行分类。,11,有监督学习（supervisedlearning)：用已知类别的样本训练分类器，以求对训练集数据达到某种最优，并能推广到对新数据的分类。非监督学习（unsupervisedlearning)：样本数据类别未知，需要根据样本间的相似性对样本集进行分类(聚类，clustering),12,模式分类vs.模式聚类,Classification(knowncategories)Clustering(creationofnewcategories),模式识别方法,13,14,模板匹配TemplateMatching,Template,Inputscene,15,结构模式识别,用简单的基元(primitives)和结构关系来描述复杂对象,16,句法模式识别,定义：描述待处理模式的结构信息，并用形式语言中的文法定义模式结构，并通过句法分析进行分类对象被描述为以基元为基本单位（符号化）的文法源自语言学，但不限于语言学应用基本概念基元：预定义的不再包含细节结构信息的子结构文法：对模式的描述（基元为字符）字符串句法：对字符串进行判别，是否文法描述的“语言”,17,句法模式识别系统框架,18,人工神经网络,计算“仿生”智能计算机大规模并行分布式的计算学习，泛化和自适应容错，非确定，不精确的分类,19,模糊模式识别,1965年Zadeh提出模糊集理论是对传统集合理论的一种推广传统：属于或者不属于模糊：以一定的程度属于模糊逻辑：相对传统二值逻辑“是或不是”模糊数学：研究模糊集和模糊逻辑模糊系统：应用角度,20,模糊模式识别方法,隶属度函数对象x属于集合A的程度的函数，值域0,1模糊模式识别方法将模糊技术引入传统模式识别方法中模糊特征模糊分类：模糊子集代替确定子集模糊评价,21,统计模式识别,模式识别最初从统计理论发展而来基本思想：模式被描述为一组测量值组成的随机特征向量，用概率统计理论对其进行建模，用统计决策理论划分特征空间来进行分类。,22,统计模式识别的一般过程,23,统计模式识别基本过程,基本系统组成数据获取：测量预处理：利于特征提取和分类特征提取与选择降维选择有利于分类的特征，去除不利分类的特征分类决策错误率最小损失最小,24,统计模式识别,距离分类法1.标准模式法设由训练样例可获得c个模式类1,2,c，且可获得各个模式类的标准模式M1,M2,MC。那么，对于待识模式X，可通过计算其与各标准模式的距离d(X,Mi)(i=1,2,c)来决定它的归属。具体分类规则为：,d(X,Mj)=mind(X,Mi)Xji=1,2,c,即与X距离最小的标准模式所属的模式类即为X的所属模式类。,25,26,2.平均距离法平均距离法就是将待识模式X与模式类i(i=1,2,c)中所有样例模式的距离平均值作为与X的距离，然后以距离最小的模式类作为X的类属。分类规则可描述为：,其中,(k=1,2,c),sk为模式类k中的样例模式数。,27,3.最近邻法最近邻法是将与待识模式X距离最近的一个样例模式的模式类作为X的类属。分类规则可描述为,其中,sk为模式类k中的样例模式数。,28,29,几何分类法一个模式类就是相应特征空间中的一个点集。一般来讲，在特征空间中一个模式类的点集总是在某种程度上与另一个模式类的点集相分离。因此，模式识别的另一个思路就是设法构造一些分界面（线），把特征空间Rn分割成若干个称为决策区域的子空间Ri(i=1,2,n)，使得一个模式类刚好位于一个决策区域。这样，对于待识模式X，就可以利用空间中的这些分界面来判定X的类属。分界面（线）方程gi(X)=0中的函数gi(X)称为判别函数。显然，构造分界面的关键就是构造其判别函数。分界面（线）可分为平面（直线）和曲面，相应的判别函数为线性函数和非线性函数。,30,对于二分类问题,显然只需一个分界平面。设判别函数为,g(X)=WTX+w0,其中W=(w1,w2,wn)T为X中各分量x1,x2,xn的系数组成的向量，称为权向量；w0为一个常数，称为阈值权。那么，分界平面方程为,g(X)=WTX+w0=0,由几何知识知,位于这个分界平面两边的点X的判别函数值g(X)符号相反。于是,可有分类规则:,g(X)0X1,g(X)0X2,g(X)=0X属于X1或X2，或者不可判别,31,二分类问题的分界面(线)示意,32,概率分类法基于最小错误率的贝叶斯决策因为模式属于哪一模式类存在不确定性,所以需要用概率来决策,就是说对于待识模式X,如果它属于哪个类的概率大则它就属于哪一类。但如果直接使用各模式类的先验概率P(ci),则会因先验概率所提供的信息量太少而导致把所有模式都归入先验概率最大的模式类的无效分类。因此,应该考虑后验概率P(ci|X),但通常概率P(ci|X)不易直接求得的。幸好,概率论中的贝叶斯公式可以帮忙,事实上,由贝叶斯公式,图解,p(1|x),p(2|x),类条件概率密度函数,后验概率,最小错误率决策,34,模式识别过程示例：FishClassification,预处理：imageenhancement,separatingtouching/occludingfishesandfindingtheboundaryofthefish,Examplefrom:R.Duda,P.Hart,D.Stork,“PatternClassification”,secondedition,2000.,35,先验知识:鲈鱼一般比鲑鱼长通过长度L是否超过了临界值L*来判断种类为了确定恰当的L*值，必须先获得不同类别的鱼的若干样本(“设计样本”或”训练样本”)进行长度测量。,36,37,验证了平均意义上鲈鱼要比鲑鱼长的结论令人失望的表明:单一的特征判据是不足以完美分类的。继续尝试别的特征，如:鱼的平均光泽度。,38,39,2020/5/11,总体代价函数:决策理论的中心任务是要确定一种决策,使该代价函数最小。单一特征的分类效果不能令人满意，应考虑组合运用多种特征的方法。特征组合:光泽度x1和宽度x2,简化为一个二维的特征向量，或二维空间的一个点x1,x2,40,41,2020/5/11,出现的问题,考虑其它特征组合特征对分类性能的重用程度如果分类判决模型非常复杂，分界面