模式识别方法及其研究进展课件

模式识别方法及其研究进展Pattern recognition method ) to use. underfittingoverfittinggood fit Problem of generalization: a small emprical risk Remp does not imply small true expected risk R. 44 模式识别方法及其研究进展Pattern recognition method & its research review 分形理论的创始人曼德布罗特(Mandelprot)曾说过：“浮云不呈球 形，山峰不呈锥体，海岸线不是圆圈，树干不是光溜溜的，闪电 永不会沿直线行进”，说的就是人们一般不应以简单的、理想的 体系去对待实际体系。 大自然中存在的不规则的物体，可能存在不同尺度上的相似 性，称为自相似性。例如： 1. 布朗微粒轨迹图存在自相似性：虽然记录时间间隔相差很大 ，但它们仍都具有相同的复杂性。 2. 不管漫步在海岸边以厘米量级观察，还是从人造卫星上以数 千米跨度观察，海岸线的弯曲的复杂程度也可能是相同的。以不 同尺度去测量都有相似结果说明，测量对象没有特征尺寸，它们 具有尺度（标度）不变性。 分 形 多姿的大自然体形 45 模式识别方法及其研究进展Pattern recognition method & its research review 布朗微粒轨迹 皮兰（Perrin）于1908年用 显微镜测量了布朗运动的轨 迹，他每隔30秒记录一次某 个微粒的位置，再将相继得 到的两点位置连成直线，得 到一幅由长短不等的直线段 连接成的轨迹图。他又将测 量时间间隔缩短为每隔3秒， 画出的另外一幅微粒的轨迹 图。将两图进行比较可以发 现，两幅图虽不尽相同，它 们具有同等的复杂程度。 以不同尺度去测量都有相似结果说明，测 量对象没有特征尺寸，它们具有尺度（标 度）不变性。 46 模式识别方法及其研究进展Pattern recognition method & its research review 大自然中的自相似体 不管漫步在海岸 边以厘米量级观察 ，还是从人造卫星 上以数千米跨度观 察，海岸线的弯曲 的复杂程度也可能 是相同的。 大自然中的许多 不规则物体，可能 存在不同尺度上的 相似性，称为自相 似性。 47 模式识别方法及其研究进展Pattern recognition method & its research review 多彩的大自然 大自然是异常复 杂、丰富多彩的 ，那些简单、正 规的理想对象只 是少数。人们不 应以简单的、理 想的体系去对待 实际体系。 48 模式识别方法及其研究进展Pattern recognition method & its research review 理 不 清 的 相 轨 线 49 模式识别方法及其研究进展Pattern recognition method & its research review 奇妙的计算图形 50 模式识别方法及其研究进展Pattern recognition method & its research review 基于测量对象体形上的自相似性与标度不变性，曼德布罗特提出 了分形理论。1973年，在法兰商学院讲学期间提出了分形的几何 学的基本思想， 1977年，出版了第一本著作：分形对象：形、机遇与维数 ， 1982年，出版了第二本著作：自然界的形几何学 分形的英文词是“fractal”，是曼德布罗特创造的，用以表征某些 不规则的几何形体。分形定义 “A fractal is a shape made of parts simslar to the whole in some way”， “分形是其组成部分以某种方式与整体相似的图形”，或者说： 分形是指一类体形复杂的体系，其局部与整体具有相似性。 维数：与人们熟悉的整规体形的整数维不同，分形体的维数不一 定是整数，它可取连续变化的各种数值，称为分形维数（简称分 维）。 根据分形体不同特征，分形维数的定义有多种，而且不同维数 定义计算出的维数也有一些差别。 分形的定义 51 模式识别方法及其研究进展Pattern recognition method & its research review 分形的研究现已大大地超出了数学、物理学的范畴，它不仅广泛 用于处理自然科学中相关问题，象雷电、相变、聚合物生长等等 ，而且在扩展到生态、生命、经济、人文的许多领域。在地震、 气象的预报预测、石油的多次开采等应用领域，甚至在股票涨落 分析等方面，分形也都得到了广泛的应用。 分形与系统的混沌运动是密切相关的，是非线性科学的一个重要 分支。 分形研究领域有如下方面 1. 数学，这是分形的基础领域； 2. 物理学、化学等自然科学， 如雷电、相变、聚合物生长、天 文、地理地质、生态、生命等自然现象； 3. 非线性动力系统中的分形研究； 4. 人文、经济 如股票涨落分析等； 5. 国民经济：如地震、气象的预报预测、石油的多次开采等领域 。 分形研究 52 模式识别方法及其研究进展Pattern recognition method & its research review 小波分析 时频分析局部化 时频分析局部化的特点提高了信号分析的能力。Fourier变换 无法做局部分析，小波分析正式为了克服Fourier变换这些不足 而提出来的。 具有多分辨率（multi-resolution），也叫多尺度(multi -scale)的特点。 可以由粗及精地逐步观察信号。当在某一个分辨度检测不到的 现象，在另一个分辨度却很容易观察处理。小波变换的多分辨 度的变换，有利于各分辨度不同特征的提取。 小波变换比快速Fourier变换还要快一个数量级。 信号长度为M时， Fourier变换（左）和小波变换（右）计算复 杂性分别如下公式： 53 模式识别方法及其研究进展Pattern recognition method & its research review 粗略地比喻 小波变换（简记WT）的作用：用镜头观察目标 （ 也就是待分析信号），相当于镜头相对于目标平行 移动和镜头向目标推进或远离。 若我们把尺度理解为照相机的镜头的话，当尺度由大 到小变化时，就相当于将照相机镜头由远及近地接 近目标。在大尺度空间里，对应远镜头下观察到的 目标，只能看到目标大致的概貌。在小尺度空间里 ，对应近镜头下观察目标，可观测到目标的细微部 分。因此，随着尺度由大到小的变化，在各尺度上 可以由粗及精地观察目标，这就是多尺度（即多分 辨率）的思想。 54 模式识别方法及其研究进展Pattern recognition method & its research review 一维信号分解 55 模式识别方法及其研究进展Pattern recognition method & its research review 二维小波分解过程 X L H LLLH HLHH 图象是二维信号，其小波变换相当于二次一维信号的小波变换： （1）第一次一维信号的小波变换相当于图象的行变换。 （2）第二次一维信号的小波变换相当于图象的列变换。 56 模式识别方法及其研究进展Pattern recognition method & its research review 第1级 斜线细节 第1级 水平细节 第1级 垂直细节 水平细节 近似 图象 垂直细节 斜线细节57 模式识别方法及其研究进展Pattern recognition method & its research review