ANN-第一章引言课件资料

1、先导课回顾模式识别基本概念模式：广义地讲，存在于时间和空间中可观察的事物，如果可以区别它们是否相同或是否相似，都可以称之为模式。（信息） 通常，把通过对具体的个别事物进行观测所得到的具有时间和空间分布的信息称为模式，而把模式所属的类别或同一类中模式的总体称为模式类。模式识别：其作用和目的在于将某一具体事物正确地归入某一类别。设计：用训练样本进行分类器的设计。实现：用设计好的分类器对未知样本进行分类决策。有监督学习：对已知类别的样本进行模式识别无监督学习：对未知类别的样本进行模式识别分类决策树决策森林K近邻ANNSVM聚 类层次聚类图ANNArtificial Neural Network第1章

2、 引言人工神经网络概念的提出20世纪40年代，随着神经解剖学、神经生理学以及神经元的电生理过程等研究取得突破性进展，人们对人脑的结构、组成及最基本工作单元有了越来越充分的认识，在此基本认识的基础上，借助数学和物理方法从信息处理的角度对人脑神经网络进行抽象，并建立简化的模型，称为人工神经网络ANN（Artificial Neural Network）.生物神经网络数学模型人工神经网络 美国神经网络学家HechtNielsen的观点定义：神经网络是由多个非常简单的处理单元彼此按某种方式相互连接而形成的计算机系统，该系统靠其状态对外部输入信息的动态响应来处理信息。简单表述为：人工神经网络是一种旨在模

3、仿人脑结构及其功能的信息处理系统。生物神经元模型细胞体突触树突轴突神经网络基本模型人工神经元模型人工神经元三要素权值输入信号累加器激活函数阈值函数分段线性函数Sigmoid函数 激活函数输入层输出层隐层单层前向网络多层前向网络反馈网络随机神经网络竞争神经网络人工神经网络的分类与学习ANN的分类ANN的学习有导师学习：学习时需要给出导师信号或称为期望输出（响应）。无导师学习：包括强化学习与无监督学习或称为自组织学习。启蒙时期 1943年，MP模型（神经元的阈值模型）； 1949年提出Hebb法则； 1958年，感知器模型； 1960年人工神经网络发展历史人工神经网络发展历史低潮时期(10year

4、s) 1969年发表perceptrons一书，指出感知器不能解决非线性问题（异或）； 20世纪70年代，集成电路和微电子技术迅猛发展，人工智能随之迅速发展； 然而人工神经网络发展历史复兴时期 1982年，Hopfield模型理论20世纪80年代，国内逐步掀起研究热潮 国际上 人工神经网络国内外研究现状模式信息处理与模式识别(实例）最优化问题计算信息的智能处理复杂控制信号处理人工神经网络的应用分类：有监督学习方法聚类：无监督学习方法example14 samples2 classes4 features分类决策树决策森林K近邻ANNSVM聚 类层次聚类图单层感知器实现逻辑函数第二章例1 单层单

5、输出感知器实例例2 单层多输出感知器实例例3 实例应用：根据下表提供的信息构建一个神经网络分类器。OutlookTempWindyPlayOutlookTempWindyPlaySunnyHotFalseNoSunnyMildFalseNoSunnyHotTrueNoSunnyCoolFalseYesOvercastHotFalseYesRainyMildFalseYesRainyMildFalseYesSunnyMildTrueYesRainyCoolFalseYesOvercastMildTrueYesRainyCoolTrueNoOvercastMildFalseYesOvercastC

6、oolTrueYesRainyMildTrueNo第三章实验数据为Affymetrix公司的结肠癌基因表达谱数据，原实验为点有65000个寡聚核苷酸探针组成的基因芯片，其中包括40例结肠腺癌组织和22例正常结肠组织构成的样本集。这里仅采用U.ALON等筛选出的2000个基因表达谱数据进行分析。Affymetrix 是原位合成寡核苷酸技术的首创者，是基因芯片的早期开发者。在基因芯片行业一直处于领先的地位。BP网应用实例The purpose of this study was to develop a method of classifying cancers to specific diagn

7、ostic categories based on their gene expression signatures using artificial neural networks (ANNs).We trained the ANNs using the small, round blue-cell tumors (SRBCTs) as a model. The ANNs correctly classified all samples and identified the genes most relevant to the classification. ABSTRACTTo test

8、the ability of the trained ANN models to recognize SRBCTs, we analyzed additional blinded samples that were not previously used for the training procedure, and correctly classified them in all cases.This study demonstrates the potential applications of these methods for tumor diagnosis and the ident

9、ification of candidate targets for therapy.The small, round blue cell tumors (SRBCTs) of childhood, which include 4 types of tumorsThey are so named because of their similar appearance on routine histology(组织学）. Accurate diagnosis of SRBCTs is essential because the treatment options, responses to th

10、erapy and prognoses vary widely depending on the diagnosis.backgroundData set63 training samples containing 6567 genes from cDNA microarraysEWS 23; RMS 20; NB 12; BL 825 test samples(20 SRBCTs +5 normal)Red intensity greater than 20 across all experiments.By measuring the sensitivity of the classification to a change in th