《计算智能与模式识别》课程教学大纲

《计算智能与模式识别》教学大纲一、课程基本信息课程名称计算智能与模式识别ComputationalIntelligenceAndPatternRecognition课程编码SCC321321030开课院部理学院课程团队数据科学团队学分3.0课内学时56讲授32实验0上机24实践0课外学时56适用专业数据科学与大数据技术授课语言中文先修课程数学分析（A）I、高等代数与几何（2-1）、数学分析（A）II、高等代数与几何（2-2）、最优化方法、矩阵理论与计算课程简介（限选）《计算智能与模式识别》是一门模式识别与智能计算方向的导论基础课，属于信息、控制和系统科学的范畴，是数据科学与大数据技术专业的专业选修课程。通过本课程的教学，使学生了解模式识别基本概念、基本构成和特征提取方法，掌握模式识别的可分离性判据，判别函数、特征提取与特征选择等典型模型概念、设计及分析过程；了解聚类模式识别的相关概念，并掌握层次聚类、动态聚类、模糊系统和模糊聚类等聚类方法在模式识别中设计与应用；掌握经典反向传播前馈神经网络模型和以卷积神经网络为代表的深度学习模型，了解神经网络优化学习算法如随机梯度下降法及其变体，学习设计基于神经网络解决偏微分方程问题；理解神经网络和模糊系统的区别与联系，并掌握模糊神经网络模型算法设计与编程实现；针对进化计算，重点要求掌握基于进化论和“优胜劣汰“自然选择法则为基础建立的遗传算法和差分进化模型，群智能方法侧重于介绍蚁群算法，粒子群算法和黏菌模型。本课程着重讲述模式识别的基本概念，基本方法和所涉及智能算法的原理和流程，注重理论与实践紧密结合和方法的应用过程，避免引用过多的、繁琐的数学推导，使学生具有初步综合利用数学知识深入研究有关计算智能领域问题的能力。《ComputationalIntelligenceandpatternrecognition》isanintroductorybasiccourseinthedirectionofpatternrecognitionandintelligentcomputing,whichbelongstothecategoryofinformation,controlandSystemScience,itisaprofessionalelectivecourseforthemajorofdatascienceandbigdatatechnology.Throughtheteachingofthiscourse,studentscanunderstandthebasicconcepts,basiccompositionandfeatureextractionmethodsofpatternrecognition,mastertheseparabilitycriteriaofpatternrecognition,discriminantfunctions,theconcept,designandanalysisprocessoftypicalmodelssuchasfeatureextractionandfeatureselection;Understandtherelatedconceptsofclusteringpatternrecognition,andmasterhierarchicalclustering,Dynamicclustering,thedesignandapplicationofclusteringmethodssuchasfuzzysystemandfuzzyclusteringinpatternrecognition;MastertheclassicalbackpropagationfeedforwardneuralnetworkmodelandthedeeplearningmodelrepresentedbyConvolutionNeuralNetwork,understandneuralnetworkoptimizationlearningalgorithmssuchasstochasticgradientdescentmethodanditsvariants,learnanddesignpartialdifferentialequationproblemsbasedonneuralnetwork;Understandthedifferencesandconnectionsbetweenneuralnetworkandfuzzysystem,andmasterthealgorithmdesignandprogrammingimplementationoffuzzyneuralnetworkmodel;Forevolutionarycomputation,itismainlyrequiredtomasterthegeneticalgorithmanddifferentialevolutionmodelbasedonthetheoryofevolutionandthenaturalselectionruleof"survivalofthefittest,theswarmintelligencemethodfocusesonintroducingAntColonyalgorithm,particleswarmalgorithmandmyxoidmodel.Thiscoursefocusesonthebasicconcepts,basicmethodsandtheprinciplesandprocessesoftheintelligentalgorithmsinvolvedinpatternrecognition,andfocusesontheclosecombinationoftheoryandpracticeandtheapplicationprocessofmethodstoavoidexcessivereferences,thetediousmathematicalderivationenablesstudentstohavetheabilitytomakepreliminarycomprehensiveuseofmathematicalknowledgetodeeplystudyproblemsinthefieldofcomputationalintelligence.负责人大纲执笔人审核人二、课程目标序号代号课程目标OBE毕业要求指标点任务自选1M1目标1：能理解模式识别领域的基本概念，掌握经典聚类、特征提取和特征选择学习算法是2M2目标2：能理解神经网络模型的生物学背景，掌握经典BP神经网络模型详细推导过程，理解深度学习本质，掌握深度卷积神经网络模型设计是3M3目标3：掌握模糊集合及基本运算，模糊关系与扩展原理，理解语言变量与IF-THEN规则，会使用模糊逻辑进行近似推理是4M4目标4：能理解进化计算模型的社会学和生物学背景，掌握遗传算法中交叉、选择、变异三种算子并能够编程实现，理解差分进化算法，掌握蚁群算法和粒子群算法更新策略并能编程实现是三、课程内容序号章节号标题课程内容/重难点支撑课程目标课内学时教学方式课外学时课外环节1第1章绪论本章重点难点：模式识别和计算智能的基本概念、模型，了解模式识别的流程和框架。M1////21.11.1基本概念计算智能和模式识别的基础知识M11讲授//31.21.2发展历史及现状计算智能和模式识别系统的背景介绍和应用前景，构建课程整体知识体系。M11讲授、讨论/课后作业4第2章模式识别系统本章重点难点：可分离性判据，主成分分析，奇异值分解，k-均值聚类，近邻传播聚类算法和数据云聚类M1////52.12.1类别可分离性判据可分离性判据准则，实用判据条件，类可分别判断函数性质，基于几何距离、概率密度和熵的可分离判据M21讲授//62.22.2特征提取--主成分分析线性变换，相似矩阵，矩阵的特征值分解，协方差矩阵，K-L变换与主成分分析的关系M21讲授1编写程序72.32.3特征提取--奇异值分解相似样本合并和特征降维，应用举例--人脸识别/1讲授1编写程序8第3章模式聚类学习聚类基本原理，掌握K-均值聚类，K-中心点聚类及变体，了解近邻传播和DataClouds聚类算法模型M2////93.13.1聚类定义、分类非监督式机器学习，基于划分、层次、密度、网格、模型和降维等的聚类算法简介M21讲授//103.23.2典型聚类算法K-均值聚类，K-中心点聚类，模糊C均值聚类，CLARA和CLARANS聚类模型M21讲授1编写程序113.33.3近邻传播及数据云聚类算法相似度矩阵、认可度矩阵和归属度矩阵，类间类内距离比，加权数据密度定义，数据云定义M21讲授2编程，作业12第4章特征选择了解特征选择中特征子集产生过程，评价函数构造，停止准则及子集有效性验证；理解过滤式、包裹式和嵌入式特征选择经典模型，重点掌握基于神经网络的特征选择实现算法。M2////134.1无监督特征选择流行学习，局部线性嵌入，线性最近邻重构，选择矩阵，结构正则化M21讲授/作业144.2自编码器实现特征选择编码，解码，前馈神经网络，输入层权值稀疏化，特征重要性度量M21讲授2编写程序154.3组稀疏神经网络实现特征选择GroupLasso正则子，径向基函数神经网络，门值函数，正则项自适应调整M21讲授2编写程序16第5章深度学习神经网络本章重点难点：卷积神经网络模型设计与内部结构理解，掌握神经网络优化学习方法SGD及其变体，利用神经网络解决偏微分方程。M3////175.15.1深度卷积神经网络理解权值共享，局部感受野，空间或时间上的次采样，卷积操作，重点理解经典卷积神经网络LeNet-5，了解CNN在语音识别和图像处理方面的应用。M33讲授2编写程序，作业185.25.2从SGD到Adam算法最速下降法，随机梯度下降法，Mini-Batch梯度下降法，带动量项梯度优化算法，Nesterov(NAG)优化算法，Adagrad算法，Adadelta算法，RMSprop算法，AdaptiveMomentEstimation(Adam)算法等M33讲授2编写程序195.35.3正则化在线学习及微分方程神经网络求解在线学习，介绍基于正则化随机学习和在线优化的对偶平均算法，构造强凸函数，了解次梯度定义，稀疏性权值矩阵；介绍基于长度系数的神经网络模型求解狄利克雷和纽曼边值的偏微分方程，了解薄板样条差值函数。M33讲授2编写程序20第6章模糊系统及模糊神经网络本章重点难点：模糊集合的基本概念，掌握模糊逻辑与近似推理，理解神经网络和模糊系统的区别与联系，能够编程实现I型和II型模糊神经网络，了解非平稳模糊神经网络模型。M3////216.16.1模糊系统基础由经典集合到模糊集合，模糊集合的基本运算；由经典关系到模糊关系，模糊关系的合成；由数值变量到语言变量，模糊IF-THEN规则；由经典逻辑到模糊逻辑，推理合成规则M32讲授/作业226.26.2一型和二型模糊神经网络模糊逻辑系统，模糊器，规则库，推理机和解模糊器，掌握区间二型模糊神经网络模型，K-M降型器M32讲授2编写程序236.36.3非平稳模糊神经网络专家系统，决策系统，非平稳模糊系统与神经网络的结合M32讲授2编写程序24第7章进化计算了解进化算法的产生于发展，掌握基本遗传算法和差分进化算法并能够编程实现，针对群智能算法，重点掌握蚁群算法和粒子群算法，了解黏菌模型的动力学建模背景。M4////257.17.1遗传算法染色体，基因，交叉算子，选择算子和变异算子M41讲授1编写程序267.27.2差分进化算法元启发式算法，实数编码，基于种群的全局搜索策略，适应度函数，理解遗传算法与差分进化算法的区别与联系，并编程实现M42讲授1作业，编写程序277.37.3蚁群算法蚁群算法的生物学背景，基本思想，算法框架，TSP问题，信息素，状态转移概率M41讲授2编写程序287.47.4粒子群算法群体智能的社会学背景，掌握粒子群算法流程框架并编程实现M41讲授1编写程序297.57.5黏菌模型生物学背景，黏菌生物数学模型，多食物源寻优问题及典型应用M41讲授/作业四、考核方式序号考核环节操作细节总评占比1考勤随机点名、刷卡点名等5%2实验1.本课程24个学时实验。2.成绩采用百分制，根据实验完成情况评分。40%3大作业1.本课程要求利用Matlab编程设计对应神经网络、模糊系统和进化计算的三种智能模型，撰写课程报告。55%五、评分细则序号课程目标考核环节大致占比评分等级1M1考勤20%A-无缺勤。B-缺勤1次及以上且很少参加课堂讨论。2M1大作业80%（见大作业评分标准）3M2考勤10%A-无缺勤。B-缺勤1次及以上且很少参加课堂讨论。4M2实验40%A-按时提交实验报告，编程实现PCA,SVD和特征选择，结论无误。B-按时提交实验报告，编程实现PCA,SVD和特征选择，结论基本正确。C-编程实现PCA,SVD和特征选择存在问题。5M2大作业50%（见大作业评分标准）6M3考勤10%A-无缺勤。B-缺勤1次及以上且很少参加课堂讨论。7M3实验40%A-按时提交实验报告，编程实现卷积神经网络图像分类、神经网络求解偏微分方程，一型和二型模糊神经网络，结论无误。B-按时提交实验报告，编程实现卷积神经网络图像分类、神经网络求解偏微分方程，一型和二型模糊神经网络，结论基本正确。C-编程实现卷积神经网络图像