机器学习导论课程教学大纲

《机器学习导论》课程教学大纲IntroductiontoMachineLearning课程编号：学分：3/2开课学院：学时：48/32课程类别：专业课课程性质：一、课程性质本课程可作为计算机科学与技术、智能科学与技术有关本科专业的必修课，也可作为其它本科专业的选修课。二、课程目的本课程的教学目的是：引导学生树立社会主义核心价值观，培养求真务实的科学态度、独立思考的科学精神、团体合作的科学素养，理解机器学习的基本问题和思维方式，掌握机器学习模型的性能度量、模型选择与评定、欠拟合与过拟合、最优化与正则化等基础知识，熟悉惯用的回归、分类、聚类和集成学习的基本原理和典型算法，理解深度学习模型并掌握它们的工程应用办法，能够根据特定应用和需求，运用开源资源来实现有关算法，为学生此后从事有关领域的研究工作或项目开发工作奠定坚实的基础。（一）思想、素质教育目的目的1.1培养学生严谨求实、不停探索、持之以恒、勇于创新的科学精神；目的1.2培养学生实事求是、一切从实际出发、理论联系实际的科学态度；目的1.3培养学生理解矛盾的对立统一、具体问题具体分析、抓重要矛盾等辩证唯物主义思想。（二）知识教学目的目的2.1掌握机器学习模型的性能度量、模型选择与评定、欠拟合与过拟合、最优化与正则化等基础知识；目的2.2熟悉惯用的回归、分类、聚类和集成学习的基本原理和典型算法；目的2.3理解深度学习模型并掌握它们的工程应用办法。（三）能力教学目的目的3.1培养学生分析问题、解决问题的能力；目的3.2培养学生类比、综合、归纳和演绎、等效等科学思维的能力；目的3.3培养学生创新能力。三、课程教学内容及基本规定本课程重要的教学内容是机器学习的基本原理和典型算法。本课程介绍机器学习模型的性能度量、模型选择与评定、欠拟合与过拟合、最优化与正则化等基础知识，线性回归、多项式回归、岭回归、套索回归、弹性网络、逻辑斯谛回归、Softmax回归的基本原理，k-近来邻和k-d树算法，支持向量机的基本原理，贝叶斯分类器与贝叶斯网络，ID3、C4.5、CART决策树算法，AdaBoost、GBDT、随机森林和极端随机树等集成学习的基本原理和算法，k-means、BIRCH、DBSCAN、OPTICS等聚类算法，以及卷积神经网络、循环神经网络、生成式对抗网络等深度学习模型。通过学习本课程，学生应达成：掌握机器学习模型的性能度量、模型选择与评定、欠拟合与过拟合、最优化与正则化等基础知识，熟悉惯用的回归、分类、聚类和集成学习的基本原理和典型算法，理解深度学习模型并掌握它们的工程应用办法，能够根据特定应用和需求，运用开源资源来实现有关算法。（一）课程教学内容及知识模块次序1．知识单元一：机器学习概述（5/3学时）（1）知识点一：机器学习的概念与基本术语（2）知识点二：人工智能、机器学习、深度学习三者之间的关系（3）知识点三：机器学习的三个基本要素（4）知识点四：机器学习模型的分类（5）知识点五：模型选择与评定教学基本规定：熟悉机器学习的基本概念、机器学习模型的分类，理解人工智能、机器学习、深度学习三者之间的关系，机器学习的三个基本要素，理解损失函数、代价函数和目的函数之间的区别和联系，理解生成模型和鉴别模型，数据清洗、归一化（原则化）等解决办法，混淆矩阵、分类精确率、错误率、、F1-score、ROC曲线及ROC曲线下面积（AUC）等。2．知识单元二：回归模型（5/3学时）（1）知识点一：线性回归（2）知识点二：多项式回归（3）知识点三：线性回归的正则化——岭回归和套索回归（4）知识点四：逻辑斯谛回归（5）知识点五：Softmax回归教学基本规定：熟悉线性回归模型的定义以及学习准则（方略），熟悉最小二乘法和正规方程，掌握梯度下降法的原理，掌握多项式回归转化为线性回归求解的办法，熟悉岭回归（Ridge回归）和套索回归（Lasso回归）的原理，掌握逻辑斯蒂回归和Softmax回归的原理以及两者的区别与联系。3．知识单元三：k-近来邻和k-d树算法（2/2学时）（1）知识点一：k-近来邻法（2）知识点二：k-d树教学基本规定：熟悉三个核心要素和熟悉的取值对-近来邻法的影响因素，熟悉k-d树的构建过程和搜索办法。4．知识单元四：支持向量机（5/3学时）（1）知识点一：统计学习理论基础（2）知识点二：支持向量机的基本原理和特点（3）知识点三：线性SVM（4）知识点四：基于核函数的非线性SVM（5）知识点五：多分类SVM（6）知识点六：支持向量机的训练教学基本规定：理解经验风险最小化原则和构造风险最小化归纳原则以及它们之间的区别，理解“支持向量”的概念以及最大化间隔的基本思想，掌握支持向量机（SVM）的基本原理，熟悉核函数的作用以及核办法的原理，熟悉支持向量机（SVM）的特点及应用场合。5．知识单元五：贝叶斯分类器与贝叶斯网络（5/3学时）（1）知识点一：贝叶斯办法（2）知识点二：贝叶斯分类器（3）知识点三：贝叶斯网络教学基本规定：熟悉的理解6．知识单元六：决策树（5/3学时）（1）知识点一：决策树学习（2）知识点二：特性（或属性）选择（3）知识点三：ID3、CART算法（4）知识点四：决策树的剪枝（5）知识点五：决策树的优缺点教学基本规定：熟悉决策树的概念以及决策树的生成方略，熟悉ID3、CART算法中所用的特性选择指标，理解ID3、CART三种算法的理解决策树的剪枝解决办法，熟悉。7．知识单元七：集成学习（5/3学时）（1）知识点一：集成学习概述（2）知识点二：AdaBoost算法（3）知识点三：梯度提高决策树（GBDT）（4）知识点四：随机森林和极端随机树教学基本规定：熟悉Bagging与Boosting集成学习办法点，熟悉基学习器的组合方略，AdaBoost、梯度提高决策树（GBDT）、熟悉AdaBoost、GBDT、理解GBDT。8．知识单元八：聚类（5/3学时）（1）知识点一：均值算法（2）知识点二：BIRCH算法（3）知识点三：基于密度的聚类算法教学基本规定：熟悉聚类聚类和分类的异同点，熟悉惯用的聚类算法，均值算法的原理、优缺点及改善算法，熟悉个聚类中心（簇中心）-均值熟悉聚类特性和聚类特性树（CF-Tree）的概念，熟悉CF-Tree的构建过程及BIRCH算法的优缺点，熟悉DBSCAN算法的优缺点，理解9．知识单元九：深度学习（6/4学时）（1）知识点一：人工神经网络基础（2）知识点二：卷积神经网络（3）知识点三：循环神经网络（4）知识点四：生成式对抗网络教学基本规定：感知机的基本原理，前馈神经网络的特性以及，中生成式对抗网络的基本原理，多个衍生模型的特点及应用。（二）课程的重点、难点及解决方法课程重点内容：机器学习模型的选择与评定，欠拟合与过拟合的概念，，线性回归和最小二乘法、多项式回归、岭回归、套索回归、逻辑斯谛回归、Softmax回归的基本原理，k-近来邻和k-d树算法，支持向量机的基本原理，贝叶斯分类器与贝叶斯网络，ID3、C4.5、CART决策树算法，AdaBoost、GBDT、随机森林和极端随机树等集成学习的基本原理和算法，k-means、BIRCH、DBSCAN、OPTICS等聚类算法，以及卷积神经网络、循环神经网络、生成式对抗网络等深度学习模型。课程难点内容：逻辑斯谛回归的极大似然预计，Softmax回归模型的求解，基于“软间隔（SoftMargin）”的广义最优超平面，基于核函数的非线性SVM，贝叶斯网络的构建办法及推理过程，ID3、C4.5、CART决策树的算法流程，梯度提高决策树（GBDT），LSTM中生成式对抗网络的基本原理。解决方法：本课程以课堂讲授为主，可采用讲授与讨论相结合的教学办法。本课程理论性较强，课堂上将采用多媒体课件与板书相结合进行教学，激发学生的学习爱好，引导学生的主动思考，让学生有思考的空间和余地，活跃课堂的氛围。在给学生传授理论知识的同时，还要重视理论联系实际，尽量及时介绍本学科最新研究成果，引导学生参加科研项目，培养学生的创新意识和解决实际问题的能力。教师授课要含有指导性、启发性和示范性，突出重点，破解难点，安排一定时间为学生答疑解惑，有针对性地开展某些专项讨论。适宜运用当代教学手段和其它实践手段组织教学，以丰富教学内容和教学形式。四、实验实践环节及基本规定无。五、课程教学内容与课程目的对应关系矩阵课程各知识单元与课程目的对应支撑关系以下表所示。课程目的课程内容目的1.1目的1.2目的1.3目的2.1目的2.2目的2.3目的3.1目的3.2目的3.3机器学习概述●●●●●●●回归模型●●●●●●●●k-近来邻和k-d树算法●●●●●●●支持向量机●●●●●●●●贝叶斯分类器与贝叶斯网络●●●●●●●决策树●●●●●●●集成学习●●●●●●●聚类●●●●●●●深度学习●●●●●●●●六、本课程与其它课程的联系与分工先修课程：线性代数，概率统计后续课程：本课程是一门专业课。为学习本课程，学生应当含有必要的数学基础理论知识。学生在学习本门课程之前应掌握线性代数、概率统计等基础理论知识。在教学过程中，要重视解决工程问题，加强物理概念的解释。本课程重要锻炼和培养学生用系统的观点分析和解决实际问题。七、对学生能力培养的规定通过课程学习，使学生在基本掌握机器学习的基本原理和典型算法的基础上，含有获取知识的能力、科学观察和思维的能力、分析问题与解决工程实际问题的能力、创新思维与创新能力。八、课程学时分派本课程总学时48/32，其中授课44/28学时，习题及讨论4学时。课程重要内容和学时分派见课程学时分派表。课程学时分派表教学环节时数课程内容授课上机实验习题及讨论小计机器学习概述5/35/3回归模型5/35/3k-近来邻和k-d树算法2/22/2习题及讨论1/11/1支持向量机5/35/3贝叶斯分类器与贝叶斯网络5/35/3决策树5/35/3习题及讨论2/22/2集成学习5/35/3聚类5/35/3深度学习6/46/4习题及讨论2/22/2总计43/275/548/32九