《深度学习与应用》教学大纲

《深度学习与应用》教学大纲适用范围：202X版本科人才培养方案课程代码：22140241课程性质：专业必修课学分：3学分学时：48学时（理论40学时，实验8学时）先修课程：人工智能导论、人工智能程序设计、数据结构与算法分析、机器学习后修课程：人工智能综合创新适用专业：人工智能专业开课单位：智能工程学院一、课程说明《深度学习与应用》是人工智能专业中的一门专业必修课程。该课程以深度学习框架为基础，介绍了机器学习的基础知识与常用方法，以实例的方式学习机器学习操作的原理及其在深度学习框架下的实践步骤。主要内容包括深度学习基础知识、深度学习框架及其对比、机器学习基础知识、深度学习框架（以PyTorch为例）基础、Logistic回归、多层感知器、卷积神经网络与计算机视觉、神经网络与自然语言处理。并通过8个深度学习实例的学习，帮助学生更好的掌握深度学习知识，做到理论与实践相结合，方法与应用相结合。本课程除要求学生掌握以上深度学习知识，更重要的是要求学生掌握理论与实践结合的学习方式，为更深入地学习打下良好的基础。二、课程目标通过本课程的学习，使学生达到如下目标：课程目标1:能够理解深度学习的基本原理及组成结构、基本概念、特征、及主要功能；掌握常用算法；掌握深度学习软件的基本操作和基本配置。课程目标2:能够运用深度学习的基本原理、控制管理方法和实现机制，熟练使用深度学习软件，能够解决一些简单的应用问题。了解深度学习算法设计技巧，并分析深度学习算法的复杂性，优选深度学习复杂工程问题的解决方案，培养学生科学、严谨的创造性思维和研究性思维。课程目标3：能够基于科学原理，通过文献研究等方法系统分析人工智能及相关应用领域复杂工程问题，明确研究对象的基本特征和关键环节，并选择合适研究路线；培养学生积极思考、严谨创新的科学态度和解决实际问题的能力，塑造学生刻苦钻研的使命感和爱国情怀，培养科学探索的工程素养。三、课程目标与毕业要求《深度学习与应用》课程教学目标对人工智能专业毕业要求的支撑见表1。表1课程教学目标与毕业要求关系毕业要求指标点课程目标支撑强度1.工程知识1.2系统掌握人工智能及相关应用领域的工程基础和专业知识，包括算法、硬件、软件平台及系统等，了解解决工程问题的基本方法。课程目标1:能够理解深度学习的基本原理及组成结构、基本概念、特征、及主要功能；掌握常用算法；掌握深度学习软件的基本操作和基本配置。H3.设计/开发解决方案3.1掌握人工智能及相关应用领域的系统集成、算法优化、软件设计的基本设计理论和设计方法，能够根据需求确定设计目标研究、确定技术方案。课程目标2:能够运用深度学习的基本原理、控制管理方法和实现机制，熟练使用深度学习软件，能够解决一些简单的应用问题。了解深度学习算法设计技巧，并分析深度学习算法的复杂性，优选深度学习复杂工程问题的解决方案，培养学生科学、严谨的创造性思维和研究性思维。H4.研究4.1能够基于科学原理，通过文献研究等方法系统分析人工智能及相关应用领域复杂工程问题，明确研究对象的基本特征和关键环节，并选择合适研究路线。课程目标3：能够基于科学原理，通过文献研究等方法系统分析人工智能及相关应用领域复杂工程问题，明确研究对象的基本特征和关键环节，并选择合适研究路线；培养学生积极思考、严谨创新的科学态度和解决实际问题的能力，塑造学生刻苦钻研的使命感和爱国情怀，培养科学探索的工程素养。H注：表中“H（高）、M（中）”表示课程与相关毕业要求的关联度。四、教学内容、基本要求与学时分配1.理论部分理论部分的教学内容、基本要求与学时分配见表2。表2教学内容、基本要求与学时分配教学内容教学要求，教学重点难点理论学时实验学时对应的课程目标1.深度学习简介1.1现代深度学习和卷积神经网络的基础知识1.2强化学习的概念、算法和应用。思政1：中国人工智能发展历程教学要求：了解计算机视觉的定义、基本任务和传统方法；了解仿生学与深度学习的关联；了解现代深度学习和卷积神经网络的基础知识；了解自然语言处理的基本问题和发展趋势；了解在自然语言处理中传统方法与神经网络方法的比较；了解强化学习的概念、算法和应用。难点：现代深度学习和卷积神经网络的基础知识，强化学习算法和应用41，22.深学习框架及其对比度2.1深度学习框架2.2Caffe、TensorFlow、PyTorch的特点和用途思政2：李晓挺-深度学习领域的领军人物教学要求：了解目前流行的深度学习框架Caffe、TensorFlow、PyTorch；了解Caffe的用途、特点和层及网络的概念；了解数据流图；了解TensorFlow的用途、特点和计算形式。了解PyTorch的用途、特点和相对于其他框架的优势；了解Caffe、TensorFlow、PyTorch三者的比较。重点：Caffe、TensorFlow、PyTorch的用途和特点难点：Caffe、TensorFlow、PyTorch的用途和特点401，33.PyTorch深度学习基础3.1NumPy的ndarray对象和Tensor对象3.2PyTorch的Reduction操作3.3PyTorch的Reduction操作3.4PyTorch的自动微分Autograd思政3：王海峰-中国AI领军人物教学要求：了解NumPy的ndarray对象和Tensor对象；掌握Tensor对象的创建及其运算方式；掌握Tensor的索引、切片、变换、拼接和拆分；了解PyTorch的Reduction操作；了解PyTorch的自动微分Autograd。重点：Tensor对象的创建及其运算方式；Tensor的索引、切片、变换、拼接和拆分难点：Tensor对象的创建及其运算方式；Tensor的索引、切片、变换、拼接和拆分822，34.回归模型4.1回归模型简介4.2线性回归模型和平均平方误差函数4.3Logistic回归模型4.4PyTorch实现Logistic回归思政4：中国人工智能发展历程教学要求：了解回归和回归模型；了解线性回归的概念；了解线性回归模型和平均平方误差函数；了解Logistic回归模型；掌握用PyTorch实现Logistic回归的方式，包括使用MultivariateNormal构造多元高斯分布、调用Linear实现线性模型、Sigmoid激活函数、BCELoss损失函数和使用optim包构建优化器等相关知识；掌握将Logistic回归模型可视化的方法。重点：PyTorch实现Logistic回归的方式、Logistic回归模型可视化的方法。难点：PyTorch实现Logistic回归的方式、Logistic回归模型可视化的方法。821，3多层感知器5.1多层感知器5.2BP神经网络及BP（后向传播）神经网络思政5：华为昇腾910-全球十大AI芯片教学要求：了解神经元、输入、连接权值向量、偏置、激活函数、输出、神经网络、输入层、输出层、隐藏层、训练、监督训练、非监督训练的概念；了解感知器的概念，包括单层感知器和多层感知器；了解BP（后向传播）神经网络、梯度下降算法和后向传播算法；了解Dropout正则化技术；了解批标准化的实现方式和使用方法。重点：BP（后向传播）神经网络、Dropout正则化技术难点：BP（后向传播）神经网络、Dropout正则化技术。421，2，36.卷积神经网络和计算机视觉6.1卷积神经网络6.2经典网络结构教学要求：了解卷积神经网络的基本思想，包括全局连接、局部连接、参数共享；了解卷积操作，包括卷积、卷积层和卷积核的基本概念；了解卷积中使用多个卷积核、多通道卷积和边界填充等操作；了解池化和常见的池化类型；了解卷积神经网络；了解VGG、InceptionNet、ResNet等经典网络结构；了解使用PyTorch进行手写数字识别的过程。重点：经典卷积神经网络结构难点：经典卷积神经网络结构401，2，37.神经网络与自然语言处理7.1基于多层感知器的架构7.2自然语言处理基于卷积神经网络的架构思政6：深度学习前沿技术教学要求：了解语言建模的基本形式；了解自然语言处理基于多层感知器的架构；了解自然语言处理基于循环神经网络的架构，包括循环单元、通过时间后向传播、带有门限的循环单元、循环神经网络语言模型和神经机器翻译的相关知识；了解自然语言处理基于卷积神经网络的架构；了解自然语言处理基于Transformer的架构，包括多头注意力、非参位置编码、编码器单元与解码器单元的相关知识；了解表示学习与预训练技术。难点：基于多层感知器的架构、自然语言处理基于卷积神经网络的架构821，2，3合计4082.实验部分实验部分的教学内容、基本要求与学时分配见表3。表3实验项目、实验内容与学时实验项目实验内容和要求实验学时对应的课程目标1.配置PyTorch开发环境实验内容：利用python、pycharm、anaconda和Jupyter实现PyTorch语言编程环境的配置。实验要求：掌握PyTorch编程的配置；能够利用pycharm、anaconda和Jupyter实现PyTorch语言编程环境的配置。21,22.PyTorch实现Logistic回归实验内容：编程实现用PyTorch实现Logistic回归的方式，包括使用MultivariateNormal构造多元高斯分布、调用Linear实现线性模型、Sigmoid激活函数、BCELoss损失函数和使用optim包构建优化器。实验要求：掌握基于PyTorch的Logistic回归。21,23.Pytorch实现BP前馈神经网络及BP后向传播神经网络实验内容：了解感知器的概念，包括单层感知器和多层感知器；掌握基于Pytorch深度学习框架编程实现输入层、输出层、隐藏层、BP前馈神经网络和P后向传播神经网络；了解BP（后向传播）神经网络、梯度下降算法和后向传播算法；。实验要求：理解并编程实现基于Pytorch深度学习框架的BP前馈神经网络及BP后向传播神经网络。21,34.基于Transformer的架构实现自然语言处理汇中包括多头注意力、非参位置编码、编码器单元与解码器单元。实验内容：了解表示学习与预训练技术；了解自然语言处理基于卷积神经网络的架构；编程实现自然语言处理基于Transformer的架构，包括多头注意力、非参位置编码、编码器单元与解码器单元的相关知识实验要求：基于Transformer架构的自然语言处理准确率不低于80%。21,2,3合计8五、教学方法及手段课程教学采用理实一体化教学方式，通过设定教学任务和教学目标，让师生双方边教、边学、边做，全程构建素质和技能培养框架，丰富课堂教学和实践教学环节，提高教学质量。结合理论讲授、课堂讨论、实验、作业，配合多媒体课件、慕课、学习通等资源等共同课完成堂授课内容。采用E-mail、钉钉、微信等交流工具，加强和学生之间的交流和沟通。在实验前学生应复习和掌握与本实验有关的教学内容、认真阅读实验指导书，了解实验原理；在实验中要严格遵守实验纪律，按操作规程使用仪器，需要学生记录实验数据和截图实验运行画面；实验结束后，按规定对仪器进行维护保养；每完成一项实验，分析处理实验数据，解读收发数据的信息，回答思考题内容，认真完成一份实验报告。六、课程资源1.推荐教材：主要责任者.文献题名[M].出版地:出版者,出版年.（1）吕云翔，刘卓然.PyTorch深度学习实战：微课视频版[M].北京:清华大学出版社,2021年.（2）王志立.Python深度学习[M].北京:清华大学出版社,2021年.（3）周中元.深度学习原理与应用[M].北京:电子工业出版社,2021年.2.参考书：主要责任者.文献题名[M].出版地:出版者,出版年.（1）千锋教育高教产品研发部.Python快乐编程人工智能—深度学习基础[M].北京:清华大学出版社,2020年.（2）吕云翔，刘卓然.Python深度学习实战—基于Pytorch[M].北京:人民邮电出版社,2021年.（3）IanGoodfellow，YoshuaBengio，AaronCourville.DeepLearning[M].北京:人民邮电出版社,2021年.3.期刊：主要责任者.文献题名[J].刊名,年,卷(期):起止页码.（1）邵美萍.基于深度学习的人工智能文本处理系统设计[J].电子技术,2022,51(06):190-191.4.网络资源：主要责任者.题名:其他题目信息[文献类型标识/文献载体标识].出版地:出版者,出版年(更新或修改日期)[引用日期].获取或访问路径．（1）DeepLearning,/（2）Paperswithcode,/sota（3）Mlhub123,/七、课程考核对课程目标的支撑课程成绩由过程性考核成绩和期末考核（大作业）成绩两部分构成，具体考核/评价细则及对课程目标的支撑关系见表4。表4课程考核对课程目标的支撑考核环节占比考核/评价细则课程目标123过程性考核课堂表现10（1）根据课堂出勤情况和课堂回答问题情况进行考核，满分100分。（2）以平时考核成绩乘以其在总评成绩中所占的比例计入课程总评成绩。√√√442实验20（1）根据实验完成情况和实验报告撰写情况进行考核，满分100分。（2）以平时考核成绩乘以其在总评成绩中所占的比例计入课程总评成绩。√√√884作业10（1）主要考核学生对各章节知识点的复习、理解和掌握程度，满分100分；（2）每次作业单独评分，取各次成绩的平均值作为此环节的最终成绩。（3）以作业成绩乘以其在总评成绩中所占的比例计入课程总评成绩。√√√442期末考核60（1）期末考核（大作业）成绩100分，以期末考核（大作业）成绩乘以其在总评成绩中所占的比例计入课程总评成绩。（2）考核详情见期末考核（大作业）任务要求及评价标准。√√√252510合计：100分414118八、考核与成绩评定1.考核方式及成绩评定考核方式：本课程主要以课堂表现、实验、作业、期末考核（大作业）等方式对学生进行考核评价。考核基本要求：考核总成绩由期末考核（大作业）成绩和过程性评价成绩组成。其中：期末考核（大作业）成绩为100分（权重60%）；课堂表现、作业、实验等过程性评价成绩为100分（权重40%）。2.过程性考核成绩的标准过程性考核方式重点考核内容、评价标准、所占比重见表5。表5过程性考核方式评价标准考核方式所占比重(%)100>x≥9090>x≥8080>x≥7070>x≥60x<60课堂表现