《信息论与编码》-教学大纲 杨守义

信息论与编码教学大纲课程名称（中/英文）：信息论与编码/InformationTheoryandCoding课程编号：242039适用专业：通信工程、电子信息工程学分：3学时：48（其中：理论学时48，实践学时0）课程类型：专业类先修课程：微积分、大学物理、概率论开课单位：电气与信息工程学院一、课程简介信息论与编码是通信的数学理论，它是一门应用概率论与随机过程等方法来研究信息的传输、存储、处理、控制和利用的一般规律的科学。它主要研究如何提高通信系统的可靠性和有效性，以使通信系统最优化。“信息论与编码”是通信工程专业的必修课程，在此基础上培养学生的实践能力，为学生未来的发展奠定坚实的基石。信息论与编码应用概率论与随机过程等方法解决通信的有效性问题和可靠性问题，从信息概念的引入、信息的度量开始，介绍香农三定理在通信系统中进行信息处理的基本原理和一般过程，在此基础上，介绍信源编码和信道编码的设计原理，以及多种经典信源编码和信道编码算法。

信息论与编码课程的学习，对培养学生的科学思维能力、提高学生分析问题和解决问题的能力，具有十分重要的作用。信息论与编码是通信工程专业的必修课程，将为进一步学习后续课程打下坚实基础，为学生的未来发展奠定坚实基础。二、课程目标（一）课程具体目标通过本课程的教学，学生应具备下列能力：课程目标1：掌握信息论与编码基础知识，能应用其中基本概念、基本理论、基本分析方法对通信问题进行分析计算。（支撑毕业要求指标点3.1）根据研究问题的背景，学会建立信源及信道的数学模型，掌握信源熵、互信息量、信息率失真函数、信道容量、信源编码、信道编码等信息论与编码主要分支的基本理论和计算方法，能够综合运用所学知识解决实际问题。课程目标2：能够针对具体通信系统要求，进行分析计算和综合设计。（支撑毕业要求指标点3.2）熟练使用Matlab、C、python等计算软件实现算法编写与计算。能综合运用数学知识、信息理论、编码基本知识，对通信工程领域中的复杂通信系统进行定性分析和定量设计。课程目标3：会根据应用需求确定常见通信系统的性能指标及形式。（支撑毕业要求指标点3.3）能根据不同应用场合对通信系统的需求，确定性能指标，选择或设计系统模块。课程目标4：有设计常用通信系统的能力。（支撑毕业要求指标点3.4）通过学习该课程，培养学习者解决复杂工程问题的能力。使学习者在学习和工作中对问题进行定量精度分析，理解通信理论的有效性和可靠性等基本问题，并用于解决复杂工程问题。注：针对本专业类课程信息论与编码，结合课程内容提炼育人要素，穿插与专业相关的传统文化，在完成专业知识能力目标的同时，完成教书育人功能。（二）课程目标与专业毕业要求的关系表1是信息论与编码课程目标与对应支撑的毕业要求及毕业要求指标点。表1课程目标与毕业要求对应关系表课程目标毕业要求指标点毕业要求课程目标13.1掌握信息论与编码基础知识，能应用其中基本概念、基本理论、基本分析方法对通信问题进行分析计算。3、设计/开发解决方案课程目标23.2能够针对具体通信系统要求，进行分析计算和综合设计。3、设计/开发解决方案课程目标33.3能够根据应用需求确定常见通信系统的性能指标及形式。3、设计/开发解决方案课程目标43.4能够设计常用通信系统模块及相应编解码过程。3、设计/开发解决方案三、教学内容与基本要求表2课程目标与教学内容/教学方法课程目标教学内容课程思政教育内容教学方法/考核评价方式计划学时（共48）预期学习结果（能力提升）课程目标1：掌握信息论与编码基础知识，能应用其中基本概念、基本理论、基本分析方法对通信问题进行分析计算。信息论的形成和发展信息理论研究的内容通信系统的模型信息论的应用通过绪论部分对信息论发展历史及现状的介绍，让学生时刻关注我国通信技术的发展，激发学生科技兴国的家国情怀。讲授、课堂讨论、线上学习/平时成绩，期末考试2绪论：了解信息论的形成和发展过程，明确信息论研究的主要内容及其在实际通信理论中的工程意义；熟知通信系统模型的组成以及各模块的作用，明确编码的种类及在实际工程应用中的重要作用。信源的描述与分类离散信源熵和互信息离散序列信源的熵连续信源的熵和互信息信源的冗余度讲授信源及信息熵知识，联系实际信源的多样性，培养学生的辩证思维、严谨客观的科学态度和勇于探索的精神。讲授、课堂讨论、线上学习/平时成绩，期末考试10信源与信息熵：掌握信息定义与度量，了解信息函数的性质；掌握各种信源的描述方法，深刻理解互信息的意义；能够熟练计算信源的符号熵和序列熵并掌握其性质信道的基本概念离散单个符号信道及其容量离散序列信道及其容量连续序列信道及其容量多输入多输出信道及其容量信源与信道的匹配结合信道与信道容量的讲解，联系我国4G和5G技术发展的重大成就，增强学生的民族自信心和文化自豪感，同时融入社会主义核心价值观、“四个自信”和创新精神教育。讲授、课堂讨论、线上学习/平时成绩，期末考试10信道与信道容量：理解信道的物理意义并能够建立信道的数学模型；深刻理解连续信道的信道容量公式；掌握对称和准对称DMC信道的容量计算信息率失真函数的概念和性质离散信源和连续信源的R(D)计算结合信息率失真函数的物理意义，引导学生联系运用科学、辩证的观点和方法全面观察事物、分析问题。讲授、课堂讨论、线上学习/平时成绩，期末考试4信息率失真函数：理解信息率失真函数的意义并能计算有关参数编码的概念无失真信源编码定理限失真信源编码定理常用信源编码方法简介结合无失真/限失真信源编码原理，引导学生处理问题时应实事求是，既要树立科学的思维，也要树立创新的思维。讲授、课堂讨论、线上学习/平时成绩，期末考试10信源编码：深入理解定长编码定理、变长编码定理和限失真信源编码定理；熟练掌握香农码、哈夫曼码等变长编码方法；了解实际中常用的编码方法。有扰离散信道编码定理纠错编译码的基本原理与分析方法线性分组码卷积码结合信道编码原理及常见编码，引导学生学会用正确的立场、观点和方法分析问题，把学习、观察、实践同思考紧密结合起来。讲授、课堂讨论、线上学习/平时成绩，期末考试10信道编码：理解信道编码的基本原理，深入理解信道编码定理，并了解定理的证明思路；掌握译码的基本原理，掌握最佳译码和最大似然译码的概念；熟练掌握线性分组码的生成方法和译码原理，深入理解线性分组码的特性，掌握线性分组码的有关参数及其与码的纠检错能力之间的关系，掌握循环码的生成方法及特性；了解卷积码的特点，熟练掌握卷积码的几种描述方法及有关参数；深入理解维特比译码原理。网络通信的分类网络编码结合网络通信分类及网络编码基本原理，引导学生树立大局观，从而全面、客观、科学的分析问题、解决问题。讲授、课堂讨论、线上学习/平时成绩，期末考试2网络信息论初步：了解网络通信的分类及网络编码的基本原理。课程目标2：能够针对具体通信系统要求，进行分析计算和综合设计。无记忆/有记忆序列信源熵的计算离散对称信道、准对称信道的容量计算基础信源编码的实现基础信道编/解码的实现讲授、课堂讨论、线上学习/平时成绩，期末考试与课程目标1同时进行熟练掌握无记忆离散序列信源和有记忆序列信源的熵的计算方法；熟练掌握离散信道的容量的计算方法；熟练掌握基础信源、信道编码的设计实现；课程目标3：会根据应用需求确定常见通信系统的性能指标及形式信道容量信源编码效率信道编码码率误码率讲授、课堂讨论、线上学习/平时成绩，期末考试与课程目标1,2课时交叉重复进行熟悉常见信道的信道容量，常见信源编码的编码效率，常用信道编码的码率，常用信道编码的误码率、纠错能力等。课程目标4：有设计常用通信系统的能力信源信道信源编码信道编码讲授、课堂讨论、线上学习/平时成绩，期末考试与其它课程目标课时交叉重复进行熟悉常见的通信系统设计，会根据应用场合的需求确定通信系统各模块的形式和主要性能指标。四、教学方法与教学安排（一）教学方法表3课程目标与对应教学方法序号课程目标教学方法理论讲授课后作业课堂讨论线上学习1课程目标12课程目标23课程目标34课程目标4（二）教学安排本课程总学时48学时，其中：讲授48学时。具体教学安排如表4所示。表4课程教学安排序号教学内容学时分配教学方法第1章绪论2课时课堂讲授、课后作业、课堂讨论、线上学习第2章信源与信源熵10课时课堂讲授、课后作业、课堂讨论、线上学习第3章信道与信道容量10课时课堂讲授、课后作业、课堂讨论、线上学习第4章信息率失真函数4课时课堂讲授、课后作业、课堂讨论、线上学习第5章信源编码10课时课堂讲授、课后作业、课堂讨论、线上学习第6章信道编码10课时课堂讲授、课后作业、课堂讨论、线上学习第7章网络信息论初步2课时课堂讲授、课后作业、课堂讨论、线上学习合计48课时五、课程考核评价方法本课程采用过程化考核（平时成绩）和终结性评价（期末考试）两种方式。过程化考核成绩（平时成绩）：具体方法是为每位学生建立学习档案，包括学生作业情况，随堂小考（每次小考作为一次作业评价），占总成绩30%。期末考试成绩：采用书面闭卷考试形式，考核整个学期课程内容。主要题型可以有：简答题、分析计算题和综合设计题等。占总成绩的70%本课程课程目标的达成度由过程化考核成绩（平时成绩）和期末考试成绩组成，各部分所占比例如表5所示。表5课程目标达成度与评价方式及成绩评定支撑毕业要求课程目标考核与评价方式及成绩比例（%）成绩比例（%）平时成绩期末考试成绩指标点3.1课程目标1104050指标点3.2课程目标26511指标点3.3课程目标3102030指标点3.4课程目标4459合计3070100六、课程目标达成评价方法本课程课程目标评价计算方式：表6课程目标达成评价系数表系数k1系数k2课程目标11/54/5课程目标24/73/7课程目标31/32/3课程目标43/52/5课程目标具体计算分析方法有三种：1、课程目标达成值计算方法；2、课程目标i达成值个体差异计算方法；3、满足课程目标i期望值的学生比例统计方法。具体如下：（1）课程目标i达成值计算方法（2）课程目标i达成度个体差异计算方法课程目标i达成度个体差异定量评价法：为更好了解不同学生之间差异，以学号为横坐标，课程目标i的达成值为纵坐标，画出课程目标i的达成值散点分布图。（3）满足课程目标i期望值的学生比例统计方法期末考试评分标准如表7所示。表7期末考试评分标准课程目标评分标准90-10075-8960-740-59优秀良好合格不合格课程目标1：掌握信息论与编码基础知识，能应用其中基本概念、基本理论、基本分析方法对通信问题进行分析计算。基本概念清楚，基本理论理解正确，分析方法使用得当，能准确运用数学和电路知识推导并计算信源熵、信道容量及互信息量等。基本概念清楚，基本理论理解正确，分析方法使用合理，能基本运用数学和电路知识推导并计算信源熵、信道容量及互信息量等。基本概念基本清楚，基本理论理解基本正确，分析方法使用基本正确，能基本运用数学和电路知识推导并计算信源熵、信道容量及互信息量等，但不够严谨。基本概念不清楚，基本理论理解有误，分析方法使用不得当，运用数学和电路分析知识推导过程有误。课程目标2：能够针对具体通信系统要求，进行分析计算和综合设计。熟练掌握通信系统有效性和可靠性等不同要求，正确区分其不同应用场合。能正确运用数学及电路理论等知识，对通信系统进行定性分析或工程近似估算。基本掌握通信系统有效性和可靠性等不同要求，能基本正确区分其不同应用场合。能基本正确运用数学及电路理论等知识，对通信系统进行定性分析或工程近似估算。了解通信系统有效性和可靠性等不同要求，能基本正确区分其不同应用场合。能基本正确运用数学及电路理论等知识，对通信系统进行定性分析或工程近似估算。但分析过程不够严谨，逻辑欠清晰。部分了解通信系统有效性和可靠性等不同要求，，不能严格区分电路的应用场合。不能合理运用数学及电路理论等知识，对通信系统进行定性分析或工程近似估算。课程目标3：能够根据应用需求确定常见通信系统的性能指标及形式。掌握常用的编码方法，能准确了解编码功能及作用，能够正确分析其作用、估算其主要性能指标。熟悉常用的编码方法，能准确了解编码功能及作用，能够正确分析其作用、估算其主要性能指标。了解常用的编码方法，能准确了解编码功能及作用，能够正确分析其作用、估算其主要性能指标。但不够准确。部分了解常用的编码方法，能准确了解编码功能及作用，能够正确分析其作用、估算其主要性能指标，估算及分析时存在错误。课程目标4：能够设计常用通信系统模块及相应编解码过程。能够根据需求，合理选择系统模块，编码方式，并设计出符合要求的编解码过程。能够根据需求，较为合理选择系统模块，编码方式，并设计出符合要求的编解码过程。能够根据需求，较为合理选择系统模块，编码方式，但编解码过程设计不够合理。不能合理选择系统模块和编码方式，不能设计出符合要求的编解码过程。本课程平时成绩评定标准如表8所示。表8平时成绩评分标准课程目标评分标准90-10075-8960-740-59优秀良好合格不合格课程目标1-4：按时提交作业，书面干净整洁；概念清楚，分析方法正确，计算步骤详细，逻辑清晰。按时提交作业，书面较干净；概念清楚，能写出主要计算步骤，逻辑较清楚。基本按时交作业，书面较乱；部分概念不太清楚，分析计算有错误。未能按时交作业；书面较乱；作业中错误较多，计算步骤少。注：每个课程目标通常对应多次作业，期末计算平时成绩时是多次作业的平均值。七、本课程与相关课程的联系与分工信息论与编码的先修课程主要是微积分、线性代