信息论与编码（第3版）-教学大纲

《信息论与编码（第3版）》教学大纲课程信息课程名称：信息论与编码（第3版）课程类别：素质选修课/专业基础课课程性质：选修/必修计划学时：64计划学分：4先修课程：无选用教材：《信息论与编码（第3版）》，傅祖芸主编，2023年，电子工业出版社教材。适用专业：本课程可作为高等院校相关专业的本科生课程,也可供科研院所从事信息科学理论技术、方法研究的科研和工程技术人员参考。课程负责人：二、课程简介该课程系统地论述信息论与纠错编码的基本理论。全书共9章，内容包括:信息的定义和度量,离散信源和连续信源的信息熵,信道和信道容量,平均失真度和信息率失真函数,三个香农信息论的基本定理,若干种常见实用的无失真信源压缩编码的方法,以及信道纠错编码的基本内容和分析方法。三、课程教学要求序号专业毕业要求课程教学要求关联程度1工程知识内容包括:信息的定义和度量,离散信源和连续信源的信息熵,信道和信道容量,平均失真度和信息率失真函数,三个香农信息论的基本定理,若干种常见实用的无失真信源压缩编码的方法,以及信道纠错编码的基本内容和分析方法。L2问题分析当今人们生活在高度信息化的时代,移动通信、互联网通信、多媒体技术、计算机技术.空间技术、可视技术、智能技术等信息科学与技术获得了超出人们想象的、前所未有的发展速度。在这些信息科学与技术领域中,只要涉及信息的存储传输和处理的问题就要用到香农信息论的基本理论。H3设计/开发解决方案在论述方式上,在阐明物理概念和工程背景的基础上,先结合实例建立数学模型,再给出结论和定理，力求条理清晰,物理概念必须准确和严谨完整。以使学生明白重要定理不是凭空产生的,是有理论依据的,定理与结论是完美的。H4研究L5使用现代工具L6工程与社会学生能够意识到信息与编码的重要性，不仅要有良好的思想道德素质、科学文化素质、专业技能和健康的身体，而且要有良好的心理素质，勇于承担责任，能够承受失败与挫折等。L7环境和可持续发展L8职业规范L9个人和团队1.学会个人发展和团队合作，提高个人和团队的综合素质。2.学会与他人合作和沟通，建立良好的人际关系和团队合作氛围。H10沟通1.学会进行有效的沟通和表达，与客户、同事和上级保持良好的沟通和协作。2.学会进行跨文化沟通和合作，提高国际化视野和跨文化交流能力。M11项目管理L12终身学习1.学会进行自我学习和自我提升，不断提高自身的专业水平和创新能力。2.学会进行终身学习和职业发展规划，不断拓展职业领域和发展空间。H注：“课程教学要求”栏中内容为针对该课程适用专业的专业毕业要求与相关教学要求的具体描述。“关联程度”栏中字母表示二者关联程度。关联程度按高关联、中关联、低关联三档分别表示为“H”“M”或“L”。“课程教学要求”及“关联程度”中的空白栏表示该课程与所对应的专业毕业要求条目不相关。四、课程教学内容章节名称主要内容重难点关键词学时类型1绪论信息的概念信息论研究的对象、目的和内容信息论发展简史与信息科学了解信息的概念；掌握信息论这一学科的研究对象、目的和内容；掌握本学科的发展历史、现状和动向。4理论+实操2离散信源及其信息测度信源的数学模型及分类离散信源的信息熵信息熵的基本性质离散无记忆的扩展信源离散平稳信源马尔可夫信源信源冗余度与自然语言的熵了解信源的概念；掌握信源的统计特性和数学模型,以及各类离散信源的信息测度一熵及其性质。10理论+实操3离散信道及其信道容量信道的数学模型及分类平均互信息及平均条件互信息平均互信息的特性信道容量及其一般计算方法离散无记忆扩展信道及其信道容量独立并联信道及其信道容量串联信道的互信息和数据处理定理信源与信道的匹配了解并掌握离散信道的统计特性和数学模型；掌握信道传输的平均互信息及其性质；掌握信道容量及其计算方法。9理论+实操4波形信源和波形信道连续信源和波形信源的信息测度连续信源熵的性质及最大差熵定理熵功率连续信道和波形信道的信息传输率高斯加性波形信道的信道容量了解并掌握随机波形信源的统计特性和它的信息测度,以及波形信道的信道容量等问题。6理论+实操5无失真信源编码定理编码器等长码渐近等分割性和e典型序列等长信源编码定理变长码变长信源编码定理了解并掌握离散信源进行无失真信源编码的要求、方法及理论极限；掌握熵的物理意义。6理论+实操6有噪信道编码定理错误概率和译码规则错误概率与编码方法有噪信道编码定理联合信源信道编码定理掌握在有噪信道中能使消息通过传输后发生的错误最少的方法；掌握在有噪信道中无错误传输的可达的最大信息传输率。3理论+实操7保真度准则下的信源编码失真度和平均失真度信息率失真函数及其性质信息率失真函数的参量表述及其二元对称信源和离散对称信源的R(D)连续信源的信息率失真函数保真度准则下的信源编码定理联合有失真信源信道编码定理限失真信源编码定理的实用意义了解并掌握信息率失真理论的基本内容；掌握离散无记忆信源；掌握信源的失真度和信息率失真函数的定义与性质；掌握离散信源和连续信源的信息率失真函数计算；掌握保真度准则下的信源编码定理。6理论+实操8无失真的信源编码霍夫曼(Huffman)码费诺(Fano)码香农—费诺—埃利斯码游程编码和MH编码算术编码字典码了解并掌握典型的霍夫曼编码游程编码及算术编码的原理和方法。；掌握通用编码(又称字典码)的原理和方法。9理论+实操9信道的纠错编码差错控制的基本形式纠错编码分类及基本概念线性分组码循环码卷积码了解信道纠错编码的基本内容和一些主要纠错码；掌握信道纠错编码的一些最基本的概念和基本的方法。11理论+实操五、考核要求及成绩评定序号成绩类别考核方式考核要求权重（%）备注1期末成绩期末考试考试50百分制，60分为及格2平时成绩课后作业9次40优、良、中、及格、不及格3平时表现出勤情况10两次未参加课程则无法获得学分注：此表中内容为该课程的全部考核方式及其相关信息。六、学生学习建议学习方法建议1.通过开展课堂讨论、实践活动，增强的团队交流能力，学会如何与他人合作、沟通、协调等等。2.通过思考，加深自己的兴趣，巩固知识点。3.进行练习和实践，提高自己的技能和应用能力，加深对知识的理解和记忆。学生课外阅读参考资料《信息论与编码（第3版）》，傅祖芸主编，2023年，电子工业出版社教材。七、课程改革与建设课程在论述方式上,在阐明物理概念和工程背景的基础上,先结合实例建立数学模型,再给出结论和定理，力求条理清晰,物理概念必须准确和严谨完整。以使学生明白重要定理不是凭空