《信息论与编码》课程教学大纲（本科）

1、信息论与编码(Information Theory and Coding)课程代码：05410081学 分：2学 时：32（其中：课堂教学学时：28实验学时：0上机学时：4课程实践学时:0 ） 先修课程：概率统计、高等数学、线性代数适用专业：电子信息工程教 材：信息论（第4版）-基础理论与应用.傅祖芸.电子工业出版社.2016年 6月第3次印刷一、课程性质与课程目标（-）课程性质信息论与编码是电子信息工程专业的一门重要的专业基础理论必修课程，是电子信 息类学科及相关专业的必修课程之一，是应用近代概率统计方法研究信息传输、交换、存储 和处理的一门学科，也是源于通信实践开展起来的一门新兴应用科学，

2、指出了通信工程的一 般性规律和理论极限，它对实际通信系统的设计产生了深刻的影响。该课程涉及线性代数、 数学分析、概率统计、随机过程等先修课程，通过学习本课程，学生系统地了解了信息论基 础和编码理论，能够对信息量进行定量的计算，解决通信的有效性和可靠性，学生还可以用 信息论的方法宏观地认识问题，培养学生分析问题、解决问题的能力。随着信息处理技术的 不断深入应用，信息在科学技术上的重要性早已超越了狭义的通信工程的范畴，渗透到自然 科学与社会科学的所有领域，与电子技术、计算机网络、信息平安、自动控制、生物医学工 程、遗传工程、人工智能等学科密切结合，受到各领域越来越多的关注，显示出它的勃勃生 机和不

3、可估量的开展前景，该门课程的学习为后续专业课程的学习打下了坚实的理论基础。（二）课程目标信息论与编码课程主要介绍经典信息论的内容。介绍信息的定义、研究信息的测度、 信道容量及信源和信道编码理论等问题，简单介绍信息传输和处理的问题，掌握最经典的编 码方法。课程目标包括知识目标和能力目标，具体如下：课程目标（知识目标）1:掌握信息的香农定义、信息论研究的目的及其内容。掌握信 源的数学建模，信源的分类及信源信息嫡的计算。掌握信源信道的数学建模及信道容量的计 算，了解信源和信道的匹配问题。课程目标（知识目标）2： 了解无失真信源编码定理、有噪信道编码定理和限失真信源 编码定理这香农三大定理，了解网络信

4、息论和保密系统的基本信息理论。课程目标（知识目标）3：能够针对不同的信源选择不同的编码方法，能够找到最正确码,能够计算出编码的理论极限。能够利用所学知识提高信息传输的有效性和可靠性。课程目标（能力目标）4：能够理解并掌握信息论研究的原理和方法，并能应用于多交 叉学科中，解决实际问题，上机过程中多注意培养学生的实际操作能力。课程目标（能力目标）5：能够具有自主学习和终身学习的意识，有不断学习和适应发 展的能力，能够深入学习工程信息论和信息科学的相关内容。（三）课程目标与专业毕业要求指标点的对应关系本课程支撑专业培养计划中的毕业要求指标点1-5。毕业要求1-5.掌握信息传输、处 理等方向的专业知识

5、，能够用于解决复杂电子信息工程问题的分析、建模和求解。果程目标 毕业要求指课程目标1课程目标2课程目标3课程目标4课程目标5毕业要求1-5二、课程的内容及教学要求（-）绪论1.教学内容（1）信息的概念；（2）信息论研究的对象、目的和内容；（3）信息论开展简史与信息科学；.教学要求了解信息论研究对象、目的、开展简史与现状；了解通信系统的模型以及通信系统各局部的主要组成以及作用;.重难点（1）重点是学习本课程的几个基础概念；（2）难点是理解信息的概念、概率空间与信息空间的关系；（二）离散信源及其信息测度.教学内容（1）信源的数学模型及分类（2）离散信源的信息增（3）信息焙的基本性质及其最大焙离散牖

6、定理（4）离散无记忆的扩展信源定义与燧（5）离散平稳信源定义、联合牖、条件燧以及极限嫡（6）马尔可夫信源定义、马尔可夫信源增，状态转移图（7）信源剩余度与自然语言的熠.教学要求（1） 了解信源的数学模型、离散无记忆信源、离散平稳信源和马尔可夫信源基本理论;（2）理解信源的相关性和剩余度的概念；（3）掌握各类信源信息燧的计算并能应用于实际中3.重难点（1）重点是研究信源的统计特性和数学模型，以及各类离散信源的信息测度一一燧及 其性质；（2）理解信息理论的一些基本概念和重要结论（3）难点是求解离散信源的信息崎并用于实际生活中；（三）离散信道及其信道容量1.教学内容（1）信道的数学模型及分类；（2）

7、信道疑义度、互信息和平均互信息及其特性，平均条件互信息；（3）信道容量及其一般计算方法；（4）离散无噪信道及信道容量，对称离散信道、准对称信道的容量计算；（5）离散无记忆扩展信道及其容量；（6）信源与信道的匹配；2.教学要求（1）了解一般信道容量计算；（2）掌握信道的数学模型，离散无记忆信道以及一些特殊信道容量的计算方法；3.重点与难点（1）重点是理解离散信道的统计特性和数学模型，无记忆、无反应、固定参数的离散 信道的计算；（2）难点是定量地研究信道传输的平均互信息及其性质，并熟练计算五种特殊信道的 信道容量；（四）无失真信源编码1.教学内容（1）编码器的概念、码的定义，等长码及等长信源编码定

8、理，编码效率；（2）唯一可译码定义及其判断方法，即时码的树图法构造、Kraft不等式、紧致码，变 长信源编码定理；（3）霍夫曼编码、费诺码、游程编码、算术码和其他一些编码方法；2.教学要求（1）了解其它一些无失真信源编码方法；（2）理解无失真信源编码定理（3）掌握编码的定义、码的分类、最正确编码方法、哈夫曼编码方法、熟练使用唯一可译码的判断法;3.重点与难点(1)重点是掌握离散信源无失真编码的要求、方法及理论极限；(2)难点是理解无失真信源编码定理并加深对嫡的物理意义的理解；(五)有噪信道编码.教学内容(1)错误概率与译码规那么和编码方法；(2)有噪信道编码定理；(3)纠错码;.教学要求(1)

9、了解检错码与纠错码的方法；(2)理解纠错码的分类，分组码的最小距离与检、纠错能力，分组码的码率，线性分 组码的特性，生成矩阵和一致监督矩阵及其关系，线性分组码的编、译码方法，汉明码、卷 积码及其构造方法。；(2)掌握最小错误译码准那么，最大似然译码准那么，最小距离译码准那么及其之间相互关 系，平均译码错误概率，错误概率与译码规那么和编码方法关系，信道编码的编、译码基本准 那么。有噪离散信道的编码定理，过失控制与信道编译码的基本原理，线性分组码，卷积码, 网络编码调制与级联码；.重点与难点(1)重点理解有噪信道编码定理，掌握信道纠错编码的一些最基本得概念和基本的方 法；(2)难点是掌握最小错误译

10、码准那么，最大似然译码准那么，最小距离译码准那么及其之间 相互关系，平均译码错误概率，错误概率与译码规那么和编码方法关系，信道编码的编、译码 基本准那么，；(六)限失真信源编码.教学内容(1)波形信源和连续信源的定义和信息测度；(2)连续信道和波形信道的分类；(3)连续信道和波形信道的信息容量；(4)失真度与平均失真度，D失真许可试验信道；(5)信息率失真函数R (D)的定义，离散信源的R (D)函数，高斯连续信源的R (D) 函数，R (D)的定义域和单调性等性质；(6)失真信源编码定理和编码逆定理，有失真信源编码定理的实用意义.教学要求（1） 了解连续信源和波形信源的信息测度，连续信道和波

11、形信道的分类，连续信源熠 的变换，连续信道和波形信道的信道容量的计算方法，了解保真度准那么下的信源编码定理;（2）掌握波形信源和连续信源的信息测度；（3）掌握失真度与平均失真度，信息率失真函数与特性，R （D）函数的参数表述及其 计算；3.重点与难点（1）重点是掌握信息率失真理论的基本内容，离散信源的信息率失真函数的计算；（2）难点是理解差牖的概念和保真度准那么下的信源编码定理；（七）密码学.教学内容（1）保密学的基本概念；（2）保密系统的数学模型；（3）古典密码体制；.教学要求了解密码学的开展；（2）掌握密码学中的基本概念；（3）掌握一些古典密码体制；（4） 了解现在被广泛使用的数据加密标准

12、DES的设计思想3.重点与难点（1）重点是掌握保密系统的数学模型和一些古典密码体制；（2）难点是；信息论在保密学中的应用；三、本课程开设的上机工程编号上机工程名称学时类型要求支撑的课程目标1无失真信源编码2验证性必做课程目标52编码传输及误码测试2综合性必做课程目标5上机1：无失真信源编码.上机目的及要求1）通过实验熟悉编码基本原理。2）熟悉典型信源编码的调制和质量要求。3）熟悉语音编码的实现过程和传输。4）熟悉软件编程。.上机主要内容1）编码调制的实现;2）典型编码实现，观察编码相关参数和波形；3）语音编码传输的实现。.重难点语音编码传输。上机2.编码传输及误码测试.上机目的及要求1）掌握编

13、码传输的实现和传输过程。2）掌握误码测试仪器的使用。.上机主要内容1）传输网络的连接；2）编码的产生和传输；3）熟悉误码测试仪器的使用方法；4）利用误码测试仪进行误码的测试。.重难点误码测试以及编码传输的影响因素。注：本课程为专业课，授课对象为大三学生，实验类型主耍包括验证性和综合性实验, 均需要提交实验报告，实验报告主要包括实验目的、要求和内容，数据的分析以及思考题的 回答。实验评价内容和评分细那么参见附录1。四、学时分配及教学方法章教学形式及学时分配主要教学方法支撑的课程目 标课堂 教学实验上机课程 实践小计第1章绪论22讲授、案例、演示、讨论课程目标1、5第2章离散信源及其信 息测度（波

14、形信源）77讲授、演示、案例、 比照、自学课程目标1第3章离散信道及其信道 容量（波形信道）55讲授、演示、讨论、比照、自学课程目标1第5章无失真信源编码定 理44讲授、自学课程目标 2第6章有噪信道编码定理44讲授、自学课程目标 2第7章保真度准那么卜的信 源编码11讲授、自学课程目标2第8章 无失真的信源编码123讲授、讨论、自学、 上机课程目标 3第9章信道的纠错编码123讲授、上机、自学课程目标3第10章保密系统的基本 信息理论22讲授、自学课程目标3第12章信息论与其他学 科的关系和应用11讲授、自学4、5合计28432五、课程考核1.课程考核方式包括期末考试、平时作业及阶段测试情况

15、考核（其中包括笔记、大作 业等）和实验情况考核。考核形式考核要求考核权重备注平时作业 及阶段测 试课后完成近10个习题，主要考核学生对每节课知识点 的复习、理解和掌握度，计算全部作业的平均成绩再按 15%计入总成绩；可让学生查阅资料，了解本课程相关 技术开展情况，自主学习并完成。15%根据平时作业得 分取平均值或结 合平时测试情况上机完成2个上机，主要训练学生应用所学知识构建实验系 统，并进行实验的能力，最后按15%计入课程总成绩。15%评分细那么见附录1期末考试试卷题型包括填空题、选择题、判断改错题、简答题、 分析题和计算题6大类，以卷面成绩的70%计入课程总 成绩。其中考核经典信息论原理及

16、应用基础知识及应用 能力的题占90%；考核能针对个人或职业开展的需求， 采用合适的方法，自主学习，适应开展占比10%。70%期末考试采用闭 卷笔试。六、参考书目及学习资料.信息论与编码（第3版）,曹雪虹.张宗橙.北京:清华大学出版社,2016.信息论与编码理论：剑桥大学真题精解.马克凯尔伯特 北京:机械工业出版社,2017.信息论与编码（第4版）.孙丽华.北京：电子工业出版社.2016.七、大纲说明.主要采用多媒体教学手段，主要知识点板书与多媒体相结合，多种教学手段综合运用。.课后共需完成近10道习题作业，以评价学生对所学内容的理解和应用情况。建议利用网 络教学平台自学相关内容。2017年09月18日附录1:上机考核方式及评分细那么本上机以考查为主，考核的内容包括上机过程的表现（其中包含分析与解决问题的能 力）、上机报告的质量等。分析与解决问题的能力采用提问和现场操作的方式进行。上机成 绩中出勤、预习占10%,上机过程表现占60%、上机报告及思考题占30%。成绩组成考核/评价环节分值考核/评价细那么对应的毕业 要求指标点出勤、预 习10%出勤状况， 预习评价1