《信息与编码》课程教学大纲

1、信息与编码课程教学大纲课程编码：171120180课程性质：专业方向任选课程适用专业： 数学与应用数学专业学时学分： 32学时 2学分所需先修课学科基础课编写单位： 数学与信息科学系一、课程说明 1、课程简介信息论和编码课程是现代通信和信息技术的理论基础。它是一门利用概率论、随机过程和数理统计等数学方法来研究信息在存储、度量、编码、传输、处理中一般规律的重要学科。它主要研究如何提高信息系统的可靠性、有效性、保密性和认证性，以使信息系统最优化，为今后从事信息领域的科研和工程工作进一步研究打下坚实的理论基础。 2、教学目的要求 本课程的目的是使学生掌握信息熵、信道容量、信源编码、信道编码等信息论的

2、基本原理、方法和编码的基本技术，为以后深入学习信息与通信类课程，为将来从事信息处理方面的实际工作打下坚实的基础。3、教学重点难点教学重点：信息熵及其基本性质、信道及信道容量、无失真信源编码方法以及有噪信道编码方法。教学难点：信息熵、信道容量的计算、信源、信道编码方法。4、考核方式 本课程为考查课，考试的形式为闭卷，总分为100分,成绩的合成平时占40分,期末占60分。5、学时分配表章次教学内容理论课学时数实验（实践）课学时数第一章绪论2第二章信源与信息熵9第三章信道与信道容量6第四章信源编码9第五章信道编码6小计32总计32二、各部分教学纲要第一章 绪论（2学时）教学目标1了解信息论研究对象、

3、目的、发展简史与现状；2了解通信系统的模型以及通信系统各部分的主要组成以及作用 本章重点信息论研究的对象、目的和内容，信息论发展简史。本章难点 通信系统的模型教学内容第一节 信息论的形成和发展（1学时）第二节 通信系统的模型（1学时）第二章 信源与信息熵（9学时）教学目标1掌握自信息量、熵、联合熵、条件熵的概念；掌握信源的数学模型、离散无记忆信源、离散平稳信源；了解信源的相关性和冗余度的概念；本章重点 信源的数学模型，离散平稳信源定义，联合熵，条件熵以及极限熵，熵的基本性质及最大离散熵定理。本章难点 联合熵，条件熵以及极限熵的理解，最大离散熵定理教学内容第一节 信源的描述与分类（1学时）一、无

4、记忆信源二、有记忆信源第二节 离散信源熵和互信息（4学时）一、自信息量（一）自信息量的定义、单位、性质（二）条件自信息量二、离散信源熵（一）平均不确定度（二）条件熵（三）联合熵三、互信息（一）平均互信息量的物理意义（二）疑义度（三）噪声熵四、熵的性质第三节 离散序列信源的熵（3学时）一、离散无记忆信源的序列熵二、离散有记忆信源的序列熵第四节 冗余度（1学时）一、冗余度（一）冗余度（二）信息效率第三章 信道与信道容量（6学时）教学目标1. 信道分类与表示参数；2. 了解一般信道容量计算，3掌握信道的数学模型，离散无记忆信道以及一些特殊信道容量的计算方法；本章重点 无干扰离散信道、对称DMC信道、

5、准对称DMC信道、一般DMC信道本章难点 一般信道容量计算方法教学内容第一节 信道的分类和表示参数（2学时）一、信道的分类二、信道参数（一）二进制离散信道模型；（二）离散无记忆信道；（三）离散输入连续输出信道。三、信道容量的定义第二节 离散单个符号信道及其容量（3学时）一、无干扰离散信道（一）具有一一对应关系的无噪信道（二）具有扩展性能的无噪信道（三）具有归并性能的无噪信道二、对称DMC信道三、准对称DMC信道四、一般DMC信道第三节 离散序列信道及其容量（1学时）一、离散序列信道及其容量第四章 信源编码（8学时）教学目标1. 理解编码的定义。2. 掌握定长编码定理、变长编码定理、最佳变长编码

6、方法。本章重点 定长编码定理、变长编码定理、最佳变长编码本章难点 定长编码定理、哈夫曼编码方法教学内容 第一节 编码的定义（4学时）一、分组码的属性（一）二元码、等长码、变长码、非奇异码、奇异码、唯一可译码二、即时码的构造方法三、唯一可译码的判断法第二节无失真信源编码（4学时）一、定长编码定理二、变长编码定理三、最佳变长编码（一）香农编码方法（二）费诺编码方法（三）哈夫曼编码方法第五章 信道编码（7学时）教学目标1. 掌握信道编码的基本概念；2理解信道编码定理3. 了解检错码与纠错码的方法。4会计算线性分组码的校验矩阵和生成矩阵5. 掌握伴随式与标准阵列译码本章重点 信道编码的基本概念，计算校

7、验矩阵和生成矩阵，伴随式与标准阵列译码本章难点 信道编码的基本概念，伴随式与标准阵列译码教学内容 第一节 有扰离散信道的编码定理 （1学时）一、差错和差错控制系统分类（一）差错符号、差错比特（二）差错图样分类（三）纠错码分类二、矢量空间与码空间第二节 纠错编译码的基本原理与分析方法（2学时）一、纠错编码的基本思路（一）增大信道容量C（二）减小码率（三）增大码长二、译码方法-最优译码与最大似然译码第三节 线性分组码（4学时）一、线性分组码的校验矩阵和生成矩阵二、伴随式与标准阵列译码伴随式译码方法标准阵列译码方法三、使用教材及参考书使用教材：曹雪虹，张宗橙，信息论与编码（第二版），清华大学出版社， 2009年。参考