信息论基础试验

1、信息论基础实验1 .实验课程号：（由教务处统一编号）2 .课程属性：必修3 .实验属性：非独立设课4 .学时学分：总学时 70、总学分4、实验学时105 .实验应开学期：春季6 .先修课程：概率论与数理统计 ，高等代数，高级高级语言程序设计 一、课程的性质与任务信息论是整个信息科学发展的起源和基石，它是一门利用概率论、随机过程和数理统 计等数学方法来研究信息在存储、度量、编码、传输、处理中一般规律的重要学科，它已经 成为信息与计算科学专业的一门专业必修课。通过对本课程的学习，使学生能掌握比较全面、系统的信息论的基本知识，为以后开设的专业课程打下了坚实的基础。二、实验的目的与基本要求信息论是理论

2、与应用都很强的一门学科.通过信息论课程实验，可以使学生学习并了解信息处理的典型方法，并提高计算机能力，也可使学生了解将理论研究成果转换为IT技术与产品的过程.实验的内容围绕信息理论的核心内容进行，使学生通过实验加深对信息理论的核心内容的理解，并提高解决实际问题的能力.要求学生对每个实3都能理解原理，独立编程. 三、实验考核方式及办法考核方式：考查；实验成绩评分办法或标准：实验成绩由教师根据学生实验中的具体表现、实验结果和实验报告构成。实验成绩占总成绩的10%。四、实验项目一览表信息论基础实验项目一览表序实验项目实验实验适用学号名称类型要求专业时1绘制二进燧函数曲线验证性必做22Huffman编

3、码对英文文本的压缩和解压缩综合性必做43LZW数据压缩设计性选做信息与计算44信道容量递推算法设计性必做科学25绘制率失真函数曲线验证性必做26选做2五、实验项目的具体内容：实验绘制二进嫡函数曲线1 .本次实验的目的和要求掌握、理解嫡函数表达式及其性质2 .实验内容或原理1)用Excel或Matlab软件制作二进嫡函数曲线。2)嫡的概念及性质X2 二 11 - pH (X) =，P(Xi)log p(Xi) i=-Ip log p 1 - p log 1 - p = H(p)a. H (X ) ,log nb. H ! P 1 - Q 1. H (P)1 - H (Q)3 .需用的仪器等1)计

4、算机2) Windows3 ) Microsoft Office4) Matlab4 .实验步骤1)理解嫡函数的定义；2)准备一组数据；3)计算 H(p);4)绘图。5 .教学方式演示。6 .考核要求对嫡函数H(p)的定义是否清楚。7 .实验报告要求填写报告并打印嫡函数的图形。六、实验教材及主要参考资料2004教材：沈世镒，吴忠华主编，信息论基础与应用，高等教育出版社,主要参考书：Thomas M.Cover, Joy A.Thomas主编，信息论基础，机械工 业出版社，2005年沈世镒，陈鲁生主编，信息与编码理论，科学出版社，2002年叶中行主编，信息论基础，高等教育出版社，2003年 七、

5、教改说明及其他实验二Huffman编码对英文文本的压缩和解压缩1 .本次实验的目的和要求应用Huffman编码算法进行文件的压缩和还原，在标准测试文集上检查其压缩效率2 .实验内容或原理根据信源压缩编码一一Huffman编码的原理，制作对英文文本进行压缩和解压缩的软 件。要求软件有简单的用户界面，软件能够对运行的状态生成报告，分别是：字符频率统计 报告、编码报告、压缩程度信息报告、码表存储空间报告。实验原理：压缩/解压缩流程压缩流程：读取扫描文本文件二|一统计字符频率一二!生成碗字一一依存压纳文件 解压缩流程：读取扫描压缩文库二|一提续字符频率一二生成仲树一一呆存文母文件3 .需用的仪器、软件

6、、数据等1）计算机2） Windows3 ） VC+4）卡乐加里文集或坎特伯雷文集4 .实验步骤1）选择用来检验无失真压缩算法的测试文集；2）采用Huffman算法编写压缩程序，对以上文件进行压缩，形成新的压缩文件；3）编写解码程序，检验压缩程序的正确性；4）统计各文件在压缩前后的大小，并计算各自的数据压缩率；5）在网上寻找其它压缩程序，对你选用的文集进行压缩，比较各自的压缩效率。5 .教学方式简单讲解。6 .考核要求程序是否正确运行。7 .实验报告要求实验报告要求填写所用标准文集、压缩率，与其它压缩程序的确比较，并附程序。六、实验教材及主要参考资料教材：沈世镒，吴忠华主编，信息论基础与应用，

7、高等教育出版社，2004 年主要参考书：Thomas M.Cover, Joy A.Thomas主编，信息论基础，机械工 业出版社，2005年沈世镒，陈鲁生主编，信息与编码理论，科学出版社，2002年叶中行主编，信息论基础，高等教育出版社，2003年 七、教改说明及其他实验三LZW数据压缩1 .本次实验的目的和要求应用LZW算法进行文件的压缩和还原，在标准测试文集上检查其压缩效率，了解基于字典的压缩方法。2 .实验内容或原理根据LZW算法，制作对英文文本进行压缩和解压缩的软件。要求软件有简单的用户界 面，软件能够对运行的状态生成报告，分别是：字符频率统计报告、编码报告、压缩程度信 息报告、码表

8、存储空间报告。3 .需用的仪器、软件、数据等1）计算机2） Windows3） VC+4）卡乐加里文集或坎特伯雷文集4 .实验步骤1）选择用来检验无失真压缩算法的测试文集；2）采用LZW算法编写压缩程序，对以上文件进行压缩，形成新的压缩文件；3）编写解码程序，检验压缩程序的正确性；4）统计各文件在压缩前后的大小，并计算各自的数据压缩率；5）在网上寻找其它压缩程序，对你选用的文集进行压缩，比较各自的压缩效率。5 .教学方式简单讲解。6 .考核要求程序是否正确运行。7 .实验报告要求实验报告要求填写所用标准文集、压缩率，与其它压缩程序的确比较，并附程序。六、实验教材及主要参考资料教材：沈世镒，吴忠

9、华主编，信息论基础与应用，高等教育出版社，2004主要参考书：Thomas M.Cover, Joy A.Thomas主编，信息论基础，机械工 业出版社，2005年沈世镒，陈鲁生主编，信息与编码理论，科学出版社，2002年叶中行主编，信息论基础，高等教育出版社，2003年 七、教改说明及其他实验四信道容量递推算法1 .本次实验的目的和要求掌握一般信道容量迭代算法的原理。2.实验内容或原理编程实现一般信道容量迭代算法。程序流程图如下：3.需用的仪器、软件、数据等1）计算机2） Windows3 ） VC+ 6.04 .实验步骤1）根据程序流程，编写程序；2）选用某一信道，计算其信道容量。5 .教

10、学方式简单讲解。6 .考核要求程序是否正确运行。7 .实验报告要求实验报告要求附程序。六、实验教材及主要参考资料教材：沈世镒，吴忠华主编，信息论基础与应用，高等教育出版社，2004 年主要参考书：Thomas M.Cover, Joy A.Thomas主编，信息论基础，机械工 业出版社，2005年沈世镒，陈鲁生主编，信息与编码理论，科学出版社，2002年叶中行主编，信息论基础，高等教育出版社，2003年七、教改说明及其他实验五绘制率失真函数曲线1 .本次实验的目的和要求掌握一般信道容量迭代算法的原理。2 .实验内容或原理用Matlab或其它软件制作率失真函数曲线。3 .需用的仪器、软件、数据等

11、1)计算机2) Windows3) VC+ 6.04) Matlab4 .实验步骤1)绘制二进信源的率失真函数曲线；2)绘制高斯信源的率失真函数曲线。5 .教学方式简单讲解。6 .考核要求曲线是否正确。7 .实验报告要求实验报告要求附所绘曲线。六、实验教材及主要参考资料教材：沈世镒，吴忠华主编，信息论基础与应用，高等教育出版社，2004 年主要参考书：Thomas M.Cover, Joy A.Thomas主编，信息论基础，机械工 业出版社，2005年沈世镒，陈鲁生主编，信息与编码理论，科学出版社，2002年叶中行主编，信息论基础，高等教育出版社，2003年七、教改说明及其他实验六线性分组码的

12、编码与译码1 .本次实验的目的和要求掌握汉明码的编码和译码算法以及纠错原理。2 .实验内容或原理编程实现汉明码的编码和译码。(7,(4) 码的校验矩阵如下：1 0 00 1 0 (Standard Form)0 0 10 0 0 1 1 1 10 1 1 1H = 0110011=101110101011 J 1 0 1(8,4)线性分组码是对(7,4)汉明码的扩展，它的校验矩阵如下: (H =1 1H1111101 0 11110110 10 10 011110 010 01 01 11【111(StandardForm)0 11110 0 010 110 10 0 (StandardForm)110 10 0 1011110001-(8,(4)