2024年大学试题(计算机科学)-信息论与编码笔试历年真题荟萃含答案

2024年大学试题(计算机科学)-信息论与编码笔试历年真题荟萃含答案（图片大小可自由调整）答案解析附后卷I一.参考题库(共25题)1.简述香农第一编码定理的物理意义？2.平均失真度的下限取0的条件是失真矩阵的（）。3.信息率失真函数R（D）是在平均失真不超过给定失真限度D的条件下，信息率容许压缩的最小值。4.现有一幅已离散量化后的图像，图像的灰度量化分成8级，见下表。表中数字为相应像素上的灰度级。 另有一无损无噪二元信道，单位时间（秒）内传输100个二元符号。 （1）现将图像通过给定的信道传输，不考虑图像的任何统计特性，并采用二元等长码，问需要多长时间才能传完这幅图像？ （2）若考虑图像的统计特性（不考虑图像的像素之间的依赖性），求此图像的信源熵H（S），并对灰度级进行霍夫曼最佳二元编码，问平均每个像素需用多少二元码符号来表示？这时需多少时间才能传送完这幅图像？ （3）从理论上简要说明这幅图像还可以压缩，而且平均每个像素所需的二元码符号数可以小于H（S）比特。5.对于均值为0，平均功率受限的连续信源，信源的冗余度决定于平均功率的限定值P和信源的熵功率（）。6.离散无记忆N次扩展信源通过离散无记忆N次扩展信道的平均失真度是单符号信源通过单符号信道的平均失真度的（）倍。7.如某线性分组码的最小汉明距dmin=4，则该码最多能检测出（）个随机错，最多能纠正（）个随机错。8.信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为（）信道。9.设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度。试证明传输这种彩电系统的信息率要比黑白系统的信息率大2.5倍左右。10.信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。11.某离散无记忆信源X，其符号个数为n，则当信源符号呈（）分布情况下，信源熵取最大值（）。12.率失真函数的下限为（）。A、H（U）B、0C、I（U；V）D、没有下限13.人们研究信息论的目的是为了（）、（）、（）地交换和利用各种各样的信息。14.简述连续信源的熵的定义。15.限平均功率最大熵定理指出对于相关矩阵一定的随机矢量X，当它是正态分布时具有最大熵。16.设信道输入是连续型随机序列X1X2...XN，输出也是连续型随机序列Y1Y2...YN，信道传递概率密度为p（y|x）。试证明： （1）当信源是无记忆时，有 （1）当信源是无记忆时，有 17.卷积码是一种特殊的线性分组码。18.事物的不确定度是用时间统计发生（）来描述的。19.考虑由下列定义的码率为2/3的卷积码： 这个码用到格雷编码（每个符号被赋值3比特，这样一来两个相连符号的码只在一个比特位不同）的8-PSK信号集。该TCM方案的吞吐量为2bit/s/Hz。在该编码器的网格图中有多少状态？20.给定语音信号样值X的概率密度为，求Hc（X），并证明它小于同样方差的正态变量的连续熵。21.居住某地区的女孩子有是大学生，在女大学生中有是身高160厘米上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？22.找出所有分组长度为5的二元循环码，求出每个码的最小距离。23.试证明两连续随机变量之间的平均互信息I（X；Y）是输入随机变量X的概率密度函数p（x）的型凸函数。24.在实际的游程编码过程中，对长码一般采取（）处理的方法。25.简要说明下面几种译码准则： （1）最优译码准则； （2）最大似然译码准则卷II一.参考题库(共25题)1.对信源编码器有些什么基本要求？编码效率的定义？如何提高编码效率？2.算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的编码，是以另外一种形式实现的最佳统计匹配编码。3.把n个二元对称信道串接起来，每个二元对称信道的错误传递概率为p。证明这n个串接信道可以等效于一个二元对称信道，其错误传递概率为： 4.试求以下各信道矩阵代表的信道的容量： 5.信息的（）是建立信息论的基础。6.考虑下图所示的二元编码器 （1）构造该编码器的网格图。 （2）记下该编码器的k0，n0，v，m，R。 （3）该码的d*和dfree的值是多少？ 7.考虑一个信源概率为{0.30，0.25，0.20，0.15，0.10}的DMS。求信源熵H（X）。8.考虑GF（2）上的下列生成矩阵 构造该码的标准阵列。9.简述信源输出值受限的最大连续熵定理。10.在图片传输中，每帧约2.25×106个像素，为了能很好地重现图像，需分16个亮度电平，并假设亮度电平等概率分布。试计算每秒钟传送30帧图片所需信道的带宽（信噪功率比为30dB）。11.当p（xi）、p（yj/xi）和d（xi，yj）给定后，平均失真度是一个随即变量。12.证明离散平稳信源有，试说明等式成立的条件。13.前向纠错（FEC）14.什么是限失真信源编码？15.互信息I（X；Y）与信息熵H（Y）的关系为：I（X；Y）（）（大于、小于或者等于）H（Y）。16.设有一个信源，它产生0，1序列的信息。它在任意时间而且不论以前发生过什么符号，均按p（0）=0.4，p（1）=0.6的概率发出符号。 （1）试问这个信源是否是平稳的？ （2）试计算及； （3）试计算H（X4）并写出X4信源中可能有的所有符号。17.根据树图法构成规则，（）A、在树根上安排码字B、在树枝上安排码字C、在中间节点上安排码字D、在终端节点上安排码字18.简述马尔可夫信源的定义及其极限熵。19.信息的重要性质有哪些？20.一个四元对称信源，接收符号Y={0，1，2，3}，其失真矩阵为，求Dmax和Dmin。21.为了使电视图象获得良好的清晰度和规定的对比度，需要用5×105个像素和10个不同的亮度电平，并设每秒要传送30帧图象，所有的像素是独立的，且所有亮度电平等概出现。求传输此图象所需要的信息率（bit/s）。22.已知一个高斯信道，输入信噪比（比率）为3。频带为3kHz，求最大可能传送的信息率。若信噪比提高到15，理论上传送同样的信息率所需的频带为多少？23.有两个二元随机变量X和Y，它们的联合概率为P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定义另一随机变量Z=XY，试计算： （1）H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）； （2）H（X/Y），H（Y/X），H（X/Z），H（Z/X），H（Y/Z），H（Z/Y），H（X/YZ），H（Y/XZ），H（Z/XY）； （3）I（X；Y），I（X；Z），I（Y；Z），I（X；Y/Z），I（Y；Z/X），I（X；Z/Y）。24.设多项式 为GF（2）上分组长度为15的一个循环码的生成多项式。将生成矩阵写成系统型。25.信源X的概率分布为P（X）={1/2，1/3，1/6}，对其进行哈夫曼编码得到的码是唯一的。卷III一.参考题库(共25题)1.设有一批电阻，按阻值分70%是2kΩ，30%是5kΩ；按功耗分64%是1/8W，其余是1/4W。现已知2kΩ阻值的电阻中80%是1/8W。问通过测量阻值可以平均得到的关于瓦数的信息量是多少？2.简述信息传输速率R的定义、信道转移概率、信道矩阵和信道容量C的定义、几种离散无噪信道的C。3.单符号离散信源一般用随机变量描述，而多符号离散信源一般用（）描述。4.多用户信道的信道容量不能用一个数来代表。5.编码效率6.率失真函数没有最大值。7.黑白传真机的消息元只有黑色和白色两种，即X={黑，白}，一般气象图上，黑色的出现概率p（黑）＝0.3，白色出现的概率p（白）＝0.7。  （1）假设黑白消息视为前后无关，求信源熵H（X），并画出该信源的香农线图  （2）实际上各个元素之间是有关联的，其转移概率为：P（白|白）＝0.9143，P（黑|白）＝0.0857，P（白|黑）＝0.2，P（黑|黑）＝0.8，求这个一阶马尔可夫信源的信源熵8.若有两个串接的离散信道，它们的信道矩阵都是 并设第一个信道的输入符号X∈{a1，a2，a3，a4}是等概率分布，求I（X；Z）和I（X；Y）并加以比较。9.一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为（）。10.纠错码的检、纠错能力是指（）。11.输出对称矩阵12.简述加密编码中熵的概念、疑义度及其含义。13.简述Shannon第二定理（信道编码定理）及其含义。14.香农信源编码方法在进行编码时不需要预先计算每个码字的长度。15.有一个一阶平稳马尔可夫链X1，X2，……Xr……，各Xr取值于集合A={a1，a2，a3}。已知起始概率p（Xr）为p1=1/2，p2=p3=1/4，转移概率如下。 （1）求（X1，X2，X3）的联合熵和平均符号熵。 （2）求这个链的极限平均符号熵。 （3）求H0，H1，H2和它们所对应的冗余度。16.离散平稳有记忆信源符号序列的平均符号熵随着序列长度L的增大而增大。17.循环码的码集中的任何一个码字的循环移位仍是码字。18.考虑GF（2）上的下列生成矩阵 写出这个码能检测的所有错误模式。19.请给出最佳自由距离卷积码的定义并简要说明如何获得具有最佳自由距离的卷积码。20.一个平均功率受限制的连续信道，其通频带为1MHZ，信道上存在白色高斯噪声。 （1）已知信道上的信号与噪声的平均功率比值为10，求该信道的信道容量；  （2）信道上的信号与噪声的平均功率比值降至5，要达到相同的信道容量，信道通频带应为多大？  （3）若信道通频带减小为0.5MHZ时，要保持相同的信道容量，信道上的信号与噪声的平均功率比值应等于多大？21.单符号离散信源的自信息和信源熵都是一个确定值。22.根据码字所含的码元的个数，编码可分为（）编码和（）编码。23.将正弦信号输入采样频率为4kHz采样保持器后通过增量调制器，设该调制器的初始量化dq0，量化增量Δ=0.125。试求在半个周期内信号值的增量调制编码ci和量化值。24.简述汉明距离和汉明重量的定义、错误图样的定义。25.设有两个信源X和Y如下： （1）分别用霍夫曼码编成二元变长惟一可译码，并计算其编码效率； （2）分别用香农编码法编成二元变长惟一可译码，并计算编码效率； （3）分别用费诺编码方法编成二元变长惟一可译码，并计算编码效率； （4）从X、Y两种不同信源来比较这三种编码方法的优缺点。卷I参考答案一.参考题库1.参考答案: 无失真信源编码，编码后尽可能等概率分布，使每个码元平均信息量最大。从而使信道信息传输率R达到信道容量C，实现信源与信道理想的统计匹配。2.参考答案:每一行至少有一个零元素3.参考答案:正确4.参考答案: 5.参考答案:之比6.参考答案:N7.参考答案:3；18.参考答案:无记忆9.参考答案: 10.参考答案:正确11.参考答案:等概；log（n）12.参考答案:B13.参考答案:高效；可靠；安全14.参考答案:连续信源的不确定度应为无穷大，是相对熵，或叫差熵。在取两熵之间的差时才具有信息的所有特性。15.参考答案:正确16.参考答案: 17.参考答案:错误18.参考答案:概率的对数19.参考答案: 由此多项式矩阵，可以构造编码器，TCM方案如下： 自然映射： 在该编码器的网格图中有4个状态。20.参考答案:21.参考答案: 设事件A表示女大学生，事件C表示160CM以上的女孩，则问题就是求p（A〡C）， 获得1.415比特/符号信息量。22.参考答案: 要找到分组长度为5的所有2元循环码，首先要分解x5-1 在GF（2）中，是既约的，所求的循环码为： 定义在R5中的多项式i（x）=24=16个，信息多6yj多项式在下表中列出： 23.参考答案: 24.参考答案:截断25.参考答案:卷II参考答案一.参考题库1.参考答案:2.参考答案:错误3.参考答案: 4.参考答案: 一一对应的无噪无损信道，信道容量log24=2比特/信道符号， 归并性能的有损无噪信道，信道容量log23=1.585比特/信道符号， 扩展性能的有噪无损信道，信道容量log23=1.585比特/信道符号。5.参考答案:可度量性6.参考答案: 7.参考答案: 故得其信源熵H(X)为2.228bit。8.参考答案: 该码的标准阵列 9.参考答案:限峰功率最大熵定理：对于定义域为有限的随机变量X，当它是均匀分布时，具有最大熵。10.参考答案: 11.参考答案:错误12.参考答案: 13.参考答案: 是指差错控制过程中是单向的，无须差错信息的反馈。14.参考答案: 有失真信源编码的中心任务：在允许的失真范围内把编码的信息率压缩到最小。15.参考答案:小于16.参考答案: （1）是平稳信源。 （2）信源熵H（X）=-0.4log20.4-0.6log20.6=0.971比特/信源符号，H（X2）=2H（X）=1.942比特/信源符号，由题设知道这个信源是无记忆信源，因此条件熵