2024年大学试题(计算机科学)-信息论与编码考试近5年真题集锦（频考类试题）带答案

（图片大小可自由调整）2024年大学试题(计算机科学)-信息论与编码考试近5年真题集锦（频考类试题）带答案第I卷一.参考题库(共100题)1.在现代通信系统中，信源编码主要用于解决信息传输中的（）性，信道编码主要用于解决信息传输中的（）性，加密编码主要用于解决信息传输中的（）性。2.简述香农第一编码定理的物理意义？3.考虑GF（2）上的下列生成矩阵 求奇偶校验矩阵H。4.设有一个信源，它产生0，1序列的信息。它在任意时间而且不论以前发生过什么符号，均按p（0）=0.4，p（1）=0.6的概率发出符号。 （1）试问这个信源是否是平稳的？ （2）试计算及； （3）试计算H（X4）并写出X4信源中可能有的所有符号。5.简述纠错编码的分类（从不同的角度）。6.设有两个信源X和Y如下： （1）分别用霍夫曼码编成二元变长惟一可译码，并计算其编码效率； （2）分别用香农编码法编成二元变长惟一可译码，并计算编码效率； （3）分别用费诺编码方法编成二元变长惟一可译码，并计算编码效率； （4）从X、Y两种不同信源来比较这三种编码方法的优缺点。7.求下列两个信道的信道容量，并加以比较： 8.自信息量的单位一般有（）。9.若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为（）。10.黑白传真机的消息元只有黑色和白色两种，即X={黑，白}，一般气象图上，黑色的出现概率p（黑）＝0.3，白色出现的概率p（白）＝0.7。  （1）假设黑白消息视为前后无关，求信源熵H（X），并画出该信源的香农线图  （2）实际上各个元素之间是有关联的，其转移概率为：P（白|白）＝0.9143，P（黑|白）＝0.0857，P（白|黑）＝0.2，P（黑|黑）＝0.8，求这个一阶马尔可夫信源的信源熵11.克劳夫特不等式是唯一可译码（）的充要条件。12.简述香农公式的含义。13.若X、Y和Z是三个随机变量，试证明： （1）I（X；YZ）=I（X；Y）+I（X；Z|Y）=I（X；Z）+I（X；Y|Z） （2）I（X；Y|Z）=I（Y；X|Z）=H（X|Z）−H（X|YZ） （3）I（X；Y|Z）≥0当且仅当（X，Z，Y）是马氏链时等式成立。14.证明不等式lnx≤x-1。画出曲线y1=lnx和y2=x-1的平面图以表明上述不等式的正确性。15.有两个二元随机变量X和Y，它们的联合概率为P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定义另一随机变量Z=XY，试计算： （1）H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）； （2）H（X/Y），H（Y/X），H（X/Z），H（Z/X），H（Y/Z），H（Z/Y），H（X/YZ），H（Y/XZ），H（Z/XY）； （3）I（X；Y），I（X；Z），I（Y；Z），I（X；Y/Z），I（Y；Z/X），I（X；Z/Y）。16.有一信源，它有六个可能的输出，其概率分布如下表所示，表中给出了对应的码A、B、C、D、E和F。 （1）求这些码中哪些是惟一可译码； （2）求哪些码是非延长码（即时码）； （3）求对所有惟一可译码求出其平均码长L。17.常用差错控制的方法有哪些？18.利用状态极限概率和状态一步转移概率来求m阶马尔可夫信源的极限熵。19.离散无记忆N次扩展信源通过离散无记忆N次扩展信道的平均失真度是单符号信源通过单符号信道的平均失真度的（）倍。20.设有一连续随机变量，其概率密度函数为： 试求这随机变量的熵。又若Y1=X+K（K>0），Y2=2X，试分别求出Y1和Y2的熵h（Y1）和h（Y2）。21.（）提高通信的有效性，（）目的是提高通信的可靠性，（）编码的目的是保证通信的安全性。22.下面哪一项不属于熵的性质：（）A、非负性

B、完备性

C、对称性

D、确定性23.试证明连续信源X的相对熵h（X）是概率密度p（x）的∩型凸函数。24.连续信源和离散信源都具有可加性。25.最大似然译码等价于最大后验概率译码的条件是（）。A、离散无记忆信道B、无错编码C、无扰信道D、消息先验等概26.下列不属于消息的是（）。A、文字B、信号C、图像D、语言27.考虑下图所示的二元编码器 （1）构造该编码器的网格图。 （2）记下该编码器的k0，n0，v，m，R。 （3）该码的d*和dfree的值是多少？ 28.一珍珠养殖场收获240颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗。一人随手取出3颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6次能找出，结果确是如此，这一事件给出的信息量（）。A、0bitB、log6bitC、6bitD、log240bit29.信息率失真函数，简称为率失真函数，即：试验信道中的平均互信息量的（）。30.设C是长度为n，最小距离为7的二元完备码。证明n=7或n=23。 证明：由完备码的定义可知，一个完备码必须满足下列条件： 31.简述马尔可夫信源的定义及其极限熵。32.算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的编码，是以另外一种形式实现的最佳统计匹配编码。33.狭义的信道编码即：（）。34.试证明多维连续无记忆信道的充要条件为： 35.最大后验概率译码指的是译码器要在已知r的条件下找出可能性最大的发码（），即令=maxP（|r）。36.简述循环码的生成矩阵和一致校验矩阵的构造。37.连续随机变量X和Y的联合概率密度为：，求H（X）， H（Y）， H（XYZ）和I（X；Y）。38.信息论是应用近代数理统计方法研究信息的传输、存储与处理的科学，故称为（）；1948年香农在贝尔杂志上发表了两篇有关的“通信的数学理论”文章，该文用熵对信源的（）的度量，同时也是衡量（）大小的一个尺度；表现在通信领域里，发送端发送什么有一个不确定量，通过信道传输，接收端收到信息后，对发送端发送什么仍然存在一个不确定量，把这两个不确定量差值用（）来表示，它表现了通信信道流通的（），若把它取最大值，就是通信线路的（），若把它取最小值，就是（）。39.证明一个离散信源在它的输出符号等概率的情况下其熵达到最大值。40.假定一个电视每秒钟显示30个画面，每个画面大约有2×105个像素，每个像素需要16比特的彩色显示。假定SNR为25dB，计算支持电视信号传输所需要的带宽（利用信息容量定理）41.设有一个信源，它产生0、1序列的消息。它在任意时间而且不论以前发生过什么符号，均按P（0）=0.4，P（1）=0.6概率发出符号。 （1）试问这个信源是否平稳的？ （2）试计算 （3）试计算H(X4)并写出X4信源中可能有的所有符号。42.信息率失真理论是量化、数模转换、频带压缩和（）的理论基础。43.设信源 将此信源编码为r元惟一可译变长码（即码符号集X={1，2，r}），其对应的码长为（l1，l2，l6）=（1，1，2，3，2，3），求r值的下限。44.一个DMS只有三个输出符号，它们的概率为{0.5，0.4，0.1}。 （1）给出此信源的霍夫曼码并确定编码效率。 （2）每次考虑两个符号时，给出此信源的霍夫曼码并确定编码效率。 （3）每次考虑三个符号时，给出此信源的霍夫曼码并确定编码效率。45.简述算术编码（非分组码）相关定义与步骤。46.信道疑义度(含糊度)H(X|Y)47.当随即变量X和Y相互独立时，条件熵等于信源熵。48.一个平均功率受限制的连续信道，其通频带为1MHZ，信道上存在白色高斯噪声。 （1）已知信道上的信号与噪声的平均功率比值为10，求该信道的信道容量；  （2）信道上的信号与噪声的平均功率比值降至5，要达到相同的信道容量，信道通频带应为多大？  （3）若信道通频带减小为0.5MHZ时，要保持相同的信道容量，信道上的信号与噪声的平均功率比值应等于多大？49.（1）一个电话信道具有带宽3000Hz，且SNR=20dB，求信道容量。（2）若SNR增加到25dB，求信道容量。50.（）是香农信息论最基本最重要的概念51.信息的重要性质有哪些？52.纠错码的检、纠错能力是指（）。53.n位重复码的编码效率是（）。54.在连续信源中，根据差熵、条件差熵和联合差熵的定义，证明 （1）h（X|Y）≤h（X），当且仅当X和Y统计独立时等号成立； （2）h（X1X2...XN）≤h（X1）+h（X2）+h（XN），当且仅当X1X2...XN彼此统计独立时等式成立。55.离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的（）。56.若有三个离散随机变量，有如下关系：X+Y=Z，其中X和Y相互统计独立，试证明： （1）H（X）≤H（Z），当且仅当Y是常量时等式成立； （2）H（Y）≤H（Z），当且仅当X为常量时等式成立； （3）H（Z）≤H（XY）≤H（X）+H（Y），当且仅当X，Y中任意一个为常量时等式成立； （4）I（X；Z）=H（Z）−H（Y）； （5）I（XY；Z）=H（Z）； （6）I（X；YZ）=H（X）； （7）I（Y；Z|X）=H（Y）； （8）I（X；Y|Z）=H（X|Z）=H（Y|Z）。57.黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}，设黑色出现的概率为P（黑）=0.3，白色出现的概率为P（白）=0.7。 （1）假设图上黑白消息出现前后没有关联，求熵H（X）； （2）假设消息前后有关联，其依赖关系为P（白|白）=0.9，P（黑|白）=0.1，P（白|黑）=0.2，P（黑|黑）=0.8，求此一阶马尔克夫信源的熵H2。 （3）分别求上述两种信源的冗余度，并比较H（X）和H2的大小，并说明其物理意义。58.考虑另一个几何分布的随机变量X，满足P（Xi）=P（1-P）i-1，i=1，2，3，…，这个信源的平均自信息H（X）是什么？59.L-D编码适合于冗余位较多和较少的情况，否则，不但不能压缩码率，反而使其扩张。60.纠错编码中，下列哪种措施不能减小差错概率（）。A、增大信道容量B、增大码长C、减小码率D、减小带宽61.证明I（X，Y）≥0在什么条件下等号成立？62.简述信源熵的基本性质与定理及其理解。63.每帧电视图像可以认为是由3×105个像素组成，所以像素均是独立变化，且每一像素又取128个不同的亮度电平，并设亮度电平等概率出现。问每帧图像含有多少信息量？若现有一广播员在约10000个汉字的字汇中选1000个来口述此电视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字是等概率分布，并且彼此无依赖）？若要恰当地描述此图像，广播员在口述中至少需用多少汉字？64.从平均互信息的表达式证明，当信道和信源都是无记忆时，有： 65.简单介绍哈夫曼编码的步骤。66.简述各种熵（信源熵，条件熵，联合熵（共熵）等）的含义及其关系。67.一个（6，2）线性分组码的一致校验矩阵为 （1）求hi，i=1，2，3，4，使该码的最小码距dmin≥3。 （2）求该码的系统码生成矩阵Gs及其所有4个码字。68.设有一批电阻，按阻值分70%是2kΩ，30%是5kΩ；按功耗分64%是1/8W，其余是1/4W。现已知2kΩ阻值的电阻中80%是1/8W。问通过测量阻值可以平均得到的关于瓦数的信息量是多少？69.率失真函数的值与信源的输入概率无关。70.N维统计独立均匀分布连续信源的熵是N维区域体积的对数。71.N维连续型随机序列X1X2...XN，其各分量幅度分别受限为[ai，bi]。证明：当随机序列的分量各自达到均匀分布并彼此统计独立时熵最大。最大熵为： 72.居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？73.一维高斯分布的连续信源，其信源熵只与其均值和方差有关。74.L-D编码适合于冗余位（）的情况。75.BSC信道即：（）。76.设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度。试证明传输这种彩电系统的信息率要比黑白系统的信息率大2.5倍左右。77.设有一个离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R（）C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。78.率失真函数对允许的平均失真度是（）。79.计算概率分布函数为的均匀分布随机变量X的微分熵H（X）。画出H（X）相对于参数a（0.1〈a〈10）的平面图，并对结果进行评论。80.按照信源发出的消息在时间和幅度上的分布情况，可将信源分成（）信源和（）信源两大类。81.简述自信息的性质。82.设二元对称信道的传递矩阵为 （1）若P（0）=3/4， P（1）=1/4，求H（X），H（X/Y），H（Y/X）和I（X；Y）；  （2）求该信道的信道容量及其达到信道容量时的输入概率分布。83.二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件，u0：一个0发出u1：一个1发出v0：一个0收到v1：一个1收到则已知收到的符号，被告知发出的符号能得到的信息量是（）。A、H（U/V）

B、H（V/U）

C、H（U，V）

D、H（UV）84.求图中信道的信道容量及其最佳的输入概率分布，并求当e=0和1/2时的信道容量C的大小。 85.设信源求此信源的熵，并解释为什么H（X）>log6，不满足信源熵的极值性。86.若某无记忆信源，接收符号，其失真矩阵为，求信源的最大失真度和最小平均失真度，并求选择何种信道可达到该Dmax和Dmin的失真度。87.在图片传输中，每帧约2.25×106个像素，为了能很好地重现图像，需分16个亮度电平，并假设亮度电平等概率分布。试计算每秒钟传送30帧图片所需信道的带宽（信噪功率比为30dB）。88.简述几种信息分类的准则和方法。89.信息的主要特征有哪些？90.请给出失真函数、平均失真度、保真度准则、信息率失真函数的定义。91.信道一般指传输信息的物理媒介，分为（）信道和（）信道。92.写出香农公式，并说明其物理意义。当信道带宽为5000Hz，信噪比为30dB时求信道容量。93.保密系统的密钥量越小，密钥熵H（K）就越（），其密文中含有的关于明文的信息量I（M；C）就越（）。94.已知用户A的RSA公开密钥（e，n）=（3，55），，则（），他的秘密密钥（d，n）＝（27，55）。若用户B向用户A发送m=2的加密消息，则该加密后的消息为（）。95.在图片传输中，每帧约有2.25×106个像素，为了能很好的重现图像，需分16个量度电平，并假设量度电平等概率分布，试计算每分钟传输一帧图片所需信道的带宽（信噪功率比为30dB）.96.有一个一阶平稳马尔可夫链X1，X2，……Xr……，各Xr取值于集合A={a1，a2，a3}。已知起始概率p（Xr）为p1=1/2，p2=p3=1/4，转移概率如下。 （1）求（X1，X2，X3）的联合熵和平均符号熵。 （2）求这个链的极限平均符号熵。 （3）求H0，H1，H2和它们所对应的冗余度。97.解释无失真变长信源编码定理。98.通信系统的性能指标有哪些？99.多用户信道的信道容量不能用一个数来代表。100.考虑GF（11）上具有下列奇偶校验矩阵的码，证明该码纠三个错误的码。第I卷参考答案一.参考题库1.参考答案：有效；可靠；安全2.参考答案： 无失真信源编码，编码后尽可能等概率分布，使每个码元平均信息量最大。从而使信道信息传输率R达到信道容量C，实现信源与信道理想的统计匹配。3.参考答案： 4.参考答案： （1）是平稳信源。 （2）信源熵H（X）=-0.4log20.4-0.6log20.6=0.971比特/信源符号，H（X2）=2H（X）=1.942比特/信源符号，由题设知道这个信源是无记忆信源，因此条件熵和极限熵都等于信源熵。 （3）H（X4）=4×0.971=3.884比特/信源符号， X4信源中可能的符号共16个。5.参考答案：6.参考答案： 7.参考答案： 8.参考答案：比特、奈特和哈特9.参考答案：310.参考答案：11.参考答案：存在12.参考答案：13.参考答案： 14.参考答案： 证明： 绘制图形说明如下，可以很明确说明上述不等式的正确性。 15.参考答案： 16.参考答案： 17.参考答案：18.参考答案：正确19.参考答案：N20.参考答案： 21.参考答案：信源；信道；加密22.参考答案：B23.参考答案： 24.参考答案：正确25.参考答案：D26.参考答案：B27.参考答案： 28.参考答案：A29.参考答案：最小值30.参考答案： 同理，可证得n=23时，同样满足（1）式。 故可证明当n=7或n=23时，C是二元完备码。31.参考答案：32.参考答案：错误33.参考答案：检、纠错编码34.参考答案： 35.参考答案：作为译码估值36.参考答案：37.参考答案：38.参考答案：3;4;5;6;7;8;939.参考答案： 若二元离散信源的统计特性为 P=Q=1，H（X）=-[P*log（P）+（1-P）*log（1-P）] 对H（X）求导求极值，由dH（X）/d（P）=0可得 可知当概率P=Q=1/2时，有信源熵 对于三元离散信源，当概率时，信源熵 此结论可以推广到N元的离散信源。40.参考答案： 根据题意，该电视信号所需的信息容量为： 41.参考答案：42.参考答案：数据压缩43.参考答案： 44.参考答案： （1）本题的霍夫曼编码如下图所示： （2）把符号每两个分一组，重新应用霍夫曼编码算法，如下表所示： （3）依题意，把符合每三个分成一组，再重新应用霍夫曼编码算法，得： 45.参考答案：46.参考答案： 表示在输出端接收到Y后，发送端X尚存的平均不确定性。这个对X尚存的不确定性是由于干扰引起的。47.参考答案：正确48.参考答案：49.参考答案： 50.参考答案：熵51.参考答案： 可靠性、保密性、有效性、认证性52.参考答案：检测、纠正错误码元的数目53.参考答案：1/n54.参考答案： 55.参考答案：N倍56.参考答案： 57.参考答案： 58.参考答案： 59.参考答案：正确60.参考答案：D61.参考答案： 当和相互独立时等号成立。62.参考答案：63.参考答案： 64.参考答案： 65.参考答案： ①将信源消息符号按其出现的概率大小依次排列 p（x1）≥p（x2）≥…≥p（xn） ②取两个概率最小的符号分别配以0和1，并将这两个概率相加作为