2024年大学试题(计算机科学)-信息论与编码笔试历年真题荟萃含答案

2024年大学试题(计算机科学)-信息论与编码笔试历年真题荟萃含答案（图片大小可自由调整）第1卷一.参考题库(共30题)1.平均互信息量I（X；Y）与信源熵和条件熵之间的关系是（）。2.对于BSC信道，信道编码应当是一对一的编码，因此，消息m的长度等于码字c的长度。3.计算概率分布函数为的均匀分布随机变量X的微分熵H（X）。画出H（X）相对于参数a（0.1〈a〈10）的平面图，并对结果进行评论。4.用一个合适的本原多项式由GF（3）构造GF（9）。5.简述连续信源的熵的定义。6.考虑一个码长为4的二元码，其码字为W1=0000，W2=0011，W3=1100，W4=1111。假设码字送入一个二元对称信道（其单符号错误概率为p，且p 试找出一种译码规则使平均错误概率PE最小。7.在连续信源中，根据差熵、条件差熵和联合差熵的定义，证明 （1）h（X|Y）≤h（X），当且仅当X和Y统计独立时等号成立； （2）h（X1X2...XN）≤h（X1）+h（X2）+h（XN），当且仅当X1X2...XN彼此统计独立时等式成立。8.设多项式 为GF（2）上分组长度为15的一个循环码的生成多项式。将生成矩阵写成系统型。9.有一个可以旋转的圆盘，盘面上被均匀的分成38份，用1，…，38的数字标示，其中有两份涂绿色，18份涂红色，18份涂黑色，圆盘停转后，盘面上的指针指向某一数字和颜色。  （1）如果仅对颜色感兴趣，则计算平均不确定度  （2）如果仅对颜色和数字感兴趣，则计算平均不确定度  （3）如果颜色已知时，则计算条件熵10.n位重复码的编码效率是（）。11.如某线性分组码的最小汉明距dmin=4，则该码最多能检测出（）个随机错，最多能纠正（）个随机错。12.信道的分类方法有哪些？13.在图片传输中，每帧约有2.25×106个像素，为了能很好地重现图像，能分16个亮度电平，并假设亮度电平等概分布。试计算每分钟传送一帧图片所需信道的带宽（信噪功率比为30dB）。14.多用户信道的信道容量不能用一个数来代表，但信道的信息率可以用一个数来表示。15.什么是自信息量？16.等重码和奇（偶）校验码都可以检出全部的奇数位错17.对具有8个消息的单符号离散无记忆信源进行4进制哈夫曼编码时，为使平均码长最短，应增加（）个概率为0的消息。18.事物的不确定度是用时间统计发生（）来描述的。19.有一信源，它有六个可能的输出，其概率分布如下表所示，表中给出了对应的码A、B、C、D、E和F。 （1）求这些码中哪些是惟一可译码； （2）求哪些码是非延长码（即时码）； （3）求对所有惟一可译码求出其平均码长L。20.N维连续型随机序列X1X2...XN，有概率密度p（X1X2...XN）以及证明：当随机序列的分量各自达到正态分布并彼此统计独立时熵最大。最大熵为： 21.设信源求此信源的熵，并解释为什么H（X）>log6，不满足信源熵的极值性。22.有记忆信道23.自信息量24.为了传输一个由字母A、B、C、D组成的符号集，把每个字母编码成两个二元码脉冲序列，以00代表A，01代表B，10代表C，11代表D。每个二元码脉冲宽度为5ms。 （1）不同字母等概率出现时，计算传输的平均信息速率？ （2）若每个字母出现的概率分别为pA=1/5，pB=1/4，pC=1/4，pD=3/10，试计算传输的平均信息速率？25.前向纠错（FEC）26.根据树图法构成规则，（）A、在树根上安排码字B、在树枝上安排码字C、在中间节点上安排码字D、在终端节点上安排码字27.简述各种熵（信源熵，条件熵，联合熵（共熵）等）的含义及其关系。28.简述费诺编码的编码步骤。29.简述汉明距离和汉明重量的定义、错误图样的定义。30.率失真函数没有最大值。第1卷参考答案一.参考题库1.参考答案:（X;Y)=H(X)-H(X/Y）2.参考答案:错误3.参考答案: 根据得到的结果可以画出相应的平面图，由图可以看到随着a的增加，即p（x）的减小，微分熵H（X）相应的增加。 4.参考答案: 考虑由子域构GF（3）造扩域GF（9），已知q=3，m=2，现在对进行分解，即在GF（3）上分解， 下面考虑扩域GF（9）上的元素，这些元素可以表示为： 通过观察GF（9）上的元素，我们可以选择作为本原多项式来构造GF（9）。 考虑GF（9）上的元素，z并不是GF（9）上的本原元，则我们可以假设GF（9）上的本原元为a=z+1，则可以通过a的幂模p（a）得到GF（9）上的所有元素。 经过多项式的运算可以得到GF（9）中的元素： 5.参考答案:连续信源的不确定度应为无穷大，是相对熵，或叫差熵。在取两熵之间的差时才具有信息的所有特性。6.参考答案: 7.参考答案: 8.参考答案: 9.参考答案:10.参考答案:1/n11.参考答案:3；112.参考答案: 根据载荷消息的媒体不同（邮递信道、电信道、光信道、声信道）。根据信息传输的方式（输入和输出信号的形式。信道的统计特性、信道的用户多少）。根据信道的用户多少：两端（单用户）信道、多端（多用户）信道。根据信道输入端和输出端的关联（无反馈信道、反馈信道）根据信道的参数与时间的关系（固定参数信道、时变参数信道。根据输入和输出信号的特点（离散信道、连续信道、半离散或半连续信道波形信道）13.参考答案:14.参考答案:错误15.参考答案:指的是该符号出现后，提供给收信者的信息量。16.参考答案:正确17.参考答案:218.参考答案:概率的对数19.参考答案: 20.参考答案: 21.参考答案: 22.参考答案: 在任意时刻信道的输出消息不仅与当时信道的输入消息有关，而且还与以前时刻的信道输入消息和（或）输出消息有关。23.参考答案: 一个随机事件发生某一结果后所带来的信息量成为自信息量，定义为其发生概率对数的负值。24.参考答案:25.参考答案: 是指差错控制过程中是单向的，无须差错信息的反馈。26.参考答案:D27.参考答案:28.参考答案: 费诺编码的步骤： 1）信源符号以概率递减的次序排列起来； 2）将排列好的信源符号按概率值划分成两大组，使每组的概率之和接近于相等，并对每组各赋予一个二元码符号“0”和“1”； 3）将每一大组的信源符号再分成两组，使划分后的两个组的概率之和接近于相等，再分别赋予一个二元码符号； 4）依次下去，直至每个小组只剩一个信源符号为止 5）信源符号所对应的码字即为费诺码。29.参考答案:30.参考答案:错误第2卷一.参考题库(共30题)1.一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为（）。2.一阶马尔可夫信源的状态图如图所示。信源X的符号集为{0，1，2}。 （1）求平稳后信源的概率分布； （2）求信源的熵H∞。 3.高斯加性信道的信道容量只与信道的信噪有关。4.根据输入输出信号的特点，可将信道分成离散信道、连续信道、（）信道。5.试证明连续信源X的相对熵h（X）是概率密度p（x）的∩型凸函数。6.信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就（），获得的信息量就越小。7.设多项式 为GF（2）上分组长度为15的一个循环码的生成多项式。求生成矩阵G。8.“0”游程和“1”游程可以分别进行哈夫曼编码，两个码表中的码字可以重复，但（）必须不同。9.利用状态极限概率和状态一步转移概率来求m阶马尔可夫信源的极限熵。10.由符号集{0，1}组成的二阶马尔可夫链，其转移概率为：p（0|00）=0.8，p（0|11）=0.2，p（1|00）=0.2，p（1|11）=0.8，p（0|01）=0.5，p（0|10）=0.5，p（1|01）=0.5，p（1|10）=0.5。画出状态图，并计算各状态的稳态概率。11.信息的基本概念在于它的（）。12.简述几种信息分类的准则和方法。13.信源编码通常是通过压缩信源的冗余度来实现的。14.最佳码15.简述消息、信号、信息的含义、定义及区别。16.对输入数据流000010110011100001001101111分别用LZ-77算法、LZ-78算法，LZW算法、K-Y算法进行编码，并计算各种方法的压缩率。17.若有两个串接的离散信道，它们的信道矩阵都是 并设第一个信道的输入符号X∈{a1，a2，a3，a4}是等概率分布，求I（X；Z）和I（X；Y）并加以比较。18.某一信源，不管它是否输出符号，只要这些符号具有某些概率特性，就有信息量。19.简述信息传输速率R的定义、信道转移概率、信道矩阵和信道容量C的定义、几种离散无噪信道的C。20.有一个二元信道，其信道如右图所示。设该信道以1500个二元符号/秒的速度传输输入符号，现有一消息序列共有14000个二元符号，并设在这消息中问从信息传输的角度来考虑，10秒内能否将这消息序列无失真地传送完。 21.证明不等式lnx≤x-1。画出曲线y1=lnx和y2=x-1的平面图以表明上述不等式的正确性。22.“冗余变换”即：将一个冗余序列转换成一个二元序列和一个（）。23.最大似然译码等价于最大后验概率译码的条件是（）。A、离散无记忆信道B、无错编码C、无扰信道D、消息先验等概24.信息率失真函数25.一珍珠养殖场收获240颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗。一人随手取出3颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6次能找出，结果确是如此，这一事件给出的信息量（）。A、0bitB、log6bitC、6bitD、log240bit26.狭义的信道编码既是指：信道的检、纠错编码。27.信源编码的目的是：（）28.必然事件的自信息是（）。29.请给出域的定义并说明集合{0，1，2}可否构成域及其理由。30.居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？第2卷参考答案一.参考题库1.参考答案:其发生概率对数的负值2.参考答案: （1）由图得一阶马尔可夫信源的状态为s1=0，s2=1，s3=2。 对应的一步转移概率矩阵为 3.参考答案:正确4.参考答案:半离散或半连续5.参考答案: 6.参考答案:越大7.参考答案: 8.参考答案:C码9.参考答案:正确10.参考答案:11.参考答案:不确定性12.参考答案: 狭义信息论、一般信息论、广义信息论13.参考答案:正确14.参考答案: 对于某一个信源和某一码符号集来说，若有唯一可译码，其平均编码长度小于所有其他唯一可译码的平均编码长度，则该码为对于某一个信源和某一码符号集来说，若有唯一可译码其平均编码长度小于所有其他唯一可译码的平均编码长度，则该码为最佳码（或紧致码）。15.参考答案:信息是指各个事物运动的状态及状态变化的方式。消息是指包含信息的语言，文字和图像等。信号是消息的物理体现。消息是信息的数学载体、信号是信息的物理载体信号：具体的、物理的消息：具体的、非物理的信息：非具体的、非物理的同一信息，可以采用不同形式的物理量来载荷，也可以采用不同的数学描述方式。同样，同一类型信号或消息也可以代表不同内容的信息16.参考答案: 17.参考答案: 18.参考答案:错误19.参考答案:20.参考答案: 21.参考答案: 证明： 绘制图形说明如下，可以很明确说明上述不等式的正确性。 22.参考答案:缩短了的多元序列23.参考答案:D24.参考答案: 在保真度准则下，再现信源消息所必须获得的最少平均信息量；在保真度准则下，再现信源消息所必须获得的最少平均信息量；满足保真度准则下，信源可压缩的最小值。25.参考答案:A26.参考答案:正确27.参考答案:提高