计算机科学技术：信息论与编码真题

计算机科学技术：信息论与编码真题1、判断题（江南博哥）狭义的信道编码既是指：信道的检、纠错编码。答案：对2、填空题

信源的消息通过信道传输后的误差或失真越大道传输消息所需的信息率（）。答案：也越小3、填空题

互信息I（X；Y）与信息熵H（Y）的关系为：I（X；Y）（）（大于、小于或者等于）H（Y）。答案：小于4、判断题

互信息量I（X；Y）表示收到Y后仍对信源X的不确定度。答案：对5、填空题

线性分组码是同时具有（）的纠错码。答案：分组特性和线性特性6、填空题

连续信源或模拟信号的信源编码的理论基础是（）。答案：限失真信源编码定理7、填空题

设有一个离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R（）C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。答案：小于8、名词解释

香农信息答案：信息是事物运动状态或存在方式的不确定性的描述。9、名词解释

码距答案：两个等长码字之间对应码元不相同的数目，称为码距10、单选

一珍珠养殖场收获240颗外观及重量完全相同的特大珍珠，但不幸被人用外观相同但重量仅有微小差异的假珠换掉1颗。一人随手取出3颗，经测量恰好找出了假珠，不巧假珠又滑落进去，那人找了许久却未找到，但另一人说他用天平最多6次能找出，结果确是如此，这一事件给出的信息量（）。A.0bitB.log6bitC.6bitD.log240bit答案：A11、填空题

平均失真度的下限取0的条件是失真矩阵的（）。答案：每一行至少有一个零元素12、判断题

信源编码是提高通信有效性为目的的编码。答案：对13、判断题

最大信息传输速率，即：选择某一信源的概率分布（p（xi）），使信道所能传送的信息率的最大值。答案：错14、填空题

一般情况下，信源编码可以分为（）、（）和（）。答案：离散信源编码;连续信源编码;相关信源编码15、判断题

游程序列的熵（“0”游程序列的熵与“1”游程序列的熵的和）大于等于原二元序列的熵。答案：错16、问答题

请给出信源编码器的主要任务以及对信源编码的基本要求。答案：解：信源编码器的主要任务是完成输入消息集合与输出代码集合之间的映射。对信源编码有如下基本要求：（1）选择合适的信道基本符号，以使映射后的代码适应信道。例如，ASCII码选用了16进制数。（2）寻求一种方法，把信源发出的消息变换成相应的代码组。这种方法就是编码，变换成的代码就是码字。（3）编码应使消息集合与代码组集合中的元素一一对应。17、问答题

简述香农第一编码定理的物理意义？答案：无失真信源编码，编码后尽可能等概率分布，使每个码元平均信息量最大。从而使信道信息传输率R达到信道容量C，实现信源与信道理想的统计匹配。18、单选

二进制通信系统使用符号0和1，由于存在失真，传输时会产生误码，用符号表示下列事件，u0：一个0发出u1：一个1发出v0：一个0收到v1：一个1收到则已知收到的符号，被告知发出的符号能得到的信息量是（）。A.H（U/V）

B.H（V/U）

C.H（U，V）

D.H（UV）答案：A19、判断题

线性码一定包含全零码。答案：对20、单选

下列离散信源，熵最大的是（）。A.H（1/3，1/3，1/3）；B.H（1/2，1/2）；C.H（0.9，0.1）；D.H（1/2，1/4，1/8，1/8）答案：D21、问答题

什么是限失真信源编码？答案：有失真信源编码的中心任务：在允许的失真范围内把编码的信息率压缩到最小。22、判断题

在编m（m>2）进制的哈夫曼码时，要考虑是否需要增加概率为0的码字，以使平均码长最短。答案：对23、填空题

在无失真的信源中，信源输出由（）来度量；在有失真的信源中，信源输出由（）来度量。答案：H(X);R(D)24、问答题

居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？答案：25、判断题

在游程编码过程中，“0”游程和“1”游程应分别编码，因此，它们的码字不能重复。答案：错26、填空题

信息论是应用近代数理统计方法研究信息的传输、存储与处理的科学，故称为（）；1948年香农在贝尔杂志上发表了两篇有关的“通信的数学理论”文章，该文用熵对信源的（）的度量，同时也是衡量（）大小的一个尺度；表现在通信领域里，发送端发送什么有一个不确定量，通过信道传输，接收端收到信息后，对发送端发送什么仍然存在一个不确定量，把这两个不确定量差值用（）来表示，它表现了通信信道流通的（），若把它取最大值，就是通信线路的（），若把它取最小值，就是（）。答案：3;4;5;6;7;8;927、单选

固定总价合同一般适用于()工程。A.设计图纸完整齐备B.工程规模小，工期短C.技术复杂D.工程量大答案：B28、问答题

请给出域的定义并说明集合{0，1，2}可否构成域及其理由。答案：解：域的定义：非空元素集合F，若在F中定义了加和乘两种运算，且满足（1）F关于加法构成Abel群，其加法恒元记为0；（2）F中非零元素全体对乘法构成Abel群，其乘法恒元记为1；（3）加法和乘法间有如下分配律：a（b+c）=ab+ac，（b+c）a=ba+ca，则称F是一个域。或者说，域是一个可换的、有单位元的、非零元素有逆元的环。集合{0，1，2}可以构成域。对该集合中的元素定义模3加和模3乘这两种运算，完全符合域必须满足的3个条件。29、判断题

率失真函数的值与信源的输入概率无关。答案：错30、填空题

离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的（）。答案：N倍计算机科学技术：信息论与编码1、名词解释

消息（或称为符号）答案：信息的数学表达层，它虽不是一个物理量，但是可以定量地加以描述，它是具体物理信号的进一步数学抽象2、填空题

对于二元序列0011100000011111001111000001111111，其相应的游程序列是（）。答案：236524573、填空题

连续信源或模拟信号的信源编码的理论基础是（）。答案：限失真信源编码定理4、单选

设有一个无记忆信源发出符号A和B，已知，发出二重符号序列消息的信源，无记忆信源熵为（）。A.0.81bit/二重符号B.1.62bit/二重符号C.0.93bit/二重符号D.1.86bit/二重符号答案：A5、名词解释

保真度准则答案：从平均意义上讲，信道每传送一个符号所引起的平均失真不能超过某一给定的限定值D，即要求D≤D，称这种对于失真的限制条件为保真度准则保真度准则。6、单选

下面哪一项不属于熵的性质：（）A．非负性

B．完备性

C．对称性

D．确定性答案：B7、判断题

互信息量I（X；Y）表示收到Y后仍对信源X的不确定度。答案：对8、填空题

一般情况下，信源编码可以分为（）、（）和（）。答案：离散信源编码;连续信源编码;相关信源编码9、问答题

简述几种信息分类的准则和方法。答案：狭义信息论、一般信息论、广义信息论10、填空题

信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就（），获得的信息量就越小。答案：越大11、单选

下列组合中不属于即时码的是（）。A.{0，01，011}B.{0，10，110}C.{00，10，11}D.{1，01，00}答案：A12、判断题

短期授信指半年以内（含半年）的授信，中长期授信指半年以上的授信。答案：错13、判断题

率失真函数没有最大值。答案：错14、判断题

算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的编码，是以另外一种形式实现的最佳统计匹配编码。答案：错15、填空题

信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为（）信道。答案：无记忆16、名词解释

最佳码答案：对于某一个信源和某一码符号集来说，若有唯一可译码，其平均编码长度小于所有其他唯一可译码的平均编码长度，则该码为对于某一个信源和某一码符号集来说，若有唯一可译码其平均编码长度小于所有其他唯一可译码的平均编码长度，则该码为最佳码（或紧致码）。17、填空题

平均失真度的下限取0的条件是失真矩阵的（）。答案：每一行至少有一个零元素18、判断题

当p（xi）、p（yj/xi）和d（xi，yj）给定后，平均失真度是一个随即变量。答案：错19、填空题

对于离散无记忆信道和信源的N次扩展，其信道容量CN=（）。答案：NC20、问答题

请给出失真函数、平均失真度、保真度准则、信息率失真函数的定义。答案：21、填空题

平均互信息量I（X；Y）与信源熵和条件熵之间的关系是（）。答案：（X;Y)=H(X)-H(X/Y）22、填空题

L-D编码适合于冗余位（）的情况。答案：较多或较少23、判断题

在编m（m>2）进制的哈夫曼码时，要考虑是否需要增加概率为0的码字，以使平均码长最短。答案：对24、问答题

试说明循环码对突发错误的检测能力。答案：25、判断题

在游程编码过程中，“0”游程和“1”游程应分别编码，因此，它们的码字不能重复。答案：错26、填空题

在认识论层次上研究信息的时候，必须同时考虑到（）、（）和（）三个方面的因素。答案：形式；含义；效用27、判断题

信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。答案：对28、填空题

离散无记忆N次扩展信源通过离散无记忆N次扩展信道的平均失真度是单符号信源通过单符号信道的平均失真度的（）倍。答案：N29、判断题

对于具有归并性能的无燥信道，当信源等概率分布时（p（xi）=1/n），达到信道容量。答案：错30、填空题

信息的（）是建立信息论的基础。答案：可度量性计算机科学技术：信息论与编码1、问答?为了使电视图象获得良好的清晰度和规定的对比度，需要用5×105个像素和10个不同的亮度电平，并设每秒要传送30帧图象，所有的像素是独立的，且所有亮度电平等概出现。求传输此图象所需要的信息率（bit/s）。答案：2、名词解释

香农信息答案：信息是事物运动状态或存在方式的不确定性的描述。3、名词解释

前向纠错（FEC）答案：是指差错控制过程中是单向的，无须差错信息的反馈。4、填空题

信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就（），获得的信息量就越小。答案：越大5、判断题

离散无噪信道的信道容量等于log2n，其中n是信源X的消息个数。答案：错6、填空题

互信息I（X；Y）与信息熵H（Y）的关系为：I（X；Y）（）（大于、小于或者等于）H（Y）。答案：小于7、判断题

离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。答案：对8、判断题

一维高斯分布的连续信源，其信源熵只与其均值和方差有关。答案：错9、名词解释

信源编码答案：就是针对信源输出符号序列的统计特性，通过概率匹配的编码方法，将出现概率大的信源符号尽可能编为短码，从而使信源输出的符号序列变换为最短的码字序列针对信源输出符号序列的统计特性，通过概率匹配的编码方法，将出现概率大的信源符号尽可能编为短码，从而使信源输出的符号序列变换为最短的码字序列。10、名词解释

平稳信源答案：概率分布函数与时间起点无关，平稳信源是有记忆的，记忆的长度有限。11、判断题

一般情况下，哈夫曼编码的效率大于香农编码和费诺编码。答案：对12、填空题

信源编码的主要目的是（）。答案：提高通信系统的有效性13、单选

下面哪一项不属于熵的性质：（）A．非负性

B．完备性

C．对称性

D．确定性答案：B14、判断题

信源X的概率分布为P（X）={1/2，1/3，1/6}，信源Y的概率分布为P（Y）={1/3，1/2，1/6}，则信源X和Y的熵相等。答案：对15、填空题

L-D编码是一种（）的方法。答案：分帧传送冗余位序列16、判断题

L-D编码适合于冗余位较多和较少的情况，否则，不但不能压缩码率，反而使其扩张。答案：对17、问答题

简述多用户信道的分类。答案：多址接入信道、广播信道和相关信源的多用户信道18、填空题

一般情况下，信源编码可以分为（）、（）和（）。答案：离散信源编码;连续信源编码;相关信源编码19、填空题

一个随机事件的（）定义为其出现概率对数的负值。答案：自信息量20、判断题

循环码的码集中的任何一个码字的循环移位仍是码字。答案：对21、判断题

连续信源和离散信源都具有可加性。答案：对22、问答题

简述二元哈夫曼编码的编码步骤。答案：1）将q个信源符号按概率递减的方式排列起来；2）用“0”、“1”码符号分别表示概率最小的两个信源符号，并将这两个概率最小的信源符号合并成一个新的符号，从而得到只包含q-1个符号的新信源，称之为S信源的S1缩减信源；3）将缩减信源中的符号仍按概率大小以递减次序排列，再将其最后两个概率最小的符号合并成一个符号，并分别用“0”、“1”码符号表示，这样又形成了由q-2个符号构成的缩减信源S2；4）依次继续下去，直到缩减信源只剩下两个符号为止，将这最后两个符号分别用“0”、“1”码符号表示；5）从最后一级缩减信源开始，向前返回，沿信源缩减方向的反方向取出所编的码元，得出各信源符号所对应的码符号序列，即为对应信源符号的码字。23、问答题

试说明循环码对突发错误的检测能力。答案：24、填空题

假设每个消息的发出都是等概率的，四进制脉冲所含信息量是二进制脉冲的（）倍。答案：225、填空题

信道编码定理是一个理想编码的存在性定理，即：信道无失真传递信息的条件是（）。答案：信息率小于信道容量26、问答题

请给出失真函数、平均失真度、保真度准则、信息率失真函数的定义。答案：27、问答题

请给出本原多项式的定义，并用一个实例来说明它的性质。答案：28、填空题

纠错码的检、纠错能力是指（）。答案：检测、纠正错误码元的数目29、问答题

每帧电视图像可以认为是由3×105个像素组成，所以像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现。问每帧图像含有多少信息量？若现在有一个广播员，在约10000个汉字中选1000个字来口述这一电视图像，试问若要恰当地描述此图像，广播员在口述中至少需要多少汉字？答案：30、填空题

单符号离散信源一般用随机变量描述，而多符号离散信源一般用（）描述。答案：随机矢量计算机科学技术：信息论与编码考试试题1、填空题

“0”游程和“1”游程可以分别进行哈夫曼编码，两个码表中的码字可以重复，但（）必须不同。答案：C码2、填空题

已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出（）个码元错误，最多能纠正（）个码元错误。答案：2；13、名词解释

平均失真度答案：定义平均失真度为失真函数的数学期望，及d（xi，yi）在X和Y得联合概率空间P（XY）中的统计平均值：D=E[D（xi，yi）]，起是在平均的意义上，从总体上对整个系统失真情况的描述。4、问答题

请给出信源编码器的主要任务以及对信源编码的基本要求。答案：解：信源编码器的主要任务是完成输入消息集合与输出代码集合之间的映射。对信源编码有如下基本要求：（1）选择合适的信道基本符号，以使映射后的代码适应信道。例如，ASCII码选用了16进制数。（2）寻求一种方法，把信源发出的消息变换成相应的代码组。这种方法就是编码，变换成的代码就是码字。（3）编码应使消息集合与代码组集合中的元素一一对应。5、填空题

对于香农编码、费诺编码和哈夫曼编码，编码方法惟一的是（）。答案：香农编码6、单选

下列组合中不属于即时码的是（）。A.{0，01，011}B.{0，10，110}C.{00，10，11}D.{1，01，00}答案：A7、填空题

当消息经过多级处理后，随着处理器数目的增多，输入消息与输出消息之间的平均互信息量（）。答案：趋于变小8、填空题

一个随机事件发生某一结果后所带来的信息量称为自信息量，定义为（）。答案：其发生概率对数的负值9、填空题

克劳夫特不等式是唯一可译码（）的充要条件。答案：存在10、填空题

信道的输出仅与信道当前输入有关，而与过去输入无关的信道称为（）信道。答案：无记忆11、判断题

离散平稳有记忆信源符号序列的平均符号熵随着序列长度L的增大而增大。答案：错12、名词解释

无记忆信道答案：在某一时刻信道的输出消息仅与当时的信道输入消息有关，而与前面时刻的信道输入或输出消息无关。13、判断题

香农信源编码方法在进行编码时不需要预先计算每个码字的长度。答案：错14、问答题

什么是香农容量公式？为保证足够大的信道容量，可采用哪两种方法？答案：15、名词解释

信源冗余度答案：信源熵的相对率为信源实际的信息熵与同样符号数的最大熵的比值：η=H无穷/H0，定义信源的冗余度为1减去信源熵的相对率η，即ξ=1-η。16、填空题

（）是香农信息论最基本最重要的概念答案：熵17、填空题

必然事件的自信息是（）。答案：018、填空题

（）称为香农第二极限定理。答案：有扰离散信道编码定理19、判断题

非奇异的定长码一定是唯一可译码。答案：错20、填空题

按照不同的编码目的，编码可以分为三类：分别是（）、（）和（）。答案：信源编码;信道编码;安全编码21、判断题

一般情况下，哈夫曼编码的效率大于香农编码和费诺编码。答案：对22、名词解释

码距答案：两个等长码字之间对应码元不相同的数目，称为码距23、单选

同时扔两个正常的骰子，即各面呈现的概率都是1/6，若点数之和为12，则得到的自信息为（）。A.－log36bitB.log36bitC.－log（11/36）bitD.log（11/36）bit答案：B24、填空题

保密系统的密钥量越小，密钥熵H（K）就越（），其密文中含有的关于明文的信息量I（M；C）就越（）。答案：小;大25、单选

一个随即变量x的概率密度函数P（x）=x/2，，则信源的相对熵为（）。A.0.5bit

B.0.72bit

C.1bit

D.1.44bit答案：C26、问答题

信源编码的和信道编码的目的是什么？答案：信源编码的作用：（1）符号变换：使信源的输出符号与信道的输入符号相匹配；（2）冗余度压缩：是编码之后的新信源概率均匀化，信息含量效率等于或接近于100%。信道编码的作用：降低平均差错率。27、填空题

多用户信道的信道容量用（）来表示。答案：多维空间的一个区域的界限28、填空题

在无失真的信源中，信源输出由（）来度量；在有失真的信源中，信源输出由（）来度量。答案：H(X);R(D)29、名词解释

输出对称矩阵答案：转移概率矩阵的每一列都是第一列的置换（包含同样元素），则该矩阵称为输出对称矩阵。30、问答题

试问四进制、八进制脉冲所含信息量是二进制脉冲的多少倍？答案：31、判断题

在已知收码R的条件下找出可能性最大的发码作为译码估计值，这种译码方法叫做最佳译码。答案：对32、填空题

根据码字所含的码元的个数，编码可分为（）编码和（）编码。答案：定长;变长33、判断题

平均互信息量I（X；Y）对于信源概率分布p（xi）和条件概率分布p（yj/xi）都具有凸函数性。答案：对34、填空题

信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就（），获得的信息量就越小。答案：越大35、判断题

连续信源和离散信源的熵都具有非负性。答案：错36、填空题

一般情况下，信源编码可以分为（）、（）和（）。答案：离散信源编码;连续信源编码;相关信源编码37、问答题

简述广义的信道编码的分类及各类编码的作用。答案：1、按照信道特性进行划分，信道编码可以分为：以纠独立随机差错为主的信道编码、以纠突发差错为主的信道编码、和纠混合差错的信道编码。2、从功能上看，信道编码可以分为纠错码与检错码两类，纠错码一定能检错，检错吗不一定能纠错，平常所说的纠错码是两者的统称。38、判断题

高斯加性信道的信道容量只与信道的信噪有关。答案：对39、判断题

连续信源和离散信源的平均互信息都具有非负性。答案：对40、填空题

设Ｘ的取值受限于有限区间［a，b］，则X服从（）分布时，其熵达到最大；如X的均值为，方差受限为，则X服从高斯分布时，其熵达到最大。答案：均匀;41、填空题

平均互信息量I（X；Y）与信源熵和条件熵之间的关系是（）。答案：（X;Y)=H(X)-H(X/Y）42、填空题

等重码可以检验（）。答案：全部的奇数位错和部分的偶数位错43、名词解释

有记忆信道答案：在任意时刻信道的输出消息不仅与当时信道的输入消息有关，而且还与以前时刻的信道输入消息和（或）输出消息有关。44、问答?有两个二元随机变量X和Y，它们的联合概率为P[X=0，Y=0]=1/8，P[X=0，Y=1]=3/8，P[X=1，Y=1]=1/8，P[X=1，Y=0]=3/8。定义另一随机变量Z=XY，试计算：（1）H（X），H（Y），H（Z），H（XZ），H（YZ），H（XYZ）；（2）H（X/Y），H（Y/X），H（X/Z），H（Z/X），H（Y/Z），H（Z/Y），H（X/YZ），H（Y/XZ），H（Z/XY）；（3）I（X；Y），I（X；Z），I（Y；Z），I（X；Y/Z），I（Y；Z/X），I（X；Z/Y）。答案：45、判断题

信息率失真函数R（D）是在平均失真不超过给定失真限度D的条件下，信息率容许压缩的最小值。答案：对46、问答题

每帧电视图像可以认为是由3×105个像素组成，所以像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现。问每帧图像含有多少信息量？若现在有一个广播员，在约10000个汉字中选1000个字来口述这一电视图像，试问若要恰当地描述此图像，广播员在口述中至少需要多少汉字？答案：47、填空题

多用户信道可以分成几种最基本的类型：（）、（）和相关信源信道。答案：多址接入信道；广播信道48、填空题

某离散无记忆信源X，其符号个数为n，则当信源符号呈（）分布情况下，信源熵取最大值（）。答案：等概；log（n）49、问答题

解释无失真变长信源编码定理。答案：50、填空题

按照信源发出的消息在时间和幅度上的分布情况，可将信源分成（）信源和（）信源两大类。答案：离散;连续51、填空题

按树图法构成的码一定满足（）的定义。答案：即时码52、判断题

可以用克劳夫特不等式作为唯一可译码存在的判据。答案：对53、名词解释

前向纠错（FEC）答案：是指差错控制过程中是单向的，无须差错信息的反馈。54、填空题

互信息I（X；Y）与信息熵H（Y）的关系为：I（X；Y）（）（大于、小于或者等于）H（Y）。答案：小于55、判断题

某一信源，不管它是否输出符号，只要这些符号具有某些概率特性，就有信息量。答案：错56、问答题

居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？答案：57、问答题

智能控制具有哪些特点？答案：（1）同时具有以知识表示的非数学广义模型和以数学模型（含计算智能模型与算法）表示的混合控制过程，也往往是那些含有复杂性、不完全性、模糊性或不确定性以及不存在已知算法的过程，并以知识进行推理，以启发式策略和智能算法来引导求解过程。（2）智能控制的核心在高层控制，即组织级。高层控制的任务在于对实际环境或过程进行组织，即决策和规划，实现广义问题求解。（3）智能控制是一门边缘交叉学科。实际上，智能控制涉及更多的相关学科。智能控制的发展需要各相关学科的配合与支援，同时也要求智能控制工程师是个知识工程师。（4）智能控制是一个新兴的研究领域。无论在理论上或实践上它都还很不成熟、很不完善，需要进一步探索与开发。58、问答题

简述多用户信道的分类。答案：多址接入信道、广播信道和相关信源的多用户信道59、问答题

简述香农第一编码定理的物理意义？答案：无失真信源编码，编码后尽可能等概率分布，使每个码元平均信息量最大。从而使信道信息传输率R达到信道容量C，实现信源与信道理想的统计匹配。60、判断题

对于BSC信道，信道编码应当是一对一的编码，因此，消息m的长度等于码字c的长度。答案：错61、填空题

信息的（）是建立信息论的基础。答案：可度量性62、填空题

游程序列的熵（）原二元序列的熵。答案：等于63、判断题

率失真函数的最小值是0。答案：对64、判断题

率失真函数没有最大值。答案：错65、问答题

简述费诺编码的编码步骤。答案：费诺编码的步骤：1）信源符号以概率递减的次序排列起来；2）将排列好的信源符号按概率值划分成两大组，使每组的概率之和接近于相等，并对每组各赋予一个二元码符号“0”和“1”；3）将每一大组的信源符号再分成两组，使划分后的两个组的概率之和接近于相等，再分别赋予一个二元码符号；4）依次下去，直至每个小组只剩一个信源符号为止5）信源符号所对应的码字即为费诺码。66、问答题

在图片传输中，每帧约有2.25×106个像素，为了能很好的重现图像，需分16个量度电平，并假设量度电平等概率分布，试计算每分钟传输一帧图片所需信道的带宽（信噪功率比为30dB）.答案：67、填空题

线性分组码是同时具有（）的纠错码。答案：分组特性和线性特性68、填空题

差错控制的基本方式大致可以分为（）、（）和（）。答案：前向纠错；反馈重发；混合纠错69、判断题

信源的消息通过信道传输后的误差或失真越大，信宿收到消息后对信源存在的不确定性就越小，获得的信息量就越小。答案：错70、判断题

卷积码是一种特殊的线性分组码。答案：错71、判断题

当随即变量X和Y相互独立时，条件熵等于信源熵。答案：对72、判断题

必然事件和不可能事件的自信息量都是0。答案：错73、单选

根据树图法构成规则，（）A．在树根上安排码字B．在树枝上安排码字C．在中间节点上安排码字D．在终端节点上安排码字答案：D74、问答题

简述最大离散熵定理。对于一个有m个符号的离散信源，其最大熵是多少？答案：75、填空题

平均错误概率不仅与信道本身的（）特性有关，还与（）规则和（）方法有关答案：统计；译码；编码76、判断题

最大信息传输速率，即：选择某一信源的概率分布（p（xi）），使信道所能传送的信息率的最大值。答案：错77、填空题

信息论是应用近代数理统计方法研究信息的传输、存储与处理的科学，故称为（）；1948年香农在贝尔杂志上发表了两篇有关的“通信的数学理论”文章，该文用熵对信源的（）的度量，同时也是衡量（）大小的一个尺度；表现在通信领域里，发送端发送什么有一个不确定量，通过信道传输，接收端收到信息后，对发送端发送什么仍然存在一个不确定量，把这两个不确定量差值用（）来表示，它表现了通信信道流通的（），若把它取最大值，就是通信线路的（），若把它取最小值，就是（）。答案：3;4;5;6;7;8;978、问答?为了使电视图象获得良好的清晰度和规定的对比度，需要用5×105个像素和10个不同的亮度电平，并设每秒要传送30帧图象，所有的像素是独立的，且所有亮度电平等概出现。求传输此图象所需要的信息率（bit/s）。答案：79、判断题

信道容量是信道中能够传输的最小信息量。答案：错80、判断题

多用户信道的信道容量不能用一个数来代表，但信道的信息率可以用一个数来表示。答案：错81、填空题

在实际的游程编码过程中，对长码一般采取（）处理的方法。答案：截断82、判断题

率失真函数对允许的平均失真度具有上凸性。答案：对83、判断题

对于具有归并性能的无燥信道，当信源等概率分布时（p（xi）=1/n），达到信道容量。答案：错84、填空题

在现代通信系统中，信源编码主要用于解决信息传输中的（）性，信道编码主要用于解决信息传输中的（）性，加密编码主要用于解决信息传输中的（）性。答案：有效；可靠；安全85、填空题

当信道的噪声对输入的干扰作用表现为噪声和输入的线性叠加时，此信道称为（）。答案：加性连续信道86、问答题

简述信息的特征。答案：信息的基本概念在于它的不确定性，任何已确定的事物都不含信息。接收者在收到信息之前，对它的内容是不知道的，所以信息是新知识、新内容。信息是能使认识主体对某一事物的未知性或不确定性减少的有用知识。信息可以产生，也可以消失，同时信息可以被携带、贮存及处理。信息是可以量度的，信息量有多少的差别。87、填空题

一个随机事件的（）定义为其出现概率对数的负值。答案：自信息量88、判断题

限平均功率最大熵定理指出对于相关矩阵一定的随机矢量X，当它是正态分布时具有最大熵。答案：对89、判断题

N维统计独立均匀分布连续信源的熵是N维区域体积的对数。答案：对90、填空题

信源的冗余度来自两个方面，一是信源符号之间的（），二是信源符号分布的（）。答案：相关性；不均匀性91、名词解释

奇异码答案：包含相同的码字的码称为奇异码92、填空题

信源编码的目的是提高通信的（），信道编码的目的是提高通信的（），加密编码的目的是保证通信的（）。答案：有效性；可靠性；安全性93、判断题

在游程编码过程中，“0”游程和“1”游程应分别编码，因此，它们的码字不能重复。答案：错94、问答题

请给出连续信源分别为均匀分布、高斯分布和指数分布时信源的相对熵。答案：95、填空题

无失真信源编码的中心任务是编码后的信息率压缩接近到（）限失真压缩中心任务是在给定的失真度条件下，信息率压缩接近到（）。答案：1;296、填空题

自信息量的单位一般有（）。答案：比特、奈特和哈特97、填空题

若分组码H阵列列线性无关数为n，则纠错码的最小距离dmin为（）。答案：1098、填空题

对于离散无记忆信道和信源的N次扩展，其信道容量CN=（）。答案：NC99、填空题

设信道输入端的熵为H（X），输出端的熵为H（Y），该信道为无噪有损信道，则该信道的容量为（）答案：MaxH（Y）100、判断题

离散无噪信道的信道容量等于log2n，其中n是信源X的消息个数。答案：错101、判断题

等重码和奇（偶）校验码都可以检出全部的奇数位错答案：对102、填空题

按照信息的地位，可以把信息分成（）和（）。答案：客观信息；主观信息103、填空题

信息率失真理论是量化、数模转换、频带压缩和（）的理论基础。答案：数据压缩104、判断题

汉明码是一种线性分组码。答案：对105、问答题

试说明循环码对突发错误的检测能力。答案：106、填空题

设有一个离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R（）C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。答案：小于107、名词解释

保真度准则答案：从平均意义上讲，信道每传送一个符号所引起的平均失真不能超过某一给定的限定值D，即要求D≤D，称这种对于失真的限制条件为保真度准则保真度准则。108、填空题

对具有8个消息的单符号离散无记忆信源进行4进制哈夫曼编码时，为使平均码长最短，应增加（）个概率为0的消息。答案：2109、问答题

信息的主要特征有哪些？答案：信息具有以下特征：（1）信息是可以识别的（2）信息的载体是可以转换的（3）信息是可以存贮的（4）信息是可以传递的（5）信息是可以加工的（6）信息是可以共享的110、填空题

要使通信系统做到传输信息有效、可靠和保密，必须首先（）编码，然后（）编码，再（）编码，最后送入信道。答案：信源;加密;信道111、判断题

信源X的概率分布为P（X）={1/2，1/3，1/6}，对其进行哈夫曼编码得到的码是唯一的。答案：错112、问答题

请给出平均码长界定定理及其物理意义。答案：113、判断题

线性码一定包含全零码。答案：对114、填空题

对于均值为0，平均功率受限的连续信源，信源的冗余度决定于平均功率的限定值P和信源的熵功率（）。答案：之比115、填空题

在认识论层次上研究信息的时候，必须同时考虑到（）、（）和（）三个方面的因素。答案：形式；含义；效用116、单选

纠错编码中，下列哪种措施不能减小差错概率（）。A.增大信道容量B.增大码长C.减小码率D.减小带宽答案：D117、判断题

离散信源或数字信号的信源编码的理论基础是限失真信源编码定理。答案：错118、填空题

信道一般指传输信息的物理媒介，分为（）信道和（）信道。答案：有线；无线119、填空题

人们研究信息论的目的是为了（）、（）、（）地交换和利用各种各样的信息。答案：高效；可靠；安全120、填空题

离散对称信道输入等概率时，输出为（）分布。答案：等概121、填空题

信道编码定理是一个理想编码的存在性定理，即：信道无失真传递信息的条件是（）。答案：信息率小于信道容量122、问答题

试证明n维随机变量的共熵，不大于它们各自的熵之和。答案：123、判断题

单符号离散信源的自信息和信源熵都是一个确定值。答案：错124、判断题

多用户信道的信道容量不能用一个数来代表。答案：对125、填空题

纠错码的检、纠错能力是指（）。答案：检测、纠正错误码元的数目126、判断题

率失真函数的值与信源的输入概率无关。答案：错127、单选

条件熵和无条件熵的关系是：（）A．H（Y/X）＜H（Y）B．H（Y/X）＞H（Y）C．H（Y/X）≤H（Y）D．H（Y/X）≥H（Y）答案：C128、填空题

离散无记忆N次扩展信源通过离散无记忆N次扩展信道的平均失真度是单符号信源通过单符号信道的平均失真度的（）倍。答案：N129、问答题

写出香农公式，并说明其物理意义。当信道带宽为5000Hz，信噪比为30dB时求信道容量。答案：130、判断题

互信息量I（X；Y）表示收到Y后仍对信源X的不确定度。答案：对131、问答题

简述信源的符号之间的依赖与信源冗余度的关系。答案：当信源的符号之间有依赖时，信源输出消息的不确定性减弱。而信源冗余度正是反映信源符号依赖关系的强弱，冗余度越大，依赖关系就越大。132、问答题

解释信息传输率、信道容量、最佳输入分布的概念，说明平均互信息与信源的概率分布、信道的传递概率间分别是什么关系？答案：信息传输率R指信道中平均每个符号所能传送的信息量。信道容量是一个信道所能达到的最大信息传输率。信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。平均互信息是信源概率分布的∩型凸函数，是信道传递概率的U型凸函数。133、填空题

单符号离散信源一般用随机变量描述，而多符号离散信源一般用（）描述。答案：随机矢量134、问答题

两个离散随机变量X和Y，其和为Z＝X＋Y，若X和Y统计独立，求证：（1）H（X）≤H（Z），H（Y）≤H（Z）（2）H（XY）≥H（Z）答案：135、填空题

按照信息的性质，可以把信息分成（）、（）和（）。答案：语法信息；语义信息；语用信息136、单选

固定总价合同一般适用于()工程。A.设计图纸完整齐备B.工程规模小，工期短C.技术复杂D.工程量大答案：B137、问答题

简述二元哈夫曼编码的编码步骤。答案：1）将q个信源符号按概率递减的方式排列起来；2）用“0”、“1”码符号分别表示概率最小的两个信源符号，并将这两个概率最小的信源符号合并成一个新的符号，从而得到只包含q-1个符号的新信源，称之为S信源的S1缩减信源；3）将缩减信源中的符号仍按概率大小以递减次序排列，再将其最后两个概率最小的符号合并成一个符号，并分别用“0”、“1”码符号表示，这样又形成了由q-2个符号构成的缩减信源S2；4）依次继续下去，直到缩减信源只剩下两个符号为止，将这最后两个符号分别用“0”、“1”码符号表示；5）从最后一级缩减信源开始，向前返回，沿信源缩减方向的反方向取出所编的码元，得出各信源符号所对应的码符号序列，即为对应信源符号的码字。138、名词解释

完备码答案：如果所有禁用码字都包含在某码球内，可以按最大似然译码原则向球心单向译码，这样的码叫如果所有禁用码字都包含在某码球内，可以按最大似然译码原则向球心单向译码，这样的码叫完备码。139、判断题

信源熵具有严格的下凸性。答案：错140、填空题

对于限峰值功率的N维连续信源，当概率密度（）时连续信源熵具有最大值。答案：均匀分布141、填空题

信息的基本概念在于它的（）。答案：不确定性142、填空题

信源的消息通过信道传输后的误差或失真越大道传输消息所需的信息率（）。答案：也越小143、问答题

从大量统计资料知道，男性中红绿色盲的发病率为7%，女性发病率为0.5%.如果你问一位男士：“你是否是红绿色盲？”他的回答可能是：“是”，也可能“不是”。问这两个回答中各含有多少信息量？平均每个回答中各含有多少信息量？如果你问一位女士，则她的答案中含有多少平均信息量？答案：144、问答题

信息的重要性质有哪些？答案：可靠性、保密性、有效性、认证性145、问答题

简单介绍哈夫曼编码的步骤。答案：①将信源消息符号按其出现的概率大小依次排列p（x1）≥p（x2）≥…≥p（xn）②取两个概率最小的符号分别配以0和1，并将这两个概率相加作为一个新符号的概率，与未分配码元的符号重新排队。③对重排后的两个概率最小符号重复步骤2的过程。④继续上述过程，直到最后两个符号配以0和1为止。⑤从最后一级开始，向前返回得到各个信源符号所对应的码元序列，即相应的码字。146、填空题

L-D编码适合于冗余位（）的情况。答案：较多或较少147、单选

下列离散信源，熵最大的是（）。A.H（1/3，1/3，1/3）；B.H（1/2，1/2）；C.H（0.9，0.1）；D.H（1/2，1/4，1/8，1/8）答案：D148、问答题

请给出失真函数、平均失真度、保真度准则、信息率失真函数的定义。答案：149、填空题

如果所有码字都配置在二进制码树的叶节点，则该码字为（）码。答案：唯一可译150、名词解释

香农信息答案：信息是事物运动状态或存在方式的不确定性的描述。151、填空题

对于二元序列0011100000011111001111000001111111，其相应的游程序列是（）。答案：23652457152、填空题

信源编码的目的是：（）答案：提高通信的有效性153、判断题

一维高斯分布的连续信源，其信源熵只与其均值和方差有关。答案：错154、判断题

定长编码的效率一般小于不定长编码的效率。答案：对155、问答题

信道的分类方法有哪些？答案：根据载荷消息的媒体不同（邮递信道、电信道、光信道、声信道）。根据信息传输的方式（输入和输出信号的形式。信道的统计特性、信道的用户多少）。根据信道的用户多少：两端（单用户）信道、多端（多用户）信道。根据信道输入端和输出端的关联（无反馈信道、反馈信道）根据信道的参数与时间的关系（固定参数信道、时变参数信道。根据输入和输出信号的特点（离散信道、连续信道、半离散或半连续信道波形信道）156、填空题

如果信源和失真度一定，则平均失真度是（）的函数。答案：信道统计特性157、名词解释

信息率失真函数答案：在保真度准则下，再现信源消息所必须获得的最少平均信息量；在保真度准则下，再现信源消息所必须获得的最少平均信息量；满足保真度准则下，信源可压缩的最小值。158、填空题

信息率失真函数，简称为率失真函数，即：试验信道中的平均互信息量的（）。答案：最小值159、问答题

请给出最佳自由距离卷积码的定义并简要说明如何获得具有最佳自由距离的卷积码。答案：160、问答题

什么是平均自信息量与平均互信息，比较一下这两个概念的异同？答案：161、填空题

求解率失真函数的问题，即：在给定失真度的情况下，求信息率的（）。答案：极小值162、名词解释

自信息量答案：一个随机事件发生某一结果后所带来的信息量成为自信息量，定义为其发生概率对数的负值。163、判断题

离散无记忆序列信源中平均每个符号的符号熵等于单个符号信源的符号熵。答案：对164、问答题

简述几种信息分类的准则和方法。答案：狭义信息论、一般信息论、广义信息论165、名词解释

信道散布度答案：表示在已知X后，对于输出Y尚存的平均不确定性；166、填空题

“冗余变换”即：将一个冗余序列转换成一个二元序列和一个（）。答案：缩短了的多元序列167、判断题

连续信源和离散信源都具有可加性。答案：对168、判断题

短期授信指半年以内（含半年）的授信，中长期授信指半年以上的授信。答案：错169、填空题

自信息量表征信源中各个符号的不确定度，信源符号的概率越大，其自信息量越（）答案：小170、填空题

狭义的信道编码即：（）。答案：检、纠错编码171、填空题

离散平稳无记忆信源X的N次扩展信源的熵等于离散信源X的熵的（）。答案：N倍172、判断题

算术编码是一种无失真的分组信源编码，其基本思想是将一定精度数值作为序列的编码，是以另外一种形式实现的最佳统计匹配编码。答案：错173、判断题

游程序列的熵（“0”游程序列的熵与“1”游程序列的熵的和）大于等于原二元序列的熵。答案：错174、填空题

若一离散无记