第六章信道编码

1、2021-12-151总复习1、按发出符号之间的关系来分，信源可以分为（ ）和（ ）2、连续信源的熵是（ ），不再具有熵的物理含义。3、对于有记忆离散序列信源，需引入（ ）描述信源发出的符号序列内各个符号之间的统计关联特性3、连续信源X,平均功率被限定为P时，符合（ ）分布才具有最大熵，最大熵是（ ）。4、数据处理过程中信息具有（ ）。5、信源冗余度产生的原因包括（ ）和（ ）。6、单符号连续信道的信道容量取决于（ ）。7、 香农信息极限的含义是（ ）。8、对于无失真信源编码，平均码长越小，说明压缩效率（ ）。2021-12-1529、对于限失真信源编码，保证 D的前提下，尽量减少（ ）。10

2、、立即码指的是（ ）。11、算术编码是（ ）分组码。12、游程编码是（ ）失真信源编码。13、线性分组码的（ ）就是该码空间的对偶空间的生成矩阵。14、若（n，k）线性分组码为MDC码，那么它的最小码距为（ ）。15、完备码的特点是（ ）。16、卷积码的自由距离决定了其（ ）。2021-12-153（ ） 1、信息是指各个事物运动的状态及状态变化的方式。（ ）2、信息就是信息，既不是物质也不是能量。（ ）3、马尔可夫信源是离散无记忆信源。（ ）4、不可约的马尔可夫链一定是遍历的。（ ） 5、单符号连续信源的绝对熵为无穷大。（ ）6、序列信源的极限熵是这样定义的：H(X)= H(XL|X1,X2

3、,XL-1)。（ ）7、平均互信息量I(X;Y)是接收端所获取的关于发送端信源X的信息量。（ ）8、信源X,经过处理后，输出为Y，H(Y)小于H(X), 说明信息不增。（ ）9、如果一个消息包含的符号比表达这个消息所需要的符号多，那么该消息存在冗余度。（ ）10、有噪无损离散信道的输入为X,输出为Y，那么其信道容量（）。2021-12-154（ ）11、非高斯噪声信道的信道容量比高斯噪声信道的信道容量小。（ ）12、信息率失真函数具有单调递减性。（ ）13、异前缀码不能及时可译。（ ）14、用码树构造的一定是及时码。（ ）15、香农编码压缩了符号相关造成的冗余。（ ）16、有失真信源编码指的是

4、保真度准则下的信源编码。（ ）17、变长无失真信源编码比定长编码的编码效率高。（ ）18、香农编码是最佳编码。（ ）19、卷积、交织都可以达到差错随机化的目的。（ ）20、卷积码的序列距离决定了其检错和纠错能力。2021-12-155l信息、消息、信号的定义是什么？三者的关系是什么？信息、消息、信号的定义是什么？三者的关系是什么？ l什么样的马尔可夫链是遍历的？什么样的马尔可夫链是遍历的？l简述离散信源的最大熵定理。简述离散信源的最大熵定理。l简述信息率失真函数的物理意义。简述信息率失真函数的物理意义。l叙述变长信源编码定理。叙述变长信源编码定理。 l惟一可译码存在的充要条件是什么惟一可译码存

5、在的充要条件是什么 ？ l什么是差错图样？有哪些差错图样类型？什么是差错图样？有哪些差错图样类型？ l什么是本原多项式？什么是本原多项式？l对于信道编码，有哪两种译码算法？简述之。对于信道编码，有哪两种译码算法？简述之。l为什么说为什么说BSC信道的最小距离译码就是最大似然译码？信道的最小距离译码就是最大似然译码？l什么是完备吗？举出两种完备吗的例子。什么是完备吗？举出两种完备吗的例子。l写出卷积码的解析表达式写出卷积码的解析表达式 。说明为什么称之为卷积码？。说明为什么称之为卷积码？2021-12-156从大量统计资料知道，男性中红绿色盲的发病率为从大量统计资料知道，男性中红绿色盲的发病率为

6、7%，女，女性发病率为性发病率为0.5%。如果问一位男同志：。如果问一位男同志：“你是否是红绿色你是否是红绿色盲盲?”，他的回答可能是，他的回答可能是“是是”，可能是，可能是“否否”，平均每个回，平均每个回答中含有多少信息量？如果问一位女同志，则答案中含有的答中含有多少信息量？如果问一位女同志，则答案中含有的平均信息量是多少？如何理解这两个结果的大小？平均信息量是多少？如何理解这两个结果的大小？ 居住在某地区的女孩中有居住在某地区的女孩中有25%是大学生，在女大学生是大学生，在女大学生中有中有75%身高为身高为1.6米以上，而女孩中身高米以上，而女孩中身高1.6米以上的米以上的占总数一半。假如

7、得知占总数一半。假如得知“身高身高1.6米以上的某女孩是大米以上的某女孩是大学生学生”的消息，问获得多少信息量？的消息，问获得多少信息量？2021-12-157 二元信源二元信源X,P(0)=2/3,经过下面的离散无记经过下面的离散无记忆信道后，输出用忆信道后，输出用Y表示。符号转移矩阵为：表示。符号转移矩阵为：试求试求:H(X),H(Y|X),H(X,Y)，H(X|Y),H(Y)。* 某信道为强对称信道（即均匀信道）输入符号和输出符某信道为强对称信道（即均匀信道）输入符号和输出符号的个数均为号的个数均为m，正确的传输概率为，正确的传输概率为1,错误概率为错误概率为被被对称的均匀分给对称的均匀

8、分给m1个输出符号个输出符号 ，写出其信道容量的表达，写出其信道容量的表达式。式。 证明联合熵证明联合熵H(X,Y)与熵与熵H(X)及条件熵及条件熵H(X|Y)之间的之间的关系式。关系式。2021-12-158 某有扰离散信道的传输情况如下图所示某有扰离散信道的传输情况如下图所示 ,求该信道的信道容量。求该信道的信道容量。 电话信道的带宽为电话信道的带宽为3.3kHz,若信噪功率比为若信噪功率比为20dB.求该信求该信道的信道容量。道的信道容量。 一个平均功率受限的连续信道，其通频带为一个平均功率受限的连续信道，其通频带为1MHZ,信道上信道上存在白色高斯噪声。存在白色高斯噪声。（1）已知信道

9、上的信号和噪声的平均功率比值）已知信道上的信号和噪声的平均功率比值 为为10 ，求该信，求该信道的信道容量。道的信道容量。（2）信道上的信号和噪声的平均功率比值降为）信道上的信号和噪声的平均功率比值降为5，要达到相同，要达到相同的信道容量，信道的通频带应为多大？的信道容量，信道的通频带应为多大？（3）若信道通频带减少为）若信道通频带减少为0.5MHZ, 信道上的信号和噪声的平信道上的信号和噪声的平均功率比值应为多大？均功率比值应为多大？2021-12-159设有离散无记忆信源设有离散无记忆信源P(X)=0.37,0.25,0.18,0.10,0.07,0.03,（1）求该信源的符号熵。）求该信

10、源的符号熵。（2）用哈夫曼编码编成二元变长码，计算其编码效率。）用哈夫曼编码编成二元变长码，计算其编码效率。（3）要求其译码错误小于）要求其译码错误小于10采用定长二元码要达到（采用定长二元码要达到（2）中）中的哈夫曼编码效率，问需要多少个信源符号连在一起编？的哈夫曼编码效率，问需要多少个信源符号连在一起编？ 设信源设信源P(X)=0.20,0.01,0.10, 0.19,0.18,0.15,0.17 ,（1）用香农编码编成二元变长码，计算）用香农编码编成二元变长码，计算其编码效率。其编码效率。（2）用哈夫曼编码编成二元变长码，计算其编码效率。）用哈夫曼编码编成二元变长码，计算其编码效率。2021-12-1510 现有线性分组码，其生成矩阵为现有线性分组码，其生成矩阵为 G = （1）计算码集，并列出信息组与码字的映射关系。）计算码集，并列出信息组与码字的映射关系。（2）将该码系统化处理，写出系统形式的生成矩阵。）将该码系统化处理，写出系统形式的生成矩阵。（3）写出系统码的校验矩阵，若收码）写出系统码的校验矩阵，若收码r=100110，检验，检验它是否为码字？它是否为码字？011101110001111010下面是某下面是某(n,k)线性二元码