《信息论与编码》答案-第四章(word文档良心出品).doc

1、信息论与编码第四章 信息率失真函数习题答案4.1解：依题意可知：失真矩阵：d01，转移概率 p(bj| ai110)1平均失真：22Dp(ai ) p(bj | ai )d ( ai ,bj )i 1j11/ 2(1)0 1/211/ 21 1/2(1)04.2解：依题意可知：失真矩阵：d01，20Dminp(xi ) min d( xi , y j )1/ 201/ 200ijDmaxmin D jminp(xi )d ( xi , yj )1/ 201/ 211/2(1/2 2 1/2 0 1舍去)ji当 Dmin0 ， R(Dmin )R(0)H(X)log 21bit10因为没有失真，

2、此时的转移概率为P01当 Dmax1/ 2 ， R(Dmax )0因为取的是第二列的Dmax 值，所以输出符号概率: p(b1)0, p(b2 )1, a1b2, a2b2 , 因01此编码器的转移概率为 P104.3解：Dmaxmin D jminjiDminp( xi ) min d (xiij当 Dmin0 ， R(Dmin )p(xi )d (xi , y j ), y j )104R(0)H(X)111113141404441010100444log 42bit10000100因为没有失真，此时的转移概率为P当 Dmax3 / 4 ， R(D max )000100001因为任何一列

3、的D max 值均为 3/4，所以取输出符号概率: p(b1) 1, p(b2 ) 0, p(b3 )0, p(b4 ) 0 ，即 a1 b1 , a2 b1,a310001000码器的转移概率为 P000110004.4解：依题意可知：失真矩阵： d011/ 4，101/ 4Dminp(xi ) min d( xi , y j )1/ 201/ 20 0jiDmaxmin D j minp(xi )d ( xi , yj )min(1/ 2 1/ 4 1/ 2 1/ 4)ji当 Dmin0 ， R(Dmin )R(0)H(X)log 21bitb1, a4b1 因此编1/ 4(其它 2个均为

4、 1/ 2)因为没有失真，此时的转移概率为P100010当 Dmax1/ 4， R(D max ) 0因为取的是第三列的 Dmax 值为 1/4，所以取输出符号概率: p(b1 )0, p(b2 )0, p(b3 )3 ，即 a1b3 ,a2b3 因此编码器的转移概率为P0010014.5解：(1)依题意可知：失真矩阵： d01，转移概率为： P1010q1qnmDp(xi ) p( y j | xi )d( xi , y j)p10p01(1p)q1(1 p) (1q) 0i 1j 1q (1p)(2) D minp(xi ) mind (xi , y j )p0(1p)00ij因为 R(

5、D) 是 D 的递减函数，所以max( R( D )R(D min ) H ( p)H (D min )p log p(1p)log(1p)当 q 0时可达到 max( R(D ) ，此时 D 0(3)Dmaxmin D jminp( xi ) d( xi , y j )p0p1p(另一个 1p更大 ，舍去 )ji因为 R( D) 是 D 的递减函数，所以min( R(D )R( D max )H ( p)H ( Dmax )0当 q1时可达到 min( R( D ) ，此时 D1p(图略，见课堂展示)4.6解：依题意可知：失真矩阵：01u01d，信源1/ 21/ 201p(u)Dminp(x

6、i ) min d( xi , y j )1/2 01/2 00 ，ijDmaxmin D jminp(xi )d( xi , y j )min( 1/ 20 1/2,1/ 21/ 2 0,1/2 1 1/ 2 1)jimin, ,11(另二个，舍去 )0D1因为二元等概信源率失真函数：R(D)ln n HD其中 n2, a 1a，所以率失真函数为：R(D)1 D4.7解：失真矩阵为011d101 ，按照 P81 页方法求解 （例 4-5 是二元输入和输入， 本题是三元输入和输入，110超麻烦！明天再算好发送过来噢）4.8信息率失真函数R(D) 物理意义： R(D) 是信源给定的情况下，在可容忍的失真度内再现信源消息所必须获得的最小平均信息量；R(D) 是反映给定信源可压缩的程度；R(D) 求出后，就与选择的试验信道无关，而只是信源特性的参量，不同的信源，其是不同的。R(D) 函数的性质：性质 1 : R(D) 在定义域内是下凸的性质 2 : R(D) 在定义域内是连续的性质 3 :