《信息论与编码》答案-第四章(word文档良心出品)

1、信息论与编码第四章信息率失真函数 习题答案4.1解：依题意可知：失真矩阵：q，转移概率卩(口|目)=毎名110j二1-总平均失真：2 2D=SS P佝)p(bj|ai)d(a,bj)y y= 1/2x(1 s)x 0+ 1/2x sx1 +1/2X sx1 +1/2x (1 s) x 0 = s 4.2解:依题意可知：失真矩阵：d =0，2 0Dmin =送 P(Xi)mind(x ,yj) =1/2 咒0+1/2咒 0 =0ijDmax = min Dmin S p(Xi)d(Xi, yj) =1/20+1/21 =1/2(1/2咒 2+1/2% 0 =1 舍去)j i当 Dmin =0，R

2、(Dmin)=R(0)=H(X)=log2=1bit1 0l因为没有失真，此时的转移概率为P 【0 1J当 Dmax=1/2，R(Dmax) =0因为取的是第二列的Dmax值，所以输出符号概率：p(bj=0, p(b2)=1,ajTb2,a2Tb?,因此编码器的转移概率为 P110 14.3解:DmaxDmin11113p( Xi)d(Xi,yj) =-x1 +-X1 +-X1 +-x0=-444441111=2 p(Xi)mind(Xi,yj) =-x0 + -x0+-x0+-x0 = 0ij4444=0，R(Dmin)=R(0) =H(X) =log4=2bit00= min Dj = m

3、in 送 jj i当 Dmin因为没有失真，此时的转移概率为100L0001001所以取输出符号概当 Dmax =3/4，R(Dmax) =O 因为任何一列的 D max值均为3/4，率：p(b1) =1, p(b2)=0, p(b3)=0, p(b4)=0，即 a1T bi,a2T b1,a3T b1,a ? bi 因此编码器的转移概率为 P =卩11L10000000000004.4解:依题意可知：失真矩阵:0 11/41d = I，1 0 1/4”Dminp(Xi)mi nd(Xi,yj) =1/2x 0+ 1/2x0 =0ijDmax = min Dmin 送 p(xjd(Xi, yj

4、) = min(1/2x 1/4+1/2 1/4) =1/4(其它 2个均为 1/2) j i当 Dmin =0，R(Dmin)=R(0)=H(X)=log2=1bit1 0 of因为没有失真，此时的转移概率为P =1o 1 0当 Dmax=1/4，R(Dmax) =0:p(bi) =0, P(b2)= 0, p(b3)= 3，111因为取的是第三列的Dmax值为1/4,所以取输出符号概率0 0即印T b3,a2 T b3因此编码器的转移概率为P =也 04.5解:依题意可知：失真矩阵：d=；补，转移概率为：p=； 1打n mD 2 p(Xi) p(yj |xi)d( ,yjpx 1x 0 +

5、 px0x1 +(1 _ p)x qx 1 + (1 p)x (1 _q)x 0 i =1 j =1= q%(1- p) Dmin =艺 p(Xi) mijind(Xi,yj) = p咒0 + (1 p)X0=0i因为R(D)是D的递减函数，所以max( R(D) = R(Dmin) = H ( p) - H (Dmin) = - plog p - (I - p )log(1 - p)当q =0时可达到max(R(D)，此时D = 0 Dmax = mi nDj-miji nS p(Xi)d(Xi，y)=px0 + p 厂=p(另一个 1 p更大，舍去)因为R(D)是D的递减函数，所以min(

6、 R(D) =R(Dmax) =H (p) H(Dmax) =0当q =1时可达到min( R(D)，此时D =1 - p(图略，见课堂展示) 4.6解：依题意可知：失真矩阵：d = 0 q,信源U 1=01 m 0 1LP (u)L1/2 1/2Dmin =5： p(Xi)mi nd(Xi,yj) =1/2 咒 0+1/2 咒 0=0,ijDmax =min Dj -mi n p (xJdX, y)=mi n(1/2x0 +1/2 咒叫1/2x 处 + 1/2咒0,1/2天1 + 1/2咒1) j i=min处严,1=1(另二个处，舍去)0D 1因为二元等概信源率失真函数：R(D) =1 n n H 仅 la丿其中n = 2,a =1 ,所以率失真函数为:R(D) =1 -D4.7解：失真矩阵为01L1超麻烦!1 101，按照P81页方法求解(例4-5是二元输入和输入，本题是三元输入和输入,0明天再算好发送过来噢)4.8信息率失真函数 R(D)物理意义： R(D)是信源给定的情况下，在可容忍的失真度内再现信源消息所必须获得的最小平均信 息量； R(D)是反映给定信源可压缩的程度；R(D) R(D)求出后，就与选择的试验信道无关，而只是信源特性的参量，不同的信源，其 是不同的。R(D)函数的性质：性质1 : R(D)在定义域