_无失真信源编码题与答案资料

1、5.1有一信源，它有6个可能的输出，其概率分布如题5.1表所示，表中给出了对应的码A,B,C,D,E和F。题表5.1消息P(ai)ABCDEFa11/200000000a21/400101101010100a31/160100111101101100101a41/160110111111011101101110a51/16100011111111010111100111a61/1610101111111111011011111011(1)求这些码中哪些是唯一可译码；(2)求哪些是非延长码(即时码)；(3)对所有唯一可译码求出其平均码长L解：(1)唯一可译码：A,B,CA是等长码，码长3,每个码

2、字各不相同，因此是唯一可译码。B是非即时码，前缀码，是唯一可译码。C是即时码，是唯一可译码。D是变长码，码长1,2,3,4,4,4,不是唯一可译码，因为不满足Kraft不等式。3=1.0625一1E是变长码，码长1,2,4,4,4,4,满足Kraft不等式，但是有相同的码字，W4=W5=1100,不是唯一可译码。4-1<1F是变长码，码长1,3,3,3,3,3,不满足Kraft不等式，不是唯一可译码。(2)非延长码：A,CLa=3Lb=Lc=一Pi1111111123456=1.312524161616165.7设离散信源的概率空间为s182sss425s60.250.250.200.1

3、50.100.05对其米用香农编码，并求出平均码长和编码效率解：Xip(Xi)pa(Xi)ki码字X10.203000X20.190.23001X30.180.393011X40.170.573100X50.150.743101X60.10.8941110X70.010.9971111110LcpL=0.2520.2520.230.1530.140.055=2.7H(S)=r1，plogp=70.25log0.25.0.05log0.05=2.423bitH(S)2.423L-2.7=89.7%5.8设无记忆二元信源，其概率=0.005,p2=0.995。信源输出N=100的二元序列。在长为N

4、=100的信源序列中只对含有3个或小于3个“1”的各信源序列构成对应的一组等长码。(1)求码字所需要的长度；(2)考虑没有给予编码的信源序列出现的概率，该等长码引起的错误概率pe是多少？解：码字中有0个“1”，码字的个数：C000=1码字中有1个“1”，码字的个数：C；00=100码字中有2个“1”，码字的个数：C1200=4950码字中有3个“1”，码字的个数：C1300=161700q=C；00C；00C1200cl盆=11004950161700=166751rli-qli-logrq-log166751=17.35li=18(2)码字中有0个1”,错误概率:Pa1100=0.995码字

5、中有1个1”,错误概率:-J0.995990.005码字中有2个1”,错误概率:=(0.99518x(0.0052码字中有3个1”,错误概率:=(0.995外父(0.0053012PGN-Pa1cioo.Pa2c100'Pa3C100Pa,CoO=0.99510010.995990.0051000.9959829730.00549500.9950.005161700=0.9983Pe=1-pGn=1-0.9983=0.00175.9设有离散无记忆信源818283s425s60.220.200.180.150.100.08S7S80.050.02码符号集X=0,1,2,现对该信源S进行三

6、元哈夫曼编码,试求信源嫡H(S),码平均长度L和编码效率n。解:r+k(r-1)=3+2k=电5,7,9,.%q=8,sWli611S2222s212S4202S5022S6012S7000340013LPili=0.2210.22满树叶子节点的个数:不能构成满树。0.1820.1520.120.0820.0530.023=1.85H(S)-，R10gpi-0.22log0.22.0.02log0.02=2.75bitH(S)Llogr1.851og32.75=93.9%5.10设有离散无记忆信源，具概率空间为S1S2S30.320.220.182425s60.160.080.04进行费诺编码

7、，并求其信源嫡H(S),码平均长度L和编码效率n。解:Xip(Xi)EncodewliX10.3200002X20.221012X30.1810102X40.16101103X50.081011104X60.04111114匚八Pili=0.3220.2220.1820.1630.0840.044=2.4H(S)=，pilogPi=-0.32log0.32.0.04log0.04=2.352bit2.45.17设有离散无记忆信源飞1_飞S2S3S4S5S6S71p'p.200.190.180.170.150.100.01'(1)求该信源符号嫡H(S);(2)用霍夫曼编码编成二元

8、变长码，计算其编码效率；(3)用霍夫曼编码编成三元变长码，计算其编码效率；(3)当译码错误小于10，的定长二元码要达到(2)中霍夫曼码的效率时，估计要多少个信源符号一起编才能办到。解：H(S)-pilogpi-10.2log0.2.0.0110g0.01)=2.609bit(2)swliG102s2112s0103s40113s50013琵00004s00014L='、.Pili=0.220.192n_H(S)2.609=95.9%L一2.72(3)满树叶子节点的个数：rkr-1swli611s2202s3212si222s5002琵012s022s9.s6s8s8s50.110.61s10.s3s130.35s11,s1s40.390.26s12Xs2s70.1830.1730.1530.140.014=2.72)=3+2k=电，5,7,9,.1,q=7,能构成满树。L="pli=0.210.1920.1820.1720.1520.120.012=1.8_H(S)=2.609Llogr1.8log3=91.4%5.19若某一信源有N个符号，并且每个符号均已等概率出现，对此信源用最佳霍夫曼二元编码，问当N=21口N=2i+1（