信号与系统习题

1、1,某系统(7, 4)码c 二(c6 c5 与信息位的关系为:c4c3c2c1co)二(m3m2mim0c2c1c0)其三位校验位二 m)3二 m3m1m2m0m1c o=rni2mim0(1)求对应的生成矩阵和校验矩阵；(2)计算该码的最小距离；(3)列出可纠差错图案和对应的伴随式;(4)若接收码字r=1110011,求发码。解：(1) g =011(2)dmin=3(3)-11：se00000000000010000001010000001010000001001010001000111001000001101000001101000000(4).rht=001接收出错e=0000001r

2、+e=c = 1110010 (发码)x0101/31/3101/32.已知(x,y )的联合概率p(x, y户：求 h (x ), h (y ), h (x,y b i (x;y )解：p(x=0)=2/3 p(x=1)=1/3p(y=0)=1/3 p(y=1)=2/3h x =h y =h(1/3,2/3) =0.918 bit/symbolh x,y =h(1/3,1/3,1/3)=1.585 bit/symboli x;丫 尸h(x) h(y)h(x,y) =0.251 bit/symbol3 .一阶齐次马尔可夫信源消息集x w a1，a2 ,a3,状态集s w s1, s2, s3,

3、且令si =ai,i =1,2,3 ,条件转移概率为1 4 14 12p(aj/s)l卜3 13 1；j画出该马氏链的状态转移图；2/3 130(2)计算信源的极限:4w1 +iw2 +iw3 = w1j1w1 +iw2 +3w3 = w2御1 =0.4(2)|1w1 +iw2 = w32=0.3w3 = 0.3w1w2w3 u 1h(x|s1)=h(1/4,1/4,1/2)=1.5 比特/符号 h(x|s2)=h(1/3,1/3,1/3)=1.585 比特/符号h(x|s3)=h(2/3,1/3)= 0.918 比特/符号比特/符号3h一- %，w.h x|s 尸0.4 1.5 0.3 1.

4、585 0.3 0.918:1.351i =1 i i4 .若有一信源|=|1x2 ,每秒钟发出2.55个信源符号。p_ 10.8 0.2-将此信源的输出符号送入某一个二元信道中进行传输(假设信道是无噪无损的，容量为1bit/二元符号)，而信道每秒钟只传递2个二元符号。(1) 试问信源不通过编码(即 xt0,x11在信道中传输)(2) 能否直接与信道连接？(3) 若通过适当编码能否在此信道中进行无失真传输？(4) 试构造一种口夫曼编码(两个符号一起编码),(5) 使该信源可以在此信道中无失真传输。解：(1)不能，此时信源符号通过0, 1在信道中传输，2.55二元符号/s2二元符号/s(2)从信

5、息率进行比较，2.55* h (0.8,0.2) = 1.84 1*2可以进行无失真传输4011100101x1x1x1x2x2x1x2x2(3) k = piki =0.64+0.16*2 +0.2*3 =1.56 二元符号/2 个信源符号 i 40.64 0.64 - 0.641110.16-0q - 0.30.160*0.1610.041此时 1.56/2*2.55=1.989 二元符号 /s 2 二元符号 /s5.两个bsc信道的级联如右图所示：(1)写出信道转移矩阵；(2)求这个信道的信道容量。解：(1)1p = pp2 = i1名_ (1 - ；)2. 一! 2名(1-曾2 ；(1

6、- ；)(1-&)2 + s2(2)c = log2 -h(1-s)2 +e2)6.设随机变量x =心2=0,1和丫力1,丫2=0,1的联合概率空间为xy j _pxy, ii 1/81,y1) (x1, y2) (x2,y)3/83/8区佻)1/8定义一个新的随机变量 z = xm丫(普通乘积)(1) 计算婿 h (x), h (y), h (z), h (xz), h (yz),以及 h (xyz);(2) 计算条件婿 h (x|y), h (y|x) , h (x|z), h (z|x) , h (y|z), h (z|y), h (x|yz ), h (y|xz )以及 h (z|xy

7、 );(3) 计算平均互信息量 i (x; y), i (x: z), i (y: z) , i (x; y|z), i (y; z|x )以及 i (x:，z|y)o解：(1)xy0101/83/81/213/81/81/21/21/2h(x) =1/2log22 1/2log22 =1h(y) =1/2log22 1/2log2 2 =1xyz 0000010100111001011101111/803/803/8001/8z 017/8 1/8h(z) =7/8log2(8/7) 1/8*8xz000110111/203/81/8h(xz) =1/2log22 3/8log2(8/3)

8、1/8log28yz000110111/203/81/8h(yz) =1/2log2 2 3/8log2(8/3) 1/8logz8(2)h(x |y) =1/2(1/4log2 4 3/4log2(4/3) 1/2(1/4log24 3/4log2(4/3)h(y|x) =1/2(1/4log24 3/4log2(4/3) 1/2(1/4log24 3/4log2(4/3)xz0101/201/213/81/81/27/81/8h(x |z) =7/8(4/7log2(7/4) 3/7log2(7/3) 1/8(0log2 0 110g21)h(z|x)=1/2(11og21010g20)

9、1/2(3/41og2(4/3) 1/41og2 4)yz0101/201/213/81/81/27/81/8h(y|z) = 7/8(4/7log2(7/4) 3/7log2(7/3) 1/8(0log20 110g21)h(z |y) =1/2(11og21 01og20) 1/2(3/41og2(4/3) 1/41og24)h(x |yz) =1/2(1/41og24 3/41og2(4/3) 3/8(11og21 010g2 0) 1/8(11og21 010g20)h(y|xz) =1/2(1/41og2 4 3/41og2(4/3) 3/8(11og2 1010g 2 0) 1/8

10、(11og2 1010g2 0)h(z | xy) =0i(x;y) =h(x) -h(x |y)i(x;z) =h(x) -h (x |z)i(y；z) =h(y) -h(y |z)i(x;y | z) = h(x |z) -h(x |yz)i(x;z | y) = h(x |y) -h(x |zy)12/3 1/37.设二元对称信道的输入概率分布分别为px 3/4 1/4 ,转移矩阵为py|x j =y|x 1/3 2/3(1)求信道的输入输出！w,平均互信息量;(2 )求信道容量和最佳输入分布；(3 )求信道剩余度。解：(1)信道的输入嫡 h(x) =3/41og2(4/3)+ 1/41

11、og24；pxy=1/2 1/41/12 1/6py=7/12 5/12h(y) =7/121og2(12/7) 5/121og2(12/5)h(y | x) =3/4h(1/2,1/4) 1/4h (1/12,1/6)i(x;y) = h(y) h (y |x)(2)最佳输入分布为px = 1/2 1/2,此时信道的容量为c =1 h (2/3,1/3)(3)信道的剩余度：c -i(x;y)8. px】=0.5 0.25 0.25，试确定最佳译码规则和极大似然译码规则，并计算出相应的平均差错率。1/41/61/12解：pxy=1/241/81/121/121/241/8f(b1)=a1最佳译

12、码规则：f (b2 ) = a1 ,平均差错率为 1-1/4-1/6-1/8=11/24 ;f (b3 ) = a3f(bj =4极大似然规则：f (b2 ) = a2 ,平均差错率为1-1/4-1/8-1/8=1/2 of (b3 ) = a39.设有一批电阻,按阻值分70%是2kq, 30%是5kq;按功耗分 64%是1/8w, 36%是1/4w。现已知2kq电阻中80%是1/8w,假如得知5k q电阻的功耗为1/4w,问获得多少信息量。解：根据题意有r1 =2kr10.7r2=5kw1=1/8, w = j0.3| 0.64w2 =1/40.36,p(w1/r1) =0.8由 p(w1)

13、 = p(r1) p(w1/r1) p(r2)p(w1/r2) = p(w1/r2) =4/15所以 p(w2/r2) =1 p(w1/r2) =11/15得知5kq电阻的功耗为1/4w,获得的自信息量为 b(p(w2/r2) =0.448bit71a2a3a4a5a6111111-24816323210.已知6符号离散信源的出现概率为,试计算它的：w、huffman编码和费诺编码的码字、平均码长及编码效率。111111解：该离散信源的烟为 h(x)- pilb(pi ) lb2 lb4 lb8 lb16 lb32 lb32248163232i =13232=1.933 bit/符号11.在图

14、片传输中，每帧约有2 106个像素，为了能很好地重现图像，每像素能分256个亮度电平，并假设亮度电平等概分布。试计算每分钟传送两帧图片所需信道的带宽(信噪功率比为30db)。解:每个像素点对应的:w h =log 2 n =log 2 256 =8 bit/点2 帧图片的信息量 i =2* n * h =2* 2*106* 8 =3.2* 107b让单位时间需要的信道容量ct =lt3.2 10 =5.3*105bit /s60由香农信道容量公式ct =wlog2(1 snr) w =ct5.3*105log2(1 snr) log 2 (1 1000):5.35* 104 hz12.求右图所

15、示的信道的容量及达到信道容量时的输入分布。解:由右图可知，该信道的转移概率矩阵为 p =-11/20 1 1/2一 a a2可以看到，当该信道的输入分布取p(x) = i 1/2 0a31/2p(y)=；“ b21|1/2 1/22此时 i(x =a1;y)p(bj / a1) logj 1p(bj /a1)=lb2,同理可得p(bj)i(x =a3;y) =lb2而i (x =a2;y) =0 ,此分布满足*0时率失真函数的口闻和口曲?9 .简述离散信源和连续信源的最大燧定理。10 .解释等长信源编码定理和无失真变长信源编码定理，说明对于等长码和变长码，最佳码的每符号 平均码长最小为多少？编

16、码效率最高可达多少？11 .解释最小错误概率译码准则，最大似然译码准则和最小距离译码准则，说明三者的关系。12 .设某二元码字 c=111000, 001011, 010110, 101110,假设码字等概率分布，计算此码的编码效率？采用最小距离译码准则，当接收序列为110110时，应译成什么码字？13 .-平稳二元信源，它在任意时间，不论以前发出过什么符号，都按/尸=0一6发 出符号，求%x7)和平均符号燧典星j14 .分别说明信源的概率分布和信道转移概率对平均互信息的影响，说明平均互信息与信道容量的关 系。p(o)= l p(d = l15 .二元无记忆信源，有44 求：(1)某一信源序列

17、由100个二元符号组成，其中有 m个“1”，求其自信息量？(2)求100个符号构成的信源序列的婿。16 .求以下三个信道的信道容量：0 0 1 o10 0 0 0 0 0 1口 0 10 01 0 01 0 00 1 00 1 00 0 10 0 1,pm0,1 02 0.3 04 00.3 0.7 000q.400002 01 0317.已知一 (3,1, 3)卷积码编码器，输入输出关系为:pl l必* v2 (z) = w(/) + u(l -1) + u(l - 2) +u(l - 3) v5(/) =(/) + /1 _ 2) +u( l 3)试给出其编码原理框图。18 .简述信源的符

18、号之间的依赖与信源冗余度的关系。19 .简述香农第一编码定理的物理意义 ？20 .什么是最小码距，以及它和检错纠错能力之间的关系。21 .简述信息的特征22 .简单介绍哈夫曼编码的步骤一、 概念简答题(每题 5分，共40分)h(x)= -河再)10gm为)1 .答：平均自信息为u表示信源的平均不确定度，也表示平均每个信源消息所提供的信息量。(钻)题平均互信息- -表示从丫获得的关于每个 x的平均信息量，也表示发 x前后丫的平均不确定性减少的量，还表示通信 前后整个系统不确定性减少的量。2 .答：最大离散燧定理为：离散无记忆信源，等概率分布时燧最大。最大麻直为&*=电窥o3 .答：信息传输率r指

19、信道中平均每个符号所能传送的信息量。信道容量是一个信道所能达到的最大 信息传输率。信息传输率达到信道容量时所对应的输入概率分布称为最佳输入概率分布。平均互信息是信源概率分布的n型凸函数，是信道传递概率的u型凸函数。4 .答：通信系统模型如下：数据处理定理为：串联信道的输入输出x、丫、z组成一个马尔可夫链，且有说明经数据处理后，一般只会增加信息的损失hit / s5.答：香农公式为,它是高斯加性白噪声信道在单位时间内的信道容量，其值取决于信噪比和带宽。101g由p _p _丽二30 四得丽二100。，则 4 = 50001(1.1000) = 49836 她用 x）6 .答：只要 l 1。8口5

20、，当n足够长时，一定存在一种无失真编码。7 .答：当r0,各0,只要和闲那i ,则当l足够长时必 可使译码差错 1。说明：当信源的符号之间有依赖时，信源输出消息的不确定性减弱。而信源冗余度正是反映信源符号依赖关系的强弱，冗余度越大，依赖关系就越大。（2分）2 .答：1）笈=039符号0 0616瓦符号c = 0,082稣符号,最佳输入概率分布为等概率分布。3.答：1)二元码的码字依序为：10, 11, 010, 011, 1010, 1011, 1000, 1001平均码长沅”符号,编码效率% =。-972)三元码的码字依序为：1, 00, 02, 20, 21 , 22, 010, 011。

21、平均码长4=1,加/符号，编码效率飞.0 9364.答：1）最小似然译码准则下，有尸33）三/24112）最大错误概率准则下，有 5.答：1）输入为00011时，码字为00011110;输入为10100时，码字为10100101。2)t -=印 1叫（1 + -）6.答：1）无错传输时，有或取5,6乂10, =4xl03kg2(l +即5xl0x4xl03）则尸2 0,0328小2）在入。.。班陶小式2叩.”自由度2尸.i7.答：1）由产(0)=尸(0)?/0) + f产(0/ d 尸(0)+尸=1得极限概率:则符号嫡为,.：2）新信源共8个序列，各序列的概率为 尸（出莅苍）信源模型为000

22、001010 0111000.54 0.06 0,013 0,053 0.061011101110.007 0.053 0.313一种编码结果（依信源模型中的序列次序）为 0, 11, 1001, 1010, 1011, 10000, 100010, 100011_1 8k = 产(1)& - 0682加上/符号3)一二8.答：1）是准对称信道，因此其最佳输入概率分布为 r=颌/）=0,5。心）。55r （乃）=0.12sl）3 ,时有以内）=0 35-丁 - lh（xfy） = h（x） -ix! y） - 0 7 汕符号占3）此时可用最大似然译码准则，译码规则为且有5=5尸（官/当）= g

23、0 2 + 01 +9.1答：1） n=6, k=3,由c=m函得所有码字为 000000, 001011, 010110, 011101, 100101,rmnf5)= x20 2 = 0 25101110, 110011, 111000n minniq= ho on2)此码是系统码,由 g知)3)由h可知，其任意2列线性无关，而有错误图样e伴随式s =1000001010100001100010000110001001000000100100000010014)由= 11 知 e= 010000,则h = qr / = 011010 m101001则l3列线性相关，故有 4t血-3 ,能纠

24、一位错。r = r + - 0101109.2解：1） n=6,k=3,共有8个码字。（3分）2）设码字 c=（c5c4c3c2c1c0 m hct=0t得c2 二 ci 二co= 0，c4 c3 co = 0c5 c3 ci co =0令监督位为。）,则有c2 = c5 二 c3 ci 式5 c0 =c4c310 0 1100 10 0 11生卡位哝4001101生成矩阵为-（3分）（汾）（2分）100110, 101011, 110101, 111000o （4分）3）所有码字为 000000, 001101, 010011, 011110, 4）由 st =hrt 得s =（101）,

25、（2分）该码字在第5位发生错误，（101001）纠正为（101011）,即译码为（101001） （1分）10.答：1）信道容量为c = l-7/（0 9, 0 1） =0 531 皿/符号信源序列信息量为1 ；-111而10秒内信道能传递的信息量为1500x10x0 531-7965 bit故不能无失真地传送完c 广方白日斗 13000x7/（0 3,0.7）-11456.77 bit2）此时信源序列信息量为式二士久占修）1卷八）=0.4558瓦”符号1ref（x必）信息传输率为：-1t、11456.77-制t 2= 16 756 秒则-n = 7,jt =4,叮=11.答：1）-=57.1

26、4%理2)上(彳)= +1 = x4 + x2 + z +1 g3)c?w =10h000,01011000010110 h0001011l，而,uioioo,0111010oolllol4，二12.证明:p(x v j )i(x;y)= p%vj jog- x yp xp-1.10p(xivj)ogp(xi)- l|-z pp(xvjjogp%vj j(2分)x y_ x yu h x -h x y同理 i (x;y )= h(y )-h(y|x )(1 分)则 h y x = h y -i x;y因为 h(xy)=h(x )+h(yx )(1 分)故 h xy ):=h x h y -i x;y即 i(x;y)=h(x )+h(y)-h(xy)(1 分)13 .解：设a表示“大学生”这一事件，b表示“身高1.60以上”这一事件，则(2分)(2分)p(a)=0.25 p(b)=0.5 p(b|a)=0.7