信息论-习题解答课件

信息论——习题解答jhhu@2.2假设一副充分洗乱了的牌（含52张牌），试问(1)任一特定排列所给出的信息量是多少？(2)若从中抽取13张牌，所给出的点数都不相同能得到多少信息量？解：(2)52张牌共有4种花色、13种点数，抽取13张点数不同的牌的概率如下：(1)52张牌共有52！种排列方式，假设每种排列方式出现是等概率的,则所给出的信息量是：2.3居住某地区的女孩子有25%是大学生，在女大学生中有75%是身高160厘米以上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？解：设随机变量X代表女孩子学历设随机变量Y代表女孩子身高已知：在女大学生中有75%是身高160厘米以上的,即：求：身高160厘米以上的某女孩是大学生的信息量,即：2.6设信源求这个信源的熵，并解释为什么H(X)

>log6不满足信源熵的极值性。不满足极值性的原因是解：2.9证明：H(X3/X1X2)≤H(X3/X1)，并说明等式成立的条件。证明：2.10对某城市进行交通忙闲的调查，并把天气分成晴雨两种状态，气温分成冷暖两个状态，调查结果得联合出现的相对频度如下：若把这些频度看作概率测度，求：(1)忙闲的无条件熵；(2)天气状态和气温状态已知时忙闲的条件熵；(3)从天气状态和气温状态获得的关于忙闲的信息。解：(1)根据忙闲的频率，得到忙闲的概率分布如下：(2)设忙闲为随机变量X，天气状态为随机变量Y，气温状态为随机变量Z(3)2.18每帧电视图像可以认为是由3105个像素组成的，所有像素均是独立变化，且每像素又取128个不同的亮度电平，并设亮度电平是等概出现，问每帧图像含有多少信息量？若有一个广播员，在约10000个汉字中选出1000个汉字来口述此电视图像，试问广播员描述此图像所广播的信息量是多少（假设汉字字汇是等概率分布，并彼此无依赖）？若要恰当的描述此图像，广播员在口述中至少需要多少汉字？(2)(3)解：(1)2.22设有一连续随机变量，其概率密度函数(1)试求信源X的熵Hc(X)；(2)试求Y=X+A(A>0)的熵Hc(Y)；(3)试求Y=2X的熵Hc(Y)。解：(1)(2)(3)3.1设信源通过一干扰信道，接收符号为Y={y1,y2}，信道转移矩阵为求：(1)信源X中事件x1和事件x2分别包含的自信息量；(2)收到消息yj(j=1,2)后，获得的关于xi(i=1,2)的信息量；(3)信源X和信宿Y的信息熵；(4)信道疑义度H(X/Y)和噪声熵H(Y/X)；(5)接收到信息Y后获得的平均互信息量。

解：(1)(2)(3)(4)(5)3.2设二元对称信道的传递矩阵为(1)若P(0)=3/4,P(1)=1/4，求H(X),H(X/Y),H(Y/X)和I(X;Y)；(2)求该信道的信道容量及其达到信道容量时的输入概率分布；

解：(1)(2)

3.16设信源X的N次扩展信源X=X1X2…XN通过信道{X,P(Y/X),Y}的输出序列为Y=Y1Y2…YN。试证明：(1)当信源为无记忆信源时，即X1,X2,…,XN之间统计独立时，有(2)当信道无记忆时，有(3)当信源、信道为无记忆时，有(4)用熵的概念解释以上三种结果。

证明：(1)(3)如果信源、信道都是无记忆的。上面证明的两个不等式应同时满足，即：因此，(4)流经信道的信息量也是信宿收到的信息量，它等于信源信息的不确定度减去由信道干扰造成的不确定度。当信源无记忆、信道有记忆时，对应于本题的第一种情况。信源是无记忆的，信源的不确定度等于N倍的单符号信源不确定度，信道是有记忆的，信道干扰造成的不确定度小于N倍单符号信道的不确定度。因此，这两部分的差值平均互信息量大于N倍的单符号平均互信息量。当信源有记忆、信道无记忆时，对应于本题的第二种情况。信源是有记忆的，信源的不确定度小于N倍的单符号信源不确定度，信道是无记忆的，信道干扰造成的不确定度等于N倍单符号信道的不确定度。因此，这两部分的差值平均互信息量小于N倍的单符号平均互信息量。当信源无记忆、信道无记忆时，对应于本题的第三种情况。信源是无记忆的，信源的不确定度等于N倍的单符号信源不确定度，信道是无记忆的，信道干扰造成的不确定度等于N倍单符号信道的不确定度。因此，这两部分的差值平均互信息量等于N倍的单符