信息论与编码第三章曹雪虹习题答案

1、第三章将3.1二维对称信道的传递矩阵在P(0)=3/4、P(1)=1/4的情况下，求出H(X )、H(X/Y )、H(Y/X )和I (y )；(2)求出该通道的通道容量及达到该通道容量时的输入概率分布解：一)二)其最佳输入分布3-2在一个源发送端有两个码元，I=1，2； 的双曲馀弦值。 接收侧有3种符号，j=1、2、3，迁移概率矩阵为。(1)计算接收侧的平均不确定度(2)修正噪声引起的不确定度(3)校正信道容量。解：联合概率XY0y的概率分布y(1)以二为底(2)以二为底以e为底=03.3在经过扰乱的离散信道上传输符号0和1，传输过程中每100个符号发生了错误并且在知道P(0)=P(1)=1

2、/2的情况下，源每秒发出1000个符号，并且获得对于这个信道的信道容量。解：由题意可知，该2值信道的迁移概率矩阵如下一个BSC频道因此，可以根据BSC信道的信道容量校正公式得出3.4获得图中信道的信道容量及其最佳输入概率分布，并且获得当=0和1/2时信道容量c的量值。x0y0111221-1-求解：信道矩阵P=，该信道是非奇异矩阵，r=s，可以用方程组求解=(I=1，2，3 )可以解开所以C=log=log20 22(1-)log(1-) =log1 21-H()=log1 2(j=1，2，3 )得到所以P(a1)=P(b1)=当=0时，该信道是一对一对应信道c=日志3，在=1/2的情况下，C

3、=log2，3.5求出并比较次2信道的信道容量(一) (二)其中，p=1解：(1)该信道是准对称信道，和信道矩阵中的y是由能够划分成不相互交叉的三个子集的集合矩阵组成的矩阵，因为这两个子矩阵满足对称性，所以可以直接使用准对称信道的信道容量方程来进行校正。c1=logr-h (p 1p 2p 3) -其中r=2、N1=M1=1-2 N2=M2=4C1=log2-H (，p-，2)-(1-2)log(1-2)-2log4(p -) log (p -) log (p -) 2log 2- (1- 2) log (1- 2)-2log 4log2- 2log2- (1- 2) log (1- 2) l

4、og () (p -) log (p -)=(1- 2) log2/(1- 2) () log () (p-) log (p-)输入等概率分布后达到通道容量。(2)该信道也是准对称信道，可以使用上述两种方法中的任何一种进行校正。 首先，使用基准对称信道的信道容量公式进行校正，然后可以将信道矩阵中的y划分成彼此不交叉的两个子集，在该两个矩阵中，r=2，并且N1=M1=1-2 N2=M2=2C=logr-H(-、p-、2、0)-log2(-) log (-) (p -) log (p -) 2log 2- (1- 2) log (1- 2)-2log 2日志2-(1- 2)日志(1- 2) (-)

5、日志(-) (p -)日志(p -)=(1- 2) log2/(1- 2) 2log2(-) log (-) (p -) log (p -)=C1 2log2输入等概率分布(P(a1)=P(a2)=1/2)时达到该信道容量。 比较这两个通道的容量，得到C2=C1 2log2在图3-17分别表示设置了扰频的离散信道的传输状况。 求出该通道的通道容量。解：对称信道设2为底位/符号3-7(1)条件概率、联合概率、事后概率，(2)H(Y/X)=(3)接收为y2、发送为x1时正确，发送为x1和x3错误时，各自的概率如下P(x1/y2)=、P(x2/y2)=、P(x3/y2)=。其中，错误概率如下Pe=P

6、(x1/y2) P(x3/y2)=(4)平均错误概率为(5)还有0.733(6)这个渠道不好原因是源等的概率分布，从传送信道来看正确发送的概率x1-y1的概率0.5有一半的失真x2-y2的概率0.3失真很大x3-y3的概率0完全失真(7)H(X/Y)=在3. 8加性高斯白噪声信道中，将信道带宽设为3kHz， (信号功率噪声功率) /噪声功率=10dB。 尝试校正这个频道的最大信息传输率Ct。解：在3. 9图像传输中，每帧具有约2.25106个像素，为了能够良好地再现图像，可以划分为16个亮度水平，并假定亮度水平等的大致分布。 尝试校正传输一分钟一帧的图像所需的通道带宽(通道噪声功率比30dB )。解：是限制了3-10平均功率的连续信道，其通带为1MHZ，在每个信道上存在白高斯噪声。(1)求出已知信道上的信号和噪声的平均功率比为10的该信道的信道容量(2)信