信道容量的迭代算法2

1、信息论与编码课程大作业题 目：信道容量的迭代算法学生姓名：学 号： 2010020200专业班级：电子信息工程（1）2013年05月 18日信道容量的迭代算法的原理信道容量是信道的一个参数，反映了信道所能传输的最大信息量，其大小与信源 无关。对不同的输入概率分布，互信息一定存在最大值。我们将这个最大值定义为信道 的容量。一但转移概率矩阵确定以后，信道容量也完全确定了。尽管信道容量的定义涉 及到输入概率分布，但信道容量的数值与输入概率分布无关。我们将不同的输入概率分 布称为试验信源，对不同的试验信源，互信息也不同。其中必有一个试验信源使互信息 达到最大。这个最大值就是信道容量。信道容量的迭代算法

2、可以通过Malt lab软件进行计算。算法原理如下：设置信源个数为n，信宿的个数为m，选用的精度为k。然后输入信道转移矩阵P，执行，得到反向转移概率矩阵t （k）jJ 将得到的由式 p(k+1) =e 2 j Ok*g. ij 计算 P(k+1) = G(k+1)： E e E Ok*gi j，得p (k +1)由式 C(k+1 ) = I (P (+1), t(k)= log E expi=0E p log t (k)计算 CQqji ijL j=0C (k+1) - C (k)C( k +1)d 判t断，这个条件满足时继续求tjk），再依次往下计算，直至这个条件不满足，然后输出k和c（k+

3、1）和Pk+1。用Matlab实现clear;r=input（输入信源个数：）;s=input（输入信宿个数:）;deta=input（输入信道容量的精度：）;Q=rand（r,s）;%形成1行s列随机矩阵QA=sum（Q,2）;%把。矩阵每一行相加和作为一个列矩阵AB=repmat（A,1,s）; %把矩阵A的那一列复制为S列的新矩阵%判断信道转移概率矩阵输入是否正确P=input（输入信道转移矩阵P： ）%从这句话开始将用下面两句代替可自动生成信道转移矩阵r,s=size（P）;for i=1:rif(sum(P(i,:)=1)%检测概率转移矩阵是否行和为1.error(概率转移矩阵输入有

4、误！ ！)return;endfor j=1:sif(P(i,j)1) %检测概率转移矩阵是否负值或大于1error(概率转移矩阵输入有误！ ！)return;endendend%将上面的用下面两句代替可自动生成信道转移矩阵%disp(信道转移概率矩阵:)%P=Q./B信道转移概率矩阵(每一个原矩阵的新数除以所在行的数总和)i=1：1：r;%设置循环首项为1，公差为1，末项为r(Q的行数)的循环p(i)=1/r; %原始信源分布r个信源，等概率分布disp(原始信源分布：)p(i)E=repmat(p,1,s);%把r个等概率元素组成一列，复制为s歹0for k=1:1:1/detam=E.*

5、P;% m=p.*E;%后验概率的分子部分a=sum(m);%把得到的矩阵m每列相加之和构成一行su1=repmat(a,r,1);%把得到的行矩阵a复制r行，成一新矩阵sul,后验概率的分母部分t=m./su1;%后验概率矩阵n=exp(sum(P.*log(t),2);%信源分布的分子部分su2=sum(n);%信源分布的分母部分p=n/su2;%信源分布E=repmat(p,1,s);C(k+1)=log(sum(exp(sum(P.*log(t),2)/log(2);kk=abs(C(k+1)-C(k)/C(k+1);if(kk k=0.000011.0000e-005输入信道矩阵P：

6、 P=1/2 1/2 0;0.2 0.3 0.5P =0.50000.500000.20000.30000.5000得到输出结果：最佳输入概率分布Pa:120.59490.4051信道容量C:0.3263迭代计算精度k:1.0000e-005由计算结果可知，经过汇编设置好参数，通过一定转换计算公式，就可实现信道容 量的计算，当遇到复杂的信道容量的计算，运用mat lab可以节省大量计算时间，十分 方便。心得体会通过此次mat lab编程实现信道容量的迭代算法，让我明白了一些道理，万事开头 难，此话果然不假，刚开始我觉得这十分的困难，完全没有头绪，后来通过经过网上查 阅资料，才对本次设计有了一定的理解，大致明白了信道容量的迭代算法过程。然后根 据网上的一些算法事例，就在mat lab软件上进行编程，设置后一些参数，然后编