北京邮电大学信息论实验6

北京邮电大学信息论实验•第六次实验实验内容实验任务一：信源：产生｛0,1｝信源，分等概和不等概两种情况重复码：重复3次译码：最大似然和最大后验概率译码重—复TBSC信道卜码输出：横坐标-BSC信道差错概率纵坐标-译码错误率画图：semilogy(x,y)实验任务二：信源：产生｛0,1｝等概信源信道编码：(7,4)系统分组码信道译码：最小汉明距离译码重复码BSC信道译一信码宿输出：横坐标-BSC信道差错概率纵坐标-译码错误率画图：semilogy(x,y)实验任务三：二进制对称信道容量C=l-H(p)重复码的误码曲线(由任务一得到)汉明码的误码曲线(由任务二得到)当Pe=10A-4时对应的二进制对称信道的错误概率求出重复码和汉明码的码率与信道容量的差距。实验原理1、重复码重复码是一种最简单的分组码，只有一个信息位，n-1个校验位（是信息位的简单重复），码率为1/n,所以码字数与信源符号数相同。二元重复码中只有两个码字，即。…。和1-1,码的最小距离为n,能纠（n-1）/2个差错。很明显，一个n次重复码的距离是no重复码的译码错误率：pE=p3+3（l-p）p2<p2、（7,4）分组码一个（n,k）线性分组码中的码字可用n维矢量空间的，一个n维行矢量Y表示，记为V=（、_],•••,%）对应的信息分组用一个k维行矢量疏示，记为u=（u『i，…,U。）在二进编码中，所有都取值0或1。4Y之间的关系可用矩阵表示v=uG其中，G为分组码的生成矩阵。3、分组码译码根据伴随式可以对分组码译码，译码过程如下：（1）计算伴随式s；（2）根据伴随式s查找对应的可纠错误图样e；（3）计算a=r+e；a为纠错后的码字。4、强对称信道容量的计算若一个信道的转移概率矩阵按输出可分为若干子集，其中每个子集都有如下特性：即每一行是其他行的置换，每一列是其他列的置换，则信道称为对称信道。有时将转移概率矩阵可分成多个子集的对称信道为准对称或弱对称信道，而只有一个子集的对称信道称强对称信道。信道容量：C=logs—H（P1“P12,…’P1S）

三、实验步骤1、实验流程实验一：AO、1等概出现时:由于产生的信源序列是0、1等概的，这时MAP、ML、最小汉明距离三个准则完全等价，我选择了最小汉明距离准则作为译码准则。BO、1不等概出现时ML准则译码：该实验与0、1等概出现时的流程图基本一致，将等概信源变为服从(0.208)概率分布的0、1信源即可。由于ML、最小汉明距离两个准则完全等价，依然可以选择最小汉明距离准则作为译码准则。CO、1不等概出现时MAP准则译码：MAP准则：g(y)=argmaxp(x|y)XMAP准则就是，对给定的信道输出将具有最大后验概率的输入符号作为判决结果。流程图见下页:由于产生的信源序列不是0、1等概的，这时MAP、ML两个准则不等价，我选择了MAP准则作为译码准则。vXL—♦在本实验中，总体流程如下：生成信源，得到(7,4)分组码，经过二元对称信道，求校验子，求错误图样，求恢复序列即可完成实验任务。实验三：根据题目要求，我们首先找到在实验一、实验二中做的图，Pe=10A-4的点，然后找到对应的信道错误率，再做比较。然后，我们计算重复码和汉明码的码率，计算公式：kR=-nK为信息位位数，n为码字长度。再计算信道容量，由于是强对称信道，C=logs-"12，・・"is)2、关键代码分析MAP准则译码P(l/bin2dec(num2str(SIGNALl(l,3*i-2：13*i)))+l)>P(2,bin2dec(num2str(SIGNALl(L3*i-2:l:3*i)))+l)这行代码的意义是将收到的序列转换为列号，然后将两行的联合概率作比较，接下来选择联合概率最大的一行作为译码输出结果。(7,4)分组码模二加mod((R3+e),2)由于在做(7,4)分组码时，好多时候都使用模二加，这个函数将逗号前的矩阵以2取余，再返回。四、实验结果(1)实验一①信源序列等概，ML准则从图中可以看出，信道错误率p的上升，译码错误率Pe也在上升，但

是上升的明显比p要缓慢。此外，当Pe=10A-4时,p的取值为0.00542。②信源序列不等概＜0.2,0.8),ML准则与MAP准则使用ML准则，在图中使用绿线表示，使用MAP准则，在图中使用蓝线表示。等厩ML准则与MAP；隹则的谨袒错误率与信宿差错率的关系曲线比按10i：IIII：I：I•成成1O-*2译码错误率与信道差错率的关系曲线0020040060080译码错误率与信道差错率的关系曲线002004006008010信值错误率p-2O-3-<oO121°'IIIiiiiii00.050.10.160.20.250.30.360.40.450.6信道错误率p从图中可以看出，信道错误率p的上升，译码错误率Pe也在上升，但是上升的明显比p要缓慢。此外，当Pe=10A-4时，p的取值为0.004L小于重复码的信道错误率。（3）实验三信道错误率P上图中，红线代表重复码的误码曲线，蓝线代表（7,4）分组码的误码曲线。首先我们计算当Pe=10A-4时对应的二进制对称信道的错误概率。由之前的两个实验我们可■以得知，当Pe=10A-4时，重复码对应的信道错误概率为0.00542,（7,4）分组码对应的概率为0.0041,这说明了（7,4）分组码与重复码在相同的误码率前提下，（7,4）分组码对于信道的要求更高。但是，我们来比较两种编码方式的效率。重复码的码率为1/3,（7,4）分组码的码率为4/7。信道容量C在Pe为10人-4时，C=l-H（p）,分别为0.9615bit/信源符号,和0.9597bit/信源符号。我们可以计算出两种编码方式码率与信道容量的差值：重复码为0.6264bit/信源符号，（7,4）分组码为0.3901bit/信源符号。通过比较，我们可以发现虽然重复码的差错率要好于（7,4）分组码，但是传输效率实在过低，只有（7,4）分组码的二分之一。所以，我认为（7,4）分组码是一种较好的编码方式。五、实验中遇到的问题本次实验中，遇到的最大的问题就是，由于老师要求求出译码错误率Pe=10A-4时，对应的信道差错率。这就使得p是一个10人-4数量级的数字，需要做很大数量的仿真,才能做出比较光滑的曲线。针对这个问题，我采取的方法是首先用小的仿真次数，这样虽然绘出的曲线受随机性因素影响较为严重，但是可以快速的验证代码是否有误。等到代码完全调整无误时,加大仿真次数，一次性将曲线绘制完成。六、实验感想经过本次实验，我进一步认识了《信息论基础》一书中对于信道编码中"重复码”和“（7,4）分组码〃的理解。虽然信息传输的有效性和可靠性是矛盾的，但是才码率R<C的前提下，一定是存在可以让Pe无穷小的信道编码方式。并旦，通过这次实验，我对信道编码中（7,4）分组码的编码和解码过程更加清楚。七、对信息论实验课程的建议在短短八周的时间里（APEC放假一周，应为七周），通过对《信息论实验》这门课程的学习，我深入的了解了信息论这门课程的理论基础与实际意义。通过与身边没选择这门课的同学对比，我觉得我们几个选课同学对信息论的理解明显好于他们。这也是选择了信息论实验的一大好处吧。回顾我们这学期做过的题目，从平稳马尔科夫信源到有噪信道编码，基本跨越了信息论基础这门课，对于我们对理论课讲授内容的理解有很大帮助。最后的波形信道和信息率失真函数，由于课时原因没有来得及出题，如果在以后这门课的教学中，能够涉及到自然更加完美。在网上查看其他学校的信息论实验这门课程的教学安排时，我发现有的学校有这个部分的内容：“通信系统仿真实验气如果我们能够从信源开始，先对数字信源做调制,变成频带信号，经过高斯信道，再解调，最后采样判决，再比较信源序列与解调序列的互