信息论基础第八章讲义课件

1、第八章 线性分组码第八章第八章 线性分组码线性分组码内容提要目前，几乎所有得到实际应用的纠错码都是线性的。本章首先介绍有关纠错码的基本概念，然后重点论述线性分组码的定义及其编译码理论。在此基础上，介绍了一种典型的线性分组码：汉明码。 8.1 8.1 纠错码的基本概念纠错码的基本概念 8.1.1 信道纠错编码信道纠错编码 l信源编码的目的是压缩冗余度，提高信息的传输速率。l信道编码的目的是提高信息传输时的抗干扰能力以增加信息传输的可靠性。8.1.2 差错控制系统模型及分类差错控制系统模型及分类 为了方便研究，将信息传输系统模型简化成图8.1所示的简化模型图8.1 简化的信息传输系统模型 模型突出

2、了以控制差错为目的的纠错码编码器和译码器，因此也称为差错控制系统。在差错控制系统中使用的码按其纠错能力的不同可分为两种：检错码检错码和纠错码纠错码。 能发现错误但不能纠正错误的码称为检错码 ； 不仅能发现错误而且还能纠正错误的码称为纠错码。（）前向纠错前向纠错(FEC)方式方式 ： FEC (Forward Error Control) 方式是发端发送有纠错能力的码（纠错码），接收端收到这些码后，通过纠错译码器自动地纠正传输中的错误。 差错控制系统大致可分为前向纠错、重传反馈和混合纠错等三种方式。l优点是不需要反馈信道；能进行一个用户对多个用户的同时通信，特别适合于移动通信；译码实时性较好，控

3、制电路也比较简单。 l缺点是译码设备较复杂；编码效率较低。（）重传反馈重传反馈(ARQ)方式方式: ARQ (Automatic Repeat Request) 方式是：发端发出能够发现错误的码（检错码），收端译码器收到后，判断在传输中有无错误产生，并通过反馈信道把捡测结果告诉发端。发端把收端认为有错的消息再次传送，直到收端认为正确接收为止。 l优点是译码设备简单，在多余度一定的情况下，码的检错能力比纠错能力要高得多，因而整个系统能获得极低的误码率。l应用ARQ方式必须有一条从收端至发端的反馈信道。并要求信源产生信息的速率可以进行控制，收、发两端必须互相配合，其控制电路比较复杂，传输信息的连贯

4、性和实时性也较差。（）混合纠错混合纠错(HEC)方式：方式： HEC (Hybrid Error Control) 方式是上述两种方式的结合。发端发送的码既能检错、又有一定的纠错能力。收端译码时若发现错误个数在码的纠错能力以内，则自动进行纠错；若错误个数超过了码的纠错能力，但能检测出来，则通过反馈信道告知发方重发。这种方式在一定程度上避免了 FEC方式译码设备复杂和 ARQ方式信息连贯性差的缺点。 在设计差错控制系统时，选择何种实现方式，应综合考虑各方面的因素。主要有： 满足用户对误码率的要求； 有尽可能高的信息传输速率； (4)可接受的成本。 有尽可能简单的编译码算法且易于实现；8.1.3

5、纠错码的分类纠错码的分类 常用的纠错码按其码字结构形式和对信息序列处理方式的不同可分成两大类：分组码分组码和卷积码卷积码。 分组码是把信息序列以每k个码元分组，编码器将每个信息组按一定规律产生r个多余的码元（称为校验元），形成一个长为n = k + r 的码字。卷积码是把信息序列以每k个分组，通过编码器输出长为n（n k）的一个子码。但是该子码的nk个校验元不仅与本子码的信息元有关，而且也与其前m个子码的信息元有关。8.1.4 差错类型差错类型 讨论码字序列c通过离散信道时发生的情况，信道分为无记忆信道和有记忆信道。 l在无记忆信道中，噪声对传输码元的影响是相互独立的，即每一个差错的出现与其前

6、后是否有错无关,如图8.2。在无记忆信道中，错误是随机产生的，因此被称作随机错误，无记忆信道也被称为随机信道（random channel）。 图8.2 二进制对称信道 l有记忆信道中，各种干扰所造成的错误往往不是单个地，而是成群、成串地出现，表现出错误之间有相关性。图8.3就是这种信道的一个模型。 图8.3 有记忆信道模型 就实际信道而言，由于其干扰的复杂性，往往是两种错误并存。随机错误与突发错误并存的信道，称为组合信道或复合信道。 表8.1给出了一个（7，3）线性分组码的例子。该例子中，信息组为（c6 c5 c4），码字为（c6 c5 c4 c3 c2 c1 c0）。当已知信息组时，按以下

7、规则得到四个校验元： （ 83）这组方程称为校验方程。8.2 8.2 线性分组码的编码线性分组码的编码 8.2.1 生成矩阵生成矩阵 4505614562463ccccccccccccc信息组 码 字 0000 0 0 0 0 0 0 0010 0 1 1 1 0 1 0100 1 0 0 1 1 1 0110 1 1 1 0 1 0 1001 0 0 1 1 1 0 1011 0 1 0 0 1 1 1101 1 0 1 0 0 1 1111 1 1 0 1 0 0 表8.1 （7，3）线性分组码 （7，3）线性分组码有23个许用码字或合法码字，另有2723个禁用码字。发方发送的是许用码字，

8、若收方收到的是禁用码字，则说明传输中发生了错误。 为了深化对线性分组码的理论分析，与线性空间联系起来。 将（n，k）线性分组码的定义如下：定义定义8.1 2k个n重的集合C称为线性分组码，当且仅当它是n维线性空间Vn中的一个k维子空间。 （n，k）线性分组码的2k个码字组成了n维线性空间Vn的一个k维子空间，因此这2k个码字完全可由k个线性无关的矢量所组成的基底所张成。 设此k个矢量为c1，c2，ck:c1（g1,n-1，g1,n-2，g1,0）c2（g2,n-1，g2,n-2，g2.0）ck（gk,n-1，gk,n-2，gk,0）（n，k）码中的任一码字ci，均可由这组基底的线性组合生成：

9、(85) 0 ,2,1,0 , 22, 21, 20 , 12, 11, 121knknknnnnknnniigggggggggmmmG Gm mc c定义定义8.2 若信息组以不变的形式，在码字的任意k位中出现的码，称为系统码；否则，称为非系统码。 写成矩阵形式： (84)0 ,2,1,0 , 22, 21, 20 , 12, 11, 1knknknnnngggggggggk21c cc cc cG G8.2.2 校验矩阵校验矩阵 表8.1所示（7，3）线性分组码的四个校验元是由(83)式所示的线性方程组决定的。把(83)式移项：上式写成矩阵形式得00000451562456346ccccc

10、cccccccc000010001100100011001011100011010123456ccccccc这里的四行七列矩阵称为（7，3）码的一致校验矩阵，简称校验矩阵校验矩阵，用H表示： 1000110010001100101110001101H H由H矩阵得到的（n，k）线性分组码的每一码字ci，（i1，2，2k），都必须满足由H矩阵各行所确定的线性方程组，即 c ciH H T0 0 (88)或 H Hc ciT0 0T (89) 又，（n，k）线性分组码的生成矩阵G G中的每一行及其线性组合都是（n，k）码的码字，所以有 G GH H T0 0 (810)或 HG T0T (811)

11、 8.2.3 编码的实现编码的实现 设码的G矩阵为0 ,2,1,0 , 22, 21, 20 , 12, 11, 1kknkknkknknknknkpppppppppI IG G当信息组m（mn- 1mn-2 mn-k）时，相应的码字c是 c mG（cn-1 cn-2 c1 c0） cj mn-1 p1,j+mn-2 p2,j+mn-k pk,j 0 j nk cjmj nk j n1 其中图8.4 （n，k）线性分组码编码电路 编码实现电路如图8.4所示。电路由移位寄存器、模二加法器和模二乘法器组成根据图8.4的电路，可画出（7，3）线性分组码的编码器电路，如图8.5。 图8.5 （7, 3

12、）线性分组码编码电路 8.3 8.3 伴随式与译码伴随式与译码 8.3.1 码的距离和重量码的距离和重量 定义定义8.5 一个码的最小距离dmin定义为 (813) ),(,),(minminknjiddjijic cc cc cc c 定义定义8.4 码字中非零码元的个数，称为该码字的汉明重量，简称重量，用w（c）表示。定义定义8.3 两个码字之间，对应位取值不同的个数，称为它们之间的汉明距离，简称距离，用d（c1，c 2）表示。码的距离和重量满足以下不等 d（c 1，c 2） d（c 1，c 3）d（c 3，c 2） (814)w（c 1c 2） w（c 1）w（c 2） (815) 定理

13、定理8.1 线性分组码的最小距离等于其非零码字的最小重量。 根据定理，要得到码的最小距离，只要检查2k1个非零码字的重量即可。 事实上，两个码字之间的距离表示了它们之间差别的大小。因此，一个线性分组码的最小距离是衡量码抗干扰能力的重要参数。码的最小距离愈大，其抗干扰能力愈强。8.3.2 线性码的纠检错能力线性码的纠检错能力 以上定理是纠错码理论中最重要的基本定理之一，它说明了一个距离为d的线性分组码，既可用来纠正个错误，又可用来检测e d1个错误。 21dt定理定理8.2 对于任一个（n，k）线性分组码，若要在码字内 检测e个错误，则要求码的最小距离d e1； 纠正t个错误，则要求码的最小距离

14、d 2t1； 纠正t个错误同时检测e（ t）个错误，则要求d te1。 定理定理8.3 （n，k）线性分组码有最小距离为d的充要条件，是H矩阵中任意d1列线性无关。 推论推论8.4 （n，k）线性分组码的最大的，可能的最小距离等于n k1。 由此定理可知，所有列相同，但排列位置不同的各种H矩阵所对应的不同（n，k）线性分组码，都有相同的最小距离，即它们在纠错能力和码率上是完全等价的。 8.3.3 陪集分解与伴随式陪集分解与伴随式 由于信道中噪声的影响，y序列中的某些码元可能与c序列中对应码元的值不同，有 yce (816) 称e为信道的错误图样错误图样。 （n，k）码的任一码字，均满足(88)

15、式或(89)式，因此，可以将接收码字y用二式中之任一式进行检验： (817)TTTTTHHHHHe ee ec ce ec cy y)(令 s s = y y.H T=e e.H T (818)称为接收序列的伴随式伴随式或校正子。当s 0时，译码器要做的就是如何从伴随式s中找到错误图样，从而译出发送的码字。8.3.4 标准阵列与译码表标准阵列与译码表 （n，k）码的2k个码字是n维线性空间Vn中的一个k维子空间。将V Vn中的全部n重划分成若干个陪集，具体做法可通过建造码的标准阵列来实现（如表8.3）： l第三行是再从其余的n重中选择一个e e3作为首位元素,同理将e e3c ci置于c ci

16、的下面完成第三行 ；依此类推，一直到将全部n重用完为止。l在余下的2n2k个n重中，选择一个n重e e 2作为第二行的首位元素，于是第二行的元素是e e2和每个码字c ci（i1，2，2k）相加 ；l先把子群中的全部2k个码字c c1，c c2，置于表的第一行；许用码字e1c1（陪集首）c2c3禁用码字e2e3e2c2e3c2 c2e2c3e3c3 c3 e2e3 kne2kne2kne2kc2kc2kc2kc2kne2表8.3 线性分组码的标准阵列 表8.3称作（n，k）线性分组码的标准阵列，这是一个2nk行、2k列的阵列。表中每列元素组成一个子集。表中每一行称为一个陪集陪集，每一行的首位元

17、素e ej（j1，2，2n-k）称作陪集首陪集首。 对于同一列的各子集 来说，其中2n-k个n重的错误图样虽然不同，但全都对应于同一个许用码字。 k221,利用标准阵列的性质可以进行译码：当输入译码器的接收序列为y，查表确定y落在标准阵列的第j行第i列，译码器就判定发送码字是第i列（即子集 ）所对应的许用码字ci，错误图样就是第j行所在陪集的陪集首e j。 i标准阵列具有以下性质： 如果把陪集首看成是错误图样，则每一个陪集中各n重具有相同的错误图样； 每一个陪集中的2k个n重都有相同的伴随式，而不同的陪集具有不同的伴随式； 译码正确的概率大小与陪集首的选择有关。根据最大似然译码原则，应该优先选

18、择重量小的n重作为陪集首。 得到（n，k）线性分组码的译码步骤如下： 若s = 0，则认为收到的y没有错误；否则认为有错，并查译码表，由s找出错误图样 ；e eTH Hy ys s 由接收到的y计算伴随式 ； 由和y计算 ， 就作为纠错后的判决码字输出。e ey yc cc c8.4 8.4 汉明码汉明码 8.4.1 汉明码的构造汉明码的构造 定义定义8.6若H矩阵的列是由非全零且互不相同的所有二进制r重组成，则由此得到的线性分组码，称为GF(2)上的（2r1，2r1r）汉明码。 8.4.2 汉明限与完备码汉明限与完备码 一个二进制（n，k）线性分组码，若要纠正t个错误，则应使小于或等于t个错误所组成的所有错误图样，都必须有不同的伴随式与之对应，即以下不等式成立： (820) 式(820)称为汉明限汉明限。 tiknintnnn0102 如果某一（n，k）线性分组码能使(820)式等号成立，即错误图样总数正好等于伴随式数目，则称这种码为完备完备码码 。 如果一个（n，k）线性分组码，除了能将重量小于等于t的所有错误图样作为陪集首外，还有部分（但不是全部）重量大于t的错误图样作为陪集首，则称这种码为准完备码准完备码。 本章的主要内容是：本本 章章