基于密度演化理论的IRA码度分布设计

1、基于密度演化理论的IRA码度分布设计0 引言1998年，D.Divsalar等人提的重复累积码（Repeat-Accumulate Codes，RA码）是一种简单的类Turbo码1。它的两个成员码一个是码率为1/q的重复码，一个是码率为1，传递函数为1/(l+D)的卷积码(称为累加器)，这也是重复累积码名字的由来。这类码不仅编码复杂度低且结构简单。Divsalar等人证明了对于RA码，采用最大似然译码算法，在足够大的信噪比下，当码长趋于无穷时帧错误概率趋于零,是一类性能良好的码。2000年，受到不规则LDPC码的启发，提出了不规则重复累积码（IRA码）5，与规则RA码相比，IRA码具有更接近香

2、农限的性能。本文首先介绍了IRA码的结构，推导了在AWGN信道下采用高斯近似优化IRA码的度分布，并对设计结果进行计算机仿真，最后是结束语。1 IRA码的结构图1是参数为的IRA码的Tanner图，其中，一般情况，表示度数为i的信息节点与所有信息节点的比例，j为信息节点的最大度数，a为校验节点连接信息节点的边数，一般情况下为正整数。IRA码的Tanner图包含变量节点和校验节点，其中变量节点包括信息节点和奇偶节点，如图2.7，上方为N个变量节点，中间为r个校验节点，下方为r个奇偶节点。第i个信息节点与个校验节点相连，每个校验节点连接a个信息节点，条边通过交织器将信息节点和检验节点连接起来，每个

3、校验节点通过Z字型的方式连接两个奇偶节点(第一个节点除外)。图1IRA码的Tanner图从矩阵的角度来看，IRA码的校验矩阵类似于规则RA码的校验矩阵，也包含两部分，为一个维矩阵。其中是一个稀疏的维矩阵，对应于Tanner图中的随机交织。是一个满秩的维矩阵，对应着Tanner图中奇偶节点与校验节点之间固定的Z形连接，具有式（2.4）的形式。在H矩阵中，第一行所含“1”的个数为a+1，其余行“1”的个数为a+2。所以，IRA码的校验矩阵也是低密度校验矩阵。IRA码的码率为： (2.16)码率也可以用度数分布表示为 (2.17)2、高斯近似优化IRA码的度分布本章介绍了IRA码的密度进化设计方法，

4、研究了在AWGN信道下，利用高斯估计密度进化理论设计IRA码的最优度分布，对IRA码在不同度分布进行了仿真分析，并对比分析了规则RA码和IRA码的性能，最后分析了IRA码的编译码复杂度。3.1 IRA码的度分布设计在迭代的BP译码算法中，所有的消息都假定为对数似然比，即的形式。从节点u送出到节点v的消息取决于从u的所有邻居节点w(除v之外)来的消息。如果u是一个变量节点，发出的消息为： （3.1）此处是u的对数似然比。若u是校验节点，发出的消息是22 （3.2）3.1.1IRA码在二元删除信道中的度分布设计用式()和()表示的IRA码的和积译码算法在二元删除信道(BEC)中可以大大简化。BEC

5、的信道输入为二进制符号，输出符号为“”，“”和“删除位”。输入的符号以概率p被删除，以概率1-p正确接收。在BEC下，信息只会被删除，不会有错误出现。不难看出由式()和()定义的消息在BEC中可以假定为只有三个值，即、和0，对应变量值0、1和“未知量”。在这种情况下在Tanner图中按方程() 和()给定的节点操作会变得更为简单和直观。对于变量节点，送出的消息等于送来的非删除位的消息，或者等于删除消息（如果所有的进入消息都是删除消息）。对于校验节点，如果送入的消息有删除消息则送出的消息是删除消息，否则送出的是所有进入消息的二进制和。1. 迭代译码的固定点分析密度进化中，进化的是消息的概率密度。

6、在删除信道中，只有三种消息类型，因此得到一个离散的密度函数，而且错误概率也仅仅是删除概率。只要迭代次数足够大、码长足够长，就可以达到任意小的比特错误率19，这就是删除概率的进化。令p为消息比特的初始删除概率，在译码算法实现过程中，将沿Tanner图的边迭代删除概率。令为信息节点到校验节点的删除概率，为校验节点到奇偶节点的删除概率，为奇偶节点到校验节点的删除概率，为校验节点到信息节点的删除概率。定义多项式R( x)，有： （3.3）其中的系数表示与i个信息节点相连的校验节点的比例。由式（3.3）和式（2.14）有： （3.4）假定要在译码算法的一个固定的节点求解，有 （3.5） （3.6） （3

7、.7） （3.8）由（3.5）、（3.6）、（3.7）、（3.8）消除、得到关于的函数，记为，则有： （3.9）若式（3.9）在区间上无解，那么RA码译码器的误码率收敛于0。所以，如果有： （3.10）以文献19的思想，则迭代译码成功实现。2. 接近信道容量的参数设计下面我们将推导接近信道容量的度分布。首先，设定，即转换为在此条件下达到信道容量。且有，则在BER信道下将误码率收敛于0转变为： （3.11）定义 （3.12） （3.13） （3.14）、与在0,1区间内都是单调函数，当x取值为0时函数的值为0；当x取值为时，函数的值为1。此外，可以通过令求逆得到。可以在零点展为非负系数的幂级数，

8、令。现在，条件式()可以重新写为： （3.15）即 （3.16）在（3.17）式中选择， （3.17）式中，且。N和存在且是唯一的，因为是非负的，且。对于这样选择的，有： （3.18）后一个不等式成立是因为。因为式（3.17）满足条件（3.16），所以误码率BER收敛到0。由这样度数分布函数得到的IRA码门限值大于等于p。现在我们将计算在的情况下的码率。可以看到这时码率接近信道容量。IRA码的码率由式（2.17）给出，简化为,有： （3.19） （3.20）（3.20）式中右边的不等式是由的性质决定的。由容易看出： （3.21）在式（3.21）中，当a很大时，其值趋于(1-p)/p。把这个结果

9、代入计算码率的公式，最后得到当a很大时码率趋于1-p，这实际上就是BEC的信道容量。因此方程()给出的度数分布序列达到了信道容量。文献10给出了在BEC下设计IRA码的结论：在码率相同的情况下，随着a与的项数的增加，阈值逐渐接近信道容量。所以，在设计IRA码时，选择参数a与的项数的值时，在可能情况下，应尽量选择大一点的值。 IRA码在AWGN信道中的度分布设计在本节中，考虑在AWGN信道下的度分布设计。AWGN信道中，只有“0”和“1”两种输入，输出为，其中z为均值为0，方差为的高斯白噪声。给定噪声方差，找到最优度序列使其在高码率的情况下误码率接近0。在BEC信道中仅需考虑概率，而在AWGN信

10、道中，还需考虑概率密度，这使得分析变得复杂化，于是采用近似方法去设计。1 高斯近似Wiberg18指出在AWGN信道中，迭代译码传递的对数似然比信息可以用高斯随机变量来近似。在文献20中，提出将概率密度函数进行高斯近似（Gaussian approximation）的方法运用于AWGN信道中的LDPC码的度分布设计。 作为一类特殊的LDPC码，运用高斯近似（GA）同样可以设计在AWGN信道下IRA码的度分布，在每次迭代时，用高斯变量近似校验节点到变量节点（信息节点和奇偶节点）的消息。对于一个变量节点，若所有输入为高斯信息，通过式（3.1）可以知道，此变量节点的输出也为高斯信息。若高斯分布满足，

11、则称此高斯分布具有一致性。具有一致性条件的高斯分布的方差和均值满足。文献19证明了在和积算法中，消息在变量节点和校验节点的更新中保持了一致性。这样，对于输入信息为一致高斯信息的点，只需要跟踪均值就可以得到信息密度的分布。定义具有均值为的一致高斯分布为： （3.22）对均值为符合一致高斯分布的随机变量z，的期望值为 （3.23）容易看出，是的连续单调递减函数。标记其反函数为。在第次迭代时，用和分别表示从检验节点到变量节点和检验节点到奇偶节点的消息，希望得到用和表示的和。度为i的信息节点向校验节点传送的信息为方差是的高斯信息，为式（3.1）中信息的方差。用表示随机选择一条从信息节点到校验节点的边的

12、信息，则其密度函数为： （3.24）由式（3.23）和式（3.24）得到： （3.25）同理，用表示随机选择一条从奇偶节点到校验节点的边的信息，有： （3.26）由式（3.2）有： （3.27）分别用和表示从校验节点到信息节点和校验节点到奇偶节点的信息。将式（3.25）和式（3.26）分别代入（3.27）有：由式（3.23）定义的，得到： （3.28） （3.29）为了获得任意小的误码率，当趋于无穷大时，和的均值也应该趋于无穷大。但是Richardson等人14在研究AWGN信道下基于置信传递算法的密度进化时，发现迭代中存在几个误码率下降缓慢的关键点，称之为“黏滞点（Fixed Point）”

13、。在这些点上，相邻两次迭代译码消息变化很小。2黏滞点分析假设迭代译码达到式（3.28）和（3.29）中的黏滞点，这时，有 ，令由式（3.25）可以得到，且当时，。很显然，式（3.29）中是x的函数，表示为。则由式（3.28）和式（3.29）得到 （3.30）用替代（3.30）中的，并将其标识为x，得到黏滞点x的方程 （3.31）若式（3.31）在区间内无解，那么译码的误码率趋于0。令 （3.32）在任意中成立（为第一次迭代时x的值），则高斯估计迭代译码成功。由式（3.17）得到IRA码的码率为： （3.33）为了使码率最大化，应该使最大化。因此，用高斯估计时，IRA码的优化设计问题转化为线性规

14、划问题，即为在条件 （3.34）下，最大化 （3.35）10。表中，a,分别为IRA码的校验节点与信息节点度数分布参数；为运用密度进化技术（GA）计算出的IRA码的真实阈值；阈值对应的信噪比（dB）为真实阈值对应的信噪比；为高斯估计下得到的阈值，最后1行为相应码率下的Shannon限。在3.1中，当时，调整高斯阈值至1.2315,得到了码率为0.333223的IRA码的一组参数。运用精确的密度进化技术，通过计算得到这组参数下的真实阈值，其对应的信噪比为-0.250，与香农限-0.4958很接近。当增加a到4时，IRA码在AWGN下的阈值为-0.371dB，与香农限仅差0.12dB。表3.1在A

15、WGN信道下码率为1/3的IRA码优化参数 a2342356101112132728码率GA*(Eb/N0)*(dB)香农限（dB），码率约为1/2的IRA码的两组参数值。在第一组参数中不含项，第二组参数中含有项，由香农限可以看出，含有项的参数性能更加优越。这是因为，从变量节点的角度看，其度数越高越好，因为对它进行监督的校验节点越多，提供的译码信息越准确，使得它能更快更准确地译码，所以度数为2的变量节点性能很差是显而易见的。然而，如T. Richardson14所述，为了保证最优的非规则性，度数为2的节点是必要的。直观认为，低度数的变量节点是“不好”的，但是为了平衡低度数的校验节点的存在，它又

16、是“好的”。低度数校验节点的存在是有利的，度数越低，它对与之相邻变量节点的校验约束更有效，变量节点所获得的校验信息就更准确。所以，文献10指出，要达到接近0的误码率，项是必不可少的。表3.2在AWGN信道下码率为1/2的IRA码优化参数序列a8823781112182046485558码率*(Eb/N0)* (dB)香农限（dB）3.2 仿真与分析1、 IRA码在不同度分布下的性能比较为了研究度分布对IRA码性能的影响，在AWGN信道下，对码率为1/3和1/2的IRA码在不同度分布的条件下分别进行了仿真。IRA码的度分布，将表中所示a2，a=3，a=4的三组度分布分别设为第一组，第二组和第三组

17、参数，仿真这三组参数下码长分别为1024和2048的IRA码的性能曲线。其它参数相同，为：BPSK调制；随机交织器；码率R1/3；BP译码，且其迭代次数为100。图3.1为码长1024，码率1/3的IRA码的性能曲线，图3.2为码长为2048，码率1/3的IRA码的性能曲线。从图3.1可以看到，在误码率BER=10-4时，IRA码采用第一组度分布参数所需的信噪比约为1.95dB，采用第二组度分布参数所需的信噪比约为1.8dB，采用第三组度分布参数所需的信噪比约为1.7dB，因此，码率为1/3的IRA码采用第三组度分布的性能优于采用第一组和第二组度分布。为了不失一般性，图3.2给出了码长为204

18、8的性能曲线，从图3.2可以得出同样的结论。香农限的距离,得出在a=4时，IRA码离其香农限的距离最近，所以a=4时IRA码的性能优于a=2和a=3时的性能。于是，可以得到，在设计IRA码的度分布参数时，参数a的适当增大及的项数的适当增多，可以使IRA码的误码率下降，性能得到改善。图3.1 码长1024,码率1/3的两组度分布性能比较图3.2 码长2048,码率1/3的两组度分布性能比较前面提到，在设计IRA码的度分布时，为了达到接近0的误码率，在度分布设计时项是必不可少。为了研究项对IRA码性能的影响，在AWGN信道下，对码率为1/2的IRA码的性能进行了仿真。a为8，不包含2项设为第一组参数，包含2项设为第二组参数，仿真这二组度分布参数下码长分别为1024和2048的IRA码的性能曲线。其它仿真参数相同，为：AWGN信道；BPSK调制；随机交织器；码率R1/2；BP译码，且其迭代次数为100。图3.3为码长1024，码率为1/2的IRA码的性能曲线，图3.4为码长为2048，码率为1/2的IRA码性能曲线。从图3.3可以看到，在误码率BER=10-4时，IRA码采用第一组度分布参数所需的信噪比约为2.95dB，采用第二组度分布参数所需的信噪比约为2.8dB，因此，包含2项的IRA码的性能比不包含2项的IRA码的性能要好。为了不失一般性，图