（信号与信息处理专业论文）自适应多项式均衡器的研究.pdf

西南交通大学硕士研究生学位论文第1 页 摘要 在日益高速发展的现代通信环境下，传输信道的非线性已成为影响信道 误码性能的主要因素，只有采用基于非线性滤波器理论的非线性均衡技术才 能有效抑制高速传输信道的码间干扰。因此，非线性信道的均衡技术就成为 高速无线通信领域的一个研究热点。 借助多项式自适应滤波器以及神经网络滤波器两种非线性模型，从减少 多项式中耦合项的数量和使用另外一种形式的非线性系统来逼近v o l t e r r a 非 线性系统两个方面入手，研究和探讨了新型结构的非线性自适应均衡器，主 要在对多项式滤波器、神经自适应滤波器、一般非线性多项式及正交多项式 神经网络等结构研究基础之上，并适当地把判决反馈结构、双线性结构融合 其中，提出了一系列新型结构的非线性信道均衡器，并且对各种结构非线性 均衡器作了性能分析，计算机仿真证明了它们的正确及有效性。 论文的主要研究成果包括： 1 研究了一种基于d c t 域二阶多项式自适应均衡器，解决了输入信号 的自相关矩阵的特征条件过大以及二阶v o l t e r r a 展式的耦合项数量过大的问 题。该均衡器具有优点是结构简单、参数个数少以及计算复杂性较低。 2 。在分析非线性系统级联结构的基础上，先后研究了线性滤波器与多 项式级联结构、神经网络与多项式级联结构、神经l e g e n d r e 正交多项式以 及神经c h e b y s h e v 正交多项式判决反馈均衡器。研究结果为构造新型非线性 滤波器提供了新的思路。 3 ，研究了线性滤波器与多项式级联结构的复值自适应均衡器、神经网 络与多项式级联结构的复值自适应均衡器，并推导出了相应复数自适应算 法。仿真结果为实际工程的复值信道实时应用提供了新的依据。 4 研究了神经网络与多项式级联结构的自适应均衡器在卫星通信非线 性信道中的应用，仿真结果证实了该自适应均衡器有效性。 关键词：非线性信道均衡：g e l t e r r a 滤波器；多项式 神经自适应滤波器；判决反馈均衡器。 西南交通大学硕士研究生学位论文第1 i 页 a b s t r a c t i nt h e i n c r e a s i n g l yd e v e l o p i n g c i r c u m s t a n c e w i t h h i g h d a t a r a t e ，t h e c o m m u n i c a t i o nc h a n n e l sn o n l i n e a r i t yh a sb e c o m et h em a i nf a c t o ra f f e c t i n gt h e b i te r r o rr a t e ，w h e no n l yt h en o n l i n e a re q u a l i z a t i o nt e c h n o l o g yw i t hb a s e do n n o n l i n e a rf i l t e rt h e o r yc a r lr e m o v et h ei s ie f f e c t i v e l y s o ，t h er e s e a r c ho nt h e n o n l i n e a rc h a n n e le q u a l i z a t i o ni sn o wah o ts p o ti nt h eh i g h - r a t e dw i r e l e s s c o m m u n i c a t i o na r e a t h i sp a p e ri sp e r f o r m e dm a i n l yo nt h ea d a p t i v ee q u a l i z a t i o nt e c h n o l o g yi n t h en o n l i n e a rc h a n n e l ，b a s e do ns u m m a r i z i n gt h e p r e s e n ts t u d yo nn o n l i n e a r a d a p t i v es i g n a lp r o c e s s i n ga n d n o n l i n e a rc h a n n e le q u a l i z a t i o nd o m e s t i c a l l ya n d a b r o a d b yu s i n gp o l y n o m i a la d a p t i v ef i l t e r i n ga n dn e u r a ln e t w o r kt e c h n o l o g y ， n o v e lw a y so nh o wn o n l i n e a ra d a p t i v ef i l t e r ( o rn e u r a ln e t w o r k ) c a nb ea p p l i e d i n t ot h en o n l i n e a r e q u a l i z a t i o n a r ed i s c u s s e da n ds e v e r a ln o v e ln o n l i n e a r e q u a l i z e r sa r ep r o p o s e d ，w h i c h h a v es h o w nb e t t e re q u a l i z a t i o np e r f o r m a n c et h a n t h eg e n e r a lo n e s t h em a i nr e s u l t so ft h i sp a p e ra r ea sf o l l o w s ： 1 b a s e do nd c t p o l y n o m i a la d a p t i v ee q u a l i z e ri sp r o p o s e df o ra u t o c o r r e c t m a t r i x sc h a r a c t e r i s t i cc o n d i t i o no fi n p u t ss i g n a l sa n dp r o d u c tc o u p l i n gi t e m s ， w h i c hh a sav e r ys i m p l es t r u c t u r ea n df e wp a r a m e t e rb u tw i t hg o o dn o n l i n e a r e q u a l i z a t i o np e r f o r m a n c e 2 l i n e a rf i l e rl i n k e dn o n l i n e a rp o l y n o m i a la d a p t i v ee q u a l i z e r 、n e u r a l n e t w o r kl i n k e dn o l i n e a rp o l y n o m i a la d a p t i v ee q u a l i z e r 、n e u r a ln e t w o r k l e g e n d r ep o l y n o m i a la d a p t i v ee q u a l i z e r a n dn e u r a ln e t w o r k c h e b y s h e v p o l y n o m i a ld e c i s i o nf e e d b a c ke q u a l i z e rf o r n o n l i n e a rp o l y n o m i a la d a p t i v ef l i e r s a r e p r o p o s e d t h ee q u a l i z e r s a n t i - n o n l i n e a r p e r f o r m a n c e c a nb e i m p r o v e d e f f e c t i v e l y 3 l i n e a rf i l t e r sl i n k e dn o n l i n e a ra n dn e u r a ln e t w o r kl i n k e dn o n l i n e a r p o l y n o m i a lc o m p l e xa d a p t i v ee q u a l i z e r s a r e p r o p o s e d f o rc o m p l e xn o n l i n e a r c h a n n e l ，t h ec o m p l e xa l g o r i t h mi sg i v e n ，s i m u l a t i o n s r e s u l t ss h o wt h a tt h e y c a n e f f e c t i v e l yc o m p e n s a t e t h e p h a s e a n d a m p l i t u d e l o s si nt h e c o m p l e x c h a n n e 】 西南交通大学硕士研究生学位论文第1 i f 页 4 n e r u a ln e t w o r kl i n k e dn o n l i n e a r p o l y n o m i a la d a p t i v ee q u a l i z e r i s p r o p o s e df o rn o n l i n e a rs a t e l l i t ec h a n n e l ，s i m u l a t i o n sr e s u l t sa p p r o v e dt h a ti t i s v e r ye f f i c i e n c yf o rn o n l i n e a rs a t e l l i t ec h a n n e l k e y w o r d s ：n o n l i n e a rc h a n n e l e q u a l i z a t i o n ；v o l t e r r af i l t e r ； p o l y n o m i a la d a p t i v ee q u a l i z e r ； n e u r a la d a p t i v ef i l t e r ； d e c i s i o nf e e d b a c k e q u a l i z e r 西南交通大学硕士研究生学位论文第1 页 第一章绪论 线性自适应滤波器因其设计、实现的简单性而广泛应用于信号处理的 各个领域，特别是在通信领域中最为关键的部分一一信道自适应均衡技术 o t 。5 , 2 3 。然而，随着现代通信范围不断地扩大，通信环境日趋复杂化，数据 的传输速度提高以及数据传输量的增大，且实际通信中遇到的通信信道存在 着线性和非线性的严重干扰、非理想特性及时变性【l ，”，如在有线数字传输 系统中，当数据率高于4 8 0 0 b i t s s 时，由于有线信道的传输特性是非理想的， 其幅频响应与相频相应分别是非恒定的和非线性的，且随着气候、气温等因 素而变化，因此需要用自适应均衡器来补偿信道参数变化所引起的畸变；在 数字微波接力通信系统中，由多径传输所引起的码间干扰，也必须采用白适 应均衡技术来克服它；以及卫星通信中由于波行管的放大器工作在饱和状态 而引起的非线性干扰 8 3 - 9 3 等都需要用均衡器来克服各种干扰。显然，应用 传统的线性信号滤波理论与方法的自适应均衡器已明显不适用【l 。 。因此， 探索复杂性小以及既能抑制非线性干扰又能快速稳定收敛的新型多项式滤 波器实现结构就成为通信系统中非线性自适应均衡器当前和今后一个重要 的发展方向与趋势，也是难度很大的前沿性课题，不仅具有重要的学术价值， 也具有广泛的应用前景。 1 1 非线性滤波器及其应用 与线性系统完全由系统的冲激响应函数所确定不同，非线性系统没有 个统一的描述和刻划其特征的非线性模型【4 4 8 1 。致力于非线性滤波器研究的 研究人员常常根据他们的研究对象将自己局限于不具有普遍意义的某一类 非线性系统模型 6 1 7 】，由这些非线性系统模型构建的非线性滤波器主要有 【4 1 8 】 统计滤波器( o r d e rs t a t i s t i c sf i l t e r s ) ，如图象处理中常用去除 脉冲噪声的中值滤波器； 同态滤波器( h o m o r p h i cf i t e r s ) ，主要用于乘积型噪声的去除； 形态滤波器( m o r d h b l o g i c a lf i i t e r s ) ，用于图象处理中的形状特征 抽取、边缘检测； 西南交通大学硕士研究生学位论文第2 页 神经滤波器( n e u r a lf i l t e r s ) 主要用于非线性噪声对消、预测、滤 波； 多项式滤波器( p o l y n o m i a lf i l t e r s ) 主要用于非线性预测、滤波、 噪声对消。 在上述非线性滤波器中，最常用的非线性模型主要是神经网络和多项式 预测滤波器。虽然神经网络提供了表示非线性系统的广义逼近能力，但由于 神经网络的参数空间过大和非线性表达的分布性，很容易陷入参数空间众多 局域极小点内，从而导致其时变跟踪能力难以满足实时或接近实时应用要求 4 , 5 , 1 4 , 1 7 , 1 8 , , 5 6 6 8 。基于v o l t e r r a 级数展式的多项式滤波器因其输出仍是其展 式核的线性组合，在均方意义下易于找到其唯一的全局最优解9 19 嘲 ，其 滤波性能易于分析，最适合用于非线性自适应滤波方面的应用，己在通信、 图象处理、非线性系统辩识与控制、语音信号处理，电子对抗、深海舰船泊 泞系统的建模等领域得到广泛研究和应用f 4 5 。 + 图卜1 多项式自适应滤波器结构原理图 图i - i 为多项式自适应滤波器结构原理图，其中d 俐为期望信号，向j 为输入信号，j ，例为自适应多项式滤波器的输出，e 俐为误差： e 例= d 俐一j ，俐，并根据e 俐及相应的自适应算法对自适应滤波器的权系 数进行调整更新。如图所示的多项式自适应滤波器( 包括预测滤波器) 的自适 应结构明显不同于仅由输入矢量确定的线性自适应滤波器的自适应结构，它 存在许多非线性藕合项，且实现结构不具有唯一性。在一定条件( 如平稳环 境) 下，多项式自适应滤波器同线性滤波器一样的存在问题是自相关矩阵的 特征值控制着收敛速度 4 3 。总的来讲，特征扩展( 最大与最小特征值的比率) 越大，收敛速度就越慢，且在非线性滤波条件下，即使输入信号为白噪声， 输入矢量中的非线性藕合项也会造成特征扩展率大于1 ，这就使控制收敛的 西南交通大学硕士研究生学位论文第3 页 系数选择更加困难。可能的解决办法是寻找独立于输入信号的统计特征或对 统计特征依赖较少的自适应算法或自适应滤波结构 4 , 5 , 1 9 - 2 2 。人们从这两个 方面入手进行了不懈的努力，在非线性自适应滤波结构方面，提出了广义多 信道结构、连续线性化结构、多级线性化结构：在自适应算法方面，提出了 l m s 、l m f 、n l m s 、非线性n l m s 及q r 分解等算法 4 , 5 , 9 , 2 1 , 2 2 , 5 0 , 9 7 - 9 9 。 1 2 信道均衡研究概况 信道均衡就是要从通信系统接收端包含噪声的畸变信号中恢复出原始 的发送信号，如图1 2 所示。 高斯白噪声 输入序列 接收序列 恢复的序列 叫】亘) + 一 巫噩卜一 图卜2 基带数据传输系统及自适应均衡器 其实质上，均衡等价于逆滤波或者反卷积过程，即通过把收到的序列解 卷积来重新获得发送信息。如图1 3 所示，信道均衡相当于：给出系统输出 端的观测序列 y ( n ) ) ，恢复输入的信息序列 x ( n ) ) ，或等价辨识系统h 的逆 系统h 。1 【限20 1 ，其中x ( n ) 是概率分布已知但本身不能直接被观测的信息序列。 不能观测的数r 1 避观测的输 塑半塑p 唑 图1 - 3 反卷积原理图 可见，自适应均衡器实际上就是一个自适应滤波器，自适应信道均衡的 理论基础就是自适应滤波 1 | 3 j 。自适应滤波器能利用前一时刻已获得的滤波 器参数自动地迭代调节现时刻的滤波器参数，以适应信号、噪声未知的或随 时间变化的统计特性，从而实现最优滤波。自适应滤波器具有的这种“自我 调节”和“跟踪”能力，使它可以应用在信号的实时处理中。 西南交通大学硕士研究生学位论文第4 页 1 2 1 非线性信道模型 由于线性信道受到各种非线性干扰的影响，从而使线性信道系统转变成 为非线性信道系统，由非线性信道系统建立的模型称为非线性信道模型。在 通信领域非线性信道模型中，主要有非线性信道的w i e n e r 模型、非线性磁 记录信道模型和非线性卫星信道模型。 1 2 1 1非线性信道的w i e n e r 模型 有相当广泛的非线性系统都能够用一个线性子系统和一个无记忆的非 线性增益级联而成的w i e n e r 模型来表示【45 , 5 0 ，该模型可用图1 4 表示： 。( 纠 il “f py ( f ) |三? f l 例i- f v ：r j u 。( f ) j l 图1 - 4 非线性信道w i e n e r 模型 图中一( f ) 为线性子系统的冲激响应，代表非线性增益，它可以用一个”阶 多项式 j ，( f ) = f l u ( t ) + r 2 u2 ( r ) + + _ “”( f ) = r , u 。( r ) ( 1 - 1 ) i = 1 来表示。 图1 5 非线性系统框图 在图中，x 和y 分别表示信道的输入和输出，g 表示一个线性信道，其 传输函数为g ( z ) ，d 2 ，d ，d 4 为非线性抽头系数，h 表示噪声。假设输入信 号工( f ) 经过线性信道g 之后的为s ( f ) ，那么信道输出信号y ( r ) 与s ( f ) 的关系 为： 西南交通大学硕士研究生学位论文第5 页 y ( t ) = s ( t ) + d 2 s2 0 ) + d 3 s3 0 ) + d 4 j 4 ( r ) + d ，( f - 1 ，2 ，) 为非线性系数，随着i 的增大，其受到的非线性干扰程度 也就相应的严重。在进行计算机仿真试验时，为了验证非线性均衡器的消除 码间干扰和非线性干扰能力，线性信道通常取非线性最小相位信道为： g ( z 、= 0 3 4 8 2 + 0 8 7 0 4 z 一1 + 0 3 4 8 2 z 一2 ( 1 2 ) 而当取d 2 = 0 2 时，则 y ( t ) = s ( t ) + 0 2 s 。( r ) ( 1 3 ) 此式为相应的受到适度的非线性干扰；当取d 2 = 0 2 ，d 3 = o 5 时，则为： y ( t ) = s ( f ) + 0 2 s2 ( r ) 十o 5 s 3 ( ，) ( 1 - 4 ) 此式为相应的受到较为严重的非线性干扰。 1 2 1 2非线性磁记录信道模型 在磁记录系统低密度时，磁记录信道通常用线性系统来建立模型。然而， 在磁记录写处理过程中，当磁记录系统高密度或高速数据传输率时，由于存 在磁化和相邻转换位置的接近，使转换位置发生偏移。被用来描述非线性记 忆系统输入与输出关系的v o l t e r r a 级数，已经被成功的建立磁记录信道系统 模型 1 7 , 1 8 】。例如，由于残留的电磁而产生的转换位置的移动能够被二阶的 v o l t e r r a 级数展式逼近，转换位置偏移也可以被三阶的v o l t e r r a 级数展式逼 近。文献 1 7 ，18 】已经证明了非线性磁记录信道可以用v o l t e r r a 级数模型来建 模，即读写信号的v o l t e r r a 级数的表达式为： y ( f ) = 吼h 。( t - k t ) + 0 一k v ) ( 1 5 ) 其中，a 女( 值为+ i ，一1 ) 为输入信号序列，l ( “+ v + f ) 为影响y ( t ) 的连续 的样本信号的数量，此结构中v o l t e r r a 模型的计算量随着l 的增大而快速的 增长，幸运的是数字磁记录系统通常可以用少量的v o l t e r r a 核来进行刻化， 即使用较低阶的v o l t e r r a 级数来建立磁记录信道模型。 1 2 1 - 3非线性卫星信道模型 卫星通信信道由发射滤波器t x 和接受滤波器r x 组成，通过上行链路 和下行链路进行联接。如图所示： “ 口：日 m 删忡叫 。 + 西南交通大学硕士研究生学位论文第6 页 图1 6 卫星通信信道 如图所示调制的输入信号口( n ) 是被高功率的放大器和二- 个t w t ( 波行管) 放大。由于在卫星通信中功率资源的限制，为了得到最大的效率放大器经常 工作在接近饱和点区域。因此，对于振幅和相位t w t a 表现出了严重的非 线性干扰，其特征建立的模型用下面两个公式表示： 趔一。带( 1 - 6 ) 口。r 2 矿( 7 ) 2 1 + t l g 一(17)dr 2 其中r 是t w t a 的输入信号振幅。其中a ( r ) 和( r ) 表示，的a m p m 转 换的奇数和偶数函数。根据信道非线性特性，将采用一种泛函数v o l t e r r a 级 数形式表示信道响应，文献 8 6 ，8 7 e e 已经证明存在非线性的卫星信道可以用 v o l t e r r a 级数模型来建模，其固有的v o l t e r r a 核可以完全表征非线性系统的 性质。通过v o i e r r a 级数建立非线性卫星信道模型，其表达式如： ，( 女) = q _ q 一。：吼吨 i = 1 l1 2 ，一i 口女一 口 一k n l h 。2 i - i b l + v ( 七) ，! ! ! 生：! ! 望 日( ) = e 。 ，= 0 ，一，m 一1 ( 1 8 ) ( 1 9 ) 其中v ( k ) 是复高斯下行联接噪声，磁”，磁? l ：岛，碰x l ? h 一是基于 v o l t e r r a 级数信道模型的离散输入和输出信道系数。口( n ) 是q p s k 和m p s k 输入信号，m = 4 ，8 等。1 - 8 式中第一项是卫星信道的线性部分，一般卫星转 发器工作在非饱和区域时，卫星信道表现出了线性失真，非线性失真非常小， 一1 可以不考虑，因此数字卫星信道模型可以简化为：x ( n ) = 珥”口( n j ) + v ( ”) ； 面 而转发器工作在饱和趋于时，信道的非线性失真已经不能忽略，最常用到的 西南交通大学硕士研究生学位论文第7 页 是v o l t e r r a 级数的三次和五次系数的模型。 1 2 2 均衡算法的性能评价指标 评价自适应均衡算法的优劣可以从下面5 个性能指标着手：f 1 ) 收敛速 度；( 2 ) 误码性能：( 3 ) 跟踪时变信道能力；( 4 ) 运算复杂度；( 5 ) 容错性。 ( 1 ) 收敛速度 对于自主均衡，均衡器每隔一段时间就要发送一个短的己知码序列，即 所谓的“训练序列”，以获得均衡器参数。在一些串行数据通信体制中，训 练码元将占去所有数据序列的2 0 ，这意味着1 5 左右的频带没有得到利用。 而较快的收敛速度可以使均衡器用较少的码元完成训练，从而提高频带利用 搴。 对于盲均衡，虽然不用发送训练序列，但是均衡器在启动时总要经历一 个从未收敛到收敛的过程；面且信道环境发生变化的时候，收敛速度越快均 衡器越能尽快再次达到收敛状态。 。 ( 2 ) 误码性能 在算法的计算复杂度不增加、算法的收敛速度相当的前提下，降低均衡 器的比特误码率( b e r ) 具有重要意义。对传统均衡器来说，线性均衡器( l e ) 的计算复杂度最小，但误码性能最差；最大似然序列均衡器( m l s e ) 的计 算复杂度最大，但却具有最佳的误码性能；判决反馈均衡器( d f e ) 的误码 性能比l e 好，但是与m l s e 相比要差一些。 ( 3 ) 跟踪时变信道能力 所谓算法跟踪时变信道的能力，就是看算法能否在非稳态环境下( 比如 时变系统) 及深度衰落情况下继续保持收敛和稳定。算法的收敛速度是受其 原理和参数制约的；而算法的不稳定性则多是有限字长引起截断误差的积累 所致。 ( 4 ) 运算复杂度 许多均衡算法尽管有较快的收敛速度，但浩大的计算量令均衡器的硬件 和软件开销都很大，让均衡器的实际应用受到很大限制。因此，在误码性能 相当的前提下，尽量降低均衡算法的计算复杂度具有十分重要的意义。 ( 5 ) 容错性 当均衡器局部损伤时，误码性能是否发生很大变化，即均衡器是否有较 强的容错能力，这对硬件系统有重大意义。 西南交通大学硕士研究生学位论文第8 页 1 2 3 非线性自适应均衡 从滤波器结构来分，自适应滤波器可以分为线性白适应滤波器和非线性 自适应滤波器，非线性自适应滤波器研究是非线性自适应滤波器研究的基 础。相应地，自适应信道均衡也可分为线性自适应均衡和非线性自适应均衡。 基于线性信号处理理论的线性自适应均衡在非线性干扰严重的环境下，已经 不能恢复出信号，而基于非线性信号处理理论的非线性自适应均衡显然更适 合于非线性信道信号的均衡。根据非线性滤波器的分类，非线性自适应均衡 最常用主要是基于神经网络和多项式模型的非线性自适应均衡皤。 1 2 3 1基于神经网络的非线性均衡方法 可以从两个不同的角度看待均衡问题：从传统的角度，均衡等价于反滤 波过程，通过对接收到的序列解卷积来重新获得发送信息；另一种观点把均 衡问题看成分类问题，目标是把接收到的信号分成发送信号所对应的类别。 从第一种角度看待均衡问题，神经网络作为万能函数逼近器的能力可以被利 用；从第二种角度看待均衡问题，神经网络又可作为分类能力很强的分类器 来使用【5 0 1 。 由于神经网络自身固有的特点，神经网络方法在处理非线性信道均衡问 题时表现出的性能尤为突出。用神经网络来实现信道均衡，国际上的研究主 要着眼于以下几个方面：一是把某种结构的神经网络应用到信道均衡中，如 多层感知器、r n n 网络( 对角r n n 网络、双线性r n n 网络等) 、r b f 神 经网络、c h e b y s h e v 神经网络等：二是为了加快训练速度，提出一系列的变 步长算法或者归一化算法；三是为了适用于复数信道或者多相位幅度调制系 统，提出复数算法：四是为了进一步改进神经网络的性能，提出判决反馈结 构的、双线性结构的神经网络均衡器。可见，神经网络自适应均衡主要的研 究思路和手段还是基于线性自适应滤波理论的。 神经网络本身已经比较成熟，它的很多结构和算法都可以直接用在非线 性信道均衡中，并且取得了很好的效果。比如：感知器结构神经网络，采 用的算法主要有b p ( b a c k p r o p a g a t i o n ) 算法、复数b p 算法4 。5 ：”、归一化 b p 算法“”等；以及以感知器结构为主的神经网络如：判决反馈的感知器结 构均衡器“、分数抽样的递归多项式感知器8 “、格形多项式感知器( l p p ) 及l p p 快速实现算法“”：回归神经网络r n n ( r e c u r r e n tn e u r a ln e t w o r k ) ， 西南交通大学硕士研究生学位论文第9 页 采用的算法主要有两类：基于最陡下降方法的b p 类算法和实复数r t r l ( r e a l 1 、i m er e c u r r e n tl e a r n i n g ) 算法、r t r l 盲均衡算法”“；以及以r n n 结构为 主的神经网络如：判决反馈的r n n 均衡器( 实数算法和复数算法) ”、双 线性r n n 均衡器( 实数和复数算法) ”等；r b f ( r a d i a lb a s i sf u n c t i o i q ) 神经网络( 实数算法和复数算法) ”6 “；c h e b y s h e v 正交多项式神经网 络。 i 2 3 2基于多项式滤波器的非线性均衡方法 w i e n e r 最早利用v o l t e r r a 级数为非线性系统建模，他在文献 4 0 1 中分析 了含有非线性电阻的r l c 电路对高期信号的响应。通信系统中的非线性信 道也多采用v o l t e r r a 级数建立信道模型。对v o l t e r r a 系统均衡的常用方法有： p 阶逆方法1 4 1 4 3 1 、固定点方法【4 4 , 4 5 、非线性w i e n e r 类型滤波1 46 1 、非线性判 决反馈均衡 4 7 j 等，但是这些方法都只能处理比较温和的非线性。比如，p 阶 逆方法在遇到两个v o l t e r r a 系统串联产生高阶残留量的时候就会发散：固定 点均衡器所需要的收缩映射理论只有在相当温和的非线性环境下才能满足； 非线性w i e n e r 滤波器( 均衡器) 均衡过程中产生的误差将随着系统非线性 的增加而增加；对于非线性判决反馈均衡器，系统的强非线性会导致均衡器 对当前码元更多错误的判断，从而使均衡器的反馈部分不但不能有效消除非 线性、反而可能会使非线性效果增强【4 钔。 v o l t e r r a 均衡器是非线性信道均衡中最为常见的多项式滤波器结构的均 衡器，除了多项式形式的表示方法外，它还有其它一些非多项式形式的表示 方法，如：对角坐标系统( d c s ) 表示、张量积表示( t e n s o rp r o d u c t r e p r e s e n t a t i o n ) 、正交表示( o r t h o g o n a lr e p r e s e n t a t i o n ) 等。均衡器采用非 多项式形式的表示方法在某些场合可能使均衡性能得到改善，减小计算复杂 度 4 ，5 _ 4 触2 1 ，2 2 t 5 0 9 7 4 9 9 1 。 此外，文献【5 0 】还提出一种v o l t e r r a 系统线性多信道均衡器。它即使在 强非线性环境里也表现出色，然而它要求多输出一一这就使得输出个数随非 线性阶数和核的长度的增加飞速增加。 1 3 存在问题 尽音信道均衡技术已经取得了一定的发展，但是在非线性信道均衡方面 西南交通大学硕士研究生学位论文第1 0 页 还存在许多问题： 1 多项式类滤波器中主要使用二阶v o l t e r r a 滤波器作为均衡器，它结构 较为简单，能够处理一定的非线性问题。可是，有限阶v o l t e r r a 序列的脉冲 响应是不能完全描绘非线性系统的特征的，尤其阶数很低的情况。因此当面 对比较强的非线性信道时，需要提高s v e 的阶数；但随之带来的庞大的运 算量以及耦合项数量的增加将变的难以承受。这样就需要尝试把一些结构先 进的非线性多项式f i r 和i i r 滤波器应用到信道均衡中，并且提出一些改进 的多项式自适应滤波器应用在各种通信系统中。 2 神经网络具有很强的非线性处理能力，在处理非线性信道均衡问题时 表现出的性能尤为突出。现有的典型神经网络结构比如：b p 网络、r n n 网 络、r b f 网络等，都已经用来处理非线性信道均衡问题，算法也比较成熟。 但是，这些神经网络结构复杂，计算量大，硬件实现更是有困难。因此，需 要设计结构简单而又具备很强的非线性处理能力的新型神经网络均衡器。 3 非线性信道盲均衡的研究非常具有实用性，但是由于它不能简单地直 接引用线性信道的盲均衡方法( 当信道有奇异点或信道的非线性比较严重 时，其均衡效果很不理想) ，因此具有一定的难度，高水平的成果在国内国 际上还很少见。于是利用多种信号处理手段来实现非线性信遒的盲均衡就变 的很有挑战性。 4 判决反馈和双线性结构本身的非线性处理能力并不强。特别是判决反 馈均衡器在信道的非线性较强的时候，误差传播效应会非常明显，致使整个 均衡器错误地收敛。但是，可以把这两种结构和其它结构比如v o l t e r r a 均衡 器和神经网络均衡器结合起来，改善整个结构的性能。 总结起来，当前非线性信道均衡领域中亟待解决的问题就是；需要寻找 计算复杂度小、均衡性能好、收敛速度快、结构简单易于实现、非线性处理 能力足够强的新型非线性自适应均衡器。 1 4 论文主要工作 针对各种通信系统的非线性信道均衡当前存在的问题，本文主要研究 自适应多项式滤波器新型结构及在非线性通信信道均衡中( 主要为：基于实 数二值信号一1 ，+ 1 的非线性通信系统、基于复数m q a m 的非线性通信系 统阱及卫星信道非线性通信系统) 的应用，力求研究出一些性能良好的适用 西南交通大学硕士研究生学位论文第11 页 于非线性信道模型的非线性信道均衡器。 借助多项式自适应滤波器以及神经网络滤波器两种非线性模型，从减少 多项式中耦合项的数量和使用另外一种形式的非线性系统来逼近v o l t e r r a 非 线性系统两个方面入手，研究和探讨了新型结构的非线性自适应均衡器，主 要在对多项式滤波器、神经自适应滤波器、一般非线性多项式及正交多项式 神经网络等结构研究基础之上，并适当地把判决反馈结构、双线性结构融合 其中，提出了一系列新型结构的非线性信道均衡器，并且对各种结构非线性 均衡器作了性能分析，计算机仿真证明了它们的正确及有效性。 全文共分成四章，第一章绪论属于文献综述部分，主要介绍了非线性滤波 器、信道均衡、非线性信道模型以及非线性自适应均衡国内外研究概况。 第二章研究了一种基于d c t 域二阶多项式自适应均衡器，解决了输入 信号的自相关矩阵的特征条件过大以及二阶v o l t e r r a 展式的耦合项数量过大 的问题。该均衡器具有优点是结构简单、参数个数少以及计算复杂性较低。 第三章从减少参数个数、滤波器结构本身复杂性以及计算复杂性方面着 手，在分析非线性系统级联结构的基础上，先后研究了线性滤波器与多项式 级联结构、神经网络与多项式级联结构、神经l e g e n d r e 正交多项式以及神 经c h e b y s h e v 正交多项式判决反馈均衡器。研究结果为构造新型非线性滤波 器提供了新的思路。 第四章研究了线性滤波器与多项式级联结构的复值自适应均衡器、神经 网络与多项式级联结构的复值自适应均衡器，并推导出了相应复数自适应算 法。仿真结果为实际工程的复值信道实时应用提供了新的依据。最后研究了 神经网络与多项式级联结构的自适应均衡器在卫星通信非线性信道中的应 用，仿真结果证实了该自适应均衡器有效性。 西南交通大学硕士研究生学位论文第12 页 第二章基于d c t 域二次多项式非线性信道自适应 2 1 引言 均衡器 在多项式滤波器中，v o l t e r r a 自适应滤波器是研究最多和应用最一的 一种非线性预测滤波器。这是由于v o l t e r r a 滤波器具有两个特性：( 1 ) v o l t e r r a 滤波器的输出线性的依赖于滤波器本身系数，从而使v o l t e r r a 滤波器与其核 矢量具有线性关系，便于分析非线性系统：( 2 ) v o l t e r r a 滤波器存在大量的 非线性耦合项，因此使v o l t e r r a 模型能够逼近一些非线性系统。然而，使用 v o l t e r r a 滤波器表示非线性系统时，随着v o l t e r r a 滤波器的阶数或记忆单元m 增大，v o l t e r r a 滤波器的滤波系数将按幂次快速增加，相应所需的计算次数 亦成幂次快速增加，使其工程实现变得越来越难“o “”。因此，实际使用 的v o l t e r r a 滤波器的非线性阶次往往未超过二阶以上。”。 减少v o l t e r r a 滤波器实现复杂性的一种可能办法是尽可能减少v o l t e r r a 滤波器的非线性乘积耦合项。近年来人们按照这一原则，已经提出了多种近 似实现结构，不过这些方法虽然能够降低计算复杂性，但由于这些预测器的 滤波系数与输出之间的线性关系已不存在，导致其自适应存在稳定性、收敛 到局部极值而非全局最优等问题。为此，本文分析二次v o l t e r r a 滤波器和文 献 2 1 】中给出的连续信号的d c t 域二次多项式非线性滤波器的基础土，研 究了一种基于余弦变换( d c t ) 的d c t 域二次自适应均衡器实现结构，该 自适应均衡器结构的滤波参数与输出之间关系仍为线性关系，且不存在算法 收敛问题，实现简单。 西南交通大学硕士研究生学位论文第13 页 2 2 基于d c t 域二次多项式自适应均衡器 2 2 1 二阶多项式自适应均衡器 2 21 1多项式自适应滤波器 令一个离散时间非线性因果系统的输入信号为x ，输出信号y ，则y 关于 x 的v o l t e r r a 序列扩展可以表示为： y ( n ) = h 。+ h 。( m 。) x ( n - m ) + h ：( m 。，m ：) x ( n m ) x ( ”一m 2 ) “i - 0月7 l = o “2 = 0 + + h p ( m l ，研2 ，m ，) x ( h m 】) z ( m 一脚2 ) r l l i = 0 m2 = 0m 口= o x ( n m 。) + ( 2 1 ) 在实际滤波应用中，使用无限序列扩展是不可能的，必须使用截断 v o l t e r r a 级数扩展： 一】一】n l y ( ”) = h ( m 。) x ( n - m ，) + h ：( 聊。，m ：) x ( ”1 2 0“i = 0 m 2 2 0 + + l = 0 m 2 = o m p ) x 一m 】) x ( n 一朋2 ) 。x ( n 一脚p ) ( 2 _ 2 ) 式2 2 描述的是p 阶、n 一1 个延迟的v o l t e r r a 序列。它的计算复杂度为 o ( y9 ) ，即系数的个数与n 成正比。 2 2 1 2二阶多项式自适应均衡器 实际应用中多采用低阶非线性系统模型，比如二阶v o l t e r r a 滤波器，如 图2 - 1 所示，其中p = 2 ，n = 3 。 m研 勤俨 西南交通大学硕士研究生学位论文第14 页 圈2 - 1 个一二阶v o l t e r r a 系统( p = 2 ，n = 3 ) 为了不失一般性，y 关于x 的二阶截断v o l t e r r a 级数扩展形式中二阶核 对称，则： n - i 一in i y ( n ) = h o + h 1 ( 珊1 ) x ( 肝一聊】) + 矗2 ( 聊l ，m 2 ) z ( ，2 一m 1 ) x ( 九一m 2 ) ( 2 3 ) i = 0m l = 0 m 2 = 仙 式( 2 - 3 ) 描述的是2 阶、n 一1 个延迟的v o l t e r r a 扩展形式，计算复杂 度为0 ( n 2 ) ，即系数的个数与n 2 成正比，由此二阶多项式构成的非线性白适 应均衡器结构如图2 - 2 所示。 7 囱 7 非 癸媳 r 线 性 扩 o + 尹 m ，i 图2 2 基带通信系统及二阶多项式自适应均衡器 西南交通大学硕士研究生学位论文 第15 页 可以把二阶v o l t e r r a 展式看作一个输入矢量为 1 ， x ( n ) ，x ( n - i ) ，x ( n n + i ) 进行非线性扩展成具有m = l + n t n $ ( n + i ) 2 个元 素的输入向量 j 俐= 1 ，x ( n ) ，x ( n - i ) ，x ( n n + i ) ，x 2 ( f t ) ，x ( t 1 ) x ( n 一1 ) ，x2 ( n n + i ) ， 则俐作为自适应均衡器的输入，而 肌门j = h 。h 。h ，h 。h 。 = h 。( n ) h ( 1 ，n ) h ( 2 ，1 3 ) 匠( n n + l ，n n + 1 ) 作为 多项式自适应均衡器的权系数矢量，这样就可以直接把线性滤波器的分析方 法引用到均衡器中，则均衡器的输出为： y ( n 1 = h ( n ) x f n ) 7 ( 2 4 ) 应用自适应信号处理中的n l m s 算法，则：p ( 行) = d ( ) 一少( 月) 均衡器的权系数更新方程为：h + 1 ) = 日) + 船尚 ( 2 _ 5 ) 其中“为自适应算法的调整步长，c 为控制因子。 已有研究结果表明：二阶v o l t e r r a 均衡器能够对非线性信号进行均衡， 已经应用在卫星通信链路以及数字电磁记录等受到非线性干扰的通信系统 中，并且取得了较好的均衡效果。但是应用v o l t e r r a 展式解决非线性问题 也存在着局限：v o l t e r r a 展式实际上一个带记忆的t a y l o r 序列，当非线性 模型不连续、有中断时，v o l t e r r a 均衡器可能不会收敛：另外，和线性情 况相比，二阶v o l t e r r a 均衡器的脉冲响应不能完全描绘非线性系统的特征， 只能处理比较温和的非线性：而且v o l t e r r a 均衡器的待定系数较多以及非线 性耦合项较多，使工程实现比较困难。 2 2 2 基于d c t 域二次多项式自适应均衡器 2 2 2 。1 均衡器结构及自适应算法推导 由于v