（信号与信息处理专业论文）avs中信源信道联合编码的研究.pdf

摘要 a v s 中联合信源信道编码的研究 硕士研究生：曹维娜导师：赵力教授 东南大学无线电工程系 在通信技术飞速发展的今天，如何更高速和有效的对数据进行传输一直都是 人们不断研究的课题。在过去相当长的一段时问内，对于传输数据的编码一直是 分割讨论的，即分为信源编码和信道编码两部分讨论。这种方法在很多情况下都 能取得较好的性能，但是这种方法也有其限制性。为了得到更好的传输性能和信 道利用率，联合信源信道编码逐步地被大家重视和研究起来。 本文在信息论与编码理论的框架下，针对误码信道和信源编码的统计特性， 提出了一种能有效提高a v s 视频编码码流的抗误码性能的联合信源信道编码方 法。该方法将a v s 视频层序列按照重要性对码流进行分组重排，信道编码器根 据码流信息对信源编码的码流进行比重不等的保护措施，以低复杂度的运算实现 了码率的优化分配。在信道编码部分，本文设计了基于l d p c 编码方式的联合 编码系统和基于r c p c 编码方式的联合编码系统，对于两种不同性能的信道编 码的优势和劣势也进行了分析。通过实验证明，与现有的等差错保护相比它在 高误码信道中能取得更好的性能。最后，作者就联合信源信道编码在今后的发展 前景提出了自己的看法。 关键词：联合信源信道编码；a v s 标准；删余卷积码；低密度奇偶校验码；不 等差错保护 a b s t r a c t r e s e a r c ho nj o i n ts o u r c ec h a n n e lc o d i n go fa v s b yc a ow e i n as u p e r v i s e db yp r o f z h a ol i d e p a r t m e n to fr a d i oe n g i n e e r i n g s o u t h e a s tu n i v e r s i t y n o w a d a y s ，c o m m u n i c a t i o nt e c h n o l o g yi sd e v e l o p i n ga tah i g hs p e e d h o wt o d e l i v e rd a t ab o t hr a p i d l ya n de f f i c i e n t l yh a s a l w a y sb e e nt h es u b j e c tw h i c hi s r e s e a r c h e dc o n t i n u o u s l y i nt h ep a s td e c a d e s ，s o u r c ec o d e ea n dc h a n n e lc o d e ca r c d i s c u s s e ds e p a r a t e l y w i t ht h i sk i n do fm e t h o d ，t h ec o m m u n i c a t i o ns y s t e mc o u l dg a i n q u i t eag o o dp e r f o r m a n c e ，b o w e v e r i ts t i l l sh a si t si n h e r e n tl i m i t a t i o n s oi nt h e r e c e n ty e a r s ，j o i n ts o u r c ec h a n n e lc o d i n g ( j s c c ) i sw i d e l yd i s c u s s e d a c c o r d i n gt ot h ee r r o rc h a n n e la n ds t a t i s t i c a lc h a r a c t e r i s t i co fs o u r c ec o d i n g , a n e wu e pm e t h o do fj o i n ts o u r c ec h a n n e lc o d i n gf o ra v sv i d e oi sp r o p o s e di nt h i s t h e s i s m u l t i p l es u b - l a y e r so fi n f o r m a t i o na r eg e n e r a t e db a s e do ni m p o r t a n c eo fa v s c o d es t r c a r n ，a n dt h e na c c o r d i n gt ot h i si n f o r m a t i o nt h ed a t ai sp r o t e c t e du n e q u a l l yb y c h a n n e le n c o d e rt om i n i m i z et h eo v e r a l ld i s t o r t i o n t w ok i n d so fj s c cs y s t e m sa r c p r o v i d e d ，o n ei sb a s e do nl d p cw h i l et h eo t h c ri sb a s e do nr c p c ，a n da l s ot h e c o m p a r i s o nb e t w e e nt h e mi ss h o w ni n t h i sp a p e r s i m u l a t i o nr e s u l t ss h o wt h a tt h i s m e t h o dh a st h er m r f o r m a n c eh i g h e rt h a tt h a to fe e ef i n a l l y , t h ea r e a sf o rf u r t h e r r a s e a r e ha r ep o i n t e do u t k e y w o r d s ：j o i n ts o u r c ec h a n n e lc o d i n g ，a v s ，r c p c ，l d p c ，u e p l i 图表目录 图表目录 图1 1 数字通信系统的组成l 图2 1 最简单的通信系统模型9 图2 2 单符号离散信道1 0 图2 3 多符号离散信道1 4 图2 4 联合编码的系统框架1 8 图2 5 数字通信系统的组成2 l 图2 6 信源信道合并编码的系统框图。2 l 图2 7 分层编码的理论模型2 2 图2 8 多描述编码的理论模型2 3 图3 1 s 编码的结构2 5 图3 2h 2 6 44 x 4 帧内预测方向2 7 图3 3a v s 帧内预测方向2 7 图3 4h 2 6 41 2 、1 4 亮度插值2 8 图3 5a v s1 2 、1 4 亮度插值2 8 图3 6 宏块中需要滤波的边界示意图( 黑实线为垂直边界，黑虚线为水平边 界) 3 0 图3 7 条带结构3 4 图3 8 宏块的划分3 5 图3 9 宏块划分为8 x 8 块( 4 ：2 ：o 格式) 3 6 图3 1 0 宏块划分为8 x 8 块( 4 ：2 ：2 格式) 。3 6 图3 1 l 宏块划分为8 x 8 块( 4 ：4 ：4 格式) 3 6 图3 1 2 数据分层流程图3 8 图3 1 3 原始图像3 9 图3 1 4 丢失等级0 数据图像3 9 图3 1 5 丢失等级1 数据图像。3 9 图4 1 数字通信系统的组成。4 3 图4 2f o r e m a n 序列原始图像“ 图4 3 在l d p c ( 7 4 9 3 ，6 0 9 6 ) 后的解码图像。“ 图4 4 在u e p 保护下的解码图像4 4 图4 5f o o t b a l l 序列原始图像4 5 图4 6 在l d p c ( 7 4 9 3 ，6 0 9 6 ) 后的解码图像4 5 图4 7 在u e p 保护下的解码图像4 5 图4 8r c p c 联合编码系统框图4 8 图4 9 联合编码仿真系统框图4 9 图4 1 0 发送端仿真框图4 9 图4 1 l 接收端仿真框图5 0 图4 1 2 不同调制方式下的仿真效果图5 l 图4 1 3 不同信道下的仿真效果图5 l 图4 1 4 不同删余度下的仿真效果图5 2 图4 1 5f o o t b a l l 序列原始图像5 2 图4 1 6 在1 2 码率e e p 后的解码图像5 3 图4 1 7 在l ，2 + l 4 码率u e p 后的解码图像5 3 v 表格目录 表格目录 表lf e c 码参数4 2 独剁性声明 东南大学学位论文独创性声明 本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及取得 的研究成果尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含 其他人已经发表或撰写过的研究成果，也不包含为获得东南大学或其它教育机构 的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均 已在论文中作了明确的说明并表示了谢意。 研究生签名：日 期： 东南大学学位论文使用授权声明 东南大学、中国科学技术信息研究所、国家图书馆有权保留本人所送交学位 论文的复印件和电子文档，可以采用影印、缩印或其他复制手段保存论文。本人 电子文档的内容和纸质论文的内容相一致。除在保密期内的保密论文外，允许论 文被查阅和借阅，可以公布( 包括刊登) 论文的全部或部分内容。论文的公布( 包 括刊登) 授权东南大学研究生院办理。 研究生签名： 第1 章绪论 第1 章绪论 1 1 研究背景 1 1 1 通信系统模型 随着现代通信技术和网络信息处理技术的飞速发展发展，人们对多媒体通信 的需求日益增加。通常，人们所说的“通信”的目的是传输信息，也就是说传递 消息。可以这么说，自从有了人类，就有了伴随着人类的通信。手机、书信、电 话、电视等都是传递消息的方式，因此都是通信。但是近代的通信特指“电通信” n l 。通信的根本目的是将消息有效而可靠地从信源传到信宿，而通信的主要任务 就是借助电信号这种载体来传输消息。 按照信道中传输的是模拟信号还是数字信号，可以相应地把通信系统分成两 类：模拟通信系统和数字通信系统。2 0 世纪6 0 年代以后，数字通信目益兴旺起 来，目前出现了数字通信系统替代模拟通信系统的发展趋势。除了计算机的广泛 应用需要传输大量的数字信息的客观要求外，数字通信迅速发展的基本原因是它 与模拟通信相比，更能适应对通信技术越来越高的要求1 2 j 。数字通信系统一般的 模型可由图1 1 概括。 图中的信源编码器和信道编码器都属于编码器，编码器的作用是对信源发出 的消息进行某种变换，这种变换既能有效地表达信源发出的消息，又能较好地克 服信道噪声的干扰。而译码则是编码的反变换，译码器要从受到干扰的信号中最 大限度地提取出有关信源输出的信息，在信宿端精确或近似地再现信源发出的消 息。长期以来，有效性和可靠性作为一个矛盾统一体中的一对矛盾，形成了一种 相互割据的局面，从而衍生出信息论的两大分支理论信源编码理论和信道编 码理论1 3 1 。 图1 1 数字通信系统的组成 信源编码是将信源产生的消息变换为数字序列的过程。信源编码的主要任务 是把消息信号数字化和压缩其冗余度，提高编码效率。由于信源消息之间可能具 有相关性，使得其输出符号序列中存在着冗余度，而图像信源中的冗余和人眼视 觉特性以及对图像的某些特殊要求为图像数据的压缩提供了可能性。因此，信源 编码就是要把信源发出的消息变换成由信道基本符号构成的代码组( 亦称码字) 以使其能在编码信道上传输，并且尽量减少码字的平均长度以提高通信的有效性 【l l 。这就需要根据一给定的失真要求对信源空问实行划分，并给每一划分空间以 东南大学硕士学位论文 不同的代码，即码字。信源译码器的作用在于根据收到的码字，确定出它在信源 划分中所属的区域。显然，系统对精确度要求愈高，即失真愈小。对信源的划分 就要愈细，因而为表示信源信息所需的码字就愈多，其相应的码长也就愈长1 3 1 信道编码理论则以提高系统的可靠性为核心，它刻意追求的是寻求一种适当 的编码手段，在一定的传信率条件下，将消息以尽可能小的错误概率从信源传到 信宿。当然，不能说信道编码理论与系统的有效性毫无关系，但它所关心的有效 性只是尽可能有效地利用信道的传输能力，而并非有效地表示信源发送的消息。 在这个研究范畴内，信源都是经过某种最佳处理不含有任何多余信息的理想信 源。信道编码定理指出：对一给定的信道，如果所传的信息速率低于信道容量， 那么可靠通信是可能的；反之，则不然1 引。 可以想象，通信系统力求提高抗干扰能力往往需要以降低信息传输率为代价 的；另一方面，追求提高信息传输率又常常会使抗干扰能力减弱。因此，有效性 和可靠性是通信系统中编码理论的两个相互矛盾的方面。然而，运用信息论的基 本理论导出的编码定理，从理论上指明，至少存在某种最佳的编码或信息处理方 法，使有效性和可靠性这矛盾的两个方面，达到辩证的统一，使通信既有效、又 可靠。这些编码定理，对各种通信系统的设计和估价，都具有重大的理论指导意 义【3 】。 1 1 2 信源编码和信道编码分离的原因 从信源编码理论和信道编码理论建立开始，这两个理论的发展在相当长的一 段时间之内几乎一直处于独立和分离的状态。各自围绕着其所关心的核心问题独 立地进行研究和发展，因此当前一般通信系统基本上形成了一种信源编码和信道 编码分离设计的格局。很显然，信源编码和信道编码长期分离的格局能够存在， 并能得到迅速的发展，必然有其内在的原因1 4 】： 1 分离研究可以使问题得到简化 信源编码与信道编码的分离研究，为解决问题提供了极大的简化，信源编码 理论和信道编码理论可以将重点放在各自所关心的问题作深入的探讨。在科学发 展的过程中，学者们常用这一方法将一个复杂的问题分成若干个相对简单的问题 而分别进行研究，且大量事实证明这种对复杂问题分离简单化的处理是非常有效 的。分离处理减少了系统实现的复杂度，提高了系统的灵活性。在过去信源编码 原理和信道编码原理都有了长足的发展，使得数字通信系统可以飞速前进，归根 结底都应归功于这种分离处理的研究方法的采用。 2 分离处理不影响系统的最佳性能 从上一点我们已经知道，将复杂问题分离成简单问题加以处理可以使问题得 到简化，那么怎么对问题进行分割呢? 当然，有很多种方法可以将一个问题分解 成许多子问题，分割的方法和分割的大小各有不同，显然不是所有的分割方法都 可以保证原系统的性能不变，只有那些保持了问题的本来面目的分解方法才是有 意义的。通信系统的研究发展到今天，我们可以知道，之所以信源编码和信道编 码的相互分离与独立可能并得到迅速发展，其根本原因还在于这种分离方法并不 损失系统的最佳性能，在此基础上所搭建的通信系统仍然可以取得良好的性能。 这一关键原因可以有一个例子来说明【i o j 。 2 第1 章绪论 对于任一离散无记忆信源的分组码信源编码系统，假设信源编码器将信源的 输出序列以j v 长为单位，变换成k 长的码字，此时信源编码系统的编码速率为 咫= 。根据有失真时的分组码信源编码定理，对一任意给定的失真d ，如果 足 r ( d ) ( r ( d ) 为信源的信息率失真函数，简称率失真函数) ，则必然存在 一分组码风，使得信源编码系统的平均失真满足 d ( 岛) s d + d o e 。如：讲( 1 1 ) 这里雨为单一字母对之间的最大失真量，为一有限常数。当尽 r ( d ) 时， 乓( 玛；d ) 0 。 对于信道容量为c 的离散无记忆信道，如果信道编码采用( 玎，后) 分组码，则 信道编码系统的编码速率为= 鲁。由信道编码定理的结果可知，当心 c 时， 必然存在一个( 疗，七) 分组码壕，使得信道编码系统的错误概率满足 只s e 一呜r ( 1 2 ) 当置 0 。 将上述两个系统按图1 i 所示级联在一起，则系统总的编码速率为r = 导。 对于信源发出的任何消息，若信道编码系统没有发生错误，此时的失真将由 d ( 岛) 决定：如果发生了错误，其失真也不会超过或，因此，级联系统的平均失 真为 d ( 壤，昂) 七 n r ( d ) 时， 乓( 砖；d ) 0 ，睇( ) 0 。所以，当r c r ( d ) 时，总能找到一对b 和吃，使 得b ( b ；d ) 0 及乓( 磁) 0 。此时，只要固定r 不变，随着的增加，级联系 统的平均失真将逐渐收敛于信道容量意义上的失真率限d ( r c ) 。这也是系统所 能达到的最佳性能限f 删。 1 1 - 3 联合信源信道编码的意义 如果按照上一节对于分离式的信源编码和信道编码分析，似乎相互分离和独 立的编码方式同样有着很强的实用性和优越的性能，况且分离式编码已经发展多 年，具有成熟的技术支持。既然如此，为什么还要研究联合编码研究呢? 在此首先需要明确的是，无论编码器采用何种方式，分离编码也好，联合编 码也好，在设计通信系统的时候我们总是要去获得系统总的最佳性能。信息处理 定理指出，对于信息系统而言，对观测数据所作的任何处理都会造成信息的损失。 这就是说，系统每增加一次处理，总要伴随着一定的信息损失，信息总是不增的 ( 4 l 。那么在实际系统中，为什么分离编码方式的结果并没有损失系统的最佳性能 呢，显然它必定要付出某种代价作为补偿。那么这种代价是什么? 东南大学硕士学位论文 g a l l a g e r 曾在1 9 6 8 年指出，虽然信源编码与信道编码的分离并不影响通信 系统的基本性质，但并不能说明这是一种最经济的作法。在现有的分离系统中之 所以能够取得系统的最佳性能，是以牺牲系统的复杂性作为代价。分离设计通常 遵循这样一种过程：1 ) 对一给定的失真要求，首先要找到一种能达到这种失真度 的信源编码方法，即信源空间的划分方式。2 ) 根据信道的情况，选择一个合适的 信道纠错码，有规律地增加一些冗余度来抗拒信道噪声的干扰1 4 1 。那么，如果考 虑一种极端的系统，当信道容量为零时，即使对信源信息不作任何处理或者做最 细化的处理，对信道编码采取冗余度最大的编码方式，仍然无法使信宿收到信源 发送的任何信息。因此在实际系统中，如果信道的情况非常差，那么积极地寻求 对信源空间的合理优化划分，反而浪费了系统资源。综上所述，如果不综合地考 虑信源、信道的因素，对通信系统的设计势必要付出一些不必要的代价。 联合信源信道编码的定义可以概括为l l 川：所谓联合信源信道编码，顾名思义 就是一种综合考虑信源、信道因素的编码设计方法。其主要目的在于使通信系统 的设计与实现更加简单、更加经济，这也正是联合编码理论研究的意义所在。正 是处于这种原因，近年来，对联合编码的研究逐渐受到了人们的广泛重视，使之 成为编码理论研究中的一个重要课题。 1 2 联合信源信道编码的研究方向 1 2 1 联合信源信道编码的适用范围 正如前一部分所述，分离原理的存在是有条件的，并不能使所有系统都具有 最佳性能，分离的系统对于系统的复杂性，时延性要求较低，理想条件下假设是 一个单发送者和一个单接受者，也忽略了实际系统的不完美性。随着通信网络的 发展，分离设计的限制越来越明显，因此，在以下几种系统中，应用联合信源信 道编码可以取得更好的系统性甜5 1 。 1 资源受到限制的通信系统 资源受到限制的通信系统包括低功率无线移动通信，延迟及等待时间受限的 视频、语音和多媒体通信。可能受到限制的包括：数据传输时的速率和带宽，低 成本系统所要求的复杂度限制，便携设备的功率限制，实时系统的延时限制。而 在实际环境各种各样的限制都是实际存在的。联合信源信道编码需要从整体出发 在各种资源之间进行最优分配，从而获得端对端的系统性能的最佳。 2 多用户共享信道的通信系统 在无线通信系统中，各个用户可能会通过竞争的方式利用有限的资源收发信 息。在多用户共享信道的系统中，多个用户通过时分复用、频分复用或者码分复 用等方式共享信道，一个用户的信源信息，可能就是另一个用户的信道噪声。在 多用户接入下信源编码和信道编码无法独立进行，联合信源信道编码可以用来减 少用户间的干扰，提高系统整体性能。同时，信道容量的充分利用可以在信源编 码和信道编码分别独立进行的情况下实现。但在多源接入信道下这一结论不成 立。 3 屏质信源、异类信道或异种用户共存的通信系统 异质信源( h e t e r o g e n e i t y ) 产生于多媒体通信，在这里指不同种类的数据。 4 第1 章绪论 它们对于信道误码和传输延时的要求很不一样，此时应当对不同的信源采用不同 的差错保护方式。异类信道是指同一通信网下的不同信道可能具有不同的信道质 量，它们的速率、误码率、时延或时延抖动相差很大，此时根据信道的特性采用 分层编码或多分辨率方式的信源编码有可能取得较好的效果。异种用户是指同一 通信系统中的不同用户的服务质量要求不同。此时也需要对多个用户的信源和信 道编码折衷考虑，优化资源分配，以满足所有用户的服务质量要求 4 信源、信道具有时变特性的通信系统 在无线通信中，无线信道就是典型的时变信道，发射机无法获得信道的即时 状态。此时由于不太可能获得信源和信道的先验概率分布，分离方式下最佳的信 源编码和信道编码设计可能是不可实现的。而如果在编码设计时采用最保守的方 法，即确保在最坏情况下的正常通信，又会给通信资源带来很大的浪费，而采用 自适应联合优化的方法，使得信源编码和信道编码与信源和信道特性相匹配，有 可能提高系统的容量。 1 2 2 近年来的研究情况 目前，国内外对于联合信源信道编码研究主要在以下三个方面展开：基本理 论的研究，设计方法的研究和实际应用方面的研究。 1 联合信源信道编码基本理论研究 过去对联合信源信道编码的理论研究主要集中在它的存在性，即它存在与否 及存在的条件的问题上。目前，对于较为简单的情况，如无记忆平稳信源，各态 历经信源和离散无记忆信道，联合编码的“存在性”问题已有了一定的结果1 4 j ， 但对于更加复杂的情况这个问题还有待研究。同时联合编码的性能极限也是需要 研究的问题。 现在联合信源信道编码的理论研究主要集中在两方面。一是理解质量、延迟、 计算复杂度、信道利用和消耗功率之日j 的关系。质量指初始数据和还原后的数据 之问的差异：信道利用指的是每个数据样本用到的信道数量，信道带宽和信道的 信噪比。只有全面理解它们的关系，才能给出目标函数，进而采用合适的编码方 法，使系统在整体性能上达到最优。二是如何评估联合编码。对联合编码进行评 估，需要明确理解对系统整体性能的要求，然后根据联合编码在各种情况下的性 能极限，做出相应的性能判决i io 】。 2 联合信源信道编码的设计方法 联合信源信道编码的具体设计方法是这个研究领域中最受关注的问题。当前 关于信源和信道联合编码的设计方法的研究大致有以下几种：基于信源优化信道 编码，基于信道优化信源编码，联合优化信源信道编码以及联合优化信源信道译 码f 6 】； ( 1 ) 基于信源优化的信道编码设计 由于实际多媒体码流中不同比特发生错误的效果是不同的，因此，需对不同 的比特采取不同的错误保护。基于信源优化的信道编码是在不同信息比特上优化 分配冗余比特或发射能量，将重要的数据分配较多的比特使之能达到更好的传输 质量，将不太重要的数据分配较少的比特，从而获得最小的端到端的失真 东南大学硕士学位论文 不等错误保护u e p 根据信息对噪声的敏感程度，予以不同的抗干扰保护。其 目标是使重要的比特拥有更强的错误保护。u e p 的传统编码是采用不同编码方案 进行混合编码，而这些方案具有不等的错误恢复能力，从而构成u e p 编码。由于 这种u e p 编码方案存在编、译码复杂的缺陷，一般通过不同的删余矩阵实现u e p 和采用分层编码的方法。 分层编码将信号分解成重要性不同的子信号，又称层，对不同层的信号采用 不同的信源编码器和信道编码器来实现u e p 。若信源编码器和信道编码器均为 有限长编码时，该系统可达到最优。另外，分层编码也可以通过对不同层的信号 分配不同的功率来实现u e p 。 ( 2 ) 基于信道优化的信源编码设计 这种编码的出发点是优化构造信源编码的码字和码本，使码字发生传输错误 而交叠时所引起的失真最小，即适应信道的信源编码。其基本方法是选择信源编 码的码字时，码字之间引入一定的码距，从而使码字有一定的纠错和检错能力， 并且把出现概率较大的信源之间分配较大的码距，出现概率较小的信源之间分配 较小的码距。 ( 3 ) 迭代优化信源和信道编码 这种编码的出发点是：对单信源，优化带宽在信源编码和信道编码上的分配， 使得通信系统在接收端的失真最小；对多信源，优化带宽在不同予信源的分配， 使得总体失真最小，通常采用迭代法达到最优分配。c h c u n g 和z a k h o r 在有噪信道 下传输视频图像，通过比特分配的算法分配心愿和信道编码器的比特值，以此达 到最优的视觉效果。 ( 4 ) 信源信道联合译码 这种编码的出发点是利用信源编码后的残留冗余度。即码字的不均匀分布和 相关性进行联合优化，然后利用信道译码的软输出优化信源译码。这种译码方式 充分利用了信道的模型，可以提高整体译码性能。 在实际通信系统中，信源压缩通常采用变长编码( v l c ) 如h u f f m a n 码、算 术码，尽管它们具有较高的信源压缩效率，但是它对信道噪声特别敏感。一个比 特的误判可能导致整个信源序列的错误，有效的方法是在v l c 后加入纠错码。 但任何一种纠错码都不能达到无差错传输，因此若把信道译码器硬判决信息直接 输入v l c 译码器仍不能改善信源符号的错误率。联合译码技术利用信道的状态 信息和信源的先验信息及信道译码器的软输出来进行软信源译码，能明显改善 v l c 包错误率和符号错误率。 3 编码器结构 以上是从应用联合编码的思想的方式的角度来说的，从具体的编码器的结构 来说，联合编码的编码器有两种。一种是合并式编码器。这种编码器的信源和信 道编解码器是真j 下集成在一起进行的，表面看来省略了信道编码器，但信源编码 中己包含了信道编码的功能。这一类编码器设计起来较为复杂，目前已不是研究 的重点。另一种是级联编码器，它与传统编码器结构类似，将信源编码器和信道 编码器串联起来。这类编码器的设计问题简单来说就是比特分配问题。给定总的 比特率矗= 足+ 毋( r 。是信源编码速率，b 是信道编码速) 和系统的情况及要求， 6 第1 章绪论 在尽和耳中进行最优化的比特分配【埘1 大部分联合编码的设计方法是以这种编 码器结构为基础进行设计的。 4 联合信源信道编码在实际中的应用 联合编码研究的最终目的还是为了在实际系统中获得应用，用联合信源信道 编码理论和设计技术来解决实际问题。完成这个目标的一个难题是网络协议是把 链路层和应用层分开的这是一种独立形式的方法。与此相反，联合信源信道 编码本质上涉及到链路层和应用层的相互关系。联合信源信道编码需解决的一个 问题就是找到一些方法让应用层通过网络到达链路层，另一个挑战就是用联合信 源信道编码来改变协议设计。 1 2 3 联合信源信道编码研究热点 现在无线移动通信已经是人们主要通信方式之一，随着通信的发展，人们对 图像、视频传输的需求越来越大，要求也越来越高。无线网络是一种多用户共享 的网络，具有资源有限，时变，异质，易受干扰，误码率高等特点，图像、视频 的信息量又非常大。基于分离原则的编码绝对无法适用无线视频编码的复杂情 况，而联合编码在这方面则大有可为。近年来，在联合编码的设计方面很多工作 是针对在无线信道上图像和视频的传输来展开的。下面介绍近年来的一些研究热 点。 1 分层编码 分层编码是目前较受关注的一种信源信道编码。它相当于基于信源优化信道 设计编码。在分离原则中，信道编码不考虑信源编码的意义，信道编码对信源编 码器送出的码流进行同等保护。分层编码是把信源编码分成几个部分：最重要的 部分( m s p ) 和次重要的部分( l s p ) i7 l 。m s p 包含图像中粗糙的但对于识别图像很重 要的信息，l s p 部分包含提高图像质量所要求的更精细的信息，在信道中可以对 m s p 部分重点保护。用这种方法，不仅可以提高图像传输对信道的适应力，还 可以适应网络的q o s 要求，对不同同户实行不同质量的传送。图像分解可用小 波变换( d w t ) 和离散余弦变换( d c t ) 等。现在多采用d w t 分解，一级d w t 把 图像分解成一个近似子图像和包含水平、垂直、和斜线细节的子图像。这个近似 子图像或细节子图像可以用d w t 被进一步分解。经过d w t 分解后，一个图像 被分成几个层次，这些层次对应着不同的不同的频率范围。人眼对这些不同的频 率范围有不同的敏感度。近似子图像的编码信息包含了原始图像最重要的能量， 把它放入m s p 包中，细节编码放入l s p 包中。 2 采用t u r b o 码的联合信源信道编码 采用t u r b o 码的联合信源信道编码近年来也受到广泛关注。t u r b o 码是信道 纠错码的一种，它又称并行级联卷积码，是c b e r r o u 等1 9 9 3 年提出的，它巧妙 地将卷积码和随机交织器结合在一起，实现了随机编码的思想，同时采用软输出 迭代译码来逼近最大似然译码。多次迭代后的误比特率达到了近s h a n n o n 限的性 能，这一超乎寻常的优异性能，立即引起信息与编码理论界的轰动，成为近年来 倍受瞩目的一项新技术，在第三代移动通信体制中，非实时的数据通信己经采用 了t u r b o 码【8 】。近年来许多研究工作者在信源编码和t u r b o 码联合编码技术方面 做了大量工作。 7 东南大学硕t ：学位论文 3 多描述编码 还有一种适应研究较多的联合编码：多描述编码。多描述编码和分层编码不 同，它是将信源编码视为若干个独立的码流。这些码流可以通过不同的信道传送 给接收端。接收端获得其中的任何一个码流都可以通过编解码器在一定失真范围 内恢复原始信源，即得到对原始信源的一个描述；如果接收端可以同时得到两个 或两个以上的码流描述，则可以通过中央解码器得到更为精细的信源描述。 1 3 本文研究内容 在第一章绪论的介绍之后，本文的结构将在以下几章展开对联合信源信道编 码的讨论。 第二章介绍编码的基本理论知识，包括香农三大定理和信源、信道编码知识 第三章和第四章主要介绍针对a v s 音视频编码标准的具体的联合信源信道 编码方法。 第三章针对a v s 音视频标准的关键技术和码流结构，讨论了一下联合编码 的思想，并介绍了本文中需要研究的几种信道编码的定义和结构。 第四章以分层编码为基本思想，设计了两个联合编码的编解码方案并对它的 性能做了讨论。 最后在第五章讨论了一下联合编码的前景和研究方向。 8 第2 章缠码理论基础 第2 章编码理论基础 2 1 信息论的基本知识 2 1 1 基本通信系统的构成 通信系统一般由信源、信道和信宿三部分组成，图2 1 表示了最简单的通行 系统模型，它用来传递信息【l 】。消息是由符号、文字、数字、语音、图像等组成 的序列，但实质上，信息就是一种不确定性。消息从信源通过信道到信宿，如何 有效、可靠地传输，使通信系统要解决的根本问题i 孔 图2 1 最简单的通信系统模型 信源就是信息的源泉，通常指向通信系统提供消息的人、设备或事物。信源 含有一定的信息，具有随机性。以一定的概率发出各种不同的符号。若信源是由 有限或无限可列个取值离散的符号( 如文字、字母、数字等) 组成的离散集合， 则这种信源称为离散信源。如果信源输出的消息是时间和取值都是连续的函数， 则这种信源称为连续信源i 2 腑j 。 信道则时信息论中与信源并列的另一个主要研究对象。信道是信息传输的通 道，当信源和信宿之间没有任何干扰，即信道无噪时，信宿能确切无误的收到信 源发出的消息，获取信源发出消息的全部信息量。实际的通信信道大都是存在干 扰的，即有扰信道，传输离散信号的有扰信道称为有扰离散信道1 2 1 1 3 ) 。 2 1 ，2 常见的信源和信道 ( 1 ) 单符号离散信源 如果信源发出的消息是离散的、有限或无限可列的符号或数字，且一个符号 代表一个完整的消息，则称这种信源为单符号离散信源i l 】。 单符号离散信源是最简单的离散信源。单符号离散信源用离散随机变量z 来表示；x 的可能取值就是信源可能发出的各种不同符号，其状态空间就是信 源可能发出的各种不同符号组成的集合x ：“，a 2 ，q ；信源发出各种不同符号 的先验概率就是x 的概率分布，其概率空自 就是信源发出各种不同符号的先验 概率组成的概率空间p ：( p ( a o ) ，p ( a z ) ，p ( q ) 。所以这个单符号离散信源的数学 模型可完整地表示为表示其数学模型为 3 1 。用： j p 蔷：p 三) p 丕) ：p 刍) ( 2 1 ) 其中 o s p ( q ) lo = l ，2 ，) 9 东南大学硕。 ：学位论文 p ( q ) = l s - i 睹p 】称为信源x 的“信源空间”。不同的信源对应不同的信源空间，如信源给 定，这就意味着相应的信源空间己经确定反之，如果信源空间已经确定，就意 味着相应的信源己经给定。 一个符号( 口，) 所携带的信息量用j ( q ) 表示，称为自信息量，其计算公式为 1 ，( 口，) = l o g j l _ = - l o gp ( q ) ( 2 2 ) p l a a 式2 2 称为信息函数，j ( q ) 的单位取决于对数的“底”。以2 为底时，( q ) 的单 位为“比特”( b i t ) ；以p 为底时。，( q ) 的单位为“奈特”( n a t ) ；以l o 为底 时，( q ) 的单位为“哈特”( h a r t ) ；若以正数“，”为底，( 口，) 的单位为“， 进制信息单位”。本论文中，如不加以说明，采用以“2 ”为底的对数1 1 1 。 自信息量，( q ) 的定义使得信息的度量成为可能，但它只能表示信源发出的 某一具体符号( q ) 的自信息量。由于很多信源的符号稽核具有多个元素且其概率 并不相等，所以，( a ，) 不能作为整个信源的总体信息测度。从直觉而言，这个能 作为信源总体信息测度的量，应是信源肖可能发出的各种符号q ( f = 1 ，2 ，) 所 包含的自信息量， ) p = 1 ，2 ，) 在信源的概率空问尸( 抑= p “) ，p ( 口2 ) ，。盹) ) 中的统计平均值。我们把这个统计平均值计为( x ) ，即有 h ( x ) = p ( a 1 ) l ( a i ) + p ( 口2 ) ，( 呸) + + p ( 口，) ，( 口，) ( 2 3 ) 二 = 一艺p ( q ) l o g p ( 口，) i * 1 日( x ) 称之为信源x 的“信息熵”，表示信源z 每发一个符号所提供的信息量 它的单位取决于对数的底，若以2 为底，单位是比特信源符号i i l 。 ( 3 ) 单符号离散信道 单符号离散信道是最简单的离散信道，如图2 2 所示。 a l a 2 a r p o x ) p ( b j a i ) i = 1 2 r x j - l 幺，s b l b 2 b r 图2 2 单符号离散信道 用一个信道矩阵【p 1 作为数学模型引，来完整地描述单符号离散信道的传递 l o 第2 幸编码理论基础 q 【p l = 如 珥 6 i6 2 屯 p ( 6 l q )p ( 6 2 q ) p ( 鼠口1 ) p ( 6 1 a 2 ) p 如t a o p o , 吧) ii ； 烈6 l 口，) p ( 6 2 ，q ) p ( 屯 d r ) ( 2 4 ) 由于矩阵【尸】表达了信道的输入符号集z ：“，a 2 ，口， ；输出符号集 】，：俩，岛，吃) 以及( r x $ ) 个传递概率胞q ) o = l ，2 ，r ；_ ，= l ，2 ，s ) ，表示在 q 出现的前提下出现6 ，的条件概率，因此把矩阵【用称为单符号离散信道的信道 矩阵口l 。 不同信道有不同的性质，要研究信道的性质先理解交互信息量，( 珥；6 ，) 和平 均交互信息量，( x ；y ) 的概念。 ，( 口，；6 ，) = 信道收到6 ，前，对信源发口，出的先验不确定性，( q ) - 信宿收到6 ，后，对信源发符号州乃然存在的后验不确定性，( q 6 ，) ( 2 - o g 高山g 丽l 乩g 掣 5 ) 平均交互信息量心妁是信道每传递一个符号所传输的平均信息量，是交互 信息量地；6 ，) 在和的联合概率空例p ( x y ) ： p ( q 6 ，) ( ，= l ，2 ，；- ，= l ，2 ，5 ) 中 的统计平均值，即 ，( 彳；j ，) = p ( q q ) ，( q ；q ) ( 2 6 ) t - ij - i 传递概率固定的给定信道的平均交互信息量是输入信源x 的概率分布以q ) 的n 型凸函数，具有极值性，一定能找到一种信源的概率分布，使平均交互信息 量达到其极大值c c = m a x f f ( x ；y ) )( 2 7 ) 定义c 为信道的信道容量。它是信道传递一个符号所能传递的最大信息量，是信 道自身的特点，能使平均交互量达到信道容量c 的信源称之为匹配信源。如已知 信道每传递一个符号需要，秒时间，则信道每秒钟能传输的平均交互信息量称之 为信道的信息传输速率，信道的最大信息传输速率为e c ：导：m a ) ( 丛 盟) ( 2 8 ) fj ( 2 ) 多符号离散平稳信源 由单符号离散信源和单符号离散信道相接构成的单符号离散通信系统，是最 简单最基本的离散通信系统。单符号离散信源的基本特征是一个信源符号就代表 一个完整的消息，但实际信源发出的消息，往往不只是一个符号，而是由多个符 号的时间( 或空间) 序列组成，由多个符号组成的时间( 或空间) 序列才能代表 东南大学硕i j 学位论文 一个完整的消息。这种信源成为多符号离散信源【孤。 多符号离散发出的消息由一系列离散符号组成的时间( 或空间) 序列来表示。 根据信息的定义，这种由离散符号的时间序列代表的消息要含有信息、具有通信 的价值的前提条件，使时间序列的每一个单位时间出现的离散符号必须具有随机 性。如果多符号离散信源发出的每一条信息中的每一个单位时间出现的离散符号 都是取于且取遍于同一符号集x ：h ，a 2 ，。a j 的，那么多符号离散信源发出的每 一条信息，就可看作单符号离散信源每单位时间k 发出的离散信源符号组成的时 问序列。因此多符号离散信源是一个随机矢量i ，它可用随机变量以组成的时 间序列来表示 x=x l x t x t q 如果信源的概率分布与时间无关，时间的推移不引起信源统计特性的变化， 即设q r 为两任意时刻，若有 p ( k ) = 户( 墨) p ( x o x o + i ) = p ( x r x r + 1 ) ( 2 1 0 ) p t x q x q “x 卧0 = p t x t x t “x t 。0 则称这种信源为维离散平稳信源。 符号集为x ： 口i ，a 2 ，q 的维离散平稳信源z = 互五“的信源空间 【_ p 】 p 篙：p ( a 啪ip ( 0 2 麓a r , v ，) 其中 q = ( 口i q 2 q ) 口f l q 2 盯， q ，a 2 ，a r i l ，i 2 , n = 1 ，2 ， f = 1 ，2 ，” 0 p ( q ) = p ( q i q 2 ) 1 ( i = l ，2 ，。，) p ( q ) = p ( q ，口，：) = l 这就是描述维离散平稳信源牙= 五以“的数学模型。 维离散平稳无记忆信源z = 五五x n 可看作是