信息论在信息与通信工程领域的应用详解

（优选）信息论在信息与通信工程领域的应用当前第1页\共有40页\编于星期六\21点信息论在保密通信中的应用多媒体通信中的编译码技术计算机网络通信中的编译码技术信息论在数字移动通信系统中的应用信息论在宽带无线接入系统中的应用信息论在其他领域的应用当前第2页\共有40页\编于星期六\21点图14.1加密信道模型

信息论在保密通信中的应用当前第3页\共有40页\编于星期六\21点代码的实际码率或语言的实际熵定义为长度为N的消息中每字符包含的平均信息比特数，表示为(14.4)

其中H(X)是消息熵，即最佳编码消息的比特数。当N很大时，据估计，中文的r值不大于5比特/汉字，英文的r值约在1.0到1.5比特/字符之间。绝对码率或语言的最大熵定义为假设所有可能字符序列等概情况下，每字符包含的最大信息比特数，用r’表示：r’=lbL(14.5)

其中L是语言包含的字符数。中文的绝对码率或最大熵约为13.9比特/汉字，对英文字母，r’=lb

26=4.7比特/字符。信息保密技术的基础知识基本度量

当前第4页\共有40页\编于星期六\21点代码的冗余度用实际码率和绝对码率来定义：D=r’–r(14.6)

英语的r’=4.7比特/字符，r=1.5比特/字符，D=3.2，比率D/r’=68%就是英语冗余度的度量。中文的冗余度的度量约为80%。疑义度定义为在给定Y条件下X的条件熵。条件熵定义为：

(14.7)

疑义度可以认为是在收到Y后消息X的不确定度。密码破译者希望随着截获密文Y的增加，H(X|Y)接近于零。信息保密技术的基础知识基本度量当前第5页\共有40页\编于星期六\21点多媒体通信中的编译码技术从应用的角度来看，多媒体就是文本、音频、视频、图形、图像、动画等多种不同形式的信息表达方式的有机综合。随着应用的增长，术语“多媒体”的内涵也不断扩大，它不仅指信息本身，更主要的是指处理和应用它的一系列技术，包括与多媒体计算机、通信和应用相关的技术。多媒体应用的根本目的是以自然习惯的方式，高效安全地接受计算机世界的信息，这些信息通过计算机生成的媒体来展现。当前第6页\共有40页\编于星期六\21点多媒体通信中的编译码技术多媒体通信简介数据压缩是多媒体发展的关键技术。多媒体数据压缩技术的分类有多种方法，其中按照信号质量有无损失可分为有损编码和无损编码。无损编码又称为冗余压缩，主要用于文本数据压缩。算法的基本原理是去除或减小数据中的冗余，压缩过程中不能破坏数据中包括的信息，解码后的数据必须与原来的一样。典型的无损压缩算法有Huffman编码、费诺-香农编码、算术编码、流程编码、Lempel-Zev编码等。有损压缩又称为熵压缩，适用于图像和声音的压缩。在压缩过程中减小了数据中包含的数据量，即产生一定的失真，由此获得较高的压缩比。典型的有损编码算法包括模型编码、矢量量化、子带编码、变换编码、小波编码等。当前第7页\共有40页\编于星期六\21点图15.1多媒体数据压缩技术分类当前第8页\共有40页\编于星期六\21点多媒体通信中的编译码技术多媒体通信简介与多媒体通信有关的压缩编码的国际标准主要有音频编码标准G系列、静态图像压缩编码国际标准JPEG、视频图像压缩编码的国际标准H.261和H.263、运动图像压缩编码的国际标准MPEG系列。当前多媒体编码技术发展的一个重要方向就是综合现有的编码技术，制定全球统一标准，使信息管理系统具有互操作性并确保未来的兼容性。当前第9页\共有40页\编于星期六\21点多媒体会议系统是一种将声音、图像、文本等多种信息从一处传送到另一个处的通信系统，关键技术包括：多媒体数据处理技术；网络技术；分布处理技术；以及支持更多媒体处理的终端技术。典型的多媒体会议系统由终端设备、通信链路、多点控制单元(MCU)及相应的软件部分组成。终端设备完成数据处理、多媒体通信协议处理、音视频信号的接收、存储与播放，并记录和检索大量与会议相关的数据与文件；MCU通常设在网络节点处，用于处理多个地点同时进行通信部分；软件包括协议、会议服务、音频与视频信号处理等；通信链路有多种选择，包括公共电话交换网(PSTN)、局域网(LAN)、广域网(WAN)、ISDN、异步传输模式(ATM)等。多媒体通信中的编译码技术多媒体会议系统中的信道编码技术当前第10页\共有40页\编于星期六\21点媒体通信技术是多媒体会议系统的关键技术之一。图像信息经压缩后，信息的相关度大大降低，因此误码对图像质量的影响不可忽视。在视频会议系统中采用BCH（511,493）纠错编码，以保证图像信息的可靠传输。多媒体会议系统的图像纠错编码原理如图15.6所示。当进行纠错编码时，图像数据被划分为493比特的数据分组，然后送入BCH纠错编码单元，按照BCH（511,493）算法算出18比特的校验位。延时单元的作用是补偿BCH编码所用的时间，使经编码输出的校验比特和相应的数据分组刚好对齐，然后两者复合起来送入多路利用单元。在接收端，解码器对图像进行BCH译码，如果出现随机误码，利用此纠错系统的比特校验位就可以将其纠正。

多媒体通信中的编译码技术多媒体会议系统中的信道编码技术当前第11页\共有40页\编于星期六\21点多媒体通信中的编译码技术多媒体会议系统中的信道编码技术图15.6多媒体会议系统中的图像纠错编码

当前第12页\共有40页\编于星期六\21点计算机网络通信中的编译码技术计算机通信及其网络体系结构概述ISO7498标准定义了网络体系结构的对象的类型、关系和约束，及7层开放系统互连参考模型，如图15.7所示。图15.7OSI参考模型中的体系结构当前第13页\共有40页\编于星期六\21点图15.8TCP/IP模型原理当前第14页\共有40页\编于星期六\21点数据链路通过数据链路控制规程，在不太可靠且有外来干扰的物理链路上实现可靠的、基本无差错的数据传输数据链路层的主要功能：（1）帧同步。指收方能从收到的比特流中准确地判断出一帧的开始和结束。（2）寻址。在多点链接情况下，用于保证每一帧都能送到正确的地址，收方也应当知道数据是从哪一个节点发出的。（3）流量控制。为了保证发方的发送数据速率不超过收方及时接收和处理的能力，当接收方来不及接收时，就必须采取措施来控制发方发送数据的速率。计算机网络通信中的编译码技术数据链路控制规程中的差错控制技术当前第15页\共有40页\编于星期六\21点（4）差错控制。主要有纠错编码和检错编码两种。纠错编码即前向纠错，由于开销较大，适用于卫星中继的计算机通信。检错编码即检错重发，这种方法在计算机通信中最为常用。（5）数据和控制信息的识别。用于区分同一帧中的数据信息和控制信息。（6）透明传输。即保证数据传输的各种比特组合都能够在物理链路上传送。（7）链路管理。即数据链路的建立、维持和释放过程。计算机网络通信中的编译码技术数据链路控制规程中的差错控制技术当前第16页\共有40页\编于星期六\21点数据链路层中的差错控制用于提高数据传输的可靠性及传输效率，主要的方式有以下3种：（1）自动请求重发；（2）前向纠错；（3）混合纠错。在计算机通信中，差错控制的基本任务是在确定的信道条件下，采取简单高效的方式保证系统的可靠性。采用的编码方法可分为分组码和卷积码。常用的分组码包括循环冗余校验码（CRC）、恒比码、垂直水平奇偶校验码等。其中循环冗余校验码在数据链路控制规程中应用最为普遍。卷积码则在前向纠错系统中应用较多。计算机网络通信中的编译码技术数据链路控制规程中的差错控制技术当前第17页\共有40页\编于星期六\21点网络电话也称IP电话，是以因特网为传输媒介的电话系统。具有占用频带小、成本低的特点，并且可以与图像、视频等结合起来，进行传真、广播、电视等通信。网络电话系统由网关、网闸和多点接入控制单元组成。网关是IP网和PSTN之间的接入设备，其接入服务模块提供IP网接口的PSTN接口。在PSTN一侧，输入端对用户语音进行编码和压缩，在通话过程中，接入服务模块将语音流转换为IP数据报的格式，即打包，然后通过因特网接口送入因特网。同样，在IP网一侧，接入服务模块将IP数据报进行解包，还原为语音流格式，然后进行解压缩和语音还原，进入PSTN一侧的通过输出端。网闸是服务控制模块，用于用户的注册和管理。多点接入控制则用于支持IP网上的多点通信，可实现网络电话会议、可视电话等多媒体功能。

计算机网络通信中的编译码技术网络电话系统中的关键技术当前第18页\共有40页\编于星期六\21点图15.11H.323语音编码和视频编码标准体系当前第19页\共有40页\编于星期六\21点混合编码算法兼有波形编码的高质量和参数编码的低速率的优点，因此在音频编解码算法的国际标准中广泛采用。语音信号压缩编码的标准建议为G.7XX系列，见表15.2。由于语音通信对实时性的要求较高，因此在网络电话中采用资源预留协议（RSVP）对语音优先处理。在WAN中传输速率小于512kb/s时，IP网的路由器应设定语音包的优先级为最高。在全双工电话通信过程中，仅有40%左右的信号是有效的，因此，在网络电话通信系统中采用静音抑制技术，以减少占用的网络带宽。

计算机网络通信中的编译码技术网络电话系统中的关键技术当前第20页\共有40页\编于星期六\21点ITU建议制定时间码率(kb/s)编码算法说明G.711197264(56)PCM(/A)3kHz语音带宽，8kHz采样G.7211984/198632ADPCM3kHz语音带宽，8kHz采样G.722198664/56/48SBC-ADPCM7kHz语音带宽，16kHz采样G.723198640/32/24ADPCM

G.723.1

6.3/5.27MP-MLQ/ACELP

G.726199016ADPCM

G.727199032/24/16ADPCM

G.728199216LD-CELP低时延CELPG.72919968CS-ACELP

G.729A19968

可用于DSVDG.729B1996

用于V.70终端，语音激活表15.2语音编码的主要国际标准

当前第21页\共有40页\编于星期六\21点计算机网络通信中的编译码技术网络电话系统中的关键技术IP网中迟到或持续出错的语音包将被丢弃处理，造成语音失真，因此在IP电话中需采用语音抖动处理技术，以克服IP数据报传输时间不同造成的抖动。方法是在收端设置缓冲区暂存语音包，用稳定平滑的速率从缓冲区中取出语音包，经解压缩和还原语音后传送给用户。前向纠错编码也是网络电话中与语音处理相关的一项技术。网关采用两级前向纠错，Intra-Packet在同一数据报内加入冗余数据，使收端能纠错并还原语音数据；Extra-Packet在每个语音数据报中包含后续包的冗余数据，确保收端能检测出差错或丢失的数据报并恢复。采取FEC技术可以弥补10%~20%的数据报丢失率，其代价是需要占用一定的网络带宽。

当前第22页\共有40页\编于星期六\21点计算机网络通信中的编译码技术网络电话系统中的关键技术网络电话以分组的形式在因特网中传输，要求网关在语音终端和因特网之间将连续的语音信号划分成确定长度的多个语音分组，然后将压缩编码后的数据封装到IP数据报中，以实现在IP交换网中的传输。封装方法为在语音数据报前面加上总长度为40字节的报头。因此在IP网络中实际传送的码流并非编码后的净码流，即语音包，而是经封装后的码流。封装的效率取决于一个RTP报中所加封的语音数据报的数量。显然加封的语音报越多，封装效率越高，但是全网传输延迟也就增大。

当前第23页\共有40页\编于星期六\21点计算机网络通信中的编译码技术网络电话系统中的关键技术网络电话经编码压缩后，对IP网进一步进行统计复用，则可以提高网络的线路利用率，代价是增加了网络的全程延迟。由于语音业务对实时性的要求较高，对语音的全程往返延迟应控制在450ms较为合适。因此，编码打包后形成的单位码流通常为20kb/s，与基于64kb/s的G.711PSTN交换相比，带宽压缩了约2/3。网络电话是计算机技术与电信相结合的成果，具有良好的发展前景，但是目前还存在一些需要解决的问题，例如由于目前因特网的TCP/IP协议体系不提供任何服务质量保证，因此影响了IP电话的通话质量，解决的方法可以通过拓展因特网的带宽和制定下一代的IP协议即IPv6来加以改进。

当前第24页\共有40页\编于星期六\21点信息论在数字移动通信中的应用移动信道对数字传输的影响工作在甚高频(VHF)和超高频(UHF)频段的移动通信系统，电波传播方式主要是空间波，即直射波、折射波、散射波及其合成波。复杂、恶劣的传播条件是移动信道的特征，陆地移动无线信道中信号的衰落深度可达30dB，使得数字传输的误码率大大增加。为了保证在如此恶劣的传播条件下接收信号的传输质量，就必须采用各种抗衰落技术和数字传输技术，例如分集技术、扩频技术、均衡、交织和纠错编码等。当前第25页\共有40页\编于星期六\21点信号在移动信道传播过程中会受到各种衰减的影响，接收信号功率可表示为(15.10)

信道对信号的作用可归结为：自由空间传播损耗|d|–n，其中n通常为3~4；阴影衰落S(d)；以及多径衰落R(d)表示。从系统工程的角度看，传播损耗和阴影衰落主要影响到无线区的覆盖，而多径衰落则严重影响信号传输质量。信息论在数字移动通信中的应用移动信道对数字传输的影响当前第26页\共有40页\编于星期六\21点将多径传播环境简化为某种模型。对于具有N个路径的衰落信道，多径传播模型中的接收功率可以表示为其中Pt为发射功率，gb和gm分别是基站和移动台的天线增益，Ri是各路径的地面反射系数，i是路径间的相位差。实际移动环境中接收信号的幅度服从瑞利分布，因而多径衰落也称为瑞利衰落。

信息论在数字移动通信中的应用移动信道对数字传输的影响(15.11)当前第27页\共有40页\编于星期六\21点多径传播对数字传输的影响（1）时延扩展时延扩展，即在一串接收脉冲中，最大传输时延和最小传输时延的差值，记为，实际上就是脉冲展宽的时间。若发送的窄脉冲宽度为T，则接收信号的宽度变成T+。时延扩展会引起码间串扰(ISI)。为避免码间串扰，应使码元周期大于时延扩展。时延扩展可以用数学模型来描述，例如在时延谱模型中，接收信号由N个等间隔的脉冲组成，脉冲的幅度为指数函数，延时概率函数为(15.12)信息论在数字移动通信中的应用移动信道对数字传输的影响当前第28页\共有40页\编于星期六\21点（2）相关带宽相关带宽是对移动信道传输一定带宽信号的能力的统计度量。当码元速率较低时，信号带宽远小于信道的相关带宽，信号通过信道传输后各频率分量的变化具有一致性，则信号波形不产生失真，无码间串扰，此时的衰落为非频率选择性衰落；若码元速率很高，信号带宽大于相关带宽，则信号通过信道传输后各个频率分量的变化不一致，将引起波形失真，造成码间串扰，此时的衰落为频率选择性衰落。相关带宽通常用最大时延Tm的倒数来表示，即

信息论在数字移动通信中的应用移动信道对数字传输的影响当前第29页\共有40页\编于星期六\21点（3）时间选择性衰落在移动环境中，移动台的运动会使接收信号产生多普勒频移，在多径信道中这种频移会成为多普勒频展。将多普勒频展的宽度的倒数定义为相干时间，则它表征了时变信道对信号衰落的节拍，这种衰落是由于多普勒效应引起的，并且发生在传输波形的特定时间段上，称为时间选择性衰落。时间选择性衰落严重影响了数字信号的误码率，为了减小其影响，要求码元速率远大于衰落节拍的速率。信息论在数字移动通信中的应用移动信道对数字传输的影响当前第30页\共有40页\编于星期六\21点全球移动通信系统(GSM)选定规则脉冲激励长期预测（RPE-LTP）编码算法作为其语音编码方案。RPE-LTP采用相位与幅度优化的等间距规则脉冲作为激励源，合成波形接近于原始语音信号。同时，结合长期预测，去除信号冗余度，从而降低了编码速率。RPE-LTP的净编码速率为13kb/s，语音质量MOS得分可达4.0。GSM系统的语音处理过程：发送端先进行语音检测，将每个时间段分为有声段和无声段。在有声段进行语音编码产生编码语音帧，在无声段对背景噪声进行估计，产生静寂描述(SID)帧。发信机采用不连续发射方式，即仅在包含语音帧的时段内才开启发信机。在语音段结束时发送SID帧，接收端根据收到的SID帧中的信息在无声时段内插入舒适噪声。

信息论在数字移动通信中的应用数字移动通信中的语音编码技术当前第31页\共有40页\编于星期六\21点3G移动通信系统将提供能全球接入和漫游的广泛业务。CDMA2000系列标准是为满足3G无线通信系统的要求而提出的。目标是提供较高的数据速率以满足IMT-2000的性能要求，即车辆环境下至少144kb/s，步行环境下384kb/s，室内办公室环境下2,048kb/s的传输速率。CDMA2000标准是cdmaOne无线系统的技术演进，其新的特点主要包括：多种信道带宽，即带宽可以是N1.2288MHz；快速前向功率控制；辅助导频信道；灵活的帧长，有5ms、10ms、20ms、40ms、80ms、160ms等多种；反向链路相干解调；前向发送分集；改进的媒体接入控制方案；可选择较长的交织器；以及Turbo编码。其中Turbo编码是CDMA2000中的关键技术。信息论在数字移动通信中的应用Turbo码在CDMA2000中的应用当前第32页\共有40页\编于星期六\21点随着Internet技术的迅猛发展，现有的有线接入系统远远不能满足人们的宽带业务需求；另一方面随着电信市场的不断开放，新运营商不断加入，形成了多方竞争的局面。在这种背景下，宽带无线接入应运而生。宽带无线接入主要有以下几种技术

无线局域网(WLAN)、蓝牙(Bluetooth)技术、本地多点分配系统(LMDS)、多点多信道分配系统(MMDS)及其他（如红外等）。无线局域网主要技术有IEEE802.11b、IEEE802.11a、IEEE802.11g、HiperLAN等。当前最具代表性的是IEEE802.11b。未来无线局域网与3G存在一定的互补与竞争关系。

信息论在宽带无线接入中的应用当前第33页\共有40页\编于星期六\21点信息论在宽带无线接入中的应用蓝牙是一种使用2.4GHz~2.483GHz无线频段即工业、科学和医疗(ISM)频段的通用无线接口技术，提供不同设备间的双向短程通信。最高数据传输速率1Mbit/s、最大传输距离为10cm~10m，增加发射功率可达100m。蓝牙的优势是设备成本低、体积小。相对于802.11x系列和HiperLAN家族，蓝牙的作用不是为了竞争而是相互补充。

固定无线接入系统已经从最初基于电话接入方式的窄带系统演变为面向宽带数据业务为主的宽带固定无线接入系统。而且随着接入网建设的持续升温以及各种新的技术不断被引入，宽带固定无线接入系统仍是未来几年内通信市场发展的一个热点。当前第34页\共有40页\编于星期六\21点信息论在宽带无线接入中的应用宽带无线接入技术的一些新技术包括：宽带OFDM技术、3.5GHz频段的24扇区天线技术、软件无线电技术、调制阶数和覆盖面大小可变的自适应技术、高效率频谱成型技术、自适应动态时隙分配技术、自适应信道估值与码间干扰对抗技术、自适应带宽分配及流量分级管理技术、中频与射频集成组装的紧凑型的户外单元技术和高级编码调制与收信检测技术等。

当前第35页\共有40页\编于星期六\21点蓝牙系统的最小传输单位是包，由接入码、包头和有效载荷3个部分组成。在信道中，数据以包的形式传输。每个包都有包头检查(HEC)来保证包的完整性，由线性移位反馈寄存器产生。生成多项式为

g(x)=(x+1)(x7+x4+x3+x2+1)=x8+x7+x5+x2+x+1信息论在宽带无线接入中的应用蓝牙系统中的差错控制技术当前第36页\共有40页\编于星期六\21点IEEE802.11无线局域网标准的制定是无线网络技术发展的一个里程碑。802.11标准的颁布，使得无线局域网在各种有移动要求的环境中被广泛接受。随后IEEE小组又相继推出了802.11b和802.11a两个新标准，前者已经成为目前的主流标准，而后者也被很多厂商看好。802.11MAC子层提供两个功能，即CRC校验和包分片。在802.11协议中，每一个在无线网络中传输的数据报都被附加上了校验位以保证它在传送的时候不出错，这和Ethernet中通过上层TCP/IP协议来对数据进行校验有所不同。包分片的功能允许大的数据报在传送时被分成较小的部分分批传送。减少了