信息论与编码 第5章(3)

1、2021-11-161信源编码信源编码 第第5 5章（第章（第3讲）讲）2021-11-162p信息通过信道传输到信宿的过程即为信息通过信道传输到信宿的过程即为通信通信。要做到。要做到既不失真又快速地通信，需要解决两个问题：既不失真又快速地通信，需要解决两个问题：n在不失真或允许一定失真条件下，在不失真或允许一定失真条件下，如何提高信息如何提高信息传输速度传输速度-这是本章要讨论的这是本章要讨论的信源编码信源编码问题问题.n在信道受到干扰的情况下，在信道受到干扰的情况下，如何增加信号的抗干如何增加信号的抗干扰能力，同时又使得信息传输率最大扰能力，同时又使得信息传输率最大-这是下这是下章要讨论的

2、章要讨论的信道编码信道编码问题问题.2021-11-163p信源编码：信源编码：n无失真信源编码无失真信源编码第一极限定理第一极限定理 可逆编码可逆编码的基础，只适用于的基础，只适用于离散信源离散信源，主要用，主要用于文字、数据信源的压缩。于文字、数据信源的压缩。n限失真信源编码限失真信源编码第三极限定理第三极限定理 只适用于只适用于连续信源连续信源，主要用于图像、语音信源，主要用于图像、语音信源的压缩的压缩p信道编码信道编码 第二极限定理第二极限定理2021-11-164p一般来说，一般来说，抗干扰能抗干扰能与与信息传输率信息传输率二者相互矛盾。二者相互矛盾。然而编码定理已从理论上证明，至少

3、存在某种最佳然而编码定理已从理论上证明，至少存在某种最佳的编码能够解决上述矛盾，做到既可靠又有效地传的编码能够解决上述矛盾，做到既可靠又有效地传输信息。输信息。p信源虽然多种多样，但无论是哪种类型的信源，信信源虽然多种多样，但无论是哪种类型的信源，信源符号之间总存在源符号之间总存在相关性相关性和和分布的不均匀性分布的不均匀性，使得，使得信源存在信源存在冗余度冗余度。信源编码的目的就是要。信源编码的目的就是要减少冗余，减少冗余，提高编码效率提高编码效率。2021-11-165p信源编码的信源编码的基本途径基本途径有两个有两个:n一是编码后使序列中的各个符号之间尽可能地一是编码后使序列中的各个符号

4、之间尽可能地 互相独立，即互相独立，即解除相关性解除相关性-方法包括预测编方法包括预测编 码和变换编码码和变换编码.n二是使编码后各个符号出现的概率尽可能相等，二是使编码后各个符号出现的概率尽可能相等，即即均匀化分布均匀化分布-方法主要是统计编码方法主要是统计编码.2021-11-166p本章主要介绍信源编码的基本思路与主要方法，以本章主要介绍信源编码的基本思路与主要方法，以无失真编码为主，期望通过本章学习能建立起信源无失真编码为主，期望通过本章学习能建立起信源压缩编码的基本概念。压缩编码的基本概念。2021-11-1675.15.1 编码的定义编码的定义5.25.2 无失真信源编码无失真信源

5、编码5.3 5.3 限限失真信源编码失真信源编码5.4 5.4 常用常用信源编码方法简介信源编码方法简介主主 要要 内内 容容2021-11-1685.2.3 5.2.3 最佳变长编码最佳变长编码p最佳码最佳码：n对于某一信源和某一码符号集来说对于某一信源和某一码符号集来说,若有一唯一可若有一唯一可译码译码,其其平均码长平均码长小于所有其他唯一可译码的平均小于所有其他唯一可译码的平均长度。长度。p方法：方法：将概率大的信源符号编以短的码字。概率小将概率大的信源符号编以短的码字。概率小的符号编以长的码字，这样使得平均码字长度最短。的符号编以长的码字，这样使得平均码字长度最短。p主要有：主要有：n

6、香农香农（Shannon）n费诺费诺（Fano）n哈夫曼哈夫曼（Huffma ）2021-11-169香农编码香农编码p香农第一定理指出了香农第一定理指出了平均码长平均码长与与信源信源之间的关系之间的关系,同同时也指出了可以通过编码使平均码长达到时也指出了可以通过编码使平均码长达到极限值极限值,这这是一个很重要的极限定理。是一个很重要的极限定理。p香农第一定理指出香农第一定理指出,选择每个码字的长度选择每个码字的长度Ki满足下式：满足下式： )(1logiixpK或或: log2 p(xi) Ki 1log2 p(xi)p就可以得到这种码。就可以得到这种码。p这种编码方法称为这种编码方法称为

7、取整取整2021-11-1610p二进制香农码的二进制香农码的编码步骤编码步骤如下：如下：将信源符号按概率从大到小的顺序排列将信源符号按概率从大到小的顺序排列, p(a1) p(a2) p(an)确定满足下列不等式的整数确定满足下列不等式的整数Ki , log2 p(ai) Ki 0(i=1,2, ,n)p信源符号的信源符号的为为p显然显然 P1= 0; P2= p1 ; P3= p1+p2 ; p而且而且 pr = Pr+1 Pr11riirpP2021-11-1639p累积概率累积概率Pr+1和和Pr都是小于都是小于1的正数的正数,可用可用0,1区间内的区间内的两个两个点点来表示来表示;P

8、1p1P2P3P41p2p30ppr就是这两点间的小区间的就是这两点间的小区间的长度长度,如图如图:p当当A=0,1二元信源二元信源时：时： P(0)= 0 ; P(1) = p(0) P(0)P(1)01p(0)p(1)2021-11-1640p计算二元无记忆信源序列的计算二元无记忆信源序列的p初始时：在初始时：在0,1)区间内由区间内由P(1)划分成二个子区间划分成二个子区间0, P1 )和和P1 ,1) , P(1) = p(0) 。n子区间子区间0, P1 )的的宽度宽度为为A(0)= p(0) ,对应于信源符号对应于信源符号“0”；n子区间子区间P1 ,1)的的宽度宽度为为A(1)=

9、 p(1) ,对应于信源符号对应于信源符号“1”;n若输入符号序列的第若输入符号序列的第一一个符号为个符号为S =“0”,落入落入0, P1 )区区间间,得得 P (S =“0”)= P(0) = 0； 算术编码算术编码2021-11-1641p若输入第若输入第二二个符号为个符号为“1”,S =“01”,nS =“01”所对应的区间是在区间所对应的区间是在区间0, P(1) )中进行分割；中进行分割；p符号序列符号序列“00”对应的区间宽度为对应的区间宽度为 A(00)=A(0) p(0)=p(0)p(0)= p(00)；n对应的区间为对应的区间为0,P(S =“01”)。p符号序列符号序列“

10、01”对应的区间宽度为对应的区间宽度为 A(01) =A(0) p(1)= p(0)p(1)= p(01) = A(0)A(00)；n对应的区间为对应的区间为P(S =“01”),P(1)。: P(S =“01”)=p(00)= p(0)p(0)2021-11-1642P(0)0P(1)1p(0)p设输入符号序列设输入符号序列S = 011p(1)P(0)P(1)p(00)P(01)p(01)P(01)P(1)P(011)p(010)p(011)pp(0)= p(00)+p(01)pp(01)= p(010)+p(011)pP(0)= 0pP(01)= p(00)pP(011)= P(01)+

11、p(010)2021-11-1643p011S1, S=01p输入序列输入序列S1=“011”对应的区间是对区间对应的区间是对区间P(S), P (1)进行分割进行分割 p序列序列S0=“010”对应的区间宽度为对应的区间宽度为 A(S =“010”)=A(S=“01”)p(0)=A(S) p(0)n其对应的区间为其对应的区间为P(S), P(S)+ A(S) p(0)；p序列序列S1=“011”对应的区间宽度为对应的区间宽度为 A(S=“011”)=A(S)p(1) =A(S =“01”)A(S =“010”)= A(S)A(S0)n其对应的区间为其对应的区间为P(S)+ A(S) p(0)

12、,P(1)；2021-11-1644P(0)0P(1)1p(0)p(1)P(0)P(1)p(00)P(S) S=01p(01)P(S)P(1)P(S1)p(010)p(011)p当前面输入符号序列为当前面输入符号序列为S,若接着输入一个若接着输入一个“0”, : P(S 0)= P(S)n对应对应区间宽度区间宽度为：为： A(S0)=A(S)p(0)p若接着输入的一个符号是若接着输入的一个符号是“1”，: P(S1)= P(S) + A(S)p(0)n对应对应区间宽度区间宽度为：为： A(S1) = A(S)p(1) =A(S)A(S0) 信源符号0的区间宽度A(0)= p(0)符号1的区间宽

13、度A(1)=p(1)符号“00”区间宽度A(00)=p(00)信源符号“01”区间宽度A(01)=p(01)=A(0)-A(00)2021-11-1645p符号序列对应的区间宽度符号序列对应的区间宽度 A(S=“0”) = p(0) A(S=“1”) = 1A(S=“0”)=p(1) A(S=“00”) = p(00) = A(0) p(0) = p(0) p(0) A(S=“01”) = A(S=“0”)A(S=“00”) = p(01)= A(0) p(1) = p(0) p(1) A(S=“10”) = p(10)=A(1) p(0) = p(1) p(0) A(S=“11”) = A(

14、S=“1”)A(S=“10”) =p(11)=A(S=“1”)p(1)=p(1) p(1) A(S=“010”) = A(S=“01”) p(0)=p(01) p(0)p(010) A(S=“011”) = A(S=“01”)A(S=“010”) = A(S=“01”)p(1)= p(01) p(1)= p(011)p信源符号序列信源符号序列S所对应所对应区间的宽度区间的宽度等于符号序列等于符号序列S的的概率概率p(S)。算术编码算术编码2021-11-1646算术编码算术编码p二元二元信源符号序列的信源符号序列的累积概率递推公式累积概率递推公式1 , 0)()(),(rPSpSPrSPrnS

15、r表示前面信源符号序列为表示前面信源符号序列为S,接着再输入符号为接着再输入符号为r P(0)=0， P(1) = p(0) P(S0)= P(S) P(S1)= P(S) + p(S) p(0)p信源符号序列所对应区间的信源符号序列所对应区间的宽度宽度递推公式递推公式1 , 0)()(),(),(rrpSprSprSA2021-11-1647p例：已输入二元符号序列为例：已输入二元符号序列为S=“011”,接着再输入符号为接着再输入符号为“1”,p得序列累积概率为：得序列累积概率为： P(S1)=P(0111)=P(S=“011”)+p(011)p(0) =P(S=“01”)+p(01)p(

16、0)+p(011)p(0) =P(S=“0”)+p(0)p(0)+p(01)p(0)+p(011)p(0) =0 +p(00)+p(010)+p(0110) 对应的区间宽度为对应的区间宽度为 A(S1)=p(S=“011”) p(1)= p(011) p(1)= p(0111)2021-11-1648算术编码p一般多元信源序列的累积概率递推公式一般多元信源序列的累积概率递推公式rrPSpSPaSP)()(),()()(),(),(rrrapSpaSpaSAp序列的概率公式序列的概率公式rrpSpaSp)(),(2021-11-1649算术编码p实际应用中实际应用中,采用累积概率采用累积概率P(

17、S)表示码字表示码字C(S),符号概率符号概率p(S)表示状态区间表示状态区间A(S),则有：则有： C(S,r) = C(S)+A(S)Pr A(S,r) = A(S) pr p实际编码时实际编码时,只需两个存储器只需两个存储器,起始时可令起始时可令: A() =1, C() = 0p每输入一个信源符号每输入一个信源符号,存储器存储器C和和A 就按照上式更新一次就按照上式更新一次,直至信源符号输入完毕直至信源符号输入完毕,就可将存储器就可将存储器C的内容作为该序的内容作为该序列的码字输出。列的码字输出。 2021-11-1650算术编码p在编码过程中在编码过程中,每输入一个符号要进行乘法和加

18、法运算每输入一个符号要进行乘法和加法运算,所以称为所以称为。p通过关于信源符号序列的累积概率的计算通过关于信源符号序列的累积概率的计算,把区间分割成把区间分割成许多小区间许多小区间,不同的信源符号序列对应不同的区间为不同的信源符号序列对应不同的区间为P(S), P(S) + p(S) 。可取小区间内的一点来代表。可取小区间内的一点来代表这序列。这序列。2021-11-1651算术编码p编码方法：编码方法：n将符号序列的将符号序列的写成二进位的小数，取小数点写成二进位的小数，取小数点后后L位位,若后面有尾数若后面有尾数,就进位到第就进位到第L位位,这样得到的一个这样得到的一个数数C,并使并使L满

19、足满足)(1logSpL取整LLSP.0)(2021-11-16527)(1logSpL例例：设二元无记忆信源：设二元无记忆信源S=0,1,其其p(0)=1/4,p(1)=3/4。对二元序列对二元序列11111100做算术编码。做算术编码。P(S) = p(00000000) + p(00000001) + p(00000010) + + p(11111011) = 1 p(11111111) p(11111110) p(11111101) p(11111100) = 1 p(111111) = 1(3/4)6= 0.110100100111得得 C = 0.1101010 S的码字为的码字为

20、 1101010解：解：p(S=11111100) = p2(0)p6(1) = (1/4)2 (3/4)62021-11-1653) 1 ()() 1() 1()0()()0()0()0()()() 1()()0(pppApppAppPPPPSSSSSSSSSSS+=p(1)=3/4=(0.11)2p(11)=(3/4)2=(0.1001)2+=p(0)=(1/4)=2-2p(S)p(0)p(S)右移2位2021-11-16545.4.3 5.4.3 预测编码预测编码p预测编码是数据压缩三大经典技术（统计编码、预测编码、预测编码是数据压缩三大经典技术（统计编码、预测编码、变换编码）之一，它是

21、建立在信源数据相关性之上的。由变换编码）之一，它是建立在信源数据相关性之上的。由信息理论可知，对于相关性很强的信源，条件熵可远小于信息理论可知，对于相关性很强的信源，条件熵可远小于无条件熵，因此人们常采用尽量解除相关性的办法，使信无条件熵，因此人们常采用尽量解除相关性的办法，使信源输出转化为独立序列，以利于进一步压缩码率。源输出转化为独立序列，以利于进一步压缩码率。p常用的解除相关性的措施是预测和变换，其实质都是进行常用的解除相关性的措施是预测和变换，其实质都是进行序列的一种映射。一般来说，预测编码有可能完全解除序序列的一种映射。一般来说，预测编码有可能完全解除序列的相关性，但必需确知序列的概

22、率特性；变换编码一般列的相关性，但必需确知序列的概率特性；变换编码一般只解除矢量内部的相关性，但它可有许多可供选择的变换只解除矢量内部的相关性，但它可有许多可供选择的变换方法，以适应不同的信源特性。下面介绍预测编码的一般方法，以适应不同的信源特性。下面介绍预测编码的一般理论与方法。理论与方法。2021-11-1655p预测编码的预测编码的基本思想基本思想是通过提取与每个信源符号有关的新是通过提取与每个信源符号有关的新信息，并对这些新信息进行编码来信息，并对这些新信息进行编码来消除信源符号之间的相消除信源符号之间的相关性关性。实际中常用的新信息为信源符号的当前值与预测值。实际中常用的新信息为信源

23、符号的当前值与预测值的差值，这里正是由于信源符号间存在相关性，所以才使的差值，这里正是由于信源符号间存在相关性，所以才使预测成为可能，对于独立信源，预测就没有可能。预测成为可能，对于独立信源，预测就没有可能。p预测的理论基础主要是预测的理论基础主要是估计理论估计理论。所谓估计就是用实验数。所谓估计就是用实验数据组成一个统计量作为某一物理量的估值或预测值。若估据组成一个统计量作为某一物理量的估值或预测值。若估值的数学期望等于原来的物理量，就称这种估计为值的数学期望等于原来的物理量，就称这种估计为无偏估无偏估计计；若估值与原物理量之间的；若估值与原物理量之间的均方误差最小均方误差最小，就称之为，就

24、称之为最最佳估计佳估计，基于这种方法进行预测，就称为最小均方误差预，基于这种方法进行预测，就称为最小均方误差预测，所以也就认为这种预测是最佳的。测，所以也就认为这种预测是最佳的。p要实现最佳预测就是要找到计算预测值的要实现最佳预测就是要找到计算预测值的预测函数预测函数。2021-11-1656p设有信源序列设有信源序列 ，k阶预测就是由阶预测就是由 的前的前k个数据来个数据来预测预测 。 可令预测值为：可令预测值为： 式中式中 是待定的预测函数。要使预测值具有是待定的预测函数。要使预测值具有最小均方误差最小均方误差，必，必须确知须确知k个变量的联合概率密度函数个变量的联合概率密度函数 ，这在一

25、般情况，这在一般情况下较难得到，因而常用比较简单的下较难得到，因而常用比较简单的线性预测线性预测方法。方法。p线性预测是取预测函数为各已知信源符号的线性函数，即取线性预测是取预测函数为各已知信源符号的线性函数，即取 的预测值为：的预测值为： 其中其中 为预测系数。为预测系数。 21,rkrrsss rsrs12(,)rrrrksf sss ( )f 21,rkrrsss rs1kririisa s ia2021-11-1657p最简单的预测是令最简单的预测是令 称为前值预测，常用的差值预测就属于这类。称为前值预测，常用的差值预测就属于这类。p利用预测值来编码的方法可分为两类：利用预测值来编码的

26、方法可分为两类：p 一类是对实际值与预测值之差进行编码，也叫一类是对实际值与预测值之差进行编码，也叫差值预差值预测编码测编码。p 另一类方法是根据差值的大小，决定是否需传送该信另一类方法是根据差值的大小，决定是否需传送该信源符号。例如，可规定某一阈值源符号。例如，可规定某一阈值T，当差值小于，当差值小于T时可时可不传送，对于相关性很强的信源序列，常有很长一串符不传送，对于相关性很强的信源序列，常有很长一串符号的差值可以不传送，此时只需传送这串符号的个数，号的差值可以不传送，此时只需传送这串符号的个数，这样能大量压缩码率。这类方法一般是按信宿要求来设这样能大量压缩码率。这类方法一般是按信宿要求来

27、设计的，也就是压缩码率引起的失真应能满足信宿需求。计的，也就是压缩码率引起的失真应能满足信宿需求。1rrss 2021-11-1658p下面简单介绍差值预测编码系统。如果信源的相关性很强，下面简单介绍差值预测编码系统。如果信源的相关性很强，则采用差值编码可得较高的压缩率。由于相关性很强的信则采用差值编码可得较高的压缩率。由于相关性很强的信源可较精确地预测待编码的值，使得这个差值的方差将远源可较精确地预测待编码的值，使得这个差值的方差将远小于原来的信源取值，所以在同样失真要求下，量化级数小于原来的信源取值，所以在同样失真要求下，量化级数可大大减少，从而较显著地压缩码率。可大大减少，从而较显著地压

28、缩码率。p差值预测编码系统的框图如下图所示，在编码端主要由一差值预测编码系统的框图如下图所示，在编码端主要由一个符号编码器和一个预测器组成，在解码端主要由一个符个符号编码器和一个预测器组成，在解码端主要由一个符号解码器和一个预测器组成。号解码器和一个预测器组成。2021-11-1659编码器解码器2021-11-1660p当输入信源序列逐个进入编码器时，预测器根据若干个当输入信源序列逐个进入编码器时，预测器根据若干个过去的输入产生对当前输入像素的估计值。预测器的输过去的输入产生对当前输入像素的估计值。预测器的输出舍入成最近的整数，并被用来计算预测误差：出舍入成最近的整数，并被用来计算预测误差：

29、p在解码器中根据接收到的变长码字重建在解码器中根据接收到的变长码字重建 ，并执行下，并执行下列操作：列操作： p而而 可通过式可通过式 进行预测得到。进行预测得到。rrress rerrrses rs 1kririisa s 2021-11-1661p差值编码的特点：差值编码的特点： 在差值编码中所能取得的压缩率与预测误差序列所产在差值编码中所能取得的压缩率与预测误差序列所产生的熵的减少量直接有关。生的熵的减少量直接有关。 通过预测可消除相关，所以预测误差的概率分布一般通过预测可消除相关，所以预测误差的概率分布一般在零点附近有一个高峰，并且与输入信源分布相比其方在零点附近有一个高峰，并且与输入

30、信源分布相比其方差较小。差较小。p预测编码的基本类型预测编码的基本类型nDPCM（差分脉码调制）（差分脉码调制）nPCM型型n噪声反馈编码噪声反馈编码(NFC)n预测误差门限型预测误差门限型2021-11-16625.4.4 变变 换换 编编 码码 p众所周知，信源序列往往具有很强的相关性，要提高信众所周知，信源序列往往具有很强的相关性，要提高信源的效率首先要解除信源的相关性。解除相关性可以在源的效率首先要解除信源的相关性。解除相关性可以在时域上进行时域上进行( (这就是上节中介绍的预测编码这就是上节中介绍的预测编码) )，也可以在，也可以在频域，甚至在频域，甚至在广义频域内进行，这就是要在本

31、节中介绍广义频域内进行，这就是要在本节中介绍的的域变换编码域变换编码。 p在信号分析中，对连续的模拟信号，如果它是周期性的在信号分析中，对连续的模拟信号，如果它是周期性的, ,则可采用傅氏级数展开，若是非周期性的则可采用傅氏级数展开，若是非周期性的, ,则可采用傅氏则可采用傅氏积分积分( (变换变换) )来表示，但无论是级数还是积分来表示，但无论是级数还是积分, ,都属于一类都属于一类正交变换，是从时域展开成频域的变换。同理正交变换，是从时域展开成频域的变换。同理, ,对离散的对离散的数据序列信号也可引入同样的离散傅氏变换。而且，还数据序列信号也可引入同样的离散傅氏变换。而且，还可以进一步将其

32、推广为广义的频域可以进一步将其推广为广义的频域变换。变换。 2021-11-1663p上一节讨论的在空间和时间域上压缩信源数据冗余量的预测上一节讨论的在空间和时间域上压缩信源数据冗余量的预测编码的最大特点是直观、简洁、易于实现，特别是容易设计编码的最大特点是直观、简洁、易于实现，特别是容易设计出具有实时性的硬件结构。但是预测编码的出具有实时性的硬件结构。但是预测编码的不足在于压缩能不足在于压缩能力有限力有限。具有更高压缩能力的方法和目前最为成熟的方法是。具有更高压缩能力的方法和目前最为成熟的方法是变换编码变换编码，特别是，特别是正交变换编码方法正交变换编码方法和目前和目前尚处于研究阶段尚处于研

33、究阶段的的小波变换编码小波变换编码，这两种方法都具有很强的数据压缩能力。，这两种方法都具有很强的数据压缩能力。 p变换编码的基本原理就是将原来在空间域上描述的信号，通变换编码的基本原理就是将原来在空间域上描述的信号，通过一种数学变换过一种数学变换( (例如，傅里叶变换、正交变换等例如，傅里叶变换、正交变换等) )变换到变变换到变换域换域( (如频率域、正交矢量空间如频率域、正交矢量空间) )中进行描述。简单地讲，即中进行描述。简单地讲，即把信号由空间域变换到变换域中，用变换系数来描述。这些把信号由空间域变换到变换域中，用变换系数来描述。这些变换系数之间的相关性明显下降，并且能量常变换系数之间的

34、相关性明显下降，并且能量常常集常集中于低频中于低频或低序系数区域中，这样就容易实现码率的压缩，而且还大或低序系数区域中，这样就容易实现码率的压缩，而且还大大降低了实现的难度。大降低了实现的难度。2021-11-16645.4.5 其它限失真信源编码其它限失真信源编码 p标量量化标量量化: : 连续信源限失真编码的主要方法是量化，就是连续信源限失真编码的主要方法是量化，就是把连续的样值离散化为某些量化级数，所以量化也可称为数把连续的样值离散化为某些量化级数，所以量化也可称为数字化。量化后的信号也可称为数字信号，这种转换必将引入字化。量化后的信号也可称为数字信号，这种转换必将引入失真，量化时必须使

35、这些失真最小。常用的量化方法有标量失真，量化时必须使这些失真最小。常用的量化方法有标量量化和矢量量化两种，所谓标量量化是指每次只量化和矢量量化两种，所谓标量量化是指每次只量化一个模量化一个模拟样本值，故又叫做零记忆量化。拟样本值，故又叫做零记忆量化。p矢量量化矢量量化: : 要想得到性能好的编码，仅采用标量量化是不可要想得到性能好的编码，仅采用标量量化是不可能的。在最佳编码中，如将离散信源的多个符号进行联合编能的。在最佳编码中，如将离散信源的多个符号进行联合编码可提高效率，这对连续信源也是如此。当把多个信源符号码可提高效率，这对连续信源也是如此。当把多个信源符号联合起来形成多维矢量，再对矢量进

36、行标量量化时，自由度联合起来形成多维矢量，再对矢量进行标量量化时，自由度将更大，同样的失真下，量化级数可进一步减少，码率将更大，同样的失真下，量化级数可进一步减少，码率可进可进一步压缩。这种量化叫做矢量量化。一步压缩。这种量化叫做矢量量化。 2021-11-1665p语音压缩编码语音压缩编码n语音压缩编码可分为语音压缩编码可分为波形编码、参量编码和混合编码波形编码、参量编码和混合编码三大类型。三大类型。n 波形编码波形编码的目的是在接收端恢复发端原语音的波形，并以波形的目的是在接收端恢复发端原语音的波形，并以波形的保真度即自然度为主要度量指标。的保真度即自然度为主要度量指标。n参量编码参量编码

37、不同于波形编码，它主要跟踪波形产生的过程，并且不同于波形编码，它主要跟踪波形产生的过程，并且仅传送反映波形变化的主要参量，在接收端根据语音产生过程，仅传送反映波形变化的主要参量，在接收端根据语音产生过程，利用这些参量恢复语音。它又称为声码器，其主要度量指标是利用这些参量恢复语音。它又称为声码器，其主要度量指标是可懂度。可懂度。n混合编码混合编码则介于波形编码与参量编码之间，即在参量编码的基则介于波形编码与参量编码之间，即在参量编码的基础上，引入了波形编码的特征，以达到改善自然度的目的，因础上，引入了波形编码的特征，以达到改善自然度的目的，因此，它一般也称混合编码为软声码器。由于语音信源是属于连

38、此，它一般也称混合编码为软声码器。由于语音信源是属于连续的限失真信源续的限失真信源,可以根据可以根据R(D)函数理论探讨波形编码的理论压函数理论探讨波形编码的理论压缩极限。缩极限。 2021-11-1666图像压缩编码图像压缩编码p在在20世纪世纪90年代，计算机技术、微电子技术和通信技术得到年代，计算机技术、微电子技术和通信技术得到迅猛发展。多媒体计算机、多媒体数据库、多媒体通信、多迅猛发展。多媒体计算机、多媒体数据库、多媒体通信、多媒体表现技术等多媒体研究领域也成为计算机和通信发展中媒体表现技术等多媒体研究领域也成为计算机和通信发展中的一个重要研究热点。其中面临最大的问题是数据量巨大的的一

39、个重要研究热点。其中面临最大的问题是数据量巨大的“爆炸爆炸”。文件、表格、工程图纸等二值图像的数据已较大。文件、表格、工程图纸等二值图像的数据已较大。p但相比之下，但相比之下，语音信号、静止灰值图像、彩色静止图像电视语音信号、静止灰值图像、彩色静止图像电视图像、高清晰电视图像图像、高清晰电视图像等的数据量更是巨大。特别是高清晰等的数据量更是巨大。特别是高清晰电视图像。一般电视图像的数据量要比语音的数据量大上千电视图像。一般电视图像的数据量要比语音的数据量大上千倍。因此，研究有效的倍。因此，研究有效的数据压缩和解压缩数据压缩和解压缩的技术成为重要的、的技术成为重要的、关键的研究方向。信息率失真理

40、论从理论上指出，解决这种关键的研究方向。信息率失真理论从理论上指出，解决这种问题的途径是存在的、可能的。问题的途径是存在的、可能的。2021-11-1667p静止图像压缩编码静止图像压缩编码n新闻图片、医疗图片、卫星图片以及图像文献资料新闻图片、医疗图片、卫星图片以及图像文献资料等均属于静止图像。这类静止图片的压缩，对传输等均属于静止图像。这类静止图片的压缩，对传输和存储都具有重要的应用价值。和存储都具有重要的应用价值。静止图像压缩编码静止图像压缩编码一般可划分为一般可划分为无失真编码与限失真编码无失真编码与限失真编码两大类。对两大类。对无失真编码一般采用霍夫曼编码或者算术编码。限无失真编码一

41、般采用霍夫曼编码或者算术编码。限失真编码主要有：帧内、帧间的预测编码；二维变失真编码主要有：帧内、帧间的预测编码；二维变换编码：换编码：KLT、DFT、DCT、HRT、SLT等等，以等等，以及子带编码、分层编码、轮廓编码、分形编码、小及子带编码、分层编码、轮廓编码、分形编码、小波变换等等，但主要以预测编码和正交变换编码为波变换等等，但主要以预测编码和正交变换编码为主主,JPEG标准是用于多个灰度及色度连续变化的静标准是用于多个灰度及色度连续变化的静止图像编码的国际标准。止图像编码的国际标准。 2021-11-1668p活动图像压缩编码活动图像压缩编码n 广播电视、会议电视和可视电话等运动图像信

42、号，广播电视、会议电视和可视电话等运动图像信号，除帧内像素间有相关性而外，帧与帧之间也有很强除帧内像素间有相关性而外，帧与帧之间也有很强的相关性，所以对这类信号的处理常用的相关性，所以对这类信号的处理常用帧间预测技帧间预测技术术。帧间预测不仅要利用本行的前几个样值和前几。帧间预测不仅要利用本行的前几个样值和前几行的相邻取样值，而且要利用上一帧或前几帧的取行的相邻取样值，而且要利用上一帧或前几帧的取样值来估计当前帧内的像素值，因此帧间预测是一样值来估计当前帧内的像素值，因此帧间预测是一种三维预测方法。它在帧内预测种三维预测方法。它在帧内预测的基础上，再利用的基础上，再利用帧间的时间相关性进一步消

43、除图像信号的冗余度，帧间的时间相关性进一步消除图像信号的冗余度，提高压缩比。提高压缩比。 2021-11-1669p视频压缩编码视频压缩编码n电视信号具有很强的相关性和巨大的数据量，因此电视电视信号具有很强的相关性和巨大的数据量，因此电视信号需要进行数据压缩，数字电视和高分辨率的电视信号需要进行数据压缩，数字电视和高分辨率的电视（HDTV)将是将是21世纪人类使用的主要电视系统，这是由世纪人类使用的主要电视系统，这是由于数字电视比模拟电视具有很多突出优点而决定的。于数字电视比模拟电视具有很多突出优点而决定的。n数字图像的质量远高于模拟电视图像。例如数字图像的质量远高于模拟电视图像。例如,数字电

44、视信数字电视信号的抗噪声干扰及克服非线性失真都明显地优于模拟电号的抗噪声干扰及克服非线性失真都明显地优于模拟电视信号，能克服高楼大厦对电波反射所造成的重影问题。视信号，能克服高楼大厦对电波反射所造成的重影问题。数字电视信号经过多次中继再生。数字电视广播数字电视信号经过多次中继再生。数字电视广播,在广阔在广阔范围内具有同等优良的图像质量。数字电视可以实现模范围内具有同等优良的图像质量。数字电视可以实现模拟电视难于实现的复杂的电视信号处理和加工，如数字拟电视难于实现的复杂的电视信号处理和加工，如数字视频特技效果。数字电视能克服全球各种模拟电视制式视频特技效果。数字电视能克服全球各种模拟电视制式难于统一的问题，实现不同电视制式的自动转换等。难于统一的问题，实现不同电视制式的自动转换等。2021-11-1670p 数字电视信号易于实现计算机控制和自动化操作、管理，数字电视信号易于实现计算机控制和自动化操作、管理，易于实现广播电视与计算机网络和电话网的三网合一，为多易于实现广播电视与计算机网络和电话网的三网合一，为多媒体信息的传输、存储、同步、交互和融合创造条件。数字媒体信息的传输、存储、同步、交互和融合创造条件。数字电视系统采用大规模数字集成电路，大大提高了电视设备的电视系统采用大规模数字集成电路，大大提高了电视设备的稳定性、可靠性。电视信号数字化后也存在