信息传输基础10课件

1、5 预测编码预测编码利用条件概率编码利用条件概率编码主要内容1DPCM基本原理2语言信号预测编码3活动图像预测编码已有样本值现时的系统输出现时的系统输出采用线性或非线性预测函数，最小均方误差为准则预测编码的基本概念5.1 DPCM的基本原理对于具有对于具有M 种取值的符号序列种取值的符号序列xk, ,其第其第L个符号的熵满足个符号的熵满足: :log 2 M H(xL) H(xL|xL-1) H(xL|xL-1, xL-2) H(xL|xL-1, xL-2, , x1) H知道前面的符号知道前面的符号 xL(kL) , 再猜后续符号再猜后续符号 xL , 则则知道得越多知道得越多, ,熵越小。

2、熵越小。意味着该信源的不确定度减小意味着该信源的不确定度减小, ,数码率自然降低。数码率自然降低。基础理论：数据源不可能用一个数学模型完全表示，并使得源的数据源不可能用一个数学模型完全表示，并使得源的输出始终和该模型的输出完全一致，精确预测输出始终和该模型的输出完全一致，精确预测(或产或产生生)这些数据。这些数据。实际上实际上实际情况中只能争取设计最好的预测器，以某种最小化的误差实际情况中只能争取设计最好的预测器，以某种最小化的误差对下一个取样值进行预测。对下一个取样值进行预测。发展历史发展历史1952年，Bell实验室的B.M.Oliver 等人开始线性预测编码理论研究。同年同年，该实验室的

3、，该实验室的C.C.Culter取得了取得了DPCM (Differential Pulse Code Modulation, 差分脉冲编码调制差分脉冲编码调制)系统的专利，系统的专利，奠定了真正实用的预测编码系统的基础奠定了真正实用的预测编码系统的基础。预测编码技术： 从过去的符号样本来预测下一个符号样本的值。根据：认为在信源符号之间存在相关性。如果符号的预测值与符号的实际值比较接近，它们之间的差值幅度的变化就比原始信源符号幅度值的变化小，因此量化这种差值信号时就可以用比较少的位数来表示差值。DPCM的基础 对预测的样本值与原始的样本值之差差进行编码。DPCM系统图5.1 DPCM系统原理框

4、图量化器预测器编码器xk-ekkxkekxSk信 道解码器预测器kekx接收端发送端5.2 最佳线性预测含有量化器的DPCM系统：带反馈的非线性系统，难以对预测器和量化器进行严格的全局优化设计。常用的简化方法：分别讨论，得到局部最优解。DPCM系统的核心问题：预测器的设计线性预测：1( ) , Nkiiixa k xkN时不变线性预测：1 Nkik iixa x简化，令ai(k) = ai 与 k无关,用原始取样值代xi替量化恢复值xi(5.2-1)1 Nkkkkik iiexxxax差值信号:(5.2-2)为了使预测误差在某种测度下最小,就要按照一定的准则,对线性预测系数进行优化。 MMSE

5、线性预测最小均方误差准则(MMSE)22() ekkExx使得预测误差的均方值 最小。将式(5.2-1)之 带入, 得到:kx(5.2-3)最小误差 必须与预测采用的所有数据正交。min()kkxx当N 给定后，e2是依赖预测系数ai的函数，使MSE最小，e2对ai求导等于0，有 ：22()0, 1,2,ekkkiixExxiNaa因此：()0, 1,2,kkk iExxxiN得到：( , )ijR i jE x x(5.2-4)定义数据的自相关函数：1( ,)(,), 1,2,NjjR k k ia R kj k iiN (5.2-5)自相关函数满足：(,)(,)R ki kjR kj ki

6、(5.2-6)当xi广义平稳时，有：(,)()()(|)R k i kjR j iR ijR ij(5.2-7)自相关矩阵为实对称的Toeplitz矩阵, 因为是正定矩阵, 故可逆，可解得N个预测系数使均方误差最小。12(0)(1)(1)(1)(1)(0)(2)(2)(1)(2)(0)( )NaRRR NRaRRR NRaR NR NRR N将式(5.2-6)和式(5.2-7)代入式(5.2-5), 并用矩阵表示有:(5.2-8)() 2() 1 () 0() 2() 1() 2() 0() 1() 1 () 0(1121NRRRRNRNRNRRRNRRRaaaN最小均方误差为 :2min1(

7、0)( )NeiiRa R i(5.2-10)最佳预测条件下必然有ek的方差e2小于xi的方差R(0), 甚至可能e2 R(0) 意味着误差序列ek的相关性弱于原始信号序列xi的相关性,甚至可能弱很多。 如果xi是各态历经的且N足够大，则R(k)可用下式估计:11( )Nii kiR kx xN(5.2-9) R(i)越大(即xi的相关性越大),方差e2越小, 所能达到的压缩比就越大; R(i)=0(即xi的互不相关),方差e2min=R(0)大, 此时利用预测起不到数据压缩的目的。利用条件概率进行预测，传送去除了大部分相关性的误差序列ek，有利于压缩数据。例5-1令N=1，a1=1，即有：

8、，则11kkxa x(1)= 2 1(0)2(1) (0)(0)RRRR其中 =R(1)/R(0) 为信号的自相关系数。 显然只要0.51, 就可使e2 12后, R()就 很小了,意味着清音的关联长度主要在12个 样值以内。LPC声码器的主要实现步骤如下: 把语音每80或160个样值(1020ms)分成一段(LPC中称为一 帧), 每帧计算一次参数; 在 =2080的范围内计算R( ), 利用R( )两个峰值的间隔找 出基音周期 , 清音固定使用N个预测系数a1, a2 , , aN , N=810; 按5.2节的MMSE准则计算最佳线性预测系数a1, a2 , , aN ; 将全部预测参数

9、a1, a2 , , aN , 连同预测误差ek进行量化,编码。可用图5.1的基本DPCM系统实现, 差别仅在于预测器参数每帧更新一次并传至收端。由于即要传送N+1个参数,又要传送预测误差, 一般用于9.619.2 kb/Sde 中速语音编码。脉冲序列发生器随机噪声发生器声道模拟滤波器增益G有声无声合成语音ykuka1 a2 , aN基音周期 图5.6 LPC声码器语音合成框图(二元激励模型)为进一步降低码率，我们不传误差只传参数，由收端利用这些参数自己合成话音，如图5.6所示。对计算出来各种参数G , , a1, a2 , , aN(模拟量), 进行二次量化, 再编码。实用中还希望总码率尽量

10、靠近1502n (n=0,1,2, )b/s的典型码率。NikikikuGyay1LPC声码器输出的合成语音可表示为：(5.3-2) 技术与标准化进展保留了参数法的声道模型，但同时也传送预测误差，供收端去优化声道模型的激励源，以提高合成语音的自然度。关键是：如何高效地传送误差信息。混合编码器：1980年提出，提出的算法： 残差(余数)激励线性预测编码(RELP); 多脉冲激励线性预测编码(MP-LPC，1982年提出); 码激励线性预测编码(CELP,1984年提出); 多带激励(MBE)声码器(频域进行);ITU的有关语音信号压缩编码标准,见表5.1ITU建议制定时间码率(kp/s)编码算法说 明G.711197264(56)PCM(/A)3kHz语音带宽, 8kHz取样G.7211984/198632ADPCM3kHz语音带宽, 8kHz取样G.722198664/56/48SBC-ADPCM7kHz语音带宽, 16kHz取样G.723198640/32/24ADPCM(CDME建议)G.723.16.3/5.27MP-MLQ/ACELP算法复杂度:14.6/16 MIPSG.726199