信息与编码理论 第2版 课件 4.4 限失真信源编码

§4.4限失真信源编码前文所讲的信源编码方法，都是针对无失真的情况。而在实际信息处理过程中,往往允许有一定的失真，例如A/D变换，就不可能完全不失真。人们的视觉和听觉都允许有一定失真，电影和电视就是利用了视觉残留，才没有发觉影片是由一张一张画面快速联结起来的。耳朵的频率响应也是有限的，在某些实际场合中只需保留信息的主要特征就够了。所以，一般可以对信源输出的信息进行失真处理。本节主要讨论限失真信源编码，在此基础上简单介绍了一些其它常用的信源编码方法。由无失真离散信源编码问题可知：无论是无噪信道还是有噪信道，只要信息传输率小于信道容量，总能找到一种编码使其在信道上以任意小的错误概率和任意接近信道容量的传输率来传送信息。但若信息传输率大于信道容量，则不能实现无失真的传输，或者使传输错误概率任意小。模拟信息不像文本数据那样可以直接编码为字符，必须首先转化为数字格式。数字化过程包括三个步骤：采样、量化、编码。模拟信号首先必须对其进行采样。经采样后的采样信号在时间上是离散的，但是其取值依然是连续的。第二步是量化。量化的结果使采样信号变成量化信号，其取值是离散的。第三步是编码。最基本和最常用的编码方法是脉冲编码调制(PulseCodeModulation，PCM)，它将量化后的信号变成二进制码元。4.4.1模拟信源的数字化采样4.4.1模拟信源的数字化(1)冲激采样所谓冲激串采样，是用一个周期性冲激串与待采样的连续时间信号相乘，该周期性冲激串称作采样函数，采样函数的周期称为采样周期，采样函数的频率称为采样频率。4.4.1模拟信源的数字化4.4.1模拟信源的数字化(3)混叠若采样信号的频率低于奈奎斯特采样频率，相邻周期的频谱间将发生频谱重叠（又称混叠）。4.4.1模拟信源的数字化此时，不能无失真重建原信号。因此，采样速率必须满足：

2.量化编码(1)量化原理抽样把模拟信号变成了时间上离散的脉冲信号，但脉冲的幅度仍然是模拟的，还必须进行离散化处理，才能最终用数码来表示。这就要对幅值进行舍零取整的处理，这个过程称为量化。3.脉冲编码调制模拟信号经采样、量化后，已经是取值离散的数字信号。下一步进行编码。最常用的编码是用二进制符号“0”和“1”，表示此离散数值。通常把从模拟信号采样、量化，直到变换称为二进制符号的基本过程，称为脉冲编码调制(PulseCodeModulation，PCM)。PCM系统原理框图如图4-18所示。在编码器中由冲激脉冲对模拟信号进行采样，得到信号采样值，这个值仍是模拟量。在对它量化前，通常采用保持电路将其短暂保存，以便电路有时间对其进行量化。在实际电路中，常把采样和保持电路放在一起，称为采样保持电路。图中的量化器把模拟采样信号变成离散的数字量，然后在编码器中进行二进制编码。这样，每个二进制码组就代表一个量化后的信号采样值。预测就是从已收到的符号来提取关于未收到的符号的信息，从而预测其最可能的值作为预测值；并对它与实际值之差进行编码，达到进一步压缩码率的目的。由此可见，预测编码是利用信源的相关性来压缩码率的，对于独立信源，预测就没有可能。预测的理论基础主要是估计理论。估计就是用实验数据组成一个统计量作为某一物理量的估值或预测值。最常见的估计是利用某一物理量在被干扰下所测定的实验值，这些值是随机变量的样值，可根据随机量的概率分布得到一个统计量作为估值。若估值的数学期望等于原来的物理量，就称这种估计为无偏估计；若估值与原物理量之间的均方误差最小，就称之为最佳估计。用来预测时，这种估计就成为最小均方误差的预测，所以也就认为这种预测是最佳的。4.4.2预测编码变换是一个广泛的概念。在通信系统中，经常把信号进行变换以达到某一目的。信源编码实际上就是一种变换，使之能在信道中更有效地传送。变换编码就是将变换后的信号的样值可更有效的编码，也就是通过变换来解除或减弱信源符号间的相关性，再将变换后的样值进行标量量化，或采用对于独立信源符号的编码方法，以达到压缩码率的目的。4.4.3变换编码

变换编码的基本原理就是将原来在空间域上描述的信号，通过一种数学变换（例如，傅里叶变换、正交变换等）变换到变换域（如频率域、正交矢量空间）中进行描述。简单地讲，即把信号由空间域变换到变换域中，用变换系数来描述。这些变换系数