信息论与编码基础-教学课件-5

信息论与编码基础信道编码基本原理一、差错控制系统及其理论基础二、信道编码的基本概念三、信道编码方法的性能评价四、常用检错码信息论与编码基础信道编码基本原理一、差错控制系统及其理论基础二、信道编码的基本概念三、信道编码方法的性能评价四、常用检错码1.差错控制的理论基础1)香农第二定理2)近世代数信息论与编码基础信道编码基本原理2.差错控制的途径信道编码定理公式纠错编码的基本理论利用冗余度噪声均化信息论与编码基础信道编码基本原理RE(R)0C1C2信息论与编码基础信道编码基本原理交织分组交织信息论与编码基础信道编码基本原理交织分组交织信息论与编码基础信道编码基本原理交织伪随机交织器3.差错控制系统1)FEC:纠错码信息论与编码基础信道编码基本原理实时性较好优点:缺点:译码复杂控制电路简单信道适应性较差信息论与编码基础2)ARQ:检错码判决信息3.差错控制系统信道编码基本原理信息论与编码基础停止-等待式ARQ连续式ARQ选择式ARQ3.差错控制系统信道编码基本原理2)ARQ:信息论与编码基础112ACK12хNAK222ACK23W-ARQ3.差错控制系统信道编码基本原理2)ARQ:信息论与编码基础GBN-ARQ12345112345хNAK1234512367х45673453.差错控制系统信道编码基本原理2)ARQ:信息论与编码基础SR-ARQ1234511234хNAK167хNAK44516784981091110х123.差错控制系统信道编码基本原理2)ARQ:信息论与编码基础3.差错控制系统信道编码基本原理2)ARQ:编、译码设备较简单优点:缺点:控制电路比较复杂系统纠错能力极强实时性差信道适应性很强信息论与编码基础3)HEC:纠检结和码判决信息3.差错控制系统信道编码基本原理信息论与编码基础3.差错控制系统设计差错控制系统时需考虑以下因素:1.满足用户对错误概率的要求2.有尽可能高的信息传输率3.有尽可能简单的编译码算法，且易于实现4.可接受的成本信道编码基本原理信息论与编码基础信道编码基本原理一、差错控制系统及其理论基础二、信道编码的基本概念三、信道编码方法的性能评价四、常用检错码信息论与编码基础信源信宿调制器解调器噪声源信源编码器信道编码器信道译码器波形信道信源译码器{S}{M}{E}{R}{C}信道编码基本原理信息论与编码基础1.信道编码的分类1)根据差错控制作用分类检错码纠错码信道编码基本原理ARQFEC信息论与编码基础2)纠错码的分类a)按对信息源输出的信号序列处理方式的不同分组码:卷积码:k个码元+r个校验元(n,k)信道编码基本原理信息论与编码基础卷积码示例信道编码基本原理信息论与编码基础卷积码示例D0D1D2Mm1m2...mj...++C（c1jc2j）切换率=2倍输入比特率（2，1，3）卷积码编码器D0D1D2Mm1m2...mj...++C（c1jc2j）信道编码基本原理信息论与编码基础信道编码基本原理IS-95中的卷积码信息论与编码基础信道编码基本原理WCDMA系统中的卷积码信息论与编码基础信道编码基本原理WCDMA系统中的卷积码AndrewJ.Viterbi开发了卷积码编码的最大似然算法CDMA之父高通公司创始人之一信息论与编码基础b)根据校验元与信息元之间的关系线性码非线性码例（4,2）分组码线性叠加性信道编码基本原理信息论与编码基础c)按照纠正错误的类型信道错误分类由随机噪声、干扰引起。错误彼此独立,即错误码元的出现是随机的。高斯白噪声由突发噪声引起。错误成串出现。脉冲干扰、磁带缺陷、电离层衰落信道编码基本原理信息论与编码基础纠正随机错误的码纠正突发错误的码即纠正随机错误又纠正突发错误的码信道编码基本原理c)按照纠正错误的类型汉明码、BCH码、卷积码RS码、Fire码乘积码、级联码d)按每个码元取值来分二进制码q进制码信息论与编码基础信道编码基本原理纠错码非线性码线性码卷积码分组码非循环码循环码纠随机错误码纠突发错误码纠随机与突发错误码信息论与编码基础1)汉明距离与重量定义

一个码字C中非零码元的个数称为该码字的（汉明）重量，简称码重，记为W（C）2.纠错码的基本概念信道编码基本原理例汉明距离信息论与编码基础信道编码基本原理信息论与编码基础(3,2)码信道编码基本原理码的最小重量和最小距离有什么关系？线性叠加性信息论与编码基础2)码率（n,k）码信息元位数码字长度信道编码基本原理码率是衡量分组码有效性的一个基本参数。信息论与编码基础信道编码基本原理信源信宿调制器解调器噪声源信源编码器信道编码器信道译码器波形信道信源译码器{S}{M}{E}{R}{C}3)错误图样{E}信息论与编码基础例信道编码基本原理3)错误图样信息论与编码基础信道编码基本原理3.最大似然译码译码器条件错误概率译码器的错误概率译码错误概率最小的最佳译码规则最大后验概率译码信息论与编码基础信道编码基本原理3.最大似然译码由贝叶斯公式若发送码字概率相同最大似然译码例最小距离译码信息论与编码基础差错控制系统ARQ、FEC.HEC纠错码的基本概念分类、码距、码率、MLD信道编码基本原理本课小结信道编码基本原理一、差错控制系统及其理论基础二、信道编码的基本概念三、信道编码方法的性能评价四、常用检错码信息论与编码基础信息论与编码基础码的距离和重量满足三角不等式定理(n,k)线性分组码的最小距离等于非零码字的最小重量。信道编码基本原理定理对于任一(n,k)分组码，若要求:1）码的检错能力为e,则最小码距信息论与编码基础C1C21ed0信道编码基本原理信息论与编码基础2）码的纠错能力为t,则最小码距C1C21ttd0信道编码基本原理信息论与编码基础3）能纠t个误码同时检测e(e>t)个误码,则最小码距C1C2tte1d0信道编码基本原理总结信息论与编码基础信道编码基本原理对于任一（n,k）分组码，若要求:码的检错能力为e,则最小码距d0≥e+1；码的纠错能力为t,则最小码距d0≥2t+1；能纠t个误码同时检测e（e>t）个误码,则最小码距d0≥e+t+1.信息论与编码基础信道编码基本原理一、差错控制系统及其理论基础二、信道编码的基本概念三、信道编码方法的性能评价四、常用检错码信息论与编码基础1.奇偶校验码信息码组:（n,n-1）编码校验元+1偶奇信道编码基本原理信息论与编码基础例:信息序列m=11010010011100111100001112.水平一致校验码信道编码基本原理信息论与编码基础信息元校验元（偶）110100100111001111000011110111C＝101101111000011100010110110111信道编码基本原理2.水平一致校验码R=100001111100000110100010010111101110信息论与编码基础3.水平垂直一致校验码（方阵码）信息元11010010011100111100001111011110001C’＝（按列传输）101101111100000110100010011011101110信道编码基本原理信息论与编码基础4.群计数码信息位监督位111011110110111100100011000111101001101100100011011011水平群计数码信道编码基本原理信息论与编码基础5.等比码（等重码，定1码）若码长为n,重量为W,许用码禁用码例1）电传通信2:3等比码2）国际电报ARQ通信系统3:4码信道编码基本原理信息论与编码基础恒比码10101010信道编码基本原理信息论与编