信息论基础-信源编码88张课件

信息论基础——信源编码56、死去何所道，托体同山阿。57、春秋多佳日，登高赋新诗。58、种豆南山下，草盛豆苗稀。晨兴理荒秽，带月荷锄归。道狭草木长，夕露沾我衣。衣沾不足惜，但使愿无违。59、相见无杂言，但道桑麻长。60、迢迢新秋夕，亭亭月将圆。信息论基础——信源编码信息论基础——信源编码56、死去何所道，托体同山阿。57、春秋多佳日，登高赋新诗。58、种豆南山下，草盛豆苗稀。晨兴理荒秽，带月荷锄归。道狭草木长，夕露沾我衣。衣沾不足惜，但使愿无违。59、相见无杂言，但道桑麻长。60、迢迢新秋夕，亭亭月将圆。数据压缩和信源编码3.1等长码32变长编码33哈夫曼码34算术码香农-费诺码3.5通用信源编码LZw算法习题三算术码-Shannon-Fano-Elias码fd0.概述是第一个能够找到的好的变长码原则:按照符号出现的概率从大到小排序,然后将其分成两个出现概率相同或几乎相同的子集一一个子集的编码均以0打头,另一个子集的编码均以1打头;然后把每个子集再分成两个更小的子集,同样确定所有码字的第二位,依次循环.信息论基础——信源编码56、死去何所道，托体同山阿。信息论基1数据压缩和信源编码3.1等长码32变长编码33哈夫曼码34算术码香农-费诺码3.5通用信源编码LZw算法习题三数据压缩和信源编码2算术码-Shannon-Fano-Elias码fd0.概述是第一个能够找到的好的变长码原则:按照符号出现的概率从大到小排序,然后将其分成两个出现概率相同或几乎相同的子集一一个子集的编码均以0打头,另一个子集的编码均以1打头;然后把每个子集再分成两个更小的子集,同样确定所有码字的第二位,依次循环.算术码-Shannon-Fano-Elias码fd3算术码-Shannon-Fano-Elias码fdProbStepsFinal例1.0.2511:112.0.20103.0.150:0114.0.150:0105.0.1001:0016.0.10001:00017.0.05000:0000算术码-Shannon-Fano-Elias码fd4算术码-Shannon-Fano-Elias码fd0.概述其平均码长:0.25×2+0.20×2+0.15×3+0.15×3+0.10×3+0.10×4+0.05×4=2.7bits/symbol其熵:-(0.251og0.25+0.20log0.20+0.15og0,15+0.15og0.15+0.10og0.10+0.10log0.10+0.05og0.052.67算这是一个较好的结果!算术码-Shannon-Fano-Elias码fd5算术码-Shannon-Fano-Elias码fdProbStepsFinal1.0.251122.0.2510:103.0.1250:0114.0.1250100105.0.125001:0016.0.125000000算术码-Shannon-Fano-Elias码fd6算术码-Shannon-Fano-Elias码fd例3算术码-Shannon-Fano-Elias码fd7算术码-Shannon-Fano-Elias码fd1基本思路用二进制小数表示信源的概率分布,如果概率分布取值大,则它的二进制位数就低;另外,为了使算术码具有前缀性(无尾随后缀),对概率分布采用累计求和计算算术码-Shannon-Fano-Elias码fd8算术码-Shannon-Fano-Elias码fd2编码方法1)将信源符号X={ana2……,a}依次排列(不要求以概率大小排序);2)计算各符号的修正累积分函数值1=20+O1代表不小于x的整数3)确定各信源符号所对应码字的码长l(a)=log-14)将F(a)表示为二进制小数,并用小数点后的(a)位作为a的若二进制小数后面有尾数,则截断算术码-Shannon-Fano-Elias码fd9算术码-Shannon-Fano-Elias码fd其例1:若信源的概率分布为,,取信号字母表为U={0l,求信源的算术码信源符号x概率p(x)字长l(x)0.25(二)37()=log0.75(-)算术码-Shannon-Fano-Elias码fd10算术码-Shannon-Fano-Elias码fd其例1:若信源的概率分布为,,取信号字母表为U={0l,求信源的算术码小1①三算术码-Shannon-Fano-Elias码fd11信息论基础——信源编码88张课件12信息论基础——信源编码88张课件13信息论基础——信源编码88张课件14信息论基础——信源编码88张课件15信息论基础——信源编码88张课件16信息论基础——信源编码88张课件17信息论基础——信源编码88张课件18信息论基础——信源编码88张课件19信息论基础——信源编码88张课件20信息论基础——信源编码88张课件21信息论基础——信源编码88张课件22信息论基础——信源编码88张课件23信息论基础——信源编码88张课件24信息论基础——信源编码88张课件25信息论基础——信源编码88张课件26信息论基础——信源编码88张课件27信息论基础——信源编码88张课件28信息论基础——信源编码88张课件29信息论基础——信源编码88张课件30信息论基础——信源编码88张课件31信息论基础——信源编码88张课件32信息论基础——信源编码88张课件33信息论基础——信源编码88张课件34信息论基础——信源编码88张课件35信息论基础——信源编码88张课件36信息论基础——信源编码88张课件37信息论基础——信源编码88张课件38信息论基础——信源编码88张课件39信息论基础——信源编码88张课件40信息论基础——信源编码88张课件41信息论基础——信源编码88张课件42信息论基础——信源编码88张课件43信息论基础——信源编码88张课件44信息论基础——信源编码88张课件45信息论基础——信源编码88张课件46信息论基础——信源编码88张课件47信息论基础——信源编码88张课件48信息论基础——信源编码88张课件49信息论基础——信源编码88张课件50信息论基础——信源编码88张课件51信息论基础——信源编码88张课件52信息论基础——信源编码88张课件53信息论基础——信源编码88张课件54信息论基础——信源编码88张课件55信息论基础——信源编码88张课件56信息论基础——信源编码88张课件57信息论基础——信源编码88张课件58信息论基础——信源编码88张课件59信息论基础——信源编码88张课件60信息论基础——信源编码88张课件61信息论基础——信源编码88张课件62信息论基础——信源编码88张课件63信息论基础——信源编码88张课件64信息论基础——信源编码88张课件65信息论基础——信源编码88张课件66信息论基础——信源编码88张课件67信息论基础——信源编码88张课件68信息论基础——信源编码88张课件69信息论基础——信源编码88张课件70信息论基础——信源编码88张课件71信息论基础——信源编码88张课件72信息论基础——信源编码88张课件73信息论基础——信源编码88张课件74信息论基础——信源编码88张课件75信息论基础——信源编码88张课件76信息论基础——信源编码88张课件77信息论基础——信源编码88张课件78信息论基础——信源编码88张课件79信息论基础——信源编码88张课件80信息论基础——信源编码88张课件81信息论基础——信源编码88张课件82信息论基础——信源编码88张课件83信息论基础——信源编码88张课件84信息论基础——信源编码88张课件85信息论基础——信源编码88张课件86信息论基础——信源编码88张课件8