信源的率失真函数学习教案

1、会计学1信源的率失真信源的率失真(sh zhn)函数函数第一页，共56页。1、失真、失真(sh zhn)度度/失失真真(sh zhn)函数函数定义定义(dngy)汉明失真度汉明失真度常用于离散信源常用于离散信源表示表示第1页/共55页第二页，共56页。全部全部(qunb)NN个失真度个失真度失真失真矩阵矩阵汉明失真汉明失真(sh zhn)矩阵矩阵第2页/共55页第三页，共56页。平方误差失真函数平方误差失真函数常用常用(chn yn)于连于连续信源续信源第3页/共55页第四页，共56页。2、平均、平均(pngjn)失真度失真度失真失真(sh zhn)度度/失真失真(sh zhn)函数函数的数学

2、期望的数学期望定义定义(dngy)表示表示第4页/共55页第五页，共56页。3、保真度准则、保真度准则(zhnz)平均失真度不大于给定的允许平均失真度不大于给定的允许(ynx)失真失真D定义定义(dngy)表示表示第5页/共55页第六页，共56页。4、测试、测试(csh)信道信道定义定义(dngy)满足满足(mnz)保真度准则的所有数据处理保真度准则的所有数据处理信道信道表示表示离散信源的测试信道离散信源的测试信道第6页/共55页第七页，共56页。全部全部NN个测试信道个测试信道(xn do)转移概率转移概率测试信测试信道道(xn do)矩阵矩阵连续连续(linx)信源的测试信道信源的测试信道

3、测试测试(csh)信道转移概率密度函数信道转移概率密度函数第7页/共55页第八页，共56页。信源固定信源固定(gdng)时，保真度准则下平均互信息的时，保真度准则下平均互信息的最小值，用最小值，用R(D)表示表示定义定义(dngy)信源固定时，信源固定时， 对于测试信道转移概率对于测试信道转移概率 严格下凸严格下凸总能找到一种总能找到一种 ，使，使 在在保真度准则下达到最小保真度准则下达到最小)X;X( I)X;X( I)X/X(PD)X/X(PD表示表示第8页/共55页第九页，共56页。测试测试(csh)信道的信道的N个约束条件个约束条件保真度准则保真度准则(zhnz)的约束条件的约束条件第

4、9页/共55页第十页，共56页。第10页/共55页第十一页，共56页。第11页/共55页第十二页，共56页。第12页/共55页第十三页，共56页。第13页/共55页第十四页，共56页。第14页/共55页第十五页，共56页。对对j求和求和(qi h)乘乘P(xi)对对i求和求和(qi h)第15页/共55页第十六页，共56页。率失真率失真(sh zhn)函数及达到率失真函数及达到率失真(sh zhn)函数的测试信道函数的测试信道第16页/共55页第十七页，共56页。第17页/共55页第十八页，共56页。1、二进制信源的率失真、二进制信源的率失真(sh zhn)函数函数第18页/共55页第十九页，

5、共56页。第19页/共55页第二十页，共56页。第20页/共55页第二十一页，共56页。第21页/共55页第二十二页，共56页。第22页/共55页第二十三页，共56页。第23页/共55页第二十四页，共56页。第24页/共55页第二十五页，共56页。R(D)D0.50.25p=0.25p=0.5010.811第25页/共55页第二十六页，共56页。允许失真允许失真(sh zhn)D=1/8时的率失真时的率失真(sh zhn)函数函数及达到率失真及达到率失真(sh zhn)函数的测试信道函数的测试信道0110D失真矩阵例例1D=1/8时时第26页/共55页第二十七页，共56页。第27页/共55页第

6、二十八页，共56页。2、等概率、等概率(gil)信源的率失真函数信源的率失真函数等概率等概率(gil)信源信源第28页/共55页第二十九页，共56页。第29页/共55页第三十页，共56页。第30页/共55页第三十一页，共56页。N, 2 , 1jN, 2 , 1i2)x (P)x/x (PS) 3 ()x ,x(SdjiijDji的含第31页/共55页第三十二页，共56页。N1iN1jjiijDiS)x ,x(d)x/x (P)x(PDDS) 5 (求的由含第32页/共55页第三十三页，共56页。N, 2 , 1jN, 2 , 1i)x/x (P)D(RS) 6(ijD和的不含第33页/共55

7、页第三十四页，共56页。第34页/共55页第三十五页，共56页。R(D)D0NlogN1N第35页/共55页第三十六页，共56页。当当p=0.5，二进制信源的率失真函数，二进制信源的率失真函数(hnsh)及达及达到率失真函数到率失真函数(hnsh)的测试信道的测试信道第36页/共55页第三十七页，共56页。当当N=2，等概率信源的率失真函数及达到率失真函数，等概率信源的率失真函数及达到率失真函数的测试的测试(csh)信道信道第37页/共55页第三十八页，共56页。三进制等概率三进制等概率(gil)信信源源允许允许(ynx)失真失真D =1/3时的率失真函数及达到率失时的率失真函数及达到率失真函

8、数的测试信道真函数的测试信道例例2D=1/3时时第38页/共55页第三十九页，共56页。第39页/共55页第四十页，共56页。信源固定信源固定(gdng)时，保真度准则下平均互信息的最小时，保真度准则下平均互信息的最小值，用值，用R(D)表示表示定义定义(dngy)表示表示信源固定时，信源固定时， 对于测试信道转移概率密度函对于测试信道转移概率密度函数数 严格下凸严格下凸总能找到一种总能找到一种 ，使使 在保真度准则下达到最小在保真度准则下达到最小)X;X( I)X;X( I)x/x (pD)x/x (pD第40页/共55页第四十一页，共56页。测试信道测试信道(xn do)转移概率密度函数的

9、约束条件转移概率密度函数的约束条件保真度准则保真度准则(zhnz)的约束条件的约束条件第41页/共55页第四十二页，共56页。率失真函数及达到率失真函数的测试率失真函数及达到率失真函数的测试(csh)信信道道第42页/共55页第四十三页，共56页。第43页/共55页第四十四页，共56页。1、高斯信源的率失真、高斯信源的率失真(sh zhn)函数函数第44页/共55页第四十五页，共56页。第45页/共55页第四十六页，共56页。第46页/共55页第四十七页，共56页。第47页/共55页第四十八页，共56页。第48页/共55页第四十九页，共56页。方差为方差为-1/2S的反向的反向(fn xin)高斯加性信道高斯加性信道ZZXXX第49页/共55页第五十页，共56页。第50页/共55页第五十一页，共56页。第51页/共55页第五十二页，共56页。第52页/共55页第五十三页，共56页。方差为方差为D的反向高斯的反向高斯(o s)加性信道加性信道第53页/共55页第五十四页，共56页。PR(D)D0第54页/共55页第五十五页，共56页。NoImage内容(nirng)总结会计学。汉明失真度常用于离散信源。全部NN个失真度失真矩阵。平方误差失真函数常用于连续信源。全部NN个测试(csh)信道转移概率测试(csh)信道矩阵