6.2 离散信源的率失真函数的计算

1、6.2 离散信源的率失真函数的计算一、问题的数学描述二、率失真函数的求解及参数式三、特殊离散信源的率失真函数的计算举例一、问题的数学描述目标函数约束条件其中 已知 以及 D ，求 ，使 R 最小，得二、率失真函数的求解及参数式1. Lagrange 乘子法的求解过程分析(1) 记()() 其变量的个数为 个。目标函数 的条件极值问题转化为 函数 的无条件极值问题。 下面分别令进行求解。则可知对任意固定的 i , j ，有由且二、率失真函数的求解及参数式1. Lagrange 乘子法的求解过程分析(1) 记()()即(2) 对任意固定的 i , j ，令得二、率失真函数的求解及参数式1. Lag

2、range 乘子法的求解过程分析(1) 记()()(2)得即二、率失真函数的求解及参数式1. Lagrange 乘子法的求解过程分析(1) 记()()令(3) 再令得二、率失真函数的求解及参数式1. Lagrange 乘子法的求解过程分析(1) 记()()二、率失真函数的求解及参数式1. Lagrange 乘子法的求解过程分析(4) 从而得到 个方程二、率失真函数的求解及参数式1. Lagrange 乘子法的求解过程分析(5) 将 (A) 式两边乘 再对 i 求和，得由(A)有二、率失真函数的求解及参数式1. Lagrange 乘子法的求解过程分析(6) 将 (A) 式两边直接对 j 求和，得

3、(A)(B)即二、率失真函数的求解及参数式1. Lagrange 乘子法的求解过程分析(A)(B)(C)(D)加上 由上述式子即可得到率失真函数的求解步骤。(A)(B)(C)(D)得(4) 由求(2) 由求(1) 由求(3) 由二、率失真函数的求解及参数式2. 简明的求解步骤及参数式步骤得(5) 由二、率失真函数的求解及参数式2. 简明的求解步骤及参数式参数式有由(1) (2) 二、率失真函数的求解及参数式2. 简明的求解步骤及参数式参数式其中，(B)(C) 前面的 (A) 式则用来得到实验信道的转移概率。二、率失真函数的求解及参数式3. 参数 s 的(几何)意义分析有(1) 由 将 的两边对

4、 s 求导，得二、率失真函数的求解及参数式3. 参数 s 的(几何)意义参数 s 为率失真函数的斜率。结论有(2) 由分析(1)三、特殊离散信源的率失真函数的计算举例设某信源为失真矩阵为例编码后的输出为信源的概率分布为求率失真函数其中(1) 求解(2) 求率失真函数的参数式 .解由有其中代入已知条件即得求解得(2) 求率失真函数的参数式 .解由有其中代入已知条件即得求解得(2) 求率失真函数的参数式 .解(2) 求率失真函数的参数式 .解(3) 求率失真函数解(1)(2)由 (1) 式得代入 (2) 式即得记则得率失真函数 R ( D ) 的曲线图p = 0.5p = 0.3p = 0.2p

5、= 0.10.10.20.30.40.50D0.20.40.60.81.0R ( D )解(4) 画出率失真函数 的图形 .H ( X ) = 1.000( bit )H ( X ) = 0.881( bit )H ( X ) = 0.722( bit )H ( X ) = 0.469( bit )(5) 求实验信道的输出符号 Y 的概率分布 .解由有此外还可得(6) 求实验信道的转移概率 .解由有编码后的输出符号为设信源 为等概分布，即失真矩阵为例求率失真函数(1) 求解(2) 求率失真函数的参数式 .解由及已知条件，有求解得(2) 求率失真函数的参数式 .解求解得由及已知条件，有其中(2) 求