数字图像处理

1、数字图像处理数字图像处理第十三章基于特征向量的变换CH13 基于特征向量的变换l一、主分量分析、K-L变换l二、图像数据压缩l三、矩阵展开和奇异值分解l四、DCT与K-L变换的关系l要点总结l上机实习1 主分量分析（K-L变换）l1）思想l2）特征分析l3）主分量分析及一维K-L变换l4）K-L变换的性质l5）图像K-L变换l6）基于K-L变换的特征脸识别方法1 主分量分析（K-L变换）l1）思想l目的是寻找任意统计分布的数据集合主要分量的子集。l基向量满足相互正交性，且由它定义的空间最优的考虑了数据的相关性。l将原始数据集合变换到主分量空间使单一数据样本的互相关性(cross-correla

2、tion)降低到最低点。1 主分量分析（K-L变换）l2）特征分析l特征值100kkkNNANkNAIN对于一个的矩阵 ，有 个标量 ，满足称为矩阵的一组特征值。如果给定的矩阵是奇异的，那么 个特征值中至少有一个为 。矩阵的秩 定义为矩阵非零特征值的个数。矩阵的条件数 定义为最大特征值与最小特征值的比值的绝对值。病态矩阵 条件数很大。1 主分量分析（K-L变换）l通常将特征值按降序排列。212122112140211 3A 例：1 主分量分析（K-L变换）l特征向量1,0kkkkkkNvAvvAvAV满足下式的的向量则 称为 的特征向量。求特征向量的方法是解线性方程组1112221221221

3、1 0 2212213 0 221Avvvv 例： 求其特征向量。1 主分量分析（K-L变换）l3）主分量分析及一维K-L变换l一种可以去掉随机向量中各元素间相关性的线性变换。lSTEP1：定义协方差矩阵。 1231111,111niNiiNTTfiNTTiiifNfffffffNE ffNCEffffNf fN假设 是一个的随机向量集合，即 都是随机变量, 的均值可统计 个样本向量估计。其协方差矩阵定义为1 主分量分析（K-L变换）lSTEP2：求协方差矩阵的特征值和特征向量。lSTEP3：定义变换核矩阵和反变换。 01fiiiiiCiN ，式中 是特征值，相应的特征向量是。12*nTTTA

4、KLFfA ffFA F 因此变换核矩阵 为特征向量组成正交化后为，将记作 。因此定义一维变换为反变换定义为1 主分量分析（K-L变换）l例例123161718160166169506058171 0 11562981655 1 40149 42 42566 4 21428 42 560000.95930.25100.120 6.860700093.1393ffffuC 970.27410.71530.64280.06850.6522 0.75491 主分量分析（K-L变换）l4）K-L变换的性质 12121023FffFTTTFfffFTTTFffnTnFE FE A fAE fAFCCE

5、A ffAAC ACaaCAC ACaaaa的均值为零的协方差为对角阵1 主分量分析（K-L变换）11221 1221211220000TTTTnnnTTnnnnaaaaaaaaaaaa1 主分量分析（K-L变换） 14FFiiTTfCCafiK LAAfA F u中各元素是不相关的由于 为对角阵，所以各元素是不相关的。5 特征值 就是特征向量 方向上 第个元素的方差由于变换是正交对称的，所以所以反变换1 主分量分析（K-L变换）l例例1230000.08591.89361.80777.87353.66264.2110000000 6.860900093.1407FFFFFC 1 主分量分析（

6、K-L变换）l5）图像K-L变换l思想：将二维图像采用行堆叠或列堆叠转换为一维处理。1,0,1,11,2:,0,1,1liiiiiiji MiSteplf x yfx yfx yStepMNffjffjffffj N：同一幅图象 次传送，形成图象集合采用行堆叠将每一个大小样本表为向量其中元素1 主分量分析（K-L变换）1123114-TfffLTTi iffifiifTMNfStepfCEfff fLCMN MNeCiMNAeeeStepK LFA fu ：定义向量的协方差阵和相应变换核矩阵显然 阵是维。令 和 为 阵的特征值和特征向量，显然，。：定义二维变换。1 主分量分析（K-L变换）l6

7、）基于K-L变换的特征脸识别方法l（1）脸的检测1 主分量分析（K-L变换）l（2）特征脸1 主分量分析（K-L变换）l（3）分类l将待识别人脸投影到新的M维人脸空间，即用一系列特征脸的线性加权和表示。此时待识别人脸问题转换为投影系数向量，识别问题转换为分类问题。最简单的分类是最小距离分类等。请参考请参考“分类识别分类识别”一章一章实验说明实验说明2 图像数据压缩l1）K-L变换用于图像数据压缩 -0 二维变换用于图象处理时又称为Hotelling变换。二维变换用于图象处理时又称为Hotelling变换。正变换 正变换 反变换 反变换 在变换域中，能量集中在特征值 大的系数中。在变换域中，能量

8、集中在特征值 大的系数中。舍掉特征值较小的 值对应的特征向量，舍掉特征值较小的 值对应的特征向量，构成新的变换核矩阵。构成新的变换核矩阵。fTfkfkKLFA ffA FFAfFF2 图像数据压缩相当于原 的 维投影。相当于原 的 维投影。图象重建后恢复的图象为，图象重建后恢复的图象为，kTkkfFFKfA F2 图像数据压缩l2）引进误差的分析 22222212111TTTkkNTkku kfNx kNTTx kNTfx kEffEAFFAFFEFFFFEF uF uA f xuEAfAE fAEfE ffE fAAC A 2 图像数据压缩2222111TTTkkifNNTfix kx kN

9、ix kEffEAFFAFFCAC A 设为的特征值，则=结论：采用K-L变换图象降维后的误差为。3 矩阵展开和奇异值分解l1）矩阵展开12,123 TTiTTiiiiiTiiiMNfu vStepffffStepuffMff uuStepNvf uv目的：将图象为的矩阵 ，表为正交向量的外乘展开式。：构造和皆为非负对称阵，且有相同非零特征值 。：设 是的维特征向量，即=；：按下式选择 维特征向量 ：3 矩阵展开和奇异值分解121211224 5 TTiiiiTTTTTiiiiiiiiiiiTTTiiiTiiiTTTiiiiiiStepvffffvvff uufff u fuf uvfff u

10、ffvffvvStepfuvf uvufv：可以证明 是的特征向量，即；=：将 表为正交向量 ， 的外乘展开式。12 Tiiifuv3 矩阵展开和奇异值分解l2）奇异值分解SVD122TTiiiTfuvUVUVffNNNN 以上两式构成奇异值分解（SVD）变换的正变换和反变换。性质1：若 是方阵，则 最多有 个非零元素；即图象可以获得至少 倍的无损压缩；性质 ：若忽略 中一些很小的奇异值，则可以获得更大的有损压缩比；性质3：通常用于一系列相似图象的压缩。3 矩阵展开和奇异值分解01210614181461343 11436483614245421848654818134311436483614

11、0121061418146147.070.1860.6380.2410.6950.6951.8720.4760.0580.520.1330.0.05800AAAU例：1280.6910.4220.587000.4760.0580.520.1330.1280.1860.6380.2410.6950.69512.585000001.142000000.557000000000000U AU 正变换3 矩阵展开和奇异值分解123112233121610628.86232 101710 04540.5420.7070.766 0.643 00.4540.5420.7075.T

12、TAAAA Auvuvuv 例：370000.372020005.37000.4541.111.871.110000.7660.4540.7660.4541.873.151.870000.4541.111.871.11A忽略正变换中第 个奇异值3 矩阵展开和奇异值分解l3）SVD的应用3 矩阵展开和奇异值分解去掉小于去掉小于1010的奇异值的奇异值3 矩阵展开和奇异值分解去掉小于去掉小于5050的奇异值的奇异值3 矩阵展开和奇异值分解去掉小于去掉小于10001000的奇异值的奇异值4 DCT与K-L变换的关系l1）马尔可夫过程l大多数自然景物符合马尔可夫过程；l马氏过程的协方差表示为：1212

13、111NNNNNC4 DCT与K-L变换的关系2211 2 cos12sin1122jjijjjjNvijN马氏过程的特征值马氏过程的特征向量其中是一个超越方程的根。4 DCT与K-L变换的关系l2）当概率趋近为1时,0,1212cos2ii jvNivjNN要点总结l1）特征值和特征向量的定义；l2）协方差矩阵和主分量分析法；l3）一维K-L变换和二维K-L变换性质及图像压缩后误差分析；l4）矩阵展开的定义；l5）奇异值分解SVD。上机实习l1）特征值与特征向量分解函数1)1210.372323201215.37232),1210.372300232000121005.37230.54180.70710.45440.642600.76620.54180.70710.4544Eeig XXEV Deig XXVVDXDV 如，则，满足如，则上机实习l2）奇异值分解函数1)1215.37232320.3723