用支持向量机进行人脸识别

1、实验三用支持向量机进行人脸识别一、实验目的.掌握支持向量机（SVM）的原理、核函数类型选择以及核参数选择原则等；.熟悉人脸识别的一般流程与常见识别方法；.熟悉不同的特征提取方法在人脸识别的应用；4.了解在实际的人脸识别中，学习样本数等参数对识别率的影响；5.了解非人脸学习样本库的构建在人脸识别的重要作用。二、实验内容.构建非人脸学习样本库；.观测不同的特征提取方法对人脸识别率的影响；.观测不同的学习样本数对人脸识别率的影响；4 .观测支持向量机选用不同的核 函数（线性核或径向基核）后对人脸识别率的影响；5 .观测支持向量机选用不同的核参数后对人脸识别率的影响。三、实验仪器、设备PC机一系统最低

2、配置512M内存、P4 CPU;Matlab仿真软件7.0 / 7.1 / 2006a等版本的Matlab软件。CBCL人脸样本库；四、实验原理1 .人脸识别：人脸识别也就是利用计算机分析人脸图象，进而从中提取出有效的识别信息用来 “辨认”身份的一门技术。人脸识别技术应用背景广泛，可用于公安系统的罪犯身份识 别、驾驶执照及护照等与实际持证人的核对、银行及海关的监控系统及自动门卫系统 等。常见的人脸识别方法包括基于KL变换的特征脸识别、基于形状和灰度分离的可变 形模型识别、基于小波特征的弹性匹配、基于传统的部件建模识别、基于神经网络的 识别、基于支持向量机的识别等。其中特征脸方法、神经网络方法、

3、基于支持向量机的方 法等是基于整体人脸的识别，而基于提取眼睛等部件特征而形成特征向量的方法就是基 于人脸特征的识别。虽然人类的人脸识别能力很强，能够记住并辨别上千个不同人脸，可是计算机则 困难多了。其表现在：人脸表情丰富；人脸随年龄增长而变化；人脸所成图象受光照、 成象角度及成象距离等影响；而且从二维图象重建三维人脸是病态过程，目前尚没有很 好的描述人脸的三维模型。另外，人脸识别还涉及到图象处理、计算机视觉、模式识别 以及神经网络等学科，也和人脑的认识程度紧密相关。这诸多因素使得人脸识别成为一 项极富挑战性的课题。通常人类进行人脸识别依靠的感觉器官包括视觉、听觉、嗅觉与触觉等。一般人脸的 识别

4、可以用单个感官完成，也可以是多感官相配合来存储和检索人脸。而计算机的人脸识 别所利用的则主要是视觉数据。另外计算机人脸识别的进展还受限于对人类本身识别系 统的认识程度。研究表明，人类视觉数据的处理是一个分等级的过程，其中最底层的视 觉过程（视网膜功能）起信息转储的作用，即将人眼接收的大量图象数据变换为一个 比较规则的紧凑表达形式。生理学的研究表明，人眼视网膜上存在着低层次和高层次的细 胞。其中，低层次的细胞对空间的响应和小波变换的结果相似；而高层次的细胞则依 据一群低层次细胞的响应，而作出具体的线、面乃至物体模式的响应。以此为依据，在 计算机人脸识别中，可以将那些通过大量图象数据简单处理后获得

5、的特征定义为低层次特 征，而将线、面、模式等描述特征定义为高层次特征。由此图象变换后的系数特征、小 波变换特征及一些统计特征均属低层次特征的范畴，而人脸部件形状分析的结果则为高 层次特征。由于视觉数据经传输后的重建，需依赖于人脑中早期形成的先验知识，因此 在人的识别系统中，人脸的检测是一个整体识别和特征识别共同作用的结果。具体说来， 远处辨认人，主要是整体识别，而在近距离的人脸识别中，特征部件的识别则更重要。另外，人脸的各部件对识别的贡献也不相同，如眼睛和嘴巴的重要程度大于人的鼻 子，人脸上半部分重要性大于人脸下半部分，其中特别的人脸更容易被识别记住，比如 说歪嘴，或是独眼龙等人脸就更容易为人

6、记起，没有个性的人脸相 对就需要更长的时间 来辨认。根据对人脑的研究表明，人脸的表情识别和人脸识别虽然存在联系，但总体 说是分开的、并行的处理过程。这些结论对于设计有效的识别方法起到了一定启发作 用。人脸识别是一个跨学科富挑战性的前沿课题，但目前人脸识别还只是研究课题，尚 不是实用化领域的活跃课题。人脸识别难度较大，主要难在人脸都是有各种变化的相似 刚体，由于人脸部件不仅存在各种变形，而且和皮肤之间是平缓过渡，因此人脸是不能用 经典的几何模型来进行识别分类的典型例子。如今人脸识别研究人员已经慢慢地将研究 重点从传统的点和曲线的分析方法，过渡到用新的人脸模型来表达和识别人脸，其中弹 性图匹配就是

7、较成功的尝试。2支持向量机：SVM近年来成为模式识别领域发展最快的研究方向之一，并且在各个领域得到了广 泛应用。SVM通过一个非线性映射将输入空间中的学习样本映射到高维特征空间F中， 然后利用结构风险最小化原则在F中求取线性分类超平面，巧妙地引入核函数实现特征 空间中的内积运算。SVM的基本原理可用图3-1来说明。如图3-1 (a)所示，如果n个独立样本，x2,t2,，xN,tN产Rt不是线 性可分的，这时可以通过一个未知的映射函数.: r界将样本映射到某特征空间F中，得到弟X,t，汁 , t，汁、,0 T，然后在F中构造线性最优分类面(图 i，i22N , N - f 1(b),从输入空间r

8、的角度看，所得最优分类面是非线性的(图(c)可记X2,.X N的集合为，(a)输入空间r中的N个待分类样本(b )样本被映射到特图3-1 SVM基本原理示意图X /：X2X的集合为遇:工征空间f中，并构建最优分类面(c)从输入空间r的角度看，分类面是非线性的在F中构造线性最优分类面的方式与上节在输入空间r中构造最优分类面的方式是一样的。设与h2对应的线性判别函数表达式为上式中求取w与b可归结为求解下面的约束优化问题min 1W22(3.2)StW： X b_2t上式的解由下面的拉格朗日函数的鞍点给出Gw，b, % )=-1网 2 送 at w 弋 x b _2 2i X上式中oti 0，i =

9、2,2, .N为拉格朗日乘子。为得到鞍点令i =2,2.N(3.3)NXii -2丑_=0 wGb将(3.4)和(3.5)一起代入到(3.3)中可得(3.2)的对偶规划(3.4)(3.5)max2N NL二X i X j(3.6)st.N,0,：i=i 1-0:i上式含有映射函数:。若在F中定义内积K X, Xj 二 XiXj(3.7)将之代入到(3.6)后有max-GN-；一N，2(3.8)St.N，t .二 0 tpii 2又设, d =(2,2，.,2)，N =02A2，.，tNT矩阵Q的第i行第j列为Qj =titjX,xj，则(3.8)可写成矩阵形式。解(3.8)可得四最优值，并将(

10、3.4)代入到(3.2)中可得(3.9)F中的线性判别函数表达式Nf xitiK x, Xi- bi=t式(3.7)中的Kxi,xj被称为核函数，它欲成为f中的内积必须满足Mercer条件：使得积分算子Tkf X.二 K X., X.f X.dX.为正。如果f的维数很高，(3.7)等号右边的计算量会很大，甚至会陷入维数灾难”而使得计算不可行；但通过上述代换，F中的内积可基于R中的变量通过给定的核函数直接计算得到，即使F的维数非常高，SVM本身也并没有增加多少计算复杂度。特别是对某些映射函数而言，F的维 数是无限的，此时内积必须用积分来计算，这种代换的作用就更为明显。另外从以上推导过 程可看出，

11、在特征空间中构造最优分类面，并不需要以显式形式来考虑特征空间，也没有必 要知道映射函数的形式，只需通过(3.7)计算内积即可。值得指出的是，以上推导的假设前提是N个样本被映射到F中以后能够线性可分，如果 该前提不满足，则必须在F中构造广义最优分类面。相应地(3.2)要改成(3.10)Nmin 1 w2 c、21. 土st. t.W： X.bLl 一在(3.9)中，假设输入空间R内的向量为x=(xC)xf卜，x(d)T，另有s个向量X1，X2，Xs对应的:.不为零，它们被称为支持向量，则SVC的拓扑结构如图3-2所示，从图 中看出SVM的计算复杂度取决于支持向量的数目。图3-2 SVC拓扑结构图

12、五、实验步骤1将 CBCL人脸样本库放在硬盘上的指定位置；构建非人脸学习样本库并将之放在硬盘上的指定位置；2观测不同的特征提取方法对人脸识别率的影响。在MATLAB命令行状态下，首先键入faceclassifyl(l)并按回车键，记录不采用任何特征提取时，程序的执行结果；Executi on time of optimizati on: 42.8 sec ondsThe number of support vectors : 56 (14.0%)Lagrange coefficient ALF:Detection rate:95.500000然后键入faceclassify 1(2)并按回车键

13、，记录采用主成分方法进行特征提取时程序的 执行结果；Execution time of optimization: 35.9 secondsThe number of support vectors : 58 (14.5%)Lagrange coefficient ALF:Detection rate:94.500000最后键入faceclassify1(3)并按回车键，记录采用核主成分方法进行特征提取时程序的执行结果；Execution time of optimization: 41.6 secondsThe number of support vectors : 53 (13.3%)La

14、grange coefficient ALF:Detection rate:94.5000003 .观测不同的学习样本数对人脸识别率的影响。将源代码中的一个语句“face_lean=20”Execution time of optimization: 46.6 secondsThe number of support vectors : 54 (13.5%)Lagrange coefficient ALF:Detection rate:95.500000“ face_lean=50 ”Execution time of optimization: 56.2 secondsThe number

15、of support vectors : 54 (13.5%)Lagrange coefficient ALF:Detection rate:95.500000“face_lean=100”Execution time of optimization: 52.2 secondsThe number of support vectors : 54 (13.5%)Detection rate:95.500000“face_lean=300”Execution time of optimization: 40.3 secondsThe number of support vectors : 54 (

16、13.5%)Lagrange coefficient ALF:Detection rate:95.500000 4 .观测支持向量机选用不同的核函数(线性核或径向基核)后对人脸识别率的影响。先将源代码中的一个语句ker=linear;”(即线性核)，修改成“ker=rbf(;即径”向基核)，再在MATLAB命令行状态下键入faceclassify 1并按回车键，记录程序的执行结果；Execution time of optimization: 42.3 secondsThe number of support vectors :54 (13.5%)Lagrange coefficient ALF:Detection rate:95.500000 5.观测支持向量机选用不同的核参数后对人脸识别率的影响。p1=0.5; ”Execution time of optimization: 39.3 seconds The number of support vectors :54 (13.5%)Lagrange coefficient ALF:Detection rate:95.500000p1=1;Execution