利用粒子群优化的人脸特征提取识别算法_温浩_图文

1、第44卷第4期2010年4月西安交通大学学报JO URNA L OF XI AN JIAO TONG UN IVE RSITYVol .444A pr .2010收稿日期:2009-09-02.作者简介:温浩(1979-,男,博士生;郭崇慧(联系人,男,教授,博士生导师.基金项目:国家自然科学基金资助项目(60802075.利用粒子群优化的人脸特征提取识别算法温浩1,郭崇慧2(1.西安电子科技大学综合业务网理论及关键技术国家重点实验室,710071,西安;2.大连理工大学系统工程研究所,116024,辽宁大连摘要:针对如何提高人脸图像识别率问题,提出了利用粒子群优化(PSO 的人脸特征提取识别

2、算法.采用小波变换和张量主成分分析(PCA 方法对人脸图像进行特征提取,利用PSO 对提取的特征进行加权处理,根据特征的每一维元素的聚类正确率进行优化选择,从而达到对人脸提取关键性特征的目的.实验结果表明,所提算法能减小光照、表情和姿态变化的影响,在英国曼彻斯特科技大学人脸数据库上的识别率比张量PCA 方法提高了12.75%.关键词:小波变换;张量主成分分析;粒子群优化;人脸识别中图分类号:TP391.41文献标志码:A 文章编号:0253-987X (201004-0048-04Face Recognition with Features Extraction Based onParticl

3、e Swarm OptimizationW EN H ao 1,G UO Cho ng hui 2(1.S tate Key Lab oratory of Integrated S ervice Netw orks ,Xidian University ,Xi an 710071,China ;2.In stitu te ofSys tems Engineering ,Dalian University of T ech nology ,Dalian ,Liaoning 116024,Chin a A bstract :A face recognitio n algo rithm w ith

4、optim al features extraction based o n particle sw arm optimization (PSO is propo sed to enhance the reco gnition rate .Features of each face image are e xtracted by using the w avele t transfo rmation and the tenso r principal component analy sis (PCA algorithm .Weig hts of the features elements ar

5、e then determined using PSO according to the right clustering rate o f each element ,so that the o bject to extract the key features o f the faces can be realized .Ex perimental re sults on the UM IS T database show that the impact of changes in ex -pression ,lig ht and posture can be reduced by the

6、 proposed alg orithm ,and that the recog nition ratio is increased by 12.75%co mpared w ith tenso r PCA .Keywords :w avelet transfo rm s ;tensor principal co mpo nent analy sis ;particle sw arm optimiza -tion ;face recog nition人脸识别是模式识别领域的一个研究热点1-2,并且具有广泛的应用前景.如何提取人脸图像的特征是人脸识别的关键因素.常用的人脸特征提取方法是基于统计特

7、征的2,其经典算法是主成分分析(PCA 方法3.文献4-5针对PCA 提出了二维PCA (2DPCA 方法,近年来又出现了其他基于PCA 的改进方法,其中张量PCA (Tensor PCA 是一种效果较好的方法6-7,文献6还证明了2DPCA 是张量PCA 的一种特例.如果直接对人脸图像进行特征提取,会受到光照不均、表情变化等因素的干扰,人脸图像的维数较高,还需做降维预处理.小波变换具有良好的局部时(空频分析特性,具有下二采样性质8,能够消除图像中的干扰,进行降维维护,所以被广泛应用于人脸图像的特征提取9-10.研究发现,对所提特征的每一维元素赋予适当的权值,亦即进行优化选择,会进一步提高识别

8、率,然而需要优化的权值较多,权值的数值变化规律难以用数学模型准确描述.如果采用人工试凑法或网格搜索法确定权值,计算量会很大,而且很难逼近最优解11.粒子群优化算法(PSO是一种全局搜索方法,它需要调节的参数少,无需考虑数据的维数和搜索模型的形式,能获得最优解11.因此,本文提出基于PSO的有效人脸特征提取方法,即首先用小波和张量PCA提取人脸图像特征,然后用PSO对已提取的特征进行处理,以确定权值,从而达到人脸识别的目的.1人脸图像特征提取原始人脸图像存在着光照、表情、饰物变化等因素的干扰10,而且图像的维数比较高,要进行预处理,以降低图像的维数、消除干扰,因此需选用小波变换作为预处理工具.图

9、像经过小波变换后得到4个子图:低频(LL子图、垂直方向高频(LH子图、水平方向高频(H L子图和对角方向高频(H H子图.每个子图的长宽为原图的1/2.后续的若干层小波变换都是基于上一层的LL子图进行的.图1给出了一个人的2幅人脸图像的原图和其一层小波变换的子图.(a第1幅人脸原图(b图1a的L L子图(c第2幅人脸原图(d图1c的L L子图图1一个人脸2幅图像及其上一层小波变换子图从图1可以看出,这2幅原图有明显的饰物差别和细微的表情差异,但在LL子图中这些差别不明显.LL子图对原始图像的预处理效果比较好,所以本文只对LL子图做进一步的特征提取.为了得到有效的特征,可采用张量PCA方法提取L

10、L子图的特征.张量PCA方法能够提取出图像的低维张量子空间特征,而在特征提取过程中却未破坏图像的几何空间结构,所以能获得比PCA方法和2DPCA 方法更好的特征提取效果6.对于灰度图像的特征提取,张量PCA方法的基本思想可概括为:求解n个大小均为X iR CH的图像(C和H分别表示图像X i的长和宽投影矩阵U 和V(UR Cl,VR Hm,并通过投影矩阵对X i进行计算,得到一个新的二阶张量Y i=U T X i VR lm(1 Y iR lm(l和m分别表示矩阵Y i的行数和列数.设Y i的均值Y M=1nY i,则Y i和Y M满足maxni=1Y i-Y M=ni=1U T X i V-

11、1nni=1U T X i V(2其中U、V的最佳解为U*、V*,U*、V*可通过迭代计算得到(文献6,12-13给出了U*、V*的求解过程.设X TR i i=1,n为经过预处理的训练样本图像集,n为训练样本数;X TE j j=1,m为经过预处理的测试样本图像集,m为测试样本数.据此,本文张量PCA方法的特征提取过程可概括为:根据X TR i i=1,n,得到投影矩阵U*、V*;按照式(1对X TR i i=1,n中的每一幅图像进行计算,得到训练样本特征矩阵集合Y TR i i=1,n;对X TE j j=1,m,利用U*、V*按照式(1进行相应计算,得到测试样本特征矩阵集合Y TE j

12、j= 1,m.2基于PSO的特征优化选择经过特征提取后得到的特征中的每一维元素在识别中所起的作用有所不同,对这些元素赋予适当的权值可以进一步提高识别率.由于权值的个数与任意特征矩阵中的元素个数相同,所以权值可以矩阵形式记为W,而W的最优解为W*.W中的元素个数很多,W和W*之间也没有确切的数学模型来描述,所以利用传统的人工试凑法和网格搜索法很难找到最优解,为此本文采用粒子群优化算法(PSO来获得W*.PSO算法确定W*的基本思想为:设m个粒子Z1,Z2,Z m在与W的维数相同的空间中进行搜索,每个粒子Z i的位置为W的一个解,即Z i的位置是和W的维数相同的矩阵;根据每个粒子的位置来确定该粒子

13、的适应度函数值.粒子适应度函数值的确定方法如下:首先用Y TR i i=1,n的每一49第4期温浩,等:利用粒子群优化的人脸特征提取识别算法 个元素和对应Z i 位置的每一维元素相乘,记为W Y TR i (“”表示矩阵W 的每一维元素和Y TR i 中的每一维元素相乘,W Y TR i 的维数与Y TR i 的维数相同;然后对此时的W Y TR i 进行聚类,得到训练样本的聚类正确率.其实,粒子Z i 的适应度函数值就是聚类正确率,每个粒子在自身求解过程中得到的最好适应度所对应的粒子的位置为局部最优解(记为p id ,所有粒子在局部最优解中的最高适应度值所对应的解为全局最优解(记为p d ,

14、每个粒子的运动速度为V 1,V 2,V m (V i 也是与W 的维数相同的矩阵.传统的粒子群算法一般通过迭代来调整每个粒子的速度和位置,即v id (t +1=wv id (t +1r 1(p id -z id (t +2r 2(p d -z id (t (3z id (t +1=z id (t +v id (t +1(4式中:v id (t +1为第i 个粒子的速度在t +1次迭代中的第d 维的元素值;z id (t +1为第i 个粒子的位置在t +1次迭代中第d 维的元素值;w 为惯性权重;1、2为常数;r 1、r 2为01之间的随机数.为防止PSO 算法出现早熟或陷入局部极小化,本文参

15、照文献14给出PSO 粒子速度更新公式,即v id (t +1=wv id (t +1r 1(p b -p id (t +2r 2(p g -p id (t +3r 3(p a -p id (t (5w =w max -tw max -w min8(6式(5中:p a 项为粒子当前局部最优解的平均值14,利用它可防止PSO 算法出现早熟或陷入局部极小化;p b 为粒子当前局部最优解.本文设置w max 为1,w min 为0,这样可以使粒子初始时在较大的数值范围进行搜索,接近最优解时在较小的数值范围进行搜索.根据经验,13为2,r 1r 2为01的随机数.w 的范围为0,1,如果w 的某一维值

16、在迭代过程中大于1或小于0,则置为1或0.当所有粒子迭代完成后,或者其位置不再发生变化,此时得到的p g 即为所求的最优解W *.最优权值W *确定后,Y TR i i =1,n 的每一维值和对应权值相乘便得到W *Y TR i ,同样利用Y TE j j =1,m 可得到W *Y TE j .训练样本图像特征矩阵与测试样本图像特征矩阵之间的距离为D =dis (W *Y TE j ,W *Y TR i (7其中dis (算子的计算方法如下.假设X RC H,Y RC H ,则有dis (X ,Y =C i =1H j =1(x ij -y ij 21/2(8根据式(8采用最近邻方法便可进行图

17、像特征识别.3实验结果与分析本文在ORL 、UM IS T 和自建库上进行了对比实验,对比的算法包括:本文算法(算法1、张量PCA 算法(算法2、结合小波变换和张量的PCA 算法(算法3.实验环境:IBM R51e 笔记本电脑.编程语言:M A TLABORL 库上的实验结果与分析ORL 库是英国剑桥大学制作的,其中包含40个人,每人10幅11292像素的人脸图像,每张图像有表情、姿态、光照和角度的变化.本文从每个人中随机选取5幅或8幅图像组成训练样本集,余下的图像作为测试样本集.实验进行了10次,最后的识别率为10次实验结果的平均值,如表1所示.表1ORL 库上不同算法的识别率

18、比较算法训练样本数特征维数识别率/%算7399.63算法258425793.3097.25算法35851115793.7598.83由表1可见,本文算法的识别率大于其他2种相关算法,算法3的识别率高于算法2的识别率.可见,对图像进行小波变换能起到良好的预处理效果,而在此基础上进行PSO 调节权值可进一步提高识别率.当训练样本为5时,本文方法的识别率达到了96.73%;当训练样本为8时,本文方法的识别率接近100%.3.2UMIST 库上的实验结果与分析UMIST 库由英国曼彻斯特科技大学制作,该库包含20个人的信息.本文把每个人中的前20幅图像归一化为11292像素进

19、行实验,并随机选取前20幅图像中的10幅或16幅进行训练,剩余的图像作为测试所用,最终的识别率为10次实验结果的平均值,如表2所示.可以看出,表2中的识别率比表1中的低,尤其是在训练样本数较少的情况下.这是因为:UM IS T 库中的图像角度变化非常大,每个人的前10幅图像可以看作是人脸正面图像,而后10幅图像可以看作是人脸侧面图像.从表2还可以看出,算法1在10个训练样本时的识别率仍然比其他2种算法高,比50西安交通大学学报第44卷算法2提高了12.78%,比算法3提高了8.28%,可见本文算法能较好地抗角度变化的干扰.3.3自建库上的实验结果与分析自建库是笔者从所在的实验室采集制作的,共1

20、1个人,每个人有6幅520400像素的人脸图像,每张图像的表情、角度和饰物都有变化.本文采用2折交叉验证算法进行实验,结果如表3所示.表2UM IS T库上不同算法的实验结果方法训练样本数特征维数识别率/%算法1101615210588.5399.50算法210168312375.7595.02算法310164621080.2596.70表3自建库上不同算法的实验结果方法训练样本数特征维数识别率/%算法1344987.87算法2351081.80算法337983.33从表3可以看出,在自建库上算法的识别率较低.这是因为:自建库中人脸图像的表情、姿势、角度、饰物变化很大,而且训练样本数比较少.但

21、是,算法1的识别率仍然比其他2种算法高,相对于算法2、算法3识别率分别提高了7.07%和4.54%.4结束语人脸识别是模式识别学科中的研究热点.如何有效地对人脸图像进行特征提取是人脸识别的关键.本文提出了一种新的人脸识别方法,其结合了小波变换、PSO算法、张量PCA算法,对人脸图像能够提取出可有效识别的关键特征.在ORL库、UM IS T库和自建库上的实验表明,本文算法获得了比较高的识别率,特别是在UM IS T库上,识别率比算法2提高了12.75%.参考文献:1CH EL LA PP A R,W LSO N C L,SRO HEY S.H umanand machine recog niti

22、o n o f faces:a surveyJ.P rocI EEE,1995,83(5:705-740.2刘青山,卢汉青,马颂德.综述人脸识别中的子空间方法J.自动化学报,2003,29(16:900-911.LI U Qing shan,L U H anqing,M A So ng de.A surv ey:subspace analy sis fo r face recog nitio nJ.Acta A uto-ma tica Sinica,2003,29(16:900-911.3高全学,潘泉,梁彦,等.基于描述特征的人脸识别研究J.自动化学报,2006,32(3:386-391.G

23、A O Q uanxue,P AN Q ua n,LIA N G Y an,et al.Facerecog nitio n based on ex pressive fea tur esJ.Acta Au-tomatica Sinica,2006,32(3:386-391.4YA NG Jian,ZH A NG D,A LEJAN D F,et al.T wo-dime nsio nal PCA:a new approach to appeara nce-ba sedface re pre sentatio n and recog nitio nJ.IEEE T ranson P attern

24、 A naly sis and M achine Inte lligence,2004,26(1:131-137.5YA N G Jian,LI U Cheng jun.Ho rizontal and ve rtical2DP CA-based discriminate analy sis fo r face ve rificationon a la rge-scale databaseJIEEE T ra ns o n I nfo rma-tion Fo rensics and Security,2007,2(4:781-792. 6XU Do ng,Y AN Shuicheng,Z HA

25、NG Lei.Concur rentsubspace analy sisCP ro ceedings o f the2005IEEECo mputer So ciety Co nference o n Co mputer Visio n a ndPat te rn Reco gnition.Piscataw ay,N J,U SA:IEEE,2005:203-208.7Z H AN G Xinsheng,G A O Xinbo,WA N G Y ing.M i-c rocalcification clusters detection w ith tenso r subspacelear nin

26、g and twin SV M sCI EEE P ro ceedings o fthe7th Wo rld Cong ress on Inte lligent Co ntro l and Au-tomatio n.Piscataw ay,N J,U SA:I EEE,2008:1758-1763.8M A L LA T S G.A theor y for multiresolution sig nal de-co mpo sitio n the wavelet represe ntationJ.IEEET r ans on Pat te rn Analy sis and M achine I

27、 ntellig ence,1989,11(7:674-693.9ZH A NG G uo yun,PENG Shiy u,LI Ho ng min.Combi-natio n of dual-tree co mplex wav elet and SV M for facerecog nitio nCIEEE P roceeding s o f the7th Inter na-tional Co nfere nce o n M achine Lear ning and Cyber net-ics.Piscataw ay,N J,U SA:IEEE,2008:2815-2819.10Z HO U

28、 Xiaofei,SH I Yong.A ffine subspace nea restpo ints classificatio n algo rithm fo r wave let face reco gni-tionCIEEE W or ld Co ng re ss o n Co mputer Scienceand Infor mation Enginee ring.Piscataway,N J,US A:IEEE,2009:684-688.11EBERHA RT R C,K EN NEY J.A new optimizerusing particle swar m theoryCP r

29、o ceeding o f the6th I nter national Sympo sium on M icr o M achine a ndHuman Scie nce.Pisca taw ay,N J,US A:I EEE,1995:39-43.(下转第118页51第4期温浩,等:利用粒子群优化的人脸特征提取识别算法除眼电伪差效果比较好的方法进一步去除眼电伪差干扰,这也是今后的研究内容之一.参考文献:1G RA T T O N G,CO L ES M G,DO NC HIN E.A newmethod for off-line remo val o f o cular ar tifact

30、J.Elec-tro encephalog raphy&Clinica l N euro physio lo gy,1983,55(4:486-484.2高军峰,郑崇勋,王沛.基于独立成分分析和流形学习的眼电伪差去除J.西安交通大学学报,2010,44(2:113-118.G AO Junfeng,Z H EN G Cho ngx un,W AN G Pei.ICAand manifo ld-based ocular a rtifacts remov alJ.Jour-nal of Xian Jiaoto ng Univ ersity,2010,44(2:113-118.3U R RES T

31、A RAZ U E,I RIA RT E J,A LEG RE M,e t al.Independent co mpo nent analy sis remo ving artifacts inictal recor ding sJ.Epilepsia,2004,45(9:1071-1078.4A M A RI S,CICH OCK I A,Y AN G H H.A newlea rning alg orithm for blind sig nal separa tionM.Cambridge,M A,U SA:M I T P ress,1996:757-763.5M A K EIG S,BE

32、L L A J,JU N G T P,et al.Independ-ent compone nt analy sis o f electr oencepha lg raphic dataM.Cambridg e,M A,U SA:M IT P ress,1996:145-151.6V ERG U LT A,CL ERCQ W D,P A LM I NI A,et al.Impro ving the interpreta tion o f icta l scalp EEG:BSS-CCA algo rithm fo r muscle artifac t removalJ.Epi-lepsia,2

33、007,48(5:950-958.7周仲兴,明东,朱誉环,等.基于扩展Infor max ICA的站起想象动作脑电特征提取J.仪器仪表学报,2009,30(3:459-464.Z HO U Zho ng xing,M IN G Do ng,Z H U Y uhuan,etal.EEG feature ex traction fo r imag inary standing upbased o n ex tended Info rmax independent componentanalysisJ.Chinese Journal o f Scientific Instrume nt,2009,3

34、0(3:459-464.8S HA O Shiy un,S HEN Kaiquan,ON G C J,et al.Au-to matic EEG ar tifact remova l:a w eighted suppo rt vec-to r machine appro ach w ith e rro r co r rectionJ.IEEET ransactions o n Bio medical Eng ineering,2009,56(2:336-344.9JUN G T P,M A K EIG S,H UM PH RIES C et al.Re-mo ving e lectroe ncephalo