机器学习论文

现代机器学习理论

论文题目： 综述机器学习与支持向量机学院： 电子工程学院 专业：学号： 学生姓名： 综述机器学习与支持向量机摘要机器学习是研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能，它是人工智能的核心，是使计算机具有智能的根本途径。基于数据的机器学习是现代智能技术中的重要方面，研究从观测数据出发寻找规律，利用这些规律对未来数据或无法观测的数据进行预测，包括模式识别、神经网络等在内，现有机器学习方法共同的重要理论基础之一是统计学。支持向量机是从统计学发展而来的一种新型的机器学习方法，在解决小样本、非线性和高维的机器学习问题中表现出了许多特有的优势，但是，支持向量机方法中也存在着一些亟待解决的问题，主要包括：如何用支持向量机更有效的解决多类分类问题，如何解决支持向量机二次规划过程中存在的瓶颈问题、如何确定核函数以及最优的核参数以保证算法的有效性等。本文详细介绍机器学习的基本结构、发展过程及各种分类，系统的阐述了统计学习理论、支持向量机理论以及支持向量机的主要研究热点，包括求解支持向量机问题、多类分类问题、参数优化问题、核函数的选择问题等，并在此基础上介绍支持向量机在人脸识别中的应用，并通过仿真实验证明了算法的有效性。关键词：机器学习；统计学习理论；SVM；VC维；人脸识别TheSummarizationofMachineLearning

andSupportVectorMachineABSTRACTMachinelearningistostudyhowacomputersimulatesorrealizeshumanbehaviorstoacquirenewinformationandskills,thenrebuildsitsknowledgestructuretoimproveitselfcapabilityconstantly.ItisthecoreofArtificialIntelligence,andistheunderlyingwayinwhichacomputerdevelopsintelligence.Machinelearningbasedondataisoneofthemostimportantaspectsofmodernintelligencetechnology.Itistoinvestigatehowtofindarulestartingfromdataobservation,andusetheruletopredictfuturedataandunavailabledata.Statisticsisoneofthemostcommonimportanttheoryelementsoftheexistingmethodsofmachinelearning,includingPatternRecognitionandNeuralNetworks.SVM(SupportVectorMachine)isanovelmethodofmachinelearningevolingfromStatistics.SVMpresentsmanyownadvantagesinsolvingmachinelearningproblemssuchassmallsamples,nonlinearityandhighdimension.However,SVMmethodsexistsomeproblemsneedtoberesolved,mainlyincludinghowtodealwithmulti-classificationeffectively,howtosolvethebottle-neckproblemappearinginquadraticprogrammingprocess,andhowtodecidekernelfunctionandoptimisticalkernelparameterstoguaranteeeffectivityofthealgorithm.Thispaperhasintroducedindetailthestructure,evolvementhistory,andkindsofclassificationofmachinelearning,anddemonstratedsystemlySLT(StatisticalLearningTheory),SVMandresearchhotspotsofSVM,includingseekingSVMproblems,multi-classification,parametersoptimization,kernelfunctionselectionandsoon.Theapplicationonhumanfacerecognitionhasbeenintroducedbasedonabovetheory,andthesimulationexperimenthasvalidatedthealgorithm.Keywords：Machinelearning,SLT,SVM,VCdimension,HumanfacerecognitionTOC\o"1-5"\h\z\o"CurrentDocument"摘要 IABSTRACT II绪论 11.1研究背景及意义 11.1.1机器学习概念的出现 11.1.2支持向量机的研究背景 11.2本文主要内容 3机器学习的结构及分类 42.1机器学习定义及发展 42.2机器学习系统的基本结构 52.3机器学习的分类 62.4目前研究领域 9支持向量机的原理 103.1统计学习理论 103.1.1机器学习问题 103.1.2统计学理论的发展与支持向量机 113.1.3VC维理论 123.1.4推广性的界 123.1.5结构风险最小化原则 133.2支持向量机理论 143.2.1最优分类面 1