迁移学习的分类方法JindongWang

1、一迁徙学习简介二迁徙学习的分类方法三代表性研究工作四问题与展望五迁徙学习资源一迁徙学习简介?定义与看法?迁徙学习vs传统机器学习?与其余看法的比较迁徙学习将会是引领下一次机器学习高潮的驱动力。吴恩达,NIPS2016什么是迁徙学习？心理学角度：人们利用从前的经验和知识进行推理和学习的能力。机器学习角度：一个系统将其余相关领域中的知识应用到本应用中的学习模式。DARPA举例：C+Java；骑自行车骑摩托车要点词：贯穿交融迁徙学习要解决的问题：给定一个研究领域和任务，如何利用相似领域进行知识的迁徙，从而完成目标？?为何要进行迁徙学习？数据的标签很难获取对已有知识的重用是必需的重新建立模型是复杂和耗

2、时的迁徙学习vs传统机器学习传统机器学习迁徙学习数据分布训练和测试数据同分布训练和测试数据不需要同分布数据标签足够的数据注明不需要足够的数据注明建模每个任务分别建模可以重用从前的模型传统机器学习迁徙学习与其余看法的比较Life-longlearning(终生学习):连续不停地在一个域上学习Multi-tasklearning(多任务学习)：两个任务同时完成Domainadaptation(域适配)：迁徙学习的子类Incrementallearning(增量学习)：一个域上的不停学习Self-taughtlearning(自我学习)：从自己数据中学习Covarianceshift(协方差漂移)：

3、迁徙学习的子类迁徙学习与其余已有看法对比，侧重重申学习任务之间的相关性，并利用这类相关性完成知识之间的迁徙。迁徙学习常用看法Domain(域)：由数据特色和特色分布构成，是学习的主体Sourcedomain(源域)：已有知识的域Targetdomain(目标域)：要进行学习的域Task(任务)：由目标函数和学习结果构成，是学习的结果迁徙学习的形式化定义条件：给定一个源域和源域上的学习任务，目标域和目标域上的学习任务目标：利用限制条件：和学习在目标域上的展望函数或。应用领域迁徙学习二迁徙学习的分类方法?按迁徙情境?按特色空间?按迁徙方法常用的迁徙学习分类方法按迁徙情境特色空间按迁徙方法按特色空间

4、?同构迁徙学习?异构迁徙学习迁徙情境归纳式迁徙直推式迁徙无督查迁徙基于基于实例的特色的迁徙迁徙迁徙方法基于基于关系的模型的迁徙迁徙按迁徙情境分类：归纳式迁徙学习(inductivetransferlearning)源域和目标域的学习任务不一样直推式迁徙学习(transductivetransferlearning)源域和目标域不一样，学习任务同样无督查迁徙学习(unsupervisedtransferlearning)源域和目标域均没有标签学习情境源域和目标域源域和目标域任务传统机器学习同样同样归纳式迁徙/同样不一样但相关迁徙学习无督查迁徙不一样但相关不一样但相关直推式迁徙不一样但相关同样?按

5、特色空间进行分类：同构迁徙学习异构迁徙学习HomogeneousTLHeterogeneousTL特色维度同样分布不一样同构特色维度不一样同构迁徙学习督查迁徙学习迁徙学习特色空间半督查迁徙学习无督查迁徙学习异构异构迁徙学习按迁徙方法分类：基于实例的迁徙(instancebasedTL)经过权重重用源域和目标域的样例进行迁徙基于特色的迁徙(featurebasedTL)将源域和目标域的特色变换到同样空间基于模型的迁徙(parameterbasedTL)利用源域和目标域的参数共享模型基于关系的迁徙(relationbasedTL)利用源域中的逻辑网络关系进行迁徙分类方法总结基于实例的迁徙学习方法假

6、设：源域中的一些数据和目标域会共享很多共同的特色方法：对源域进行instancereweighting，挑选出与目标域数据相似度高的数据，而后进行训练学习代表工作：TrAdaBoostDai,ICML-07KernelMeanMatching(KMM)Smola,ICML-08DensityratioestimationSugiyama,NIPS-07长处：方法较简单，实现简单弊端：权重选择与相似度胸襟依赖经验源域和目标域的数据分布常常不一样基于特色的迁徙学习方法假设：源域和目标域不过有一些交织特色方法：经过特色变换，将两个域的数据变换到同一特色空间，而后进行传统的机器学习代表工作：Trans

7、fercomponentanalysis(TCA)Pan,TKDE-11SpectralFeatureAlignment(SFA)Pan,WWW-10Geodesicflowkernel(GFK)Duan,CVPR-12Transferkernellearning(TKL)Long,TKDE-15长处：大多数方法采纳特色选择与变换可以获得好成效弊端：常常是一个优化问题，难求解简单发生过适配基于模型的迁徙学习方法假设：源域和目标域可以共享一些模型参数方法：由源域学习到的模型运用到目标域上，再依据目标域学习新的模型代表工作：TransEMDTZhao,IJCAI-11TRCNNOquab,CVPR

8、-14TaskTrAdaBoostYao,CVPR-10长处：模型间存在相似性，可以被利用弊端：模型参数不易收敛基于关系的迁徙学习方法假设：假如两个域是相似的，那么它们会共享某种相似关系方法：利用源域学习逻辑关系网络，再应用于目标域上代表工作：PredicatemappingandrevisingMihalkova,AAAI-07,Second-orderMarkovLogicDavis,ICML-09三代表性研究成就?域适配问题?多源迁徙学习?深度迁徙学习迁徙学习的热点研究领域域适配问题(domainadaptation)多源迁徙学习(multi-sourceTL)深度迁徙学习(deepTL

9、)异构迁徙学习(heterogeneousTL)域适配问题：domainadaptation;cross-domainlearning问题定义：有标签的源域和无标签的目标域共享同样的特色和种类，但是特色分布不一样，如何利用源域标定目标域域适配问题：基于特色的迁徙方法：TransfercomponentanalysisPan,TKDE-11GeodesicflowkernelDuan,CVPR-12TransferkernellearningLong,TKDE-15TransEMDTZhao,IJCAI-11基于实例的迁徙方法：KernelmeanmatchingHuang,NIPS-06Cov

10、ariateShiftAdaptationSugiyama,JMLR-07基于模型的迁徙方法：AdaptiveSVM(ASVM)Yangetal,ACMMultimedia-07MultipleConvexCombination(MCC)Schweikert,NIPS-09DomainAdaptationMachine(DAM)Duan,TNNLS-12迁徙成分分析(TCA,transfercomponentanalysis)Pan,TKDE-11将源域和目标域变换到同样空间，最小化它们的距离迁徙成分分析：优化目标：Maximummeandiscrepancy(MMD)?GFK(geodesi

11、cflowkernel)Duan,CVPR-12利用流形学习，将数据映照到高维空间中，而后丈量其距离，使得源域和目标域差异最大优化目标：流形正则项：?TransferKernelLearning(TKL)Long,TKDE-15在再生核希尔伯特空间中学习一个领域不变核矩阵，从而实现源域和目标域的适配优化目标：?嵌入决策树算法(TransEMDT)Zhao,IJCAI-11第一经过聚类获取初始的目标域决策树模型，而后迭代更新决策树的参数直到收敛为止?KernelmeanmatchingHuang,NIPS-06在再生希尔伯特空间被骗算源域和目标域的协方差分布差异，而后用二次规划求解样本权重优化目

12、标：?CovariateShiftAdaptationSugiyama,JMLR-07采纳自然预计法预计源域和目标域的密度比率，而后进行实例权重的分配，最后迁徙优化目标：AdaptiveSVM(ASVM)Yangetal,ACMMultimedia-07使用SVM模型，在适配和原始模型之间学习“数据函数”,达到模型迁徙成效优化目标：?MultipleConvexCombination(MCC)Schweikert,NIPS-09对一些域适配的方法做集成学习优化目标：总结平常假设源域和目标域的数占有着同样的条件分布，也许在高维空间里，有着同样的条件分布这个假设是有必定限制性的，没法衡量源域和目标

13、域之间相似性，可能发生负迁徙多源迁徙学习问题定义：多个源域和目标域，如何进行有效的域挑选，从而进行迁徙？多源迁徙学习TrAdaBoostDai,ICML-07MsTL-MvAdaboostXu,ICONIP-12ConsensusregularizationLuo,CIKM-08TransitivetransferlearningTan,KDD-15DistantdomainTLTan,AAAI-17?TrAdaBoostDai,ICML-07利用Boost的技术过滤掉多个源域中与目标域不相似的样本，而后进行实例迁徙学习?MsTL-MvAdaboostXu,ICONIP-12不但考虑源域和目标

14、域的样实情似度状况，同时，以多视图学习的目标来进行一致的迁徙?ConsensusregularizationLuo,CIKM-08同时在源域和伪注明的目标域上训练分类器，利用一致性拘束进行知识的迁徙?TransitivetransferlearningTan,KDD-15在两个相似度不高的域中，利用从第三方中学习到的相似度关系，完成知识的传达迁徙?DistantdomainTLTan,AAAI-17在相似度极低的两个域进行迁徙时，用autoencoder自动从多此中间辅助域中选择知识，完成迁徙总结：多源迁徙学习可以有效利用存在的多个可用域，综合起来进行迁徙，达到较好的成效如何衡量多个域之间的相

15、关性还是一个问题对多个域的利用方法也存在必定挑战性深度迁徙学习利用深度神经网络的结构进行迁徙学习神经网络学习非线性的特色表示层次性使得数据拥有不行解说性表示在数据中拥有某些不行变的成分，可以用来迁徙代表方法JointCNNTzeng,ICCV-15SHL-MDNNHuang,ICASSP-13DeepAdaptationNetwork(DAN)Long,ICML-15JointAdaptationNetworksLong,CVPR-13?JointCNNTzeng,ICCV-15针对有稀少标志的目标域数据，用CNN同时优化域之间的距离和迁徙学习任务的损失?SHL-MDNNHuang,ICASS

16、P-13在不一样的学习网络之间共享隐蔽层，经过不一样的softmax层控制学习任务的不一样DeepAdaptationNetwork(DAN)Long,ICML-15将CNN中与学习任务相关的隐蔽层映照到再生核希尔伯特空间中，经过多核优化的方法最小化不一样域之间的距离?JointAdaptationNetworksLong,CVPR-15提出一种新的联合分布距离胸襟关系，利用这类关系泛化深度模型的迁徙学习能力，从而适配不一样领域的数据分布。基于AlexNet和GoogLeNet重新优化了网络结构总结：迁徙学习大加强了模型的泛化能力深度学习可以深度表征域中的知识结构深度学习+迁徙学习还可大有可为

17、迁徙学习存在的问题：负迁徙：没法判断域之间的相关性，以致负迁徙缺少理论支撑：还没有有一致的迁徙学习理论相似度衡量：域之间的相似度平常依赖经验进行衡量，缺少一致有效的相似度衡量方法已有的基础负迁徙：利用自编码器实现相关度较低的两个域之间的迁徙（人脸飞机）Tan,AAAI-2017理论支撑：利用物理学定律为迁徙找到理论保证Stewart,AAAI-17相似度衡量：提出迁徙胸襟学习，找寻行为之间相关性最高的域进行迁徙Al-Halah,ICPR-14综述AsurveyontransferlearningPanandYang,TKDE-10AsurveyoftransferlearningWeiss,B

18、igdata-15开源项目研究学者QiangYangHKUST:http:/www.cs.ust.hk/qyang/MingshengLongTHU:/mlong/会议、期刊人工智能、机器学习：AAAI，ICML，ICJAI，NIPS，TNNLS，TIST，CVPR数据发掘：TKDE，SIGKDD，ACL，WWW,SIGIRPan,TKDE-10PanSJ,YangQ.AsurveyontransferlearningJ.IEEETransactionsonknowledgeanddataengineering,2010,22(10):1345-1359.?Dai,ICML-07DaiW,Ya

19、ngQ,XueGR,etal.BoostingfortransferlearningC/Proceedingsofthe24thinternationalconferenceonMachinelearning.ACM,2007:193-200.?Smola,ICML-08GrettonA,SmolaA,HuangJ,etal.CovariateshiftbykernelmeanmatchingJ.Datasetshiftinmachinelearning,2009,3(4):5.Sugiyama,NIPS-07SugiyamaM,SuzukiT,KanamoriT.Densityratioes

20、timationinmachinelearningM.CambridgeUniversityPress,2012.Pan,TKDE-11PanSJ,TsangIW,KwokJT,etal.DomainadaptationviatransfercomponentanalysisJ.IEEETransactionsonNeuralNetworks,2011,22(2):199-210.Pan,WWW-10PanSJ,NiX,SunJT,etal.Cross-domainsentimentclassificationviaspectralfeaturealignmentC/Proceedingsof

21、the19thinternationalconferenceonWorldwideweb.ACM,2010:751-760.Duan,CVPR-12GongB,ShiY,ShaF,etal.GeodesicflowkernelforunsuperviseddomainadaptationC/ComputerVisionandPatternRecognition(CVPR),2012IEEEConferenceon.IEEE,2012:2066-2073.Long,TKDE-15LongM,WangJ,SunJ,etal.Domaininvarianttransferkernellearning

22、J.IEEETransactionsonKnowledgeandDataEngineering,2015,27(6):1519-1532.Zhao,IJCAI-11ZhaoZ,ChenY,LiuJ,etal.Cross-peoplemobile-phonebasedactivityrecognitionC/IJCAI.2011,2011(2011):2545-2550.?Yao,CVPR-10YaoY,DorettoG.BoostingfortransferlearningwithmultiplesourcesC/Computervisionandpatternrecognition(CVPR

23、),2010IEEEconferenceon.IEEE,2010:1855-1862.?Davis,ICML-09DavisJ,DomingosP.Deeptransferviasecond-ordermarkovlogicC/Proceedingsofthe26thannualinternationalconferenceonmachinelearning.ACM,2009:217-224.?Mihakova,AAAI-07MihalkovaL,HuynhT,MooneyRJ.MappingandrevisingMarkovlogicnetworksfortransferlearningC/

24、AAAI.2007,7:608-614.Yang,ACMMM-07YangJ,YanR,HauptmannAG.Cross-domainvideoconceptdetectionusingadaptivesvmsC/Proceedingsofthe15thACMinternationalconferenceonMultimedia.ACM,2007:188-197.?Schweikert,NIPS-09SchweikertG,R?tschG,WidmerC,etal.Anempiricalanalysisofdomainadaptationalgorithmsforgenomicsequenc

25、eanalysisC/AdvancesinNeuralInformationProcessingSystems.2009:1433-1440.Duan,TNNLS-12DuanL,TsangIW,XuD,etal.DomainadaptationfrommultiplesourcesviaauxiliaryclassifiersC/Proceedingsofthe26thAnnualInternationalConferenceonMachineLearning.ACM,2009:289-296.Xu,ICONIP-12XuZ,SunS.Multi-sourcetransferlearning

26、withmulti-viewadaboostC/InternationalConferenceonNeuralInformationProcessing.SpringerBerlinHeidelberg,2012:332-339.?Luo,CIKM-08LuoP,ZhuangF,XiongH,etal.TransferlearningfrommultiplesourcedomainsviaconsensusregularizationC/Proceedingsofthe17thACMconferenceonInformationandknowledgemanagement.ACM,2008:1

27、03-112.Tan,KDD-15TanB,SongY,ZhongE,etal.TransitivetransferlearningC/Proceedingsofthe21thACMSIGKDDInternationalConferenceonKnowledgeDiscoveryandDataMining.ACM,2015:1155-1164.Tan,AAAI-17TanB,QiangY,etal.Distantdomaintransferlearning.AAAI2017.Tzeng,ICCV-15TzengE,HoffmanJ,DarrellT,etal.SimultaneousdeeptransferacrossdomainsandtasksC/ProceedingsoftheIEEEInternationalConferenceonComputerVision.2015:4068-4076.Huang,ICASSP-13HuangJT,LiJ,YuD,etal.Cross-languageknowledgetransferusingmultilingualdeepneuralnetworkwithsharedhiddenlaye