联邦学习-组会

汇报人署名汇报日期：8.5联邦学习

FMLFederatedMachineLearningContentsIntroduction01Framework03Categorization02Applications042Introduction013Background“WhatMakesitAppear？”MainFactors1、DataBarrier2、PrivacyProtection(GPDR)3、IndustryCompetition4、ComplicatedProcedure4DefinitionB多个参与者联合数据建立虚拟的共有模型，并且共同获益的体系C在联邦学习的体系下，参与者的身份和地位相同D联邦学习的建模效果和将整个数据集放在一处建模的效果相同，或相差不大E迁移学习是在用户或特征不对齐的情况下，也能在数据间通过交换加密参数达到知识迁移的效果A各方数据保留在本地，不泄露隐私也不违反法规5Overview在满足数据隐私、安全和监管要求的前提下，让人工智能系统能够更加高效、准确的共同使用各自的数据的一个机器学习框架。Features安全合规依照GDPR规范满足安全及合规要求数据不泄露保证数据安全及模型安全联合扩展联合多方建模cells打破细胞数据壁垒连接不同垂直场景扩宽数据应用领域提升赋能合作推动联盟建立激励机制互利共赢赋能企业AI6Categorization027Categorization

联邦学习主要采用了同态加密的技术来保护多方数据隐私，可以根据用户的特征维度和样本ID的重叠度分为横向联邦学习和纵向联邦学习，亦或在两者重叠度都很低的情况下采用联邦迁移学习。Theoverlapoffeatures(X1,X2,…)islarge,whereastheoverlapofusers(U1,U2,…)issmallTheoverlapofusers(U1,U2,…)islarge,whereastheoverlapoffeatures(X1,X2,…)issmallTheoverlapofusers(U1,U2,…)andtheoverlapoffeatures(X1,X2,…)arebothsmall8Framework039Framework我们以包含两个数据拥有方(即企业A和B)的场景为例来介绍联邦学习的系统构架，该构架可扩展至包含多个数据拥有方的场景。10Framework加密样本对齐

由于两家企业的用户群体并非完全重合，系统利用基于加密的用户样本对齐技术，在A和B不公开各自数据的前提下确认双方的共有用户，并且不暴露不互相重叠的用户。以便联合这些用户的特征进行建模。加密模型训练

在确定共有用户群体后，就可以利用这些数据训练机器学习模型。为了保证训练过程中数据的保密性，需要借助第三方协作者C进行加密训练。Courseofwork:效果激励

联邦学习的一大特点就是它解决了为什么不同机构要加入联邦共同建模的问题，即建立模型以后模型的效果会在实际应用中表现出来，并记录在永久数据记录机制(如区块链)上。11FrameworkEncryptedmodeltraining:12训练过程协作者C把公钥分发给A和B，用以对训练过程中需要交换的数据进行加密；C将解密后的梯度分别回传给A和B，A和B根据梯度更新各自模型的参数。A和B分别基于加密的梯度值进行计算，同时B根据其标签数据计算损失，并把这些结果汇总给C。C通过汇总结果计算总梯度并将其解密；A和B之间以加密形式交互用于计算梯度的中间结果；迭代上述步骤直至损失函数收敛，这样就完成了整个训练过程。FrameworkThedifferencebetweenFederatedLearningandDifferentialPrivacy:原理给数据加噪音或模糊部分属性差分隐私交换数据和模型数据有被攻击的可能加密方式LOREM安全性同态加密等联邦学习参数交换（梯度值）更加安全13FrameworkThedifferencebetweenFederatedLearningandDistributedMachineLearning:工作节点一个中心式的调度节点分布式机器学习数据存储位置无数据的调配LOREM数据自主性模型训练的数据拥有方联邦学习模型训练的数据拥有方较好14Applications0415Applications

联邦学习可应用于不同行业及其垂直领域，包括金融服务，物流，供应链，运营商，医疗健康等。在使用联邦学习的过程中，可采用联合共建，平台服务等方式进行解决方案落地。16小微企业贷款为积极响应国家政策，扶持小微企业融资贷款，有贷款资质的互联网金融平台、小贷公司、银行等可以通过联邦学习在本地对数据进行建模，由参与的机构共享最终的风控和预测模型，进行贷款发放。保证数据安全，数据不对外输出提高预测能力，共享模型效果

17图像识别

在医疗领域，各医学机构之间数据互不共享，用户不愿意泄露个人的隐私数据。联邦学习在医学图像中进行应用，可以解决医学数据孤岛问题，提升各医学机构的人工智能应用。提升各医学机构在数据应用的能力联合多方数据，提升模型效果

18反洗钱