知识图谱构建实践建设方案

知识图谱构建实践建设方案概念框架建设步骤3案例介绍技术趋势数字化转型趋势数字化转型趋势计算智能计算智能信息化信息化感知智能感知智能通过“眼睛”“耳朵”认知智能认知智能智能化智能化知识图谱知识图谱连通企业内外部异构数据>连通大数据技术与AI技术连通人类智能和人工智能数据中台式数据湖式知识中台式数据中台式数据湖式知识中台式知识图谱服务化带来哪些好处研究对象：组织内的知识知识的不同类型知识的循环过程知识的不同类型参考：概念框架建设步骤3案例介绍•层次化•循环迭代数据类型问题现象问题实质技术任务结构化非结构化信息重叠结......CRF层词嵌入层OI-LOCOI-LOChh序列层(实体)序列层(实体)b≤≤b≤≤hh>>>hhh>>>hwww中爱我国中爱我国 >依存层(关系)标签嵌入 >依存层(关系)标签嵌入>>依存嵌入词/词性嵌入层清华大学坐落于北京。输入句子输入句子词嵌入词嵌入表示学习G=(V,E)网络嵌入特征节点分类链接预测节点相似度xi八(1)yiy(k)iyi(1)xi无监督组件无监督组件……参数共享……有监督组件拉普拉斯拉普拉斯特征映射……参数共享……节点j节点节点j节点ixjyj(k)yjyj(1)xj[t,t+dt]时刻之间的概率ft):=f(ft):=f(t|H(t))t时刻之前的概率*F(t)t1t2t3tt+dt\t=TF(t)t时刻之后的概率历史历史H(t)S(t)参数知识库1参数知识库1数据映射对齐结果知识库格式转换知识融合资源对齐结果知识库格式转换知识融合资源先验对齐信息抽取预训练语言模型联合训练模型信息抽取预训练语言模型联合训练模型知识库2知识库2化文本化文本类别属性>子类不相交图向量传播向量空间相似度(a)图嵌入模型向量空间相似度(b)图匹配网络•异构数据库组合：融合后的增删改查，及效率提升方案；•分层次的数据仓库：大而全，存历史、存全量；小而美，支持特定应用，实时响应、批量同步；•知识溯源：溯源元数据，血缘关系记录与分析，可溯源哈希；据知识按照预先的约定（结构体系、符号体系）去表人类所生产和表达的知识能够让机器可读、可执行。机器可以从数据源中抽取、归纳出知识并形式化的文档管理文档管理 4相关性1概念定义检索推荐(关联的)概念体系下的事实(零散的)事实抽象具体几类常见知识的执行规范指标指标规则规则机器学习模型机器学习模型基于SCM的推理引擎工作流工作流WfMC参考实现一切知识管理相关的问题，归根结底都是知识表示可视化的一般框架知识库增强的可视化可视化的一般框架知识库增强的可视化少数类别多类别多类别有周期无周期 单元素多变量少数类别多类别多类别有周期无周期少数类别少数类别长期时序短期时序长期时序短期时序单元素单变量单元素单变量不同时刻不同时刻不同元素不同元素少量数据单变量两个变量少量数据单变量两个变量大量数据可视化大量数据可视化三个变量两个变量三个变量两个变量 动态 静态 短期长期 简单份额相对增减含子元素组成及绝对差 简单份额相对增减含子元素组成及绝对差·从洞察到行动；信息检索常用框架知识库增强的检索算法2.数据增强1.神经网络模型2.预训练模型2.稠密方法排序特征集成排序特征集成相关文档…N-gram嵌入表示增强的实体嵌入表示…MwwMweMewM…N-gram嵌入表示增强的实体嵌入表示…MwwMweMewMee>>…Bigrams…Trigramsunigrams…Bigrams…Trigrams朱元璋朱元璋增强的实体 家族族谱MsoftMatchFeatureΦ(M)•LIUZ,XIONGC,SUNM,etal.Entity-DuetNeuralRanking:UnderstandingtheRoleofKnowledgeGraphSemanticsinNeuralInformationRetrieval[C]//ACL2018.•XIONGC,POWERR,CALLANJ.Explicitsemanticrankingforacademicsearchviaknowledgegraphembedding[C]//WWW2017.知识库增强的推荐算法推荐算法发展历程：知识库增强的推荐算法实体向量关系向量知识库用户向量物品向实体向量关系向量知识库用户向量物品向量推荐系统 >AutRecNeuralcFPNN加入Deepcrossing(a)依AutRecNeuralcFPNN加入Deepcrossing >知识库知识库 >知识库知识库实体向量关系向量实体向量关系向量用户向量物品向量实体向量关系向量用户向量物品向量>基于ResNet的学习用户向量物品向量推荐系统推荐系统学习 >用神经网络替代协同过滤中的点积操作基于单隐层自动编码器推荐系统与强化学习结合DRN >(c)交推荐系统与强化学习结合DRN >(c)交替学习 DIN将因子分解机的隐向量作为嵌入表示初始化值DIN将因子分解机的隐向量作为嵌入表示初始化值将将LR作为wide部分,FNNFNN化过程建模厂在Deep部分替换成有双向交VVDeep部分Deep部分改进DIENwide部分改进在Deep部分加在Deep部分加入注意力网络换为跨层网络处理特征交叉NFMDeepFMAFMDeep&crossNFMDeepFMAFMDeep&crossFMFM•王喆．深度学习推荐系统[M]．北京：电子工业出版社，2020•YUB,ZHOUC,ZHANGC,etal.APrivacy-PreservingMulti-TaskFrameworkforKnowledgeGraphEnhancedRecommendation[J].IEEEAccess,2020•知识库问答。•基于语义解析•基于信息抽取•基于向量建模得分s(q,a)得分s(q,a)=f(q)Tg(a)候选答案与问句的匹配度①嵌入模型①嵌入模型问句的嵌入式表示f(q)查询点积问句的嵌入式表示f(q)查询点积检索模块子图的嵌入式表示g(a) >问句的二进制编码子图的二进制编码 >问句的二进制编码子图的二进制编码候选相似Freebase子图唐朝问句q相似问句选择模块碎叶城素叶城≤候选相似Freebase子图唐朝问句q相似问句选择模块碎叶城素叶城≤李白Tokmok——标准问题答案李白Tokmok——标准问题答案在Freebase中检测在Freebase中检测问句中的实体候选答案子图安西都护府BORDESA,CHOPRAS,WESTONJ.QuestionAnsweringwithSubgraphEmbeddings[J].ComputerScience知识推理技术路线知识推理技术路线演绎推理技术归纳推理技术演绎推理技术归纳推理技术基于规则推理算法学习推理基于规则推理算法学习推理混合推理本体推理方法本体推理方法逻辑编程推理逻辑编程推理查询重写方法查询重写方法产生式规则方法产生式规则方法基于图结构基于表示学习时序预测推理元学习小样本强化学习推理marriedToinfluences……添加悬挂边添加闭合边hasChildsupervises y>marriedTo y>hasChild z>hasChild z>hasChild z>xxxxxxxmarriedToxmarriedTohasChildyzxmarriedTohasChildxy-z:hasChildhasChild(z,x)←marriedTo(y,z)∧hasChild(y,x)传统的规则推理中的AMIE算法规则与知识联合训练逻辑知识真值≤ >≤逻辑连接(巴黎,坐落于,法国)关系嵌入实体嵌入关系嵌入GUOS,WANGQ,WANGL,etal.Jointlyembeddingknowledgegraphsandlogicalrules[C]//EMLP2016概率逻辑神经网络√√国籍←国籍←居住地√出生于^坐落于←国籍←国籍←从政于√×√×。观察到的隐藏的×假待预测权重QUM,TANGJ.Probabilisticlogicneuralnetworksforreasoning//arXiv:1906.08495实体预测关系路径推理ηη>>头实体描述..头实体描述..…..——心w1iξi>ττw2ηw3ηw3>>ηw4>>ηw4ηwηw5尾实体描述w6>尾实体描述w6>ξiτw7ξiτw7η尾实体名η>>…词嵌入查询η语义平均τ掩码ξi融合θθ上下文特征θ抽取特征isAisA-1ATaleofATaleof>>>>>>>>SHIB,WENINGERT.Open-worldknowledgegraphcompletion[C]//AAAI2018LAON,COHENW.Relationalretrievalusingacombinationofpath-constrainedrandomwalks[J].Machinelearning,20102.人机协同：3.主动学习：降低相似样本的重复标注成本VROI=产出收益=应用价值∗复用性投入成本需求分析'方案设计'开发'标注'训练'运维VSSM简单规则规则引擎简单模型复杂模型特征工程集成学习概念框架建设步骤3案例介绍售前售中售后金融营销、反欺诈、信用评分智能投顾、智能投研、反洗钱、行为评分、贷中提醒、核保核赔催收、审计、智能客服智能分诊、药物挖掘智能问诊、影像诊疗、健康管理教育营销、自适应学习、智能排课智能评测、分级阅读视频分析零售营销物流管理、自主结算、数字供应商顾客行为分析、销售复盘工业安全防护缺陷监测、生产优化、供应链优化、机器人智能维保政务重点人员监控、消防应急交通指挥、自动驾驶、一网通办、一网通管、团伙发现、诉讼辅助消费品营销公安地铁制造业餐饮、零售 事地人物事地人物车辆工务机电信号人机料法人场人场货货消费品营销公安地铁制造业餐饮、零售人群人群曝光效果代言人媒体效果代言人媒体体系广告体系广告推广推广成分产品生产者消费者客户成分产品生产者消费者客户步骤场景步骤场景舆情洞察舆情洞察原文原文维度维度痛点场景情情感产品人群痛点产品人群痛点场景渠道质量监控渠道分级管理直销技能培训直销绩效考核培训考核培训考核材料核验保全策略反欺诈催收策略信用评估渠道质量监控渠道分级管理直销技能培训直销绩效考核培训考核培训考核材料核验保全策略反欺诈催收策略信用评估数据修复流失预警挽留客群净值提升客群细分交叉销售客户画像统一授信资产质量监控规则有效性模型稳定性产品、运营、风控、审计作业、销管、产品、运营、风控、审计策略配置与管理模型参策略配置与管理模型参数配置规则集工作流数据服务系统拖拽查询SQL查询API查询报表系统(明细报表、指标体系)半自动化经营报告离线加工异构数据管理决策引擎数据源工作流引擎分类回归关系图谱在线学习数据路由离线加工异构数据管理决策引擎数据源工作流引擎分类回归关系图谱在线学习数据路由规则引擎模型管理特征工程异常检测文件交换区主题层数据模型语义层(指标体系、集市)异构查询镜像同步镜像同步全量存储实时加工消息队列全量存储实时加工消息队列实时清洗实时画像衍生加工质量监控质量监控检索告警数据规范检索告警数据规范质量监控权限与加解密控制元数据任务调度资源管控服务监控数据资源数据资产知识资产数据获取数据获取>数据预处理>探索性分析>正<——<正