数据中台解决方案两份文件_第1页
数据中台解决方案两份文件_第2页
数据中台解决方案两份文件_第3页
数据中台解决方案两份文件_第4页
数据中台解决方案两份文件_第5页
已阅读5页,还剩70页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

数据中台解决方案目录Contents数据中台是数字化转型基础11“咨询+平台+实施”三位一体方案21.1数字化转型已成为国家政策1.2数字化转型的解读迎接数字时代,激活数据要素潜能,推进网络强国建设,加快建设数字经济、数字社会、数字政府,以数字化转型整体驱动生产方式、生活方式和治理方式变革。培育壮大人工智能、大数据、区块链、云计算、网络安全等新兴数字产业,提升通信设备、核心电子元器件、关键软件等产业水平……加快推动数字产业化12建立健全数据要素市场规则3实施“上云用数赋智”行动,推动数据赋能全产业链协同转型。在重点行业和区域建设若干国际水准的工业互联网平台和数字化转型促进中心,深化研发设计、生产制造、经营管理、市场服务等环节的数字化应用……统筹数据开发利用、隐私保护和公共安全,加快建立数据资源产权、交易流通、跨境传输和安全保护等基础制度和标准规范……推进产业数字化转型1.1中央人民政府:《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》着力夯实数字化转型基础建设基础数字技术平台(运用云计算、人工智能、数字孪生等新一代信息技术,探索构建适应企业业务特点和发展需求的“数据中台”“业务中台”等新型IT架构模式)建立系统化管理体系构建数据治理体系(加快集团数据治理体系建设,加强数据标准化、元数据和主数据管理工作,定期评估数据治理能力成熟度……)提升安全防护水平打造行业数字化转型示范样板加快推进产业数字化创新多措并举确保转型工作顺利实施推进产品创新数字化(打造差异化、场景化、智能化的数字产品和服务……)推进生产运营智能化(推进物联网、大数据、人工智能、数字孪生等技术规模化集成应用,实现作业现场全要素、全过程自动感知、实时分析……)推进用户服务敏捷化推进产业体系生态化制造类企业数字化转型示范(以智能制造为主攻方向,加快建设智能工厂、数字化车间、智能钢厂等智能现场,推动装备、生产线和工厂的数字化、网络化和智能化改造……)能源类建筑类服务类制定数字化转型规划和路线图协同推动数字化转型工作做好数字化转型资源保障1.1国务院国资委:《关于加快推进国有企业数字化转型工作的通知》数字化建设三大机会点应用上云用数赋智产业互联1.2数字化转型解读1.3数据中台是一套解决方案数据中台是一套可持续“让企业数据用起来”的机制,是一套解决方案,不仅是一个平台。让数据更加灵活地支撑前端业务,通过持续沉淀企业数据复用能力形成数据从采集、治理、开发到数据服务的一整套数据使用的机制。平台能力数据采集存储满足企业各类型数据的采集存储数据治理开展治理,沉淀数据资产数据服务可对外提供数据,实现共享数据开发支撑数仓建设、数据处理计算、数据分析挖掘等咨询服务实施服务平台搭建数据资产建库数据治理数据分析应用战略与目标数据应用规划数据规划平台规划组织、流程、规范监控与优化目录Contents数据中台是数字化转型基础11“咨询+平台+实施”三位一体方案22.1数据中台咨询规划2.2数据中台软件平台建设2.3数据中台实施“咨询+平台+实施”三位一体中台建设方案“咨询+软件平台+实施”三位一体确保数据中台成功建设:咨询服务:顶层设计,确定数据战略和数据规划,绘制蓝图,指导中台建设实施。软件平台:中台战略的承接载体,实施工作的支撑工具。实施服务:数据中台落地的关键保障。数据中台咨询规划数据战略愿景/使命/目标组织流程制度数据架构规划数据标准体系平台规划及技术选型数据质量体系数据服务需求分析数据安全体系数据中台规划的核心内容是确定企业的数据战略,以及为达成战略目标所需要的组织保障(组织、流程、制度)、数据保障(数据架构、数据安全、数据标准、数据仓库、数据质量、数据服务)和技术平台保障。组织规划数据规划数仓分层数据模型设计指标体系设计数仓体系数据治理体系数据服务体系数据服务规范数据服务管理制度平台规划数据管理能力成熟度评估数据现状调研调研项调研关注点业务调研业务战略、组织架构及其职能、主价值链业务、业务对数据的需求数据战略及数据治理调研信息化现状、信息化对数据的需求、数据治理组织、数据制度数据架构调研数据模型、数据分布、数据集成与共享(现状、需求)、元数据管理数据应用调研数据分析、数据开放共享、数据服务数据安全调研数据安全策略、数据安全管理、数据安全审计数据质量调研数据质量需求、数据质量检查、数据质量分析、数据质量提升数据标准调研业务术语、参考数据和主数据、数据元、指标数据数据生存周期调研数据需求、数据设计和开发、数据运维、数据退役数据现状调研报告长期目标中期目标短期目标数据战略数据战略:与业务战略保持一致长期目标中期目标短期目标业务战略透明化管理、业务协同、降本增效业务创新与转型全球领先的轨道交通系统解决方案供应商数据满足基本的管理决策和业务协同需求数据促进业务创新与转型在数字化竞争生态中处于领军地位CDO数据管理委员会数据管理工作组各专业业务专员IT技术支持人员数据管理监督人员数据管理联络人员各部门负责人跨职能高层领导相关领域专家数据管理组织整体负责数据管理工作的开展、政策的推广和执行,并作为数据管理问题的最终决策组织解决争议,监控和监督数据管理工作的绩效,并确保数据治理工作预算支持。根据数据管理领导组的战略目标,建立数据管理流程,阶段目标、计划,制定和维护数据管理方法、总则、工具、框架,对跨部门和领域的数据问题和争议进行解决和决策。根据计划完成数据标准管理、数据架构管理、数据安全管理、数据质量管理、元数据管理、主数据管理、数据仓库管理、数据服务管理等活动。数据管理制度与流程序号数据管理领域制度与流程1数据标准数据标准管理制度2数据标准制定需求提请流程3数据标准制定流程4数据标准修订&停用流程5元数据元数据管理制度6元数据采集命名规范7数据元管理制度8元数据管理变更流程9企业数据分类分层维护流程10数据元维护流程11数据元使用流程12数据建模企业主题域划分规范13企业数据模型设计规范14主题域维护流程15数据模型维护流程16主数据主数据管理办法/规范17主数据创建流程18主数据变更流程19主数据停用流程20数据架构数据架构规范序号数据管理领域制度与流程21参考数据参考数据管理办法/规范22参考数据维护流程23参考数据使用流程24指标数据指标数据标准管理规范25指标数据标准体系管理规范26指标数据分类维护流程27指标数据字典维护流程28指标维护流程29数据质量数据质量管理办法30数据质量规则定义规范31数据质量评价办法32数据质量改进贡献度评价考核规范33数据质量管理流程34数据集成数据服务管理办法35数据集成规范36数据服务上架流程37数据服务下架流程38数据安全数据安全管理办法39数据加密标准和机制40外部供应商的数据访问指南序号数据管理领域制度与流程41数据安全通过互联网的数据传送协议42远程访问规范43安全漏洞事件报告规程44数据采集授权流程45数据访问授权流程46数据备份流程47数据恢复流程48数据仓库数据仓库建模规范49数据仓库数据接入规范50数据仓库数据共享规范51数据仓库建模流程52数据仓库数据接入流程53数据仓库数据共享流程54数据使用及考核评价数据入湖贡献度评价考核规范55数据认责考核评价办法56数据政策考核评价办法57数据管控考核评价办法58数据需求提请流程数据架构数据架构业务架构业务领域业务职能业务流程应用架构主题域划分数据主题域数据主题数据业务视图数据实体数据所在业务域,如:研发创新域、生产制造域、营销销售域等数据主题细分,如营销销售域可细分为:市场营销|、客户管理、销售管理等业务视角的数据对象(用户视图),如:销售计划、销售合同、销售订单等系统中实体表,如:销售凭证头表VBAK、销售凭证行数据VBAP数据模型系统功能数据库数据实体属性(表字段),如:销售凭证、凭证类型、销售组、产品组、订单数量、单价…数据分布地图数据流向图数据实体识别以企业业务架构和应用架构为输入,规划设计企业数据架构,主要内容包括数据主题域和主题划分,数据实体识别和企业级数据模型设计,数据流向梳理和数据分布地图绘制。数据标准数据标准元数据标准业务数据标准指标数据标准参考数据标准明确元数据属性的基本组成和含义(中文名称、英文名称、数据类型、值域…)明确参考数据类别及其值域代码名称…00正常…10试制…明确指标数据基本信息、统计信息、口径信息、管理信息的数据元及其属性(指标名称、统计维度、归口部门、数据来源…)对核心业务数据元的标准化(姓名、公民身份号码、性别名称、性别代码…)数据质量定义数据质量评判规则设计数据质量分析指标建立数据质量考核机制确定质量权责和流程规范权责认定:为前期梳理的每一类数据资产确认权责部门,如:人员数据的质量问题由人资部门牵头处理流程规范:设计数据质量相关问题发现、反馈、分析、处理、闭环验证和质量工作考核相关的流程规范技术规则:从数据库存储的物理维度定义技术规则,如数据类型,数据编码,主键等业务规则:从业务维度定义业务规则,如:值域范围、数据格式、业务关联逻辑、计算逻辑等评估策略:确定各类数据质量检查频率及范围质量分析指标:明确数据质量问题的统计规则,设计质量分析维度和分析指标,以全面、直观展示数据质量问题质量预警机制:设计数据质量预警机制,包括预警方式、预警指标、预警值、预警信息规则等设计考核指标:设计数据质量考核指标体系,对企业数据质量治理工作进行定量评价建立考核机制:根据考核指标定期对企业数据质量治理工作进行考核,促进企业数据质量治理工作持续健康开展数据安全以数据安全管理组织、流程和制度为基础保障,分析企业在数据全生命周期的不同阶段的安全需求

,设定相应的管控策略,确保企业数据安全管理目标达成。安全需求分析数据安全管理组织、流程、制度企业自身业务需要利益相关方的安全需求政策、法规、监管要求全生命周期安全管控数据采集数据传输安全管理策略数据分类分级数据权限体系存储加密策略数据安全管理目标确保适当的数据访问,防止不当的数据访问确保对隐私保护、保密制度、法规的遵从传输加密策略数据脱敏规则安全日志审计数据存储数据处理满足利益相关方的隐私和保密需求支撑企业战略目标的达成数据交换数据销毁数仓分层设计面向业务主题的、整合的、反映历史变化的、稳定的明细数据面向数据来源各类异构数据源面向分析应用需求;高度汇总数据基于分析需求轻度汇总数据或合并企业数据仓库DWS(单主题轻度汇总数据)DM(跨主题高度汇总数据)ODS(原始数据)结构化数据数据分析应用DWD(业务明细数据)非结构化数据数仓各层数据形态示例维度模型:关系型数据库,BI统计分析;宽表模型:非关系型数据库,大数据分析。关系模型:给DM打好基础,保持灵活性、复用性宽表模型:直接用于展示,提高访问效率。数仓ODS层总体规划1、模型设计:1)模型与源头基本保持一致;2)分类上体现源头业务系统;3)保持数据关系;4)增加必要的标识属性。2、数据处理:不做数据处理。信息系统产生数据感知设备产生数据ODSETL工具(定时、复制)维护界面(不定期)服务接口/ETL工具(准实时)关系型数据库/MPP数据库/NoSQL数据库人工采集数据PDM产品物料设计BOM设计更改单…ERP设备需求订单生产订单生产计划…表面处理设备开关机信息加工状态信息…线下数据维修信息故障信息客户表扬信息…数仓DW层总体规划DWS业务主题库(轻度汇总层)DWD业务主题库(明细层)ODS缓冲库(贴源层)ERPMES外委外协供应链合同线下数据…物资主题采购计划采购订单入库单出库单供应商...生产主题生产计划数据(生产预测计划、年度生产大纲、主计划(批产、科研、修排贯)、生产订单(零件、毛坯、装配)、月度滚动交付计划…)生产保障数据(工装工具基本信息、工装工具领用记录、工具工装修理记录、动能申请记录、设备故障记录、设备三级保养记录…)生产执行数据(关键设备安排任务表、生产入库记录、车间作业计划、工序完成反馈、生产问题记录…)…人资主题组织机构人员…财务主题物资主题生产主题科研型号月度完成情况、批产型号月度完成情况、生产准备月度完成情况、外委外协月度执行情况、月度物料平衡会问题进度情况、月度生产现场有关物料督办问题的处理进度情况、月度工时数量…ETL(定时、数据过滤、数据类型标准化、编码转换、量纲统一、数据去重、数据汇总等)ETL非结构化数据服务接口(数据解析)/维护界面1、模型设计:1)数据属性范围;2)时间属性;3)派生属性;4)数据粒度;5)分离数据。2、数据处理:1)数据过滤;2)数据类型标准化;3)量纲标准化;4)去除重复;5)编码映射。数仓DW层数据模型数据模型特点:明细数据区和轻度汇总数据区。按业务分主题进行设计。明细数据区每个实体原则上都要加相应的时间戳。轻度汇总数据区的模型设计依赖于分析需求。数据仓库模型是符合3NF

的带有时间戳的关系模型。建立编码映射表,用于进行有关编码转换。数仓DM层总体规划DM分析数据库(高度汇总层)DWS业务主题库(轻度汇总层)DWD业务主题库(明细层)物资主题采购计划采购订单入库单出库单供应商...生产主题生产计划数据(生产预测计划、年度生产大纲、主计划(批产、科研、修排贯)、生产订单(零件、毛坯、装配)、月度滚动交付计划…)生产保障数据(工装工具基本信息、工装工具领用记录、工具工装修理记录、动能申请记录、设备故障记录、设备三级保养记录…)生产执行数据(关键设备安排任务表、生产入库记录、车间作业计划、工序完成反馈、生产问题记录…)…人资主题组织机构人员…财务主题物资主题人资分析主题物资分析库科研型号年度完成情况、批产型号年度完成情况、各系列各机型年度责任令完成情况、各军种年度完成情况、科研任务年度总体情况以及各机型年度科研任务项完成情况、年度工时数…生产分析主题生产主题科研型号月度完成情况、批产型号月度完成情况、生产准备月度完成情况、外委外协月度执行情况、月度物料平衡会问题进度情况、月度生产现场有关物料督办问题的处理进度情况、月度工时数量…ETL(数据合并、数据汇总)ETL(数据合并、数据汇总)1、模型设计:1)数据合并;2)数据汇总。2、数据处理原则:1)数据合并;2)数据汇总。数仓DM层数据模型数据模型特点:完全基于需求建立,它的主题域、主题的划分与DW层不同;主题划分有两种类型:为企业主管层面服务的综合分析类主题;为企业业务主管层面服务的专业分析类主题;数据分为两类:一类是基于数据仓库的细节数据或轻度汇总数据进行的统计分析,另外一类数据是基于统计分析进一步分析挖掘的数据;数据集市模型通常采用星形模型建模。采购完成情况日期ID物料ID采购数入库数供应商ID采购员ID供应商某公司人员张三年月日201415物料分类物料紧固件螺栓维度模型跨主题宽表模型指标体系设计指标梳理需求来源内部管控专题会议预测分析数据报送需求输入公司考核KPI上级单位下发文件客户关注/检验点业务域流程文件集团考核KPI公司级例会材料专题例会材料给上级汇报材料指标体系业务域管理主线业务域管理业务场景及受众对象业务场景对应关注指标梳理各业务域的业务主线自上而下分解业务场景并梳理关注指标自下而上关联业务场景并提炼关注指标设计原则名称统一定义统一口径统一来源统一参照统一设计要求提供方式以系统自动提供为主,手工补录为过渡辅助提供时限以满足实际业务需求为依据数据要求提供明细数据及计算公式尽可能提高指标数据频度指标体系示例战略管控战略发展人力资源管理财务资本运营审计与风险管理科技质量网络信息化安全重点亏损企业累计减亏率集团公司损失风险容限单位子公司产权状况军工项目整体预算执行率营业收入利润总额净利润营业收入利润率人才引进总数人才引进学历成分占比全员劳动生产率人均利润“三供一业”分离移交补助”僵尸企业”处置补助率率特困企业治理补助工业企业专项奖补资金集团公司风险容限集团领导批示的重大报告数盈利户数资产负债率科技活动经费支出总额基础数字经济总体规模品牌价值研究投入占比…

…战略规划改革管理人才发展财务管理劳动薪酬资本运作产权管理审计指标风险管理标准化信息化…………………………集团公司整体产业板块企业清理参股主要经营目标资产及负债两金规模亏损情况…

…人才引进人才培养用工管理劳动关系产权增减情况产权存量情况资产证券化规模重大风险监控财务决算审计编制标准数量信息化投入信息化业务覆盖度信息化资产…

……

……

……

……

…业务板块业务主题业务主题评价项战略管控指标内控指标/报送指标数据服务体系服务需求分析业务协同及流转需求数据分析应用需求数据流向内部管控专题会议预测分析数据服务规范服务方式数据格式服务交互规范数据服务管理制度服务申请与开发流程服务授权与上线流程服务下线流程数据服务的需求来源包括业务协同和流转需要、数据分析应用(业务分析和优化)需要两个方面。基于服务需求,制定相应的服务规范和服务管理制度。DMDWSDWD数据管理能力成熟度评估GB/T36073—2018《数据管理能力成熟度评估模型》咨询规划服务一套企业数据架构一套数据治理体系建设路线规划一张数据流向图一张数据分布地图一套企业核心数据实体一套企业业务域一套数仓体系四大类数据标准体系30+数据管理流程30+数据管理制度一套组织架构数据中台建设路线规划数据管理能力成熟度评估数据平台选型建议书株车数据中台软件平台框架规划咨询规划模块--数据架构规划咨询规划模块数仓体系规划规范与制度管理组织与角色管理数据管理能力成熟度评估治理实施模块--数据标准管理对数据元标准、枚举项标准和标准文件进行统一的线上、结构化管理与检索;标准起草、审批、发布、修订、废止全生命周期管理;数据标准与实际数据对象进行关联,对标准的实际执行情况进行评估和监控。治理实施模块--数据标准管理治理实施模块--元数据管理元数据管控元数据采集元数据统一服务新增导入抽取元数据统一检索元数据血缘追溯元数据分布地图版本管理状态管理流程审批变更自动感知接口采集数据来源/存储位置数据分类/数据主题数据模型数据关系(血缘、引用)元数据标签数据管理与应用规则业务对象/过程数据库表数据记录业务解释标准化数据定义元数据内容元数据管理功能治理实施模块--元数据管理治理实施模块--数据质量管理质量评估质量控制前置数据录入数据导入集成接入已有数据不符合规则的数据不进入平台质量评估评估报告脏数据明细数据自动清洗低分/异常预警质量情况统计质量问题质量规则规则定义权重分配完整性相关性唯一性一致性及时性准确性真实性......根据业务需要自定义数据质量规则,对数据进行前置质量校验以及周期性质量稽查,自动发现数据质量问题,生成质量分析报告,并进行针对性清洗和整改,解决用户明知数据质量差却不知从何下手治理的困境。帮助企业沉淀高质量的数据资产,支撑数据价值变现。数据存储数据存储导出数据时静态脱敏访问数据时动态脱敏、三员管理、系统口令认证、数据设定密级、用户设定密级、权限控制、审计日志记录存储数据时进行敏感数据加密数据消费者传输数据时进行敏感数据加密、接口授权按照备份策略进行数据备份及恢复验证治理实施模块--数据安全管理治理实施模块--数据安全管理敏感发现敏感标签智能扫描敏感推荐元数据数据文件敏感信息涉密信息密级管控数据密级文件密级人员密级数据加密加密存储加密传输数据脱敏脱敏查看脱敏传输密级应用密级过滤密级匹配安全监控敏感信息分布敏感数据访问情况敏感信息处理情况数据权限体系(库、分类、表、列、行等全方位数据权限管控)三员管理(三员权限隔离,数据安全审计)治理实施模块--数据安全管理治理实施模块--数据地图显性化、全方位、多维度展现企业数据资产积累、分布和运营管理情况,包括资产大盘、元数据、数据标准、数据管理、数据质量、数据交换、数据安全等维度的监控与统计分析。企业数据资产运营情况一望可知。数仓实施模块--基于数仓的指标加工过程ERPBWMAKTMARATSPATJESTAUFKAFPOods_sap_makt_diods_sap_mara_diods_sap_tspat_dfods_sap_afpo_diods_sap_aufk_diods_sap_jest_diods_bw_zppt_werks_zrbm_dfdwd_org_man_dep_dfdwd_temp_mat_spart_dfdwd_prd_pp_order_del_dfdws_prd_finishquan_month_dftdm_prd_scddzx_mtrend_dsERPERPERPERPERPdwd_sap_afpo_df物料描述/2,889,255物料主数据/2,884,915产品组描述/29,106生产订单状态/2,144,937,805生产订单主数据/21,730,430生产订单行项目/21,721,351工厂与责任部门对照表/124,886订单明细表物料主数据表明细表API生产订单行项目生产订单执行情况明细表ZPPT_WERKS_ZRBM数据源贴源层ODS整合明细层DWD汇总层DWS集市DM应用需求生产订单执行情况工厂与责任部门对照表月度生产订单执行情况表通过物料关联通过订单号关联指标与维度数仓实施模块--数据采集与加工web端拖拽式、可视化的数据开发工具,摆脱数据库SQL脚本、ETL工具、EXCEL公式函数等复杂、繁琐、技术难度高、难维护的数据处理方式。业务人员也可轻松玩转数据,激活数据价值自由探索通道。指标数据源数据库数据采集库表接入配套准时率出货目标达成率新增订货计划值质量问题闭环率数据血缘影响分析全链分析血缘分析接口数据线下数据接口接入线下补录数据加工数据输入数据处理(连接、过滤、合并、拆分、聚合、转化、赋值等)数据输出……数据服务模块--数据资产目录数据开放共享的窗口,用户可基于资产目录进行全局数据检索访问、数据订阅以及API服务接口申请。改变企业数据沉积在数据库底层不可见、难管理、难获取、难理解、难使用的现状,激发用户发掘数据价值的积极性和效率。元数据管理数据管理文件管理数据主题管理主题定义数据目录管理资源关联目录自动生成目录属性补录数据资产目录资产检索数据查看

数据结构查看数据订阅数据标签业务系统数据流向地图数据服务模块--数据交换服务BI可视化生产计划大屏质量保障大屏数据仓库生产计划主题分析售后服务主题分析质量保障主题分析研发计划主题分析生产计划完成率生产计划延迟率服务保障及时性售后服务满意度质量合格率质量改进趋势研发任务完成率研发改进计划执行率数据服务发起订阅申请订阅审批服务封装与授权服务发布服务监控采购订单获取接口MBOM接口库存台账接口物资采购订单接口设备采购单接口设备检验台账接口生产计划完成率指标接口采购及时率指标接口产品质量合格率指标接口质量改进趋势指标接口售后服务满意度指标接口客户投诉统计指标接口……接口ERP设备管理系统……系统调用接口获取数据数据服务模块--数据服务数据分析应用模块--数据可视化企业报告DM(高度汇总层)DWS(轻度汇总层)DWD(明细层)人资分析主题物资分析库ETLETL人资主题生产主题物资主题人资主题生产主题物资主题生产分析主题领导驾驶舱主题分析明细报表数据分析应用模块--数据可视化从数据源添加数据数据预处理场景发布场景实现②①③④数据分析应用模块--数据挖掘分析数据处理分析成果数据门户业务应用模型仓库随机抽样缺失值处理表转置异常值检测机器学习统计分析文本分析深度分析多维分析可视化分析数据分析场景故事模型经营管理领导驾驶舱专题分析专项问题分析业务实时监测……科研生产产品性能优化工艺改进质量改进产能提升……运维服务预防性维修远程运维设备寿命预测……数据仓库实时数据接入……DM(高度汇总层)DWS(轻度汇总层)DWD(明细层)人资分析主题安全库存专题ETLETL人资主题生产主题物资主题生产分析主题人资主题生产主题物资主题数据分析应用模块--数据挖掘分析分类算法决策树SVM随机森林自动分类回归算法线性回归神经网络保序回归自动回归聚类算法KMeans层次聚类视觉聚类自动聚类关联规则AprioriFPGrowth序列协同过滤时间序列ARIMAX12指数平滑自动时序综合评价熵值法层次分析Topsis模糊综评文本分析分词情感分析信息抽取主旨主题统计分析数据分布相关系数典型相关方差分析深度学习DNNRNNLSTMTensorFlow集成学习BaggingXGBoostGBDTVoting分布式算法

文本算法算法类型独创算法实施服务买软件?认为建设数据中台就是买一套软件产品。数据治理与数据中台是两件事?数据中台建设也包括数据治理开展。中台=数字化?认为建设数据中台就具备了数字化转型的能力,什么能力并不明确。名词陷阱数据中台?数据湖?数据中心?数据仓库?数据中台建设遇到的典型误区数据中台建设建议坚持“业务牵引,咨询、平台、实施三位一体推进”原则以满足相关业务应用需求为目标总体规划按需搭建平台基于平台敏捷实施遵循“横向规划,纵向切入”建设模式规划必须全盘考虑,打通企业的所有业务板块数据中台建设不可能一蹴而就,需要从业务应用出发倒推数据需求围绕单个业务场景的闭环快速搭建起数据中台的各种能力按照全景规划依次迭代,逐步实现全局数据中台谢谢聆听Thanks制造企业数字化中台(技术中台、数据中台、业务中台)建设方案整理制作:郎丰利1519制作时间:2023年睿利而行整理制作:郎丰利1519制作时间:2023年睿利而行整理制作:郎丰利1519制作时间:2023年睿利而行数字化中台总体解决方案基于自主技术方案构建,打造现代科技供应链,从全产业链视角解决企业智能制造面临的问题,满足企业端到端业务及管理集成需求门户安

全场景解决方案企业客户中心开发者(企业&个人)中心第三方应用中心平台订单服务平台运营区域子门户多语言市场研发SRMTMSWMSMES设备服务招标竞价供应商管理绩效考核质量改善车辆管理收货管理线路管理定位管理司机管理发货管理订单管理结算管理入库收货物流合并工单排产ESOP设备管理故障诊断态势预测法律法规应用安全数据安全工控安全网络安全物理灾备工业应用前台SCRM协作研发工艺仿真物流路线管理

拣货复核生产作业质量管理SPC条码管理返工、维修车间看板精准营销在库管量工单发料装车出库盘点管理设备监控故障派单用户服务权限服务工厂规化服务

工艺路线服务设备管理服务

业务流程服务采购审批服务PDA管理服务储位管理服务系统日志服务接口管理服务C-业务中台B-数据中台组织服务物料数据服务预警推送服务系统参数服务APP管理服务数字化中台数据湖数据仓库可视化元数据管理数据质量多因子分析数据地图数据血缘数据引擎平台(含AI引擎)数据开发平台数据分析平台数据服务平台设备接入平台消息路由平台规则引擎平台设备管理平台微服务治理平台微服务框架服务集成平台流程引擎API网关开发社区服务容器管理服务实时监控服务移动推送服务移动应用平台A-技术中台应用开发平台CI/CDIaaS服务器资源及虚拟化分布式存储动态网络多数据中心群集管理多租户管理公有云部署高频数据采集私有云部署能源仪表边缘端PLC网关

工业协议解析库设备接入5G/NB-IoT/eMTC傅里叶变换

工艺采集A-技术中台架构技术中台是为中台服务提供高度模块化零件库和武器库,大幅缩短业务中台建设时间,提高业务中台稳定性。通过技术下沉,把最标准的东西沉淀出来,快速稳定响应是技术中台一个核心能力,技术中台的价值是高效、稳定和低成本。技术中台的演进路线是从领域化、到标准化,最后走向平台化,相对应的目标分别是快速、稳定、数字化。监控组件微服S

entinel知识管理敏捷管理开发流水线测试管理部署流水线运营管理低代码开发组态工具业务服务微服务开发Skyworking

务微服务组件IAM服务网关Devops组件Grafana注册服务Event服务HarborNexusPrometheus通用基础服务配置中心认证中心GitLab/JenkinsChartmuseumSonarQubeHygieiaKibanaElas

tics

earchLogstash服务管理JOB服务JOB服务MySQLRedisKafkaZooKeeperRedis基础组件Kubernetes/容器系统资源主机存储网络A-技术中台协作架构技术中台,是基于

Kubernetes

的容器编排和管理能力,整合

DevOps

工具链、微服务和移动应用框架,来帮助企业实现敏捷化的应用交付和自动化的运营管理,帮助企业聚焦于业务,加速数字化转型。平台通过提供精益敏捷、持续交付、容器环境、微服务、DevOps等能力来帮助组织团队来完成软件的生命周期管理,从而更快、更频繁地交付更稳定的软件。A-技术中台-立体化的业务生命周期管理平台K8S容器服务业务APPDevOps测试平台API网关代码仓库故障演练测试集群联调集群生产集群统一认证API鉴权API限流流量分流/镜像故障隔离API审计分析API测试微服务框架故障重现故障突袭故障分析压力测试服务注册/发现服务路由生产服务运营…服务N镜像仓库服务服务熔断服务容错服务降级负载均衡动态配置服务限流服务审计服务监控CIAgentAgentAgentCD注册中心控制中心配置中心APM立体化全链路监控应用健康状态服务链路跟踪告警关联分析智能极限阈值慢响应统计错误请求快照异常智能定位基础设施监控业务指标监控应用性能监控指标异常检测A-技术中台-低代码应用开发技术低代码开发工作表统计报表通过工作表把业务数据在线共享,建立数据关联。快速制作各类统计图表,洞察业务情况。触发器角色权限设定一个触发器,让符合此条件时就会自动运行工作流程。一条数据,谁能查看,谁能修改,谁能删除,都能自由设定。如何快速开发一个应用配置用户的角色权限为工作表分组制作统计图表创建应用名称,主题色和图标等010203040506应用发布在工作表下创建视图配置工作流创建需要的工作表B-数据中台-形成数据资产发挥数据价值,为前台业务赋能数据中台从后台及业务中台将数据汇入,进行数据的共享融合、组织处理、建模分析、管理治理和服务应用,统一数据标准口径,以AP

I的方式提供服务,是综合性数据能力平台。数据中台为前台业务部门提供决策快速响应、精细化运营及应用支撑等,让数据业务化,避免“数据孤岛”的出现,提升业务效率,更好地驱动业务发展和创新。数据中台包含数仓体系、数据服务集等,是一套数据运营机制,加速从数据到数据资产的价值转变,决策模式由“经验驱动”向“分析驱动”转变。业务数据化数据资产化资产价值化数仓体系数据服务集数据计算层数据资产层服务层离线计算实时处理流式计算Kafka数据转换数据清洗数据汇总ODS数据目录数据标签数据地图……API服务接口数据采集层数据应用层数据整合智能BI数据清洗数据沉淀数据治理层数据标准管理数据模型管理数据质量管理元数据管理数据资产管理主数据管理数据共享管理数据安全治理多维分析B-数据中台详细架构数据分析平台数据服务平台算法数据探索多因子分析业务模型……数据推送分析建模机理模型数据准备模型导入/出模型预测模型管理特征提取模型发布开放服务消息订阅微服务框架数据报表数据交换数据下载数据图表API&SDK接口管理数据移动化...微服务治理数据大屏数据开发平台数据库采集消息采集数据仓库数据权限程序执行算法模块拖拽式任务任务预警任务调度任务监控数据库推送分析平台推送文本日志采集网络爬虫采集元数据管理Sql统计多维分析推送...基础引擎平台数据采集分布式存储离线计算实时计算数据推送任务调度时序数据库OLAP数据库机器学习深度学习hive

onembulkhdfs/hbaseflinksparkjenkinsinfluxdbgreenplumsparkB-数据中台-产品应用让数据更好的服务于生产数据服务数据离线/实时在线分析建模大数据ETL开发利器数据服务平台数据分析平台分析数据开发数据开发平台B-数据中台-数据开发平台特点四大核心模块使用简单易懂的web端可视化零代码编程

界面、拖拽式交互操作就能实现PB级数据ETL开发人员不用再关心底层实专注业务现,只需关注业务问题,解决业务问题数据

数据

数据

数据源

仓库

工厂

探索高并发,分布式计算,分布式调度,让计算效率大幅度提升效率提升B-数据中台-数据开发平台-数据源丰富的数据类型APMPLM平台预置了常见的数据源类型,MySQL、Oracle、SQLServer、FTP、KAFKA等CRMFOASAPIOTMES无缝扩展适配SRMWMS平台可以根据业务方的不同定制扩展数据源类型,让数据无缝连接TMSERP外部数据的配置中心B-数据中台-数据开发平台-数据仓库优雅的数据分层统计表1统计表2依赖依赖根据数据库标准预先对数据进

分层

ODS(

)DWD(

DWS(汇

ADS(应用数据层)中间表依赖依赖依赖明细表3明细表1明细表2数据库<<属于>>独特的数据管理可以查询各个数据表的血缘管理可以随时随地上传和下载数据可以对PB级数据实时预览<<包含>>

<<包含>>>><<包含>><<包含>>删除上传/下载血缘关系数据预览B-数据中台-数据开发平台-数据探索数据仓库的

这里提供数据仓库的所有数天台据的统一查询天台对于亿级别的数据量级可以实现分布式查询并极速返回结果即席查询使用灵活的SQL语句和拖拽式结合实现

复杂的数据查询简易查询数据天台工业应用-多因子分析案例-快速找出品质异常关键因子•

随着面板产能持续提升和智能制造的快速推进,大量的生产数据实时传输收集成为可能,如何更好的利用数据服务生产成为关键任务设备参数关键参数•

运用多因子分析系统实现工厂数据智能、快速、准确分析,挖掘关键因子,建立关键制程的PMQ、EHM,同时将相关模型算法内化,提升内部数据分析能力品质异常参数手动查找自动监控智能分析多因子人工查找FDC单因子建模多因子分析建模设备工程师&制程工程师结合经验与异常解FDC系统针对单因子状态进行实时监控,发针对多因子交互影响进行分析,快速找出异常因析方法找到关键因子生异常可以及时拦截子,协助改善生产良率异常处理需6H加速异常case解析,快速分析出组合

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论