数据产品建设与赋能-外发版_第1页
数据产品建设与赋能-外发版_第2页
数据产品建设与赋能-外发版_第3页
数据产品建设与赋能-外发版_第4页
数据产品建设与赋能-外发版_第5页
已阅读5页,还剩28页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

盟拓数科朱XX

18XXXXX

2

5

16数据产品建设与赋能02

数据产品建设内容03

数据产品赋能案例

目录

01

数据产品建设价值

数据产品是数据要素流转的基石(标准、质量、安全)数据要素特点:多次赋能,价值倍增数据产品数据资源数据业主源数据数据标准、数据质量、

数据安全、应用场景直接消费

再加工消费降本增效产品竞争力企业需

求社会需求形成供应满足需求数据消费方数据产品供需21数据资源数据

资产化数据产品资产

价值化

数据产品是数据资产价值化的重要载体数据资产

金融资产价值评估数据业主源数据数商数据质量、应用场景数据交易数据资产入表银行融资、贷款评估机构资产估值交易所登记数据消费方21会计审计律所合规金

融价

展使

用价

优化报表01

数据产品建设价值02

数据产品建设内容

目录

03

数据产品赋能案例数据产品数据资源

.数据产品建设-如何选择合适的数据产品直接消费

再加工消费降本增效产品竞争力企业需

求社会需求数据标准、数据质量、

数据安全、应用场景需求分析,

找出数据消

费场景资源盘点,

识别出高价值数据21数据需求源数据自动采集自动生成“

盘家底

-

基于元数据构建数据资源目录基于全面的元数据信息,可构建多视角的企业数据资源目录,清晰的展现出企业拥有的数据内容、数据量、数据价值、数据存储位置以及数据归属和责任人,帮助企业掌握其拥有的所有数据及数据价值,为企业进行数据使用、数据价值挖掘以及数据保护提供指

导依据,同时指导企业进行数据规划和数据体系搭建。元数据应用元数据库数据源数据湖仓数据任务BI平台API服务业务系统管理系统辅助系统业务元数据技术元数据管理元数据数据资源目录数据血缘数据资源门户手动采集直接消费:银行风控需求、行业分析需求、业务查询需求社会需求再加工消费:大数据公司需求、数据服务公司需求

“找场景

分析数据需求,理清数据产品的应用场景和内容决策支持、研发效率提升、生产成本减低、营销能力提升企业需

求应用场景丰富数据安全可靠1

数据标准统一2数据质量合格数据产品

.数据产品建设-如何打造合格的数据产品数据质量过关数据安全可控平台功能强大关键举措关键点特性有用好用可用43管理制度工作责任书数据质量监控数据清理策略数据治理制度组织保障安全制度安全组织安全技术安全预案申请流程修改流程归档流程标准化管理组织标准化管理岗位标准化专家团队客商分类、客户、供应商

…生产物料、设备

…数据标准统一

/

数据标准内容历史数据清洗数据集成数据平台搭建开放API服务正式人员、虚拟人员外部、岗位

……数据管理组织国家、地区、汇

·

币种

·

…行政组织/法人组织/

核算组织、部门

……核算科目/收支项目/

辅助核算、银行

……人员基础组织财务1数据管理规范

·制度数据治理体系数据管理流程安全架构体系管理制度规范数据平台数据字典数据标准编制依据国际标准(ISO、ITU...)国家标准(GB、GB/T)行业标准(YD、YD/T、T/T...)同行标准(

Q/GDw...)自编标准指标梳理(行业管理实践、企业管理特点)基础数据盘点(管理信息系统/业务信息系统...)基础数据标准数据标准统一

/

多层级数据标准

信息化视角:基于已有数据,从业务和流程的角度,盘点基础数据

管理视角:基于成熟管理体系、经验,梳理指标数据•数据资产建设对数据标准提出了更高的要求。•数据要素的流转需要数据标准的支撑。1维度指标标签目录基础数据项公共代码管理数据标准•主数据定义业务数据的操作对象,并且定义了这些数据在系统中作为操作对象的属性业务数据类型•这些报表由各类指标型数据所组成,依赖事务性数据国家、地区、货币、计量单位关键基础数据•事务型数据依赖于主数据和条件型数据•条件型数据一般出现在特殊情况或场景下,例如在某一个特定阶段定义一种特定的价格等项目、地块、分期、产品、楼栋、组织、

人员、客户、供应商、科目、材料主数据事务型数据条件型数据数据标准统一

/

业务数据类型1•定义系统中相对静态的基础数据指标数据采购订单维修工单销售订单销售价格BI报告报表

数据标准统一

/

主数据字典n

企业类型有限责任公司

股份合作企业

国有内资企业

外资企业n

行业性质金融业房地产信息科技产业

制造业餐饮服务业n

姓名n

证件类型n

性别n

证件号码n

籍贯n

客户名称n

企业类型n

行业性质n

营业执照编号

n

税号n

法人姓名n

所属业态n

组织名称n

员工名册

n

员工号n

项目名称n

分期名称n

楼栋名称

n

单元n

楼层

n

房号n

证件类型大陆身份证

香港身份证

澳门身份证

护照n

性别男女n

供应商类型

供应商

外部供应商n

供应商等级

ABCDn

资源位置

外墙电梯楼顶广场n

资源类型

广告位

展位n

员工状态在职离职n

部门财务运营工程n

金融机构名称

高盛摩根大通摩根士丹利

花旗银行n

业态n

建筑面积n

用地面积

n

国家n

省/直辖市

n

市/区n

县n

国家中国新加坡加拿大n

业态住宅写字楼

酒店n

供应商名称n

供应商简称n

供应商类型n

合同名称n

合同编号n

供应商等级n

项目名称n

分期名称n

楼栋名称

n

单元n

资源类型n

资源位置

n

编号n

项目状态

未交付已交付n

装修属性

毛坯精装企业客户主数据个人客户主数据人力主数据房产主数据采购主数据资源主数据财务主数据基础域主数据n

公司类型n

核算对象n

核算科目n

银行账户一级二级1三级统

理管理对象通过统一标准和架构规范,统一术语、统一模型、统一信息项,解决数据口径解释不清晰、业务和数据理解不一致等问题,实现数据在架构层面的统一展示与解析数据标准规范文档管理构建数据表命名规则库常用词汇命名

常用字段命名表/逻辑表/过程/视图数据标准统一

/

非业务数据标准存量模型

参考执行

统一命名建议

新建模型必须执行

统一命名建议

但并非所有基础类数据都要建立标准,纳入标准的数据项需要满足共享性、重要性和可行性的准入原则。对应逻辑模型命名管理对应逻辑模型命名管理12、标准发布4、效果回溯1、标准制定3、规范执行建模工具完善标准模型规范业务信息识别业务流向命名规范

落地标准实体匹配管理建模管理•数据质量管控以业务需求为驱动,通过数据质量计划、监控、评估、改进的循环,持续提升数据质量,达到数据质量结果满意。•通过制定数据质量管理制度,构建完整的数据质量管理组织、流程和工具,支撑数据质量管理工作,使数据质量管理系统化、持

续化、常态化01

02数据质量体系

整体框架04

03数据质量计划•

明确数据质量提升目标•

识别数据质量评估范围•

定义数据质量评估维度•

设计数据质量规则数据质量改进•

数据质量问题收集•

数据质量问题分析•

数据质量问题整改数据质量监控•

事前设计质量•

事中执行质量•

事后持续运营数据质量评估•

数据质量评估任务•

数据质量评估方案•

数据质量评估报告治

理需

求数据质量合格

/

数据质量体系

量提

2•数据质量管理遵循源头治理、闭环管理的原则。•

源头治理方面,在新建业务或IT系统过程中,明确数据标准或质量规则,采用“一数一源”原则,与数据生产方和数据使用方确认。•闭环管理方面,通过形成覆盖数据质量需求、问题发现、问题检查、问题整改的良性闭环,对数据采集、流转、加工、使用全

流程进行质量校验管控,持续根据业务部门数据质量需求优化质量管理方案、调整质量规则库,构建数据质量和管理过程的度

量指标体系,不断改进数据质量管理策略。

数据加工流转

数据源

ODS

CDM

ADS数据共享数据共享稽核及时性、关键指标检验、重

致性、分布、波动、逻辑校验数据仓库稽核及时性、唯一性、一致性、分布、波动、逻辑校验复、一及时性、格式、空值、重复、编码映射变更、完整性、分布、波动、

逻辑校验数据质量合格

/

数据质量治理2接口稽核质量评价效率低不权威不便捷缺少公信力,效率低,成本高评价不客观:数据质量评价大多通过专家手工评分解决。评价效率低:数据质量报告不能自动生成。操作繁琐:数据质量评价指标和规则自主定义复杂。不客观不明细不智能整改效率低:数据质量评价报告无明细问题分析。缺少公信力:数据质量评价没有统一行业标准。数据质量合格

/

数据质量评价疼点2有系统

情形无系统

情形一键出评估报告更高效数据质量合格

/

数据质量评价平台数据模型更权威评价指标内置国家标准评价引擎及时性可用性一致性数据更新及时性重复性波动性检查交叉验证外键检查数据访问及时性内容一致性主键检查逻辑关系有效性可访问性可使用性时序性测量单位一致性数据处理及时性聚合日期汇总

一致性数据接收及时性准确性规范性完整性参照完整性内容格式接收完整性业务规则内容完整性数据标准非空检查质量监控评价报告评价维度数据

资源评价

规则AI规则

自适应更智慧2数据分类分级按照数据分类管理、分级保护的思路,依据以下原则进行划分:

合法合规原则:数据分类分级应遵循有关法律法规及部门规定要求,优先对国家或行业有专门管理要求的数据进行识别和管理,满足相应的数

据安全管理要求。

分类多维原则:数据分类具有多种视角和维度,可从便于数据管理和使用角度,考虑国家、行业、组织等多个视角的数据分类。

分级明确原则:数据分级的目的是为了保护数据安全,数据分级的各级别应界限明确,不同级别的数据应采取不同的保护措施。

就高从严原则:数据分级时采用就高不就低的原则进行定级,例如数据集包含多个级别的数据项,按照数据项的最高级别对数据集进行定级。

动态调整原则:数据的类别级别可能因时间变化、政策变化、安全事件发生、不同业务场景的敏感性变化或相关行业规则不同而发生改变,因

此需要对数据分类分级进行定期审核并及时调整。数据秘密数据公开数据外部公开数据数据安全可控

/

数据安全分级分类方法,五大原则数据安全分类分级流程数据安全分类分级结果可通过数据资产管理平台对海量数据资产进行自动分类分级敏感识别数据资产分类

(自动+手动)梳理数据资产架构数据资产分级梳理企业业务架构业务流程3经营

理客户数据分类标准业务域数据的映射安全分级标准安全分级标准③元数据注册/权限同

步QuickBI⑥统一授权OA系统数据资产管理平台④权限申请/批量授权数据准备数据权限申请、授权、回收权限审批①

同步账号:

集成IAM系统同步账户(按需),统一账号体系,支持单点登录;②

密级入湖:

业务数据需先评定安全等级才可入湖;③

元数据注册/权限同步:

采集Hive/StarRocks/QuickBI等元数据信息至资产管理平台,⑤

集成OA系统:

支持根据不同密级发起不同审批流程;⑥

统一授权:

数据资产管理平台统一进行数据资源授权;⑦

风控审计:

资产管理平台读取湖仓平台审计日志,进行风控同步现有数据权限信息至资产管理平台;④

权限申请/批量授权:

数据资产管理平台提供统一数据权限申请和主动批量授权机制;数据安全可控

/

数据授权管理StarRocks权限申请(库/表/字段)QuickBI权限申请(数据集/仪表板/数据大屏等)Hive权限申请(库/表/字段)权限处理引擎3⑦风控审计预警,及时识别和告警异常访问和操作权限。业务系统IAM系统安全管理元数据管理资源目录...质量管理不同密级和资源走

不同审批流程

StarRocks

Hive

①同步账号⑤流程审批②密级入湖4⑩

BI

自助分析⑧元数据管理④主数据管理⑤数据建模管理②数据采集⑪数据共享⑥数据开发③数据计算⑬技术平台⑫数据安全⑨

数据

质量⑦

任务

调度数据加工和场景开发/工具支撑⑭数据资产目录管理①数据存储前序流程入库流程权属业务部门

审核确认

开始

数据资产

架、

部门等相

结束

后续流程审核财务关部门上合规部门发起上架签收入库数据资产全生命周期管理借助平台落地数据资产全生命周期的长效管理机制加工治理ETL任务调度数据治理数据产品研

发数据测试资产管理需求管理资产上架资产更新资产下架资产销毁

数据资产化牵涉面很广,涉及数据、业务、财务一系列流程,且需要将数据层面和业务层面的流程进行打通安全管理数据分级分

类数据授权数据脱敏数据审计交易资质审核

认定提交登记

材料合规审核产品上架

准备产品上市数据发布数据集发布API发布数字产品发

布数字文件发

布确权合规组织合规数据权属质量合规安全合规估值成本法收益法市场法估值审核

确认L1流程类L2流程组L3流程L4活动L5任务数据采集外部购入数

据接口公开数据抓

取接口业务系统数

据采集非结构化数

据导入数据资产

上架流程4入表记账(营收)入表记账

(存货资产)入表记账

(无形资产)记账披露质量规则检查方案质量报告质量监控数据产品入

库资产认定资产入库估值流程资产库数据资产管理与运营ADS应用层DWS指标层DWD数仓层资源库数据资产入表数据资产生产

目录

01

数据产品建设价值02

数据产品建设内容案例1数据内外同步赋能案例2数据内部

案例3数据

案例4

活03

数据产品赋能案例

案例1

:数字化业务系统和数据产品同步建设,让数据发挥更大价值业务管理平台农服“数据银行”平台

合作社

种植户

涉农企业

新兴主体

标准化种植试点基地农服“数据银行”平台聚焦农业行业生态数据建设,数据来源于农业种植、产品流通、服务等环节。通过对农业服务运营过程中积累下来的数据进行存储、清洗、加工,形成数据之间关联性、规律性的数字产品,赋能农业生产决策,促进农业产业链的整合和创新。同时对形成的数据进行资产化,对外提供数据共享机制,共同探索数据应用价值。产前数据-

-

------->产中数据------

-

->产后数据-

-

-

-

-->-

-

---

>≤------数据资产化·模型参数本地化应用·作物模型与其他信息耦合

·作物模型参数自动矫正数据产品建设一

:农作物种植数据产品二

农资商品数据产品农资档案数据集作物种植数据集作物成长数据集农资商品数据集API接口反向回传完善产业数据1.精准农业管理:种植规划:根据历史种植周期数据,结合当前地块的

地质、位置信息及天气预测,为农民提供科学的种植规划和建议,包括最佳播种时间、作物轮作方案等,以提高作物产量和品质。生长监测

:实时监测作物在不同种植阶段的生长状态,如通过温度、土壤含水量等环境参数的变化,及时调整灌溉、施肥等管理措施,确保作物健康成长。病虫害防控:分析病虫害发生规律与种植周期、环境

条件的关系,提前预警并采取相应的防治措施,减少农药使用,保护生态环境。2.农业决策支持:风险评估:基于历史数据和当前环境条件,评估不同

农产品种植的风险,如气候灾害、病虫害爆发等,帮助农民做出合理的种植选择和保险购买决策。3.农业科研与教育:科研辅助:为农业科研人员提供丰富的数据资源,支

持作物生长规律、病虫害发生机制等科学研究,推动农业科技进步。教育培训:利用种植周期数据集,开发农业教学案例

和模拟实验,帮助学生和农民更好地理解和掌握农业生产知识。价值:经济效益提升:通过精准农业管理

和科学决策,减少资源浪费,提高作物产量和品质,从而增加农民收入,提升农业整体经济效益。环境友好型农业:减少农药、化肥

的过量使用,降低农业面源污染,促进农业可持续发展,保护生态环境。抗风险能力增强:通过数据分析和

风险评估,提高农民应对自然灾害、

病虫害等风险的能力,保障农业生产稳定。外部价值:数据要素共享:为农业科研、教育提供重要数据支持,促进农业知识的传播与共享,加速农业科技成果的转化与应用。金融担保:为农合贷款和补贴提供

数字担保•作物成长数据集:作物名称,作物种类,农户名称,地块名称,产权性质,地块位置,地质情况,种植阶段,时间段,温度,土壤含水量,病虫害,作物长势,杂草量;•种植农事数据集:作物名称,作物种类,农户名称,地块名称,种植阶段,农事内容,农事时间•API接口:农户信息查询,作物种类查询,作物种植面积产讯,作物长势查询,土壤墒情查询,土地性质查询,农事查询

数据资源

数据产品

应用价值“数据银行

-农作物种植数据产品•生产种植体系

模块•

土质检测•

天气信息种植生

态数据应用场景内容:

案例2

赋能企业价值-智慧企业大脑【智慧企业大脑】

数据产品:赋能企业高管层运筹帷幄,实时洞察风险,高效决策。业务洞察数据模型数据资产化•

主数据:建立主数据系统,打破系

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论