大数据治理体系_第1页
大数据治理体系_第2页
大数据治理体系_第3页
已阅读5页,还剩49页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、数据治理体系目录1. 范围 12. 规范性引用文件 13. 术语、定义和缩略语 54. 总体说明 84.1. 概述 84.2. 目标 94.3. 原则 95. 数据治理体系 105.1. 总体框架 105.2. 组织架构 115.2.1. 组织构成 115.2.2. 角色职责 125.3. 系统架构 135.3.1. 系统功能框架 135.3.2. 系统模块流程 145.4. 系统边界 155.4.1. 与企业级省大数据平台关系 165.4.2. 与对外能力开放平台关系 165.4.3. 与平台运维系统关系 166. 数据治理核心模块 176.1. 数据标准管理 176.1.1. 背景 176

2、.1.2. 错误 !未定义书签。6.1.3. 目标及原则 186.1.4. 业务分类和定义 186.1.5. 技术功能要求 226.1.6. 本期建设范围及内容 256.1.7. 实施要求 错误 ! 未定义书签。6.2. 元数据管理 266.2.1. 背景和定义 266.2.2. 元数据运营模式 276.2.3. 元模型标准 286.2.4. 元数据运维 326.2.5. 本期重点建设内容 326.3. 数据质量管理 336.3.1. 与传统经营分析系统的区别 336.3.2. 范围和原则 346.3.3. 与其它功能模块的关系 346.3.4. 本期数据质量功能需求 376.3.5. 本期数

3、据质量运维要求 386.4. 数据资产管理 396.4.1. 数据资产概述 396.4.2. 数据资产范围 406.4.3. 与其它功能模块的关系 416.4.4. 本期数据资产功能需求 416.4.5. 本期建设内容 446.5. 数据安全管理 446.5.1. 数据安全概述 446.5.2. 建设原则 456.5.3. 建设内容 456.5.4. 边界关系 456.5.5. 技术功能 466.5.6. 管理要求 477. 数据治理场景 507.1. 背景描述 507.2. 场景一:银行伪卡交易判别 517.2.1. 背景介绍 517.2.2. 场景描述 517.3. 场景二:银行手机贷业务

4、 527.3.1. 背景介绍 527.3.2. 场景描述 538. 附录 54附录一:数据标准框架 54附录二:数据标准体系定义内容示例 54本规范的制订是为了更好地实现中国移动企业级省大数据平台数据治理子 系统的建设和管理, 为省大数据平台上的各类基础技术和应用提供支撑, 加强省 大数据平台上数据的管控力度,增强数据治理子系统自身管理能力。本规范主要包括以下几方面的内容: 总体说明、 数据治理体系、 数据治理核 心模块、数据治理场景等。本规范是中国移动企业级大数据平台系列规范之一。 该系列规范的结构、 名称或预计的名称如下:序号标准编号标准名称1QB-Y -* -2015中国移动企业级大数据

5、平台目标架构2QB-Y -* -2015中国移动企业级省大数据平台技术规范总册3QB-Y -* -2015中国移动企业级省大数据平台技术规范分册4QB-Y -* -2015中国移动企业级省大数据平台技术规范技术方案分册5QB-Y -* -2015中国移动企业级省大数据平台技术规范数据模型分册6QB-Y -* -2015中国移动企业级省大数据平台技术规范外部接口分册7QB-Y -* -2015中国移动企业级省大数据平台技术规范服务开放分册8QB-Y -* -2015中国移动企业级省大数据平台技术规范服务开放技术方案分册9QB-Y -* -2015中国移动企业级省大数据平台技术规范数据治理分册10

6、QB-Y -* -2015中国移动企业级省大数据平台技术规范数据治理技术方案分册11QB-Y -* -2015中国移动企业级省大数据平台技术规范运营维护分册12QB-Y -* -2015 中国移动企业级省大数据平台技术规范安全管理技术方案本规范由中移技xxxx印发。本规范由中国移动通信集团公司业务支撑系统部提出, 集团公司技术部归口本规范起草单位:中国移动通信集团公司业务支撑系统部。本规范主要起草人:段云峰、汪新勇、赵静、周立、 、任怡健、王保强、潘 刚、刘童桐、王金金、陶涛、刘虹、张红星、魏春辉。1. 范围本规范规定了中国移动企业级省大数据平台数据治理子系统的建设内容, 适用于中国移动各省(

7、直辖市、自治区)公司企业级省大数据平台数据治理子系统的建设。2. 规范性引用文件下列文件中的条款通过本规范的引用而成为本规范的条款。凡是标注日期的引用文件,其随后所有的修改单 (不包括勘误的内容)或修订版均不适用于本规范。然而,鼓励根据本规范达成协议的各方对是否使用这些文件的最新版本进行研究。 凡是不标注日期的引用文件,其最新版本适用于本规范。1中国移动省级经营分析系统业务规中国移动通信有限范 (v1.0) 公司2中国移动省级经营分析系统技术规中国移动通信有限范 (v1.0) 公司中国移动省级经营分析系统数据质中国移动通信有限3QB-J-010-2006量管理系统建设方案( v1.5)公司中国

8、移动省级经营分析系统数据仓中国移动通信有限4QB-J-006-2006库逻辑数据模型说明 (v1.5) 公司中国移动省级经营分析系统数据集中国移动通信有限5QB-J-007-2006市业务技术规范 (v1.5) 公司中国移动省级经营分析系统与源系中国移动通信有限6QB-J-008-2006统接口规范 (v1.5) 公司中国移动省级经营分析系统与中国移动通信有限7QB-J-009-2006BOSS 系统互动技术规范 (v1.5) 公司中国移动省级经营分析系统业务规中国移动通信有限8QB-J-003-2006范( v1.5) 基础业务分册公司中国移动省级经营分析系统业务规中国移动通信有限9QB-J

9、-004-2006范( v1.5) 数据业务分册公司中国移动省级经营分析系统业务规中国移动通信有限10QB-J-005-2006范( v1.5) 集团客户分册 中国移动业务运营支撑系统公司中国移动通信有限11QB-J-001-2006(BOSS)业务技术规范营销资源管理分册( 2.0 版)中国移动业务运营支撑系统公司中国移动通信有限12QB-J-001-2006(BOSS)业务技术规范客服信息分册( 2.0 版)公司中国移动业务运营支撑系统中国移动通信有限13QB-J-001-2006(BOSS)业务技术规范(2.0版)公司中国移动省级经营分析系统数据仓中国移动通信有限14QB-J-021-2

10、007库逻辑数据模型规范(v2.0)公司中国移动省级经营分析系统与源数中国移动通信有限15QB-J-020-2007据接口规范( v2.0)公司中国移动省级经营分析系统数据集中国移动通信有限16QB-J-022-2007市业务技术规范( v2.0)公司中国移动省级经营分析系统业务规中国移动通信有限17QB-J-019-2007范渠道运营管理分析监控分册 ( v1.0)公司中国移动省级经营分析系统业务规中国移动通信有限18QB-J-018-2007范客户服务分册( v2.0)公司中国移动省级经营分析系统业务规中国移动通信有限19QB-J-017-2007范集团客户分册( v2.0公司中国移动省级

11、经营分析系统数据质中国移动通信有限20QB-J-016-2007量管理系统业务技术规范( V2.0) 公司中国移动业务支撑网 4A 安全技术规中国移动通信有限21范公司中国移动省级经营分析系统技术规中国移动通信有限22范总册( v2.0 全量版)公司中国移动省级经营分析系统技术规中国移动通信有限23范逻辑模型分册( v2.0 全量版)公司中国移动省级经营分析系统技术规中国移动通信有限24范数据集市分册( v2.0 全量版)公司中国移动省级经营分析系统技术规中国移动通信有限25范数据质量管理子系统分册( v2.0 全公司量版)中国移动省级经营分析系统业务规中国移动通信有限26范( v2.0 全量

12、版)公司中国移动省级经营分析系统技术规中国移动通信有限27范源系统接口分册( v2.0 全量版)公司中国移动省级 NG1-BASS 技术规范中国移动通信集团28QB-J-002-2008总册 (v1.0)公司中国移动省级 NG1-BASS 技术规范中国移动通信集团29QB-J-003-2008数据集市分册 (v1.0)公司中国移动省级 NG1-BASS 技术规范中国移动通信集团30QB-J-004-2008逻辑模型分册 (v1.0)公司中国移动省级 NG1-BASS 技术规范中国移动通信集团31QB-J-005-2008源系统接口分册 (v1.0) 公司32333435363738394041

13、424344454647484950QB-J-006-2008QB-J-007-2008QB-J-008-2008QB-J-001-2008QB-Y-003-2009QB-Y-004-2009QB-Y-005-2009QB-Y-006-2009QB-Y-007-2009QB-Y-008-2009QB-Y-002-2009QB-Y-052-2010QB-Y-053-2010QB-Y-054-2010QB-Y-055-2010QB-Y-056-2010QB-Y-057-2010QB-Y-058-2010QB-Y-059-2010中国移动省级 NG1-BASS 技术规范 元数据管理分册 (v1.0)

14、 中国移动省级 NG1-BASS 技术规范 数据质量管理子系统分册 (v1.0) 中国移动省级NG1-BASS业务规范(v1.0) 中国移动省级NG1-BASS技术规范总册 (v2.0) 中国移动省级NG1-BASS技术规范中国移动省级 NG1-BASS 业务技术 规范客户分析及运营分册 (v1.0) 数据集市分册 (v2.0) 中国移动省级 NG1-BASS 技术规范 逻辑模型分册 (v2.0) 中国移动省级 NG1-BASS 技术规范 外部接口分册 (v2.0) 中国移动省级 NG1-BASS 技术规范 元数据管理分册 (v2.0) 中国移动省级 NG1-BASS 技术规范 数据质量管理子

15、系统分册 (v2.0) 中国移动省级 NG1-BASS 业务规范 (v2.0) 中国移动省级 NG2-BASS(v3.0) 业务 规范中国移动省级 NG2-BASS(v3.0) 技术 规范总册中国移动省级 NG2-BASS(v3.0) 技术 规范数据集市分册中国移动省级 NG2-BASS(v3.0) 技术 规范逻辑模型分册中国移动省级 NG2-BASS(v3.0) 技术 规范外部接口分册中国移动省级 NG2-BASS(v3.0) 技术 规范元数据管理分册中国移动省级 NG2-BASS(v3.0) 技术 规范数据质量管理子系统分册 中国移动省级 NG2-BASS(v3.0) 技术 规范多 OP

16、能力交互分册中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团 公司中国移动通信集团公司QB-Y-060-2010QB-Y-061-2010QB-Y-062-2010QB-Y-063-2010QB-Y-039-2011QB-Y-038-2011QB-Y-040

17、-2011QB-Y-041-2011QB-Y-042-2011QB-Y-043-2011QB-Y-044-2011QB-Y-045-2011QB-Y-046-2011QB-Y-047-2011QB-Y-048-2011QB-Y-044-2012QB-Y-045-2012QB-Y-045.1-2012QB-Y-045.2-2012中国移动省级增值业务综合运营平中国移动通信集团台业务规范 (v1.0) 公司中国移动省级增值业务综合运营平中国移动通信集团台技术规范 (v1.0) 公司中国移动省级增值业务综合运营平中国移动通信集团台技术规范 -数据管理分册 (v1.0) 公司中国移动省级增值业务综合运

18、营平中国移动通信集团台接口规范公司中国移动省级 NG2-BASS(v3.5) 业务中国移动通信集团规范公司中国移动省级 NG2-BASS(v3.5) 技术中国移动通信集团规范总册公司中国移动省级 NG2-BASS(v3.5) 技术中国移动通信集团规范数据集市分册公司中国移动省级 NG2-BASS(v3.5) 技术中国移动通信集团规范逻辑模型分册公司中国移动省级 NG2-BASS(v3.5) 技术中国移动通信集团规范外部接口分册公司中国移动省级 NG2-BASS(v3.5) 技术中国移动通信集团规范元数据管理分册公司中国移动省级 NG2-BASS(v3.5) 技术中国移动通信集团规范数据质量管理

19、子系统分册公司中国移动省级 NG2-BASS(v3.5) 技术中国移动通信集团规范 OP 能力交互分册公司中国移动省级增值业务综合运营平中国移动通信集团台业务规范 (v1.5) 公司中国移动省级增值业务综合运营平中国移动通信集团台技术规范 (v1.5) 公司中国移动省级 NG2-BASS 技术规范中国移动通信集团系统安全管理分册 (v1.5) 公司中国移动省级 NG2-BASS(v4.0) 业务中国移动通信集团规范公司中国移动省级 NG2-BASS(v4.0) 技术中国移动通信集团规范总册公司中国移动省级 NG2-BASS(v4.0) 技术中国移动通信集团规范数据集市分册公司中国移动省级 NG

20、2-BASS(v4.0) 技术中国移动通信集团规范逻辑模型分册公司51525354555657585960616263646566676869中国移动省级 NG2-BASS(v4.0) 技术中国移动通信集团70QB-Y-045.3-2012规范外部接口分册公司中国移动省级 NG2-BASS(v4.0) 技术中国移动通信集团72QB-Y-045.4-2012 规范元数据管理分册公司中国移动省级 NG2-BASS(v4.0) 技术中国移动通信集团73QB-Y-045.5-2012 规范数据质量管理子系统分册公司中国移动省级增值业务综合运营平中国移动通信集团74QB-Y-046-2012台业务规范

21、V2.0.0 公司中国移动省级增值业务综合运营平中国移动通信集团75QB-Y-047-2012 台技术规范 V2.0.0 公司中国移动省级增值业务综合运营平中国移动通信集团76QB-Y-047.1-2012QB-Y-047.1-2012 台技术规范数据管理分册 V2.0.0 公司中国移动省级 NG2-BASS(v4.5) 业务中国移动通信集团77QB-Y-044-2013规范公司中国移动省级 NG2-BASS(v4.5) 技术中国移动通信集团78QB-Y-045-2013 规范总册公司中国移动省级 NG2-BASS(v4.5) 技术中国移动通信集团79QB-Y-045.1-2013规范数据集市

22、分册公司中国移动省级 NG2-BASS(v4.5) 技术中国移动通信集团80QB-Y-045.2-2013 规范逻辑模型分册公司中国移动省级 NG2-BASS(v4.5) 技术中国移动通信集团81QB-Y-045.3-2013 规范外部接口分册公司中国移动省级 NG2-BASS(v4.5) 技术中国移动通信集团82QB-Y-045.4-2013规范元数据管理分册公司中国移动省级 NG2-BASS(v4.5) 技术中国移动通信集团83QB-Y-045.5-2013 规范数据质量管理子系统分册公司中国移动省级 NG2-BASS(v4.5) 技术中国移动通信集团84QB-Y-045.6-2013 规

23、范安全管理技术方案公司中国移动省级增值业务综合运营平中国移动通信集团85QB-Y-046-2013台业务规范 V2.5.0 公司中国移动省级增值业务综合运营平中国移动通信集团86QB-Y-047-2013台技术规范 V2.5.0 公司中国移动省级增值业务综合运营平中国移动通信集团87QB-Y-047.1-2013QB-Y-047.1-2013 台技术规范数据管理分册 V2.5.0 公司3. 术语、定义和缩略语下列术语、定义适用于本规范:字母名词解释CCWMCWM标准是OMG组织定义的数据仓库和相关系统的国际兀数 据标准,给出了各种元数据结构的标准定义。CWM标准的目的在于:使数据仓库和商业智能

24、软件的元数据在异构的数据分析 工具、数据仓库平台、元数据存储库等系统之间进行交互。EETL特指从数据源系统到大数据平台的数据抽取、转换和加载。G管理元数据描述大数据平台中管理领域相关概念、关系、规则的数据,主 要包括人员角色、岗位职责、管理流程等信息。H核心元模型大数据平台核心兀模型是以 CWM为基础扩展形成的,针对大 数据平台的物理模型、逻辑模型、数据处理过程、接口单元、 指标和维度编码等主要实体进行精确定义,并要求各省大数据 平台统一遵循的元模型。定义核心元模型的目的是建立大数据 平台的统一元数据管理标准,为元数据管理的功能层与应用层 解耦、为企业级总部大数据平台和企业级省大数据平台的元数

25、 据交换和相互理解提供统一的语义基础。H核心元模型参照表核心兀模型参照表是对核心兀模型中的枚举类型属性进行枚举 值定义的编码表。参照表为枚举类型属性的每个枚举值定义了 唯一的编码,并明确该编码的语义,是核心元模型标准化定义 的重要组成部分。J技术兀数据描述大数据平台中技术领域相关概念、关系、规则的数据。主 要包括对数据结构、数据处理方面的特征描述,覆盖大数据平 台数据源接口、数据仓库、ETL、OLAP、数据挖掘、前端展现等全部数据处理环节。S数据处理过程数据从数据源系统到大数据平台前端使用的整个处理过程,包含大数据平台数据仓库内部的数据抽取、转换和加载。S数据采集点覆盖大数据平台数据处理环节的

26、、获取每个环节运行状态的实 体。该实体可以是程序实体也可以是任务实体S数据质量报告数据质量报告是对数据质量日常监控以及质量评估等过程累积 的各种信息进行汇总、梳理、统计和分析,形成的统计报告字母名词解释S数据质量监控通过获取大数据平台各环节的数据质量监控信息,结合兀数据 库中的有关检查规则,对各个环节的数据质量情况进行判断, 并及时向数据质量监控人员报告。S数据质量规则库数据质量规则库是对数据质量管理活动所用到的各种判断及校 验规则进行归类和存放的存储结构,存储的内容包括米集规则、监控规则、告警规则和审计规则等S数据质量信息库数据质量管理子系统存储层上的存储结构,用于存储数据质量信息采集程序采

27、集的数据质量信息、质量评估信息、冋题解决方案和问题处理流程信息等S省公司中国移动通信集团各省(直辖市、自治区)移动通信有限公司。SSQL脚本自动解析SQL脚本自动解析指通过对 SQL脚本的词法、语法和语义进行 分析,自动生成满足 CWM规范要求的数据处理过程的技术兀 数据的功能。Y业务元数据描述大数据平台中业务领域相关概念、关系、规则的数据。主要包括业务术语、信息分类、指标定义(指标口径)、业务规则等信息。Y元模型兀模型是描述兀数据的基础模型结构,用于说明兀数据对象的 各种属性、结构和关系。Y元数据兀数据是描述数据间关系的数据。大数据平台中兀数据泛指描 述数据概念(Concepts)、数据间关

28、系(Roles)、数据处理规则(Rules)的数据,其中,领域语义(Semantics)和知识(Knowledge )也属于兀数据的范畴。D数据标准指在中国移动台企业级省大数据平台下为了使企业内外部使用 和交换的数据是一致和准确的,经协商一致制定并由大数据治 理委员会主管机构批准,具有行业特点且共同使用和重复使用 的一种规范性约束。D数据标准体系指数据标准按照中国移动企业级省大数据平台需求对数据进行标准化的划分归类。字母名词解释D数据标准内容按照数据标准体系划分的要求分别给出各数据标准制定的规范 内容。D行业参考模型实体中国移动规范中原定义或新增加的逻辑数据模型LDM实体。D公共代码标准需要引

29、用外部公共标准机构的标准。如:世界各国和地区名称 代码等。F列略缩语适用于本规范:缩写英文描述中文描述ASTAbstract Syntax Tree抽象语法树BOSSBusin ess Operati on Support System业务运营支撑系统CWMCommon Warehouse Metamodel公共仓库兀模型ETLExtractio n Tran sformatio n Loadi ng抽取、转换和加载OLAPOn-li ne An alysis Process在线分析处理XMIXML Metadata In tercha ngeXML元数据交换BIBusin ess In te

30、llige nee商务智能RESTReprese ntati onal State Tran sfer表述性状态转移4. 总体说明4.1. 概述本规范用于指导企业级省大数据平台数据治理子系统建设,规定了省大数据平台数据治理的范围和要求,明确了数据治理子系统的体系结构,制定了数据治理子系统的功能和处理流程。数据治理子系统包含数据标准管理、元数据管理、数据质量管理、数据资产管理、数 据安全管理等功能模块。本方案借鉴资产管理的方法理论来管理数据,将数据作为一种特殊的资产,对进入平台的数据进行标准化的规范约束,并以元数据作为驱动,连接数据的标准管理、数据质量管理、数据数据安全管理的各个阶段,形成统一、

31、完善的数据治理体系,以 解决实际业务问题为导向,增强数据治理子系统对业务发展的支撑能力。4.2. 目标数据治理子系统的建设为数据治理工作提供强有力的系统支撑。 本期规范建设目标是以 元数据为驱动, 建立省大数据平台完整的数据治理体系。 从组织架构、 系统功能等方面增强 数据宏观管控,并实现精细化管理,具体包括:数据治理组织架构管理: 定义数据治理所需人员组织上的岗位和职责, 从管理角度 支撑数据治理工作的落地和执行。数据标准管理: 建立企业级省大数据平台数据标准体系, 并制定数据标准运维管控 制度和流程。元数据管理: 降低元数据使用难度、 提升用户体验, 使大数据平台各类用户均能参 与到元数据

32、运营维护当中。数据质量管理: 为内、 外部用户提供平台化的数据质量监控; 通过扩充和优化公共 规则库、保证数据的完整性、一致性、准确性、及时性、合法性,提升用户使用感 知;并提供数据质量应用满足个性化需求。数据资产管理: 重点建设从规划、注册、 运维到注销的全流程管理体系,使数据资 产管理系统化、可视化。数据安全管理: 建立体系化的数据安全管控策略, 通过用户安全管理、 数据安全管 理实现全方位数据安全管控机制, 通过技术手段与管理措施相结合的方式落实数据 安全,做到事前可管、事中可控、事后可查。4.3. 原则企业级省大数据平台数据治理子系统建设应遵循以下基本原则:1. 有效性原则体现大数据平

33、台数据治理过程中数据的标准、质量、价值、管控的有效性、高效性。2. 价值化原则体现数据治理过程中以数据资产为价值核心,最大化大数据平台的数据价值。3. 统一性原则体现大数据平台架构统一、标准统一、元数据统一、 质量流程统一、 资产价值统一的一 体化管控平台体系。体现平台化、开放性运维思想,实现人人参与数据治理、人人参与数据运维。5. 产品化原则体现大数据平台数据治理能力的显性化, 通过产品化互联网思维服务大数据平台数据生 态圈用户。6. 安全性原则体现安全的重要性、 必要性, 保障大数据平台数据安全和数据治理过程中数据的安全可 控。5. 数据治理体系5.1. 总体框架数据治理总体框架包括组织架

34、构、 数据治理模块、 数据运维三部分。 通过组织架构建立 管理办法, 制定工作流程,确定角色职责。数据治理模块主要包括数据标准管理、 元数据管 理、数据质量管理、数据资产管理、数据安全管理,各模块协同运营,确保大数据平台的数 据一致、安全、 有效。 数据运维贯穿整个数据治理体系的流程中,实现平台化的运维管理思 路。数据治理总体框架如图 5-1 所示:组织架构组织架构角色与职规划和策管理办法核心领域数据治理工具数据标准管理元数据管理数据质量管理数据资产管理数据安全管理数据运维质量运维资产运维管控运维大数据平台图5-1数据治理体系框架5.2. 组织架构保障数据治数据治理组织的构建旨在通过建立数据治

35、理组织架构明确各级角色和职责,理的各项管理办法、工作流程的实施,推送数据治理工作的有序开展。5.2.1. 组织构成数据治理组织架构主要由数据治理委员会、数据治理中心和各业务部门构成。组织架构划分和角色设定如图 5-2所示:角色职養_.数据治瘪会数据洽理决議咨數舞率台运苣吉数据业务门数摇支撑部门夕卜郎用户11如堆沪昔图5-2数据治理组织架构图5.2.2. 角色职责组织责任体系是数据治理责任落地的保障,数据治理组织架构通过明确各角色职责,实行认责制度,让数据治理工作更好的融入到数据日常使用和相关的工作中,从而推动数据运维自治的实现,如表5-1。表5-1数据治理组织架构角色职责定义内容组织结构角色角

36、色描述角色主要职责数据治理 委员会数据管理决策者由公司主 管领导和 各业务部 门领导组 成负责牵头数据治理工作;制定数据治理的政 策、标准、规则、流程,协调认责冲突; 对数据事实治理,保证数据的质量和隐私; 在数据出现质量问题时负责仲裁工作。数据治理中心数据平台、M-t -Bz运宫者数据管理 中心机构 的平台运 营人员负责提交数据标准的要求及数据质量规则和 业务规范,解释数据的业务规则和含义;监 督各项数据规则和规范的约束的落实情况; 负责数据治理平台中整体数据的管控流程制 定和平台功能系统支撑的实施; 负责平台的整体运营、组织、协调。各业务部门数据提供者相关数据 开发提供 人员负责数据及相关

37、系统的开发,有责任执行数 据标准和数据质量内容;负责从技术角度解决数据质量问题; 作为数据出现质量问题时的主要责任者。数据维护者数据维护 人员制定相关数据标准、数据制度和规则; 遵守和执行数据标准管控相关的流程,根据数据标准要求提供相关数据规范; 作为数据出现质量问题时的次要责任者。数据消费者数据使用 人员,包 含内部用 户和外部 用户作为数据治理平台数据管控流程的最后参与使用者;是数据资产价值的获益人;作为数据治理平台数据闭环流程的发起人。5.3. 系统架构5.3.1. 系统功能框架并以合理的功能层数据治理功能框架明确了数据治理在企业级省大数据平台中的定位,次划分指导数据治理系统相关功能建设

38、。系统功能框架如图5-3所示。企业内部用户企业外部用户第三方慈立开发者能力幵放平台 据之家 缰业控AFF治理助手APP 标曲迺APP 数菇地APP数寤洽理功能兀数塘管理数据治s.1WT逐接口数据资产曾锂資产如资?资产丹资产运s S运维敢据运率鱷安全冒運嫉安全勰起卢宾全皆理数据窃者;Ja jI?过 数据管理者大散据年台图5-3数据治理功能框架图企业级省大数据平台门户:企业级省大数据平台统一的访问接口, 供企业内、 外部用户、 第三方独立开发者访 问及使用数据治理相关产品或功能,并负责统一访问认证及日志记录。能力开放平台: 企业级省大数据平台统一的对外服务层, 数据治理相关的产品及应用均通过这个层

39、 次进行注册、发布,并对内、外部开放。数据治理系统:? 数据标准: 在数据标准管理组织架构推动和指导下, 遵循协商一致制定的数据 标准规范,借助标准化管控流程得以实施数据标准化的整个过程。? 元数据: 采用集中式管理模式进行元数据管理, 全公司元数据逻辑集中, 即元 数据管理模块作为公司元数据的统一发布源, 集中管理元数据, 提供元数据集 中创建、维护、查询功能。数据质量:对数据从计划、获取、存储、共享、维护、应用、消亡生命周期的 每个阶段里可能引发的各类数据质量问题,进行识别、度量、 监控、 预警等一 系列管理活动, 并通过改善和提高组织的管理水平使得数据质量获得进一步提 高。数据资产:规划

40、、控制、提供数据及信息资产的一组业务职能,包括开发、执 行和监督有关数据的计划、 政策、 方案、项目、 流程、方法和程序, 从而控制、 保护、提高数据资产的价值。数据安全: 通过计划、制定、执行数据安全政策和安全策略措施, 为企业级大 数据平台的数据和信息提供行之有效的认证、授权、访问和审计。数据运维: 包括数据资产运维、 数据质量运维,借鉴互联网思维, 通过产品化 运维工具来整体提升企业级大数据平台数据运维效率。企业级省大数据平台:? 大数据基础平台,负责数据的接入、存储、管理、应用及相关基础功能支撑。5.3.2. 系统模块流程图5-4数据治理系统功能各模块关系图如图5-4所示,数据治理系统

41、各模块之间,根据数据操作的流程产生相互关联,各模块业务流程关系说明如下:L1 :数据标准管理模块将标准定义映射到元数据信息上,实现数据标准的规范要求落 地。L2 :元数据管理模块为数据资产管理模块提供存储模型、属性信息查询服务。L3 :元数据管理模块为数据质量管理模块提供元数据相关属性信息。L4 :用户通过元数据定义大数据平台的数据结构。L5 :数据质量管理模块根据采集需求从大数据平台采集数据。L6 :数据质量管理模块将数据质量问题反馈给大数据平台。L7 :数据质量管理模块向资产模块提交数据质量评估结果。L8 :元数据管理模块为数据安全管理模块提供隐私级别定义服务。L9 :数据资产管理模块发起

42、资产访问申请,由数据安全管理模块控制用户访问权限,控制数据资产的增加、删除、变更操作权限,对访问的数据内容、数据属性等操作进行管控。L10 :数据安全管理模块为大数据平台提供数据访问权限策略。5.4. 系统边界企业级省大数据平台数据治理子系统与其它子系统之间存在数据交互、功能调用、流程穿插等关联。数据治理子系统与大数据平台系统内其它子系统的关系示意如图5-5所示:数据服务平台数据标准管理数据质量管理数据治理元数据管理数据资产管理数据安全管理平台运维企业级省大数据平台图5-5数据治理子系统与各子系统边界图5.4.1. 与企业级省大数据平台关系企业级省大数据平台上的数据资产是数据治理的主要对象;数

43、据治理为企业级省大数据平台提供数据标准指导、元数据定义、数据质量监控、数据安全等方面的全面支撑,使大数据平台上的数据资产清晰、有序、安全、可控。5.4.2. 与对外能力开放平台关系数据治理为对外能力开放平台提供元数据查询、数据安全管理支持;对外能力开放平台为数据治理提供统一的数据治理产品及功能注册、发布、使用服务。5.4.3. 与平台运维系统关系数据治理子系统支撑大数据平台的数据管控流程,并与平台运维交互协调,共同支撑大数据平台整体的安全运维、数据运维和管理运维。6.数据治理核心模块6.1. 数据标准管理6.1.1. 背景中国移动企业级省大数据平台数据标准是在经营分析系统数据管控要求基础之上,

44、借鉴互联网企业数据治理的经验而提出的。数据标准是指在中国移动企业级省大数据平台下,保障企业内外部使用和交换数据的一致性和准确性,具有行业特点且共同使用的一种规范性约束。数据标准是企业级省大数据平台数据治理的基础性工作,是数据治理建设中的首要环节。首先,数据标准为企业级省大数据平台提供统一的数据标准定义和平台逻辑模型。其次,数据标准是企业级省大数据平台进行数据治理的依据和根本。再次,数据标准是衡量企业级省大数据平台数据资产运营和管理的评估依据。最后,中国移动通过数据标准管理的实施,实现对企业级省大数据平台全网数据的统一运营管理。企业级省大数据平台数据治理体系中数据标准管理如图6-1所示,包括制定

45、数据标准的规范性文件、进行数据标准化管控及数据标准管理组织。数据标准管理组织数据标准管理数据标准数锯标准规范化管控图6-1数据标准管理内容企业级省大数据平台数据标准管理与原经营分析系统数据管控的区别如下表6-1所示:表6-1企业级省大数据平台数据标准管理与原经营分析系统数据管控区别企业级省大数据平台数据标准管理原经营分析系统数据管控数据范围涉及企业内外部数据运营相关的数据,包含 BOM三域数据、外部数据。数据仅限于市场经营活动的B域和部分O,M域数据。业务应用模 式以数据标准为基础的数据治理体系,实现数据 的资产化,贯穿整个数据运营的全流程,形成 以中国移动大数据平台为核心的大数据生态 圈,服

46、务于企业内外部客户。以支撑企业内部经营分析为主。服务对象服务于整个大数据生态圈。原经营分析系统使用人员。6.1.2. 目标及原则数据标准管理的总体目标:通过统一的数据标准制定和发布,结合制度约束、系统控制等手段,实现中国移动企业级省大数据平台数据的完整性、有效性、一致性、规范性、开放 性和共享性管理,提高企业级省大数据平台数据治理水平。数据标准制定的原则:开放性:标准制定人人参与。共享性:数据标准化信息在大数据生态圈共享使用。完整性:涵盖客户、产品、服务、帐务、资源、网络等全部重要数据信息。有效性:信息准确度高、理解上不存在歧义。一致性:做到“五统一”,定义统一、口径统一、名称统一、来源统一、

47、参照统一。 规范性:制度规范、流程控制、系统管理等。6.1.3. 业务分类和定义6.1.3.1. 数据标准体系分类数据标准制定如图6-2所示,包括数据标准体系划分和数据标准内容制定,数据标准体系可分为基础类数据标准和指标类数据标准。据淮系义图6-2数据标准体系划分6.1.3.2. 数据标准内容制定数据标准内容的制定按照数据标准体系分类的要求分别给出数据标准制定的规范要求。1、基础类数据标准基础类数据标准是通过各种业务处理产生或各类渠道采集的基础性数据,在全国范围内必须是唯一定义的,如“用户品牌”、“归属地市”。基础类数据标准分为行业参考模型实体 标准和公共代码标准。行业参考模型实体标准指按照行

48、业需求和中国移动省级数据逻辑模型实体规范要求,继承以往数据逻辑模型实体规范, 将各域的逻辑模型实体定义抽象为模型实体标准要求。行业参考模型实体数据标准体系定义内容如表 6-2所示。表6-2行业参考模型实体数据标准体系定义内容仃业参考模型实体标准标准体系属性说明数据标准编码根据数据标准编码命名规则进行编写。标准主题数据标准归属主题标准子类数据标准归属类型中文名称数据标准中文名称。英文名称数据标准英文名称。实体编号根据行业参考模型实体编号命名规则进行编写。实体名称根据行业参考模型实体名称命名规则进行编写。数据版本该数据标准的版本信息。数据体系分类根据数据分类规则对数据进行分类,以保证数据体系的易用

49、性,以及符合用户查找习惯。重要级别集团规范定义的数据为一级,省公司定义的数据为二级,其 它常用的数据为三级。数据提供部门该数据标准定义数据的提供部门。数据提供部门负责人该数据标准定义数据提供负责人。数据维护部门该数据标准定义数据维护部门。数据维护部门负责人该数据标准定义数据维护负责人。业务主管部门该数据标准定义数据业务主管部门,该部门对数据口径、编 码取值和相关专业术语有决定权。业务主管部门负责人该数据标准定义数据业务负责人。数据来源系统女口: BOSS,CRM,ERP 等主要依据关于指标的解释和描述文件。如集团规范、省公司规范、业 务部门制定等等。业务定义指标的业务描述口径,一般由业务部门使用业务语言制定。具体行业参考模型实体数据标准体系定义内容示例参见附录二:数据标准体系定义内容示例。公共代码标准,指对于一些共享程度较高、内容相对比较稳定的编码,通常可以组织力 量一次性地编制出来, 其中有一些需要引用外部公共标准机构的标准, 比如:世

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论