后IOE时代的数据平台架构实践

1、后IOE时代的数据平台架构实践技术创新 变革未来去IOE？Middleware平台整合UNIX, Z/OSCICS/ Legacy MiddlewareIBMDECHP/IBMEMCNetAppCicso/H3CRedhat,MS, IBMOracle,MS数据整合AmazonMicrosoft GoogleDBOLTP/OLAPOS资源整合Server 1955 1980大型机/小型机1980 - 2010小型机/水平分层解耦IT栈2010 & Late向r 应用的基础设施、开发平台与2010 &面向应用的基数础据设平施台、开发与数据平台合Scale-Up的封闭式整合合Scale-Out的开

2、放式整合分碎片化水平分层App1 App2AppnApp2App1AppnApp2App1AppnOSMiddlewareOLTP/OLAPServerSAN/NAS SAN/NASNetwork Network更低的TCO更高的业务部署与生命周期管理效率更优的业务性能与用户体验DCOSX86IAAS虚拟 化应用云化2008年2011年2013年2015年PAASIAAS交互与业务逻辑解耦横向解耦，多中心能力业务系统与通 用软件解耦软件与硬件解 耦应用服务集成 平台化通用技术软件 产品平台化TPAAS大数据平台服务（BD-TPAAS）数据平台服务（DB-TPAAS）中间件平台服务（M-TPAA

3、S）弹性计算平台服务（DCOS）存储服务（SIAAS）网络服务（NIAAS）计算服务（CIAAS）通用能力平台（U-BPAAS）交互应用应用集成平台（IPAAS）能力开放平台（OPAAS）业务能力平台（BPAAS）网络 支撑中心（O-BPAAS）管信 服务中心（M-BPAAS）大数据 服务中心（BD-BPAAS）1业务支撑 服务中心2（B-BPAAS）345运营管理平台（OMPAAS）开发运营子平台数据运营子平台云运营子平台业务运营子平台集约化，按需分配可扩展应用层：虚拟化 、DCOS+微服务架构数据层：？SPARCDB2分布式数据库 开源数据库分布式存储基于专用硬件X86Oracle、MyS

4、QL、PGHBase、MPP、MongoDB72%20%数量8%商业关系型数据库 开源关系型数据库 分布式数据库26%74%容量商业关系型数据库 开源关系型数据库 分布式数据库计算节点 1计算节点 2计算节点 3计算节点 N存储节点 1存储节点 2存储节点 3存储节点 MInfiniBand 高速互 联管理SSD智能缓存HDD数据存储Oracle / DB2 / Sybase / MySQL /PostgreSQL 等2013年，提出一体机 的设想，展开技术验证2014年3月，浙江移动首 台一体机上线在不同业务系统场景下性能提升310倍与传统架构相比采购和维护成本至少降低50%以上2017年9

5、月，完成所有 核心库一体机替换当主库的数据发生更改时，通过将redo log同步到备库， 达到备库和主库一致的目的。当主库遭遇意外无法提供服 务时，打开备库，并将应用的数据库连接切换到备库，实 现容灾切换。Oracel 11G以后，Dataguard支持备端以只读方式打开，称 为Active Dataguard。该特性在有效提供容灾的同时，可以 用于读写分离。ADG模式下的容灾切换挑战：难以规避failover容灾切换时间相对较长主端性能恶劣影响切换容灾切换演练SDSVMVMVMX86X86MySQLAPPAPPOraclePostgreSQL采用分布式架构，风险分散，依靠多副本等技术实现高可

6、靠性极强的可扩展性，单个集群规模可以达上千节点，PB级的容量规模软硬件解耦的解决方案，硬件和软件可独立采购，保证用户的选择权X86服务器较低廉，总体成本大幅降低130个节点1.2PB可用容量虚拟化资源池、数据库DCOS （DataCenter Operating System）是为整个数据中心提供分布式调度与协调功能，实现数 据中心级弹性伸缩能力的软件堆栈，它将所有数据中心的资源当做一台大型计算机来调度，可以视作 这个大型主机的操作系统。（以Mesos为例）Linux OSDCOSResource ManagementLinux KernelMesosProcess ManagementLin

7、ux KernelDockerJob Schedulinginit.d, cronMarathon, ChronosInter-Process CommunicationPipe, SocketRabbitMQFile Systemext4HDFS, Ceph（图片来自互联网）Mesos Cluster (Master)Mesos Master Marathon Zookeeper EtcdMesos Master Marathon Zookeeper EtcdMesos Master Marathon Zookeeper EtcdGit服务器应用包、镜 像JenkinsMesos Clust

8、er (Slave)Docker ContainerDocker ContainerDocker ContainerMesos SlaveMesos SlaveMesos SlaveDistributed File System(Ceph、HDFS)Docker RegistryLB HAProxy ConfdHAProxy Confd部署弹性调度构建构建/上传PushPull服务发现 代码秒级的自动扩缩容容器化、快速部署自动化调度、故障自愈细颗粒度的资源分配chronosMarathonZookeeperMesos其他框架MySQLContainerMesos agentCalicCalicCalicoooHost AMySQLContainerHost BMesos agentMesos agentHost CRedisContainerCeph有状态IP随容器漂移存储随容器挂载优点纯L3，成熟无Overlay的性能损耗易路由易维护 缺