DCOS技术及方案研究

数据中心操作系统（DCOS）技术与方案研究中国移动通信研究院-大数据与IT技术研究所二〇一五年九月提纲1数据中心操作系统架构及特点IT基础架构发展趋势架构及服务特点2数据中心操作系统方案对比及行业现状主流方案对比厂商动态DCOS与IAAS云平台关系分析3IT基础架构现状及愿景打造以应用为中心的高效云服务服务器操作系统应用IT基础架构发展阶段1：裸机时代基础架构利用率低每台服务器上运行一个应用程序：避免一个应用程序中的漏洞影响同一服务器上其他应用程序典型的x86

服务器部署平均达到的利用率仅为总容量的10%

到15%（美国国际数据集团(International

Data

Corporation,

IDC)

报告）物理基础架构成本日益升高为支持不断增长的物理基础架构而需要的运营、维护成本稳步攀升。大多数计算基础架构都必须时刻保持运行，因此耗电量、制冷和设施成本不随利用率水平而变化。管理成本不断攀升服务器数量太多难以管理，新服务器和应用的部署时间长，硬件维护需要数天/周的变更管理准备和数小时的维护窗口。

故障切换和灾备困难：兼容性差。系统和应用迁移到新的硬件需要和旧系统兼容的硬件系统。服务器操作系统应用操作系统虚拟机操作系统应用虚拟机操作系统应用虚拟机云平台服务器操作系统IT基础架构发展阶段2：虚拟化时代以虚拟化技术为基础，以虚拟机为单位，将资源提供给用户。提高资源利用率将一台高性能的服务器虚拟成多个虚拟机，在物理上虚拟机共享宿主服务器的硬件资源，而逻辑上各自独立，可在各虚拟出的服务器上运行不同的应用，各司其职，互不干扰。降低管理、运维成本简化服务器的部署、管理和维护工作，降低管理费用通过从物理基础架构抽象应用使数据中心资源管理和调度更敏捷，是对传统数据中心资源管理模式的变革核心技术计算虚拟化、SDS、SDN、OpenStack管理代表公司亚马逊aws、VMware、微软azure、阿里云、华为等服务器应用操作系统应用应用服务器操作系统资源统一管理、调度IT基础架构发展阶段3：以应用为中心时代以分布式应用为核心场景，主打应用生命周期管理。保证应用程序和服务易发布、易扩展，始终能获得所需要的资源。问题虚拟机构成的集群仍然难以运维，对于每个虚拟机的维护也并非容易，用户遇到的问题和直接维护物理机集群基本相似用户需求应用能够获取资源，快速启动，服务可以无限扩展（不在乎怎样运行及运行在哪），服务失败时能被自动检测并修复，应用易于迁移。数据中心操作系统：Datacenter

Operating

System（DCOS）目标整合数据中心资源，进行虚拟池化，开放诸如CPU、内存和I/O这些基本资源而不是虚拟机。就像操作系统将PC的处理器和RAM放入资源池，使其可以为不同的进程协调分配和释放资源核心技术容器集群资源管理、容器代表公司：Google、Mesosphere、Facebook、Twitter等。yelp使用mesosphere大大提高了数据中心的性能；yelp每天运行大约1700万独立测试，启动100万个容器。DCOS架构server硬件KernelserverserverserverDataCenter

Operating

SystemJava,PythonandC++APIs/SDKRestful

APIs接口应用Spark，Hadoop，Storm，ElasticSearch，MPIRails，Kafka，Play！DatacenterAsaComputer支持多种计算框架支持多种计算框架的统一集群管理提供全局资源管理和调度资源隔离支持资源隔离。提供一种资源隔离机制避免多种框架不同任务之间由资源争用导致效率下降。扩展性更高效的管理系统，支持应用的横向扩展容错性和自动修复如果一台服务器发生故障，它的工作负载可以自动迁移到别的地方。高资源利用率将各种框架部署到同一集群中，统一管理调度，各种作业交错，作业提交频率大幅度升高，增加资源利用率应用快速部署，便于迁移利用容器封装，实现多种框架任务之间的隔离保证应用的快速启动（ms级别），一次打包，到处运行，实现应用的自由迁移。DCOS特点容器技术ServerHost

OSHypervisorGuestOSBins/

LibsMysqlGuestOSBins/

LibsMysqlGuestOSBins/

LibsAPPVirtual

MachinesServerHost

OSBins/

LibsMysqlMysqlContainersBins/

LibsAPPAPPContainersareisolated,butshareOSand,whereappropriate,bins/libraries容器并不包含一个单独的操作系统，而是基于已有的基础设施中操作系统提供的功能来运行的。将应用程序及所有程序的依赖环境打包到一个容器中，容器可以运行在任何一种Linux服务器上。这大大地提高了程序运行的灵活性和可移植性。虚拟机是操作系统级别的资源隔离，容器本质上是进程级的资源隔离容器技术实现发展最快和最有代表的是开源Docker技术。Docker是PaaS提供商dotCloud（后改名为DockerInc）

开源的一个基于LXC的高级容器引擎，源代码托管在Github上,遵从Apache2.0协议开源。Docker核心在于实现应用与运行环境整体打包以及打包格式统一Docker并不是容器技术的唯一选择提纲1数据中心操作系统架构及特点IT基础架构发展趋势DCOS架构及服务特点2方案对比及行业现状主流方案对比厂商动态DCOS与IAAS云平台关系分析3IT基础架构现状及愿景打造以应用为中心的高效云服务Twitter/eBay:Mesos资源调度应用框架加州大学伯克利分校的AMPLab首先开发的开源群集管理软件，支持Hadoop、ElasticSearch、Spark、Storm和Kafka等16种架构，于2009年立项；Mesos0.20.0版本(2014.08发布)增加了对Docker的支持生态：2011年开始在生产环境（Twitter/eBay/AirBNB/yelp）使用，生态系统成熟Mesosphere：一家围绕Mesos开展商业的创业公司，在mesos基础上吸收了各种开源工具，从而开发出了一套基础工具，形成针对数据中心的操作系统。系统的名字叫做MesosphereDataCenterOperatingSystem（DCOS）Google/Redhat：KubernetesGoogle主导的分布式容器的资源调度和业务编排系统生态：Docker出现后，2014年Google开源了Kubernetes据说，Google的搜索、地图、邮箱等服务全部运行在一个服务集群中，这都有赖于Google内部代号为Borg的系统，以及其后继者Omega，而Kubernetes正是其开源版本。Redhat、IBM、HP、微软、rackspace，Mesosphere、intel宣布支持Mesosphere、Coreos、Redhat的产品已经将Kubernetes集成进去Docker：Compose/SwarmSwarm/Compose:Docker主导的容器资源调度和业务编排中、小集群场景用户“开箱即用”，无需安装额外调度系统生态：IBM、思科、微软、HP、Vmware等宣布支持状态：Swarm2015.02月刚刚发布0.1.0版本，只具备filter+strategy基本调度能力功能不完备，缺少容器状态监控、Autoscaling、HA/FT、错误自愈能力Lattice：是由Vmware和Pivotal主导的CF的子项目，容器编排调度系统。Lattice=Diego（容器资源调度、编排能力很弱）+Loggregator（日志）+Gorouter（负载均衡）状态：Pivotal计划将Lattice推到CloudFoundry基金会，但进展缓慢，预计2015年10月份推出。IBM/Pivotal/Vmware：LatticeDocker：Swarm/Compose

&

IBM/Pivotal/Vmware：Lattice厂商动态——主要IT公司积极支持容器技术GoogleAWS微软VMwareRedhat开源Kubernetes，意图成为容器编排调度的领导者。KubernetesTOP10贡献者Google、Redhat、canonical、RackspaceGoogle与Mesosphere合作，Kubernetes现在被完全集成到Mesosphere中2014.11发布ECS（EC2ContainerService）服务。提供AWS集群管理调度模块，也支持客户自己的集群管理系统2014年7月，微软与Google、Docker合作，在Auzre上docker和Kubernetes微软发布AzureServiceFabricPaaS服务，后续将替换kubernete，支持公有云和私有云部署。2015停止对GoogleKubernetes贡献，推出cloudfoundryLattice应对Kubernetes和dockerSwarm，构筑容器编排与管理能力；社区投入，重点围绕Docker、Kubernetes项目，是社区中仅次于Docker、Google的贡献者。以docker和Kubernetes项目为核心，构建了混合云cloudforms和PaaS方案Openshift。Openstack社区集成容器路线跟随社区。投资CoreOS，培育Docker竞争对手CoreOS，推广CoreOSAPPC,抑制Docker一家独大2014.4AWS应用开发平台Beanstalk支持Docker服务2015年4月，Microsoft发布全新的容器技术：Hyper-V容器和NanoServerVMwarevCloudAir、VMwarevCenter等现有产品上支持Docker，拥抱容器以安全隔离为理由，推Bonnevilla避免VM被弱化。允许开发人员以DockerHub当中的镜像为基础创建容器机制，而且每套容器皆拥有自己运行所在的独立虚拟机环境。自Docker发布以来，积极参与社区成为DBAG成员，并在OS发行版中支持Docker,

2013年11月，RHEL6.5版本就开始支持Docker主要IT公司积极支持docker或推出自己的容器技术，并基于容器技术提供DCOS系统，构建PaaS平台方案。国内互联网公司动态国内的互联网厂商纷纷已经在自己的私有云中开始使用容器技术，并且已经开始推出公有云服务，从使用趋势上看，首先内部私有云容器化，并基于私有云经验，提供公有云服务。京东：弹性计算云应用场景：私有云。今年618促销时，生产环境11000+个docker实例,接入了1000+应用。目前线上实例超2W到年底将再翻两番,实现大部分应用程序通过容器技术来发布。阿里巴巴：阿里百川应用引擎应用场景：淘宝应用引擎TAE。2014年8月开始规模化使用Docker的PaaS平台，它最近推出了2.0版，作为阿里百川项目的一部分对外开放。腾讯：腾讯游戏应用场景：私有云2014.6开始，接入1000+物理机、约4000个容器。数十个端游、手游、页游百度：百度基础平台和开放云应用场景：私有云、百度开放云平台为了支撑百度上百个产品的各种需求，百度基础架构团队从2013年开始构建集群操作系统来实现资源的灵活调度和最大化利用，系统目前已经覆盖20万台规模的服务器，形成统一的资源池。2014年开始百度推出百度开放云服务，容器技术同样成为开放云核心竞争力之一。社区动态CNCFOCIOpenStack2015年7月21日，谷歌与众多行业合作伙伴宣布共同建立一个云计算基金会CloudNativeComputingFoundation目的：与开源社区和合作伙伴一起共同把控Kubernetes未来的发展，开发新的软件以让整个容器工具集更加健壮Linux基金会是其中的主要成员，华为也是CNCF成员2015DockerCon大会上，容器技术的Docker与基于Linux内核的轻量级操作系统CoreOS联合推出了开放容器项目OpenContainerProject，后改名为OCI（Open

Container

Initiative）目标：实现容器镜像格式与运行时的标准化。分工：Docker将为项目贡献其容器格式、运行时代码并提供规范。而AmazonWebServices、Apcera、思科、CoreOS、Docker、EMC、富士通、高盛、Google、HP、华为、IBM、英特尔、Joyent、LinuxFoundation、Mesosphere、微软、Pivotal、RancherLabs、RedHat以及VMware将围绕着容器格式和运行时建立标准目前OpenStack与容器相关的三个项目：Nova-DockerHeat插件Magnum项目：得到社区大力支持，实现了Openstack下容器集群自动化部署和统一管理，可能是OpenStack与容器未来融合的方向。2015年7月，Google加入OpenStack，将确保Kubernetes融入OpenStack平台。DCOS与IAAS云平台互补，而非颠覆优缺点互补IAAS在安全性、隔离性、存储、网络等方面已经有比较成熟的解决方案，DCOS在这些方面仍有不足DCOS并未完全颠覆目前的IAAS服务，主流的DCO