OpenStack发展现状与商用版OpenStack实践

1、HUAWEI TECHNOLOGIES CO., LTD.HUAWEI TECHNOLOGIES CO., LTD.n 华为保密信息华为保密信息 未经授权禁止扩散未经授权禁止扩散Page 1OpenStack发展现状与商用版OpenStack实践2Page 2ContentContent2商用版OpenStack增强实践1 OpenStack概述与发展现状 Huawei Confidential 3企业IT云之路的理解企业IT云之路物理设备虚拟化资源整合资源按需使用自动化管理资源弹性调度基于大集群的HA，DRS多数据中心整合统一管理和运维多级备份容灾SDN网络虚拟化统一管理资源最优配置业务灵活

2、迁移PrivatePublicHybrid Cloud私有云虚拟化分布式云数据中心混合云关注资源逐渐关注业务关注全局业务灵活的业务驱动 Huawei Confidential 4主流开源云平台发展趋势社区参与人数社区参与人数社区代码提交次数社区代码提交次数社区参与机构数社区参与机构数1.IBMHP等公司放弃私有云管理平台，转向开放架构2.开源云管理平台四大主流：Openstack、CloudStack、OpenNebula、Eucalyptus，其中OpenStack架构活跃度最高，是众多机构和个人的首选开源云平台3.各大主流云计算厂商都转向支持Openstack，获取广泛的生态支持OpenS

3、tack发展简史OpenStack项目由NASA（美国国家航空航天局）和Rackspace合作研发并发起的，以Apache许可证授权的自由软件和开放源代码项目。2012年OpenStack基金会成立，成为第2大开源基金会至今（仅次于Linux基金会）版本周期：每年发布2个主版本（4月和10月各发布一个），主版本发布后会进行多次小版本更新，小版本更新以修正BUG为主。版本命名规则：每个主版本系列以字母表顺序（AZ）命名，以年份及当年内的排序做版本号，如 Kilo 2015.1.02014.4IceHouse2014.10Juno2015.4Kilo2015.10LibertyThe OpenSt

4、ack Foundation目标：对云架构和开源有相同理念的人一起协作，开放源码、开放式设计、开放式开发、开放式社区，创造一个适应各种规模、能够普遍部署、满足公有和私有云需求的开源云计算平台； （WindowPC、AndroidHANDSET、OpenStackSERVER）三大委员会（董事会、技术委员会、社区委员会 ），几乎聚集所有IT和云计算巨头，享有话语权，进行目标和发展的引导Board of DirectorsTech CommitteeUser committee每6个月重新选举，各项目技术Leader，技术决策社区建设，反馈社区意见制定战略和资金、资源、人员、成员管理OpenSta

5、ck开源社区介绍HUAWEI TECHNOLOGIES CO., LTD.Page 7OpenStack的生态系统/foundation/companies/1.Platinum Members(8)2.Gold Members(16)3.Corporate Sponsors(32)4.Supporting Organizations（136） 主要玩家集中在铂金、金牌会员，深度参与（三大委员会、较多人参与社区开发）主要玩家集中在铂金、金牌会员，深度参与（三大委员会、较多人参与社区开发）提交代码提交代码解决解决Bug数数社区发言社区发言http:/

6、http:/ 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 8Openstack机构贡献情况Diablo ,Sep 2011 Essex ,Apr 2012 Folsom ,Sep 2012 Grizzly,Apr 2013Havana,Oct 2013Icehouse,current从从Diablo到到IceHouse的的OpenStack贡献来看，贡献来看，Redhat、RackSpace、HP、IBM，Mirantis 等厂商在社区贡献上投入积极等厂商在社区贡献上投入积极HUAWEI TECHNOLOGIES C

7、O., LTD.Page 9OpenStack参与者的利益诉求增强运维功能，提供解决方案增强运维功能，提供解决方案Horizon DashboardNova ComputeCinder Block StorageKeystone AuthenticationSwift Object StorageGlance Image MgmtQuantum NetworkREST APICeilometer计量Heat服务编排RedDwar数据库Burrow消息队列虚拟化、基础设施接入，带动产品销售虚拟化、基础设施接入，带动产品销售Burrow消息队列虚拟化 KVM Xen Server/XCP Hype

8、r-V ESX/ESXi存储NetappIBM HPSolidFireZadara NexentaDell EMC网络NiciraOpen-vSwitchCiscoLinux BridgeNECRyu BigSwitchFloodlightMidonetExtreme NetworksRuijie NetworksBrocadeMellanox自动化安装部署监控、告警、报表Openstack系统HA(客户化)发放、计费大规模调度Dell、Cisco、ALU、Ericsson、IBM、Rackspace、HP Redhat、SUSE、Cannonical、Mirantis、Piston、Nebu

9、la 越来越多互联网、电商用户基于越来越多互联网、电商用户基于OpenstackOpenstack自建云服务，有较大规模自建云服务，有较大规模（10000 Hosts10000 Hosts）上线）上线 OpenstackOpenstack聚焦提供有竞争力的开放云服务平台，吸引众多业务上互补的优势产品，强强联合形成多样化的解决方案和生态圈聚焦提供有竞争力的开放云服务平台，吸引众多业务上互补的优势产品，强强联合形成多样化的解决方案和生态圈 其他企业和运营商也已开始对其他企业和运营商也已开始对OpenstackOpenstack解决方案进行小规模测试解决方案进行小规模测试Production : B

10、est Buy, Bloomberg, NASA, Cisco WebEx, Comcast, CERN, HP, NeCTAR, PayPal, Rackspace and Samsung OpenStack：社区开发活跃，版本周期稳定，规模持续增长单版本周期代码贡献总量达到单版本周期代码贡献总量达到6.6M，贡献者超过，贡献者超过1900人人1.1 0.3 0.4 1.5 2.3 2.1 2.1 4.3 5.4 6.6 0500100015002000250002468ABCDEFGHIJ百万LOCContributorsJuno版本周期：版本周期： 共提交共提交661万行代码万行代码 1

11、947名贡献者参与开发名贡献者参与开发15181843691091582252844064470100200300400500ABCDEFGHIJNow30X已发布第已发布第12个版本个版本Liberty ，项目增加迅速，生态系统迅速扩展项目增加迅速，生态系统迅速扩展模块数量增长迅速，迄今已增长接近模块数量增长迅速，迄今已增长接近30倍倍OpenStack用户群体迅速扩大，重量级用户大幅增加OpenStack用户群体迅速扩大用户群体迅速扩大n本次调研周期内（本次调研周期内（2014年年5月至月至11月），用户群体明显发展：月），用户群体明显发展： 在生产环境下部署在生产环境下部署OpenSta

12、ck的用户：的用户：33% -46% 电信行业用户的比例：电信行业用户的比例：6% -10% 金融行业用户的比例：金融行业用户的比例：0.25% -2% 使用最近两个发行版的用户比例达到使用最近两个发行版的用户比例达到 67% 新兴项目在生产环境中的部署比例得到提升，如有新兴项目在生产环境中的部署比例得到提升，如有9%的用户已经开始在生产环境的用户已经开始在生产环境中使用中使用DBaaS（Trove）n重量级代表性客户：重量级代表性客户： 宝马（制造业）、西班牙外换银行（金融业）、宝马（制造业）、西班牙外换银行（金融业）、时代华纳有线（媒体咨询）、欧洲高能物理研究时代华纳有线（媒体咨询）、欧洲

13、高能物理研究中心（科研）、富国银行、沃尔玛中心（科研）、富国银行、沃尔玛。n国内代表性用户：国内代表性用户：广州超算中心（政务云等业务，天河广州超算中心（政务云等业务，天河2号，号，6400节点）、携程网（呼叫中心等业务）、奇虎节点）、携程网（呼叫中心等业务）、奇虎360（系统补丁自动化测试等业务）、爱奇异（视频（系统补丁自动化测试等业务）、爱奇异（视频转码等业务）转码等业务）重量级企业用户大幅增加重量级企业用户大幅增加OpenStack部署情况调查nFrom: nOpenStack2014UserSurvey 13Page 13为什么需要OpenStack？架构开放北向标准OpenStack

14、 API，生态系统丰富不会绑定到一个厂家Apache License，允许随意商业集成异构接入能力强南向异构接入强。异构hypervisor (KVM/XEN/Vmware/LXC), 异构存储, 异构网络，异构物理设备可扩展性好较容易定制化增加新模块和服务（如新的虚拟化引擎）级联后可构建大规模的云参与者众多，发展迅猛，行业默认云平台Bug响应快，每六个月发布一个版本参与社区的企业300+，开发人员20000+3rd Network3rd Hypervisor3rd Storage3rd DCManagementMANO/BOSS3rd Guest OS &ApplicationsNo

15、vaCinderNeutronHeatOpenStack + OpenStack：架构开放、扩展性良好、支持多厂商基础设施的统一平台Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 14Openstack 在云计算中的位置15Page 15OpenStack 项目分层服务功能HorizonPortalNova计算服务Neutron网络服务Swift对象存储 Cinder块存储Keystone鉴权 Glance镜像服务Ceilometer监控 Heat业务编排 Trove数据库服务Sahara大数据服务1

16、6Page 16ServiceProject nameDescriptionDashboardHorizonProvides a web-based self-service portal to interact with underlying OpenStack services, such as launching an instance, assigning IP addresses and configuring access controls.ComputeNovaManages the lifecycle of compute instances in an OpenStack e

17、nvironment. Responsibilities include spawning, scheduling and decomissioning of machines on demand.NetworkingNeutronEnables network connectivity as a service for other OpenStack services, such as OpenStack Compute. Provides an API for users to define networks and the attachments into them. Has a plu

18、ggable architecture that supports many popular networking vendors and technologies.Object StorageSwiftStores and retrieves arbitrary unstructured data objects via a RESTful, HTTP based API. It is highly fault tolerant with its data replication and scale out architecture. Its implementation is not li

19、ke a file server with mountable directories.Block StorageCinderProvides persistent block storage to running instances. Its pluggable driver architecture facilitates the creation and management of block storage devices.Identity ServiceKeystoneProvides an authentication and authorization service for o

20、ther OpenStack services. Provides a catalog of endpoints for all OpenStack services.Image ServiceGlanceStores and retrieves virtual machine disk images. OpenStack Compute makes use of this during instance provisioning.Telemetry ServiceCeilometerMonitors and meters the OpenStack cloud for billing, be

21、nchmarking, scalability, and statistical purposes.Orchestration ServiceHeatOrchestrates multiple composite cloud applications by using either the native HOT template format or the AWS CloudFormation template format, through both an OpenStack-native REST API and a CloudFormation-compatible Query API.

22、OpenStack 服务简介17Page 17OpenStack 核心模板关系图服务功能HorizonPortalNova计算服务Neutron网络服务Swift对象存储 Cinder块存储Keystone鉴权 Glance镜像服务Ceilometer监控 Heat业务编排 Trove数据库服务Sahara大数据服务Copyright 2010 Huawei Technologies Co., Ltd. All rights reserved. Page 18OpenStack 组件的演进过程Incubated Integrated Core:Ensures projects meet a h

23、igh standard of usefulness and qualityGrizzly:Havana:IceHouse: OpenStack OpenStack 服务随着版本节奏将逐步丰富和完善服务随着版本节奏将逐步丰富和完善19Page 19Your ApplicationsFoundation ServicesComputeAmazon EC2Auto ScaleStorageAmazon S3Amazon EBSAmazon StorageGatewayDatabaseAmazon RDSAmazon SimpleDBAmazon ElastiCacheAmazon DynamoDB

24、NetworkingAmazon VPCElastic Load BalancingAmazon Route 53AWS Direct ConnectManagement & AdministrationApplication Platform ServicesContent DistributionAmazon CloudFrontApplication SvcsSimple Workflow ServiceCloudSearchAmazon SNS, SQS, SESParallel ProcessingElastic MapReduceLibraries & SDKsJa

25、va, PHP, Python, Ruby, .NETIdentity & AccessAWS IAMIdentity FederationConsolidated BillingWeb InterfaceManagement ConsoleMonitoringAmazon CloudWatch Deployment & AutomationAWS Elastic BeanstalkAWS CloudFormationAWS Global InfrastructureRegionsAvailability ZonesEdge LocationsNovaSwiftCinderKe

26、ystoneDashboardHeatCeilometerTroveGlanceNeatronBurrow对照AWS看，OpenStack前期聚焦核心云基础服务，现逐渐向应用平台和管理服务发展；OpenStack项目从孵化到正式发布需经过两个版本周期（共一年），基于其开源、社区活跃程度，及短周期版本节奏，新特性成熟可用很快HeatOpenStack的能力布局CeilometerOpenstack 的主要设计思路OpenStack 依然处于快速发展过程中Nova,Cinder,Neutron,Heat等核心模块依然在版本发布代码数占据显要位置。说明，OpenStack核心模板依然还不够稳定（比如

27、K版本Nova Scheduler可能在后续版本中分离出来），但是部分模块开始逐步稳定下来。22Page 22功能分类未实现的功能操作维护1.OpenStack 自动部署2.VDC管理3.App虚拟化部署4.硬件和虚拟化资源管理5.即插即用容量扩展6.升级和回退业务连续性1.App实时故障检测2.App可靠性 (Backup.Disater Recovery)3.OpenStack & VM 故障检测和恢复可扩展性1.OpenStack可管理的计算节点数量2.多数据中心性能1.数据面app虚拟化2.内部VMs 通讯性能3.存储性能集成能力1.多供应商集成Multi-vendor Int

28、egration2.企业级认证集成网络管理1.虚拟拓扑管理2.物理和逻辑拓扑映射开源OpenStack距离商用还有差距，不适用直接在生产环境中使用。开源OpenStack商用存在的问题23Page 23ContentContent2商用版OpenStack增强实践1 OpenStack概述与发展现状 Huawei Confidential 24配色：以小面积点缀，所有颜色不大于画面面积30%商用版OpenStack加固商用加固易部署易运维高可靠安全加固自动化扩展性商用版 OpenStackOpenStack Extension（Plugin/Driver Extension ）Common S

29、erviceInstall, upgrade, monitor, Alarm, Log, HA运维监控系统25Page 25HeatResource PluginAPI -ExtensionCeilometerAPI -ExtensionAgent标准OpenStack的组件增强的OpenStack 插件NovaVirt-driver( Huawei KVM-Driver)API -ExtensionAffinity Scheduler-ExtensionEnhanced KVM HypervisorNeutronML2 Plugin DriverAPI -ExtensionL3-AgentE

30、VSLbaas AgentHAproxy DriverCinderVolume-driverAPI -ExtensionAffinity Scheduler-ExtensionFusionStorage DriverNFV Affinity Scheduler FilterGlanceImage Store Backend DriverAPI -ExtensionUDS DriverVM HA Scheduling hardware-agentcompute-agentSR-IOVNE40EHuawei SANOpenStack OpenStack 商用扩展原则对标准OpenStack的扩展和

31、增强思路：l 扩展的目的是为了增强标准OpenStack的易用性、可靠性、兼容性和自动化管理程度，最终提供可商用的基于OpenStack的云平台解决方案；l 所有扩展和增强，都是基于OpenStack 自带的原生的标准插件/驱动机制实现的，不对OpenStack主干代码做任何改动，不影响其他厂商的无缝集成，保证了OpenStack的开放性；l 增强的功能可以随着OpenStack版本的升级轻松地迁移到新版本的OpenStack中，并将增强的功能反馈回OpenStack社区。26Page 26构建云自动化部署能力，提高运维效率对OpenStack安装部署的增强点：l 提供基于标准的操作系统接口的

32、安装部署服务，便于在不同操作系统上部署OpenStack，增强了部署灵活性；l 支持对Openstack和其它管理模块自动化部署，包括对各任务进程自动化的安装、卸载、启动、停止、重启；l 提供完整的配置管理功能，支持统一配置框架和配置入口， 支持配置变更通知，提高了管理员的配置效率；亮点和价值：l极大改善了开源OpenStack在安装部署方面的能力短板，增强了系统运维能力，提高了运维效率，降低了客户运维成本。OpenStack原生商用增强的模块27Page 27提供一键式、平滑的云平台升级功能平滑升级技术特点： 统一升级框架：提供OpenStack和Host OS（含Hypervisor）的统

33、一升级框架，可一次完成整个云平台升级； 一键式、自动化升级流程：管理员可基于升级工具的UI，一键式完成软件上传、升级评估、虚拟机迁移、系统升级、升级确认、升级回退等动作； 平滑升级：升级过程中虚拟机自动被热迁移，虚拟机上业务不中断； 严格、可靠的升级过程：支持升级评估、升级确认，保证升级动作严谨、正确；升级回退为升级动作增加了可靠性保障； 升级服务兼容性强：升级服务基于标准OS接口开发，具备良好兼容性。OpenStack原生商用增强的模块将OpenStack的手动、复杂升级过程增强为自动化、简单、平滑、高可靠性的升级！28Page 28管理模块可靠性增强，无单点故障对OpenStack管理模块

34、可靠性的增强点：l HA服务框架：提供基于标准的操作系统接口的OpenStack HA功能服务框架，增强了OpenStack部署的兼容性和灵活性；l 故障监控：监控OpenStack组件的进程健康状态；l 状态恢复：重启故障的OpenStack组件，快速恢复系统正常运行。亮点和价值：l 提供了兼容性强、自动化的OpenStack管理模块HA功能；l 管理进程监控和故障自动恢复；l 提高了OpenStack的整体可靠性，降低了系统维护复杂度；OpenStack原生商用提供的模块29Page 29关键特性双分区技术主分区备份区服务器本地存储若数据损坏，由备分区接管业务x自动化数据备份KVMKVM管

35、理节点(主)实时同步FTP/S3/HTTPS每日备份管理节点(备)保障OpenStack服务连续性，规避系统任何单点故障服务器本地存储双分区 服务器主、备分区之间数据实时同步 主分区故障备分区即时接管管理系统无单点故障 OpenStack采取ZooKeeper/Paxos 3节点负荷分担方式高可靠部署 任意一个节点故障都不会影响对系统功能自动化的管理数据备份 自动备份管理数据并传输(FTP/S3/HTTPS)到第三方存储 支持管理员手动备份和自动备份 系统故障时可通过备份文件恢复全系统管理数据管理数据可靠性保障30Page 30物理机/ /虚拟机故障监控实现物理机/虚拟机故障秒级检测和快速上报

36、适用场景电信领域高可靠业务场景物理服务器AOSAPPOSAPPX物理服务器BOSAPPOSAPPOSAPPOSAPPHA故障检测时间达到1s，支撑HA主备秒级切换HypervisorDomain0物理层物理层DomainU虚拟看门狗黑匣子虚拟机黑匣子转储技术特点支持软硬件WatchDog，实现硬件/Host OS/Guest OS秒级故障检测提供内核黑匣子和模拟串口，支持故障信息捕获和故障定位调测提供提供Guest Kbox转储通道，支持虚拟机黑匣子数据转储到外部存储31Page 31增强的虚拟机HAHA（High AvailabilityHigh Availability）强大的并发处理引擎对开源OpenStack中HA功能的增强：1、将开源OpenStack中不可用的HA功能（需删除虚拟机和共享存储再重建虚拟机，导致数据丢失）增强为无需删除虚拟机只需在其它主机自动拉