大数据云平台项目建设方案_第1页
大数据云平台项目建设方案_第2页
大数据云平台项目建设方案_第3页
大数据云平台项目建设方案_第4页
大数据云平台项目建设方案_第5页
已阅读5页,还剩42页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

“大数据云平台”项目(一

期)建设方案

目录

目录.......................................................2

1项目概述...............................................4

1.1建设背景..........................................................4

1.2建设目标..........................................................5

2总体规划...............................................6

2.1建设原则..........................................................6

2.2建设思路..........................................................7

2.2.1一期建设:完成大数据云平台基础架构(IAAS)的建设...........7

2.2.2二期建设:完成大数据处理平台和0A系统部署...............9

2.3总体架构.........................................................10

2.4采用的关键技术..................................................11

3一期建设方案..........................................13

3.1建设目标.........................................................13

3.2建设架构.........................................................16

3.3建设内容.........................................................17

3.3.1硬件基础设施扩容..........................................18

3.3.2虚拟化平台................................................20

3.3.3云管理平台................................................26

3.3.4运营计费系统..............................................30

3.3.5云安全服务体系............................................31

3.3.6数据容灾备份系统.........................................31

3.3.7接口定制及二次开发服务...................................32

3.4建设价值.........................................................34

3.5方案整体优势....................................................35

4一期方案配置清单......................................37

第2页/共47页

5云平台技术要求........................................39

5.1服务器虚拟化软件............................................39

5.1.1虚拟化软件功能要求....................................39

5.2云管理平台软件..............................................43

5.2.1云平台软件功能要求....................................43

6售后服务.............................................47

第3页/共47页

1项目概述

1.1建设背景

XXXX水运安全工程技术研究中心(以下简称“研究中心")是国家重点的水路

公路交通安全工程技术科研机构,承担着国家各类科研项目40余项。近几年,随

着研究中心的科研项目越来越多,科研环境的要求也越来越复杂,当前数据中心

的IT基础设施环境已无法满足日益增多的项目需求,主要体现在以下几个方面:

1)服务器与存储设备老旧,性能已无法满足新的科研环境要求;

2)服务器数量不足,无法支撑当前日益增多的科研项目需求;

3)服务器资源使用不均衡,有些项目对资源要求低,有些项目对资源要求高,

但无法实现相互资源合理利用和调度;

4)服务器分配到某科研项目后,无法进行有效管理和及时释放资源;

5)服务器等设备采购周期长,影响了新科研项目的开展;

6)科研环境部署时间长,尤其是系统环境占用很长时间,导致工作效率低;

7)整个机房的管理运维困难,无法对服务器资源进行集中管理;

8)无法有效评估科研项目的资源使用率和带来的效益;

9)无法有效预测未来IT基础设施的建设需求;

随着云计算、虚拟化、大数据分析等先进信息化技术在科研领域的广泛应用,

将有效解决了当前研究中心实验室信息化建设面临的一系列问题,通过采用先进

的云计算和虚拟化技术,构建一个科研资源可按需定制、动态高效、灵活扩展、

全面管理、稳定可靠、可持续发展的新一代云计算IT业务部署和服务交付的“大

数据云平台”,为研究中心及各科研项目提供安全可靠、弹性扩展的基础运行环境,

可以解决数据中心IT基础设施资源的整合及合理利用,科研项目资源的快速分配,

科研环境的快速部署,资源的动态扩展,业务的高可用部署,按需申请资源,并

根据使用量计费,统一管理运维等问题,从而有效提高了研究中心IT基础设施的

资源利用率,简化了管理维护流程,提升了科研工作效率。

第4页/共47页

1.2建设目标

研究中心的“大数据云平台”项目(以下简称“大数据云平台”)是以“服务科

研项目研究工作,推动实验室信息化建设"为目标。采用先进的云计算、虚拟化、

大数据等先进的信息技术,与研究中心实际项目需求紧密结合,为解决即有的技

术问题,进一步提升实验室信息化应用成效,构建一个基于开源的云计算架构大

数据云平台,面向研究中心各部门、各科研项目组等单位提供科研基础资源服务,

进一步推动实验室信息化建设与深度应用,最终构建服务全省的"智能交通系统大

数据云平台"信息化服务体系,将传统的基于项目型管理模式转化成基于大数据云

平台的IT云服务运营模式。

整个大数据云平台项目主要由四部分组成:虚拟化平台、云管理平台、大数

据分析平台和自动化办公系统。各部分的建设目标如下:

1)虚拟化平台:在现有数据中心建设的n■基础环境之上,新购一批硬件基础设

施,对数据中心IT基础资源进行整合,通过虚拟化技术形成计算资源池、存

储资源池、网络资源池等基础资源,搭建稳定高可用的IT架构,满足研究中

心现阶段各业务系统对资源的需求,保证业务连续性和稳定性,同时考虑资

源的冗余和未来2~3年的业务增长.

2)云管理平台:采用先进的开源云计算架构搭建,实现对底层虚拟化资源池集

中管理,通过云管理平台,管理员可以将IT资源以服务的方式交付不同科研

项目组或研究员使用,可以实现用户自助申请,流程审批,并根据资源类型

和使用时长进行计量和计费。所有研究中心的研究员都可以向大数据云平台

申请基础资源云服务;可以实现按需、动态的对底层资源进行调整、分配、

回收等操作,大大提升资源使用率,大幅节省TC。。

3)大数据处理平台:新购一批高性能服务器及存储,扩容云架构,在云计算平

台上部署大数据分析软件,引入大数据技术,在数据归集整合的基础上,为

电子卡口、人像库、视频库等海量结构化和非结构化数据提供存储、处理和

分析能力,为上层应用提供数据支撑服务。

4)办公自动化(0A)系统:在云平台的基础上部署研究中心0A自动化办公系

统,根据办公应用实际需求,规范办公环境管理,提供办公效率。

第5页/共47页

2总体规划

2.1建设原则

考虑到云计算是一个相对较新的技术,且正处于不断发展的过程之中,研究

中心“大数据云平台"项目建设应遵循以下建设原则:

(1)先进性

整体大数据云平台应采用技术先进、成熟稳定的产品和技术,同时要具有良

好的兼容性和发展性,保障资源使用周期最大化。为降低选择先进技术的技术风

险,应采用充分论证及测试的方式,逐步淘汰不成熟、不可行的技术,将平台建

设成技术领先的基础设施系统。

(2)可扩展性

结合目前研究中心的长期规划和实际情况,大数据云平台基础架构应考虑整

体技术的延续性和扩展性,以及现有设备的高利用性和可维护性成本,多种异构

虚拟化技术构建的底层计算资源池与整个大数据云平台的对接问题等。同时整个

云平台基础资源池能力,可以通过新增硬件扩容达到平台扩容的目的,资源可动

态伸缩,满足未来业务系统和用户规模增长的需要。

(3)通用性

首先,云计算是一个复杂的体系,应在统一的框架体系下,参考国际国内各

方面的标准与规范,严格遵从各项技术规定,做好系统的标准化设计与施工。

其次,由于本次大数据云平台为各业务应用系统提供支撑,必须考虑产品和

技术的开放性,提供开放标准接口,供开发者、用户使用。

(4)安全性

大数据云平台建设完成后,要能够结合云计算、虚拟化技术的特新,引入云

计算安全技术,如虚拟网络安全、虚拟机主机安全、加密认证等,同时结合传统

防火墙、防病毒墙技术联动来保障云平台的安全。

第6页/共47页

2.2建设思路

本次“智能交通系统研究私有云”为项目核心研究,将以解决当前实验室信

息化建设面临的技术瓶颈,进一步提升科研信息化应用成效为出发点,以云计算、

虚拟化、大数据等信息技术为支撑,以“服务智能交通系统研究工作,推动实验

室信息化建设”为根本目标,建设一个面向研究中心各部门、各科研项目组等单

位的科研基础资源服务大数据云平台。

大数据云平台建设分为三期建设,实施内容:

办公自动化0A系统

大数据处理平台完善云平皿系

大数据支撑硬件扩容云平台软硬的广容

一期建设二期建设三期建设

2.2.1一期建设:完成大数据云平台基础架构(IAAS)的建设

(一)虚拟化平台建设

虚拟化平台建设包括计算资源、存储资源、网络资源等IT基础设施,需要能

够满足研究中心对计算资源、存储资源、网络资源等基础设施的需求,具体要求

如下:

1)整合研究中心数据中心IT基础资源,对部分硬件设备进行必要的配置升

级扩容,满足部署虚拟化平台的配置要求。

2)新购一批高性能服务器和存储设备,通过虚拟化技术形成计算资源池、存

储资源池、网络资源池等基础资源,来满足研究中心现阶段各业务系统对

资源的基础需求,提高资源利用率。

第7页/共47页

3)将现有物理环境下的科研应用与业务系统迁移到虚拟化环境,根据业务实

际按需调配资源,实现资源的弹性伸缩和按需分配,量化业务应用使用资

源,有效降低单位资源成本;

4)虚拟化平台实现对业务系统的进行集中管理、高可用性、负载均衡、安全

备份策略的部署,增强业务系统的安全性和连续性。

5)根据科研项目组不同业务系统的差异化需求,可将计算资源细分为多个不

同能力的特性资源池,如WEB应用资源池、高性能计算资源池等;

6)虚拟化平台的计算和存储资源应考虑20%的冗余和未来2~3年的业务增长。

7)为确保系统先进性,满足未来3~5年技术演进,采用扩展性强的IT技术

架构。

8)云管理平台能够与虚拟化平台进行完美对接。

(二)云管理平台建设

云管理平台建设包括实现资源的自动监控、资源服务调配、故障预警处置等

管理。对底层物理资源的虚拟融合、按需分配与高效管理,可以显著提高资源交

付的敏捷性和灵活性,提升资源的使用效率,为上层业务提供不间断地资源保障

与可伸缩的资源供给,具体要求如下:

1)采用开源的云技术架构,具备良好的兼容性和扩展性,搭建一个云计算基

础架构IAAS层的服务平台,通过遵循统一的互联规范,为各科研项目组

或实验室提供IAAS层的云服务;

2)云管理平台能够目前市面常见的各类虚拟化架构资源池进行管理,充分保

障客户既有投资,能将复杂的虚拟化管理简单化,标准化;

3)通过基础架构云平台,打通底层资源池,将研究中心所有的硬件资源、虚

拟资源、应用资源进行互通和整合,实现对所有基础架构资源的统一管理、

弹性分配和调度;

4)通过云管理平台,用户可以将计算资源、存储资源、网络资源虚拟化后进

行组织管理,并根据具体需求定制产品界面,提交给外部用户访问、申请

和使用。

5)研究中心各实验室或科研项目组能够通过自助式资源服务门户申请业务

系统所需的各种基础资源,并管理各自的虚拟化数据中心;

第8页/共47页

6)提供租户资源的计量计费管理,可为项目审计提供数据支撑;

7)实现动态的对底层资源进行调整、分配、回收等操作,大大提升资源使用

率,大幅节省TOC。

8)采用高可用、安全、稳定的虚拟化底层架构,采用成熟先进的理念、技术

和方法,适应发展潮流,考虑扩展性,可适应未来应用变化的OpenStack

云平台框架,可支撑超过至少200台服务器的大规模集群和5000台虚拟

主机规模;

9)提供各种流程审批、计费、单点登录等接口,能方便在此基础上二次开发。

2.2.2二期建设:完成大数据处理平台和0A系统部署

(一)大数据处理平台建设

1)在原有大数据云平台架构的基础上,新购一批高性能服务器和大容量存储设

备,作为高性能集群资源池,添加到大数据云平台;

2)利用高性能集群资源池,在云计算架构的平台上搭建大数据处理计算平台,

部署Hadoop/Spark技术的大数据分析软件,实现对为电子卡口、人像库、视频库

等海量结构化和非结构化数据提供存储、处理和分析;

3)考虑大数据处理平台是一个并行计算框架,可以充分利用现有的老旧服务

器及PC资源,实现对大数据计算处理的性能要求;

4)在二期实际环境调研后,可考虑整合中心现有的服务器、PC机资源,纳入

到大数据处理平台上;

5)充分利用OpenStack自身提供的laaS层组件及其服务(如:Nova、Glance

和Keystone等组件),充分利用其laaS层虚拟化的计算能力以支撑科研项目的运算

和调度。

(二)办公自动化(0A)系统部署

1)在大数据云平台上,创建虚拟化服务器,部署研究中心OA系统;

2)通过OA系统上线,实现内部办公规范管理,提升工作效率;

第9页/共47页

2.3总体架构

研究中心大数据云平台总体架构为“两纵四横”结构,其中四横为基础设施

服务、平台服务、数据服务和软件服务四层服务架构,两纵为云管理和云保障两

大体系。具体逻辑架构图如下:

用户门户运营二户■与维管堆门户

软件服者层

SAAS)

应用层数据库系统0A系统信息门户web应用一桌面云

数据服者层

(DAAS)

平台服务层

身份认证中间件数据库操作系统开发环境

(PAAS)

云管理平台(OE-CIoud)

接IT

服务流程管理配额管理口

基础设施服务层理

网络虚拟化用户管理系

(IAAS)

统计报表日志报警

虚拟化管理平台(OECIoud)

X86服务器存储设备网络、安全设备

机供电|制冷|机柜]监控[消防]防雷接地

大数据云平台总体架构图

1)基础设施服务层(IAAS)

包括计算资源池、存储资源池、网络资源池,为上层服务提供云计算基础支

撑服务。

2)平台服务层(PAAS)

在云计算环境中建立业务运行、上线测试、定制开发等环境,为数据服务层

以及应用服务层的运行提供平台支撑服务。

第10页/共47页

3)数据服务层(DAAS)

引入大数据技术,在数据归集整合的基础上,提供数据共享、分析、挖掘,

为上层应用提供数据支撑服务。

4)软件服务层(SAAS)

将所有迁移到云计算中心的各科研业务应用进行发布,并根据新的业务需求,

基于平台服务和数据服务开发新的应用,供全警使用。

云主体由四个服务层自下而上共同构成,提供包括软硬件、平台、数据以及

应用服务。

5)云管理体系

由云管理和云运维管理等内容构成,确保资源交付的敏捷性和灵活性,提升

资源的使用效率;提供全网资源的统一运维、自动监控、故障预警处置等信息化

管理。

2.4采用的关键技术

云计算(CloudComputing)是一种通过网络统一组织和灵活调用各种IT资源,

实现大规模计算的信息处理方式。云计算利用分布式计算和虚拟资源管理等技术,

通过网络将分散的IT资源(包括计算与存储、应用运行平台、软件等)集中起来

形成共享的资源池,并以动态按需和可度量的方式向用户提供服务。

云计算的特点有如下四个层面:

1)硬件和软件都是资源,通过网络以服务的方式提供给用户。

2)资源都可以根据需要进行动态扩展和配置。

3)资源在物理上以集中或分布式的方式存在,为云中的用户所共享,但最终

在逻辑上以单一整体的形式呈现。

4)用户按需使用云中的资源,按实际使用量付费,而不需要对资源进行管理。

虚拟化技术是云计算的关键技术。主要分为:服务器虚拟化技术、存储虚拟

化技术、网络虚拟化技术。

1)服务器虚拟化技术

噢易服务器虚拟化Vserver平台,采用业内技术领先的KVM虚拟化技术,将

系统虚拟化技术应用于服务器上,让一台服务器变成几台甚至上百台相互隔离的

第11页/共47页

虚拟服务器(虚拟机),而让CPU、内存、磁盘、I/O等硬件资源变成可动态管理,

每个虚拟机可安装不同的操作系统(windows、Linux、UNIX)和应用程序,不再

受限于物理设备限制。

通过噢易虚拟化Vserver可以将研究中心机房IT环境改造成为更加强大、更具

弹性、更富有活力的架构。通过把多个操作系统整合到一个服务器集群上,最大

化利用硬件平台的所有资源,用更少的投入实现更多的应用,还可以简化IT架构,

降低管理资源的难度,避免IT架构的非必要扩张。

2)云计算平台技术

噢易云管理平台(简称:OE-Cloud)是基于主流的OpenStack云平台框架自主

开发,是目前业内最受关注和支持的一个开源的基础架构即服务(laaS)云计算平

台框架,它采用分布式、模块化架构设计,平台具有良好的兼容性和可扩展性,

兼容多种异构虚拟化平台,同时支持功能模块的按需扩展,提供用户分级权限管

理、租户管理、镜像管理、实例管理等,满足云数据中心IT基础设施资源的虚拟

化整合,业务资源的快速分配、动态扩展、自动化部署、按需使用量计费、应用

级的高可用性部署等要求,从而为科研云用户提供按需定制、动态高效、灵活扩

展、全面管理、稳定可靠的新一代云计算IT业务部署和服务交付平台。

3)存储虚拟化技术

噢易云管理平台的存储模块,支持块存储(主流的IPSAN、FCSAN)、对象

存储、分布式存储等多种方式进行存储,并能够把主机本地硬盘、异构SAN存储、

NAS存储等通过存储虚拟化技术分割成不同的逻辑存储空间,整合为虚拟存储池,

由统一界面进行集中管理,同时根据业务性能的实际使用情况来分配存储资源和

性能,有利于提升存储空间资源利用率。

管理云可以通过管理门户可以管理所有租户的云硬盘,可以查看云硬盘的规

格和磁盘类型,将云硬盘挂载给不同的云主机使用;通过对云硬盘进行快照,可

以实现磁盘的快速复制和复用,方便快速业务部署。

4)网络虚拟化技术

噢易云管理平台的网络模块,采用SDN技术,支持虚拟交换机、路由器、VPN、

端口转发、负载均衡等部署,管理维护人员通过管理门户,实现对全局网络的规

划和配置,具体包括以下功能:

第12页/共47页

1)可以修改和配置所有租户的网络

2)配置隔离不同的租户网络,保证每个租户一个独立的网络结构

3)管理和配置租户与租户之前的通信和网络访问授权

4)提供网络拓扑图,可查看详细的网络配置

5)实现虚拟交换机、虚拟路由、DHCP、VPN、配置共享网络等

6)云平台支持多种网络包括VLAN、VXLAN、GRE等多种网络类型,满足大量

租户的网络流量进出的并发,可以支持超过4096个VLAN,实现跨区域、跨数

据中心复杂的网络通信。

3一期建设方案

研究中心大数据云平台项目的建设将分期有序推进,初步计划首先完成云平

台IT基础架构(IAAS)层的建设。

3.1建设目标

(一)虚拟化平台建设目标

本期大数据云平台建设项目,采购一批高性能服务器,通过虚拟化技术部署

云平台基础资源池,要能够满足以下建设要求:

1、创建不少于25台虚拟机

虚拟化资源池,至少可以创建25台配置为4VCPU/8GB内存/500GB硬盘的虚

拟机;虚拟机可以通过标准虚拟机模板或通过平台功能向导进行创建;虚拟机之

间相互隔离,相互独立,可以安装不同的操作系统(windows、Linux、UNIX)和

应用程序。

2、图形化和动态的虚拟网络管理

现有应用系统迁移到虚拟化环境后,要求部署在相同的VLAN内;虚拟化迁移

后,不改变原有物理主机的IP地址等配置;虚拟化平台内的虚拟交换机可以进行

VLAN、NAT、DHCP等配置,与物理网络环境部署方式一致;可以跨物理服务器虚

拟交换机配置VLAN;同一物理主机上虚拟机之间的网络隔离(支持Vian),确保

应用系统相关的虚拟机可以划分到同一个VLAN;虚拟机可以配置多块虚拟网卡,

第13页/共47页

部署在不同的VLAN和分配不同网段IP地址;

3、虚拟机的动态迁移

虚拟化平台提供虚拟机的自动迁移功能,实现在计划内的进行服务器维护或

跨物理主机的虚拟机实时迁移时,不需要为这些活动安排应用服务器的停机,避

免了服务中断。

4、虚拟机的高可用性

当虚拟化平台服务器集群内某一台物理主机发生故障时,运行在该物理主机

上的虚拟机能够在短时间内迁移到集群内其他物理主机上,并使用其他物理主机

上的资源自动重启。

5、资源的动态负载平衡和弹性分配

提供虚拟化平台内服务器集群资源的动态负载平衡,当某物理主机的负载达

到一定程度后,自动将高负载物理服务器上运行的虚拟机迁移到其它比较空闲的

物理服务器上。同时可以根据业务和服务特点,实现虚拟资源弹性分配和释放,

满足业务系统发展对性能的需求。

6、资源整合,节省能耗

虚拟化平台可以把原先多台应用服务器进行虚拟化整合,一方面减少了服务

器数量,节省了机房空间、制冷、能耗等,另一方面减少了管理维护工作量,同

时提升了业务应用的稳定性和连续性;有效地降低了管理运维成本。

7、P2V迁移功能(原有已建项目迁移)

虚拟化平台能够把原先运行在物理服务器上的应用系统,迁移到虚拟化环境

中,并能够选择虚拟机的资源配置、重新分配新的磁盘空间等。

8、虚拟化管理控制功能(WEB监控,便于管理)

整个虚拟化平台能够提供整体的性能监控功能,对物理服务器、虚拟机、虚

拟机中应用资源(CPU、网络、磁盘)使用率等指标的实时数据统计,并能反映目

前物理机、虚拟机、应用进程的资源瓶颈,方便管理员运维和管理;

提供虚拟机资产管理功能,可查询虚拟机中安装的应用详情(应用名称、版

本、安装时间等)以及应用升级、新增、卸载、操作系统补丁变更记录,并可统

计虚拟机应用数量,便于用户进行长期的统计分析;

提供多屏集中监控虚拟机中WEB应用画面,并周期刷新,应用运行故障实时

第14页/共47页

发现,支持全屏查看监控web应用界面,便于故障及时定位;同时提供及时报警

工具,可集中查看报警事件,支持故障报警通过短信方式传达给管理员;

9、存储故障转移功能

虚拟化存储资源池采用两台高性能存储进行高可用部署,即一主一备,当主

存储发生故障时,应能自动启用备用存储,确保应用的零中断。

10、其他功能

其他保证虚拟机正常稳定运行,实现零宕机、零中断服务功能。

(二)云管理平台建设目标

>采用先进的云计算技术架构,结合创新建设模式,搭建标准统一、功能完

善、系统稳定、安全可靠、纵横互通、集中统一的基础设施IAAS层大数据

云平台,为各实验室或科研项目组提供虚拟基础资源服务,将原来部署到

物理机上的业务迁移部署到虚拟机上,并整合多个业务系统;

>通过基础架构云平台,打通底层资源池,将研究中心所有的硬件资源、虚

拟资源、应用资源进行互通和整合,实现对所有基础架构资源的统一管理、

弹性分配和调度;

>实现统一的自助式资源服务门户,新增应用能够快速部署到云计算平台上,

缩短新系统上线时间,预期将节省设备30%,节约能耗50%;

>解决“信息孤岛”,实现科研信息共享,提高信息安全水平,提升数据中

心业务监管能力和响应速度,提高工作效率和实验水平;

>采用高可用、安全、稳定的虚拟化底层架构;采用成熟先进的理念、技术

和方法,适应发展潮流,考虑扩展性,可适应未来应用变化的OpenStack

云平台框架,可支撑超过至少200台服务器的大规模集群和5000台虚拟

主机规模;

>平台提供完善的网络和数据安全及冗余保证,通过服务管理层的扩展实现

支持灾难恢复架构的IT基础设施交付能力;

>减少各实验室信息化建设的重复投入,响应国家节能环保政策要求。

(三)迁移现有业务系统到云平台

完成大数据云平台基础架构建设后,需要把现有各科研组的业务系统进行统

计、分类、评估分析后,建立一套严谨的业务迁移流程,从业务系统的数据安全、

第15页/共47页

业务涉密、技术风险、业务影响面、业务迁移规模等进行评估,制定迁移计划,

从而实现现有业务到大数据云平台环境的平滑演进。

(四)加强业务系统高可用性和安全性

根据科研业务系统的重要性,制定运行、服务和管理安全策略,完善业务安

全管理措施,确保物理主机、网络、虚拟机、应用系统、业务数据等多个方面的

安全性和可靠性,同时随着业务增长,资源可以动态扩容,满足科研业务系统的

需求,确保大数据云平台可持续发展。

3.2建设架构

根据本期项目的建设目标和要求,研究中心大数据云平台项目一期建设方案

的总体逻辑架构图如下图所示。整个科研云管理平台架构包括基础设施虚拟化层、

虚拟化管理平台、云运营管理门户和用户自助门户组成:

研究中心大数据云平台第一期

运营人员科研人员组织机构

I

rr支

OE-CIO

存储资源池网络资源池

施____1irr1

存储设备网络、安全设备

云机房I装修I布线I供电I制冷I机柜I监控]消防I防雷接地

大数据云平台一期逻辑架构

1)基础设施虚拟化层

第16页/共47页

研究中心数据中心IT基础设施;如服务器、存储、网络安全设备等。

2)虚拟化管理平台

包括基础设施的虚拟化系统以及资源的管理和维护:计算资源管理、网络资

源管理、存储资源管理、监控分析、负载均衡、高可用性策略制定等,平台对下

提供精细化管理,对上实现统一界面和业务入口。

3)云运营运维门户

提供统一的管理运维入口,管理员定制、调整用户资源配额、管理审批流程

以及资源使用统计分析,计费计量,报表分析、财务管理等,同时可以对资源(云

主机、云硬盘、网络资源)进行集中管理维护,云主机、虚拟机、物理主机监控

维护,审核用户订单、资源分配和调整、监控分析、网络配置、报警异常处理等。

4)用户自助门户

用户可以自助申请资源服务(云主机、云硬盘、网络等),并自助管理使用。

3.3建设内容

本次研究中心大数据云平台项目一期建设内容,是在充分利用现有机房IT信

息化资源的基础上,采购必要的高性能硬件设备,部署虚拟化软件和云平台管理

软件,共同构建功能较为完整的laaS层科研云基础服务平台。

首先,利用服务器虚拟技术把服务器、光纤交换机、存储和虚拟化软件构建

虚拟资源池;然后,在物理服务器构建的资源池上创建多个不同的虚拟机,可以

部署不同的操作系统,部署不同的业务应用,每个虚拟机之间相互隔离;同时,

利用虚拟软件的容灾备份、自动迁移、动态资源分配等功能,实现虚拟机的零宕

机、服务零中断、服务资源的负载均衡等;最后,利用P2V工具,将之前已经建

设的应用迁移到虚拟机上,并保证应用正常稳定运行。

本次大数据云平台项目建设完成后,能够为研究中心各部门、科研项目组和

研究员提供弹性计算、负载均衡、动态迁移、按需供给、自动化部署等的IT基础

设施云服务,具体建设内容包括以下几部分:

采购内容数量备注

机房建设1套包含空调、机柜等设备

高性能服务器4台提供针对本项目的唯一授权

第17页/共47页

光纤交换机1台建议购买

与服务器同一品牌,提供针对本项目

存储1台

的唯一授权

操作系统1套根据实际需求配套。

云计算虚拟化

1套

数据中心套件

软硬件设备安装与集成1项

应用系统迁移1项根据实际需求配套。

赠送一年运维服务1套

3.3.1硬件基础设施扩容

研究中心大数据云平台项目(一期)计划采购的高性能硬件设备,包括4台

X86高性能服务器、2台统一存储(一主一备)、1台FCSAN光纤交换机等基础设

施设备,配合虚拟化软件和云管理软件共同搭建研究中心大数据云平台,以满足

研究中心未来2~3年科研应用的高性能要求。

3.3.1.1计算资源池

一期新购4台4路8核CPU服务器256GB内存高可靠性X86服务器;其中3

台服务器作为虚拟化资源平台,1台部署云计算管理平台;新购的高性能物理服务

器必须保证以下条件:

>4路8核以上高可靠性X86服务器;

>CPU支持虚拟化技术和超线程技术;

>256GB内存以上;

>2块以上300GBi0000转SAS热插拔硬盘;

>4个以上千兆网络口;

>2块8GB单口FCHBA卡;

服务器虚拟化后的资源规划:考虑20%的冗余

1)X86构架服务器,IntelXeon支持虚拟化技术和超线程技术;

第18页/共47页

2)每台服务器虚拟化后可用的逻辑处理器vCPU数量为3*8*2=48颗逻辑处理

器,3台服务器实际共可用38*3=115颗vCPU;

3)每台物理服务器如果按照1:10做虚拟化,3台服务器可以虚拟出进30台

虚拟服务器,实用25台左右虚拟机(考虑20%冗余和高可用部署),每台虚拟机

平均可分配4~5颗逻辑处理器(vCPU);

4)如果每台虚拟机平均配置16GB内存,那么每台物理服务器内存(考虑30%

冗余)可以支持179GB/16GB=11台虚拟机的内存需求;

那么以上3台虚拟化服务器基础上(考虑20%资源冗余和高可用部署后),可

以运行25台左右的虚拟机,每台虚拟机的平均配置为4vCPU,16G内存左右,可

以部署25个左右的应用系统,同时这些资源可以按业务实际情况动态调整,从而

大大提高资源利用率,降低成本,增强了业务系统和应用的可用性,提高系统的

灵活性和快速响应。

3.3.1.2存储资源池

一期新购2套FCSAN共享存储(一主一备),主存储用于存放虚拟机文件、业

务数据、和平台数据库文件、及虚拟机备份文件等;备份存储用于当主存储发生

故障时,应能自动启用并接替主存储的提供数据服务,确保应用的零中断。选用

的磁盘阵列必须保证:

>双控制器统一存储系统

>不少于64GB缓存和8个8GbFC接口;

>不少于18TBi0KSAS存储可用容量;

>支持数据存储Mirror技术;

共享存储资源规划:考虑20%冗余

1)采用新购的一台统一存储设备,作为虚拟化平台的主存储资源池;另外一

台统一存储作为备份存储,两个存储之间做数据同步Mirror配置;

2)构建FCSAN的存储网络,那么每台服务器都至少配置1块单口的8GbFCHBA

卡与光纤交换机相连。

3)新购1台24口FC光纤交换机,构建FCSAN存储,考虑服务器和存储接入

端口,至少激活8个光端口;

第19页/共47页

4)虚拟化平台实用虚拟机为25台,按照30台虚拟机规划,如果每台虚拟机

平均分配500GB容量,也可以根据实际业务应用对硬件的需求,合理分配,那么

共享存储提供至少15TB容量可用存储容量和20%的冗余空间,总需求容量约18TB;

3.3.1.3网络资源池

整个研究中心大数据云平台的网络资源池分为管理网络、业务网络、租户网

络和存储网络;所有网络物理层设备均采用安全、高速的设计规划原则,最大化

保障业务系统的安全可靠运行:

>管理网络:连接所有的节点服务器,同时需要连接到用户的管理网络中,

供管理员访问。

>业务网络:一方面需要连接网络节点服务器,另一方面需要通过防火墙上

连到业务网络中,如果提供外部服务,则需要连到Internet。

>租户网络:需要连接所有的网络节点服务器和计算节点服务器。

>存储网络:用于连接计算节点和存储设备,建议使用FCSAN存储网络,每

台计算节点使用一块单口光纤卡通过光纤交换机连接到存储上,可配置多

路径保证了数据传输安全。

3.3.2虚拟化平台

服务器虚拟化技术是整个大数据云平台基础资源平台的核心技术,采用噢易

VServer虚拟化软件,通过虚拟化技术对硬件基础资源进行整合,形成一个对外提

供对资源的池化管理(包括网络池、服务器池、存储池等),同时通过云管理平台,

对外提供运行环境等基础服务,包括对平台所有虚拟资源(平台资源和租户资源)

进行全面管控,可以进行虚拟机生命周期管理、镜像管理、模板管理、存储资源

管理、虚拟网络资源管理、虚拟机的资源调整、动态迁移、快照恢复、虚拟机状

态监控分析等操作,从而实现虚拟资源的动态分配、部署和回收,按需弹性资源

扩展,以及自动化管理,改善n■资源的使用效率和管理能力。

第20页/共47页

3.3.2.1虚拟化平台部署架构图

主存储备份存储

虚拟化平台部署架构图

332.2资源整合,构建虚拟化IT资源池

通过噢易Vserver服务器虚拟化技术,将采用新购的2台服务器部署虚拟化平

台,其中1台做虚拟化资源管理平台(可以创建虚拟机),1台作为虚拟化资源,

另外考虑与云平台的1台服务器资源进行整合,这3台物理服务器虚拟成25个左

右的虚拟服务器(虚拟机),虚拟机之间互相独立,互不影响,每个虚拟机可安装

不同的操作系统,包括windows、Linux、Unix系列常用操作系统(如:应用服务

器使用windows2003系统),满足研究中心科研应用的需求。

第21页/共47页

根据科研项目特点按需规划分配资源

根据研究中心现有科研应用系统(如:数据库服务、应用服务等)特点,评

估每个业务所需的资源大小,按需规划每个虚拟机的资源(CPU、内存、容量、网

络),合理划分资源,将物理服务器资源利用率最大化。

数据集中存储,保障应用数据安全

虚拟化平台中,所有虚拟机中的应用数据都保存在共享存储设备中,支持ISCSK

FC、NFS、CIFS多种存储设备,兼容主流厂商的各类存储设备;

数据的集中存储,确保了数据的安全稳定,也方便故障迁移,无需再为每个

业务做双控模式灾备,减少了服务器资源,只需集中备份存储设备即可;

统一存储资源池,支持数据分层处理功能,针对虚拟机部署的业务特点和性

能要求,可以分配不同的磁盘介质类型(如SSD数据缓存、SAS热数据盘、NL-SAS

近线数据盘、SATA备份盘等)和设置磁盘I。大小值,从而提高业务集中的请响应

速度。

全中文、图形化的远程集中管理门户

为管理员提供全中文的、图形化的集中统一WEB管理门户,界面功能清晰直

观、操作简单、无需专业知识和技能培训,就可实现数据中心虚拟资源的集中管

理和日常维护等操作,包括动态调度所有资源,包括服务器管理、虚拟机生命周

第22页/共47页

期管理、存储管理、网络管理,以及平台监控策略、报警策略,事件告警等,不

用去机房也能实现远程的运维。

3.3.Z.6根据角色划分相应的管理和资源使用权限

虚拟化平台支持多管理员,可以通过权限控制,将数据中心的管理权限下发

到各个下级单位。

1)超级管理员可以管理多个用户(管理员用户);

2)可以根据其岗位定制可以管理的资源池、主机、虚拟机业务范围,不同区

域管理员只能看见自己管辖范围内的资源;

3)可以定制不同区域管理员能执行的操作,例如全部网络规划授权给“网络

管理员”、高可用性的策略配置只能给超级管理员执行等;

4)管理和维护应用系统的人员,可以授权只让看见他有权限操作的虚拟机,

即使多个人员所属一个资源池,一台主机,互相也不能看见对方的业务,更不能

操作,管理和操作权限细化到虚拟机粒度。

3.3.2.7可视化全局网络拓扑图

动态发现数据中心网络拓扑图,可查看详细的网络配置(IP地址、VLAN、网

段)和连接状态,以及网络连接关系

一级:物理网络拓扑;

二级:单个节点内虚拟网络拓扑图;

能够快速查看全局网络拓扑图和网络配置;及排查虚拟数据中心网络故障,

定位分析。

3.3.2.8虚拟机可以实现动态迁移

虚拟化平台支持将虚拟机业务在正常运行过程中,将虚拟机从一台物理服务

器迁移到另一台物理服务器上。在迁移过程中,虚拟机里的操作系统以及应用持

续运行,不会被中断。

第23页/共47页

3.329业务高可用性、连续性保障

物理服务器故障(硬件损坏、异常报错、无法启动等),可在线实时将虚拟机

迁移到另一台服务器上,不中断虚拟机中运行的业务,保证访问应用的连续性。

硬件扩容、检修,可迁移虚拟机至其它服务器上,维护工作完成后再迁移回

来,消除维护导致的长时间停机。

0高峰期业务和资源负载均衡

高峰期,充分利用多台主机资源支撑一个业务运行计算,减少堵塞和宕机

在业务访问高峰时段,通过应用负载均衡,创建多个虚拟机共同承载并发访

问量大的业务(如:某WEB服务),并根据虚拟机优先级,让其访问优先获得计算

资源,实现高负荷业务的负载均衡。

提供数据中心资源动态调度(DynamicResourceScheduler,DRS),通过集群负

载均衡,持续的平衡主机容量,将虚拟机迁移到有足够资源的主机上。

1WEB应用监控

多级监控:提供物理服务器监控、虚拟机监控,以及应用层3级别监控,可

实时分析单个虚拟机中运行业务和系统所耗掉的资源(CPU、内存等)比例,方便

管理员定位分析能耗占用高的业务,并进行针对性优化(如:优化配置、数据库

打补丁、内存释放等),从而释放服务器性能来提升业务运行和响应时间。

WEB应用画面监控:多屏集中监控虚拟机中WEB应用画面,并周期刷新,应

用运行故障实时发现,支持单个web应用界面全屏查看。

2应用P2V迁移

P2V指将物理服务器上业务迁移至虚拟机中运行o一般需要借助P2V迁移工具

完成,可以迁移windows和Linux操作系统。在迁移过程中需要注意物理机磁盘大

小、个数、分区使用情况,以及磁盘类型一致性等问题。

一般常用的windowsP2V流程如下:

第24页/共47页

在物理服务器上安■!使用工具将所有磁行黑:赚成日联翦1制靛皤靛

装P2V迁移工具R盘数据备份成镜像qcow/,恒风上m工说[家原中■虚拟机

3虚拟机备份和恢复

通过复制虚拟机、保存操作系统和应用的镜像模板、快照等多种方式备份虚

拟机;针对一台服务器运行多个应用系统,可能会出现服务器宕机导致的业务中

断问题,虚拟环境中的业务可以做到快速备份与恢复,保障系统安全。

可以远程虚拟机在线创建快照,备份办公业务系统正常运行数据;当虚拟服务

器报错影响业务正常运行时,可快速恢复,避免系统故障带来的办公业务中断。

4应用资产管理和统计

资源汇总:汇总统计数据中心所有服务器的CPU、内存、存储的总体个数容

量和使用详细,采用图表统计分析。

运行状态汇总:汇总统计数据中心所有服务器(运行、离线)、所有虚拟机运

行的状态(运行、停止、异常等),以及存储的连接状态,采用图表分析。

运行组件和服务统计:统计数据中心资源池、服务器、虚拟机、快照、应用

程序、镜像、存储、网络配置(VLAN、虚拟机交换机、NAT等)、负载均衡等各个

运行服务和组件的个数,可链接查看详细。

应用资产管理:可集中查询每个虚拟机中运行业务的详细和变更记录,方便

IT管理员针对不同单位部署和托管的业务和网站服务,进行统一跟踪,服务器上

无需再贴标签来区分搭建的业务。

5安全管理和审计

在虚拟机级别,提供隔离保护,每一个虚拟机发生故障,网络受到攻击无法

访问,不会影响同一个物理机上的其它虚拟机正常运行;

提供对“系统管理程序”(Hypervisor)安全性保护机制,管理员通过制定的增

强访问控制策略管理访问,强制访问控制通过对系统所有对象进行安全敏感性标

记,每个程序仅能按预定义的规则,对特定的资源进行操作。由于用户不能直接

第25页/共47页

改变强制访问控制属性,提供了更强的安全保护层,防止某个应用遭攻击后,对

系统其它程序造成进一步的破坏;分类统计拦截的访问次数。

6事件日志、故障报警

>操作记录:记录所有管理员操作平台的详细记录,包括对存储、主机、虚拟机

管理、业务的部署、网络的配置、策略的配置、系统的设置等所有功能操作都

可查询。

>告警记录:记录平台所有服务和运行组件的异常告警和错误日志。

>登录记录:记录所有管理员的登录平台的时间的退出时间,可将维护管理记录

归属到人。

>平台运行记录:记录平台的系统(如:服务、主机)运行日志,系统故障可定

位分析。

>故障报警:系统故障、业务故障可以配置以邮件方式、或者手机短信方式发送

到管理员手机,过滤重要消息进行推送,方便管理员第一时间进行处理。

3.3.3云管理平台

研究中心大数据云平台的云管理平

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论