华赛云存储解决方案.doc

华为赛门铁克科技有限公司 云存储解决方案在线云存储解决方案 目 录一、什么是云存储3二、云存储系统架构32.1存储系统42.2 在线存储业务系统6三、业务特性83.1总体业务流程83.2 运营特性83.3 数据安全性93.4 数据可靠性103.5 易扩展性113.6 易管理性113.7 节能特性12四、在线存储系统方案12在线云存储解决方案一、什么是云存储云存储是在云计算概念上延伸和发展出来的新概念，指通过集群应用、网格技术或分布式文件系统等功能，将网络中大量各种不同类型的存储设备通过应用软件集合起来协同工作，共同对外提供数据存储和业务访问功能的一个系统。当云计算系统运算和处理的核心是大量数据的存储和管理时，云计算系统需要配置大量存储设备，云计算系统就转变成为一个云存储系统，因此云存储是一个以数据存储和管理为核心的云计算系统。从云计算的角度出发，云存储可以认为是配置了大容量存储空间的一个云计算系统。在线存储系统是基于云存储系统的云存储服务系统。二、云存储系统架构云存储系统的结构模型由以下四部分组成，如下图所示：l 存储层存储层是云存储最基础的部分。存储设备可以是FC（Fiber Channel）存储设备，可以是NAS（Network Attached Storage）和iSCSI（Internet Small Computer Systems Interface）等IP（Internet Protocol）存储设备，也可以是SCSI（Small Computer System Interface）或SAS（Serial Attached SCSI）等DAS（Direct Attached Storage）存储设备。云存储中的存储设备往往数量庞大且分布在不同地域，彼此之间通过广域网、互联网或者FC光纤通道网络连接在一起。存储设备之上是一个统一存储设备管理系统，可以实现存储设备的逻辑虚拟化管理、多链路冗余管理，以及硬件设备的状态监控和故障维护。l 基础管理层基础管理层是云存储最核心的部分。基础管理层通过集群、分布式文件系统和网格计算等技术，实现云存储中多个存储设备之间的协同工作，使多个存储设备能够对外提供同一种服务，并提供更好的数据访问性能。l 应用接口层应用接口层是云存储最灵活多变的部分。不同的云存储运营单位可以根据实际业务类型，开发不同的应用服务接口，提供不同的应用服务。例如，视频监控应用平台、IPTV（Internet Protocol Television）和视频点播应用平台、网络硬盘引用平台、远程数据备份应用平台等。l 访问层任何一个授权用户都可以通过标准的公用应用接口登录云存储系统，享受云存储服务。云存储运营单位不同，云存储提供的访问类型和访问手段也不同。2.1存储系统存储系统采用T3000云存储系统，是应用在基础管理层、以Lustre文件系统为基础的集群共享文件系统，具备以下应用特性：l 超大容量和良好的扩展性单个域最大可支持16个4U（1U44.45mm） Oceanspace T3500存储节点。通过内部互联协议，可以完成32个域互联构成海量存储区域（12PB容量）。T3000云存储系统的系统容量最大可达12PB，充分满足云存储和海量数据中心的容量需求。支持128个客户端，支持512个存储节点。整个系统支持按域扩展。系统提供统一的命名空间。l 高性能和易管理T3000云存储系统采用先进非对称架构，数据处理与元数据处理分离，容量扩容的同时性能随之提升。通过设置存储节点分条，可以提高存储带宽，突破单存储节点和单网络带宽瓶颈。针对文件的备份和恢复功能。ISM（Integrated Storage Management）管理界面简单易用，采用存储管理通用的SMI-S（Storage Management Initiative Specification）协议。管理系统提供丰富的告警信息和监测查询功能，便于用户快速定位和恢复故障以及了解设备和系统状态。l 高可用性和绿色节能T3000云存储系统支持节点级容错技术，无单点故障。T3500使用独特的软硬件结合的能耗控制专利技术，保证用户能耗最低。云存储系统硬件由二个MDS（Active-Standby）和一定数量OSN组成。MDS是存储系统的中心服务器，负责管理文件系统的命名空间、元数据及客户端对文件的访问。OSN是存储节点，负责管理本节点上数据的存储。云存储系统软件使用分布式文件系统，部署在MDS和OSN上，从而对外公开了文件系统的命名空间，用户能够以文件的形式进行数据存储。云存储系统在存储方式上，从内部看，一个文件其实被分成一个或多个对象，这些对象被分布式存储到多个OSN上，负责处理文件系统客户端的读写请求，在MDS统一调度下进行对象的创建、修改、删除和复制等操作。MDS执行文件系统的命名空间操作（如文件和目录的创建、打开、关闭、重命名等操作）。同时，MDS负责确定对象和OSN的映射关系。存储节点MDS（Active）MDS（Standby）OSN1OSN2OSN3RaidRaidHeartData PathControl Path业务服务器CACACACACMS共享存储组件介绍如下：ComponentDescriptionCA客户端(client agent)，用户通过CA访问巫山系统，进行读/写/修改等操作。CA安装在用户服务器上。MDS元数据服务器(metadata server)，用于管理整个巫山系统的所有元数据，采用主备的方式。MDS选用华赛T3500存储服务器，高度为2U。OSN对象存储节点(object storage node)，主要来存储用户数据。OSN选用华赛T3500存储服务器，高度为4UCMS云存储管理服务器(Cloud Management Server)，用于管理整个巫山系统。2.2 在线存储业务系统在线存储、备份服务系统架构和组件如下图所示：在线存储服务系统包括客户端和服务端两部分。客户端的将改变的数据备份到数据中心；在用户需要恢复数据时，从数据中心获取对应备份数据更新到本地。同步和备份的数据都通过简单存储服务子系统提供的SOAP接口完成数据存取。服务端服务端包括云存储服务管理模块、业务生命周期管理、接入与服务调度系统、企业服务总线、存储业务运营管理系统和业务应用。云存储服务管理模块CSSM (Cloud Storage Service Management)是对业务无关存储操作的整合，资源映射管理，服务等级使能。包含存储服务CSS ( Cloud Storage Service) 和存储服务域CSD (Cloud Storage Domain)。存储服务是对业务无关存储操作抽象服务，基本存储，数据分发。存储服务域是云存储服务系统内部组件，它可以是某个地域上存储服务节点集合，也可以是不同地域上的相同服务等级的存储服务节点的集合。用于云存储服务系统与商业应用之间的通讯，分布式的服务节点能有效提高并发支持。业务生命周期管理BLCM (Business Lifecycle Management) ，用于管理整个存储运营系统中的业务应用的创建，发布与下架，销毁。接入与服务调度系统ASM (Access and Scheduling Management)，主要负责应用的存储接入管理与存储请求调度。企业服务总线ESB (Enterprise Service Bus)，负责应用系统与应用系统之间进行通讯路由。存储业务运营管理系统COSS (Cloud Operation Support System )，用于开展和管理整个存储运营业务，用户SLA。业务应用BA (Business Application)，华赛存储运营的各种业务应用，服务端可接入多种业务应用。三、业务特性3.1总体业务流程业务流程描述如下：1运营商根据系统可支持的服务制定相应的服务套餐及计费策略。2用户注册后根据查看到的服务收费信息进行在线订购。3运营商审核用户的服务定购申请单，审核不通过则订购申请流程终止，审核通过则发送服务开通请求到存储系统。4存储支撑系统接收到业务开通请求后，进行后台业务开通操作，并给发起方返回开通结果.5业务开通成功，发送用户ID及初始密码到用户登记的邮箱中，用户可以在门户中下载客户端，通过生成的ID使用订购的业务。企业用户可以使用客户端进行在线存储、读取等操作。6运营商结算用户订购服务的费用，并进行费用的结算。7运营商进行在线存储业务统计。3.2 运营特性在线存储运营模块主要包括客户管理、故障管理、SLA管理、帐单管理、业务定购、套餐管理和计费支持几个功能模块，各模块的主要功能如下：基本业务功能计费支持套餐管理业务订购SLA管理故障管理客户管理客户管理：包括客户信息、客户定购的服务及服务使用情况的查询。日志管理：自动生成日志，并可查询并打印日志信息。业务管理：包括业务定购（服务购买、订单处理、订单查看）、业务变更（空间变更、流量变更、服务及套餐变更等）。套餐管理：支持管理员添加及删除服务，可将各服务组合成不同的套餐并支持对各套餐进行定价、限制使用时间等功能。计费支持：支持按空间、流量等提供计费依据。3.3 数据安全性基于128Bit的Https通信HTTPS（Secure Hypertext Transfer Protocol）安全超文本传输协议。Https是以安全为目标的HTTP通道，简单讲是HTTP的安全版。它是一个URI scheme(抽象标识符体系)，句法类同http:体系。用于安全的HTTP数据传输。https:URL表明它使用了HTTP，但HTTPS存在不同于HTTP的默认端口及一个加密/身份验证层（在HTTP与TCP之间）。这个系统的最初研发由网景公司进行，提供了身份验证与加密通讯方法，现在它被广泛用于万维网上安全敏感的通讯，例如交易支付方面。华为在线存储方案业务、管理都是是基于Https进行访问，保证数据的传输安全。基于客户端方式在线存储数据传输前强加密，算法采用3DES和AES算法。3DES是DES加密算法的一种模式，它使用3条64位的密钥对数据进行三次加密。数据加密标准（DES）是美国的一种由来已久的加密标准，它使用对称密钥加密法，并于1981年被ANSI组织规范为ANSI X.3.92。DES使用56位密钥和密码块的方法，而在密码块的方法中，文本被分成64位大小的文本块然后再进行加密。比起最初的DES，3DES更为安全。 3DES（即Triple DES）是DES向AES过渡的加密算法（1999年，NIST将3-DES指定为过渡的加密标准），是DES的一个更安全的变形。它以DES为基本模块，通过组合分组方法设计出分组加密算法AES, 即Advanced Encryption Standard高级加密标准模块, 它是目前国际上最先进的加密技术之一, 被预期能成为人们公认的加密包括金融、电信和政府数字信息的方法。是基于DES之后的最新发布的高段加密标准. 该标准由美国NIST(National Institute of Standards and Technology)组织制定发布. AES系列标准包括了各种模块算法和测试标准, 主要有FIPS PUB (Federal Information Processing Standards Publication) 197的”Advanced Encryption Standard (AES)”以及NIST的”The Advanced Encryption Standard Algorithm Validation Suite (AESAVS)”标准. 因为DES标准已经发展到3-DES但仍然无法满足日益复杂的大量数据的加密要求, 因此NIST组织于2002年11月15日发布了可以支持128, 192或256比特宽度的AES加密技术。AES加密标准可以通过软件也可以通过硬件进行实现。3.4 数据可靠性华为云存储系统采用与传统存储不同的存储架构，分布式部署的方式，注重存储设备的高可靠性设计。1、多级数据保护和故障恢复系统可提供多级数据保护和故障恢复功能，从硬盘级到节点级的数据保护。硬盘级的数据保护通过RAID1或RAID5功能满足硬盘级内单个硬盘故障不会丢失数据。在OSN节点内部，根据对象大小的不同采用不同RAID算法。对于大文件（特指对象的大小超过1MB的文件），则采用RAID5算法。对于小文件（特指对象大小不超过1MB的文件），则采用RAID1算法保证数据可靠性。节点级的数据保护通过同一文件在不同存储节点上同时保存两个副本的方式，保证单存储节点故障不中断业务。当其中一个节点出现故障，系统可以使用另外一个节点继续工作。2、存储网络冗余设计系统组网冗余设计，存储系统与业务系统的业务通信冗余组网；存储系统中存储节点冗余组网，元数据服务器以主备方式进行数据同步，存储节点以集群方式组网，防止单点故障。3、存储设备的可靠性该云存储方案采用的是华为存储设备Oceanspase T3500，关键部件充分考虑了可靠性设计。OceanStor T3500主要特性如下：l风扇的全冗余设计。l能够实现11冗余供电，供电模块支持热插拔。l硬盘支持热插拔。lRAID卡支持掉电数据保护。l满负载情况下，可稳定运行时间不小于72小时。l支持535摄氏度的工作环境。Oceanspase T3500通过以上重要特性保证了存储设备内部高度的可靠性，对数据的存储过程进行了强有力的保护。3.5 易扩展性在线存储方案具有灵活的扩展性，当接入能力不足时，可通过前端扩展服务器数量进行业务能力扩容；当系统容量不足时可以通过扩展存储节点或扩展部署单元进行扩容。1、增加在线存储应用服务器当系统的接入能力无法满足业务需要时，可增加前端在线存储服务的服务器进行扩容，增加前端服务器集群数量，从而提高系统的用户接入能力2、增加存储节点当系统存储容量不足，可以通过增加存储节点增加存储容量。系统识别存储节点所属的MDS，然后自动地迁移数据到新节点上。同一机架最多6个4U的存储节点。3、增加部署单元存储系统支持以部署单元/域（机架）为单位的扩容。从物理上安装好部署单元，包括机架内的存储节点和节点之间的电源、网络走线，再通过云存储管理系统对新接入的部署单元自动分配IP地址，部署软件，将新接入的部署单元纳入到存储资源池。3.6 易管理性存储系统可实现存储设备的统一管理，管理软件提供统一的对存储设备硬件的基本管理和配置功能。1、丰富的管理功能云存储系统配置功能丰富的系统管理软件，提供人性化的图形界面对存储设备统一管理，支持多种管理语言，操作简单方便，保证数据的完整性和业务连续性，主要具备以下功能：支持图形界面，并通过网管软件可对存储设备统一管理。支持存储设备的自动发现。设备管理符合IPMI 2.0（Intelligent Platform Management Interface 2.0）规范。提供独立的带外管理网口，支持用户通过网络远程对设备进行上下电和复位操作。支持设备管理，可查看存储设备硬件详情。支持设备的故障告警和监控。支持性能统计和分析。支持灵活的业务配置手段。2、监控及告警信息云存储系统可提供丰富、及时的告警信息传递方式，保证系统出现故障时，告警信息能够通过多种途径和方式传递到维护人员，从而协助系统故障的及时排除。支持存储设备的集中告警查看，告警按严重程度分为不同级别，提供多种方式的远程告警，包括短信告警、邮件告警、声音告警、指示灯告警。能够实时监控各节点状态。提供性能监控和查询功能。能够监控系统总体和各节点的运行状况，监控系统性能，监控系统资源，提供各种查询功能，包括资源查询、性能查询、日志查询等等。3、自动部署云存储系统支持自动部署。可以通过脚本方式自动部署存储系统。故障硬件更换不影响系统使用。3.7 节能特性Oceanspace T3500存储设备特有的节能设计使其成为同规格产品中节能领先的产品，为客户大量节约直接的能源消耗、间接的数据中心制冷能耗和其它UPS等辅助设备投入。1、智能化硬盘加电技术存储设备采用硬盘缓加电设计，智能化硬盘加电技术，即硬盘缓上电技术，控制启动电流，降低了系统整体功耗需求，节约运营成本。当设备上电启动时，所有硬盘进入缓启动模式，控制启动电流，以减缓电源的压力，降低系统整体功耗需求。在系统正常运行过程中，单个硬盘的上电恢复为快速启动方式，以确保热插拔的硬盘的及时上电。2、采用人工智能技术进行风扇调速存储设备采用智能调速风扇，支持环境温度和系统实时温度检测，自动调节风扇转速，降低功耗。3、采用电信级高效绿色电源模块存储设备采用优化电源设计，采用通信用高效率电源模块，减少无谓功率损失。四、在线存储系统方案整个系统组为方案如下：生产中心由10台T3500搭建成云存储系统，最终用户上传的数据将被保存到云存储系统中，系统磁盘容量可达2