云计算基础架构与实践- 课件 项目2 云计算存储架构部署

《云计算基础架构与实践》21世纪高等院校云计算和大数据人才培养规划教材项目2云计算存储架构部署人民邮电出版社2.2项目分析2.1项目背景2.3学习目标2.4知识准备2.6拓展任务2.5项目实施项目背景2.1

如何实现云环境中数据的高效存储是云计算提供服务的基本要求。云计算和云存储已经成为提供信息和在线功能的首选方法。

云计算和云存储已经成为解决普通IT问题和挑战的热门话题，同样带来新的机遇。以数据中心网络为基础的分布式存储是构建云计算的物理实体。通常我们所熟知的存储设备为与计算机主板I/O接口（如IDE、SCSI）相连接的硬盘，由本机操作系统负责读写及管理，这就是传统的数据存储技术，称为DAS（DirectAttachedStorage，直接附加存储）。其与NAS（Network-AttachedStorage，网络附属存储）所采用的基于IP局域网的文件共享设备，能消除对多个文件服务器的需求，通过文件级的数据访问和共享的存储有一定的区别。然而，存储作为云计算提供IaaS服务的一部分，如何在云计算平台上搭建存储架构部署提供SAN（StorageAreaNetwork）区域存储服务就显得尤为重要。项目分析2.2

网络技术的发展，存储不再局限于计算机外壳的内部，网络存储在服务器领域日益成为主流。在存储设备中最重要的应该是硬盘，对硬盘的读写速度、容量和质量的追求，硬盘技术几经变迁。单从与主板的接口标准上分就有ATA（IDE）、SATA、SCSI、SAS、FC和Infiniband之多，它们在接口、传输媒介和协议上都存在一定区别。

然而，随着网络存储的发展，区分出了DAS（DirectAttachedStorage）、NAS（Network

AttachedStorage）、SAN（StorageAreaNetwork）等存储模式。

WindowsServer对支持存储虚拟化的几项重要改进。在WindowsServer中新增和改进了许多存储特性实现对存储虚拟化的支持，其中最为引人关注的是iSCSI目标服务器、SMB3.0和存储空间。知识目标了解云计算存储架构部署过程；熟悉传统数据DAS存储技术；熟悉网络附加NAS存储技术；熟悉云计算存储架构的SAN存储技术。能力目标能在WindowsServer中搭建SAN存储服务（iSCSI）；能在LinuxServer中搭建NAS存储服务（NFS）；能熟练安装部署FreeNAS开源存储系统。学习目标2.3知识准备2.401OPTION02OPTION03OPTION共享存储模型磁盘存储阵列存储网络04OPTION共享文件系统

05OPTION共享存储架构

06OPTIONNAS存储系统扩展应用

1共享存储模型1）SAN与NAS共享存储体系结构主要可以分为SAN（StorageAreaNetwork，存储区域网络）和NAS（NetworkAttachedStorage，网络附属存储）两大类：主机本地存储被称为直连式存储（DirectAttachedStorage，DAS），顾名思义，这时存储设备通过电缆（通常是SCSI接口电缆）直接连到服务器。图2-3存储区域网络SAN图2-4网络附属存储NAS2磁盘存储阵列1．磁盘存储介质存储介质是指存储数据的载体。目前最流行的存储介质是基于闪存（NandFlash）的。就磁盘而言，就是给盘片涂上具有记忆功能的磁性材料。常用的磁性材料为钴铂铬硼（CoPtCrB）合金。磁盘上表示信息的小磁极是由数百个磁性颗粒组成，磁记录密度越高，要求磁性材料的粒度越细。2．RAID磁盘组磁盘阵列（RedundantArraysofIndependentDisks，RAID），有“独立磁盘构成的具有冗余能力的阵列”之意。磁盘阵列是由很多价格较便宜的磁盘组合成一个容量巨大的磁盘组，利用个别磁盘提供数据所产生加成效果提升整个磁盘系统效能。磁盘阵列的样式有三种：一是外接式磁盘阵列柜；二是内接式磁盘阵列卡；三是利用软件来仿真。2磁盘存储阵列磁盘阵列至少已经包含了2种类型的磁盘，即FC磁盘和SATA磁盘。FC磁盘即光纤通道磁盘，以光纤通道仲裁环（FC-AL）技术作为硬盘连接接口，能够显著提高I/O吞吐量，是一种高性能磁盘，在高端存储设备上被普遍使用。SATA磁盘即串行总线接口（SerialATA）磁盘。它采用串行传送的数据序列，在性能上，SATA磁盘略逊于FC磁盘，但SATA磁盘能够具有更大的存储容量，其单盘容量可以是FC磁盘容量的2倍以上，属于高性价比磁盘。图2-8磁盘阵列设备的逻辑视图图2-7磁盘存储阵列设备的物理视图2磁盘存储阵列磁盘存储介质又有了新的发展趋势：一是SAS磁盘正逐步代替FC磁盘，成为高性能磁盘的主流；二是新型高性能SSD硬盘的出现带来存储性能的飞跃。SAS（SerialAttachedSCSI，串行连接SCSI）磁盘被称为新一代SCSI磁盘。而SAS在架构上的优势，使其在配制大量磁盘时具有整体性能优势。由于采用了串行传输接口技术，能够更好地兼容SATA接口。SSD固态硬盘（SolidStateDisk）是用固态电子存储芯片阵列制成的硬盘，内部没有普通磁盘的机械装置。SSD硬盘的接口规范、功能及使用方法与普通硬盘相同，其性能远高于普通磁盘。（连续读写4倍，随机读写140倍）RAID（RedundantArraysofInexpensiveDisks）的字面含义是“价格便宜磁盘的冗余阵列”。其原理是将磁盘组成阵列数组，将数据以某种方式排列后分散存储在这一组磁盘阵列中。通过数据的分散排列可以使数据读写在多个磁盘上并行，提供总体性能；在有磁盘故障时，通过磁盘间同位检查（ParityCheck）的方法重构数据，维持数据的可用性。RAID存在一组标准规范。存储逻辑单元存储逻辑单元2磁盘存储阵列3．磁盘存储介质磁盘存储设备是如何向主机提供连续的块存储空间的，可以从分配给主机的最小存储单元着手。经共享存储可以使用的一个“磁盘”，是一个逻辑磁盘设备，在SCSI存储访问协议环境下（存储源设备和目标设备之间的数据访问协议SCSI在共享存储中占统治地位），这个逻辑设备用一个具有唯一性的数码LUN（LogicalUnitNumber，逻辑单元号）标记，LUN的原始意义只是一个整数，但习惯上一个LUN用来指代与之唯一对应的逻辑存储设备图2-15LUN置备3存储网络

以光纤信道技术建构的存储网络称为FibreChannelSAN（FCSAN），以以太网络技术（如iSCSI）建构的存储网络则称为IPSAN。IPSAN：为公众提供开放的计算、存储等服务，如百度的搜索和各种邮箱服务等；FCSAN：部署在防火墙内，为某个特定组织提供相应服务。1．FC存储网络（FibreChannelSAN）

FC用于建构具有高传输速度的存储网络技术。FCSAN支持三种基本的拓扑架构：点对点、仲裁环路及交换式光纤网络。图2-20FCSAN支持的三种拓扑架构3存储网络2．IP存储网络

IPSAN存储技术，是在IP以太网上架构一个SAN存储网络，把服务器与存储设备连接起来的存储技术。IPSAN是在FCSAN基础上再进一步，它把SCSI协议完全封装在IP协议之中，将SCSI的指令透过TCP的通信协议传送到远方，以达到控制远程存储设备的方式。由于传送的封包内含有传输目标的IP位置，因此是一种效率较高的点对点传输。IPSAN技术的优点：节约大量成本、加快实施速度、优化可靠性以及增强扩展能力等。iSCSI是基于IP协议的，它能容纳所有IP协议网络中的部件。图2-21iSCSI网络架构3存储网络2．IP存储网络（iSCSI协议模型）

（a）iSCSI协议模型(b)iSCSI协议功能模块图3存储网络2．存储虚拟化网关应用于存储区域网络（SAN）环境中的存储虚拟化（StorageVirtualization）技术，，通常是指异构的SAN环境下的虚拟存储服务，最直接的益处是：提高存储利用率，降低成本，并简化大型、复杂、异构的存储环境的管理工作。基于网络的虚拟存储技术是未来的一种趋势，将使用在数据中心建设以及异地容灾应用中。SNIA（存储网络工业协会）存储虚拟化含义：（1）存储虚拟化是为了便于应用和服务进行数据管理而采取的针对应用、服务器以及一般网络资源进行的存储子系统或存储服务的内部功能抽象、隐藏和隔离的行为。（2）存储虚拟化是针对存储设备或存储服务进行的虚拟化手段，以便对底层存储资源实施存储汇聚、隐藏复杂性以及添加新功能等。①一般地，虚拟存储所虚拟的对象是一些存储资源，如磁盘、磁带、文件、文件系统、数据块等。其虚拟的结果往往是虚拟磁盘、虚拟磁带、虚拟文件、虚拟文件系统、虚拟数据块等。②存储虚拟化的核心工作是实现物理存储设备到单一逻辑资源池的映射。通过虚拟化技术，为用户和应用程序提供了虚拟磁盘或虚拟卷，并且可以根据用户需求对它进行任意分割、合并、重新组合等操作，并分配给特定的主机或应用程序，为用户隐藏或屏蔽了具体的物理设备的各种物理特性。3存储网络2．存储虚拟化分类

图2-23SNIA存储虚拟化经典分类按照实现的位置分类，存储虚拟化技术大致可以分为3类：

（1）安装在主机内的纯软件。纯软件的虚拟化功能都在文件系统下层，管理的是块设备，提供出来的还是块设备。这类软件在服务器数量不多，适合环境比较简单的场合。（2）阵列控制器的扩展附加功能。纯软件的虚拟化产品已经慢慢萎缩，带虚拟化功能的磁盘阵列越来越多。盘阵的虚拟化功能最大问题就是很难真正实现跨设备间的整合。（3）独立的存储网关。众所都知，磁盘阵列里带的虚拟化功能，基本就是虚拟自己用的。至于跨设备间的系统级整合，还是要依靠独立的存储网关，而且最好是不卖盘阵专门做虚拟化网关的厂商。4共享文件系统1.集群文件系统

GlusterFS

图2-24集群文件系统集群NAS架构

GlusterFS后端存储采用DAS，每个存储服务器直连各自的存储系统，通常为一组SATA磁盘，然后由集群文件系统统一管理物理分布的存储空间而形成一个单一命名空间的文件系统。实际上，集群文件系统是将RAID、Volume、FileSystem的功能三者合一了。目前的主流集群文件系统一般都需要专用元数据服务或者分布式的元数据服务集群，提供元数据控制和统一名字空间。4共享文件系统1.集群文件系统

GlusterFS架构

【注解：GluterFS集群文件系统；ClientSide客户端；ServerSide服务端；GluterFSClient集群文件系统客户端；VolManager卷管理器；I/OSchedulerI/O调度器；GigE千兆以太网；NFS网络文件系统；StorageGateway存储网关；RDMA远程直接内存访问；InfiniBand无限带宽；x86-64platform64位86结构平台；Brick所有可信共享池中共享的目录】图2-25GluterFS架构集群系统主要分为高可用（HighAvailability）集群（简称HA集群）和高性能计算（HighPerfermanceComputing）集群（简称HPC集群）。其中，高可用集群的主要功能就是提供不间断的服务；高性能计算集群通过将多台机器连接起来同时处理复杂的计算问题。4共享文件系统2.网络文件系统

NFS

网络文件系统（NetworkFileSystem，NFS）是由SUN公司研制的UNIX表示层协议（PressentationLayerProtocol），能使使用者访问网络上别处的文件就像在使用自己的计算机一样。NFS是基于UDP/IP协议的，其实现主要是采用远程过程调用RPC机制，RPC提供了一组与机器、操作系统以及底层传送协议无关的存取远程文件的操作。RPC采用了XDR的支持。XDR是一种与机器无关的数据描述编码的协议，它以独立于任意机器体系结构的格式对网上传送的数据进行编码和解码，支持在异构系统之间数据的传送。当前，NFS已经发展并演变成UNIX系统中最强大最广泛使用的网络文件系统。发展历程如下图：NFSv2RequestforComments（RFC）NFSv3NFSv4pNFSextensionNFSv4.14共享文件系统2.网络文件系统

NFS

图2-26pNFS/NFSv4.1集群NAS架构pNFS采用元数据集群解决了传统NAS的单点故障和性能瓶颈问题，元数据与数据的分离则解决了性能和扩展性问题。这才是真正的并行NAS，pNFS才是集群NAS的真正未来。Panasas公司的PanFS应该是最接近于这种集群NAS架构（图2-27）。图2-27PanFS架构5共享存储架构网络文件系统

NFS

从整体架构来看，集群NAS由存储子系统、NAS集群（机头）、客户端和网络组成。存储子系统可以采用SAN、DAS、OSD存储架构。根据所采用的后端存储子系统的不同，可以把集群NAS分为三种技术架构：SAN共享存储架构、集群文件系统架构、pNFS/NFSv4.1架构。图2-28SAN共享存储集群NAS架构SAN架构通常采用SAN并行文件系统管理并输出POSIX接口到NAS集群。6NAS存储系统扩展应用FreeNAS简介

1.FreeNAS是网络附属存储（NAS）服务专用操作系统（FreeBSD的简化版）。2.FreeNAS是开源的NAS服务器，它可以将一台普通PC变成网络存储服务器。该软件基于FreeBSD、Samba及PHP，通过浏览器方便的配置与管理，支持CIFS、NFS、HTTP/DAV和FTP功能，含有多种软RAID模式供用户选择。用户可通过Windows、Macs、FTP、SSH及网络文件系统（NFS）来访问存储服务器；FreeNAS可被安装于硬盘或移动介质上，占用较小的磁盘空间。图2-30为FreeNAS系统参数配置界面。图2-30FreeNAS系统参数配置界面项目实施2.501OPTION02OPTION在WindowsServer中搭建SAN存储服务（iSCSI）在LinuxServer中搭建NAS存储服务（NFS）1搭建SAN存储服务（Windows）1．任务目标

（1）实现WindowsStorageServer安装；（2）在WindowsServer中搭建SAN存储服务（iSCSI）

。2．任务内容本任务要求管理员在服务器上搭建SAN存储服务，具体内容为：

（1）WindowsStorageServer安装；

（2）系统服务配置；

（3）在iSCSI存储服务器上创建目标；（4）创建虚拟磁盘并连接iSCSI目标；（5）在工作站上连接iSCSI磁盘；（6）在iSCSI服务器上为磁盘扩容；（7）在工作站上刷新磁盘扩展卷；（8）在服务器上创建快照。1搭建SAN存储服务（Windows）3．完成任务所需设备和软件

（1）服务器1台，已安装Windows7系统的PC机1台；（2）联网交换机1台；（3）直通网线3根；（4）WindowsStorageServer2008系统盘、ISCSISoftwareTarget软件。4．任务实施步骤略2在LinuxServer中搭建NAS存储服务（NFS）1．任务目标（1