存储基础知识培训技巧_第1页
存储基础知识培训技巧_第2页
存储基础知识培训技巧_第3页
存储基础知识培训技巧_第4页
存储基础知识培训技巧_第5页
已阅读5页,还剩113页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、Huawei Symantec Technologies Co., Ltd. 日程 网络存储架构3硬盘技术简介硬盘技术简介1 1磁盘阵列简介2存储软件功能介绍4备份基础知识5远程容灾基础知识6硬盘主要物理结构盘片马达(motor)底座(Base)磁头PCB及RV传感器硬盘接口硬盘的基本参数l容量硬盘的容量MB或GB为单位。容量指标还包括硬盘的单碟容量单,是指包括正反两面在内的单个盘片的总容量 。单碟容量越大,单位成本越低,平均访问时间也越短。l转速转速(Rotational speed)是指盘片每分钟转动的圈数RPM(Round Per Minute) 。 l平均访问时间平均访问时间(Aver

2、age Access Time)是指磁头从起始位置到达目标磁道位置,并且从目标磁道上找到要读写的数据扇区所需的时间。平均访问时间体现了硬盘的读写速度,它包括平均寻道时间+平均等待时间。平均寻道时间(Average Seek Time)是指硬盘的磁头移动到盘面指定磁道所需的时间,一般8ms以内。平均等待时间是指磁头已处于要访问的磁道,等待所要访问的扇区旋转至磁头下方的时间。平均等待时间为盘片旋转一周所需的时间的一半,一般应在4ms以下。l传输速率传输速率(Data Transfer Rate) 硬盘的数据传输率是指硬盘读写数据的速度,单位为兆字节每秒(MB/s)。硬盘数据传输率又包括了内部数据传

3、输率和外部数据传输率。内部传输率(Internal Transfer Rate) 也称为持续传输率(Sustained Transfer Rate),它反映了硬盘缓冲区未用时的性能。内部传输率主要依赖于硬盘的旋转速度。外部传输率(External Transfer Rate)也称为突发数据传输率(Burst Data Transfer Rate)或接口传输率,它标称的是系统总线与硬盘缓冲区之间的数据传输率,外部数据传输率与硬盘接口类型和硬盘缓存的大小有关。l缓存硬盘缓存的目的是为了解决系统前后级读写速度不匹配的问题,以提高硬盘的读写速度。常用指标硬盘的主要技术lS.M.A.R.TSelf-Mo

4、nitoring ,Analysis and Reporting Technology,自监测、分析及报告技术,监测磁头、磁盘、马达、电路等部件,然后根据得到的关于各部件运行情况与历史记录的数据进行分析、比较,根据需要会自动向用户发出警告lTCQTagged Command Queuing ,标记命令队列lNCQNative Command Queuing ,本机命令队列,是SATA 规范支持的一种新的功能,支持NCQ的硬盘可以对指令进行排队(多达32条指令),重新编排指令执行次序,也可以立即执行指令,可提高硬盘的性能,减少CPU占用率lDuty Cycle指硬盘的工作负荷, 定义为特定时间段

5、内硬盘用于寻道、读/写操作的时间占总时间的百分比。100%即表示硬盘每天24小时不停在进行读写操作lSCT即S.M.A.R.T Command Transport,该技术在硬盘内部划出一部分扇区做为日志记录,分析SMART命令包含的状态信息,判断硬盘的工作状况从而调节负载(比如数据流量)来保证硬盘可靠性常见存储接口技术存存 储储 接接 口口IDE/ATASATAFCSASSCSI FC接口概述SASSATAFCSCSIATA/IDELCLCSCSC硬盘类型接口视图各类硬盘对比ATASATASCSISASFC转速(转速(RPM)7,2007,20015,00015,00015,000缓存(缓存(

6、MB)8/168/16/328/168/168/16串行串行/并行并行并行并行串行串行并行并行串行串行串行串行容量(容量(GB)25020003002000450/600年失效率年失效率AFR0.73%0.55%0.55%TCQ支持支持 支持支持支持支持支持支持支持支持NCQ不支持不支持支持支持*支持支持支持支持支持支持接口速率接口速率不同接口速率不同接口速率不同不同Sata2.0375MB/sSATA3.0750MB/sUltra 640 SCSI640MB/s6Gb SAS750MB/s8Gb/s1000MB/s交易型数据使用FC、SAS,归档等使用SATA* SATA 接口硬盘支持NCQ

7、,SATA 不支持日程 网络存储架构3硬盘技术简介1磁盘阵列简介磁盘阵列简介2 2存储软件功能介绍4备份基础知识5远程容灾基础知识6什么是磁盘阵列:磁盘阵列是一种采用RAID技术、冗余技术和在线维护技术制造的一种高性能、高可用的磁盘存储设备。磁盘阵列核心技术:体系结构设计缓存技术RAID技术主机通道连接技术磁盘阵列磁盘阵列 常见阵列体系结构 通常的中档控制器设计 单个或集群的双控制器前端主机端口,后端光纤环路镜像的高速缓存高速缓存. . .光纤通道 后端环路CPU高速缓存光纤通道主机端口CPU. . .光纤通道主机端口CHIP光纤通道. . .ACPCHIPCHIP矩阵式高端阵列体系结构高速缓

8、存与共享内存光纤通道高端企业级磁盘阵列 CHIP光纤通道. . .ACP光纤通道. . .ACP光纤通道. . .ACPCrossBar高速CPU4Gb/s控制器缓存工作模式前端总线系统缓存CPUCPU后端总线读缓存写缓存前端总线系统缓存CPUCPU后端总线读缓存 写缓存主机写入主机写入数据流数据流反馈反馈写写OKOKWrite-backWrite-back回写回写主机写入主机写入数据流数据流反馈反馈写写OKOKWrite-throughWrite-through直写直写磁盘控制器的缓存保护技术FCFC或或IP(GE)IP(GE)缓存缓存(Cache)(Cache)CPUCPUCPUCPU后端

9、总线后端总线磁盘磁盘FCFC或或IP(GE)IP(GE)缓存缓存(Cache)(Cache)CPUCPUCPUCPU后端总线后端总线CacheCache电池电池FCFC或或IP(GE)IP(GE)缓存缓存(Cache)(Cache)CPUCPUCPUCPU后端总线后端总线阵列内置阵列内置UPSUPS三种常见控制器Cache保护设计cache电池保护电池保护内置内置UPS保护保护外置外置UPS保护保护阵列外置阵列外置UPSUPS磁盘阵列JBODRAID磁盘阵列磁盘阵列JBODD0FEDD0CBAA,B,C,D,E,F数据写入数据写入JBOD (Just a Bunch of Disks) :是在

10、逻辑上把几个物理磁盘一个接一个的串联在一起,其目的纯粹是为了增加磁盘的容量,并不提供数据安全保障。RAIDRAID(Redundant Array of Independent Disks):独立冗余磁盘阵列,简称磁盘阵列。RAID是按照一定的形式和方案组织起来的存储设备。它比单个存储设备在速度、稳定性和存储能力上都有很大提高,并且具备一定的数据安全保护能力。RAID更有效的数据更有效的数据组织组织数据安全保护数据安全保护功能功能RAID的数据组织方式D7D4D1驱动器2D6D3D0驱动器1D8D5D2驱动器3条带2(strip)条带1(strip)条带0(strip)磁盘上的数据分块磁盘上的

11、数据分块磁盘上的数据分块分块分块:将一个分区分成多个大小相等的、地址相邻的块,这些块称为分块。它是组成条带的元素。条带条带:同一磁盘阵列中的多个磁盘驱动器上的相同“位置”(或者说是相同编号)的分块。RAID数据存取方式并并 行行 存存 取取l 并行存取模式:并行存取模式:是把所有磁盘驱动器的主轴马达作精密的控制,使每个磁盘的位置都彼此同步,然后对每一个磁盘驱动器作一个很短的I/O数据传送,使从主机来的每一个I/O 指令,都平均分布到每一个磁盘驱动器,将阵列中每一个磁盘驱动器的性能发挥到最大。适用范围:大型的、数据连续的以长时间顺序访问数据为特征的应用l 独立存取模式:独立存取模式:对每个磁盘驱

12、动器的存取都是独立且没有顺序和时间间隔的限制,可同时接收多个I/O Requests,每笔传输的数据量都比较小。适用范围:数据存取频繁,每笔存取数据量较小的应用RAID 0的工作原理D4D2D0驱动器1D6D5D3D1驱动器2D0,D1,D2,D3,D4,D5条带2条带1条带0各磁盘上的数据块各磁盘上的数据块无差错控制的条带化阵列无差错控制的条带化阵列D2D1D0D5D4D3D0逻辑磁盘逻辑磁盘RAID 2是RAID 0的改良版,以汉明码(Hamming Code)的方式将数据进行编码后分割为独立的位元,并将数据分别写入硬盘中。因为在数据中加入了错误修正码(ECC,Error Correcti

13、on Code),所以数据整体的容量会比原始数据大一些。 RAID 0的特性视频生成和编辑、图像编辑等对传输带宽需求较大的应用领域。 数据无冗余,一旦阵列中有一个驱动器故障,其中的数据将丢失I/O负载平均分配到所有的驱动器。由于驱动器可以同时读写,性能在所有RAID级别中最高。磁盘利用率最高 设计、使用和配置简单缺点缺点 优点优点应用范围应用范围RAID 1的工作原理镜像结构的阵列镜像结构的阵列D2D1D0D2逻辑磁盘逻辑磁盘D2D1D0驱动器1驱动器2D0,D1,D2经过镜像器经过镜像器D2D1D0RAID 1的特性可应用于金融、保险、证券、财务等对数据的可用性和安全性要求较高的应用领域 磁

14、盘空间利用率低,存储成本高磁盘写性能提升不大RAID 1对存储的数据进行百分之百的备份,提供最高的数据安全保障设计、使用和配置简单缺点缺点 优点优点应用范围应用范围RAID 3的工作原理D7D4D1驱动器2D6D3D0驱动器1D8D5D2驱动器3D0,D1,D2,D3,D4,D5,D6,D7,D8P3P2P1校验驱动器校验码生成带奇偶校验码的并行阵列带奇偶校验码的并行阵列RAID 3的特性适合用于视频生成、视频编辑等高吞吐量的应用环境 需要专用磁盘做校验盘使用,如果校验盘故障会导致数据无备份任一磁盘写数据将会导致校验信息的重新计算,校验盘的写性能可能会成为瓶颈通过较为简单的异或运算技术获得数据

15、备份 阵列中磁盘数量越多,数据备份的成本就越低缺点缺点 优点优点应用范围应用范围RAID级别 RAID 4 RAID 4是带有共享校验硬盘的独立数据盘( Independent data disks with shared parity disk),与RAID 3类似,不同在于对数据访问是每次一个盘,而RAID 3是每次一个条带,RAID4的读写性能较差,目前较少使用异或运算异或运算A0B0C0D0A1B1C1D1A2B2C2D2A3B3C3D3P0P1P2P3A0A1A2A3B0B1B2B3C0数据盘校验盘RAID 5的工作原理分布式奇偶校验码的独立磁盘结构分布式奇偶校验码的独立磁盘结构D4

16、P1D1驱动器2P2D2D0驱动器1D5D3P0驱动器3D0,D1,D2,D3,D4,D5RAID 5的特性适合用在文件服务器、Email服务器、WEB服务器等输入/输出密集、读/写比率较高的应用环境 异或校验影响存储性能硬盘重建的过程较为复杂控制器设计复杂高可用性磁盘利用率较高随机读写性能高 校验信息分布存储于各个磁盘,避免单个校验盘的写操作瓶颈缺点缺点 优点优点应用范围应用范围Q5D9RAID6 PQ的工作原理P1D3D6D12D10Q1P2D7D13D11D0Q2P3D14P4D1D4Q3P5Q4D2D5D8驱动器驱动器1驱动器驱动器2驱动器驱动器3驱动器驱动器4驱动器驱动器5条带0条带

17、1条带2条带3条带4RAID6 PQ需要计算出两个校验数据P和Q,当有两个数据丢失时,根据P和Q恢复出丢失的数据。校验数据P和Q是由以下公式计算得来的: P=D0 D1 D2 Q=( D0) ( D1) ( D2)RAID6 DP的工作原理D12D0D4D8D13D1D5D9D14D2D6D10P3P0P1P2DP3DP0DP1DP2驱动器驱动器1驱动器驱动器2驱动器驱动器3横向校验盘横向校验盘斜向校验盘斜向校验盘条带0条带1条带2条带3DP4D15D3D7D11驱动器驱动器4DPDouble Parity,就是在RAID4所使用的一个行XOR校验磁盘的基础上又增加了一个磁盘用于存放斜向的XO

18、R校验信息 横向校验盘中P1P4为各个数据盘中横向数据的校验信息例:P0=D0 XOR D1 XOR D2 XOR D3 斜向校验盘中DP1DP4为各个数据盘及横向校验盘的斜向数据的校验信息 例:DP0=D0 XOR D5 XOR D10XOR D15磁盘故障 数据恢复RAID 6的特性适合用在对数据准确性和完整性要求极高的环境采用两种奇偶校验消耗系统资源,系统负载较重磁盘利用率比RAID 5更低配置过于复杂具有高可靠性可同时允许两块磁盘失效至少需要四块磁盘缺点缺点 优点优点应用范围应用范围RAID组合RAID 10D0D2D4D0D2D4D1D3D5D1D3D5磁盘镜像器磁盘镜像器磁盘镜像器

19、磁盘镜像器D0,D1,D2,D3,D4,D5RAID 10是将镜像和条带进行组合的RAID级别,先进行RAID 1镜像然后再做RAID 0。RAID 10也是一种应用比较广泛的RAID级别。物理磁盘1物理磁盘2物理磁盘3物理磁盘4磁盘故障磁盘故障读取数据RAID 10的特性数据量大,安全性要求高的环境,如银行、金融等领域 磁盘利用率低,只有1/2的硬盘利用率,至少需要4块磁盘高读取速度高写入速度,写开销较小特定情况下,可以允许N/2个硬盘同时损坏缺点缺点 优点优点应用范围应用范围S&K常见RAID级别的比较RAID级别级别RAID 1RAID 3RAID 5RAID 10RAID 0容

20、错性容错性有有有有有有有有无无冗余类型冗余类型镜像冗余镜像冗余校验冗余校验冗余校验冗余校验冗余镜像冗余镜像冗余无无读性能读性能低低高高高高普通普通高高随机写性能随机写性能低低低低普通普通高高连续写性能连续写性能低低低低低低普通普通高高最少磁盘数最少磁盘数2个个3个个3个个4个个2个个可用空间可用空间50*(N-1)/N(N-1)/N50*100应用场景应用场景传输带宽需传输带宽需求大的应用求大的应用安全性要求安全性要求较高的应用较高的应用大文件、连大文件、连续数据的应续数据的应用用读读/写比率较写比率较高的应用高的应用安全性要求安全性要求高的应用高的应用低低RAID基本概念 定义 2RAID(

21、Redundent Array of Inexpensive Disks)廉价磁盘冗余阵列由美国加州伯克利分校的D.A.Patterson教授在1988年提出。传统RAID的四种需求目标安全、经济、效率、扩充解决了单个磁盘容量的限制解决了单个磁盘速度的限制解决了数据可靠性问题RAID技术将多个单独的物理硬盘以不同的方式组合成一个逻辑硬盘,从而提高了硬盘的读写性能和数据安全性。根据不同的组合方式可以分为不同的RAID级别: RAID 0数据条带化,无校验RAID 1数据镜像,无校验RAID 2海明码错误校验及校正RAID 3数据条带化读写,校验信息存放于专用硬盘RAID 4单次写数据采用单个硬盘

22、,校验信息存放于专用硬盘RAID 5数据条带化,校验信息分布式存放RAID 6数据条带化,分布式校验并提供两级冗余RAID与LUN的关系RAID5RAID1RAID0RAID5RAID1LUN 1LUN 0LUN 2LUN 7LUN 6LUN 3LUN 4LUN 5RAID控制器01234567RAID由几个硬盘组成 ,从整体上看相当于一个物理卷在物理卷的基础上可以按照指定容量创建一个或多个逻辑卷,通过LUN(Logic Unit Number)来标识逻辑卷逻辑卷物理卷物理卷(RAID)RAID、逻辑卷的形成过程 物理磁盘物理磁盘物理卷物理卷(RAID)物理磁盘物理磁盘逻辑卷逻辑卷物理卷物理卷

23、(RAID)LUN1LUN2LUN3分割分割RAID、逻辑卷的形成过程 添加一层(格式化后)辑卷层,添加一层(格式化后)辑卷层,lLUN masking是指LUN与主机HBA卡的WWN地址绑定,与主机HBA卡建立一对一或多对一的连接和访问关系。无论主机跳线到同一个Fabric(无zone设置)的哪一个端口上,主机都能识别到相同的LUN。l在非共享的应用系统中,一般在卷和主机建立一(主机)对多(卷)的关系,不同业务类型的工作站分别访问不同的LUN。在共享式的应用系统中,一般采用多(主机)对一(卷)关系。lLUN Mapping是LUN与存储设备的主机端口进行绑定,服务器连接不同的主机端口时所能访

24、问的LUN不同。l当系统无FC交换机,主机与存储设备的主机端口直连时,通过LUN Mapping实现起来LUN分区非常方便。当所有主机端口都连接到同一个FABRIC时,就需要与 FC switch的ZONE结合起来一起使用。LUN masking & LUN MappingMPIO冗余多路径lMultipath I/O (多路径)在计算机存储技术里多路径提供了容错和性能提高,服务器与存储设备之间有多条物理路径通道,通过总线、控制器、交换设备来连接。如果其中1个控制器,端口或交换设备故障,那操作系统就会自动切换I/O路径到冗余的控制器为应用程序使用,但这样可能会增加延迟。l一些多路径软件

25、可以利用冗余的路径提高性能,例如:Dynamic load balancing 动态负载均衡Traffic shaping 流量控制Automatic path management 自动路径管理Dynamic reconfiguration 动态设置HBADriverDriverDriverRAID 阵阵列列HBAHBAHBALUNDriverMPIO服服务务器器Dynamic Load balancing Failover/Fail Back CHACHACHACHARAID硬盘失效处理-热备和热插拔 热备:Hot Spare定义:当冗余的RAID组中某个硬盘失效时,在不干扰当前RAID系

26、统的正常使用的情况下,用RAID系统中另外一个正常的备用硬盘自动顶替失效硬盘,及时保证RAID系统的冗余性全局式:备用硬盘为系统中所有的冗余RAID组共享专用式:备用硬盘为系统中某一组冗余RAID组专用热插拔:Hot Swap定义:在不影响系统正常运转的情况下,用正常的硬盘物理替换RAID系统中失效硬盘关键在于热插拔时电子器件的保护机制全局热备示例 该热备盘由系统中两个RAID组共享,可自动顶替任何一个RAID中的一个失效硬盘磁盘1磁盘2磁盘3热备盘热备盘磁盘4磁盘5磁盘6RAID 5RAID 5磁盘阵列重构过程D5D3D1驱动器2D4D2D0校验驱动器D0,D1,D2,D3,D4,D5P3P

27、2P1热备盘驱动器D0D2D4驱动器1HotSpare简介l所谓热备份是在建立RAID磁盘阵列系统的时候,将其中一磁盘指定为热备磁盘,此热备磁盘在平常并不操作,当阵列中某一磁盘发生故障时,热备磁盘便取代故障磁盘,并自动将故障磁盘的数据重构在热备磁盘上。l热备盘分为:全局热备盘和局部热备盘全局热备盘:针对整个磁盘阵列,对阵列中所有RAID组起作用。局部热备盘:只针对某一RAID组起作用。l因为反应快速,加上快取内存减少了磁盘的存取,所以数据重构很快即可完成,对系统的性能影响不大。l对于要求不停机的大型数据处理中心或控制中心而言,热备份更是一项重要的功能,因为可避免晚间或无人守护时发生磁盘故障所引

28、起的种种不便。日程 网络存储架构网络存储架构3 3硬盘技术简介1磁盘阵列简介2存储软件功能介绍4备份基础知识5远程容灾基础知识6传统计算机存储系统的问题传统计算机存储系统的问题CPU硬盘RAMServer计算机存储系统传统计算机存储系统的局限性:传统计算机存储系统的局限性:l 硬盘成为整个系统的性能瓶颈l 有限的硬盘槽位,难满足大容量需求l 单个硬盘存放数据,数据可靠性难以保证l 存储空间利用率低l 本地存储,数据分散 外部磁盘阵列的产生外部磁盘阵列的产生早期外部存储系统传统计算机存储系统的局限性:l 硬盘成为整个系统的性能瓶颈l 有限的硬盘槽位,难满足大容量需求l 单个硬盘存放数据,数据可靠

29、性难以保证l 存储空间利用率低l 本地存储,数据分散CPU硬盘RAMServerRAID功能SCSI卡JBOD(Just Bound Of Disk)智能磁盘阵列的产生智能磁盘阵列的产生控制器中包含RAID功能、大容量Cache,同时使得磁盘阵列具有多种实用的功能,配置专用管理软件进行配置管理传统计算机存储系统的局限性:l 硬盘成为整个系统的性能瓶颈l 有限的硬盘槽位,难满足大容量需求l 单个硬盘存放数据,数据可靠性难以保证l 存储空间利用率低l 本地存储,数据分散CPU硬盘RAMServerSCSI卡控制器控制器存储网络的产生存储网络的产生SCSI电缆最长支持25米FC光纤连接距离可达10公

30、里至100公里ServerHBA卡传统计算机存储系统的局限性:l 硬盘成为整个系统的性能瓶颈l 有限的硬盘槽位,难满足大容量需求l 单个硬盘存放数据,数据可靠性难以保证l 存储空间利用率低l 本地存储,数据分散存储网络的基本形态DAS (Direct Attached Storage)网络存储架构网络存储架构NAS (Network Attached Storage) SAN (Storage Area Network)网络存储几种常见类型网络存储几种常见类型DAS (Direct Attached Storage)l存储设备(RAID系统、磁带机和磁带库、光盘库)直接连接到服务器;l传统的、

31、最常见的连接方式,容易理解、规划和实施;l没有独立操作系统,不能提供跨平台的文件共享,各平台下数据需分别存储;l各DAS系统之间没有连接,数据只能分散管理;备份软件不能离开服务器支持;DAS的前期投资比较少;文件服务器存储设备应用服务器存储设备数据库服务器存储设备LAN数据流数据流数据流NAS (Network Attached Storage)lNAS本身装有独立的OS,通过网络协议可以实现完全跨平台共享,支持WinNT、Linux、Unix等系统共享同一存储分区;NAS可以实现集中数据管理;一般集成本地备份软件,可以实现无服务器备份功能;NAS系统的前期投入相对较高。lNAS内每个应用服务

32、器通过网络共享协议(如:NFS、CIFS)使用同一个文件管理系统;NAS关注应用、用户和文件以及它们共享的数据;磁盘I/O会占用业务网络带宽。文件服务器应用服务器NAS存储设备LAN数据流数据流集群集群存储的定义 所谓集群存储是一种开放式的存储架构,采用分布式的操作系统,将多台物理存储设备中的存储空间聚合成一个能够给应用服务器提供统一访问接口和管理界面的存储池(也叫统一命名空间),应用可以通过该访问接口非常容易的管理存储池后端物理存储设备上所有的磁盘,充分发挥存储设备的性能和磁盘利用率。数据将会按照一定的负载均衡策略,从多台存储设备上存储和读取,以获得更高的存储性能。集群存储特点:开放式架构(

33、高扩展性)分布式操作系统存储池易管理性负载均衡高性能虚拟的文件共享存储池(全局统一命名空间)存储服务器集群元数据服务器集群(MDS)应用服务器(AS)系统架构图集群与传统存储对比传统的SAN与NAS分别提供的是数据块与文件两个不同级别的存储服务,集群存储主要面向文件级别存储服务的集群存储系统。对比传统NAS、SAN结构和集群存储架构方面,可以形象的用中国的高铁和之前的火车做形象的比较:集群存储、动车组传统存储、传统火车注意:目前集群种类有: 块级集群(SAN FC/iSCSI) 文件级集群(NAS) 集群和并行文件系统集群与传统存储对比存储块级集群(SAN FC/iSCSI)文件级集群(NAS

34、)集群和并行文件系统访问iSCSI或FCPNFS,CIFSNFS,CIFS,HTTP或其他特征性能、容量或可用性能升级虚拟NAS服务器,性能可升级基于主机软件或应用适用环境微软Exchange、SQL和其他基于敏感块的应用普通的文件共享和相关的应用需求可能需要专门的软件或合适的硬件,适用于对带宽需求大的应用代表厂商EqualLogic、LeftHand Networks、3PARNetApp、ONStor、BlueArcIbrix、PolyServe、Isilon、Verari、Panasas、Lustre、SGI、CrosswalkFCP:FC SAN环境的传输协议SAN (Storage

35、Area Network)l高可用性,高性能的专用存储网络,用于安全的连接服务器和存储设备并具备灵活性和可扩展性;SAN对于数据库环境、数据备份和恢复存在巨大的优势;SAN是一种非常安全的,快速传输、存储、保护、共享和恢复数据的方法。lSAN是独立出一个数据存储网络,网络内部的数据传输率很快,但操作系统仍停留在服务器端,用户不直接访问SAN的网络;SAN关注磁盘、磁带以及联接它们的可靠的基础结构 ;文件服务器应用服务器存储设备LAN数据流SAN存储设备存储设备数据流DAS、NAS、SAN剖析 主机DASFC SAN应用文件/操作系统I/O 重定向器TCP/IP 协议栈NFS/CIFS网络接口卡

36、 主机文件处理 I/ONAS IP Network网络接口卡TCP/IP 协议栈NFS/CIFS文件系统+ 逻辑卷管理器数据管理系统RAID块处理 I/O设备驱动应用逻辑卷管理器 裸卷SCSI 设备驱动块处理 I/OIP SAN应用逻辑卷管理器 裸卷iSCSI LayerTCP/IP Stack网络接口卡 主机块处理 I/O块处理 I/O IP Network FC Network网络接口卡TCP/IP协议栈数据管理系统RAID块处理 I/OFC总线卡FC协议栈数据管理系统RAID块处理 I/O应用逻辑卷管理器 裸卷SCSI 设备驱动FC协议栈FC总线卡设备驱动设备驱动SCSI 设备驱动 主机

37、文件/操作系统数据库文件/操作系统数据库文件/操作系统数据库RAIDSCSI/FC 总线卡存储网络的三种形态比较DASNASSAN传输类型SCSI、FCIPIP、FC、SAS数据类型数据块文件数据块典型应用任何文件服务器数据库应用优点磁盘与服务器分离,便于统一管理不占用应用服务器资源广泛支持操作系统扩展较容易即插即用,安装简单方便高扩展性高可用性数据集中,易管理缺点连接距离短数据分散,共享困难存储空间利用率不高扩展性有限不适合存储量大的块级应用数据备份及恢复占用网络带宽相比NAS成本较高安装和升级比NAS复杂补充要点:NFS&CIFSlNFS (Network File System,

38、网络文件系统)是当前主流异构平台共享文件系统之一.主要应用在UNIX环境下。 最早是由SUN microsystem开发,现在能够支持在不同类型的系统之间通过网络进行文件共享,广泛应用在FreeBSD、SCO、Solaris等等异构操作系统平台, 允许一个系统在网络上与它人共享目录和文件。l传输协议用于服务器和客户机之间文件访问和共享的通信,从而使客户机远程地访问保存在存储设备上的数据。 CIFS(Common Internet File Syste,公共互联网文件系统)是当前主流异构平台共享文件系统之一。主要应用在NT/Windows环境下,是由Microsoft公司开发。其工作原理是让CI

39、FS协议运行于TCP/IP通信协议之上,让Unix计算机可以在网络邻居上被Windows计算机看到。共享文件系统特点:异构平台下的文件共享:不同平台下的多个客户端可以很容易的共享NAS中的同一个文件。充分利用现有的LAN网络结构,保护现有投资。容易安装,使用和管理都很方便,实现即插即用。广泛的连接性:由于基于IP/Ethernet以及标准的NFS和CIFS,可以适应复杂的网络环境。注意:CIFS和NFS虽然同样也是文件系统(File System),但它并不能用于在磁盘中存储和管理数据,它定义的是通过TCP/IP网络传输文件时的文件组织格式和数据传输方式。日程 网络存储架构3硬盘技术简介1磁盘

40、阵列简介2存储软件功能介绍存储软件功能介绍4 4备份基础知识5远程容灾基础知识6快照(snapshot)l快照的定义 关于指定数据集合的一个完全可用拷贝,该拷贝包括相应数据在某个时间点(拷贝开始的时间点)的映像。快照可以是其所表示的数据的一个副本,也可以是数据的一个复制品。 l快照种类:写入即复制(CopyOn Write,COW)写入即转存(I/O Redirect)克隆或者镜像剥离(split mirror)后台复制下的写入即复制增量可持续性数据保护快照的价值l快速备份/恢复快照可迅速生成,并可用作传统备份和归档的数据源,缩小甚至消除了数据备份窗口;快照存储在磁盘上,可以快速直接存取,大大

41、提高数据恢复的速度。l保存多个恢复点目标基于磁盘的快照使存储设备有灵活和频繁的恢复点,可以快速通过不同时间点的快照恢复数据。l重新定义数据用途快照提供一份接近实况数据的拷贝,可供测试、归档、查询使用,既保护生产系统又赋予备份数据新的用途。差分快照实现:CoWp源盘快照前写块1abcdefgh01234567i8SAN访问阵列源卷1.写操作(p写入块1)p差分快照实现:CoWp源盘快照快照前写块1z快照后写块6apcdefgh01234567i8SAN访问阵列源卷快照索引和日志地址数据1.写操作(p写入块1)2.产生快照3.快照后写入z到块6:不一次性写入先将块6内容移入日志z写入源卷g66gz

42、差分快照实现:CoWpz源盘快照快照前写块1快照后写块6gp读块6读块1apcdefzh6g01234567i8SAN访问阵列快照索引和日志源卷地址数据1.写操作(p写入块1)2.产生快照3.快照后写入z到块6:不一次性写入先将块6内容移入日志z写入源卷4.从快照读时组合索引/日志和源卷1.如果快照是可读/写,快照盘上的写操作直接更新索引和日志;2.更新操作属于覆盖写入。CoW的特点源卷状态:源卷保持最新状态写操作步骤:当一个新的写操作执行时:首先读出写操作将要覆盖地址的当前数据将读出数据保存至专用空间并建立索引新的写操作执行(写入目标地址)读写路径影响源卷的读路径基本无影响源卷的写操作受拷贝

43、影响对快照(卷)的读写路径都有影响RoW的实现p源盘快照前写块1abcdefgh01234567i8SAN访问阵列源卷1.写操作(p写入块1)pRoW的实现p源盘快照快照前写块1z快照后写块6apcdefgh01234567i8SAN访问阵列源卷快照索引和日志地址数据1.写操作(p写入块1)2.产生快照3.快照后写入z到块6:源卷块6内容不变z写入日志6zRoW的实现pz源盘快照快照前写块1快照后写块6gp读块6读块1apcdefgh6z01234567i8SAN访问阵列快照索引和日志源卷地址数据1.写操作(p写入块1)2.产生快照3.快照后写入z到块6:源卷块6内容不变z写入日志4.从快照读

44、时只访问源卷检索RoW的实现pz源盘快照前写块1快照后写块6快照gp读块6读块1apcdefgh6z01234567i8SAN访问阵列快照索引和日志源卷地址数据1.写操作(p写入块1)2.产生快照3.快照后写入z到块6:源卷块6内容不变z写入日志4.从快照读时只访问源卷1.如果快照取消,快照日志必需全部执行,以保证源卷的状态更新到最新z66zRoW的特点源卷状态:源卷状态冻结读写操作步骤:到源盘的新的写操作被存入日志(并索引):读源卷时,先检索日志读快照时,源卷需要引用当快照取消时,写日志必须全部执行以与源卷保证数据状态同步更新读写路径影响源卷的写操作基本无影响源卷的读路径潜在受影响快照(卷)

45、的读写路径最优化镜像 (Mirror)镜像分类依据镜像位置划分物理镜像逻辑镜像依据工作模式划分同步镜像异步镜像为什么要使用镜像镜像保护是一种软件可用性功能,它保护数据避免由于故障或由于磁盘相关部件损坏而丢失。系统在两个独立的磁盘单元上保存数据的两个副本,所以数据受到保护。当磁盘相关部件发生故障时,系统可以通过使用数据的镜像副本继续运行而不会中断,直到修复发生故障的部件为止。 镜像还能提供增强的读(写)性能。因为读请求服务可以从任意一个成员处提供。在许多性能度量和基准程序中,观察到镜像的时间开销大约增加15到20。而一个存储设备如果是镜像的,它可提供的读请求服务数目将增加一倍。同步镜像与异步镜像

46、的区别缓存同步镜像无缓存异步镜像有缓存速度同步镜像(稍慢)u数据随机写入u每一I/O事务需等待主磁盘和镜像磁盘都完成,确认信息方可释放异步镜像(快)u数据顺序写入Cache,再由Cache随机写入磁盘u系统只需等待Cache确认信息同步镜像与异步镜像区别写操作同步镜像u是指“写”操作会同时在主磁盘和镜像磁盘上完成。异步镜像u虽然同时将“写”命令和数据同时发送给原始磁盘和镜像磁盘,但原始磁盘的“写”操作完成后并不需要等待镜像磁盘完成“写”操作,镜像磁盘的“写”操作可以通过数据复制进程异步完成。 使用场合同步镜像当数据一致性对商业应用非常关键时,并且数据丢失去几乎不可忍受时,适合采用同步镜像模式。

47、异步镜像 该模式适用于对速度要求比较高的场合。镜像实现(一)一般来说,镜像是在硬件架构的基础上由软件实现 的,通常可在系统三个位置上实现:卷管理器磁盘控制器主机总线适配器镜像实现(二)卷管理器: 作为服务器的软件组件,它是在文件系统和主机总线适配器驱动程序之间构架的单独一层。其主要目的是把服务器挂载的物理磁盘驱动器虚拟化,以更方便的形式提供给文件系统使用。卷管理器中实现的镜像I/O路径镜像实现(三)磁盘控制器:磁盘控制器除了完成数据块的移动、拷贝、计算等特殊功能外,还带有功能强大的通用处理器。磁盘控制器是一些较大型服务器实现数据镜像和RAID最为常用的位置。在磁盘子系统中实现的镜像I/O路径镜

48、像实现(四)主机总线适配器: 一些供应商开发了一种既可以提供传统主机总线适配器的格式转换功能,又能实现多I/O总线接口以及RAID和数据镜像算法的主机总线适配器。主机控制器中磁盘实现的I/O路径镜像层次模型物理磁盘物理磁盘物理镜像层(RAID)逻辑抽象层逻辑镜像层逻辑镜像层镜像层次模型逻辑卷(LUN)虚拟磁盘(磁盘阵列)区别镜像数据虽然存在两个物理设备中,但是OS和逻辑层次只识别一个逻辑的设备。两个设备中数据时刻保持同步。镜像也分为同步镜像、异步镜像。对于软故障要与快照技术结合,来保障RTO和RPO最小。区别备份一般是指利用备份软件,把数据从磁盘备份到磁带进行离线保存。最新的备份技术也支持磁盘

49、到磁盘的备份,也就是把磁盘作为备份数据的存放介质,以加快数据的备份和恢复速度,即D2D。注意:备份数据需要恢复才可以被查看,无法直接查看区别拷贝即COPY。无增量的捕捉机制,每次都要完全拷贝。手工进行,无法自动化配置,容易出错。某些系统文件,如在线数据库文件无法拷贝。RTO大,RPO大。注意:拷贝数据只需要将服务器指针挂到被拷贝数据上即可直接查看有策略的,智能的、全自动化的copy可以理解为克隆区别 复制(一)是指利用复制软件把数据从一个设备复制到另一个设备或者一个设备的一个磁盘复制到另一个磁盘,生成一个数据副本。这个数据副本是数据处理系统直接可以访问的,不需要进行任何的数据恢复操作,这一点是

50、复制与D2D备份的明显区别。区别复制(二)复制可以分为同步复制和异步复制。同步、异步指的是数据同步的方式。同步方式的安全性和时效性很好,但会影响系统性能和带宽。异步方式相对于同步方式对系统性能和带宽影响较小,但安全性比同步方式稍低。对于软故障与快照技术结合,来保障RTO和RPO最小。区别RAID1RAID1是基于物理磁盘级的镜像技术。硬盘镜像(RAID1)是容错磁盘阵列技术最传统的一种形式,在工业界中相对地最被了解,它最重要的优点是百分之百的数据冗余。RAID1综合区别镜像、备份、拷贝、复制备份恢备份恢复时间复时间 性能性能 备份备份介质介质 增量机制增量机制 备份距离备份距离 对业务系对业务

51、系统的影响统的影响 管理管理 拷贝拷贝copycopy 长 碎小文件拷贝较慢;连续大文件拷贝较快 磁盘 不能做增量拷贝,每次都要拷贝所有文件 近 拷贝过程占用大量服务器资源 手工执行占用人力资源。 Client/Client/ServerServer传统备传统备份份backup模式模式 长,磁带介质故障经常导致恢复失败 慢,高端磁带库可提供较快的性能,但是价格昂贵 磁带机磁带库磁盘 支持增量,文件级增量或数据库表级增量为主,支持裸设备增量备份的软件较少且价格昂贵, 近,以本地备份为主 需要配置备份服务器、客户端软件及大量的License,占用服务器资源和网络带宽 备份软件对使用者要求较高,需要

52、掌握裸设备、文件系统、数据库等综合知识。 复制复制replicareplicationtion技术技术 短 快,以磁盘为介质结合增量技术提高复制性能 磁盘 支持增量,可精确到物理块级 远近皆可 复制过程在磁盘阵列或者存储网络层进行,不会占用应用服务器资源和应用网络带宽 设定策略后无需人工干预,复制与恢复的过程都很简单。 镜像镜像技术技术 MirrorMirror长,每次需要完全恢复整个数据卷 快 磁盘 不支持增量 近,带宽和距离影响延迟时间和性能,因此多以本地为主 对业务系统的性能影响很大 简单。 自动精简配置自动精简配置(Thin Provisioning)特点:存储容量优化节约管理资源减少

53、甚至杜绝未使用空间的浪费最大限度的节约用户投资成本存储虚拟化存储虚拟化存储虚拟化 存储虚拟化是物理存储的逻辑表示方法,是在服务器与存储之间设置的一个抽象层,服务器被绑定到逻辑抽象层上。 把物理设备和服务器所能看见的存储设备视图分开. 提供一个统一的逻辑存储空间给服务器,服务器所能看见的是一个逻辑的存储空间,而不知道实际物理存储设备的位置,路径和每个设备的具体特点.存储虚拟化特点存储虚拟化特点异构存储设备整合多样化的存储协议支持弹性的资源调配机制高可用性机制架构在虚拟层上的进阶应用存储虚拟化的实现可以根据实存储虚拟化的实现可以根据实现方式分三种现方式分三种:基于服务器或主机基于存储设备基于存储网

54、络存储虚拟化 基于主机或服务器的存储虚拟化实现通常称为逻辑卷管理(logical volume manager);磁盘上的物理块或逻辑单元号(LUN)被映射成逻辑卷号;逻辑卷管理软件把多个不同的磁盘阵列映射成一个虚拟的逻辑块空间;当存储需求增加时,逻辑管理软件能把部分逻辑空间映射到新增的磁盘阵列,因此逻辑卷管理可以在不断运行的情况下,增加或减少物理存储设备存储虚拟化方法 存储虚拟化方法说明:采用不同RAID策略,将物理磁盘划分成若干相同大小的逻辑元,通过逻辑单元构成虚拟化后的逻辑资源。 存储池虚拟磁盘技术(一)卷的三个层次:物理磁盘虚拟磁盘逻辑卷 要建立卷,首先要根据不同的RAID策略,采用一

55、块或者多块物理磁盘组成虚拟盘,然后在虚拟磁盘之上划出需要的空间建立卷。存储虚拟化虚拟磁盘技术(二)物理磁盘 是单个的物理磁盘设备,用来进行数据的读写。虚拟磁盘 包含多个物理磁盘,并被作为一个实体来进行数据的读写。逻辑卷(Logical Volume) 由逻辑磁盘形成的虚拟盘,也可称为磁盘分区。虚拟磁盘技术(三)逻辑卷(续) 一个卷可以跨多个物理磁盘,也可以由一个或者多个虚拟磁盘组成。并且可以被终端用户直接访问,就好像它是一个单独的存储设备一样,而不用考虑虚拟磁盘的类型。用户还随时可以增加卷的容量。当用户增加卷的容量时,虚拟磁盘将会赋予更多的空间给该卷。卷镜像技术(逻辑资源镜像) 管理员可以在存

56、储服务器上为已有的生产数据卷添加镜像,镜像卷占用与源卷大小一样的空间。管理员为卷创建镜像后,镜像卷会从源卷上进行数据拷贝和迁移。当源卷的数据改变时,变化也会同步地写入到镜像卷。当源卷发生故障时,镜像卷会继续工作,保持业务的连续性,反之亦然。卷镜像是卷这一层面的概念。卷镜像是对卷的镜像,对卷的实际大小和内容进行复制,跟虚拟磁盘无关。卷镜像功能让用户可以创建实时的,同步的数据的物理拷贝。用途:测试、只读共享访问、备份。日程 网络存储架构3硬盘技术简介1磁盘阵列简介2存储软件功能介绍4备份基础知识备份基础知识5 5远程容灾基础知识6备份技术产生的背景l只要发生数据传输、存储和交换就有可能产生数据故障

57、。l自然灾害、人为的信息攻击都在威胁着信息的安全。l信息拥有者对数据存储和数据备份的需求。备份的定义 l数据备份是将数据以某种方式加以保留,以便在系统遭受破坏或其他特定情况下重新加以利用的一个过程。l数据备份的核心是恢复,一个无法恢复的备份对于任何系统来说都是毫无意义的。l数据备份的意义不仅在于防范意外事件的破坏,而且还是历史数据保存归档的最佳方式。数据备份的原则备份原则备份原则稳定性稳定性容灾考虑容灾考虑操作简单操作简单高性能高性能自动化自动化全面性全面性备份系统的组成l备份客户端l备份服务器l备份存储单元l备份管理软件备份客户端备份客户端备份服务器备份服务器备份存储单元备份存储单元文件服务

58、器数据库备份管理软件备份管理软件备份的拓扑结构。常见备份方式常见备份方式LAN-Free LAN-BaseSever-LessMaster ClientMediaSANDisk StorageTape LibraryLANMaster SAN MediaMediaSANDisk StorageTape LibraryLANMaster ClientMediaSANDisk StorageTape LibraryLAN备份数据通过LAN传送备份占用大量LAN带宽备份数据通过SAN传送,对LAN的带宽无影响需要占用服务器资源备份数据直接存入备份存储对LAN及服务器均无影响成本高,兼容性低数据备份的

59、类型 全备份:备份系统中的所有数据 优点:恢复时间最短,最可靠,操作最方便 缺点:备份的数量大,备份所需时间长 增量备份:备份上一次备份以后更新的所有数据 优点:每次备份的数据少,占用空间少,备份时间短 缺点:恢复时需要全备份及多份增量备份 差量备份:备份上一次全备份以后更新的所有数据 优点:数据恢复时间短 缺点:备份时间长,恢复时需要全备份及差量备份 按需备份:根据临时需要有选择地进行备份 关键指标lRTO(Recovery Time Objectives)恢复时间目标当灾难发生后,生产系统再次恢复工作所需的时间。它是灾难发生后到重新恢复系统运作所花费时间的指标lRPO (Recovery

60、Point Objectives)恢复点目标当灾难发生后,容灾系统能将数据恢复到灾难发生前的哪一个时间点的数据。它是系统在灾难发生后将损失多少数据的指标灾难发生业务中断恢复运行最后有效数据备份时间点灾难发生数据丢失数据备份的方式l D2T(Disk to Tape):数据从磁盘阵列备份到磁带的方式l D2D(Disk to Disk):数据从磁盘阵列备份到磁盘阵列的方式 l D2D2T(Disk to Disk to Tape):数据从磁盘阵列备份到磁盘库到磁带的方式lD2V (Disk to VTL ):数据从磁盘阵列备份到虚拟磁带库 的方式什么是虚拟磁带库/VTL通过固化了专门软件的控制器,使磁盘(阵列) 对主机或应用软件体

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论