软件和技术原理-ONTAP系统 v1

NetApp软件和技术原理DataONTAP操作系统ServiceOneGretronicsDataONTAP操作系统

DataONTAP操作系统是NetApp公司研发的，具有多项独家知识产权的软件产品。通过结合WAFL文件系统和微核设计等多项专利技术，DataONTAP负责对网络数据提供优化的存储访问服务。DataONTAP能使网络和硬盘系统的资料交换效率达到最佳，系统核心极小(microkernel)，同时具有高稳定性、高效率、多重通讯协议的特性，主要架构分成三大部分：

第一是接口部分，包括网络接口(GbE-Fiber/Copper,TCP/IPOffloadEngine)和光纤接口(2Gb-FibreChannel)第二是通讯协议部分，包括FileProtocol(NFS,CIFS,HTTP,DAFS)和BlockProtocol(FCP,iSCSI)第三是文件系统WAFL和整合式RAID磁盘阵列系统(IntegratedRAIDManager)ServiceOneGretronicsDataONTAP操作系统ServiceOneGretronicsDataONTAP操作系统当前DataONTAP操作系统在部署的是7.x.x和8.x.xServiceOneGretronicsDataONTAP操作系统FAS存储操作系统

FAS系列/V系列/GX

核心技术

WAFL/Snapshot/Raid-dp/Flexvoletc.

开放存储协议

FCP/NFS/CIFS/ISCSI–统一存储 http/https/ftp/ndmp/snmp/smtp/telnet/rsh/sshetc.

存储网络接口

FC-SAN Ethernet-NAS,IP-SANServiceOneGretronics存储单元划分ServiceOneGretronicsAggr1vol0vol1vol2vol3物理磁盘Aggregate(RAID组集合)FlexvolumeLUN物理层面逻辑层面存储单元名称与定义Aggregate每个控制器必须有独立的Aggregate可以包含一个或多个RAID组，每个RAID组对应一种RAID级别（增强型RAID4或RAIDDP）一个Aggregate只有一种RAID类型，可以在线更改RAID类型物理磁盘的聚合，可以在线的添加硬盘但不能减少硬盘数量可以包含多个FlexVolumeVolumeNAS存储单元FlexVolume，可以动态缩放（20MB－16TB）TraditionalVolume，不支持动态缩放WAFL文件系统结构LUNSAN/IP-SAN存储单元虚拟化，可以动态缩放数据格式由主机定义ServiceOneGretronicsWAFL®

显著增强了RAID性能WAFL将许多个写入IO聚合成少数大的磁盘IO并写入同一个RAID条带磁头机械移动的减少获得了极高的性能提升NVRAM保证数据最终写入磁盘前不会丢失与访问协议无关－FCP,NFS,CIFS,ISCSINetApp采用了RAID4或RAID-DPServiceOneGretronics校验盘一个条带数据盘FlexVol灵活卷ServiceOneGretronicsAggregateDisksDisksDisksFlexVolume:逻辑空间不需要直接对应到物理磁盘，实现了虚拟化FlexibleVolumesAggregate包含物理磁盘传统的存储空间分配方式ServiceOneGretronicsERP系统CRM系统办公自动化系统生产控制系统其它系统3TB1TB1TB2TB2TB总可分配存储空间哎，都分光了，没有剩余存储空间传统存储空间分配方式导致的矛盾ServiceOneGretronics3TBERP系统1TBCRM系统办公自动化系统2TB生产管理系统其它系统2TB分配空间不足需要扩容未使用空间Hi，兄弟分我一点存储空间门都没有，自己找管理员要已使用空间1TB图例使用一段时间后的情景传统存储空间分配方式导致的低使用率Flexvol技术采用的先进的存储空间分配方式ServiceOneGretronics嘿嘿，所有的存储空间还在我手里ERP系统CRM系统办公自动化系统生产控制系统其它系统最多使用3TB最多使用1TB最多使用1TB最多使用2TB最多使用2TB总可分配存储空间规定最大能使用的空间配额，不实际占用空间Flexvol技术采用的使用多少分配多少技术ServiceOneGretronics最多使用3TBERP系统最多使用1TBCRM系统办公自动化系统最多使用2TB生产管理系统其它系统最多使用2TB需要扩容未使用空间还剩余的空间使用配额已使用空间图例总可分配存储空间多给0.5TB配额最多使用1TB在使用当中，采用使用多少分配多少的策略还有这么多空间可以分配FlexVolume技术提高了存储空间的使用率FlexVol自动精简配置技术ServiceOneGretronics6TBDisksDisksDisks3TB1TBCRM系统2TB1TB办公自动化系统生产管理系统2TB其它系统存储空间池ERP系统规定最大能使用的空间配额，不实际占用空间3TB+1TB+1TB+2TB+2TB6TB>管理Aggregateaggr－可以创建/删除/管理aggregates,查看aggregates状态aggr命令的参数有：addmirrorrestrictundestroycopyofflinescrubverifycreateonlineshow_spacedestroyoptionssplitmedia_scrubrenamestatus创建AggregateSystem>aggrcreate<aggrname>[-r,-t]ndisks[@disk-size]-r指定一个RAID组中最多包含的硬盘数量（包括校验盘）-t指定RAID类型（增强型的RAID4还是DAIDDP）ndisk指定需要用几块硬盘创建aggrgate@size指定硬盘的容量例如：aggraddaggr1–r14–traid46@600g创建一个有6块600GB硬盘的aggregate，名字叫aggr1。使用的RAID类型是增强型的RAID4，每个RAID组最多包含14块硬盘，ServiceOneGretronics管理Aggregate查看aggr的空间使用状况System>aggrshow_space[aggrname]启用/关闭aggregateSystem>aggronline<aggrname>启用aggregateSystem>aggroffline<aggrname>关闭aggregate删除aggregateSystem>aggrdestroy<aggrname>（aggregate必须先offline）ServiceOneGretronics管理Aggregate更改aggregate的RAID类型System>aggroptions<aggrname>raidtype<raid4|raiddp>例如：aggroptionsaggr1raidtyperaiddp（将aggr1的RAID类型改为RAIDDP）更改aggregate的RAID组的大小System>aggroptions<aggrname>raidsize<value>例如：aggroptionsaggr1raidsize18（调整aggr1的RAID组的大小，每个组最多包

含18块硬盘）往现有的aggregate中增加硬盘，增大aggregate的空间System>aggradd<aggrname>[ndisk[@disk-size]or–d[diskname1,diskname2…]例如：aggraddaggr1–d0a.17,0a.20（增加2块硬盘到aggr1）ServiceOneGretronics管理Aggregate查看aggregate状态，包括有哪些aggregate，每个aggregate的RAID类型，硬盘的数量，space盘的数量，数据盘有几块，校验盘有几块System>aggrstatus-rServiceOneGretronics管理Volumevol－可以创建/删除/管理Volume，查看Volme状态vol命令的参数有：addofflineonlinescrubclonedestroysizeautosizeoptionssplitrenamestatuscopymirrorcreate创建VolumeSystem>volcreate<volname><existing-aggrname><size>[k|m|g|t]例如：volcreatevol1aggr1600g（在现有的aggr1上创建一个6OOGB的vol1，vol1

是一个FlexVolume灵活卷）启用/关闭volumeSystem>volonline<volname>启用volumeSystem>voloffline<volname>关闭volume删除VolumeSystem>voldestroy<volname>（volume必须先offline）ServiceOneGretronics管理Volume调整volume的大小System>volsize<volname>[+|-]<size>[k|m|g|t]例如：volsizevol1+300m（vol1增大300MB的空间）查看volume的大小System>volsize<volname>例如：volsizevol2更改volume的名称System>volrename<volname><newvolname>例如：volrenamevol1vol2（将vol1改为vol2）ServiceOneGretronics管理Volume查看volume状态System>volstatusServiceOneGretronicsWAFL文件系统NetApp的文件系统名为WAFL，是专为Filer系统而设计的。WAFL是“WriteAnywhereFileLayout”，即“任意位置写入文件布局”的缩写。WAFL文件系统和Filer的整合式RAID管理采用一体化设计，以避免大多数带有RAID管理机制的文件系统所固有的性能问题。网络化存储实际应用中的三个基本要求决定了需要为NetAppFiler设计全新的文件系统：文件系统应该更加有效地操控RAID机制增加新的硬盘时，文件系统应该能够相应的动态增长

文件系统应该不需要做消耗大量时间的一致性检查ServiceOneGretronicsWAFL文件系统WAFL的主要特点及其所带来的优势包括：ServiceOneGretronics特点优势永远一致性的文件系统任何时刻文件系统均处于一致性的状态，即使遇到非正常断电或不正常关机后，也不需执行硬盘检查，即可在复电后2分钟内迅速提供服务具电池保护的NVRAM日志利用存取速度较硬盘快一千倍的内存，担任文件系统的日志，同时保护metadata及data的交易纪录，并加速写入的效率和反应时间、保证文件系统的一致性、保证写入的交易不会因断电而流失。内建智能型最佳化的RAID磁盘阵列管理系统配合NVRAM日志功能，藉由硬盘区块的配置最佳化，可将大量的随机写入转为少量的循序写入，真正达到平行写入(StripeWrite)并减少磁头移动的次数和磁头移动的距离的目的，加速文件存取和搜寻的速度能增长的文件系统不需其它软件的协助，就可直接实时动态线上扩增文件系统容量且立刻能使用新增加的容量。每次可只增加一块硬盘或多块硬盘的方式来扩增，完全不需要停机，也不需要等待时间。另外也可在不扩增容量的前提下，动态线上提高文件数量的上限，完全不需要停机，也不需要等待时间，也不影响系统运作效率硬盘区块验证系统(Block-levelChecksum)保障资料读取的正确性瞬间快照备份(Snapshot)使用不需要移动硬盘区块的WAFL专利技术，可瞬间备份整个文件系统，每个volume可有255份快照，每个使用者都有自己专属的一个快照目录，可自行恢复只属于自己在任一快照时间点的资料，完全不需系统管理人员的协助。每个快照备份皆是完整的文件系统备份(FullFileSystemBackup)，不论已有多少份数的备份，系统运作效率皆不受影响WAFL文件系统

WAFL作为专门为网络文件访问而优化的UNIX兼容文件系统。在某些方面，其磁盘格式类似于其它UNIX文件系统，如伯克利快速文件系统（BerkeleyFastFileSystem，以下简称FFS）和IBMTransArcEpisode文件系统，相似之处包括：WAFL是基于数据块的，使用没有片段的4KB大小数据块WAFL使用inodes来描述其文件WAFL文件系统中，目录是格式特殊的文件WAFL使用文件来储存元数据（MetaData），WAFL三个最重要的元数据文件是inode文件，包含文件系统所有的inode块图文件，用以识别空闲块inode图文件，用以识别空闲inode这里采用“图”而不是“位图”的称谓，因为这些文件采用多于1位（bit）对每一个路径加以描述ServiceOneGretronicsWAFL文件系统每一个WAFLinode包含16个块指针，用以表明哪一个数据块属于该文件。不同于伯克利快速文件系统，一个WAFLinode的所有块指针指向的是相同层次上的数据块。这样，对于小于64KB的文件，inode使用16个块指针指向文件数据块；大于64MB的文件，inode使用块指针指向间接数据块，间接数据块再指向实际的文件数据块。较大文件的inode指向更多的间接数据块。对于十分小的文件，数据储存在inode本身。简单的，可以把WAFL理解为数据块树型结构，在树的根部是rootinode，rootinode是用以描述inode文件的特殊inode。inode文件包含描述系统中其它文件的inode，包括块图和inode图文件。WAFL文件系统数据块树型结构的树叶是所有文件的数据块。如图所示ServiceOneGretronicsWAFL文件系统文件由不同的数据块组成。较大的文件在inode和实际数据块之间存在额外的间接层次。WAFL要启动的话，必须要找到该树型结构的根部，所以对于WAFL（任意位置写入文件布局）来讲，rootinode是个例外，它必须处于硬盘上的固定位置以便WAFL定位。使用文件来保存元数据的方式带来的好处有：允许在硬盘上任何地方写入元数据块。这就是WAFL名称的起源。与FFS类似，WAFL在其写入分配策略上有着完全的灵活性，数据块不是被永久地分配到固定的磁盘位置上。WAFL利用了这种灵活性来优化Filer的RAID性能。WAFL可以事先规划对同一RAID条带进行多重写入的时间，这样当仅仅更新RAID某一硬盘条带中某一数据块时，就不会对整个写入性能带来损耗使文件系统的增长变得十分容易。当增加新的硬盘时，Filer可以自动增加元数据文件的大小。如果系统的缺省值稍小，管理员也可以手动增加文件系统中的inode。允许元数据块在硬盘上任何地方写入。这种方式使得SnapShot数据快照功能成为可能。要使SnapShot可以工作，WAFL必须可以把新的数据，包括元数据写入到新的硬盘空间上，而不是覆盖原有数据。如果WAFL在磁盘上固定的位置存储元数据，这项功能就不可能实现

ServiceOneGretronics

批次动态条带化读写算法

WAFL文件系统中采用批次动态条带化读写算法。在UNIX或者Windows文件服务器中，写入性能尤其重要，因为它必须直接面对硬盘(或非易失性内存)，而读操作尚可以面对UNIX/Windows客户端和服务器的高速缓存。这就使得UNIX或者Windows客户端和服务器的硬盘写操作要比读操作多5－10倍。当服务器端和客户端高速缓存增大的情况下，对写入操作的响应主导了I/O子系统的处理过程。其影响是NFS服务器上的磁盘写操作可能比读操作多5倍这种需求特点，激发了WAFL在最初的设计中，即最大限度的发挥了写入分配策略的灵活性。WAFL文件系统中，通过批次动态条带化读写算法的三种机制，保证了这种灵活性的实现：WAFL能把文件系统的任何数据块(除包含rootinode的数据块外)写到磁盘中的任何位置上，从而创造性的优化了写入性WAFL能把数据块按任何顺序写到磁盘WAFL能在单一写入周期内为多个NFS操作同时分配盘空间。这种延缓分配写入空间的机制通过从应答处理的过程中去除磁盘分配时间，大大改进了NFS操作的等待时间。对于那些在到达磁盘前即被删除的数据块而言，这种方式也避免了时间的浪费ServiceOneGretronics批次动态条带化读写算法这些特性赋予了WAFL文件系统特别灵活的写入策略。为众多写入同时分配空间的能力使其更加智能化，允许将数据快以任何顺序写入到任何地方的能力又确保了这种策略适用于多种环境。概要地讲:WAFL通过将多数据块写入到同一条带中的方式，大大提高了RAID的效率与性能WAFL通过将相关的块写入到相近的位置而大大缩短了寻道时间WAFL通过将顺序的块放置在RAID阵列中某个单一磁盘上的方式，减少了大文件读出时的磁头冲突ServiceOneGretronics

NVRAM

为在磁盘上保存完整的文件系统一致性版本，WAFL文件系统至少每10秒会生成一个内部数据快照SnapShot，称为一个一致点(consistencypoint)。当时Filer启动时，WAFL总是使用时间最近的一致点版本，这意味着即使发生掉电或者其它严重系统错误后，系统再次投入正常运转也无需耗时的文件系统检查工作。Filer在仅仅1到2分钟的时间内即可正常启动，而这段时间也主要是花费在磁盘定位和内存检查上。NVRAM是带有电池的独特内存，即使切断电源，仍然可以存储数据。在不正常停机之后，WAFL重演所有“日志”以防丢失，当使用者的写入要