2023分布式存储多协议融合互通技术规范

PAGEPAGE12分布式存储多协议融合互通技术规范目录前言 3一、范围 7二、规范性引用文件 7三、术语和缩略语 7（一）术语 7融合Convergence 7多协议融合互通Multi-protocolconvergenceand3．命名空间 NameSpace 7（二）缩略语 7四、系统概述 8五、功能要求 9（一）基础级 9多协议要求 9小文件加速访问功能要求 10多租户功能要求 10配额功能要求 10服务质量控制功能要求 11分级存储功能要求 11快照功能要求 11回收站功能要求 11加密功能要求 12（二）增强级 12语义互通要求 12配额功能要求 12多租户功能要求 13服务质量控制功能要求 13分级存储功能要求 13快照功能要求 13远程复制功能要求 14数据加密要求 14回收站功能要求 14六、运维管理 14（一）配置管理要求 14（二）系统监控要求 14（三）在线升级要求 15七、可靠性 15（一）数据冗余要求 15（二）故障修复要求 15（三）硬盘误插拔修复要求 15（四）亚健康检测要求 16八、兼容性 16（一）管理平台兼容性要求 16（二）NAS版本兼容性 16（三）对象版本兼容性 16（四）大数据平台兼容性要求 16九、性能 17（一）基础级 17业务性能 17数据重构要求 17（二）增强级 18十、安全 18（一）管理员安全要求 18（二）业务安全要求 19基础级 19增强级 19（三）数据加密 19十一、硬件 19（一）处理器要求 19（二）内存要求 19（三）缓存要求 20（四）网卡要求 20十二、网络 20（一）网络隔离要求 20（二）RoCE网络要求 21一、范围本规范规定了非结构化数据访问协议文件、对象、HDFS本规范适用于多协议融合互通的分布式存储产品选型及测评参考。二、规范性引用文件下列文件对于本文件的应用是必不可少的。凡是注日期的引用文件，仅注日期的版本适用于本文件。凡是不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。YD/T4029-2022 计算存储分离架构的分布式存储技术要求三、术语和缩略语（一）术语1．融合Convergence一套分布式存储系统能够提供文件、对象、大数据数据访问能力。2．多协议融合互通Multi-protocolconvergenceandinterworking通过一种协议写入的文件，可以同时被其他协议读写访问。3．命名空间NameSpace存储系统的逻辑组成单元，用户的文件和目录都存放在命名空间内。（二）缩略语缩略语英文全名中文解释ACLAccessControlList访问控制列表HDFSHadoop Distributed SystemHadoop分布式文件系统HPCHigh-performancecomputing高性能计算LDAPLightweight DirectoryAccessProtocol轻型目录访问协议NASnetwork-attachedstorage网络存储NFSnetworkfilesystem网络文件系统SMBServerMessageBlock文件共享传输协议四、系统概述早期的存储系统受限于单套系统的性能和扩展能力，一般是按照业务系统垂直建设。随着分布式存储技术的成熟，单套分布式存储系统能够同时提PBEB效率低且空间浪费，多协议互通的分布式存储系统应运而生，一份数据能够被多种协议同时访问，融合互通的分布式存储成为产业趋势。再进一步，提供原生的文件、对象、HDFS1图1多协议融合互通分布式存储系统示意图本文件分两个级别定义分布式存储协议融合互通技术能力，基础级别规定多协议融合分布式存储技术要求，增强级别规定在多协议融合的基础上增加数据跨协议互通的分布式存储技术要求。五、功能要求（一）基础级多协议要求应符合以下技术要求：单套存储系统同时支持文件/大数据/NFS、SMB、S3HDFSNFSmount、mkdir、count、rm、mv、cp，NFStruncate,软硬链接，rename，rename文件夹等操作；SMB查看文件、修改文件；S3AWS(AmazonWebServices)S3put、getlistobject，对象ACL,桶的生命周期管理，对象的多版本，对象的自定义元数据、对象的多段上传等接口；HDFSappend、truncate、hsync、hflush、rename、moveconcat、setfacl、setxattr小文件加速访问功能要求应符合YD/T4029-2022中5.6节的要求。多租户功能要求应符合以下技术要求：a)NFS/SMB、HDFS、S3等协议支持多租户；b)ADLDAPNISc)IP/IP配额功能要求YD/T4029-20225.7a）b），并应符合如下技术要求：a)b)支持容量配额，当文件总容量达到上限，即限制新文件的写入；c)支持文件数配额，当文件数达到上限，即限制新文件的写入；d)支持用户和用户组的配额，当用户或用户组的容量或个数到达配置的上限时，即限制该用户或用户组的新数据写入。应符合如下技术要求：NameSpaceOPS（个/S）和带宽（MB/S）6．分级存储功能要求符合如下技术要求：NameSpace型的存储介质；c)应支持设置数据回迁策略，回迁策略生效后，数据自动回迁。快照功能要求符合如下技术要求：a)NFS/SMB/HDFS均应受快照保护；b)支持瞬时快照，生成快照时对整系统性能的影响宜小于5%；c)配额宜包含快照空间的容量。回收站功能要求应符合如下技术要求：所有协议支持回收站功能;9．加密功能要求NFS/SMB/HDFS/S3协议的数据均应支持加密功能。（二）增强级语义互通要求符合以下技术要求：多协议互通的数据应共用同一块物理空间,任意一个文件/NFS/SMB、HDFS、S3NFS/SMB、HDFSS3POSIX/MPI-IOHPC（High-performancecomputing）场景，POSIX/MPI-IONFS/SMB、HDFS、S3件；S3流量；HDFS，HDFS能力；NFS/SMBHDFS配额功能要求符合如下技术要求：额限制和统计；应支持用户对于自己的文件系统容量和文件数量的查询。多租户功能要求UnixWindows对象用户；射，实现多租户的互联互通。服务质量控制功能要求OPS（个/S）和带宽（MB/S）QoS，QoS分级存储功能要求宜支持分级到蓝光存储等归档冷存储，支持通过任意协议从多协议融合互通分布式存储访问归档冷存储，支持蓝光存储直接访问。快照功能要求宜符合如下技术要求：a)一次快照，NFS/SMB/HDFSb)S3协议宜支持列举NFS/SMB/HDFS协议产生的快照文件，访问快照数据远程复制功能要求宜支持跨区域的远程复制功能，任何协议数据都可被复制，且复制后任意可以可访问。数据加密要求任意一个加密文件应支持被NFS/SMB、HDFS、S3等协议同时读写。回收站功能要求支持所有协议共享回收站，回收站中的数据任意一种协议都可以访问。六、运维管理（一）配置管理要求符合如下技术要求：a)应支持图形管理界面，提供管理员配置存储系统所需的图形化流程；b)应支持存储池配置、NameSpace配置、访问接口配置、权限配置等。（二）系统监控要求符合如下技术要求：a)b)应支持性能监控，如带宽、IOPS；c)应支持告警筛选，邮件告警通知，告警导出；d)应支持日志记录和日志导出。（三）在线升级要求应支持分布式存储系统软件、硬件驱动在线升级和补丁。七、可靠性（一）数据冗余要求符合如下技术要求：应支持数据纠删码方式保护，支持+2、+2:1EC2应支持数据中心级故障防护，保证故障一个数据中心，数据不丢失；宜支持+3、+3:1、+4、+4:1EC4故障，业务不中断，数据不丢失；22+220+4EC，用率降低成本。（二）故障修复要求符合如下技术要求：a)b)DIF。（三）硬盘误插拔修复要求10有效，不会启动数据重构。（四）亚健康检测要求符合如下技术要求：应支持慢盘检测和告警，存储系统自动隔离慢盘；b)隔离该节点。八、兼容性（一）管理平台兼容性要求应支持通过Rest接口对接管理平台。（二）NAS版本兼容性a)NFSV3,V4SMBSMB2.0/2.1/3.0MPIOpenMPI、MPICH、HyperMPI。（三）对象版本兼容性符合如下技术要求：AWSS3V2/V4RESTAPI.JAVA、Python、C,.NET、iOS、Android、GOSDK。（四）大数据平台兼容性要求符合如下技术要求：ClouderaCDH、HortonworksHDPHuaweiFusionInsight、TranswarpTDH；用存储资源。九、性能（一）基础级1．业务性能多协议融合互通的每种访问协议性能考察指标如下：NFS/SMBOPSNFS/SMBS3TPSS3HDFSHbase2．数据重构要求符合如下技术要求：a)应能在硬盘故障后，自动开始数据重构，不需要人工干预；b)数据重构速度应大于2TB/H的；c)数据重构对业务性能影响应小于20%。（二）增强级多协议融合互通的跨协议性能考察，大文件和小文件通过某种协议写入，通过另外一种协议读出情况的性能呈现，具体指标如下：NFS/SMBS3和平均响应时间；S3NFSops均响应时间；NFS/SMBHDFSopsHDFSNFSops平均响应时间；S3HDFSops均响应时间；HDFSS3ops均响应时间。十、安全（一）管理员安全要求符合如下技术要求：a)应支持系统管理员、普通用户等多级管理权限控制；b)应支持强密码复杂度策略；应支持用户登录锁定机制，以便防止暴力破解；密码采取安全的加密算法加密存储和传输。（二）业务安全要求基础级符合如下技术要求：应具备本地安全认证和第三方安全认证（NIS、AD或LDAP）；b)Kerberos，LDAP增强级NFS、SMB、S3、HDFS息互通。（三）数据加密符合如下技术要求：a)应支持对租户、NameSpace应支持秘钥备份、恢复和秘钥申请、更新、销毁功能；c)十一、硬件（一）处理器要求符合如下技术要求：a)应支持x86