ibm闪存宝典-ibm闪存产品技术_第1页
ibm闪存宝典-ibm闪存产品技术_第2页
ibm闪存宝典-ibm闪存产品技术_第3页
ibm闪存宝典-ibm闪存产品技术_第4页
ibm闪存宝典-ibm闪存产品技术_第5页
已阅读5页,还剩38页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

ibm闪存宝典-ibm最新闪存产品技术

ibm闪存宝典-ibm最新闪存产品技术

1.1IBMFlashSystem产品家族

IBM近曰推出了全新的闪存解决方案,旨在全方位满足企业在存储方面的需

求,其中涵

盖可扩展到混合多云存储部署的入门级和中高端系统。这些解决方案都基于一

个通用的存储

软件平台,该平台可跨越所有部署类型(包括裸机、虚拟化、容器和混合多云

等)无缝运行,

并为企业现有存储资产提供支持,不管这些存储是来自IBM,还是其他供应商。

不同的组织有不同的存储需求。即便是同一组织内的不同应用程序也可能有不

同的需求,

如在入又点、性能、可扩展性、数据服务、功能和可用性等方面。传统上,存

储供应商采用

独特的存储平台来满足这些不同需求。但这种独特性也会带来复杂性:

不同的管理和故障排除

不同的API和自动化

不同的上云路径,等等

尽管实现了不少创新,但随之复杂性和成本也几何式增长。

此外,许多用户部署了多个供应商的存储系统,这只会让情况变得更为复杂。

鉴于此,

在存储用户最关心的问题当中,存储成本、数据存放管理和优化以及数据迁移

位列前五,也就不足为奇了。这些问题会影响存储新技术的部署,限制灵活

性,影响应用程序和工作负载,

并增加成本。

IBM正在采取一种截然不同的方法,从根本上简化IBMFlashSystem系列产

品。作为单一

平台,IBMFlashSystem系列旨在简化企业的存储基础设施,降低复杂性和成

本,同时持续

为企业级存储解决方案和混合多云环境提供广泛的创新:

一种实现非凡数据可用性的方法:所有价位产品均提供“99.9999%(六个

九)”可用性、

2站点和3站点复制、跨站点高可用性配置,以及保证100%数据可用性的选

项。静态数据加

密加上磁带和云端“气垫”拷贝、恶意软件检测,以及应用感知快照,可为企

业提供可靠的网

络弹性解决方案。

屡获殊荣的软件基础:IBMSpectrumVirtualize提供从入门级到高端企业本

地部署在内的

企业级数据服务,以及面向混合多云的一致功能。IBMSpectrumVirtualize—

方面可以通过为

现有存储提供上述服务和不中断的数据传输能力,为简化存储奠定基础,同时

也通过使所有

受支持的存储实现云和容器部署,为转换提供支持。

实现自动化的统一API:可在本地和云中交付,并支持所有部署方法,包括裸

机、虚拟

化、容器化和混合多云等。

基于云且将AI注入其中的管理、存储分析和集成式主动支持:IBMStorage

Insights可提

供化繁为简的异构存储管理功能。IBM存储、所选的非IBM存储,以及由IBM

Spectrum

VirtualizeforPublicCloud管理的云存储,均可通过同一控制面板进行管

理。基于AI的分析提

供了有关最佳实践建议的见解。对于其中的IBM存储,IBMStorageInsights

可提供简化的支

持访问,以帮助企业更快地解决问题。除了实现上述所有功能,全新的IBM

FlashSystem系

列还能支持跨裸机、虚拟化、容器化和混合云环境的部署。

技术创新

IBMFlashCoreModules(FCM)可在不损失性能的情况下,提供数据压缩和经

FIPS

140-2认证的静态数据加密功能。

对于数据中心和云配置而言,存储空间至关重要。为此,IBM推出了一款新型

FlashCore

Module,其可用容量达38.4TB,是此前最大模块容量的两倍。借助全新的

FlashCoreModule,IBMFlashSystem可以在仅2U的机架空间中支持最高4PB

的数据,从而实现极高的存储密度和效率。FlashSystem9100、Storwize

V5100和V7000Gen3等IBM闪存阵列

也可以升级使用新的FlashCoreModuleo

存储级内存

为了使性能敏感但缓存友好性欠佳的工作负载实现超低延迟,IBM还引入了英

特尔和三

星的存储级内存(StorageClassMemory,SCM)驱动器,作为IBM

FlashSystem系列产品的

持久存储层。与新型FlashCoreModules一样,SCM驱动器也可以供

FlashSystem9100、

StorwizeV5100和V7000Gen3等前代IBM闪存阵列作升级。

轻松管理

借助存储级内存(SCM)、全闪存和混合配置等灵活的驱动器选项,IBM

FlashSystem

系列产品可以帮助企业实现成本和性能之间的最佳平衡。通过IBMSpectrum

Virtualize软件基

础,IBMFlashSystem可以集成来自500多个其他异构存储系统的存储。

为了帮助企业优化系统性能并提高成本效益,IBMFlashSystem还可运用由AI

驱动的

IBMEasyTier功能,在正确的时间将正确的数据放置于正确的存储层上。系统

会自动将最热

的数据块向上移动,同时将较冷的数据块向下移动,使用户一目了然。企业在

完成设置之后

即可高枕无忧。有了EasyTier,企业可以使用少量最高性能的存储层和大量较

为经济的存储

层配置存储环境。

IBMStorageInsights可通过IBMCloud提供监控、基于AI的告警、报告和

支持功能。对

于由IBMSpectrumVirtualizeforPublicCloud和EMCUnityandUnity

XT、NetAppFASand

AFF以及HitachiVSPG等管理的云存储,StorageInsightsPro可以通过支

持单个云存储管理面

板,进一步简化存储流程。

创新型存储系统

全新IBMFlashSystem系列产品基于屡获殊荣的IBMSpectrumVirtualize软

件而构建,并

将IBMStorageInsights囊括其中。该系列产品新增了四个全新的企业级系

统,可提供IBM

FlashCoreModules,存储级内存和IBMSpectrumVirtualize的企业级数据服

务等优势,同时能

够无缝衔接和管理混合多云部署环境中的数据。

IBMFlashSystem7200:专为中型企业部署设计,在一个系统里提供端到端

NVMe和恬1

级的企业级混合多云功能。FlashSystem7200既可通过扩展机柜向上扩展,又

可通过最多4路

集群实现横向扩展。与StorwizeV7000Gen3相比,FlashSystem7200性能提

局了43%;最高可

实现9.2M的IOPS;吞吐量提高了55%,最高可达128GB/S3。

IBMFlashSystem9200:专为满足最严苛的企业需求而设计的系统中的端到端

NVMeo

FlashSystem9200可提供全面的存储功能和最高的性能水平,与FlashSystem

9100相比,其性

能提高了20%,每4路集群的最大I0PS为18MI0PS,最大吞吐量可达到

180GB/so此外,

FlashSystem7200和9200的延迟仅为70us0

IBMFlashSystem9200R:专为需要由IBM构建和检测,且在交付和装配时完全

由IBM

完成安装和配置完整存储系统的客户而设计。该系统包括2到4个IBM

FlashSystem9200控制

机柜、用于集群互连的Brocade或Cisco交换机,以及用于扩容的可选配扩展

机柜。

在这些系统之外,FlashSystem系列还包含FlashSystem5010、5030和5100

等入门级企业

存储解决方案。除了全闪存FlashSystem9200和9200R之外,IBM

FlashSystem系列所有产品

均可提供全闪存和混合闪存两种版本。

在实现异构存储现代化方面,开创性的IBMSANVolumeController(SVC)可

提供超过

500种异构存储系统的虚拟存储整合,帮助企业实现简化操作、现代化和混合

云功能等。

SVC使用与IBMFlashSystem相同的IBMSpectrumVirtualize软件和平台,

但仅支持外部存储。

SVC有两款可供选择,其中一款可提供最多比上一代系统高出40%的I0PS;另

一款专为更着

重考虑价格的部署而设计,其性能略优于上一代系统,但价格更低。

这些IBMFlashSystem产品结合在一起,共同提供了一个企业级平台,可以在

所有部署

环境中均实现简洁性和一致性,不管是规模最小的入门级部署,规模最大的高

端企业部署,

还是混合多云部署。这些产品旨在满足跨服务器的工作需求,并可通过支持容

器存储接又

(ContainerStorageInterface,CSI)为使用红帽OpenShift、Kubernetes

和CRI-0的容器化部署

做好充分的准备。

借助IBMFlashSystem5100、7200、9200和9200R,IBM可提供跨部署环境的

端到端NVMe

存储,兼具IBMFlashCoreModules的效率与网络弹性优势,以及存储级内存

的超低延迟,而

所有这些功能均以IBMStorageInsights的管理和简化支持为基础。针对传统

数据中心的用户

可以继续使用IBMSpectrumControl软件得到相同功能和支持服务。

1.2统一的平台,丰富的选择

新的FlashSystem家族具有相同的软件基因,那么不同的存储型号都有哪些共

同点和区别

呢?

这里介绍一下不同型号所支持的功能:

从底层开始,SpectrumVirtualize为所有集成阵列提供了一个通用的操作环

境,家族中所

有的产品都具有其中的功能。同时IBMStorageInsights也包含在每个块存储

解决方案中,它

是一个SaaS的产品,运行于IBM公有云之上,FlashSystem产品的用户可以免

费使用,通过

连接到IBMStorageInsights,用户可以对整个存储基础架构进行监控,报告

性能,容量使用,

故障或是潜在问题的告警等,可以提供人工智能预测分析和主动监控能力。

上面一层,统一的功能支持,从FlashSystem5010到FlashSystem9200系列

的所有阵列都

具有这些特性。包括对混合多云支持,VMware和容器集成,多租户,3站点数

据复制,

Metro/GlobalMirror(包括上云),FlashCopy(本地快照),智能分层

EasyTier,数据迁移等功能。

这里要说明的是,除了高端企业FlashSystem9200系列是全闪存阵列外,其他

的型号是可以

选择全闪存,或混合阵列的,这为客户选型提供了最大的灵活性。

再往上一层,从FlashSystem5030开始,随着其配置能力的增强,我们加入了

更多的功

能:集群、加密、双活HyperSwap和数据缩减池(DRP)功能。DRP提供了数据

压缩和去重功能,为客户节省投资提供了最大的便利性,而且从FlashSystem

5100开始,DRP是在硬件上

辅助完成的,再数据缩减的同时,对性能也有了保障。

最高一层的三个型号,提供了最高的性能以及提供外部存储虚拟化的能力,同

时也提供

了基于NVMe的解决方案。尽管这些阵列可以使用行业标准的NVMe固态硬盘

(SSD),但预计

大多数客户将选择具有显著差异和竞争优势的IBMFlashCore模块(FCMSSD)0

如果需要极速

的性能,还可以配置存储级内存的SCMSSD,通常是用于与其他SSD做只能分

层。

从不同的层次可以看到,不论是从功能还是性能,我们都可以提供不同程度的

灵活而丰

富的选择,满足不同类型的应用和需求。

1.3IBM闪存解决方案的关键技术

IBM依赖多年来虚拟化和Flash技术的领导地位,将这两种技术进行了融合,

推出了新

一代的FlashSystem家族。这里我们可以看到IBM闪存解决方案的关键技术:

1.3.1FlashCore技术及FCM闪存盘

业界绝大多数的企业级存储厂商的全闪存

阵列使用的闪存盘都是从三星/东芝等供应商

提供的标准SSD磁盘,而IBM在FlashSystem产

品系列中还还提供了一种同样是2.5寸尺寸的

FCM闪存盘。FCM闪存盘使用了IBM划时代

超低延时闪存产品FlashSystem900中使用的技

术,在五年前的市场上推出这一产品时候,就达到惊人的110万I0PS,0.18毫

秒超低延时性

能指标,在市场上傲视群雄。FlashSystem900中的闪存模块与存储控制器都

是专用架构,非

标准化,而在新一代的FlashSystem中,我吸取了同样的技术,但是做成了标

准的2.5寸磁盘

通过与Flash供应商的紧密合作,IBM拥有监控所有Flash单元的API,从而

IBM可以不断

地检查所有Flash单元的健康状况,并应用了一种创新的纠错码(ECC)算法,这

种算法可

以纠正非常高的误码率,但不需要额外的读操作。

通过检测,了解哪些单元更健康,从而可以将更热的数据会自动放置在更健康

的数据块

中,这将提高57%的寿命。

通过监控和调度,将相同的热度的数据组合在一起,更新和删除在一起,可以

将写放大

减少45%o

通过检测,调整每个单元(cell)的充放电电压,进一步延长单元的寿命。

包括Flash模块内部对整个数据路径有强大的检查。

在原来的基础之上,又开发出硬件压缩功能,可以提供线速的压缩,即压缩是

在FCM闪

盘内部完成,不需要使用存储控制器的CPU和缓存资源,压缩过程中无性能损

耗。

硬件压缩可以减少写放大,因为写入的数据更少,但更重要的是,IBM的实现

的压缩,

没有性能损失,就是说一块闪盘可以当2块盘使用!IBM现状交付业界最高容

量的FCM

SSD:在标准的2.5寸盘上实现了存放76.8TB的数据!

FlashCore技术及FCMSSD为客户带来了许多好处,如:

Flash寿命得到了延长,

延迟不会随着时间而降低,

错误和停机时间显著减少,

压缩可以在不影响性能的情况下使容量增加一倍。

所有这些结果意味着客户可以不再担心他们的Flash,而是专注于他们的业务

目标。

1.3.2NMVe技术

在第一章里我们介绍了NVMe技术可以充分释放Flash的能力,而且通过NVMe-

oF使得在

不同的网络环境中,也可以利用NVMe阵列提供的巨大优势。IBM是最早在企业

级存储阵列

中全面支持端到端NVMe解决方案的厂家,一下列表我们可以看出在光纤网络、

InfiniBand网

络或是以太网络环境下,都有对应的成熟产品选择,为客户在不同业务场景和

基础设施环境

中进行系统的架构设计带来巨大的灵活性。

另外指的一提的是,目前IBM的B-type和C-type光纤交换机都是支持NVMe

协议的,只要升级到最新的微码即可。

大小,与其他工业标准组件相同,大大增强了其通用型,不过继承了原来F900

的有点。让我们看一下FCM—FlashCoreModule的不同之处:

1.3.3存储级内存SCM技术

我们知道闪存比机械磁盘速度快得多,但是从技术的进步角度看,如果进一步

提升性能,

我们可以看看Flash可以改进的地方,哪些环节会带来问题。闪存存在性能问

题和延迟的最

主要原因之一是,为了满足新的写入而不可避免的垃圾收集机制。数据写入到

闪存时,它无

法覆盖旧信息。它必须将一个新的数据块写入到别处,以后等磁盘I/O处于空

闲时删除旧的

数据。这就是闪存这种存储介质的行为方式,你总是需要在写入后进行清理才

能持续改遍、

写入。

存储级内存(SCM)这种RAM具有DRAM的速度,但它能够像FlashNAND闪存那

样断

电后可持久化保存其内容,未来它可能成为首选的高速存储介质。从性能上

看,FlashNAND

是90ms〜100ms,而SCM是9〜20ms。此外,由于能够覆盖文件,写入数据所花

的时间要短

得多,也不存在存储介质的不可预测性,因为没有后台在运行优化介质的进

程。

数据显示,SCM基准通常比最快的NVMe闪存SSD延迟更低,而且I0PS大约是后

者的2.5

到3倍。大型数据传输基准测试显示,性能提高了10倍之多。SCM比NAND闪存

更快,但仍

然很昂贵。对于许多IT业内人士来说,主要考虑因素可能在于性价比。在相同

容量下,SCM

的平均价格点一般比最快的NVMe闪存SSD还要高出4到5倍。但是仅仅依据性

价比来判断是

否采用它,这从某种程度上来说是不合理的。因为这个问题归根结底是业务应

用的问题,同

时还要考虑性能提升所带来的“线上预算”回报。

那么,SCM对哪些应用程序最有价值呢?那些需要低读写延迟和大量数据传输

的。数据

库和各种人工智能技术,包括机器学习、深度机器学习和神经网络,都需要非

常低的读写延

迟。数据仓库、大数据分析和高性能计算,更能够从更快的大量数据传输中获

益。

但是就算我们不能大量采用SCMSSD,我们还是可以利用智能分层的技术,利用

少量

的SCMSSD和相对廉价的SSD构建存储池,利用AI算法自动调度热点数据,达

到事半功倍的效果。

1.3.4自自动分层(EasyTier)

EasyTier是IBM的数据自动分层存储技术,它是专为优化分布于多层级存储

池中的数据

访问性能而存在的功能。IBM是最早提出自动分层这一概念的存储厂商。Easy

Tier可以确保

将频繁访问的数据放置到速度更快的存储器上,从而大幅提高系统性能。其功

能包括手动

配置容量重新均衡、单层和多层池中的自动性能重新均衡、热点管理、列组释

放、手动卷迁

移以及自动精简配置支持。EasyTier可以根据数据访问需求来确定适当的存

储层,然后以自

动且不中断运行的方式将子卷或子LUN层上的数据移至存储系统的相应层中。

使用EasyTier可通过其自动性能监视算法,将数据动态地移至存储系统中的

相应驱动

器层。可以使用该功能部件来提高闪存驱动器的效率以及存储系统中所有层的

效率。该系统

会自动和非中断地将频繁访问的数据从较慢的存储磁盘上移动到基于更快的存

储磁盘卷上,

从而将这些数据放置在更快的存储层中。并且可以自动把最不经常用的数据逐

渐迁移到下一

层级的存储大容量硬盘上。这种动态分层的环境中,无论数据属于哪个存储

层,数据移动对

主机应用程序都是无缝的。

IBMEasyTier支持以下这些层:

①StorageClassMemory(存储级内存存储器)

当存储池包含SCM驱动器时,存储级内存层就会存在。将SCM用作数据缓存,

可以提

高当前闪存设备技术的持久性和速度。

①Tier0Flash(0级闪存)

当池包含高性能闪存驱动器时,存在0层闪存层。0级闪存驱动器是成本较高

的闪存驱

动器,为读写操作提供高性能。例如IBM的NVMEFCM类型的闪存盘。

②Tier1Flash(1级闪存)

当池包含第1层闪存驱动器时,第1层闪存层存在。1级闪存驱动器是低成本

的闪存驱动

器,具有较大的容量,但稍低的性能和写耐力的特点。

例如SAS接又闪存盘或NVME接又的3DTLC闪存盘等

③Tier2EnterpriseTier(2级企业级)

当池包含企业级磁盘类型时存在企业级,企业级磁盘是为性能而优化的机械磁

盘驱动

器。例如我们常见10000转或15000转的HDD磁盘。

④Tier3NearlineTier(3级近线层)

当池包含近线类存储设备磁盘时,就会存在近线层,近线存储磁盘是为容量而

优化的磁

盘驱动器。例如:7200转的SATA/NL-SAS磁盘。

如果存储池包含一种类型的磁盘,EasyTier进入balancing模式,数据会在同

一层级的磁

盘之间进行自动均衡分布。当存储池包含多种类型的磁盘时,EasyTier自动

打开启用,数据

会在不同层级的磁盘之间进行数据自动分层分布。Flashsystem自动分层支持手

工和自动两种

模式,可以随时在线切换。

下图显示了四个用户层的池配置的可能组合。这些磁盘是通过IBMSpectrum

Virtualize管理的磁盘。

1.3.5透明云分层(TCT)

透明云分层(TransparentCloudTiering)是一种将企业存储系统连接到公有

云或云存储的

技术,管理员可以在系统上创建数据的实时快照,然后复制并存储在云存储中

进行备份,活

着可以将旧数据转移到云存储中,以释放系统上的容量。外部云服务提供商管

理云存储,这

降低了系统的存储成本。

云卷是支持透明云分层的任何卷。在卷上启用透明云分层之后,可以创建时间

点副本或

快照,并将其复制到云服务提供商提供的云存储中。为了进行灾难恢复,可以

将这些快照恢

复到系统中。在创建云卷之前,必须配置到受支持的云服务提供者的有效连

接。

云帐户定义了系统和受支持的云服务提供商之间的连接,在将数据传输到云存

储或从云

存储恢复数据之前,必须对其进行配置。在使用云服务提供商配置了云帐户之

后,您将确定

要创建哪些卷的云快照,并在这些卷上启用透明的云分层。

云帐户是系统上的一个对象,它通过使用一组特定的凭据来表示到云服务提供

者的连接。

这些凭据的不同取决于指定的云服务提供者的类型。大多数云服务提供者需要

云服务提供者

的主机名和相关的密码,一些云服务提供者还需要证书来对云存储的用户进行

身份验证。公

共云使用由知名证书颁发机构签署的证书。

私有云服务提供者可以使用自签名证书,也可以使用由受信任的证书颁发机构

签名的证

书。这些凭据在云服务提供者上定义,并通过云服务提供者的管理员传递到系

统。

云帐户定义系统是否可以通过使用帐户凭据与云服务提供者成功通信并进行身

份验证。

如果系统通过了身份验证,那么它就可以访问云存储,将数据复制到云存储,

或者将复制到

云存储的数据恢复到系统。系统支持一个云帐户到一个云服务提供商。不支持

在提供者之间

迁移。

透明云分层(TCT)支持IBMCloud、OpenStackSwift和AmazonS3云服务提供

商,以及

IBMCOS云对象存储。

启动了透明云分层(TCT)的卷后,我们可以:

•恢复到生产卷

快照版本将恢复到生产卷,即创建快照的原始卷。恢复操作完成后,快照版本

将完全替

换生产卷上存在的当前数据。在恢复操作期间,生产卷离线,直到完成为止。

如果不希望生

产卷离线进行恢复,可以将云快照恢复到新卷。生产数量保持在线,主机操作

没有中断。

«还原到新卷

当快照版本恢复到新卷时,可以独立于创建快照的原始卷使用恢复的数据。如

果系统上

存在新卷,则还原操作将使用的唯一标识符(UID)新卷。

如果系统上不存在新的卷,则需要选择是使用原始卷中的UID,还是创建一个

新的

UIDO如果您计划在同一系统上使用新卷,请使用与正在恢复的快照版本相关联

的UID。

1.3.6分布式RAID

使用传统的RAID(TRAID),从单个磁盘或多个磁盘读取数据并写入单个热备磁

盘,受

限于单一备用磁盘的性能,重新构建时间很长。此外,在平常无磁盘故障时,

热备磁盘不被使用时,也浪费了资源。

这里是一个传统RAID6的例子:

每条条带由数据带(在本例中由DI、D2和D3表示)和两条奇偶校验带(P和Q)组

成。RAID

存储池在正常工作时,只有5个磁盘工作,2个热备磁盘是闲置的。

两个奇偶校验条带意味着能够处理两个同时发生的磁盘故障,但是会导致额外

的I/O来

计算奇偶校验,这会影响到随机写工作负载的性能。

在FlashSystem中,我们现在推荐使用的是分布式RAID6,即:使用分布式

RAID

(DRAID),将所有的磁盘都加入到RAID组中,没有了热备磁盘的概念,而是热

备磁盘的空间

加入到整体RAID池中,形成热备空间。在单一磁盘故障时,重构是将故障磁盘

中的数据复

制到热备空间中去,而热备空间是分布在所有的磁盘上的,所以所有的磁盘均

参与重构,单

一磁盘的瓶颈被消除,重构的速度被大大加快,比起传统RAID,重构速度提升

5到10倍(与

当时系统负载压力有关)。在无磁盘故障时,由于没有“空闲”磁盘,所有磁

盘都贡献了能

力,RAID组的整体性能也得到了提升。

1.3.7数据缩减池(DRP)

IBMFlashSystem阵列支持压缩和去重功能,它是利用了创新的数据缩减池

(DRP)来实现

的,DRP结合了重复数据删除和硬件加速压缩技术,加

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论