




版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
FusionStorage分布式存储
解决方案介绍FusionStorage分布式存储
解决方案介绍ContentFusionStorage分布式存储系统23FusionStorage核心价值存储领域的技术现状与发展趋势14FusionStorage应用案例ContentFusionStorage分布式存储系统23F业务驱动的云基础设施云计算SDS统一的数据面SDN融合IP网络业务驱动业界趋势:分布式、软件定义与大规模池化FCIBMApp1IBMApp2高端存储高端存储IPX86AppX中低端存储中低端存储X86AppY…传统数据中心融合IP网络(物理+虚拟)X86/ARM硬件池计算池存储池业务驱动的基础设施基于SLA控制平面负载计算存储网络VMVMVMPMPMVMVMVMPMPMApp1App2App3App4软件定义云数据中心大规模扩展、资源大范围共享、业务敏捷、自动化和SLA的保障都不再绑定和依赖于硬件业务驱动的云基础设施云计算SDSSDN业务驱动业界趋势:分布互联网巨擘:均采用分布式存储的大规模池化技术GoogleGFS,MapReduce,BigQueryAMAZONS3,Dynamo,EBSFaceBookMySQL,MemeCachedTaskQueuesAPPGoogleComputeEngineAPIGoogleBigQueryMapReducePipelineGoogleInfrastructureLoadBalancingacrossAppEngineInstancesAutoScalingStaticcontentservingandcachingDosprotectionMonitoringandManagementGoogleCloudStorageGoogleCloudDatastoreMemcacheAPPSchedutedTasksAPPPayment:
FPS/DevpaySimpleDBSANSQSRDSMapReduceAuto-ScalingELBCloudwatchEC2InstancesVPCEBSS3SnapshotsCloudFront亚马逊物理基础设施LAMPLoadBalancerWebServer(PHP)MySQL(Slow,persistent)Memcached(fastsimple)+ServicesService(fastcomplicated)互联网巨擘:均采用分布式存储的大规模池化技术Google传统厂商:已经开发出分布式软件定义存储的产品EMCScaleIOHPVSA/storage/scaleio/index.htm/us/en/products/data-storage/storevirtual-vsa.html传统厂商:已经开发出分布式软件定义存储的产品EMCScal分布式存储的市场和需求现在/wiki/v/The_Rise_of_Server_SAN分布式存储的市场和需求现在http://wikibon.orContentFusionStorage分布式存储系统23FusionStorage核心价值存储领域的技术现状与发展趋势14FusionStorage应用案例ContentFusionStorage分布式存储系统23FFusionStorage分布式存储解决方案总体架构图
支持多种虚拟化平台(FusionSphere/VMware)FusionStorage分布式存储资源池应用层虚拟化层数据库物理部署HANAFusionStorage分布式存储解决方案总体架构图
支持FusionStorage分布式存储硬件形态FusionStorage在通用x86服务器上部署分布式存储软件,把所有服务器的本地硬盘组织成一个虚拟存储资源池,提供块存储接口典型硬件1:机架式服务器典型硬件2:刀片式服务器Server1Server2ServerNVMVMVMVMVMVMFusionStorage分布式存储资源池HDDSSDHDDSSDHDDSSD...FusionStorage分布式存储硬件形态FusionSt通用X86服务器硬件要求凡是满足上述硬件要求的X86服务器,都满足了作为FusionStorage存储节点的基本要求。但是还是经过FusionStorage认证,经过认证后就可以作为正式商用硬件形态。
组件规格物理形态
机架服务器或刀片服务器,X86架构处理器Intel®XeonE5-2600/4600系列处理器,Intel®XeonE7-4800/8800系列处理器
内存按照每TB硬盘1GB内存,推荐》64G内存存储1、存储节点至少部署3个,配置RAID卡,支持RAID0/1,每台存储节点至少预留2块本地硬盘用于安装OS
2、如果管理节点与存储节点器合部,分布式资源池至少15个2.5/3.5英寸SAS/SATA/SSD硬盘,其中:至少12个硬盘用于资源池数据盘,至少3个硬盘用于部署ZK盘如果管理节点与存储节点器分离部署,分布式资源池至少12个2.5/3.5英寸SAS/SATA/SSD硬盘,其中:至少12个硬盘用于资源池数据盘,ZK盘采用分区的方式部署,与本地OS盘共用网络接口每存储服务器用于FusionStorage存储平面带宽不低于4Gb,例如4×1Gb或者2×10Gb
Cache至少有一个SSD卡或SSD盘作为写cache通用X86服务器硬件要求凡是满足上述硬件要求的X86服务器,FusionStorage关键规格和特性软件特性:块存储功能,SCSI、iSCSI接口;RAID10,3份拷贝,…;存储快照;存储瘦分配;存储链接克隆;存储SSDCache和存储自动分级;数据备份部分关键规格:指标名称指标值单个资源池最大存储节点数256单个资源池最大硬盘数12~96块硬盘(2份拷贝)12~2000块硬盘(3份拷贝)最大单卷容量256TB每TB数据恢复时间30分钟数据冗余模式2副本、3副本单个资源池最大逻辑卷数量65000个单卷链接克隆比例256FusionStorage关键规格和特性软件特性:部分关键规FusionStorage支持的介质、网络和Cache类型FusionStorage软件本身可以支持多样的主存介质、cache介质、网络类型硬件。类别规格说明存储介质SATA:使用在大容量场景NL-SAS:使用在大容量场景SAS:使用在性能相对较高的场景SSD卡:使用在高性能场景SSD盘:使用在高性能场景
存储网络EthernetInfinibandcache介质类型NVDIMM:
使用在对时延要求极其敏感的场景,比如OLTPSSD卡:
作为writebackcache,使用在对时延要求较低的场景,比如虚拟化、一般应用SSD盘:
作为writebackcache,使用在对时延要求较低的场景,比如虚拟化、一般应用DRAM内存:
作为writebackcache,当整个集群全局掉电的时候(如数据中心掉电),在内存中的cache数据丢失,从而导致系统数据丢失,所以建议仅用在测试环境中;Nocache(cache关闭模式):系统变成了writethrough模式,性能会变得比较差
FusionStorage支持的介质、网络和Cache类型FFusionStorage分布式存储软件兼容性说明:以上信息仅供参考,具体请以版本正式发布的“兼容性列表”为准。
部署方式兼容性说明物理化部署RedHatEnterpriseLinux6.2/6.4SUSELinuxEnterpriseServer11SP3OracleEnterpriseLinux6.2虚拟化部署HuaweiFusionSphere3.X/5.XVmware5.XRHEL6.XKVM
FusionStorage分布式存储软件兼容性说明:部署方式FusionStorage分布式存储软件总体架构SAS/SATAX86CPU硬件设备层存储引擎层集群状态控制数据一致性管理存储服务层备份分布式Cache分布式链接克隆存储
驱动层SCSI驱动/iSCSI数据路由管理并行数据重建集群故障自愈分布式快照分布式精简配置容灾10GE/InfiniBandE9000计算、存储融合刀片式服务器PCI-ESSD卡卷管理QOS管理统一告警系统监控升级/补丁配置管理北向接口管理平台容量管理日志管理FusionStorage分布式存储软件总体架构SAS/SAFusionStorage分布式存储软件逻辑架构图MDCMDCMDCP1P2’P3’P1’P2P3’’P1’’P2’’P3PAXOS状态视图控制无状态接口层SCSI状态视图状态视图iSCSI…数据层clientclientclientclientOSD1节点OSD2节点OSD3节点VBS:虚拟块存储系统MDC:元数据控制组件PAXOS:一种分布式一致性算法OSD:带硬盘的存储节点Partition:分区数据流VMOracleVM…VBSOSDFusionStorage分布式存储软件逻辑架构图MDCMDFusionStorage软件模块部署图
模块功能FusionStorageManagerFusionStorage管理模块,提供告警、监控、日志、配置等操作维护功能,主备节点部署。FusionStorageAgent代理进程,部署在各节点(服务器)上,实现各节点与FusionStorageManager通信。MDC元数据控制组件,实现对分布式集群的状态控制,以及控制数据分布式规则、数据重建规则等。MDC部署在3个节点上,形成MDC集群。VBS虚拟块存储管理组件,负责卷元数据的管理,提供分布式集群接入点服务,使计算资源能够通过VBS访问分布式存储资源。每个服务器上部署一个VBS进程,形成VBS集群。OSD对象存储设备,执行具体的I/O操作。在每个服务器上部署多个OSD进程,一块磁盘对应部署一个OSD进程。FusionStorage软件模块部署图
模块功能FusioFusionStorage在XEN/KVM下的部署(融合)XEN部署KVM部署FusionStorage在XEN/KVM下的部署(融合)XFusionStorage在XEN/KVM下的部署(分离)XEN部署KVM部署FusionStorage在XEN/KVM下的部署(分离)XFusionStorage在VMware下的部署融合部署分离部署已经通过VMware的官方认证:/resources/compatibility/detail.php?deviceCategory=san&productid=37874&vcl=trueFusionStorage在VMware下的部署融合部署分离FusionStorage基本原理---DHT寻址与水平扩展技术DHT(DistributedHashTable)DHT环:232超大虚拟节点构成的环形空间Partition:将DHT环空间划分为N等份,每一等份是一个分区物理节点:即一个DISK,与Partition分区对应Key-Value:底层磁盘上的数据组织成Key-Value的形式,每个Value代表一个块P1P2P3P4P5P6Pn…分区物理节点DHT数据逻辑地址数据逻辑地址数据逻辑地址数据逻辑地址…数据逻辑地址Key1Key2Key3Key4…KeynHash寻址映射物理空间优点:均衡性:数据能够尽可能分布到所有的节点中,这样可以使得所有节点负载均衡。新加入节点只需要搬移很少部分数据分片即可达到负载均衡。数据可靠性高:可灵活配置的分区分配算法,避免2个副本位于同一个Disk、同一块板、同一个机柜Disk1Disk2DisknValue1Value2Value3Value4…Valuen合成FusionStorage基本原理---DHT寻址与水平FusionStorage基本原理---卷映射资源池:类似于SAN的RAID组概念,与RAID相比,其优点是:大资源池:最大96块盘(2份拷贝),提升超大存储空间,避免高IO应用导致热点瓶颈动态热备:所有硬盘都可用作资源池的热备盘简单结构:资源池、Volume二层结构,没有LUN结构,服务器直接看到Volume…DiskP1P2PyDiskDiskDiskDiskDiskVolume1Volume2Volume3P1P2Px资源池1Volume10Volume11Server1Server2Server3资源池2FusionStorage基本原理---卷映射资源池:高性能---DHT并行IO读写分布式存储架构(FusionStorage)及基于ETH/IB的点对点互联网络,不再有带宽瓶颈更多硬盘在扁平P2P架构下实现为同一App实例或VM提供并发读写服务,使得突发MBPS提升3-5倍以上;更大资源池,负载均衡,利用率更高VS.RAIDArrayApp1App2App3ApplicationsLUN内共享IOLUN内共享IOLUN内共享IO各节点利用率大资源池集群App1App2App3ApplicationsP2P集群级共享IO各节点利用率传统SAN外置存储FusionStorage分布式存储高性能---DHT并行IO读写分布式存储架构(FusionS高性能、低时延---支持Infiniband网络互联56GbpsFDRInfiniBand,超高速互联。支持RDMA(远程内存访问)跨节点数据高速传输标准成熟多级胖树组网,平滑容量扩容。近似无阻塞通信网络,数据交换无瓶颈ns级通信时延,计算存储信息及时传递无损网络QOS,数据传送无丢失主备端口多平面通信,冗余通信无忧超高速单链路速率对比InfiniBand极速互联高性能、低时延---支持Infiniband网络互联56Gb高性能、低时延---支持全SSD存储Instance1DatabaseInstance2Instancen…高IO:单柜240万IOPS低时延:读时延49us,写时延8us,仅为传统SAS盘的1/100~1/1000高吞吐:整柜带宽达108GB/sCacheSSDNod1Nod2Nod3CacheSSDCacheSSDPCIESSDSSDSSDInfiniBand分布式SSD存储系统,主要用于数据仓库一体机场景高性能、低时延---支持全SSD存储Instance1Da高可靠---多重数据安全保障机制多副本备份:根据安全级别可灵活配置1副本(相当于RAID10)或多副本(3副本情况下,数据可用性达到7个9)PCI-ESSDCache技术:读写速度快,掉电数据不丢失强一致性复制协议:应用程序写入一份数据时,如果成功,后端的一份或多份副本必然一致,再次读时,无论从哪个副本都可读到正确的数据CacheSSDNod1Nod2Nod3CacheSSDCacheSSDPCIESSDSSDSSDInfiniBand多重数据安全保障机制,确保数据安全可靠高可靠---多重数据安全保障机制多副本备份:根据安全级别可灵高性能增量快照技术优点快照不会引起原卷性能下降:快照数据仍然基于DHT机制,快速索引无限次快照:快照元数据分布式存储,水平扩展,无集中式瓶颈,理论上可支持无限次快照。卷恢复速度快:无需数据搬迁,从快照恢复卷1S内完成(传统SAN在几小时级别)虚拟卷读写重定向快照1Delta磁盘快照1快照2快照3快照2Delta磁盘快照3Delta磁盘读写重定向读写重定向高性能增量快照技术优点虚拟卷读写重定向快照1Delta磁盘基于快照的高性能链接克隆克隆卷性能无损失:克隆卷基于快照技术创建,基于DHT机制,快速索引;超高性能的母卷访问:母卷缓存到内存中,性能提升3-5倍;且分布式存储,不会造成集中式瓶颈。克隆卷继承普通卷所有功能:克隆卷可支持创建快照、从快照恢复以及再次作为母卷进行克隆操作。母卷A克隆卷B/母卷B克隆卷A快照C1快照C2克隆卷C克隆卷B1克隆卷B2克隆卷创建快照克隆卷作为母卷克隆卷基于快照的高性能链接克隆克隆卷性能无损失:克隆卷基于快照技术无性能下降智能精简配置ThinProvisioning采用分布式Hash技术(DHT环),天然支持分布式自动精简配置(ThinProvisioning),无需预先分配空间精简配置(ThinProvisioning)无任何性能下降(SAN扩展空间时需要耗费额外的性能)…k1k2k3kxk1k2k3kyk1k2k3kzDiskDiskDiskDiskDiskDiskVolume_1Volume_2Volume_3…kxkxkxkykzkz无性能下降智能精简配置ThinProvisioning采用FusionStorage广泛的应用场景
业务系统数据库层操作系统系统硬件虚拟化层云平台数据库HANA桌面云资源池数据库SAPHANAFusionCube资源池化数据库HANA办公云化FusionStorage广泛的应用场景
业务系统数据库层操ContentFusionStorage分布式存储系统23FusionStorage核心价值存储领域的技术现状与发展趋势14FusionStorage应用案例ContentFusionStorage分布式存储系统23F拥抱世界级创新,从传统架构走向互联网架构VS.网络交换机光纤存储交换机传统存储阵列服务器小型机传统架构计算存储计算计算计算存储存储存储互联网为代表的全新架构传统数据中心云数据中心ControllerControllerControllerControllerControllerCacheControllerCacheControllerCacheControllerCache分层架构,多处收敛无阻塞P2P访问,无性能瓶颈无阻塞交换拥抱世界级创新,从传统架构走向互联网架构VS.网络交换机光纤分布式设计做到真正意义上的水平扩展P2P对等分布式设计P00P01P02P03P04P05P06P07P08P09P10P95Pmn服务器性能容量20604080100120140分布式设计使性能与容量的增长随着服务器线性增长分布式设计做到真正意义上的水平扩展P2P对等P00P01P0统一的资源池获得更大范围的弹性调度存储资源池大范围调度,在线资源动态均衡,资源利用率高管理一个存储池,简单易用自动扩容,自动故障恢复,无需人工干预无需手动搬移业务,数据自动均衡,业务无中断资源冷热不均,SAN1已到瓶颈,SANn基本没有流量高维护成本,N套SAN需要N个管理人工扩容,扩容时全手动数据手动搬移需要中断业务,成本高VMVMVMVMVMVM计算资源池VMVMVMVMVMVMSAN1SAN2SANn…ABCDEFABCDEFA计算资源池统一的资源池获得更大范围的弹性调度存储资源池大范围调度,在线统一存储资源池提升机柜级可靠性机柜1存储池服务器1服务器1……机柜2服务器1服务器2…………机柜n服务器n服务器3……主副本备副本主副本备副本APP1APP2APPn机柜1SAN1……机柜2……机柜nAPP2APPn传统方式主副本备副本主副本备副本统一存储池方式服务器1服务器2服务器3服务器n故障业务无影响和故障自恢复故障业务中断并需手动恢复统一存储资源池提升机柜级可靠性机柜1存储池服务器1服务器1…并行、快速数据重建Disk1P1P2’Disk2Disk3Disk6Disk4Disk5Server1Server2Server3P3P4’P5P6’P7P8’P13P14’P15P16’P17P18’P19P20’P1’P3’P5’P7’P9P10P11P12P13’P15’P17’P19’P21P22P23P24P4’P8’P16’P20’P21P22P23P24P9P10P2’P6’P14’P18’P11P12数据分布可以跨服务器或跨机柜,不会因某个服务器、机柜故障导致数据不可访问数据分片在资源池内打散,硬盘故障后,可在全资源池范围内自动并行重建,仅重建实际数据,无需单独热备盘
重建1TB数据时间<30分钟(传统SAN重建1TB数据需要12小时),提升数据可靠性P9’P10’P11’P12’P2P6P14P18P21’P22’P23’P24’P4P8P16P20并行、快速数据重建Disk1P1P2’Disk2Disk3D统一的存储池化带来的性能和管理效率提升128台服务器5000虚拟机3PB存储云数据中心实例创建100Win2003VM多个SAN统一的存储池65X547s10h创建100LinuxVM启动100VM启动2,000VM10h41X2.2X2X60s10m870s27s5min3.3X73s22s拷贝小文件1.45X12.5s8.6s 拷贝大文件操作统一的存储池化带来的性能和管理效率提升128台服务器云数据中ContentFusionStorage分布式存储系统23FusionStorage核心价值存储领域的技术现状与发展趋势14FusionStorage应用案例ContentFusionStorage分布式存储系统23FFusionStorage全球参考案例
运营商教育金融&零售公共部门SpanishXanithospitalZimbabweRevenueAuthorityJeddahMunicipalityShanghaiMaritimeUniversity
SenegalE-government制造业AsiaPacificTelecomTelefonicaChinaTelecom
ChinaMobileHongKongInfocastSpanishExchangesCiticTrustItalianRetailBeijingJiaotongUniversityPekingUniversityTAWAZUNRABDANGermanyHeliparkHuaweiSpanishGAMOSAPLabsChinaFusionStorage全球参考案例运营商教FusionStorage是唯一通过测试的厂商(三家厂商参与测试)性能测试结果超过客户预期(3副本,SATA盘)每磁盘IOPS:793(SATA盘性能的5~10倍,SAS盘的3~5倍)时延:1.98ms~4ms(高端存储中载下时延3~6ms)有成熟的大规模资源池经验计算云:3PB,128台服务器,5000虚拟机可同时支持VmWare、FusionSphere等虚拟化平台浙江电信云资源池解决方案POC测试结果接入层汇聚接入存储资源池汇聚接入计算资源池FusionStorageVMwarePOC测试组网图(34台存储服务器,10台计算服务器)浙江电信选择FusionStorage建设存储资源池为什么选择FusionStorageFusionStorage是唯一通过测试的厂商(三家厂商参与公司计算云-单资源池5KVM10GE40GE组网说明:CE12808CE12808CE6824CE6824桌面云1KVM计算云3KVMFusionStorage分布式存储引擎部署业务VDI:1000用户CI:3000VM硬件规模机柜数:8柜服务器:128*RH2288H存储容量磁盘数量:1536*2TSATA裸容量:3PB有效容量:926T(PB级)可靠性:3副本/机柜级安全网络汇聚:2*CE12808接入:2*8CE6850核心价值用户性能整体提升30%单服务器最大有效容量为16T,满足业务发展业务发放速度提升16倍运维次数、难度降低1小时构建PB级存储公司计算云-单资源池5KVM10GE40GE组网说明:CE公司级的DW&BI平台,整合了公司所有交易活动所产生的数据;每月至少新增10TB的数据量,活跃用户数超过9000人;需要支撑3个业务集团、14个地区部、各级经营主体的管理决策;各类报告应用需要兼具灵活性与实时性;原有的小型机无法满足性能需求,数据库一体机扩容昂贵。业务挑战基于FusionStorage,灵活扩容数据仓库基础设施平台,最大一套2PB容量;基于分布式存储、PCIeSSD卡、Infiniband等多种软硬件结合的加速技术;解决方案扩容成本节省数千万元集成度更高、空间节省一半软件无需任何改动可平滑扩容支持未来BI业务需求客户收益FusionCube加速公司R&A项目数据仓库平台“信息时代的BI平台,犹如让一头大象能跳舞,他必须具有容量大,计算处理能力强,应用灵活多变等特点,传统的服务器、存储模式遭遇了性能上的瓶颈。FusionCube将存储、网络和计算融合在一起,良好的满足了BI业务未来的需求”----ERP首席技术专家,罗志勇公司级的DW&BI平台,整合了公司所有交易活动所产生的数据;FusionStorage帮助江苏移动CRM系统建设高性能数据库平台用户增长和新业务需求对CRM核心数据库性能和扩展性带来更大挑战需要高性能、可扩展、高性价比数据库平台支持未来业务的发展支持与现有CRM系统的良好兼容性和平滑迁移能力支持100TB级大数据分析及商务智能挖掘能力业务挑战采用分布式存储软件FusionStorage,利用高性能PCIE-SSD、InfiniBand网络,建设彻底打破网络及存储瓶颈数据分发中心,对周边系统开放数据读写分离,搭建高性能读库,降低主库负载支持经分、实时营销、报表等DW数据分析及决策支持型业务场景性解决方案客户收益江苏移动CRM系统支持6000多万用户业务,随着客户数的不断增加和新业务功能的不断上线,CRM数据库的负载不断上升。原有小机系统虽经升级到满配配置,但依然不能满足性能及业务稳定性需求,对CRM系统运行和用户满意度产生了极大的影响。选择FusionCube数据库一体机建设数据库分发中心,快速、低成本地成功解决原系统所面临的难题。主库负载降低50%,稳定性大大提高,不需要追加投资实时营销、实时经分等新业务上线速度提升100%数据分发中心提供灵活扩展能力,提升业务性能的同时降低升级与运营成本未来主库将逐步切换到FusionCube上FusionStorage帮助江苏移动CRM系统建设高性能数携手沃达丰打造分布式数据中心28个数据中心每个数据中心10个AZ每个AZ512台服务器私有云数据中心AZ1AZ2AZn私有云数据中心AZ1AZ2AZn私有云数据中心AZ1AZ2AZn本地云服务(EC2/S3/DBaaS/BigData/…)门户&全球云服务(认证授权/计费/工作流/数据分析/…)本地云服务本地云服务公有云应用类似Dropbox的对象服务各种WEB应用大数据分析应用网络虚拟化应用云IMS云EPC增值业务企业IT应用
企业协作类应用企业内容管理类应用IT服务管理类应用公有云分布式数据中心系统架构网络存储计算
FusionSphereOpenstackKVMFusionStorageEVSThird-PartyorHuaweiServervRouterNovaCinderNeutronGlanceKeyStoneCeilometerHeat对象存储(HUAWEIUDS)LBaaSMeterAgentvDHCPLB本地数据中心基础设施系统架构分布式数据中心总体规划1个AZ,openstack架构512台服务器FusionStorage代替Ceph项目第一期概要FusionStorage为EBS加速IOPS平均提升4倍,最大提升11倍IO时延从>15ms减少到1ms携手沃达丰打造分布式数据中心28个数据中心私有云数据中心AZFusionStorage助力深圳海关加速大数据分析海关原系统部署图(新旧系统对比)SZZFJDDB2HPDL580G5SZDWMANDB1HPDL980G7SZDWMANDB2HPDL980G7SZFXAPP0HP580G5SZFXDB8HP580G5EMCCX4-120HPEVA8100EMCCX4-240HPDL580G5+DL580G7VMwareOtherVMGEFC原业务系统部署,共7台服务器,3台FCSANFusionCube部署:12U机框8刀片内置10GE/IB网络+SSD卡测试项小机+高端存储FusionCube提升度执法监督每日数据处理6:00:022:39:00
228%Web页面综合报表(秒)477107445%动仓全量作业43:00:0017:42:00243%复杂SQL1(秒)608750%复杂SQL2(秒)960812000%复杂SQL3(秒)4310430%Web页面联系单处理(秒)6051200%最大提升120倍!深圳海关性能结果(新旧系统对比)前台Web响应缓慢,页面打开超时或分钟级后台DB全量作业慢,执行时间6~43小时单条复杂SQL执行时间长,影响短分析业务体验资源利用率低(平均CPU占用率<10%)业务挑战数据库(SQLSERVER)部署到FusionSphere虚拟化平台采用分布式存储FusionStorage、PCIeSSD卡、Infiniband等多种软硬件结合的加速技术;解决方案(数据库部署到高性能虚拟化平台)空间节省1/4功耗节省36%性能最大提升120倍采用P2V/V2V工具平滑迁移客户收益FusionStorage助力深圳海关加速大数据分析海关原系机房空间与供电存在较大瓶颈多种应用(100+),多厂家硬件(IBM、HP、CISCO),IT运维管理复杂核心业务的机器在性能、数据存储、带宽、扩展、可靠性等难以满足要求业务挑战FusionStorage助力中信信托转型互联网金融将业务所需资源统一池化、按业务负载灵活调度、提升资源利用率融合计算、存储、网络、虚拟化于一体采用FusionStorage,同时为虚拟化平台、数据库平台提供存储服务解决方案为中信信托节省了约20%初始投资,75%机房空间,67%的能源消耗节省运维成本达30%新业务上线时间缩短80%客户收益“这正是我理想中的IT平台”--中信信托CIO、原证监会信息中心技术处处长初壮意对FusionCube如此评价。中信欲打造一个全新的IT系统,基于云架构,用以支撑和牵引业务的发展。中信信托是中国资产管理规模最大的信托公司。截至2012年年底,中信信托资产管理规模已突破6000亿元,连续五年保持行业第一。机房空间与供电存在较大瓶颈业务挑战FusionStorage汇港资讯是香港知名金融信息服务供应商,拥有全港超过百分之四十的零售证券投资市场客户。为香港10+银行和300+证券行提供实时证券交易数据发布和交易系统,要求实现实时对接港交所系统。金融证券交易,要求系统运行可靠。系统在港交所机房部署,要求集成度高节省空间、易管理运维;业务挑战高效软件存储消除IO瓶颈,带来极高性能提升,解决大并发与实时交易问题;采用全冗余架构,无源背板,并利用云计算保障高可靠性;计算、存储、网络融合架构的云平台,节省空间,统一界面,简化管理。解决方案超高性能确保了业务系统支持3000并发和高速查询;云平台的高可靠性满足港交所数据中心“0故障要求”;节省空间,硬件资源利用率提升4倍;简化管理节省OPEX30%。客户收益FusionStorage:汇港资讯高效证券交易数据发布云平台建设“我们看重FusionCube:统一管理、软件定义存储、融合高密的设计。来自的专业建议给我们很大支持,研发与服务的快速响应,让我们印象深刻。目前是InfocastICT领域战略合作伙伴,我们已经推荐产品给我们的朋友。”
------汇港资讯(Infocast)汇港资讯是香港知名金融信息服务供应商,拥有全港超过百分之四十来自不同第三方的底层硬件集成工作复杂,部署周期长;需要第三方提供集成服务,集成服务费用高;后期维护涉及多家厂商的硬件平台,无法统一管理,运维复杂成本高;业务挑战通过同步复制技术,实现数据的双活;预安装、预集成、融合架构、软硬件统一管理,大幅降低部署难度,缩短交付时间,简化后期运营维护;通过云平台HA、热迁移功能,能够有效减少设备故障时间,确保核心业务的连续性,避免传统IT,单点故障导致的业务不可用。解决方案融合架构、一体式交付,业务上线时间从数周缩短至数天统一管理、自动化运维,OPEX降低45%虚拟机HA、无单点故障,系统可靠性达到99.95%客户收益FusionStorage助力BME高效交付股票交易系统西班牙证券市场公司(BolsasyMercadosEspañoles,BME)是一家负责管理西班牙证券交易所和金融市场的公司,下含马德里、巴塞罗那、毕尔巴鄂和巴伦西亚四家证券交易所。除去股票和债券交易,该公司也提供其他金融产品,同时为他国做金融技术咨询。来自不同第三方的底层硬件集成工作复杂,部署周期长;业务挑战通FusionStorage分布式存储
解决方案介绍FusionStorage分布式存储
解决方案介绍ContentFusionStorage分布式存储系统23FusionStorage核心价值存储领域的技术现状与发展趋势14FusionStorage应用案例ContentFusionStorage分布式存储系统23F业务驱动的云基础设施云计算SDS统一的数据面SDN融合IP网络业务驱动业界趋势:分布式、软件定义与大规模池化FCIBMApp1IBMApp2高端存储高端存储IPX86AppX中低端存储中低端存储X86AppY…传统数据中心融合IP网络(物理+虚拟)X86/ARM硬件池计算池存储池业务驱动的基础设施基于SLA控制平面负载计算存储网络VMVMVMPMPMVMVMVMPMPMApp1App2App3App4软件定义云数据中心大规模扩展、资源大范围共享、业务敏捷、自动化和SLA的保障都不再绑定和依赖于硬件业务驱动的云基础设施云计算SDSSDN业务驱动业界趋势:分布互联网巨擘:均采用分布式存储的大规模池化技术GoogleGFS,MapReduce,BigQueryAMAZONS3,Dynamo,EBSFaceBookMySQL,MemeCachedTaskQueuesAPPGoogleComputeEngineAPIGoogleBigQueryMapReducePipelineGoogleInfrastructureLoadBalancingacrossAppEngineInstancesAutoScalingStaticcontentservingandcachingDosprotectionMonitoringandManagementGoogleCloudStorageGoogleCloudDatastoreMemcacheAPPSchedutedTasksAPPPayment:
FPS/DevpaySimpleDBSANSQSRDSMapReduceAuto-ScalingELBCloudwatchEC2InstancesVPCEBSS3SnapshotsCloudFront亚马逊物理基础设施LAMPLoadBalancerWebServer(PHP)MySQL(Slow,persistent)Memcached(fastsimple)+ServicesService(fastcomplicated)互联网巨擘:均采用分布式存储的大规模池化技术Google传统厂商:已经开发出分布式软件定义存储的产品EMCScaleIOHPVSA/storage/scaleio/index.htm/us/en/products/data-storage/storevirtual-vsa.html传统厂商:已经开发出分布式软件定义存储的产品EMCScal分布式存储的市场和需求现在/wiki/v/The_Rise_of_Server_SAN分布式存储的市场和需求现在http://wikibon.orContentFusionStorage分布式存储系统23FusionStorage核心价值存储领域的技术现状与发展趋势14FusionStorage应用案例ContentFusionStorage分布式存储系统23FFusionStorage分布式存储解决方案总体架构图
支持多种虚拟化平台(FusionSphere/VMware)FusionStorage分布式存储资源池应用层虚拟化层数据库物理部署HANAFusionStorage分布式存储解决方案总体架构图
支持FusionStorage分布式存储硬件形态FusionStorage在通用x86服务器上部署分布式存储软件,把所有服务器的本地硬盘组织成一个虚拟存储资源池,提供块存储接口典型硬件1:机架式服务器典型硬件2:刀片式服务器Server1Server2ServerNVMVMVMVMVMVMFusionStorage分布式存储资源池HDDSSDHDDSSDHDDSSD...FusionStorage分布式存储硬件形态FusionSt通用X86服务器硬件要求凡是满足上述硬件要求的X86服务器,都满足了作为FusionStorage存储节点的基本要求。但是还是经过FusionStorage认证,经过认证后就可以作为正式商用硬件形态。
组件规格物理形态
机架服务器或刀片服务器,X86架构处理器Intel®XeonE5-2600/4600系列处理器,Intel®XeonE7-4800/8800系列处理器
内存按照每TB硬盘1GB内存,推荐》64G内存存储1、存储节点至少部署3个,配置RAID卡,支持RAID0/1,每台存储节点至少预留2块本地硬盘用于安装OS
2、如果管理节点与存储节点器合部,分布式资源池至少15个2.5/3.5英寸SAS/SATA/SSD硬盘,其中:至少12个硬盘用于资源池数据盘,至少3个硬盘用于部署ZK盘如果管理节点与存储节点器分离部署,分布式资源池至少12个2.5/3.5英寸SAS/SATA/SSD硬盘,其中:至少12个硬盘用于资源池数据盘,ZK盘采用分区的方式部署,与本地OS盘共用网络接口每存储服务器用于FusionStorage存储平面带宽不低于4Gb,例如4×1Gb或者2×10Gb
Cache至少有一个SSD卡或SSD盘作为写cache通用X86服务器硬件要求凡是满足上述硬件要求的X86服务器,FusionStorage关键规格和特性软件特性:块存储功能,SCSI、iSCSI接口;RAID10,3份拷贝,…;存储快照;存储瘦分配;存储链接克隆;存储SSDCache和存储自动分级;数据备份部分关键规格:指标名称指标值单个资源池最大存储节点数256单个资源池最大硬盘数12~96块硬盘(2份拷贝)12~2000块硬盘(3份拷贝)最大单卷容量256TB每TB数据恢复时间30分钟数据冗余模式2副本、3副本单个资源池最大逻辑卷数量65000个单卷链接克隆比例256FusionStorage关键规格和特性软件特性:部分关键规FusionStorage支持的介质、网络和Cache类型FusionStorage软件本身可以支持多样的主存介质、cache介质、网络类型硬件。类别规格说明存储介质SATA:使用在大容量场景NL-SAS:使用在大容量场景SAS:使用在性能相对较高的场景SSD卡:使用在高性能场景SSD盘:使用在高性能场景
存储网络EthernetInfinibandcache介质类型NVDIMM:
使用在对时延要求极其敏感的场景,比如OLTPSSD卡:
作为writebackcache,使用在对时延要求较低的场景,比如虚拟化、一般应用SSD盘:
作为writebackcache,使用在对时延要求较低的场景,比如虚拟化、一般应用DRAM内存:
作为writebackcache,当整个集群全局掉电的时候(如数据中心掉电),在内存中的cache数据丢失,从而导致系统数据丢失,所以建议仅用在测试环境中;Nocache(cache关闭模式):系统变成了writethrough模式,性能会变得比较差
FusionStorage支持的介质、网络和Cache类型FFusionStorage分布式存储软件兼容性说明:以上信息仅供参考,具体请以版本正式发布的“兼容性列表”为准。
部署方式兼容性说明物理化部署RedHatEnterpriseLinux6.2/6.4SUSELinuxEnterpriseServer11SP3OracleEnterpriseLinux6.2虚拟化部署HuaweiFusionSphere3.X/5.XVmware5.XRHEL6.XKVM
FusionStorage分布式存储软件兼容性说明:部署方式FusionStorage分布式存储软件总体架构SAS/SATAX86CPU硬件设备层存储引擎层集群状态控制数据一致性管理存储服务层备份分布式Cache分布式链接克隆存储
驱动层SCSI驱动/iSCSI数据路由管理并行数据重建集群故障自愈分布式快照分布式精简配置容灾10GE/InfiniBandE9000计算、存储融合刀片式服务器PCI-ESSD卡卷管理QOS管理统一告警系统监控升级/补丁配置管理北向接口管理平台容量管理日志管理FusionStorage分布式存储软件总体架构SAS/SAFusionStorage分布式存储软件逻辑架构图MDCMDCMDCP1P2’P3’P1’P2P3’’P1’’P2’’P3PAXOS状态视图控制无状态接口层SCSI状态视图状态视图iSCSI…数据层clientclientclientclientOSD1节点OSD2节点OSD3节点VBS:虚拟块存储系统MDC:元数据控制组件PAXOS:一种分布式一致性算法OSD:带硬盘的存储节点Partition:分区数据流VMOracleVM…VBSOSDFusionStorage分布式存储软件逻辑架构图MDCMDFusionStorage软件模块部署图
模块功能FusionStorageManagerFusionStorage管理模块,提供告警、监控、日志、配置等操作维护功能,主备节点部署。FusionStorageAgent代理进程,部署在各节点(服务器)上,实现各节点与FusionStorageManager通信。MDC元数据控制组件,实现对分布式集群的状态控制,以及控制数据分布式规则、数据重建规则等。MDC部署在3个节点上,形成MDC集群。VBS虚拟块存储管理组件,负责卷元数据的管理,提供分布式集群接入点服务,使计算资源能够通过VBS访问分布式存储资源。每个服务器上部署一个VBS进程,形成VBS集群。OSD对象存储设备,执行具体的I/O操作。在每个服务器上部署多个OSD进程,一块磁盘对应部署一个OSD进程。FusionStorage软件模块部署图
模块功能FusioFusionStorage在XEN/KVM下的部署(融合)XEN部署KVM部署FusionStorage在XEN/KVM下的部署(融合)XFusionStorage在XEN/KVM下的部署(分离)XEN部署KVM部署FusionStorage在XEN/KVM下的部署(分离)XFusionStorage在VMware下的部署融合部署分离部署已经通过VMware的官方认证:/resources/compatibility/detail.php?deviceCategory=san&productid=37874&vcl=trueFusionStorage在VMware下的部署融合部署分离FusionStorage基本原理---DHT寻址与水平扩展技术DHT(DistributedHashTable)DHT环:232超大虚拟节点构成的环形空间Partition:将DHT环空间划分为N等份,每一等份是一个分区物理节点:即一个DISK,与Partition分区对应Key-Value:底层磁盘上的数据组织成Key-Value的形式,每个Value代表一个块P1P2P3P4P5P6Pn…分区物理节点DHT数据逻辑地址数据逻辑地址数据逻辑地址数据逻辑地址…数据逻辑地址Key1Key2Key3Key4…KeynHash寻址映射物理空间优点:均衡性:数据能够尽可能分布到所有的节点中,这样可以使得所有节点负载均衡。新加入节点只需要搬移很少部分数据分片即可达到负载均衡。数据可靠性高:可灵活配置的分区分配算法,避免2个副本位于同一个Disk、同一块板、同一个机柜Disk1Disk2DisknValue1Value2Value3Value4…Valuen合成FusionStorage基本原理---DHT寻址与水平FusionStorage基本原理---卷映射资源池:类似于SAN的RAID组概念,与RAID相比,其优点是:大资源池:最大96块盘(2份拷贝),提升超大存储空间,避免高IO应用导致热点瓶颈动态热备:所有硬盘都可用作资源池的热备盘简单结构:资源池、Volume二层结构,没有LUN结构,服务器直接看到Volume…DiskP1P2PyDiskDiskDiskDiskDiskVolume1Volume2Volume3P1P2Px资源池1Volume10Volume11Server1Server2Server3资源池2FusionStorage基本原理---卷映射资源池:高性能---DHT并行IO读写分布式存储架构(FusionStorage)及基于ETH/IB的点对点互联网络,不再有带宽瓶颈更多硬盘在扁平P2P架构下实现为同一App实例或VM提供并发读写服务,使得突发MBPS提升3-5倍以上;更大资源池,负载均衡,利用率更高VS.RAIDArrayApp1App2App3ApplicationsLUN内共享IOLUN内共享IOLUN内共享IO各节点利用率大资源池集群App1App2App3ApplicationsP2P集群级共享IO各节点利用率传统SAN外置存储FusionStorage分布式存储高性能---DHT并行IO读写分布式存储架构(FusionS高性能、低时延---支持Infiniband网络互联56GbpsFDRInfiniBand,超高速互联。支持RDMA(远程内存访问)跨节点数据高速传输标准成熟多级胖树组网,平滑容量扩容。近似无阻塞通信网络,数据交换无瓶颈ns级通信时延,计算存储信息及时传递无损网络QOS,数据传送无丢失主备端口多平面通信,冗余通信无忧超高速单链路速率对比InfiniBand极速互联高性能、低时延---支持Infiniband网络互联56Gb高性能、低时延---支持全SSD存储Instance1DatabaseInstance2Instancen…高IO:单柜240万IOPS低时延:读时延49us,写时延8us,仅为传统SAS盘的1/100~1/1000高吞吐:整柜带宽达108GB/sCacheSSDNod1Nod2Nod3CacheSSDCacheSSDPCIESSDSSDSSDInfiniBand分布式SSD存储系统,主要用于数据仓库一体机场景高性能、低时延---支持全SSD存储Instance1Da高可靠---多重数据安全保障机制多副本备份:根据安全级别可灵活配置1副本(相当于RAID10)或多副本(3副本情况下,数据可用性达到7个9)PCI-ESSDCache技术:读写速度快,掉电数据不丢失强一致性复制协议:应用程序写入一份数据时,如果成功,后端的一份或多份副本必然一致,再次读时,无论从哪个副本都可读到正确的数据CacheSSDNod1Nod2Nod3CacheSSDCacheSSDPCIESSDSSDSSDInfiniBand多重数据安全保障机制,确保数据安全可靠高可靠---多重数据安全保障机制多副本备份:根据安全级别可灵高性能增量快照技术优点快照不会引起原卷性能下降:快照数据仍然基于DHT机制,快速索引无限次快照:快照元数据分布式存储,水平扩展,无集中式瓶颈,理论上可支持无限次快照。卷恢复速度快:无需数据搬迁,从快照恢复卷1S内完成(传统SAN在几小时级别)虚拟卷读写重定向快照1Delta磁盘快照1快照2快照3快照2Delta磁盘快照3Delta磁盘读写重定向读写重定向高性能增量快照技术优点虚拟卷读写重定向快照1Delta磁盘基于快照的高性能链接克隆克隆卷性能无损失:克隆卷基于快照技术创建,基于DHT机制,快速索引;超高性能的母卷访问:母卷缓存到内存中,性能提升3-5倍;且分布式存储,不会造成集中式瓶颈。克隆卷继承普通卷所有功能:克隆卷可支持创建快照、从快照恢复以及再次作为母卷进行克隆操作。母卷A克隆卷B/母卷B克隆卷A快照C1快照C2克隆卷C克隆卷B1克隆卷B2克隆卷创建快照克隆卷作为母卷克隆卷基于快照的高性能链接克隆克隆卷性能无损失:克隆卷基于快照技术无性能下降智能精简配置ThinProvisioning采用分布式Hash技术(DHT环),天然支持分布式自动精简配置(ThinProvisioning),无需预先分配空间精简配置(ThinProvisioning)无任何性能下降(SAN扩展空间时需要耗费额外的性能)…k1k2k3kxk1k2k3kyk1k2k3kzDiskDiskDiskDiskDiskDiskVolume_1Volume_2Volume_3…kxkxkxkykzkz无性能下降智能精简配置ThinProvisioning采用FusionStorage广泛的应用场景
业务系统数据库层操作系统系统硬件虚拟化层云平台数据库HANA桌面云资源池数据库SAPHANAFusionCube资源池化数据库HANA办公云化FusionStorage广泛的应用场景
业务系统数据库层操ContentFusionStorage分布式存储系统23FusionStorage核心价值存储领域的技术现状与发展趋势14FusionStorage应用案例ContentFusionStorage分布式存储系统23F拥抱世界级创新,从传统架构走向互联网架构VS.网络交换机光纤存储交换机传统存储阵列服务器小型机传统架构计算存储计算计算计算存储存储存储互联网为代表的全新架构传统数据中心云数据中心ControllerControllerControllerControllerControllerCacheControllerCacheControllerCacheControllerCache分层架构,多处收敛无阻塞P2P访问,无性能瓶颈无阻塞交换拥抱世界级创新,从传统架构走向互联网架构VS.网络交换机光纤分布式设计做到真正意义上的水平扩展P2P对等分布式设计P00P01P02P03P04P05P06P07P08P09P10P95Pmn服务器性能容量20604080100120140分布式设计使性能与容量的增长随着服务器线性增长分布式设计做到真正意义上的水平扩展P2P对等P00P01P0统一的资源池获得更大范围的弹性调度存储资源池大范围调度,在线资源动态均衡,资源利用率高管理一个存储池,简单易用自动扩容,自动故障恢复,无需人工干预无需手动搬移业务,数据自动均衡,业务无中断资源冷热不均,SAN1已到瓶颈,SANn基本没有流量高维护成本,N套SAN需要N个管理人工扩容,扩容时全手动数据手动搬移需要中断业务,成本高VMVMVMVMVMVM计算资源池VMVMVMVMVMVMSAN1SAN2SANn…ABCDEFABCDEFA计算资源池统一的资源池获得更大范围的弹性调度存储资源池大范围调度,在线统一存储资源池提升机柜级可靠性机柜1存储池服务器1服务器1……机柜2服务器1服务器2…………机柜n服务器n服务器3……主副本备副本主副本备副本APP1APP2APPn机柜1SAN1……机柜2……机柜nAPP2APPn传统方式主副本备副本主副本备副本统一存储池方式服务器1服务器2服务器3服务器n故障业务无影响和故障自恢复故障业务中断并需手动恢复统一存储资源池提升机柜级可靠性机柜1存储池服务器1服务器1…并行、快速数据重建Disk1P1P2’Disk2Disk3Disk6Disk4Disk5Server1Server2Server3P3P4’P5P6’P7P8’P13P14’P15P16’P17P18’P19P20’P1’P3’P5’P7’P9P10P11P12P13’P15’P17’P19’P21P22P23P24P4’P8’P16’P20’P21P22P23P24P9P10P2’P6’P14’P18’P11P12数据分布可以跨服务器或跨机柜,不会因某个服务器、机柜故障导致数据不可访问数据分片在资源池内打散,硬盘故障后,可在全资源池范围内自动并行重建,仅重建实际数据,无需单独热备盘
重建1TB数据时间<30分钟(传统SAN重建1TB数据需要12小时),提升数据可靠性P9’P10’P11’P12’P2P6P14P18P21’P22’P23’P24’P4P8P16P20并行、快速数据重建Disk1P1P2’Disk2Disk3D统一的存储池化带来的性能和管理效率提升128台服务器5000虚拟机3PB存储云数据中心实例创建100Win2003VM多个SAN统一的存储池65X547s10h创建100LinuxVM启动100VM启动2,000VM10h41X2.2X2X60s10m870s27s5min3.3X73s22s拷贝小文件1.45X12.5s8.6s 拷贝大文件操作统一的存储池化带来的性能和管理效率提升128台服务器云数据中ContentFusionStorage分布式存储系统23FusionStorage核心价值存储领域的技术现状与发展趋势14FusionStorage应用案例ContentFusionStorage分布式存储系统23FFusionStorage全球参考案例
运营商教育金融&零售公共部门SpanishXanithospitalZimbabweRevenueAuthorityJeddahMunicipalityShanghaiMaritimeUniversity
SenegalE-government制造业AsiaPacificTelecomTelefonicaChinaTelecom
ChinaMobileHongKongInfocastSpanishExchangesCiticTrustItalianRetailBeijingJiaotongUniversityPekingUniversityTAWAZUNRABDANGermanyHeliparkHuaweiSpanishGAMOSAPLabsChinaFusionStorage全球参考案例运营商教FusionStorage是唯一通过测试的厂商(三家厂商参与测试)性能测试结果超过客户预期(3副本,SATA盘)每磁盘IOPS:793(SATA盘性能的5~10倍,SAS盘的3~5倍)时延:1.98ms~4ms(高端存储中载下时延3~6ms)有成熟的大规模资源池经验计算云:3PB,128台服务器,5000虚拟机可同时支持VmWare、FusionSphere等虚拟化平台浙江电信云资源池解决方案POC测试结果接入层汇聚接入存储资源池汇聚接入计算资源池FusionStorageVMwarePOC测试组网图(34台存储服务器,10台计算服务器)浙江电信选择FusionStorage建设存储资源池为什么选择FusionStorageFusionStorage是唯一通过测试的厂商(三家厂商参与公司计
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2025年催化剂项目发展计划
- (高清版)DB4501∕T 0017-2023 大件垃圾处理设施运行监管规范
- 产后康复设备行业分析研究报告
- 金融科技对个人理财的改变与革新
- 环保监测站技术人员防护装备
- 供热服务质量评价标准书
- 电梯安装与维护螺栓扭矩检查规范
- 医药行业智能化医疗器械维护与保养方案
- 电力电网系统运行手册
- 心电图的操作流程
- DB37-T4824-2025 乡镇(街道)应急物资配备指南
- 2025年国航机务系统AMECO技术员岗位校园招聘笔试参考题库附带答案详解
- 基于整本书阅读的小学语文阅读教学策略研究获奖科研报告
- 2025年泰州职业技术学院高职单招职业适应性测试近5年常考版参考题库含答案解析
- 定制家具安装手册培训
- 2025年春新北师大版数学一年级下册课件 综合实践 设计教室装饰图
- 2024年07月威海市商业银行校园招考大学生报到笔试历年参考题库附带答案详解
- 2024年全国职业院校技能大赛(节水系统安装与维护赛项)考试题库(含答案)
- 2025-2030年中国砂石开采市场发展展望与投资策略建议报告
- 个人租赁钢管合同范例
- GJB9001C-2017版标准培训课件
评论
0/150
提交评论