已阅读5页,还剩13页未读, 继续免费阅读
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
西安理工大水利学院高性能计算项目服务器选型分析曙光信息产业(北京)有限公司2010年8月目 录一、 服务器分类3二、 需求分析6三、 测试目的6四、 测试项目64.1服务器整机性能测试Linpack64.1.1 Linpack测试简介64.1.2 测试结果74.2服务器CPU性能测试SPECint, SPECfp84.2.1测试简介84.2.2 测试结果84.3服务器内存性能测试SiSoftware Sandra94.3.1测试简介94.3.2 测试结果104.4服务器磁盘性能测试HD Tach, IOMeter114.4.1测试简介114.4.2 测试结果114.5服务器网络性能测试Netperf114.5.1测试简介114.5.2 测试结果124.6服务器可靠性测试134.6.1测试方法13五、 总体结论14附:曙光售后服务15曙光三级服务体系15集群产品的服务承诺16服务产品定义16服务产品16应用级技术支持服务18曙光公司产品保修服务流程19制造业是国家前进的引擎,也是保证国家物质需求的基础,特别是我司肩负着国防的重担,因此针对制造流程进行优化,辅助制造设计就显得很必要。另一方面随着计算机技术与信息技术应用的日益普及,工业化与信息化的融合也开始提上日程。十七大进一步强调推进信息化与工业化的融合。随着“十二五”的初步计划,工信部也开始倡导“两化融合”,相信工业化与信息化的融合也必将成为未来工业发展的指导方针。产业升级和企业转型被提到国家发展的战略层面。由于信息化系统能大幅提升企业的运营效率并帮助企业削减成本,从而有效的提升企业的市场竞争力。因此,信息化业已成为推进企业产业升级和转型必不可少的手段。服务器作为企业信息化过程中最为关键的IT基础设施,在保证企业业务正常运转中起着决定性作用。在信息化程度较高的企业,服务器一旦出现故障往往会给企业带来重大损失,从而使得企业对服务器的性能表现尤为关注。目前,服务器市场产品繁多、功能和性能定位不一,由于厂商的服务器技术水平有所差别,在服务器可靠性、稳定性和可服务性上也存在某些程度上的不同。本文在调研了我司对服务器应用需求的前提下,以我司需求为先导,结合曙光对服务器产品的理解,助力我司实现对服务器的选型,让用户能少走一些弯路。1、 服务器分类市场上服务器种类繁多,功能,配置定位不一,因此应该很有必要对当前主流市场上的服务器进行一下分类。根据下面的分类,曙光公司会进行相应的阐述以及数据的描述对比。供用户参考。1.按处理器指令集架构按照处理器指令集架构划分,可以将服务器分为CISC架构服务器、RISC架构服务器和VLIW架构服务器三种。其中CISC即复杂指令系统计算机,该类型处理器主要以IA-32架构为主。RISC即精简指令集计算机,该类型代表性产品为HP公司的PA-RISC、IBM公司的Power系列以及Oracle公司的SPARC系列。VLIW即超长指令集架构,其代表性产品为Intel IA-64和AMD X86-64系列。(1) CISC架构服务器CISC是最早的处理器指令集架构,这种架构的特点是指令复杂,由于早期计算机系统主频底、速度慢,设计人员就尽可能的在有限的指令长度内实现更多的指令,从而造就了这种相对复杂的指令集架构。今天主流的桌面应用软件都支持CISC指令集架构处理器。在服务器领域,CISC架构主要以IA-32架构为主,面向中小型企业的业务应用。一般而言,如果企业的应用都是基于NT平台或Linux平台,那么服务器的选择就可以定位于IA架构。(2) RISC架构服务器RISC指令集最早出现在上世纪80年代,它的指令系统相对简单,它只要求硬件执行很有限且最常用的那部分执令,大部分复杂的操作则使用成熟的编译技术,由简单指令合成。相对CISC指令集,RISC指令集更为精简,但并行处理能力更强,该指令系统的处理器通常应用于中高端服务器,可以满足企业复杂的业务应用需求。目前采用RISC指令集的服务器产品主要有HP公司的PA-RISC、IBM公司的Power PC以及Oracle的UltraSPARC系列。(3) VLIW架构服务器VLIW是一种非常长的指令组合,它将指令级并行、线程级并行、以及多内核芯片级并行三合为一,大大增加了运算速度,这种指令架构处理器最典型的代表为英特尔的“IA-64架构”。以一个时钟周期为计算能力进行比较,IA-64架构处理器一个时钟周期可运行20条指令,CISC能运行1-3条指令,RISC能运行4条指令。由此可知,VLIW要比CISC和RISC强大很多。VLIW简化了处理器的结构,删除了处理器内部许多复杂的控制电路,这些电路通常是超标量芯片(CISC和RISC)协调并行工作时必须使用的,VLIW的结构简单,也能够使其芯片制造成本降低,价格低廉,能耗少,而且性能也要比超标量芯片高得多。目前基于这种指令架构的微处理器主要有Intel的IA-64和AMD的x86-64两种。RISC服务器性能往往都很强大,但是我们应该看到一个问题现在RISC架构的服务器市场份额目前越来越小。这是因为当前业务模式的改变以及应用系统的变化并且随着目前AMD和Intel的CPU功能越来越强大,同时受限于应用的开发以及维护,故而其RISC架构服务器领域越来越窄。下文就主要针对X86-64体系结构进行分析。2. 按机箱类型按服务器的机箱结构划分,可以把服务器划分为塔式服务器、机架式服务器、机柜式服务器、刀片式服务器四类。(1) 塔式服务器塔式服务器又称为台式服务器,其特点是机箱内部空间较大,可进行灵活配置,可扩展性很强。塔式服务器可根据企业的不同应用需求扩充或更换服务器内部配置,较之其它机箱类型的服务器产品,塔式服务器价格便宜,对空间占用要求不高的中小企业尤为适用。但由于塔式服务器独立性太强,对于需要协同工作的应用环境,塔式服务器有其局限性。(2) 机架式服务器机架服务器实际上是工业标准化下的产品,其外观按照统一标准来设计,配合机柜统一使用,以满足企业的服务器密集部署需求。相对塔式服务器,机架服务器的主要优点是节省空间,由于能够将多台服务器装到一个机柜上,不仅可以占用更小的空间,而且也便于统一管理。一般而言,机架服务器的宽度为19英寸,高度以U为单位(1U=1.75英寸=44.45毫米),通常有1U,2U,3U,4U,5U,7U几种标准的服务器。对于机架式服务器,由于内部空间限制,扩展性和散热问题均受到限制,因而适用于业务相对固定的领域,比如远程存储和网络服务等。对于4U以上可扩展性好的机架服务器,也适用于访问量较大的关键应用领域。(3)机柜式服务器 在一些高档企业服务器中由于内部结构复杂,内部设备较多,有的还具有许多不同的设备单元或几个服务器都放在一个机柜中,这种服务器就是机柜式服务器。对于证券、银行、邮电等重要企业,则应采用具有完备的故障自修复能力的系统,关键部件应采用冗余措施,对于关键业务使用的服务器也可以采用双机热备份高可用系统或者是高性能计算机,这样的系统可用性就可以得到很好的保证。(4)刀片式服务器刀片式服务器是一种高可用、高密度的低成本服务器平台,是专门为特殊应用行业和高密度计算机环境设计的,其中每一块“刀片”实际上就是一块系统母板,类似于一个个独立的服务器。在这种模式下,每一个母板运行自己的系统,服务于指定的不同用户群,相互之间没有关联。不过可以使用系统软件将这些母板集合成一个服务器集群。在集群模式下,所有的母板可以连接起来提供高速的网络环境,可以共享资源,为相同的用户群服务。在集群中插入新的刀片就可以提高整体性能。由于每块刀片都是热插拔的,所以,系统可以轻松地进行替换,并且将维护时间减少到最小。但由于刀片服务器比机架式服务器更节省空间,散热问题也更为突出,往往要在机箱内装上大型强力风扇来散热。刀片服务器一般应用于大中型的数据中心或者需要大规模计算的领域,如银行电信金融行业以及互联网数据中心等。3. 按应用类型划分对于服务器,影响其性能表现的主要有四大子系统,即处理器、内存、磁盘系统和网络系统,不同的应用对四大子系统的要求有所不同。(1)文件服务在计算机局域网中,以文件数据共享为目标,将供多台计算机使用的文件存储存放于一台计算机中,这台主机就被成为文件服务器。文件服务器相当于一个信息系统的大仓库,保证用户和服务器磁盘子系统之间快速传递数据。在服务器的各个子系统中,对系统性能影响大小依次排列为网络系统、磁盘系统、内存容量、处理器性能。因此,对于中小企业的文件服务器选择可优先考虑网络传输情况,其次是磁盘存取速率,对处理器性能要求并不高。(2)数据库服务制造企业对数据库的应用相当广泛,包括企业的财务系统、人事系统及各种管理系统,需要频繁的读取和索引数据。对于较大的企业,可能会涉及到分布式并发数据查询等问题,这对网络系统以及I/O的数据传输能力有比较高的要求。对于这种情况,企业对数据库服务器的选择考虑因素依次是网络系统、I/O数据传输能力、处理器、内存、磁盘系统。对于较小的企业,并发用户相对较少,分布式查询需求不高,磁盘系统的重要性便凸显。对于这种情况,服务器优先考虑顺序依次是磁盘系统、内存、处理器以及I/O数据传输能力。(3)邮件服务邮件服务器是企业使用较多的服务器系统,邮件服务器扮演着电子邮件路由器和仓库的双重角色。影响邮件服务器系统的关键性因素依次是网络系统、内存、磁盘系统和处理器。(4)Web服务服务器的性能是由网站内容来决定的。如果Web站点是静态的,系统瓶颈依次是:网络子系统和内存。如果Web服务器主要进行密集计算,系统瓶颈依次是:内存、CPU、磁盘子系统和网络子系统。(5)多媒体服务负责媒体控制及媒体流在网络上传输的功能,I/O吞吐量对服务器性能起着关键的影响。视频服务器的瓶颈依次是: 网络子系统、磁盘子系统和内存。音频服务对服务器硬件配置要求很低,现在的服务器子系统一般不会成为瓶颈。(6)管理控制器管理控制器是网络、用户和计算机的管理中心,负责提供安全的网络工作环境。主域控制器不但响应用户的登录需求,而且在服务器间同步和备份用户帐号、WINS(NIS、LDAP)和DHCP数据库等,另外,主域控制器还做DNS服务。系统瓶颈是网络子系统、内存。(7)高性能计算服务器高性能计算由以前门槛高、应用范围仅限于国防、科研等领域到如今发展到在多领域、多层面上得到了广泛的应用。高性能计算在水利水电,电子设计,航空航天,机械设计等有着广泛的使用需求。针对此类服务器,影响他的主要在于CPU、内存(限于某些CAE软件)、网络互联等,相反本地硬盘系统的性能到是其次。针对上述分类,可以看出其主要区别还在于CPU、内存、网络、硬盘系统等。因此针对上述几个问题,并结合我校当前项目特进行下列测试分析。2、 需求分析理工大水利学院高性能计算系统需处理两类应用:一类是CPU密集型的CFD以及部分CAE应用,一类是内存密集型的部分CAE应用。对于前者,系统需要多核数的CPU,并且由于涉及到线程间互相通信,故CPU的架构应该采用直连架构,CPU与CPU之间的传输跳数不易过多;对于后者,由于应用占用了大量的内存,同时此类应用涉及到了CPU与内存之间的数据交互,故此类应用需要考虑几个问题:内存带宽,内存通道数,内存工作频率,同时由于涉及到了中断,故建议CPU采用多核技术。根据业务实际需求,选取适合当前业务系统的主流4款CPU,曙光公司针对此4款CPU机型进行了整体测试并与友商进行了对比,希望此测试能够提供给用户一个参考,保证此项目提供给用户的是一个最优的环境。3、 测试目的 通过业界公认的第三方服务器性能基准测试工具,对服务器CPU、内存、I/O、网络等进行一系列性能测试。通过业界公认的第三方服务器压力测试工具,对服务器进行兼容性及可靠性测试。最终实现服务器对高法业务系统能够有效支撑及提供可靠性保证。针对此项目,给用户提供一个参考,建议给用户一个最优化的服务器。四、 测试项目4.1服务器整机性能测试Linpack4.1.1 Linpack测试简介Linpack是国际上最流行的用于测试高性能计算机系统浮点性能的Benchmark。通过对高性能计算机采用高斯消元法求解一元N次稠密线性代数方程组的测试,评价高性能计算机的浮点性能。Linpack测试包括三类,Linpack100、Linpack1000和HPL。HPL即High Performance Linpack,也叫高度并行计算基准测试,针对现代并行计算机提出的测试方式。HPL采用高斯消元法求解线性方程组。求解问题规模为N时,浮点运算次数为(2/3 * N32*N2)。因此,只要给出问题规模N,测得系统计算时间T,峰值=计算量(2/3 * N32*N2)/计算时间T,测试结果以浮点运算每秒(Flops)给出。HPL对数组大小N没有限制,求解问题的规模可以改变,除基本算法(计算量)不可改变外,可以调节问题规模大小(矩阵大小)、使用CPU数目、使用各种优化方法等等来执行该测试程序,以获取最佳的性能。4.1.2 测试结果服务器配置理论峰值 Gflop/s实测峰值 Gflop/s效率2*AMD CPU Opteron 6168 十二核 1.9GHz,16G182.4167.992.10%2*AMD CPU Opteron 6172 十二核 2.1GHz,16G201.6188.093.30%2*Intel CPU 5650 六核 2.66GHz,16G127.7115.190.10%2*Intel CPU 5660 六核 2.8GHz,16G134.4124.692.73%图1 CPU Linpack测试测试说明: 曙光根据用户环境需求,对市场主流的4种CPU分别进行了Linpack测试,从测试结果来看,无论是理论值,还是实测值AMD较Intel性能要高很多。4.2服务器CPU性能测试SPECint, SPECfp 4.2.1测试简介SPECint_rate2006测试是SPEC的CPU整数多线程性能测试,是衡量服务器CPU性能的主要指标。 服务器CPU的整数性能主要影响到服务器的数据库、J2EE、Web等数据处理类应用的性能。SPECfp_rate2006测试是SPEC的CPU浮点多线程性能测试,是衡量服务器CPU性能的主要指标。 服务器CPU的浮点性能主要影响到服务器的浮点计算性能,例如数值计算、科学计算等计算类应用的性能。4.2.2 测试结果服务器配置SPECint_rate 2006价格比(1KU price) 单位:美元(价格均已当前测试时各厂商报价为准)2*AMD CPU Opteron 6168 十二核 1.9GHz,16G3497442*AMD CPU Opteron 6172 十二核 2.1GHz,16G3759892*Intel CPU 5650 六核 2.66GHz,16G3469962*Intel CPU 5660 六核 2.8GHz,16G3551210服务器配置SPECfp_rate 2006价格比(1KU price) 单位:美元(价格均已当前测试时各厂商报价为准)2*AMD CPU Opteron 6168 十二核 1.9GHz,16G2947442*AMD CPU Opteron 6172 十二核 2.1GHz,16G3099892*Intel CPU 5650 六核 2.66GHz,16G2409962*Intel CPU 5660 六核 2.8GHz,16G2431210注:绿色条柱数值代表实现功能所需要花费的金钱,数值越小,代表性价比越高。图2 CPU SPEC测试测试说明: 针对市场主流的4种CPU分别对SPEC进行了测试,从测试结果来看,Intel较AMD在SPECint方面上双方基本持平,在浮点多线程AMD较Intel略好一些。另外,从性价比方面来看,AMD CPU性价比要比Intel高出两倍以上。4.3服务器内存性能测试SiSoftware Sandra 4.3.1测试简介SiSoftware Sandra(the System Analyser Diagnostic and Reporting Assistant)是现在公认权威的系统分析评测工具,1995年诞生,到今天已走过了十多年发展历程,拥有超过30种以上的基准测试项目。它可对 CPU、主板、内存、硬盘、光储、SCSI设备、APM/ACPI设备、鼠标、键盘、网络等硬件进行基准理论对比测试,通过内置数据库对比直观了解当前配置性能定位;内存带宽测试内存带宽直接影响着服务器运算的速度,内存带宽越高,服务器的运算效率也就会越高,因此这也是一个衡量服务器性能的重要指标。采用SiSoftware Sandra软件中的内存测试工具进行内存带宽测试。4.3.2 测试结果服务器配置测试内存带宽聚合内存带宽性能整数型Buff内存带宽(iSSE2) 浮点性Buff内存带宽(iSSE2) 2*AMD CPU Opteron 6168 十二核 1.9GHz25.21GB/s25.23GB/s25.16GB/s2*AMD CPU Opteron 6172 十二核 2.1GHz25.25GB/s25.31GB/s25.18GB/s2*Intel CPU 5650 六核 2.66GHz18.93GB/s18.96GB/s18.89GB/s2*Intel CPU 5660 六核 2.8GHz18.96GB/s19.01GB/s18.83GB/s图3 内存性能/带宽测试测试说明: 从测试结果来看,Intel较AMD在内存带宽上面不具有优势,AMD的优势原因在于本次测试采用的AMD CPU采用了直连2.0架构。每个CPU支持4个内存通道,并且每个CPU都可支持DDR3 1333的内存。而该Intel测试CPU 只能支持3个内存通道,故从测试结果来看,也基本反映AMD和Intel在CPU架构方面的差别。 4.4服务器磁盘性能测试HD Tach, IOMeter 4.4.1测试简介HD Tach一款专门针对磁盘底层性能的测试软件,它主要通过分段拷贝不同容量的数据到硬盘进行测试,可以测试硬盘的连续数据传输率、随机存取时间及突发数据传输率,它使用的场合并不仅仅只是针对硬盘,还可以用于软驱、ZIP驱动器测试。IOMeter是一款功能非常强大的IO测试软件,它包含了负载发生器(IOMeter称其为Worker),提供一系列标准测试组件以模仿实际应用,如WebServer(网站服务器)、FileServer(文件服务器)和在OLTP(OnLine Transaction Processing,在线交易处理)服务器。这些测试组件产生不同大小的输入输出请求和读/写分布,以模仿实际应用中的行为。4.4.2 测试结果由于本次项目服务器配置主要选配SAS硬盘,故本次测试采用300G SAS硬盘进行测试,以下为测试结果。HD TachIOMete平均读取速度190MB/sMax IO(read)118 K 随机存取109MB/sMax IO(write)91K4.5服务器网络性能测试Netperf 4.5.1测试简介 针对当前项目机器只针对千兆网络进行了如下测试。Netperf可以测试服务器网络性能,主要针对基于TCP或UDP的传输。Netperf根据应用的不同,可以进行不同模式的网络性能测试,即批量数据传输(bulk data transfer)模式和请求/应答(request/reponse)模式。Netperf测试结果所反映的是一个系统能够以多快的速度向另外一个系统发送数据,以及另外一个系统能够以多块的速度接收数据。Netperf工具以client/server方式工作。server端是netserver,用来侦听来自client端的连接,client端是 netperf,用来向server发起网络测试。在client与server之间,首先建立一个控制连接,传递有关测试配置的信息,以及测试的结果;在控制连接建立并传递了测试配置信息以后,client与server之间会再建立一个测试连接,用来来回传递着特殊的流量模式,以测试网络的性能。对于服务器系统来说,网络性能显得尤其重要,有些服务器上为了节省成本,采用了桌面级的网络芯片,性能怎样,用这个软件一测便知了。以上介绍的这几款测试工具都是可以免费从网上下载的非商业软件,但是其测试结果和认可程度均是为大多数使用者所认同的。你可以根据自己的应用需求选择不同的软件进行测试。4.5.2 测试结果测试项网络响应时间组大小为2048时,响应时间为9.93S网络利用率82.9%网络吞吐量 779Mbps网络带宽容量 940 Mbps4.6服务器可靠性测试4.6.1测试方法本次可靠性测试环境:曙光天潮性能老化测试间,机房温度为3540度。1. 运行Linpack进行压力测试,运行24小时,长时间大量占用CPU资源。经过24小时测试期间无异常或死机现象,测试通过。2. Memtest压力测试,根据内存容量的不同,遍历多遍,无异常或死机现象,测试通过。3. IOmeter压力测试12小时,无异常或死机现象,测试通过。五、 总体结论根据本次进行的4类CPU测试,从整机Linpack测试,SPEC,内存性能上和用户当前的应用环境来看曙光A 系列服务器占有绝对优势,且具有极高的性价比。同时,在整机稳定性和系统吞吐性上来看,曙光机器表现十分优异。附:曙光售后服务曙光三级服务体系曙光公司拥有基于IS09001质量控制体系所建立的全新服务体系曙光服务快车。目前,曙光公司建设了全国性的技术服务和培训网点,已在全国建立了20多个分支机构,在全国各地建立了数百个授权技术服务中心和连锁服务网点。曙光公司以产品质量为生命线,以“用户第一”为服务宗旨,对其产品和服务实行全国联保。用户无论在何地、通过何种分销方式购买的曙光公司的产品,只要出具有效证件(发票或保修卡),就可享受曙光公司的服务承诺。曙光公司的三级服务体系将尽自己的义务,为您提供优质服务。曙光公司的技术服务过程全程受ISO9000质量保证体系控制。曙光公司通过三级服务体系,为用户提供全面的售前、售中、售后技术支持和培训服务。l 第一级服务,经曙光认证授权的渠道成员,曙光公司为每个代理曙光产品的商家都提供了标准化、专业化的技术支持培训和严格的上岗认证和服务授权,为客户提供完整的本地化服务网络和具有曙光特色的应用级服务。授权技术服务商作为第一级服务,能够在第一时间为用户提供电话、送修和现场服务。l 第二级服务,以曙光公司遍布在全国的曙光公司分支机构,即曙光平台和曙光技术服务区域中心作为第二级服务,管理和调度授权技术服务商,为用户提供技术支持;并管理曙光的第二级备件库;同时也直接响应最终用户的电话、送修和现场服务请求。曙光已在全国建立了30多个服务平台,15个授权技术服务及培训中心,能够为客户及时提供电话服务、送修服务和现场服务及培训等服务。l 第三级服务,曙光公司设在北京的技术服务中心(总部),作为第三级服务,全面调度、管理曙光公司分支机构和授权服务商的技术服务工作;管理共享服务资源和提供技术保障;全面提供售前、售中和售后技术解决方案;维护和保证整个服务体系的正常运转;同时也响应最终用户的电话、送修和现场服务,解决用户的任何技术服务问题; 负责运营曙光公司的中心备件库及曙光公司客户响应中心(即曙光技术服务CALL CENTER)。集群产品的服务承诺服务产品定义 由于曙光公司销售曙光自有品牌的产品,服务对象一般只针对那些购买和使用曙光机的曙光用户。服务是与购买行为结合在一起的,服务始终围绕销售行为展开,分为售前、售中和售后三个阶段。曙光把服务作为一项商品推出提供给用户,在产品化标准服务中努力建树曙光服务的良好品牌形象。服务产品售后技术支持的目的是:高效快速地解决用户在使用曙光产品时出现的各种技术问题,保证用户的系统连续、稳定高效地运行;最大限度地保护用户投资,为用户提供系统扩充和升级服务等 售后服务细目:1.免费保修服务 按照销售合同和曙光产品服务承诺所规定的保修期,为用户提供保修服务。 2.硬件支持服务项目部件分类服务内容现场服务人工部件、材料A 类处理器(CPU)、内存(Memory)、以太网卡、SCSI卡、SCSI终结器、显卡(限非专业)、机箱内结构及附件模组、机箱内线缆5年免费5年免费5年免费B 类主板、硬盘、电源、RAID控制器、CRT显示器、专业显卡、其他板卡、磁盘阵列5年免费5年免费3年免费C 类光驱、软驱、磁带机、风扇、KVM、LCD显示器、控制台、监控节点、交换机、防火墙5年免费5年免费1年免费D 类随机光盘、软盘、机箱外塑料部件、键盘、鼠标 3个月免费3.系统软件支持服务项目 操作系统现场安装和配置 操作系统升级 曙光CZSS集群存储系统的安装调试及日后的维护 其他由曙光公司提供的应用软件升级等曙光公司根据需要,向用户提供如下的服务包,具体内容如下:服务项目服务包内容电话支持服务远程支持服务现场支持服务5年硬件保修服务5年有限质保硬件更换服务备件供应服务硬件升级、扩充服务协助用
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 红岩课件教学课件
- 教我作文课件教学课件
- 露天作业课件教学课件
- 2024年度玻璃经销合同
- 2024年工程建设项目材料供应协议
- 2024年度生物医药研发与技术合作合同
- 2024年bulk货物运输协议
- 2024年云服务器租赁及托管合同
- 2024幕墙设计合同
- 2024年度虚拟现实技术研发与许可合同
- 浙江省温州市地图矢量PPT模板(图文)
- 上海市建设工程项目管理机构管理人员情况表
- 北师大版二年级数学上册第九单元《除法》知识点梳理复习ppt
- 空气能室外机保养维护记录表
- DB37∕T 5162-2020 装配式混凝土结构钢筋套筒灌浆连接应用技术规程
- 9-2 《第三方过程评估淋蓄水检查内容》(指引)
- 部编版七年级初一语文上册《狼》公开课课件(定稿)
- 2015路面工程讲义(垫层+底基层+基层+面层+联合层+封层、透层与黏层)
- 《现代汉语修辞》PPT课件(完整版)
- TTJCA 0007-2022 住宅室内装饰装修工程施工验收规范
- 构造柱工程施工技术交底
评论
0/150
提交评论