04 dellemcgpu计算解决方案

1、Dell EMC GPU计算解决方案 Dell EMC ISG 企业技术架构师企业技术架构师 Eric Wu eric_ 2 of YDell - Internal Use - Confidential GPU计算性能提升 Source: Nvidia 3 of YDell - Internal Use - Confidential 深度学习为什么适合GPU计算 深度神经网络训练过程中需要大量矩阵或者类似 矩阵的运算 矩阵运算具有大量可并行的计算逻辑，大量可并 行计算逻辑可以同步执行在GPU核心 CPU芯片设计为了处理大量控制指令执行优化， 花费大量的逻辑处理指令控制，与GPU设计目标 并不一

2、致，影响了对神经网络训练效率。 4 of YDell - Internal Use - Confidential Dell EMC GPU服务器选型 1U高密度 支持4块Tesla 双宽GPU+ EDR/Omni-path 主板集成支持NVLink、PCI-E Switch PowerEdge C4140 机架式(5U)与塔式部署 支持4块Tesla 双宽GPU 本地大容量存储空间- 最多32*2.5寸硬盘 PowerEdge T640 2U机架式 支持3块Tesla双宽GPU， 或4块FPGA 支持6块Tesla P4 支持FPGA 4U机架式，支持4路Intel处理器 GPU数据库，Map

3、D/Kenetica etc. 同时需要GPU与CPU计算高性能 支持4块双宽GPU，或8块FPGA PowerEdge R740 & R740 xd 2U机架式 支持4路Intel处理器 支持2块双宽GPU，或2块FPGA 支持F PowerEdge R940 xa PowerEdge R840 PowerEdge R7425 2U机架式 支持2路AMD处理器 支持3块Tesla全宽GPU 支持F 5 of YDell - Internal Use - Confidential Nvidia Tesla GPU选型 6 of YDell - Internal Use - Confidenti

4、al PowerEdge C4140 Dell EMC PowerEdge C4140 1U空间内支持四块性能最强的双宽GPU 卡 前置GPU，优化GPU散热风道设计 主板集成NVLink/PCI-E switch 24根内存插槽，6.4TB本地NVME SSD NVLINK is 25GB/s versus PCIe at 8GB/s - 绝大多数机房采用“前进风，后出风” 散热，GPU前置有利于 GPU散热效率 - GPU训练过程中需要大量的参数同步，要求GPU通信高带宽 - NLP/图像识别/人脸识别，存在大量KB级小文件(LOSF)，对 读取IOPS有很高要求，NVME SSD做本地存

5、储或共享存储SSD Cache，可以提供最出色的IOPS性能. 4* V100 SXM2+ TensorCore+ NVLink+ NVME SSD，提供单节点最佳，提供单节点最佳GPU计算性能计算性能 7 of YDell - Internal Use - Confidential GPU数据库加速大数据处理 航班数据集：在时间轴上刷新气泡图和行图刷新时间轴，并在显示行信息的数据点上悬停 8 of YDell - Internal Use - Confidential Dell EMC GPU分布式训练实践 使用2台Dell EMC GPU服务器，8 块Tesla P100 GPU，Tens

6、orFlow 框架下分布式训练测试 使用4台Dell EMC GPU服务器， 每台配置4块Tesla P100 GPU， 16块GPU集群，应用 GoogleNet 与Inception图像分类模型，GPU 加速比分别达到13.5倍和14.7倍。 9 of YDell - Internal Use - Confidential Tesla V100 GPU新特性 10 of YDell - Internal Use - Confidential V100 vs P100 11 of YDell - Internal Use - Confidential 12 of YDell - Internal Use - Confidential NVLink 13 of YDell - Internal Use - Confidential Tensor Core 14 of YDell - Internal Use - Confidential Tesla P100 15 of YDell - Internal Use - Confidential Tesla P40 16 of YDell