实验教学存储算力基础服务平台需求

实验教学存储算力基础服务平台需求一、项目概况建设本项目主要为提高学院计算机专业实验教学的水平和质量，增强学生的实践能力和就业竞争力。推动学院在网络通信、大数据、云计算等领域的实验教学发展，提升学院的科研和学术水平。加强与企业合作，共同开展科研项目、提供实习机会等，有利于提升学生的实践能力和就业竞争力。通过本项目的实施，可以获得更多的实践成果和实践经验，包括优秀实验作品、学术论文、专利等。（一）本项目的实施需具有可持续性，主要体现在以下几个方面：1、技术可持续性：本项目所采用的CPU+GPU架构是当今大数据处理和AI技术通用方案，大部分教师熟悉此系统，而C86+DCU架构是目前国内较为先进的具有开放平台和接口的计算机产品，具有较长的生命周期和良好的技术兼容性。2、服务可持续性：本项目所提供的存储算力基础服务项目可以不断升级和更新，持续优化服务体验，满足学院和学生的多样化需求。3、成果可持续性：通过本项目的实施，学生可以不断提升实践能力和创新能力，获得更多的实践成果和实践经验，为未来的职业发展打下坚实的基础。4、合作可持续性：本项目可以进一步拓展应用领域，加强与企业合作，共同开展科研项目、提供实习机会等，有利于提升学生的实践能力和就业竞争力。同时也可以与更多的高校和企业合作，共同推进技术的发展和应用。（二）本项目的实施将产生以下影响和成果：1、提升实验教学水平：通过建设基于网络通信和CPU+GPU混合C86+DCU架构的计算机专业实验教学存储算力基础服务项目，可以大幅提升实验教学的水平和技术含量。2、增强学生实践能力：本项目将为学生提供更多的实践机会和创新能力提升的机会，从而增强他们的实践能力和就业竞争力。3、推动学院产学研发展：本项目的实施将促进学院在网络、大数据、云计算等领域的实验教学水平提升，为学院的产学研发展提供有力支持。4、促进校企合作：本项目可以进一步拓展应用领域，加强与企业合作，共同开展科研项目、提供实习机会等，有利于提升学生的实践能力和就业竞争力。本项目建设后，师生可以通过本平台获得更多实践成果：通过本项目的实施，学生将获得更多的实践成果和实践经验，包括优秀实验作品、学术论文、专利等，展示了他们在实践中的能力和成果。二、采购清单序号采购内容数量单位是否适宜面向中小企业采购01GPU计算节点1台否02推理计算节点11台是03推理计算节点22台是04训练节点1台是05高性能存储1台是06管理节点服务器1台否07异构算力管理平台1套是08万兆核心交换机1台否09千兆交换机1台否10机柜1项是11散力承重架建设1项是12入室电缆改造1项是13在线式UPS接入1项否14精密空调1台否15定温悬挂七氟丙烷灭火装置1套是16机柜七氟丙烷气体灭火装置1套是17施工和其他1项是三、清单参数序号采购内容技术参数要求数量单位备注01GPU计算节点1、采用≥4U机架式GPU服务器，附带导轨，可放入42U标准机柜。2、配置≥2颗X86处理器，每颗CPU核心数≥20核，每颗CPU线程≥40线程，基准主频≥2.0GHz，L3Cache≥37.5M，支持AVX512指令集。3、配置≥16条32GBDDR5RDIMM内存，支持≥32个内存插槽。4、配置≥2块480GB2.5寸SATASSD，配置≥1块3.84T2.5NVMESSD，配置≥4块8TB3.5寸7.2KSATA硬盘。5、前置最高支持24LFF/SFF、最高支持16个NVMeSSD，内置2个M.2。6、配置4GBSAS8口RAID卡，支持Raid0/1/5/6。7、配置≥1块双口10G光纤网卡（含模块），配置≥1块双口1G网口。8、可支持12个PCIe5.0x16插槽，可扩展到8个双宽GPU卡。9、配置GPU数量≥4张GPU卡，FP16≥73.5Tflops，FP32≥73.5Tflops，兼容CUDA生态，显存≥24GB。支持FP32、FP16、INT8等数据格式。10、为满足不同场景下使用达到最优性能，GPU的PCIe连接拓扑支持调整为CPU：GPU=1：4或者CPU：GPU=1：8。11、支持8个8080风扇，支持N+1冗余。风扇分上下2层可以对CPU和GPU进行分层散热。12、故障诊断，支持离线光诊断功能，可断电环境下诊断主板关键信息故障。13、支持扩展机箱防入侵功能，确保系统安全。14、提供面向科研人员学习交流及实训的综合社区平台。围绕所投的GPU卡，涵盖行业动态、资源下载、学习中心、业内专家分享课程、在线实训平台、代码仓库等。15、配置≥4个2000W铂金级电源，任意两个电源功率需保证满足服务器满负荷运行需要，支持3+1/2+2冗余。1台02推理计算节点11、采用≥4U机架式GPU服务器，附带导轨，可放入42U标准机柜。2、配置≥2颗X86处理器，每颗≥32核，线程≥64线程，基准主频≥2.0GHz，L3Cache≥64M，支持硬件加解密引擎。3、支持远程关机和重新启动功能。4、配置≥16条内存单条容量不低于32GBDDR4RDIMM内存，支持≥32个内存插槽。5、配置≥2块480GB2.5寸SATASSD。6、前置最高支持24LFF/SFF、最高支持16个NVMeSSD，内置2个M.2。7、M.2板载支持2个SATA/PCIeM.2，支持组硬RAID。8、配置4GBSAS8口RAID卡，支持Raid0/1/5/6等模式。9、配置≥2块双口10G光纤网卡（含模块），配置≥1块双口1G网口。10、可支持12个PCIe4.0x16插槽，可扩展到8个双宽GPU卡。11、配置GPU数量≥2张GPU卡，FP32算力≥45TFLOPS，TF32算力≥95TFLOPS，BF16算力≥190TFLOPS，显存容量≥64GB，显存带宽≥896GB/s。12、为满足不同场景下使用达到最优性能，GPU的PCIe连接拓扑支持调整为CPU：GPU=1：4或者CPU：GPU=1：8。13、故障诊断，支持离线光诊断功能，可断电环境下诊断主板关键信息故障。14、配置≥4个2000W铂金级电源，，任意两个电源功率需保证满足服务器满负荷运行需要，支持3+1/2+2冗余。15、提供面向科研人员学习交流及实训的综合社区平台。围绕所投的GPU卡，涵盖行业动态、资源下载、学习中心、业内专家分享课程、在线实训平台、代码仓库等。1台03推理计算节点21、采用≥4U机架式GPU服务器，附带导轨，可放入42U标准机柜。2、配置≥2颗X86处理器，每颗≥32核，线程≥64线程，基准主频≥2.0GHz，L3Cache≥64M，支持硬件加解密引擎。3、支持故障检测功能，可以检测到具体的FRU（内存、硬盘等）的故障并发出告警。4、配置≥16条32GBDDR4RDIMM内存，支持≥32个内存插槽。5、配置≥2块480GB2.5寸SATASSD。6、前置最高支持24LFF/SFF、最高支持16个NVMeSSD，内置2个M.2。7、M.2板载支持2个SATA/PCIeM.2，支持组硬RAID。8、配置4GBSAS8口RAID卡，支持Raid0/1/5/6。9、配置≥2块双口10G光纤网卡（含模块），配置≥1块双口1G网口。10、可支持≥12个PCIe4.0x16插槽，可扩展到8个双宽GPU卡。11、数量≥2张GPU卡，每卡FP64≥9.7TFPLOPS，同时支持混合精度计算(含FP64、FP32、FP16、INT8)。12、为满足不同场景下使用达到最优性能，GPU的PCIe连接拓扑支持调整为CPU：GPU=1：4或者CPU：GPU=1：8。13、故障诊断，支持离线光诊断功能，可断电环境下诊断主板关键信息故障。14、支持扩展机箱防入侵功能，确保系统安全。15、配置≥4个2000W铂金级电源，，任意两个电源功率需保证满足服务器满负荷运行需要，支持3+1/2+2冗余。16、外设兼容性：兼容多种主流生产商的外部设备，包括显示器、键盘、鼠标、闪存盘、移动硬盘、USB光驱及KVM等，要求使用不同厂商的外部设备时，系统均能正常识别和安装驱动。17、故障检测：支持故障检测功能，可以检测到具体的FRU（内存、硬盘等）的故障并发出告警。18、内存故障智能预测和自愈修复：支持内存故障智能预测和自愈修复，提前自动硬隔离，避免内存故障引起的非预期宕机以及内存寿命的降低。19、主板防烧板设计：支持主板防烧板设计，保证电源故障后不扩散。20、主机、处理器和GPU卡部件需与序号02对应部件同一品牌。2台04训练节点1、采用≥4U机架式GPU服务器，附带导轨，可放入42U标准机柜。2、配置≥2颗X86处理器，每颗≥32核，线程≥64线程，基准主频≥2.0GHz，L3Cache≥64M，支持硬件加解密引擎。3、部件可靠性：支持硬盘、电源、风扇热插拔(内置风扇除外)。4、配置≥16条32GBDDR4RDIMM内存，支持≥32个内存插槽。5、配置≥2块480GB2.5寸SATASSD，配置≥1块3.84T2.5NVMESSD，配置≥4块8TB3.5寸7.2KSATA硬盘。6、前置最高支持24LFF/SFF、最高支持16个NVMeSSD。7、M.2板载支持2个SATA/PCIeM.2，支持组硬RAID。8、配置4GBSAS8口RAID卡，支持Raid0/1/5/69、配置≥2块双口25G光纤网卡（含模块），配置≥1块双口1G网口。10、可支持≥12个PCIe4.0x16插槽，可扩展到8个双宽GPU卡。11、配置GPU数量≥2张GPU卡，FP16≥196Tflops，FP32≥49Tflops，显存≥64GB。支持FP32、FP16、BF16、INT8等数据格式。12、为满足不同场景下使用达到最优性能，GPU的PCIe连接拓扑支持调整为CPU：GPU=1：4或者CPU：GPU=1：8。13、故障诊断，支持离线光诊断功能，可断电环境下诊断主板关键信息故障。14、配置≥4个2000W铂金级电源，任意两个电源功率需保证满足服务器满负荷运行需要。支持3+1/2+2冗余。15、围绕本方案GPU卡，提供Pytorch、TensorFlow、Jupyter、VSCode等镜像资源下载。提供pytorch、deepspeed、vllm等常用深度学习python包下载。提供qwen2、llama3、StableDiffusion等模型下载。16、供应商须确保产品的部件在产品服务周期内稳定供货。17、供应商提供设置服务器硬件、辅助操作系统安装等功能的辅助工具和管理软件。且随附软件应具有合法授权或版权。18、支持主板防烧板设计，保证电源故障后不扩散。19、支持USB、显示、管理等接口，如：VGA、DP、HDMI、USB3.0、PS/2接口、BMC管理端口。20、配备前后VGA显示接口，且VGA接口≥2个。21、主机、处理器和GPU卡部件需与序号02对应部件同一品牌。1台05高性能存储1、多控制器架构，最大支持8个控制器，控制器之间支持缓存镜像，主控高度≥3U。2、存储系统支持IPSAN、FCSAN、NAS等组网方式，本次提供iSCSI、FC、NFS、CIFS、HTTP、FTP等多种协议许可。NAS功能应为非网关实现方式。硬件采用全模块架构冗余设计，无单一故障点。3、本次配置≥2个存储控制器，且单机箱两控制器间采用PCI-E互联。4、双控制器缓存规格：本次配置≧128GBCache，缓存不包含SSD磁盘、高速Flash及NAS控制器缓存。5、配置SSD缓存加速功能，要求同时支持读写性能加速，降低应用延迟。不接受通过存储分层方式实现。6、配置BBU+Flash永久电池保护模组，不存在断电时间限制。7、本次配置8个1GbE接口，4个10GbE接口。2个12GbSAS3.04X磁盘通道。8、支持3.5寸7.2KNL-SAS，2.5寸10KSAS，SSD等多种类型磁盘。支持三种磁盘在同一磁盘柜中混插。9、本次配置≥16块16TB3.5寸7.2K12GbSAS硬盘。10、支持RAID0/1/5/6/10/50/60等RAID级别。12、配置SAN、NAS快照功能：单卷支持快照数≥512个。支持系统定时自动创建快照，且定时快照策略可通过存储自身管理软件配置，定时快照最小时间间隔≤5分钟。13配置SAN、NAS克隆功能，要求瞬时完成，并对克隆的数据可以进行读写更改。14、支持数据预迁移功能，即将预故障硬盘的数据迁移至热备盘。通过介质巡检功能，自动检测逻辑磁盘中的物理硬盘状况，根据检测结果和硬盘的Smart信息进一步判断硬盘故障和硬盘潜在故障，并且能够自动启动数据预迁移程序，将即将故障盘的数据迁移到热备盘。15、配置自动精简功能，实现存储设备的容量按需动态扩展。16、支持智能日志导出功能，即通过USB端口自动将日志导出到U盘，且导出的日志内容需与存储界面的日志内容一致。17、系统具有完全在线、无需停机的微码升级以及容量扩充能力，支持GUI升级。18、支持MAID2.0磁盘节能技术，当磁盘不用的时候，支持磁盘降速和停转，节省功耗。19、供应能力证明：供应商须确保产品的部件在产品服务周期内稳定供货。20、配置热插拔1+1冗余电源，任意一个电源功率需保证满足服务器满负荷运行需要。1台06管理节点服务器1、机型：2U机架式服务器，附带导轨，可放入42U标准机柜，支持GPU扩展。2、配置≥2颗X86处理器，每颗≥16核，线程≥32线程，基准主频≥2.4GHz，L3Cache≥24M，支持AVX512指令集。3、内存：配置≥16条32GBDDR44800内存，支持≥32个内存插槽，支持内存ECC保护、内存镜像、内存热备。4、配置≥2块480GB2.5寸SATASSD，配置≥4块8TB3.5寸7.2K转速SATA硬盘。5、M.2扩展：主板板载2个M.2接口并提供主板实物及证明文件。6、配置4GBSAS8口RAID卡，支持Raid0/1/5/6。7、配置≥1块双口10G光纤网卡（含模块），配置≥1块双口1G网口。8、系统风扇：配置6个热插拔风扇模组，支持N+2冗余。9、PCIE扩展：支持8个PCIe5.0槽位，至少6个PCIe5.0x16。10、配置热插拔铂金1+1冗余电源，单个电源功率不低于800W白金电源，任意一个电源功率需保证满足服务器满负荷运行需要。1台07异构算力管理平台1、提供一套满足本次集群建设的人工智能管理及调度平台。2、运行信息查看：支持集群信息快速查看包括：①显示集群CPU平均利用率。②集群内存平均利用率。③集群负载等。④大屏幕视图显示集群总览（显示算力峰值、存储用量统计等）。⑤集群作业监控概览（显示作业列表、作业状态、告警记录等）。⑥集群监控概览（显示资源使用情况。⑦相对一分钟负载、资产统计等）。3、开发环境提供①人工智能Notebook。②支持一站式开发环境服务。③TensorFlow。④提供PyTorch等开发框架。⑤JupyterLab。⑥VSCode。⑦支持RStudio等开发工具。⑧服务实例的暂停和重启。⑨支持开发环境自定义。4、可以进行用户数据集更新，删除、克隆等。5、集成Winscp客户端软件，提供软件下载链接，调用客户端软件时自动设置服务端地址、服务端目标目录和登录用户。6、提供基于Web的文件管理功能，支持文件和文件夹的创建、删除、重命名、在线编辑、权限设置，支持文件的节点间同步，支持文件批量上传和打包下载。7、支持模型创建、模型克隆、模型删除和展示模型状态等，通过模型管理可以更方便的对不同模型进行处理、更直观的了解当前模型的运行情况以支持训练管理。8、提供基于Caffe的数据集预处理，用户可自行选择lmdb和leveldb等不同后端格式。9、支持基于docker容器的模型训练功能。对Caffe、TensorFlow、PyTorch等框架提供在线模型编辑功能，用户可自定义训练使用的框架版本，容器数量，GPU数量，内存，GPU型号等资源，并且可以实时查看训练曲线输出，监控各容器内资源使用状况。10、支持告警管理：①支持自定义告警策略。②实现页面预警。③邮件告警等通知方式。符合。④告警策略条件将会产生相应告警信息并通过邮件、短信方式通知负责人。11、对TensorFlow和Pytorch等框架下的训练任务提供Horovod训练模式，支持通过Horovod进行大规模RingAllReduce训练。12、支持基于docker容器的在线推理功能。支持Caffe、TensorFlow、PyTorch等框架，用户可自定义推理使用的框架版本，模型路径，模型输出层及前后处理脚本。集成图像分类，目标检测、语义分割等推理应用类型，可进行数据批量推理，显示原始图片、推理结果及必要标注信息。13、支持基于容器的分布式超参数自动调优功能。支持TPE自动搜索算法，多参数同时调优，分布式调优等功能。用户可自定义调参任务的调优参数类型、调参范围，使用的框架版本、容器数量、GPU数量、内存、GPU型号等内容，并可以实时查看调参曲线输出，监控各容器内资源使用状况。14、支持TensorFlow和PyTorch框架下的可视化的TensorBoard应用。15、支持公有镜像管理，用户可以订阅平台公有的容器镜像资源进行使用。管理员可以向公有镜像库上传镜像资源。16、支持私有镜像管理，将私有镜像分享至公有镜像库，供其他用户订阅和使用。支持本地镜像上传和自定义。17、支持用户自定义镜像，包括在线固化，本地上传，从DockerHub拉取，基于Dockerfile在线制作等模式。提供镜像制作进度和日志查询功能。18、支持镜像推送，支持用户将自定义镜像或订阅镜像推送至训练、调优、推理等图形化流程进行使用。用户推送的镜像仅对自身生效，不影响平台其他用户。19、①支持镜像管理。②支持构建镜像。③去镜像仓库克隆。可以将镜像共享给所有人活指定用户组。管理可以发布镜像和上次镜像，支持链接第三方镜像仓库，下载镜像使用，涵盖容器镜像、镜像仓库等。20、支持用户自定义容器的服务端口，支持http和socket等端口模式。21、支持以远程后端形式对接Pycharm等本地IDE工具。22、支持用户申请自定义容器任务，用户可以自定义容器任务使用的镜像版本、容器实例数量、GPU数量、GPU类型、CPU数量、内存大小等资源，并可通过页面嵌入的SSH和Jupyter方式对容器进行访问。23、支持容器跨节点进行调度计算。Caffe/TensorFlow/PyTorch等分布式计算方式。24、支持公有镜像管理，用户可以订阅平台公有的容器镜像资源进行使用。管理员可以向公有镜像库上传镜像资源。支持私有镜像管理，将私有镜像分享至公有镜像库，供其他用户订阅和使用。支持本地镜像上传和自定义。支持用户自定义镜像，包括在线固化，本地上传，从DockerHub拉取，基于Dockerfile在线制作等模式，提供镜像制作进度和日志查询功能。25、用户可在分享中心分享和订阅数据集、模型、代码和文档等内容。用户可获得订阅内容的访问权限，其中数据集和模型可在编辑训练任务时直接访问。26、支持自定义用户主页，可按需将常用或重要应用添加至主页快捷访问。27、支持添加数据集，包括图像分类、目标检测、语义分割等场景。支持算法管理，能够进行算法克隆。支持创建训练、调优及推理任务。28、支持Restful二次开发接口，用户可基于现有平台功能进行二次开发。29、支持将Caffe/Tensorflow/PyTorch等应用软件预设配置到容器中。并且可以在容器中使用IB网络进行计算。30、支持按节点进行分区，不同的分区进行不同的访问控制和调度策略。31、支持基于队列、用户、用户组等多个维度的优先级定义策略，根据作业的静态（如资源请求、所属用户等）和动态指标（如入队时间、公平共享份额等），通过不同的权重设置，灵活控制作业优先级。32、支持基于队列、用户、用户组等不同维度的资源限额（即可用处理器数、内存数、节点数、作业数、GPU数等），方便管理员控制资源分配。33、支持针对不同用户（或用户组、队列）设置资源使用的份额，保证公平合理的使用资源34、允许作业独占计算节点，支持集群、队列、作业三级的的节点独占策略设置。35、支持对高优先级作业进行资源预留，有效解决在集群高负载情况下的大作业“饥饿”问题。36、支持灵活可配置的节点可用性判定策略。检查作业的可用节点时，需要考虑多种资源请求（如处理器、内存、磁盘）进行判定，允许针对不同的资源使用不同的判定算法（如按照实际使用量、按照调度分配量，或者综合两者进行判定）。37、支持将作业均衡的分配到所有计算节点上，避免任务堆积在个别节点，因争抢CPU、内存等资源导致计算变慢。38、支持随机选择作业的计算节点，解决特定场景和固定调度算法下某些计算节点被频繁使用的问题。39、支持作业回填，有效平衡大作业和小作业的调度，提高集群作业吞吐量。40、支持作业多级抢占，支持对被抢占作业进行“挂起”、“重新入队”等处理操作。41、支持对于CPU+GPU（包括GPU、MIC）异构集群的调度。支持CPU作业和GPU作业共用GPGPU节点，支持为GPU/MIC按比例预留一定的CPU，保证GPU/MIC作业调度的成功率。1套08万兆核心交换机1、交换容量≥2.56Tbps，包转发率≥1080Mpps。2、端口≥48个万兆SFP+口，≥2个QSFP+光口。3、支持VxLAN二层交换，支持VxLAN路由交换，支持VxLAN网关。4、支持前后、后前风道，支持双电源，风扇模块冗余设计。5、支持虚拟化堆叠，最大堆叠台数≥9。6、支持Macsec链路保护协议，保障业务的安全可靠。7、支持IPv4、IPv6静态路由，RIP等三层动态路由协议，支持等价路由、VRRP、OSPFv1/v2、OSPFv3、BGP、ISIS等增强三层路由协议。8、支持智能网络质量分析（iNQA）技术，快速测量网络性能的检测机制。9、支持STP/RSTP/MSTP协议，支持ERPS以太环保护协议（G.8032）。10、支持集中MAC认证，支持802.1X，支持AAA认证，支持IP+MAC+端口绑定，支持CPU防护。11、支持安全启动，在系统启动过程中支持安全检测，防止对系统镜像进行修改和伪造数据。12、支持命令行接口（CLI）配置，Telnet远程配置，SNMP管理协议。1台09千兆交换机1、性能：整机交换容量≥336Gbps。转发性能≥144Mpps。2、端口≥48千兆电，≥4万兆SFP+。3、支持IPv4/IPv6静态路由，支持RIP/RIPng，OSPFV2/V3。4、支持虚拟化堆叠，最大堆叠台数≥9。5、支持ERPS功能，能够快速阻断环路，链路收敛时间≤50ms。6、支持CPU保护功能，能限制非法报文对CPU的攻击，保护交换机在各种环境下稳定工作。7、支持IGMPv1/v2/v3，MLDv1/v2等组播协议。8、支持SNMPV1/V2/V3、RMON、SSHV2等协议。9、支持10KV业务端口防雷能力。10、支持IEEE802.3az节能标准，关闭没有应用的端口，节省能源。11、与序号08产品同一品牌。1台10机柜1、42U标准服务器机柜。2、前后单开网孔门，标配≥3块层板，≥2组风扇，≥1个八位电源PDU，4个脚轮，4个支脚，≥40套螺母螺钉。

3、承重≥800KG。4、提供1年质保服务。1项11散力承重架建设1、机列位置贴地加两根10#槽钢,横向贯通100mm*50mm角钢，机柜采用底部进线方式。具体按现场需求定制。2、提供1年质保服务。1项12入室电缆改造1、从电井引一组电缆主线不少于30米、25平方电源。保证本次所购服务器和旧有服务器等设备的使用，并预留后续升级量。更换配电柜及电缆等按现场需求定制。2、配置本项目设备所需的电源PDU、连接电缆、电控箱等辅材。3、提供1年质保服务。1项13在线式UPS接入1、主机容量≥10KVA。采用在线式双变换技术。

2、输入电压110-300V。频率跟踪范围（50±6）Hz。

3、输入功率因数（100％负载）＞0.99。

4