AI计算云平台建设需求

AI计算云平台建设需求一、概述本项目所采购货物，均要求提供5年免费质保服务；本次项目不包含机房改造费用，如因机房环境无法满足设备和系统正常运行，要求投标人免费提供机房改造服务，并保证质保期内设备运行稳定；二、内容一览表序号货物名称数量目的地1H20节点2台2CPU计算节点3台3工作站10台4Login节点1台5全闪节点3台6混闪节点3台7全100G网口交换机1台8千兆交换机1台9万兆电口交换机1台10原有主机算力配置扩容1批11技术资料全套12供应商须提供的其他资料三、技术要求1、H20节点（2台）指标项技术规格要求外型≥8U机架式服务器；处理器配置≥2颗X86可扩展处理器，支持AVX-512指令集，单处理器核心≥96C，主频≥2.4GHz,支持4800DDR5内存；GPU≥8个NVIDIAHGXH20GPU卡；内存≥24*64GDDR54800MHz；存储≥2*7.68TBNVMeSSD，支持≥29个2.5寸热插拔硬盘槽位，支持12个NVMe硬盘；I/O支持多达12个PCle5.0标准插槽+1个OCP3.0网卡专用插槽；网络配置≥1块2口100Gb网卡（含100GQSFP28光模块），支持RoCEv1和RoCEv2；

配置≥1块2口10G电口网卡；配置≥4块1口200GHDR网卡；电源配置≥8个热插拔冗余电源，6个≥3000WGPU计算模块电源，支持3+3冗余，2个≥2000WCPU计算模块电源，支持1+1冗余；风扇15个高性能风扇，支持N+1冗余；嵌入式管理配置≥1Gb独立的远程管理控制端口；配置虚拟KVM功能,可实现与操作系统无关的远程对服务器的完全控制，包括远程的开机、关机、重启、更新Firmware、虚拟光驱、虚拟文件夹等操作，提供服务器健康日记、服务器控制台录屏/回放功能，能够提供电源监控，服务器支持智能温度监控，具备支持以图形化形式展示各组件温度传感器的分布图，可直观体现服务器整体温感状态，如发生温度告警可快速定位到具体区域；联合管理可实现在不部署任何管理软件的情况下，通过联合功能管理多个服务器，实现服务器的统一管理，支持管理服务器数量为200台；带外升级不依赖OS，可带外升级BIOS、BMC版本，可通过BMC界面带外一次升级多个部件的固件（如网卡部件、存储卡部件等），无需多次升级；安全检测功能支持检测BMC存在的安全隐患；可通过安全仪表集中展示帐号和应用服务（如证书有效期）等安全配置状态，及时识别BMC安全配置的风险；当检测到风险时，可以查看详细信息和建议提高系统的安全性；用户管理支持系统管理员、租户管理员、普通用户多种角色权限管理特性；Web管理支持web界面创建文件夹，对文件夹的删除、下载、移动、共享、重命名、复制路径等操作；支持web界面文件的上传、下载、浏览、编辑、移动、共享、重命名和复制路径等操作；支持对文件和文件夹的批量删除和下载操作；文件管理支持海量文件、大文件FTP上传，支持NFS和GPFS文件，支持web界面创建文件夹，对文件夹的删除、下载、移动、共享、重命名、复制路径等操作；支持web界面文件的上传、下载、浏览、编辑、移动、共享、重命名和复制路径等操作；支持对文件和文件夹的批量删除和下载操作；镜像管理支持私有镜像、公共镜像、外部镜像等多种镜像管理方式；异构资源管理同时可以管理AI和HPC分区的资源池资源；计费管理支持对CPU、GPU、内存等资源进行计量计费，支持预付费、后付费等多种计费策略；进口/国产GPU同时纳管支持进口主流Intel、NVIDIA等品牌多款GPU和国产主流昆仑芯、天数、沐曦、华为等品牌多款GPU同时纳管，支持纳管NVIDIARTX4090；多平台CPU纳管业务集群支持ARM和X86平台的同时纳管；GPU资源切分支持mig物理切分和vgpu虚拟切分；集群资源监控支持集群资源监控；支持CPU、内存、GPU、网络带宽等资源的实时使用曲线图；支持单节点的资源实时监控；支持多维度资源统计；机柜监控视图机柜监控视图中的设备可以通过拖拉拽方式进行组网，设备可以在机架内部、机架间在机架空间尺寸允许的条件下任意拖放；数据标注支持数据标注功能，支持个人标注和团队标注，支持标注任务审核；学习框架平台内置TensorFlow、Pytorch、等常见深度学习框架和scikit-learn机器学习框架；建模支持编码式建模和任务流拖拽式深度学习可视化建模；提供70种以上常用算子组件，包括数据预处理、特征工程、统计分析、机器学习、深度学习六大类组件；框架作业运行支持任意框架作业运行，支持单机单卡、单机多卡、多机多卡，支持多种框架的分布式建模训练，如Tensorflow单机多机，Pytorch单机多机，Horovod分布式训练等；模型管理内置LLAMA2、ChatGLM2、baichuan2等40+种常用大模型，支持模型导入、导出；模型训练、微调内置微调脚本和参数调优工具，支持故障自动检测，支持自动checkpoint断点续训，支持checkpoint存储加速；云上支持冗余节点自动替换；模型转换支持将TensorFlow、Pytorch等开源框架模型格式转换为ONNX格式，也可以将ONNX格式模型转换为TensorFlow、Pytorch格式；模型评估集成业界常用模型评估工具；模型推理推理过程支持弹性扩缩容；交互式开发集成jupyterlab；支持与本地IDE互通；报表系统支持报表系统，能够对已完成作业、用户作业吞吐量、资源使用统计和存储等进行统计，按用户、用户组、队列、时段等纬度进行显示，能够生成统计报表，报表支持pdf、html和excel格式，支持导出报表；授权提供算力调度软件平台授权及配套管理平台资源，提供AI业务节点管理授权；2、CPU计算节点（3台）指标项技术规格要求总体要求≥2U机架式，标配原厂导轨；处理器配置≥2颗X86可扩展处理器，支持AVX-512指令集，单处理器核心≥96C，主频≥2.4GHz,支持4800DDR5内存；内存≥24根64GB4800MHzDDR5内存；硬盘配置≥2*7.68TNVMeSSD；PCII/O插槽提供≥10个标准PCIe5.0插槽；网卡支持最大3个OCP3.0槽位，可选配千兆、万兆网卡或25G网卡；本次配置≥1块2口10G电口网卡；1块2口100Gb网卡（含100GQSFP28光模块），支持RoCEv1和RoCEv2；1块1口200GHDR网卡；GPU本次配置1块NVIDIAL4048GGPU卡，支持扩展最大4块双宽或10块单宽GPU卡；冗余电源≥2个白金版热插拔冗余电源，支持94%能效比的白金级电源选件，支持1+1冗余；冗余风扇热插拔冗余风扇；嵌入式管理配置≥1Gb独立的远程管理控制端口；配置虚拟KVM功能,可实现与操作系统无关的远程对服务器的完全控制，包括远程的开机、关机、重启、更新Firmware、虚拟光驱、虚拟文件夹等操作，提供服务器健康日记、服务器控制台录屏/回放功能，能够提供电源监控，支持3D图形化的机箱内部温度拓扑图显示；联合管理可实现在不部署任何管理软件的情况下，通过联合功能管理多个服务器，实现服务器的统一管理，支持管理服务器数量为200台；带外升级不依赖OS，可带外升级BIOS、BMC版本，可通过BMC界面带外一次升级多个部件的固件（如网卡部件、存储卡部件等），无需多次升级；安全检测功能支持检测BMC存在的安全隐患；可通过安全仪表集中展示帐号和应用服务（如证书有效期）等安全配置状态，及时识别BMC安全配置的风险；当检测到风险时，可以查看详细信息和建议提高系统的安全性；硬件加密基于硬件的加密，可以加密虚拟机和内存；其它安全选项提供UEFI安全启动；

支持国家标准TCM1.0可信计算；

可配置机箱入侵侦测，在外部打开机箱时提供告警功能；3、工作站(10台)指标项技术规格要求处理器≥第14代英特尔I7处理器；核心数不低于20核心，线程数不低于28线程，缓存不低于28MB，最大睿频不低于5.6GHz，基础功耗不高于125w；芯片组配置≥IntelZ790芯片组；支持PCIE5.0通道技术；内存4*32GBDDR55600MHzRDIMM，支持双通道；固态硬盘≥4TBPCIeNVMeSSD；读写速度不低于7000Mb/s；机械硬盘≥8TB7200转；机箱≥中塔式机箱，593*245*560mm；设备端口≥8个外置USB协议接口，1个RJ45网络接口，1个音频输出端口；PCIE插槽≥2个第4代PCIe插槽；1个PCI32位/33MHz插槽；网络配置≥2.5Gbs以太网控制器；配置WIFI7无线能力；GPU显卡数量≥1块；显存≥24GGDDR6显存；CUDA核心数≥16384个；要求原厂预装非后期加装，且与整机享受相同年限的售后服务；电源≥1200W电源；4、Login节点（1台）指标项技术规格要求总体要求≥2U机架式，标配原厂导轨；CPU配置≥2颗不低于Xeon®第四代处理器(核心数≥20,主频≥2.0GHz)；内存≥8根64GB4800MHzDDR5内存；硬盘配置≥8块2.5寸NVMe硬盘插槽；配置≥2块3.84TNVMeSSD；PCII/O插槽最多提供≥18个PCIe标准槽位；网卡支持多达8个OCP3.0槽位；配置≥1块2口10G电口网卡；GPU可配置≥4块双宽或14块单宽GPU卡；冗余电源≥2个白金版热插拔冗余电源，支持94%能效比的白金级电源选件，支持1+1冗余；冗余风扇热插拔冗余风扇；嵌入式管理配置≥1Gb独立的远程管理控制端口；配置虚拟KVM功能,可实现与操作系统无关的远程对服务器的完全控制，包括远程的开机、关机、重启、更新Firmware、虚拟光驱、虚拟文件夹等操作，提供服务器健康日记、服务器控制台录屏/回放功能，能够提供电源监控，支持3D图形化的机箱内部温度拓扑图显示；联合管理可实现在不部署任何管理软件的情况下，通过联合功能管理多个服务器，实现服务器的统一管理，支持管理服务器数量为200台；带外升级不依赖OS，可带外升级BIOS、BMC版本，可通过BMC界面带外一次升级多个部件的固件（如网卡部件、存储卡部件等），无需多次升级；安全检测功能支持检测BMC存在的安全隐患；可通过安全仪表集中展示帐号和应用服务（如证书有效期）等安全配置状态，及时识别BMC安全配置的风险；当检测到风险时，可以查看详细信息和建议提高系统的安全性；高性能、高可用采用微服务架构，容器底座，支持弹性扩缩容，随着业务量的增加系统可自动新建容器，支撑业务的正常运行，单个模块的服务故障、升级等，不会影响其他业务；上下级管理支持分级部署和管理，上下级各自自主管理、操作分离、数据分别存储，可以通过界面在分级管理选择上级或下级管理站点角色，部署模式可选择Region或Proxy，支持上级统一汇总查看上下级数据；灵活的第三方开放接口系统采用松耦合技术，前后端接口分离便于前端定制；丰富的南、北向接口，便于快速实现同第三方系统的集成；多重系统安全保障登录系统支持LDAP、RADIUS、TACACS等认证方式；支持提供单点登录认证地址的第三方认证方式；告警能力支持多种提醒方式，如告警实时提醒（告警板）、告警提示音、微信告警，支持与现有短信平台进行对接；支持告警自动化配置：包括根据规则自动调整告警级别、自动确认等；告警渲染支持通过对告警进行内容渲染配置，支持预定义渲染规则，包括：接口描述、系统描述、资源分组；支持从CMDB选择属性进行渲染，在告警详情中显示告警对象在CMDB维护的信息；告警转发支持告警通过邮件、短信、微信、企业微信、工单方式转发和值班转发，在告警值班转发中设置规则绑定ITSM值班工作组，告警发生后，自动短信或邮件方式通知ITSM值班人员；操作系统操作系统管理：提供对常见操作系统的监控管理,包括Windows、AIX、IBMAS400/iSeries、FreeBSD/OpenBSD、Linux、MacOS等，同时支持对国产操作系统如中标麒麟、银河麒麟、凝思磐石等的监管；服务器硬件管理平台需具备全面性，必须支持通过IPMI、SNMP、RESTful和Redfish协议带外方式对主流厂商服务器进行硬件层面的精细化管理，包括服务器序列号、硬件型号、产品ID、风扇状态/风速、温度、电源功率/状态/模式、处理器状态/缓存/速度、内存大小/状态/频率、网卡状态相关信息的监控；同时支持服务器硬件系统事件的采集，包括硬件错误事件，并支持将服务器系统事件转换为运维平台的告警信息；监控模板对同类型监控对象支持按需自定义监控模板，包括采集哪些指标、采集间隔、阈值、告警级别、触发次数，实现灵活高效的个性化监控需求；自定义监控支持图形化配置界面的方式，新增监控对象类型和自定义指标采集配置；支持通过SSH、SMI-S、SNMP等协议对监控指标进行扩展；通过shell脚本进行监控指标自定义扩展时，支持自主定义采集输入参数、资源图标、访问参数等，并支持使用Perl脚本扩展shell能力；支持密码、密码+super密码、密码+秘钥、秘钥等各种SSH认证配置；vKVM功能支持服务器通用vKVM远程控制台能力，可以实现带外登录管理功能；网络资源管理支持纳管多厂商设备，包括H3C、华为、思科、锐捷、迈普、中兴等；支持自定义监控指标；用户可以指定监控参数、自定义指标监控计算公式；支持五级阈值告警，支持大于、小于、等于等多种阈值运算符号；网络拓扑支持多种协议自动构建网络拓扑，LLDP、ARP、MAC、STP、IP；支持查看设备名称、设备IP、设备位置、设备状态、设备厂商、运行时间、告警统计数据等；支持在拓扑图上查看设备和链路实时监控数据，包括设备CPU和内存利用率，接口；授权配置25点网络监控软件授权，配置50点基础设施监控软件授权，包括虚拟化主机、服务器硬件、存储、操作系统、数据库、中间件等监控对象；提供所需管理平台计算存储资源；5、全闪节点（3台）指标项技术规格要求总体要求≥2U机架式，标配原厂导轨；CPU配置≥2颗不低于Xeon®第五代处理器(核心数≥28,主频≥2.2GHz)；内存配置≥16条32GDDR54800MHz内存，最大支持32个内存插槽；硬盘本次配置≥24块7.68TNVMeSSD,配置≥2块480GSSD硬盘；PCII/O插槽最多提供≥18个PCIe标准槽位；网卡可支持多达8个OCP3.0槽位；配置≥1块2口10G电口网卡；配置≥1块2口100Gb网卡（含100GQSFP28光模块），支持RoCEv1和RoCEv2；GPU可配置≥4块双宽或14块单宽GPU卡；冗余电源≥2个白金版热插拔冗余电源，支持94%能效比的白金级电源选件，支持1+1冗余；冗余风扇热插拔冗余风扇；嵌入式管理配置≥1Gb独立的远程管理控制端口；配置虚拟KVM功能,可实现与操作系统无关的远程对服务器的完全控制，包括远程的开机、关机、重启、更新Firmware、虚拟光驱、虚拟文件夹等操作，提供服务器健康日记、服务器控制台录屏/回放功能，能够提供电源监控，支持3D图形化的机箱内部温度拓扑图显示；联合管理可实现在不部署任何管理软件的情况下，通过联合功能管理多个服务器，实现服务器的统一管理，支持管理服务器数量为200台；带外升级不依赖OS，可带外升级BIOS、BMC版本，可通过BMC界面带外一次升级多个部件的固件（如网卡部件、存储卡部件等），无需多次升级；安全检测功能支持检测BMC存在的安全隐患；可通过安全仪表集中展示帐号和应用服务（如证书有效期）等安全配置状态，及时识别BMC安全配置的风险；当检测到风险时，可以查看详细信息和建议提高系统的安全性；6、混闪节点（3台）指标项技术规格要求总体要求≥2U机架式，标配原厂导轨；CPU配置≥2颗不低于Xeon®第五代处理器(核心数≥28,主频≥2.2GHz)；内存单节点配置≥16条32GDDR54800MHz内存，最大支持32个内存插槽；硬盘缓存盘：单节点配置≥4块3.84TNVMeSSD；数据盘：单节点硬盘数量≥36块，单块硬盘容量16T；系统盘：单节点配置≥2块480GSSD硬盘；PCII/O插槽最多提供≥18个PCIe标准槽位；网卡支持多达8个OCP3.0槽位；配置≥1块2口10G电口网卡；配置≥1块2口100Gb网卡（含100GQSFP28光模块），支持RoCEv1和RoCEv2；GPU可配置≥4块双宽或14块单宽GPU卡；冗余电源≥2个白金版热插拔冗余电源，支持94%能效比的白金级电源选件，支持1+1冗余；冗余风扇热插拔冗余风扇；嵌入式管理配置≥1Gb独立的远程管理控制端口；配置虚拟KVM功能,可实现与操作系统无关的远程对服务器的完全控制，包括远程的开机、关机、重启、更新Firmware、虚拟光驱、虚拟文件夹等操作，提供服务器健康日记、服务器控制台录屏/回放功能，能够提供电源监控，支持3D图形化的机箱内部温度拓扑图显示；联合管理可实现在不部署任何管理软件的情况下，通过联合功能管理多个服务器，实现服务器的统一管理，支持管理服务器数量为200台；带外升级不依赖OS，可带外升级BIOS、BMC版本，可通过BMC界面带外一次升级多个部件的固件（如网卡部件、存储卡部件等），无需多次升级；安全检测功能支持检测BMC存在的安全隐患；可通过安全仪表集中展示帐号和应用服务（如证书有效期）等安全配置状态，及时识别BMC安全配置的风险；当检测到风险时，可以查看详细信息和建议提高系统的安全性；管理平台灾备系统的管理平台支持B/S架构，通过浏览器访问灾备平台，即可对物理机、虚拟机、单机应用、双机OracleRAC应用、分布式应用进行备份与恢复管理、接管演练；运营管理多套灾备系统基于地图集中管控，每套系统运行数据实时采集，统一展示，及时掌握系统资源利用率，系统状态异常时自动上报故障和告警，降低管理成本、提升管理效率、保障系统可靠性；VNC控制台管理平台集成VNC控制台，通过控制台即可查看演练机运行状态和数据的准确性，无需借助第三方工具进入演练机后台，简单高效，方便运维；简化运维通过虚拟化/超融合平台进行备份任务和策略的下发，并且收集灾备系统的告警信息到虚拟化/超融合进行统一展示，同时可设置备份系统的告警信息以短信/邮件形式发送给用户，实现虚拟化/超融合平台与备份平台统一管理，简化运维；任意点恢复支持快照数据按照快照数和快照时间维度的保留，保障业务可在任意时间点进行业务恢复；支持备份限速，避免由于长时间占用大量带宽影响业务本身；RPO秒级采用块级复制技术，支持全量、增量、差异备份方式，把生产业务的操作系统和应用数据转换成虚拟化磁盘格式，并且可以实现数据的秒级同步，保障业务数据不丢失；挂载恢复支持快速挂载恢复功能，可在分钟级别时间内对任意数据量大小的备份数据，将其虚拟快照通过iSCSI或者FC的方式挂载给目标服务器，挂载后的数据可读可写，实现业务快速恢复；分布式应用备份支持多节点分布式数据库、容器、存储应用的CDP备份，满足多节点并发备份恢复，保障海量数据场景下的备份恢复性能；细粒度恢复支持细粒度备份，对业务系统不仅可以进行整机磁盘备份，还可以进行卷备份、文件备份，以满足不同业务场景的需要，实现快速恢复；断点续传支持断点续传特性，备份数据在复制过程中出现网络中断时，当网络恢复正常后可基于上一次断点处进行数据复制；重删支持源端/目的端重删，并行重删技术，提升备份数据的去重率，满足海量数据的去重需求；数据库支持SQLServer、Oracle、MySQL、DB2、SyBase、MongoDB等主流数据库，支持达梦、南大通用、人大金仓、神舟通用、天云数据、热璞、瀚高、优炫、巨杉、PingCAP等国产数据库；授权方式配置100TB备份容量授权，满足物理机和虚拟机实时数据保护，不限制备份客户端数量；7、全100G网口交换机（1台）功能项技术指标交换容量交换容量≥12.8Tbps，以官网所列最低参数为准；转发性能转发性能≥4482Mpps，以官网所列最低参数为准；缓存整机缓存≥32M；硬件规格高度2U，固定接口交换机；支持四电源，三风扇框；支持风扇风向支持前后和后前通风；工作环境温度0ºC～45ºC；端口配置要求实配100GE光接口≥64个；支持MiniUSBConsole接口；二层功能支持QinQ功能；三层功能支持GRE隧道；支持RIP、OSPF、ISIS、BGP等IPv4动态路由协议；MPLS支持MPLSL3VPN/L2VPN(VPLS)；可靠性支持VRRP功能；兼容PVST协议，支持跨厂商生成树互通；支持16台堆叠虚拟化技术；智能无损支持无损网络RoCE(RoCEv1/RoCEv2功能)/RDMA，支持PFC、ECN、ETS、DCB；可视化支持MOD功能，不占用路由资源；支持TelemetryStream功能，支持全硬件采集上送，解放CPU资源并且可以支持最大全流量1:1采样；实配支持INT可视化功能；实时分析INT报文中携带的时间戳分析每台设备和链路的逐跳转发延迟，快速找到拥塞节点；DC特性实配支持BGPEVPN特性；安全性支持IPv4和IPv6微分段：精细化微分段安全隔离，减少ACL资源占用；实际配置配置32条20m100GAOC线缆；8、千兆交换机（1台）功能项技术指标交换容量≥2.4Tbps/24Tbps，官网有两个指标的以小的为准；转发性能≥660Mpps，官网有两个指标的以小的为准；接口类型千兆电接口数量≥48个；万兆光接口数量≥4个；硬件规格支持双电源，2风扇模块；安全能力设备支持防火墙插卡，防火墙插卡集成多种安全模块，保障网络信息安全；拓展能力要求设备支持不同种类的业务插卡，如10G/5G/2.5G/1G电接口卡、万兆SFP+光接口板卡、40GE光接口板卡、25GESFP28接口板；M-LAG支持跨设备链路聚合技术DRNI/M-LAG；三层功能支持IPv4静态路由、RIPv1/v2；支持IPv6静态路由、RIPng；支持IPv6手动隧道、6to4隧道和ISATAP隧道；端口镜像支持本地端口镜像和远程端口镜像，支持流镜像；管理能力