2024电力人工智能与大数据技术融合分析应用技术规范

前 GB/T9813.3–20173GB/T17235.1–19981ISO/IEC15948：2004信息技术计算机图形和图像处理便携式网络图形：功能规范[Informa–tiontechnology—Computergraphicsandimageprocessing—PortableNetworkGraphics（PNG）：FunctionalIT٧–TH.264–2021通用视听服务高级视频编码（Advancedvideocodingforgeneric[来源：GB/T41867—人工智能加速卡artifi×ialintelligen×ea××elerating[来源：GB/Tartifi×ialintelligen×ea××eleratingsystemon[来源：ISO/IECTR18015—2006，3.45[来源：ISO/IEC 本文件描述的人工智能平台计算资源包括物理计算资源和虚拟计算资源，物理计算资源是指计算相应的技术要求和测试方法见5.1.1.1和6.2.1，及5.1.1.2和6.2.2，对同时具备训练和推理功5.1.2.16.2.35.1.2.26.2.4，常见的人工智能加速模组用于推理场景，本文件仅对人工智能加速模组提出面向推理的技术要求和测试方法，见5.1.3和6.2.5。 SOC3264x86ARMCP٧1024bit一级指令缓存宜不小于64KB，一级数据缓存宜不小于64KB，二级缓存宜不小于5128MBDDR4及以上版本的内存，DDR4SSD、SATANVMeRAIDOPCle4.02PCIe100GE、25GE、10GE、GEECC1bit纠错，ECC2bitr）1）、r）2）r）3）116TFLOPS（16TOPS）5.1.1.1a）、b）、c）3264x86ARMCP٧16MBDDR4PCIe4.0PCIe25GE、10GE、GEi）1）、i）2）i）3）FP32100GB/s配备片上内存（HBM）16GB32GB512GB/s1024GB/sPCIe3.0协议（PCIex16、PCIex8PCIex4）PCIe4.0DDR4LPDDR416GB164K（64FHD）60FPS的视频（IT٧–TH.264—2021、GB/T17235.1–1998规定格式的图像（FHD2048FPS或等效）ISO/IEC15948：2004GB/T17235.1–1998规定格式的图像（FHD256FPS或等效）m）1）、m）2）m）3）32GB/s5.1.2.1b）d）宜支持DDR4或LPDDR4及以上版本内存，容量宜不小于16GB128bit，总带宽宜不小于204GB/s。宜支持（ECC的）2013的规定）。宜支持至少一种图像的解码，如GB/T17235.1–1998或ISO/IEC15948:2004规定的图像宜支持至少64路1080P（即分辨率为1920×1080，逐行扫描）视频解码（30FPS）或84K视频解码（60FPS）IT٧–TH.264–2021、IT٧–TH.265–2021或GB/T20090.2–2013的规定。4ISO/IEC15948:2004规定格式的图像[1080P（256FPS）4ISO/IEC15948:2004规定格式的图像[1080P（64FPS）]4ISO/IEC15948:2004规定格式的图像[1080P（24FPS）]k）1）、k）2）k）3）FP16INT8LPDDR4X64bit4GB宜兼容至少一种高速接口（PCIe3.0或以上规格接口，RGMII٧SB2.0等）H.265–2021GB/T20090.2–2013的规定：201080P，25FPS161080P，30FPS24K（3840×2160），30FPS11080P，30FPSGB/T17235.1–1998规定格式的图像：1080P，256FPS解码，1080P，64ISO/IEC15948:2004规定格式的图像：1080P，24FPS5W GB/T9813.3–20174.4～4.11的测试，按GB/T9813.3–20175.4～5.11的规定实施。对本文件第5章中的要求，测试环境应符合GB/T9813.3–2017中5.1的要求。 利用框架提供的执行操作系统命令，查询输出内存协议（DDR3，DDR4）、容量及带宽（在执行测试前，应SSD，SATANVMe协议的支持情况（在执行测试前，应安置相应存储媒体）RAID设RAIDO（至少包含两块存储媒体），命令训练服务器RAIDO用时为TL2。比较TL1与TL2的大小，TL1应不大于TL2。٧SB3.0闪存盘，复制闪存盘内预先制备的文件（1GB）到被测系统的存储媒体上，获得平均速率（测试时，应使用٧SB3.0配套的连接线缆）。TCP协议发送文件（10GB）到被测系统，获得链路层平均传输速率在k）完成后，由实验过程控制组件，对每个模型，发送训练开始指令，并计时，直到被测人T1CP٧加速训练过程的人工智能服务器，关闭人工智能训练加速部件（或使用计算能力等同的通用服务器），完成一次训练，并计时，训练时间为T2。ECCECC是否工作正常，或检查服务器生产者提供的1）执行中，调用系统监控功能（通过操作界面或命令行），显示、记录或打印系统运行状6.2.1c）6.2.1d）6.2.1e）6.2.1g）5.1.1.2f）6.2.1i）在INT4、INT8、INT16、FP16或FP32）。能推理服务器输出全部推理结果时，结束计时，完成一轮推，推理总时间记为T3。对于不使服务器）T4。限于：CP٧利用率，瞬时或平均功率。利用框架提供的6.2.1e）6.2.1g）在算能力等同的通用服务器），T5。使用路由器、交换机连接若干台通用服务器，用于向被测系统发送视频码流（IT٧–TH.264–2021、IT٧–TH.265–2021GB/T20090.2–2013的规定）164K4464FHD8816FHD图像数据（GB/T17235.1–1998的规定），120FPS。被测服务器完成解码，并将解码后使用路由器、交换机连接8台服务器，向被测系统发送FHD图像数据（图像格式符合ISO/IEC15948：2004的规定）25FPS。被测服务器完成解码，并将8台服务器，向被测系统发送FHD图像数据（GB/TECCECC6.2.1e）6.2.1g）在器），完成一轮推理，并记录用时为T8。使用路由器、交换机连接若干台通用服务器，用于向被测系统发送视频数据（IT٧–TH.264–2021、IT٧–TH.265–2021或GB/T20090.2–2013的规定）641080P16484K8181080P图像数据（GB/T21080P图像数据（GB/T使用路由器、交换机连接4台服务器，向被测系统发送1080P图像数据（图像格式符合ISO/IEC15948：2004的规定），32FPS，被测服务器完成解码，并将解码后ECCECC2004规定的图像。 操作），精度为FP16或INT8。6.2.1e）6.2.1g）٧ART–٧SB，I2C–٧SBSPI–٧SB转接器，传输预先制备的文件（1GB）到加速模٧SB2.0闪存盘，复制闪存盘内预先制备的文件（1GB）到加速模组，计算201080P，25FPS45161080P，30FPS4424K，30FPS2111080P，30FPS1181080P图像数据（GB/T21080P（GB/T使用路由器、交换机连接3台服务器，向被测系统发送1080P图像数据（图