人工智能算力资源池技术规范编制说明

《人工智能算力资源池技术规范》（征求意见稿）团体标准编制说明一、工作简况任务来源本标准由中关村新兴科技服务业产业联盟提出并归口，标准计划号为D-STSI-2023-50。标准编制过程（1）成立标准编制组，技术调研和资料收集标准立项后，为保证标准制定工作的顺利开展、提高标准的质量和可用性，由起草单位和相关技术专家共同组建了标准编制组，负责对相关技术要求进行研究确定。标准编制组明确了目标要求、工作思路、人员分工和工作进度等。在此基础上，标准编制组对人工智能算力资源、平台计算资源、云计算资源池、虚拟化与调度等方面的相关资料和标准进行了广泛收集整理和分析。（2）确定标准框架，形成标准草案2023年9月初，根据调研结果，结合相关政策、标准、文件的要求，标准编制组编制了标准基本框架，并多次组织开展内部研讨，对《人工智能算力资源池技术规范》的标准内容重点、标准制定依据和编制原则等形成了共识，完成标准草案编写。（3）形成标准征求意见稿2023年9月中旬，标准编制组对标准草案进行修改完善，包括资源池所支持的物理计算资源、资源池的总体要求、资源池的功能、资源池的可靠性要求等，对标准内容进行了反复讨论、论证，根据研讨结果对标准草案进行修改，形成了标准征求意见稿。二、标准制定的目的和意义目前，人工智能通过数据、算力、算法和场景的融合深入到各行各业，促进和赋能数智化转型。其中，强大的算力让图像、语音等复杂数据的处理能力得以提升，进而改变传统的人人或人机交互方式，使得新的交互方式迅速得到应用。《2022-2023中国人工智能计算力发展评估报告》指出，中国人工智能计算力继续保持快速增长，2022年智能算力规模达到268百亿亿次/秒(EFLOPS)，超过通用算力规模。预计未来5年中国智能算力规模的年复合增长率将达52.3%。目前我国人工智能算力资源存在分配不灵活、利用率低、缺乏整体调度和监控等普遍问题，而资源池化作为云计算的核心支撑技术之一可有效解决上述问题。资源池的核心是通过软件的方法，将各种硬件（CPU、内存、磁盘、网络等）变成可以动态管理的“资源池”，从而提升资源的利用率，简化系统管理，实现资源整合，让IT对业务的变化更具适应力。AI算力资源池化也是遵循这样的理念，对物理计算资源进行抽象，软件化后形成一个统一的资源池，方便用户按需对计算资源资源进行有效调用，无需关注实际物理计算资源的大小，数量，型号以及安插的物理位置。本标准针对人工智能算力资源池技术规范方面存在的标准空白，对人工智能算力资源池的总体架构、总体要求、功能要求等进行规范，对于利用算力资源池实现算力资源的虚拟化、整合、调度和高效利用，具有重要的现实意义。三、标准编制依据本标准在编制的过程中遵循“先进性、科学性、可操作性”的原则，按照GB/T1.1—2020《标准化工作导则第1部分：标准化文件的结构和起草规则》的规定起草。编制过程中，标准编制组主要参考了GB/T41867-2022《信息技术人工智能术语》、GB/T42018-2022《信息技术人工智能平台计算资源规范》、YDT5227-2015《云计算资源池系统设备安装工程设计规范》等国家标准和行业标准的框架和技术内容。四、标准主要内容本标准共计10章，主要内容如下：1、范围本文件规定了人工智能算力资源池的总体架构、总体要求、功能要求、兼容性要求、组件通信要求、部署集成要求及安全和可靠性要求。本文件适用于人工智能算力资源池的设计、开发和运维。2、规范性引用文件给出了本标准所规范性引用的标准：包括GB/T41867-2022《信息技术人工智能术语》、GB/T42018-2022《信息技术人工智能平台计算资源规范》2项国家标准。3、术语、定义和缩略语给出了本标准所用的术语和定义：GB/T41867-2022、GB/T42018-2022界定术语和定义适用于本文件。此外，还定义了“AI算力池化”，并给出了AI、API等缩略语。4、总体架构给出人工智能算力资源池的总体架构，主要包括异构算力、池化服务、调度控制服务、运行时和运维管理。5、总体要求给出人工智能算力资源池的总体要求，主要涉及架构设计、对异构资源的支持、软硬件要求、性能要求、能耗要求、运维管理等方面。6、功能要求给出人工智能算力资源池的功能要求，主要包括池化管理功能、池化调度功能、提供任意规格算力资源功能、虚拟算力资源隔离功能、业务热迁移功能和横向扩展功能。7、兼容性要求主要包括：网络兼容性、GPU设备兼容性、API版本兼容性、操作系统兼容性、云平台兼容性、深度学习框架。8、组件通信要求分别给出管理平面网络和数据平面网络的通信要求。9、部署集成要求提出资源池各个服务组件的部署要求以及适配操作系统、云平台、容器等集成要求。10、安全和可靠性要求安全要求主要涉及资源池架构、用户身份鉴别和访问控制、安全防护、虚拟化环境安全等方面。可靠性要求主要涉及高可用、热迁移和备份恢复等要求。五、重大分歧意见的处理经过和依据本标准起草过程中无重大分歧。六、贯彻标准的措施建议标准只有通过实施才能充分发挥作用。贯彻实施标准要加大宣传力度，利用多种渠道为标准实施营造良好的社会氛围，在标准实施后，可开展标准培训和应用示范，使得标准实施能真正落地；同时加强标准实施评价，建立反馈平台，对发现的问题及提出的意见进行深入探讨，做好标准的修订和完善工作，切