CESA-2021-3-019《信息技术 人工智能 计算设备调度与协同 第1部分：虚拟化与调度》团体标准（征求意见稿）编制说明

中国电子工业标准化技术协会

一、工作简况

1、项目背景

近年来，人工智能技术的发展促进了计算形式的多样化，通用计算的CPU及

GPU，半定制化的FPGA以及定制化的NPU、TPU等。对计算设备进行虚拟化，可以

通过分时复用或分区复用的形式充分利用计算资源，同时结合调度技术（如K8s）

对虚拟化后的计算设备调度、任务分配，达到合理利用资源的目的。当前，学术

界对不同计算设备的虚拟化技术有一定研究，如提出可用于AI任务的FPGA虚拟化

技术，提升性能隔离水平和减少性能损耗；提出对GPU资源的虚拟化技术等。很

多主流的AI服务平台（如谷歌、亚马逊等）及AI计算中心都具备对AI计算设备的

虚拟化和调度能力，国内厂商也在不断完善相关的基础服务能力。因此，需要对

计算设备虚拟化技术提出基本要求，对虚拟化得到计算资源的属性、规格、必要

功能、性能以及对外的接口进行标准化，为任务调度提供支持。同时，用于异构

人工智能计算设备的调度技术应可充分协调、合理利用计算资源，需要根据人工

智能任务的场景提出调度管理技术的基本要求以及测试方法，构建“人工智能计

算中心”的虚拟化与调度的测评体系。

2、任务来源

根据中国电子工业标准化技术协会2021年下达的团体标准制修订计划的通

知，团体标准《信息技术人工智能计算设备调度与协同第1部分：虚拟化与调

度》由中国电子技术标准化研究院负责组织制定，其项目计划号为

CESA-2021-3-019。

3、标准起草单位

本标准起草单位：中国电子技术标准化研究院、华为技术有限公司、上海商

汤智能科技有限公司、腾讯云计算（北京）有限责任公司等。

4、主要工作过程

中国电子工业标准化技术协会

在标准计划下达之前，《信息技术人工智能计算设备调度与协同第1部分：

虚拟化与调度》编制组于2021年1月举行启动标准的预研工作，确定了总体思路。

2021年3月，讨论确定标准的框架；

2021年6月，讨论形成标准草案初版；

2021年9月，在中国电子工业标准化技术协会完成团体标准立项；

2022年1月，编制组多次讨论修改标准草案；

2022年5月，初稿完成，提交中电标协秘书处，启动征求意见。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

《信息技术人工智能计算设备调度与协同第1部分：虚拟化与调度》标准

的编制原则如下：

a)先进性原则：本标准是当前AI服务平台及AI计算中心亟需的AI计算设备的

虚拟化和调度能力。

b)实用性原则：本标准充分考虑了当前我国人工智能异构计算的发展现状和

实际需求，编制组中吸收了产学研用各方面的先进经验，保证了标准的实用性。

c）兼容性原则：本标准编制时，充分考虑了人工智能计算设备调度与协同

与其它相关技术和产品的兼容性，可保证与现有产品和标准的兼容性。

d)国际性原则：本标准充分考虑到国内外相关标准的关系。

e)规范性：本标准的编写遵守国家标准GB/T1.1-2020《标准化工作导则第

1部分：标准化文件的结构和起草规则》。

2、确定主要内容的论据

《信息技术人工智能计算设备调度与协同第1部分：虚拟化与调度》标准

规定了人工智能计算设备虚拟化与调度系统的技术要求以及接口，关于人工智能

计算设备虚拟化与调度系统的测试方法与测试指标。适用于指导人工智能计算设

备虚拟化与调度系统的设计、研发、测试。

主要技术内容包括：

接口要求：对于不同形式计算设备的虚拟化技术，规范必要的接口，为资源

调度层提供统一的调度接口；

中国电子工业标准化技术协会

技术要求：规定人工智能对计算设备虚拟化技术的基本能力要求以及对调度

层的调度要求，具备帮助构建“人工智能计算中心”的能力；

测试：研究人工智能虚拟化与调度系统中的关键测试指标、方法。如虚拟化

中的性能隔离、性能损耗以及评估虚拟化方案的标准；研究人工智能任务的调度

场景以及评测调度系统的测试方法指标，帮助利益相关方合理评估调度系统对计

算设备的资源利用率。

3、主要解决的问题

计算设备资源虚拟化技术将以分时复用或分区复用的形式充分利用计算资

源，同时结合调度技术（如K8s）对虚拟化后的计算设备进行调度和任务分配，

达到合理利用资源的目的。该标准规范虚拟化的计算资源的属性、规格、必要功

能、性能以及对外的接口，为任务调度提供支持，同时推动异构人工智能计算设

备之间的统一调度和协同，明确标准化接口，消除异构人工智能计算设备之间的

割裂，实现统一调度和协同。

三、主要试验[或验证]情况分析

无。

四、知识产权情况说明

无。

五、产业化情况、推广应用论证和预期达到的经济效果

计算设备的虚拟化是异构计算设备应用的重要途径，产业界各机构、企业对

虚拟化技术皆有研究，路线大同小异。计算虚拟化部分的标准化，有利于产业界

遵循相对统一的规则，实施计算设备虚拟化过程，为上层应用对计算设备的使用

创造一致性标准基础。鉴于虚拟化技术在产业界使用十分广泛，本部分标准的推

广应用预期障碍较小。在编制的过程中，也获得了主要企业、机构的参与。

虚拟化部分标准的研制和实施，可以促进产业界技术动作的统一性。为上层

应用简化适配、维护工作，降低成本。自2020年，我国涌现出2000多家芯片研

制企业和机构，虚拟化过程的标准化，将帮助企业快速建立应用生态，节省成本。

六、转化国际标准和国外先进标准情况

无。

七、与现行相关法律、法规、规章及相关标准的协调性

中国电子工业标准化技术协会

符合我国有关的现行法律、法规。

八、重大分歧意见的处理经过和依据

无重大分歧意见。

九、贯彻标准的要求和措施建议

本标准的主要内容首先规划在国内人工智能硬件厂商中深入地开展宣传和

推广应用。同时，可通过各类国家级科技计划和产业化项目资助，开展人工智能

计算设备调度与协同标准的试验验证、应用示范，进一步提升标准标准的知名度

和权威性。

十、替代或废止现行相关标准的建议

无。

十一、其它应予说明的事项

无。

《信息技术人工智能计算设备调度与协同第1

部分：虚拟化与调度》团体标准编制起草组

2022-5-24

中国电子工业标准化技术协会

一、工作简况

1、项目背景

近年来，人工智能技术的发展促进了计算形式的多样化，通用计算的CPU及

GPU，半定制化的FPGA以及定制化的NPU、TPU等。对计算设备进行虚拟化，可以

通过分时复用或分区复用的形式充分利用计算资源，同时结合调度技术（如K8s）

对虚拟化后的计算设备调度、任务分配，达到合理利用资源的目的。当前，学术

界对不同计算设备的虚拟化技术有一定研究，如提出可用于AI任务的FPGA虚拟化

技术，提升性能隔离水平和减少性能损耗；提出对GPU资源的虚拟化技术等。很

多主流的AI服务平台（如谷歌、亚马逊等）及AI计算中心都具备对AI计算设备的

虚拟化和调度能力，国内厂商也在不断完善相关的基础服务能力。因此，需要对

计算设备虚拟化技术提出基本要求，对虚拟化得到计算资源的属性、规格、必要

功能、性能以及对外的接口进行标准化，为任务调度提供支持。同时，用于异构

人工智能计算设备的调度技术应可充分协调、合理利用计算资源，需要根据人工

智能任务的场景提出调度管理技术的基本要求以及测试方法，构建“人工智能计

算中心”的虚拟化与调度的测评体系。

2、任务来源

根据中国电子工业标准化技术协会2021年下达的团体标准制修订计划的通

知，团体标准《信息技术人工智能计算设备调度与协同第1部分：虚拟化与调

度》由中国电子技术标准化研究院负责组织制定，其项目计划号为

CESA-2021-3-019。

3、标准起草单位

本标准起草单位：中国电子技术标准化研究院、华为技术有限公司、上海商

汤智能科技有限公司、腾讯云计算（北京）有限责任公司等。

4、主要工作过程

中国电子工业标准化技术协会

在标准计划下达之前，《信息技术人工智能计算设备调度与协同第1部分：

虚拟化与调度》编制组于2021年1月举行启动标准的预研工作，确定了总体思路。

2021年3月，讨论确定标准的框架；

2021年6月，讨论形成标准草案初版；

2021年9月，在中国电子工业标准化技术协会完成团体标准立项；

2022年1月，编制组多次讨论修改标准草案；

2022年5月，初稿完成，提交中电标协秘书处，启动征求意见。

二、标准编制原则和确定主要内容的论据及解决的主要问题

1、编制原则

《信息技术人工智能计算设备调度与协同第1部分：虚拟化与调度》标准

的编制原则如下：

a)先进性原则：本标准是当前AI服务平台及AI计算中心亟需的AI计算设备的

虚拟化和调度能力。

b)实用性原则：本标准充分考虑了当前我国人工智能异构计算的发展现状和

实际需求，编制组中吸收了产学研用各方面的先进经验，保证了标准的实用性。

c）兼容性原则：本标准编制时，充分考虑了人工智能计算设备调度与协同

与其它相关技术和产品的兼容性，可保证与现有产品和标准的兼容性。

d)国际性原则：本标准充分考虑到国内外相关标准的关系。

e)规范性：本标准的编写遵守国家标准GB/T1.1-2020《