算力网络 算力度量与算力建模技术要求

1算力网络算力度量与算力建模技术要求本文件规定了面向算力网络的算网融合发展背景下，算力度量与算力建模机制的需求和总体架构，包括算力资源模型、服务能力模型、算力度量机制、算力测试与评价等相关技术要求。本文件适用于具有算力网络服务能力的网络节点及服务节点的研发和测试。2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件：不注日期的引用文件，其最新版本(包括所有的修改单)适用于本文件。YD/T4255-2023算力网络总体技术要求3术语、定义和缩略语3.1术语和定义下列术语和定义适用于本文件。网络中具有计算能力的节点通过对数据的处理，实现特定结果输出的能力，具体包括不限于计算内存和存储能力。算力可以分布在网络边缘、云数据中心、联网终端、转发节点等各种形态的设备上。算力度量computingmeasurcment对算力需求和算力资源进行统一的抽象描述，并结合网络性能指标形成算网能力模板，为算力路由、算力管理和算力计费等提供标准统一的度量规则。对算力相关的信息按照统一的格式进行抽象描述，具体的信息可以是数值型的或者非数值型的未经包装的裸(如IaaS层)算力，具体可以从计算、网络、内存、存储等维度对算力节点进行描述。服务性算力service-orientedcomputingcapability算力节点上与业务强相关的软件包装后的业务实现能力，比如PaaS层/SaaS层/FaaS层软件服务以及超算的科研计算和云渲染等能力。2下列缩略语适用于本文件。自适应逻辑模块AdaptiveLogicModuleAugmentedReality专用集成电路pplicationSpecificInt卷积神经网络ConvolutionalNeuralNetwo中央处理器控制单元数据处理单元DataProcessingUnit领域专用体系结构每秒浮点运算次数Floating-pointOperationsPerFloating-pointOperations现场可编程门阵列FieldProgranmableGateArra每秒传输帧数图形处理器高性能计算基准测试HighPerfornanceComput基础设施即服务互联网数据中心InternetData每秒读写操作次数基础设施处理单元InfrastructureProcessingUnit逻辑单元多接入边缘计算Multi-accessEdgeCompu神经网络处理器NeuralNetworkProcessingUnit个人计算机服务质量随机访问存储器RNN循环神经网络RecurrentNeuralNetwork软件即服务每秒钟万亿操作次数张量处理器TensorProcessingUnit虚拟现实技术4算力网络的算力度量与建模需求根据YD/T4255-2023,算力网络包括算力服务层，算力路由层，算网基础设施层和算网编排管理层，如图1所示。算力度量与建模是其中算网服务通告、算网感知调度、算力资源管理、算力运营等的重要基础之一。统一的度量标准，统一的描述方式，类似于统一的语言，有助于算力网络的各个网元之间的高效协作。算力网络中的算力度量的目标是将异构资源进行关联和整合，使能多维度资源的统一协同管理，从而面向未来差异化的业务需求，通过统一的算力度量体系和异构计算资源的映射机制，实现算力资源的合理分配和高效调用。//内核数个个/////整型数据运算基准程序的点计算速率8率点计算速率表2中的指标含义：整数计算速率主要针对CPU,整数计算速率表示为在CPU上运行整型数据运算基准程序的计算速率。整数运算能力有其特定的应用场景，如离散时间处理、数据压缩、搜索、排序算法、加密算法、解密算法等。浮点计算速率，表示为在CPU等上运行浮点型数据运算基准程序的计算速率，包括半精度、单精度、双精度。存在多种基准测试程序，每种基准测试程序都能从不同的侧面反应节点的浮点计算性能。哈希计算速率：是指计算机进行密集的数学和加密相关操作时使用哈希函数的输出速度。单位是Hash/s,指的是每秒钟能做多少次Hash运算。一些常见的哈希计算单位：KH/s:1KH/s=1000H/s每秒1,000次哈希MH/s:1MH/s=1000KH/s每秒1,000,000次哈希GH/s:IGH/s=1000MH/s每秒1,000,000,000次哈希TH/s:1TH/s=1000GH/s每秒1,000,00,000,000次哈希PH/s:1PH/s=1000TH/s每秒1.000,000,000,000,000次哈希EH/s:1EH/s=1000PH/s每秒1,000,000,000,000,000,000次哈希整数计算性能、浮点计算性能、哈希计算性能的常用的测试方式可以参考附录A,可以通过在不同的服务节点平台上执行各种基准测试算法的速率来比较其运算性能本文件根据网络带宽对节点通信能力进行建模，网络带宽指节点在特定数据包长下，单位时间(1秒)内能发送/接收的最大数据量，表示节点理论上最高传送速度，其建模如表3所示。对节点的通信能力的评估，主要参考节点的外部接口带宽，即节点连接到外部网络的带宽。单节点的带宽越大，在节点出口处越不容易拥塞。表3通信能力评估指标/秒)网络三层转发能力。满足零丢包(0.00001%)所需要的信息都存储在转发信息库forvardinginfomationbase,FIB)中。调足零去包(0.00001%)条件下测试FIB力PSec操作的最大速率，包括安全关联查询，(0.00001%)条件下的数据包转发能力耗内存带宽Strean测试包含Copy、Scale、内存访问期数草力水平(浮点运算能力)其中：1GFLOPS=10~9FLOPS:1S=10°12FLOPS:1PFLOPS=10~155.3.4其他节点服务能力除了算力相关的节点能力参数，算力网络的决策还可以参考其他的节点能力信息，例如节点的安全等级信息，节能相关的能效信息等。相关的等级信息的评测方法不在本文件的工作范围之内。如果相关的业务有较高的安全需求，或者是关注能效，那么可以订阅相关的关键信息。这些关键信息可以与算力相关的信息一起提供给算力网络的决策点(算力路由层中的策略决策模块或者是算网编排管理模块)。来提供决策依据。例如，可以在算力服务节点的初选过程中，过滤掉安全等级不够的节点再进行优选：或者在多个算力节点都能够提供算力服务时，在算力服务节点的优选过程中，一定程度上优选较为节能低碳的服务节点。此时，算力网络的决策点的决策，除了算力信息和网络信息，还可以参考更多的维度的信息。具体决策点的服务节点初选和优选算法不在本文件的工作范围之内。5.4业务的支撑能力度量与建模5.4.1通用业务的支撑能力业务的支撑能力指的是服务节点上的业务处理能力，节点的业务处理能力与具体业务类型强相关，也可以从计算、网络、内存、存储四个角度进行评估。可以按照附录B中的方案，生成针对特定业务类型的综合算力度量值，即根据业务需求，选择合适的权重系数来进行更个性化的综合评估。除了从计算、网络、内存、存储四个角度，节点的业务处理能力，也可以称为服务性算力，还可以从个性化算力的维度进行描述，例如音/视频/图像编解码能力(软/硬)、DPU(数据处理单元)/IPU异构加速能力等。A、音频编解码能力：Kbps:B、视频编解码能力：帧/s,FPS1080pH.264或FPS1080pH.265:C、图像编解码能力：帧/s,FPSJPEG等：D、DPU/IPU异构加速能力：视具体应用场景而定。其他的业务能力指标还包括，针对特定的业务，服务节点能支持的会话数量、服务节点的预估业务平均完成时间等信息。节点的业务处理能力也可以从有效算力的维度进行描述，按照附录D中的评价方法，获得多个真实业务性能测试的度量值。例如在人工智能领域，实际吞吐率代表人工智能服务器系统对特定训练或推理作业的有效计算能力。对特定训练作业的有效计算能力是单位时间内训练过程能消耗的样本数量：A、对视觉类测试，单位为图片数每秒(images/s):C、对自然语言处理类测试，单位为句数每秒(sentences/s);D、对推荐算法类测试，使用DLRN模型和CretioTerabyte数据集，单位为记录数每秒(records/s)。其他的可以参考的能力度量包括：A、针对数据库业务，实际每秒的查询数量代表服务器的有效计算能力，可以用HammerDB(包括MySQLandPostGreSQL)进行测试，单位查询数每秒(queries/s);%%个个个个个%内存使用率%%/数个个%延况下的最大时廷/量字节)大小//(资料性附录)服务节点算力性能测试本附录中列举了部分服务节点算力性能测试的例子，包括了整数计算性能测试、浮点计算性能测试、哈希计算性能测试的方式。(1)整数计算性能测试整型计算应用广泛，具体的应用比如公交车调度程序、围棋程序、用于生物序列分析的马尔科夫模型、加解密计算等等。加密算法、解密算法在服务节点的具体实现，可以是CPU的纯软件的计算，也可以是硬件加解密加速引擎的计算，或者是CPU自带的硬件加解密引擎，这些通常都可以归类为整型计算。具体的加解密的测试方法可分为以下步骤：——通过软件/硬件实现加密、解密算法。——在不同计算平台上分别使用不同长度(MessageSize)的数据来进行加密和解密运算——获取执行各算法进程的时间：明文信息执行读操作，并进行明文加密，然后写密文信息，统计执行时间。密文信息执行读操作，并进行密文解密，然后写解密后信息，统计执行时间。——通过计算在这些平台上执行各算法的速率来比较整数运算性能。相关的例子如基于不同平台执行AES算法和RSA算法的计算性能。平台处理的数值单位为KB/s,指的是每秒能处理的加解密的数据的数据量。(2)浮点计算性能测试由DARPA的HPCS(HighProductivityComputingSysten)项目所发布的评价高性能计算系统的测试基准程序HPCC(HighPerformanceComputingChallenge)可以完成浮点计算性能测试。HPOC的测试结果是若干个指标项，需要测试者和决策者根据这些测试指标进行分析和评估。(3)哈希计算性能测试RandomX是一种被通用CPUs利用的工作量证明(POW)算法。RandomX使用随机代码执行程序和一些内存硬件技术来最小化专用硬件的效率优势。RandomX使用虚拟机执行特殊指令的程序(包含整数运算浮点数运算、分支),这些指令能够被翻译为CPU指令，然后使用Hash函数Blake2b输出值为256比特的结果。(规范性附录)算力综合评价指标的评估方法本附录规定了一种算力网络中的服务节点的算力综合评价指标的评估方法，其采用指标评价相似度对多维指标进行处理并得到算力综合评价指标。PageRank是衡量网页重要性的一种算法，搜索引擎可以使用它来对网页的搜索结果进行排序。PageRank的基本假设是网站越重要，链接到它的网站就会越多，因此PagcRank通过计算网站的入链数量和质量来评价其重要性。除了对网页进行排名，PageRank在其他领域也有很多应用，如评价书籍的影响力或用户行为等。PageRank的假设是有着更多入链的网页更重要。类似的，本文件所提出的算法的假设是越多的基准测试对一个节点给出相似的评价结果，那么评价结果就越可靠。B.1服务节点度量方法步骤服务节点的算力综合评价指标的计算方法流程如下图所示：否是图B.1节点综合性能计算方法流程图节点综合性能度量方法可以大致分为以下几个步骤：(1)对指标向量进行归一化处理对多个算力节点以及多个算力的指标进行归一化处理，得到每一种算力的归一化性能向量。(2)建立相应图模型由于不同指标之间存在联系，使用图模型建立指标之间的关量，节点之间有一条边表示这两个指标需要进行比较。使用欧氏(3)计算指标评价结果的相似性对算力指标的相似度进行进一步处理，得到相似度矩阵，其中的元素越大，则表示指标(4)构造概率转移矩阵，引入旋转变换(5)将评价向量与状态转移向量相乘(6)判断评价值是否收敛若收敛，则进行步骤(7)对节点算力进行综合评价：若不收敛，则返回步骤(5)。(7)评价向量加权计算节点能力综合评价指标此外，由于不同业务对于算力资源的需求不同，在计算综合指标时，各子指标的权重务需求进行调整。例如，某些使用AI算法对图像或视频进行学习和分析的高要求，因此，可适当增大计算能力指标对应的权重，减小通信、内存、存储能力指标对应的权重。B.2基于PageRank的服务节点评估算法假设选取M个基准测试进行集群节点的性能评价，集群中节点的个标，每个指标包括N个评价值。使用基准测试对节点进行评价后，评价的结果构成节点的性能向量，对性能向量进行本章节中的相关处理后得到节点某方面的综合性能指标，对应了节点在某评价。相关处理流程的算法如下。其中，7=1,2...M,va(k=1,2,...N)表示使用基准测试/对节点k的评价值。每一列v。(i值相同)节点在不同基准测试下得到的性能向量值的数量级会有很大的差异，需要进行性能向量的预处理。算法1性能向量归一化步骤2对B。中的所有元素求和步骤3每1个v。使用式(B-1)计算其归一化数值步骤4输出归一化性能向量：为了使用PageRank计算节点的性能，需要建立一个图的模型，图中的节点是各归一化的性能向量，节点之间有1条边表示这2个节点需要进行比较，所以建立的图是一个完全图。边的权值是此2个顶点的相似度，相似度使用欧氏距离计算。两个归一化性能向量B和B,的相似度类似于经典PageRank中页面间链接的相关性。因为共有M个不同的基准测试，所以归一化性能向量也有M个，即B,B₂,…,B,,性能距离矩阵显然，d,越大表示基准测试i和j对节点的评价结果差异越大矩阵中元素表示的是所有入链的加权得分，其值越大表示网页越重要。为使D的含义与经典PageRank算法一致，使用式(B-4)对其进行处理，得到的评价结果越相近U=(u)uo类似于经典PageRank算法，在矩阵U的基础上定义概率转移矩阵W:为避免概率转移陷入局部最优，增强状态搜索能力，在矩阵W中加入旋转变换算子，如(B-7)所其中，W||为W的欧式范数，q>0为旋转因子，R,为一个M×M维的随机矩阵，其元素取值在[-1,1]之间均匀分布。旋转变换具有在以q为半径的超球内进行搜索的功能。指标评价矩阵R可以用式(B-8)算出：R=lim,A⁸x(算法2基准测试排名计算步骤1输入：归一化性能向量B(=1,…,M)和阈值8。步骤3使用式(B-4)计算D。步骤4使用式(B-5)计算U。步骤5使用式(B-6)计W。步骤6使用式(B-7)计算A。步骤8计算欧氏距离|R-X|。步骤11转至步骤7。步骤12输出：基准测试挂名向量R利用基准测试排名向量R和每个基准测试i的性能向量B,使用算法3就可以得到集群中每个节点的步骤2使用式(B-8)计算每1个基准测试i的权值：步骤3使用式(B-9)计算综合性能向量：B.3节点性能评价指标四个方面提出综合性能指标B.3.1计算能力综合评价指标测量N个节点的计算能力评估指标中的整数计算速率、浮点计算速率、哈希计算速率，形成一组节点的计算能力的性能向量。其中，节点i的测量结果为B将每个节点的计算能力性能向量按照计算能力评估指标(整数计算速率、浮点计算速率、哈希计算速率)分组，以形成3个N维的向量，作为融合节点性能评价算法的输入。经过计算，可输出计算能力综将输出的综合性能向量中节点i对应的值定义为节点的计算能力综合评价指标A,A∈[0.1]。4-CB[=ch.B.3.2通信能力评价指标由于节点通信能力的唯一评估指标为网络带宽，测量N个节点的通信能力评估指标中的网络带宽。B=[renworkBandwi]将每个节点的通信能力性能向量按照通信能力评估指标(网络带宽)分组，形成1个N维的向量，作为融合节点性能评价算法的输入。经过计算，可输出计算能力综合性能向量CB将输出的综合性能向量中节点i对应的值定义为节点的通信能力综合评价指标A,A∈[0.1]。A=CB,J=cb.B.3.3内存能力评价指标测量N个节点的内存能力评估指标中的内存容量、内存带宽，形成一组节点的内存能力的性能向量将每个节点的内存能力性能向量按照计算能力评估指标(内存容量、内存带宽)分组，形成2个N维的向量，作为融合节点性能评价算法的输入。经过计算，可输出内存能力综合性能向量CB_。将输出的综合性能向量中节点i对应的值定义为节点的内存能力综合评价指标A,Ae[0.1]。A.-CB_[7=ch(BB.3.4存储能力评价指标测量N个节点的存储能力评估指标中的存储容量、存储带宽、IOPS,形成一组节点的存储能力的性能向量。其中，节点i的测量结果为B:将每个节点的存储能力性能向量按照计算能力评估指标(存储容量、存储带宽、IOPS)分组，以形成3个N维的向量，作为融合节点性能评价算法的输入。经过计算，可输出存储能力综合性能向量。将输出的综合性能向量