魏华-构筑边缘智能推动算力网络新发展-AII边缘计算特设组第二十一次工作组会议-网络与IT技术研究所-1月11日

边缘智能发展的新趋势数字经济的发展，对网络连接提出更数字经济的发展，对网络连接提出更高要求•要求优化网络架构，推进省域/区域内3ms以及城市内1ms低时延•产业数字化转型升级对网络确定性提出更高要求•网络与算力进一步融合演进，催生网络应用感知能力边缘计算行业发展新趋势行业发展行业发展的新变化，要求算力向多样性、泛在性变化•算力内核包括通用算力和异构特征•算力形态随着数据处理向边端现泛在化•算力结构趋向智能化算力结构持续演进，智能算力占比持续增加计算需求呈差异化，算力结构持续演进，智能算力占比持续增加计算需求呈差异化，异构算力发展不断繁荣•预计2023年我国智能计算占总算力规力需求增长500倍以上AI训练计算复杂度年增速达10倍，且逐渐从云端训练扩展到边缘端推理•算随人动、算随需流促使应用向边缘迁移成•计算模式正向云-边-端多级、高度协同的泛方向发展边缘计算行业发展新特征边缘应用场边缘应用场景激增，泛在算力需求大量释放•工业互联网、人工智能、大数据等应用对算力的专用化、差异化需求凸显GPU、FPGA、AI芯片等异构算力需求增长迅猛起构成坚实的算力底座 (数据来源：发改委高技术司)2016 (数据来源：发改委高技术司)2016-2022边缘计算市场规模(单位：亿元)2016201720182019202020212022E (数据来源：CCID前瞻产业研究院)800700600500400300200000边缘计算行业发展新动能我国移动互联网接入流量持续增长，边缘计算应用市场规模不断扩大，其中智能算力规模及能力呈现快速增长，但算力资源整体利用率偏低C00806040200数据中心物理服务器电脑PC消费终端一般资源利用率峰值资源利用率平均资源利用率中国智能算力中国智能算力规模及预测数据来源：IDC中国移动边缘计算新实践明确“两层架构”和“三大核心技术”明确“两层架构”和“三大核心技术”Pytorch打造“芯合”算力原生原型系统……武纪支版本 支版本intel分支版本支版本支版本框架层融通边缘侧多样性算力算力原生将程序统一转译为中间元语算力原生将程序统一转译为中间元语，并通过原生运行时与多样算力适配、动态映射执行应用层原始程序任选1种工具链开原始程序原生runtime编程模型转换、编译、优化原生runtime原生程序动态链接工具链硬件1体适工具链CPU/NPU硬件层GPU/DPUCPU/NPU硬件层GPU/DPUDCU……CPUCPU/GPU服务使能能力平台产品级能力服务运营自助服务能力任务平台服务使能能力平台产品级能力服务运营自助服务能力任务平台开通开放模板拆解APP3OpenSigmaOneOneOneECPPointHealthPower虚拟化基础设施(虚机/容器)APP1APP2APP4•硬服务务•边缘能力对外服务开放•安全服务能力•软服务•从“资源式”转向“任务式”•提供算法模型及能力模板•提供智能无感极简的服务模式•工业互联网平台•路车网体系化产品矩阵•数据互联互通•智慧园区平台•数字化运维能力•分析智能化•用户数据、教学应用互联互通打造边缘计算多级开放能力基基础(原子)API能力APPAPP3统一API网关边缘计算PaaS平台无线信息带宽通用行管理业API分流策略APP1APP2•网络能力API•小区级/应用级/用户级无线信息•通用行业能力API•人脸识别、人体识别系统配置中心测试认证中心用户管理系统管理筑造边缘智能协同服务框架系统配置中心测试认证中心用户管理系统管理筑造边缘智能协同服务框架中国移动OpenSigma平台行业能力中已具备针对AI、视频识别场景下差异化任务识别能力，构建智能云边端协同服务框架，实现低延迟、高效能的自适应感知智能计算OpenSigma-ECM开发者中心开发者中心应用中心OpenSigma-MEPMECPECPFCAPS管理网络能力配置aECPAPI网关行业能力特色网络能力基础能力以多目标视频追踪场景为例，利用智能协同服务架构可以进行云边端的协同优化，可以由云边端三级根据本地能力执行部分任务，分别完成数据采集、预处理、分类决策、多分支跟踪、计算任务卸载决策等功能，分工合作从而实现加速视频分析的目标n基于终端训练迭代次数自适应分配机制，同时考虑系统异构与数据异构对于训练效率的影响，将训练时间效率与训练收敛质量建模为多目标优化问题，从而解决了两者之间的矛盾。n相比现有联邦学习训练算法，最高可以减少约49.5%的收敛时间。边缘智能模型-训练优化n基于流水线并行+stage-level混合策略搜索的分布式深度学习，通过搜索完整的策略空间，实现GPU的负载均衡，提高GPU利用率与模型训练吞吐量，减少训练时间。边缘智能模型-推理优化指示器进行出口预测，考虑带宽将最低延时问题转化为最小割问题，实现动态路径DAG网络的切分。分n结合分支网络出口选择、模型切分与资源分配网络环境下实现最小化任务平均执行时间。精度损失控制在1.2%-3.3%。算力网络开启算力服务新模式中国移动算力网络体系架构中国移动算力网络体系架构算力网络是以算为中心、网为根基，网、云、数、智、安、边、端、链(ABCDNETS)等深度融合、提供一体化服务的新型信息基础设施。算力网络的目标是实现“算力泛在、算网共生、智能编排、一体服务”，逐步推动算力成为与水电一样，可“一点接入、即取即用”的社会级服务，达成“网络无所不达，算力无所不在，智能无所不及”的愿景边缘侧是融通云边端多层级架构的核边缘侧是融通云边端多层级架构的核心算网运营算力并网意图感知算力封装算算网运营算力并网意图感知算力封装算力交易统一运营能力开放算网大脑数据湖算网大脑数据湖基础算网管理算网统一编排算网智能化人工智能引擎算算力解构泛在调度算网自智数字孪生意图网络一体编排分布式算力(边)分布式算力(中心)分布式算力(端)分布式算力(网)统一IP算网底座分布式算力(边)分布式算力(中心)分布式算力(端)分布式算力(网)统一IP算网底座OTN/OXCOTN/OXC分分布式算力(边)分布式算力(中心)分布式算力(端)分布式算力(网)OTNOTN/OXC全光底座体的基础设施力一中心云提供商A可信算力交易平台型数据中心开启算力服务新模式力一中心云提供商A可信算力交易平台型数据中心开启算力服务新模式端到端质量一致性“TaaS”任务式算力并网算力交易机柜边缘算力平台算网大脑算网大脑方方B终力C车联网、云游戏…图像渲染、AI训练推理…算力普惠、科学计算…共生，实现服务端到端质量一致性保障用户只需要提出任务的具体需求 (如输出60帧1080P视频)，无需关注底层复杂的算网环境通过跨地域、跨运营主体算力资源，盘活存量算力，降低单位算力使用成本和门槛展望展望高动态高高动态高实时服务元元宇宙高质感服务社社会级算力服务场景自动驾驶等高可靠性、超低时延、高速移动、业务连续性保障要求的服务云游戏、XR极致服务