版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
2024PAGEPAGE77/90摘要边缘计算作为下一代无线网络的关键技术,推动了网络与计算设施的边缘能的研究进展。主要包括:6G后描述边缘智能网络基础设施,包括边缘智能接入网和核心网。边缘内生智能的关键技术:从模型轻量化、边云协同智能、边缘智能能进行详细的讲解,包括联邦学习中的模型稀疏化和模型量化。边缘内生智能应用:分析智慧交通、智能制造和智能节能等面向边缘内生智能的典型应用。目录引言 4背景 4边缘计算与边缘内生智能发展概述 4边缘内生智能的重要性 56G边缘智能网络和基础设施 7面向6G的边缘内生智能架构 7架构整体概述 7内生智能面的设计与实现 8边缘智能算力基础设施 11边缘智能硬件 11边缘智能云平台 19边缘智能网络基础设施 28边缘智能接入网 28边缘智能核心网 36边缘内生智能的关键技术 43模型轻量化 433.1.1剪枝 443.1.2知识蒸馏 453.1.3量化 473.1.4NAS 48边云协同智能 49联邦学习 49分割学习 51模型分割 52无线联邦学习中的边缘智能 54无线联邦学习 54联邦学习中的模型稀疏化 57联邦学习的模型量化 60边缘智能化部署 63无线侧智能化驱动力 63智能化部署 63算力部署 66深度边缘节点 67深度边缘节点的无线网络可编程 69深度边缘节点的网元融合 69深度边缘节点的跨域AI设计 72边缘内生智能应用 75智慧交通 75智慧交通边缘计算系统概述 75智慧交通边缘计算类型 76智慧交通边缘计算应用 78智能制造 80智能制造边缘计算系统概述 80智能制造边缘计算类型 82智能制造边缘计算应用 83智能节能 86场景概述 86对边缘智能的潜在需求与应用 86边缘内生智能的发展与挑战 87引言背景1G必须具备更高的性能和更强大的智能化能力,推动边缘侧网络从“万物互联”向“智能互联”AI“万物互联”[2]。边缘内生智能能够在原生网络中实现各个单元之间的自我动态感知以及自AIAI管理[3]。边缘计算与边缘内生智能发展概述是一种将计算过程从中心服务器迁移到设备边缘的技术。它的核心思想是将网户在实时业务、应用智能、安全与隐私保护等方面的需求。能中的任务卸载和数据安全问题[4]。法实现复杂的人工智能算法和模型的运行[5]。随着技术的不断发展,边缘设备高数据处理和响应的速度和效率[6]。边缘内生智能的重要性边缘内生智能的重要性包含如下方面:AIAI算法的性能[8]。然而,随着万物互联时代的快速发展,传统的云计算模式逐渐向边缘AI了低延迟的数据处理,从而实现高性能的边缘智能处理模式[9]。技术己经在日常AI也是创新前沿的关键驱动力,如自动驾驶、智能金融。因此,AI应该更接近服务器。这增加了人工智能的可用性和可访问性[10]。参考文献S.N.Himayat,H.Nikopour,Xue,G.andIlderem,“6G:ConnectivityintheEraofDistributedIntelligence,”IEEECommunicationsMagazine,vol.59,no.pp.45-50,2021.M.ElsayedandM.Erol-Kantarci,“AI-EnabledFutureWirelessNetworks:Challenges,Opportunities,andOpenIssues,”IEEEMagazine,vol.14,no.3,pp.70-77,Sep.2019.S.Deng,H.Zhao,Fang,J.S.DustdarandA.Zomaya,“EdgeIntelligence:TheConfluenceofEdgeComputingandArtificialIntelligence,”IEEEInternetofThingsJournal,vol.7,no.8,pp.7457-7469,Aug.2020.M.Pan,Suand“ReviewofResearchontheCurriculumforArtificialIntelligenceandIndustrialAutomationbasedonEdgeComputing,”2021InternationalConferenceonNetworkingandNetworkApplications(NaNA),LijiangChina,2021,pp.222-226.Xiao,G.Shi,Li,SaadandH.Poor,Self-LearningEdgeIntelligencein6G,”IEEECommunicationsMagazine,vol.58,no.12,pp.34-40,Dec.2020..H.HuandC.Jiang,“EdgeIntelligence:ChallengesandOpportunities,”2020InternationalConferenceonInformationandTelecommunicationSystems(CITS),Hangzhou,China,2020,pp.1-5.M.Mukherjee,R.Matam,C.X.Mavromoustakis,H.Jiang,G.MastorakisandM.Guo,“IntelligentEdgeComputing:SecurityandPrivacyChallenges,”IEEECommunicationsMagazine,vol.58,no.9,pp.26-31,Sep.2020. Sun,B.Xie,S.ZhouandZ.Niu,“MEET:Mobility-EnhancedEdgeinTelligenceforSmartandGreen6GNetworks,”IEEECommunicationsMagazine,vol.61,no.1,pp.64-70,Jan.2023.Q.Cui,Z.Gong,Ni,Hou,X.Chen,X.Zhang,“StochasticOnlineLearningforMobileEdgeComputing:LearningfromChanges,”IEEECommunicationsMagazine,vol.57,no.3,pp.63-69,2019.M.M.Sohul,MarojevicandJ.H.Reed,“ArtificialIntelligenceDefined5GRadioAccessNetworks,”IEEECommunicationsMagazine,vol.57,no.3,pp.14-20,2019.6G边缘智能网络和基础设施6G的边缘内生智能架构作为下一代无线网络的关键使能技术,多接入边缘计算(Multi-accessEdgeComputing,MEC)能够支撑大量的新兴业务。随着人工智能(ArtificialIntelligenceAI)MECAI5G网MEC。6GMECMECMEC的灵活性和开放性,更好AIAI服务。架构整体概述边缘内生智能架构由“四层三面”2.1所示。其中,“四层”础设施层、虚拟化层、功能层和应用层;“三面”包含控制面、AI面和管理编排(managementandorchestration,MANO)面。图2.1边缘内生智能架构(一)四层:基础设施层:位于边缘内生智能架构的最下层、涵盖了系统中的所有通信、(HardDisk(SolidState等;计算资源包括中央处理器(CentralProcessingUnit,CPU)、图形处理器(GraphicsProcessingUnit,GPU)等。Docker容器并使其在资源池AI服务。功能层:AI功释放和重组,并通过服务总线串联。Docker容器来为用户提供服务。(二)三面:控制面:负责从基础设施层到应用层的控制信令传输和处理。MANOMANO源进行协调和管理。MANO面包含虚拟基础设施管理器(VirtualizedInfrastructureManagerVIM)MANOMANO,分别用于对资源、功能和应用的管理编排。AIAIAI应用提供运行pytorch、tensorflowAI功能和一条服务总线;其应用层包含一个模板选择器和一个智能算法模型库,用于实现边缘内生智能的灵活重构。内生智能面的设计与实现在边缘内生智能架构中,基于微服务的AI面被解耦为独立的AI功能,AI功能可被按需激活和调用;在应用请求到来时,被解耦的AI功能可以按需组合来为用户提供AI服务,以实现内生智能。(一)内生智能面解耦:2.1所示,在内生智能面中,AI服务被解耦为数据采集功能(DataColltionuntion,CF(taPpoessinguntion,PF,(ModelTrainingFunction,(ModelFunction,MVF)以及数据存储功能(DataStorageFunction,DSF),各功能介绍如下:DCF:AI模型训练所需的原始数据并生成相应的训练数据集。DPF:AI模型训练所需的数据格式。MTF:AIAI算法的核心模型。MVF:AI模型的性能。DSF:AIAIF的相关参数。AIMANO来激活。(二)内生智能面重构:边缘内生智能重构借鉴了模板与实例化思想,依据业务类型进行AI功能激活、运行环境配置和资源分配,以实现定制化的AI服务。模板:边缘内生智能模板涉及模板信息information,和模板标识符identifierAI应用的组AIFAI应用对应模板的标识,存储在模板选择器AI应用需求定义该应用所需的功能激活、资源分配和运行环境配置相关参数。AIAI2.2所示,边缘内生智能的实例化流程包含以下步骤:MANO对应用层持续监测,在接收到应用请求时向模板选择器发送模板选择请求TinfTinfMANO面MANOTinf进行实例化操作:配置应用所需的运行环境库分配所需资源AIF2.2边缘内生智能实例化流程边缘智能算力基础设施边缘智能硬件系统的响应速度和效率。边缘智能硬件对环境恶劣的工厂生产线上的各种数据进行实时采集、处理和分人的生理数据进行分析,实现远程医疗和智能化诊断。实现数据的共享和协同处理。同时,它们还可以通过云端进行远程管理和控制,实现设备的远程监控和维护。(一)边缘智能硬件需求(Near(Far/转换、协议解析、工业控制、AI推理等,硬件产品形态的形式丰富多样,比如工控机、PLC、网关、MEC等。功能产品示例NearEdge深度边缘计算区域数字中心、CDN(内容分发网络)、电信数据中心、托管服务商深度边缘计算本地数据中心,重边缘服务器,微数据中心(一体化机柜)远边缘FarEdge聚合分析和控制、数据管理AIBox、MEC、HCI(超融合基础设施)聚合、转换、过滤、数据缩减、转发网关、小单元、路由器、接入点模拟数字转换(传感器)、发送控制数据(执行器)、直接分析/控制工控机、PLC(可编程逻辑控制器)、DCS(分散性控制器)等在明显差异。究其原因,边缘计算面临以下几个主要需求:复杂多样的应用场景:边缘部署领域的多样性需要不同的基础设施组合。边缘部署跨越许多配置到管理工具等,使边缘解决方案生态系统高度复杂化。工业互联网、电网管理、智能商业大厅等。人工智能、机器学习、大模型、异构计算等技术的蓬勃发展进一步推AI原生计算能力赶上新的分析平台的性能需求将推动许多新的边缘基础设AI应用的多样性也使得边缘计算硬件、软件、服务和解决方案的需求变得更多丰富。长生命周期产品诉求:如轨道交通控制系统、中大型医疗设备、变电站/配电站采集控制单元、工业控DCS/MES5-7年甚至更长的生命周期对于这些应用包括运行在硬件设备上的平台、业务应用、协议以及产生的数据;持续供应、服务、更新,以及平台、业务应用等的持续迭代等;严苛的工作环境:更严苛的物理环境户外。求会略高一些,在人机共处的情况下,还对边缘计算设备的噪音有一定要求。20℃60防雷击、抗震等指标要求对边缘计算硬件设备也造成了很大的挑战。更严格的数据安全环境全防护方案无法适用。分布式部署:精益化的需求日益明显。同时,边缘智能、物联管控、软件定义边缘和5G/6G同时还需要考虑到后续在边缘侧的进一步扩展。对于高度参与物联网的企业来(二)边缘计算的技术特点边缘异构加速计算:CPU难以高效处理,CPU+智能算力(GPU/FPGA/ASIC等)的异的科技趋势。工业实时控制自动驾驶 数字孪生多媒体处理AIoT……工业实时控制自动驾驶 数字孪生多媒体处理AIoT……异构计算多样工作负载的高效、低耗处理文本视频位置信息传感器音频图片AR/VR……碎片化客户应用场
中国信通院预测,到2023年智能算力(GPU/FPGA/ASIC等)占总算力规模的70%2.3应用场景多样性推动边缘异构加速计算发展边缘软件定义:5GPLC数据的分析、存储、运算等要求。原生边缘智能:AIAI的边缘原生智能算力需求。(三)边缘计算硬件产品形态产品形态:边缘服务器、工业计算机、网关和边缘一体化机柜。边缘服务器:于边缘计算场景的通用服务器(general-purpose)和专为边缘场景设计的边缘优化型服务器(edge-optimized)。其中用于边缘计算场景的通用服务器(general-purpose)与用于数据中心场景的通用服务器在硬件上几乎没有差别,往往应用于环境相对友好的场景中。边缘优化型服务器(edge-optimized)与通用服务器相比,在外观、功能、(如下表种安装方法、安全性和OT集成等。从产品形态来看,边缘优化型服务器(edge-optimized)又可以细分为定制型边缘服务器(purpose-built)和边缘微服务器(microserver)定制型边缘服务器(purpose-built)是针对特定功能进行设计和构建,部署在安防、视频监控等特定用例中的小型服务器,具有特定的外形尺寸、低能耗、广泛的工作温度和多种接口类型等特性,以适应恶劣环境。通常不会部署在标准数据中心,而是部署在边缘数据中心。嵌入式使用场景而设计的微型服务器,能够提供企业级计算和管理功能。边缘优化型服务器(edge-optimized)特性设计具有更宽的温度范围、防潮、防尘、耐腐蚀、抗震、电磁兼容性等特点。机箱比通用服务器更小机箱深度,以适应现有基站站点、边缘数据中心或特定的工业现场位置。操作与维护自动操作和维护以及远程控制,最大限度地减少手动操作和维护。提供统一的运维管理界面。安全在复杂的部署环境下,需要防止潜在的网络攻击,以确保数据的安全性、高可用性和一致性,并在硬件层面防止恶意破坏。I/O前端I/O设计,提供更方便的操作和部署。安装方式多种安装方式,如壁挂式安装。安装和拆卸简单。功耗低能耗,可限制直流、交流、布线等。网络高可靠性、低延迟、无线支持等。工业计算机:和决策。工业计算机有以下特点:/MTTR(MeanTimetoRepair)5min,MTTF10PCMTTF10000~15000小时。的变化给予快速响应,及时进行采集和输出调节(PC所不具有的),遇险自复位,保证系统的正常运行。扩充性:工业计算机由于采用底板+CPU20个板卡,能与工业现场的各种外设、板卡如与道控制器、视频监控系统、车辆检测仪等相连,以完成各种任务。ISAPCIPCIEPICMG上架式工控机 嵌入式工控机塔式工控机 工业一体机工业显示边缘网关:
图2.4工业计算机示意图处理。边缘网关和基于云的物联网平台共同组成了边缘计算物联网架构。边缘网关通常支持丰富的工业物联网接口(PLC、RF、RS-485、DI)和与各种行业应用系统互联,实现终端设备的智能连接。行业应用行业应用云化物联网平台Internet5G/4G/ETH5G/4G/ETH边缘计算网关IPPLC/RF/RS485/DI…路灯配电设施电梯控制器容器管理行业APP行业APP传感器&终端图2.5边缘计算物联网架构示意图先分析再传输,边缘快速决策等等,大大提升了端-边-云的综合效率。CPU/GPU/NPU5G6G代部分有线数据传输,使部署更加灵活。边缘一体化机柜:PDUIT设备快速边缘部署及业务快速上PDUUPS前后门开关侦测器等。的影响因素,如防尘、防水、无法外挂空调机柜等。智能照明与门磁单元制冷设备配电单元UPSIT设备PDU电池模块水浸应急风扇温湿度2.6边缘一体化机柜示意图边缘智能云平台2.1.1化应用需求。括三个主要部分:边侧、云侧和协同机制。服务,包括容器编排、数据存储、安全性管理和监控等功能。效提供。的过程,它实现了应用程序的分布式计算和智能化服务。2.7边缘智能内生云平台总体架构2.7给出了一种边缘智能云平台实现,它与各种边缘设备深度融合,以在云侧,提供多边缘集群管理,云边资源协同、应用分发及业务数据交互等能力,可以部署于客户云数据中心或公有云上。ICT基础设施。主流边缘智能云平台一般有如下特点:界面。灵活数据接入:4G、5GWIFI云端。分配,无缝进行扩缩容。优化应用赋能:GPU虚拟AIGPU应用。极简部署/运维:以全融合一体机形式部署的边缘计算平台实现开箱插电即运维数据,自动故障告警、修复。关上下文信息(身份、威胁/可信评估、角色、位置/时间、设备配置等)加强安全策略,且提供边缘平台上动态和静态数据的加密。下面分章节对边侧内生智能平台、云侧运维管理平台和协同机制这三部分做详细介绍。(一)边端内生智能平台K8SKubernetes已经成为云和数据Kubernetes等轻量的云原KubernetesK8s更低的footprintx86和ArmGPU、NPU、VPU等异构器件。边缘节点与中心云之间的网络环境复杂,边缘节点可能因为某些原因与中心云断联。由于边缘节点数量众多,环境复杂,IT运维人图2.8用于MEC的边侧内生智能平台2.8MEC(Multi-AccessEdgeComputing)K3s以及软硬一体化的轻量级虚拟化,以轻量级虚拟化为5GMEC边缘云模务器组成的集群上。主要功能包含:边缘端管理:提供管理边缘节点所有能力的边端控制台边缘容器:Kubernetes的容器统一编排,管理能力性能保证轻量级虚拟化:提供秒级启动、低内存占用的轻量级虚拟化能力镜像管理:提供对虚拟机镜像上传、更新、删除、分类管理等功能虚拟机模板:创建可以保存虚拟机配置的模板硬件加速:GPU卡等,通过硬件和加速器的融合实现对边缘硬件的优化网络隔离:提供基于虚拟网络层面的子网二层隔离,保障网络通信安全样的智能运维需求访问控制:支持基于用户组的访问控制(二)云侧运维管理平台广泛分布的边缘业务低成本的稳定和持续运行。LFEdgeAkraino(ZeroProvisioningandpntokutomtionPltom)“”DevOps在边CI/CD流程的构建目标,将云端仓库视为在这利用率、进程、内存等方面的状态进行采集,并实时为运维人员提生平台中,实现云边统一运维管理。图2.9云侧运维管理平台功能示例2.9展示了一款云侧运维管理平台叫做集中管理平台CMO(CentralManagementandOrchestration),负责云边协同管理,总体设计目的是为边缘云算业务提供上线、部署、调度、优化、协同等全生命周期自动化保障。CMO功能包括:异构边缘节点/集群管理:MEC、轻边缘集群进行统一纳管理框架于策略的智能调度丰富的云边协同机制:云边数据协同框架,支持应用分发,数据同步化运维效率的云端数据库审计(三)协同机制云边协同:图2.10云边协同的能力与内涵(ECC边缘计算参考架构3.0)EC-laaSEC-PaaSEC-SaaS3.0云边协IaaSPaaSSaaS资源协同数据协同是指边缘计算节点与云端之间的数据交互与协同。在云边协同中,边缘计算节点主要负责现场/终端数据的采集、处理和分析,并将处理结果以及高效、低成本地对数据进行生命周期管理与价值挖掘。智能协同人工智能AIAIAI括应用的推送、安装、卸载、更新、监控及日志等。应用管理协同的生命周期管理能力,包括应用的推送、安装、卸载、更新、监控及日志等。业务管理协同是指边缘计算节点主要提供模块化、微服务化的应用/数字孪生//数字孪生/排能力,按需为客户提供相关网络增值业务。服务协同EC-SaaS(SaaS)SaaS在用户应用层面的服务质量、服务能效等的协同。端负责将边缘端的模型更新聚合并且发送回边缘端。了某种程度的隐私泄露问题。KubeEdgeSednaKubeEdgeAIAIAISedna边云协同增量学习、联邦学习、终身学习和联合推理等。边缘节点间协同:
图2.11Sedna架构图与普通的云边协同的差别主要在要解决多边之间的网络互通。图2.12EdgeMesh架构图EdgeMeshKubeEdge在边缘场景下实现边缘节点互通的一个解决方案。EdgeMeshKubeEdgeEdgeMesh(如边缘资源有LibP2P点间的通信分为局域网内和跨局域网。局域网内的通信采用节点间直接通信,跨局域网的通信在打洞成功时Agent之间建立直连隧道,否则通过中继转发流量。(离线场景KubeEdgeapiserver;EdgeMeshDNS服务器,CoreDNS。极致轻量化:Agent,节省边缘资源。边缘智能网络基础设施边缘智能接入网关键需求。运营商是边缘计算网络基础设施主要提供者,在边缘计算产业联盟5.0ComputingAccess,边缘计算接入网络ECA中涉及的关键技术进行分析。图2.13边缘计算网络基础设施示意图(运营商边缘计算网络技术白皮书)L2/L3局域网、WIFI、TSN(时间敏感网络)、现场总线等。接入网需支持移动用户和固定用户同时接入,在移动网络中,需要提供如2G/3G/4G/5GPON、以及各MBBFBBUPFQoS边缘计算的部署位置和业务的多样性对网络的接入范围、性能指标如时延、带宽、高并发等方面提出了新的需求,因此需要ECA网络通过以下关键技术实现:云网融合:针对业务现场人、机、物等不同设备的接入需求,运营商CAPEX投资。OPEXECA需要采用云网融合技术满足运营商降低CAPEXOPEX的需求。异构计算CDN中需要ARMX86GPUNPUFPGA等ECA中进行异构计算。智能内生:不同的业务诉求对于智能化的要求不同,越来越多的业务QOS服务能力,同时将对时延不敏感的业务调度到其它空闲节点ECA内生智能。(一)边缘智能接入网技术特点云网融合:成一体化供给、一体化运营、一体化服务的体系。vRAN v5G vBRASvCPE…云操作系统通用硬件加速硬件超融合一体机第一个阶段为网络云化,在固定网络和移动通信网络中存在大量传统设备,例如防火墙、交换机、等,在移动通信网络中有无线基站、核心网SDN和NFV技术,从传统烟囱式架构演变为软硬件解耦、开放、云化的架构。最底层vRAN v5G vBRASvCPE…云操作系统通用硬件加速硬件超融合一体机2.14软硬解耦、开放的云化网络这样的架构有三方面的优点:采用通用硬件和专有硬件相比可以大幅降低成本。上线和既有业务的升级换代,同时降低网络的运营维护成本。厂商绑定,从而降低成本,促进产业的繁荣和创新。SDN、NFV等技术实现虚拟化和云能的云化多数仍处于软件化和虚拟化,并未达到云网一体的云原生设计。第二阶段云网真正形成一体,网络功能从设计到交付均采用云原生的理念,包括微服务化、容器化、DevOps、持续交付。另外,边缘云、企业私有核心网数据面下沉到边缘云,云桌面、云游戏这些场景又代表BRASNAS等,云网关负责按需转发边缘应用,提供用户与边缘应用的交互接口。此类场景属于边缘云内的增值服务,后续增值应用会逐步增加。AI、大数据、区块链等新技术进一步结合,创造出更加智能化力,形成行业应用和云网基础设施深度融合。EPCNFV5G核心网已经基本完全云化。无线基站云BRAS等设备也都在推动云化的进程。异构计算:Off-The-Shelf商用现成品或技术)的通用硬件,而通信网元在性能、实时性、着很多挑战:CPU指令集是面向众多应用需求而设计,SIMD指令早期的引入是面5G的向量指令集来优化性能,但是,CPU向量计算单元的数量、能够支持的向量型计算单元。CPUcache、内存预取等机制都是为了优化内存访问的性能,但是一旦发生cachemiss、TLBmiss、pagefault等现象时,相应指令的时延会大幅增加,造成了性能的不确定性。CPU微架构中有大量的设计都会有这样的特点,例如分支预测、指令调度等都存在很多预测算法,预测准确时,CPU性能得到优化,但不确定性,都会对通信中对实时性要求高的运算带来挑战。CPUCPU而设计,线程的调度、切换都会对性CPU核隔离、核绑定、中断CPU资源的浪费。5G3GPP5GPolar编码为例,在信道编码链中,polar编码是重要一环,polar码在编码过程中需要进行复杂的罗内克积矩阵运算,导polar5G在FFTIFFT中需要完40965G物理层的性能和实时性需求CPUCPU结合硬件加速5GCPURAN执行。加速硬件的形态可以包括FPGA、DSP、ASIC、GPU等。CPU和加速硬件的组成关系也可以有多种方案:PCI-E槽位中。CPUPCI-E接口。CPUSoC方案。这三种方案,在性能、功耗、成本等方面逐步优化,但灵活性也逐级降低。2.15异构计算硬件形态CPU和加速硬件之间有两种调用模式:Lookasideinline模式。在Lookaside模式下,加速硬件的调用类似软件系统的函数调用,当应用程序执行APICPU继续执行程序的后续部分。Lookaside模式比较适合加速硬件只支持物理层LDPCInlineLowPHY、HighPHY或者整个物理层,当上行数据进入基站后,首先数据会在加速CPU处理上层协议栈部分。异构计算对软件也带来很多新的需求。从云资源池的角度,在调度虚拟机或容器的具体运行服务器节点时,云平台调度器需要能够感知每个服务器节点的硬件能力,哪些节点具有什么类型的加速硬件,同时也需要感知虚机或容器承载的应用有哪些硬件需求,从而在调度或迁移的时候能够匹配相应的硬件。从软硬件解耦的角度,5G基站软件期望有统一标准化的API,适配不同的加速硬件,从而降低基站软件开发的复杂度,提高可移植性。开放式无线电接入网络联盟定义AAL(AccelerationAbstractionLayer)为加速硬件抽象层,使应用程序更容易使用和控制硬件加速器,完成对硬件加速器的调度和管理,以充分利用硬件资源,这项工作目前还在进行中。
2.16开放式无线电接入网络AAL标准化边缘计算将计算从集中式数据中心下沉到通信网络接入网的边缘位置,通过在物理位置上将网络与计算融合,以分布式方式在更接近用户的网络边缘提供低时延的计算服务,满足低延迟高带宽的场景,如视频加速等。虽然边缘计算物理位置上部署在边缘网络内,但在逻辑上,计算和网络的编排与调度系统仍然是相互独立的,缺乏灵活的动态性,导致无法实现网络和计算在控制面的统一,难以及时响应实时和移动业务的需求。在网元级算力内生一体化方案中,通信行业的主要厂商实现方案主要分为两类:通过在网络设备上增加独立的算力板卡或专用算力服务器来实现算力和网络的硬件融合。例如,在5G基带单元(BBU)上增加额外的算力板卡,以提供额外的计算能力。)算力内生网络(ComputingNativeNetworkCNN)。这种方案不需要增加额外的硬件设备,而是通过解耦大量5G基带单元的闲置算力与通信业务,为计算应用提供灵活、实时且低成本的算力支持。算力内生网络将算力与通信网络紧密结合,以满足各种计算需求。这两种方案的提出推动通信领域的算力与网络的融合,以提供更强大的计算能力和灵活性。算力内生网络基于5G、云原生和人工智能等ICT技术,为全行业提供连接、算力和应用服务。该网络构建在3GPP5G网络协议之上,通过虚拟化技术实现了通信业务与物理CPU核的解耦。算力以“vCPU核”为基本单位进行量化,通过虚拟机和hypervisor多核CPU虚拟化技术将空闲算力与通信服务算力隔离,在基站内利用网元空闲算力承载计算任务。这种解耦方式确保了通信业务的QoS优先保障,并实现了严格的内生算力边界隔离。同时,通过设置计算资源和通信资源之间的安全边界以保护通信服务的稳定性,并实时智能调整安全边界,确保通信服务的优先性和服务质量的稳定。目前,算力内生技术已经成功应用于某电力专网项目的XR远程专家辅助维修。某电站每年都要进行长达一个月的设备停运检修,这期间只有经过严格训练的工作人员穿戴特制防护服才能进入电厂进行检修。当检修遇到困难时,工作人员无法离开电厂求助,导致整个维修流程严重延误,造成严重的经济损失。通过算力内生网络,维修工程师、远程专家和检修业务之间建立了更紧密的联系。通过随维修人员移动的5GAR眼镜终端,通过无线接入到5G网络,提供复杂维修过程的可视化和实时交互。远程专家可以通过AR进行远程指导维修任务。算力内生网络不仅为AR远程专家辅助提供了5G高带宽、低延迟的高清互动视频数据传输,还能支持场景渲染和图像分发的计算服务调度,使维修人员可以随时与远程专家分享所见影像,以获得专家的实时分析和指导,降低维修成本和提升维修效率。基于算力内生网络,移动网络基础设施从单纯的提供连接服务演进为提供连接服务+计算服务的新型通算一体基础设施,可以满足AI所需的连接和分布式计算服务,从而更好地支持面向6G的通感算智一体化演进。(二)边缘智能接入网未来演进技术,这些技术目前正在进行和落地开展中。面向未来6G网络架构,2023年12IMT-2030(6G)推进组在《6GITU-R最新6G体方向。未来边缘智能接入网将是通信技术、算力网络、AI技术等深度融合的5G全面支持数字化变革,技术上体现如下特征:6G网络发展的基石,将进一步促进网络的革新发展。展趋势。ChatGPTAI6G时代的重要应用,对网络带来重大影响。区块链等分布式技术,将助力网络的集中+分布的协同发展。边缘智能核心网业务从生产辅助进入行业生产核心环节,SLA(ServiceLevelAgreement,服务级别协议)的差异化需求,带来了网络5G/6G新级增长,也是走向智能化的重要驱动力。位推进网络智能化的转型。智能化演进:上述网络的发展演进意味着核心网要管理的数据量更大、更复杂。目前的核心网仍缺乏足够的智能来提供按需服务和更高的网络资源利用效率。因此,需要通过分布式智能节点的协同提供全局AI能力,实现智能内生。这要求网络通过原生支持AIAI能力作为网络的基本服务,AI即服务(AlaaS),使网络能够自学习、自演进,并赋能行业AI,构筑全行业的泛在智能生态系统即“智能内生”。智能内生从字面意思来看可以分成“智能”和“内生”两个部分。首先,“智能”表示以AI/ML作为核心技术,用于网络自身的感知、分析、最优决策,AI技术因其具有强大的学习、分析和决策能力,以及分布式的网络AI能力,与终端AI、云AI相互协作,实现全行业的智能泛在,体现无处不在的AI理念。其次,“内生”意味着“与生俱来”,即在开始设计6G网络时就要支持AI应用在网络中的无缝运行,这些AI应用包括网络自身的AI应用以及行业AI应用。边缘化部署:基于服务化架构(ServiceBaseArchitecture)的核心网可以支持轻量化的NFV部署,提供了按需设计的网络功能满足不同场景的移动性,QoS相关的需求;基于新的架构和新的功能可以根据行业场景灵活部署。UPF下沉混合组网UPF、MEC下沉至企业的工厂、园区,此方式可提供数据隔离、按需定制的5G专网服务,按需叠加行业应用所需的5G本地网应用,5G融合定位,低时延、高可靠等专网差异化增值业务。但与公网共用5GC控制面,信令数据、网络功能等仍依赖公共网络实现,网络质量受公网实时状况影响。5GC独立组网,在企业的工厂、园区下沉AMF、SMF、UDM、PCF网元,对于控制面完全下沉,轻量化核心网本地独立新建;构建一张增强带宽、低时延、物理封闭的基础连接网络,实现用户数据与公众网络数据完全隔离,且不受公众网络变化影响。UPF行业用户专用独享;数据面、信令面均与公众网络严格隔离;核心网内的能力可更大限度地开放给行业;可满足行业更多的定制化需求;(一)边缘智能核心网智能化演进3GPP在Rel-15即予以定义了NWDAF,全称是网络数据分析功能(NetworkDataAnalyticsFunction),作为核心网络AI+大数据引擎,它是核心网中的一个重要组成部分。其在核心网中对NF、AF、OAM收集原始数据,并对原始数据进行智能分析,输出分析数据给NF、AF、OAM等,用于优化网络和业务。NWDAF旨在网络中简化核心网数据的生成和使用方式,以及生成洞察并根据这些洞察采取行动,他负责数据分析和智能决策,以优化网络性能和增强最终用户体验。图2.17NWDAF智能框架示意图在Rel-18中继续研究涉及AI在网络中NWDAF的增强:通过联邦学习与移动通信技术结合,构建面向商用的数据隐私保护方案,从而充分利用电信网的海量数据;在模型训练及推理阶段,通过考虑执行结果作为模型的输入数据,使模型可以基于结果进行优化来提升模型分析准确性;与网管域智能化分析网元MDAF联动,利用网管侧的智能化分析结果,增加网络侧分析输入信息,从而提高分析准确性。NWDAF网络服务特点:边缘计算的核心思想是将计算任务丛云端移到离用户更近的网络边缘,减少了数据传输的延迟和带宽消耗。NWDAF具有数据采集、生成模型、智能分析等功能,它将网络数据分析功能部署在网络边缘节点上,可以实时捕获和分析网络数据,提供实时的网络监控和安全防护。它还可以从上下行带宽、时延、抖动等多维指标,智能判断用户业务体验状态,并触发网络侧进行保障。这有效减少了数据传输的延迟,提高了数据处理的效率。同时,在架构上NWDAF和所有的核心网元进行连接,基于标准化的服务接口,向PCF/OAM/AF提供按需、快速、精准的智能分析服务,支持多场景灵活部署,满足不同层级的应用要求,使能网络功能实体,实现运营商网络低成本、高效率的智能闭环。在具体业务保障中,通过与UPF、PCF等多网元系统性协作,结合实时感知、智能识别、数据分析,构建用户体验基线,实现按需触发的动态保障机制,并为终端用户提供有效的感知保障,实现数据业务体验保障的端到端闭环服务。NWDAF相关应用场景:NWDAF是一个数据感知分析网元,以网络数据为基础对网络进行自动感知和分析,并参与到网络规划、建设、运维、网优、运营全生命周期中,使得网络易于维护和控制,提高网络资源使用效率,提升用户业务体验。NWDAF适用于各种业务场景,特别是对于大规模的物联网和移动互联网应用来说,具有重要意义。首先,在物联网应用中,NWDAF可以实时监控和分析物联网设备数据,提供实时数据分析和决策支持。其次,在移动互联网应用中,NWDAF可提供实时的网络监控和安全防护,保护用户的隐私和数据安全。NWDAF还可以应用于智能交通、智能制造、智慧城市等领域。以下列举了部分应用场景:对网络中大量数据分析处理提高系统效率智能数据采集:最大限度减少了访问/聚合云到中心位置之间的数据移动。高效集成和测试:内置/预先测试的NWDAF交付和不同代(2G/3G/4G/5G)之间的开箱即用互联功能。更简单的编排:NWDAF是云原生网络功能的一部分,可以部署在同一编排流程中。终端参数的定制或优化NWDAF数据,优化用户移动性管理参数和无线资源管理参数等。业务(路径)的优化QoS信息、业务负荷)预测对提高车联网的服务质量有着NWDAFAFAF对业务参数的优化QoS信息、业务负荷)预测对提高车联网的服务质量有着NWDAFAF,AIUEAI模型的应用效果缺乏有效的验证和保障手段等,NWDAF难以采集有效且6G网络,,面对上述挑战,6G生智能的统一网络架构设计,即在架构层面将网络连接与人工智能三要素中的算力、算法及数据完成深度融合,将安全、AI6G架构中,并渗透到各领域、各网络、各单元的全生命周期中,通过内生设计实现安全、AI等核心技术能力与通信网络最深程度的融合。构建网络内完整的智能体系,从而实现智能服务的高效与高质量保障。全新6G智能内生需实现多方面能力:AIAI服务需要通信和计算协AIAI所需的连接和分布式计算服务、以及AI的连接和计算融合控制需求,在编排管理、控制面、用户面三个维度实现计算和通信深度融合。AIAI(AI素间的交互和集成,AI运行环境,AI工作流的高效运转,AIAI低不准确的问题,AIAI实时性需求。,的多节点间智能业务协作,实现从单节点智能到分布式多节点智能的演进,AI计算模式造成的大量数据传输开销,缓解数据传输中的数据隐私问题。(二)边缘智能核心网边缘化部署边缘智能核心网对传统网络架构进行了重构,以网络功能(NF)的方式重新定义了网络实体,同时引入软件定义网络(SDN)/网络功能虚拟化NF(服务提供功能实现并可互相调NFNF服务。NFNF服务互通的能力,并且可通过编排工具根据不同的需求进行编排和实例化部署。AMFSMFUPFUDM5G网络和多接入边缘计算(MEC,Multi-AccessEdgeComputing)之间的MEC对算力、网络传输的要求。在实际部署时,UPF可以按照不同业务场景对时延、带宽、可靠性等差异PF基于数据网络标NetworkIP降低数据转发时延。UPF的数据QoS调度能力,满足企业一定的定制化需求。图2.185GUPF下沉边缘部署架构5GDNN,企业终端接入网络时,基站会根据切片标识将信令发送至DNN,将数据面承UPF上。终端发送的数据包转发方式与混合专网一致,采取络影响。2.195G轻量化核心网全下沉部署架构品选择权;行业对网络的自主可控完全掌握在自己手中。边缘内生智能的关键技术模型轻量化近年来,随着人工智能技术的快速发展,深度神经网络(DNN)获得了越来越多的关注。DNN已被广泛地应用于各个领域并取得了优异的效果,如目标DNN的参数量日益增加,模型结构也变得愈加复杂,这带来了极大的存储与计算资源需求。此外,随着移动设备的普及和边缘计算的兴起,DNN模型在边缘DNN模型DNNDNN剪枝20903.1DNN中,由于结构化剪枝和非结构化剪枝两种。3.1剪枝示意图根据剪枝准则对模型中的通道进行重要性分析;3)根据设定的剪枝率对模型的冗余通道进行删减;4)对删减后的模型进行微调,弥补因剪枝引入的性能损失。剪枝中L1L2PM[][1]ClustrPunin,CP)剪枝率的选择。Hessian[13]可以根据卷积核内在特征找到不[14](ShiftPruning,SP)1x13.2所示。图3.2SP算法3x3卷积分解的示意图知识蒸馏2015Hinton学生模型进行模仿。3.3知识蒸馏中的师生框架3.4蒸馏的新型多尺度特征提取和融合方法使用了多尺度特征层部分,或者将早期知识转移到后期模型。教师模型和学生模型的容量差异,出现了很多学生模型结构,如:1)层模型;2)教师模型的简易量化版本;3)具有高效操作的小型模型;4)优化的全局网络结构的小型模型;5)和教师模型一致的学生模型。通道的重建和等效删除。3.4用于在线知识蒸馏的多尺度特征提取和融合(MFEF)示意图量化从n位降低到m位,其中n>m,减少了模型的存储开销和运行功耗,加快3.5所示。量化用途广泛,可以运用于大多数的模型和硬件,untiztionetining,(Postiningquntiztion,PTQ)。涉及对神经网络参数进行量化,然后重新训练它,可以使它能根PTQ。步骤一般如下:量化权重;使用浮点输入和激活对模型执行前向训练;使用浮点梯度对量化模型执行后向传递;使用浮点梯度更新权重,然后返回步骤(1)。当训练数据不可用时,则采用训练后量化方法。PTQ利用校准数据对预训量化,但这通常会以牺牲可实现的精度为代价,因为至少需要4位数据进行存储。图3.5量化感知训练(QAT)和训练后量化(PTQ)的流程图NAS神经架构搜索(NeuralArchitectureSearch,NAS)是一种模型压缩技术,旨3.6所示。NAS的目标是通过到更高的效率和性能。NAS的三个重要方面为搜索空间、搜索策略和性能评估策略。NAS的搜索效率和结果。在特定任务中,人们可以利用先验知识来减少搜索空间的大小和简化搜索,如具有ResNet和InceptionNAS-Bench-101NASNAS算法可以找出最佳结构,但算法运行时间会过长。(RL)和基于梯度性能评估指标是帮助NAS在搜索空间找到性能更优的结构。正常模型训练3.6神经架构搜索框架图参考文献Niu,ZouandLiu,“Cluster,ReconstructandPrune:EquivalentFilterPruningforCNNswithoutFine-Tuning,”2023IEEESymposiumonComputersandCommunications(ISCC),Gammarth,Tunisia,2023,pp.625-630.Pruning-and-distillation:One-stagejointcompressionframeworkforCNNsviaclustering.Liu,andNiu,“SplittablePattern-SpecificPruningforDeepNeuralNetworks,”2023IEEEInternationalConferenceonMultimediaandExpo(ICME),Brisbane,Australia,2023,pp.1439-1444.ShiftPruning:EquivalentPruningforCNNviaDifferentiableShiftOperator.Multi-scaleFeatureExtractionandFusionforOnlineKnowledgeDistillation.边云协同智能联邦学习联邦学习(FederatedLearning,FL)是一种机器学习的分布式学习方法,其主要特点是在不集中存储数据的情况下进行模型训练[16]3.7式学习中涉及大量敏感信息的隐私问题。整个联邦学习的训练过程通常包括以下步骤:初始化:全局模型在联邦学习开始时由一个中央服务器初始化。本地训练:训练是在本地进行的,不涉及对中央服务器的通信。模型更新:在本地训练后,本地设备生成模型参数的更新。同步聚合:参数的聚合操作,例如加权平均,以生成全局模型的新版本。迭代上述步骤在多个迭代中重复进行,直到达到满意的模型性能。图3.7联邦学习训练框架低通信成本,但它也面临一些挑战。以下是一些联邦学习的挑战。数据异构性:不同(non-IID)时,这一问题变得更为严重。实际上,由于有限的观测能力,邦学习部署在实际物联网环境的瓶颈。隐私保护:联邦学习的一个主要目标是在不共享原始数据的情况下进战。设计有效的隐私保护机制对于用户的信任至关重要。通信开销:实用性至关重要。激励机制:与联邦学习,需要引入适当的激励机制。联邦学习在边缘智能中发挥着重要作用,将在3.3节中进行详细介绍。分割学习(也叫切割层3.83.8分割学习示意图和时延,可以采用以下方式实现并行分割学习:模型更新;证能利用到其他客户的数据;的优点。行,即“先并行后串行”。压缩减少传输中间数据。由于深度神经网络(DeepNeuralNetwork,DNN)是计算密集且结构复杂的,DNN模型直接部署在终端设备上将消耗大量的计算资源和内存,传统的方法是DNN应用数据在带给服源短缺之间的矛盾,一种可行的方案是将DNN进行模型分割和分区处理目前,模型分割的方法主要分为两种:基于层粒度的分割和细粒度的分割方案。一部分部署在终端设备,另一部分传输至附近的具有较强计算能力的边缘服务DNN3.9所示,当退出点向后移动时,每个分DNNDNN任务的适当部3.9具有不同推理精度的多分支早退网络结构3.10(a)所示,基于工作负载分割的方案将输入数据进行按行分割并部3.10(b)所示,由于神经网络中卷积计算的独立(Kernel-basedPartitionMethod,将每一层的卷积协作设备将各自推理运算得到的相应输出特征图通过多播的方式发送给其他协作设备进行数据聚合,以保证在下一次卷积之前每个设备拥有完整的输入数据/特征图。由于每个协作节点只生成部分特征图信息,KPM保证了敏感数据的隐KPMKPM在减小单设备能够成为一种具有潜力的分割卸载方案。3.10工作负载分割方案和卷积核分割方案参考文献G.Hu,N.andR.“ClusteredDataSharingforNon-IIDFederatedLearningoverWirelessNetworks,”ICC2023-IEEEInternationalConferenceonCommunications,Rome,2023,pp.1175-1180.Niu,Z.HanandZou,“AnAdaptiveDevice-EdgeCo-InferenceFrameworkBasedonSoftActor-Critic,”2022IEEECommunicationsandNetworkingConference(WCNC),Austin,TX,USA,2022,pp.2571-2576.X.Zhang,N.B.SunandG.Hu,“AcceleratingDeepNeuralNetworkThroughEdge-DeviceAdaptiveInference,”2023IEEE34thAnnualInternationalSymposiumonPersonal,IndoorandMobileRadioCommunications(PIMRC),ON,Canada,2023,pp.1-6.无线联邦学习中的边缘智能无线联邦学习(一)无线联邦学习概述(Machine(ArtificialIntelligence,AI)技术正在快速发展,但将其应用于实际生产环节却还面临诸多ML“数据孤岛”数据保护法规(GeneralDataProtectionRegulation,GDPR)[19]20185120203月份便对规范进行更新和加强[20]。因此,即便企业主观上有数据在消费、医疗、金融等边缘智能布局和应用的重点领域。为了解决智能和隐私之间的矛盾,联邦学习(FederatedLearning,FL)的概2017年左右应运而生[21]MLFLML训练的思路,不再从用户处收集数据,而是将模型发送到用ML共享数据。图3.11联邦学习的基本流程FL3.11边缘或云服务器统筹和调度若干根据数据分布特征的不同,可将FL细分为横向联邦学习(HorizontalFL,HFL)、纵向联邦学习FLVFL)和迁移联邦学习(TransferFLTFL)三种类型[22](特征VFL指的是用户本身重叠较多,但不同节点的数据类型(特征)却有明显区别的情况,例如相同地区的两家企业,则FLHFLHFL目HFL技术展开讨论。“联邦这种联合在未来“万物智联”时代将会下沉到规模更大、分布更广的用户终端级FL,WFL),该技术将是未来边缘智能系统中的一个关键使能技术。(二)无线联邦学习与边缘智能边缘智能(EdgeIntelligence,EI)的核心诉求是将智能化下沉到边缘,也即ML构造随时接入、广域覆盖的个性化智能服务。EI的关键环节,和利用;另一方面,FL训练过程需要消耗大量的资源,如何合理地安排用户接智能模型的快速收敛是发展边缘智能需要考虑的重要因素。联邦学习中的模型稀疏化(一)模型稀疏化概述(StochasticGradientDescent,或其变种是目前DNNFL新的传输很多时候可以在不过度影响模型收敛的前提下降低通信量,这便是模型稀疏化的主要动机。总的来说,模型稀疏化指的是选择性地传输部分模型参数,以降低需要传输的模型参数个数/维度,从而降低模型传输的开销。(二)模型稀疏化的基本流程3.12模型稀疏化的基本流程图3.12展示了模型稀疏化的基本流程,主要包括如下四个步骤:确定模型稀疏化的预算确定模型稀疏化的图案kk稀疏(Rand稀疏k稀疏则是随机地k稀疏无需对参数进行排序,计算开销较小,且在理论分析上具有统计无偏的优势,但由于不考虑参数重要性的差异,通常会导致收敛速度有明显下降。存储模型稀疏化的误差并传输,则避免了通信资源的浪费。传输模型稀疏化的结果(也称索引RandRandRand稀疏。(三)模型稀疏化的效果[23]Dense-SGD1/1000的参数,通信开销大幅降低;同时可以看到,基RandRandK-SGD的收敛效果较差一些。因此,在实际应用中通常采稀疏,该方案对收敛速度的影响较小。(b)ResNet-20@CIFAR-103.13模型稀疏化的实验效果联邦学习的模型量化(一)模型量化概述ML1632位的浮点数进行ML中已被广泛用于构建轻量级网络模FL而言其更有必要性和可行性。如前所述,FLSGD及其(二)模型量化的基本流程图3.14模型量化的基本流程图3.14展示了模型量化的基本流程,主要包括如下三个步骤:确定量化参数模型量化——距离/最小值。以上三个步骤均在发射端完成。模型解量化2(三)模型量化的效果[24]3.15(IndependentandIdenticallyDistributed,都能在较低量MNIST1-bit。
(aCNN@MNIST(IID) (b)CNN@F-EMNIST(IID)3.15模型稀疏化的实验效果Tikkinen-PiriC,RohunenA,MarkkulaJ.EUGeneralDataProtectionRegulation:Changesandimplicationsforpersonaldatacollectingcompanies[J].ComputerLaw&Security2018,34(1):134–153.洪延青,何延哲,杨建军等.信息安全技术个人信息安全规范[S].国家市场监督管理总局;国家标准化管理委员会.北京:中国质检出版社,2020:1–36[2020-03-06].McMahanB,MooreE,RamageD,etal.Communication-efficientlearningofdeepnetworksfromdecentralizeddata[C]//ArtificialIntelligenceandStatistics.2017:1273–1282.HowardAG,ZhuM,ChenB,etal.MobileNets:Efficientconvolutionalneuralnetworksformobilevisionapplications[J].arXivpreprintarXiv:1704.04861,2017.ShiS,ChuX,CheungKC,etal.Understandingtop-ksparsificationindistributeddeeplearning[J].arXivpreprintarXiv:1911.08772,2019.ZhengS,ShenC,ChenX.,Designandanalysisofuplinkanddownlinkcommunicationsforfederatedlearning[J].IEEEJournalonSelectedAreasinCommunications,2020,39(7):2150-2167.边缘智能化部署无线侧智能化驱动力移动通信产业是构建国家信息基础设施、全面支撑经济社会发展的战略性、5G6G网络将在5GAI能力赋予到各个领域的应用。无线侧引入智能化的驱动力一方面来自于无线网络自身需求:5GAIAI6G构还将降低数据收集、传输过程造成的时延和信息泄露隐患。智能化部署5G6G无线网络的运行提供了许多潜在的功能增强,是无线3.16AI,如智能编排等已进行部AIRIS等受算力及效果的限制,还处于研究探索阶段。下面将从技术演进及模型分级部署两方面介绍网络智能化演进情况。图3.16无线侧智能化部署架构(一)网络智能化技术演进特征AIforNETNETforAI的阶段转功能、协议和流程进行深度融合设计。6GAIAIAI能力按需编排,为高水平网络自治和多样化业务需求提供智能化所需的基础能力。6G无线网络将向云化与分布式的方向发展,需要考虑分布式网元节点间多维异构资源的协调以及智能服务对性能的差异化需求。6G网络中智能服务的质量,需要综合考虑智能服务对通信、计算、数据和存储资源的不同需求。(二)网络智能化模型分级部署AI简单分为模型训练和AI同的应用案例和场景。5G基站侧只支持小模型的推理,随着基站算力的增强、基站云化技术6GAIAIMECOSS。在网管应用域网管设备已为通用服务器,可扩展性强,数据采集>15min时延,支持非实时智能化预测分析,具备大模型训练能力。在边缘云资源域层面MEC具备中模型训练能力,支持大中模型推理。AI加速芯片的异构资源,支持实时智能化预测分析。但基站算力资源有限,只具备小模型训练及小、中模型推理能力。(三)智能化网络资源编排6G将是一个多元化的网络:网络层面,组网更多、频段更复杂,且可能需5G/4G多个频段密切协同;业务层面,应用场景更多且需求差异巨大,对76G在巨大的“剪刀差”。“网络为中心”KPI为目标;承载在相同承载中的不同数据业务没有被区6G用户体验。最优解实现网络编排。用“用户智能编排”2C业务场景,证明了用户智能编排方案能够实现多种业务的精准编排和导引,高清直播等大上行业务全程无卡顿,可实现增益:8%~25%;1.65s“体验差”态的停留时间;30%以上。图3.17分级智能化部署示意图算力部署MEC时性越好,可根据应用、业务和算法对时延的需求选择合适位置的算力节点。MR环境数据等,作为模型训练的输入,因此一般部署在网管侧。AI应用,算力主要部署CPUGPUASICFPGA件架构基站在应对实时性要求高的计算时可采用CPU叠加GPU、ASIC、FPGA等专用芯片加速,实时性要求低的计算可通过叠加服务器的方式进行部署。图3.18分布式算力部署示意图深度边缘节点6G新场景和新业务的提出,对网络提出了按需定制和快速响应的要求,深6G6G智能、数据、网络等多种形态的业务能力。深度边缘节点的“深度”包含了两方面的含义,第一,“深度”代表节点物理上6G深度”6G锚点。6G本和安全风险,进而提高相关业务的效率。3.19深度边缘节点架构3.19为深度边缘节点架构,该架构包括了基础设施层、可编程资源池、CPUGPUDPUASICAI模型资AIAI的生命周AI算法针对网络自由化和网络场景的支持,算力编排器针对深度节点内的AI能力。深度边缘节点的无线网络可编程6G研究的重要技术手段。应用无线网络可编程技术,能够在消除网络差异性的基础上,算力、数据和智能多维度资源的编程,实现网络的高效运转。点内策略、算法等的灵活嵌入等操作。AI推理模型嵌入深度边缘节点,实现智能内生。6G深度边缘节点的核心主要包括可编程作用域、可编API设计将是最终智能可编程网络呈深度边缘节点的网元融合6G网络旨在进一步提升移动通信性能、功能和应用范围,为未来的数字社高效的方式支持差异化的应用需求。特别是针对行业应用,如数据业务/网络控制信令不出园区、轻量级网络部署等,核心网(CN)部分功能(如用户面功能和控制面某些功能)将下沉至边缘侧,实现分布式部署,以保障时延、吞吐量、安全等具体指标。进一步,可考虑CN与无线接入网(RAN)融合,有助于提升系统性能和资源利用,降低网络复杂度和成本,减少不必要的转发及处理。RAN-CN融合包含两个层次:1-部署方面:即在物理位置层面的共部署,RANCN内部处理逻辑相对独立。2-功能方面:RANCN的逻辑功能和对应资源重构,以降低信令新兴技术和应用提供更好的支持。驱动力分析:RAN-CN构的未来演进需求。首先,现有架构存在下述问题:RANCNN2N3的交互,当前的架构形态和交互模式无法充分利用网络虚拟化和云化的优势。CNRANCN频进并不友好。单点转发等导致的效率问题:UECN各网元交互的控制信息必须要通过CU-CPAMF此外,未来网络演进需求如下:性能指标提升(如超高可靠、超低时延)RAN/CN协同或重构:如在确定性网络中需要跨域协同和调度,来保障端到端的确定性服务。RAN通过与CN可实现面向6G的RAN(如通过NWDAF或其增强功能实现RAN网络智能)。RAN-CN2B“叠式”的网络设计,进行网络功能架构和流程的简化,有助于降低网络成本和功耗,实现资源高效利用和处理效率提升。用例场景分析:融合实现更高效简洁的网络能力提供,同时保障网络性能。边缘移动性:自动驾驶/车辆网/智能交通、工业物联网、飞行器、移动游戏移,考虑移动性管理功能重构,简化功能和信令传输。降低延迟、提高应用的响应速度和用户体验。要网络提供海量设备接入能力,对网络架构简化提出了需求。和及时的数据传输。潜在融合功能分析:会话管理功能:PDU会话建立过程为例,RANPDU会话和对QoSUuNG-UUESMF则需UPFRANUESMF的信令交互RANAMFRANCN会话管理相关功能可考虑重构和融合。状态管理功能:CNCMRANRRC状态存在耦合关系(例RRC状态为IdleUERAN的连接未建立,则无法进入CM-Connected),状态管理的复杂度、开销较大。因此RANCN状态管理相关的功能可进行重构和融合,简化网络状态管理。移动性管理:Xn/N2RANCN配合AMFSMFUPF也需要提供中继功能,区更新和寻呼,根据UE的状态不同,可能涉及不同的区域更新(更新/RAN通知区域更新(CN触发/RAN触发定冗余,较为复杂。RAN/CN相关功能的融合可简化流程和内部处理。深度边缘节点的跨域AI设计当前无线接入网与核心网均采用集中式的外挂AIAIAI缺乏协同,仅能支持特定的智能化场景。随着智能化场景的不断AI3.20AI协同架构及潜RAN-CNRAN和CN域的AIN2RAN非实时智能控制器、CN和智能化服务。3.20AI协同架构及路径RAN-CN融合:RAN的协作是实现各种具有不同需求的人工智能用例QoSCNRANRANCN架构对N2接口连CNAMFRANNWDAF之间的控制数NWDAF的交互。此外,考虑到分布式智能部署,RANCN的智能功能在物理上是紧密相连的,为两者之间的逻辑功能进RAN-CN的协作/融合以实现内生AI,需要考虑以下几个方面:考虑协作/RANCN型、算法等的共享和协调的具体协作/融合功能。确定协作/RANRAN-CN的协作/探索数据安全和隐私保护的考虑。RAN-CN的协作/融合涉及广泛的数据共制和隐私保护策略来保护用户数据和网络信息的机密性和完整性。跨域智能管理域编排:AI协同能力,需要进一步增强运营管理域功能,提AIAIAIAIAI算力资源。AI的管理和编排。管理系统需要具备从不同网络域获取AI信息以及将其开放给其他域的能力。AI编排能力,例如跨域的数据整理和映射、人工智能任务的识别和分解、计算节点的匹配等。AI生命周期管理能力。除了数据收集、模型训练和推理之估和模型更新等过程。管理系统需要支持跨域的分布式学习,例如管理垂直联邦学习的训练和推理。解决能力和闭环控制能力。边缘内生智能应用智慧交通智慧交通边缘计算系统概述性的要求。智慧交通计算系统通常由以下几个组成部分构成:在本地进行数据处理、分析和决策(如信号灯、摄像头、传感器等)。基站等位置,以便快速处理和响应交通事件和需求。协同工作,进行实时数据处理和决策。从边缘传输到中心,以供进一步的处理和分析。数据交互,提供更深入的交通管理和决策支持。智慧交通边缘计算类型21TOPS、32TOPS、100TOPS、200TOPS、250TOPS几种规格。智慧交通边缘计算常见的两种结构如下:区域边缘计算独立对路侧感知数据进行集中运算,此方案不需要路侧GPU形式部署于机房。域边缘计算与路侧边缘计算进行分级部署,路侧边缘计算对路侧原始AI分析处理后,将结构化数据回传至区域边缘计算,区域边缘计GPU能力要求不高,对融合算法能力要求较高。智能交通边缘计算硬件设施常用规格:产品类型服务器服务器X86工控机ARM工控机ARM工控机ARM工控机处理器服务器搭载大算力GPU服务器搭载大算力GPU工控机搭载大算力GPUNvidia AGXOrinNVIDIA OrinNX16GBNvidia AGXXavierCPUIntel Gold 521816C*2Intel Silver 421616C*28核12-CoreNVIDIAARM A78AE 64-BitCPU8 核 Cortex®-A78AEv8.264位CPU8-CoreCarmelARMV8.264-BitCPU内存32GB*432GB*432G32GB LPDDR516GB LPDDR532GB LPDDR4x存储2BSS展1.2TBSAS扩展11TB1TB1TB算力1000TOPS500TOPS250TOPS力)力)32TOPS最大功耗1200W900W245W50W25W30W工作温度室温室温-20~55℃-25°C ~ -20°C ~ -25°C~ ((65℃~80℃降频(60℃~70℃降频(60℃~80℃行)运行)运行)频运行)智能交通边缘计算硬件设施基本能力:功能模块详细功能设备运维管理支持边缘计算设备注册远程开关机参数配置与查询支持设备远程重启及软件升级运维管
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 食品采购管理制度
- 企业环境的应急预案
- 幼儿园手工制作活动策划方案(3篇)
- 春节安全的应急预案范文(35篇)
- 老师工作计划11篇
- 高中体育述职报告5篇
- 高考地理二轮复习综合题专项训练1特征(点)描述类含答案
- 第二十三章 数据分析 综合检测
- 山西省太原市2024-2025学年七年级上学期期中地理试题(含答案)
- 河南省周口市项城市东街小学等校2024-2025学年四年级上学期11月期中数学试题
- 学生会考核表(共3页)
- 脓毒症中西医结合诊治专家共识
- 六年级家长会家长代表演讲稿-PPT
- 公寓精装修施工方案
- 《电容的连接》ppt课件
- 农村公路养护规范
- 毕业生就业推荐表填写说明-北京化工大学理学院.doc
- 新冠咽拭子的采集、送检及保存注意事项
- 捷达手动变速器的拆装
- 一例重症肺炎的个案护理.doc
- 《医院重点病种分析》.doc
评论
0/150
提交评论