版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
摘要边缘计算作为下一代无线网络的关键技术,推动了 4 41.2边缘计算与边缘内生智能发展概述 41.3边缘内生智能的重要性 52.6G边缘智能网络和基础设施 72.1面向6G的边缘内生智能架构 72.1.1架构整体概述 72.1.2内生智能面的设计与实现 82.2边缘智能算力基础设施 112.2.1边缘智能硬件 112.2.2边缘智能云平台 192.3边缘智能网络基础设施 282.3.1边缘智能接入网 282.3.2边缘智能核心网 363.边缘内生智能的关键技术 433.1模型轻量化 433.1.1剪枝 443.1.2知识蒸馏 453.1.3量化 473.1.4NAS 483.2边云协同智能 493.2.1联邦学习 493.2.2分割学习 513.2.3模型分割 523.3无线联邦学习中的边缘智能 543.3.1无线联邦学习 543.3.2联邦学习中的模型稀疏化 573.3.3联邦学习的模型量化 603.4边缘智能化部署 633.4.1无线侧智能化驱动力 633.4.2智能化部署 633.4.3算力部署 663.5深度边缘节点 673.5.1深度边缘节点的无线网络可编程 693.5.2深度边缘节点的网元融合 693.5.3深度边缘节点的跨域AI设计 724.边缘内生智能应用 754.1智慧交通 754.1.1智慧交通边缘计算系统概述 754.1.2智慧交通边缘计算类型 764.1.3智慧交通边缘计算应用 784.2智能制造 804.2.1智能制造边缘计算系统概述 804.2.2智能制造边缘计算类型 824.2.3智能制造边缘计算应用 834.3智能节能 864.3.1场景概述 864.3.2对边缘智能的潜在需求与应用 865.边缘内生智能的发展与挑战 876.致谢 90因此,作为下一代通信技术,6G必须具备更高的性能和更强大的智能化能力,至云端的形式无法满足用户低时延的需求。因此,边缘计算随着物联网(IoT)边缘内生智能能够在原生网络中实现各个单元之间的自我动态感知以及自提高系统整体网络效能,并实现网络架构中整体生命周期的自主感知以及自我1.2边缘计算与边缘内生智能发展概述是一种将计算过程从中心服务器迁移到设备边缘的技术。它的核心思想是将网法实现复杂的人工智能算法和模型的运行[5]。随着技术的不断发展,边缘设备1.3边缘内生智能的重要性量激增,设备端将产生大量的数据(例如音频、图片和视频)。此时AI算(2)边缘内生智能以更丰富的数据和应用场景扩展智能算法部署范围:传性能[8]。然而,随着万物互联时代的快速发展,传统的云计算模式逐渐向边缘传至云端进行AI算法处理,那么将会占据大量的带宽资源并为云计算数据中心AI也是创新前沿的关键驱动力,如自动驾驶、智能金融。因此,AI应添加或现有应用的升级,边缘设备可以轻松扩展或(4)边缘内生智能增强了人工智能应用的可用性和可访问性:由于边缘设ConnectivityintheEraofDistributedIntelligence,”IEEECommunications[2]M.ElsayedandM.Erol-Kantarci,“AI-EnabledFIntelligence:TheConfluenceofEdgeComputingandArtificialIntelligence,”IEEEInternetofThingsJournal,vol.7,no.8,pp.7457-7469,Aug.2020.ArtificialIntelligenceandIndustrialAutomationbasedonEdgeComputing2021InternationalConferenceonNetworkingandNetworkApplications(NaNA),Dec.2020..[7]M.Mukherjee,R.Matam,C.X.Mavromoustakis,H.Guo,“IntelligentEdgeCompuCommunicationsMagazine,vol.58,ninTelligenceforSmartandGreen6GNetworks,”ILearningforMobileEdgeComputing:LearningfromCommunicationsMagazine,vol.57,no.3,p5GRadioAccessNetworks,”IEEECommunicationsMagazine,vol.57,no.3,pp.2.6G边缘智能网络和基础设施2.1面向6G的边缘内生智能架构作为下一代无线网络的关键使能技术,多接入边缘计算(Multi-accessEdge并将其作为MEC系统的组成部分,以此来提高MEC的灵活性和开放性,2.1.1架构整体概述础设施层、虚拟化层、功能层和应用层;“三面”包含控制面、AI面和管理编排图2.1边缘内生智能架构等;计算资源包括中央处理器(CentralProcessingUnit,CPU)、图形处理能使用。当业务需求到来时,虚拟化层可创建Docker容器并使其在资源池源进行协调和管理。MANO面包含虚拟基础设施管理器(Virtualized),和网络的行为和需求,实现网络的自运营。其虚拟化层为AI应用提供运行其虚拟化层包含被解耦的AI功能和一条服务总线;其应用层包含一个模板选择器和一个智能算法模型库,用于实现边缘在边缘内生智能架构中,基于微服务的AI面被解耦为独立的AI功能,AI功能可被按需激活和调用;在应用请求到来时,被解耦的AI功能可以如图2.1所示,在内生智能面中,AI服务被解耦为数据采集功能(DataFunction,MVF)以及数据存储功能(DataS),降维等操作将原始数据中的无效或偏移内容移除,将其转化为AI模型训练过服务总线与控制功能进行信息传递,并根边缘内生智能重构借鉴了模板与实例化思想,依据业务类型进行AI功能激中。模板标识符用于区分不同AI应用对应模板的标识,存储在模板选择器中。在模板使用前,需对模板进行预定义操作,即根据特定AI应用需求定1)MANO对应用层持续监测,在接收到应用请求时向模板选择器发送模模型库来请求Tinf4)模板选择器将收到的Tinf发送至MANO面图2.2边缘内生智能实例化流程2.2边缘智能算力基础设施2.2.1边缘智能硬件边缘智能硬件对环境恶劣的工厂生产线上的各种数据进行实时采集、处理和分的相关性,如数据聚合/转换、协议解析、工业控制、AI推理等,硬NearEdgeFarEdge模拟数字转换(传感器)、发送控制数散性控制器)等(1)边缘部署领域的多样性需要不同的基础设施组合。边缘部署跨越许多(2)边缘计算在电信、公用事业、制造业和金融业等行业增长迅速。电信施部署将增长。而AI应用的多样性也使得边缘计算硬件、软件、服务和解决方2.长生命周期产品诉求:(1)在以交通、医疗、能源、工业为代表的众多行业的边缘计算应用中,如轨道交通控制系统、中大型医疗设备、变电站/配电站采集控制单元、工业控(2)长生命周期面向的是整个业务系统,不仅包括边缘计算硬件设备,也(3)同时,长生命周期也不仅仅包含运行时间,也包括了硬件设备的后续3.严苛的工作环境:求会略高一些,在人机共处的情况下,还对边缘非结构化数据位置信息视频传感器AR/VR图片……数字孪生……非结构化数据位置信息视频传感器AR/VR图片……数字孪生……精益化的需求日益明显。同时,边缘智能、物联管控、软件定义边缘和5G/6G同时还需要考虑到后续在边缘侧的进一步扩展。对于高度参与物联网的企业来要尽可能多地自动化操作的地方,因为这样就模式识别仅凭CPU难以高效处理,CPU+智能算力(碎片化客户应用场文本文本音频音频工业实时控制工业实时控制多媒体处理多媒体处理自动驾驶自动驾驶AIoTAIoT中国信通院预测,到2023年智能算力(GPU/FPGA/ASIC等)占总算力规模的70%图2.3应用场景多样性推动边缘异构加速计算发展3.原生边缘智能:于边缘计算场景的通用服务器(general-purpose)和专为边缘场景设计的边缘优其中用于边缘计算场景的通用服务器(general-purpose)与用于数据中心场景的通用服务器在硬件上几乎没有差别,往边缘优化型服务器(edge-optimized)与通用服务器相比,在外观、功能、种安装方法、安全性和OT集成等。从产品形态来看,边缘优化型服务器(edge-optimized)又可以细分为定制型边缘服务器(purpose-built)和边缘微服定制型边缘服务器(purpose-built)是针对特定功能进行设计和构建,部署边缘优化型服务器(edge-optimized)特性设计具有更宽的温度范围、防潮、防尘、耐腐蚀、抗震、电磁兼容性等特点。机箱比通用服务器更小机箱深度,以适应现有基站站点、边缘数据中心或特定的工业现场位置。操作与维护自动操作和维护以及远程控制,最大限度地减少手动操作和维护。提供统一的运维管理界面。安全在复杂的部署环境下,需要防止潜在的网络攻击,以确保数据的安全性、高可用性和一致性,并在硬件层面防止恶意破坏。I/O前端I/O设计,提供更方便的操作和部署。安装方式多种安装方式,如壁挂式安装。安装和拆卸简单。功耗低能耗,可限制直流、交流、布线等。高可靠性、低延迟、无线支持等。诊断和可维护性,其MTTR(MeanTimetoRepair)一般为5min,MTTF10的变化给予快速响应,及时进行采集和输出调节(看门狗功能这是普通PC),功能,最多可扩充20个板卡,能与工业现场的各种外设、板卡如与道控制上架式工控机塔式工控机嵌入式工控机工业一体机/工业显示图2.4工业计算机示意图行业APP行业APP行业APP行业APP容器管理IP化PLC/RF/RS485/DI…图2.5边缘计算物联网架构示意图图2.6边缘一体化机柜示意图2.2.2边缘智能云平台图2.7边缘智能内生云平台总体架构如图2.7给出了一种边缘智能云平台实现,它与关上下文信息(身份、威胁/可信评估、角色、位置/时间、设备配置等)加物理机和虚拟机,具有轻量级、部署简单、支持多环NPU、VPU等异构器件。边缘节点与中心云之间的网络环境复杂,边缘节点可能因为某些原因与中心云断联。由于边缘节点数量众多,环境复杂,IT运维人图2.8用于MEC的边侧内生智能平台图2.8展示的边侧内生智能平台是用于MEC(Mul的一种实现。它基于K3s以及软硬一体化的轻量级虚拟化,以轻量级虚拟化为络基础管道能力,提供实时智能的应用服务,能够在基于5G的M式下承载多种应用场景。该平台足够精简,可以运行于单台服务器或由多台服件资源的限制和成本的限制。“构建一次,推送到任意地点”的边缘DevOps在边缘使用云技术,将边缘节点视为CI/CD流程的构建目标,将云端仓库视为在这流量、CPU利用率、进程、内存等方面的状态进行采集,并实时为运维人员提图2.9云侧运维管理平台功能示例图2.9展示了一款云侧运维管理平台叫做集中管理平台CMO(CentralManagementandOrchest),图2.10云边协同的能力与内涵(ECC边缘计算参考架构3.0)减少延迟、提高可扩展性、增强对信息的访问量,并使边缘计算节点主要负责现场/终端数据的采集、处理和分析,并将处理结果以及业务管理协同是指边缘计算节点主要提供模块化、微服务化的应用/数字孪服务协同是指EC-SaaS(边缘计算SaaS)与云端SaaS在用户应用层面的服务跨边云协同训练和协同推理能力。它支持现有AI类应用无缝下沉到边缘,快速实现跨边云的增量学习、联邦学习、协同推理等能力,最终达到降低边缘AI服图2.11Sedna架构图图2.12EdgeMesh架构图EdgeMesh是KubeEdge在边缘场景下实现边缘节点互通的一个解决方案。点间的通信分为局域网内和跨局域网。局域网内的通信采用节点间直接通信,跨局域网的通信在打洞成功时Agent之间建立直连隧道,否则通过中无需访问云端apiserver;EdgeM2.3边缘智能网络基础设施2.3.1边缘智能接入网关键需求。运营商是边缘计算网络基础设施主要提供者,在边缘计算产业联盟图2.13边缘计算网络基础设施示意图(运营商边缘计算网络技术白皮书)网络技术有L2/L3局域网、WIFI、TSN(时间敏感网络)、现场总线等。接入网需支持移动用户和固定用户同时接入,在移动网络中,需要提供如2G/3G/4G/5G等接入方式。在固定网络中,需要提供光接入网络PON、以及各(1)云网融合:针对业务现场人、机、物等不同设备的接入需求,运营商会根据边缘业务应用的区域位置不同而建设多张接入网络,增加CAPEX投资。(3)智能内生:不同的业务诉求对于智能化的要求不同,越来越多的业务务提供不同的QOS服务能力,同时将对时延不敏感的业务调度到其它空闲节点(1)第一个阶段为网络云化,在固定网络和移动通信网络中存在大量传统设备,例如防火墙、交换机、NAT等,在移动通信网络中有无线基站、核心网NFV技术,从传统烟囱式架构演变为软硬件解耦、开放、云化的架构。最底层也会通过加速硬件来辅助。在硬件之上,通过虚拟化技术,以及Linux/KVM、QEMU、OpenStack等开源代码被vRANv5GvBRASvCPE…云操作系统通用硬件加速硬件超融合一体机图2.14软硬解耦、开放的云化网络(2)第二阶段云网真正形成一体,网络功能从设计到交付均采用云原生的理念,包括微服务化、容器化、DevOps、持续交付。另外,边缘云、企业私有移动网络中,5G核心网数据面下沉到边缘云,云桌面、云游戏这些场景又代表包括云桌面、云NAS等,云网关负责按需转发边缘应用,提供用户与边缘应用(3)第三个阶段为行业融合,智能开放,本阶段具有两方面特点:一方面云网基础设施与AI、大数据、区块链等新技术进一步结合,创造出更加智能化首先在无线网络,从基站到核心网,全球运营商都在推动云化。核心网从EPC开始做NFV虚拟化、云化,到现在5G核心网已经基本完全云化。无线基站云Off-The-Shelf商用现成品或技术)的通用硬件,而通信网元在性能、实时性、(1)CPU指令集是面向众多应用需求而设计,SIMD指令早期的引入的向量指令集来优化性能,但是,CPU向量计算单元的数量、能够支持的向量的多级cache、内存预取等机制都是为了优化内存访问的性能,但是一旦发生了性能的不确定性。CPU微架构中有大量的设计都会有这样的特点,例如分支预测、指令调度等都存在很多预测算法,预测准确时,CPU性能得到优化,但(3)通用CPU是为多任务共享CPU而设计,线程的调度以3GPP规定的5G控制信道编码方式Polar编码为例,在信道编码链中,polar编码是重要一环,polar码在编码过程中需要进行复杂的罗内克积矩阵运算,导致polar码的运算过程复杂,对算力要求高。同样5G在FFT和IFFT中需要完成4096阶级数计算,需要极高计算性能。因此5G物理层的性能和实时性需求这三种方案,在性能、功耗、成本等方面逐步优图2.15异构计算硬件形态CPU和加速硬件之间有两种调用模式:Lookaside模式和inline模式。在Lookaside模式下,加速硬件的调用类似软件系统的函数调用,当应用程序执行CPU继续执行程序的后续部分。Lookaside模式比较适合加速硬件的部分功能,例如LDPC编解码等。在Inline模式下,加速器支持物理层LowPHY、HighPHY或者整个物理层,当上行数据进入基站后,异构计算对软件也带来很多新的需求。从云资源池的角度,在调度虚拟机或容器的具体运行服务器节点时,云平台调度器需要能够感知每个服务器节点的硬件能力,哪些节点具有什么类型的加速硬件,同时也需要感知虚机或容器承载的应用有哪些硬件需求,从而在调度或迁移的时候能够匹配相应的硬件。从软硬件解耦的角度,5G基站软件期望有统一标准化的API,适配不同的加速硬件,从而降低基站软件开发的复杂度,提高可移植性。开放式无线电接入网络联盟定义AAL(AccelerationAbstractionLayer)为加速硬件抽象层,使应用程序更容易使用和控制硬件加速器,完成对硬件加速器的调度和管理,以充分利用硬件资源,这项工作目前还在进行中。图2.16开放式无线电接入网络联盟AAL标准化边缘计算将计算从集中式数据中心下沉到通信网络接入网的边缘位置,通过在物理位置上将网络与计算融合,以分布式方式在更接近用户的网络边缘提供低时延的计算服务,满足低延迟高带宽的场景,如视频加速虽然边缘计算物理位置上部署在边缘网络内,但在逻辑上,计算和网络的编排与调度系统仍然是相互独立的,缺乏灵活的动态性,导致无法实现网络和计算在控制面的统一,难以及时响应实时和移动业务的需求。在网元级算力内生一体化方案中,通信行业的主要厂商实现方案主要分为两类:(1)通过在网络设备上增加独立的算力板卡或专用算力服务器来实现算力和网络的硬件融合。例如,在5G基带单元(BBU)上增加额外的算力板卡,以提供额外的计算能力。(2)算力内生网络(ComputingNativeNetwork,CNN)。这种方案不需要增加额外的硬件设备,而是通过解耦大量5G基带单元的闲置算力与通信业务,为计算应用提供灵活、实时且低成本的算力支持。算力内生网络将算力与通信网络紧密结合,以满足各种计算需求。这两种方案的提出推动通信领域的算力与网络的融合,以提供更强大的计算能力和灵活性。算力内生网络基于5G、云原生和人工智能等ICT技术,为全行业提供连接、算力和应用服务。该网络构建在3GPP5G网络协议之上,通过虚拟化技术实现了通信业务与物理CPU核的解耦。算力以“vCPU核”为基本单位进行量化,通过虚拟机和hypervisor多核CPU虚拟化技术将空闲算力与通信服务算力隔离,在基站内利用网元空闲算力承载计算任务。这种解耦方式确保了通信业务的QoS优先保障,并实现了严格的内生算力边界隔离。同时,通过设置计算资源和通信资源之间的安全边界以保护通信服务的稳定性,并实时智能调整安全边界,确保通信服务的优先性和服务质量的稳定。目前,算力内生技术已经成功应用于某电力专网项目的XR远程专家辅助维修。某电站每年都要进行长达一个月的设备停运检修,这期间只有经过严格训练的工作人员穿戴特制防护服才能进入电厂进行检修。当检修遇到困难时,工作人员无法离开电厂求助,导致整个维修流程严重延误,造成严重的经济损失。通过算力内生网络,维修工程师、远程专家和检修业务之间建立了更紧密的联系。通过随维修人员移动的5GAR眼镜终端,通过无线接入到5G网络,提供复杂维修过程的可视化和实时交互。远程专家可以通过AR进行远程指导维修任务。算力内生网络不仅为AR远程专家辅助提供了5G高带宽、低延迟的高清互动视频数据传输,还能支持场景渲染和图像分发的计算服务调度,使维修人员可以随时与远程专家分享所见影像,以获得专家的实时分析和指导,降低维修成本和提升维修效率。基于算力内生网络,移动网络基础设施从单纯的提供连接服务演进为提供连接服务+计算服务的新型通算一体基础设施,可以满足AI所需的连接和分布式计算服务,从而更好地支持面向6G的通感算智一体化演进。技术,这些技术目前正在进行和落地开展中。面向未来6G网络架构,2023年体方向。未来边缘智能接入网将是通信技术、算力网络、AI技术等深度融合的2.3.2边缘智能核心网对SLA(ServiceLevelAgreement,服务级别协议)的差异化需求,带来了网络运营的复杂性。把智能融入网络业务、体验、运维和绿色等方面,是5G/6G新上述网络的发展演进意味着核心网要管理的数据量更大、更复杂。目前的核心网仍缺乏足够的智能来提供按需服务和更高的网络资源利用效率。因此,需要通过分布式智能节点的协同提供全局AI能力,实现智能内生。这要求网络通过原生支持AI将AI能力作为网络的基本服务,实现AI即服务(AlaaS),使网络能够自学习、自演进,并赋能行业AI,构筑全行业的泛在智能生态系统即“智能内生”。智能内生从字面意思来看可以分成“智能”和“内生”两个部分。首先,“智能”表示以AI/ML作为核心技术,用于网络自身的感知、分析、最优决策,AI技术因其具有强大的学习、分析和决策能力,以及分布式的网络AI能力,与终端AI、云AI相互协作,实现全行业的智能泛在,体现无处不在的AI理念。其次,“内生”意味着“与生俱来”,即在开始设计6G网络时就要支持AI应用在网络中的无缝运行,这些AI应用包括网络自身的AI应用以及行业AI应基于服务化架构(ServiceBaseArchitecture)的核心网可以支持轻量化的NFV部署,提供了按需设计的网络功能满足不同场景的移动性,QoS相关的需求;基于新的架构和新的功能可以根据行业场景灵活部署。.UPF下沉混合组网,UPF、MEC下沉至企业的工厂、园区,此方式可提供数据隔离、按需定制的5G专网服务,按需叠加行业应用所需的5G本地网应用,5G融合定位,低时延、高可靠等专网差异化增值业务。但与公网共用5GC控制面,信令数据、网络功能等仍依赖公共网络实现,网络质量受公网实时状况影响。.轻量化5GC独立组网,在企业的工厂、园区下沉AMF、SMF、UDM、PCF网元,对于控制面完全下沉,轻量化核心网本地独立新建;构建一张增强带宽、低时延、物理封闭的基础连接网络,实现用户数据与公众网络数据完全隔离,且不受公众网络变化影响。UPF行业用户专用独享;数据面、信令面均与公众网络严格隔离;核心网内的能力可更大限度地开放给行业;可满足行业更多的定制化需求;(NetworkDataAnalyticsFunction),作为核心网络AI+大数据引擎,它是核心网中的一个重要组成部分。其在核心网中对NF、AF、OAM收集原始数据,并对原始数据进行智能分析,输出分析数据给NF、AF、OAM等,用于优化网络和业务。NWDAF旨在网络中简化核心网数据的生成和使用方式,以及生成洞察并根据这些洞察采取行动,他负责数据分析和智能决策,以优化网络性能和增强最终用户体验。图2.17NWDAF智能框架示意图在Rel-18中继续研究涉及AI在网络中NWDAF的增强:通过联邦学习与移动通信技术结合,构建面向商用的数据隐私保护方案,从而充分利用电信网的海量数据;在模型训练及推理阶段,通过考虑执行结果作为模型的输入数据,使模型可以基于结果进行优化来提升模型分析准确性;与网管域智能化分析网元MDAF联动,利用网管侧的智能化分析结果,增加网络侧分析输入信息,从而提高分析准确性。1.NWDAF网络服务特点:边缘计算的核心思想是将计算任务丛云端移到离用户更近的网络边缘,减少了数据传输的延迟和带宽消耗。NWDAF具有数据采集、生成模型、智能分析等功能,它将网络数据分析功能部署在网络边缘节点上,可以实时捕获和分析网络数据,提供实时的网络监控和安全防护。它还可以从上下行带宽、时延、抖动等多维指标,智能判断用户业务体验状态,并触发网络侧进行保障。这有效减少了数据传输的延迟,提高了数据处理的效率。同时,在架构上NWDAF和所有的核心网元进行连接,基于标准化的服务接口,向PCF/OAM/AF提供按需、快速、精准的智能分析服务,支持多场景灵活部署,满足不同层级的应用要求,使能网络功能实体,实现运营商网络低成本、高效率的智能闭环。在具体业务保障中,通过与UPF、PCF等多网元系统性协作,结合实时感知、智能识别、数据分析,构建用户体验基线,实现按需触发的动态保障机制,并为终端用户提供有效的感知保障,实现数据业务体验保障的端到端闭环服务。NWDAF是一个数据感知分析网元,以网络数据为基础对网络进行自动感知和分析,并参与到网络规划、建设、运维、网优、运营全生命周期中,使得网络易于维护和控制,提高网络资源使用效率,提升用户业务体验。NWDAF适用于各种业务场景,特别是对于大规模的物联网和移动互联网应用来说,具有重要意义。首先,在物联网应用中,NWDAF可以实时监控和分析物联网设备数据,提供实时数据分析和决策支持。其次,在移动互联网应用中,NWDAF可提供实时的网络监控和安全防护,保护用户的隐私和数据安全。NWDAF还可以应用于智能交通、智能制造、智慧城市等领域。以下列举了部分应用场景:.智能数据采集:最大限度减少了访问/聚合云到中心位置之间的数据移.高效集成和测试:内置/预先测试的NWDAF交付和不同代(2G/3G/4G/5G)之间的开箱即用互联功能。.更简单的编排:内置NWDAF是云原生网络功能的一部分,可以部署在同一编排流程中。站的网络性能(例如QoS信息、业务负荷)预测对提高车联网的服务质量有着站的网络性能(例如QoS信息、业务负荷)预测对提高车联网的服务质量有着的应用效果缺乏有效的验证和保障手段等,这些因素让NWDAF难以采集有效且生智能的统一网络架构设计,即在架构层面将网络连接与人工智能三要素中的算力、算法及数据完成深度融合,将安全、AI等核心技术能力内置在6G架构中,并渗透到各领域、各网络、各单元的全生命周期中,通过内生设计实现安全、AI等核心技术能力与通信网络最深程度的融合。构建网络内完整的智能体系,从而算和通信的协同管控与承载,满足AI所需的连接和分布式计算服务、以及基于AI的连接和计算融合控制需求,在编排管理、控制面、用户面三个维素间的交互和集成,提供本地自动化集成AI运行环境,实现AI工作流的高效的多节点间智能业务协作,实现从单节点智能到分布式多节点智能的演进,解决从单领域问题到解决复杂系统问题的升级。减少传统集中式AI计算模边缘智能核心网对传统网络架构进行了重构,以网络功能(NF)的方式重用,即将一个NF进一步拆分成若干个自包含、自管理、可重用的NF服务。务互通的能力,并且可通过编排工具根据不同的在实际部署时,UPF可以按照不同业务场景对时延、带宽、可靠性等差异网数据安全隔离,确保生产的安全可靠,可根据企业需求开放专享UPF的数据图2.185GUPF下沉边缘部署架构属切片标识和DNN,企业终端接入网络时,基站会根据切片标识将信令发企业专享信令面网元,信令面网元会根据签约的切片标识和DNN,将数据载建立在企业独享UPF上。终端发送的数据包转发方式与混合专网一致,采取图2.195G轻量化核心网全下沉部署架构3.边缘内生智能的关键技术3.1模型轻量化近年来,随着人工智能技术的快速发展,深度神经网络(DNN)获得了越来越多的关注。DNN已被广泛地应用于各个领域并取得了优异的效果,如目标DNN的参数量日益增加,模型结构也变得愈加复杂,这带来了极大的存储与计算资源需求。此外,随着移动设备的普及和边缘计算的兴起,DNN模型在边缘将预先训练好的深度神经网络修剪为更小的网络。如图3.1,在DNN中,由于图3.1剪枝示意图准则对模型中的通道进行重要性分析;3)根据设定的剪枝率对模型的冗余通道进行删减;4)对删减后的模型进行微调,弥补因剪枝引入的性能损失。剪枝中如权重大小、梯度和Hessian等统计数据。由于非结构化剪枝是在权重粒度上对得到加速,克服非结构化剪枝硬件加速难的问题。移位剪枝[14](ShiftPruning,图3.2SP算法3x3卷积分解的示意图知识蒸馏作为模型压缩中的一项重要技术,最早在2015年由Hint图3.3知识蒸馏中的师生框架教师模型和学生模型的容量差异,出现了很多学生模型结构,如:1)简单的浅层模型;2)教师模型的简易量化版本;3)具有高效操作的小型模型;4)具有优化的全局网络结构的小型模型;5)和教师图3.4用于在线知识蒸馏的多尺度特征提取和融合(MFEF)示意图从n位降低到m位,其中n>m,减少了模型的存储开销和运行功耗,加快了计算速度,如图3.5所示。量化用途广泛,可以运用于大多数的模型和硬件,PTQ)。QAT涉及对神经网络参数进行量化,然后重新训练它,可以使它能根当训练数据不可用时,则采用训练后量化方法。PTQ利用校准数据对预训图3.5量化感知训练(QAT)和训练后量化(PTQ)的流程图神经架构搜索(NeuralArchitectureSearch,NAS)是一种模型压缩技术,旨在自动化神经网络结构的设计和优化过程,如图3.6所示。NAS的目标是通过到更高的效率和性能。NAS的三个重要方面为搜索空间、搜索策略和性能评估方不等。搜索空间的大小和复杂性会NAS的搜索效率和结果人们可以利用先验知识来减少搜索空间的大小和简化搜索,如具有ResNet和知识的构建块,则NAS算法可以更快地找出高性能结构;如果搜索空间大并且含有原始的构建块,则NAS算法可以找出最佳结构,但算法级网络的一次性训练来隐式训练搜索空间中性能评估指标是帮助NAS在搜索空间找到性能更优的结构。正常模型训练图3.6神经架构搜索框架图FilterPruningforCNNComputersandCommunications(ISCC),G[12]Pruning-and-distillation:One-stagejointcomNeuralNetworks,”2023IEEEInternationalConferenceonMultimediaandExpo[15]Multi-scaleFeatureExtractionandFusionforOnli3.2边云协同智能联邦学习(FederatedLearning,FL)是一种机器学习的分布式学习方法,其主(2)本地训练:每个本地设备使用本地数据对模型进行训练。这个阶段的(4)同步聚合:设备将模型更新发送到中央服务器,中央服务器执行模型迭代上述步骤在多个迭代中重复进行,直到图3.7联邦学习训练框架低通信成本,但它也面临一些挑战。以下是(1)数据异构性:在联邦学习框架中,为了协同达到目标准确度,客户端不同(non-IID)时,这一问题变得更为严重。实际上,由于有限的观测能力,(2)隐私保护:联邦学习的一个主要目标是在不共享原始数据的情况下进(3)通信开销:联邦学习需要在本地设备和中央服务器之间进行模型参数(4)激励机制:由于联邦学习的分散性质,每个参与方都有自己的数据,图3.8分割学习示意图(1)用户同时进行前向传播实现并行训练,通过对所有用户进行相同的模(2)为每个用户配置边缘服务器,在服务器端引入联邦学习的模型聚合保(3)在客户端和服务器端都引入了联邦学习,结合了分割学习和联邦学习(4)将参与训练的客户端按照资源状况聚类分簇,并在簇内并行,簇间串由于深度神经网络(DeepNeuralNetwork,DNN)是计算密集且结构复杂的,DNN模型直接部署在终端设备上将消耗大量的计算资源和内存,传统的方法是源短缺之间的矛盾,一种可行的方案是将DNN进行模型分割和分区处理一部分部署在终端设备,另一部分传输至附近的具有较强计算能力的边缘服务退和分割的DNN推理框架结构,如图3.9所示,当退出点向后移动时,每个分DNN可以选择一个可容忍的精度损失的早期退出点,并将DNN任务的适图3.9具有不同推理精度的多分支早退网络结构的,如图3.10(a)所示,基于工作负载分割的方案将输入数据进行按行分割并部最终生成一个二维特征图。如图3.10(b)所示,由于神经网络中卷积计算的协作设备将各自推理运算得到的相应输出特征图通过多播的方式发送给其他协作设备进行数据聚合,以保证在下一次卷积之前每个设备拥有完整的输入数据/特征图。由于每个协作节点只生成部分特征图信息,KPM保证了敏感数据的隐图3.10工作负载分割方案和卷积核分割方案FederatedLearningoverWirelessNetworks,”ICC2023-IEEEInternationalNetworkingConference(WCNC),Austin,TXNetworkTasksThroughEdge-DeviceAdaptiveInference,”2023IEEE34thAnnualInternationalSymposiumonPersonal,IndoorandMobileRadio3.3无线联邦学习中的边缘智能3.3.1无线联邦学习Intelligence,AI)技术正在快速发展,但将其应用于实际生产环节却还面临诸多在2020年3月份便对规范进行更新和加强[20]。因此,即便企业主观上有数据为了解决智能和隐私之间的矛盾,联邦学习(FederatedLearning,FL)的概FL突破了传统ML训练的思路,不再从用户处收集数据,而是将模型发送到用图3.11联邦学习的基本流程根据数据分布特征的不同,可将FL细分为横向联邦学习(HorizontalFL,数据却是相似的,也具备相似的特征空间;VFL指的是用户本身重叠较多,但不同节点的数据类型(特征)却有明显区别的情况,例如相同地区的两家企业,共样本进行协同训练。最开始提出的FL框架实际上属于HFL,相应地HFL目这种联合在未来“万物智联”时代将会下沉到规模更大、分布更广的用户终端级部署的联邦学习,便可称为无线联邦学习(WirelessFL,),边缘智能(EdgeIntelligence,EI)的核心诉求是将智能化下沉到边缘,也即在这种需求背景下,边缘设备的智能协同训练就成了实现EI和利用;另一方面,FL训练过程需要消耗大量的资源,如何合理地安排用户接3.3.2联邦学习中的模型稀疏化图3.12模型稀疏化的基本流程假设前述环节中确定的传输预算为k,则本环节的主要任务是型收敛的影响,然而排序的过程复杂度较高,尤其是模型参数较多时;Rand稀疏无需对参数进行排序,计算开销较小,且在理论分但由于不考虑参数重要性的差异,通常会导致收信息,将参数数值用于更新对应位置上的参数。对发两端使用相同的随机种子和生成器,则可以不需都可以和没有引入模型稀疏的Dense-SGD效果保持接近。该实验中TopK-SGD方案只选择性地传输了1/1000的参数,通信开销大幅降低;同时可以看到,基于Rand稀疏的RandK-SGD的收敛效果较差一些。因此,在实际应用中通常采图3.13模型稀疏化的实验效果3.3.3联邦学习的模型量化传输是一种有效的模型压缩手段,这构成了模型量化图3.14模型量化的基本流程果,还可根据模型参数的动态范围、当前训),(a)CNN@MNIST(IID)图3.15模型稀疏化的实验效果监督管理总局;国家标准化管理委员会.北京:中国质检出版社,2020:1–36[2020-03-06].networksformobilevisionapplications[J].distributeddeeplearning[J].arXivpreprintarX[24]ZhengS,ShenC,communicationsforfederatedlearCommunications,2020,39(7):3.4边缘智能化部署3.4.1无线侧智能化驱动力移动通信产业是构建国家信息基础设施、全面支撑经济社会发展的战略性、5G基础上全面支持各行业的数智化转型,将无线侧引入智能化的驱动力一方面来自于无线网络自优的智能化服务能力,通过网络与AI技术的多层级深度融合,实现在没有人工图3.16无线侧智能化部署架构量,需要综合考虑智能服务对通信、计算、数据模型推理功能,根据AI所处位置不同,以及所拥或定制化AI加速芯片的异构资源,支持6G将是一个多元化的网络:网络层面,组网更统计意义上的小区级KPI为目标;承载在相同2C业务场景,证明了用户智能编排方案能够实现多种业务的精准图3.17分级智能化部署示意图数需要快速调整、计算时间速度快的特点,例如物理等专用芯片加速,实时性要求低的计算可通过图3.18分布式算力部署示意图3.5深度边缘节点6G新场景和新业务的提出,对网络提出了按需深度边缘节点的“深度”包含了两方面的含义,第一图3.19深度边缘节点架构化等方式抽象出来,形成能被网元或者用户直接使用实现AI算法针对网络自由化和网络场景的支持,3.5.1深度边缘节点的无线网络可编程根据具体场景的需求嵌入对应的算法,亦可将AI模块化的网络要素及标准化应用程序编程接API设3.5.2深度边缘节点的网元融合制信令不出园区、轻量级网络部署等,核心网(CN的交互,当前的架构形态和交互模式无法充分利用网络虚拟化和云化的优管理、可达性管理、寻呼、状态管理等。这些类似功能需要RAN和CN频2.用例场景分析:3.潜在融合功能分析:如若RRC状态为Idle态,即UE与RAN的连接未建立,则无法进入CM-Connected),状态管理的复杂度、开销较大。因此RAN和CN状态管),3.5.3深度边缘节点的跨域AI设计不同网域间AI缺乏协同,仅能支持特定的智引入跨域人工智能控制器来实现,该控制器与RAN非实时智能控制器、图3.20深度边缘节点的跨域AI协同架构及路径2.跨域智能管理域编排:为了实现不同网络域之间的AI协同能力,需要.管理系统需要支持跨域的分布式学习,例如管理垂直联邦学习的训练和推4.边缘内生智能应用4.1智慧交通4.1.1智慧交通边缘计算系统概述地处理数据和实时响应,从而提供更低的时在本地进行数据处理、分析和决策(如信号灯、4.1.2智慧交通边缘计算类型感知数据进行AI分析处理后,将结构化数据服务器搭载大服务器搭载大工控机搭载NvidiaJetsonXeonXeon展(65℃~80℃降频(60℃~70℃降频功能模块详细功能设备运维管理数据接入.摄像头接入:实现摄像头实时视频数据的接收与解析.毫米波雷达接入:实现毫米波雷达实时数据的接收与解析.激光雷达接入:实现激光雷达实时结构化数据的接收与解析.信号灯控制机接入:实现信号等状态、配时信息的实时解析.云端数据接入:采集云控平台发送的V2X业务数据和运维管理数据数据转换与传输.向路侧感知设备、路侧单元RSU、云控平台传输运维管理.支持边缘计算分析结果按V2X协议进行转换,并实现与V2X通信设备的数据传输.可根据场景需要,向可变情报板、可变限速标志发送控制数据数据融合.支持摄像头、毫米波雷达、激光雷达等设备多元数据融合安全认证.通信加密:根据实时密钥信息对报文信息进行加密与解密目标识别与定位.支持机动车识别,识别机动车的位置、朝向、类别、速度、轨迹等信息,检测内容包括颜色、车辆品牌,支持识别类型包括汽车、卡车、公交车、紧急车辆等.支持非机动车识别,识别非机动车的位置、朝向、类别、速度、轨迹等信息,支持识别类型包括自行车、摩托车、三轮车等.支持行人进行检测识别与定位,包括行人位置,行走速度.其它交通参与者进行检测识别与定位,如锥桶、三角警示架目标连续追踪.支持不连续感知区域目标连续追踪,感知盲区轨迹复原可视化.支持车辆、行人、信号灯、路侧事件、地图、路况等可视化交通事件检测4.1.3智慧交通边缘计算应用边缘计算通过对摄像头等感知设备进行AI分缘云协同调度及非实时数据处理,边缘计算主要实图4.1智慧交通云边协同
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 【正版授权】 ISO/PAS 8235:2024 EN Road vehicles - Ergonomic aspects of human vehicle interactions - Taxonomy for the classification of adaptive interactive vehicle systems
- 年度智能安防系统设计与施工合同04
- 2024年度工程建设项目钢筋采购合同2篇
- 员工住宿免责的协议书
- 锅炉合同范本范本完整版 2篇
- 装修包工包料简易合同
- 二零二四年度保险代理居间协议3篇
- 2024版建筑工程给排水劳务分包合同3篇
- 二零二四年度文化艺术公司艺术品买卖合同2篇
- 《输血管理制度》课件
- 《成本管理培训》课件
- 少先队活动课《民族团结一家亲-同心共筑中国梦》课件
- 法人代表代持股份协议书(2篇)
- 国家开放大学《Web开发基础》形考任务实验1-5参考答案
- 水利安全生产风险防控“六项机制”右江模式经验分享
- 2023-2024学年教科版三年级上学期科学期中检测试卷(含答案)
- 钻井作业指导书
- 供应链管理:高成本、高库存、重资产的解决方案 第2版
- CRPS电源设计向导 CRPS Design Guide r-2017
- 2023年上海国际集团有限公司校园招聘笔试题库及答案解析
- Agency Costs of Free Cash Flow,Corporate Finance,Takeovers
评论
0/150
提交评论