工业互联网边缘计算 课件 任务2.3 边缘计算设备的硬件选型

——工业互联网边缘计算——模块2部署MEC服务器和端侧感知设备目录CONTENTSMEC服务器和端侧感知设备选型任务2.1工业智慧园区规划任务2.2边缘计算设备的硬件选型任务2.3MEC服务器及端侧设备的硬件部署任务2.4边缘计算设备的软件部署任务2.5端侧设备的数据采集和预处理任务2.6MEC服务器上的模型部署和推理任务2.7任务2.3边缘计算设备的硬件选型导入边缘计算设备通常需要实时收集端侧设备采集来的数据，以帮助改进流程，创造更好的客户体验并提高产品质量。借助正确的技术，边缘计算可以随时随地提升整个业务的智能。那么，边缘计算设备都有哪些类型，如何选择合适的边缘计算设备？下面详细介绍边缘计算设备的硬件类型及选型，以及选型时应考量点与关注点。2.3.1边缘计算硬件设备分类边缘设备因其用途不同，在物理外形和性能上具有很大差异。智能边缘设备提供的功能远超RFID标签、温度探测器、振动传感器等端侧采集设备。边缘计算设备内置了处理器，使其可以实现更多的功能，如板载分析或人工智能实现等。如在制造业中使用的智能边缘设备包括视觉引导机器人或工业PC。商用车内置的数字驾驶舱系统可以帮助提供驾驶员辅助。在医院里，患者监护设备可以发现生命体征的变化，并在需要时通知医务人员。智能城市正在部署物联网设备，以监测天气状况和交通模式，并向市民提供公共交通的实时信息。边缘计算设备按照其对外提供的功能可分为四种类型，分别是智能传感器、可编程逻辑控制器（PLC）、边缘智能路由器和ICT融合网关。2.3.1边缘计算硬件设备分类1．智能传感器实时或定时采集数据，区别于普通传感器，设备获得环境子系统的状态信息后，就地实现对数据的归类、分析、封装，减少数据上传后再计算分析的时间和资源消耗，提高系统监测效率。如图所示智能传感器示意图，形式多样，种类繁多。2.3.1边缘计算硬件设备分类2．可编程逻辑控制器（PLC）PLC本质上就是一台具备编程、运算、控制、输出等能力的智能电脑，只是根据工业生产、行业应用的需求进行了适应性融合设计。PLC可在边缘端低延时、高效率地管理、控制设备运行。如图所示PLC示意图，技术成熟，应用广泛。2.3.1边缘计算硬件设备分类3．边缘智能路由器边缘智能路由器可实现将有线/无线的全网通联网、高速路由、WIFI支持、本地存储、设备监测及前端设备控制等功能集合于一体，如图所示。它具有丰富的行业接口和应用功能接口，支持对复杂功能的边缘设备的一站式接入，提高数据通信的集中化水平和高效率。2.3.1边缘计算硬件设备分类4．ICT融合网关ICT（InformationCommunicationsTechnology）是信息、通信和技术三个英文单词的词头组合，这种融合网关具备先进的设备接入能力、数据采集能力、边缘计算能力、5G/4G/有线等综合通信传输能力等。如图所示，ICT融合网关能实现对物联网系统的大范围、多设备的数据交互和全程控制。2.3.2边缘计算设备选型通过前面边缘设备类型的介绍，我们知道边缘计算设备总类与款式多样。正确选择适合对应企业项目要求的边缘计算设备，不仅影响到项目系统运行的正确性和流畅性，同时也能够为企业节约设备成本，避免浪费。因此，边缘计算设备选型考量点与参数关注点成为设备选型的重要依据。2.3.2边缘计算设备选型1．设备选型考量点（1）是否支持通信、控制、设备接入等多功能集成，是否能够有效管理和控制接入的系统设备。（2）从硬件芯片到系统软件是否都支持边缘计算算法，智能化水平高，支持无人值守、智能响应。（3）功能接口是否丰富，是否支持工业、环保、输配电等行业协议，支持接入复杂设备，部署便捷。（4）是否支持有线和无线网络通信，满足不同现场项目的通信网络状况，是否可灵活选择通信模式，有线网络与无线网络是否可互为备份，保障设备不掉线。2.3.2边缘计算设备选型2．设备参数关注点（1）性能从arm处理器核心数量和主频、内存与AI模组专用内存、深度学习推理能力、视频编解码能力、jpeg编解码以及其他视觉运算硬件加速能力等方面参数进行比较，结合实验应用场景选择满足生产需求的硬件配置。（2）价格在性能都能满足要求的情况下，价格自然成为选型的决定因素。特别是同一个AI模组。其实会有多家厂商产品可供选择，比如浪潮的EIS200和凌华的DLAP-211-JNX都是基于NVIDIA的JetsonNX模组，应对相同场景的配置，体现就不一样。（3）工具链这里需要考虑支持主流框架模型情况，算子（深度学习算法由一个个计算单元组成，我们称这些计算单元为算子）及网络模型支持情况，接口易用程度，以及SDK、技术论坛完备程度和技术支持力度。（4）外围接口充分考量板载的外围接口是否能满足应用场景需求。（5）功耗有的客户可能因为作业环境的限制对功耗要求比较严格，比如是在野外使用太阳能供电，但通常较低的功耗也意味着较低的算力。2.3.3常见的边缘计算设备（1）NVIDIA-JetsonNVIDIA-Jetson是NVIDIA为新一代自主机器设计的嵌入式系统，如图所示。它是一个AI平台，这个系列已经有不少成员了。目前Jseton家族也有很多不同型号的产品，如图所示列举了Jseton家族不同产品型号的相关参数。2.3.3常见的边缘计算设备（2）华为-AtlasAtlas是华为基于昇腾系列AI处理器和业界主流异构计算部件，打造的智能计算平台，如图所示。它通过模块、板卡、小站、AI服务器等丰富的产品形态，打造面向“端、边、云”的全场景AI基础设施方案，可广泛用于“平安城市、智慧交通、智慧医疗、AI推理”等领域。2.3.3常见的边缘计算设备左边为Atlas200DK开发者套件（型号:3000），它是一款高性能AI应用开发板，集成了异腾310AI处理器，方便用户快速开发、快速验证，可广泛应用于开发者方案验证、高校教育、科学研究等场景。右边为Atlas200A加速模块（型号:3000），它集成了异腾310AI处理器，可以在端侧实现图像识别、图像分类等，广泛用于智能摄像机、机器人、无人机等端侧AI场景。2.3.3常见的边缘计算设备左边为Atlas500智能小站（型号:3000），它是面向边缘应用的产品，具有超强计算性能、体积小、环境适应性强、易于维护和支持云边协同等特点，可以在边缘环境广泛部署，满足在安防、交通、社区、园区、商场、超市等复杂环境区域的应用需求。右边为Atlas500Pro智能边缘服务器（型号:3000），它是面向边缘应用的产品，具有超强计算性能、高环境适应性、易于部署维护和支持云边协同等特点。2.3.3常见的边缘计算设备（3）比特大陆SophonSE5比特大陆凭借其在矿机芯片领域积累的技术实力，也积极向人工智能方向发力，推出了一系列性能强劲的AI算力产品（Sophon系列），包括算力芯片、算力服务器、算力云，主要应用于区块链和人工智能领域。如表所示是其官网列出的主要芯片产品。Al芯片Al计算模组Al计算加速卡Al计算盒算丰智能服务器BM1684Al计算模组SM5AI开发者产品组合Al计算盒SE5算丰智能服务器SA3BM1682AI计算加速卡SC5HAI迷你机SE3BM1680Al计算加速卡SC5+BM1880深度学习加速卡SC3SophonSE5智算盒是一款高性能、低功耗边缘计算产品，搭载算丰科技自主研发的第三代TPU芯片BM1684，INT8算力高达17.6TOPS，可同时处理16路高清视频，支持38路1080P高清视频硬件解码与2路编码。2.3.3常见的边缘计算设备（4）晶晨半导体-AmlogicAmlogic是全球无晶圆半导体系统设计的领导者，为智能机顶盒、智能电视、智能家居等多个产品领域，提供多媒体SoC芯片和系统级解决方案。如表所示是搭载了其A331D芯片的智能盒子NeuBoard的相关参数，具有功耗低、性价比高的优点。2.3.3常见的边缘计算设备项目组件规格硬件配置CPUAmlogicA311D，四核ARMCortexA73(2.2GHz)两核ARMCortexA53(1.8GHz)NPU独立AI神经处理单元，5TOPS算力GPUARMMali-G52MP4VPU4KH.265、VP9和AVS2视频解码，支持1080pH.265/H.264视频编码内存2GB/4GBDDR4存储4GB/8GB/16GB/32GBeMMC5.1，支持标准256GMicroSD/SDHC/SDXC卡扩展存储操作系统NeucoreNeuSYS接口100/1000M自适应RJ45x1，USB2.0x2，HDMI2.1x1指示灯电源状态LED灯x1，启动状态LED灯x1电源DC+12V，配220V交流电源适配器。设备功率≤5WAmlogic的A311D中集成了ARM、NPU、GPU、VPU，NPU，NPUIP是由芯原微电子（Versilicon）提供的Vivante®NPUIP。Versilicon提供了一套基于OpenVX的工具套件，AcuityToolset帮助用户将原生模型转换为Vivante®NPUIP支持的模型。AcuityToolset支持Tensorflow、Tensorflow-Lite、Caffe、PyTorch、ONNX、TVM、IREE/MLIR等框架。2.3.3常见的边缘计算设备（5）寒武纪-MLU中科寒武纪其实是较早布局深度学习处理器的企业之一，也是目前国际上少数几家全面系统，掌握了通用型智能芯片及其基础系统软件研发和产品化核心技术的企业之一。它能提供云边端一体、软硬件协同、训练推理融合、具备统一生态的系列化智能芯片产品和平台化基础系统软件。寒武纪的产品线也比较丰富，但由于它本身是专注做芯片、模组与基础软件的，并不提供成品的边缘计算设备或服务器，如果需要，可以从其合作的下游厂商处购买。如图所示，为其智能加速卡的相关参数。2.3.3常见的边缘计算设备如图所示是寒武纪MLU第一到第三代的相关参数。EIS200Altas500SophonSESNeuBoardNE-V-200设备厂商浪潮华为比特大陆诺科格兰泰克AI模组厂商NMDIA华为比特大陆Amlogic寒武纪AI模组JetsonNXAtlas200BM1684A311DMLU220M2AIINT8算力21TOPS22T/16TOPS17.6TOPSSTOPS8TOPSCPU内存8GB4GB4GB2GB/4GB4GBAI内存8GB8GB4GB存诸空间16GB可扩展扩展硬盘32G可扩展4/8/16/32GBSD卡32GBOSubuntu18.04Ubuntu18.04debian9定制linuxdebian10CPU6-coreNMDIACarmelARM20v8.264-bitCPU6MB12+4MBL3海思Hi3559A8核A53@2.3GHZ四核ARMCortexA73(2.2GH2)+两核ARMCortexA53(1.8GHZ)双该Cortex-A72+四核Cortex-A53大小核CPU.主频1.8GHZ视频解码2x4K@60(HEVC)12x1080p@60(HEVC)32x1080p@30(HEVC)16路1080P30FPS(2