边缘计算架构体系及工业应用进展介绍-宋纯贺

边缘计算架构体系及工业适当相关应用进展介绍宋纯贺研究员中国科学院沈阳自动化研究所ShenyangInstituteofAutomation,ChineseAcademyofScience.报告主要主要内容1.边缘计算概述2.边缘计算2.0：边缘自动化3.边缘自动化的典型适当相关应用4.工业边缘自动化进展5.未来展望ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘计算概述Gartner新兴技术的周期2017 2018年度Gartner10大战略技术趋势科技热词：人工自动化、区块链、边缘计算…Gartner(高德纳)：全球最具权威的IT研究与顾问咨询公司处于上升期ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘计算概述阿里云宣布2018年将战略投入边缘计算技术领域并推出边缘计算产品LinkEdge。在2018年度举行的微软开发者大会上，微软公司发布“AzureIoTEdge”等边缘侧产品，将业务重心从哪Windows操作system转移到自动化边缘计算方面。2018年亚马逊公司发布“AWSGreengrass”边缘侧软件，将AWS云服务无缝扩展至设备。ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘计算概述边缘计算是融合联接、计算、存储、适当相关应用核心能力的开放整体整体平台，在靠近物或数据源头的网络边缘侧，就近提供自动化互联服务，满足行业在业务实时、业务自动化、数据聚合与互操作、安全与隐私保护等方面的关键需求。边缘计算是通过在网络边缘、数据源附近处执行数据处理来优化云计算system的方法。边缘计算减少了传感器和中央数据中心之间所需的通信带宽。边缘计算描述了一种计算拓扑，在这种拓扑结构中，信息处理、主要主要内容采集和分发均被置于基于信息源附近处。平台拓扑方法不同组织边对缘计算的定义重点各不相同ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘计算的原因网络架构边缘边缘云 计算节点云计算服务器终端节点终端节点终端节点终端节点局域网/工业互联网/工业总线广域网控制器云计算存在的问题：据IDC预测，到2020年全世界将有多达500亿的自动化设备接入互联网；计算能力不足：线性增长的集中式云计算能力无法匹配爆炸式增长的海量边缘数据；传输能力不足：传输带宽负载急剧增加造成较长网络延迟，难以满足控制类数据、实时数据传输需求；安全能力不足：云计算的安全与适当相关应用软件、平台、操作system、多段网络、权限管控等多方面因素有关，边缘数据安全隐私受到极大关注；能源消耗较大：边缘设备传输数据到云整体整体平台消耗较大电能，从云整体整体平台获取数据到设备现场也需要二次消耗电能。ShenyangInstituteofAutomation,ChineseAcademyofScience.实时性问题•工业现场传感器产生大量实时数据；•受网络性能影响，将所有数据上传至云端将产生较长的时间延迟，难以满足时间敏感应用（例如设备控制）对实时性的需求；能耗问题•边缘设备将数据全部传输至云端需要消耗大量的电能；隐私泄露问题•将数据上传至云端，网络通信和数据处理过程中，数据容易泄露，隐私难以得到保护；云计算模式主要问题：现场海量数据传输至云端进行处理过程中带来的实时性、能耗和隐私泄露问题。在网络边缘侧对数据进行处理和分析，从而降低实时性、能耗和隐私泄露问题的影响。边缘计算的原因：以工厂环境为例ShenyangInstituteofAutomation,ChineseAcademyofScience.机器人装配车间工业现场产生大量的实时数据：单个摄像头1080p格式视频在4Mbps码率下每天产生330G的视频数据。深度学习模型训练对计算资源要求极高：基于ImageNet训练AlexNet，单块专用GPU

NVIDIAK20仍然需要144小时。视频/图像分析对计算资源要求高：使用AlexNet进行图像分类需要720MFLOPs计算量，使用主流酷睿i5CPU需要1秒左右，而实际生产过程常用的ResNet50计算量是AlexNet的数十倍。云服务器•机器学习等人工自动化方法开始在工业生产制造中使用•机器学习需要的计算、通信开销巨大，云计算难以满足实时性要求边缘计算的原因：以工厂环境为例ShenyangInstituteofAutomation,ChineseAcademyofScience.报告主要主要内容1.边缘计算概述2.边缘计算2.0：边缘自动化3.边缘自动化的典型适当相关应用4.沈自所边缘自动化进展5.未来展望ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘计算的发展200320042014201620172018未来IBM开始在WebSphere上提供基于Edge的服务新加坡信息通信研究所发表了第一篇关于边缘计算的学术论文欧洲电信标准化协会ETSI成立移动边缘计算MEC工作组，后更名为多址边缘计算；华为、沈自所、信通院、Intel、ARM、软通动力联合发起成立了边缘计算产业联盟ECC•IEC/ISOJTC1SC1成立边缘计算研究组，发布边缘自动化白皮书•首批4项工业互联网边缘计算行业标准立项；•汽车边缘计算联盟成立•华为：发布基于边缘计算物联网EC-IOT的解决整体整体方案•Linux基金会发布AkrainoEdgeStack适当相关项目•微软宣布将业务重心转移到自动化边缘计算边缘计算1.0：边缘互联 边缘计算2.0：边缘自动化 边缘计算3.0：边缘自治海量异构终端实时互联、网络自动部署和运维，并保证联接的安全、可靠和互操作性；边缘侧自动化数据分析、自动化网络控制、自动化业务处理，大幅度提升效率并降低成本边缘侧自主业务逻辑分析、动态实时自我优化ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘自动化：边缘计算的高级阶段边缘自动化是具有机器学习和先进网络能力的边缘计算，这意味着信息技术IT和操作技术OT产业正朝着网络的边缘迈进，使得诸如实时网络、网络安全、自学习解决整体整体方案和个性化组网方案等问题可以得到解决。——IEC边缘自动化白皮书ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘自动化的面对技术挑战和科学问题设备的海量性和异构性自动化计算任务复杂信息安全和隐私包含如何解决海量异构边缘节点的统一管控如何解决云-边缘融合条件的云-边缘任务分配设备计算资源有限网络的异构性如何在边缘侧有限资源条件下的执行自动化算法ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘自动化的需求、约束及技术驱动力先进网络技术边缘自动化算法边缘自动化硬件高实时网络高安全网络边缘侧自学习个性化组网边缘自动化四大赋能边缘自动化三大技术驱动力提升system实时性提升system自治性提升system安全性提升自组织能力提升网络性能边缘自动化五大需求驱动力边缘自动化两大约束边缘网络性能有限终端计算资源有限ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘自动化的约束：以自动驾驶为例每秒1GB数据量需要在数十毫秒内完成分析与决策；包含复杂的基于图像的场景分析；1个激光雷达：车顶的旋转感应器对各个方位进行超过200英尺距离的扫描，以获得精确的有关测量环境的三维地图；1个光学摄像头：侦查交通信号灯，识别人行道、自行车道，以及障碍物；4个标准雷达：帮助决定远距障碍物位置；1个位置评估器：在地图上精确定位车辆；Google自动驾驶车辆庞大的数据量和计算量，及其严格的实时性要求。ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘自动化的技术驱动力：先进网络技术5G•峰值速率可以从4G的1Gbps提升到10Gbps，相应的用户体验速率可从10Mbps提升到1Gbps；eMBB(增强移动宽带)•连接密度每平方公里超过100万个接入设备，电池寿命超过10年；mMTC(大规模机器类通信)•一般适当相关应用时延1ms之内，可靠性99.999%；极端适当相关应用时延0.25ms，可靠性99.9999999%uRLLC(超高可靠低时延)5G三大适当相关应用场景5G指标特征（其中浅色为4G）5G技术的三大适当相关应用场景，即增强移动宽带eMBB，低功耗超大连接mMTC，以及超低时延高可靠性uRLLC，为边缘自动化的实现提供了强有力的网络保障。15ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘自动化的技术驱动力：边缘自动化算法语音识别准确率 图像识别准确率2010 2011 2012 2013 2014 2015 2016 2017Human准确率27.8%25.7%16.4%14.0% 6.7% 3.57%2.99%2.25% 5.1%0.0%5.0%10.0%15.0%20.0%25.0%30.0%人工自动化的发展2008 2009 2010 2011 2012 2013 2014 2015 2016 2017Human准确率23.6%23.6%23.6%18.7%16.1%13.4%10.7% 8.0% 5.9% 5.5% 5.0%0.0%5.0%10.0%15.0%20.0%25.0%2011年开始使用深度神经网络目前已基本达到人类水平 2012年开始使用深度神经网络目前已远超过人类水平•2006年以来，以深度学习为代表的人工自动化算法在机器视觉和语音识别等领域取得了极大的成功，识别准确性大幅提升。•目前在语音识别和图像识别领域，深度学习模型的准确率都已达到或者超过了人类水平。•目前，中国、美国、欧盟、日本等国家都已将发展人工自动化上升至国家战略。ShenyangInstituteofAutomation,ChineseAcademyofScience.研发者 时间层数Size(M)计算量MAC(M)AlexNet多伦多大学 2012 8 61 724Overfeat纽约大学 20138 146 28000VGG-16牛津大学 201416 138 155000GoogLeNetGoogle 201458 7 14300ResNet-152微软亚洲研究院2015152 60 113000深度学习中卷积神经网络的一般架构各种主要卷积神经网络处理一张244*244或近似大小的图片的计算量搭载专用深度学习芯片云计算服务器nNidiaGPUGoogleTPUXILINX

FPGA寒武纪MLU100专用设备和芯片专用深度学习软件开发整体整体平台专用软件硬件环境•深度学习模型的性能是以高昂的计算量为代价的，在CPU上进行训练需要数天甚至数月，因此需要专用的软件和硬件支持，难以在边缘侧普通设备上运行。边缘自动化的技术驱动力：边缘自动化算法ShenyangInstituteofAutomation,ChineseAcademyofScience.•模型简化是在保证精度不显著境降低情况下，对模型进行压缩，包括元件的压缩和删除，以及模型架构优化；•2015年DeepCompression方法在不降低精度情况下，采用权重删除和权重量化方法，将深度模型压缩至原有的1/40左右，震惊了学术界，此后模型简化成为重要的研究主要主要内容。模型 研发机构 研发时间 压缩方法 体积压缩比DeepCompression斯坦福大学 2015 权重删除和量化 40XSqueezeNet 斯坦福大学 2016 结构优化 50XXNorNet 华盛顿大学 2016 权重量化 30XDistilling 多伦多大学 2016 架构优化 10XMobileNet Google 2017 架构优化 30XShuffleNet 旷视科技 2017 架构优化 20X模块级删除边（权重）级删除边（权重）量化元件压缩删除卷积分解模块替代流程优化架构优化•原始深度学习模型仅考虑计算精度，导致模型越来越大。为了能够在边缘设备上运行深度学习模型，需要对模型进行压缩和优化。边缘自动化的技术驱动力：边缘自动化算法ShenyangInstituteofAutomation,ChineseAcademyofScience.2018年1月2017年12月2017年9月2018年3月2017年9月2015年2月边缘侧自动化芯片天梯图2018年3月，华为发布HiKey970开发板，集成了主流的神经网络框架，通过麒麟970的NPU进行AI加速计算，提升25倍的性能和50倍的能效比。2017年4月NVIDIA发布JetsonTX2开发版，售价399美元，已被适当相关应用在海康威视自动化摄像头，京东无人送货车等边缘测人工自动化应用中。2016年2月，树莓派3开发板，搭载Quad

Core1.2GHz64bit，1GB

RAM，wirelessLAN，Bluetooth，仅售39.9美元边缘侧人工自动化开发板•边缘侧自动化硬件是边缘自动化的基础；•目前华为、高通、三星、苹果、英伟达、联发科等公司都在积极研发边缘侧自动化芯片以及硬件开发整体整体平台，在性能快速提升的同时，成本不断降低；边缘自动化的技术驱动力：边缘自动化硬件ShenyangInstituteofAutomation,ChineseAcademyofScience.报告主要主要内容1.边缘计算概述2.边缘计算2.0：边缘自动化3.边缘自动化的典型适当相关应用4.沈自所边缘自动化进展5.未来展望ShenyangInstituteofAutomation,ChineseAcademyofScience.边缘自动化的适当相关应用：阿里城市大脑•广州建立全球首个互联网+联信号灯整体整体平台，试点路口失衡指数下降26%，拥堵指数下降19%；•杭州实现交通异常事件的自动巡检，交通事故实现秒级实时报警，识别准确率92%以上，同时联合信号灯自动化调控，部分区域通行时间缩短15.3%；•在萧山，实现救护车弹性绿波带，救护车到达时间缩减50%；阿里城市大脑架构 阿里城市大脑人机界面阿里城市大脑核心流程ShenyangInstituteofAutomation,ChineseAcademyofScience.报告主要主要内容1.边缘计算概述2.边缘计算2.0：边缘自动化3.边缘自动化的典型适当相关应用4.沈自所边缘自动化进展5.未来展望ShenyangInstituteofAutomation,ChineseAcademyofScience.中科院沈阳自动化研究所边缘计算适当工作产业学术组织理论研究技术研发产品研发整体整体平台研发标准制定解决整体整体方案ShenyangInstituteofAutomation,ChineseAcademyofScience.中国科学院沈阳自动化研究所是边缘计算产业联盟发起单位，边缘计算产业联盟的理事长单位。边缘计算参考架构2.0沈自所边缘计算产业学术组织中国边缘计算产业联盟中国自动化学会边缘计算专业委员会主任委员：曾鹏中国科学院沈阳自动化研究所研究员，国家万人计划领军人才副主任委员：丁进良东北大学教授，博士生导师、国家杰出青年基金获得者。副主任委员：施魏松美国韦恩州立大学教授，IEEEFellow，美国国家科学基金会杰出青年教授奖获得者。他是边缘计算这一研究领域的早期提出者之一和主要倡导者。副主任委员：吕晨阳美国圣路易斯华盛顿⼤学教授，IEEEFellow，华为物联网system副总裁。•中国自动化学会边缘计算专业委员会于2017年8月18日在沈阳宣布成立；•边缘计算专业委员会得到了国际边缘计算领域最为知名学者和专家的支持；ShenyangInstituteofAutomation,ChineseAcademyofScience.沈自所边缘计算产业学术组织与两大国际顶级学术组织IEEE，ACM共同主办了边缘计算国际顶级会议：SEC2018ShenyangInstituteofAutomation,ChineseAcademyofScience.沈自所边缘计算标准制定与仪综所和华为合作，正在制定IEC自动化制造边缘计算国际标准ShenyangInstituteofAutomation,ChineseAcademyofScience.沈自所边缘计算理论研究研究成果：在第十五届全国嵌入式system学术会议进行了大会报告；论文成果：目前已发表多篇论文，其中3篇论文发表在中科院SCI分区一区国际顶级期刊上，其中AE2017被国际在线杂志worldpumps选为2017年featurework。大会报告：•AnEdgeComputing

ArchitectureforSelf-organizedProductionSystem,第十五届全国嵌入式system学术会议,适当论文：①APPLIEDENERGY2017• IF:7.900,中科院一区顶级期刊;•被国际在线杂志worldpumps选为2017年featurework;•被国际著名期刊Energies邀请加入期刊编委;②APPLIEDENERGY2018• IF:7.900,中科院一区顶级期刊;③IEEE

TransactionsonIndustrialInformatics2018• IF:5.432,

中科院一区顶级期刊;ShenyangInstituteofAutomation,ChineseAcademyofScience. 28中科院沈阳自动化研究所研究了基于压缩神经网络的动态环境下可穿戴式温度连续测量，在提升测量精确度和鲁棒性的同时，响应时间仅为目前非穿戴式测量方法的十分之一，是目前唯一的动态环境下穿戴式连续体温测量方法。适当方法发表于国际顶级期刊TII上。典型场景1：初始阶段建立热平衡缓慢，导致system响应时间长典型场景2：测量过程易受到环境变化的干扰算法特点1：针对初始过程、正常过程和干扰过程建立判定机制和专用神经网络模型算法特点2：对神经网络模型进行简约以节约计算资源system响应时间是非穿戴式算法的1/10，同时精度和鲁棒性都有提升简约后整体深度神经网络模型计算量仅为原始模型的1/20沈自所边缘计算理论研究：可穿戴技术ShenyangInstituteofAutomation,ChineseAcademyofScience.沈自所边缘计算技术研发安全III区蓄电池直流系统火灾报警system消防监测环境监测门禁安防IEC61850/网络协议串口协议变电站辅助监控system传统传感器数据变电站机器人自动化协同巡检system遵循Q/GDW

11509-2015标准的协议协议转换器正向隔离装置IEC61850/网络协议一次设备在线监测二次设备在线监测安全II区 安全I区变电站监控system单向传输监控system数据单向传输在线监测数据视频监控B接口协议环境监测数据视频数据机器人巡检数据机器人自主巡检策略无线安全加密通道自动化传感器数据交互课题3：基于站域状态信息的变电站机器人自动化协同巡检机器人数据协system同自动化诊断机器人复杂场景辨识方法机器人自动化协课题2： 同巡检system基于自主协同网络的变电站设备智能传感技术研究研究网络化智能传感技术研究变电站设备自主自动化传感技术研究自动化传感器主动协同信息交互自动化机器人与自动化传感器的协同巡检体系机器人自动化协同巡检自动化传感器集成方法 管控新模式课题1：基于自动化传感器主动协同的变电站机器人自动化巡检架构研究智能巡检系统智能传感单元技术体系框架、运维管控框架、安全及测试体系核心产出核心产出核心产出目标：机器人和传感器自动化协同巡检人工自动化引擎分布式人工自动化引擎集中式人工自动化引擎国家电网科技适当相关项目人工自动化专项：基于传感器主动协同的变电站自动化机器人巡检systemShenyangInstituteofAutomation,ChineseAcademyofScience.沈自所边缘计算整体整体平台研发•工信部工业互联网边缘计算测试床适当相关项目，国内第一个大型工业互联网边缘计算测