人工智能和智能边缘方案及实践

人工智能和智能边缘方案及实践前言通过本章学习，您可以了解到智能边缘和人工智能的基本概念，了解人工智能的各个场景以及挑战，华为提出的解决方案。目录1.

智能边缘行业简介n

什么是智能边缘p典型应用场景2.

智能边缘挑战和解决方案3.

人工智能行业简介4.

人工智能挑战和解决方案智能计算演变历程l

大部分数据在边缘产生l

需要本地实时处理l

隐私，安全，带宽，成本AI能力普及化智能轻量化，小型化本地强大算力，边云一体lll什么是边缘计算在靠近终端设备或数据源头的边缘节点，融合联接、计算、存储、控制和应用，满足用户实时、智能、数据聚合和安全需求。边缘计算的核心价值-CROSSConnection

敏捷联接海量联接与网络自动化运维管理Smart应用智能DataOptimization数据优化Real-time实时业务Security安全与隐私保护边缘智能与业务创新，业务流程优化，效率与成本优势。数据聚合，数据统一语义与描述，数据优化处理后的统一开放与呈现。设备安全、网络安全、数据安全、应用安全，数据隐私保护。联接实时，业务实时：10ms

VS.

100ms(云)。什么是智能边缘智能边缘，就是将简单的边缘节点智能化，将云上AI能力下沉到边缘节点，做到本地处理。工业感应智慧能源智能家居平安城市IoT云VR数据中心边缘无人驾驶AR智能终端智能边缘概念边缘计算是为减轻传统云计算架构的计算负担，是其补充或延伸，云边协同。l

连上云的边缘才有强大能力和灵活性。l

连上边的云才有数据引流上云和应用服务落地点。华为云边缘智能边缘平台增量训练推理平台音视频分析智能数据底座基础AI平台通用AI服务第三方应用第三方边缘应用/服务计算下沉，云边协同EI@EdgePaaS@EdgeEdge硬件+OS+Driver华为云智能边缘平台产品架构园区安防工业制造车联网行业大脑大数据分析平台PaaS智能视频分析平台ModelArtsIEF边云高速通道Internet/专线/VPNFunctionGraph….RDS应用生命周期管理IaaS边缘节点安全管理与运维(计算/存储/网络)节点安全管理认证注册管理监控运维代理轻量级容器管理边云高速通道边缘视频智能边缘机器推理边缘图像检测设备影子函数管理边缘流处理….LinuxOS@裸机/虚拟机异构硬件……..StreamHTTPMQTTModbusOPC-UA车联网安防监控工业制造智慧家居IoT智能边缘特征AI立体化边缘数据经过计算和过滤，从边缘上传到数据上传能力下沉公有云/私有云/混合云云AI和其他能力需要从云端下沉到边缘设备小型化，轻量化，边缘化，摆脱云和网络束缚强大的硬件能力，提供本地实时推理的可能智能本地化全栈式硬件

全栈式软件能力边缘硬件加速目录1.

智能边缘行业简介n

什么是智能边缘p典型应用场景2.

智能边缘挑战和解决方案3.

人工智能行业简介4.

人工智能挑战和解决方案典型应用场景概览智能交通智慧安监llll交通精准态势车流量检测智能导流l无人值守变电站监控安全合规检测生产操作监测ll信号灯优化自动驾驶无人零售ll无人货柜智慧门店lllL3-L4自动驾驶感知设备接入数据融合分析平安城市物联网lll工业设备接入边缘数据采集处理预测性运维llllIP摄像头改造AI辅助执法罪犯人脸识别监仓安全监控智能边缘平台打造智慧园区通过“视频监控+AI分析”实现从人防到技防，提升园区运营效率，提高园区住户体验。人脸检测模型人流监控模型智慧园区应用模型、应用推送、应用管理、边缘设备托管人脸检测人流分析周界检测周界检测模型IEF智能边缘平台智能视频人脸图、原始图片、元数据（摄像头信息、时间等）上传分析服务IVS容器容器容器DISOBSFRS（人脸识别）华为云边缘计算-Server+视频分析模型智能边缘平台打造智慧超市强化门店经营，分析门店经营情况，客流分析，热力图分析支撑门店运营决策。人脸识别人流模型、应用推送、应用管理、边缘设备托管人脸检测人流监控热力图监控周界检测IEF智能边缘平台容器容器容器DISOBSFRS（人脸识别）华为云边缘软硬件栈OCR云边协同获取客户信息，驱动行业数字化转型，本地化处理和存储关键数据和隐私数据。IEF智能边缘OCR切片OCR切片应用OCR文字识别容器数据库分拣中心-传输华为云边缘计算-Server+OCR切片应用边缘视觉检测通过AI视觉提升质检效率、质检准确率。替代人工质检模式。模型推送、应用管理、边缘设备管理IEF智能边缘平台模型训练视觉AI模型视觉AI模型容器容器ModelArts数据回传DISNvidiaGPU/Ascend910华为云光伏电池片产线边缘计算-Server+视觉质检模型目录1.

边缘智能行业简介2.

边缘智能挑战和解决方案3.

人工智能行业简介4.

人工智能挑战和解决方案智能边缘需要强大硬件加持智能边缘设备智能分析服务器智能小站AI一体机AI嵌入模块开发者套件FPGA智能板卡智能芯片AI加速卡SSDSmart

NICBMC

管理芯片AI处理器SSD芯片智能网络芯片基于AI处理器的高性能加速卡4*AI处理器Ascend

310：AI处理器Atlas

300：高性能AI加速卡处理器12nm

FFCUpto

8T@FP16Upto

16T@INT816路解码器–H.264/265LPDDR4X，8GB2*64bit@3200MT/S8W32TOPS@FP1664TOPS@INT8算力算力接口PCIe3.0X1675W/Card解码器内存能耗(W)Resize、H.264/H.265、4*16decode/MINI*4，JPEGdecode功能内存内存带宽最大功耗32GB，204.8GB/S*4（LPDDR4x）蕴含超强算力的智能服务器智能分析服务器G2500平安城市|智能交通|金融监控边缘部署能力超强智能超大存储普适多种场景的智能边缘设备平安城市|

智慧交通|

无人零售广泛边缘场景小身材大能量目录1.

边缘智能行业简介2.

边缘智能挑战和解决方案3.

人工智能行业简介n

什么是人工智能p典型应用场景4.

人工智能挑战和解决方案什么是人工智能人工智能是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用。——中国《人工智能标准化白皮书2018》应用网络智能终端智能工程化场景行业智能模型实现：工程化ll云化优化领域知识价值：算法领域知识算力业务场景算法l领域/场景特定模型数据基础：数据ll算法：差异化数据：质量人工智能发展趋势未来5-10年革命性突破在不同领域做尝试与实践知识推理非监督学习相对成熟强化学习深度学习监督学习根因分析，因果推理，知识

图谱等感知发现，例外发现，类脑学习等策略控制与优化，自动性维护等图像识别，语言识别，OCR，

自然语言等智能感知向智能认知方向迈进智能定界，预测，分类等专用智能向通用智能发展技术平台开源化机器学习本质l

定义机器学习是对能通过经验⾃动改进的计算机算法的研究。l

本质pp机器学习的本质是空间搜索和函数的泛化。总结过去，预测未来。pl

通俗理解机器学习，是计算的反问题（逆运算）。p能否推测出图中的函数？深度学习

vs

传统机器学习占了80%的工作量传统机器学习：FeatureEngineering人工设计特征学习分类深度学习：Representationlearning学习特征学习分类目录1.

边缘智能行业简介2.

边缘智能挑战和解决方案3.

人工智能行业简介p什么是人工智能n

典型应用场景4.

人工智能挑战和解决方案教育行业高校应用场景科研&联创高校开发者大赛教学&实训l

课程设计：依托“沃土计划”，联合CloudBUModelArts进行课程设计。l

竞赛：依托华为开发者大赛或联合教育部举办全国高校AI大赛。l

科研合作：依托百校教师峰会等汇聚高校AI教师，选择部分优秀科研项目进行技术扶植。l

教材开发：依托“沃土计划”，联合海思做部分课程和教材的编写。l

孵化创新：前沿研究、联合创l

产教联创：行业客户和高校优势专业资源整合、需求对接、项目落地。新、产业孵化和产品研发。l

人才培养：通过比赛每年培育新锐人才。l实验室建设：使用Atlas800、Atlas200DK等产品和解决方案共建联合实验室。教学实训场景40PIN扩展接口TF卡槽USB接口运行开发工具MindSpore

Studio通过USB或者网口与Atlas200DK对接。千兆以太网接口5~28V宽范围直流电源输入Atlas

200

DK互联网场景精准营销普惠金融电商搜索社交内容处理精准营销新零售线上内容交互O2O本地生活传播流量渠道交易车载AI数据喂出AI，AI掘金数据数据智能出行线下新零售电力行业应用场景分布式光伏充电桩输电线路变电站用户变电站传统发电厂配电房风能太阳能微网调度发电输变电配电用电电力系统人工智能仿真分析新能源发电预测发电机组故障预测/节能减排输电线路在线监测与预警无人机巡检故障智能识别变电站智能巡检负荷精准预测智能配电房运营商场景

-

智能营业厅人脸识别开户+OCR证件单据识别VIP接待人数统计运营商场景

-

智能客服，智慧助手复杂问题语音输入语音回答金融场景

-

OCR应用场景：包括增值税发票、出租车发票、购物小票等票据类金融场景

-

智能安防场景介绍：营业厅、ATM等场所都安装了摄像头进行安全监控：智能化改造方案黑名单识别营业厅内利用智能摄像头自动识别黑名单人员，提前预警做好防范工作。人脸识别人脸门禁VIP客户识别VIP厅门口，利用智能门禁自动识别VIP客户并联动开门。Atlas200Atlas500异常行为识别营业厅内、ATM前自动识别异常行为如偷盗、安装私人摄像头等，并主动报警。行为识别应用软件目录1.

边缘智能行业简介2.

边缘智能挑战和解决方案3.

人工智能行业简介4.

人工智能挑战和解决方案AI

改变才刚刚开始，仍面临巨大挑战训练需要数日、数月训练只需几分钟、几秒钟算力稀缺且昂贵算力充裕且经济AI主要部署在云、少量在边缘主要算法诞生于1980年代没有“人工”就没有“智能”模型性能“考试”优秀非实时更新AI无处不在，任何场景；尊重和保护用户隐私数据高效、能源高效、安全、可解释的算法自动化/半自动化数据标注工业级AI,“工作”优秀实时闭环系统与其它技术连接不充分一项需要高级技能的、专家的工作数据科学家稀缺协同云、物联网、边缘计算、区块链、大数据、数据库…由一站式平台支持的基本技能数据科学家、领域专家、数据科学工程师相互协作人工智能依赖超高计算性能Nvidia自动驾驶训练集群:125x

DGX-1,

1000P100GPU,

3.3PFLOPS。人工智能的发展与摩尔定律密切相关AI

流行度摩尔定律AlphaGo训练/推理:TPU

v2集群,

256

TPU

v2,11.5PFLOPS。第二次AI

冬天Facebook-2017:1

小

时

,Caffe2,

256x

NVLink

P100GPU,Resnet-

50第一次AI

冬天1970s19561990s2010s训练

1.28M张样本照片。CPU华为全栈全场景AI解决方案应用使能AI应用提供全流程服务（ModelArts）,分层API和预集成方案。HiAIServiceGeneralAPIsAdvancedAPIsPre-integratedSolutions应用使能ModelArtsHiAIEngineMindSpore框架支持端、边、云独立的和协同的统一训练和推理框架。MindSporeTensorFlow

PyTorchPaddlePaddle…CANN芯片使能(ComputeArchitectureforNeuralNetworks)CANN芯片算子库和高度自动化算子开发工具。Ascend-NanoAscend-TinyAscend-

Ascend-IP&ChipAscend-Lite

AscendMiniMaxAscend消费终端公有云私有云边缘计算IoT行业终端基于统一、可扩展架构的系列化AIIP和芯片。Atlas产品全景图X