类脑计算-神经形态计算深度产业报告-量子位_第1页
类脑计算-神经形态计算深度产业报告-量子位_第2页
类脑计算-神经形态计算深度产业报告-量子位_第3页
类脑计算-神经形态计算深度产业报告-量子位_第4页
类脑计算-神经形态计算深度产业报告-量子位_第5页
已阅读5页,还剩26页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

insightsO量子位Brain-inspiredComputing/NeuromorphicComputingI' ,类脑计算/神经形态计算QbitaiIndustryInsightsReport*深度产业报告虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算引言近年来深度神经网络(DNN)取得了令人瞩目的逬步,但与人脑相比,DNN在信息处理的效率(速度和功耗)上表现仍不够好。在人脑中,信息以连续的方式快速处理,而DNN系统中所处理的是一幅幅静态图像,而且计算密集。在传统DNN中,计算、存取数据时的“内存墙••问题,导致大墨数据搬运中产生额外功耗以及延退。此外,精确计算也是DNN的另一特征一一即便是无价值的输入,也会全部参与计算,导致计算资源浪费且计算效率低。相反,人脑中神经元以脉冲的形式进行信息传递。每当神经元发岀脉冲信号时(被激活),脉冲信号会传榆到所连接的神经元进行处理。若未能达到純发阕值,神经元则处于非激活状态,并且存储对过去输入的记亿,因此人脑采用的是一种稀疏的、空时域信思处理机制。人胸作为一个极度优化的系统,在高并行工作时功耗仅为20W左右一一大脑中约870亿个神经元高度非线性地工作,每个神经元在外部和内部都与其他神经元有多达10,000个连接,在内部承载者数十万个协调的并行过程。这样庞大的网络却有如此低的能耗,使得人类大脑在处理复杂问题时具有绝对优势。如今,人工智能的发展主要依靠庞大的数据量和精确计算。在冯诺依曼架构下,庞大的故据量意味着计算机承担着频繁且大规模的运算,随之而来的就是功糙极速上升。随着各国碳中和脚步加快,高能針甚至需要企业付出颤外成本。尽管我国没有明确確排放超标的惩罚措施,但庞大计算里产生的用电成本、维护成本就不是一般人工智能企业可以支付起的。因此,人工智能的“可持续发展”一定是建立在功耗成本可控的基础上。如何将计算机的功耗控制在合理范围内呢?借鑒人脑特性目然成为研究人员共同关注的方向。相比于当前最先进的系统,模仿大脑运行机制的硬件系统具有高效和低功耗特点。模仿大脑行为的神经网络被称为神经形态网络,其代表为脉冲神经网络(SNN),也是目前类脑研究的核心。这种被称为“第三代神经网络”的出现,可以弥合神经科学与机糖学习之间的鸿沟,使用神经元模型逬行信息编码和计算,借鉴生物脑稱疏的、空时域信息处理机制,充分发挥神经网络的效率。模仿大脑神经结构和工作原理而创新出来的神经形态计算被称为类脑计算。欧洲的HBP(人脑计划)曾指岀,“未来10・20年内,谁要引领世界经济,谁就必须在这个领域领先”<,目录舉技术篇04概述05脉冲神经网络06技术生态10研究进展12技术难点14直接价值16间接价值僵产业篇17行业现状19玩家分析23潜在商业化路径25行业关键驱动因素

技术篇概述人工智能的发展途径当前,入工智能的发展有两个主要路径,一个是沿计算机科学发展而来的深度学习途径,另一个是沿着模仿人脑发展而来的类脑计算途径。-深度学习途径这个方向的发展主要通过FPGA或ASIC方式设计芯片模块,或采用分布式存储的整体架构来提高计算的能效比和速度。架构设计主要以高效支持当前的深度学习为优化目标,通过大规模的并行计算提升计算密度,从而获得性能提升。典型代表包括谷歌的TPU、Graphcore的IPU、阿里的含光800等。这类芯片通常面向特定领域的专门应用,需要大星的故据训练神经网络,其较长的设计迭代周期也增加了芯片的开发应用成本。•类脑计算途径这个方向是以模標人脑神经网络计算为基础而发展出的一种新型芯片,通过模拟神经元和突触的典型特征,如存算一体、脉冲编码、异步计算、动力学模型等特点,希望通过这些模拟从而达到更高的智能水平。典型代表包括IBMTrueNorthxIntelLoihi和基于ARM架构发展而来的SpiNNaker©定义总体来说,类脑计算可分为狭义和广义两类:狭义的类脑计算是模仿大脑神经结构和工作原理而创新出来的神经形态计算(如SNN芯片设计)、SNN类脑模型、脑仿貞、STDP学习方法和类脑智能应用,学术界称其为BrainJikeComputing(也称做NeuromorphicComputing)o广义的类脑计算是借鉴脑的堵构和工作原理,但又不局限对脑的模拟(SNN),还包括融合传统的人工神经网络(ANN)等具有更多类脑特征的异构神经网络,是一种歌合当前计算机科学和神经科学的计算发展途径,学术界称其为Brain-inspiredComputing。•人脑特性结构:人脑由大量神经元通过突触连接在一起,每个神经元通过接受发送脉冲、建立新的突触,从而构建起一个庞大的计算网络。工作机制:生物神经元主要由树突,轴突和胞体组成。樹突负责收集其他神经元传来的信息并通过电流的形式将其传给胞体,胞体相当于一个中央处理器,树突传来的电流引起胞体腹电位变化,当膜电位超过一定阈值时,神经元将发出一个脉冲信号,通过轴突传给其他神经元。只有当膜电位达到放电阈值才会激发神经脉冲传递信息,大部分的神经元在活动周期中都处于靜息状态,从而实现大脑的超低功耗高效运转。虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算公司,立明三1INRC上市公英特尔可编程性可通过深度学习进行训嫁的新型補經网塔与现卖世界的机器人累统、傳统处理靄和新型传感JB无缝集成Loihi2(S3代神经形态斜究芯片):架为能够支持新类别的神经启发鼻法和应用程序,同时提供高达10倍的处理速度,高达15倍的«»®®Lavaft件框架:満足了神经拟态研充社区对通用较件梃架的需求.Lava能蜉在跨芷传统和神经罹态处理器并界均架构上无箜运行机械首神经形态皮阪塊覧感知系统首批企业成员:埃衰西、空叡通用电气、日立2020年新加入:联&罗技・奔驰、PropheseeGrAIMatterLabs2016A+轮GMLCrA)Matter血PROPHESEE2014高精度(16位浮NeuronFlow:稀琉处理;屬精度数点)处:理以提供据流架构,可50f«效的细IS粒度并高质■内容;行计拽讪恣故据流以利GrAIVIP:一神SOC,集成了神縫元用数据的稀蔬性;引VGrAlCore神经形态设计思GraiFlowSDK:兼容常用的ML«I釜、路以提高效率;TensorFlowfflPyTorch,以实现自存内计算以降低定义模型;同时提供预训练模型的数功耗和3118据俺基于!》件的动节METAVISION祝觉传JB器:第四代动态視觉传感器由Prophesee与索尼合作开发,结合索尼的CMOS图像传感謂技术与Prophe次独啊的基于事件的Metavision"f$感技术METAVISIONVKX件:包含95种视覚信恩采集工业机器人无人粗竝注、67个代码示例和11个即用型移旬终衆ARNR设密SONY.机務人Intel时识无人机科技、智能座飽Brainchip%智駆驾驶iCatch智能家居工业物联网应用程序;开源软件充分挖捆硬件湛GeneralVision史GENERALVISION1987NeuroMemIP:是一抻认知记亿架构,可对蟾入模式做出反应,并且貝备仿HS待15NM500神经形态芯片:每个神経元部与逻组硬件连損以实现£2用程序NeuroPi:用于繹估NM500上的但用程序NepesEdge:泰于RaspberryPi的人工皆能开发平台,可以在不络羿境的设备上逬行实时训嫉和推断工厂监控捞体识别缺陷桧測PiscesFishMachinery力,体现性能优势Aspinity2015MASPINITY对AnalogM132行塢程:允许工程师在analogML内核上构建、編译和加敏特定于应用程序的模拟机器学习枳型,RAMP:全球首个可48程槌拟神経形态处理靄AML100:完全在模拟域内运行的卷型机器学习(ML)骸决方案AML评估套件端到端硬件/软件套件,用于评估AML100的功率和检浏M度声学事件検测套件(EVK1):适用于电池供电的智能冢居设径语音检測声学事件義测間动监测意法半导体.英飞凌AppliedBrain

Research2014股权融Nengo:神经形态编译器,用于枸理和模拟用于AppliedBrain

Research2014股权融Nengo:神经形态编译器,用于枸理和模拟用于人工智陆、机器人和神经科学用途的大规模神经模型LegendreMemoryUnit(LMU):专有循呻神经网絡架构,可实现对时变信号更低功松0更澧确的处理边缘时间序列处理S(TSP):在边缘佩处理时间序列故据NengoEdge:使用Legendre内存单元,提供可证明的时间序列敛撫,此外,NengoEdge使用一种物为硬件感知训焼的技术來機混模型以话应不1S音识别、自然语言理解;异常鞍测;模式识别;机MS®椅溯NBEL公司MS技术,点,用■■合作同的边雄硬件平台应用趋勞根据対现有玩家的分析,我们认为类脑解决方案首先从低维度信息处理和高速视觉处理开始,主要面向端侧可穿戴设备、IS像头和终端设备。在此基础上,将加入在复杂环境中的实时决策能力,対应场景为无人机和自动驾驶。随若类脑技术(大规模井行计算、自主学习等)和类脑产业的成熟,在更长的维度上,类脑的应用场景将編盖数据中心以及自主机器人。此外,类脑芯片由于其低功耗的特征,非常适合人体植入(可植入式疾病治疗).脑机接口等应用领域。玩家分类目前,类脑计算领域的竞争主要集中在神经形态计算系统及软件框架的开发上。根据我们的调研,同时員备神经形态硬件和软件开发能力的公司/机构主要有三类:第一类:由政府组织的“脑计划”项目案例:欧盟的HBP中包含神经形态硬件以及软件工具,这类项目的目标群要研究学者和开发人员。第二类:大型半导体公司案例:英特尔同时具备幵发硬件和软件的能力,并能瑕基于此建立起自己的神经形态硏究社区INRC。INRC的主要目的:L加速6「究:借助英特尔的神经拟态计算系统,INRC成员拥有开发和测试概念验证的工具,以协作推进神经拟态计算发展。启用商业化程序:INRC通过开发、原型设计和扩展基于英特尔神经拟态系统的应用程序来加速神经根态技术的商业化进程。开放式基准测试:随若神经形态计算向商业化方向发展,英特尔INRC致力于设定基准,以开放'协作的方式衡里该技术的价值。第三类:类脑领域的头部创业公司案例:时识科技、Propheseeo该类企业都是各自细分领域的头部玩家,通过硬件+软件的模式,且部分公司对软件部分逬行开源及免费下载,以此来吸引细分领域的开发者和研究人员。当用户习惯和用户基故培养起后,便能以此形成自己的生态护城河。玩家特征据业内人士表示,类脑智能目前正处在从运算智能到感知智能的阶段。反应在市场上的表现为,类脑领域的创业公司多故在做与感知相关的落地产品,如动态视觉传感器和触觉传感器。在处理器方面,创业公司多数选择做基于动态视觉的处理器。毯体来看,神经形态视觉传感器(基于事件驱动的视蛍传感器)和神经形态处理器可以很好地形成互补。因此,这两类企业目前可以形成良好的合作关系,如时识科技与Propheseeo(时识科技的处理器是专门为大多数基于事件的图像传感器而设计)。在触觉传感器领域,国内的他山科技基于SNN做分布式类脑触感芯片;国外新加坡国立大学团队利用英特尔的Loihi神经形态研究芯片处理来自人造皮肤的感官数据。国内外对比按照地域分布,类脑智能公司主要分布在北美、欧洲及中国三大地区。其中,欧洲和美国的类脑玩家有两类,一类是以大型公司或政府大型项目主导的类脑硬件设备提供商(包含了配套软件),以研究和建立生态为首要目的;另一类是前文所述的创业型公司,以商业化为首要目的。在中国,未出现大型公司主导类脑计算研究的情况,但灵汐科技在战略目标上与英特尔、SpiNNaker(ARM架构)一致,希望成为新一代算力基础设施提供商。不同于国外的是,灵汐科技成立于2018年,在成立年限上属于创业公司范畴,但其研发早在2013年清华大学成立类脑研究中心时便开始。其余的类脑公司则与国外的类脑创业公司在技术和应用市场上均呈现出相性。潜在商业化路径分析而基于目前市场上正在尝试或未来打算商业化的产品和解决方案,总结出两种商业化方向:基于事件驱动特性的产品(传感类)利用事件驱动特性做技术开发的主要是创业公司,分析师认为基于事件驱动的产品最有可能率先实现商业化落地。一方面因为事件驱动特性能够解决AI细分市场当前面临的迫切问题一一能耗高;另一方面,事件取动的技术成熟度更高,已有公司开发岀完整的解决方案。・桃战应用场景局限:在复杂场景中还存在工程问题,如完善的硬件架构等。•如何解决要想充分发挥类脑的优势,要通过类脑芯片来支撑算法,所以需要去实现一个可硬件友好的算法一一从应用出发,提高算法与硬件的适配度。対于创业公司来谢,在最终产品里,不仅需要将类脑的优势发挥岀来,更重要的是将类脑技术与其他技术进行融合,使产品在性能上至少有两到三个量级的提升。基于此,我们发现目前市面上的头部玩家均提供软件+硬件的全栈式解决方案,包括可满足特定应用需求的定制硬件和软件配置。此外,软件部分能够兼容目前的编程语言。例如,时识科技的Samna,核心逻辑全部为O+编写,対外提供一套Python接口。対于创业公司来讲,短期内做出成熟硬件的难度非常大,因此有公司选择与面向同类市场的传统大型企业合作幵发硬件产品,如Prophesee与索尼合作开发的第四代视觉传感器。这样以来,既保证了产品的可靠性,又能够与业内传统大厂建立稳定的合作关系。大规模并行计鼻硬件平台(计鼻类)•目标用少量甚至单个电子器件模仿单个神经元的功能,将数量巨大的电子“神经元”以类脑的方式形成大规模并行处理网络。-挑战大规模并行计算涉及电路层面的重折设计,以及新型器件的硏发。电路设计中,需要实现存算一体架构设计;器件层面,更优的选择是忆阻器(因其更符合生物特性),而忆阻器目前尚未达到商用标准,仍处在攻克技术难题的阶段,如解决材料不稳定的问题。•如何解决在底层的基础研究上,目前全世界都在试图对大脑运作机理做深入还原。在脑科学的基础研究中,主要由各国政府琵头。根据我们的调研,欧盟政府发起的HBP已将欧洲最大的两个具备大规模计算能力的硬件平台一一SpiNNakerftlBrainScales,纳入到类脑研究实验室中,并以此建立起类脑的研究生态,鼓励学者和研究机构基于两大硬件平台以及其搭建的软件平台来做类脑相关开发。企业层面,英特尔的Loihi和IBM的TrueNorth也主要围绕大规模计算平台进行研发。存算一体架构目前大型半导体厂商都有所布局,如台积电、三星。初创企业中,国内外也都有实现量产的公司。基于存算一体架构的芯片发展成熟后,能够进一步推助类脑计算的发展。忆阻器目前处于发展初期,国内外都处于实勲室阶段。忆阻器领域的主要研发企业有:惠普、旧M、英特尔、AMD、东芝、富士通、夏普,三星、SK海力士,德州仪器(TI)、华邦电子等。国内忆阻器的探索目前主要集中于理论层面和计算机仿真,主要研究机构有清华大学、华中科技大学、中科院微电子所等。商业化阻碍•対于创业公司客户替换成本高芯片行业的发展是围统产品建立庞大生态的过程,努力将需求方都汇聚到自身生态中,在生态内进行产品的不断迭代。対于芯片领域的客户,一旦対某个生态形成依赖,其他厂家想要做替代的成本/难度将会非常髙(仅从技术和市场角度出发)O类脑在产品化过程中,由于其底层逻辑(高度仿脑)与现有计算机的逻辑存在根本差异,导致其融合过程的难度増加。类脑的商业化依靠多领域的创新对于类脑芯片公司来讲,类脑的价值能够充分发挥,建立在多项基础科学的突破和交叉融合之上,如新型器件需要材料的创新,算法的有效性建立在神经科学的突破上。而初创公司缺乏相应的资源和资金进行多领域的交叉融合。•对于大型半导体公司与主营业务冲突(那分)大型企业如英特尔的主营业务为CPU,类脑计算平台从功能的角度看,一定程度与其现有核心业务之间存在竞争关系。大型企业在创新技术的战略上,往往会采用提前布局研发,但不急于商业转化,等到前沿技术在市场上得到充分验证后,再逬行商业化。研发支持来源不同大型企业不选译进行商业化也可能与研发这项技术的目的有关。典型案例是IBM的TrueNor岀项目,其主要服务于美国军方部门,研发投入来自政府资金,而不是靠商业化盈利。在这种情况下其研发资金有充足保障,在投资方撤资前,这项技术通常不会将商业化纳入考虑范围。行业关键驱动因素据我们的调研,目前类脑领域的发展主要有两种驱动方式:在产业側,由科研成果转化平台和类脑领域头部公司主导进行产业生态建设,目前尚处在起步阶段。在科硏側,由政府主导的大型项目,针对类脑的各个层次逬行产学研结合,推动相关基础科学的进步。生态建设由于类脑的发展比深度学习晩了40年,目前围纟尧类脑的研究人员和开发者数最有限,这也是限制类脑習能规模化发展的因素之一。如果没有形成广泛的幵发者社区,类脑相关产品和解决方案的发展速度将受到限制一-成熟的硬件商不开软件和算法的同步发展。反之,算法的有效性也需要在类脑芯片上进行验证。因此分析师认为构建起围绕类脑计算的生态是其商业落地的关键。-软件方面部分公司会免费提供软件套件,方便开发者在其生态系统内基于脉冲神经网络进行应用开发和骚证。正如前文所述,类脑计算领域目前尚不存在公认的核心算法,因此企业通常在软件上选择开放的态度,将研究人员聚合在平台内逬行算法开发、迭代,加快类脑算法及应用的发展。•硬件方面业内公司表明希望将自身硬件打造为通用的类脑芯片平台,允许客户二次开发。研充人员可以将自己开发的类脑弟法放到芯片里进行验证。在国内,时识科技与武汉大学合作,允许学生基于时识的类脑平台做眼动识别、声纹识别等应用开发。在国外,旧M等公司会将自己的硬件设备免费提俱给科研机构,在触觉感知、嗅觉感知等领域进行应用开发。总体而言,国外的生态建设更加成熟且开发者在类脑研究上的参与度更高。載止2020年,英特尔INRC中已有超过100名成员。此外,Prophesee的开发社区目前已有超过5000名活跃的开发者,然而中国开发者的占比非常有限。因此,国内在下一步发展中需要更加注車开发者生态建设,将开发者作为自己的“种子用户”,在更幵放的平台中吸引更多研究人员和工程师来共同构建围绕类脑技术的社区。 V虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算虽子位硬科技深度产业报告一一类脑计算/神经形态计算政策驱动,各国现有政策欧盟HumanBrainProject神经形态计鶴:•欧盟HumanBrainProject神经形态计鶴:•从中朋来看,期望縛紆形态技术能够比传级计鼻机更有效地为智能手机等设备浅供语音和图像识别功能•从长远来看,使用抻些形态技术将低功経的智能认如您戒到目⑰眞驶汽车、家用机器人辱SpiNNakerWBrainScales两个系统都集成到HBP实验室中,并为其配置,摄作和数据分析提供完整的软件支持EBRAINS:分布式数字基础设施目前主要用于推逬三項神經科学強域的研究:1)大10网增和连通性的多尺度由克;2)网络在认知和車诅基础过程中的作用;3)受大肋启发的人工}#经网络、神经机器人以及神经形态处理18蜂蛭机器入平台NRP:开放访问和拜源的架・NEURON:用于对单个神经元和神经元网絡逬行建哄的制蜥境■■■■■关成,美国BRAINInitiative加深两人焚思结内在运作机理的硏完,并改善当前治庁,预防和治愈大IB疾病的方式MICrONS:将神经科学和数据科学馅合起来,通过梱示簡及层如何在中尺度上愤行计算来发展机器学习BossDB:通过MIOONS开发的信息系统,都若支持BRAINinitiative,以公开It管告种大规模的神经科学成像故锯集消氏类产品中•PyNN:—神立于模取器的ifi言,用于构建神经网终模型:PyNN提供了一个标淮神经元、突触和突触可塑性模型博,这些好已经过验证,可以支持在不同的模梆器上以相问的方式工作。PyNN还變供了一组常用的连接JS法,能够为用户提供在狸立仿H«T的iS接H*Brain/MINDS研究方向:•短报大BS的結构和功能映射•脑映射创新神绞技术开发•人前测貌和临床研究•数据集:围烧皴推的脑图谱、核4B共振、前8fi叶皮层達援靖构、駐因图8L钙成像、皮房电路数据集•3

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论