2024基于类脑计算人工智能安全

目录 1 41.1 41.1.1 41. 42. 53. 54. 61.1.2 61. 62. 71.1.3 71. 72. 83. 94. 105. 101.2 111.2.1 111. 112. 123. 141.2.2 151. 152.未来学家马丁· 173. 174.美国麻省理工学院教授迈克斯· 171.2.3 181. 182. 193. 194. 201.2.4 211. 212. 213. 221.3 221.3.1 221. 232. 233. 241.3.2 251. 252. 263. 274. 285. 286. 291.3.3 291. 291.4 31到19改革的欧洲及美国、日本等相继完成第二次工业革命，标志着人类进入了电器时代2。电气化的发展使人工智能成为人类寻求技术突破和生产力解放的新方向。1956省理工学院的约翰麦卡锡教授在达特矛斯会议上首次提出了人工智能的定义：人工智能就是要让机器的行为看起来与人所表现出的智能行为一样3。安德烈亚斯卡普兰和迈克尔海恩莱因将人工智能定义为，系统正确解释外部数据，从这些数据中学习，并灵活利用从这些数据中学到的知识实现特定目标和任务的能力4。翰罗杰斯塞尔教授针对计算机等信息处理机器而提出的，他认为计算机不仅是用来研究人的思维的一种工具；相反，只要运行适当的程序，计算机本身就是有思维的5。此生准则，总之，真正的强人工智能是拥有灵魂的类生物，而不是简单的机器和算法的堆叠。展[24]的努力，当前面临的是基础问题，在本质上尚属数学研究挑战[27]作为发展方向，出于对强人工智能的担忧而不建议主动开展研究28。北京大学的黄铁军极科学问题有待破解29。初创的独角兽企业，都在鼓励其研发团队为实现强人工智能做出努力。谷歌和pnd团队都在采取具体措施来尝试实现强人工智能，如训练更大的通用神经网络等30。另目标是制造类脑计算机并产生类脑智能32。科学家认为，如果忠实地在结构层次上仿照人脑结构，采用微纳器件来仿真人类大脑的神经系统，制作所谓的类脑计算机，那么，力，强人工智能的自主意识也会随之诞生。与主张先研究明白意识和智能之后再去复刻灵魂的思路不同，这样的思路以一种更直接的方式探索实现强人工智能的可能[32]不同于传统的冯诺依曼体系计算机，类脑计算机将利用微纳光电器件等设备来模拟生物到现在，已有大约30年的发展历程34。北京大学的黄铁军教授等人对类脑计算的发展历史进行了梳理46：1989年，加州理工大学的卡弗米德提出了类脑工程的概念，并撰写了《模拟与神经系统》36一书，书中提出采用亚阈值模拟电路来仿真脉冲神经网络，其应用是仿真视网膜。2004不同于冯诺依曼架构的替代技术。类脑计算这门小众研究逐渐走入大众视野。2004年，斯坦福大学的夸贝纳博亨教授研制出了基于模拟电路的类脑。2005年，欧盟启动了由海德堡大学牵头的项目，重点研制基于模拟混合信号的神经形态芯片。2005年，美国国防部高级研究计划局（）启动了y项目，该项目支持与多家合作单位联合研发类脑芯片。瑞士洛桑联邦理工学院的亨利马克拉姆同年与合作启动了著名的蓝脑计划（ueno），并在Muen超级计算机上开展尽可能逼近生物真实的大规模仿生神经网络模拟。2008的忆阻器（o）原型，并展示了首个忆阻器与硅材料的混合电路，这项研究使得人造突触热潮在全球兴起。2011年，作为项目的延续项目，欧盟启动了n项目，研发大规模并行类脑计算机。2012年，蓝脑计划所模拟的最大神经网络包括了多达100万个神经元与10亿个突触，其规模相当于蜜蜂的大脑，仿真速度仅为实时速度的1300。2013年，欧盟又启动了由亨利马克拉姆牵头的人脑计划（），开展与神经机器人平台六个平台在内的研究。2013年，美国启动了计划，推动对于生物大脑的深入理解。2014年，的y项目推出了uoh芯片，该芯片包含了多达54亿个半导体，但功耗只有70毫瓦，约为与之半导体数量相当的传统的功耗的15000。该项目实现了一个用于视觉对象检测的应用系统，包含300万个神经元，功耗只有200毫瓦。2015年，德国海德堡大学在一个8英寸硅片上集成了20万个神经元和5000个突触，并成功运行了采用这种神经形态处理器的类脑计算机。2016年，欧盟人类大脑计划宣布把建成的n系统和pk系统通过互联网对外开放使用，以支持神经微回路模拟及在机器学习和认知计算中应用类脑原理的相关研究。2016年8月，苏黎世研究院制造出特征尺寸达到纳米级别的脉冲神经元，未来可以小到14n。该神经元的每个单元能稳定存储3比特数据，还能执行数据关联检测等多种计算，并且能像生物神经元一样具有随机性。2016年9月，日本东海大学绘制出了首个果蝇全脑神经网络三维图谱，其中共包含10年内实现高等动物的全脑解析[46]主导的y项目在超级计算机上进行了大脑皮层仿真，在此基础上，为了突破规模瓶颈，开发了神经形态芯片——uoh芯片37，2014年，Sn将之列为年度十大科学进展。2016年4月，美国劳伦斯利弗莫尔国家实验室和公布了一款智能超级计算机，实验室数据科学副主任吉姆布雷斯表示：仿神经运算为我们创造了令人激动的新机会，这正是我们国家安全任务的核心——经计算机的潜在能力，以及它可以实现的机器智能，将改变我们研究科学的方式。”北京大学在北京市脑认知与类脑计算项目的支持下，围绕视觉系统解析仿真开展研究，研制出类脑机的眼睛。2015—2016年，北京大学对灵长类视网膜进行了高精度解析仿真，实现了视网膜中央凹神经细胞和神经环路精细建模，提出了模拟视网膜机理的仿生视频脉冲编码模型。2017年到2018年年初，北京大学成功研制了脉冲阵列式超速全时仿视网膜芯片。生物视觉信息处理机制虽然优越，但受生理限制，主频很低，仿视网膜芯片脉冲发放频率达40000，超速人眼千倍，能够看清高速旋转叶片上的文字。全时是指能够从芯片采集的神经脉冲序列中重构出任意时刻的画面，这是真正的机器视觉的基础，有望重塑包括表示、编码、检测、跟踪、识别在内的整个视觉信息处理体系。神经网络算法，与IBMTrueNorth芯片相比，在芯片密度、速度和带宽方面都有大幅度提浙江大学及杭州电子科技大学联合研究团队面向低功耗嵌入式应用领域，于2015一款基于数字逻辑的脉冲神经网络芯片达尔文，支持基于神经元模型的脉冲神经网络建模。但当时并未出现指导飞机设计的空气动力学。1903年，莱特兄弟发明了飞机；1908北京大学的黄铁军教授在《类脑计算机的现在与未来》32一文中认为类脑计算应采取仿真主义，即通过结构层次模仿脑（非冯诺依曼体系结构）、器件层次逼近脑（模拟神经元和神经突触的神经形态器件）、智能层次超越脑（程）的途径来实现基于类脑计算的强人工智能。1000瓦（人脑功耗为20瓦）著[41]中详细定义和论证了这个阶段，并将其称为“生命1.0”为生命1.0的代表性生物，面对抗生素的刺激和干扰，可以随着遗传和变异，逐渐产生对应的抵抗措施。人类作为生命2.0的代表性生物，则可以通过改变个体的行为来适应在个体身上体现出的灵活性给种群层面的繁衍和发展带来了更大的优势，这也是生命2.0优越性的显著表现。特别地，尽管原始人到现代人，人类的基因在几万年的时间里鲜是极大地促进了信息的积累和传播41。在生命2.0阶段，人类可以控制自己的软件设计，但是在硬件上，人类仍然无法做到突体的限制，仅凭自身的能力飞向天空乃至飞向宇宙。由此，生命3.0被定义为生命是自身的主人，能够独立地设计自己的软件和硬件，完全脱离了进化的束缚41。基于以上讨论，生命的发展被分成了三个阶段。在生命1.0阶段，生命处于生物阶段，必须依靠自身的进化和对环境的适应，来获取合适的软件和硬件；在生命2.0阶段，生自己的软件，从而让个体更好、更快地适应环境；在生命3.0阶段，生命处于科技阶毫无疑问，人工智能的发展将会带来大幅度的生产力提升。普华永道估计，到2030工智能的应用部署将为全球增加15.7万亿美元的，其中，中国将占据其中的7万亿美历四个阶段：互联网智能化、商业智能化、实体世界智能化及自主智能化43。以小爱同学智能音箱为例，它可以采集周围环境中的声音，将其数字化并进行分析，实现人机交互；城市大脑路网监控项目通过摄像机采集路网实时视频，对其进行识别和分安全43。实体世界智能化的浪潮将改变我们的日常生活环境，模糊数字世界与现实世界的界限，直到界限完全消失。这个转变依赖强大的硬件制造能力。李开复在《未来》中提到，自主人工智能是前三波人工智能浪潮的集大成者和巅峰。知，必须由人来控制。机械化设备可以处理简单且高度重复的工作，却无法应对奇异算采取非冯诺依曼体系结构，按照层次结构来模仿人类大脑，在器件层次使用模拟神经元和神经突触的神经形态器件来逼近人类大脑，在智能层次依靠自主学习和训练（工编程）来超越人类大脑，最终逐步实现基于类脑计算的强人工智能46。《国家中长期科学和技术发展规划纲要（2006—2020年）》65对脑科学与认知科学研究做了战略规划：脑功能的细胞和分子机理，脑重大疾病的发生发展机理，脑发育、可塑达与脑式信息处理系统，人脑与计算机对话等。目前，在基础研究和工业应用两个方《人工智能何时超越人类表现》[50]高效的生产力和生产方式改变现代生活48。为了适应公共政策，我们需要更好地预见人价值49。《人工智能何时超越人类表现》50报告中预测了具有50可能性的人工智能实现人类技能的时间点，如图4149所示。在图41中，描绘的区间是具有25～75可能性的时间范围，黑色的圆点是具有50可能性的时间点（年份），价或超越人类专家的技能表现。图4-1未来学家马丁·为干预下学习新的技能。未来学家马丁·福特在2018年采访了当时最杰出的多名人工智能研究者，并要求受访者对强人工智能进行预测，判断在哪一年能够研发出具有50%人类实力的通用人工智能51。鲜有完整的规则和标准。马丁·福特在书中提到，这种基础层面的未知，可能是大部分受访者选择匿名的原因，他们可能担心引发不必要的关注。美国麻省理工学院教授迈克斯·迈克斯·泰格马克表示，他从不怀疑未来会出现强人工智能和超级机器”。从宏观角度来机器同样可以完成相关的工作，并具有比人脑更高效的处理功能。因此，迈克斯·泰格马克认为强人工智能必然实现。然而迈克斯·将实现，长期目标取决于物理法则。尽管迈克斯·泰格马克没有给出明确的时间点，但并不表示他认为时间不重要。根据迈克斯·泰格马克团队的调研，强人工智能实现时间点的平均数为2055年53。迈克斯·泰格马克借助机器人专家汉斯提出的人类能力地形图”，做出了强人工智能对于人类失业风险的“能力地形图，如图4241所示。图中的不同地形代表人类能力的等级。逻辑和创造力的需求度越高。由此可以看出，处于低地的技术，如“益智问答围棋”等，机与人类相比还无法“望其项背，但是假以时日，人类终将被强人工智能超越59。图4-2人类失业风险的“能力”地形图可解释性的定义：InterpretationistheprocessofgivingexplanationstoHuman，也就是说，“知其然并知其所以然”[58]“人类能力地形图由机器人专家汉斯·莫拉维克提出。在地形图中，海拔高度表示相应任务的难度（对计算机而言），“海平面表示当前计算机的能力。随着海平面”的不断上升，计算机的能力不断提高，直到某一天到达了一个“临界点，由量变引发质变。在这个“临界点，计算机将具备自主设计智能的能力，从而具有主观能动性。在临界点”之后，“海平面的上升动力将由以人类为主转换为以机器为主，并且具有令人震惊的速度。俄罗斯的一台自主学习机器人PromobotIR777在经过训练后逃离了实验室；扫地机器人IRobotRoomba760在接通了自己的电源后爬上厨房的电烤盘“自杀”。诸如此类的事件还有描述和定义，其内部逻辑不可控且无法预测。这种系统被称为“黑箱系统。面对黑箱系统”，人类无法对其安全做出保障，对其的研究也极为困难61。由此可见，如果需要在强人工智能的“黑箱中加入友好定律，则首先需要对这个黑箱”具有足够的了解和充足的认遗传和迭代进行自我更新，贴近人类社会61。立了相关机构。为了统筹应对安全方面的机遇和挑战68，美国在2018年5月10日成立了人工智能国家安全委员会69，谋求人工智能安全领域的话语权。为了争夺人工智能安全领域的话语权及法律规则的制定权，欧洲设立了人工智能高级别专家组70，希望将西方价值观引入人工智能的伦理道德体系。为例，民间的pnI团队早在2016年就发表了一篇题为《人工智能安全中的具体问题》的文章71，几乎涵盖了人工智能发展需要面对的各种安全问题。在人工智能长期发展方面，美国政府（尤其是军方）也投入了很多力量，有三个部门处于研究领先地位：侧重对人工智能的安全性和鲁棒性的研究，使人工智能在网络和系统安全防御方面的能力得到进一步提升；侧重对人工智能在异常检测方面的研究，保护隐私数人机交互和自适应态势感知等72。在这方面，我国与发达国家还存在一定的差距。当前题，鲜有对强人工智能安全性问题的创新性研究。人才储备方面，据《中国人工智能发展报告2018》73的统计，美国在人工智能领域的杰出人才多达5158人，占世界总量的25.5%，远高于排名第二的英国，是其4.4智能高端人才数量为977人，不到美国的20%，其中，杰出人才的占比仅为5.4，而美国则为17.1%73。更值得注意的是，我国的人工智能高端人才有40%是从美国的高校和科研机构中引进的74。我国在顶尖人才的储备和培养上与其他人工智能强国存在较大差距，这是我国在发展强人工智能及相应的安全技术的道路上需要面对的问题。力）任务可能比低难度的任务更危险。“基本人工智能驱动75进一步加剧了高通用性系统的能，并抢先获得相关资源。在这种观点看来，看似温和的目标也可能带来重大风险。然这些因素彼此严重脱钩，但它们并非毫无关联。图43直观地显示了这些因素之间的相互关系。图4-3（nng）85的角度入手，探索强人工智能的实现方式。元学习作为目前看来最接近强人工智能的方案，目标在于解决“学习如何学习（nngo）的问题。从不同的工具进行分析，可以在多个方面论证强人工智能理论的安全性。数据集的安全问题，《美国国家人工智能白皮书》中提出了一个名为o的项目，专门通过人工智能或其他方法，寻找并排除错误的或“被精心设计的污染数据。三是保证训练具有较好的泛化能力。从部署角度保证强人工智能的安全性，则主要从可信计算86的角不会做出违背价值观的行为。人工神经网络方法的出现，受到神经科学领域的启发[84]英伟达公司的通用。随着技术不断进步，人工智能芯片也可以面向其他机器学习算法，其体系架构和应用功能也会有新的发展。类脑人工智能芯片（如M的uo芯片，以及清华大学的“天机芯等）就是典型代表，首先，在底层架构上，它们不同于经典的冯·诺依曼体系，主要采用神经拟态网络结构作为底层架构设计35。这种架构将、其次，还有一些新的元器件被用来提升学习速度，如M公司研制的人造纳米尺度的随机从长远来看，类