2022年智慧高校AI实验室建设方案智慧高校人工智能实验室建设方案

2019智慧高校AI实验室建设方案人工智能-机遇&挑战智能机器人计算机视觉人机协作机器学习自动驾驶智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案语音识别情感分析知识图谱AI/ML/DL强化学习推荐系统自然语言处理深度学习视频分析“一起”•••AI应用落地，60年磨一剑19431956：：达特茅斯会议MCP神经元1958：感知机“一落”•1969证明感知机只能解决：《感知机》，线性可分问题“二起”•1986：神经网络反向传播1986：分布式特征表示1989：第一个CNN模型智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案••“二落”•专家系统展受阻/神经网络发“三起”•2006络：Nature深度信念网2012：AlexNet,ImageNet2016：AlphaGo••Source:中国科学院自动化所中国人工智能产业化热潮腾讯研究院报告•截止2017年6月，全球人工智能企业总数，美国占42%；中国占23%，全球第二；中国在AI应用层、技术层、基础芯片层创新企业数目分别为美国62%、46%、42%。2017中国人工智能产业数据报告•智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案Source:CBInsights人工智能行业典型应用淘宝拍立淘智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案中国AI产业化亟待加速人才培养AI领域人才需求量急速增长，海外精英大量回流；高校及研究所人才不断流向企业，推动有效人才合作方能双赢；中国AI在大部分领域仍处在追赶和模仿阶段，高层次AI人才极其稀缺.截止2016年，中国AI企业从业者10%曾在高校或研究所工作.智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案过去3年，Linkedin平台发布的AI职位增长8.8倍；工信部预估中国未来AI人才缺口将超过500万；基础层人才需求量最大，包括软件、算法、机器学习等.中国AI人才缺口严重，部分职位供求比高达1:10；中国78%AI技术人才聚集在北京、上海和深圳.AI人才将成为中国智能化产业的关键.AI理论研究尚需进一步突破数据瓶颈泛化瓶颈可解释性瓶颈可靠性瓶颈智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案能耗瓶颈语义鸿沟瓶颈--2017模式识别与人工智能学科前沿研讨会,谭铁牛院士教育部《高等学校人工智能创新行动计划》•完善学科布局，支持高校在计算机科学与技术学科设置人工智能学科方向，推进人工智能一级学科建设；•推进“新工科”建设，2020年建设100个“人工智能+”复合特色专业；智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案•2020年建设50门人工智能领域国家级精品教学课程；•2020年建设50家人工智能学院、研究院或交叉研究中心；•鼓励创新联盟建设与开放资源共享；•科技成果转化与应用，推动智能教育/制造/医疗/城市/金融/农业/司法应用示范。高效易用的AI训练平台，科研教学的基石AI科研创新算法建模AI研究成果输出•••高性能AI/DL训练平台GPU/FPGA计算集群资源管理与调度机制智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案计算力是AI研究的基础计算平台训练数据科研的数据是AI“能源”AI教学实验••高校AI课程教学实验平台vGPU资源共享AI应用落地三大要素AI计算新摩尔定律AI计算新摩尔定律自2012年，AI训练所需计算力每3.5个月增长1倍，6年已增长30万倍我们需要寻找到更大规模的算法并行性方案.智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案OpenAI•••单次Batch训练所需要的计算性能多轮迭代训练所需要计算性能算法参数调优再训练验证AI/DLIT基础架构技术挑战超强计算性能满足神经网络模型训练AI环境快速部署智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案高速低延迟网络通讯集群资源集中管理满足神经网络参数同步大容量高性能文件存储系统DellEMC中国人工智能领域实践

2015年，与中科院自动化所共同成立“人工智能与先进计算联合实验室”；SetuptheAIandAdvancedComputingJoint-Lab.inNov2015*Accumulatednumberasof2016Launchan“EnterpriseDeepLearningApplicationandServicePlatform

2016年，与中科院自动化所共建“诸葛•深知”企业级深度学习应用与服务平台；ZhuGe-ShenZhi,Dec201620152016智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案2017

业界领先、经过实践考验的人工智能基础设施解决方案及交付服务；

自身业务应用的实践：Grantedthe“InnovationAwardofArtificialIntelligenceinTechnology&Practice”inHPCChina2016forumIDCSpecialReporton“ZhuGe”Platform,Dec2016InsideHPCSpecialReport&•用户采购行为预测MachineLearning&DeepLearning,2017DellWhitepaperon•笔记本外观缺陷检测

与外部用户的应用合作随需扩展，满足高校AI实验室不同规模的要求智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案DellEMCPowerEdgeGPU/FPGA加速服务器AI训练高速计算环境DellEMC提供端到端AI/DL计算集群解决方案，包括计算、网络、存储、资源管理软件、机柜设施等。小规模实验环境单GPU/FPGA服务器大中型实验环境高性能AI计算集群工智能+”复合特色专业；智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案AI应用落地，60年磨一剑疗/城市/金融/农业/司法应用示范。应用层合作(casebycase)：Priority1：中科院自动化所Priority2：睿客邦，洪朴信息为PB级的扩展能力而设计SetuptheAIandAdvancedGPU服务器、网络交换产品和BCMMachineLearning&DeepLearning,2017DellWhitepaperon应用层合作(casebycase)：Priority1：中科院自动化所Priority2：睿客邦，洪朴信息中山大学数据科学与计算机学院成立于校整合原信息科学与技术学院计算机科学系、软件学院、2015年6月，由学深度学习训练数据输入处理智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案指定原始数据的创建文件列表队列从文件中读取数据数据预处理整理成显存Batch输入GPU文件列表本地硬盘/共享存储GPU服务器内存GPU显存深度学习框架，如TensorFlow，支持预读机制并行文件系统：Lustre实现PB级文件高速存储为PB级的扩展能力而设计方案特色•并行可扩展文件系统行文件系统软件，基于Lustre并单文件系统命名空间，可扩展至量和高性能高容•智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案•DellHPCEngineering法，在Dell硬件上提供开发的最佳做最佳性能•设计借助动态存储扩展，每构建块峰值达到18.5GB/s读取速率和15.1GB/s写入速率（EDRIB）使用的大数据工作负载的解决方案设计IntelHadoopAdapterforLustre与利用可选件系统共享数据NFS/CIFS网关的其它文••AI集群资源管理软件：BrightClusterManager专门为AI环境进行优化设计的软件工具••••••简化深度学习架构部署统一界面，简化管理支持多深度学习框架支持多深度学习库支持多硬件驱动智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案支持各种主流并行文件系统及分布式文件系统便捷的集群扩展•配置镜像仪表盘监控可视化多集群管理资源调度集成支持主流深度学习Framework及Library智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案截至2018/04便捷的部署与监控管理智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案DellEMCAI教学实验室解决方案科研环境教学环境智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案应用：TensorFlow/Caffe/Pytorh,etcStudent1Student2Student3VmwarevSphereNvidiavDWSvGPUGPU资源复用Vmware+NvidiavirtualGrid基础架构层DellEMC满足AI课堂学生GPU服务器TeslaP40GPUserverPool同时动手实验DellEMCGPU虚拟化解决方案支持Vmware虚拟化及VDI运行深度学习应用更多的AI培训文档智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案DellEMCAI解决方案应用智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案*Accumulatednumberasof2016Launchan“EnterpriseDeepLearningApplicationandServicePlatform智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案Priority2：联科Chess.智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案GPU)+6*R430单GPU/FPGA服务器inNov2015智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案基础架构层DellEMC•Storage:DellHPCNSS-HA存储套件+1969证明感知机只能解决：《感知机》，提供集群管理软件支持集群调度与管理，支持业界常用AI深度学习框架、单文件系统命名空间，可扩展至量和高性能高容DellEMC助力中科院自动化所构建人工智能先进计算实验室智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案中国科学院自动化所AI先进计算实验室智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案PowerfulAIlab••••120unitTeslaGPUs1107.82TFlops计算性能56Gb/sFDR低延迟交换2.88PB高带宽存储基于DellEMC高性能架构部署的深度学习应用平台：“诸葛·深知”智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案DellEMC人工智能平台解决方案提供GPU、CPU、FPGA等多种计算平台，满足深度学习浮点计算强度；DellEMCC41401U空间内可以支持4块Nvidia性能最强的GPUScale-out存储系统，满足PB级文件高速存储的容量和性能要求智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案提供Infiniband、Omni-Path、40Gb、25Gb等多种高速网络互联方案提供集群管理软件支持集群调度与管理，支持业界常用AI深度学习框架、工具集、函数库与硬件驱动DellEMC服务团队提供端到端深度学习基础架构平台交付DellEMCAIsolutionforEducation-draftedition•计算：PowerEdgeC4140/T640/R740•存储：Lustre/NSS/Isilon•网络：MellanoxEDR/FDR，Omni-Path，25Gb/10Gb•集群管理,作业调度：Priority1：BCM+DellEDT；Priority2：联科Chess，并行科技•vGPU教学场景：智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案Priority1：Vmware+vGrid；Priority2：联科Chess.•深度学习框架部署：联科，睿客邦•应用层合作(casebycase)：Priority1：中科院自动化所Priority2：睿客邦，洪朴信息人工智能，科研先行•清华大学天津电子信息研究院，是清华大学在天津市滨海新区、天津中新生态城管委会支持下，于2015年在天津成立的电子信息领域科研成果工程化与产业化的研究机构。•清华大学是中国最早投入人工智能前沿研究的高校科研机构之一；天津电子信息研究院作为清华大学重要智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案的孵化机构，已成功孵化深鉴科技、华慧视等多个AI企业。•为更好支持AI科学研究与工程化，清华大学天津电子信息研究院，以面向全院的人工智能云平台建设，作为学院信息化工作的重要任务。天津电子信息研究院AI平台项目•Server:C4130*22+R730*8+R830*19+R630*3•Storage:DellHPCNSS-HA存储套件+SC5020•Networking:S6100-ON*2+S4048-ON*4+N1548*4+Mellanox智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案SX6036*2+Brocade6510*2•Software:VMware+Fit2cloud+BCM•Service:EDT原厂服务+ProSupportPlus客户支持服务客户名称：中山大学数据科学与计算机学院解决方案：深度学习项目项目背景中山大学数据科学与计算机学院成立于校整合原信息科学与技术学院计算机科学系、软件学院、2015年6月，由学IT需求本次深度学习项目客户的要求是：1.搭建一套成熟高效的深度学习系统框架。超级计算学院以及数学与计算科学学院计算数学方向（部分人员）等计算机相关专业的优势资源组建。学院坚持面向学术前沿、坚持面向国家重大战略需求推动学术和科研智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案智慧小区云服务平台整体解决方案3.可满足机器学习、深度神经网络、贝叶斯分析、统计推理、2.在此系统上进行研究与发展深度学习