中国智算中心(AIDC)产业发展白皮书(2024年)_第1页
中国智算中心(AIDC)产业发展白皮书(2024年)_第2页
中国智算中心(AIDC)产业发展白皮书(2024年)_第3页
中国智算中心(AIDC)产业发展白皮书(2024年)_第4页
中国智算中心(AIDC)产业发展白皮书(2024年)_第5页
已阅读5页,还剩118页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

中国智算中心(AIDC)产业发展白皮书(2024年)前言(2024博弈-中美围绕智算领域的博弈将持续升级和演进:在中美博弈的政策支持力度也将达到空前水平。目前国内呈现类华为和类CUDA趋势-国内智算中心未来5年迎来发展窗口期AI3020281520302030304035000据323FP(P,折合市场投资超5000亿元。IDC业务的延伸,是云业务的升级,互补性强于替代性,IDC的协同发展。业务-算力调度、数据服务、模型部署成为重要业务形态:相较需求-当前智算中心市场有泡沫但未偏离价值需求:受限于当前AIAI1000MW,CB投资AIC”类基础设施:IT1/3,单位面积的建设-算电协同和建筑形态立体化是智算中心两大建设变化:选址应重点关注枢纽节点集群和绿电富集区域,积极推动采用微电网、分层平铺式架构推进研究以IT设备为核、配套环围的智算中心立体辐射式架构,配套/IT1:2运营-智算中心的可持续运营更需要生态圈:国内智算中心总体产业链-智算中心产业链玩家更丰富更激进:政府-顶层统筹区域(目录前言 IV一、智算中心内涵定 1(一) 算力内涵 1算力概念及分类 1算力的供应载体 2(二) 智算中心内涵 3二、国内AI及智算中心业概述 6(一) AI技术演进下看智算 6产业形态 6产业技术 11应用场景 16(二) AI政策演进下看智算 23国家层面的AI专项政策 23省市层面的AI实施政策 26(三) 龙头企业演进下看智算 29英伟达历年营收情况 29从英伟达年报看智算 31三、国内智算中心业分析 34(一) 国内智算中心产业链视图 34(二) 智算中心与数据中心产业链对比分析 39(三) 中美博弈对中国智算产业的影响 41中美博弈在智算产业方面的发展趋势 41美国科技封锁对中国智算产业的影响 43芯片禁令下智算企业相关方应对启示 45四、国内智算中心需析 47(一) 国内智算中心需求场景分析 47需求分布趋势 47实际调研反馈 53(二) 国内智算中心需求测算 55从供给量级来看 55从产业内需来看 55(三) 国内智算中心供给现状 56市场供给现状 56建设体量分布 57建设区域分布 57国产化渗透 58主要建设模式 60(四) 国内智算中心供需研判 60供需匹配度分析 60产业周期性研判 61五、国内智算中心设案分析 66(一) 智算中心建设布局分析 66布局原则 66布局模型 68实践案例 69(二) 智算中心建设标准分析 72数据中心与智算中心建设标准对比分析 72传统云资源池与智算资源池对比分析 76传统模式与模块化建设模式对比分析 794.5KW、8KW等传统数据中心智算化改造方案 82数据中心与智算中心建设形态展望 83智算中心芯片选型 90(三) 智算中心建设成本分析 95六、国内智算中心营式分析 100(一) 智算中心总体运营现状 100(二) 智算中心业务模式分析 101业务运营模式 101合作运营模式 102(三) 智算中心定价模式分析 105(四) 智算中心盈利评估分析 1061.收入 1062.成本 107测算指标 108七、国内智算中心业展启示 109图目录图1国内外智算中心(AIDC)定义对比 4图2智算中心(AIDC)技术架构 5图3AI发展进入新纪元 8图42016年与2023年6月中国算力结构对比 9图5我国AI芯片市场规模占比 9图6计算力指数与GDP回归分析趋势 10图7大模型技术简化AI技术流程 13图8新兴业态带动算力需求增长 14图9全球、中、美人工智能文献发表细分学科分布 16图10大模型重造产业格局 17图11IDC《2021年AI算力报告》预测训练推理算力占比 18图12中国训练推理算力占比 18图13国内外头部车企训练智算体量对比 23图14英伟达2020-2024财年营业收入与增速 30图15英伟达2024财年各业务板块收入占比 31图16英伟达2022-2024财年各业务板块收入及占比 32图17英伟达20Q4-23Q4经营指标情况 34图18人工智能产业链视图 35图19智算中心产业链视图 36图20AI芯片产业链视图 37图21智算中心产业链图谱 39图222021年我国各行业算力应用占比 48图232023年我国各行业智能算力采购需求增速预测 49图24中国大模型发布地图 51图25大模型技术发展带动模型参数规模演进 52图26大模型应用孵化期 53图27我国智算中心建设城市分布情况 58图28我国智算中心建设枢纽分布情况 58图29智算供需曲线预测图(2022-2030年) 61图30美国人工智能产业发展周期 62图31我国智算中心产业发展生命周期 64图32数字设施“金三角” 65图33选址指标建议 68图34UPS内置双排机柜示意图 80图35UPS外置双排机柜示意图 81图36数据中心独立集装箱示例 81图37示例:华为FUSIONDC1000A-40FT-IT-2N 82图9数据中心标准层平面布置示例(机电:机柜:2) 图40智算中心标准层平面布置示例(机电:机柜=3:1) 85图41芯片形态演进图 86图42建设成本测算要素 96图43建设成本测算逻辑 97图44智算中心成本模型 108图45智算中心主要技术经济评估指标 108表目录表1算力分类及特点 1表2生成式AI与分析式AI的差异 8表32022年中美智算规模指标对比 10表4未来5年中国AI子市场复合增速 21表5中美高访问量AI应用简览 21表6我国人工智能政策概览 24表7重点省市有关部门人工智能产业相关政策 27表8IDC产业链与智算产业链对比表 40表9国内两大类智算需求企业 49表102022年中美智算规模指标对比 55表112022~2025年中美智算供需数据 56表12全国已投运及规划建设的智算中心(部分) 59表13选址模型及参数 69表14数据中心楼层功能设计及参数示例 84表15智算中心楼层功能设计及参数示例 85表16华信智算中心典型设计案例 87表17国内外主流CPU/GPU服务器对比表 90表18300P同等算力情况下 98表19新建数据中心测算表 98表20改造智算中心测算表 99表21新建智算中心测算表 99表22资源共建典型案例 103表23平台共赢典型案例 103表24价值共创典型案例 104表25全国重点区域智算定价区间 106表26智算中心收入类型 107表27典型智算中心项目盈利情况介绍 109一、智算中心内涵界定(一) 算力内涵算力概念及分类尚未形成统一定论。2018年诺贝尔经济学奖获得者D.Nordhaus2021CPU、、、FPGA、ASIC(l,1p=01ps点如下:表1算力分类及特点类型基础算力智能计算超级计算概念传统的计算机计算方式,用于执行各种任务和应用程序一种新型的计算方用用于执行大规模并行计算任务的计算机系统应用场景面向众多应用场适普惠性景:安防、医疗诊规划、搜索/推荐等面向科学和工程计算场景:天气预报、核聚变模拟、飞行器设计等特点通用性强,可以执行多种任务和应用程序强调人工智能和机器学习算法的执行用于处理大规模数据集和复杂模型芯片架构CPU芯片AI芯片(GPU、NPU、FPGA、ASIC等)高性能CPU(GPU)等组成计算集群运算精度单精度浮点运算(FP32)通常有FP32、FP16或低精度整数,目前FP16及以下精度主流使用双精度浮点运算(FP64)以上编程框架LAMP(Linux+Apach+MySQL+PHP)、SpringMVC、Docker/K8s、VUEPytoch、TensorFlowMindSpore、OneFlow、DeepSpeedMPI+X建设模式企业自建,或服务商投资建设企业自建、政府投主体政府投资为主算力的供应概述基础算力(通算AMDCPU持续CPULinux70%。我国基于Linux开发的统信、麒麟操作系统,以党政军领域为入口,逐步向金融、电信、医疗等行业渗透。(U140超算算力(超算:国内超算制造商市场份额领先,在全球TOP50056%。2022年末,ChatGPT模型参1746GPT5的算力规模达到70000P。从全球各大机构预测来看,人工智能计算需(二) 智算中心内涵CPUGPUAI(ArtificialIntelligenceData的内涵FPGA础设施。图1国内外智算中心(AIDC)定义对比资料来源:中国通服数字基建产业研究院(华信咨询设计研究院)狭义的智算中心是智能算力的物理载体,是“机房+网络+GPU服务器+算力调度平台”的融合基础设施,是传统数据中心的增值性延伸。从基础设施层看,传统数据中心以提供机房+网络”为主,由用DgtlInfra通常在传统IDC基础上提供TPU而国内大多是基于GPUFPGA从资源调度层看,智算中心部署了算力资源平台以实现算力池化、MIT在传统IDCAIDC的20~30%图2智算中心(AIDC)技术架构资料来源:中国通服数字基建产业研究院(华信咨询设计研究院)算力数据算法”AIAI化的重一是推动AI产业化创新发展。AI等产业发展是一个由技术和应二是驱动产业AI化转型升级。智算中心通过提供数据清洗、数三是引领传统云智能化升级。云计算和AI作为当今技术领域的AI二、国内AI及智算中心产业概述(一)AI技术演进下看智算AI技术的实用性发生了质的飞跃。大模型AIAI产业形态AI产业正在逐渐从传统分析型AI走向生成式AI人工智能在经历前期技术积累和迭代后,逐渐突破传统分析型AI领域,迎来生成式AI的爆发期,从“预测推断”走向“内容生成”。分析型AI更多的处于专用领域,即感知理解世界,能够替代低ChatGPTAI/图像/音频//CopilotChatGPTBoomyFMMeta等公司的AI于分析型AIAIAI图3AI发展进入新纪元资料来源:中国通服数字基建产业研究院(华信咨询设计研究院)表2生成式AI与分析式AI的差异生成式AI分析式AI深度场景文创-AI-AI音视频;医疗-AI处方;金融-AI风控语音、文本、图片和视频识别算法模型千亿级亿级算力需求EFLOPS和ZFLOPS级PFLOPS级支出规模(国内)2025年超400亿2030年超2000亿202510亿级资料来源:中国通服数字基建产业研究院(华信咨询设计研究院、算力规模持续扩大,智能算力占比不断提高2022年底我国算力规模达到180EFLOPS,位居全球第二,2025年将增长至300EFLOPSAI201620236月25.4%2025。图42016年与2023年6月中国算力结构对比资料来源:中国通服数字基建产业研究院(华信咨询设计研究院)AI、ASIC、FPGAGPUGPUGPU和侧重通用计算的GPGPUGPUGeforce系列产品GPUGPGPUAMD双寡头CUDA图5AI芯片市场规模占比资料来源:JonPeddie中美智算产业发展差异IDC75665247缩小。图6计算力指数与GDP回归分析趋势资料来源:IDC2021IDC、Gartner、中国通服数字基建产业研究院等多方机构测算,截止202288.049.0EFLOPS智算规模仅为3.4EFLOPS/亿人,美国人均智算规模约为26.4EFLOPS/8202240%1.4(57表32022年中美智算规模指标对比指标中国美国智算占比(全球)2850智算规模(EFLOPS)49.088.0人均智算规模(EFLOPS/亿人)3.426.4人工智能产业规模(亿美元)5952164数据来源:IDC、Gartner、中国通服数字基建产业研究院(华信咨询设计研究院)等AIAI包括esrcengnt(、urlceigit()以泛应用的CUDA(300GPU产业技术大模型技术促进AI业务过程大幅简化AIAI每一个模型建设都需要算法开发、数据处理、模型训练与调优过程,使用门槛较高。大模型“预训练+精调”的模式带来了新的标准化AI研发范式AIAIAI((对OCR等AIAI图7大模型技术简化AI技术流程资料来源:华为、IDC、中国通服数字基建产业研究院(华信咨询设计研究院)大模型等AI技术带来智算中心需求爆发大模型技术对于智算规模提出了更高的要求。AI8*T*P/(n*X)。Ttoken数量,P为AI硬件卡ChatGPT亿)350008192张卡,其49按照业界的千卡规模,万亿参数万卡规模。随着国内外厂商加速AI大模型训练,接入用户数量激增,算力需求将迎来井喷,传统的摩尔定律不再适用。在深度学习出现之前,深度学习时代度学习时代型时代AI24AI3-4AI训2深度学习时代度学习时代型时代图8新兴业态带动算力需求增长资料来源:论文《Brain-inspiredcomputingneedsamasterplan》中美AI及智算技术发展差异GPU与TPUFlowPytorchERNIEGlueImageNet2016从科技在Librispeech在技术人才实力方面,中美差距较大。在人才储备方面,目前中2019AI顶会AI5AIAI技术研究更(ASPI)AI相64AI技术主要集中在软件化硬件化AIAI指数2023(2010-2020图9全球、中、美人工智能文献发表细分学科分布数据来源:华尔街见闻专项研究应用场景大模型重塑产业格局,未来2年行业核心场景加快落地随AI新,快速融入各行业核心应用:如办公应用中文字生成极大提升公文邮件、新闻等编辑效率;软件开发中代码生成可提升开发人员的工作2C2B2B2C2C2B应用在50%+图10大模型重造产业格局资料来源:中国通服数字基建产业研究院(华信咨询设计研究院)与领域、行业深度融合,重心逐步由训练向推理端转移AI准确率转向跑马圈地IDC数200,202560.8%。图11IDC《2021年AI算力报告》预测训练推理算力占比资料来源:IDC202180%5年内智2028年2028年2023年49805120训练 推理图12中国训练推理算力占比资料来源:中国通服数字基建产业研究院(华信咨询设计研究院)AI相较于美国的全产业布局,“重应用轻基础”的研发理念,加之国应(淘宝(/1433(言处理//273家,美国586。应用层(/智能无人04家,美48862%、CharacterAICharacterAI2024825媒体平台和内容创作平台也有越来越多的用户使用生成式人工智能MidjourneyDAU万左右。领域的生被应用于虚拟主播、虚拟购物场景等。AI(见下表:以atT12510倍。ChatGPTAPI55%1930%的收APIAI2020-2023AIIDCAICAGR16.5CAGR30.433.1CAGR国内应用生态将加速健全。表4未来5年中国AI子市场复合增速AI子市场五年CAGR硬件市场16.5服务市场29.6软件市场30.4数据来源:IDC表5中美高访问量AI应用简览国别AI应用公司功能适配场景访问量(万)*中国Kimi月之暗面多语言对话、长文本处理、文件阅读、网页内容解析、搜索、数学计算、信息整合、代码解析教育、娱乐、咨询、金融、法律2405文心一言百度知识问答与推理、文本创作辅助、语义分析与情感判断、跨模态理解与生成教育、政务、金融、文旅、电商1938通义千问阿里巴巴智能问答、信息检索、内容生成、代码写作与调试、翻译、推理分析法律、医政务、教育、娱乐911豆包字节跳动语音识别、语音合成、文本生成图像教育、娱金融、文旅891AI索秘塔网络高级搜索、内容可视化、编辑与协作、信息追溯Toc768美国ChatGPTOpenAI多语言输入、文本生成、语言问答、语言翻教育、医疗、金融243521译、自动文摘、绘画、编程、视频生成对话式搜索、AI图片生Bing微软成、多语言翻译、内容教育、医疗、电商173128视化搜索信息检索与知识探索、Gemini谷歌创意写作与内容创作、提升工作效率、生活助医疗、交通、娱乐27139手CharacterAI谷歌交互、情感表达与记忆、多样化的文本生成Toc21523笔记记录、多类型内容NotionNotionLabs建、协作共享自定义工教育、金融15415作流、集成第三方服务*访问量为2024年7月数据(统计:非凡产业公开报告)2-31-2V1235000P1万辆需要0台A约20,小米明年30万辆车出厂,若预计50%车需要智算的需求,则15*100=1500A100010万P级规模。特斯拉FSDV12特斯拉FSDV12国内头部车企2000追赶Pflops,FP1635000单位国内外头部车企训练智算体量对比图13国内外头部车企训练智算体量对比(二) AI政策演进下看智算国家层面的AI专项政策(1)AI政策发展历程2017-2018年,起步阶段:建立人工智能政策框架和准则。20172018102019-2021年,示范阶段:大力建设人工智能示范区。2023202022年至今,突破阶段:技术、应用和自主化突破。202282023320237AI+表6我国人工智能政策概览发布机构发布时间政策中央层面2017年7月《新一代人工智能发展规划》2018年10月第十九届第九次中央政治局学习2019年6月《新一代人工智能治理原则——发展负责任的人工智能》2019年7月《国家科技伦理委员会组建方案》2021年12月《关于加强科技伦理治理的意见》工信部2017年12月《促进新一代人工智能产业发展三年行动计划(2018-2020年)》2018年11月《新一代人工智能产业创新重点任务揭榜工作方案》2020年8月AI通知》2021年12月《“十四五”机器人产业发展规划》科技部2016年5月《“互联网+”人工智能三年行动实施方案》2019年9月《国家新一代人工智能创新发展试验区建设工作指引》2020年10月《中国新一代人工智能发展报告2020》2020年10月《国家新一代人工智能创新发展试验区建设工作指引(修订版》2022年8月《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》2022年8月《关于支持建设新一代人工智能示范应用场景的通知》教育部2018年4月《高等学校人工智能创新行动计划》智算政策及要求提升智算战略地位201720204月,国家发改委首次将智能计算中心作为算力基础设施的重要代表纳入20222东数西算2023106部门联合工智能产业发展和业务需求,推动算力+行业融合发展,升智能算力占比,2025年达到35%。2023125部断提升。推动智算中心建设发展试验区的设立为促进人工智能领域的创新和发展创造了良好的40+2023/在建智算中心超70个,智算中心建设取得显著进展。省市层面的AI政策接力数十项指导方案和激励政策体系初成。2023感与重要性。表7重点省市有关部门人工智能产业相关政策发布地区发布时间政策名称北京市2023年5月《北京市加快建设具有全球影响力的人工智能创新策源地实施方案(2023-2025年)》《北京市促进通用人工智能创新发展的若干措施》《北京市通用人工智能产业创新伙伴计划》2019年10月《关于通过公共数据开放促进人工智能产业发展的工作方案》天津市2020年8月《天津市建设国家新一代人工智能创新发展试验区行动计划》上海市2021年12月《上海市人工智能产业发展“十四五”规划》2021年7月《关于推进本市新一代人工智能标准体系建设的指导意见》2023年7月《上海市推动人工智能大模型创新发展的若干措施》重庆市2023年7月《重庆市以场景驱动人工智能产业高质量发展行动计划(2023—2025年)》河北省2023年4月《加快河北省战略性新兴产业融合集群发展行动方案(2023-2027年)》江苏省2018年5月《江苏省新一代人工智能产业发展实施意见的通知》浙江省2017年12月《浙江省新一代人工智能发展规划》2023年8月《关于加快人工智能产业发展的指导意见(征求意见稿)》安徽省2020年3月《安徽省人民政府关于支持人工智能产业创新发展若干政策的通知》福建省2018年3月《推动新一代人工智能加快发展的实施意见》2023年9月《福建省人民政府办公厅关于印发福建省促进人工智能产业发展十条措施的通知》广东省2022年12月《广东省新一代人工智能创新发展行动计划(2022-2025年)》深圳市2023年5月《深圳市加快推动人工智能高质量发展高水平应用行动方案(2023—2024年)》湖北省2021年12月《湖北省人工智能产业“十四五”发展规划》2020年12月《湖北省新一代人工智能发展总体规划(2020—2030年)》湖南省2021年8月《湖南省“十四五”战略性新兴产业发展规划》四川省2022年8月《四川省“十四五”新一代人工智能发展规划》北京市2023519(2023-2025年智能场景建设等21上海市深圳市实现算力一网化、统筹一体化、调度一站式”,争取全市可统筹的公共智能算力及相关网络带宽保持国内领(三) 龙头企业演进下看智算英伟达历年营收情况202020242020202220232024AI1262024其业绩增长的主要驱动因素。2024609126个下游,主要有游戏、数据中心、汽车、专业可视化数据中心2024475217游戏收入增长15,104162111。图14英伟达2020-2024财年营业收入与增速数据来源:英伟达财报图15英伟达2024财年各业务板块收入占比

数据来源:英伟达财报从分业务收入变化情况看智算2022125元,占司总的49,堪称“壁江。随着Chat GPT问世英伟达的业务模式开始出现重大转向,众多科技公司不仅纷纷布局AI大模还资采购AI芯片带动英伟达数据中心业务板块迎来爆发式增长AIGPU2024财年(指203全年,下同,英伟达数据中心业务营收占总营收的78,成为公司最重要的营收支柱。图16英伟达2022-2024财年各业务板块收入及占比数据来源:英伟达财报同时,随着AI产业进入爆发期,算力需求激增,技术迭代速度OpenAIAI90H100GPUCUDAAI英伟达收入支柱的转变,以及业界对其数据中心业务的乐观预测均表明AI产业发展未来将长期处于加速轨道,算力需求将不断扩大,智算产业迎来高速发展期。从算力用途看智算英伟达数据中心业务收入中至少40来源于推理,表明人工智能的领域——推理AI2024AI2024AIAIH200H1001.9AIH200升,有望降低下游科技企业在生成式AI应用落地时的算力使用成本,加速生成式AI应用的技术落地。从具体财务指标情况看智算/2461/4518图17英伟达20Q4-23Q4经营指标情况数据来源:英伟达作为AIAI15H1005H100GPU20239H100GPU2024CEO2024AI面临短缺。供应受限状况将在全年时间内持续下去AIAI三、国内智算中心产业链分析(一) 国内智算中心产业链视图AI图18人工智能产业链视图资料来源:深圳人工智能行业协会、中商产业研究院、中国通服数字基建产业研究院(华信咨询设计研究院)人工智能计算中心以人工智能芯片构建的人工智能计算机集群为基础,涵盖了基建基础设施(机房基建智算中心作为承载算力的关键基础设施,目前已经进入了高速建AI芯AIIT基础IDC服务、图19智算中心产业链视图资料来源:深圳人工智能行业协会、中商产业研究院、中国通服数字基建产业研究院(华信咨询设计研究院)在智算中心中,AI芯片是算力的硬件基石,作为高度全球化的GPUFPGAAI阶段。AI芯片产业链关键环节分为上游支撑产业链、中游核心产业链和下游应用产业链。其中,上游支撑产业链主要包括半导体设计工具、((AIIDM整合制造模式括英伟达、英特尔、三星等;另一种是垂直分工模式,从芯片设计到图20AI芯片产业链视图资料来源:深圳人工智能行业协会、中商产业研究院、中国通服数字基建产业研究院(华信咨询设计研究院)基础设施地方政府+科技企年开始,IDCAI科曙光等IT服务商,以及电信运营商、第三方服务商及一些跨界基建类玩家。在IT基础架构方面,AI芯片的代表企业包括英伟达、英特尔、AMD、寒武纪、华为等;AI服务器供应商以英伟达、AMD、EquinixDigtalRealty在智算中心产业中游智算服务方面,呈现出运营主体类型多元、运营模式灵活IDC数据港、阿里云、腾讯云等凭借丰富的数据中心、AIAIAI智算应用生成式AI算力需求占主体从应用场景来看,AI不断向生AIAI2030年我国AIGCAIGC智算需求主2023图21智算中心产业链图谱资料来源:中国通服数字基建产业研究院(华信咨询设计研究院)(二) 智算中心与数据中心产业链对比分析产业链的核心是提供物理空间、网络带宽、电力供应、冷却系统等基础设施,IDCAIGPUFPGAASICAIAI运业的常规ITAIAIIDCAIAIIDCIDC8IDC产业链与智算产业链对比表产业链环节对比维度IDC产业链智算产业链基础设施层核心设施土建+机电+网络配套++IT(投建主体政府、AI企业、IT服务商、电信运营商、第三方IDC服务商、云服务商投资占比30%70%运营服务层核心服务机柜+带宽+运维+安全+灾备算力+数据+算法+生态参与主体综合智算服务商、AI框架和平台开发AIIDC投资占比(当前)70%30%应用赋能层核心应用互联网、金融、制造、医疗、政务等各个领域模型训练、模型推理、自动驾驶等需要强大计算能力和数据分析能力的领域应用主体AI广、环节更多、更加聚焦AI领域。一是IT(IT设备占比超0II二是IDCAIAI能力平台服务商(以云商和大模型商为主、数据中台服务商((型IIAI三是行业。(三) 中美博弈对中国智算中心产业的影响中美博弈在智算中心产业方面的发展趋势AI20201074800600A100H100AIA800与A100H100。20231017A800、H800L40SAIAI芯片都无2023HGXH20L20PCleL2A800H800美国期国H20二是美国对中国的技术管制范围不断扩张。除限制芯片出口中国GPU(Ineriminlue,IR”(nityit)1。三是美国对中国的技术管控具长臂管辖特征。首先,任何新增的1https:///a/us-considering-curbing-china-s-cloud-access-official-says-102123/7320571.html1017BISBIS的认知上,由于全球半导体供应链中受EAR(ExportAdministration2EAR3。出口管控扩展到投资管控(IRRM4。美国科技封锁对中国智算产业的影响响。短期来看,由于在AI芯片和算力完全断供前,存在三个月左右2https:///cn/zh/insights/latest-thinking/8-issues-of-the-latest-US-export-sanction-rules-concerning-semiconductor.html315C.F.R.§734.4(2021).这些外国商品、软件和技术包括出口的调整后峰值超过ECCN4A003.b且包含美国产半导体的外国电脑、含有美国原产受控技术(ECCN5E002)的外国加密技术,在境外修订、使用、咨询或其他方式合成的美国原产受控技术(CN903、运往:5ECCN编号为9x5156004/sites/default/files/2018-08/The-Foreign-Investment-Risk-Review-Modernization-Act-of-2018-FIRRMA_0.pdfIDC2026每秒十万亿亿次浮点计算(ZFLOPS)级别,达到1271.4EFLOPS,规模及增速均远高于通用算力,2022-2026年复合增长率达47.58%。但长期来看,在芯片和半导体技术研发、智能算力基建、通用大GPU、IntelGPU行AMD26%NvidiaAIGPU前部分国内GPUA8005。另外,BISGPU14nm另一方面控的智算中心产业链创造了时间窗口”5/s?id=1780732924417849849&wfr=spider&for=pc倒逼我国芯片AIAI其对国产芯片的需求将快速增长,我国将形成芯片-智算中心”的产业芯片禁令下智算企业相关方应对启示AI降级版芯片能取代原有高性能芯片的需求吗?AIH20、L20PCle和L2PCleH20相较80P2缩水了/,16缩水了,但放H80011原计划购买的、已经被禁的英伟达高性能芯片(80。从短期来20244在其最新的Gaudi3AIAI计划为中国市场推出特殊版本的Gui3Gaui3主要包括HL-28和L-38两种产品,624924Gaudi31835TFLOPSGaudi36bit92Gaudi3H20GPU强化分场景需求下的供应链管理实体名单的企业,建议先囤货再看后续价格和产量变化调整。重视与国产化芯片厂商全方位合作:CUDACUDA率。GPU四、国内智算中心供需分(一) 国内智算需求场景分析1.需求分布趋势(一3~5关注高性价比,租期一般在0.5~1年。2021年我国各行业算力应用占比12.0%10.0%12.0%10.0%7.2%5.8%4.2%3.9%7.2%互联网 政府 服务 电信 金融 制造 教育 其他图222021年我国各行业算力应用占比数据来源:《2022年全球人工智能产业研究报告》35%25%35%25%23%22%行业平均增速:22%12% 12%10%7%制造 互网 交通 金融 能源 运商 教育 安平 政府图232023年我国各行业智能算力采购需求增速预测数据来源:《2022年全球人工智能产业研究报告》(二AIAIChatGLMMOSS360智脑大模型、第四范式“式说”等大模型。另一类是AI算力产品的需求用户,即推理用户,利用AI算力主要满足智能分析、AI客服、风险风控、仿真测试、生物识别等场景需求,用户主要包括云计算服务商、高校、政府部门、科技公司。表9国内两大类智算需求企业主要需求需求企业代表企业或典型场景炼大模型用户头部互联网企业美团自建资源为主:阿里、华为、腾讯、商汤、百度(部分租用)AI科技企业AIAI澜舟科技AI创业圈:美团、百川智能科研机构中科院自动化所、复旦大学、智源研究院、清华AI算力产品用户高校CAE政府部门智慧城市、卫生健康、公安交警科技公司智慧医疗、智慧健康、智慧教育、智慧交通互联网企业AI客服,风险控制、生物识别(三算下,需求向西部迁移趋势开始显现。2023528日发布791500图24中国大模型发布地图数据来源:科技部新一代人工智能发展研究中心(四)9多个9(2022—2024“中心(训练)-边缘(推理”已成为大模型的主流大模型推理领域,AIAI挥。图25大模型技术发展带动模型参数规模演进图26大模型应用孵化期2.实际调研反馈通过对北京中关村产业集群16家大模型企业以及阿里、字节、华为等头部企业需求调研反馈及总结归纳显示,AIDC及算力租赁需求呈现以下三个重要特征:传统IDC资源售卖陷入瓶颈,AC租赁供不应求IDCAIDCIDC大模型、互联网+等新兴客户算力需求旺盛20231630P2000P1000P1.3-1.61.6/P(010,2518.75具体来看:如文娱大模型:妙鸭相机爆火后算力需求暴涨数百倍,租用阿里云上百P算力;3000P如汽车大模型:聆心科技一次性租用150张A100;如金融大模型:以九坤资本、幻方量化为代表的量化金融私募商拥有大量英伟达卡,对外寻求机房租赁。阿里云为猿辅导提供指定配置的AI。英伟达仍是客户主流需求,全面国产化短期内难实现达。1:9。(二) 国内智算中心需求测算人工智能领域的发展历程和经验规律为中国智算中心产业发展提供从供给量级来看IDC、Gartner202228(AI2022年底生成式AI刚在中国崛起,智算中心占比不大。表102022年中美智算规模指标对比指标中国美国智算规模(EFLOPS)49.088.0人均智算规模(EFLOPS/亿人)3.426.4数据来源:IDC、Gartner、中国通服数字基建产业研究院(华信咨询设计研究院)等从产业内需来看人工智能产业规模与智算需求体量间存在强相关关系,2022年美国21645958262024.22025AI场空间巨大。表112022~2025年中美智算供需数据指标中国(2022~2025)美国人工智能产业规模(亿美元)595~16802164测算智算需求(EFLOPS,FP32)24.2~68.588.0假设:美国智算产业基本处于供需平衡的状态。数据来源:IDC、中国通服数字基建产业研究院(华信咨询设计研究院)(三) 国内智算中心供给现状市场供给现状2023//86总建设模过679 EFLOPS(换为FP16,下同)6,中已投、6(1(FP64)274019算力规模近2O70L。2024年我国智算中心建设进入快速增长阶段,上半年有规模披露36271EFLPOS算力规模近.FPS10L,未来建设体量分布100PFLOPS共计2个(648个(占比565个(6、1个(3建设区域分布全国25(93(51个159/27(占比46)3254)且532821个,6图27我国智算中心建设城市分布情况数据来源:中国通服数字基建产业研究院(华信咨询设计研究院)图28我国智算中心建设枢纽分布情况数据来源:中国通服数字基建产业研究院(华信咨询设计研究院)国产化渗透已投运智算中心多采用“英伟达+国产算力”混合部署模式,在自主可控大背景下,算力国产化成为智算中心重要趋势。我国已投运伟达GPU100表12全国已投运及规划建设的智算中心(部分)序号智算中心名称所在城市智算规模(PFlops)建设进度建设主体国产芯片供应商1重庆人工智能创新中心重庆400投运政府华为-昇腾2天津市人工智能计算中心天津300在建政府华为-昇腾3河北人工智能计算中心一期廊坊100在建政府华为-昇腾4芜湖一体化智算中心芜湖160在建政府中科曙光5成都人工智能计算中心成都300一期投运,拟扩容政府华为-昇腾6杭州人工智能计算中心杭州一期40二期100一期投运,二期在建政府华为-昇腾7宁波市人工智能超算中心宁波一期100一期投运,二期拟建政府中科曙光8中国移动南京AI智算中心南京278在建企业寒武纪-思元9并行科技内蒙古新型算力基地呼和浩特70拟建企业-10“一带一路”国际数据中心义乌50拟建企业-11青岛“海之心”人工智能计算中心青岛250在建政企合建中科曙光12南京智能计算中心南京400一期投运,二期在建政企合建华为-鲲鹏、昇腾数据来源:中国通服数字基建产业研究院(华信咨询设计研究院)注:外部统计数据,仅供参考主要建设模式企业多采用规模化、集中化的建设模式202331(191236263730(投运5223个47321553715366个77亿元。(四) 国内智算中心供需研判综合多方机构(国务院参事、中国电子商会等)AI7政企合建”模式具体指政府与企业签订合作协议共建智算中心,或由双方出资成立的合资公司(多为企业控股、政府参股)作为建设单位。80202640;AI基于上述假设和测算模型,可以初步得出以下测算结论:2030大规模落地,则智算中心供需平衡时间节点将进一步后延。图29智算供需曲线预测图(2022-2030年)数据来源:中国通服数字基建产业研究院(华信咨询设计研究院)产业周期性研判标杆研究-以美国为例302028AI30AI达、ChatGPTAIAI据Statista2022ChatGPT2028190816.95图30美国人工智能产业发展周期数据来源:Statista、中国通服数字基建产业研究院(华信咨询设计研究院)中国智算中心产业发展周期性研判20302.0202220221.002年后,智算产业进入20阶2030国智算中心产业将会迎来拐点,进入成熟期。具体分析如下:未来五年国产化、异构算力需求将持续增长。一方面,目AIIDC50AI5AI另一方面,模型IDC31GPU90,NPU、ASIC和FPGAGPU17国内高端芯片的短期高效供给仍将受限。一方面,国内通用GPU标国际进水产芯片华推昇腾1可标伟达1,并对比A800部分精度的算力有优势,同时推出 AI开源计算框架支持户进行AI开发武纪提云边体训练推理融合系列AI芯片产及平基础系软件重对推荐统和大语言模型的训练推理等场景进行优化。AI集群上,华为Atlas900CPU+NPU另GPUAI图31我国智算中心产业发展生命周期数据来源:中国通服数字基建产业研究院(华信咨询设计研究院)智算中心产业发展对数据中心产业的影响思考智算中心发展对IDC产业的影响与之前业内担忧云计算技术对IDCIDCIDC10新阶段。图32数字设施“金三角”密度的DC,基于上述的关系基调,我们的观点是:智算中心与数据中心的互补性关系大于替代性。理由如下:1、 智算与通算在芯片技术上将深度融合:未来的超级芯片SOCGPU+CPUNVIDIAGraceHopperSuperchip、GB2002、 智算与通算的需求场景重叠度极低:两种不同的计算构在需求场景上形成显著差异,不过在少数领域也有一定重叠,比如低端渲染场景。3、 智算中心与数据中心市场协同紧密如近两个月华北华东区域市场的智算需求爆发,带动智算机柜的租赁业务,盘活了数据中心市场。4、 智算与通算在国内供给体量上同步增长:中国智算占比2025年有望从2016的3增长到35,通算占比降低但量仍保持增长。5、智算中心与数据中心都会以云为主要载体:随着应用的加速渗透,对算力服务能力提出更高要求,智算中心未来也将从纯托管转向云服务。五、国内智算中心建设方案分析(一) 智算中心建设布局分析布局原则智算中心布局需坚持集约化、规模化的总体要求,路径上建议“全(千卡地。算随数动、云算一体、四级联动:优先在数据中心布局区域,加IDC统一规划:由集团或上级主管单位统筹,组织各区域公司或监管主体开展布局规划,强化不同区域间差异化协同布局;布局模型智算中心选址模型搭建思路:(1)构建选址数据库参照国家对八大枢纽节点及起步区的选址布局导向,构建算力基础设施选址数据库,共包含三项一级指标,六项二级指标。图33选址指标建议AIGC(。ODCC数据中心选址模型以及行业专家意见设置参数权重。通过层次分析法建立数据中心选址评价体系,与数十位行业权威专家进行反复交流验证,输出数据中心选址模型。𝟏𝟑𝑾=∑𝒘(𝒊)𝒙𝒊;𝑾:要素权重;𝑿:要素分值𝒊=𝟏型:表13选址模型及参数指标库权重参数市场驱动0.5供需因素智能算力供需缺口0.25智能算力需求增速0.083产业生态人工智能产业园区数量0.083人工智能专利申请数量0.083要素禀赋0.3运营成本工业用电电价0.075人工平均工资0.05工业用地价格0.05新基建水平是否为骨干网节点0.05算力水平0.075政策导向0.2政策一致性是否在国家算力枢纽0.025是否在国家数据中心集群起步区0.05政策支持力度项目地绿电保障0.05项目地财税优惠0.05实践案例华信咨询设计研究院已为多个政府和大型央国企提供了智算中心布局规划和选址服务,以下就某个大型央企为例做展开说明:址指标综合得分表:省会城市总分总排名江苏南京41.2021广东广州49.128浙江杭州36.7432山东济南40.9822北京北京39.1327上海上海32.7139福建福州28.1745湖北武汉53.365河南郑州53.186四川成都41.7119湖南长沙54.263天津天津25.2848安徽合肥38.7329河北石家庄49.019辽宁沈阳33.9037陕西西安54.174重庆重庆36.2033江西南昌43.1716山西太原44.2615广西南宁30.1842内蒙古呼和浩特31.8441吉林长春41.2520贵州贵阳39.3026云南昆明44.4614黑龙江哈尔滨28.3844续表省会城市总分总排名新疆乌鲁木齐42.5217甘肃兰州57.301海南海口32.2340宁夏银川56.112青海西宁40.4024西藏拉萨29.7043安徽芜湖40.7323广东韶关40.0925甘肃庆阳37.9731宁夏中卫48.3010广东深圳42.5118江苏苏州35.4634内蒙古乌兰察布33.6438河北张家口35.1435浙江嘉兴45.0913浙江宁波39.0128江苏常州46.0312江苏南通48.0111江苏无锡38.6630广东东莞34.4336广东佛山27.3846山东济南51.677福建厦门26.7047下建议:兰州、银川、长沙、西安、武汉、郑州等中西部省会城市力供需缺口较大,且运营成本相对较低,建议一方面加快算力中心布局,并与园区布局紧密协同。仍存在供需缺口,留,按需快速启动。若以兰州作为起点,可能的原因如下:供给条件好:区位辐射既有基础好:扶持政策:(二) 智算中心建设标准分析数据中心与智算中心建设标准对比分析5GAICPU、GPU和服务器功6~8kW10~15kW15~20kW40~60kW建筑平面:大模型智算组网对机柜集中度要求更高,机柜50100结构承重:智算机柜、液冷机柜对结构承重提出了更高的楼板均布活荷载承重≥16kN/m2,适当预留部分楼层或白空间满足结制冷模式:15kW房空调采用架空地板下送风+自然回风或弥漫式送风+吊顶回风等远(或采(100%。电力容量:随着智算中心单机柜功率密度不断提升,电力15~60kW六性六化”总体思路,以前瞻性、先进性、灵活性、”数据中心与智算中心建设标准对比表专业数据中心智算中心风冷为主高功率液冷高功率风冷建筑要求主机房净高应满足机柜高统房间级空调,数据中心的主机房净高≥3.0mAHU冷却机组,主机房净高≥4.8m。高度≥600mmAHU间接蒸发冷却机组弥漫式送风,可不设架空地板,具体根据设备功率及地板下送风风速综合计算后确定。梁下净高(含地板)≥4.2m,地板高度≥600mm电力电池区与主机房区可灵活变化度≥300mm,梁下净高(含地板(含地板)≥4.2m电力电池区与主机房区可灵活变化结构要求8~12kN/m2不间断电源系统室活荷载标准值8~10kN/m2电池室活荷载标准值/蓄电416kN/m2建议主机房、不电室统一活荷载标准值留部分机房活荷载标准值≥20kN/m2;屋面或室外具备足够面积设置冷建议主机房活荷载标准值≥10kN/m2建议不间断电源系统室活荷载标准值10kN/m2电池室活荷载标准值/蓄电池组4层摆放时,不应小于16kN/m2井及设备基础室内外具备足够面积放置机柜、配电区域,预留管井及设备基础制冷系统采用AHU间接蒸发冷却机组、传统风冷、水冷型的房间级空调、列间、背板等空调形式70%由30%冷量通过列间空制冷采用风冷、水冷型的列间、背板等空调形式配电系统外市电、高低压配电容量、油机、2N不间断电源/高压直流系统、大母线、列头柜、电力电缆等一般配电区面积小于主机房区面积外市电、高低压配电容量、油机、2N不间断电源或一路(N+1)UPS和一路市电供电、大小母线等一般配电区面积会大于主机房面积,单位建筑面积用电指标会更大消防给排水采用房间级空调时,水不进主机房服务器机柜区域,空调区做挡水、排水及漏水报警措施;采用冷冻水型列间、背板空水及漏水报警措施。漏水报警措施;水、防水、排水及漏水报警措施。中国电信天翼云杭州大数据基地智算中心(弹性、灵活、绿色、智慧、高效的智算中心)项目概况:项目位于杭州市萧山区经济技术开发区下属的168亩,2861期4幢198204448kW、15kWP制冷小母线“BIM技术“AI”等关键核土建总包传统云资源池与智算资源池对比分析IB组网和RoCE组网的选择分析IB组网标准模型和方案,会根据客户或者项目的需求进行定制SPINE20482048SPINE-LEAFGPUSPINE161GPU1024GPU1024框式交换9216卡,CE1681618432卡。二层组网时,RoCEIB从成本、算力效率和供货能力综合考虑,线缆的长度建议控制在50米以内。算力规模及组网架构的选择分析小集群和大集群的分析:大集群:大集群适用于规模较大的人工智能应用场景,其中计二层与三层组网的分析:传统云管和智算平台的能力分析包括:1、灵活的资源调度:传统云管平台可以根据用户的需求,灵活地分配和调度云计算资源,以提高资源的利用率和性能。23、多租户支持:传统云管平台可以支持多个用户租用同一组计算资源进行计算操作,提高资源的使用效率和利用率。12、高性能计算:智算平台通常利用高速网络和专业加速卡等技术,实现高性能计算,加速人工智能任务的处理速度。3、大规模的分布式计算:智算平台支持大规模分布式计算,可以将计算任务分解为多个独立子任务,并在多台计算机上分别执行,以缩短任务完成时间。4、深度学习模型训练与优化:智算平台有专门的算法支持和优化工具,能够训练和优化深度学习模型,提高模型训练和推理性能。传统模式与模块化建设模式对比分析智算中心由于单位面积的算力密度更高,空间更小,加上AI需POD微模一个或多个标准的货运集装箱内,一般情况下具备较好的移动性。(1)组装模块化机房(半模块化)算力冷、风冷组装模块化机房具备智能化统一管理、标准化集成、建设周期短、可复制性等特点。可根据客户的不同算力需求定制方案,统一规划、分阶段实施,适用于各类算力中心新建及改造场景。通过设备选型,可将故障“爆炸”半径控制在以模块为单位。目前典型的产品有腾讯的T-Block微模块数据中心、台达的MDC微模块数据中心等。图34UPS内置双排机柜示意图图35UPS外置双排机柜示意图(1)集装箱机房(全模块化)未来随着技术不断成熟和市场规模化渗透,有望成本大幅下滑。华为、HewlettPackardEnterprise、Dell、IBMCorporation、Cisco2040英尺图36数据中心独立集装箱示例图37华为FusionDC1000A-40ft-IT-2N示例5KW、8KW等传统数据中心智算化改造方案冷冷冻水空调系统。当前市场上主流智算设备单机柜功耗可分为15kW、35kW、45kW1:22:1。IT12kW隔柜启用或单列启用的方式,未启用机柜用盲板封堵。液冷智算机房常用液冷机柜为冷板式液冷,单机柜功耗35~48kW70%30%负荷PUE。12PDU数据中心与智算中心建设形态展望机房形态的变化100米,是目前通6~8kW10~20kW15~20kW40~60kW研究以IT38、39/IT12转变为()。此外,模式。进一步以某项目为例作说明,数据中心方面,以总建筑面积约为20000平方米的某数据中心机房为例,标准平面布置及楼层设计如下:图38数据中心标准层平面布置示例(机电:机柜=1:2)表14数据中心楼层功能设计及参数示例序号楼层功能面积(㎡)层高(m)1地下一层空调水泵房、空调水池50042一层门厅、高低压配电室、制冷机房等48256(制冷机房局部下挖0.9m)3二至四层等48255.44天面层电梯设备等用房200合计2000023.125000图39智算中心标准层平面布置示例(机电:机柜=3:1)表15智算中心楼层功能设计及参数示例序号楼层功能面积(㎡)层高(m)1地下一层空调水泵房、空调水池50042一层门厅、高低压配电室、制冷机房等140006(制冷机房局部下挖0.9m)3二层数据机房、电池电力室、钢瓶间、备品备件等1000064天面层电梯设备等用房500合计25000机柜功率及形态的变化构计算则可实现数ADM(0002020A100H100功耗高达700W2024年最新发布的B2001000W。图40芯片形态演进图HGXH100p(0kX2018PFlopsAI算力(H1002.25倍、Atlas9006倍1.5TB(1.5万亿oes的数据。高、机柜形态向定制化演进,单机柜功耗逐渐增加至20~40kW来将逐步发展至40~60kW甚至更高。AIGPUGPU900PoD64、32GPU,最大功耗增长至kI机柜功率有望超过k20NVL7272B36GGPUCPUCPU表16华信智算中心典型设计案例典型案例1:中国电信天翼云安徽芜湖智算中心1、项目概况6912111110kV111110kV800P1200P按国标A2、机房资源分析780110kV50000kVA统和UPSUPS46RT(3用1备3、项目方案二层机房空调系统为冷冻水空调系统,空调末端采用房间容量为5000kVA,暂时无法扩容,故本项目不改变原设计中机房总显冷量和市电容量。12kW/UPSPDU四层液冷智算机房新建板式液冷机柜的单机柜功耗为48kW30(CDU四层液冷智算机房隔壁模块机房改造为液冷设备间,新增ITUPS2N630A11U4、项目亮点(1)本项目智算芯片终局规划同时采用风冷、液冷2种制冷形式,可满足后续扩容工程不同智算生态厂家设备的机房安装需求。(2)本期屋面新建冷却塔采用钢结构架空,相比传统的混凝土(1)本项目智算芯片终局规划同时采用风冷、液冷2种制冷形式,可满足后续扩容工程不同智算生态厂家设备的机房安装需求。(2)本期屋面新建冷却塔采用钢结构架空,相比传统的混凝土结构,钢结构重量较轻,施工工期较短,抗震性能较好。同时,钢材作为一种可回收材料,更能彰显本项目绿色智算中心的特点。PUEIT技术选型下表为典型的国内外服务器及芯片的关键参数:表17国内外主流CPU/GPU服务器对比表型号类型芯片性能服务器容量制冷选型序号类型厂商GPU型号单芯片算力内存带宽单台功率单台空间风冷液冷1国产华为8*Atlas300IA270TOPS(INT8)32GBHBM800GB/s4U✔推理为主35TFLOPS(FP16)28*Atlas300IPro140TOPS(INT8)24GBHBM204.8GB/s4U✔推理为主70TFLOPS(FP16)38*Ascend910512TOPS(INT8)512GBHBM6.4TB/s5.3kW4U✔✔训练为主256TFLOPS(FP16)4海光8*K100200TOPS(INT8)64GBGDDR6✔✔训练为主100TFLOPS(FP16)58*K100_AI400TOPS(INT8)64GBGDDR65.5kW4U✔✔训练为主196TFLOPS(FP16)6寒武纪8*MLU370-X4256TOPS(INT8)24GBHBM307.2GB/s2.2kW4U✔推理为主24TFLOPS(FP32)78*MLU370-X8256TOPS(INT8)48GBHBM614.4GB/s3.5kW4U✔训练为主24TFLOPS(FP32)84*MLU290-M5512TOPS(INT8)32GBHBM1228GB/s4U✔训练为主64TOPS(CINT32)98*MLU590136.8TOPS(INT8)16GBHBM2E128GB/s7.2kW✔✔训练为主17.1TOPS(FP32)10进口英伟达8*HGXB2004500TFLOPS(INT8)1536GB14.4TB/s14kW✔推理为主2250TFLOPS(FP16)118*H100【SXM】3958TOPS(INT8)990TFLOPS(FP16)80GBHBM【SXM3TB/s【Pcle2TB/s10.5kW✔私改推理为主【PCie】3200TOPS(INT8)800TFLOPS(FP16)128*H800【SXM】3958TOPS(INT8)990TFLOPS(FP16)80GBHBM【SXM】3.35TB/s【Pcle】2TB/s10.5kW✔私改训练为主【PCie】3026TOPS(INT8)757TFLOPS(FP16)138*H20296TFLOPS(INT8)96GBHBM4.0TB/s8kW✔训练为主148TFLOPS(FP16)148*L20PCie239TFLOPS(INT8)48 GDDR6withECC864GB/s✔推理为主119.5TFLOPS(FP16)158*A100【SXM】624TOPS(INT8)80GBHBM2e【SXM】2039GB/s6.3kW✔✔训练为主312TFLOPS(FP16)【Pcle】1935GB/s【PCle】624TOPS(INT8)312TFLOPS(FP16)168*A8001248TOPS(INT8)80GBHBM2039GB/s6.3kW4U✔✔推理为主19.5T(FP32)178*A40299.3|598.6TOPS(INT8)48 GDDR6withECC696GB/s✔训练为主149.7|299.4TFLOPS(FP16)188*A30330|661TOPS(INT8)24GBHBM2933GB/s✔训练为主165|330TFTFLOPS(FP16)198*A10250|500TOPS(INT8)24GBGDDR6600GB/s✔推理为主125|250TFTFLOPS(FP16)注:厂商未全面罗列,表中相关数值仅供参考,具体以各厂商最新测试数据为准。Atlas300IA2Atlas300IPro较低的价格;劣势是适用场景有一定限制,训练性能相对较低。而Ascend910MLU370-X8和MLU370-X4MLU290-M5K100T100A100英伟达相关系列芯片整体表现优异,但在液冷支持上存在短板,后期改造可能存在成本、残次(残次率部分场景达到20%以上,需关注)等问题。此外,上表中未列出的一些其他芯片厂商,典型包括摩尔线程、壁任科技等,在渲染场景的表现也不俗。(三) 智算中心建设成本分析同等算力需求不同建设形态下的关键指标对比分析测算背景(0(3800015A800显卡,单卡0fp(U服务器插8冷板式12kW24kW(24KW。测算思路IT中IT图41建设成本测算要素ITIT图42建设成本测算逻辑本次测算要充分不同场景下投资差异对比分析:数据中心与智算中心对比:ITA100改造与新建智算中心对比:在基础设施侧与网络安全方面存在较风冷与液冷制冷方案对比:在基础设施侧与IT侧均存在较大差异,其中基础设施侧,液冷建设面积缩小,土建总体造价相应降低,机电配套单位成本受制冷方式影响有较大上升;IT侧需配定制化服务器,投资成本相应较大上浮。测算结果1、能耗节约(能耗密度大:智算中心功率为数据中心的2、容量减小(算力密度大:智算中心面积为数据中心的1,新建智算中心则相对更小。3、单位面积的投资密度大、基础设施投资大幅降低:IT4、液冷智算中心投资更大、面积更小:相较于风冷,液冷投资增加约18,改造场景下面积缩小约18,新建场景下面积更小,缩小约30。表18 300P(FP32)同等算力情况下序号指标名称数据中心估算改造智算新建智算一IT总功率(kW)324001040012656二总建设面积(㎡)558001964516875配套:机房侧1:23/2:13/2:1三总投资(万元)902005324582337678四单KW投资(万元)273126单位面积投资(万元)162020(一)基础设施侧投资(万元)927004184439379(二)IT侧投资(万元)809305282738298299表19新建数据中心测算表序号指标名称估算结果投资占比一IT总功率(kW)32400/二总建设面积(㎡)55800/三总

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论